Hans Journal of Wireless Communications
Vol.07 No.06(2017), Article ID:23866,8 pages
10.12677/HJWC.2017.76022

Study on Water Quality Parameter Detection Based on Big Data System

Xiufeng Zhang, Qiang Ding, Chunyang Hao

College of Electromechanical Engineering, Dalian Minzu University, Dalian Liaoning

Received: Feb. 8th, 2018; accepted: Feb. 20rd, 2018; published: Feb. 27th, 2018

ABSTRACT

Based on the analysis of the current situation of water pollution and its control, according to the actual needs of the site, the whole scheme of water quality parameter detection system based on large data is proposed. The detection module with sealing and wireless communication function is proposed, using sensor technology and microprocessor technology. The paper uses swarm intelligence optimization algorithm to build the wireless networks, and optimize the network node localization. The experimental results show that the system has the characteristics of fast speed, strong data processing and analysis ability, and reliable performance. It provides a feasible technical scheme for water environment monitoring and early warning by analyzing the design idea and method of water quality parameter detection system under large data mode.

Keywords:Water Quality Parameter, Detection Device, Wireless Communication, Large Data

大数据模式下水质参数检测方法的研究

张秀峰,丁强,郝春洋

大连民族大学,机电工程学院,辽宁 大连

收稿日期:2018年2月8日;录用日期:2018年2月20日;发布日期:2018年2月27日

摘 要

在分析了当前水污染及其治理现状的基础上,根据水质参数检测现场的实际需求,提出了基于大数据的水质参数检测系统整体方案。利用传感器技术、微处理器技术开发了具有密封和无线通信功能的检测模块,构建无线网络,利用群体智能优化算法实现网络节点定位优化,并进行了实验测试。结果表明系统具有速度快、数据处理及分析能力强、性能可靠的特点。提出大数据模式下水质参数检测系统的设计思路及方法,为水环境监测和预警提供了可行的技术方案。

关键词 :水质参数,检测模块,无线通信,大数据

Copyright © 2017 by authors and Hans Publishers Inc.

This work is licensed under the Creative Commons Attribution International License (CC BY).

http://creativecommons.org/licenses/by/4.0/

1. 引言

水质检测是水资源环境管理与保护的重要基础,是保护水环境的重要手段 [1] 。近年来,随着水产养殖规模化、集约化程度的不断提高,养殖种类的增多和养殖密度的增加,养殖水域水质环境日趋恶化,病害发生率越来越高,由此引发的水产品质量安全问题也日益突出 [2] [3] 。传统的水质检测采用仪表结合人工经验操作的方法,存在耗时费力、检测范围小、检测周期长,不能实时反映水环境的动态变化等弊端。采用串行总线、现场总线的水质自动检测系统却需要铺设大量的电缆线,布线困难、施工难度大,且线路易受破坏和腐蚀、维护成本高、检测范围有限 [4] 。

无线传感器网络具有智能化程度高、信息时效强、覆盖区域广、支持多路传感器数据同步采集、可扩展性好等特点 [5] ,将其应用于水质环境监测领域有着广阔的应用前景。当前无线水质检测系统大多数使用自动检测仪进行,确定无线网络节点位置,构建无线检测网络,实现网络化水质检测系统。目前,大数据时代已到来,大数据已经介入到各行各业,数据资源已成为未来的重要财富,将大数据应用于水环境监测领域,构建数据平台,势在必行 [6] 。

本文以水体溶氧量、pH值、电导率和温度为检测参数,设计了水质检测模块,构建了无线水质检测系统,实现了整个检测过程的无线化。提出大数据模式下水质参数检测系统的设计思路及方法,为水环境监测和预警提供了可行的技术方案。

2. 系统的原理与结构设计

从环境监测角度,水质检测主要包括水温、pH值、浊度、溶氧量和电导率五个主要参数。利用水质检测传感器实时检测水质参数,对数据进行处理、分析并存储,通过本地串口总线传输给无线通信模块,并启动数据发送。监控中心的无线通信模块接收到数据后,通过串口传输给上位机,上位机对水质检测模块的位置和参数进行存储并进行分析,得到相关的位置和水质参数,通过监测界面进行显示并录入水质参数数据库。监控中心通过以太网将数据传送至网络服务器中,进行大数据处理。

无线水质检测系统由水质检测模块、无线通信模块和监控中心组成,水质检测模块和监控中心通过无线通信模块进行数据传输,检测系统总体结构如图1所示。水质检测模块有传感器组、微处理器、接口单元、无线通信模块和电源模块组成;监控中心由无线通信模块和上位机组成,监控中心通过以太网与网络服务器链接。

3. 水质检测模块设计

水质检测模块需要在水面甚至水下工作,对所在位置的水质参数进行实时检测。传统的水质检测装

置通常利用水上架构,检测模块固定在水面以上的支撑结构上,只有传感器探头与被测水面接触,并通过总线与模块相连接,这样大大降低了检测装置的灵活性,使其应用受到极大的限制,支撑结构的架设也非常困难。

本文设计的检测模块采用密封盒结构,利用双侧浮力瓶使密封盒直接在水面漂浮,并能够在一定的范围内移动,省去了支撑架构的设计和安装,密封盒机构如图2所示。检测模块由传感器组、信号采集及处理单元、无线通信模块、接口单元、控制单元和电源模块组成,传感器探头伸出密封盒,与被测水面接触,其余部分被封装在密封盒内,模块结构如图3所示。

控制单元是水质检测模块的指挥中心,协调其他单元按统一的步调工作。水质检测参数信号检测单元包括温度、pH值、电导率和溶氧量参数检测传感器,控制单元启动水质参数信号检测,信号经处理单元处理后经接口单元传送至无线通信模块;控制器按设定的逻辑关系启动无线模块发送数据,在无线网络系统中,经过一系列中间节点,将数据传送至监控中心。监控中心对数据检测点位置及水质参数进行分析和处理,在上位机中进行显示;通过本地网关将水质参数数据上传至以太网,组成水质参数大数据,

Figure 1. Schematic diagram of water quality detection system

图1. 水质检测系统结构图

Figure 2. Schematic diagram of sealed box

图2. 密封盒结构图

Figure 3. Schematic diagram of parameter detection

图3. 参数检测模块结构图

进一步分析,为水质总体评估提供可靠的依据。利用无线通信技术构建水质参数检测网络,可以进一步开发水质参数监测站。

4. 无线检测网络的设计与构建

4.1. 算法原理

在无线检测网络系统中,传感器节点定位方法是系统设计的关键技术之一,是节点间路由算法设计、拓扑管理、覆盖控制等技术的重要基础,其热点研究问题是无线传感器节点精度的提高 [7] 。典型的定位算法有距离无关算法和基于距离的定位算法,距离无关算法无需相关的硬件配置,只根据网络连通性实现定位,具有抗干扰能力强、硬件成本低的优点,所以被广泛采用 [8] 。在群体智能优化算法中,布谷鸟搜索算法(CS)作为一种新兴的仿生群体智能算法,具有简单、参数少、易于实现等优点,而且能高效的平衡算法的局部搜索和全局搜索 [9] ,这为优化无线传感器网络的定位性能提供了一种新的研究思路。

通过布谷鸟搜索算法节点定位模型的建立和目标函数的分析,将节点定位问题转化为一个常见的数学多维约束优化问题,引入全局和局部搜索能力强的布谷鸟搜索算法对节点位置进行估算与校正。

在传感器节点定位的过程中,未知节点(自身位置不确定的节点)通过一定的通信方式获取锚节点(已知自身位置信息的节点)的位置信息,以该信息作为参考,并根据某种算法确定自身位置信息。未知节点获取三个以上的锚节点信息时,利用自身到锚节点的距离,建立距离线性方程组如式(1),根据最小二乘原理使随机误差向量达到最小值,进一步估算自身的位置,具体模型建立过程详见文献 [9] 。

{ d 1 = ( x x 1 ) 2 + ( y y 1 ) 2 d 2 = ( x x 2 ) 2 + ( y y 2 ) 2 d n = ( x x n ) 2 + ( y y n ) 2 (1)

为了减小测距误差对定位精度的影响,进一步改善系统性能,将最小二乘原理转换为数学约束优化问题。建立未知节点与各锚节点间的距离误差函数组,确定目标函数如式(2),误差方程组为求解目标函数的一个可行解空间,最优解包含在该空间内,只需在该空间内寻找最优解。利用布谷鸟搜索算法结合莱维飞行机制模拟布谷鸟寻巢产蛋方式,实现基于全局误差函数的节点位置最优化算法。

f ( x , y ) = i = 1 m ( ( x x i ) 2 + ( y y i ) 2 d i ) (2)

4.2. 节点定位步骤

以布谷鸟搜索算法为依据,无线传感器节点定位方法的具体步骤如下:

① 初始化:随机确定各参数的初始值,m-鸟巢的数量,Pi-产卵被发现的概率,E-搜索精度,n-循环次数;鸟巢的初始位置-无线传感器锚节点的坐标。

② 根据初始化鸟巢的位置,采用莱维飞行方式搜索,利用更新公式进行计算,产生新一代鸟巢的位置。

③ 分别计算更新前后鸟巢的适应值,并进行比较,保留较优的适应值对应的鸟巢的位置,作为当前种群中的最优位置。

④ 若循环次数到限后,鸟巢适应值和搜索精度没有达到,则放弃本次搜索,产生新一代鸟巢位置,返回步骤3,继续搜索。

⑤ 存储最优解,满足条件,搜索结束。

无线传感器节点定位,利用MATLAB仿真软件构建仿真系统,设定200 ´ 200 m的二维区域,分布一定数量的锚节点和未知节点,锚节点的位置为已知,位置节点域锚节点之间的距离通过无线测距装置测定,并输入到仿真系统。按照4.2节的实验步骤,计算获得未知节点的位置坐标,重复计算50次后,取平均值,作为待测未知节点的位置坐标。确定各无线节点位置后,构建水质参数检测无线网络。

为了验证布谷鸟搜索定位算法的性能,以锚节点比例对传感器节点定位误差的影响及定位速度作为衡量指标,与最小二乘算法(LS)和人工蜂群算法(ABC)进行对比,各项性能指标均优于以上两种算分。传感器节点定位误差如图4所示,定位速度对比如图5所示。

Figure 4. Comparison of location error of sensor nodes

图4. 传感器节点定位误差对比

Figure 5. Comparison of location speed of nodes

图5. 节点定位速度对比

5. 大数据技术及应用

5.1. 理论基础

大数据近年来受到广泛的关注,是指通过对大量的、种类和来源复杂的数据进行高速地捕捉、发现和分析,用经济的方法提取其价值的技术体系或技术架构。所以,广义上讲,大数据不仅是指大数据所涉及的数据,还包含了对这些数据进行处理和分析的理论、方法和技术 [6] 。

大数据早期主要应用于商业、金融等领域,后逐渐扩展到交通、医疗、能源等领域,环境监测被看作是大数据应用的重要技术领域之一,水环境监测是其发展的主要分支 [10] 。一方面,水环境监测是关系民生的大问题,运用大数据技术服务于水环境公共治理,既是大数据时代发展的选择,也是技术发展与新型社会的需求,更是未来建设数字化智慧城市的基础。另一方面,水环境参数数据的利用价值巨大,不仅可将环境水参数自身的监测、管理水平提升到新的高度,甚至产生根本性的变革,而且可为管理部门、产业界和广大用户提供更多更好的服务,形成新的环境大数据体系,建构以大数据为核心的新环境治理状态 [11] 。

由于数据规模大,数据处理时效性高,传统的数据处理技术无法满足技术要求或经济要求;因数据类型多样,包含半结构化、非结构化数据以及空间矢量数据等,传统的处理技术不能满足要求。水环境参数监测大数据研究方法与环境监测传统的基于数据计算分析的方法相比,在解决问题的方法和研究过程方面都有很大不同,具体表现为:传统方法通常基于抽样数据,而大数据方法则采用尽可能多的数据;传统的水质参数数据分析通常基于某个部门或某个专业的数据,水环境监测大数据分析则是在实现跨专业、跨部门数据融合基础上进行多维度数据分析。

5.2. 研究方法

水质参数检测大数据的研究过程包括科学假设、数据获取、数据挖掘和分析、实验结果分析和科学假设的证实、证伪或新知识、新规律的发现等几个主要步骤。

① 科学假设

相关领域的专家根据水质监测及保护的知识,同时兼顾大数据分析存在着超越先验知识的可能性,提出科学假设,设计应用场景,提出需要的数据源和数据量。

② 数据获取

数据获取包括数据采集、数据预处理和数据传输。首先从特定数据生产环境获得原始数据的,数据采集完成后,去除一些无意义的数据并消除冗余,利用高速的数据传输机制将数据传输到合适的存储系统。

③ 数据存储

数据存储系统一般包括硬件基础设施和数据管理软件两部份。硬件基础设施能够向上和向外扩展, 并能进行动态重配置以适应不同类型的应用环境;数据管理软件于维护大规模数据集,存储系统应提具有功能接口、快速查询和其他编程模型。

④ 数据挖掘与分析

领域专家、数据分析专家和计算机专家一起,根据需要解决的问题,研究需要的数学挖掘与分析方法,包括常规的数学挖掘与分析方法,以及领域专用的数学计算分析方法。

⑤ 数据结果分析

领域专家对数据挖掘和分析结果进行专业分析,解释分析结果的内在原因。对科学实验结果进行分析论证,科学假设得到证实、证伪或新知识和规律的发现。

5.3. 发展的驱动力

① 中国共产党十九大报告指出:“绿水青山就是金山银山”,把环境治理放在了非常重要的战略地位,水环境的监测及改善势在必行。

② 我国水资源辽阔,覆盖面积大,水环境的监测和运维涉及到大量复杂的数据,通过数据分析,可提高资源的利用率和设备管理水平,存在着巨大经济效益。

③ 对水环境的监测和预警能建设社会,优化基本公共服务,将大数据的实时、精准、高效率充分融入到环境公共服务建设中来,提升环境公共服务的整体水平,提升地方政府的决策能力。

④ 运用大数据技术与算法对水环境监测点进行过程中实时监测,分析实际的环境问题,并对严重污染下的水环境进行监测和预警,通过协同处理提升水环境监测与预警的处理能力,提高公共服务的质量。

⑤ 通过大数据分析,可探索新的商业模式,促进水资源的合理开发和利用。

5.4. 面临的挑战

① 行业认同

在环境监测领域,尤其是水环境监测领域的专业人员对大数据的基本概念、理论和应用的认识不足,甚至存在着一定程度的怀疑,需要有令人信服的结果才能得到普遍认同。

② 技术挑战

大数据超出了现有硬件和软件平台的处理能力,新的硬件和软件平台反过来要求新的基础设施和编程模型解决大数据带来的挑战。主要包括数据表示、冗余缩减和数据压缩、数据生存周期管理、数据隐私和安全、近似分析以及深度分析等。

② 资金及效益

水环境监测大数据研发需要大量的投入,而领域中大数据应用获得的效益尚不明确,需要建立大数据应用的资金回收模型和评价方法,才能刺激资金的持续投入。

④ 管理理念冲突

大数据的在管理上的创新,主要体现在技术方法和运算工具能够为环境公共服务提供关于信息收集、实时监测过程、环境预警决策等方面的重要支持,同时也能为政府在环境公共服务上的政策制定和治理模式带来新的管理方式变革。因此,学会将大数据的新管理理念和新方法应用于环境公共治理中,将对传统的管理理念产生巨大的冲击。

⑤ 数据安全问题

各个领域及各行各业都有自己的行业标准和技术秘密,在水环境检测领域的个别数据不能公开使用,有些数据涉及到安全问题,需在有限范围内使用,隐私保护和安全是大数据应用首先需要解决的问题。

6. 结语

本文研究了大数据模式下,水环境监测及预警系统;研制的无线水质参数检测系统具有集信号采集、数据实时处理及显示的功能,设计并构建无线通信节点,组建无线通信网络,通过中央管理单元实现水质参数数据的集中采集、分析和管理。利用传感器技术、微处理器控制技术和无线通信技术开发具有密封和通信功能的水质检测模块,模块具有精度高、实时处理、重量轻、操作简单、防水等特点。采用智能群体算法实现传感器节点的优化,构建无线网络监测系统,提出水质监测大数据平台的构建方案。

该系统解决了目前水质参数检测设备体积较大、防水性能差、数据精度低及分析处理能力差等缺点,通过详细分析水质检测的实际需求,运用新型检测技术,开发本系统,通过实验测试表明,该系统具有检测精度好、数据处理及分析能力强和性能可靠等特点,具有极强的实际运用价值。提出大数据模式下水质参数检测系统的设计思路及方法,为水环境监测和预警提供了可行的技术方案。

基金项目

中央高校基本科研业务费专项资金资助项目(DC201502010406)。

文章引用

张秀峰,丁 强,郝春洋. 大数据模式下水质参数检测方法的研究
Study on Water Quality Parameter Detection Based on Big Data System[J]. 无线通信, 2017, 07(06): 179-186. http://dx.doi.org/10.12677/HJWC.2017.76022

参考文献 (References)

  1. 1. 岳超, 宛西原, 何航, 等. 基于电化学检测方法的水质检测系统设计研究[J]. 自动化与仪器仪表, 2015(1): 4-7.

  2. 2. 张明阳. 无线传感器网络在水质监测中的应用研究[D]: [硕士学位论文]. 合肥: 合肥工业大学, 2013. 张龙. 小型移动在线水质监测系统的研究[D]: [硕士学位论文]. 杭州: 浙江大学, 2012.

  3. 3. 韩孝贞, 温志渝, 谢瑛珂, 等. 多参数水质检测仪控制与信号处理系统软件设计[J]. 仪表技术与传感器, 2014(8): 20-24.

  4. 4. 索猛, 罗益民. 基于STM32的循环水在线监测系统设计[J]. 仪表技术与传感器, 2014(12): 78-83.

  5. 5. Beshay, J.D., Subramani, K.S. and Mahabeleshwar, N. (2016) Wireless Networking Testbed and Emulator (WiNeTestEr). Computer Communications, 73, 99-107. https://doi.org/10.1016/j.comcom.2015.08.007

  6. 6. 王旭, 张曦煌. 基于布谷鸟搜索算法的无线传感器网络改进路由协议[J]. 传感器与微系统, 2016, 35(7): 45-47.

  7. 7. Tripathy, A.K., Chinar, S. and Sarkar, M. (2016) An Application of Wireless Brain-Computer Interface for Drowsiness Detection. Biocybernetics and Biomedical Engineering, 36, 276-284. https://doi.org/10.1016/j.bbe.2015.08.001

  8. 8. 肖晓丽, 李旦江, 谭柳斌. 基于布谷鸟搜索算法的无线传感器网络节点定位[J]. 计算机工程与应用, 2015, 35(7): 45-47.

  9. 9. 甘玫玉. 基于大数据的环境监测与治理研究[D]: [硕士学位论文]. 南宁: 广西大学, 2017.

  10. 10. 梁吉业, 冯晨娇, 宋鹏. 大数据相关分析综述[J]. 计算机学报, 2016, 39(1): 1-18.

  11. 11. 李学龙, 龚海刚. 大数据系统综述[J]. 中国科学, 2015, 45(1): 1-44.

期刊菜单