搜索
NankaiUniversity1吴功宜吴英编著《物联网工程导论》NankaiUniversity第8章物联网数据处理技术2NankaiUniversity第8章知识点结构3物联网数据处理技术基本概念物联网数据的特点物联网数据处理的关键技术物联网海量数据存储技术*IDC基本概念云计算基本概念物联网数据融合技术*数据仓库技术数据挖掘技术智能决策基本概念智能控制基本概念NankaiUniversity8.1物联网数据处理技术的基本概念8.1.1物联网数据的特点海量•物联网节点的数量是非常多的，它们所产生的数据量一定是海量多态•多种传感器去观测的不同数据在数值范围、格式、单位与精度动态•各种数据都将随时间不断变化的关联•物联网中的数据之间在空间、时间维度上存在着紧密的关联性4NankaiUniversity•VigilNet网络拓扑与数据处理研究的示意图5NankaiUniversity8.1.2物联网数据处理关键技术•海量数据存储•数据融合•数据查询、搜索与数据挖掘•智能决策6NankaiUniversity海量数据存储•物联网数据具有海量、多态、动态与关联的特征•海量数据的存储结构影响着物联网系统的可靠性与效率•如何利用数据中心与云计算平台存储物联网的海量数据，如何充分地利用好物联网信息，同时又要实现对隐私的保护，这是物联网数据处理技术首先要面对的一个重要问题7NankaiUniversity•无线传感器网络数据存储结构示意图8汇聚节点原始数据查询查询结果中继节点存储节点汇聚节点(a)分布式存储(b)集中式存储NankaiUniversity数据融合•20世纪70年代“数据融合（DataFusion）”术语才正式出现•针对物联网数据的多态性，需要研究基于多种传感器的数据聚合技术，综合分析各种传感器的数据，从中提取有用的信息•数据融合已经发展成数据处理一个新的和重要的分支•在物联网中智能交通、工业控制、环境监控、精准农业、突发事件处置、智慧城市、智能电网等物联网应用系统中，必然会应用多种传感器去综合感知多种物理世界的信息，从中提取对于我们智慧处理物理世界问题有用的信息和知识•数据融合技术是物联网数据处理研究的重要内容之一9NankaiUniversity数据查询、搜索与数据挖掘•物联网环境中感知数据具有实时性、周期性与不确定性等特点•物联网环境中，由于各种感知手段获取的信息与传统的互联网信息共存，搜索引擎需要与各种智能的和非智能的物理对象密切结合，主动识别物理对象，获取有用的信息，这对于传统的搜索引擎技术是一个挑战•数据挖掘是物联网数据处理中一个重要的方法10NankaiUniversity智能决策•发展物联网的最终目标不是简单地将物与物互联，而是要催生很多具有“计算、通信、控制、协同和自治”特征的智能设备与系统，实现实时感知、动态控制和智能服务•智能决策是物联网信息处理技术中追求的最重要的目标11NankaiUniversity8.2海量数据存储技术8.2.1物联网对海量数据存储的需求•物联网的海量数据除了来自传感器节点、RFID节点以及其他各种智能终端设备每时每刻所产生的数据之外，各种物理对象在参与物联网事务处理的过程中也会产生大量的数据•物联网的海量数据的存储需要数据库、数据仓库、网络存储、数据中心与云存储技术的支持12NankaiUniversity8.2.2数据库技术•数据库技术是计算机科学技术中发展最快、应用最广泛的领域之一。数据库技术经过几十年的发展，其应用已遍及各个领域，成为21世纪信息化社会的核心技术之一•物联网的数据存储与管理需要使用数据库技术，物联网的海量数据存储与管理也会促进数据库技术的发展•数据库管理系统可分为层次数据库、网状数据库、关系数据库以及面向对象数据库•随着数据库技术的发展，数据库用户界面变得更加简单，功能更加强大和更加智能，未来的数据库技术必然会与人工智能技术相互交叉融合13NankaiUniversity8.2.3物联网数据管理技术•关系数据库为物联网海量数据的管理提供了重要的理论、工具与方法•物联网中有两大类重要的应用，一是基于RFID标签自动识别技术的应用，另一类是基于无线传感器网络的应用•设计一个基于RFID标签自动识别技术的零售业或物流业应用时，对于由RFID所产生的数据的管理与处理方法与传统的互联网应用有很多相似之处•基于无线传感器网络的物联网应用有它的特殊性，需要研究针对无线传感器网络的数据管理与处理方法14NankaiUniversity无线传感器网络数据管理系统结构无线传感器网络数据管理系统结构主要有：•集中式结构•半分布式结构•分布式结构•层次式结构无线传感器网络数据管理系统层次结构15代理网络无线传感器网络NankaiUniversity•TinyDB系统的结构16TinyDB客户端APITinyDB服务器查询查询结果数据传感器网络数据库NankaiUniversity17•TinyDB关系表结构传感器号查询周期时间水平加速度垂直加速度水平磁感应垂直磁感应噪声音调原始声音温度光强湿度2003-05-012003-05-012003-05-012003-05-022003-05-02……11122……12312……562475491586512……388233256155257……235543455654454……432655345342566……886567654432323……7665427761……145331456470423……422655211118135……0.20.50.30.50.7……522256654422656……NankaiUniversity8.3物联网海量数据存储与云计算*8.3.1数据存储技术的研究与发展存储技术的研究与发展•数据存储技术从单机封闭系统存储向开放系统的存储方向发展•开放系统的存储进一步分为：—直接附加存储（DAS）—网络接入存储（NAS）—存储区域网络（SAN）18NankaiUniversity服务器技术的发展•各种类型的服务器与机房中的服务器19NankaiUniversity•典型的机架式服务器20NankaiUniversity•刀片服务器21NankaiUniversity8.3.2IDC的基本概念•随着互联网应用规模的不断扩大，大规模的在线网络服务促进了“互联网数据中心（IDC）”的出现•随着业务的扩展，一些企业网、校园网、政务网、商务网也在考虑建设自己的数据中心（DataCenter）•数据中心的成本是由4部分组成：服务器成本、网络设备成本、基础设施成本与能源成本•在推动物联网应用发展的同时，必须研究适合即能够快速部署物联网应用，存储海量数据，又能够节省资金与日常维护费用，符合环保节能的原则的数据中心技术•数据中心的概念正在经历了从中小型企业网、校园网中的计算与存储数据的数据中心，向云计算平台的发展的趋势22NankaiUniversity8.3.3云计算的基本概念云计算的特点•弹性服务•资源池化•按需服务•服务可计费•泛在接入云计算数据中心特点•自治性•规模经济•规模可扩展23NankaiUniversity8.3.4云计算系统组成云计算系统组成：•云平台•云终端•云存储•云安全24云平台云终端云安全云存储云计算NankaiUniversity公有云与私有云的概念公有云：•第三方提供商为用户提供服务的云平台，用户可以把通过互联网访问•作为一个支撑平台，可以通过提供免费或用很低费用的服务，去吸引大量的用户，整合上游的增值业务和广告服务，打造新的产业链•目前公有云主要分为四类：—由传统电信基础设施运营商组建的公有云—政府主导下组建的各省市公有云—大型互联网公司组建的公有云—由IDC运营商组建的公有云25NankaiUniversity私有云：•移动通信公司、银行、政府、公安、交通、电力、有线电视等部门与机构单独使用而组建•这些部门与机构的数据存储量、处理量和安全性要求高，而私有云能够满足他们对数据仓储与处理，以及安全性和服务质量的要求•私有云可部署在企业或部门数据中心的防火墙内，也可以将它们部署在一个安全的主机托管场所26NankaiUniversityIaaS、PaaS、SaaS的概念基础设施即服务IaaS•IaaS平台向用户提供虚拟化的计算资源、存储资源与网络资源，根据用户需求进行动态分配和调整平台即服务PaaS•PaaS平台向软件开发人员提供类似中间件的服务，包括数据库、数据处理与软件开发环境等软件即服务SaaS•SaaS平台向最终用户提供定制的软件服务，用户不用通过安装软件副本，就可以通过网络使用软件27NankaiUniversity云终端•云终端使用虚拟化技术，使得只要联入到互联网或物联网的终端设备都可以访问云计算平台•云终端三种类型：—基于程序资源远程执行的云终端—基于WebOS云终端—基于虚拟机的云终端28NankaiUniversity云存储•计算与存储是计算机科学发展中两个密不可分的关键技术•云计算概念包括计算与存储两个方面的内容•云存储基于云平台，结合传统的大规模、可扩展的海量存储、计算机网络、数据网格、虚拟化、文件系统的概念与技术，面向大规模、高效、可扩展、可定制的应用系统的用户，提供安全、廉价、按需使用的专业化仓储服务•用户不必关心云存储服务使用什么样的主机、数据库、存储设备，只需要根据自身应用系统数据存储的数据量、安全性要求，以定购的方式使用云存储服务提供商提供的存储资源29NankaiUniversity云安全•云安全提供可靠、可信的云环境，以保护用户数据的安全•能不能够保证用户使用的安全性是制约云计算应用能否发展的主要因素•目前云安全研究：—云计算的安全控制—云计算的可信执行环境—虚拟机的安全监控—云计算服务访问的通信安全—云计算安全评估方法30NankaiUniversity8.3.5云计算在物联网中的应用物联网数据中心的特征：•部署快捷•运行可靠•可扩展•安全•节能31NankaiUniversity•应用于物联网的云计算系统结构模型32NankaiUniversity•物联网数据中心的设计33NankaiUniversity8.4物联网数据融合技术*8.4.1无线传感器网络数据融合技术•无线传感器网络的基本功能是收集并返回传感器节点所在监测区域的信息•传感器节点受到能量与易失效性的约束•因此减少数据传输量以有效地节省能量，利用节点的本地计算和存储能力处理数据的融合以除去冗余信息•通过数据融合达到数据备份与提高信息准确性，已经成为无线传感器网络研究的一个重要课题34NankaiUniversity8.4.2数据融合的分类根据数据进行融合操作前后的信息含量的分类•无损失融合•有损失融合根据数据融合与应用层数据语义之间关系的分类•依赖于应用的数据融合（ADDA）•独立于应用的数据融合（AIDA）•两种技术结合的数据融合35应用层传输层网络层网络接入层简化的参考模型应用层传输层网络层网络接入层ADDA协议结构应用层传输层网络层网络接入层应用层网络层网络接入层AIDA协议结构ADDA与AIDA结合的协议结构AIDA协议层AIDA协议层传输层NankaiUniversity根据融合操作级别的分类:•数据级融合•特征级融合•决策级融合36NankaiUniversity•数据融合技术类型37数据融合的分类依据融合前后数据的信息含量分类无损失融合有损失融合根据数据融合与应用层数据语义之间关系的分类依赖于应用的数据融合独立于应用的数据融合两种技术相结合的数据融合根据融合操作级别的分类数据级融合特征级融合决策级融合NankaiUniversity8.5物联网中的智能决策8.5.1数据挖掘的基本概念•数据挖掘是在大型数据库中发现、提取隐藏的预言性知识的方法•使用统计方法和人工智能方法去找出普通数据查询中所忽视的数据隐含的趋势性的信息•有效地利用物联网的海量数据已经成为物联网应用的关键，而数据挖掘技术对于物联网实现智能处理至关重要38NankaiUniversity8.5.2数据挖掘