吴功宜-物联网工程导论第8章 物联网数据处理技术

1吴功宜吴英编著《物联网工程导论》第8章

物联网数据处理技术2第

8章知识点结构38.1物联网数据处理技术的基本概念

8.1.1物联网数据的特点海量物联网节点的数量是非常多的，它们所产生的数据量一定是海量多态多种传感器去观测的不同数据在数值范围、格式、单位与精度动态各种数据都将随时间不断变化的关联物联网中的数据之间在空间、时间维度上存在着紧密的关联性4VigilNet网络拓扑与数据处理研究的示意图58.1.2物联网数据处理关键技术海量数据存储数据融合数据查询、搜索与数据挖掘智能决策6海量数据存储物联网数据具有海量、多态、动态与关联的特征海量数据的存储结构影响着物联网系统的可靠性与效率如何利用数据中心与云计算平台存储物联网的海量数据，如何充分地利用好物联网信息，同时又要实现对隐私的保护，这是物联网数据处理技术首先要面对的一个重要问题7无线传感器网络数据存储结构示意图8数据融合20世纪70年代“数据融合（DataFusion）”术语才正式出现针对物联网数据的多态性，需要研究基于多种传感器的数据聚合技术，综合分析各种传感器的数据，从中提取有用的信息数据融合已经发展成数据处理一个新的和重要的分支在物联网中智能交通、工业控制、环境监控、精准农业、突发事件处置、智慧城市、智能电网等物联网应用系统中，必然会应用多种传感器去综合感知多种物理世界的信息，从中提取对于我们智慧处理物理世界问题有用的信息和知识数据融合技术是物联网数据处理研究的重要内容之一9

数据查询、搜索与数据挖掘物联网环境中感知数据具有实时性、周期性与不确定性等特点物联网环境中，由于各种感知手段获取的信息与传统的互联网信息共存，搜索引擎需要与各种智能的和非智能的物理对象密切结合，主动识别物理对象，获取有用的信息，这对于传统的搜索引擎技术是一个挑战数据挖掘是物联网数据处理中一个重要的方法10智能决策发展物联网的最终目标不是简单地将物与物互联，而是要催生很多具有“计算、通信、控制、协同和自治”特征的智能设备与系统，实现实时感知、动态控制和智能服务智能决策是物联网信息处理技术中追求的最重要的目标118.2海量数据存储技术

8.2.1物联网对海量数据存储的需求物联网的海量数据除了来自传感器节点、RFID节点以及其他各种智能终端设备每时每刻所产生的数据之外，各种物理对象在参与物联网事务处理的过程中也会产生大量的数据物联网的海量数据的存储需要数据库、数据仓库、网络存储、数据中心与云存储技术的支持128.2.2数据库技术数据库技术是计算机科学技术中发展最快、应用最广泛的领域之一。数据库技术经过几十年的发展，其应用已遍及各个领域，成为21世纪信息化社会的核心技术之一物联网的数据存储与管理需要使用数据库技术，物联网的海量数据存储与管理也会促进数据库技术的发展数据库管理系统可分为层次数据库、网状数据库、关系数据库以及面向对象数据库随着数据库技术的发展，数据库用户界面变得更加简单，功能更加强大和更加智能，未来的数据库技术必然会与人工智能技术相互交叉融合138.2.3物联网数据管理技术关系数据库为物联网海量数据的管理提供了重要的理论、工具与方法物联网中有两大类重要的应用，一是基于RFID标签自动识别技术的应用，另一类是基于无线传感器网络的应用设计一个基于RFID标签自动识别技术的零售业或物流业应用时，对于由RFID所产生的数据的管理与处理方法与传统的互联网应用有很多相似之处基于无线传感器网络的物联网应用有它的特殊性，需要研究针对无线传感器网络的数据管理与处理方法14无线传感器网络数据管理系统结构无线传感器网络数据管理系统结构主要有：集中式结构半分布式结构分布式结构层次式结构无线传感器网络数据管理系统层次结构15TinyDB系统的结构1617

TinyDB关系表结构8.3物联网海量数据存储与云计算*

8.3.1数据存储技术的研究与发展存储技术的研究与发展数据存储技术从单机封闭系统存储向开放系统的存储方向发展开放系统的存储进一步分为：

—直接附加存储（DAS）

—网络接入存储（NAS）

—存储区域网络（SAN）18服务器技术的发展各种类型的服务器与机房中的服务器19典型的机架式服务器20刀片服务器218.3.2IDC的基本概念随着互联网应用规模的不断扩大，大规模的在线网络服务促进了“互联网数据中心（IDC）”的出现随着业务的扩展，一些企业网、校园网、政务网、商务网也在考虑建设自己的数据中心（DataCenter）数据中心的成本是由4部分组成：服务器成本、网络设备成本、基础设施成本与能源成本在推动物联网应用发展的同时，必须研究适合即能够快速部署物联网应用，存储海量数据，又能够节省资金与日常维护费用，符合环保节能的原则的数据中心技术数据中心的概念正在经历了从中小型企业网、校园网中的计算与存储数据的数据中心，向云计算平台的发展的趋势228.3.3云计算的基本概念云计算的特点弹性服务资源池化按需服务服务可计费泛在接入云计算数据中心特点自治性规模经济规模可扩展238.3.4云计算系统组成云计算系统组成：云平台云终端云存储云安全24公有云与私有云的概念公有云：第三方提供商为用户提供服务的云平台，用户可以把通过互联网访问作为一个支撑平台，可以通过提供免费或用很低费用的服务，去吸引大量的用户，整合上游的增值业务和广告服务，打造新的产业链目前公有云主要分为四类：

—由传统电信基础设施运营商组建的公有云

—政府主导下组建的各省市公有云

—大型互联网公司组建的公有云

—由IDC运营商组建的公有云25私有云：移动通信公司、银行、政府、公安、交通、电力、有线电视等部门与机构单独使用而组建这些部门与机构的数据存储量、处理量和安全性要求高，而私有云能够满足他们对数据仓储与处理，以及安全性和服务质量的要求私有云可部署在企业或部门数据中心的防火墙内，也可以将它们部署在一个安全的主机托管场所26IaaS、PaaS、SaaS的概念基础设施即服务IaaSIaaS平台向用户提供虚拟化的计算资源、存储资源与网络资源，根据用户需求进行动态分配和调整平台即服务PaaSPaaS平台向软件开发人员提供类似中间件的服务，包括数据库、数据处理与软件开发环境等软件即服务SaaSSaaS平台向最终用户提供定制的软件服务，用户不用通过安装软件副本，就可以通过网络使用软件27云终端云终端使用虚拟化技术，使得只要联入到互联网或物联网的终端设备都可以访问云计算平台云终端三种类型：

—基于程序资源远程执行的云终端

—基于WebOS云终端

—基于虚拟机的云终端28云存储计算与存储是计算机科学发展中两个密不可分的关键技术云计算概念包括计算与存储两个方面的内容云存储基于云平台，结合传统的大规模、可扩展的海量存储、计算机网络、数据网格、虚拟化、文件系统的概念与技术，面向大规模、高效、可扩展、可定制的应用系统的用户，提供安全、廉价、按需使用的专业化仓储服务用户不必关心云存储服务使用什么样的主机、数据库、存储设备，只需要根据自身应用系统数据存储的数据量、安全性要求，以定购的方式使用云存储服务提供商提供的