视频监控大数据的关键技术和应用

1、视频监控大数据的关键技术和应用Document serial number【KKGB-LBS98YT-BS8CB-BSUT-BST108】视频监控大数据的关键技术和应用随着全国各地平安城市、行业安防等项目的大规模建设，视频监控在安防领域中发 挥着越来越重要的作用，成为技术防范的最有力手段。而在新的技术条件和应用需求的 推动下，视频监控将迎来系统融合和大数据的新时代，其产生的数据将会迅速地增长， 如何从这些数据中获得有效的信息和服务，是我们必须要面对的重要问题。笔者认为， 大数据处理技术的应用，将成为下一代视频监控的发展关键。视频监控的大数据趋势视频监控从最早的模拟闭路监控系统开始，经历过模拟监

2、控、数字监控、网络监控 等重要发展阶段，如今进入了大数据的时代，并面临着一系列的挑战。视频监控产生的数据正迅速增长视频监控数据的增长有三个主要的因素。首先，视频监控不再是一个独立割裂的系 统，系统的融合将催生更丰富的数据。GB/T28181-2011标准的发布和实施，在很大程度 上改善了各大平台厂家各自为战、互不兼容的乱象，在“大联网”的背景下，所有的视 频监控数据将能实现深度共享和统一处理。此外，安防监控的发展趋势是融合化，视频 监控平台与其它多种系统之间如警综、消防、卡口、门禁等，将实现资源和数据的无缝 整合，统一协作，形成社会化的大系统。其次，高清视频的编解码能力不断提高，导致数据生成的

3、厚度和精度不断提升，高 分辨率和高帧率已成为视频监控主流需求。再次，数据生成点的规模在不断扩大，视频监控的覆盖范围和监控点、卡口的数量 都以30%以上的增长率在快速增加。我国安装的监控摄像头目前已超过3000万个，每年 产生数万PB的数据量。视频监控数据的管理存在瓶颈数据的爆炸式增长，意味着需要投入更多的资源以及付出更多的努力，才能在这些 体量庞大的数据中寻找到有价值的信息。目前对视频监控数据的管理能力较弱，其发展 没能跟上数据增长的速度，体现在以下几个方面：数据的存储和管理视频监控数据具有高并发、大容量的特点。以1080P为例，在8Mbps的码率下，每 个摄像头每天产生的视频数据约84GB，

4、中等城市的监控规模一般为数千到数万个摄像头， 而且这些数据一般要求必须在系统中保存30天以上。存储系统还必须具有高级别的容 错性，存储介质的故障率通常较高，但故障发生时不应造成监控数据的丢失。此外，由 于安防项目本身在不断发展，系统可能要进行在线扩容和升级，这就要求存储系统具有 高度的可扩展性，可在系统中简单便捷地增添存储设备。目前主要采用分级集中存储的方案，视频数据按区域存储在不同的子平台中，通常 使用RAID来进行存储。但RAID在性能、利用率、可靠性等方面很难达到理想的平衡， 而且成本偏高。另外，各区域的视频数据被分割存放，数据共享流程繁琐，不利于存储 和计算资源的集中配置，也不利于数据

5、的统一分析。数据的智能分析图像视频的理解和识别一直是计算机视觉领域的难题，由于很难智能地分析出视频 中蕴含的丰富内容，我们仍然要耗费大量的人力物力，在海量的视频监控数据中查找有 价值的信息。例如在“周克华”案中，为了查找嫌疑人线索，长沙警方投入约两千名民 警，花了 1个多月的时间反复查看监控录像，视频量相当于83万部电影。目前，虽然基于内容的智能分析在安防领域得到了研究和推广，但也仅限于较低层 次的应用，例如人脸识别、车牌识别、物体检测、人流统计、周界防范等。智能分析除 了受限于算法的发展，更受限于计算能力的发展，智能分析的算法复杂度较高，而且其 样本数量庞大，非普通计算系统所能胜任。数据的融

6、合与协同应用目前，视频监控系统与其它相关系统之间，只是基于视频浏览等基础功能进行有限 的对接。但如果能进行更深入的融合，通过对多种关联数据进行分析，可以挖掘出更有 价值的应用，例如刑侦线索分析、案件规律分析、社会舆情分析、金融诈骗分析、公共 交通优化等。如何对这些海量的融合数据进行清洗和选择，并建立有效的分析模型是一 个有趣的挑战。大数据处理的关键技术大数据在近几年成了炙手可热的流行词汇，并经常和云计算联系在一起，它是指大 小超出了常用的软件工具在运行时间内可以承受的收集、管理、处理数据能力的数据 集。一般将大数据归纳为三个特征，即3V：体量巨大（Volumn）、类型多样（Variety）、快

7、速处理（Velocity）。在大数据中，绝大部分由非结构化数据组成。 据统计，目前在全球所有大数据中占主导地位的是图像视频数据，2012年其占比已达到 了 80%，2013年预计接近90%。大数据的关键技术涵盖了数据采集、传输、存储、处理、应用等各个环节，本文主 要围绕视频大数据的存储和处理来进行阐述。传统的数据处理方法是以处理器为中心， 而大数据具有海量和分布性的特点，需要采取以数据为中心的模式，将计算任务分配到 数据所在的节点中执行，减少数据移动带来的庞大开销。云计算是大数据处理的核心技 术，是大数据挖掘的主流方式。在业界，很多公司已经意识到大数据挖掘的重要意义， 研发了一系列针对大数据进

8、行处理的云计算技术，其中最具代表性的是开源的Hadoop 及其周边的生态系统。及其生态系统Hadoop是一个开源的分布式基础架构，可以让用户轻松构建云计算平台。Hadoop的 优势在于它的灵活性、扩展性、经济性、可靠性，适合对大容量、高速率、多样化的大 数据进行分布式的处理，而且具有很高的性能。例如Visa公司需要计算两年的记录， 包括730亿笔交易、高达36TB的数据。如果用传统方法需要1个月，而采用基于 Hadoop的处理技术只要13分钟。Hadoop由HDFS分布式文件系统和MapReduce计算模型组成，可以满足大数据存储 和处理的需要。而且，围绕Hadoop 已经构建了一个庞大的生态

9、系统，如图1所示。图1 Hadoop及其生态系统其中，HBase是面向列存储的分布式数据库，Zookeeper是分布式协同工作系统， Avro是数据序列化系统，Pig和Hive是基于Hadoop的数据挖掘语言和工具， Cascading是封装了 Hadoop细节的数据处理工作流API，Mahout是机器学习领域经典算 法在Hadoop 上的实现，Sqoop可以在HDFS和RDBMS之间转换数据，Flume是海量日志 采集系统。下面将简单介绍较为关键的HDFS、HBase、MapReduce。HDFS的系统架构如图2所示。HDFS中包括1个NameNode节点，用于记录文件的元 数据；还包括多个

10、DataNode节点，提供实际的存储块。存储在HDFS中的文件被分成 块，然后将这些块复制到多个DataNode，以提高数据的并发吞吐量。存储块的大小（通 常为64MB）和副本的数量在创建文件时由客户机决定，由此保证数据的可靠性。 NameNode可以控制所有文件操作，它与DataNode之间通过心跳来传递状态信息。HDFS 内部的所有通信都基于标准的TCP/IP协议。图2 HDFS的系统架构视频监控数据具有如下特点：1）需要存储大量GB级甚至TB级的大文件；2）文件 具有一次写多次读的特点；3）文件读操作以大规模的流式读和小规模的随机读构成； 4）系统需要有效处理并发的追加写操作。这些特点正

11、好与HDFS的设计理念相符合。因 此HDFS可用于对以视频监控为主的海量数据提供分布式存储和管理。HBase是构建在HDFS之上的NoSQL数据库。NoSQL数据库是无模式、非关系型的， 能支持对海量数据的高并发存储和访问，可以灵活地处理非结构性的数据，而不需要事 先定义它们，因此具有良好的可扩展性。NoSQL在事务的严格一致性、数据实时同步、 支持复杂的查询等方面不具有优势，但在大数据时代，这些特点变得不那么重要。在数据管理方面，HBase将一整张数据表拆分成许多存储于HDFS下的子表，并由 Zookeeper负责数据一致性管理。在数据模型方面，HBase以行名、列名、时间戳建立 索引，表中

12、的数据项由无结构的字节数组表示。这种灵活的数据模型保证HBase适用于 多种不同应用环境。在安防系统中，HBase可适用于各类融合数据的存储和访问，为视 频监控与其它不同系统的深度整合提供良好的数据平台。MapReduce是由Google提出的一个软件架构，是目前云计算平台上实际公认的并行 编模型标准，运行于HDFS和HBase系统之上。其执行过程如图3所示。图3 MapReduce的执行过程MapReduce包括Map（映射）和Reduce （化简）两个阶段，首先将待处理的海量数 据分割后执行map操作，然后对其输出内容进行合并、排序，再执行reduce操作，将 最终结果进行汇总。整个执行过

13、程的各种细节在MapReduce框架中自动处理，包括任务 调度、负载均衡、数据分配、容错机制、网络通信、本地化计算等。可以说，HDFS和HBase实现了对海量数据高效的分布式存储，而MapReduce在此基 础上提供由编程框架自动控制的、对用户透明的计算资源和数据资源的并行调度和数据 同步机制，可根据业务规模自动伸缩、从而为程序开发者屏蔽了底层的复杂性，简化了 分布式并行处理业务的编程开发工作。一个典型的MapReduce计算处理通常可以分布到 上千个计算节点中来处理上TB的数据，这对海量视频监控数据的并行处理尤为重要。大数据技术在视频监控中的应用视频监控产生的数据增长很快，需要构建一个弹性而

14、高效的处理平台，主要解决两 方面的问题：1）数据的存储、管理、访问；2）数据的处理和分析，包括转换、挖掘、 搜索、智能识别等。基于以上介绍的Hadoop，可以实现一个视频监控大数据的应用框 架，将其部署在可扩展的存储和计算资源之上，以满足大数据所带来的各种新的业务需 求。视频监控大数据的应用框架应用框架包括了负责对数据进行存储和处理的大数据平台、支持高并发访问的视频 分发网络、面向应用的平台调度和服务接口。如图4所示。图4视频监控大数据的应用框架其中，大数据平台基于Hadoop集群来实现，是整个应用框架的核心部分，它接入并 存储视频监控数据和其它各类安防数据，然后根据指令对其进行处理。视频分发

15、网络则 是为了满足视频访问的需要，这些访问可能是跨地域分布的，因此应考虑网络带宽的优 化。平台调度和服务则是面向业务和应用的，是大数据平台和用户之间沟通的桥梁，它 可以通知大数据平台即时执行来自业务系统的请求，也可以通过设定任务的执行策略， 自动触发大数据平台进行指定数据的处理。此外，与平台管理相关的结构化信息保存在 关系型数据库中。大数据平台大数据平台中有两层对外的接口，分别是统一数据接入层、统一存储和计算接口 层。统一数据接入层负责采集视频监控数据和来自其它业务系统的安防数据，它通过配 置不同的适配器来接入种类不一的数据类型，对这些数据进行清洗和转换之后，存入 HDFS或HBase中。对于

16、视频监控数据的接入来说，应支持多种规范，例如GB/T 28181、ONVIF、PSIA 等主流协议。统一存储和计算接口层封装了云计算处理框架中的复杂细节，向应用层提供简单易 用的开发接口。为了高效支撑日益丰富的数据和应用，未来的云计算处理框架中可能同 时采用多种相异的技术，例如对存储来说，可以同时支持HDFS、NoSQL、对象存储等， 而这些不同技术类型的差异，将被屏蔽在接口层之下，应用层不需要关心具体数据的存 储方式和位置。云计算处理框架构建了一个可扩展的Hadoop集群，可以实现大数据的海量存储和并 行处理。Hadoop生产环境的部署较为繁琐，需要开发自动化的配置和管理工具，保障平 台的快

17、速部署和良好运作。HDFS可用于存储视频监控录像，HBase则用于存储卡口数据、告警数据、检测数 据、案件数据、分析数据等半结构化的信息。MapReduce对存储在HDFS和HBase中的数 据进行分割，然后进行大规模的并行处理、分析，从价值密度很低的监控大数据中挖掘 出有意义的信息。大数据平台在处理功能上不存在限制，只需要开发好相应的处理算 法，就可以装载到云计算处理框架中执行。针对安防监控行业，典型的处理可以归纳为 视频转码、智能分析、融合挖掘、信息检索等。视频转码视频转码是安防监控中常见的需求，可在空域、时域上进行重采样后重新压缩，或 者转换成更高级别的编码标准，从而可以更有效地利用存储

18、资源、适应更丰富的终端类 型。利用Hadoop的特点，能实现对视频转码的并行处理，而且由于MapReduce框架对 GPU平台的适应性很好，将它们结合起来可作为视频转码的有效手段。智能分析对于存储在HDFS中的视频录像和其它各类数据，可以通过MapReduce并行分析它 们的特征，例如人脸特征、指纹特征、物体特征、行为特征等，将特征库保存在HBase 中，为后续的特征比对做准备。或者针对视频录像进行分析，提取视频中的要素，作为 视频的语义描述。进一步形成的视频摘要，也存储在HDFS中。融合挖掘在一个融合的监控系统中，除了视频监控数据，其它安防类的监控数据也蕴含了丰 富的信息，而且它们之间可能存

19、在某些关联，这就需要我们设计有效的模型对其进行挖 掘，通过Hadoop能很好满足类似的各种应用。信息检索在海量的视频录像和繁多的安防数据中查找相关的内容，是一项艰巨的挑战。结合 智能分析获得的视频描述，以及从其它各类数据中提取的描述，可以通过Hadoop平台 为其建立索引，并计算它们之间的相关性，向业务系统提供信息检索服务。视频分发网络视频监控的首要应用是对视频录像进行浏览和查看，其特点是高并发、跨地域访 问、随机性强、热点相对集中、播放控制手段多。HDFS虽然支持高并发的访问，但对随 机读取的支持较弱，不适合直接向用户提供视频录像的浏览访问，可以通过构建视频分 发网络来解决这个问题。视频分发

20、网络从大数据平台中读取视频录像，根据访问情况将视频分发到相应的节 点，供用户进行浏览和访问，而且很方便地实现多样化的播放控制。在视频分发网络 中，通过内容分布、负载均衡、传输优化、缓存管理等技术，使用户获得良好的访问体 验。平台调度和服务平台调度和服务承担着如何有效管理和使用整个大数据平台的重任，包括面向上层 业务的应用接入服务和面向大数据平台的任务调度管理。应用接入服务是上层各种业务系统的入口，它接收到大数据处理的请求之后，下发 给任务调度管理，通过大数据平台来执行相应的处理，并向业务系统返回处理的结果。任务调度管理负责触发、终止、监控大数据平台中的处理任务，既接受来自应用接 入服务的请求，也维护周期性的计划任务，通过智能化的任务策略对其进行调度。除了视频监控数据、其它安防业务数据等之外，系统中需要维护另一种数据，即支 撑业务运行的管理信息，例如用户信息、权限信息、设备信息、任务计划等。这些大多 是结构化的数据，我们将其保存在传统的关系型数据库中。不足和挑战以上介绍的大数据处理平台可以很好地实现视频监控大数据的存储、处理，并且由 于其架构在可动态扩展的硬件资源和软件系统之上，可以弹性地满足日益增长的数据和 相应的业务需求。但也存在一些不足和挑