视频结构化大数据平台解决方案

PAGEPAGE10/47视频结构化大数据平台解决方案千视通目录建设背景 4建设目标 5建设原则 6标准化原则 6统一设计原则 6大数据处理原则 6高可高安全性原则 6适用性原则 7可扩展性原则 7系统总体设计 7设计依据 7总体架构设计 10业务架构设计 11网络架构设计 12数据结构化 135.1.概述 13数据采集 14控制调度单元 15目标结构化单元 15车辆结构化单元 21前端要求 26数据存储 296.1.概述 29功能设计 29数据存储 29数据服务 30系统管理 31存储设计 32数据应用 32以图搜车 33人物大数据 34人物综合查询 34人物检索 34人骑车检索 36视频框选嫌疑目标 37以图搜图 38智能建库引擎 38以图搜图应用 38S应用 .9基本操作 39地图查询 39轨迹展示 40摄像头操作 !未定义书签。系统管理 41平台特点 44提高海量视频倒查的效能 44提供视频关键特征的视频检索 45永久保存结构化的视频信息 45基于虚拟化服务的云计算架构 46配置清单 !未定义书签。建设背景平安城市视频监控技术已经从联网整合阶段发展到视频实战深但是如何将这些视频资源整合好、利用好、管理好、应用好，发挥视频实战的最大效用，是视频实战应用下一步发展面临的问题。2010ZB番，一天产生的视频监控数据超过1500PB。地市“天网”摄像头都数以万计。人工分析视频的方法不再适用。如何存储海量视频信息？如何提升海量视频信息查找效率？如何利用海量视频信息为案件侦破提供支撑？（经过结构化引擎处理,基于云存储技术构建大数据平台，基于数据挖掘技术构建应用平台，实现视频图片的智能检索、车辆大数据应用、人物大数据应用，人脸大数据应用等。建设目标系统主要解决如何快速有效提高从大量视频和图像信息中查找到的增加问题以及目前的视频数据使用方案越来越难解决的海量视频系统建成后，公安所有的监控视频、交通卡口、社会监控数据以及案事件的视频资料等归档数据将成为一个结构化的处理，存储，管理，分析，计算，使用的一体化大数据云中心。建设原则标准化原则统一设计原则按照公安部视频数据的相关标准设计系统结构。特别是应用系统建设结构、数据模型结构、数据存储结构以及系统扩展规划等内容，从规划的全局出发、从长远的角度考虑。大数据处理原则致力于跨警种、跨系统的视频相关数据结构化处理，致力于非结务需求。高可靠/高安全性原则从系统从结构上、产品性能上、设备的选型上，以及具体的实施对整个计算资源进行有效调度和分配，平时保障85%的计算资源利用15%的计算资源，一方面使得机器不在峰值上一直运行，同时在突发临时事件时，预留的15%的计算资源可以备用，确保系统的有关标准及公安部门有关安全技术防范的要求。适用性原则系统的建设将保护已有资源，急用先行，在满足应用需求的前提下，尽量降低建设成本。可扩展性原则系统设计不但保证目前系统容量的要求，也将考虑今后系统的SDK扩展。系统总体设计设计依据本系统主要设计依据遵循以下标准和规范：项目政策文件：见》201119号《全国公安装备建设“十二五”规划》201211作任务书》公科信【2012】73 号《全国公安机关图像信息联网总体设计方案》公科信传发【2012】367 号《省（区、市）公安机关视频像信息整合与共享技术方案编写指南》公安信息系统类标准公安部《金盾工程总体方案设计》公安部《公安信息系统应用支撑平台总体方案设计》公安部《公安信息化标准体系》公安部《地市级综合信息系统总体设计方案》公安部《共享数据项代码标准》公安部《共享数据项集项目规范》GAGA公安部《经济犯罪案件信息管理系统技术规范》GA397.X-2002GAGAGAGB/T22239-2008GB/T24856-2009计算机信息系统类标准《计算机软件开发规范》GB/T20272-2006GB/T20273-2006视频系统类标准《城市监控报警联网系统技术标准（GA/T669-2008）求》GBT28181-2011(GB50198-94)（GA/T367-2001）信息安全类标准GB/T24856-2009GB17859-1999GB/T22240-2008GB/T20269-2006总体架构设计”一个中心：利用云计算、云存储技术，建设视频大数据中心；一个平台：多个业务应用：在大数据中心上，实现视频图片的智能检索；在大数据中心上，实现视频图片的车辆分析；在大数据中心上，实现视频图片的人物分析；业务架构设计架构说明:大数据应用平台组成。大数据接入负责接入在线各种社会视频资源和公安各视频资源。或者直接导入离线视频资源。大数据处理对收集到的数据经进行转换、分析处理。视频、图片等非结构化数据经过各种算法生成标准数据集供挖掘和分析使用。存SDKGIS应用等应用服务。网络架构设计Hadoop系统可单独部署，也可以级联部署。级联部署时，中心管理平台可以对子节点进行任务管理、调度、状态查看。可指定子节点信息上传的位置、信息上传的类型。中心管理服务器收到信息后，可对消息进行二次过滤后再入库。视频结构化平台级联示意图数据结构化概述大数据视频结构化分析系统控制调度、目标结构化单元、车辆结数据采集主要接入卡口数据、电警数据、实时视频、历史视频、卡口识别洗、转换、分类后，将数据存入大数据平台。提供对大数据统一的接入方式，接口形式包括API便公安数据接入大数据平台。大数据平台采集视频联网平台API方式：文件交换形式接口通过协议交换文件，文件格式需要接入时定义接口文档；RDBMS通过JDBCWebService通过开发定制的服务和第三方接口。控制调度单元活动目标结构化单元AVI士、景阳等厂家。（DVR指定存储设备的录像文件）的视频存储文件下载至本处理单元。录像文件进行处理。元主动或被动上报运行监测状态和当前任务处理状态。整。的视频数据管理单元。数据，并记录运动物体的特征（颜色、方向、大小等）信息。片中人、车辆、人骑车的特征信息提取。例如：人结构化流程图：17/47PAGEPAGE18/47获取人图像信息。获取图片中的人的等相关特征信息。（背包、拉杆箱、戴眼镜等）进行自动检测、自动识别的功能。支持模式：工具支持三种检测模式。文件流模式实时流模式直连设备模式中人的信息提取，并识别出相关信息。主要功能：人结构化描述信息：性别信息识别系统支持男人、女人识别。年龄段信息识别系统支持老人、中年、青年、儿童进行识别。方向识别系统支持正面、侧面、背面、斜上方等方向进行识别。上下身衣服颜色识别系统支持黑、白、红、黄、蓝、绿、灰、青等颜色识别。人装饰物识别系统支持戴眼镜、帽子、背包、拉杆箱、打雨伞等进行识别，国内领先。人骑车结构化描述信息：骑车类别识别系统支持两轮车、三轮车识别。性别信息识别系统支持男人、女人识别。年龄信息识别系统支持老人、中年、青年、幼儿进行识别。上身衣服颜色识别系统支持黑、白、红、黄、蓝、绿、灰、青等颜色识别。人装饰物识别系统支持戴眼镜、打雨伞等进行识别。活动目标速度识别系统支持对活动目标移动速度进行慢、快进行识别。车辆结构化描述信息：不同环境下车辆识别系统支持白天、夜间、同画面多车辆、从车头、从车尾识别。车身颜色识别黑、白、红、黄、蓝、绿、灰、青等10种车身颜色识别。车型识别如轿车、小型货车、大型货车、客车等类型。车品牌、车系、款型识别系统支持车辆三级品牌（品牌、车系和款型）识别国内领先。活动目标运动方向系统支持对活动目标运动方向上、下、左、右进行识别。活动目标速度识别系统支持对活动目标移动速度进行慢、快进行识别。车辆结构化单元等的相关特征信息。车辆结构化流程图：22/47PAGEPAGE23/47获取车辆图像信息。获取图片中的车辆的车牌、车身、车标、车系、车辆宽度、安全带等相关特征信息。实现对视频图帧中车辆信息（车牌号码、车牌颜色、车身颜色、标识物、驾驶员行为等）进行自动检测、自动识别的功能。支持模式：工具支持三种检测模式。文件流模式实时流模式直连设备模式车辆特征识别单元采用车牌智能识别技术和先进的图像识别算关信息。主要功能：不同环境下车辆识别系统支持白天、夜间、同画面多车辆、从车头、从车尾识别。车牌信息识别GA36-200717、挂车警用汽车号牌（前后车牌、拖拉机号牌、军车号牌、武警车号牌、个性化车牌、黑色车牌。车身颜色识别黑、白、红、黄、蓝、绿、灰、青等10种车身颜色识别。车型识别如轿车、越野车、商务车、小型货车、大型货车、轻客、小型随车吊、消防车、渣土车、押运车、工程抢修车、救援车、栏板卡车等类型。车品牌、车系、款型识别系统支持车辆三级品牌（品牌、车系和款型）1603000，国内领先。特有的年检标、车窗贴、挂饰、遮阳板识别能力系统支持对年检标、车窗贴、挂饰、遮阳板的识别检测，并以不同颜色框加以标识。驾驶员行为识别系统支持驾驶员打电话、是否系安全带等危险行为进行识别检测。活动目标运动方向系统支持对活动目标运动方向上、下、左、右进行识别。活动目标速度识别系统支持对活动目标移动速度进行慢、快进行识别。人脸结构化单元表情、种族等的相关特征信息。实现对视频图帧中人脸信息（年龄、性别、表情、种族等）进行自动检测、自动识别的功能。支持模式：工具支持三种检测模式。文件流模式实时流模式直连设备模式人脸特征识别单元采用人脸智能识别技术和先进的图像识别算法，对视频流及图片中人脸的信息提取，并识别出的相关信息。主要功能：1）区分男性、女性2）年龄识别能准确识别出具体的年龄3）种族识别能区分黄种人、黑种人、白种人。前端要求提取车牌的摄像机架设有如下要求：、高清视频流。2、具备自动曝光补偿、强光抑制、宽动态、自动白平衡。3、适应角度：车辆显示完整，车辆正面与摄像头法线方向的左右倾斜在20度以内，上下倾斜角度小于15度。4、车牌识别时，车牌聚焦清晰区域处的环境照明在白天必须大200lux100lux。590-160太暗等。6、支持各种车牌识别：民用车牌（92式、民用货车车牌（排黄车牌、民用车牌（2002个性化车牌军车车牌（2005式。7、识别车牌号码的时间≥ 100ms 移动车辆，车牌检测正确率>95%；汉字识别正确>90%、字符位识别率大、全车牌识别正确率。a）摄像机架设要求设备安装位置与角度应避免出现强逆光、反光等情况。当同一个两车道提取的准确率。如下现场布局侧视图所示。为保证从视频中能准确的提供人脸和提起后进行人脸比对识别，对提取人脸的摄像机架设有如下要求：摄像机架设要求2.5m15度以内。摄像头到人脸的距6米左右。地面2m以内的对焦宽度，监控人脸宽度至少占画面宽60摄像机架设示例光线要求200lux左右，避免有逆光、强光和阴阳脸200-900lux。照片采集要求抓拍的人脸照片清晰、完整。数据存储概述视频大数据资源信息库是视频图像存储、管理的综合平台。支持创新的QPI大数据资源信息库采用SOA体系结构，以及多媒体数据库M、分高效访问，低资源占用，大大提高特征数据的交互性。功能设计数据存储支持对上传的结构或非结构化数据提供云存储,主要体现在以下三个部分：多节点扩容能力：当磁盘容量不够时，可以灵活的增加数据节点，简单实现扩容。文件分块存储：对大文件进行分块存储，把一个大的数据文件自动切割成成的方式进行存储,读取时,分别在多个存储节点上读取,减少磁IO据处理迅速。自动容灾：失的时,系统自动的在其它存储节点上去获取文件,对丢失的文件进行修复，自动重新恢复文件,达到数据节点相互备份的。数据服务通过封装SDK提供以下主要服务：全文检索对视频大数据资源信息库中存储的所有数据提供全文检索类并建立索引,当用户进行检索时,系统提供强大的检索功能,可以根据内容进行多角度多侧面的利用数据信息资源,方便快捷得获取到自己想要的信息。文件下载对用户需要进行存储和管理的文件进行上传和下载功能,对上传到库中的视频文件进行快速下载或播放,图片文件进行放大缩小以及浏览功能。流媒体服务系统内置流媒体服务，对用户上传的视频,音频以及多媒体文件,以流的方式在网络中进行传输,相对于下载后观看的待整个文件下载完毕。系统内置流媒体服务，对用户上传的视频,音频以及多媒体文件,以流的方式在网络中进行传输,相对于下载后观看的待整个文件下载完毕。系统管理赋予相应的角色权限，从而控制用户查看库中数据的权限；角色赋予相应的功能权限，从而控制用户在系统中的功能权限；示，并可对置顶的内容进行维护；存储设计存储设计方案：目标结构化；1天每路：3.5G车辆结构化；1天每路（或者1天每路0万辆车计算：备注：视频结构化分析平台：40903.5G×40×90÷1024G≈12.6T120903.2G×120×90÷1024G≈34.6T312.6T+34.6T≈47.2T47.2T*3=141.6T共需要的设备数量为：141.6T÷48T=3台数据应用从视频数据的数据量增长的角度，随着公安业务及视频技术的不数据加工和数据挖掘等深层次的数据应用。大数据综合业务应用平台提供视频综合分析业务应用，实现智能检索、车辆大数据、人脸大数据、人物大数据等功能，满足不同业务部门应用需求。以图搜车以图搜车结果对比图片显示人物大数据人物综合查询系统对日常业务所接入的实时源和离线源等视频/图片数据，进行特征提取分析及识别，对目标人物结构化信息（包括性别、年龄、方向特征、衣服颜色、背包、拉杆箱等）进行存储。WEB/组合查询。系统支持对目标任务进行精确查询和模糊查询。人物检索人形检索将嫌疑人的截图输入至系统中，利用人形检索的功能，系统会根据目标嫌疑人的衣着、颜色分布、体态特征快速地在跨摄像头中进行全局搜索，查找出相似的目标，并将结果以快照的形式输出，刑侦人员可此进行研判；人形检索，如下图所示：人员衣着颜色和纹理特征检索支持人员衣着颜色检索，可以通过调色板精确选色，以及从视频画面中采集颜色。支持按上半身、下半身分别指定颜色进行检索，检索结果中符合条件的目标能够排在前列。上下半身检索结果如下图所示：支持根据人员衣着纹理特征进行检索，检索结果如下图所示：跨线与运动方向检测支持通过指定跨线位置和方向对运动目标进行检索，输出目标快照。支持设置多条跨线，每条线的方向可单独设置，目标快照中同时显示所画的线和方向。跨区域检索支持进入区域、离开区域、在区域内逗留、出现在此区域的目标检索。条件组合检索支持在视频中使用人车分类、跨线、跨区域、颜色等多种条件的组合检索，检索结果中符合条件的目标能够排在目标快照图片前列。人骑车检索系统融合对人骑车目标进行检索，结果如下图：检索人骑车目标快照视频框选嫌疑目标支持在查看原始视频时，暂停直接框选嫌疑目标，以框选的目标截图为条件，可跨监控点对框选目标进行快速查找。如下图所示：以图搜图智能建库引擎Hadoop的接口向用户提供分布式索引建库服务。以图搜图应用支持本地上传图片至图片库进图像比对查找(人物、车辆、人脸、非机动车辆等目标)；通过提取图片的局部特征进行查找和比对，分析结果通过快照的方式进行展示；支持对查找结果按时间进行排序以图片列表的方式进行可视化呈现。GIS应用基本操作摄像头图层：正常摄像头图层，故障摄像头图层；车辆轨迹图层：标地图查询支持视频、卡口、电警等的点选、框选、圈选、多边形选择、社会面监控的普通查询和空间查询。PGIS定位，显示卡口基础信息、过车数据信息等信息。轨迹展示以PGIS合计算，对预警车辆的位置与轨迹进行预测。预警车辆定位。通过地图和列表形式实时显示预警车辆信息，息。支持单个或多个预警车辆同时定位。时间段内的行驶轨迹，并在地图上显示完整的车辆行驶轨迹。预警车辆轨迹预测。根据预警车辆的行驶方向、车速、过车时间等，基于GIS分析其周边卡口分布、历史通行轨迹等，在地图上显示5分钟、10分钟等不同时间段预警车辆可能出现的范围和途径卡口位置。系统管理4地原始视频文件和建立DVR/NVR支持结构化任务调度管理：选择视频图像文件进行结构化处理任务配置，灵活设定任务优先级。系统设置主要实现平台的权限控制、日志管理、任务模板配置、时钟同步、服务器配置功能，实现系统平台整体监控及资源调度。具备用户权限控制功能，对客户端登录的用户进行用户鉴权，限制和管理用户的操作权限；对系统用户及操作权限提供增删查改等。进行的配置操作。系统日志的查询为系统的安全审计提供了一种手段。管理员可通过灵活的条件对系统日志进行查询。通过设置查询条件为系统管理员提供了灵活的操作日志查询功址等相关信息。系统支持日志的导出功能。支持处理任务模块定