《车辆影像分析测试与评分技术标准》编制说明_第1页
《车辆影像分析测试与评分技术标准》编制说明_第2页
《车辆影像分析测试与评分技术标准》编制说明_第3页
《车辆影像分析测试与评分技术标准》编制说明_第4页
《车辆影像分析测试与评分技术标准》编制说明_第5页
已阅读5页,还剩13页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

广西地方标准

《车辆影像分析测试与评分技术标准》

(征求意见稿)编制说明

一、项目来源

根据《广西壮族自治区交通运输厅关于下达2019年度广西交通

运输标准化项目计划的通知》(桂交科教函﹝2019﹞136号)文件和

《广西壮族自治区市场监督局关于下达2020年第二批广西地方标准

制定项目计划的通知》(桂市监函〔2020〕1832号)文件精神,由广

西壮族自治区交通运输厅提出,广西交科集团有限公司起草广西地方

标准《车辆影像分析测试与评分技术标准》(项目编号:2020-02088)。

二、项目背景及目的意义

最近几年人工智能在图像识别,语音识别,语义理解等方面突飞

猛进,在面对一些特定的任务时,已经展示出超出行业顶尖人类专家

的水平,比如在围棋竞技上,AlphaGo面对众多人类顶尖高手60连

胜,旷视,腾讯优图的人脸识别准确率达到了99.8%,这都已经超出

了训练有素的行业专家的水平。可以预见人工智能必将在接下去的一

段时间内渗透到各行各业,极大的提高行业的生产效率,改变行业现

有格局。在人工智能高速发展的后面,有两个关键的助推火箭,一个

是深度神经网络技术的突破,一个是移动互联网的发展使得数据量呈

现爆发式的增长。这两者的叠加,使得以前看来不可能的事情变成了

现实。

在中国目前没有公开可用的专门针对交通运输行业需求而设计

的图像和视频分析数据库,在已经开展的一些测试中也发现人工智能

产品在交通行业的适应性很差,一个重要的原因在于交通运输行业和

其他行业相比有非常大的不同,交通运输行业关注的重点在于公路/

铁路的路面状况的理解,交通事件的识别,隧道的保养和检查等等。

这些特殊的行业需求需要行业特殊的图像和视频数据库用于训练神

经网络,用其他行业的数据训练出的人工智能产品照搬到交通行业效

果不理想。

本项目就旨在为交通运输行业填补这个空白,并在此基础上建立

一个交通运输行业的人工智能产品测试标准,标准包括测试数据集、

测试方法、测试流程、评分标准,可用于评估将来要进入交通运输行

业的人工智能产品和服务的技术水平,为公平公正的招投标提供一个

评估依据。

三、项目编制过程

(一)成立标准编制工作组

广西标准《车辆影像分析测试与评分技术标准》项目任务下达后,

广西交科集团有限公司成立了标准编制工作组,制定了标准编写方案,

明确任务职责,确定工作技术路线,开展标准研制工作。

本标准负责起草单位:广西交科集团有限公司,负责调研、测试、

完成《车辆影像分析测试与评分技术标准》编制工作。

本标准主要起草人:陈静(项目负责人)、马高琳、陆璐、刘彬、

梁杏、龙思颖、唐文娟、王玲容、兰良、陈鸷翱、杨顺秀、韦科宇、

李秀琼、陈海军。陈静负责整个项目的技术及组织协调工作;马高琳

负责整个项目的技术指导;陆璐负责项目调研及标准的校对工作;其

余参与人员根据安排参与标准编写或项目测试等工作。

(二)收集整理文献资料

本标准起草人员的前期研究工作分为资料调查与研究、工程案例

及数据收集完善2个步骤进行:1、调研了国内外大量的视频中车辆

图像检测技术和视频中事件过程检验技术规范实际案例和相关的标

准规范、规程及研究成果;2、对搜集到的车辆影像检测评定资料进

行分类整理和研究,为下一步的规范研究提供必要的指导和技术支撑。

标准编制工作组收集了车辆影像检测相关的标准规范文献资料,主要

有:

ISO/IECTR29119(en)Softwareandsystemsengineering—

Softwaretesting—Part11:Guidelinesonthetestingof

AI-basedsystems

GA802机动车类型术语和定义

GA/T1399.1公安视频图像分析系统第1部分:通用技术要

GA/T29100道路交通信息服务交通事件分类与编码

GB/T30147安防监控视频实时智能分析设备技术要求

(三)研讨确定标准主体内容

标准编制工作组在对收集的资料进行整理研究之后,标准编制工

作组召开了标准编制会议,对标准的整体框架结构进行了研究,并对

标准的关键性内容进行了初步探讨。经过研究,标准的主体内容确定

为术语和定义及缩略语、车辆影像分析测试流程、测试场景、评估方

法、测试方法及评分标准。

(四)调研、形成征求意见稿

为确保本标准的编写工作有序开展,编写工作组在前期大量的研

究工作的基础上,于2019年11月上旬完成了《车辆影像分析测试与

评分技术标准》的编制大纲和工作大纲,并经内部评审讨论后,于

2019年11月12日召开了编制大纲和工作大纲外部评审会,评审会

针对大纲共提出了11条建议和意见。根据大纲评审专家的意见,以

修改完善后的大纲作为项目的工作指导,编写工作组开展了标准正式

的编写工作,并于2019年12月至2021年4月完成了工作组讨论稿,

并对工作组讨论稿进行内部研讨并修改形成《车辆影像分析测试与评

分技术标准》(征求意见初稿)并进行单位内部评审。2021年7月召

开征求意见初稿讨论会,对工作组讨论稿进行会审,根据会审意见修

改后形成征求意见稿。

四、标准制定原则

本标准的编制遵循国家、行业和广西壮族自治区现行有关标准的

规定。编写工作组充分调研了国内外及广西地区的车辆影像分析测试

与评定的实际案例、数据资料及研究成果,研究和分析了国内外及广

西地区车辆影像分析测试与评定的标准建设的现状,以及国内外关于

车辆影像分析技术的发展趋势和新技术的应用状况。经过编写工作组

成员讨论,确定标准编制遵循以下基本原则:

(1)科学性原则

本标准分析了国内外关于车辆影像分析测试与评分技术标准的

建设现状和特点,结合国内及广西地区车辆影像分析测试与评定的实

施现状,在此基础上对已发布的相关标准、规范、规程进行整理、归

纳和分类,建立了科学、实用、合理的广西地区车辆影像分析测试与

评分技术标准。

(2)承接性原则

本标准术语、符号、条文尽量与相应国家、国际、行业和地方标

准的规定内容相一致,条文未出现自相矛盾的地方。标准技术内容与

国家、国际、行业和地方标准兼容,未出现冲突,保证了一致性。标

准技术内容中引用其他标准时,已明确指出所引用标准的内容或名称,

增强了标准的可读性和可操作性。

(3)可操作性原则

本标准的起草充分调研了国内外、广西壮族自治区地区车辆影像

分析测试与评分技术标准的应用现状,征求了高校、公路管理、设计

院、施工单位等领域的专家意见。编写组在此基础上进过反复讨论和

修改,编制此标准。标准内容针对性强,可操作性高,易于推广。

五、标准主要内容及依据来源

广西地方标准《车辆影像分析测试与评分技术标准》主要章节内

容包括:术语和定义;车辆影像分析测试流程;车辆影像分析测试场

景;车辆影像分析评估方法;车辆影像分析测试方法及评分标准。

本标准的编制遵循国家、行业和广西壮族自治区现行有关标准的

规定。编写工作组充分调研了国内外及广西地区目前的车辆影像分析

测试与评定的实际案例、数据资料及研究成果,研究和分析了国内外

及广西地区的车辆影像分析测试与评定标准建设的现状,以及国内外

车辆影像分析测试与评分技术的发展趋势和新技术的应用状况。在此

基础上结合广西地区车辆影像分析测试与评定的工作经验,形成了广

西地区车辆影像分析测试与评分技术标准。

1、标准名称

为保证标准的全面性和针对性,计划申请的标准名称为《车辆影

像分析测试与评分技术标准》。本标准名称一方面界定了其应用范围

为公路的视频或图像形式的影像资料,另一方面限定了其应用对象为

公路上行驶车辆的分析与检测评定技术。

2、范围

本标准规定了适用对象为广西地区的车辆影像分析测试与检测

评定工作。

目前,我国还没有公开可用的专门针对交通运输行业需求而设计

的图像和视频分析数据库,在已经开展的一些测试中也发现一些在其

他行业发展得比较成熟的人工智能产品在交通行业的适应性很差,一

个重要的原因在于交通运输行业和其他行业相比有非常大的不同,交

通运输行业关注的重点在于公路/铁路的路面状况的理解,交通事件

的识别,隧道的保养和检查等等。这些特殊的行业需求需要行业特殊

的图像和视频数据库用于训练神经网络,用其他行业的数据训练出的

人工智能产品照搬到交通行业效果不理想。本项目就旨在为广西地

区的交通运输行业填补这个空白,并在此基础上建立一个比较统一的

交通运输行业的人工智能产品测试标准,达到符合安全适用、技术先

进、经济合理的要求。标准包括测试流程、测试方法、评分标准,可

用于评估将来要进入交通运输行业的人工智能产品和服务的技术水

平,为公平公正的招投标提供一个评估依据。

3、术语和定义

本标准涵盖了车辆影像分析测试与评定工作的各种术语和定义、

缩略语。

深度学习,这个术语出处:ISO/IECTR29119-11:2020(en),

3.1.26。

视频图像分析系统、车辆检测、车辆基本特征识别,这些术语出

处:GA/T1399.1-2017《公安视频图像分析系统第1部分:通用技

术要求》;

事件、正检、误检、漏检、基准目标,这些术语出处:GA/T

30147-2013《安防监控视频实时智能分析设备技术要求》。

4、测试与评估方案概述

参照GA/T1399.1-2017《公安视频图像分析系统第1部分:

通用技术要求》、GA/T1399.2-2017《公安视频图像分析系统第2

部分:视频图像内容分析及描述技术要求》并结合广西壮族自治区实

际情况,为了使车辆影像分析和测试能够服务和满足广西交通系统地

方性要求,从测试目的、测试原则、测试对象、各阶段的测试流程等

方面进行了规定。

第4.1条:各地区不同的气候地貌特点、交通系统差异,都会带

来车辆影像的偏差。针对广西壮族自治区的实际情况,本标准的规定

应能确保图像和视频分析产品和服务应能确保测试完成后对图像和

视频分析系统给出一个客观的定量的评价。

第4.2条:规定了测试与评估过程中所需遵循的原则。其中第

4.2.1条规定了实用性;第4.2.2条规定了公平性;第4.2.3条规定

了公正性;第4.2.4条规定了可复测性。

第4.3条:对本标准的测试对象作出了规定,测评对象应包括具

备车辆影像分析功能的软硬件系统或基于深度学习的车辆影像分析

算法等产品或服务。

第4.4条:规定了车辆影像分析的各阶段测试流程,总共分为测

试申请、审核申请、编写测试大纲、进行测试准备、进行测试以及输

出测试报告等步骤。其中,测试需求方要先向测试机构申请测试,测

试机构对申请进行审核,若申请中涉及的测试场景属于本标准于第5

章规定的5种测试场景之一,测试申请才会通过。测试申请通过后,

测试机构依据测试需求方提出的测试场景及具体要求,编写相应的测

试大纲。测试机构与测试需求方均需要做好测试准备工作:测试需求

方向测试机构提供测试对象;测试机构准备好测试用的数据源,其中,

针对多种多样的车辆影像图像和视频数据源,为了能支持对不同数据

源的检测测试,第4.4.4.2条参照GA/T1399.1-2017《公安视频图

像分析系统》,规定了数据源格式,包括了图像格式和视频格式,此

外还规定了数据源的标注内容和采集要求;测试机构还应准备好测试

环境,相关的软硬件配置要求见附录表B.1。准备工作完成后才进行

正式的测试工作,包括功能测试和性能测试两种,具体的测试和分析

方法见本标准的第6.2与6.3条。测试工作完成后,测试机构对测试

结果进行评分,并输出测试报告,报告模板见附录表B.2和附录表

B.3。

5、测试场景

参照YD/T3944-2021《人工智能芯片基准测试评估方法》划分

的人工智能算法场景,以及结合高速车辆分析的业务场景,划分测试

场景为车辆检测、车辆特征识别、车辆数量分析、车辆行为识别和行

驶环境分析五大类。

(1)车辆检测

第5.1条规定了车辆检测的内容,主要是对车辆的位置进行标定

出来,在对应的图像或者视频的车辆区域,利用外框将车辆识别出来。

(2)车辆基本特征分析

第5.2条规定了车辆基本特征分析的内容,车辆基本特征分析则

是对一辆车的外观内容进行识别,包含车牌、车辆的颜色和车辆的类

型做识别。

(3)车辆数量分析

第5.3条规定了车辆数量分析的内容,车辆数量分析则是对一个

图像或视频的多辆车的特征进行统计。

(4)车辆行为识别

第5.4条规定了车辆行为识别的内容,车辆行为识别则是通过对

视频内的一段时间的车辆行驶行为进行识别,车辆的行为识别主要参

考交通事件的分类。

(5)车辆行驶环境分析

第5.5条规定了车辆行驶环境分析的内容,车辆行驶环境主要是

对气象和道路情况进行考察分析。

6、测试方法

参照YD/T3944-2021《人工智能芯片基准测试评估方法》并结

合车辆影像分析和测试能够服务和满足广西交通系统地方性要求,从

测试内容、功能测试方法、性能测试方法方面对测试方法进行了规定。

(1)测试内容

第6.1条对测试内容作出了规定,测试内容包括车辆检测、车辆

识别、车辆数量分析、车辆行为分析以及车辆行驶环境分析等五种测

试场景,并规定了图像和视频分析的具体功能要求,以及性能要求。

(2)功能测试方法

第6.2条对功能测试方法作出了规定,6.2节在4.4.4.3节测试

环境的框架下,通过流媒体服务器输入实时数据,再通过测试服务器

进行数据处理,再通过分析服务器输出最终评测指标。

功能测试的评分需区分测试场景,评测指标参考7.2节的评分方

式,分场景输出各个评分指标,再评估是否达到标准,以及与目标值

的差距。

(3)性能测试方法

第6.3条对功能测试方法作出了规定,6.3节在4.4.4.3节测试

环境的框架下,通过流媒体服务器输入实时数据,再通过测试服务器

进行数据处理,再通过分析服务器输出最终评测指标。

性能测试分成三类测试项,负载测试是模拟真实场景的测试方式,

压力测试则是查看各类cpu运行效率下的检测效率,并发测试则是观

察检查最快运行效率。

评测指标参考7.3节的评分方式,输出三个测试项的评分指标,

再评估是否达到标准,以及与目标值的差距。

7、评分方法

参照YD/T3944-2021《人工智能芯片基准测试评估方法》并结

合车辆影像分析和测试能够服务和满足广西交通系统地方性要求,从

评分指标、功能测试评分方法、性能测试评分方法等方面对评估方法

进行了规定。

(1)评分指标

第7.1节从功能和性能测试方面规定了评分指标。其中功能测试

规定了准确率、召回率、交并比、平均准确率、平均准确率均值、平

均绝对误差;性能测试规定了每秒帧率、功耗。

(2)功能测试评分方法

第7.2节规定了功能测试评分方法及评分标准。通过6.2.2节的

测试流程,分不同的测试场景输出评分指标。检测场景使用mAP和

IoU,检测框和标注框重合率不少50%,即IoU需达到0.5以上,综

合分类效果mAP需达到0.6的精度;车辆基本特征识别和车辆行驶行

为和环境分析都属于分类场景,规定单类分类准确率和召回率不少于

0.5精度,综合分类效果不少于0.6的精度;车辆数量分析则要求不

超过5辆车的误差,类似等于MAE需小于5。

(3)性能测试评分方法

第7.3节规定了功能测试评分方法及评分标准。通过6.3.2节

的测试流程,分成三个测试项,三类测试场景评分标准都有一个测试

达标前提,即功能测试都能合格。负载测试是模拟真实的测试场景,

从CPU占用率、内存占用率、FPS、功耗耗电上作出了规定;压力测

试在FPS作出了规定;并发测试在FPS作出了规定。

8、附录

附录A是车辆影像分类附表,具体说明如下:

表A.1:交通事件分类,规定了13种视频中可能出现的交通事

件类型;

表A.2:道路天气情况分类,规定了6种图片中可能出现的天气

情况类型;

表A.3:路面状态分类,规定了7种图片中可能出现的路面状态

类型;

表A.4:车型分类测试项,规定了图片中可能出现的11种车辆

类型。

附录B是测试模板附表,具体说明如下:

表B.1:测试环境,规定了流媒体、测试、影响分析服务器等的

环境;

表B.2:功能测试报告,规定了功能测试的输出项;

表B.3:性能测试报告,规定了性能测试的输出项;

六、预期的作用和效益

1、预期经济效益分析

通过建设交通事件分析标准数据库能够有效的避免数据重复建

设,提升数据资源使用率,间接降低数据建设成本。

通过人工智能对交通事件的影像及视频进行自动化检测分析,能

够节省人力管理成本和能源消耗,显著降低交通行业运营监管成本。

通过规范化的行业数据测试标准能够实现数据的快速融合、共享

和交换,缩短应用的开发部署周期,降低应用的开发部署投资。

2、预期社会效益分析

交通事件分析标准数据库的建设将为整合广西交通资源,提高行

业管理效率起到极大的推动作用。

交通事件分析标准数据库是建立资源集中管理的桥梁,能够满足

各级业务部门信息互联互通和共享交换的需求,避免信息孤岛。通过

规范行业数据标准,有效降低信息资源共享的技术难度和成本,实现

统一化、权威化、多元化的数据标准,为后期的应用平台建设提供强

大基础。

结合图像识别、人工智能与深度学习等多种先进技术,面向具体

交通行业相关业务进行行业创新,推动广西交通管理行业的应用创新。

提升交通运输行业相关事件的自动化分析能力,提高交通行业监

管处置效率,同时通过数据分析能够更好的辅助领导决策。

3、预期环境效益分析

交通事件分析标准数据库的建设可以极大地改善广西交通行业

的投资环境,在产业聚集、吸引企业、吸引高端人才、促进招商引资

工作以及打造产业链等方面具有巨大作用,对促进企业的发展、社会

进步以及拉动产业的发展有着重大意义。

本项目对车辆影像分析技术进行测试,并根据评分标准进行科学

评估,优胜劣汰,减少不必要的相关设施建设,把控技术发展。

4、推广应用前景分析

本项目产生的测试数据集对行业的人工智能产品的发展会有非

常大的价值,具体可以体现在以下几个方面:

(1)测试数据集由交通运输行业的业主单位配合提供,是真正

的行业数据,这些数据普通的企事业单位无法直接获取到,将极大的

帮助面向交通运输行业开展人工智能产品和服务研发的企业,打破行

业数据壁垒,使企业可以集中精力研发更高水平的产品和服务。

(2)项目采集到数据和研发的测试流程、方法可以应用在人工

智能产品和服务招投标中,给投标产品一个客观、定量的一个数字化

评价,有利于公平公正的招投标。

(3)标准可以引导企业聚焦交通运输行业真正关注的事件,避

免企业闭门造车。

七、国内同类标准制修订情况及与法律法规、强制性标准关系

经查阅,与车辆影像分析测试与评分技术相关的标准主要有:

ISO/IECTR29119(en)Softwareandsystemsengineering—

Softwaretesting—Part11:Guidelinesonthetestingof

AI-basedsystems、GA802《机动车类型术语和定义》、GA/T1399.1

《公安视频图像分析系统第1部分:通用技术要求》、GA/T29100

《道路交通信息服务交通事件分类与编码》、GB/T30147《安防监

控视频实时智能分析设备技术要求》。

本标准的内容与现行的法律、法规及强制性标准无冲突,标准的

编写符合GB/T1.1—2020的要求。

八、重大分歧意见的处理经过和依据

本标准研制过程中无重大分歧意见。

九、自我承诺

本标准内容与各项指标不低于国家强制性标准、推荐性国家标准

和行业标准。

广西地方标准《车辆影像分析测试与评分技术标准》

标准编制工作小组

2021年12月21日

广西地方标准

《车辆影像分析测试与评分技术标准》

(征求意见稿)编制说明

一、项目来源

根据《广西壮族自治区交通运输厅关于下达2019年度广西交通

运输标准化项目计划的通知》(桂交科教函﹝2019﹞136号)文件和

《广西壮族自治区市场监督局关于下达2020年第二批广西地方标准

制定项目计划的通知》(桂市监函〔2020〕1832号)文件精神,由广

西壮族自治区交通运输厅提出,广西交科集团有限公司起草广西地方

标准《车辆影像分析测试与评分技术标准》(项目编号:2020-02088)。

二、项目背景及目的意义

最近几年人工智能在图像识别,语音识别,语义理解等方面突飞

猛进,在面对一些特定的任务时,已经展示出超出行业顶尖人类专家

的水平,比如在围棋竞技上,AlphaGo面对众多人类顶尖高手60连

胜,旷视,腾讯优图的人脸识别准确率达到了99.8%,这都已经超出

了训练有素的行业专家的水平。可以预见人工智能必将在接下去的一

段时间内渗透到各行各业,极大的提高行业的生产效率,改变行业现

有格局。在人工智能高速发展的后面,有两个关键的助推火箭,一个

是深度神经网络技术的突破,一个是移动互联网的发展使得数据量呈

现爆发式的增长。这两者的叠加,使得以前看来不可能的事情变成了

现实。

在中国目前没有公开可用的专门针对交通运输行业需求而设计

的图像和视频分析数据库,在已经开展的一些测试中也发现人工智能

产品在交通行业的适应性很差,一个重要的原因在于交通运输行业和

其他行业相比有非常大的不同,交通运输行业关注的重点在于公路/

铁路的路面状况的理解,交通事件的识别,隧道的保养和检查等等。

这些特殊

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论