2024人工智能安全标准与风险评估预警

目录 31.1 41.1.1 41.1.2 51. 52. 61.1.3ISO/IECJTC1 81.1.4ITU-T 101.1.5IEEE 101.1.6NIST 121.1.7 121.1.8 151. 152. 183. 234. 245. 256. 257. 258. 261.2 271.2.1 271.2.2 281. 282. 283. 291.2.3 301. 302. 313. 324. 345. 36 401.3 421.3.1 421.3.2 441.4 45利和义务，只是对生产、管理、服务的技术性要求，体现科学性、合理性及使用的灵活性1。在科技发展日新月异的当下，社会情况不断变化，法律也要随之变动，但修订制理效果。[2]标准的重要性，为抢占新一轮科技制高点，纷纷出台相关政策，加快完善标准化建设3。我国于2017年5月份发布《互联网人工智能三年行动实施方案》，提出要加强建设人工智能领域融合标准规范体系。2017年7月，国务院发布《新一代人工智能发展规划》，其中提到标准多达24次，并明确指出要加强人工智能标准框架体系研究，逐步建立并完善人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准。切实加强人工智能安全标准化工作，是保障人工智能安全发展的必由之路。准化组织/国际电工委员会第一联合技术委员会（ISO/IECJTC1）、国际电信联盟电信标2017年10月，ISO/IECJTC1在俄罗斯召开会议，决定成立人工智能分技术委员会SC42，负责人工智能标准化工作，SC42建立了基础标准（FoundationalStandards）、计算方法（opuonlhod）、可信赖（uohn）、社会关注（olonn）4个工作组，并将C19（大数据工作组）归入42。2017年，发布E7000系列标准，共14系统软件收集个人信息的伦理问题、消除算法负偏差、儿童和学生数据安全、人工智能代理等；和已组织研制人工智能应用安全相关标准。工智能监管测试框架和工具集——A.I.Verify，旨在融合测试和过程检查，提升企业和相径》，指导美国国防部实现其可信人工智能（）生态系统建设的目标；其是2020年制能伦理审查。（2019版）2020年3月，全国信息技术标准化技术委员会（SAC/TC28，与ISO/IECJTC1对口）下设人工智能分技术委员会（SAC/TC28/SC42，与ISO/IECJTC1/SC42对口），负责人工智作。除此之外，SAC/TC28开展了人机交互、生物特征识别、计算机视觉等人工智能相关领域的标准化工作。用户界面分技术委员会（SAC/TC28/SC35）在人机交互领域开展智用和高效的人工智能安全标准对建立产业生态和攻克产业瓶颈来说非常关键，可以通特点。不成熟，以及存在由恶意应用导致的安全风险，本质上属于人工智能的技术短板，如模型缺陷、算法不可解释性、数据强依赖性等，是限制人工智能发展最明显的软肋。算法突破是人工智能行业发展的基石和热点。中国信息通信研究院于2018安全白皮书》指出，算法安全是人工智能六大安全风险之一，同时认为对抗样本攻击诱使算法识别出现误判漏判这一算法模型缺陷是算法安全的重要风险项。品或服务评估标准及深度学习算法的可靠性评估标准，主要包括T/CESA1039—2019《信ISO/IECJTC1ISO/IECJTC1目前涉及人工智能安全标准的研究组主要是于1990年成立的信息安全、网络安全和隐私保护分技术委员会（SC27）及于2018年成立的人工智能分技术委员会（SC42）。SC42下设基础工作组（WG1）（1）、可信研究组（2）、用例与应用研究组（3），重点在人工智能术语、参展人工智能安全标准研究。C28C42研制标准如表81所示。除此之外，2021年4月，C27全会批准立项新标准研究项目——解决人工智能中的安全威胁和故障指南。表8-1SAC/TC28/SC42（续表ITU-T织于2017年、2018年分别组织了两次“AIforGoodGlobal”峰会，重点关注确保人工智能技IEEE是世界上最大的非营利性专业技术学会，致力于电气、电子、计算机工程及与科学900多项行业标准，现已成为具有较大影响力的国际学术组织。开展了多项人工智能伦理道德研究，发布了多项人工智能伦理标准和研究报告。2017年年底，在优先地位的愿景（第二版）》，收集了250多名在全球从事人工智能、法律伦理、哲学、政策相关工作的专家对人工智能及自主系统领域的问题见解及建议。表8-2IEEEP7000（续表NIST见》，概述了多项有助于美国政府推动使用人工智能的举措，并列出了一些指导原则（些原则可为未来的技术标准制定提供指导）；估人工智能系统质量的技术工具（这些工具包括标准化的测试机制和强大的绩效指标可让政府更好地了解各系统，并确定如何制定有效的标准。建议专注于理解人工智控和缓解风险等人工智能风险管理；研究人工智能的设计、开发和使用的信任需求和方法；通过人工智能挑战问题和测试平台促进创造性的问题解决等。表8-3TC260（续表基于人工智能模块，可以从8个维度[6]表8-4（续表（续表表8-5（续表[8]（GB/T37988—2019）为例，其给出了图8-1图8-2据场景建模》《系统数据安全基本情况调研》《安全能力调研表》《系统评估表》等。其中，对4个安全能力的评估方法如下。①组织建设：评估是否具有开展工作的专职兼职岗位、团队或人员，其工作职责是否通过规范要求或其他手段得到了确认和经过了专业的技能和安全意识教育培训。表8-6术等制定的安全标准。人工智能技术和系统类安全标准ISO/IECTR24372《人工智能系统计算方法概述》、IEEEP7001《自治系统的透明度》、IEEEP7009《自主和半自主系统的则，PartnershiponAI、百度、谷歌、微软等共同探索人工智能行业伦理标准，IEEE发布IEEEP7000《在系统设计中处理伦理问题的模型过程》、IEEEP7002《数据隐私处理》、IEEEP7007《伦理驱动的机器人和自动化系统的本体标准》、IEEEP7008《机器人、智能与自主系统中伦理驱动的助推标准》、IEEEP7010《合乎伦理的人工智能与自主系统的福腾讯研究院和腾讯AILab联合研究形成的人工智能伦理报告《智能时代的技术伦理观——年发布的AIOSS—01—2018ISO/IEC23894ISO/IEC38507《信息技术IT驾驶、智能门锁、智能音箱、智慧风控、智慧客服等领域的标准。除表83提到的标准体系外，人工智能应用层安全标准和规范如表87所示。表8-7（续表性[9]。1901年，美国学者威雷特提出风险是不希望发生的不确定性的客观体现。1921负面影响最小化。安全风险评估（kn，）是指应用安全系统工程的原理和方法，辨识与分析系统中的危险有害因素，评估事故发生的可能性及其严重程度，并对安全风险进行综合评估，得出评估报告。故障树分析（FaultTreeAnalysis，FAT）法：遵循从结果中找原因的原则，将风险定量的风险评估方法12是对系统风险的各要素进行赋值，对指标进行量化，进而得到系法、模糊综合评价法、决策树法。层次分析（AnalyticHierarchyProcess，AHP）法：一种能有效且灵活地处理不易定模糊综合评价法（FuzzyComprehensiveEvaluationMethod，FCEM）：基于模糊数决策树（DecisionTree，DT）法：利用概率论原理和树形图作为分析工具的决策方构建评估指标体系的方法主要有头脑风暴法（BrainStorming法，又称BS法）（Delphi）法、层次分析法、综合法（SynthesisMethod）（StepwiseRegression）和人机互动等因素都会引发人工智能风险。我国发布的AIOSS—01—2018度学习算法评估规范》、ISO/IEC13335GB/T20984—2007箱”表8-8（续表ISO/IEC13335GB/T20984—2007图8-3表8-95表8-10▼表8-11▼表8-12▼表8-13▼表8-14步骤2步骤3步骤4表8-15

表8-16人工智能安全风险评估因素各层次权重可信度分析法、事件树分析法、概率神经网络、神经网络等。这些方法推动着人工智能安全风险预警的发展，为人工智能行业的稳定、可持续发展奠定了良好的安全保障。的主观性、经验性。证据及推理规则的不确定性都用可信度因子CF（Certainty