人工智能产品伦理风险管理指南

人工智能产品伦理风险管理指南2规范性引用文件2<人工智能>对待特定对象、人员或群体时相较于其他实体）不出现系<人工智能>系统与利益相关方交流关于该系4人工智能产品伦理风险分析4.1数据层面风险分析息保护的问题；缺乏对数据层面的可追溯技术也会增加人4.2算法层面风险分析44.3应用管理层面风险分析机器在自我学习过程中输入了到数据的多维不同特征，而造成算法将偏见引入决策过程的算法歧视风责5人工智能产品伦理风险管理体系5.1概述如图1所示，通过对人工智能产品伦理风险进行分析和汇总，本文件给出了人工智能产品的伦理风a)相称性和不损害：在人工智能产品生存周期中，人工智能产品的相应预测结果或行为应不超出实现合法目的或目标所需的范围，不得对人类、人权和基本自由、个别社区和整个社会造成损b)可持续发展：在设计理念与实际应用中，人工智能产品宜充分考虑了其对环境和社会可持续发5.3公平性包括但不限于推出相应的页面与符合群体特征的应c)数据偏见控制：人工智能产品在设计阶段应考虑数据偏见问题，使所采用的数据集避免因数据处理者对文化、政策或历史因素的人类认知偏见而导致的非必要性数据偏见，或具备相关机制消除或减轻偏见；人工智能产品在统计意义上完备地代表了所面向的群体d)算法偏见控制：人工智能产品应具备算法偏见的控制机制，使得所应用的算法能面向全部群体61)应急机制：人工智能产品应具备足够的2)应停机制：人工智能产品宜具备相应机制能够确保用户在人工智能产品失控时及时、有效b)韧性：除在极端特殊环境或条件下部署、运行才能复现结果或者可复现性较低时，人工智能产品应具备适当的韧性设计和机制，能够在给定的条件或环境下快速恢复产品的运行功能，输出稳定、相似的运行结果，并对可能的负面影响进行评估并具备c)功能安全：在人工智能产品生存周期中，人工智能产品应在数据、算法、软件代码、基础硬件等层面符合相关信息安全国家标准的要求，以实现人工智能产品的可用性、完整性和a)保障个人信息：人工智能产品应在收集、使用用户个人信息的过程中始终具有合法性、正当性泄露或其他非法行为利用；人工智能产品应提供有效渠道让用户来行使对其个人信息的合法权利，设计开放相关机制让用户管理授权的个人信息与撤销对服b)保障个人权益：人工智能产品应在收集、使用、处理个人信息时符合个人信息保护相关法律法规，保障用户的知情权、并充分征得用户的明示同意；人工智能产品应在收集、使用用户个人5.6监督和决策a)保障自主决策权：人工智能产品应具有充分措施和机制避免使用户对其产生过度依赖、上瘾或b)防止人为滥用：人工智能产品在设计阶段应考虑防止人为滥用的设计，尊重用户不使用人工智5.7透明可解释b)风险监测：人工智能产品应建立风险监测机制，如提供其所做决策的依据标准，平均准确率和c)异常定位：人工智能产品应具有足够透明度，使得出现异常时，能使开发人员或用户理解人工d)可理解性：人工智能产品应提供清晰、易懂、充分的解释，使得做出用户充分理解针对其做出e)可预测性：人工智能产品应考虑采用相关机制提高自身行为的可预测性，帮助相关的开发维护5.8责任和问责a)责任界定：人工智能产品应具备相关机制在b)例外界定机制：针对人工智能产品在设计、开发、部署、运行过程中产生的监管规定未涉及的c)责任组织架构：人工智能产品开发方应明确伦理相关的负责人进行监管、处理人工智能d)可追溯性：在人工智能产品生存周期中，人工智能产品应具备相关机制实现对输出结果背后的8[1]《新一代人工智能伦理规范》，中华人民共和国科学技[3]《人工智能伦理问题建议书》，联合国教科文[4]RecommendationoftheCouncilonArtificialIntelligence,OECDLegalInstruments[5]EthicsGuidelinesForTrustworthyAI,AIHLEG[6]Frameworkofethicalaspectsofartificialintelligence,roboticsandrelatedtechnologies,European[7]GB/T25069—2022《信息安全[8]GB/TXXXXX-XXXX《信息技术人工智能术语》（报批稿）[9]ISO/IEC22989:2022Informationtechnology—Artificialintelligence—Artificialintelligenceconcepts[10]ISO/IECTR24027:2021Informationtechnology—Artificial