ISO∕IEC 42001-2023人工智能管理体系之16：“8 运行-8.2∕8.3 人工智能风险评估∕人工智能风险应对”解读、实施流程和风险描述(雷泽佳编制-2024)

“8运行-8.2∕8.3人工智能风险评估∕人工智能风险应对”解读、实施流程和风险描述ISO∕IEC42001-2023《信息技术-人工智能管理体系》之16：“8运行-8.2∕8.3人工智能风险评估∕人工智能风险应对”解读、实施流程和风险描述(雷泽佳编制，2024年9月)第1部分：“8.2∕8.3人工智能风险评估∕人工智能风险应对”解读“8.2∕8.3人工智能风险评估∕人工智能风险应对”条文“8.2∕8.3人工智能风险评估∕人工智能风险应对”标准条文解读8.2人工智能风险评估组织应按照6.1.2的规定策划的时间间隔内或在提出重大变更时，进行人工智能风险评估。人工智能风险评估的触发条件按照“6.1.2人工智能风险评估”策划的时间间隔进行定期评估：策划人工智能风险评估时间间隔考虑因素：的“策划的时间间隔”并非随意设定，而是需要基于科学、合理的考量来确定，以确保风险评估的有效性和及时性风险评估频率与组织特性相匹配：根据组织的规模、人工智能系统的复杂性、业务环境的不确定性等因素进行策划。对于规模较大、系统复杂、环境变化快的组织，可能需要更频繁的风险评估来及时捕捉潜在风险；相关法规和行业标准的要求：不同国家和地区对人工智能系统的监管要求可能存在差异，组织应确保风险评估的时间间隔符合当地的法律、法规及行业标准；组织可以基于过去的风险管理历史数据，通过趋势分析来确定风险评估的合理频率：如果历史数据显示风险评估后系统风险显著降低，且长时间内保持稳定，那么可以适当延长评估间隔；反之，如果风险频发或系统环境频繁变化，则应缩短评估间隔；组织在风险评估上的资源投入与成本效益：过于频繁的风险评估可能增加组织负担，而过长的评估间隔则可能错过关键风险。因此，组织应在资源投入与风险评估效果之间找到平衡点，确保成本效益最大化。策划的时间间隔可能是固定的，比如每年一次或每季度一次，具体取决于组织的风险管理策略、系统复杂性以及相关法律法规的要求。通过定期的风险评估，组织可以确保持续监视并管理其人工智能系统中的风险。定期的人工智能风险评估；月度/季度评估：对于高风险领域或快速迭代的人工智能系统，组织可能会选择每月或每季度进行一次风险评估。这种高频次的评估有助于及时发现并应对潜在风险；半年度/年度评估：对于风险较低或相对稳定的人工智能系统，组织可能会选择每半年或每年进行一次全面评估。这种评估周期在保证系统安全的同时，也考虑了资源的高效利用。与业务周期同步的人工智能风险评估：与项目周期匹配：有些组织会将人工智能风险评估与项目的关键阶段（如需求确认、系统设计、系统测试等）同步进行，以确保风险评估能够紧密围绕项目生命周期展开；年度业务规划：将人工智能风险评估纳入组织的年度业务规划中，根据年度目标和业务战略确定评估的重点和频率。在发生以下重大变更时的即时评估：算法与模型的更新：当人工智能系统中使用的算法或模型发生重要更新时，其性能、决策逻辑和潜在风险都可能发生变化。因此，更新后的算法或模型需要重新进行风险评估，以确保其符合组织的业务目标和风险管理策略；数据集的更换或重大修改：数据是人工智能系统决策的基础，数据集的更换或重大修改会直接影响系统的输出和性能。因此，当数据集的来源、格式、质量或覆盖范围发生显著变化时，组织需要重新评估这些变化对系统稳定性和安全性的影响；系统架构的重构：人工智能系统的架构重构可能涉及组件的重新排列、新增或删除，以及交互方式的改变。这些变化可能引入新的风险点或改变现有风险的影响程度，因此需要进行全面的风险评估；业务需求的重大变化：业务需求的变化可能要求人工智能系统具备新的功能或达到更高的性能指标。在调整系统以满足这些新需求之前，组织应评估这些变化对系统稳定性和安全性的影响，确保系统能够满足业务目标的同时，也符合风险管理要求；法律法规与政策的更新：人工智能领域的法律法规和政策不断更新，可能会对系统的合规性产生影响。当相关法规或政策发生变化时，组织需要评估这些变化对系统的影响，并采取相应的合规措施；安全事件的响应与修复：在发生安全事件后，组织需要迅速响应并修复漏洞，以防止进一步的风险。在此过程中，对修复后的系统进行风险评估是确保系统安全性的重要步骤。组织应保留所有人工智能风险评估结果的成文信息。保留所有人工智能风险评估结果的成文信息。组织在进行人工智能系统影响评估后，通常需要保留以下成文信息：影响评估报告；概述：简要介绍评估的目的、范围、方法和关键发现；评估详细过程：包括数据收集与分析方法、关键假设、使用的工具和技术等；影响分析结果：具体说明人工智能系统对个人、社会、经济、环境等各方面可能产生的正面和负面影响；风险评估：识别并量化潜在的风险，包括风险的可能性、严重性和影响范围；缓解措施：针对识别出的风险提出的缓解策略、行动计划和责任分配。影响评估数据记录；原始数据：包括用于评估的所有原始数据、调查问卷、访谈记录等；处理后的数据：经过清洗、整理和分析的数据集，用于支持评估结论；数据字典：解释数据集中各个字段的含义、来源和单位等信息。评估方法和工具；方法论描述：详细解释所采用的评估方法、模型、算法等；工具使用说明：介绍评估过程中使用的软件、平台或工具的名称、版本和功能。相关方反馈；相关方列表：列出所有参与评估的相关方及其角色；反馈意见汇总：收集并整理相关方对评估报告和初步发现的反馈意见。决策文档；决策记录：记录关于如何解读评估结果、做出决策的过程和依据；批准文件：包括决策被批准的文件、日期和批准人签名。后续行动计划；行动清单：列出所有需要采取的行动项，包括责任人、截止日期和期望成果；监视和评审计划：说明如何监视进展、评估效果并进行必要的调整。合规性证明；法律法规符合性：证明评估过程和结果符合相关法律法规要求的文件；行业标准符合性：提供符合行业标准或最佳实践的证据。版本控制记录。修订历史：记录评估报告和相关文件的修订历史，包括每次修订的内容、时间和原因；当前版本状态：明确标识当前正在使用的评估报告版本及其状态。8.3人工智能风险应对组织应按6.1.3实施人工智能风险应对计划，并验证其有效性。实施并验证人工智能风险应对计划；风险应对计划的实施：按“6.1.3人工智能风险应对”条款实施人工智能风险应对计划。明确风险应对计划：组织应基于6.1.2条款中的风险评估结果，明确需要应对的具体风险及其潜在影响，制定详细的风险应对计划。计划应涵盖风险评估结果、风险应对措施、责任分配、时间表等要素；资源保障：确保实施风险应对计划所需的资源（如人力、物力、财力）充足，并根据计划分配给相关部门和人员；执行与监视：按照计划逐步执行各项应对措施，并建立监视机制，跟踪应对措施的执行进度和效果，确保按计划顺利推进。沟通与协作：加强内部沟通与协作，确保各相关部门和人员充分了解风险应对计划，并在执行过程中保持信息畅通，协同作战。验证人工智能风险应对计划的有效性。验证过程旨在确保所采取的风险应对措施能够达到预期效果，有效降低或消除风险；验证方法可能包括定期评审风险应对计划的执行情况、收集反馈意见、进行模拟测试等；建立验证标准：基于风险评估结果和应对措施的预期目标，建立验证风险应对计划有效性的具体标准，包括风险降低程度、影响范围控制等方面。收集证据：通过定期评审、数据分析、用户反馈等方式，收集风险应对计划执行过程中的相关证据，评估其实际效果。对比分析：将实际效果与预期目标进行对比分析，评估风险应对计划的达成情况，识别可能存在的问题和偏差。进行模拟测试：通过构建模拟环境，模拟真实世界中可能遇到的风险场景，测试风险应对计划在实际操作中的有效性和可行性。模拟测试可以帮助发现潜在的问题和漏洞，并验证应对措施的适应性和稳定性。持续优化：根据验证结果，发现并纠正计划中可能存在的问题，及时调整和优化风险应对计划，确保其持续有效。同时，总当风险评估识别出需要应对的新风险时，应对这些风险执行6.1.3的风险应对过程。新风险识别与风险应对过程的执行；新风险识别的重要性；在人工智能管理体系中，持续的风险评估是确保组织能够及时识别新风险的关键步骤。新风险可能来源于外部环境的变化、内部系统的更新、新技术或算法的应用等多个方面。组织必须建立有效的风险评估机制，以便在第一时间发现并识别出这些新风险。应对这些风险执行“6.1.3人工智能风险应对”的风险应对过程。一旦新风险被识别出来，组织应立即启动并执行“6.1.3人工智能风险应对”过程。该过程包括对新风险进行详细的分析和评价，制定针对性的应对措施，明确责任人和时间表，确保应对措施的有效实施。该过程旨在通过科学的方法和流程，最大限度地降低新风险对组织的影响。当风险应对计划确定的风险应对方案无效时，应按照6.1.3的风险应对过程对这些风险应对方案进行评审和重新验证，并更新风险应对计划。无效风险应对方案的评审与风险应对计划的更新；识别无效风险应对方案；在执行风险应对计划过程中，组织应持续监控风险应对方案的有效性。如果发现某个风险应对方案未能有效控制风险或降低风险影响，需及时识别其为无效方案；启动风险应对评审过程；一旦发现风险应对方案无效，组织应立即启动“6.1.3人工智能风险应对”中规定的评审过程。这一过程包括重新审视风险评估结果、分析方案失败的原因、评估现有方案的有效性等步骤。对这些风险应对方案进行评审和重新验证；在评审过程中，组织需对无效的风险应对方案进行重新验证。这可能包括测试新策略、调整方案参数或完全替换现有方案。通过反复测试和验证，确保新方案能够有效控制风险。更新风险应对计划；根据评审和重新验证的结果，组织需对风险应对计划进行相应的更新。这包括调整风险应对策略、修改风险应对措施、明确责任人和时间表等。更新后的风险应对计划应更加贴合组织当前面临的风险状况。确保风险应对计划的持续有效性。更新后的风险应对计划需经过严格评审，确保其科学性和可操作性。同时，组织应建立机制定期回顾和更新风险应对计划，以应对不断变化的风险环境。通过持续改进和优化风险应对计划，确保其在组织中的持续有效性。组织应保留所有人工智能风险应对结果的成文信息。组织应保留的所有人工智能风险应对结果的成文信息。风险应对计划；风险应对计划的详细文档，包括风险识别、评估、应对措施及其实施方案；计划中明确的风险应对策略、目标、责任分配和时间表。风险评估报告；风险评估的原始数据和评估方法说明。评估结果及其分析，包括识别的风险类型、概率、影响程度及优先级排序。新风险识别记录；在风险评估过程中新识别的风险及其描述；针对新风险的初步评估结果和初步应对措施。风险应对过程记录；执行风险应对计划过程中的所有活动和操作记录；任何风险应对活动的变更或调整记录，包括变更原因、时间、实施人员等。风险应对方案评审和重新验证记录；当风险应对方案无效时，对方案进行评审和重新验证的详细记录；评审过程中发现的问题、分析结论及改进建议；重新验证过程中采用的测试方法、测试数据及验证结果。风险应对计划更新记录；根据评审和重新验证结果对风险应对计划进行更新的详细记录；更新后的风险应对策略、措施、时间表及责任分配。风险应对结果验证报告；对实施风险应对计划后的效果进行验证的报告；验证方法、验证标准及验证结果，包括风险是否得到有效控制、剩余风险等。相关方沟通与协作记录；在风险应对过程中与相关方（如供应商、客户、监管机构等）的沟通记录；协作过程中达成的共识、决策及实施情况记录。持续改进记录。基于风险应对结果和经验教训，对风险管理体系进行持续改进的记录；改进措施的提出、实施、效果评估及后续跟踪记录。第2部分：“8.2∕8.3人工智能风险评估∕人工智能风险应对”流程控制表一级流程二级流程流程节点控制要点所期望的输出人工智能风险评估策划评估周期参考业务策略、法规要求、技术更新频率等因素设定评估周期确保评估周期与风险级别相匹配定期评估计划文档识别重大变更建立变更监控机制设定变更报告流程在变更实施前进行风险评估重大变更记录及风险评估报告执行风险评估使用适用的风险评估方法和工具评估风险的影响和可能性记录评估结果，包括发现的风险、评级及建议措施风险评估报告及建议措施清单保留评估结果成文信息确保评估日期、评估人员、评估方法、发现的风险及评级、建议措施等信息完整记录按照文件管理规定保存评估结果风险评估成文信息档案人工智能风险应对制定风险应对计划明确风险应对策略和措施分配职责和资源设定实施时间表和监控机制风险应对计划文档实施风险应对计划监督应对措施的实施进度确保所有相关方按照计划行动定期评审实施效果风险应对实施记录及效果评审报告验证风险应对计划有效性收集和分析风险发生数据对比应对措施实施前后的风险水平收集用户反馈进行满意度调查风险应对有效性验证报告及用户反馈汇总新风险识别与应对定期回顾风险评估结果对新识别的风险执行风险应对过程必要时更新风险应对计划新风险识别报告及更新后的风险应对计划评审与更新风险应对方案组织专家评审会议重新验证风险应对方案的可行性根据评审结果更新风险应对计划更新后的风险应对计划文档及评审会议纪要保留风险应对结果成文信息记录风险应对过程中的关键活动、决策及实施效果按照文件管理规定保存风险应对结果成文信息风险应对结果成文信息档案第3部分：“8.2∕8.3人工智能风险评估∕人工智能风险应对”过程风险清单一级流程二级流程风险描述（风险源、过程运行可能发生什么并产生什么后果及其对实现业务流程目标产生的影响）人工智能风险评估策划评估周期风险源：评估周期设定不合理或未及时更新后果：未能及时发现和应对新出现的风险，导致管理滞后对目标实现的影响：降低风险评估的及时性和有效性，影响组织对潜在风险的应对能力识别重大变更风险源：未能准确识别重大变更，或变更信息滞后后果：忽略重要变更，导致风险评估不全面对目标实现的影响：评估结果偏离实际情况，增加潜在风险未被识别的可能性执行风险评估风险源