ISO∕IEC 42001-2023人工智能管理体系之18：“9 绩效评价-9.1 监视、测量、分析和评价”解读、实施流程和风险描述(雷泽佳编制-2024)

“9绩效评价-9.1监视、测量、分析和评价”解读、实施流程和风险描述ISO∕IEC42001-2023《信息技术-人工智能管理体系》之18：“9绩效评价-9.1监视、测量、分析和评价”解读、实施流程和风险描述(雷泽佳编制，2024年9月)第1部分：“9.1监视、测量、分析和评价”解读“9.1监视、测量、分析和评价”条文“9.1监视、测量、分析和评价”标准条文解读9绩效评价9.1监视、测量、分析和评价监视、测量、分析和评价的定义；监视：确定体系、过程或活动的状态。监视通常涉及实时跟踪和检查系统、过程或活动的运行状况，以确保它们按照预定的标准和要求执行；实时性：监视是持续进行的，能够及时反映系统或过程的当前状态，有助于快速响应问题或异常；状态确认：通过定期或连续的检查，确认体系、过程或活动是否处于受控状态，是否满足既定的性能指标和要求；预防与纠正：监视活动有助于预防潜在问题的发生，并在问题出现时迅速进行纠正，确保系统的稳定性和可靠性；管理决策支持：监视结果为管理决策提供了实时、准确的数据支持，有助于管理层及时调整策略和资源配置。测量：确定数值的过程。测量通常涉及对体系、过程或活动的特定属性、性能、状态或结果进行量化评估，以产生具体、可比较的数值结果；量化评估：测量将抽象的性能、状态等转化为具体的数值，便于理解和比较；准确性：测量结果需要具备足够的准确性，以反映真实情况，避免误导决策；可重复性：测量过程应具有可重复性，确保在不同时间、不同操作者条件下，测量结果保持一致；基准比较：测量结果可用于与历史数据或其他标准进行比较，评估系统或过程的改进情况和性能变化趋势。分析：指对监视和测量所获得的数据进行深入研究和解释的过程，旨在揭示数据背后的规律、趋势、问题或机会；数据挖掘：通过分析，可以从大量数据中提取有价值的信息，为决策提供支持；问题识别：分析过程有助于发现系统或过程中存在的问题、异常或风险点；趋势预测：基于历史数据，分析可以预测系统或过程的未来发展趋势，为战略规划提供依据；优化建议：通过分析结果，可以提出针对性的改进建议，推动系统或过程的持续优化。评价：指对人工智能体系、过程或活动的绩效和有效性进行综合评估的过程。这一过程旨在衡量体系或过程是否达到预期目标，是否具备高效性、可靠性和适应性。多维度评估：评价应涵盖系统或过程的多个方面，如性能、成本、质量、安全性等，以全面反映其整体状况；目标对比：将实际结果与预期目标进行对比，评估系统或过程是否达到预期效果；持续改进：基于评价结果，提出改进方向和措施，推动系统或过程的持续优化和升级；决策支持：评价结果为管理层提供了重要的决策依据，有助于制定更加科学、合理的战略规划和管理措施。组织应确定：——需要监视和测量什么；——需要用什么方法进行监视、测量、分析和评价，以确保结果有效；——何时实施监视和测量；——何时对监视和测量的结果进行分析和评价。组织应确定：需要监视和测量什么（确定监视与测量的对象）；确定监视对象：组织需要监视的对象应全面覆盖关键绩效领域，以确保系统的稳定运行和持续优化。监视对象包括但不限于：系统性能：评估人工智能系统处理能力的关键指标。通过监视响应时间、吞吐量、并发处理能力等，组织可以实时了解系统的负载能力和响应速度，从而判断系统是否能够满足业务需求。；数据安全与隐私：通过监视数据访问、加密状态、安全漏洞修复情况，组织可以确保用户数据的安全性，防止数据泄露和非法访问；用户行为：分析用户使用模式和反馈频率有助于组织了解用户需求和偏好，从而优化用户体验和界面设计。通过监视用户行为，组织可以更加精准地定位问题并改进产品；资源利用率：CPU、内存、存储等资源的占用情况是评估系统成本效益的重要指标。通过监视资源利用率，组织可以避免资源瓶颈影响系统性能，并优化资源配置以提高整体效率；错误与异常：系统日志中的错误记录和异常行为是诊断系统问题的重要依据。通过监视这些异常信息，组织可以及时发现并解决潜在问题，避免故障扩大化；合规性状态：监控是否符合行业法规、隐私政策等是确保业务合规的重要手段。通过持续监视合规性状态，组织可以降低法律风险并维护良好的企业形象。确定测量对象：测量对象应具备可量化性，以便进行精确的数据分析和性能评估。组织在人工智能系统中需要测量的对象包括但不限于：模型准确率：模型准确率是衡量人工智能模型效果的核心指标之一。通过交叉验证等方法，可以全面评估模型在不同数据集上的预测能力，确保模型的泛化性能；训练与推理时间：训练时间和推理时间是影响人工智能系统效率的关键因素。通过精确测量这两个指标，组织可以识别出模型训练过程中的瓶颈，并采取相应的优化措施，如调整模型结构、优化算法参数等，以提升系统的整体性能；资源消耗：CPU使用率、内存占用、能耗等资源消耗指标是衡量人工智能系统成本效益的重要依据。通过精确测量这些指标，组织可以全面了解系统在运行过程中的资源需求，从而制定合理的资源配置策略，降低运行成本，提升系统的经济效益；用户满意度：用户满意度是衡量人工智能系统用户体验的重要量化指标。通过问卷调查、评分系统等方式收集用户反馈，组织可以及时了解用户需求和使用体验，为产品的持续优化提供有力支持。这不仅有助于提升用户满意度和忠诚度，还能增强产品的市场竞争力；算法效率：针对不同算法的性能指标进行测量，如收敛速度、计算复杂度等，可以全面评估算法的效率和稳定性。这有助于组织在选择和使用算法时做出更加明智的决策，从而提升人工智能系统的整体性能和应用效果等；业务指标：业务指标如收入、利润、用户增长等是评估人工智能系统对业务直接贡献的关键量化指标。通过定期监测这些指标的变化情况，组织可以全面了解人工智能系统在实际应用中的效果和价值，从而制定合理的业务发展战略和市场拓展计划。需要用什么方法进行监视、测量、分析和评价，以确保结果有效（确定监视、测量、分析和评价的方法）；监视方法包括但不限于：日志分析：通过分析人工智能系统生成的日志文件，监控系统的运行状态、错误信息和用户行为；实时监控工具：利用专门的实时监控工具，对人工智能系统的关键性能指标进行实时追踪和展示，如响应时间、吞吐量等；用户界面监控：监控人工智能系统的用户界面交互情况，确保用户操作流畅无阻，并及时发现界面异常；安全监控：针对人工智能系统的安全性进行持续监控，包括检测潜在的安全威胁、未授权访问等。测量方法包括但不限于：性能基准测试：通过预设的性能基准测试用例，测量人工智能系统在处理特定任务时的性能表现；资源消耗测量：监控并测量人工智能系统在运行过程中的CPU、内存、磁盘I/O等资源消耗情况；预测准确率评估：对于分类、预测等任务，使用交叉验证等方法评估模型的预测准确率；响应时间测量：测量人工智能系统对用户请求或输入的响应时间，确保系统响应速度满足业务需求。分析方法包括但不限于：统计分析：运用统计学方法对收集到的数据进行处理和分析，识别数据中的模式和趋势；因果分析：探讨人工智能系统性能变化的原因，识别影响系统性能的关键因素；根因分析：在系统出现故障或性能下降时，进行深入分析以找到问题的根本原因；A/B测试：通过对比不同配置或算法下的系统性能，评估不同方案的效果。评价方法包括但不限于：业务影响评估：评估人工智能系统对组织业务目标的影响程度，判断其是否满足业务需求；用户满意度调查：通过问卷调查等方式收集用户对人工智能系统的满意度和反馈意见；性能基准对比：将人工智能系统的性能与行业标准或竞争对手进行对比评价；持续改进评估：定期评估人工智能系统在持续改进方面的表现，确保其不断优化和提升。何时实施监视和测量（确定实施监视和测量的时机）；实施监视的时机包括但不限于：定期监视：根据预设的时间表（如每日、每周、每月）定期对人工智能系统进行监视，以评估系统的稳定性和性能表现；事件触发监视：在特定事件发生时（如系统报警、异常指标触发、用户反馈问题）立即启动监视，以快速响应并定位问题。变更后的监视：在人工智能系统或相关基础设施发生变更（如软件升级、配置调整、新增功能）后，进行额外的监视以验证变更的效果并确保系统稳定运行；业务需求驱动监视：根据业务需求的变化，灵活调整监视的频率和重点，确保监视活动与业务目标保持一致。何时对监视和测量的结果进行分析和评价。实施测量的时机包括但不限于：项目启动阶段：在项目或系统开发的初期进行测量，以建立性能基准和评估系统设计的有效性；迭代开发与测试：在敏捷开发过程中，每个迭代结束时进行测量，以评估迭代成果并指导下一步的开发方向；系统部署前后：在系统部署前进行全面的性能测量，确保系统满足预期性能要求；部署后持续测量以监控系统性能变化；性能调优：在发现系统性能瓶颈或需要进行性能优化时，进行针对性的测量以定位问题并提供优化依据；合规性评估：根据行业法规和标准的要求，在特定时间点进行测量以确保人工智能系统的合规性。何时对监视和测量的结果进行分析和评价（确定对监视和测量的结果进行分析和评价的时机）。何时对监视和测量的结果进行分析；定期分析：根据预设的时间表（如每季度、每年度）定期对监视和测量的结果进行分析，以评估人工智能系统的长期性能和稳定性趋势。这种定期分析有助于识别潜在的问题和改进机会；即时分析：在特定事件发生时（如系统故障、性能异常、安全事件等），立即对相关的监视和测量结果进行分析，以便快速响应并解决问题。这种即时分析对于确保系统的即时稳定性和安全性至关重要；项目关键节点分析：在人工智能项目的关键节点（如设计评审、开发完成、测试结束等）对监视和测量的结果进行深入分析，以评估项目进展和成果是否符合预期，并指导下一步工作；业务需求变化时分析：当业务需求发生变化时，重新分析监视和测量的结果，以确保人工智能系统的性能和服务水平仍能满足新的业务要求。何时对监视和测量的结果进行评价；项目结束时评价：在人工智能项目结束时，对监视和测量的结果进行综合评价，以评估项目整体的成功程度，包括性能、安全性、稳定性等方面；人工智能管理体系审核时评价：在进行人工智能人工智能管理体系的内部审核或外部认证时，对监视和测量的结果进行评价，以验证人工智能管理体系的有效性和合规性；持续改进过程中评价：在人工智能系统的持续改进过程中，定期对监视和测量的结果进行评价，以识别改进的机会和潜力，为制定新的改进计划提供依据；重大变更前后评价：在人工智能系统发生重大变更（如技术架构调整、业务流程重组等）前后，对监视和测量的结果进行评价，以评估变更对系统性能和服务水平的影响，并制定相应的应对措施。成文信息应作为结果证据可获取。监视、测量、分析和评价成文信息应作为结果证据可获取；监视和测量计划；监视和测量对象清单：明确列出所有需要监视和测量的关键指标、过程和活动；方法和工具：描述用于执行监视和测量的具体方法、技术和工具；实施时间表：制定详细的实施时间表，包括定期监视和测量的频率及特定事件的触发条件。监视和测量记录；数据收集表：记录每次监视和测量活动的具体数据，包括时间、指标值、环境条件等；事件日志：记录任何与监视和测量活动相关的事件，特别是异常情况、故障和潜在的风险点；系统状态报告：定期生成的系统性能、安全状态和合规性报告。分析和评价报告；定期分析报告：根据预设的时间表生成的分析报告，包括趋势分析、问题识别和改进建议；即时分析报告：针对特定事件或异常情况生成的即时分析报告，强调问题的紧迫性和解决方案；绩效对比报告：将当前绩效与设定目标、历史绩效或行业标准进行对比，评估改进空间和成效。绩效和有效性评价绩效指标报告：包含关键绩效指标（KPIs）的详细报告，如准确性、效率、用户满意度等；有效性评价报告：全面评价人工智能管理体系在达成组织目标、满足法规要求和提升业务绩效方面的有效性；改进计划：基于分析和评价结果制定的具体改进计划和行动项。组织应评价人工智能管理体系的绩效和有效性。评价人工智能管理体系的绩效；规定绩效指标：组织应明确并规定一系列可量化的绩效指标，这些指标应能够全面反映人工智能管理体系在运行过程中的表现。这些指标可以包括人工智能系统的准确性、处理速度、资源利用率、用户满意度等；数据收集与分析：通过持续监视和测量活动，收集与绩效指标相关的数据。利用统计分析工具和方法，对这些数据进行分析，以评估人工智能管理体系的实际表现是否达到预期目标；绩效评价周期：根据组织的需求和实际情况，设定绩效评价的周期。可以是定期的（如每季度、每年）或根据特定事件触发的即时评价；绩效评价报告：根据分析结果，编写绩效评价报告，总结绩效表现，识别存在的问题和改进机会，并提出相应的改进措施。评价人工智能管理体系的有效性。对比策划与结果：将人工智能管理体系的实际运行结果与策划时设定的目标和预期结果进行对比。评估是否按照策划完成了预期的活动，并实现了预期的输出；评审关键控制：评审人工智能管理体系中的关键控制是否得到有效执行，并评估这些控制对人工智能管理体系有效性的贡献。关键控制可能包括数据安全、算法透明度、用户隐私保护等方面；相关方反馈：收集并分析相关方的反馈意见，了解他们对人工智能管理体系有效性的看法。相关方可能包括用户、监管机构、合作伙伴等；内部审核：通过定期开展内部审核活动，组织可以及时发现和解决人工智能管理体系中存在的问题，不断提升人工智能管理体系的成熟度和有效性，从而为组织实现战略目标提供有力保障；管理评审：通过定期的管理评审会议，全面评估人工智能管理体系的有效性，识别潜在的风险和机遇，并制定相应的应对措施。管理评审的结果应作为组织决策和改进的重要依据；持续改进机制：评估组织是否建立了有效的持续改进机制，以确保能够及时发现和解决人工智能管理体系中的问题，并不断提升人工智能管理体系的有效性。第2部分：“9.1监视、测量、分析和评价”流程控制表一级流程二级流程三级流程流程节点控制要点所期望的输出监视、测量、分析和评价策划确定监视测量对象明确人工智能管理系统要素与过程分析组织目标、战略及人工智能应用现状，识别关键绩效指标(KPIs)KPIs清单，包括但不限于数据处理效率、系统稳定性等确定监视测量方法选择适当的技术与工具考虑数据的自动收集与人工检查结合，确保方法的有效性和准确性监视测量方法与工具清单制定实施计划明确时间表和责任人确定监视测量活动的频率、执行时间及具体责任人实施计划表实施监视测量数据收集与记录自动与手动数据收集确保数据的真实、完整、及时监视测量数据记录表监视测量活动执行按计划执行监视测量活动确保活动符合预定方法和频率监视测量活动报告实施分析与评价数据分析与趋势识别利用统计与分析工具处理数据分析数据，识别趋势、异常和潜在问题数据分析报告，包括趋势分析、问题识别等绩效与有效性评价对比KPIs目标，评价人工智能管理体系的绩效与有效性评估是否达到预定目标，识别改进机会绩效与有效性评价报告，含改进建议成文信息记录与保存监视测量与分析评价结果的成文记录编写并审核相关报告与记录确保记录的准确性、完整性和可追溯性监视测量记录、分析报告、评价报告等成文信息成文信息的保存与检索建立信息管理制度，确保信息可获取与检索确保在需要时能够迅速找到并使用这些信息成文信息管理目录，支持快速检索第3部分：“9.1监视、测量、分析和评价”过程风险清单一级流程二级流程风险描述（风险源、过程运行可能发生什么并产生什么后果及其对实现业务流程目标产生的影响）监视、测量、分析和评价策划确定监视测量对象风险源：信息不全或误判可能发生的情况：遗漏关键监视测量对象后果：无法全面评估人工智能系统绩效与风险对目标实现的影响：人工智能管理体系的有效性评估不准确，影响组织决策确定监视测量方法风险源：方法不适当