T-APOCN 0004-2024 人工智能程序开发技术规范

ICSCCS35.080L77APOCNTechnicalspecificationsforthedevelopmentofartificialintelligenceprograms1T/APOCN0004—2024本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。请注意除上述专利外，本文件的某些内容仍可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由湖北云璟科技有限公司提出。本文件由武汉光谷光电中小企业产业协会归口。本文件起草单位：湖北云璟科技有限公司、浙江九鑫智能科技有限公司、深圳九鑫软件有限公司、湖北华中电力科技开发有限责任公司、贵州中标技术研究院、云南中知标准技术研究院、四川中知汇创标准化技术研究院、山西中知标准管理研究院有限公司。本文件主要起草人：肖璟、黄念念、周长安、徐文峰、程龙、李超、王霜。1T/APOCN0004—2024人工智能程序开发技术规范本文件规定了人工智能程序开发的基本要求、开发流程、质量保证、安全审计以及合规性要求。本文件适用于人工智能程序的开发。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T28035-2011软件系统验收规范GB/T28452-2012信息安全技术应用软件系统通用安全技术要求3术语和定义本文件没有需要界定的术语和定义。4基本要求4.1人工智能程序应具备一定的可解释性，即能够向用户或相关方解释其决策过程和输出结果，以增加透明度和可信度。4.2在开发和应用过程中，应保持技术和算法的透明度，避免使用难以理解和解释的复杂模型。4.3随着技术的不断发展和应用场景的变化，人工智能程序应持续进行更新和改进，以保持其竞争力和适用性。4.4设立监督机制，对人工智能程序的开发过程进行定期检查和评估，及时发现并纠正不符合要求的行为。5开发流程5.1需求分析5.2系统设计5.2.1模块划分5.2.1.1根据系统功能和业务需求，将系统划分为多个独立的模块。5.2.1.2每个模块应实现单一职责，避免功能重叠和冗余。5.2.1.3模块之间应通过明确的接口进行交互，降低模块间的依赖关系。5.2.2接口设计5.2.2.1接口设计应遵循简洁、清晰、易于理解的原则。5.2.2.2接口参数应明确其数据类型、取值范围、必填项等约束条件。5.2.2.3接口返回值应包含足够的信息，以便调用者正确理解和处理结果。5.2.3数据流设计2T/APOCN0004—20245.2.3.1设计系统的数据流路径，确保数据在模块之间正确传递和处理。5.2.3.2采用合适的数据结构和存储方式，提高数据处理的效率和准确性。5.2.3.3对数据进行有效的校验和验证，确保数据的完整性和正确性。5.2.4控制流设计5.2.4.1设计系统的控制流路径，包括顺序执行、条件分支、循环等控制结构。5.2.4.2确保控制流设计的合理性和清晰性，避免复杂的嵌套和冗余的控制逻辑。5.2.4.3对控制流进行充分的测试，确保在各种条件下系统都能正确运行。5.3编码实现5.3.1编码规范5.3.1.1制定统一的编码规范，包括命名规范、注释规范、代码格式等。5.3.1.2确保代码的可读性、可维护性和可扩展性。5.3.2模块化编程5.3.2.1按照系统设计文档中的模块划分，进行模块化编程。5.3.2.2确保每个模块的功能实现符合设计要求，且能够与其他模块正确交互。5.4测试与验收5.4.1系统测试5.4.1.1对系统进行全面的测试，包括功能测试、性能测试、安全测试等。5.4.1.2确保系统满足需求分析阶段提出的所有功能和性能要求。5.4.1.3系统验收应符合GB/T28035-2011的要求。5.4.2开发测试验收5.4.2.1业务和技术主管部门组织专家分别对人工智能应用软件的功能、性能、安全、运行、标准、文档等方面进行开发测试验收。5.4.2.2确保系统在实际应用场景中能够稳定运行，且符合相关标准和规范。5.4.3评估与优化5.4.3.1根据测试结果，对系统进行评估和优化。5.4.3.2对不满足要求的功能或性能进行改进，直至达到满意水平。5.4.4测试验收报告5.4.4.1基于测试结果和验收情况，撰写详细的测试验收报告。5.4.4.2报告应包括测试目的、测试方法、测试结果、问题记录及解决方案等内容。6质量保证6.1数据处理6.1.1数据采集人工智能项目启动前应进行数据采集，以获取足够数量和质量的数据信息支持后续的模型训练和验证。数据采集的规定如下:a)明确目标：在开始采集数据之前，必须明确项目的需求，包括数据的类型、数量、来源等。3T/APOCN0004—2024b)合法合规：确保数据采集活动符合相关法律法规的要求，尊重数据主体的隐私权和知情权。c)多样性：尽可能从多个来源采集数据，以确保数据的多样性和全面性。d)数据格式：统一数据格式，以便于后续的数据处理和模型训练。e)数据记录：详细记录数据采集的时间、地点、来源等信息，便于数据溯源和质量控制。6.1.2数据清洗数据清洗的规定如下：a)缺失值处理：对于数据集中的缺失值，应根据实际情况选择删除、填充（如均值、中位数、众数填充）或预测模型填充等方法进行处理。b)异常值处理：使用统计方法（如Z-score或IQR）或可视化方法（如箱线图）识别并处理数据中的异常值。c)数据格式标准化：确保数据格式的一致性和规范性，如日期时间格式、数值格式、文本格式等。d)去重：删除数据集中的重复记录，以避免模型训练时的偏差。e)数据校验：对数据进行重新审查和校验，确保数据的准确性和完整性。6.1.3数据标注数据标注的规定如下：a)预标注：在正式开始标注之前，可以通过机器学习算法对数据进行初步的识别和标注，以提高标注效率。b)标注规则：制定明确的标注规则和标准，确保标注的一致性和准确性。c)标注工具：选择合适的标注工具，如图像标注工具、文本标注工具等，以提高标注效率和质量。d)标注质量监控：定期对标注数据进行质量检查，确保标注的准确性和完整性。e)标注数据保存：将标注后的数据保存为易于处理和模型训练的格式。6.1.4数据存储数据存储的规定如下：a)存储介质：选择合适的存储介质，如硬盘、云存储等，以满足数据的存储需求。b)数据安全：采取必要的安全措施，如加密、备份、访问控制等，确保数据的安全性和完整性。c)数据访问：建立高效的数据访问机制，以便在模型训练和验证时能够快速访问所需数据。d)数据可扩展性：考虑未来数据的增长需求，设计可扩展的数据存储方案。e)数据备份：定期对数据进行备份，以防止数据丢失或损坏。6.2性能指标性能指标的规定如下表：表1性能指标项目名称性能指标响应时间响应时间应不超过3s资源利用率90%可拓展性程序应具备良好的可扩展性，能够平滑地处理数据量和功能的增长。稳定性程序应能够稳定运行，不因长时间运行或异常情况导致崩溃或性能显著下降。帧数≥30帧6.3安全开发人工智能应用程序在开发时，应满足以下要求：4T/APOCN0004—2024a）开发过程中应考虑编码安全性，应尽量避免调用存在安全漏洞的函数，避免敏感数据硬编码，减少应用程序安全漏洞；b）所使用的第三方开发工具和第三方插件应是安全的,应避免第三方组件未经授权收集客户端应用软件信息和个人信息；c）应对传入的URI进行校验与安全处理，防止应用程序运行异常或操作异常；d）认证逻辑、校验功能应在服务器端完成。7安全审计7.1隐私保护7.2最小化数据收集应遵循数据最小化原则，只收集和处理实现项目目标所必需的数据。7.3匿名化与脱敏处理对敏感信息进行匿名化处理，隐藏特定的身份敏感信息，如用户名、地址、电话等，以确保数据的隐私性。同时，可以使用数据脱敏技术，通过一定的算法对原始数据进行转换，使得数据无法直接被识别或追踪。7.4差分隐私在需要公开使用的数据中，可以采用差分隐私技术，通过添加噪声干扰原始数据，以保护个人隐私，同时保证数据的可用性和准确性。7.5数据加密使用数据加密技术，对数据进行加密处理，确保数据在传输和存储过程中的安全性。应使用强加密算法，并定期更新密钥。7.6权限管理7.6.1访问控制机制通过访问控制机制，限制对数据的访问权限。只有经过授权的用户才能访问数据，以防止未经授权的访问和滥用数据。7.6.2身份验证使用强密码和多因素身份验证来保护访问权限。所有用户都应进行身份验证，以确保其身份的真实性，安全技术要求应符合GB/T28452-2012的要求。7.6.3权限管理应实施严格的权限管理策略，确保用户只能访问其权限范围内的数据。7.7日志管理7.7.1日志生成日志生产基本要求包括：a)日志应包括事件发生的日期、时间、用户标识、设备唯一标识、设备型号、设备版本、网络类型、事件描述和结果等信息；b)日志应该如实记录用户名项重要操作，如用户登录成功和失败；c)校验失败的次数超出阀值导致会话连接终止等；d)正式发布的移动终端程序不能包含运行逻辑相关和调试过程中的日志。7.7.2编制要求日志管理应满足以下要求：5T/APOCN0004—2024a)日志应存储于掉电非易失性存储介质中；b)仅允许授权用户以