T-CCSA 001-2024 医疗领域大模型应用数据安全规范

ICS35.240.99L67T/CCSA001—2024SpecificationforDataSecurityofLargeModelApplicationsin成都市生物医学信息学会发布I II III 12规范性引用文件 13术语和定义 14缩略语 35概述 35.1医疗大模型概述 35.2安全要求 45.3模型框架 46基本原则 56.1法律和伦理规定 56.2数据安全和隐私保护 56.3数据可用性 67数据收集和预处理 67.1数据来源和采集方式 67.2数据隐私和脱敏处理 77.3数据标准化和编码 77.4数据处理和分析 77.5数据开放和共享 88医疗大模型开发和验证安全 88.1训练数据的安全 88.2大模型架构选择 88.3大模型训练和优化 99医疗大模型推理安全 99.1推理数据的隐私安全 99.2医疗大模型参数的隐私安全 10医疗大模型安全评估 11医疗大模型应用安全管理 附录A（资料性）大模型在医疗领域的应用 附录B（资料性）医疗大模型的分类 附录C（资料性）医疗数据的分类 本规范按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起请注意本规范的某些内容可能涉及专利。本文件的发布机构不承担识别这些专利的责任。本规范由成都市生物医学信息学会提出并归口。本规范起草单位：中国信息通信研究院、北京数牍科技有限公司、北京壹永科技有限公司。本规范主要起草人：郑威、凌霞、张学阳、蔡超超、单进勇、金银玉、刘晓华、张程剀、陈小梅。本规范为首次发布。医疗数据是一类极其重要的数据，包含患者病历、影像数据、生理参数、基因数据等敏感信息，不仅事关个人隐私，还涉及社会公共利益和国家安全。近期大模型研究取得一系列突破性进展，参数规模达到千亿级别，在文本生成和理解方面具有超强的能力。大模型广泛应用的同时也衍生出一系列隐私保护和数据安全问题。在医疗领域，大模型在改善医疗诊断、药物研发、临床决策等方面具有巨大应用前景。由于大模型的训练和应用均涉及海量医疗数据，其不当使用可能带来的个人隐私泄露、伦理道德、歧视偏见等风险需要得到广泛关注。本规范适用于具备医疗大模型开发能力的供应商或制造企业等，可指导医疗机构部署医疗大模型产品/解决方案，也可作为医疗机构选择或评价大模型安全应用的依据，旨在规范医疗领域大模型数据应用的行为，明确相应的数据隐私保护措施和模型安全评估要求，确保医疗数据的隐私和安全得到妥善保护，推动医疗领域大模型技术创新与发展。1医疗领域大模型应用数据安全规范本文件规定了医疗领域大模型应用的数据安全管理要求，涵盖大模型数据的收集、存储、处理、共享和应用等各个阶段。本文件适用于开发、部署和使用医疗大模型的医疗机构、科技公司、研究机构、服务提供商及监管部门等开展数据安全管理或评估评价。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T35273—2020信息安全技术个人信息安全规范GB/T41867—2022信息技术人工智能术语3术语和定义GB/T35273—2020、GB/T41867—2022界定的以及下列术语和定义适用于本文件。3.1大模型largemodel具有大规模参数和复杂计算结构的机器学习模型。这些模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个参数，通过训练海量数据来获得。3.2大模型应用largemodelapplication在实际场景中利用大模型来解决各种问题或提供服务的过程，包括但不限于自然语言处理、计算机视觉、语音识别和推荐系统等。3.3人工智能artificialintelligence人工智能系统相关机制和应用的研究和开发，其中人工智能系统是针对人类定义的给定目标，产生诸如内容、预测、推荐或决策等输出的一类工程系统。[来源：GB/T41867—2022，3.1]3.4生成式人工智能artificialintelligencegeneratedcontent2基于人工智能通过已有数据寻找规律，并自动生成内容的生产方式，如文本生成、图像生成、视频生成、音频生成、游戏生成、代码生成等。3.5个人信息personalinformation以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情况的各种信息。注1：个人信息包括姓名、出生日期、身份证号码、个人生物识别信息、住址、通信通讯联系方式、通信记录和内容、账号密码、财产信息、征信信息、行踪轨迹、住宿信息、健康注2：个人信息控制者通过个人信息或其他信息加工处理后形成的信息，例如，用户画像或特征标签，能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情[来源：GB/T35273—2020，3.1]3.6个人敏感信息personalsensitiveinformation一旦泄露、非法提供或滥用可能危害人身和财产安全，极易导致个人名誉、身心健康受到损害或歧视性待遇的个人信息。注1：个人敏感信息包括身份证件号码、个人生物识别信息、银行账户、通信记录和内容、财产信息、征信信息、行踪轨迹、住宿信息、健康生理信息、交易信息、14岁以下（注2：个人信息控制者通过个人信息或其他信息加工处理后形成的信息，如一旦泄露、非法提供或滥用可能危害人身和财产安全，极易导致个人名誉、身心健康受到损害或歧视性待[来源：GB/T35273—2020，3.2]3.7授权同意consent个人信息主体对其个人信息进行特定处理作出明确授权的行为。注：包括通过积极的行为做出授权（即明示同意），或者通过[来源：GB/T35273—2020，3.7]3.8隐私计算privacy-preservingcomputation在保证数据提供方不泄露原始数据的前提下，对数据进行分析计算的一系列信息技术，保障数据在流通与融合过程中的“可用不可见”。隐私计算技术主要包括多方安全计算、联邦学习、可信执行环境等主流技术。3.9差分隐私differentialprivacy一种隐私保护的数据共享手段，通过添加噪声的方式（如Laplace噪声、指数噪声等），实现仅分享可以描述数据库的一些统计特征、而减少识别其单个个体数据记录的机会。3.10联邦学习federatedlearning3由两个或以上参与方，在保证各自原始私有数据不出其定义的私有边界的前提下，协作构建并使用机器学习模型的技术架构。[来源：IEEEP3652.1-2020，有修改]3.11匿名化anonymization通过对个人信息的技术处理，使得个人信息主体无法被识别或者关联，且处理后的信息不能被复原的过程。[来源：GB/T35273—2020，3.14]3.12去标识化de-identification通过对个人信息的技术处理，使其在不借助额外信息的情况下，无法识别或者关联个人信息主体的过程。注：去标识化建立在个体基础之上，保留了个体颗粒度，采用假名、加密、哈[来源：GB/T35273—2020，3.15]3.13脱敏datamasking一种数据保护技术，用于在数据共享、分析等场景下，对敏感信息进行变换或隐藏，以降低数据的隐私风险。脱敏处理旨在保护数据的隐私，使敏感信息无法被直接识别，如个人身份信息、金融数据、健康数据等，同时保留数据的结构和可用性。脱敏处理通常采用替换、泛化、屏蔽、加噪声等技术手段。4缩略语下列缩略语适用于本文件。AIGC生成式人工智能ArtificialIntelligenceGeneratedContentAPI应用程序接口ApplicationProgrammingInterfaceCNN卷积神经网络ConvolutionalNeuralNetworksGPT生成式预训练Transformer模型GenerativePre-trainedTransformerLLM大规模语言模型LargeLanguageModelsRLHF人类反馈的强化学习ReinforcementLearningfromHumanFeedbackRNN递归神经网络RecurrentNeuralNetworkSFT有监督微调SupervisedFine-Tuning5概述5.1医疗大模型概述医疗大模型是一种应用于医疗健康领域的大型机器学习模型，它结合了深度学习、自然语言处理、计算机视觉等先进技术，通过海量的医疗数据进行训练，旨在解决医学诊断、治疗决策支持、疾病预测、药物研发、患者管理和公共卫生分析等方面的问题，参见附录A。这些模型通常具有高度复杂的结构和4大量的参数，可以对医疗文本、图像、基因组学等多种类型的数据进行综合分析，以提供更为精准、全面的医疗服务。另外医疗大模型按照技术类型、训练目标、应用场景等不同的维度进行分类，参见附录B。相较于其他领域的大模型，医疗大模型有以下显著区别：——数据质量与安全要求极高。医疗行业的特殊性决定了其数据具有高度敏感性和法律合规要求，因此在数据收集、存储和使用过程中必须遵循严格的医疗数据隐私保护法规。同时，由于医疗决策直接关系到生命健康，所以医疗大模型所用的数据必须具备极高的准确性和完整性，容错率较低。——领域专业知识依赖性强。医疗大模型不仅需要强大的算法和计算能力，更需要深厚的医学知识背景支撑。模型不仅要理解并应用复杂的医学概念和术语，还要能够根据最新的临床指南和研究进展不断更新迭代。——应用场景专业且细分：医疗大模型的应用更加垂直和专业化，如针对特定疾病的诊断模型、药物发现模型以及个性化治疗方案推荐系统等，每个细分领域都可能需要定制化的模型设计和训练。——安全风险及伦理考量：除了技术层面的安全性，医疗大模型还涉及伦理和社会责任问题，比如公平性和透明度，确保模型不引入偏见，解释结果可追溯，并尊重患者的知情权和选择权。5.2安全要求医疗大模型涉及数据提供者、服务提供者、技术支持者、服务使用者等几个角色，可以由不同的实体承担不同的角色，不同实体之间应保护数据和模型的隐私安全；涉及数据收集与处理、大模型训练、模型安全评估和大模型推理等主要步骤的安全要求，见图1。——数据提供者：为医疗大模型训练提供数据或标注的组织、个人。——服务提供者：提供医疗大模型服务的组织、个人。——技术支持者：为医疗大模型提供技术支持的组织、个人。——服务使用者：使用医疗大模型服务的组织、个人。收集与处理收集与处理脱敏去标识化知情同意伦理审查数据提供者数据安全模型安全效果评估数据安全模型安全效果评估技术提供者政治敏感违法犯罪身体伤害心理健康隐私财产偏见歧视礼貌文明伦理道德模型安全评估模型安全评估服务提供者(模型)数据安全数据安全模型安全结果安全服务使用者(推理)图1医疗大模型安全要求5.3模型框架5医疗大模型框架分为底层模型、加工层和应用层三个部分，见图2。a)底层模型是所选用的预训练模型，如InstructGPT模型。底层模型基于大量高质量的医疗知识数据进行优化，形成标准模型。b)加工层构建在底层模型的基础上，通过使用优质小样本标注数据，将模型对齐到特定任务。这些任务模型基于方法如SFT和RLHF等进行训练，或者以优质小样本标注数据来进一步优化底层模型，从而形成任务模型。需求和应用场景APS/应用模块c)应用层根据需求和应用场景，通过API接口或者H5/网页端输出结果。这些接口或应用模块根据用户场景进行定制，在实际应用中产生有价值的输出。需求和应用场景APS/应用模块应用层APISH5/网页端对齐特定任务定制任务模型对齐特定任务定制任务模型加工层SFT+RLHFInstructModel底层模型pre-trainModelInstruct底层模型pre-trainModelInstructModel标准模型优质医疗知识数据图2医疗大模型应用框架6基本原则6.1法律和伦理规定在医疗大模型开发、部署及应用时，应遵循以下法律和伦理规定：a)数据来源合法性：确保数据来源的合法性，遵守相关的数据采集法规和标准；b)法律合规：在数据处理和模型应用全流程中，应严格遵守我国网络安全、数据安全、个人信息保护相关法律法规；c)数据使用授权：在使用医疗数据进行模型训练和分析前，应获得相关数据所有者或授权机构的明确许可，确保合法使用；d)伦理审查：进行涉及人体实验、临床实验等研究时，应遵循伦理审查程序，确保研究活动符合伦理道德标准；e)透明披露：应将数据使用和模型应用的过程、方法、结果进行透明披露，以确保合法合规性；f)知情同意：在收集、使用或共享个人健康信息之前，应得到数据主体（即患者或其法定代理人）的知情同意，并告知使用目的和风险。这种同意应该是具体的、自由的、充分理解基础上的选择，而非默认同意或者捆绑授权。6.2数据安全和隐私保护医疗大模型应用面临着隐私保护挑战，需全面的数据安全策略与技术措施，最大限度地减少数据泄露风险，保障患者个人信息安全不受侵犯，应遵循以下原则：6a)权责一致：所有参与处理个人健康信息的机构、组织和个人应明确其在数据保护方面的权利和责任。数据收集者和使用者应当对数据的安全性负有直接责任，并在发生安全事件时承担相应的法律责任。b)目的明确：收集和利用个人健康信息时，应具有清晰且合法正当的目的。任何数据收集活动都应与医疗大模型的应用目标直接相关，不得用于与原定目的无关的其他用途。c)最少够用：在进行数据收集和使用过程中，应只收集和使用必要的数据，不过度收集数据，同时定期清理不再需要的数据以减少潜在的隐私风险和数据泄漏的可能性；d)确保安全：对于个人健康信息的处理过程，从数据采集到传输、存储直至最终销毁，应采取严格的安全保障措施，包括但不限于加密技术、访问控制、身份认证、审计追踪等手段，以防止未经授权的访问、泄露、篡改或丢失。e)主体参与：应尊重并支持数据主体对其个人信息的管理权和控制权，包括查看、更正、删除、撤销同意等权利。当数据主体要求行使这些权利时，应及时响应并配合执行。同时，积极向数据主体提供有关数据安全状况和风险的信息，促进他们更好地参与到个人信息保护中来。6.3数据可用性在保证数据安全和隐私的前提下，应提升医疗大模型所需数据的有效获取和高效利用。实施数据生命周期内的质量控制、价值挖掘等措施，以持续稳定地提供高质量服务，应遵循以下原则：a)应采取有效措施保证数据的质量和准确性，避免因数据问题导致的误诊或决策失误；b)应采取有效措施保证数据的完整性和时效性，数据必须及时更新并反映最新的患者状况、研究进展和医疗实践，保证大模型生成的结果能够满足实时或近实时的应用需求；c)应设计合理的数据架构和访问权限系统，使得授权用户可以在需要时快速便捷地获取所需数据，同时避免非授权访问和滥用；d)应注重数据可用性和隐私性之间的平衡。7数据收集和预处理7.1数据来源和采集方式在收集医疗数据时，应遵循最小化原则，明确数据采集的目的，仅收集与目标相关的数据，避免不必要的信息收集。医疗数据可以按照多种方式进行分类，参见附录C。数据来源可包括：——电子病历系统：包括医院信息系统（HIS）、临床信息系统（CIS）、实验室信息系统（LIS）、影像归档与通信系统（PACS）等，这些系统记录了患者从入院到出院全过程的诊疗信息。——科研项目及临床试验：研究者通过设计并实施各类临床试验、观察性研究等获取的数据。——健康监测与筛查计划：政府主导或第三方机构开展的大规模公共卫生监测数据，如疾控中心的疾病报告数据、社区健康调查结果等。——可穿戴设备与移动健康应用：实时监测个体生理指标的智能设备产生的连续性健康数据。——行政管理数据：如医保报销数据、药品销售记录等。——基因测序与生物样本库：包含遗传信息和其他生物学标志物的生物样本数据库。数据采集方式可包括：——直接接口集成：通过API接口实现与各源系统的无缝对接，自动抓取实时更新的数据。——批量导入导出：周期性地生成符合规范的数据文件进行传输，确保数据一致性。——手动录入或上传：针对纸质记录或其他非数字化资料，经由人工转录或扫描后数字化上传至系——用户授权获取：经过个人同意，从可穿戴设备、健康管理APP等获取用户授权分享的数据。7——第三方合作共享：与其他医疗机构、研究机构或政府部门签订数据使用协议，合规交换数据资源。7.2数据隐私和脱敏处理应使用严谨的数据处理技术和安全管理措施来保障医疗大数据的安全与隐私。具体要求如下：a)根据数据类型和敏感程度，制定并执行具有针对性的脱敏策略，对于高度敏感的信息如患者姓名、身份证号、联系方式等应彻底脱敏；b)所有涉及个人健康信息的数据在进入大模型训练前应经过严格的身份去除或匿名化处理，例如采用k-匿名、l-多样性、差分隐私等技术手段，确保数据在保持分析价值的同时，无法直接关联到特定个体；c)对于具有一定关联性的数据，如家庭关系、地理位置等信息，在不影响模型训练效果的前提下，应采取适当的混淆和随机化处理；d)医疗大数据应在安全可靠的存储环境中保存，采用多层加密技术，确保静态数据的安全性；e)在数据传输过程中，应启用安全传输协议，实现端到端加密，以防止数据在传输过程中被截获或篡改。7.3数据标准化和编码数据标准化与编码是确保数据质量和分析结果准确性的关键环节。具体要求如下：a)统一标准规范：应采用国际或国内公认的医疗信息标准体系进行数据处理，如HL7、DICOM、LOINC等，确保数据格式、结构及内容的一致性和可比性；b)数据元素标准化：应对医疗数据中的各类元素进行标准化定义，包括但不限于患者基本信息（如姓名、年龄、性别）、临床诊断信息（疾病编码如ICD-10）、实验室检查指标（如血常规、生化指标）以及药物编码（如ATC编码），以利于数据的集成和互操作；c)编码系统使用：应根据不同的应用场景选择合适的编码系统，例如利用SNOMEDCT进行医学术语编码，利用ICD编码系统描述疾病状态，利用CPT或LOINC编码记录诊疗服务和实验室检测项目等；d)数据清洗与转换：针对来自不同来源的数据，应通过数据清洗过程将非标准格式或编码的数据转化为符合统一标准的形式，消除冗余、错误和不一致性；e)质量控制与验证：应建立数据标准化的质量控制系统，实施严格的数据输入审核机制，对已标准化的数据进行定期审查和更新，确保数据质量达到预设标准；f)维护与升级：随着医疗领域知识和技术的发展，应保持对编码系统和标准的关注，及时跟进更新版本，确保数据标准与当前行业实践同步发展。7.4数据处理和分析数据处理和分析是确保模型有效性和可靠性的核心环节。具体要求如下：a)预处理与清洗：包括缺失值填充、异常值检测与处理、重复记录去除以及数据类型转换等操作，确保数据质量符合模型训练要求；b)特征工程基于医学专业知识和实际需求，进行有效的特征选择和构造，提取具有预测价值的医疗指标或变量，如构建综合评分、计算疾病风险指数等；c)匿名化与隐私保护：在数据处理阶段持续实施隐私保护措施，对敏感信息进行深度脱敏，确保在整个分析过程中患者隐私得到充分保障；d)标准化分析流程：建立标准化的数据分析流程和方法论，涵盖探索性数据分析（EDA）、描述性统计分析、关联性分析及机器学习算法建模等多个步骤；8e)模型解释性增强：优先选择使用可解释性强的模型和算法，以便于理解模型决策过程和结果，同时降低黑箱模型带来的潜在风险；f)性能评估与优化：针对不同类型的医疗任务设定合理的评估指标，如准确率、召回率、AUC-ROC曲线等，对模型性能进行客观评价，并根据评估结果不断优化调整模型参数和结构；g)文档记录与复现性：详细记录整个数据处理和分析过程，确保研究成果可以被他人理解和验证，提升研究的科学性和可信度。7.5数据开放和共享鉴于医疗数据的敏感性和隐私性，数据开放与共享相关操作必须遵循严格的规定和标准，具体内容如下：a)在开放和共享医疗数据时，应明确指明数据的共享目的，确保数据仅用于合法合规的目标；b)在数据开放和共享之前，应进行法律法规合规性审查，确保数据共享符合医疗隐私相关的法律法规要求；c)在共享数据时，应明确数据使用者的权限和范围，限制数据的用途，避免未经授权的数据滥用；d)对于共享的数据，应实施数据共享控制措施，确保只有合法授权的人员或实体可以访问和使用数据；e)对于开放和共享的数据，应进行数据去标识化处理，以确保数据中的个人身份信息无法被重新识别；f)在共享数据时，宜使用适当的隐私计算技术实现数据的“可用不可见”，使得需求方能够在不接触原始数据的前提下，对数据进行有效的利用和联合分析。8医疗大模型开发和验证安全8.1训练数据的安全医疗大模型训练数据的安全性至关重要。具体要求如下：a)应采用可靠的数据存储技术和设备，保证训练数据的安全性，防止数据丢失和损坏；b)应定期进行数据备份，并建立有效的数据恢复机制，确保在发生故障或灾难时能够快速恢复数据；c)应采用安全的数据传输协议和加密技术，保障数据在传输过程中的安全；d)应设置防火墙、入侵检测系统等防护措施，防止数据被泄露和篡改；e)应建立详尽的访问控制和授权管理制度，仅允许经过身份验证且具有相应权限的人员接触和使用训练数据，严格控制数据的使用范围和权限，并实施全程操作日志记录和审计追踪机制；f)应保持完整性，防止数据被篡改或损坏，宜使用哈希函数、数字签名等技术进行验证；g)应经过脱敏处理，宜使用匿名化、去标识化、假名化等技术防止个人敏感信息泄露；h)应动态更新和维护训练数据，确保新增数据的合规性和安全性。8.2大模型架构选择在医疗大模型的开发与验证过程中，合理的大模型架构选择是确保模型安全、高效且符合医疗领域特性的关键环节。具体要求如下：a)安全性设计：在模型架构中嵌入隐私保护机制，例如差分隐私、同态加密等技术，以减少数据泄露风险，同时保障模型训练和推理过程中的数据安全；b)模块化结构：采用模块化的模型架构设计，以便于对各个功能组件进行独立的安全性评估、升级和维护，同时也便于针对特定医疗场景或任务进行灵活调整和优化；9c)可解释性与透明度：优先选择具有较强可解释性的模型架构，如Attention-based模型或基于规则的混合模型，这有助于理解和分析模型决策过程，满足医学领域的监管要求和伦理考量；d)并行计算与分布式处理：鉴于医疗数据的海量性和复杂性，应选择支持并行计算和分布式训练的大模型架构，通过集群资源的充分利用，提高训练效率，降低单点故障的风险；e)容错与鲁棒性：在模型架构设计时考虑到系统的容错能力，通过冗余备份、错误恢复等手段保证模型在异常情况下仍能保持稳定运行，避免因系统故障导致的数据损失或服务中断；f)适应医疗数据特性：根据医疗数据的特点（如多模态、异构、稀疏等选择能够有效利用这些特征的模型架构，如多模态融合模型、图神经网络等，以提高模型对医疗问题的解决能力。8.3大模型训练和优化在医疗大模型的开发过程中，大模型的训练与优化环节是提升模型性能的核心步骤。具体要求如下：a)数据集划分：合理划分训练集、验证集和测试集，以确保模型训练的有效性和泛化能力。同时，应保证各个数据集在患者信息隐私保护上的一致性，避免因数据划分导致的安全隐患；b)模型初始化与超参数设定：根据医疗领域特点及任务需求选择合适的模型初始化方法和超参数设置，如学习率、批次大小、正则化强度等，以实现模型训练的良好启动和收敛；c)安全性约束嵌入：在训练过程中，将隐私保护和安全性约束融入损失函数中，例如通过差分隐私、同态加密技术进行梯度更新，或采用对抗训练增强模型对恶意攻击的抵抗力；d)监督与无监督结合：结合有标签和无标签的医疗数据进行混合训练，提高模型对未标记数据的学习能力和泛化性能，同时也可在一定程度上缓解大规模标注数据不足的问题；e)迭代训练与早停策略：实施合理的迭代次数和早停策略，在保障模型充分训练的同时防止过拟合现象的发生，确保模型在保持高准确度的同时具备良好的泛化性能；f)模型并行与分布式训练：利用多GPU或多节点集群资源，实施模型并行、数据并行或流水线并行等分布式训练技术，加快模型训练速度，同时确保训练过程中的数据安全传输和计算安全；g)持续监控与调整：在整个训练过程中，持续监测模型性能指标以及训练状态，如损失曲线、精度变化等，并根据监控结果及时调整训练策略或算法参数，不断优化模型表现；h)公平性和可解释性考量：在训练和优化过程中注重模型的公平性和可解释性，避免模型因数据偏见而导致不公平预测结果，同时通过可视化工具和技术提高模型决策的透明度，满足医疗领域对可靠性的严格要求。9医疗大模型推理安全9.1推理数据的隐私安全在大模型推理阶段，确保推理数据的隐私安全同样至关重要。具体要求如下：a)脱敏处理：对输入到模型进行推理的数据进行实时或预处理脱敏，如使用差分隐私、同态加密等技术，以保护患者的个人信息不被直接暴露；b)权限控制与访问管理：建立严格的用户权限控制系统，仅允许授权人员访问和使用模型服务，对所有推理请求进行身份验证和权限校验，防止未经授权的访问和使用；c)最小权限原则：仅提供完成特定任务所需的最少信息，避免过度收集和暴露敏感信息；d)日志记录与审计追踪：系统应具备详细的日志记录功能，对每一次推理请求及其结果进行记录和审计追踪，以便于监控异常行为并为潜在的安全事件提供调查依据；e)匿名化与假名化策略：对于非必要展示给最终用户的输出结果，采取匿名化或假名化策略，如仅显示与患者健康状况相关的分析结论而隐去个人标识信息；f)抗攻击性设计：针对可能的模型逆向工程攻击、模型提取攻击等安全威胁，强化模型服务接口的安全防护，例如采用模型水印技术监测非法模型复用，以及通过混淆技术增加模型逆向破解难度。9.2医疗大模型参数的隐私安全在医疗大模型参数的安全同样不容忽视。具体要求如下：a)模型加密存储：对训练得到的大模型参数进行加密存储，采用强密码学算法确保即使数据泄露，攻击者也无法直接解读模型参数的真实内容；b)访问权限控制：严格管理对模型参数文件的访问权限，仅授权给经过身份验证且具有必要职责的人员或系统服务访问，防止未经授权的读取、修改和传播；c)密态计算与同态加密：在可能的情况下，使用密态计算技术处理模型参数，允许在加密数据上直接执行计算而不解密，如同态加密技术可支持对加密后的模型参数进行推理操作，从而保护模型参数隐私；d)模型更新与分发安全：在模型迭代升级过程中，确保新版本模型参数的分发与部署安全可控，通过隐私计算共享或者安全渠道传输，并在服务器端完成更新后及时销毁旧版参数文件；e)虚拟化与隔离技术：采用容器化或虚拟机等技术将模型部署环境与其他系统资源进行逻辑隔离，防止模型参数被非法获取或利用；f)模型剪枝与混淆：对模型参数进行裁剪优化（模型剪枝）以降低模型复杂度，同时运用混淆技术改变模型结构及参数名称，增加逆向工程的难度，进一步保障模型参数安全；g)审计跟踪与日志记录：建立完善的日志系统，记录所有涉及模型参数的操作行为，包括但不限于访问、更新、下载等动作，便于监控潜在的安全风险并为后续追溯提供依据。10医疗大模型安全评估在医疗大模型的开发与应用过程中，严格的安全性评估可确保其可靠性和合规性。具体要求如下：a)安全风险识别：对大模型系统进行全面的风险评估，包括但不限于数据泄露、模型逆向工程攻击、对抗样本攻击、模型注入攻击等潜在安全威胁；b)隐私保护评估：检验模型在处理个人健康信息时是否遵循隐私保护原则，例如匿名化和去标识化技术的有效性、差分隐私策略的应用以及数据生命周期中的隐私保护措施是否到位；c)模型鲁棒性测试：通过生成对抗样本或利用已知攻击方法对模型进行压力测试，以评估模型对于恶意输入及异常情况的抵抗能力，并据此优化模型结构和训练策略；d)功能安全性验证：检查模型在不同医疗场景下的表现，验证其在诊断、治疗建议等方面输出结果的准确性、一致性和可靠性，避免因模型错误导致的误诊或不当治疗决策；e)访问控制与权限管理审计：审查模型服务接口的访问控制机制，确认只有经过授权的用户和服务才能访问模型资源，并且具备有效的权限管理和日志记录系统；f)系统完整性与稳定性评测：评估模型系统的架构设计、代码质量和部署环境的安全性，确保其能够抵御常见的软件漏洞攻击，并在高负载情况下保持稳定运行；g)法规符合性审查：对照相关法律法规（如《个人信息保护法》、《网络安全法》等）要求，核查大模型开发、部署、使用过程中的数据收集、处理、存储和共享环节是否合规；h)持续监测与更新维护：建立常态化的安全评估体系，定期进行安全审计和技术更新，及时发现并修复新的安全问题，确保模型技术始终保持在最新的安全标准之上。11医疗大模型应用安全管理医疗大模型在开发应用时应建立相应的安全组织架构，负责项目的安全管理和规章制度的建立。具体要求如下：a)明确合规性和伦理审查的基本原则和大模型的开发应用流程；b)建立大模型开发应用的安全培训和教育机制；c)建立安全定期检查和大模型安全评估机制；d)建立大模型开发应用安全事件应急响应和处理机制；e)建立大模型开发应用安全事件的报告和记录机制，并根据事件的性质和影响适度进行分类分级；f)建立定期的安全审计机制，确保医疗大模型应用的数据安全控制措施的有效性和合规性。（资料性）大模型在医疗领域的应用虽然大模型在医疗领域具有潜力，但在实际应用时需要慎重考虑，确保伦理性、数据隐私、模型的准确性、可解释性、可靠性和安全性等因素，任何辅助工具都应该经过充分验证和医学专业人员的临床评估。本附录列举大模型在医疗领域可能的应用场景。A.1医学影像分析大模型可以通过深度学习技术对CT、MRI、X光等医学影像进行分析，帮助识别病变、肿瘤、骨折、血管疾病等多种病理状况。例如，模型可以自动检测肺结节、乳腺癌、脑部病变，并评估其恶性程度。A.2疾病预测和辅助诊断医疗大模型能够处理海量的临床数据，包括病史、实验室检查结果、影像资料等，结合机器学习算法，为医生提供患者的预测疾病风险，如心血管疾病、糖尿病等，以及实时的辅助诊断建议，提高诊断准确性和效率。A.3药物发现和设计利用大模型进行药物发现与筛选，通过模拟化合物与靶点间的相互作用预测药物活性和副作用，加速新药的研发进程。A.4基因组学和个性化医疗大模型可以对个体基因组数据进行深度分析，预测遗传病风险，指导个性化治疗方案，帮助医生更好地理解患者的基因信息。A.5临床报告自动生成大模型可以自动从非结构化的医患对话和诊疗记录中提取关键信息，生成结构化的电子病历，减轻医生的工作负担，便于后续的数据分析和研究。A.6智能问诊与患者管理：AI+问诊服务中，基于大模型技术可以构建智能问答系统，用于在线预问诊、病情咨询，以及生成详细的病例报告，实现对患者全病程的智能化管理。A.7科室导诊与资源优化在医院内部，大模型可嵌入到各个环节，如科室导诊、医