学习解读生成式人工智能服务管理暂行办法_第1页
学习解读生成式人工智能服务管理暂行办法_第2页
学习解读生成式人工智能服务管理暂行办法_第3页
学习解读生成式人工智能服务管理暂行办法_第4页
学习解读生成式人工智能服务管理暂行办法_第5页
已阅读5页,还剩22页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

这一举措旨在提供对该法规的全面解析,包括其中的条款、要求和规定。通过学习和解读该暂行办法,相关机构、组织和个人可以更好地了解和遵守相关法规,确保生成式人工智能服务的合规运营,同时促进人工智能技术的可持续发展和应用。汇报人:XXX时间:20XX.X学习解读生成式人工智能服务管理暂行办法01《暂行办法》提出背景02制度与技术同频共振03推动生成式人工智能精细化04适应生成式人工智能特点,营造安全有序法治环境05坚持多方共治,为生成式人工智能健康发展提供制度保障目录CONTENTS2023抓强机遇奋起直追力争超越前言PREFACE面对技术发展带来的机遇与挑战,《生成式人工智能服务管理暂行办法》既有制度创新,又保持一贯的监管体系,既重视信息内容安全,也多方推进技术产业发展,不仅引领国际人工智能治理实践,也为中国人工智能立法做出了有益探索,“暂行”二字更为未来统一的人工智能法留下无限的遐想空间。PART.01暂行办法提出背景这一举措旨在提供对该法规的全面解析,包括其中的条款、要求和规定。通过学习和解读该暂行办法,相关机构、组织和个人可以更好地了解和遵守相关法规,确保生成式人工智能服务的合规运营,同时促进人工智能技术的可持续发展和应用。学习解读生成式人工智能服务管理暂行办法二是提出背景01深入贯彻落实习近平总书记重要指示精神和党中央决策部署的重要举措。习近平总书记在主持召开中共中央政治局会议时指出:“要重视通用人工智能发展,营造创新生态,重视防范风险。”03推进实施法律规定的内在要求。制定《办法》,是落实《网络安全法》、《数据安全法》、《个人信息保护法》、《科学技术进步法》有关规定的重要要求,进一步规范数据处理等活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。02促进生成式人工智能健康发展的迫切需求。随着生成式人工智能技术的快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。《办法》坚持目标导向和问题导向,明确了促进生成式人工智能技术发展的具体措施,规定生成式人工智能服务的基本规范。PART.02技术与制度同频共振这一举措旨在提供对该法规的全面解析,包括其中的条款、要求和规定。通过学习和解读该暂行办法,相关机构、组织和个人可以更好地了解和遵守相关法规,确保生成式人工智能服务的合规运营,同时促进人工智能技术的可持续发展和应用。学习解读生成式人工智能服务管理暂行办法鼓励创新与规范发展的原则理念01《办法》第一条开宗明义将“促进生成式人工智能健康发展和规范应用”作为首位目标,第三条进一步阐明:“国家坚持发展和安全并重、促进创新和依法治理相结合的原则,02采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管”,凸显出《办法》将生成式人工智能的创新与发展置于重要地位,03与欧盟《人工智能责任指令》(AILiabilityDirective)、《人工智能法(草案)》(draftAIAct)等以风险预防和责任追究为中心的立法存在差异。2023年6月,欧盟针对通用人工智能增设相应的监管标准。04但实践早已经证明,对人工智能这一不断发展且具有不确定性的新技术需要采取更加科学和包容审慎的治理方式。鼓励创新与规范发展的原则理念人工智能发展中的问题要靠发展解决,在风高浪急的大变局时代,不发展是最大的不安全,发展是解决我国一切问题的基础和关键。作为关键通用目的技术,生成式人工智能对人民福祉、经济发展、国家安全和战略竞争均具有重要意义。然而,我国在相关基础研究、技术生态、产业发展、顶尖人才等方面与先进国家仍存在差距。2023年4月,中共中央政治局会议特别指出,要重视通用人工智能发展,营造创新生态,重视防范风险。《办法》秉持这一精神,一方面针对生成式人工智能技术特点,要求管理部门完善与创新发展相适应的科学监管方式,实现技术创新与监管创新的同步演化、协同共振(第十六条)。例如,第七条即充分考虑到训练数据的海量性和异质性,将“数据的真实性、准确性、客观性、多样性”作为优化目标,从而契合了大模型的技术特征;另一方面,鼓励产业界在各行业、各领域中探索优化生成式人工智能应用场景,支持行业组织、企业、科研机构、公共文化机构、专业机构等多元主体开发与协同创新(第五条),推动芯片、软件、框架、算力、算法、数据资源等全链路、全生态的共享与发展(第六条)。包容审慎和分类分级的规制范围《办法》第二条从正反两面将《办法》的适用范围明确锚定在“面向境内公众提供生成式人工智能服务”之上,其言简而意深,是本法法眼之所在。1234作为贯穿《办法》全篇的理念与原则,“鼓励创新与规范发展”不仅集中体现在第二章“技术发展和治理”中,还反映在第三章“服务规范”、第四章“监督检查和法律责任”中,而鲜明体现这一理念的,还在于《办法》对其规制范围的审慎限定。详言之,这首先意味着《办法》区分了“服务”与“技术”。这一区分不但与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》以“服务”为基础的规制相衔接,而且为技术研发、应用容留了试错空间,避免过分进入技术自身迭代领域而影响技术创新。放宽视野看,强调“服务”而非“技术”的规制,恰恰有助于从技术中立论还是建构论的理论纷争中跳脱出来,从系统论出发,将人工智能所栖身的演化体系、组织形态、应用场景一并纳入规制,实现场景化和整体性兼备的治理。包容审慎和分类分级的规制范围01020304其次,《办法》区分了“面向公众”和“面向非公众”。从风险防范的角度看,“面向公众”可能引发风险扩展和积聚,特别是虚假有害信息的蔓延将扰乱网络空间传播秩序、市场秩序和社会秩序,因此成为监管重心所在;生成式人工智能不但是与普通用户信息交互的工具,也是企业内部提高效率、增强竞争优势的有力助手。根据咨询公司埃森哲的调研,近六成的企业打算将ChatGPT用于学习目的,超过40%的企业愿意为此倾力投入。通过定制模式和数据微调,生成式人工智能将颠覆传统的工作模式,并支持各行业、各项业务发展。因而,为企业内部以及垂直领域内“面向非公众的服务”留有余地,将有助于加速生成式人工智能技术在企业端的大规模落地和广泛应用,帮助企业显著提高生产效率,释放创新潜力。《办法》统筹了“境内”和“境外”,对境外企业提供生成式人工智能服务的需求作出回应,要求在遵守本法的前提下合规经营,对外商投资生成式人工智能服务做出衔接规定,体现出包容开放的政策导向。PART.03推动生成式人工智能精细化这一举措旨在提供对该法规的全面解析,包括其中的条款、要求和规定。通过学习和解读该暂行办法,相关机构、组织和个人可以更好地了解和遵守相关法规,确保生成式人工智能服务的合规运营,同时促进人工智能技术的可持续发展和应用。学习解读生成式人工智能服务管理暂行办法《办法》立足于促进生成式人工智能健康发展和规范应用,在总则中明确了国家坚持发展和安全并重、促进创新和依法治理相结合的原则,并在技术发展与治理一章中提出了一系列鼓励措施。一、促进发展,鼓励生成式人工智能研发创新推动生成式人工智能精细化鼓励创新应用。生成式人工智能应用场景丰富,可以与各行业深度结合,助力实现各行业智能化变革。《办法》明确提出鼓励生成式人工智能技术在各行业、各领域的创新应用,有助于生成式人工智能赋能千行百业。鼓励多方协作。生成式人工智能在技术创新、数据资源建设、转化应用、风险防范等方面涉及多方主体,为此,《办法》鼓励行业组织、企业以及各个相关机构之间开展协作。鼓励自主创新与国际合作。生成式人工智能尚处于发展阶段,而我国在生成式人工智能相关算法、芯片等技术研发方面起步相对较晚。《办法》一方面鼓励生成式人工智能相关基础技术的自主创新,另一方面鼓励平等互利开展国际交流与合作,从而促进我国人工智能技术发展。四是鼓励资源共享。算力是支撑数字经济蓬勃发展的重要“底座”,数据是生成式人工智能的重要资源。为此,《办法》提出推动生成式人工智能基础设施和公共训练数据资源平台建设的措施,促进算力资源协同共享,提升算力资源利用效能。以ChatGPT为代表的生成式人工智能在社会变革中的具有重要作用,但其可能存在的数据违法收集、知识产权侵权、生成虚假信息等问题同样不容忽视。《办法》积极回应生成式人工智能带来的社会问题,明确提供和使用生成式人工智能服务的法律底线。划定底线,推动生成式人工智能向上向善不得生成违法内容。《办法》落实《网络安全法》等法律的规定,强调提供和使用生成式人工智能服务应当坚持社会主义核心价值观,不得生成法律、行政法规禁止的内容。防止歧视。训练数据本身存在歧视内容、算法更倾向于某些特征值、标注人员的主观判断等因素可能导致歧视问题,给社会带来不良后果,如边缘化弱势人群或者煽动仇恨与暴力。为减少歧视现象发生,《办法》要求在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止歧视。尊重知识产权和他人合法权益。生成式人工智能在个人信息的处理过程中,可能存在违法收集、使用个人信息等风险;生成式人工智能的训练数据中如包括他人已发表并享有著作权的作品,也可能给知识产权造成侵害。为减少侵权事件的发生,《办法》强调尊重知识产权、商业道德;尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。提高生成内容准确性和可靠性。自生成式人工智能面世之初,其存在的“一本正经地胡说八道”现象便引起了人们的警惕。这种虚假信息的产生很可能会误导用户,加剧社会对共享信息的不信任。如何保障生成内容的真实性,既是产业界为进一步扩大生成式人工智能商用范围需要克服的技术难题,也是监管部门需要重点考量的问题。《办法》要求生成式人工智能服务提供者(以下简称“提供者”)基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。这一要求充分体现了发展与安全并重的原则,符合生成式人工智能的技术原理与产业需要。三、细化责任,构建生成式人工智能治理体系生成式人工智能从研发到落地需要经历多个环节,包括训练数据处理、数据标注、提供服务等。清晰界定不同环节的要求更有利于降低生成式人工智能的安全风险,增强制度的可落地性。《办法》明确提供者的义务与责任,提供者是利用生成式人工智能技术提供生成式人工智能服务的组织、个人,包括通过提供可编程接口等方式提供生成式人工智能服务的组织、个人。在训练数据处理环节提供者应当使用具有合法来源的数据和基础模型,并采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性。在数据标注环节提供者应当制定标注规则,开展数据标注质量评估,并对标注人员进行培训。在提供服务环节提供者应依法承担网络信息内容生产者责任,按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识;发现违法内容的,应当及时采取处置措施、进行整改并向有关主管部门报告;应依法承担个人信息处理者责任,对生成式人工智能服务使用者的输入信息和使用记录依法履行保护义务,及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求;应履行用户管理义务,明确并公开服务适用情况,指导使用者科学理性认识和依法使用技术,采取未成年人防沉迷措施,依法处置从事违法活动的使用者,建立健全投诉、举报机制;应提供安全、稳定、持续的服务。人工智能算法具有“黑箱”特性,表现为行为不可控、决策机制难以解释,给人工智能监管带来了一定困难。为此,《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等规范已经明确了算法备案、安全评估等监管手段,提高算法的透明度与可问责性。《办法》与现有规范一脉相承,延续了此前监管手段,同时明确了分类分级监管的原则,健全了我国人工智能治理体系。强化披露,明确生成式人工智能监管手段01明确了安全评估与算法备案要求。为有效应对算法“黑箱”问题,《办法》对提供具有舆论属性或者社会动员能力的生成式人工智能服务的,提出了安全评估与算法备案要求。02明确了信息披露要求。《办法》明确了提供者应配合主管部门的监督检查,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明。PART.04适应生成式人工智能特点,营造安全有序法治环境这一举措旨在提供对该法规的全面解析,包括其中的条款、要求和规定。通过学习和解读该暂行办法,相关机构、组织和个人可以更好地了解和遵守相关法规,确保生成式人工智能服务的合规运营,同时促进人工智能技术的可持续发展和应用。学习解读生成式人工智能服务管理暂行办法契合新技术新特性,有针对性地进行制度设计与《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》相比,《办法》更加关注生成式人工智能技术本身,主要与生成式人工智能技术自身特性有关:01生成式人工智能应用场景具有通用性。传统算法应用的处理模式与应用场景相对固定,有较为明确的服务边界,但生成式人工智能应用场景更为丰富,如ChatGPT产品几乎可以处理自然语言领域的所有任务,如果延续针对固定用途信息服务的管理思路,将难以充分切合实际监管需求。02生成式人工智能具有价值观属性。生成式人工智能模型经过训练后,对一些概念具备了较为稳定的“认知”,围绕相关概念的生成内容往往表现出惊人的一致性。一旦模型在训练过程中引入偏见歧视等有害信息,在模型实际应用中很可能呈现放大化输出。03生成式人工智能具备可引导性。生成式人工智能模型在原有的人工智能“预训练—微调”范式上,增加了“对齐”的训练环节。在提升模型能力方面,通过在生成式人工智能模型训练过程中调整模型输出概率分布不断趋近人类偏好,但同时也存在被不法分子恶意利用的风险。契合新技术新特性,有针对性地进行制度设计《办法》充分结合生成式人工智能特性,提出相应管理要求:01在生成内容上,《办法》要求利用生成式人工智能生成的内容应当“坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容”。02在算法设计等过程上,《办法》要求提供者在“算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止出现民族、信仰、国别、地域、性别、年龄、职业、健康等歧视”,以及对尊重知识产权、商业道德和他人合法权益等方面提出了保护原则。从这些要求看,《办法》基本涵盖了生成式人工智能服务在应用过程中可能暴露出来的安全及伦理问题。03在监管方式上,除了安全评估、算法备案、标识等制度外,还提出国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。聚焦关键环节,高度重视性能与安全的平衡《办法》在技术监管方面更为聚焦和深入,以生成式人工智能模型训练生产中的“对齐”这一关键技术环节为例,在传统人工智能模型“预训练—微调”生成范式中,预训练环节是利用海量无标注数据让模型学习丰富的知识信息,形成模型的底层知识来源。微调阶段是根据应用领域,通过针对性定制的标注数据集,引导模型形成回答问题的思路。当前,生成式人工智能模型在原有训练范式基础上,应用人工智能模型“对齐”技术,能够帮助生成式人工智能与人类偏好保持对齐并遵循人类意图,实现模型输出内容符合“有帮助的”、“诚实的”和“无害的”准则。在追求生成式人工智能的性能与安全的平衡方面,“对齐”技术的适当使用将发挥关键作用。聚焦关键环节,高度重视性能与安全的平衡《办法》围绕相关关键技术环节提出多项条款:01明确了模型训练及优化的安全性要求,要求模型训练要使用具有合法来源的数据和基础模型,明确“涉及知识产权的,不得侵害他人依法享有的知识产权”“涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形”及采取有效措施提高训练数据质量等,在提升训练数据质量等生成式人工智能模型重要基础方面作出了详细监管说明。02明确在数据标注过程中,应制定清晰、具体、可操作的标注规则,以及开展数据标注质量评估、抽样核验标注内容的准确性等要求,在提供符合“对齐”要求的高质量数据方面也提出明确要求。三是在模型输出信息出现违法内容时,要求提供者采取模型优化训练等措施进行整改,体现了《办法》与生成式人工智能技术特点及关键环节的高度适应。强调促进创新与规范引导并重,有力推动生成式人工智能技术健康发展办法》的制定和出台,是我国推进生成式人工智能服务领域治理、促进产业规范健康发展、引导技术向善的重要举措。《办法》第三条指出,生成式人工智能服务,坚持发展和安全并重、促进创新和依法治理相结合的原则;01明确鼓励生成式人工智能技术在各行业、各领域的创新应用,支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构在生成式人工智能多个方面开展协作;02提出鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新及平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。以上内容均体现出我国高度重视生成式人工智能健康发展,科学合理规范引导生成式人工智能应用的管理原则。PART.05坚持多方共治,为生成式人工智能发展提供制度保障这一举措旨在提供对该法规的全面解析,包括其中的条款、要求和规定。通过学习和解读该暂行办法,相关机构、组织和个人可以更好地了解和遵守相关法规,确保生成式人工智能服务的合规运营,同时促进人工智能技术的可持续发展和应用。学习解读生成式人工智能服务管理暂行办法生成式人工智能服务已成为用户在网络获取知识的重要途径之一,服务所提供的内容将直接影响用户对事物的认知,《办法》明确坚持社会主义核心价值观,要求服务提供者不得生成违法信息,并明确提出防歧视等要求。生成式人工智能服务所产生内容的质量高低、安全与否主要取决于训练数据,《办法》要求服务提供者采取有效措施提高训练数据质量,增强数据的真实性、准确性、客观性、多样性,并指导服务提供者做好数据处理、数据标注等方面的安全管理工作。(一)聚焦生成内容安全,引导服务向上向善《办法》明确生成式人工智能服务安全要求生成式人工智能服务带来新的安全问题、安全风险,为保护用户权益,服务的过程和形式需要正确的引导,《办法》提出服务提供者需明确并公开服务的适用人群、场合、用途,防范未成年人用户过度依赖或者沉迷。生成式人工智能服务因其技术特点,易涉及用户敏感数据,需进行重点保护,《办法》围绕商业秘密、用户个人信息保护提出要求,并明确了服务提供者对用户输入信息和使用记录的保护义务,为用户安全使用服务提供保障。(二)聚焦用户权益保护,保障服务合法合规生成式人工智能服务涉及的用户数量多、业务跨度大,用户的服务使用情况需受到合理监督,《办法》明确了服务提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告。生成式人工智能服务产生的内容逼真度高、迷惑性强,极易误导用户,《办法》提出针对图片、视频等生成内容进行明显标识的要求,防止用户误用生成内容。(三)聚焦使用模式管理,防范服务滥用误用《办法》引导构建生成式人工智能安全治理环境01当前,我国生成式人工智能处于关键发展时期,需以安全保发展、以发展促安全,推动生成式人工智能稳步快速发展。《办法》一是进一步明确了发展和安全并重、促进创新和依法治理相结合的原则,对生成式人工智能实行包容审慎的监管;02鼓励生成式人工智能在各行业领域创新应用,探索优化应用场景,支持专业机构在技术创新、数据资源建设、转化应用、风险防范等方面开展跨行业领域协作,构建应用生态体系;03鼓励算法、框架、芯片、配套软件等基础技术自主创新,推动全产业链持续发展。一)鼓励创新应用,统筹发展和安全生成式人工智能服务产业链条正在逐步形成,需要进一步强化主体责任,促进各环节安全水平提升。《办法》引导构建生成式人工智能安全治理环境三)推动标准工作,支撑《办法》细化落地与《办法》相关工作同步,配套支撑《办法》

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论