《人工智能生成合成内容标识办法（征求意见稿）》解读

《人工智能生成合成内容标识办法（征求意见稿）》解读作者丨樊晓娟

印磊黄海逸2024年9月14日，《人工智能生成合成内容标识办法（征求意见稿）》（简称“《标识办法》”）发布；作为配套，《网络安全技术人工智能生成合成内容标识方法》强制性国家标准（征求意见稿）（简称“《标识方法标准》”与《标识办法》合成“标识规范”）也于同日发布。人工智能生成内容（简称“AIGC”）标识是中国人工智能治理的主要监管措施之一，对标识的要求规定较为原则。如今两个征求意见稿的落地，意味着AIGC标识不但有据可依，而且将有更为细致的规范。本文将通过解读两个征求意见稿，一览AIGC标识的具体规范与监管趋势。一、法律基础中国对人工智能监管，尤其是AIGC领域监管的相关规定主要包括《网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》。而《标识办法》也开宗明义地援引了前述规定。二、规制对象两份标识规范的规制对象均为AIGC。根据《标识办法》的定义，AIGC指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。这一定义与《生成式人工智能服务管理暂行办法》中对于“生成式人工智能服务”的定义互相匹配。三、适用法域《标识办法》的规定仅适用于向境内公众提供服务的情形。因此，如服务提供者仅向境外用户提供服务，无需遵守《标识办法》。但需要提醒的是，向境外用户提供人工智能生成合成服务的服务提供者需要遵守相应境外法域的法律规定。四、责任主体及其主要义务《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》均对AIGC标识有所规定。但《标识办法》对于责任主体及其责任作出了细化，涉及了AIGC的多个行业。（一）生成服务提供者与既有规定一样，根据《标识办法》第二条的规定，《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（简称“生成服务提供者”）是责任主体，主要指人工智能生成合成服务的服务提供者。例如，AI绘画、AI写作、AI音乐合成、AI视频合成等服务的提供者等都在其列。

该等服务提供者有义务在对规制范围内的AIGC按照强制性国家标准的要求添加相应标识，包括根据不同情况添加显式标识和隐式标识（下文详述），并在履行算法备案、安全评估等手续时配合提供相关材料。例如，提供AI换脸视频应用时，服务提供者应当通过技术手段在合成后的视频的指定位置添加必要的标识。

值得注意的是，《标识办法》对生成服务提供者的责任予以了一定程度的松绑。《标识办法》第九条规定：“如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。”根据该规定，如果用户需要且通过用户协议明确用户的义务和使用责任后，服务提供者提供显式标识的义务可以豁免，但仍有义务留存日志。（二）网络平台服务提供者《标识办法》第六条、第七条进一步明确提供网络信息内容传播平台服务的服务提供者和互联网应用程序分发平台（简称“网络平台”）也属于该办法的责任主体之一。例如，社交媒体平台、网络直播平台、视频分享平台等都属于该类责任主体。

网络平台服务提供者有义务采取措施，规范生成合成内容传播活动。根据《标识办法》第六条、第七条，网络平台在AIGC标识方面的义务主要是两方面。一方面是核验与提醒，在发现应含未含标识的情形时，采取适当方式添加标识，以提醒用户该内容属于或疑似生成合成内容；另一方面是提供必要的标识功能，提醒用户主动声明其生成合成内容。举例而言，如果网络直播平台应当发现平台有虚拟主播带货，但未标识的，应当采取适当方式添加标识，以提醒用户该内容属于或疑似生成合成内容。再例如，手机应用市场平台在审核AI绘画应用上架时，应核验服务提供者是否按要求提供生成合成内容标识功能。（三）用户《标识办法》还明确了用户也属于AIGC标识的义务主体之一。根据《标识办法》第十条的规定：“用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。”五、标识要求和方法《标识办法》和《标识方法标准》在现有规定的基础上对标识要求和方法作出了细化规定。（一）标识分类《标识办法》将标识分为显式标识和隐式标识。《标识方法标准》对显式标识和隐式标识的定义与《标识办法》的定义一致。根据《标识办法》第二条，显式标识和隐式标识的定义如下。

1、显式标识

显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。

2、隐式标识

隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。根据《标识办法》第五条的规定，隐式标识应包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。（二）不同标识的适用范围不同标识的适用范围分别如下。

1、显式标识

根据《标识办法》服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照《标识办法》第四条的要求对生成合成内容添加显式标识。

《互联网信息服务深度合成管理规定》第十七条第一款情形指下列情形：

“（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；（四）沉浸式拟真场景等生成或者编辑服务；（五）其他具有生成或者显著改变信息内容功能的服务。”

而根据《标识方法标准》显式标识的应用场景还包括：

*文生图片等图片内容生成服务；*音乐等音频内容生成服务；*文生视频、图生视频等视频内容生成服务

《标识方法标准》将显式标识具体分为文本内容显式标识、图片内容显式标识、音频内容显式标识、视频内容显式标识和交互场景界面显式标识，与《标识方法》第四条的要求互相匹配。

2、隐式标识

除《互联网信息服务深度合成管理规定》第十七条第一款情形外，服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识。

《互联网信息服务深度合成管理规定》第十六条的规定为：“深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。”

《标识方法标准》将隐式标识分为元数据隐式标识和内容隐式标识。但《标识方法标准》仅详细列举了元数据隐式标识的方法。（三）标识方法标识必须符合强制性国家标准的要求。

目前制定中的《标识方法标准》从征求意见稿显示的代号为GB/T。根据《国家标准管理办法》，推荐性国家标准的代号为“GB/T”。《标识方法标准》生效时仍冠以GB/T为代号，则其应属推荐性国家标准而非强制性国家标准。至于AIGC标识何时出台强制性国家标准有待观察。

1、显式标识的标识方法

根据两个标识规范，标识方法的具体要求如下。2、隐式标识的标识方法

根据两个标识规范，在生成合成内容的文件元数据中应添加隐式标识。“文件元数据”指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。

《标识方法标准》规定的元数据隐式标识方法如下：

“a)隐式标识应包括以下要素：

1)生成合成标签要素：内容的人工智能生成合成属性信息，包括确定、可能、疑似；2)生成合成服务提供者要素：生成合成服务提供者的名称或编码；3)内容制作编号要素：生成合成服务提供者对该内容的唯一编号；4)内容传播服务提供者要素：内容传播服务提供者的名称或编码；5)内容传播编号要素：内容传播服务提供者对该内容的唯一编号。

b)元数据隐式标识格式应符合《标识方法标准》附录E。

c)确定、可能、疑似为人工智能生成合成的内容文件中，应仅保留一份元数据隐式标识。”六、相关企业的合规应对作为人工智能生成合成内容的服务提供者的企业，网络信息内容传播平台运营企业和互联网应用程序分发平台运营企业，都涉及相关主体的AIGC标识义务。那么相关企业应当如何应对呢？（一）识别首先，企业可以梳理正在运营的业务和计划运营的业务，在专业律师指导下识别适用《标识办法》的业务范围和业务体量，对业务涉及的人工智能生成合成内容进行分类和评估。（二）制度建设其次，企业可以在专业律师指导下，对AIGC标识的流程和审核建立内部机制，确保AIGC被适当标识