为有效应对人工智能生成内容日益加剧的社会问题，国家互联网信息办公室、工业和信息化部、公安部及国家广播电视总局联合制定了《人工智能生成合成内容标识办法》。该规章的出台，旨在遏制不实信息的传播，从而保护公众的知情权及其合法权益。
该办法明确要求，所有由人工智能生成的文本、音频、图片和视频等合成内容必须在显著位置进行标识。这一措施将切实维护公民、法人及其他组织的合法权益，同时保障社会公共利益。具体要求如下：
人工智能生成合成内容标识办法
第一条 本办法旨在促进人工智能的健康发展，规范人工智能生成合成内容的标识，保护公民、法人及其他组织的合法权益，并维护社会公共利益。依据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》等法律法规，特制定本办法。
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》相关规定的网络信息服务提供者（以下简称“服务提供者”）在开展人工智能生成合成内容的标识活动时，应适用本办法。
第三条 人工智能生成合成内容指利用人工智能技术生成或合成的文本、图片、音频、视频及虚拟场景等信息。
人工智能生成合成内容的标识分为显式标识与隐式标识。
显式标识是指通过文字、声音、图形等方式在生成合成内容或交互场景中进行添加，并能够被用户清楚感知的标识。
隐式标识则是指通过技术手段在生成合成内容的文件数据中嵌入的，不易被用户明显识别的标识。
第四条 服务提供者如提供的生成合成服务符合《互联网信息服务深度合成管理规定》第十七条第一款的相关情形，须遵循以下要求对生成合成内容添加显式标识：
（一）在文本的开头、结尾或合适位置插入文字提示或通用符号提示等标识，亦可在交互场景界面或文字周围添加显著提示标识；
（二）在音频的开头、结尾或合适位置加入语音提示或音频节奏提示等标识，或者在交互场景界面中提供明显的提示标识；
（三）在图片的适当位置添加显著标识；
（四）在视频的开头画面及播放周边的适当位置加入显著提示标识，也可在视频的结尾或中间适当位置嵌入显著标识；
（五）展示虚拟场景时，在起始画面的适当位置添加显著提示标识，并可在虚拟场景的持续服务过程中在合适位置添加显著标识；
（六）其他生成合成服务场景应根据自身的应用特点，添加相应的显著提示标识。
服务提供者在提供生成合成内容的下载、复制、导出等功能时，应确保文件中包含满足要求的显式标识。
第五条 服务提供者应根据《互联网信息服务深度合成管理规定》第十六条的要求，在生成合成内容的文件元数据中添加隐式标识，隐式标识应包含生成合成内容的属性信息、服务提供者的名称或编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中加入数字水印等形式的隐式标识。
文件元数据指嵌入到文件头部，按照特定编码格式记录文件来源、属性及用途等描述性信息。
（三）当文件元数据未能核验隐式标识，且用户亦未声明为生成合成内容，但服务提供者检测到显式标识或其他生成合成痕迹时，应将其识别为疑似生成合成内容，并在发布内容周边添加显著提示标识，提醒公众该内容可能为生成合成内容；
（四）应提供必要的标识功能，并提醒用户主动声明所发布内容中是否包含生成合成内容。
在上述第一至第三项情形下，应在文件元数据中添加生成合成内容的属性信息、传播平台名称或编码、内容编号等传播要素信息。
第七条 在互联网应用程序分发平台进行应用程序上架或上线审核时，需要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。若其提供该服务，分发平台应核实其生成合成内容标识相关材料。
第八条 服务提供者应在用户服务协议中清楚地说明生成合成内容标识的方法、样式等规范内容，并提醒用户仔细阅读和理解相关的标识管理要求。
第九条 用户若申请获取未添加显式标识的生成合成内容，服务提供者可以在明确用户标识义务和使用责任后，提供不含显式标识的生成合成内容，同时依法留存提供对象信息等相关日志不少于六个月。
第十条 用户在使用网络信息内容传播服务发布生成合成内容时，应主动声明并利用服务提供者提供的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造或隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，亦不得通过不正当标识手段损害他人合法权益。
第十一条 服务提供者进行标识活动时，应符合相关法律、行政法规、部门规章及强制性国家标准的要求。
第十二条 服务提供者在履行算法备案、安全评估等手续时，需按本办法提供生成合成内容标识相关材料，并加强标识信息共享，以支持和协助防范打击相关违法犯罪活动。
第十三条 违反本办法的相关规定，将由网信、电信、公安及广播电视等主管部门依职责和相关法律、行政法规、部门规章进行处理。
第十四条 本办法自2025年9月1日起施行。
