本文围绕国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》展开，介绍了办法出台的背景、目的、针对不同主体的规定以及专家对办法实施的看法等内容。
在当下科技迅猛发展的时代，一则重要消息引起了广泛关注。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局携手联合发布了《人工智能生成合成内容标识办法》。这一办法紧紧聚焦于人工智能“生成合成内容标识”这一核心关键点，旨在通过标识的方式，提醒广大用户能够更加准确地辨别虚假信息。同时，明确了相关服务主体在标识方面所应承担的责任和义务，对内容制作以及传播各个环节的标识行为进行了规范。该办法将于2025年9月1日起正式施行。
近年来，生成式人工智能、深度合成等新技术如同雨后春笋般快速发展。这些新技术为生成合成文本、图片、音频、视频等各类信息提供了极为便利的工具。它们让信息的创作变得更加高效和多样化，极大地丰富了网络世界的内容。
然而，事物都有两面性。“人工智能生成合成内容日益逼真，也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险，并削弱着公众对网络传播内容的信任根基。”中国工程院院士、浙江大学教授陈纯对此有着深刻的认识。他认为，面对人工智能安全治理这一世界性难题，四部门适时出台《人工智能生成合成内容标识办法》，并且配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》也同时发布。这一系列举措成为了保障人工智能时代网络生态安全有序的关键手段。
国家网信办有关负责人表示，办法重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题。通过这样的方式，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。
那么，这一办法具体对哪些主体提出了要求呢？
——针对服务提供者，办法明确规定应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。当提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。此外，还应当在生成合成内容的文件元数据中添加隐式标识。
——针对互联网应用程序分发平台，办法提出在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。
——针对用户，办法要求使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。
此外，任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
北京航空航天大学法学院副教授赵精武认为，“此前出台的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》提出了标识有关要求，办法进一步细化了标识的具体实施规范。”办法明确了生成合成内容制作传播各主体的责任义务，使用户能够清晰识别人工智能生成的内容，减轻人工智能生成合成技术滥用危害，防范利用生成合成内容传播虚假信息、实施电信诈骗等风险行为。
良法善治，重在实施。专家认为，办法的落地需要各方协同配合，推动标识工作行稳致远。
公安部第三研究所副所长金波说，伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规或将成为相关部门开展人工智能监督检查、专项行动的重点关注领域。
“此外，‘人的因素’应融入人工智能标识管理的全过程。”金波说，要着重提升公众对信息内容真实性、来源可追溯性的评估能力，积极培育公众的人工智能素养，确保人工智能技术成果普惠共享。
四部门联合发布的《人工智能生成合成内容标识办法》，阐述了其出台背景是人工智能带来便利的同时也引发了新型安全风险。办法针对服务提供者、互联网应用程序分发平台和用户等不同主体提出了明确要求，细化了标识实施规范，明确了各主体责任义务。专家指出办法落地需各方协同，且要重视“人的因素”，提升公众素养，以保障人工智能时代网络生态安全有序。
