随着人工智能技术的迅猛发展，生成合成内容在各个领域的应用日益广泛。然而，这种技术的普及也带来了一系列问题，如虚假信息的传播、版权争议以及用户误导等。为了规范人工智能生成合成内容的标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，国家互联网信息办公室于2024年9月14日发布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称“征求意见稿”）。这一举措旨在通过法律和技术手段，加强对人工智能生成合成内容的监管，确保信息的真实性和透明度。
征求意见稿的主要内容
1.显式标识
服务提供者提供的生成合成服务，包括文本、音频、图片、视频、虚拟场景等，均需在适当位置添加显著的提示标识。例如，在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识；在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识；在图片的适当位置添加显著的提示标识；在视频起始画面和视频播放周边的适当位置添加显著的提示标识等。
2.隐式标识
服务提供者需在生成合成内容的文件元数据中添加隐式标识，包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。此外，鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识，以确保内容的可追溯性。
征求意见稿还规定，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动，包括核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容。
征求意见稿的发布对人工智能行业将产生深远影响。首先，它有助于提升用户对生成合成内容的辨识度，减少因信息误导而产生的社会道德风险。其次，通过强化内容溯源和版权保护，征求意见稿将促进AI技术的健康发展，为创作者和平台提供更加公平、透明的市场环境。此外，征求意见稿的实施还将推动行业自律，提高服务提供者的责任意识和法律意识。
征求意见稿的实施将面临一定的挑战。一方面，如何确保服务提供者严格遵守规定，在生成合成内容中添加符合要求的显式标识和隐式标识，是一个需要解决的问题。另一方面，随着技术的不断发展，新的生成合成手段和方法层出不穷，如何及时跟进并制定相应的监管措施，也是一个不小的挑战。此外，如何在保护用户权益的同时，兼顾服务提供者的创新和发展需求，也是征求意见稿实施过程中需要平衡的问题。
《人工智能生成合成内容标识办法（征求意见稿）》的发布，是国家互联网信息办公室对人工智能领域监管的一次重要尝试。通过明确规范生成合成内容的标识行为，征求意见稿旨在提升用户对信息的辨识度，维护国家安全和社会公共利益。然而， 其实施过程中也将面临诸多挑战，需要各方共同努力，不断完善监管机制和技术手段，推动人工智能技术的健康发展。我们期待征求意见稿能够引发广泛讨论和关注，为人工智能行业的未来发展提供更加清晰、有力的法律保障。
《标识办法（征求意见稿）》全文详见：国家互联网信息办公室关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知