对《人工智能生成合成内容标识办法(征求意见稿)》的理解

随着生成式人工智能技术的迅速发展，利用人工智能技术生成或合成文字、图像、音频、视频等数字内容已成为网络空间内容生产的重要方式，不断为数字经济、产业发展乃至社会变革注入新的动力。然而，伴随内容生成合成门槛的不断降低，新技术的滥用也对网络空间治理提出了更大挑战。在此背景下，2024年9月14日，国家互联网信息办公室等部门公布《人工智能生成合成内容标识办法(征求意见稿)》(以下简称《办法》)及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法(征求意见稿)》(以下简称《标识方法》)，要求全方位、多层次地规范人工智能内容标识要求和方法。

一、人工智能生成合成内容标识管理的必要性

近年来，人工智能技术的迅猛发展引发了社会各界的广泛关注。特别是生成式人工智能的出现，使得机器能够创造出与人类作品难以区分的文本、图像、音频和视频内容。这一技术突破不仅改变了传统的内容创作模式，也对现有的信息传播秩序和社会治理体系带来了前所未有的挑战。在此背景下，如何有效管理和规范人工智能生成的内容，成为了学术界和产业界共同关注的重要议题。人工智能生成合成内容的标识管理作为一种可能的解决方案，其必要性和重要性日益凸显。

第一，标识管理有助于保护信息接收者权益。生成式人工智能技术日益发展，其产出内容与人类创作已难以区分。标识管理可帮助公众识别内容来源，提高信息透明度，保障知情权，避免误将人工智能生成内容误认为人类创作。

第二，标识管理能够维护人类创作者权益。人工智能生成内容的涌现可能挤压人类创作空间。通过标识管理，可明确区分人工智能与人类创作，保护创作者的署名权、荣誉权等人身权利及经济利益，维护公平竞争的创作环境。

第三，标识管理有利于维护社会秩序。人工智能生成内容存在被用于制造虚假信息、侵犯隐私、实施欺诈等风险。标识管理可增加违法使用的成本，有助于遏制相关违法行为，维护网络空间秩序和社会稳定。

第四，标识管理促进人工智能产业健康发展。规范标识可提高人工智能应用的透明度和可信度，消除公众疑虑，推动技术广泛应用。同时，为服务提供者提供明确指引，规范行业发展，推动产业良性循环。

二、人工智能生成合成内容标识管理的规范要求

《办法》和《标识方法》对人工智能生成合成内容的标识管理提出了具体的规范要求。这些要求主要涉及标识的类型、标识的方法以及不同主体的责任义务等方面。

第一，在标识类型方面，《办法》第三条明确将人工智能生成合成内容标识分为显式标识和隐式标识两种。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识则是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。这种分类充分考虑了不同应用场景的需求，既保证了标识的可见性，又兼顾了内容的完整性。

第二，在标识具体应采用的方法。《办法》第十一条要求服务提供者按照有关强制性国家标准进行标识。《标识方法》则对不同类型内容的标识提出了具体要求。对于文本内容，要求在文本的起始、末尾或中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识。对于音频内容，要求在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识。对于图片内容，要求在图片的适当位置添加显著的提示标识。对于视频内容，要求在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识。对于虚拟场景，要求在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识。此外，文件元数据中若添加隐式标识，应包括生成合成标签要素、生成合成服务提供者要素、内容制作编号要素、内容传播服务提供者要素和内容传播编号等要素。

第三，在主体义务方面，《办法》对不同主体提出了明确的义务要求。对于生成合成服务提供者，要求其在生成合成内容中添加显式标识和隐式标识，并在用户服务协议中明确说明标识的方法、样式等规范内容。对于提供网络信息内容传播平台服务的服务提供者，要求其核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识。此外，还要求其对可能和疑似生成合成内容进行标识，并在文件元数据中添加相关信息。对于互联网应用程序分发平台，要求其在应用程序上架或上线审核时，核验服务提供者是否按要求提供生成合成内容标识功能。对于用户，要求其在上传生成合成内容时主动声明并使用平台提供的标识功能进行标识。《办法》第十条还明确禁止任何组织和个人恶意删除、篡改、伪造、隐匿生成合成内容标识，或为他人实施上述恶意行为提供工具或服务。这种多主体责任分配机制有利于形成全面的标识管理体系，从内容生成、传播到使用的全过程实现有效监管。

三、人工智能生成合成内容标识管理的影响及应对策略

《办法》和《标识方法》距离成为正式生效的规范性文件还有一定距离，但已经为人工智能产业发展提供了指引性的作用，有利于规范行业发展，避免恶性竞争。也可以帮助公众更好地识别和理解人工智能生成内容，减少误解和恐慌。

然而，《办法》和《标识方法》如若生效也可能带来一些挑战。首先，标识管理势必会增加人工智能服务提供者的技术和运营成本。特别是对于一些中小型企业，可能需要投入更多资源来满足标识要求。其次，标识管理可能会影响用户体验，特别是在一些需要沉浸式体验的应用场景中，过于显著的标识可能会影响用户的体验效果。再者，标识管理的实施也可能面临技术难题，例如如何在保证标识有效性的同时避免被恶意删除或篡改等。

面对这些挑战，相关主体可以采取以下应对策略：

• 对于人工智能服务提供者，应当积极研发和优化标识技术，探索在满足标识要求的同时最大限度降低对用户体验的影响。同时，应当加强与监管部门和行业组织的沟通，及时反馈实施过程中遇到的问题，推动相关政策的优化完善。

• 对于内容传播平台，如AI聊天网站，应当完善平台规则，建立健全人工智能生成内容的审核机制，同时为用户提供便捷的标识功能，引导用户主动进行标识。此外，还应当加强技术研发，提高对人工智能生成内容的识别能力，为标识管理提供技术支持。

• 对于用户，应当提高对人工智能生成内容的认知能力，养成查看内容标识的习惯，理性对待人工智能生成内容。同时，在使用或传播人工智能生成内容时，应当遵守相关规定，主动进行标识，承担应尽的社会责任。

• 对未来立法，需要进一步考量各主体对标识义务履行的具体前提，思考履行标识义务的可行性，准确界定何为“用户”，并明确各主体如若不执行所应承担的确切的法律责任。

总之，人工智能生成合成内容标识管理是一项复杂的系统工程，需要多方协同努力，应继续广泛征求各利益相关方意见，特别是技术提供者、平台服务者和用户代表的建议，以确保未来正式公布实施文件的可行性和有效性。