禾健禾美

AI合成内容出新规!腾讯、抖音、B站等已出手

更新时间:2025-09-02 14:32:31点击:来源:央视新闻、澎湃新闻

国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布的《人工智能生成合成内容标识办法》(以下简称《办法》),自9月1日起正式施行。《办法》明确所有AI生成的文字、图片、视频等内容都要“亮明身份”。针对这些内容在传播过程中该由谁来管?怎么管?

《办法》明确,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。平台在服务提供者的内容上架或上线时要进行审核,核验生成合成内容标识,对未标识或疑似生成内容要添加风险提示,从而在传播端阻断虚假信息扩散。

1.jpg

中国人民大学未来法治研究院执行院长张吉豫表示:“标识办法”中进行检测分三个层次,如果平台是从元数据中检测出隐式标签,那么平台就可以标识这个内容是AI生成的,但是如果它只是通过一些算法推测这个内容是AI生成的,它应该是标识为疑似AI生成。

记者整理发现,包括腾讯、抖音、快手、B站、DeepSeek等平台均对上述《办法》出台细化规则。

8月31日,腾讯发布公告称,据《人工智能生成合成内容标识办法》要求,平台应对AI生成合成内容添加显式标识和隐式标识。为保障用户信息获取的透明度与可信度,平台进一步优化内容识别能力。用户通过平台获取的AI生成合成内容,可能带有显式标识或隐式标识。平台也会对可能是AI生成合成的内容进行相应提示,以便用户清晰辨识。

依据《人工智能生成合成内容标识办法》规定,用户在发布或传播AI生成合成内容时,不得以任何方式删除、篡改、伪造或隐匿平台添加的AI标识。同时不得利用AI技术制作传播虚假信息、侵权信息以及从事任何违法违规活动。对于违反法律法规及平台规范的行为,平台将视违规情况进行处罚。

9月1日,抖音发布《关于升级AI内容标识功能的公告》,进一步规范平台上的AI内容创作与传播。《公告》显示,抖音已上线两项核心功能:一是AI内容标识功能,协助创作者为AI内容添加提示标识,方便用户辨别;二是AI内容元数据标识读写功能,可识别并写入AI内容的元数据信息,为内容溯源提供技术支撑。

若创作者未主动添加标识,抖音将辅助添加标识说明。一方面,平台会运用技术手段检测疑似使用AIGC技术生成的内容,并为其添加“疑似使用了AI生成技术,请谨慎甄别”的标识。另一方面,根据相关规定,AIGC技术服务提供者在生成AI内容时,需在元数据中添加隐式标识。当创作者在抖音发布此类内容时,如抖音核验出内容元数据中的隐式标识信息,将在作品页面添加“作品含 AI 生成内容”的标识。

8月29日,据B站公告,在行业主管部门指导下,不断升级完善站内AI相关的内容治理水平和管控能力,积极落实《人工智能生成合成内容标识办法》各项要求,推出AI生成合成内容标识功能,帮助大家更便捷地区分内容是否涉及AI生成。

B站站内已在投稿侧提供标识选项,UP主可以在运用AI技术产出优质内容的同时快捷进行自主声明。站内在投稿时,可通过发布界面点击【创作声明】选择【该视频使用人工智能合成技术】添加标识。站内会对于未主动声明的AI生成合成内容,依据法律法规要求,按照社区规则添加标识,用户不得恶意篡改、隐匿相关标识。下一步,站内将持续落实标识相关工作,优化AI治理链路,营造健康有序的网络环境。

快手公告称,已上线人工智能生成合成内容标识和用户主动声明功能:首先会在平台AI生成的内容中添加“AI生成”显式标识、以及嵌入文件元数据中的隐式标识;其次,在发布或传播明确由AI生成的内容或被平台检测为疑似AI的内容时,会在内容周边进行显著提示。

快手方面表示,平台鼓励创作者按照国家法律规定和平台规则,准确、规范标注AI内容。同时不得恶意删除、篡改、伪造、隐匿平台已标注的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。对于违反国家法律规定及平台相关规则的作品,以及恶意标注等违规行为,平台将按照社区规则进行处置。

9月1日,DeepSeek公告称,为贯彻落实《人工智能生成合成内容标识办法》(2025年9月1日起施行)及《网络安全技术人工智能生成合成内容标识方法》等国家标准的相关要求,防止AI生成内容可能引发的公众混淆、误认以及信息失实的风险,DeepSeek已在平台内对AI生成合成内容添加标识,并明确提醒用户相关内容由AI生成。用户不得恶意删除、篡改、伪造、隐匿此类生成内容标识,不得利用AI制作、传播虚假信息、侵权信息以及从事任何违法违规活动同时已发布《模型原理与训练方法说明》,对模型的基本原理、训练数据及内容生成机制予以说明,以帮助用户更全面地理解AI技术、合理使用 DeepSeek 相关服务,切实保障用户的知情权和控制权,防范因误用或不当使用可能带来的各类风险。

2.jpg

针对目前由于技术的局限性而导致的部分原创内容被误判为AI生成,创作者权益受损等情况,法学专家指出,当前的算法仍然存在数据偏差和场景适配不足等问题,在误判率难以归零的情况下,应当建立相应的保障机制。张吉豫表示:未来相关平台进行了分级标识后,其实也应该建立分级的处理办法,比如说对于明确它是AI生成的,通过隐式标识确定的,应该采取更严格的措施,但是对于很多应该标识为疑似AI生成的,应该提供更便捷的用户反馈渠道,也不宜对用户进行严肃的惩罚。

据专家介绍,在《人工智能生成合成内容标识办法》以及强制性的国家标准同步施行的情况下,标识的存在也会对大规模搬运人工智能直接生成内容的行为进行拦截,让内容平台有了更明确的合规要求和管理程序,有利于降低总体的审核运营成本。

3.jpg

中国社科院法学所研究员支振锋表示:特别要提出的是这种生成式人工智能治理,我们一系列国家法律法规,还有规范性文件以及标准,一个很重要的治理目的是以规范促发展,通过治理和规范去净化互联网市场,净化网络信息内容、生态空间,从而促进人工智能特别是生成式人工智能,它的规范运用和健康良性的发展,实际上还是通过规范去促进发展的。