人工智能合成内容新规落地互联网平台纷纷响应

AI生成内容不得“隐身”传播

本报记者袁璐

各社交平台更新用户协议

“AI‘假孙子’总算现原形了。”昨天，市民刘先生打开一家短视频平台，发现之前奶奶爱看的“萌娃”短视频下面多了一行小字：“作者提示：内容为AI技术制作，虚构内容请谨慎甄别”，“这下老人总该相信，这些一两岁的孩子洗菜烧火都是假的了。”

提示小字的上线，与《标识办法》密切相关。据规定，利用人工智能技术生成的文本、图片、音频、视频、虚拟场景等信息，必须添加显式和隐式两种标识。显式标识指可以被用户明显感知到的标识，隐式标识指在生成内容的数据中添加的标识。

“哪些内容是生成的”“内容从哪里生成的”“谁生成的这些内容”……《标识办法》明确了生成合成内容制作传播各主体的责任义务。比如服务提供者应在内容生成、传播、下载等环节确保标识完整；互联网应用程序分发平台应审核应用是否具备添加标识功能；个人用户发布生成内容时应主动声明。

新规落地后，记者注意到，各社交媒体平台相关用户协议已有所更新。微信、视频号、抖音、B站、微博、小红书等平台，要求内容发布者以显著方式主动标识AI生成内容。对于不主动标识AI生成内容的行为，部分平台表示会采取限流、下架、封号等措施。同时，部分社交平台表示，还将对可能是AI生成合成的内容进行相应提示，以便用户清晰识别。

完善标识防范AI以假乱真

给AI生成合成内容加上标识，为何需要单独出台文件加以规制？据悉，标识制度的独特制度价值已经成为国际共识。日前，美国、新加坡、欧盟、英国等国家和地区纷纷采取措施推进生成式人工智能标识制度的建立。

“标识制度的主要目标是实现大规模、高可靠性和低成本的监管。”中国科学院科技战略咨询研究院研究员肖尤丹表示，此次新规虽然切口小，但可以用较小的合规成本，较好地解决当前AI技术快速发展带来的新问题。标识制度对利用AI技术抄袭、搬运内容的新媒体营销号无疑是一次沉重打击。同时，平台方可以追溯到服务提供者，明确其是否履行了标识义务。

作为我国人工智能领域首部“办法+强制性国家标准”的“组合拳”，配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》也于昨天同步施行。该标准针对人工智能生成合成标识的技术实现方式给出了更加细致、精准的指引，并配以具体的实现范例。例如视频内容显式标识要求，文字提示高度不低于画面最短边的5%，持续时间不少于2秒等。

“这有助于相关行业各主体采取相应的技术措施、全面准确落实内容标识义务，并实现标识技术的标准化，提高互认程度，降低由于标准不统一带来的合规成本。”中国社会科学院大学互联网法治研究中心主任刘晓春表示。

整治AI滥用也需防误伤

AI生成内容，已成当下热门内容赛道，百度、B站、字节跳动、快手等，都曾针对生成式AI的创作者提供流量资源扶持、现金补贴等活动。与此同时，AI生成的违规内容信息也纷至沓来，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，批量制造虚假人设，大量推送猎奇、养生、情感等内容，并可通过引流带货、账号转卖等方式变现。

针对这一新形势，今年4月开始，中央网信办开展了为期3个月的“清朗·整治AI技术滥用”专项行动，共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。

除了要求以显著方式主动标识AI生成内容外，多个平台也发布公告，重点整治AI生成滥用，其中，利用AI生成低俗猎奇视频、AI生成虚拟外国幼儿教育专家教授育儿内容、AI生成国际军事虚假内容等，正成为重点整治对象。

值得注意的是，目前有网络用户表示，自己发布画作、文章、视频被“误伤”，明明是原创内容，却被平台误判为“疑似AI合成”，面临作品被限流、下架的问题。据悉，目前业内在AI低质内容治理方面，占比九成以上的审核工作由机器来完成，机器审核准确率难以达到100%，仍需人工不断校准。