前几天，一则“政府工作人员因买方便面被通报”的消息甚嚣尘上。公安网安部门查明，该内容均属虚构，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强制措施。

“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从现实影响看，这一荒诞谣言还真迷惑了一些人，对相关工作造成了一定干扰。如今造谣者被刑拘，再度警示各方：造谣生事不仅缺德，更是违法，必然付出代价。

更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时事政治等硬新闻领域，并展现出几个典型特性。

其一，成本极低，造谣趋于工业化。以往，为了抓人眼球，造谣者还要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。

其二，能力极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需要一个指令，其就能将文字、声音、图像和视频等深度融合。基于强大的生成能力，很多“AI谣言”已然能“以假乱真”。

其三，“效果”极佳，造谣“一本万利”。由于冲击力强、迷惑性高，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。

谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。

这些年，监管部门也一直在升级对AI谣言的治理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从现实来看，不少平台对AI生成的信息要么没有提示，要么字体极小，有的审核机制滞后甚至“先发后审”，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量生产的UGC内容而言，AI测假的能力看上去还没能跟上需求。总体来看，制度完善“提速”，治理手段“提智”，方向肯定没错，关键是如何做好落实。

AI技术日日加速迭代，这也意味着治理AI造谣必须加紧脚步，治理手段和路径都须更具前瞻性。加大资源与技术投入，尽快形成治理合力，才能防止AI工具沦为谣言的“黑箱”。

撰文：何若