前几天315晚会曝光了一个事儿,让我脊背发凉。
记者用一款叫“力擎GEO优化系统”的软件,虚构了一款根本不存在的智能手环。然后批量生成十几篇软文发到网上——仅2小时后,AI大模型就开始引用这些假内容。3天之后,多个AI模型把这款虚构产品列为推荐答案。
一款不存在的东西,就这么被AI“信以为真”了。
开放的互联网犹如一片公海,谁都可以往里面倒东西,当然也包括“投毒”——只要你批量往其中倒假内容、假测评、假评价,AI检索的时候把这些当“参考资料”吸收进去,输出的答案就是被污染了的。
从给AI故意“投毒”到让AI输出误导内容,最短只需要15天,最长不超过3个月,门槛极低。
……
类似的投毒现象还有很多,比如用AI刷好评就在我们的生活中屡见不鲜。
2025年7月,工人日报调查了一个案例:某电商平台一款连衣裙的评论区,多位“买家”晒出了买家秀照片。照片里的人物容貌、表情、动作几乎一模一样。
放大一看——六根手指。
网友一语道破:“一眼AI”。
除了图片造假,文字评价的造假门槛更低。5块钱一条半托好评,7块钱一条全托好评,498块能进20个刷手群,每个群里近500人。
而AI让这件事的效率翻了不知道多少倍。以前水军写一条假评价需要两三分钟,现在AI一秒钟能生成一百条,还能自动换措辞、换风格、换语气,让每条看起来都不一样。
对商家来说,这是一个巨大的诱惑。花不了多少钱,就能让自家店铺的评价区看起来好评如潮。
但这会极大误导普通人,尤其涉及到线下生活——你看了好评,特地请了假弄了妆造约了朋友,满怀期待地去店里打卡,结果根本不是那么回事。
你觉得“这家店分量很小”,但一翻评论,全是“分量超足”“好吃到哭”——然后去了一看,果然是你说的那样。
你吃起来“这道菜一般”,但AI写的“入口即化”“味蕾盛宴”已经霸占了前十条评论。
认真经营的店和认真写评价的人,都在这种泛滥的AI评论里被不断稀释,久而久之评论区就失去了公信力。
这也正是AI造假最可怕的地方——不是骗你去了一家烂店,而是让你再也不相信任何一家店的好评。
AI投毒很糟糕,但我们的生活还没有被AI捆绑,不是非得让通用AI工具去打捞内容。
所谓GEO,是给“公海”投毒,但如果是一片一直有人清理、净化的“私海”呢?
那些积累了上亿用户的社区,有自己的治理规则,甚至独特的氛围文化。
最近,大众点评发布了他们的《2025评价透明度报告》。过去一年,大众点评App累计收到近4.5亿条评价,帮助用户找到、发现并体验真实世界的美好。有一句跟AI评价治理相关的表述,就是在缓解当下人们对AI投毒的焦虑。
报告提到,大众点评以“物理世界事实”为底座,引入AI智能体审核评价真实性。
“用户发布内容和商户真实服务是否匹配、提到的菜品是否在菜单上,AI智能体都能实时调取平台数据,提升审核效率以及评价真实性。”
什么意思?
简单来说就是,你在大众点评写一条评价,平台能看到的不仅仅是这段文字。它还能看到你有没有到过这家店、多长时间写完了一条评价、你上传的照片和商家菜单对不对得上……由此来判断这条评论究竟是真人写的,还是AI写的。
举个例子。
有时候,你会看到这种鬼打墙的评价——
“以下是为您生成的评价:”
明显的AI痕迹。碰到这种表述,系统立刻就会处理。
就算没有这么直白的提示,AI写出来的东西,也往往藏不住。
有人用AI给一家火锅店写了一段这样的评论:
“踏入这家店,柔和的灯光似繁星洒落,服务员像老友般周到。锅底翻滚着红油,毛肚七上八下,入口脆嫩,简直是味蕾的狂欢!”
吃个饭而已,普通人会用这么空泛、文学性的表述吗?
这种明显辞藻堆砌、不符合真人表达习惯的文本,同样会被后台识别并卡住。
所以大众点评卡AI评论的第一道关,就是看文本——那些结构过于工整、热闹却没有细节支撑、缺少“真的吃过”的生活感的评论,都会被标记,转入人工审核。
看到这儿,可能有人要问了:那我让AI别写得那么模式化,用口语化的表达刷评论,不就能躲过审核了吗?
那你就错了,因为大众点评的审核还有第二关,就是看行为。
如果你在十秒内写完一条百字评价,用同一账号频繁发布结构雷同的评价,或者给某个商户集中写好评,都会触发重点关注。
下面这个账号就因为用同一账号频繁发布结构雷同的评价,被平台处理了:
除了看文本和看行为,平台还有一道杀手锏,就是做事实对比。
和“物理世界事实”做对比,这也是点评AI智能体能够杜绝AI幻觉的优势之一。
手机定位和商户距离合理吗?
照片里的菜品菜单上有没有?
评价里夸的那道菜,其他人的评价也这么好吗?
等等等等,都是这道审核要看的内容。
比如有这样一个案例:
有人到某家店喝过咖啡,她觉得店里的咖啡和甜品都不错,就想着给店家写个好评。
于是,她打开AI发语音说:“这店拿铁好喝,环境不错,你帮我补充点细节,写条100字的评价。”
没过一会儿,AI就把答案写好了:
“拿铁一如既往地好喝,奶泡绵密,豆子坚果香气很足。店内环境干净敞亮,午后的暖阳透过落地窗,洒在复古的木质桌椅上,窗外是熙熙攘攘的街道,店内是岁月静好的安宁。”
文笔是挺好的,可这家店位于商场内,并不沿街,大众点评的门店页面明确有地址,这条评论也和其他顾客留的评论形成了矛盾,所以也被审核关注到了。
AI能写出“岁月静好”,但也会无中生有,而大众点评沉淀的不只是文字,还有门店基本信息、设备地理位置、用户上传的菜品图片、商户备案菜单——这些都是物理世界留下的痕迹,是“写过”还是“来过”的区别。
报告里还有几个数据,我想再和你们分享一下:
2025年,大众点评持续打击“虚假刷评”“替代写评”“利益交换评价”等行为,累计处置违规评价2557.2万条,警告违规商户超71.2万家、处罚超8.7万家
全年治理AI评论1161万条,同时上线“AI辅助创作”主动声明功能。
凡此种种都表明了大众点评整治AI刷评的态度。
2025年大众点评全面推进AIGC评价分层治理
(图源:大众点评合规中心公众号)
治理之余,他们还在新上线的“点评众议厅”栏目跟用户做了一个调查,结果发现七成用户不愿意看到AI评价。
我觉得这确实是用户真实的感受,AI时代,真人真评价太难得了。
“点评的用户可能只发了20个字一张图,但这20个字是他真正打出来的,对你的价值可能高于无限多个低成本,只是刺激多巴胺的、没有人味的AI创作内容,所以大众点评将持续努力做好真人感、做好真人真评价。”大众点评公信力相关负责人也公开表示过。
也有一小部分人,认为我真实体验过了,简单写一下让AI润色,既能提高效率,也不算虚假评论,不行吗?
平台的态度是,尊重这部分作者,不完全禁止AI。但要保证过程透明,必须标注“含AI生成内容”声明,前提仍是基于真实消费体验。
我觉得这才是正确的方向。
虚假信息太容易生产了,生产成本趋近于零。而真实体验需要你真的走进一家店、真的点一道菜、真的咀嚼、真的感受——这个过程无法被压缩,更无法被替代。
前两天我翻大众点评,看到一条评价,写的是一家很普通的面馆:
“面条偏硬,老板问我要不要加汤,我说加。加了汤之后刚好。”
就这一句话,没有任何修辞,但我看完就知道这家面馆的面是偏硬的,老板人不错。
这种信息是AI写不出来的。不是因为它的技术做不到,而是AI没有走进那家面馆,没有吃到那碗面,没有跟老板说那句话。
AI只会尬夸,但真人写评论的时候,会把自己对于某家店的情感投入到文字中去。
他们会讲述自己的心心念念——
还会用自己的真实体验给别人做推荐和避雷——
人有喜怒哀乐,所以不会都是好评,偶尔也会发疯——
你看,真人写的东西,时而动人,时而抽象,时而还有错别字,但都有真实的情绪和体验做背书。
AI或许能模仿他们的表达,但永远无法模仿他们的经历,它不知道一家店会用观光车接送顾客,不明白剪坏发型是怎样的酷刑,更不知道店门口的小商小贩究竟是什么模样。
说白了。
在这个技术狂飙的时代,我们拥有了前所未有的能力去创造虚拟世界。但越是如此,真实世界的一草一木、一餐一饭,就越显得珍贵。
大众点评打击虚假好评和AI投毒,本质上是在做一件很朴素的事情,就是让体验和分享回归真实。
AI时代的真实,弥足珍贵。
-END-