有人给AI喂假料,有人拿现实“拷打”AI
创始人
2026-03-24 20:36:07

前几天315晚会曝光了一个事儿,让我脊背发凉。

记者用一款叫“力擎GEO优化系统”的软件,虚构了一款根本不存在的智能手环。然后批量生成十几篇软文发到网上——仅2小时后,AI大模型就开始引用这些假内容。3天之后,多个AI模型把这款虚构产品列为推荐答案。

一款不存在的东西,就这么被AI“信以为真”了。

开放的互联网犹如一片公海,谁都可以往里面倒东西,当然也包括“投毒”——只要你批量往其中倒假内容、假测评、假评价,AI检索的时候把这些当“参考资料”吸收进去,输出的答案就是被污染了的。

从给AI故意“投毒”到让AI输出误导内容,最短只需要15天,最长不超过3个月,门槛极低。

……

类似的投毒现象还有很多,比如用AI刷好评就在我们的生活中屡见不鲜。

2025年7月,工人日报调查了一个案例:某电商平台一款连衣裙的评论区,多位“买家”晒出了买家秀照片。照片里的人物容貌、表情、动作几乎一模一样。

放大一看——六根手指。

网友一语道破:“一眼AI”。

除了图片造假,文字评价的造假门槛更低。5块钱一条半托好评,7块钱一条全托好评,498块能进20个刷手群,每个群里近500人。

而AI让这件事的效率翻了不知道多少倍。以前水军写一条假评价需要两三分钟,现在AI一秒钟能生成一百条,还能自动换措辞、换风格、换语气,让每条看起来都不一样。

对商家来说,这是一个巨大的诱惑。花不了多少钱,就能让自家店铺的评价区看起来好评如潮。

但这会极大误导普通人,尤其涉及到线下生活——你看了好评,特地请了假弄了妆造约了朋友,满怀期待地去店里打卡,结果根本不是那么回事。

你觉得“这家店分量很小”,但一翻评论,全是“分量超足”“好吃到哭”——然后去了一看,果然是你说的那样。

你吃起来“这道菜一般”,但AI写的“入口即化”“味蕾盛宴”已经霸占了前十条评论。

认真经营的店和认真写评价的人,都在这种泛滥的AI评论里被不断稀释,久而久之评论区就失去了公信力。

这也正是AI造假最可怕的地方——不是骗你去了一家烂店,而是让你再也不相信任何一家店的好评。

AI投毒很糟糕,但我们的生活还没有被AI捆绑,不是非得让通用AI工具去打捞内容。

所谓GEO,是给“公海”投毒,但如果是一片一直有人清理、净化的“私海”呢?

那些积累了上亿用户的社区,有自己的治理规则,甚至独特的氛围文化。

最近,大众点评发布了他们的《2025评价透明度报告》。过去一年,大众点评App累计收到近4.5亿条评价,帮助用户找到、发现并体验真实世界的美好。有一句跟AI评价治理相关的表述,就是在缓解当下人们对AI投毒的焦虑。

报告提到,大众点评以“物理世界事实”为底座,引入AI智能体审核评价真实性。

“用户发布内容和商户真实服务是否匹配、提到的菜品是否在菜单上,AI智能体都能实时调取平台数据,提升审核效率以及评价真实性。”

什么意思?

简单来说就是,你在大众点评写一条评价,平台能看到的不仅仅是这段文字。它还能看到你有没有到过这家店、多长时间写完了一条评价、你上传的照片和商家菜单对不对得上……由此来判断这条评论究竟是真人写的,还是AI写的。

举个例子。

有时候,你会看到这种鬼打墙的评价——

“以下是为您生成的评价:”

明显的AI痕迹。碰到这种表述,系统立刻就会处理。

就算没有这么直白的提示,AI写出来的东西,也往往藏不住。

有人用AI给一家火锅店写了一段这样的评论:

“踏入这家店,柔和的灯光似繁星洒落,服务员像老友般周到。锅底翻滚着红油,毛肚七上八下,入口脆嫩,简直是味蕾的狂欢!”

吃个饭而已,普通人会用这么空泛、文学性的表述吗?

这种明显辞藻堆砌、不符合真人表达习惯的文本,同样会被后台识别并卡住。

所以大众点评卡AI评论的第一道关,就是看文本——那些结构过于工整、热闹却没有细节支撑、缺少“真的吃过”的生活感的评论,都会被标记,转入人工审核。

看到这儿,可能有人要问了:那我让AI别写得那么模式化,用口语化的表达刷评论,不就能躲过审核了吗?

那你就错了,因为大众点评的审核还有第二关,就是看行为

如果你在十秒内写完一条百字评价,用同一账号频繁发布结构雷同的评价,或者给某个商户集中写好评,都会触发重点关注。

下面这个账号就因为用同一账号频繁发布结构雷同的评价,被平台处理了:

除了看文本和看行为,平台还有一道杀手锏,就是做事实对比。

和“物理世界事实”做对比,这也是点评AI智能体能够杜绝AI幻觉的优势之一。

手机定位和商户距离合理吗?

照片里的菜品菜单上有没有?

评价里夸的那道菜,其他人的评价也这么好吗?

等等等等,都是这道审核要看的内容。

比如有这样一个案例:

有人到某家店喝过咖啡,她觉得店里的咖啡和甜品都不错,就想着给店家写个好评。

于是,她打开AI发语音说:“这店拿铁好喝,环境不错,你帮我补充点细节,写条100字的评价。”

没过一会儿,AI就把答案写好了:

“拿铁一如既往地好喝,奶泡绵密,豆子坚果香气很足。店内环境干净敞亮,午后的暖阳透过落地窗,洒在复古的木质桌椅上,窗外是熙熙攘攘的街道,店内是岁月静好的安宁。”

文笔是挺好的,可这家店位于商场内,并不沿街,大众点评的门店页面明确有地址,这条评论也和其他顾客留的评论形成了矛盾,所以也被审核关注到了。

AI能写出“岁月静好”,但也会无中生有,而大众点评沉淀的不只是文字,还有门店基本信息、设备地理位置、用户上传的菜品图片、商户备案菜单——这些都是物理世界留下的痕迹,是“写过”还是“来过”的区别。

报告里还有几个数据,我想再和你们分享一下:

2025年,大众点评持续打击“虚假刷评”“替代写评”“利益交换评价”等行为,累计处置违规评价2557.2万条,警告违规商户超71.2万家、处罚超8.7万

全年治理AI评论1161万条,同时上线“AI辅助创作”主动声明功能。

凡此种种都表明了大众点评整治AI刷评的态度。

2025年大众点评全面推进AIGC评价分层治理

(图源:大众点评合规中心公众号)

治理之余,他们还在新上线的“点评众议厅”栏目跟用户做了一个调查,结果发现七成用户不愿意看到AI评价。

我觉得这确实是用户真实的感受,AI时代,真人真评价太难得了。

“点评的用户可能只发了20个字一张图,但这20个字是他真正打出来的,对你的价值可能高于无限多个低成本,只是刺激多巴胺的、没有人味的AI创作内容,所以大众点评将持续努力做好真人感、做好真人真评价。”大众点评公信力相关负责人也公开表示过。

也有一小部分人,认为我真实体验过了,简单写一下让AI润色,既能提高效率,也不算虚假评论,不行吗?

平台的态度是,尊重这部分作者,不完全禁止AI。但要保证过程透明,必须标注“含AI生成内容”声明,前提仍是基于真实消费体验。

我觉得这才是正确的方向。

虚假信息太容易生产了,生产成本趋近于零。而真实体验需要你真的走进一家店、真的点一道菜、真的咀嚼、真的感受——这个过程无法被压缩,更无法被替代。

前两天我翻大众点评,看到一条评价,写的是一家很普通的面馆:

“面条偏硬,老板问我要不要加汤,我说加。加了汤之后刚好。”

就这一句话,没有任何修辞,但我看完就知道这家面馆的面是偏硬的,老板人不错。

这种信息是AI写不出来的。不是因为它的技术做不到,而是AI没有走进那家面馆,没有吃到那碗面,没有跟老板说那句话。

AI只会尬夸,但真人写评论的时候,会把自己对于某家店的情感投入到文字中去。

他们会讲述自己的心心念念——

还会用自己的真实体验给别人做推荐和避雷——

人有喜怒哀乐,所以不会都是好评,偶尔也会发疯——

你看,真人写的东西,时而动人,时而抽象,时而还有错别字,但都有真实的情绪和体验做背书。

AI或许能模仿他们的表达,但永远无法模仿他们的经历,它不知道一家店会用观光车接送顾客,不明白剪坏发型是怎样的酷刑,更不知道店门口的小商小贩究竟是什么模样。

说白了。

在这个技术狂飙的时代,我们拥有了前所未有的能力去创造虚拟世界。但越是如此,真实世界的一草一木、一餐一饭,就越显得珍贵。

大众点评打击虚假好评和AI投毒,本质上是在做一件很朴素的事情,就是让体验和分享回归真实。

AI时代的真实,弥足珍贵。

-END-

相关内容

热门资讯

利用AI软件编造谣言!合肥警方... 为有效净化网络环境,切实维护人民群众合法权益,合肥市公安机关网安部门依法严厉打击编造传播网络谣言违法...
AI能否成为万物云致胜“法宝”... 近日,在万物云(002602.HK)召开的2025年度业绩发布会上,万物云董事长朱保全判断,当前物业...
看好工业AI前景 西门子与中企... 中新网北京3月24日电 (陈昊星 王恩博)人工智能正迅速从数字世界走向实体经济。基于对中国工业AI前...
崇川今年开展百场AI夜校培训 本报讯 (记者 贲腾) 南通市崇川区委党校报告厅,一堂“AI实操运用及AI+办公”专题课近日开讲,区...
市民赏花爱用AI“寻根问底” “看一下,这是什么花,咋辨别?”3月23日,市民刘志梅走进双塔公园,将手机镜头对准枝头粉嫩的花朵,向...