公众呼吁社交平台谨慎对待AI生成内容
创始人
2025-12-08 13:45:07

参考消息网12月8日报道据英国《卫报》网站12月5日报道,在社交媒体平台上出现了许多通过人工智能(AI)生成的深度伪造视频,这些视频伪造医生的观点,以帮助销售补品和传播有关健康的错误信息。

英国“全部事实”组织已经发现了数以百计的这种视频,并于5日发表了相关情况的调查报告。在这些视频中,一些医生和网红的形象被冒用,引导网友前往一家总部在美国的名为“健康之巢”的保健品公司网站购买产品。

所有的深度伪造视频素材都来自互联网上截取的健康专家的真实画面。然而,图像和音频都被篡改,从而让这些专家鼓励更年期女性从保健品公司网站上购买产品。

这些虚假视频促使人们呼吁大型社交媒体公司以更为谨慎的态度对待AI生成的内容,并更快删除篡改他人观点的视频。

负责调查这一问题的事实核查员利奥·贝内迪克特斯说:“这显然是一种目的险恶、令人担忧的促销新策略。”

他补充说,深度伪造的健康视频利用AI技术,让“受人尊敬的专家或拥有大量粉丝的网红看上去非常支持以健康补剂来治疗一系列疾病”。

利物浦大学健康问题专家戴维·泰勒-鲁滨逊教授就是被深度伪造视频篡改的对象之一。今年8月,他震惊地发现,TikTok上有14个篡改他发言的视频,旨在推荐一些效果未经证实的健康补剂。

泰勒-鲁滨逊本是儿童健康方面的专家,但在一段视频中,他竟然在谈论更年期问题。在这段虚假视频中,被冒名的泰勒-鲁滨逊建议更年期女性前往“健康之巢”网站,购买所谓的天然益生菌。

在一名同事提醒后,真正的泰勒-鲁滨逊才发现自己的形象被人冒用。他说:“一开始我真的很困惑——一切都很超现实——连我的孩子们也觉得很好笑。我并没有觉得自己受到了极大的侵犯,但一想到有人利用我来销售产品,而且其中涉及错误的健康信息,我就越想越生气。”

泰勒-鲁滨逊用了6周时间,才让网站撤下了这些视频。他说:“网站起初说,一些视频虽然违反了平台原则,但另一些无伤大雅。为了让他们撤下这些视频,我费了一番周折。”

英国自由民主党健康卫生问题发言人海伦·摩根说:“从假医生到鼓励自杀的聊天机器人,AI正在被用来掠夺无辜者,并利用我们卫生体系日益扩大的裂隙。”(编译/潘晓燕)

相关内容

热门资讯

中国500万医生的新AI:顶刊... 金磊 发自 杭州 量子位 | 公众号 QbitAI 很反差。 明明是一场AI的发布会,台下却坐满了医...
当AI从“会说”到“会干”,工... “大家可能误以为,一个大模型就能解决所有问题。实际上,大模型更像电,真正要让房间变凉,还得造出空调。...
灵尾科技全球首创AI智能爬宠伴... 5月12日,灵尾科技参加2026德国Interzoo,其全球首创的AI智能爬宠伴侣,模拟自然环境解决...
浪潮数据申请超融合架构下AI任... 国家知识产权局信息显示,济南浪潮数据技术有限公司申请一项名为“一种资源调度方法、系统、设备及计算机可...
突发!ChatGPT上线AI理... ChatGPT能读取用户的银行流水了。 5月15日,OpenAI向美国Pro用户推送了AI理财功能,...