AI视频生成模型需要“护栏”
创始人
2026-02-12 18:22:57

近日,字节跳动新一代AI视频生成模型Seedance 2.0上线内测,凭借多模态创作方式、自带运镜的呈现效果,迅速引起海内外高度关注。

Seedance 2.0为何这么火?此前绝大多数AI视频生成模型更像一个“素材生成器”,用户要多次“抽卡”才能选到满意的,Seedance 2.0则更像一名能够理解叙事逻辑、掌控视听语言的“AI导演”,一段简单的文字就能生成带有运镜、灯光等专业导演技能的“大片”,一次就能达到可用标准,角色一致性也很高。难怪有人称其为“当前地表最强的视频生成模型”,不少海外用户赞其效果“媲美好莱坞大片”。

Seedance 2.0官网称,“无论是单人还是多人场景,角色旁白、环境音效与画面均精准同步,真实感更强。”真实感,其实是一体两面的存在,既是吸引用户的关键,也会引发真相焦虑、信任危机等问题——

影视飓风创始人Tim一边感慨Seedance 2.0的出色能力,一边在测评视频中连呼6次“恐怖”,原因是他上传自己照片、公司正面照片后,Seedance 2.0自动匹配了他的声音、生成了公司大楼另一面的景象,“这基本上可以确定一件事,Seedance 2.0大量训练了我们公司的视频。”

由于国内外AI大模型都在使用公开数据进行训练,公众人物相关素材难免进入公开数据集被“喂”给大模型,导致后者对公众人物更加“熟悉”。但即便是公众人物,其人脸、声音等信息也是颇为敏感的,其正当权益应该得到保护。

此外,Seedance 2.0在“看图生音”“看正面生背面”上的“逼真”表现,也让人不得不对其滥用风险加以警惕。游戏科学CEO冯骥在称赞之余就直言,“逼真的假视频将变得毫无门槛,而现有的知识产权与审查体系会面临空前冲击”。这并非危言耸听。从数据特性角度看,相比于文字内容,声音和视频具有更强的个人与场景特定性,当前阶段数据使用的责任与边界问题,也因此更加凸显。

如今的Seedance 2.0,具有在国际上争先的势头。“Seedance 2.0们”想要成为头部,必须让治理跟上技术发展水平,这不是负担,而是可持续发展的“护栏”。

中国工程院院士邬江兴最近就提到,各国AI竞争的本质,是一场终点线模糊的马拉松式耐力比赛,决定胜负的关键并非哪个国家取得了突破性技术,而是谁能更高效地推动AI在各生态系统实现规模化渗透应用。实现AI大规模应用,首先就面临“安全信任壁垒”问题:对用户来说,需要确认AI到底有多安全,才能“敢用”;对关键行业来说,只有了解AI犯错会造成多大的影响、责任如何界定,才“敢推广”;对监管来说,知道AI安全如何衡量、监督和处置,才谈得上“敢管”。

由此可见,这个“护栏”需要企业“内生”,也需法律完善、行业自律等。实现多元协同治理,才能更好平衡技术发展与风险防控,让“真实感”的优势最大化、风险最小化。(维辰)

来源:南方日报

相关内容

热门资讯

45亿春节红包雨,能否筑起巨头... 这些天,很多奶茶店爆单了。 原因是互联网巨头正在开展的AI红包大战。 最近,阿里旗下AI应用千问推出...
Artificial Anal... 2 月 12 日,智谱官方今日宣布上线并开源 GLM-5。据介绍,GLM-5 在全球权威的 Arti...
AI应用概念股震荡走高,利欧股... AI应用概念股震荡走高, 利欧股份涨停, 昆仑万维涨超10%, 蓝色光标涨超5%, 万兴科技、 科远...