点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI视频生成模型需要“护栏”
首页> 网安频道> 数字安全 > 正文

AI视频生成模型需要“护栏”

来源:南方日报2026-02-12 17:28

  近日,字节跳动新一代AI视频生成模型Seedance 2.0上线内测,凭借多模态创作方式、自带运镜的呈现效果,迅速引起海内外高度关注。

  Seedance 2.0为何这么火?此前绝大多数AI视频生成模型更像一个“素材生成器”,用户要多次“抽卡”才能选到满意的,Seedance 2.0则更像一名能够理解叙事逻辑、掌控视听语言的“AI导演”,一段简单的文字就能生成带有运镜、灯光等专业导演技能的“大片”,一次就能达到可用标准,角色一致性也很高。难怪有人称其为“当前地表最强的视频生成模型”,不少海外用户赞其效果“媲美好莱坞大片”。

  Seedance 2.0官网称,“无论是单人还是多人场景,角色旁白、环境音效与画面均精准同步,真实感更强。”真实感,其实是一体两面的存在,既是吸引用户的关键,也会引发真相焦虑、信任危机等问题——

  影视飓风创始人Tim一边感慨Seedance 2.0的出色能力,一边在测评视频中连呼6次“恐怖”,原因是他上传自己照片、公司正面照片后,Seedance 2.0自动匹配了他的声音、生成了公司大楼另一面的景象,“这基本上可以确定一件事,Seedance 2.0大量训练了我们公司的视频。”

  由于国内外AI大模型都在使用公开数据进行训练,公众人物相关素材难免进入公开数据集被“喂”给大模型,导致后者对公众人物更加“熟悉”。但即便是公众人物,其人脸、声音等信息也是颇为敏感的,其正当权益应该得到保护。

  此外,Seedance 2.0在“看图生音”“看正面生背面”上的“逼真”表现,也让人不得不对其滥用风险加以警惕。游戏科学CEO冯骥在称赞之余就直言,“逼真的假视频将变得毫无门槛,而现有的知识产权与审查体系会面临空前冲击”。这并非危言耸听。从数据特性角度看,相比于文字内容,声音和视频具有更强的个人与场景特定性,当前阶段数据使用的责任与边界问题,也因此更加凸显。

  如今的Seedance 2.0,具有在国际上争先的势头。“Seedance 2.0们”想要成为头部,必须让治理跟上技术发展水平,这不是负担,而是可持续发展的“护栏”。

  中国工程院院士邬江兴最近就提到,各国AI竞争的本质,是一场终点线模糊的马拉松式耐力比赛,决定胜负的关键并非哪个国家取得了突破性技术,而是谁能更高效地推动AI在各生态系统实现规模化渗透应用。实现AI大规模应用,首先就面临“安全信任壁垒”问题:对用户来说,需要确认AI到底有多安全,才能“敢用”;对关键行业来说,只有了解AI犯错会造成多大的影响、责任如何界定,才“敢推广”;对监管来说,知道AI安全如何衡量、监督和处置,才谈得上“敢管”。

  由此可见,这个“护栏”需要企业“内生”,也需法律完善、行业自律等。实现多元协同治理,才能更好平衡技术发展与风险防控,让“真实感”的优势最大化、风险最小化。(维辰)

[ 责编:雷渺鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 游西夏陵 开启新体验

  • 江苏扬州至镇江直流输电二期工程建成投运

独家策划

推荐阅读
民族文化宫里珍宝千千万,但说到“镇馆之宝”,首先想到的便是1300多年前文成公主带到西藏的长鼓,许多观众慕名而来只为一睹它的“芳容”。
2025-11-28 13:02
为庆祝新疆维吾尔自治区成立70周年,“异元汽车杯”首届新疆国际摄影大赛9月28日正式启动。
2025-09-29 14:31
2025年4月10日,安徽省芜湖市无为市昆山镇三公山茶叶种植基地,千亩高山野生杜鹃在翠绿的茶园之间绚丽绽放,美轮美奂,美不胜收
2025-04-10 15:13
2025年4月1日,北京怀柔慕田峪长城内外山花盛开,美丽的春花把古长城打扮的多姿多娇,犹如春天里一幅壮美的风景画
2025-04-02 15:44