[控场AI]
· 11 分钟阅读· 5,716 字

AI视频生成进化史:从Will Smith吃面翻车到电影级画质

AI视频生成进化史:从Will Smith吃面翻车到电影级画质

一个梗背后的技术里程碑

在AI视频生成的圈子里,有一个流传甚广的"民间基准测试"——Will Smith吃意大利面(Will Smith Benchmark)。这个看似荒诞的测试,实际上成了衡量文本生成视频(Text-to-Video)模型能力的一把非官方标尺。

最近,一位Reddit用户重新翻出了当年ModelScope生成的"Will Smith吃面"视频,配上那句魔性的评论:"KEEP THAT AI SPAGHETTI INSIDE MY F*ING MOUTH!"(把那些AI意面留在我嘴里!),瞬间引爆了社区的怀旧情绪与技术讨论。

为什么一段扭曲变形、面条与嘴巴分不清的视频会成为经典?因为它精准地暴露了早期视频生成模型的核心难题——时间一致性(Temporal Consistency)与物理逻辑的崩坏。

时间一致性是视频生成中最核心的挑战之一:与单张图像生成不同,视频需要在连续数十甚至数百帧之间保持人物外貌、背景环境和物体状态的连贯性。早期模型往往逐帧或以极短窗口生成画面,缺乏跨帧的全局约束机制,导致人脸在连续帧之间发生不可控的变形与闪烁。这一问题的本质在于模型的注意力窗口限制——早期架构如3D U-Net加时间注意力层,其时间感受野通常仅覆盖16-24帧(约1-2秒),超出这个范围的帧之间缺乏直接的信息传递路径。这意味着视频前半段和后半段的人物可能在特征空间中逐渐漂移,表现为外貌的渐变失真。

而物理逻辑则要求模型对重力、碰撞、柔体形变等现实规律具备隐式理解——面条作为非刚性物体,在被叉子卷起、送入口中时的拉伸与下垂行为极为复杂,远超早期模型的能力边界。面条作为典型的非刚性可变形物体,其运动受流体力学和弹性力学共同支配——酱汁的粘附、重力导致的下垂、卷绕时的扭转都需要模型隐式学习到这些物理规律,而非简单的纹理拼贴。这对训练数据的丰富度和模型的表征能力都提出了极高的要求。

Will Smith基准测试为何重要

一个刁钻的测试场景

"人吃面"这个动作对AI来说堪称地狱级难度。它同时考验了视频生成模型的多项核心能力:

  • 面部一致性:连续帧中人脸不能变形、崩塌
  • 物体交互:面条与手、嘴、餐具之间的物理关系
  • 动态连贯:咀嚼、进食这一连串动作的流畅过渡
  • 细节稳定:面条这种细长柔软的物体极易在生成中"糊成一团"

早期的ModelScope模型在这个测试中"翻车"得相当彻底——Will Smith的脸时而扭曲,面条与嘴融为一体,画面充满诡异的"AI味"。ModelScope Text-to-Video是由阿里巴巴达摩院于2023年初开源的文本生成视频模型,基于扩散模型(Diffusion Model)架构构建。

扩散模型的工作原理可以类比为"逐步去噪"的过程:训练时,模型学习将干净数据逐步加入高斯噪声直至变成纯随机噪声(前向过程);推理时,模型从纯噪声出发,逐步预测并去除噪声以还原出清晰内容(反向过程)。在视频生成中,这一过程被扩展到三维张量——包含空间(宽×高)和时间(帧数)三个维度。每一步去噪不仅要让单帧画面更清晰,还要确保相邻帧之间的过渡自然平滑,这使得视频扩散模型的计算复杂度远高于图像扩散模型。

作为最早一批面向公众开放的文本生成视频模型之一,ModelScope虽然输出质量按今天的标准来看相当粗糙——分辨率低、帧数少、变形严重——但其开源性质使其迅速在Reddit、Twitter等社区传播,成为大量网友首次体验AI视频生成的入口。正是这种广泛的可及性,催生了包括"Will Smith吃面"在内的大量病毒式传播内容,也让它的荒诞失败成了AI视频生成社区津津乐道的经典梗。

从缺陷到调侃的社区文化

有意思的是,社区并没有嘲讽这些失败,反而以一种戏谑的方式拥抱它。"SOTA models wish they were half as cool as Modelscope"(那些顶尖模型还希望自己有ModelScope一半酷呢)这样的调侃,恰恰反映了技术爱好者对早期探索的珍视——那些粗糙的输出,是整个AI视频生成领域起步的见证。

这种社区文化现象在技术发展史中并不罕见。正如早期互联网时代的像素化GIF动图、早期3D游戏的棱角分明的多边形模型一样,这些技术局限反而成为了一代人的集体记忆符号。它们标记了技术从不可能到可能的那个精确时刻,承载着比完美输出更丰富的历史意义。

AI视频生成技术的狂飙进化

从两三年前到今天的巨大跨越

一位用户的感慨道出了很多人的心声:"这是两年前?三年前?自从疫情以来我都不知道时间是什么概念了,但视频生成的进步速度确实令人惊叹。"

从ModelScope时代到如今,AI视频生成经历了近乎指数级的跃迁:

  • 早期探索阶段:以ModelScope、Runway Gen-1为代表的早期模型,输出普遍存在严重的变形、闪烁和逻辑混乱
  • 突破性进展:OpenAI的Sora横空出世,展示了长达一分钟的高一致性视频,震动整个行业。Sora于2024年2月发布技术演示,其核心突破在于将视频理解为"时空补丁"(spacetime patches)的序列,统一了不同分辨率和时长的处理方式。通过在极大规模的视频数据上进行训练,Sora获得了对物理世界某种"涌现式理解"——能模拟光影反射、物体持久性等复杂现象。它还支持可变时长和分辨率的原生生成,打破了此前模型固定尺寸输出的限制,标志着AI视频生成从"玩具级"向"生产级"的关键转折。
  • 百花齐放阶段:Runway Gen-3、Kling(可灵)、Luma、Pika等产品相继推出,视频质量、时长和可控性大幅提升

Runway作为AI视频生成领域最具代表性的商业公司之一,其产品线清晰地勾勒了行业技术演进的轨迹。Gen-1(2023年初)实现了视频到视频的风格转换;Gen-2(2023年中)首次支持纯文本生成视频;Gen-3 Alpha(2024年中)则大幅提升了画面质量、运动幅度和时间一致性,支持10秒高质量输出。每一代产品之间仅相隔数月,却实现了质的飞跃,充分体现了该领域的研发节奏之快。

可灵(Kling)由快手大模型团队开发,于2024年6月发布,是中国在AI视频生成领域的重要突破。它支持生成最长2分钟、1080p分辨率的视频,在人物一致性和物理模拟方面表现出色。可灵的出现标志着AI视频生成不再是少数硅谷公司的专属赛道,中国团队在该领域展现出了强劲的竞争力。同期还有字节跳动的即梦(Dreamina)、智谱AI的CogVideo等多个中国团队的产品相继推出,形成了中美并行竞争的格局。

"Staggering"还是"Awesome"?

评论区出现了一个微妙的分歧。有人用"awesome"(令人赞叹)形容这一进步,也有人更倾向于"staggering"(令人震惊、甚至有些不安)。

这个用词差异恰恰折射出行业内部的复杂心态:一方面,文本生成视频技术带来了前所未有的创作可能性;另一方面,如此迅猛的发展速度也让人感到某种失控般的眩晕——深度伪造、内容真实性、创作伦理等问题接踵而至。

深度伪造(Deepfake)技术的含义已从最初的面部替换扩展到任何AI生成的以假乱真的媒体内容。当视频生成模型能够产出高度逼真的画面时,真实与合成之间的界线日益模糊。目前业界应对这一挑战的技术路线包括数字水印(如Google的SynthID,通过在生成内容中嵌入人眼不可见但算法可检测的信号来标记AI生成内容)、内容溯源标准(如C2PA联盟的内容认证协议)以及AI检测模型,但检测方法与生成技术之间的对抗本质上是一场持续的军备竞赛,构成了这一领域最深层的社会伦理挑战。

C2PA(Coalition for Content Provenance and Authenticity)是由Adobe、Microsoft、BBC、Intel等公司联合成立的技术标准联盟,旨在为数字内容建立可验证的来源和编辑历史链。其技术方案在内容创建和每次编辑时嵌入加密签名的元数据,形成不可篡改的溯源链。当用户查看一张图片或一段视频时,可以通过验证工具追溯其完整的创建和修改历史,包括是否涉及AI生成。然而该标准面临的核心挑战在于:恶意行为者可以在分发前剥离这些元数据,因此它更适合作为"诚信声明"而非"防伪检测"使用,需要与其他技术手段配合才能构成有效的防线。

从"翻车视频"看AI视频生成发展规律

缺陷是进步的坐标系

Will Smith基准测试之所以有价值,在于它提供了一个可感知的、直观的进步坐标系。普通人可能看不懂FID、CLIP Score这些技术指标,但所有人都能一眼看出"这次的面条终于进到嘴里了"。

这里值得解释一下这些专业指标的含义:FID(Fréchet Inception Distance)通过比较真实数据与生成数据在深度神经网络特征空间中的统计分布差异来评估生成质量,数值越低表示生成结果越接近真实;CLIP Score则利用OpenAI的CLIP模型衡量生成内容与文本描述之间的语义匹配度,数值越高表示生成结果越符合文字提示。此外还有FVD(Fréchet Video Distance),是FID在视频领域的扩展版本,它在计算分布差异时考虑了时间维度的特征,能够在一定程度上反映视频的时序连贯性。

然而这些指标都有明显局限性——FID无法捕捉时间维度的连贯性,CLIP Score也难以评估物理合理性,FVD虽考虑了时间信息但仍可能在统计平均中掩盖局部的严重失真。视频生成模型的评估目前仍是学术界公认的难题,所有自动化指标都存在与人类感知不完全对齐的问题——一个FVD分数很低的视频可能在某个关键物理交互上出现明显违和感,而这种违和感在统计指标中被平均掉了。正因如此,"Will Smith吃面"这类直观的民间测试具备了不可替代的价值:它让抽象的技术进步变得具体可感,也让整个社区能够以一种轻松的方式追踪视频生成模型的前沿动态。

快速迭代背后的算力与数据

AI视频生成能在两三年内取得如此巨大飞跃,背后是多重因素的叠加:

  • 扩散模型与Transformer架构的融合:尤其是DiT(Diffusion Transformer)成为视频生成的主流技术路线。DiT最早由Meta的研究团队William Peebles和Saining Xie在2023年提出,其核心思想是用Transformer替代传统扩散模型中的U-Net骨干网络。传统U-Net依赖卷积操作捕捉局部特征,虽然通过下采样和上采样也能获得较大感受野,但其归纳偏置天然倾向于局部模式匹配。而Transformer的自注意力机制能够建模全局依赖关系——每个token(时空patch)都可以直接关注到序列中任何其他位置的信息,不受距离限制。这一特性被自然地扩展到时间维度:将视频切分为时空patch后统一处理,使模型能在更长的时间跨度内保持一致性。OpenAI的Sora被广泛认为采用了类似DiT的架构,这正是其能生成长时间连贯视频的关键技术基础。DiT架构还有一个重要优势——它继承了Transformer良好的规模扩展性(scaling properties),即模型性能随参数量和训练数据的增加而可预测地提升,这为"用更多算力换取更好效果"提供了清晰的技术路径。
  • 大规模视频数据集的积累与清洗,为模型提供了更丰富的训练素材。高质量视频数据的获取和处理本身就是一项巨大的工程挑战——需要从数十亿小时的互联网视频中筛选出高分辨率、高质量、内容多样且无版权争议的片段,再进行场景分割、字幕生成(用于文本-视频对齐)、美学评分等一系列预处理步骤。数据质量的提升对模型表现的影响往往不亚于架构创新本身。
  • 算力的持续投入:训练成本虽高但产出质量呈指数级提升。据行业估算,训练一个Sora级别的视频生成模型可能需要数千张高端GPU运行数周甚至数月,单次训练成本可达数百万美元级别。但随着硬件效率的提升(如NVIDIA H100相比A100的性能跃升)和训练技术的优化(如混合精度训练、模型并行等),单位算力产出的质量持续改善。

结语:珍惜每一次"AI吃面"

当我们今天惊叹于Sora、Kling生成的电影级画面时,别忘了那段扭曲搞笑的"Will Smith吃面"视频。它不仅是一个梗,更是AI视频生成史上的一块里程碑——记录了这个领域从蹒跚学步到疾速奔跑的全过程。

正如社区所言,无论用"awesome"还是"staggering"来形容,这段进化历程都足够载入史册。而下一次,当有人再次跑起Will Smith基准测试时,我们或许会惊讶地发现:面条,早已完美地进到了嘴里。

核心要点

  • Will Smith吃面测试是AI视频生成领域最具辨识度的民间基准,通过一个高难度的人物-物体交互场景直观展示模型能力的演进
  • 时间一致性与物理逻辑是视频生成的两大核心挑战,前者要求跨帧全局连贯,后者要求隐式理解物理规律
  • 技术架构的代际跃迁——从3D U-Net到DiT(Diffusion Transformer)——是视频生成质量飞跃的关键驱动力
  • 从ModelScope到Sora的两年间,AI视频生成完成了从"玩具级"到"生产级"的质变,背后是架构创新、数据规模和算力投入的三重叠加
  • 社区文化的独特价值:技术爱好者以幽默和包容的态度记录技术进步,使抽象的研究进展获得了广泛的公众认知
  • 伦理与安全挑战与技术进步如影随形,深度伪造防控需要技术标准(C2PA)、数字水印和检测模型的协同应对
#AI视频生成#文本生成视频#Will Smith Benchmark#Sora#扩散模型#DiT架构#视频生成模型#Runway Gen-3
分享:

相关推荐