[控场AI]
概念投机强制 / 投机式强制生成

Speculative Forcing

一种用于自回归视频生成的推理加速框架,通过将去噪过程中的中间估计视为草稿并预测可提前接受的token,冻结已接受token以跳过后续去噪步骤,从而在保持生成质量的同时大幅降低平均去噪步数

时间轴 (近 90 天)

10月16日

Speculative Forcing框架将去噪过程中的中间清晰估计视为草稿,并预测哪些token可以被安全地提前接受。

待验证50%
10月16日

在Speculative Forcing中,一旦某个token被接受,它会被冻结为最终输出,不再参与后续去噪计算,但其缓存键值仍作为上下文供剩余token使用。

待验证50%
10月16日

在LongLive基准测试中,Speculative Forcing匹配四步生成器的质量,平均每个token仅需约1.7个去噪步骤,运行速度提升超过1.5倍,达到41.7和37.8 fps的生成帧率。

待验证50%
10月16日

在Lingbot-World 2.0上的测试中,Speculative Forcing平均每个token约2.5个去噪步骤,运行速度提升1.35倍,达到24.5 fps。

待验证50%
10月16日

Speculative Forcing中的无需训练验证器基于token与清晰内容的相似度以及跨步骤的稳定性来判断是否可以提前接受token。

待验证50%
10月16日

Speculative Forcing中的学习型验证器读取冻结生成器的中间特征,估计每个token距离其全步输出的剩余差距。

待验证50%
10月16日

Speculative Forcing的核心设计原则是并非所有token都需要同等程度的计算投入,即让每个token按需计算。

待验证50%
10月16日

Speculative Forcing在少步生成器的基础上增加自适应裁剪,将必须走完的步数从固定值改为按token动态决定。

待验证50%
10月16日

Speculative Forcing的早期接受决策不会破坏后续token的生成条件,因为被接受token的键值仍留在上下文中。

待验证50%
10月16日

世界生成场景中每个token所需的平均步骤(2.5步)高于短视频场景(1.7步),反映动态内容对精炼程度的更高要求。

待验证50%

全部知识事实 (10)

待验证

Speculative Forcing框架将去噪过程中的中间清晰估计视为草稿,并预测哪些token可以被安全地提前接受。

50%
待验证

在Speculative Forcing中,一旦某个token被接受,它会被冻结为最终输出,不再参与后续去噪计算,但其缓存键值仍作为上下文供剩余token使用。

50%
待验证

在LongLive基准测试中,Speculative Forcing匹配四步生成器的质量,平均每个token仅需约1.7个去噪步骤,运行速度提升超过1.5倍,达到41.7和37.8 fps的生成帧率。

50%
待验证

在Lingbot-World 2.0上的测试中,Speculative Forcing平均每个token约2.5个去噪步骤,运行速度提升1.35倍,达到24.5 fps。

50%
待验证

Speculative Forcing中的无需训练验证器基于token与清晰内容的相似度以及跨步骤的稳定性来判断是否可以提前接受token。

50%
待验证

Speculative Forcing中的学习型验证器读取冻结生成器的中间特征,估计每个token距离其全步输出的剩余差距。

50%
待验证

Speculative Forcing的核心设计原则是并非所有token都需要同等程度的计算投入,即让每个token按需计算。

50%
待验证

Speculative Forcing在少步生成器的基础上增加自适应裁剪,将必须走完的步数从固定值改为按token动态决定。

50%
待验证

Speculative Forcing的早期接受决策不会破坏后续token的生成条件,因为被接受token的键值仍留在上下文中。

50%
待验证

世界生成场景中每个token所需的平均步骤(2.5步)高于短视频场景(1.7步),反映动态内容对精炼程度的更高要求。

50%

来源文章