[控场AI]
概念DiT / Diffusion Transformer

扩散Transformer

将Transformer架构引入扩散模型的一类生成骨干网络,把带噪图像切成patch并线性嵌入为token序列,用多层Transformer块预测噪声或速度,取代传统U-Net。

时间轴 (近 90 天)

10月19日

JiT工作表明,一个朴素的扩散Transformer只需将常用的速度预测(u-prediction)替换为干净图像预测(x0-prediction),就能直接在像素空间生成图像。

待验证50%
10月16日

SoftCache完全免训练,并且不增加任何针对特定骨干网络的参数设置,可以直接应用于不同的扩散Transformer架构,无需针对每个模型进行超参数调整。

待验证50%
10月15日

扩散Transformer(DiT)是将Transformer架构引入扩散模型的一类生成骨干网络,把带噪图像切成patch并线性嵌入为token序列,用多层Transformer块预测噪声或速度,取代传统扩散模型中的U-Net。

待验证50%
10月7日

论文在多个概念和多种文生图扩散Transformer上验证,发现激活轨迹显著偏离直线

待验证50%
9月18日

主流文生视频模型(包括Seedance、Kling、Sora等)均基于扩散Transformer架构,每次生成为独立随机采样,相同提示词两次生成结果存在显著差异

待验证50%

全部知识事实 (5)

来源文章