[控场AI]
概念DiT

Diffusion Transformer

将扩散模型的去噪主干从传统U-Net替换为Transformer的架构,把带噪样本和噪声时间步作为token序列输入Transformer,利用自注意力建模全局依赖

核心事实

时间轴 (近 90 天)

10月15日

该研究采用潜在扩散框架,将线性自编码器与Diffusion Transformer耦合:自编码器把actor网络参数压缩到紧凑的潜在空间,Diffusion Transformer再对该潜在分布建模。

待验证50%
9月7日

OpenAI的Sora采用了Diffusion Transformer(DiT)架构,将Transformer的注意力机制与扩散过程结合,能够理解时空连贯性

待验证50%
9月7日

Sora基于Diffusion Transformer(DiT)架构,该架构由UC Berkeley的William Peebles和Saining Xie在2023年提出

待验证50%
9月5日

最新一代的编辑模型采用DiT(Diffusion Transformer)架构,将图像token和文本token统一处理,从而实现更精细的跨模态对齐

待验证50%
8月26日

2024年以来随着DiT(Diffusion Transformer)架构在视频生成中的广泛应用,开源模型质量开始大幅追赶闭源产品

待验证50%

全部知识事实 (10)

来源文章