RECON
一种用于扩散Transformer训练的表示条件化方法，将预训练视觉编码器的token作为条件信号注入扩散模型后层，在不增加参数的前提下加速训练收敛。
时间轴 (近 90 天)
论文《Representation Conditioning for Generation》提出了RECON方法，在不增加任何参数的前提下，将扩散Transformer训练收敛速度提升至SiT的63倍、REPA的25倍。
RECON的核心思路是在训练时将预训练视觉编码器输出的token作为条件信号直接送入扩散模型的后层。
RECON不引入任何额外参数，工程落地几乎没有额外成本。
REPA负责前层语义对齐，RECON负责后层语义条件化，两者互补而非冲突。
REPA与RECON的区别在于：REPA是损失层面的软约束（让骨干特征拟合编码器特征），RECON是输入层面的硬信息（将编码器特征直接作为输入喂给骨干）。
REPA和RECON的工作表明，扩散Transformer前层学到的语义信息未必能自动流向后层，分层、分阶段地设计监督信号可能是提升训练效率的一个被低估的方向。
RECON的效果在多大程度上依赖于预训练视觉编码器的质量以及MLP头作为代理在推理阶段的保真度，仍需进一步验证。
RECON论文代码已在GitHub开源，地址为github.com/saeidrazavi/RECON。
RECON在推理阶段复用MLP头作为代理的设计引入了代理保真度这一新的误差来源，同时在条件生成、可控生成等场景中具有通用参考价值。
全部知识事实 (9)
RECON在推理阶段复用MLP头作为代理的设计引入了代理保真度这一新的误差来源，同时在条件生成、可控生成等场景中具有通用参考价值。
50%待验证RECON的核心思路是在训练时将预训练视觉编码器输出的token作为条件信号直接送入扩散模型的后层。
50%待验证RECON不引入任何额外参数，工程落地几乎没有额外成本。
50%待验证REPA负责前层语义对齐，RECON负责后层语义条件化，两者互补而非冲突。
50%待验证REPA与RECON的区别在于：REPA是损失层面的软约束（让骨干特征拟合编码器特征），RECON是输入层面的硬信息（将编码器特征直接作为输入喂给骨干）。
50%待验证REPA和RECON的工作表明，扩散Transformer前层学到的语义信息未必能自动流向后层，分层、分阶段地设计监督信号可能是提升训练效率的一个被低估的方向。
50%待验证RECON的效果在多大程度上依赖于预训练视觉编码器的质量以及MLP头作为代理在推理阶段的保真度，仍需进一步验证。
50%待验证论文《Representation Conditioning for Generation》提出了RECON方法，在不增加任何参数的前提下，将扩散Transformer训练收敛速度提升至SiT的63倍、REPA的25倍。
50%待验证RECON论文代码已在GitHub开源，地址为github.com/saeidrazavi/RECON。
50%