#扩散模型
共 9 篇相关文章

离散扩散模型的置信度困境:为何并行生成会偏离真实分布
《Limits of Confidence in Diffusion》研究揭示离散扩散模型并行生成的根本限制:只有条件独立的token位置才能同步写入,而像素、音素、词语等真实数据普遍存在依赖关系,导致乘积分布无法匹配真实训练分布。

生成式Gibbs采样:用物理上下文组合扩散模型
芝加哥大学Wei Zhou提出广义Gibbs采样框架,通过在推理时组合预训练扩散模型与显式物理上下文,解决联合系统采样的数据稀缺与模块化难题。本文解析其在二次相互作用下的无偏采样原理及量子统计、格点模型、多肽体系中的应用。

Spectral Feedback:让蛋白质扩散模型学会自我纠错
Spectral Feedback 是一种面向蛋白质扩散模型测试时对齐的新算法,通过重新掩码和重新采样实现自我纠错。它利用稀疏傅里叶结构高效选择编辑位置,在蛋白质反向折叠任务中使预训练模型稳定蛋白质提升32.3%。

DiffusionGemma-Jev接入vLLM:让每个回答都带置信度
DiffusionGemma-Jev 现已支持 vLLM 运行,可对是非题、选择题和打分题输出带置信度的答案。通过单步去噪读取每个答案槽位的概率分布,扩散语言模型迈向生产化部署。

Probe Guidance:无需额外推理开销的流匹配引导新方法
Probe guidance 是一种引导流匹配模型的新方法,利用扩散模型冻结的内部状态构造引导信号,无需推理时额外前向传播,并在连续扩散语言模型的无条件生成任务上刷新最优性能。

DACA-GRPO:为扩散语言模型强化学习引入去噪感知信用分配
DACA-GRPO 是一种为扩散语言模型强化学习设计的去噪感知信用分配方法,解决时序信用分配缺失与似然估计偏差两大问题,可即插即用地增强任何GRPO训练器。
科技前沿Mercury 2:扩散架构如何实现每秒1000 Token的推理速度
科技前沿Mercury 2 实测:扩散模型驱动的最快推理大模型,18秒生成完整游戏
深度实测 Inception Labs 发布的 Mercury 2 扩散模型,对比 Claude Haiku、Gemini Flash 等主流模型,覆盖代码生成、结构化推理、长程规划等场景,解析其每秒1000+ Token的速度优势与实际表现。
前沿研究SVDQuant:4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文,通过低秩分解吸收异常值实现扩散模型4-bit量化,显存降低75%。开源项目Nunchaku获3800+ Stars,让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。