#扩散模型量化
共 3 篇相关文章
·10 分钟
ComfyUI-INT4-Fast：6GB显卡流畅运行Flux大模型实测
ComfyUI-INT4-Fast自定义节点正式支持INT4量化推理，RTX 3060（6GB显存）实测17秒生成1024×1024图像。逐层混合精度路由兼顾速度与画质，低显存用户也能运行Krea2 Turbo等Flux系模型。
阅读全文 →
·17 分钟
Krea2实测：FP8与BF16画质差距还存在吗？
一位Reddit用户对Krea2模型进行FP8与BF16精度对比测试，发现两者画质几乎无差异。本文深入分析量化差距缩小的技术原因，以及对消费级用户显存占用和推理速度的实际影响，帮助你做出更明智的精度选择。
阅读全文 →
前沿研究·9 分钟
SVDQuant：4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文，通过低秩分解吸收异常值实现扩散模型4-bit量化，显存降低75%。开源项目Nunchaku获3800+ Stars，让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。
阅读全文 →