Voodoo Dynamic Quant
一种开源动态量化工具，通过梯度下降优化逐张量的量化布局，在给定文件体积约束下自动寻找质量最优的量化方案，以KL散度和文件大小作为联合优化目标
时间轴 (近 90 天)
开发者 curvedinf 将其动态量化方法 Voodoo Dynamic Quant（VQ）以 MIT 协议开源
Voodoo Dynamic Quant 的完整实现已在 GitHub 上开放（仓库 voodoo-dyn-quant）
Voodoo Dynamic Quant 在 Qwen3.5 系列小型 GGUF 模型的极端量化压缩场景中被证明达到 SOTA 水平
Voodoo Quant 的核心方法是用梯度下降来优化逐张量的量化布局
VQ 为每个张量的每个量化档位设置一个可训练的标量门控，冻结候选权重，仅通过一个 epoch 训练决定最优量化等级
VQ 训练中逐步退火 tau 参数，并用 Softmax 保证所有量化档位持续接收梯度
Voodoo Quant 的训练目标由 KL 散度和文件大小目标两部分构成，用户可直接指定目标文件体积
在中高量化档位 Unsloth Dynamic 3.0 表现更好，在激进（低比特）量化档位 VQ 更优
作者认为 Voodoo Quant 是首个使用反向传播与梯度下降来选择逐张量量化等级的方法
用梯度下降优化量化布局需要比静态分析强大得多的算力系统（对 GPU 依赖更高）
还有 2 条时间轴事件
全部知识事实 (12)
VQ 仓库默认配置针对 Qwen 架构，但作者称可快速适配到任意模型架构
50%待验证用梯度下降优化量化布局需要比静态分析强大得多的算力系统（对 GPU 依赖更高）
50%待验证作者将 VQ 定位为研究级项目，尚未在更大规模模型上验证，且未达到科学层面的有效性证明
50%待验证Voodoo Dynamic Quant 在 Qwen3.5 系列小型 GGUF 模型的极端量化压缩场景中被证明达到 SOTA 水平
50%待验证Voodoo Quant 的核心方法是用梯度下降来优化逐张量的量化布局
50%待验证VQ 为每个张量的每个量化档位设置一个可训练的标量门控，冻结候选权重，仅通过一个 epoch 训练决定最优量化等级
50%待验证VQ 训练中逐步退火 tau 参数，并用 Softmax 保证所有量化档位持续接收梯度
50%待验证Voodoo Quant 的训练目标由 KL 散度和文件大小目标两部分构成，用户可直接指定目标文件体积
50%待验证在中高量化档位 Unsloth Dynamic 3.0 表现更好，在激进（低比特）量化档位 VQ 更优
50%待验证作者认为 Voodoo Quant 是首个使用反向传播与梯度下降来选择逐张量量化等级的方法
50%待验证Voodoo Dynamic Quant 的完整实现已在 GitHub 上开放（仓库 voodoo-dyn-quant）
50%待验证开发者 curvedinf 将其动态量化方法 Voodoo Dynamic Quant（VQ）以 MIT 协议开源
50%