[控场AI]
公司

Prism ML

专注于极端模型压缩技术的AI研究公司,开发了Bonsai系列三值量化大语言模型

时间轴 (近 90 天)

10月4日

Prism ML推出的Bonsai 2模型声称在不到8GB显存里保留270亿参数模型98%的性能

待验证50%
10月4日

Prism ML在转换为三值前应用旋转矩阵(正交变换)平滑分散权重异常值,使共享scale更合理,这一思路来源于BitNet、QuIP#等研究

待验证50%
10月4日

普通2-bit量化版本约7.3GB,只能保留约88%的基准分数

待验证50%
10月4日

在MacBook上运行Bonsai 2建议用Prism ML的llama.cpp分支,因其会在步骤间缓存对话,而MLX版本不缓存速度明显更慢

待验证50%
10月4日

Bonsai 2是由Prism ML推出的三值量化大模型,以Qwen3-27B为底座重新训练,整个文件约6GB

待验证50%
10月4日

Prism ML宣称Bonsai 2在激进压缩后仍保留原始Qwen模型98%的性能

待验证50%

全部知识事实 (6)

来源文章