公司
Prism ML
专注于极端模型压缩技术的AI研究公司,开发了Bonsai系列三值量化大语言模型
时间轴 (近 90 天)
10月4日
Prism ML推出的Bonsai 2模型声称在不到8GB显存里保留270亿参数模型98%的性能
待验证50%
10月4日
Prism ML在转换为三值前应用旋转矩阵(正交变换)平滑分散权重异常值,使共享scale更合理,这一思路来源于BitNet、QuIP#等研究
待验证50%
10月4日
普通2-bit量化版本约7.3GB,只能保留约88%的基准分数
待验证50%
10月4日
在MacBook上运行Bonsai 2建议用Prism ML的llama.cpp分支,因其会在步骤间缓存对话,而MLX版本不缓存速度明显更慢
待验证50%
10月4日
Bonsai 2是由Prism ML推出的三值量化大模型,以Qwen3-27B为底座重新训练,整个文件约6GB
待验证50%
10月4日
Prism ML宣称Bonsai 2在激进压缩后仍保留原始Qwen模型98%的性能
待验证50%
全部知识事实 (6)
待验证
Prism ML推出的Bonsai 2模型声称在不到8GB显存里保留270亿参数模型98%的性能
50%待验证Prism ML在转换为三值前应用旋转矩阵(正交变换)平滑分散权重异常值,使共享scale更合理,这一思路来源于BitNet、QuIP#等研究
50%待验证普通2-bit量化版本约7.3GB,只能保留约88%的基准分数
50%待验证在MacBook上运行Bonsai 2建议用Prism ML的llama.cpp分支,因其会在步骤间缓存对话,而MLX版本不缓存速度明显更慢
50%待验证Bonsai 2是由Prism ML推出的三值量化大模型,以Qwen3-27B为底座重新训练,整个文件约6GB
50%待验证Prism ML宣称Bonsai 2在激进压缩后仍保留原始Qwen模型98%的性能
50%