待验证50% 置信观点精确时间

7.2GB 的体积意味着 Bonsai 2 可以在一张 RTX 3060 上以尚可的 tps 运行

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/18

首次发现

有效期至：2026/12/17

来源

低显存本地大模型对决：Bonsai 2量化版为何胜出

涉及实体

Bonsai 2model RTX 3060product

相关事实

待验证Bonsai 2 使用 PQ2_0 三元量化格式，模型体积为 7.2GB72% 相似待验证6GB显存的RTX 3060可以流畅运行基于Flux的Krea2 Turbo大模型67% 相似待验证不适合2K高画质或4K游戏需求，RTX 4060的8GB显存和带宽在2K高特效下已显吃力，本机定位明确为1080P高刷66% 相似待验证Bonsai三元版为1.71 bits约6GB，保留基座模型约97%质量；1-bit版为3.9GB，保留约90%质量66% 相似待验证INT8量化的CONVROT版本YuE2模型显存占用约为8GB，可运行在RTX 4070 12GB这样的消费级显卡上66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/933020

API

curl https://kongchang.com/api/v1/knowledge/claims/933020

MCP

get_claim(id=933020)