已过期50% 置信基准精确时间

Qwen 3.5 9B (Q6_K) 输出速度约 168 tok/s，快于 Bonsai 2 27B 的 101 tok/s

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/9/18

首次发现

有效期至：2026/10/2(已过期)

来源

低显存本地大模型对决：Bonsai 2量化版为何胜出

涉及实体

Qwen 3.5 9Bmodel Bonsai 2model

相关事实

待验证Qwythos-9B在Q8量化版本下Token输出速度达到每秒75个左右76% 相似已验证在RTX 5070（12GB显存）配置下，本地Qwen3 9B模型的输出速度达到约70-76 token/秒73% 相似待验证Qwen3 27B本地推理速度约为每秒10个tokens72% 相似已验证Qwen2.5-Coder-32B在RTX 4090上以Q4量化运行，推理速度可达每秒40-60个token71% 相似已验证实测中Qwen3 27B在未开启NVLink的4张魔改2080Ti上生成速度约为40多token/秒71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/933018

API

curl https://kongchang.com/api/v1/knowledge/claims/933018

MCP

get_claim(id=933018)