待验证50% 置信基准精确时间
实测中，RTX 5070运行二比特量化版本，每秒输出94个Token。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/16
首次发现
有效期至：2026/10/30
来源
12GB显卡本地跑1250亿参数大模型 Strata实测
bilibili宇智波刘能king2026/10/15
涉及实体
相关事实
待验证README中12GB的RTX5070约为94 Token/秒，而32GB的RTX5090能超过250 Token/秒78% 相似已验证在RTX 5090上，Muse Glimmer生成速度从每秒75个Token提升到233个Token，提速约3.1倍77% 相似已验证在RTX 5070（12GB显存）配置下，本地Qwen3 9B模型的输出速度达到约70-76 token/秒76% 相似待验证在RTX 5090上，Muse Glimmer不使用推测解码时为75 tokens/秒，搭配推测解码模型后速度达233 tokens/秒72% 相似待验证将8个请求合并批处理时，单张RTX PRO 6000能够达到约220 output tok/s的聚合吞吐量，而两张RTX 3090的旧配置只有约19 tok/s72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1044921API
curl https://kongchang.com/api/v1/knowledge/claims/1044921MCP
get_claim(id=1044921)