待验证50% 置信基准精确时间

显存从16G到24G，中位解码速度从56.8 tok/s跳到98.3 tok/s，提升73%。

1

来源数

50%

置信度

长期有效

时效性

2026/10/24

首次发现

来源

141份实测揭秘：你的显卡跑大模型到底有多快？

bilibili九物AI生产力2026/10/23

涉及实体

显存容量concept

相关事实

待验证UP主在4G显存电脑上实测MiniCPM-2B生成速度达每秒57个token，首字生成仅0.22秒77% 相似待验证2.5-24官方给出的生成速度为每秒184字。74% 相似待验证双卡加第三张卡解码只多1%甚至反效果；128K域填充速度从57降到22.95 tok/s。74% 相似待验证UP主实测64K上下文下生成速度每秒90多token，256K上下文降到每秒60多token74% 相似待验证GPT-OSS-20B的BF16加载从545秒降至70秒（7.8倍加速），Qwen3.5-397B获得1.93到2.3倍提升73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1092287

API

curl https://kongchang.com/api/v1/knowledge/claims/1092287

MCP

get_claim(id=1092287)