待验证50% 置信事实精确时间
双卡加第三张卡解码只多1%甚至反效果;128K域填充速度从57降到22.95 tok/s。
1
来源数
50%
置信度
长期有效
时效性
2026/10/24
首次发现
来源
141份实测揭秘:你的显卡跑大模型到底有多快?
bilibili九物AI生产力2026/10/23
涉及实体
相关事实
待验证显存从16G到24G,中位解码速度从56.8 tok/s跳到98.3 tok/s,提升73%。74% 相似待验证UP主实测64K上下文下生成速度每秒90多token,256K上下文降到每秒60多token72% 相似待验证BF16 配置(两张 48GB GPU)下,解码速度从 1K 的 25.1 tok/s 到 128K 的 23.9 tok/s,几乎无衰减72% 相似待验证13B-14B级别模型(4-bit量化)在该配置下速度下降到每秒2-5个token69% 相似待验证路径C中RTX 3080配合DGX Spark,Prefill速度从1111.3提升到1600(约44%),但Decode速度从33.36 token/s下滑到17.6268% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1092289API
curl https://kongchang.com/api/v1/knowledge/claims/1092289MCP
get_claim(id=1092289)