待验证50% 置信基准精确时间
该模型在测试平台上的峰值解码速度约为 274 token/秒
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/8
首次发现
有效期至:2026/10/22
来源
涉及实体
相关事实
待验证模型在铅笔计数的多模态图片识别测试中给出34只的正确答案,此时速度为每秒55 Token71% 相似待验证260 亿参数的 Gemma(MoE)实测速度接近 31 Token/秒,比 GPT-OSS 20B 快约三分之一70% 相似待验证2.4万亿参数模型在BF16精度下考虑KV Cache和激活值后实际约需1.4-1.5TB显存68% 相似待验证路径A中RTX 3060跑前段层、AMD AI Max+ 395跑后段层,在IQ3量化64K长输入下Prefill速度从136.69 token/s提升到319.1 token/s67% 相似待验证根据Chinchilla缩放定律,一个30B模型的最优训练数据量约为600B-1T tokens65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/987101API
curl https://kongchang.com/api/v1/knowledge/claims/987101MCP
get_claim(id=987101)