待验证50% 置信事实精确时间
在batch-size-1的Spark配置下，验证4个token的步骤成本约等于2.26个普通解码步骤。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/29
首次发现
有效期至：2027/1/27
来源
涉及实体
相关事实
待验证代码场景下，每个验证步接受约7.4个token，吞吐达到154 tok/s；散文场景下每步接受约2.5个token，吞吐为35-37 tok/s；普通解码基线吞吐约为18-19 tok/s。63% 相似待验证对于Qwen2.5-1.5B模型，batch-1解码的int4理论roofline上限为411.8 tok/s，而实际自研内核仅达到25.5 tok/s，存在约16倍的差距。61% 相似待验证不同模型与解码配置组合之间的推理能耗跨度从0.79 MJ到8.68 MJ，约等于250到2800次GPT-4.1查询的能耗。61% 相似待验证使用Qwen2.5 0.5B作为草稿模型每次提议4个token的推测解码测试中，串行处理整体草稿接受率为32.9%，并发处理为37.1%61% 相似待验证GPT-4o-mini 在同一HS编码基准测试上准确率约18%；带网页搜索的最佳AI Agent可达46.8%，但每次调用成本$1-10，耗时10-30秒；人类专家约95%。60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1110402API
curl https://kongchang.com/api/v1/knowledge/claims/1110402MCP
get_claim(id=1110402)