待验证50% 置信事实精确时间
一次本地调用的参数 99 tokens、渲染结果 135 tokens,稳态下每决策 234 tokens;若这是会话中的第一个决策,还要额外带上固定的 685。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/13
首次发现
有效期至:2027/1/11
来源
涉及实体
相关事实
待验证作者在 T4 上用同一个模型和测试方法复现,8 并发时单请求解码 122–124 tokens/s,整台服务器产出 701–708 tokens/s,同样约为 5.7 倍差异。69% 相似待验证在2944 token输入、1024 token输出条件下,普通模式达到每秒29.9 token,开启MTP2后提升到48.4 token/s69% 相似待验证父子分块策略用小块(128~256 Token)做精准检索,命中后返回其所属大块(512~1024 Token)作为上下文66% 相似待验证pydantic-ai 测试中,10 次并行工具调用(21 个新块)后下一次请求从缓存读取了 6,827 个 token;11 次调用(23 个块)后读取量为 0 并重新写入了 7,534 个 token。64% 相似待验证投机采样中当候选 token 的接受率较高时,每次前向传播的有效输出 token 数量可达 2~4 个,从而将整体生成速度提升 1.5x~3x62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1016999API
curl https://kongchang.com/api/v1/knowledge/claims/1016999MCP
get_claim(id=1016999)