待验证50% 置信事实精确时间
Long Decode 允许输出最长 1M token，是目前前沿模型中输出窗口最大的实现之一。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证decode阶段的生成速度近似等于内存带宽÷模型大小，例如在内存带宽273GB/s的M4 Pro上运行4GB的Q4量化7B模型理论最大生成速度约68 tokens/s74% 相似待验证自回归推理的decode阶段是纯粹的内存带宽受限操作，将模型从FP16压缩到1-bit理论上可将token生成速度提升16倍73% 相似待验证KV Cache 在 Decode 阶段缓存此前所有 Token 的 Key 和 Value 矩阵，随对话轮次和上下文窗口增长而膨胀，长文本场景下可占用几 GB 到几十 GB 内存71% 相似待验证大模型上下文窗口从4K token扩展至128K乃至更长，使模型能够读懂整个项目的代码结构68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1023317API
curl https://kongchang.com/api/v1/knowledge/claims/1023317MCP
get_claim(id=1023317)