待验证50% 置信基准精确时间
关闭思考模式、16 路合计时，代码任务生成速度为 369.9 Token/s，散文为 317.8 Token/s；单路视角下代码 119.8 Token/s，散文 71.2 Token/s。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/20
首次发现
有效期至：2027/1/18
来源
4台DGX Spark实测DeepSeek V4.1 Flash：本地推理生产力如何？
bilibiliAI一平米2026/10/20
涉及实体
相关事实
待验证长上下文对生成速度影响很小：4K 上下文后每个输出 token 中位耗时 7.6 ms，256K 之后是 8.3 ms；但首次读 128K token 的 prompt 要 18.33 秒，因此 prefix caching 很关键。75% 相似已验证在输出（Decode）速度测试中，2 万 token 以内可达约 45 tokens/秒，3 万 token 以上骤降至约 20 tokens/秒72% 相似待验证该测试中预填充速度固定在约 500~600 token/s，首 token 耗时随输入长度线性增加70% 相似待验证Perplexity 公布自测延迟（9月30日）：几百输入 token 低于 2 秒，90k token 约 5 秒，190k token 约 14 秒，接近 262k 上限约 23 秒。70% 相似待验证本地模型推理速度约1-10 tokens/秒,而云端API可达50-150 tokens/秒69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1077055API
curl https://kongchang.com/api/v1/knowledge/claims/1077055MCP
get_claim(id=1077055)