待验证50% 置信事实精确时间
单请求串行负载下,每个请求解码速度为 648–649 tokens/s,整台服务器产出为 589–593 tokens/s。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证当上下文接近 512K token 时,预填充与解码解耦架构可确保用户在读取整本规格书后仍能在 800 毫秒内收到首个响应 token。74% 相似待验证开发者Primitive报告:关闭推测时为91.2 tokens/s,开启3个推测token后达到142.6 tokens/s,同一配置下约提速56%69% 相似待验证一项日志研究测量出各Harness在读到用户提示词前发送的Token:OpenCode约7000 tokens,CloudCode约33000 tokens,Pi约1300 tokens68% 相似待验证llama.cpp通过纯CPU推理和4-bit GGUF量化格式,使7B参数模型在无GPU的普通服务器上达到每秒20-40 tokens的生成速度67% 相似待验证用2840亿参数的DeepSeek V4 Flash实测,token生成从37提升到53 tokens/s(约1.5倍),Prompt Processing从483跃升到1485 tokens/s(约三倍)67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1014545API
curl https://kongchang.com/api/v1/knowledge/claims/1014545MCP
get_claim(id=1014545)