待验证50% 置信基准精确时间
在相同硬件条件下,qwen2.5-coder:14b 快速模型延迟约2秒,每答案token数约500,每百万答案成本约5美元;deepseek-r1:14b 思考模型延迟约15秒,每答案token数约3000,每百万答案成本约30美元;o1类推理模型延迟约45秒,每答案token数约15000,每百万答案成本约150美元。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/15
首次发现
有效期至:2026/10/29
来源
涉及实体
相关事实
待验证在40轮对话测试中,使用claude-sonnet-5(输入$0.3835/1M、输出$1.5339/1M),全量历史策略每消息成本$0.001599,最近6轮滑窗为$0.000413(约−74%),摘要+最近4轮为$0.000388(约−76%)。68% 相似待验证云端 AI 方案网络延迟往返时间通常在 200ms-2s,GPT-4 级别模型费用约 $30/百万 token;端侧方案本地推理可在 50-200ms 内完成首 token 生成且零边际成本68% 相似待验证在延迟和成本对比中,Jev中位延迟443毫秒、每百万条约71美元;Gemini略超1秒、约150美元;GPT-5.5达2.8秒、约4600美元67% 相似待验证Decision-1平均延迟240ms,1380次调用成本约$0.015;gpt-4.1-nano平均延迟728ms,成本约$0.05-0.07;gpt-6.1-sol平均延迟2052ms,成本约$0.56。67% 相似待验证在 vast.ai 上一块 H100 SXM 80GB(每小时 2.689 美元,20 vCPU)上运行 vLLM 0.27.1 官方镜像推理 Qwen2.5-0.5B-Instruct(fp16),单请求串行负载下每百万输出 Token 成本约为 1.26 美元。66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1038480API
curl https://kongchang.com/api/v1/knowledge/claims/1038480MCP
get_claim(id=1038480)