待验证50% 置信事实精确时间

在大规模LLM服务中，推理成本通常占据总运营成本的80%-90%

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/5

首次发现

有效期至：2026/12/4

来源

IDEA Prune：先扩大再剪枝，大语言模型预训练新范式解析

涉及实体

相关事实

待验证AI编程工具的Token成本中，输入约占总成本90%，输出约占10%71% 相似待验证智能体产品的单位经济模型中模型推理Token费用通常占总成本的60-80%71% 相似待验证推理模型的Token消耗量通常是普通模型的5到20倍，API调用成本极高，这是各平台将其列入付费专属功能的根本原因68% 相似待验证据a16z的调研，部分企业的LLM API支出已占到云计算总预算的10-20%67% 相似待验证对于日均百万次请求的业务，自托管70B参数模型的单位成本可比商业API低5-10倍67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/860348

API

curl https://kongchang.com/api/v1/knowledge/claims/860348

MCP

get_claim(id=860348)