待验证50% 置信事实精确时间

推理成本与模型规模并非线性关系，参数量翻倍时推理延迟与算力消耗往往远不止翻倍

1

来源数

50%

置信度

长期有效

时效性

2026/9/28

首次发现

来源

GPT-3 正式退役：一个语言模型时代的谢幕

涉及实体

模型推理concept

相关事实

待验证在模型选型中，追求最后几个百分点的性能往往需要付出成倍甚至数十倍的成本78% 相似待验证旗舰模型的单次推理成本可能是轻量模型的数十乃至上百倍，源于参数量、上下文窗口长度、推理步骤复杂度等因素75% 相似待验证在反向模式下，当模型参数数量高达数百万时，计算梯度的成本仅与一次前向计算相当75% 相似待验证两个智能得分相近的模型其推理成本可能相差数倍甚至一个数量级74% 相似待验证推理模型可能要多花数倍甚至十几倍的输出token，直接推高API调用成本73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/955834

API

curl https://kongchang.com/api/v1/knowledge/claims/955834

MCP

get_claim(id=955834)