已验证75% 置信事实精确时间

AI大模型公司每一次用户查询都需要消耗大量GPU算力进行推理，这是随用量线性增长的可变成本而非固定成本

3

来源数

75%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

OpenAI vs Anthropic IPO竞速：谁在真烧钱？AI巨头财务深度拆解

相关事实

待验证模型微调通常需要大量标注数据和GPU算力投入79% 相似待验证大型语言模型的推理成本与参数规模并非线性关系，参数量从千亿级跃升至万亿级时推理所需的GPU显存、带宽和计算量会指数级攀升77% 相似待验证AI叙事生成的高算力消耗主要来源于自回归生成机制，模型生成每个词元时都需完整执行一次前向传播计算，推理成本随长度近似线性增长77% 相似待验证每次推理需要将模型权重加载到GPU显存中，并按Token逐步生成回答74% 相似待验证大模型推理的总成本高于训练成本，因为推理会随用户规模线性增长而持续发生74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/564955

API

curl https://kongchang.com/api/v1/knowledge/claims/564955

MCP

get_claim(id=564955)