待验证50% 置信事实精确时间

服务同等数量的并发用户，超大模型所需的GPU集群规模可能是同等智能水平小模型的5至10倍

1

来源数

50%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

算力豪赌失策：Anthropic被OpenAI逆袭的真相

相关事实

待验证一个千亿参数级别旗舰模型每次推断所需GPU资源可能比百亿参数模型高出10至20倍76% 相似待验证参数量更大、推理步骤更多的模型，其GPU算力消耗可能是轻量模型的10-50倍72% 相似待验证每个中间推理token与输出token消耗等量的GPU算力，Extra High档位单次请求FLOPs可能是普通生成模式的数十倍69% 相似待验证当AI集群规模扩展到数万张GPU时，整体效率可能暴跌到40%以下，超过一半的算力被消耗在数据传输和等待过程中68% 相似待验证单条推理通常只能占用GPU SM利用率的5%～15%，而合理的批次大小可将利用率提升至60%～90%67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/562123

API

curl https://kongchang.com/api/v1/knowledge/claims/562123

MCP

get_claim(id=562123)