待验证50% 置信事实精确时间

大语言模型推理中输出 token 的实际硬件成本远高于输入 token，因解码阶段是内存带宽受限的串行过程

1

来源数

50%

置信度

长期有效

时效性

2026/7/9

首次发现

来源

GPT-5.6 Sol限量预览：分级模型Sol/Tera/Luna与准入机制详解

bilibili开水庆余年2026/6/27

相关事实

待验证语言模型生成 token 本质上是内存带宽受限任务而非纯算力受限81% 相似待验证生成输出的算力消耗通常远高于处理输入，部分厂商区分输入Token与输出Token的独立限额74% 相似待验证token是大模型计费的依据，由分词器将原始文本切分而来，是大模型处理文本的基本单位73% 相似已验证大语言模型的推理过程本质上是内存带宽受限（memory-bandwidth bound）的任务，每生成一个Token都需要将模型的全部权重从存储中读取一遍72% 相似待验证代码场景中输入侧需携带大量代码上下文，输入 Token 量往往数倍于输出，放大成本71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/366702

API

curl https://kongchang.com/api/v1/knowledge/claims/366702

MCP

get_claim(id=366702)