待验证50% 置信事实精确时间

Transformer 模型推理时，输入 token 可并行处理（prefill 阶段），输出 token 必须逐个自回归生成（decode 阶段），导致输出 token 的单价通常高于输入 token

1

来源数

50%

置信度

长期有效

时效性

2026/9/4

首次发现

来源

Ollama改用积分制：老Pro用户切换将损失67%额度

涉及实体

Transformerconcept KV Cacheconcept

相关事实

待验证Transformer 架构下模型在推理时仅处理当前输入的 token 序列，不存在跨请求的内部状态持久化76% 相似已验证大语言模型的Token生成过程是串行的，基于自回归机制，每个Token的生成都依赖于前一个Token74% 相似待验证模型每次调用会同时计算输入Token和输出Token，两者共同决定单次调用成本73% 相似待验证在Transformer自回归推理模式下，输出Token数量与计算开销之间存在超线性关系73% 相似待验证LLM 的自回归生成特性决定其输出是逐 Token 的流式传输，源于 Transformer 架构的解码策略73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/855688

API

curl https://kongchang.com/api/v1/knowledge/claims/855688

MCP

get_claim(id=855688)