待验证50% 置信事实精确时间

token生成速度与输出内容的结构化程度和token分布特征相关，结构化输出吞吐更高

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

单张AMD R9700跑Qwen3 27B性能翻倍：解码153 tok/s实测解析

涉及实体

大模型推理concept

相关事实

待验证大模型API的输出Token单价通常是输入Token的2-4倍，原因在于自回归生成机制每个输出Token都需一次独立前向传播且KV Cache占用大量GPU显存64% 相似待验证大模型API通常按Token数量计费，且生成速度以Token/秒衡量62% 相似待验证在自回归推理中，KV cache的显存占用随序列长度线性增长，长上下文时可能与权重体积相当或更高62% 相似待验证LELP-S+ 提出信息密度这一优化维度，即让每个消耗的 Token 尽可能承载更多有效信息61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/930096

API

curl https://kongchang.com/api/v1/knowledge/claims/930096

MCP

get_claim(id=930096)