待验证50% 置信观点精确时间

Token生成量通常被视为衡量大模型真实使用负载的核心指标之一

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Kimi母公司月之暗面剑指20亿美元年营收

涉及实体

相关事实

待验证对于大语言模型推理，吞吐通常以 token 数为单位衡量，即 tokens/s 是评估 LLM 推理框架性能的核心指标76% 相似待验证模型每次调用会同时计算输入Token和输出Token，两者共同决定单次调用成本73% 相似待验证评估与合成数据生成、模型蒸馏等场景高度重叠，都属于非终端用户的Token开销72% 相似待验证在MoE模型中总参数量主要决定内存占用，每token激活参数量主要决定速度和成本70% 相似待验证LLM作为裁判的评估方式需要消耗Token生成待评估答案，再额外消耗Token让另一个模型打分，导致双倍甚至多倍的Token开销69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/908401

API

curl https://kongchang.com/api/v1/knowledge/claims/908401

MCP

get_claim(id=908401)