Token
Token是自然语言处理和大语言模型中文本的基本处理单元，由分词器（Tokenizer）将原始文本切分而成，可对应一个单词、子词、字符或标点符号。模型在处理输入和生成输出时均以Token为单位进行计算，Token数量直接影响模型的上下文窗口限制、推理速度及API调用费用。不同语言和模型的Token划分规则存在差异。
核心事实
时间轴 (近 90 天)
黄仁勋表示，AI时代CPU的设计目标是'以最快速度完成生成Token的循环'，因为'AI不租核心，AI生成Token，然后卖Token'。
每个模型都有固定的上下文窗口（如 8K、32K、128K tokens），同时容纳 system prompt、工具定义、历史对话和当前输入
几乎所有成本工具都在统计 Token 数量，但市场上没有主流仪表盘统计“每个产出结果”的成本或崩溃恢复的浪费。
注入式记忆本质上是用 token 换取时间，注入的简报和记录占用上下文窗口的 token，换取减少的工具调用次数、对话轮次和搜寻时间。
黄仁勋认为超大规模CPU（x86）的设计初衷是被出租（rented），而AI不租核心，AI生成Token并出售Token
超大规模云厂商按虚拟CPU核心数或实例时长出租算力，AI时代开始按Token计费提供推理服务，收入直接与Token吞吐量挂钩
Token量可以反映使用强度，但本身并不能证明特定的生产率提升、成本节约或投资回报。
代理式工作流单次任务的输出Token可达数万甚至更多，而传统聊天场景中一次交互的输出Token往往只有几百。
高Token用量只能说明模型生成了大量内容，但不代表这些内容被采纳或产生了业务收益；为避免以使用强度替代效果评估，企业应为每个候选工作流设定可量化的基线和成功标准。
在多 Agent 场景下，Agent 数量增加会使 Token 呈组合式增长，同时由于请求呈现高度异步、长短不一的特点，GPU 利用率往往低于批量推理，进一步抬高单位任务的实际算力成本。
还有 40 条时间轴事件
全部知识事实 (20)
大语言模型的上下文窗口决定了模型在单次推理中能处理的信息量上限
90%已验证大模型API通常按Token数量计费，大约每750个英文单词或400个中文字符对应1000个Token
90%已验证Token是大语言模型处理文本的基本单位，大约对应0.75个英文单词或1.5个汉字
90%已验证大语言模型的计算成本主要取决于token数量、模型参数规模和上下文窗口大小
85%已验证大约每1个中文字对应1-2个Token，每个英文单词对应1-4个Token
80%已验证OpenAI的API计费区分输入Token和输出Token，输出Token通常定价更高
80%已验证中文每个汉字通常需要1-2个Token
80%已验证AI Agent开发正在从概念验证阶段转向关注可靠性、成本效率和规模化运营的工程化阶段
80%已验证Agent单次任务的Token消耗量可能是普通对话的5-10倍，因为涉及多轮大模型调用
80%已验证标准自回归语言模型的词表通常包含32,000到128,000个token
80%已验证大模型API中输出Token的单价通常是输入Token的2-4倍
80%已验证大约每 750 个英文单词或 500 个中文字符对应 1000 个 Token
80%已验证大模型本质上是基于概率的文本生成器，通过预测下一个token来生成内容
80%已验证API调用费用按输入token和输出token分别计价，且输出token的单价通常高于输入token，因为输出阶段需要自回归推理
75%已验证Token是基于BPE等子词分词算法切分出的最小语义单元，而非简单等同于一个字或词
75%已验证In large language models, a Token is the smallest unit of text that a model processes
75%已验证英文中一个令牌约对应0.75个单词
75%已验证长对话会将整个上下文历史打包重新发送给模型，并计入每次请求的Token用量，对话越长单次请求消耗Token越多
75%已验证大模型API的定价通常基于Token计费机制
75%已验证推理模型的内部思维链会产生大量输出token，使其完成复杂任务的实际费用往往远高于单价对比所呈现的数字
70%