Token到底是什么？AI计费、输入输出与缓存机制全解析

为什么你需要理解Token

和AI打交道，有个词会反复出现：Token。它是一小段文本——有时是一个完整单词，有时是半个词，有时只是标点符号。AI并不像我们那样"读句子"，它读的是Token，写出来的也是Token。

最容易建立直觉的心智模型是硬币。你读入或写出的每一个Token都要付费——要么是真金白银，要么消耗你套餐里的额度。无论哪种方式，背后都是同一个计价器在跑。

选对心智模型，后面理解账单、优化成本都会顺很多。

Tokenization（分词）是Token这一概念的底层机制。AI模型并不直接处理字符或单词，而是通过分词器（tokenizer）将文本切分成Token序列。常见的分词算法包括BPE（Byte Pair Encoding）、WordPiece和SentencePiece，它们通过统计语料中高频共现的字符片段来构建词表。英文中一个Token往往对应一个词或词根，而中文、日文等没有空格分隔的语言，一个汉字可能被拆成1-3个Token，甚至一个常用词也可能由多个Token组成。这就是为什么同样的内容，中文的Token数常常高于英文，进而影响计费和上下文窗口的占用。不同模型厂商使用不同的分词器，同一段文本在不同模型下的Token数可能相差20%以上，这也是跨模型比较成本时容易被忽略的变量。

规模感：一个词、一行代码、一个文件

先建立数量级的概念：

• 一个单词大约是1到2个Token
• 一行代码大约10个Token
• 一个300行的文件，粗略算下来约3000个Token

价格通常按每百万Token报价，而一百万Token大约相当于10本小说的文字量。听起来是个天文数字。然而一个编程助手在一天之内就能烧掉数百万Token。原因就在下面的输入输出结构里。

两个方向：输入Token与输出Token

Token的流动有两个方向。你发给AI的内容——问题、文件、聊天记录——是输入Token；AI写回来的东西——代码、解释——是输出Token。

输出Token的价格是输入的四到五倍，因为生成文本比读取文本消耗的算力多得多。

但别急着下结论。实际使用中，账单上最重的往往是输入，因为我们发出去的文字量远远大于收回来的。理解这一点，才能理解为什么"输出更贵"不等于"输出更花钱"。

缓存：重复读取的订阅折扣

最后一个关键概念是缓存。当AI重新读取与上一步完全相同的前缀文本时，服务商会按折扣价收费——有点像老用户的订阅优惠，可能比标准费率便宜五到十倍。

缓存生效的前提是：上下文包的开头不能变。一旦前缀被改动，缓存就失效。这个细节在后续的成本陷阱里会变得非常关键，暂时先记住它。

上下文窗口（context window）是理解Token流动的另一个关键背景。它指模型在一次请求中能够同时“看到”的Token总数上限，包括输入和输出。常见模型窗口从8K、32K到128K、200K不等，部分模型已支持百万级。当对话历史或附带的文件超过窗口上限时，系统必须截断或摘要，否则请求会失败。缓存机制正是围绕上下文窗口设计的：服务商把不变的前缀（如系统提示、长文档）缓存在显存或高速存储中，下次请求命中相同前缀时直接复用，避免重复计算。因此，缓存不仅省钱，还能降低首Token延迟。理解窗口上限和缓存边界，有助于规划如何组织长对话与文件投喂顺序。

一句话总结

Token是一枚小硬币。你为发出去的和收回来的都要付费；而反复读取同样的内容，价格会便宜不少。把这三件事——输入输出方向、输出更贵但输入更重、缓存前缀稳定性——装进脑子里，你就已经比大多数人对AI账单的理解更清楚了。