概念prompt tokens / 输入token

prompt token

LLM调用中发送给模型的输入部分所包含的token数量，包括系统提示、上下文与历史对话等，是衡量推理成本和上下文膨胀的核心指标。

时间轴 (近 90 天)

10月16日

Agent 的 SQL 起草循环中，每一轮修订都会把此前所有尝试的对话历史原样重发，导致 prompt token 随尝试次数增长，即上下文膨胀。

待验证50%

10月16日

在 LLM 调用中，prompt token 指发送给模型的输入部分所包含的 token 数量，包括系统提示、schema 摘要、历史对话与当前指令；completion token 则是模型生成的输出部分。

待验证50%

Agent 的 SQL 起草循环中，每一轮修订都会把此前所有尝试的对话历史原样重发，导致 prompt token 随尝试次数增长，即上下文膨胀。