上下文

线性对话结构下token消耗是累积性的，每次请求需重传全部历史，增加推理延迟并推高API调用成本

上下文是指Agent发送给大模型后，模型在单次请求中接收到的全部信息

短期记忆是存储态，上下文是传输后的接收态，二者是不同概念

上下文指本轮模型调用时传给模型的所有内容，只对当前这一次调用有效

真正的上下文能力需要在ASR/TTS之外，另建一套实时会话状态管理与客户数据调用机制。

上下文价值体现在三个层面：会话内上下文、客户历史上下文、业务上下文。

没有上下文的语音智能体本质上只是一个会说话的自动应答机，知道用户说什么但不知道用户是谁、之前发生过什么、通话目的。

'边聊边补'往往优于一次性塞入冗长提示词，因为后者容易稀释关键信息，前者让上下文随对话逐步收敛。

上下文指模型在生成当前回复时能够'看到'的全部信息，包括系统提示、历史对话轮次以及当前输入。

提供领域特定的上下文相对容易，并能有效让Agent理解行业术语、业务流程和用户意图。

大多数AI系统在生产环境中出问题，并不是因为模型选错了，而是因为上下文（context）错了。

在 AI 写作中，“上下文”指模型在生成时能掌握的信息，包括收件人身份、双方过往互动、具体事件与目标。

更换更强模型收效有限，因为能力提升不等于信息补齐，缺的不是语言能力而是上下文。

上下文并非静态信息，而是不断变化的动态数据流。

上下文是模型生成当前回复时能看到的全部信息（含系统提示、历史对话、上传文件等），以 token 为单位计量且有上限，接近上限时早期内容会被丢弃或需要压缩

UP主建议在完成阶段性任务后手动压缩上下文，既能节省 token 也让对话历史更清爽

每次工具调用都会把工具 schema、调用参数和返回结果追加进上下文，上下文越长，后续每一轮的推理成本越高，形成二次方级的 token 消耗增长。

上下文、记忆和训练是三个不同的概念：上下文是本次回复可用的信息，记忆是被选择保存的信息，训练是模型学习底层模式的过程。

上下文（context）是模型每次响应能「看到」的信息量上限，以 token 计量，中文大约一字对应一到两个 token；当对话变长或文件变大，早期信息会被挤出窗口导致模型遗忘。

在AI代理语境下，上下文不仅指对话历史，还包括RAG依赖的知识库、系统提示中的业务规则以及代理可访问的外部数据源。