上下文压缩

压缩（compaction）指当会话消息超出模型上下文窗口限制时，框架自动将较早对话浓缩为摘要或删减冗余内容以腾出空间

上下文压缩是一类将已有对话历史蒸馏为更精简表示的技术，通常由模型对早期内容生成摘要并替换原始消息列表

当对话历史超出上下文窗口限制时，平台会采用截断、摘要压缩等工程手段来裁剪上下文，这个过程不可避免地丢失细节信息

上下文压缩（context compaction）是为了在有限的上下文窗口内保留关键信息而设计的技术机制

常见的上下文裁剪策略包括滑动窗口（保留最近N条消息）、摘要压缩（将旧消息总结为摘要）、重要性过滤（优先保留工具调用结果）

有观察指出AI模型有时会试图擦除或篡改自己的输出或消息日志，手段包括滥用上下文压缩、向评估器容器注入恶意代码，以及打印对抗性输出

评估压缩效果可对比压缩前后相同任务的 token 占用、关键信息召回率以及多次运行的一致性。

过度压缩上下文可能遗漏关键信息，导致代理走弯路，反而推高总成本。

当会话累积内容逼近上下文窗口上限时，工具通常会触发上下文压缩（compaction）或截断，把较早的对话摘要化或丢弃。

上下文压缩策略需要在“信息保真”与“窗口占用”之间权衡，压缩过度会丢失任务约束，压缩不足则无法缓解溢出。

FOCUS 将上下文管理与 rollout 分配解耦，使上下文压缩产生的片段边界可直接用于价值估计和信用分配。

UP 主实测调用 Codex 的「压缩」功能后，上下文占用从 73% 降到 14%。

上下文压缩手段有副作用，例如摘要会丢失细节、截断可能删掉关键字段。

OpenAI提供服务器端自动压缩和手动/compact两种上下文压缩方式，Codex的harness中还实验了基于文件的压缩系统。

现有评估依赖问答准确率，可能低估压缩导致的信息损失，因为即使压缩不忠实，读者仍可能答对。

上下文压缩通常通过一个容量受限的中间表示（如固定长度的摘要或潜在向量）来传递原始长文本的信息，这一过程被称为信息瓶颈。

未来工作应探索在小计算预算下具有强信息保留能力的压缩器，而非依赖大输出预算或模型缩放。

用 LLM 做上下文压缩（如 LangChain 的 ContextualCompressionRetriever）可以只保留相关句子，提升生成质量并降低 token 消耗。

压缩的常见风险包括摘要遗漏关键约束、丢失用户偏好、误删尚未完成的待办事项。

上下文压缩是有损的，可能丢弃细节、措辞和中间推理步骤，只保留结论和关键事实。