上下文污染
在长程多步骤任务中,模型因累积错误或冗余信息导致上下文质量下降,影响后续生成准确性的现象。
核心事实
时间轴 (近 90 天)
如果记忆库中充斥着重复、过时或互相矛盾的条目,检索结果就会包含大量低价值信息,挤占上下文空间,甚至误导模型,即上下文污染。
工程上常见的缓解上下文污染的手段包括:为不同任务隔离会话、在系统提示词中显式声明任务边界、或在切换时压缩并摘要历史记录。
在自动化管线中,同一会话复用处理不同类型请求时,上一个任务遗留的格式约定、术语假设、甚至角色语气会形成“污染”,导致新任务输出偏离预期。
评估AI决策能力时,上下文污染(如泄露市场价格)会让看似独立的判断沦为复读,因此必须在模型读取内容前剥离所有引用赔率、博彩网站或FedWatch的来源
解决上下文污染的方式通常是新开一个干净会话,让模型从零开始建立对任务的理解
在已有对话历史的会话中热切换模型会导致上下文污染,使新模型继承旧对话的中间状态和错误假设,导致推理路径走偏
在多 Agent 编排场景下,若每一层都叠加冗余上下文,上下文污染会随层级呈指数级放大
上下文污染指大语言模型的上下文窗口被无关系统提示词、未使用的工具描述或多余历史对话占据,压缩了可用于推理的 token 空间,导致指令遵循质量下降、工具选择混乱或输出不稳定
将多个行业的分析数据混在同一个上下文中会导致AI上下文污染,产生幻觉或偏离任务目标
当多个不相关任务共享同一上下文时会导致上下文污染(context contamination),使模型输出质量下降
全部知识事实 (12)
上下文污染指无关或有害信息占据模型有限的上下文窗口空间,导致模型注意力被分散、推理质量下降
70%已验证无关信息占据上下文空间(上下文污染)会显著降低模型在核心任务上的表现
65%待验证在已有对话历史的会话中热切换模型会导致上下文污染,使新模型继承旧对话的中间状态和错误假设,导致推理路径走偏
60%待验证如果记忆库中充斥着重复、过时或互相矛盾的条目,检索结果就会包含大量低价值信息,挤占上下文空间,甚至误导模型,即上下文污染。
50%待验证工程上常见的缓解上下文污染的手段包括:为不同任务隔离会话、在系统提示词中显式声明任务边界、或在切换时压缩并摘要历史记录。
50%待验证在自动化管线中,同一会话复用处理不同类型请求时,上一个任务遗留的格式约定、术语假设、甚至角色语气会形成“污染”,导致新任务输出偏离预期。
50%待验证评估AI决策能力时,上下文污染(如泄露市场价格)会让看似独立的判断沦为复读,因此必须在模型读取内容前剥离所有引用赔率、博彩网站或FedWatch的来源
50%待验证解决上下文污染的方式通常是新开一个干净会话,让模型从零开始建立对任务的理解
50%待验证在多 Agent 编排场景下,若每一层都叠加冗余上下文,上下文污染会随层级呈指数级放大
50%待验证上下文污染指大语言模型的上下文窗口被无关系统提示词、未使用的工具描述或多余历史对话占据,压缩了可用于推理的 token 空间,导致指令遵循质量下降、工具选择混乱或输出不稳定
50%待验证将多个行业的分析数据混在同一个上下文中会导致AI上下文污染,产生幻觉或偏离任务目标
50%待验证当多个不相关任务共享同一上下文时会导致上下文污染(context contamination),使模型输出质量下降
50%