长对话中ChatGPT答案为何变差？何时该开新聊天

长对话会悄悄侵蚀AI的回答质量。设想一个场景：你在引用客户报价，中途改了三次数字。到第四十条消息时，聊天记录里还残留着旧价格，模型可能把新旧数字混在一起。这种错误往往要等到一个错误报价发给客户才会被发现。

问题不在于需要换一个更强的模型或工具，而在于判断什么时候该继续当前对话，什么时候该推倒重来。

同一个对话中，上下文是关键资产

继续使用同一个对话并非错误，前提是任务和事实基础没有变化。

如果你还在处理同一项任务，依据的仍是同一组事实，那么保留上下文是有利的。模型能记住你之前给的约束条件、格式偏好和背景信息，不需要你反复重复。

另一种适合继续的情况是微调式修改。比如你只是想把某段话改短一点，或者让语气更友好一些。这类请求不需要重新建立事实基础，在原有对话里直接提要求即可。

关键判断标准是：事实集合是否发生了变化。如果事实没变、任务没变，继续对话是高效的。

什么时候必须开一个新对话

有两种信号明确提示你应该重新开始。

第一种是话题切换。当你从讨论一个客户转到另一个客户时，旧对话中的信息会变成干扰项。模型可能把前一个客户的报价、条款或背景混入新客户的回答中。

第二种更隐蔽：回答开始出现重复、与之前说的自相矛盾、或者忘记你明确给过的事实。这些是上下文过载的典型症状。模型的注意力被大量历史消息稀释，早期关键信息逐渐被"淹没"。

一旦出现这些迹象，继续在旧对话里纠正往往收效甚微，因为问题出在上下文本身，而不是某一次回答。

上下文过载指的是对话历史累积到一定程度后，模型的注意力机制被大量历史 token 稀释，导致早期关键信息的权重下降。Transformer 架构的注意力计算在理论上能访问全部上下文，但当序列过长时，每个 token 分配到的注意力资源被摊薄，模型更容易被近期消息主导，从而出现遗忘、重复或自相矛盾。这与模型的参数能力无关，而是上下文窗口内信息竞争的结果。即使上下文窗口足够容纳全部消息，有效检索和利用其中关键信息的能力也会随长度增加而下降，这就是为什么简单地在旧对话中纠正往往无效。

如何干净地开启新对话

重新开始不意味着丢失有用信息。有一套简单的三步操作可以保留核心事实：

第一步，让模型做一次事实回顾。 用这样的指令："用五个要点总结我们达成一致的事实。只包含我说过的内容。" 这一步的价值在于让模型把散落在长对话中的关键信息压缩成一份清单。

第二步，自己核对这份回顾。 特别要检查数字。模型擅长查找事实，但算术可靠性较低。如果回顾中出现错误数字，手动改掉。

第三步，打开新对话，把回顾粘贴在开头，再提出新请求。 这样新对话从一份经过人工校验的事实摘要出发，既避免了上下文污染，又保留了必要信息。

事实回顾之所以有效，是因为它把分散在数十条消息中的关键约束压缩成一份高密度的短清单，相当于人为重建了一个干净、精简的上下文起点。要求模型“只包含我说过的内容”可以抑制模型自行推断或补全事实的倾向，减少幻觉。同时，把回顾限制在五个要点以内，能确保新对话的初始上下文足够短，避免再次迅速过载。人工核对数字这一步不可省略，因为模型在压缩过程中可能保留错误数字或产生新的算术偏差，而新对话一旦以错误事实起步，后续所有回答都会继承这个错误。

数字必须自己算一遍

原文中有一条值得单独强调的建议：模型找事实的能力强，做算术的可靠性弱。

这意味着任何你准备发出去的总数、汇总或计算结果，都应该自己重新加一遍，即使对话看起来一切正常。长对话中数字被反复修改时，出错概率进一步上升。

这条规则的成本很低，但能避免把错误数字传递给客户或同事。

模型算术可靠性弱的根源在于，大语言模型本质上是基于概率生成 token，而不是执行精确的算术运算。当数字在长对话中被多次修改时，模型需要同时追踪多个版本的数字及其关系，这进一步增加了出错概率。即使模型在单次简单加法上表现尚可，一旦涉及多步计算、单位换算或跨段落汇总，错误率会显著上升。因此，任何对外输出的总数、汇总或计算结果，都应视为需要人工复核的草稿，而不是可直接采信的结论。这一习惯的边际成本极低，但能有效阻断错误数字向下游传播。

核心判断逻辑

把长对话管理简化为一个判断：事实变了吗？

事实没变、任务没变，继续用同一个对话，享受上下文积累带来的效率。事实变了、话题换了、或者模型开始遗忘和矛盾，果断开新对话，用三步法保留核心信息。

模型不是记忆体，上下文窗口也不是无限可靠的存储。把对话当作有生命周期的工具来管理，比期待它一直保持准确更现实。