AI为何会在多轮对话中"迷失"？微软研究员揭秘失败背后的真相

在微软研究院的一期播客中，普渡大学计算机科学与统计学教授、微软研究院合伙研究经理 Jennifer Neville，与应用科学家 Chad Atalla 展开了一场关于AI评估、失败机制与用户期望的深度对话。她所领导的"AI交互与学习团队"专注于一个常被忽视却极为关键的问题：当前的AI系统究竟在哪些地方会失败，以及这些失败能教会我们什么。

从天体物理到AI：一条非典型的研究之路

Neville 的研究生涯始于一个意外。小时候她想当天体物理学家，上大学时又因为"不想做父亲做的事"而刻意回避计算机科学。她先后主修数学、物理、认知科学，甚至一度从大学退学，直到重返校园选择计算机专业，才在"数据"这个兴趣点上偶然撞进了AI的世界。

真正把她"钩住"的，是做研究本身的过程。她坦言在荣誉项目的强制研究中，经历了反复的挫败——"有些时候我觉得自己在原地打转，什么都不奏效，我会很沮丧"。但导师的鼓励让她坚持下来，而当真正理解了此前无人理解的东西时，那种"站在认知前沿"的情感冲击，成了支撑她二十余年研究生涯的"瘾"。

她于2021年从学界进入微软，但至今仍是普渡大学的教授。在她看来，工业界与学界的研究在根本问题上相似，差异在于"目标指向"：工业界能在真实系统、真实数据、真实用户上大规模应用，而学界更倾向于抽象、跨领域的通用问题。她给出的建议明确——"如果你现在想做AI系统方面的工作，工业界才是最该去的地方。"

为什么要从"评估"切入？

Neville 团队的工作始于一个判断：机器学习领域标准的基准测试（benchmark）过于简单，与用户实际使用方式相去甚远。

"你首先要问的是：我们到底想从这些系统里得到什么？然后针对性地设计贴近真实场景的评估。"她解释说，这意味着要测试多轮交互（multi-turn）、协作环境、长时程任务（long-horizon tasks）等更复杂的场景。只有在这些评估中看到性能差距与问题出在哪里，团队才能知道在理论或算法层面该如何改进模型。

换句话说，评估是一个"入口"——通往理解，进而推动系统边界的改进。团队的终极目标并非挑错，而是开发更好的算法、模型和估计方法来提升性能。

基准测试（Benchmark）的局限性是当前AI评估领域的核心争议之一。传统基准测试（如MMLU、HellaSwag等）通常由固定的单轮问答题组成，考察模型在静态、孤立场景下的知识储备与推理能力。这类测试的优点是标准化、可复现、便于跨模型横向比较，但其缺陷在于它们无法反映真实用户的使用模式——用户很少只问一个封闭式问题，更常见的是在连续对话中逐步澄清需求、修正方向、追加条件。**长时程任务（long-horizon tasks）**则是另一个评估难点：这类任务要求模型跨越多个步骤维持目标一致性，例如协助完成一份需要多轮修改的报告，或在代码调试中持续追踪上下文状态。当前主流基准几乎不覆盖此类场景，导致模型在基准上的高分与用户实际感受的落差日益显著。这也正是为什么以"真实场景评估"为切入点的研究，被视为推动模型实质性进步的关键路径。

最反直觉的发现：模型会在多轮对话中"迷失"

这期对话中最具冲击力的研究，是关于大语言模型在多轮对话中的性能退化。

团队观察到一个真实现象：用户在实际使用中常常"欠规约"（underspecify）——他们一开始并不知道如何完整描述需求，而是在多轮交互中逐步补充条件和澄清。为了验证这一点，团队把公开的单轮基准数据集里"完整规约的单轮复杂指令"拆解开，让模拟用户分多轮逐步提供同样的信息。

结果令人意外：模型在单轮场景下表现极高（因为模型构建者本就在往这个方向优化），但在多轮场景下性能"显著退化"。"之前从没有人用这种方式评估过，"Neville 说。而当研究发布后，大量用户产生了强烈共鸣——"这就是我的体验，我早就知道会这样，该怎么解决？"

团队目前正用强化学习方法训练模型改善这一行为，但也给出了一个立竿见影的实用技巧：如果模型在多轮对话中被绕晕了，不妨停止对话、清空重来，把你现在知道的全部信息整合成一个完整的单轮指令，模型的表现会明显更好。

从技术机制上看，大语言模型在多轮对话中性能退化与其上下文窗口的信息处理方式密切相关。Transformer架构通过注意力机制（attention）在输入序列中分配权重，随着对话轮次增加，模型需要在越来越长的上下文中"找到"关键信息。研究表明，模型存在所谓"迷失在中间"（lost in the middle）的现象——对话早期或晚期出现的信息往往比中间部分获得更高的注意力权重，导致用户在中间轮次补充的关键条件容易被稀释或忽视。此外，**欠规约（underspecification）**问题还与用户认知负荷有关：用户在任务初期往往尚未完全想清楚需求，而模型的早期回应会反过来影响用户对需求的认知，形成一种动态的、双向的信息构建过程。这与单轮基准中"完整问题对应完整答案"的静态假设存在根本性差异，也解释了为何将同一信息拆分为多轮提供后，模型性能会出现肉眼可见的下滑。

"令人惊讶的失败"：我们的人类直觉在误导我们

Neville 特别强调了一类她称之为"令人惊讶的失败"（surprising failures）的问题。这类失败不同于已被充分研究的幻觉（hallucination）——它们往往极其微妙、难以隔离和复现，比如在文档反复编辑的智能体任务中出现"语义内容的细微丢失"。

她提出了一个深刻的假设：我们总以为"对人类难的任务，对模型也难"，但事实常常相反。真正该问的是"什么对 Transformer 的计算而言是困难的，什么对它的检索系统而言是困难的"。惊讶正来自这里——人类凭直觉认为很简单、或认为"上次做对了这次也该做对"的任务，LLM 却未必能可靠完成。错误如果不被及时捕捉，还会在长时程工作流中累积，进一步扰乱AI的后续判断。

关于隐私，Neville 也作出澄清：团队并非"亲眼看"用户数据，而是在隐私保护的受限环境中大规模提取失败与成功的模式，这些高层洞察再反过来驱动算法改进。她强调微软不会用用户响应来微调模型，但用户的详细反馈——尤其是明确说明"哪里出错了、你期望什么、实际得到了什么"——会被用于后续的模型更新。

Neville所说的"令人惊讶的失败"在技术上对应一个更广泛的议题：模型能力的非单调性（non-monotonicity）。与人类认知不同，LLM的能力边界并不遵循"难度递增则表现递减"的线性规律。例如，研究发现某些模型能解出复杂的数学推理题，却在简单的计数任务上出错；能准确摘要长文，却在追踪文档多次编辑后的细节变化时悄然丢失语义。这种不一致性源于Transformer的本质：它学习的是统计关联而非真正的逻辑规则，因此在训练数据中高频出现的模式上表现稳健，而在需要精确符号操作或状态追踪的任务上容易出现意外错误。**错误的级联累积（error cascading）**在智能体任务中尤为危险——当AI在长时程工作流的某一步骤产生微小偏差时，该偏差会作为后续步骤的输入继续传播，最终导致最终结果与预期大幅偏离，且整个过程对用户几乎不可见。

给用户的建议：别指望100%，但要学会"再问一次"

面对铺天盖地的营销与炒作，Neville 给普通用户的建议务实而清醒：

当前AI系统确有大量能提升工作效率的能力，但不要期望它们百分之百正确，你应该检查返回的答案。如果得到一个你认为错误的结果，不要立刻断定模型"做不到"，而应该换个方式再问一次，往往能得到更好的答案。她把这比作搜索引擎早期——用户当年也需要学习如何有效地向搜索引擎提问，如今从搜索向对话式系统的迁移，同样需要用户重新学习交互方式。

她还提出一个有趣的"行动号召"：在对话式系统中，用户如今能提供远高于"点赞/点踩"的高保真反馈。清楚描述问题所在，实际上是在"训练模型去做你希望它做、但它现在还做不到的事"。

下一步：Transformer 够用吗？

谈及未来，Neville 认为研究界正同时在两条路上探索：一是 Transformer 架构本身是否是正确的底层模型——它存在已知的计算局限；二是这些局限有多少可以通过模型外层的"智能体外壳"（agentic harness）和后端推理来弥补。

她预计未来会看到替代架构与复杂外层包装的同步快速发展，下一代工作将聚焦于更长期的交互，以及让模型以更具体的方式"理解模型内部的世界"。

她回忆起2000年在 AT&T 实验室的第一次实习，当时大家午餐时讨论如何让AI下围棋、这比国际象棋难多少。如今回看，当年那些"要花10年、25年"的保守预估，在研究人数和模型规模双双激增的今天，正以远超想象的速度被突破。她对这个领域"非常看好"。

被问及最想留下的研究印记时，她描绘了一个近乎科幻的愿景：在工作环境中，人类与AI组成团队协作创新、共同完成任务。"如果我们能让这件事真正跑通，我就会觉得我的研究是成功的。"

对话最后，她分享了职业生涯中反复重学的一课——"去看数据"（look at the data）。当结果不符合预期时，问题常常不在模型太难，而在于数据本身有错、与预期不符、或与训练分布不同。这个朴素的道理，她坦言"至少重学了半打次"。

Transformer架构自2017年由Google提出以来，已成为几乎所有现代大语言模型的基础骨架。其核心优势在于并行计算效率高、能通过自注意力机制捕捉长距离依赖关系，并在超大规模数据上展现出涌现能力（emergent capabilities）。然而它存在几个公认的计算局限：其一，注意力机制的复杂度随序列长度平方增长，处理超长上下文时计算代价极高；其二，它在本质上是无状态的（stateless），每次推理都需要重新处理全部上下文，缺乏真正意义上的持久记忆；其三，在需要精确算术、符号推理或严格逻辑演绎的任务上，纯Transformer模型存在系统性短板。**智能体外壳（agentic harness）**正是为弥补这些局限而兴起的工程范式——通过为模型配备工具调用（如搜索、代码执行）、外部记忆模块、多步骤规划框架（如ReAct、Chain-of-Thought）等组件，在不改变基础架构的前提下扩展模型的有效能力边界。学界目前同步探索的替代架构包括状态空间模型（SSM，如Mamba）等，试图从根本上解决Transformer的计算瓶颈。