先修复后强化：上下文增强知识图谱推理攻克多跳问答难题

多跳问答的核心挑战

真实场景中的问答任务，往往不是简单地从数据库里检索一条孤立的事实，而是需要跨越多个相互关联的知识节点进行推理。比如回答一个涉及疾病、症状、药物和副作用四者关系的问题，模型需要在多个事实之间建立链路，完成所谓的"多跳推理"（multi-hop reasoning）。

知识图谱（Knowledge Graph, KG）以"头实体-关系-尾实体"（head-relation-tail）的三元组结构，为这类事实提供了天然的结构化表示。但一个被这篇 arXiv 论文点破的关键问题是：如果只用这些孤立的三元组来训练大语言模型，模型往往学不到三元组周边的上下文，而这些上下文恰恰是多跳推理所必需的。

换句话说，把知识拆散成一个个独立的原子事实喂给模型，反而削弱了它把事实"串起来"的能力。这篇论文提出的解决思路，正是围绕如何补齐这块上下文缺口展开。

上下文增强训练框架

研究者提出了一套"上下文增强"（context-augmented）的训练框架。核心做法是：对于每一个主要的 KG 三元组，从它所在的同一段源文本中，额外抽取出支撑性的三元组，共同组成一个"上下文图"（Context Graph, CG）。

这样就形成了两种监督信号的对比：

• KG 监督（KG-grounded）：只使用目标三元组或路径本身进行训练。
• CG 监督（CG-grounded）：在目标三元组或路径之外，附带周边的上下文三元组一起训练。

论文选择在疾病领域的知识图谱上验证这一框架，具体针对**胃轻瘫（Gastroparesis）和糖尿病（Diabetes）**两种疾病，图谱由一个名为 GraphMERT 的可靠抽取框架从源文本中提取。基座模型采用 Qwen3-14B，通过监督微调（SFT）分别训练出 KGModel 和 CGModel 两个版本，用于直接对比两种监督策略的效果差异。

"先修复，后强化"的关键设计

论文标题中的"Repair Before Reinforce"（先修复，后强化）点出了整个方法论最有意思的一环。研究者观察到，多跳推理的准确性高度依赖于低跳（尤其是单跳）事实基础的可靠性——如果模型连一跳的基础事实都答错，那么建立在其上的多跳链路必然崩塌。

为此，他们设计了一条由 LLM 评判、具备历史感知能力的自适应修复流水线（LLM-judged, history-aware adaptive repair pipeline），其工作方式包括三个动作：

• 识别那些始终无法解决的单跳失败案例；
• 针对这些问题案例持续做定向微调；
• 移除或隔离那些有问题的、含噪声的三元组。

这套修复机制的效果相当直接：经过修复后，模型在清洗后保留的单跳验证集上达到了 100% 的准确率。这为后续更难的推理任务打下了坚实的事实地基。

强化学习带来的泛化提升

在打好低跳基础之后，研究者引入了强化学习（RL），使用低跳的问答样本进行训练，并在更具挑战性的 3 跳、4 跳、5 跳任务上评估模型的泛化能力。

实验结论有两点值得关注：

第一，在两种疾病的数据上，上下文增强监督（CG）都稳定地优于仅用 KG 的监督策略，在多跳性能上表现更佳。这印证了前文的判断——给模型补充周边上下文，确实能增强它跨事实推理的能力。

第二，从修复后的 SFT 检查点出发再做强化学习，能带来更大且更稳定的性能收益。这说明"先修复、后强化"并非简单叠加两种技术，而是存在协同效应：干净可靠的事实基础让强化学习的探索更有效，避免了在噪声数据上放大错误。

对知识密集型 AI 应用的启示

这项研究虽然以医疗领域的疾病知识图谱为验证场景，但作者明确指出框架具有普遍适用性。它给知识密集型 AI 应用带来的启示是清晰的：

训练数据的组织方式，可能和数据本身同等重要。把知识以带上下文的图结构而非孤立三元组的形式提供，能显著改善模型的复杂推理表现。同时，在追求高阶推理能力之前，先系统性地修复底层事实错误、清洗噪声数据，是一条被实验证明有效的路径——这对当下动辄追求"更大规模、更强 RL"的技术潮流，是一个务实的提醒。

对于构建垂直领域问答系统、医疗辅助决策工具或企业知识库的开发者而言，这套"上下文增强 + 先修复后强化"的组合，提供了一个可借鉴的工程范式。