LangGraph重试安全实战：幂等、审批门与补偿处理器

大多数LangGraph演示只跑到顺利路径就结束了。真正让生产环境头疼的，是节点执行到一半失败、同一环节被重试、或者某个高影响决策必须由人先点头才能继续。据Reddit上的一则workshop信息，一场围绕企业理赔分诊案例的实操课程，专门拆解这三类问题的工程化模式：幂等状态机、人工审批门、补偿处理器。

为什么演示级LangGraph一到生产就翻车

LangGraph把Agent流程建模成状态机，节点之间传递状态、按条件路由，这套抽象在原型阶段非常好用。问题在于，演示通常假设每个节点要么成功、要么让整个流程崩掉，而生产系统里更常见的是"部分成功"：调用外部API扣了款但没拿到回执、写数据库成功但发消息失败、重试时把同一个副作用又执行了一遍。

workshop的组织者把这类问题归纳为三个必答项：重试时副作用是否重复、不确定的决策由谁拍板、后续步骤失败时前面已经发生的动作怎么撤回。这三个问题不解决，LangGraph流程就只能停留在demo阶段。

幂等状态机：让重试不再重复副作用

课程的第一个核心模块是幂等（idempotency）设计。思路并不新鲜，但在状态机框架里落地需要具体约定：每个会产生外部副作用的节点，都要携带一个稳定的幂等键，重试时用同一个键去查询"这一步是否已经执行过"，而不是无脑再跑一遍。

对LangGraph而言，这意味着一部分状态不只是业务数据，还要记录执行痕迹——哪些节点已提交、幂等键是什么、外部系统返回了什么。这样当某个节点因超时被重新调度时，状态机可以跳过已完成的副作用，只补齐缺失的部分。课程用理赔分诊作为案例，理赔场景天然涉及多步骤外部调用，很适合暴露这类问题。

审批门：把不确定的决策交给人

第二个模块是人工审批门（approval gate）。并非所有决策都适合让模型直接执行，尤其是高影响、低置信度的分支。课程的设计是把审批门做成状态机里的一个显式节点：流程走到这里必须挂起，等待人工确认后才继续，而不是在代码里偷偷加一个if判断。

这种显式化的好处是审批环节本身可观测、可审计、可重试。审批通过后流程继续，审批被拒则走另一条分支。对于理赔这类合规敏感的流程，审批记录本身就是业务资产，而不是日志里的附带信息。

补偿处理器：后续失败时撤回前面的动作

第三个模块是补偿处理器（compensation handler）。分布式事务里的Saga模式在这里被搬进了LangGraph：当后续节点失败、整体流程无法完成时，系统需要按相反顺序执行补偿动作，撤销前面已经生效的步骤——比如释放已占用的额度、撤销已发出的通知。

补偿逻辑写成独立的处理器，与正向流程解耦，每个正向节点配对一份补偿动作。状态机在进入失败分支时，根据已完成节点的记录依次触发补偿。这比"出错就整体回滚"更贴近真实业务，因为很多外部副作用根本没法回滚，只能对冲。

Saga 模式最早由 Garcia-Molina 与 Salem 在 1987 年提出，用于解决长事务（long-running transaction）在分布式系统中无法依赖单一数据库事务保证原子性的问题。其核心思想是把一个长事务拆成若干本地事务，每个本地事务都配对一个语义上的反向操作（compensating action），一旦后续某个本地事务失败，就按相反顺序依次执行已成功事务的补偿动作，从而在逻辑上抵消已产生的副作用。与两阶段提交（2PC）不同，Saga 不要求资源锁定，因此更适合跨服务、涉及外部 API 的场景；代价是只能保证最终一致性，且补偿动作本身也必须幂等，否则补偿重试会引入新的副作用。在 LangGraph 这类状态机框架里落地 Saga，关键是维护一份「已完成正向节点」的有序清单，并保证每个补偿处理器都能根据幂等键判断是否已执行过。

用小型编码器替代LLM做路由

课程里还有一个值得注意的工程决策：路由层不用LLM调用，而是基于小型编码器（ModernBERT、SetFit）构建，跑在CPU上，延迟控制在15毫秒以内。对于分诊这类分类任务，小模型足够准，而且成本和延迟远低于每次路由都调一次大模型。

LLM被保留给真正需要推理的环节。为了决定什么时候该把请求交给人工、什么时候交给LLM，课程引入分割共形预测（split conformal prediction），给路由决策附上统计意义上的置信保证，而不是拍脑袋定阈值。

分割共形预测（split conformal prediction）是一种分布无关的不确定性量化方法。做法是先把标注数据切成训练集与校准集（calibration set），在训练集上拟合模型，再用校准集计算一个分位数阈值，使得在置信水平 1−α 下，真实标签以概率至少 1−α 落在预测集合之内。对于分类任务，它输出的是一个候选标签集合而非单个标签：集合小说明模型有把握，集合大或包含多个标签则说明不确定。这正好对应文章里「何时转人工」的判定规则——当共形预测集合大小超过 1 或包含高风险标签时，就把请求交给审批门或 LLM 处理。该方法的优势是给出有限样本下的覆盖保证，不依赖模型分布假设，也不需要在推理时做多次采样，计算开销极小，适合与 15ms 级的 CPU 路由层配合使用。

评估方法：Wilson区间与聚类标准误

workshop最后一部分讲评估。分类器的准确率点估计在样本量不大时很不稳定，课程建议用Wilson得分区间给出比例指标的置信区间。同时，由于同一案件的多条记录之间存在相关性，评估时使用聚类标准误，避免把相关样本当成独立样本而高估显著性。

这套评估组合在业务分诊场景里比单纯的准确率/F1更有说服力，因为它回答的是"这个路由器的表现区间是多少、结论是否稳健"。

Wilson 得分区间是二项比例的一种置信区间构造方式，相比常见的正态近似（Wald 区间），它在样本量小或比例接近 0/1 时不会越界，且覆盖表现更稳健，因此在分类器准确率这类比例指标上更受推荐。聚类标准误（clustered standard error）则用于处理样本间不独立的情形：当同一案件对应多条记录时，这些记录共享案件级噪声，若按独立样本计算方差会低估标准误、虚高显著性。正确做法是先在聚类层面汇总残差或得分，再按聚类数量调整方差估计。文中把两者结合，实质上是把评估从「单点准确率」提升到「带置信区间的稳健结论」，这在样本有限、且样本天然成簇的业务分诊场景里尤为必要。

适合谁参加

据课程信息，notebook可运行，具备中级Python水平即可，笔记本或免费Colab就能跟完。主讲人Ben Auffarth是AI顾问、畅销书作者，有15年以上经验。课程时间为10月30日周五美东时间9:30至12:30，线上直播。

对正在把LangGraph从原型推向生产的团队来说，这三个模式——幂等、审批门、补偿——构成了重试安全的最小完整集。缺任何一个，流程在真实故障面前都会露出破绽。