合规约束下的LLM智能体自进化：信贷管线中的可审计准入门控

当自我进化遇上合规审查

自我改进的大语言模型（LLM）智能体，理论上可以根据规则变化自动调整信贷评分管线。但这里存在一个根本性的矛盾：如果智能体直接重写自己，它就摧毁了监管者赖以审查的核心凭证——一次有命名的变更、一条记录在案的测试、一次明确的审批。

这篇来自 arXiv 的研究（arXiv:2610.10629v1）提出了一个颇具启发性的论点：智能体的自我进化只有被约束在**运行时框架（harness）**内，才是可审查的。所谓 harness，指的是指令文本、工具调用逻辑和原语组合这三层可变表面，而模型权重始终保持固定。这样一来，每一次适应都是一个带有明确原因和配套测试的 diff（差异记录），而非一个黑箱式的权重突变。

双环引擎与准入门控

论文的核心工程贡献是一个基于上述约束构建的双环引擎（dual-loop engine），并配备单一的准入门控（admission gate）。这个门控在任何变更部署前，会写入一条哈希链式（hash-chained）记录，从而形成不可篡改的变更溯源轨迹。

值得关注的是，研究者在仿真环境中评估这一门控机制，使用的是模拟智能体和种子搜索提议器（seeded-search proposer），而非真实的语言模型。这种做法剥离了 LLM 本身的不确定性，让门控机制的有效性能够被干净地度量——这是一种务实的实验设计选择。

门控的量化表现

实验覆盖了三类监管重新解释（supervisory re-interpretation）、三种严重程度、每种 10 个随机种子。结果相当有说服力：

• 在 7,449 个候选变更中，受门控约束的循环只准入了 144 个；
• 这 144 个变更没有一个在留出历史数据上恶化了错误率；
• 门控将假阳性率恢复到了理论最优（oracle）水平，同时在所有低、中严重度场景中都没有增加漏报（missed flags）。

双环引擎的设计思路源自控制理论中的内外环分离原则。内环（inner loop）负责在当前规则框架下执行具体的信贷评分任务；外环（outer loop）则周期性地审视内环的表现，并提议对 harness 层进行调整。两个循环的职责分离使得"执行"与"进化"不会相互污染。哈希链式记录是区块链技术在审计日志中的轻量应用：每条变更记录都包含前一条记录的哈希值，任何对历史记录的篡改都会导致链条断裂，从而被立即检测到。这种结构为监管审查提供了数学层面的不可抵赖性，而不仅仅依赖访问控制或人工签名。**种子搜索提议器（seeded-search proposer）**则是一种确定性的变更生成机制：通过固定随机种子，研究者可以在不同实验条件下复现完全相同的候选变更序列，从而将门控机制的性能从 LLM 的随机采样噪声中剥离出来，使对照实验具有严格的可重复性。

无约束系统的危险对比

为了凸显门控的价值，研究者做了一组对照实验：把准入门控替换成一个无约束系统常用的朴素检查——即"近期轨迹中可见错误更少"这一指标。

结果令人警醒：同样的循环准入了 309 个有害变更，并且在 90 次运行中有 49 次让漏报率停留在 10% 以上。表面上假阳性下降了，实则只是因为筛查标准被悄悄放松了。这揭示了一个在实际部署中极易踩中的陷阱：用"错误变少"作为自我优化的信号，会诱导系统走向看似更好、实则更危险的方向。

重新解释必须被编码为规则

论文还有一个精妙的发现：当用"迁移前标签"（pre-shift labels）来评估时，门控拒绝了每一个候选变更。这意味着，一次监管重新解释必须被显式编码为一条重新标注历史的规则，而不能靠智能体隐式推断。这为合规场景下的变更管理提供了清晰的操作边界。

在修复能力上，参数漂移和范围漂移可以被局部修复；而结构性漂移只能通过原语替换来解决。研究也诚实地指出了局限：在最高结构性严重度下，门控的固定容差在半数种子中阻挡了本应正确的替换。换言之，过于保守的门控也会误伤正确的进化方向，这是安全与适应性之间的固有张力。

论文区分了三类漂移（drift），理解这一分类对把握门控的适用边界至关重要。参数漂移指特征权重或阈值随时间偏移，例如收入对违约概率的影响系数发生变化，这类问题可以通过调整指令文本中的数值参数局部修复。范围漂移指输入数据的分布超出原始训练或校准范围，例如新的借款人群体出现，通常可通过扩展工具调用的覆盖逻辑来应对。结构性漂移则是最根本的变化：原始的原语组合逻辑本身已不再适用，需要替换底层计算原语（primitive），相当于对管线进行架构级重构。正是在这一层面，固定容差的门控会因为无法区分"破坏性变更"与"必要的架构替换"而产生误拒，揭示了规则硬编码与动态适应之间最深层的张力。

与监管框架的映射

这项工作并非纯理论推演，而是明确地将其机制映射到了欧盟《AI 法案》针对高风险信贷评分的相关条款上。研究者同时指出了一个值得警惕的监管空白：2026 年 4 月的美国模型风险指引将智能体 AI（agentic AI）排除在其适用范围之外。

这一监管错位意味着，在信贷这类高风险领域部署自我进化智能体时，现有的美国模型风险管理框架可能无法提供足够的覆盖。论文提出的"harness 作为唯一可变表面"思路，恰好为填补这一空白提供了一条技术路径：通过把进化限制在可审计的层面，让监管者仍能看到"命名、测试、审批"这三件套。

欧盟《AI 法案》（EU AI Act）于2024年正式生效，将信贷评分明确列为高风险 AI 系统，要求部署方在整个生命周期内维护技术文档、实施人工监督并保证可解释性。该法案的核心合规压力在于"变更留痕"——任何对高风险系统的修改都需要重新评估是否触发符合性申报义务。论文所提出的 harness 层 diff 机制与这一要求高度契合：每个 diff 天然对应一次"命名变更"，附带的测试结果构成技术文档的增量更新，而准入门控的审批记录则满足了人工监督的留痕要求。相比之下，美国现行的SR 11-7 模型风险管理指引（2011年发布，2026年更新版草案中仍未覆盖 agentic AI）主要针对静态模型的验证与变更管理，其"开发—验证—部署"三段式流程假设模型在部署后不会自主修改自身逻辑，这一前提在自进化智能体场景下已根本性失效。

对行业的启示

这篇研究的价值不在于某个具体的性能数字，而在于它重新框定了"自我进化智能体"的可部署条件。核心洞见有三：

其一，权重固定、框架可变的二分法，让 agent 的每一次改变都保留了可审查的痕迹，这对任何受监管的垂直领域都有借鉴意义。

其二，自我优化的度量信号必须经过严格把关——简单地追逐"可见错误更少"会系统性地放松安全筛查。

其三，合规约束与适应能力之间存在真实的权衡，固定容差门控在极端结构变化下会失效，这提示未来的工作需要更自适应的准入策略。

对于正在探索 agentic AI 落地的团队，这套"受合规约束的自进化"框架提供了一个在创新与审计之间取得平衡的参考范式。