ContextAdapt：大模型价值对齐的情境适应性测评

价值对齐的隐藏难题：原则正确不等于应用正确

诚实、自主、保密——这些价值常被视为AI对齐的通用基石。但一个被长期忽略的问题是：遵循这些价值的具体含义会随情境而变。同样是「保密」，医生面对传染病疫情上报时的义务，与律师维护委托人隐私时的义务，并不相同。

一篇新发布的arXiv论文《ContextAdapt》正是针对这一盲区展开研究。作者提出了一个核心质疑：大语言模型（LLM）能否在不同专业场景中恰当地调整价值的应用方式，同时在情境变化并未改变相关专业规范时保持一致？这个看似细微的问题，直指当前价值对齐评估体系的根本缺陷——我们往往只检验模型是否「知道」抽象原则，却很少检验它能否「正确地」把原则落到具体语境。

ContextAdapt 框架：价值 × 领域的交叉测评

ContextAdapt 是一个专门设计的评估框架，覆盖三类价值——诚实（honesty）、自主（autonomy）、保密（confidentiality），并横跨四个高风险专业领域：医疗、法律、金融与国家安全。

框架的构建方式值得关注。研究者并非凭空设计题目，而是依据一手的专业与监管文件，搭建起「价值 × 领域」的二维矩阵。基于这个矩阵，他们开发了两类场景：一类测试默认的专业规则（default professional rules），另一类测试被公认的例外情形（recognised exceptions）。这种设计的巧妙之处在于，它能区分模型是机械套用规则，还是真正理解规则背后的专业逻辑及其边界。

评估对象覆盖了 12 个主流 LLM。更重要的是，研究不只看模型「推荐什么行动」，还考察它「给出什么理由」——因为一个正确的决策若配上错误的理由，恰恰暴露了模型对专业规范的理解只是表面功夫。

「默认规则」与「公认例外」的区分在专业伦理中至关重要。以保密义务为例：默认规则要求律师不得披露委托人信息，但「公认例外」包括当事人明确同意、防止即将发生的严重犯罪等情形。医疗领域同样如此——传染病强制报告制度、儿童虐待举报义务，都是对一般保密原则的有据可查的法定例外。这类例外并非模糊的道德直觉，而是由法规、职业准则或案例法明确界定的。ContextAdapt 将这些例外情形纳入测试矩阵，意味着它评估的不是模型对原则的简单记忆，而是对「规则边界」的把握能力——这正是真实专业决策中最容易出错、也最难以评估的环节。

核心发现：行动合格，理由却参差不齐

主实验的结果呈现出一种耐人寻味的反差。

在行动恰当性（appropriateness）上，所有模型的平均得分达到了 95.6%，表现相当出色。但当审视模型是否使用了正确的、领域特定的理由时，差距骤然拉大：不同模型的表现从 25.6% 一路跨越到 76.9%。

这意味着：很多模型能「蒙对」答案，却说不清为什么对。它们可能依赖某种泛化的直觉或通用安全准则作出判断，而非真正调用医疗、法律等领域的专业规范。对于部署在高风险专业场景中的AI系统而言，这种「知其然不知其所以然」的状态构成了实实在在的隐患——一旦遇到规则边界附近的复杂案例，缺乏正确推理依据的模型极易给出错误建议。

风险高低成为意外的「触发信号」

论文还设计了一个独立的析因实验（factorial experiment），用以剥离不同变量对模型行为的影响。

结果显示，显式点明专业领域、以及改变模型所扮演的角色，对模型行为的影响都很有限。换句话说，模型并不太依赖这些显式提示来调整自己的判断。

真正的问题出在「风险高低」（stakes）这个变量上。研究发现，当改变场景的利害程度时，模型出现了严重但局部的失效：在某些情况下，即便底层的专业义务根本没有改变，模型却改变了自己的回应。

具体而言，感知到的严重性（perceived severity）似乎成了模型倾向于披露信息的一个诱因——这一现象在诚实和保密两类场景中都有出现。也就是说，当模型「觉得」事情很严重时，它可能会突破本不该突破的保密义务去披露信息，而这种披露在专业规范上并不正当。这揭示了模型价值判断中一个危险的脆弱点：它可能被情境的情绪化强度带偏，而非严格遵循专业逻辑。

这一现象在AI对齐研究中被称为「情境污染」（context contamination）或「情绪劫持」——模型的推理过程被输入中情绪化或戏剧化的叙事框架所干扰，而非严格依据领域规范作出判断。其根本原因可能在于训练数据的分布：人类书写的文本中，「事态严重」与「应当采取行动（包括披露）」往往高度共现，模型因此习得了一种表面相关而非规范正确的关联模式。这与价值对齐的核心挑战紧密相连：要让模型区分「什么在直觉上显得紧迫」与「什么在规范上构成合理理由」，需要的不只是更多的伦理原则训练，而是对专业推理逻辑本身的深度理解。

对AI对齐研究的启示

ContextAdapt 的研究给价值对齐领域带来了一个清晰而重要的结论：评估价值对齐不能只看模型是否遵循抽象原则，更要看它能否在不同情境中恰当地应用这些原则。

这对当前的对齐评估方法是一次有价值的修正。过去大量基准测试停留在「模型是否认同某条伦理准则」的层面，而现实世界的专业决策远比这复杂——它要求对规则、例外、领域规范以及利害权衡的细致把握。ContextAdapt 通过价值与领域的交叉设计，把评估推进到了更接近真实应用的颗粒度。

对于希望将LLM部署到医疗、法律、金融等专业场景的开发者和机构，这项研究敲响了警钟：高准确率的表象之下，模型的推理依据可能并不可靠，而且其判断会被风险感知等非规范因素干扰。在真正信任AI完成高风险专业决策之前，针对情境适应性的严格测评不可或缺。