[控场AI]
· 5 分钟阅读· 2,911 字

SciResearch-Eval:首个科学判断力基准,AI实验智能体如何校准",

SciResearch-Eval:首个科学判断力基准,AI实验智能体如何校准",

新基准用缺陷模拟器检验AI智能体是否「知道自己不知道」,多数模型过度自信。

SciResearch-Eval是一个交互式基准,把「加热材料并拟合热传导模拟器以测量热物性参数」的经典实验问题,转化为检验AI智能体科学判断力的试金石。智能体需自主设计实验、使用可能缺失物理项的缺陷模拟器,并给出95%置信区间。在93个任务、9个模型、2,511个回合中,模型程序性操作稳健,但一旦模拟器缺少关键物理项,多数模型给出错误数值却声称95%把握,区间覆盖率仅20%-62%,远低于Astra的94%和Fable的99%。Astra和Fable通过设计温和加热等实验条件绕开缺陷,即使未明确诊断也能保持校准。要求模型陈述策略可提升评分1.6-2.5倍但覆盖率几乎不变;提高推理强度能让Opus提升超十倍,代价是13-31倍算力。

为什么需要评估科学判断力

当AI智能体开始设计实验、操作仪器、分析数据,「跑通流程」已经不够了。真正的科学判断力体现在:它是否知道自己知识边界在哪里。SciResearch-Eval正是为此设计的交互式基准,它把一个经典实验室问题——加热材料并拟合热传导模拟器,以测量热物性参数——变成了检验智能体「科学品味」的试金石。

与传统基准不同,这里的智能体必须自己规划实验步骤,使用一个可能分辨率不足或物理上存在缺陷的模拟器,并为每个属性给出95%置信区间。据作者称,这是首个同时结合「智能体自主设计实验」「故意植入缺陷的模拟器」与「用精确真值对校准区间评分」的基准。

SciResearch-Eval 基准示意

基准设计:当模拟器说谎时

这个基准的精妙之处在于它的「陷阱」并非程序性错误,而是物理模型缺失。在留出的93个任务、9个模型、共计2,511个回合中,模型在程序性操作上表现稳健。可一旦模拟器缺少关键物理项,问题就暴露了:多数模型给出错误数值,却同时声称自己有95%的把握。

具体而言,这些模型的95%区间仅在20%到62%的情况下覆盖真实值。作为对比,GPT-6 Astra的区间覆盖率达到了94%,Claude Fable 5.2则高达99%。这种自信的「校准失败」在科学场景中是致命的——一个不知道自己错在哪里的实验者,比拒绝实验的人更危险。

95%置信区间的校准(calibration) 是理解这个基准评分逻辑的关键。在统计学中,一个95%置信区间如果在大量重复实验中,有95%的情况下能覆盖真实参数值,就称其「校准良好」。校准与「精度」是一对需要权衡的指标:把区间放得极宽(例如声称热导率在0到1000之间)几乎总能覆盖真值,但这样的区间在科学上毫无信息量;反之区间过窄虽然精确,却会频繁错过真值。SciResearch-Eval用「精确真值」对区间打分,正是为了同时惩罚这两种失败模式——既要求区间足够窄以具备实用价值,又要求其覆盖率接近名义水平。模型普遍的20%-62%覆盖率,意味着它们系统性低估了自身的不确定性,这在统计上称为「过度自信」(overconfidence)。

诊断能力的分野

即使模拟器有物理缺陷,不同模型间的诊断能力也分化明显。在默认推理强度下,表现不佳的Claude 5.5系列模型很少能识别出缺失的物理项:Opus在35%的回合中有所察觉,而Astra的同项数据是66%。

更微妙的是,即使模型察觉到了异常,其给出的区间也常常错过真值。Astra和Fable走的是另一条路:它们会设计出使缺陷模拟器仍然有效的实验条件,比如采用温和加热而非剧烈加热,从而让缺陷被实验设计所「绕开」。这解释了为何Astra在无法明确说出原因的情况下,依然保持了良好的校准。这种「用实验设计规避模型误差」的策略,恰恰是资深实验物理学家的思维方式。

提示与策略的效用边界

直觉上,既然区间太窄导致覆盖率不足,直接要求模型「给出更宽的区间」应该能解决问题。但实验表明,这几乎没有帮助。

相反,让模型陈述自己的策略(例如要求它先解释为何选择某个实验条件),能将区间评分提升1.6至2.5倍。这一结果在一个预注册的全新数据划分上得到了复现。然而,策略陈述虽然改善了评分,区间覆盖率却几乎纹丝不动——说明模型只是在数值层面变得更优,并未真正修复对不确定性的认知。

「陈述策略」为何能提升评分却修不好覆盖率,可以从「过程性知识」与「元认知校准」的区分来理解。要求模型先解释实验条件的选择理由,相当于给它一个显式的推理脚手架,促使它更系统地组织实验设计和数值估计,因此区间评分(兼顾精度与覆盖的综合指标)明显改善。但覆盖率反映的是模型对「自己可能错在哪里」的信念强度,这属于元认知层面的不确定性表征,往往在模型内部已经固化,单靠提示难以改变。换句话说,模型学会了「把答案算得更准」,却没有学会「把不确定性的边界报得更诚实」。这也提示,真正的校准能力可能需要通过训练目标(如显式的校准损失)而非推理时提示来获得。

推理强度:潜力与代价

一个预注册的推理强度消融实验揭示了关键事实:Claude 5.5系列模型其实「潜藏」着纠正能力。在最高推理强度下,Opus的表现提升超过十倍,在默认强度下已与Astra没有可检测的差距——但代价是需要13到31倍的推理计算量。更早的模型和开放权重模型则无法从增加推理中获益。

话说回来,Fable 5.2在默认强度下是最准确的模型,其区间评分比Astra好1.9倍,但它消耗的token数量是Astra的6倍。**若将Fable的token用量限制到Astra的水平,它的表现反而会落后。**这说明准确性与计算效率之间存在真实的权衡,基准分数不能脱离成本来解读。

推理强度消融(reasoning-effort ablation) 指的是在同一模型上改变「测试时计算量」——例如允许模型生成更长的思维链、进行更多轮内部反思——来观察性能如何随计算预算变化。这类实验的价值在于区分两种可能:模型是「能力不足」(再多算也算不对),还是「未充分发挥」(给足计算量就能纠正)。Opus在最高强度下提升超十倍,说明其纠正能力确实「潜藏」在模型中,只是默认预算下未被调用。但13到31倍的计算量代价,使这种提升在真实实验场景中未必经济可行。更早的模型和开放权重模型无法从增加推理中获益,则暗示这种「用算力换校准」的能力可能是较新模型在训练中才获得的特性。

对自主实验智能体的启示

SciResearch-Eval释放了一个清晰信号:评估自主实验智能体,不能只看最终数值误差,更要看其不确定性表达是否可信。一个在95%置信区间内仅有20%覆盖率的模型,本质上是在系统性地误导使用者。

研究团队已开放环境、评分器与运行框架,这为后续研究提供了可复现的测试台。对于构建科学智能体的团队而言,这个基准提示了三个可操作方向:在训练中引入校准目标而非仅优化点估计;鼓励模型通过实验设计主动规避已知模型缺陷;以及在部署时权衡推理预算与校准质量。

科学判断力的核心,或许正是「知道自己不知道」的能力。而这一点,恰恰是当前多数模型尚未学会的。

预注册(pre-registration) 是本研究中保证结论可信度的重要方法学安排。它指在分析数据之前,先公开锁定研究假设、实验设计和分析方案,从而避免「看到结果后再挑假设」的事后选择偏差。文中提到策略陈述的增益在「预注册的全新数据划分上得到复现」,以及推理强度实验是「预注册的消融实验」,都是在强调这些发现并非在既有数据上反复调参碰巧得到,而是经得起独立验证的稳健结论。对于基准类研究而言,预注册尤其重要,因为基准设计者与模型开发者往往存在信息重叠,缺乏预注册容易导致基准无意中「迎合」某些模型。

#SciResearch-Eval#科学判断力基准#自主实验智能体#校准区间#AI科学实验#GPT-6 Astra#Claude Fable#不确定性校准
分享:

相关推荐