Escalation Benchmark
由开发者Sean Campbell设计的AI模型评测基准,专门衡量模型在面对无法回答的问题时是否能识别自身局限并选择上报(ESCALATE),而非强行给出答案,关注模型的元认知与校准能力
时间轴 (近 90 天)
开发者Sean Campbell设计了一个名为Escalation Benchmark的评测体系,衡量模型在面对无法回答的问题时是否会选择ESCALATE(上报/移交)而非硬编答案
该基准由200个人工构造的任务项组成,分为route、classify、judge、ground四种形态,其中五分之一的题目只能用ESCALATE正确回答
该基准给每个模型输出两个永不合并的数字:任务得分和虚假自信率(本应上报却强行作答的比例)
测量的12个托管模型中,有7个在每一种形态上都保持0.00或0.10的虚假自信率
无论是小模型还是前沿大模型,表现最差的形态始终是ground(溯源)和classify(分类),没有模型的短板出现在route或judge上
外部评审发现记录链条的三个问题:链条可被切断或重算而无人察觉、哈希只保留64位、一行乱码导致启动崩溃,三个均已修复
全部知识事实 (6)
开发者Sean Campbell设计了一个名为Escalation Benchmark的评测体系,衡量模型在面对无法回答的问题时是否会选择ESCALATE(上报/移交)而非硬编答案
50%待验证该基准由200个人工构造的任务项组成,分为route、classify、judge、ground四种形态,其中五分之一的题目只能用ESCALATE正确回答
50%待验证该基准给每个模型输出两个永不合并的数字:任务得分和虚假自信率(本应上报却强行作答的比例)
50%待验证测量的12个托管模型中,有7个在每一种形态上都保持0.00或0.10的虚假自信率
50%待验证无论是小模型还是前沿大模型,表现最差的形态始终是ground(溯源)和classify(分类),没有模型的短板出现在route或judge上
50%待验证外部评审发现记录链条的三个问题:链条可被切断或重算而无人察觉、哈希只保留64位、一行乱码导致启动崩溃,三个均已修复
50%