[控场AI]
基准TRACES

TRACES基准

用于评估大语言模型能否识别问题论文(撤稿、造假、伪科学)并拒绝在其基础上设计实验的基准测试,通过嵌入论文段落的探针提问并设置声誉良好对照论文来检验模型行为。

时间轴 (近 90 天)

10月18日

该测试由凯斯西储大学有机化学家Valentin Rodionov发起,结果以TRACES基准的形式发布在arXiv上。

待验证50%
10月18日

在TRACES测试中,每一个模型在'智能体式'探针中的失败率都超过71%;30个模型中有22个失败率超过90%。

待验证50%
10月18日

论文作者认为,模型的拒绝行为集中在少数高知名度话题和特定探针上,并且在结构匹配的对照组中消失,这表明模型行为是'按话题触发的安全行为'而非真正的认知推理能力。

待验证50%
10月18日

TRACES基准的对照设计包括42篇问题论文和话题结构匹配但学术声誉良好的对照论文;若模型对问题论文的拒绝率在对照组中显著下降,则说明其行为由话题知名度而非方法论判断驱动。

待验证50%
10月18日

TRACES基准以arXiv预印本形式发布,尚未经过同行评审。

待验证50%

全部知识事实 (5)

来源文章