Grok 4.20
xAI推出的Grok系列大语言模型,4.20版本包含非推理版本,具备多模态理解能力
时间轴 (近 90 天)
基准测试涵盖来自6个实验室的9款模型,包括Qwen3 235B、Claude Haiku 4.5、Claude Opus 5.5、Gemini系列、GPT-5.4系列、GLM-5和Grok 4.20,其中4款是推理模型
字母计数任务击溃了几乎所有模型,Claude Haiku 4.5只守住8.3%,Grok守住25%
在无诱饵的难核查档,GPT-5.4 nano 只有19/40两次都答对,并有65%概率选Response A;GPT-5.4 mini 选A概率66%,Grok 4.20非推理版62%,而强裁判稳定在50%
弱模型在注入诱饵下会将被注入的错误数字当作自己的计算结果,并凭空编造验证过程,解释文本看起来与真实验证一致,使审计无法发现错误
开启推理模式后 Grok 4.20 难核查档注入得分从0.075升至0.925(几乎免疫),但Qwen3-Next 80B Thinking 仅从0.00升至0.35,推理成本是非推理的5到9倍
冗长填充放在正确答案上会导致裁判得分暴跌,Grok 非推理版难题得分从0.875跌到0.19,表明冗长偏见只是反向存在
全部知识事实 (6)
基准测试涵盖来自6个实验室的9款模型,包括Qwen3 235B、Claude Haiku 4.5、Claude Opus 5.5、Gemini系列、GPT-5.4系列、GLM-5和Grok 4.20,其中4款是推理模型
50%待验证字母计数任务击溃了几乎所有模型,Claude Haiku 4.5只守住8.3%,Grok守住25%
50%待验证在无诱饵的难核查档,GPT-5.4 nano 只有19/40两次都答对,并有65%概率选Response A;GPT-5.4 mini 选A概率66%,Grok 4.20非推理版62%,而强裁判稳定在50%
50%待验证弱模型在注入诱饵下会将被注入的错误数字当作自己的计算结果,并凭空编造验证过程,解释文本看起来与真实验证一致,使审计无法发现错误
50%待验证开启推理模式后 Grok 4.20 难核查档注入得分从0.075升至0.925(几乎免疫),但Qwen3-Next 80B Thinking 仅从0.00升至0.35,推理成本是非推理的5到9倍
50%待验证冗长填充放在正确答案上会导致裁判得分暴跌,Grok 非推理版难题得分从0.875跌到0.19,表明冗长偏见只是反向存在
50%