待验证50% 置信事实精确时间
去污染模型在“在已移除数据中”和“不在已移除数据中”两个 HumanEval 子集上都比两次原始数据运行的均值低了约 4 分,说明污染机制不是记忆,而是普遍提升了模型在 HumanEval 风格题目上的表现。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证2024年多项研究发现,部分模型在去污染版本的评测集上得分下降幅度可达10-20个百分点67% 相似待验证去污染后模型在 HumanEval 上为 22.6%,HumanEval+ 上为 21.3%,MBPP 上为 35.0%;相比已发布版,HumanEval 下降 4.3 分,McNemar 检验 p = 0.039。67% 相似待验证只有差异化污染(某些模型被污染得远比其他模型严重)才会扭曲排名,而这种情况在实践中罕见66% 相似待验证研究表明即使是部分污染(模型只见过题目而非答案),也可能显著提升得分66% 相似待验证评估模型不能只看智能指标,还要看Token使用效率和工具调用次数,工具调用次数过多会导致上下文污染65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1013061API
curl https://kongchang.com/api/v1/knowledge/claims/1013061MCP
get_claim(id=1013061)