待验证50% 置信事实精确时间
HumanEval 和 MBPP 主要衡量模型代码生成能力,而代码审查是本质不同的任务,业界目前缺乏标准化的代码审查基准测试
1
来源数
50%
置信度
长期有效
时效性
2026/8/20
首次发现
来源
相关事实
待验证代码大语言模型采用HumanEval、MBPP等可执行基准评估,即直接运行生成代码并检验输出是否正确78% 相似待验证当前主流基准测试体系如HumanEval、MBPP等代码评估集往往关注平均性能,对分布式的场景特定退化现象敏感度不足78% 相似待验证传统代码评测基准(如HumanEval、MBPP)主要测试模型在孤立函数级别的生成准确率77% 相似待验证编程能力的评估通常参考HumanEval、MBPP、SWE-bench等标准化基准测试,但实际工程场景表现与基准测试结果存在差异76% 相似待验证HumanEval等传统代码评测基准通常只要求模型根据函数签名和文档字符串生成独立函数,本质上是受限的代码补全任务74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/777403API
curl https://kongchang.com/api/v1/knowledge/claims/777403MCP
get_claim(id=777403)