待验证50% 置信事实精确时间

HumanEval通过让模型根据函数签名和文档字符串生成完整函数实现来衡量编码准确率

1

来源数

50%

置信度

长期有效

时效性

2026/8/18

首次发现

来源

Gemini 3.7 Flash发布：编程与网页开发能力全面升级

相关事实

待验证HumanEval测试代码生成能力，要求模型根据函数签名和文档字符串生成正确的Python代码77% 相似待验证HumanEval等传统代码评测基准通常只要求模型根据函数签名和文档字符串生成独立函数，本质上是受限的代码补全任务76% 相似待验证代码生成领域的模型评估如HumanEval、SWE-bench格外强调功能正确性而非流畅度74% 相似待验证代码大语言模型采用HumanEval、MBPP等可执行基准评估，即直接运行生成代码并检验输出是否正确74% 相似待验证HumanEval专注代码生成能力，以164道编程题检验模型的逻辑推理与代码正确性73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/771029

API

curl https://kongchang.com/api/v1/knowledge/claims/771029

MCP

get_claim(id=771029)