基准EffiBench
EffiBench
评估大语言模型生成代码效率的基准测试集,包含1000道编程题,每题配有经过性能优化的人类参考实现,并标注执行时间与内存占用等效率指标,用于衡量LLM写出高效代码的能力。
时间轴 (近 90 天)
10月26日
一项实证研究对11个开源模型、4种解码配置在EffiBench全部1000道题目上进行了硬件级能耗测量,发现44种配置中有42种生成的代码比人类参考实现更耗能。
待验证50%
10月26日
EffiBench是评估大模型生成代码效率的基准测试集,包含1000道编程题,每题配有经过性能优化的人类参考实现,并标注执行时间与内存占用等效率指标。
待验证50%
10月26日
与仅考察功能正确性的基准(如HumanEval)不同,EffiBench要求模型在通过测试用例的同时尽量逼近参考解的资源消耗水平。
待验证50%
10月26日
研究团队已将全部工件公开(DOI: 10.5281/zenodo.23598170),EffiBench上的测量流程可复现。
待验证50%
全部知识事实 (4)
待验证
一项实证研究对11个开源模型、4种解码配置在EffiBench全部1000道题目上进行了硬件级能耗测量,发现44种配置中有42种生成的代码比人类参考实现更耗能。
50%待验证EffiBench是评估大模型生成代码效率的基准测试集,包含1000道编程题,每题配有经过性能优化的人类参考实现,并标注执行时间与内存占用等效率指标。
50%待验证与仅考察功能正确性的基准(如HumanEval)不同,EffiBench要求模型在通过测试用例的同时尽量逼近参考解的资源消耗水平。
50%待验证研究团队已将全部工件公开(DOI: 10.5281/zenodo.23598170),EffiBench上的测量流程可复现。
50%