[控场AI]
基准EffiBench

EffiBench

评估大语言模型生成代码效率的基准测试集,包含1000道编程题,每题配有经过性能优化的人类参考实现,并标注执行时间与内存占用等效率指标,用于衡量LLM写出高效代码的能力。

时间轴 (近 90 天)

10月26日

一项实证研究对11个开源模型、4种解码配置在EffiBench全部1000道题目上进行了硬件级能耗测量,发现44种配置中有42种生成的代码比人类参考实现更耗能。

待验证50%
10月26日

EffiBench是评估大模型生成代码效率的基准测试集,包含1000道编程题,每题配有经过性能优化的人类参考实现,并标注执行时间与内存占用等效率指标。

待验证50%
10月26日

与仅考察功能正确性的基准(如HumanEval)不同,EffiBench要求模型在通过测试用例的同时尽量逼近参考解的资源消耗水平。

待验证50%
10月26日

研究团队已将全部工件公开(DOI: 10.5281/zenodo.23598170),EffiBench上的测量流程可复现。

待验证50%

全部知识事实 (4)

来源文章