DataBugBench
针对Python数据科学隐形Bug设计的基准测试,专注于评估大语言模型在Pandas、NumPy和Scikit-Learn代码中检测和修复静默逻辑错误的调试能力
时间轴 (近 90 天)
DataBugBench 是一个针对数据科学隐形Bug评估大语言模型调试能力的基准测试
DataBugBench 专门构建了针对 Pandas、NumPy 和 Scikit-Learn 代码的诊断测试
DataBugBench 聚焦五类数据工程中的隐患:Pandas SettingWithCopyWarning误修改、Groupby聚合丢失分组键、NumPy隐式广播维度不匹配、特征缩放数据泄漏、删除NaN后索引不连续
GPT-4o 与 Qwen 2.5 Coder 32B 在 DataBugBench 中并列第二,均为4/5,准确率80%
模型对显式语法错误几乎都能轻松修复,但在数据泄漏这类隐形逻辑错误上频频失手
DataBugBench 每类问题仅用单个样本(分母为5),样本量较小,结论更适合作为趋势参考而非严格排名
全部知识事实 (6)
DataBugBench 是一个针对数据科学隐形Bug评估大语言模型调试能力的基准测试
50%待验证DataBugBench 专门构建了针对 Pandas、NumPy 和 Scikit-Learn 代码的诊断测试
50%待验证DataBugBench 聚焦五类数据工程中的隐患:Pandas SettingWithCopyWarning误修改、Groupby聚合丢失分组键、NumPy隐式广播维度不匹配、特征缩放数据泄漏、删除NaN后索引不连续
50%待验证GPT-4o 与 Qwen 2.5 Coder 32B 在 DataBugBench 中并列第二,均为4/5,准确率80%
50%待验证模型对显式语法错误几乎都能轻松修复,但在数据泄漏这类隐形逻辑错误上频频失手
50%待验证DataBugBench 每类问题仅用单个样本(分母为5),样本量较小,结论更适合作为趋势参考而非严格排名
50%