[控场AI]
基准

Lakh, Crore and Carpet Area

针对印度购房场景设计的大语言模型数学基准测试,包含60道确定性题目,覆盖lakh/crore换算、面积单位转换、EMI计算及印度数字格式等印度本土金融地产计算场景

时间轴 (近 90 天)

10月11日

一个名为Lakh, Crore and Carpet Area的基准测试由60道确定性小题组成,覆盖印度购房者的金钱与地产计算,分为换算、面积、EMI与税务、格式四组各15题

待验证50%
10月11日

该基准测试每道题只有唯一正确答案,由Python计算得出,评分器要求模型以ANSWER:<值>结尾,EMI允许±₹2的舍入误差,格式组要求精确字符串匹配

待验证50%
10月11日

所有参测模型在面积换算题(loading百分比、super built-up、gaj换算等)上均15题全对

待验证50%
10月11日

作者修复基准测试的方式是改为串行调用、加入重试,并在给出分数前先打印answered: X of 60,以确保基准分数的诚实

待验证50%

全部知识事实 (4)

来源文章