[控场AI]
基准Dau or Die

Dấu or Die

由越南语开发者Tuan Nguyen构建的Kaggle基准测试,专门评估大语言模型还原越南语声调符号(dấu)的能力,测试LLM对低资源声调语言的上下文理解与语境推理水平

时间轴 (近 90 天)

10月11日

越南语开发者Tuan Nguyen构建了名为Dấu or Die的Kaggle基准测试,用于测试大语言模型能否还原被去掉的越南语声调符号

待验证50%
10月11日

该基准测试包含37个手写句子,分为everyday、ambiguous、idiom、code_mixed、proper_noun五个类别

待验证50%
10月11日

评测流程使用Unicode NFD归一化自动剥离声调并把đ映射为d,评分完全确定性,不使用LLM作为裁判

待验证50%
10月11日

关键指标headline score指完全还原正确的句子占比,只要有一个声调错整句就算错,测试基于kaggle-benchmarks库搭建

待验证50%
10月11日

对于生产环境的加回声调功能,小模型是明智选择,前提是选对合适的小模型

待验证50%
10月11日

精确匹配指标无法区分差一点但语义正确与完全错误的输出,作者计划未来版本为每句接受一组有效答案

待验证50%

全部知识事实 (6)

来源文章