[控场AI]
基准Fact Extraction and VERification Over Unstructured and Structured information

FEVEROUS

专为复杂事实核查设计的基准数据集,要求系统同时处理维基百科中的非结构化文本与结构化表格数据,每条声明附有人工标注的最小证据组合,评分采用答案与证据双重门槛

时间轴 (近 90 天)

9月24日

FEVEROUS中的严格分数(strict score)定义为:既有正确答案、又在提交证据中包含完整标注证据组的声明所占的百分比

待验证50%
9月24日

FEVEROUS是一个复杂事实核查基准数据集,要求系统同时处理维基百科中的非结构化文本与结构化表格数据

待验证50%
9月24日

把DCUF证据替换成UnifEE证据后,严格分数提升了9.61个百分点,而对答案准确率的提升仅为1.96个百分点

待验证50%
9月24日

证据替换带来的严格分数增益的配对95%置信区间为[8.77, 10.43]

待验证50%
9月24日

把上下文从256 token扩展到2,048 token后,在FEVEROUS上固定答案条件下的证据增益分别提升了3.84(Qwen)和3.10(Llama)个百分点

待验证50%
9月24日

研究提出答案对/错与证据全/缺交叉形成四个象限的声明层面分析框架,能揭示聚合指标掩盖的变化

待验证50%

全部知识事实 (6)

来源文章