[KongchangAI]
BenchmarkFact Extraction and VERification Over Unstructured and Structured information

FEVEROUS

专为复杂事实核查设计的基准数据集,要求系统同时处理维基百科中的非结构化文本与结构化表格数据,每条声明附有人工标注的最小证据组合,评分采用答案与证据双重门槛

Timeline (last 90 days)

Sep 24

FEVEROUS中的严格分数(strict score)定义为:既有正确答案、又在提交证据中包含完整标注证据组的声明所占的百分比

Unverified50%
Sep 24

FEVEROUS是一个复杂事实核查基准数据集,要求系统同时处理维基百科中的非结构化文本与结构化表格数据

Unverified50%
Sep 24

把DCUF证据替换成UnifEE证据后,严格分数提升了9.61个百分点,而对答案准确率的提升仅为1.96个百分点

Unverified50%
Sep 24

证据替换带来的严格分数增益的配对95%置信区间为[8.77, 10.43]

Unverified50%
Sep 24

把上下文从256 token扩展到2,048 token后,在FEVEROUS上固定答案条件下的证据增益分别提升了3.84(Qwen)和3.10(Llama)个百分点

Unverified50%
Sep 24

研究提出答案对/错与证据全/缺交叉形成四个象限的声明层面分析框架,能揭示聚合指标掩盖的变化

Unverified50%

All Facts (6)

Source Articles