[控场AI]
· 3 分钟阅读· 1,773 字

DPP协议发布:用140条规则统一文档解析标准

DPP协议发布:用140条规则统一文档解析标准

DPP 以 140 条规则标准化文档解析的正确格式,试图解决评测中的风格偏见问题。

文章介绍了 Document Parsing Protocol(DPP),一套由 140 条规则组成的文档解析评估标准。文章指出,现有解析基准存在结构性缺陷:它们天然奖励某一种特定风格,即便其他风格在语义上同样正确,导致模型优化方向被基准偏好绑架。DPP 的做法是先把“什么算正确解析”标准化,规则覆盖表格、表单、图表等易产生歧义的结构,把过去依赖主观判断的问题转化为可对照、可复现的条目。发布者明确将 DPP 定位为初始评估指南而非完整基准,目标是推动社区讨论最佳解析方式。若被接受,DPP 有望提升评测可比性,并反向指导训练数据构造。

文档解析为何需要一套“协议”

OCR 模型和工具成百上千,但面对同一份文档,解析结果可能天差地别。有些错误一目了然:凭空捏造文字、表格完全错位。但更多错误处于灰色地带——一个跨页共享表头的拆分表格,到底该拆成两张独立表,还是保留为一个逻辑整体?两种做法在语义上都说得通,却会让评测结果截然不同。

据发布者在 Twitter 上的介绍,现有解析基准普遍存在一个结构性缺陷:它们天然奖励某一种特定风格,即便其他风格同样语义正确。这导致模型优化方向被基准的偏好所绑架,而非真正提升解析质量。

twitter source: Introducing the Document Parsing Protocol (DPP)   There are hundreds of different OCR models and too

DPP 是什么:140 条规则的解析“宪法”

Document Parsing Protocol(DPP)给出的答案是:先把“什么算正确解析”这件事本身标准化。团队整理了 140 条规则,覆盖文档解析的几乎所有方面,并以此作为评估 LLM 解析质量的评分标准(rubric)。

规则的设计思路是从具体场景出发,把模糊地带逐个明确化:

  • 表格:无边框的空白对齐表格、仅有表头的表格、水平切片表格、并排的迷你表格
  • 表单:键值区域、复选框、清单、ID 与标签、表单之外的字段
  • 图表:标准化图表输出、多图表、甘特图、折线图

每一条规则都对应一类实际解析中容易产生分歧的结构,相当于把过去依赖评测者主观判断的问题,转化为可对照、可复现的条目。

**评分标准(rubric)**在评测方法论中指的是一套预先定义的、逐条可对照的评分细则,而非单一的总体打分。每条 rubric 通常描述一种可观察的特征或行为,并规定其在正确性判定中的权重或归属。与端到端的黑箱评分相比,rubric 让评测结果具备可解释性与可复现性:不同评测者对同一份输出按同一份细则打分,分歧会被收敛到具体条目上。DPP 的 140 条规则本质上就是把“文档解析正确与否”从整体印象拆解为可逐项核验的原子判断,这也是它能同时服务于人工评估和模型辅助评估的前提。

定位:评估指南而非完整基准

发布者明确表示,DPP 目前还不是一个完整的评测基准,而是一份初始的评估指南。它的目标不是给出一个终极排行榜,而是推动社区讨论:解析文档的“最佳”方式究竟应该是什么样。

这个定位值得注意。解析质量的标准化很难由单一团队一次性完成,先抛出规则集、让更多模型和工具在共同语言下暴露分歧,是更务实的路径。对使用方而言,DPP 可以立即作为人工或模型辅助评估的检查清单;对开发方而言,它提供了一份可对照的改进方向列表。

评测基准(benchmark)与评估指南的区别值得厘清。完整基准通常包含固定的数据集、标准答案(ground truth)、自动化评分脚本和排行榜,其目标是给出可比较的量化分数;而评估指南只规定“怎么看”,不绑定具体样本与打分实现。基准的优势是可规模化比较,劣势是容易把某一种标注风格固化为唯一正确答案——这正是文中指出的现有解析基准的结构性缺陷。评估指南则以较低的前期成本换取更高的灵活性,允许社区在不同数据集上套用同一套判断标准,但代价是结果的可比性依赖于执行者的一致性。

对文档解析生态的潜在影响

如果 DPP 被社区接受,最直接的变化是评测的可比性提升。不同模型在同一套规则下评分,减少因风格偏好导致的排名失真。其次,规则本身可以反向指导训练数据的构造——把 140 条规则覆盖的边界情况纳入标注体系,有助于模型学会处理那些过去被忽略的歧义结构。

当然,规则集的维护成本、不同文档类型的适配程度,以及规则之间可能存在的冲突,都是后续需要讨论的问题。发布者将该协议定位为讨论的起点,而非终点,这也意味着它的价值会随着社区反馈而演化。

更多细节可查阅项目链接与官方博客。

训练数据构造中的“边界情况”指那些处于类别交界、标注者容易产生分歧的样本,例如跨页表格、无边框对齐、表单外字段等。这类样本在常规标注流程中往往被舍弃或按单一惯例处理,导致模型在训练阶段从未见过歧义结构的多种合理解法。把规则集覆盖的边界情况显式纳入标注体系,相当于为模型提供了一份歧义清单,使其在面对同类结构时倾向于输出语义自洽而非机械套用某种格式的结果。这也是规则集能够从评测工具反向渗透到数据生产环节的原因。

#DPP#Document Parsing Protocol#文档解析#OCR#解析基准#LLM评估#表格解析
分享:

相关推荐