PDF解析的阅读顺序难题：1.3B模型OXR如何破局

处理双栏论文的PDF时，文本提取器常常横跨两栏读取，导致每个句子都由两个不同句子的片段拼接而成。表格被压平成词语的乱炖，公式变成零散的符号，页眉页脚混入正文段落。这些结构错误一旦引入，下游的NER或摘要模型几乎无法修复。SoMarkAI团队近日开源了1.3B参数的文档解析模型OXR，试图从根源上解决阅读顺序问题。

阅读顺序：PDF解析中隐蔽的破坏者

PDF最初为打印设计，不保留语义结构。提取工具需要自行推断哪些文本属于同一段落、表格如何组织、公式与正文如何区分。双栏布局是经典陷阱：朴素提取器按坐标从左到右扫描，把左栏行尾与右栏行首拼成一句。下游NLP任务——实体识别、关系抽取、摘要——依赖连贯的句子边界，一旦句子被拦腰截断，模型性能便无声下降。

据Reddit原帖描述，这种错误“没有任何下游步骤能够修复”。团队花费大量时间处理该问题，最终决定构建专门模型。

PDF 的底层结构本质上是一组绘制指令（drawing operators），文本块的位置由坐标变换矩阵决定，而不包含段落、标题、表格等语义信息。因此，提取工具必须通过启发式规则或机器学习模型推断阅读顺序。常见的启发式方法包括基于 XY-cut 的递归分割、基于空白区域的投影分析等，但在复杂版式（如双栏、嵌套表格、图文混排）中容易失效。阅读顺序错误不仅影响可读性，还会破坏句子边界、指代关系和逻辑结构，导致下游 NER、关系抽取、摘要等任务输入质量下降。与 OCR 错误不同，阅读顺序错误通常表现为文本片段顺序混乱或跨栏拼接，难以通过语言模型自动纠正，因此需要在解析阶段就进行准确建模。

OXR的设计思路：解耦布局分析与联合预测

OXR接受PDF或页面图像，输出Markdown或JSON。每个元素带有类型标签（共13种，涵盖表格、公式、代码等）、边界框坐标和阅读顺序。页眉页脚默认丢弃，也可保留。

两个设计选择贡献了主要效果。其一，布局分析被拆分为独立模型，用户可以替换。需要不同区域标签的流水线可以自带布局模型，而不必改动识别与排序模块。其二，识别与阅读顺序在同一个模型的一次前向传播中联合预测。这种联合建模让模型在识别文字时同步考虑版面位置，避免先识别后排序的两阶段误差累积。

布局分析（layout analysis）是文档解析中的关键子任务，旨在检测页面中的文本块、表格、图片、公式等区域，并赋予语义标签。传统流水线通常将布局分析与文本识别分离：先检测区域，再对每个区域进行 OCR 或公式识别，最后根据区域位置排序。这种分阶段方法容易导致误差累积，且布局模型难以适配不同领域。OXR 将布局分析拆分为独立模型，允许用户替换为自定义模型，从而提升灵活性。联合预测识别与阅读顺序则借鉴了多任务学习思想，让模型在识别文字的同时学习位置关系，减少两阶段之间的不一致性。一次前向传播输出所有元素及其顺序，也降低了推理延迟。

训练策略：错误样本驱动的迭代

后训练阶段采用了一种针对性的数据增强循环。模型在训练中犯错或表现出不确定的样本被转化为文字理由，理由经过聚类后，每个簇驱动下一轮定向训练数据的生成。这种方法让训练数据聚焦于模型的薄弱环节，而非均匀覆盖。

在公开基准上，OXR在olmOCR-Bench、OmniDocBench和DocParsingBench上排名第一。团队同时承认模型仍有弱项，多栏布局便是其中之一。本地运行需要24 GB NVIDIA GPU，对个人开发者有一定门槛。团队提供了免费托管API供测试自有文件，但共享队列不适合生产环境。

错误样本驱动的迭代训练（error-driven iterative training）是一种主动学习策略，其核心是让模型识别自身薄弱环节，并针对性地生成训练数据。具体而言，模型在训练集或验证集上预测错误或置信度低的样本被筛选出来，通过规则或人工标注转化为文字描述（如“该表格跨栏导致阅读顺序错误”），再对这些描述进行聚类，形成若干错误类型簇。每个簇代表一类典型错误模式，随后利用数据合成或增强技术生成针对该模式的训练样本，加入下一轮训练。这种方法避免了均匀采样带来的数据冗余，使模型在有限数据下更快收敛到关键能力。类似思路在 OCR 和文档理解领域已有应用，但 OXR 将其系统化地用于阅读顺序与元素识别联合任务。

对NLP工作流的意义与局限

对于处理扫描版或原生数字PDF的NLP从业者，OXR的价值在于把结构错误前置拦截。元素类型、边界框和阅读顺序一并输出，下游任务可以直接消费结构化JSON，不必在原始文本上猜测段落边界。

局限同样明显：多栏布局仍是弱项，而多栏恰是学术论文最常见的版式。24 GB显存要求排除了消费级显卡用户。免费API的共享队列意味着延迟不可控。团队在GitHub仓库SoMarkAI/OXR中提供了代码和权重，基准报告位于docs/benchmark.md。

原帖最后向NLP从业者提问：哪些结构错误对你造成的代价最大？这或许暗示团队下一阶段会优先解决社区反馈最强烈的错误类型。

下游 NLP 任务对输入文本的结构完整性高度敏感。例如，命名实体识别（NER）依赖句子边界和上下文窗口，若句子被截断或拼接，实体可能被拆分或错误合并；关系抽取需要实体间的句法路径，阅读顺序错误会破坏依存结构；摘要模型则依赖段落和章节的连贯性，跨栏拼接会导致语义漂移。因此，文档解析阶段的结构错误往往无法通过下游模型微调来弥补，必须在源头保证阅读顺序正确。OXR 输出带类型标签、边界框和阅读顺序的结构化 JSON，使下游任务可以直接消费段落、表格、公式等元素，减少对原始文本的启发式切分。然而，多栏布局仍是弱项，而学术论文、技术报告等常见文档恰恰以双栏为主，这意味着 OXR 在实际应用中的覆盖范围有限。此外，24 GB 显存要求排除了大多数消费级 GPU，免费 API 的共享队列也不适合生产环境，团队需进一步优化模型效率或提供轻量版本。