Rohan Paul
@rohanpaul_ai
SoMark开源OXR-1.0,一个1.3B参数的文档解析模型,可将PDF和页面图像转换为Markdown或JSON,
> 它在 olmOCR-Bench、OmniDocBench 和 DocParsingBench 上排名第一,同时是测试的 21 个模型中最快的。
> 在单个 24GB GPU 上运行以进行光测试
其后训练使用递归自我改进(RSI)循环,将模型自身的解析错误转化为新的训练数据,无需人工标记,这在文档解析中尚属首次。
解析页面意味着找到每个块(标题、段落、表格、公式),阅读每个块,并将它们按照人类阅读顺序排列。
大多数解析器将布局检测与识别或阅读顺序联系起来,这使得布局很难针对新类型的文档进行重新调整。
OXR 将其拆分:一个小型布局模型在每个块周围绘制一个框,1.3B OXR 模型读取每个框并设置读取顺序,因此团队可以交换自己的布局模型并保留其余部分。
它输出 13 种元素类型和页面坐标,包括表格、LaTeX 数学(科学家用于方程式的文本格式)、代码块、图章和化学结构。
在 RSI 循环中,OXR 多次解析每个训练页面,通用视觉语言模型 (VLM) 标记结果正确、错误或不确定(意味着 OXR 自己的运行不同意)。
然后,VLM 会记录每次失败的原因,并将这些原因分组为具有相同弱点的集群。
对于每个集群,VLM 每次都会根据不同的真实文档生成新的标记页面,并且 OXR 在下一轮之前对它们进行训练。
> 在单个 NVIDIA RTX PRO 6000 GPU 上,它每秒解码 558 个令牌,并在大约 101 秒内从头到尾解析 100 个页面,这是 GLM-OCR 页面吞吐量的 3.05 倍,比第二快的模型 OvisOCR2 领先 33.5%。
> 权重位于 Hugging Face 上,它在单个 24GB GPU 上运行以进行轻量测试,并且免费 API 无需帐户或密钥即可工作。
olmOCR-Bench(0.24 分)和 OmniDocBench(0.27 分)上的准确性领先优势较小,但 OXR 的页面解析速度比 olmOCR-Bench 亚军 Infinity-Parser2-Pro 快约 64 倍。
RSI 循环的作用是自动寻找模型最困难的情况,一个通用的 VLM 既充当判断者又充当标签编写者,因此该循环只能修复 VLM 可以发现的错误。