文档解析效果全维度测评标准

TextIn文档解析测评工具，全面评测文档解析产品能力

关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。

今天向大家介绍一款全面展示文档解析产品能力的工具——TextIn文档解析测评工具，https://github.com/intsig/markdown_tester

这个工具的主要作用是帮助需要解析PDF的用户直观地筛选出最适合自己场景的产品。

用户需求的多样性

TextIn团队在与用户的交流中发现，用户的需求非常多样化，包括年报、财报、论文、政策文件、企业内部文件、教科书、试卷和公式等。尽管所有解析产品的目标都是成为“全能选手”，但在当前阶段，各产品能力的差异仍然存在。因此，提供一个能节省用户选择和测试时间的工具是非常必要的，这也是我们推出TextIn文档解析测评工具的初衷。希望这个工具能够帮助用户更好地聚焦于业务场景。

测评指标介绍

TextIn文档解析测评工具将测评指标分为五个维度：表格、段落、标题、阅读顺序和公式。这些维度通过定量测评来展示各解析产品的具体表现。

工具使用方法

测评工具的使用方法非常便捷，支持上传任意样本。以下是具体的操作步骤：

安装软件包

运行以下命令安装必要的软件包：

./install.sh

样本文件组织

将待测评样本按照以下结构放置：

dataset/
├── pred/
│   ├── gpt-4o/
│   ├── vendor_A/
│   ├── vendor_B/
│   ├── ...
├── gt/

运行测评命令

使用以下命令进行测评：

python run_test.py --pred_path path_to_pred_md --gt_path path_to_gt_md

其中：

• path_to_pred_md：预测值文件所在文件夹。
• path_to_gt_md：真值文件所在文件夹。

示例与结果展示

TextIn官方提供了一个测试集案例来展示用法。输出结果包括表格数据结果和直观的雷达图。这款工具被称为文档解析效果评估的“瑞士军刀”，无论用户是文档处理的专家，还是有文档解析需求的用户，都能快速、高效地评估各款解析产品在业务场景下的能力。

工具公开的初衷

TextIn团队决定将这款内部使用的“瑞士军刀”公开，主要是因为近期收到越来越多的测评工具需求。在没有测试工具之前，用户评估各款解析产品效果主要依靠问答效果随机测试，并人工二次检索文档，这种方式不仅耗费人力，而且科学性低、准确度低。

在使用TextIn团队分享的测试工具后，客户不再需要“肉眼观测”解析效果。这主要是因为大语言模型的发展改变了需求和产品形态。传统的OCR技术在处理表格时，可能只输出每个单元格的位置和数值。但当用大模型来回答问题时，更需要的是表格中的数据内容，而且数据越清晰，答案的质量就越高。

评估文档解析产品

如何比较不同文档解析产品在业务场景下的表现？TextIn团队公开测评工具的目的就是将这些问题透明化。因此，在设计和优化这套工具的过程中，TextIn团队关注以下要素：

1. 确定评测的主要目标和关键指标
2. 选择能够准确反映性能的评价指标
3. 减少不必要的复杂性
4. 确保符合行业标准和最佳实践
5. 让评价结果易于解读和理解
6. 保持评价过程的透明度

希望TextIn团队的测评工具能够帮助大家解决评估所需产品的难题。

测评工具入口链接

如有帮助，请多关注
TeahLead KrisChang，10+年的互联网和人工智能从业经验，10年+技术和业务团队管理经验，同济软件工程本科，复旦工程管理硕士，阿里云认证云服务资深架构师，上亿营收AI产品业务负责人。