Extracting Body Text from Academic PDF Documents for Text Mining
从PDF格式的学术文档中准确提取正文文本是文本挖掘应用中加深语义理解的关键。其目标是将正文中的完整句子提取到具有原始句子流和段落边界的txt文件中。从PDF文档中提取文本的现有工具通常会混合正文和非正文文本。我们设计并实现了一个名为PDFBoT的系统,使用扫线技术来检测多列布局,使用计算文本特征和向后遍历中的语法标记来删除非正文文本,并将剩余的文本与句子和段落对齐。我们表明,PDFBoT是高度准确的,平均F1分数分别为0.99提取句子,0.96提取段落,0.98删除文本的表格,数字和图表的PDF文档语料库随机选择从arXiv.org跨多个学科。
2020-10-23 cs.IR
PlotEdit: Natural Language-Driven Accessible Chart Editing in PDFs via Multimodal LLM Agents
IGDTUW(英迪拉·甘地德里技术大学);Adobe Research(奥多比研究院)
PlotEdit提出一个五智能体多模态LLM框架,通过自反思协调实现PDF图表图像的自然语言驱动端到端编辑,在ChartCraft数据集上优于基线,提升无障碍性和新手效率。
2025-01-20 cs.CL cs.IR cs.MA
A Benchmark of PDF Information Extraction Tools using a Multi-Task and Multi-Domain Evaluation Framework for Academic Documents
从学术PDF文档中提取信息对于许多索引,检索和分析用例至关重要。选择提取特定内容元素的最佳工具是困难的,因为有许多技术上不同的工具可用,但最近的性能基准测试很少。此外,这些基准通常只覆盖少数内容元素,如标题元数据或书目参考,并使用来自特定学科的较小数据集。我们提供了一个大型且多样化的评估框架,支持比大多数相关数据集更多的提取任务。我们的框架建立在DocBank上,DocBank是一个多域数据集,包含从arXiv上50万页研究论文中提取的150万个注释内容元素。使用新的框架,我们基准测试10个免费提供的工具,从学术PDF文档中提取文档元数据,书目参考,表格和其他内容元素。GROBID实现了最好的元数据和引用提取结果,其次是CERMINE和Science Parse。对于表提取,Adobe Extract的性能优于其他工具,尽管其性能远低于其他内容元素。所有工具都很难提取列表、页脚和等式。我们的结论是,有必要对改进和组合工具进行更多的研究,以实现令人满意的提取质量,为大多数内容元素。像我们提出的评估数据集和框架支持这一研究路线。我们公开我们的数据和代码,以实现这一目标。
2023-03-17 cs.IR
From PDF to Evidence: Structure-Aware Retrieval for Clinical Practice Guidelines
East China Normal University(华东师范大学)
针对临床实践指南PDF中证据锁定于视觉结构的问题,提出结构感知检索方法,将页面解析为类型化元素并按布局检索,在26份指南上显著提升元素级排序并保持页面级召回。
2026-09-29 cs.CV cs.IR
TableZa -- A classical Computer Vision approach to Tabular Extraction
Synechron Innovation Lab(Synechron创新实验室)
计算机辅助表格数据提取一直是一个非常具有挑战性和容易出错的任务,因为它要求数据的光谱和空间健全性。在本文中,我们讨论了一种方法,表格数据提取领域的文件理解。鉴于不同种类的表格格式,经常发现在各种文件,我们讨论了一种新的方法,使用计算机视觉提取表格数据从图像或矢量PDF(S)转换为图像(S)。
2021-05-19 cs.CL cs.CV cs.IR
Tables to LaTeX: structure and content extraction from scientific tables
Indian Institute of Technology Gandhinagar(甘地纳格尔印度理工学院)
科学文档包含以简洁的方式列出重要信息的表格。从PDF研究文档中嵌入的表格中提取结构和内容是一项非常具有挑战性的任务,因为存在诸如跨越单元格的视觉特征和诸如数学符号和方程的内容特征。现有的大多数表格结构识别方法往往忽略了这些学术写作特征。在本文中,我们适应基于transformer的语言建模范式的科学表结构和内容提取。具体来说,该模型将表格图像转换为相应的LaTeX源代码。总的来说,我们的表现优于当前最先进的基线,并在表结构和内容提取上分别实现了70.35%和49.69%的精确匹配精度。进一步的分析表明,所提出的模型有效地识别行数和列数,字母数字字符,LaTeX令牌和符号。
2022-10-31 cs.AI cs.CV cs.IR
Vision-Guided Chunking Is All You Need: Enhancing RAG with Multimodal Document Understanding
针对传统文本分块在复杂文档结构上的不足,提出利用大型多模态模型进行视觉引导的文档分块方法,通过跨批次上下文保留准确处理多页表格等元素,显著提升了分块质量与下游RAG性能。
2025-07-13 cs.AI cs.IR cs.LG
Tabular PDF Information Extraction with Local LLMs and Layout-Aware Parsing: A Reliability Evaluation
Faculty of Engineering, Universitas Swadaya Gunung Jati(工程学院,Swadaya Gunung Jati大学);University of California, Irvine(加州大学伊维奇分校);UNIR, La Rioja(UNIR,拉里奥ja);Universitas Diponegoro(迪波内戈罗大学)
本研究评估了三种策略(纯LLM、混合确定性-LLM、基于Camelot的管道)在从学术表格PDF中提取结构化信息时的可靠性,发现混合方法在准确性和效率上表现最佳。
2026-05-22 cs.AI cs.CL cs.IR
Automated Extraction of Pharmacokinetic Parameters from Structured XML Scientific Articles: Enhancing Data Accessibility at Scale
Kansas State University(堪萨斯州立大学);University of California-Davis(加州大学戴维斯分校)
本文提出通过自动化机器学习模型提取科学文章中结构化XML中的药代动力学参数,以解决大规模数据中数据收集的挑战。
2026-04-22 cs.IR
From PDF to RAG-Ready: Evaluating Document Conversion Frameworks for Domain-Specific Question Answering
Faculty of Engineering, University of Porto(葡萄牙波尔图大学工程学院);Department of Business Administration, University of Maia(马亚大学商业管理系);LIACC—Artificial Intelligence and Computer Science Laboratory, University of Porto(葡萄牙波尔图大学人工智能与计算机科学实验室);Department of Communication Sciences and Information Technologies, University of Maia(马亚大学通讯科学与信息科技系);School of Health, Polytechnic of Porto(波尔图理工学院健康学院);School of Technology and Management, Polytechnic Institute of Maia(马亚理工学院技术与管理学院)
通过系统比较四种开源PDF转Markdown框架的21种流水线配置,发现文档预处理质量(尤其是层次化分块和元数据增强)对RAG系统问答准确率的影响远超转换工具本身,最佳配置(Docling+层次化分块+图像描述)达到94.1%准确率,超越人工整理。
2026-05-25 cs.AI cs.IR cs.LG
Revisiting Table Detection Datasets for Visually Rich Documents
University of Ottawa(渥太华大学);Lytica(Lytica公司)
针对现有表格检测公开数据集噪声多、样本少、数据源有限导致评估不可靠的问题,本研究清理合并公开数据集构建Open-Tables,新增ICT领域的ICT-TD数据集,验证了其高可靠性与跨域适用性。
2023-11-08 cs.CV cs.IR
On the Comprehensibility of Multi-structured Financial Documents using LLMs and Pre-processing Tools
针对LLMs和MLLMs解读PDF中嵌套表格等复杂结构化信息易出错的问题,本文提出结合工业级与开源工具的预处理流程,提升其对多结构金融文档的理解准确率并降低成本。
2025-08-20 cs.IR
HCT-QA: A Benchmark for Question Answering on Human-Centric Tables
Meta
HCT-QA提出了一种用于人类中心表格问答的基准测试,包含大量真实和合成表格数据及对应的问答对,旨在评估和比较基于LLM和VLM的查询性能。
2026-03-05 cs.AI cs.DB cs.IR
A Semi-automatic Data Extraction System for Heterogeneous Data Sources: A Case Study from Cotton Industry
随着最近数字化的发展,网上提供的文件越来越多。有几种信息抽取工具可用于从数字化文档中提取信息。然而,确定给定查询的精确答案通常是一项具有挑战性的任务,特别是如果相关信息所在的数据源是未知的。当数据源以多种格式(如PDF、表格和html)提供时,这种情况变得更加复杂。在本文中,我们提出了一种新的数据提取系统,发现相关的和集中的信息,从不同的非结构化数据源的基础上,文本挖掘方法。我们进行了定性分析,以评估所提出的系统及其适用性和适应性,以棉花行业。
2021-11-05 cs.IR
Corpus Conversion Service: A machine learning platform to ingest documents at scale [Poster abstract]
IBM Research(IBM研究院)
在过去的几十年里,科学文章和技术文献的数量呈指数级增长。因此,非常需要能够大规模摄取这些文档并使其内容可共享的系统。不幸的是,这些文件的格式(例如PDF格式或位图图像)以及数据的呈现方式(例如复杂的表格)使得定性和定量数据的提取极具挑战性。我们提出了一个平台,以摄取文件的规模,这是由机器学习技术,并允许用户训练自定义模型的文档集合。我们显示,在转换为结构化格式方面,精确率/召回率超过97%,以及构成平台的每个微服务的扩展证据。
2018-05-15 cs.CL cs.CV cs.DC
Information Extraction From Fiscal Documents Using LLMs
Google Inc(谷歌公司)
本文提出利用大语言模型从多页财政文件中提取结构化数据的方法,通过多阶段流程实现高准确性,利用财政表格的层次结构进行内部验证,为发展中国家的财政数据处理提供新方案。
2025-11-24 cs.CL cs.IR
Benchmarking Open-Source Layout Detection Models for Data Snapshot Extraction from Institutional Documents
Development Data Group Office of the World Bank Group Chief Statistician(世界银行发展数据分析组办公室世界银行统计主任);The World Bank(世界银行)
针对机构文档中图表数据快照提取任务,构建基准数据集并评估多个开源布局检测模型,发现现有模型在操作型文档上泛化能力不足,存在内容混淆、碎片化及上下文缺失等问题。
2026-06-04 cs.AI cs.CL cs.CV
Smart Content Ingestion for Generative AI Workloads
Citigroup Inc.(花旗集团);Ernst & Young LLP(安永会计师事务所);NVIDIA Corporation(英伟达公司)
本文提出一个生产就绪的内容提取系统,通过选择性OCR路由、稀缺优先策展、结构感知分块和检索评估器,使生成式AI的数据摄取阶段显式化、可配置且可衡量,在180篇文档上达到97.4分提取得分和68.6%的hit@1。
2026-10-07 cs.AI cs.CL cs.CV
UDA: A Benchmark Suite for Retrieval Augmented Generation in Real-world Document Analysis
Tsinghua University(清华大学);National University of Singapore(新加坡国立大学);Shanghai Qi Zhi Institute(上海期智研究院)
针对真实世界非结构化文档分析中RAG应用的挑战,提出包含2965份真实文档、29590个专家标注问答对的UDA基准套件,评估现有方案并凸显数据解析与检索的重要性,为相关应用提供支持。
2024-10-31 cs.AI cs.IR
Form-NLU: Dataset for the Form Natural Language Understanding
本文提出首个用于表单结构理解与键值提取的数据集 Form-NLU,并构建了基于位置和逻辑关系的提取框架,通过实验验证了其方法在真实场景中的有效性。
2023-08-03 cs.IR
NovaLAD: A Fast, CPU-Optimized Document Extraction Pipeline for Generative AI and Data Intelligence
NovaLAD是一种基于CPU优化的快速文档提取系统,通过结合YOLO模型和规则分组技术,实现高效准确的文档解析,适用于生成式AI和数据智能领域。
2026-02-23 cs.AI cs.CV cs.IR