The Design of an LLM-powered Unstructured Analytics System
Aryn, Inc（Aryn公司）
本文设计了非结构化数据分析系统 Aryn，通过自然语言查询、声明式文档处理引擎 Sycamore、查询规划器 Luna 和文档解析器 DocParse，在 NTSB 报告上实现优于 RAG 的分析准确性，并强调可解释性以建立用户信任。
2024-12-28 cs.AI cs.DB cs.IR
Agentic Context Cracking: Token-Efficient Data Reasoning Agents via Adaptive Structuring of Unstructured Data
Harvard University（哈佛大学）
该研究提出智能体数据拆解方法，通过自适应推测性结构化非结构化数据，降低 LLM 智能体推理成本，在 FanOutQA 基准上实现 53% 的成本削减且保持准确率，为智能体推理数据基础设施提供了初步方案。
2026-09-07 cs.AI cs.CL cs.DB
Exploring Large Language Models and Hierarchical Frameworks for Classification of Large Unstructured Legal Documents
Institut de Recherche en Informatique de Toulouse (IRIT)（图卢兹计算机科学研究所（IRIT））
本文提出 MESc 分层框架，结合微调 LLM、多层嵌入、无监督聚类与 transformer 编码器处理超长非结构化法律文档，并在多国法律数据集上验证其判决预测性能。
2024-03-11 cs.AI cs.CL
Retrieval-Augmented Machine Translation with Unstructured Knowledge
Pattern Recognition Center, WeChat AI, Tencent Inc（模式识别中心、微信AI、腾讯公司）
针对非结构化、跨语言不完全配对的世界知识，本文构建含169K样本的RAGtrans基准，并提出无需额外标注的多任务训练方法，显著提升LLM多语言检索增强翻译性能。
2025-08-29 cs.AI cs.CL
Automated Population-Level Audit Assurance via AI-Based Document Intelligence
Caterpillar Inc.（卡特彼勒公司）；GoodRx（GoodRx公司）
本文提出基于AI的文档智能框架，用于大规模审计交易测试，通过提取结构化数据并比对权威数据集，实现群体级测试而非抽样，提升审计覆盖和持续保证能力。
2026-05-05 cs.AI cs.SE
Embedding-based Retrieval with LLM for Effective Agriculture Information Extracting from Unstructured Data
University of Sheffield（谢菲尔德大学）
本文提出结合嵌入检索与通用大语言模型的方法，在极少人工干预下从农业非结构化文档中自动提取实体和属性并转化为结构化数据，在基准测试中取得更优准确率且保持高效。
2023-08-06 cs.AI
Visualization and clustering by 3D cellular automata: Application to unstructured data
Taher Moulay University of Saïda（塔赫·穆莱大学）；Joseph Fourier University（约瑟夫·傅里叶大学）
考虑到2D元胞自动机在文档数量增加时的空间和可视化集群方面的有限性能，我们的动机是通过增加大小来实验这些元胞自动机，以查看大小对结果质量的影响。文本数据的表示是由一个向量模型，其组件是来自所使用的语料库，词频逆文档频率（TF-IDF）的整体平衡。世界网词库已被用来解决的词的词形还原的问题，因为在这项研究中使用的表示是袋的话。语言的另一个独立的方法被用来表示文本记录是n-gram。已经测试了几种相似性度量。为了验证分类，我们使用了两种基于召回率和精度的评估措施（f-度量和熵）。结果是有希望的，并确认的想法，以增加维度的类的空间性的问题。在纯度类（即熵的最小值）方面获得的结果表明，文档的数量越长，认为结果越好的三维元胞自动机，这是不明显的二维维。在空间导航方面，元胞自动机提供了比2D元胞自动机更好的3D可视化性能。
2012-11-25 cs.AI cs.IR
Contri(e)ve: Context + Retrieve for Scholarly Question Answering
University of Wuppertal（伍珀塔尔大学）；University of Applied Sciences Erfurt（埃尔福特应用科学大学）
针对学术领域混合结构化与非结构化知识的问答需求，提出基于Llama3.1的两步方案，从多源数据提取上下文并结合提示工程，在Scholarly-QALD数据集上取得40%的F1分数。
2024-09-13 cs.AI cs.IR
DocETL: Agentic Query Rewriting and Evaluation for Complex Document Processing
UC Berkeley（加州大学伯克利分校）；BIDS；Columbia University（哥伦比亚大学）
针对LLM处理复杂非结构化数据准确性不足的问题，提出DocETL系统，通过基于智能体的查询重写与评估机制优化文档处理流水线，在多项任务中准确率提升25%至80%。
2025-04-01 cs.AI cs.DB
Topic Segmentation in the Wild: Towards Segmentation of Semi-structured & Unstructured Chats
Microsoft Corporation（微软公司）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；University of Maryland（马里兰大学）
基于语义结构将文档或会话分解为多个连续的片段是NLP中一个重要且具有挑战性的问题，它可以帮助许多下游任务。然而，目前的主题分割工作往往集中在结构化文本的分割。在本文中，我们全面分析了最先进的主题分割模型对非结构化文本的泛化能力。我们发现：（a）目前在大型结构化文本语料库（如Wiki-727 K）上进行预训练的策略无助于向非结构化文本的转移。(b)仅使用目标非结构化域的相对较小的数据集从头开始训练，可以显著改善分割结果。
2022-11-27 cs.AI cs.CL
TNNT: The Named Entity Recognition Toolkit
Australian National University（澳大利亚国立大学）
给定各种命名实体识别（NER）模型和以不同源文档格式编码的非结构化信息的可用性，从文本中提取分类命名实体是一项复杂的任务。处理文档以提取文本，为任务识别合适的NER模型，并获得统计信息，对于数据分析以做出明智的决策非常重要。本文介绍了TNNT，一个工具包，自动提取分类命名实体的非结构化信息编码在源文件中，使用不同的国家的最先进的自然语言处理（NLP）工具和NER模型。TNT将21种不同的NER模型集成为知识图谱构建管道（KGCP）的一部分，该构建管道将文档集作为输入，并根据定义的设置对其进行处理，应用选定的NER模型块来输出结果。该工具包生成所有结果，并对提取的实体进行综合总结，从而增强数据分析，以支持KGCP，并帮助进一步的NLP任务。
2021-08-31 cs.AI cs.CL cs.IR
Docs2KG: Unified Knowledge Graph Construction from Heterogeneous Documents Assisted by Large Language Models
The University of Western Australia（西澳大利亚大学）；Harbin Institute of Technology（哈尔滨工业大学）
本文提出Docs2KG框架，利用大语言模型从电子邮件、网页、PDF和Excel等异构非结构化文档中提取多模态信息，动态生成统一知识图谱，支持高效查询探索与多种下游任务，提升领域可解释性。
2024-06-05 cs.AI cs.CL cs.IR
Model-Document Protocol for AI Search
BAAI（北京人工智能研究院）
针对传统检索返回原始文档片段增加LLM推理负担的问题，提出模型-文档协议MDP及其实例MDP-Agent，通过多路径将非结构化文档转化为LLM可直接消费的结构化知识，在信息检索基准上表现优于基线。
2025-10-30 cs.AI cs.CL cs.IR
Structuring the Unstructured: A Multi-Agent System for Extracting and Querying Financial KPIs and Guidance
University of Florida（佛罗里达大学）
本文提出一种基于大型语言模型的双智能体系统，通过Extraction Agent和Text-to-SQL Agent实现非结构化财务文档中KPI的提取与自然语言查询，准确率达95%，检索正确率达91%，显著提升了投资研究的效率与可扩展性。
2025-06-26 cs.AI
Topic Segmentation of Semi-Structured and Unstructured Conversational Datasets using Language Models
Microsoft Corp.（微软公司）；University Of Massachusetts（马萨诸塞大学）；University of Maryland（马里兰大学）
本文研究非结构化对话的主题分割，发现结构化文本预训练迁移效果有限，而使用目标领域小数据集从头训练并采用 Focal Loss 能显著提升分割性能。
2023-10-26 cs.AI cs.CL cs.LG
FETILDA: An Effective Framework For Fin-tuned Embeddings For Long Financial Text Documents
Rensselaer Polytechnic Institute（伦斯勒理工学院）；School of Science（理学院）；Lally School of Management（拉里管理学院）
针对金融长文本表征难题，提出FETILDA框架，通过分块处理、预训练LM聚合与自注意力提取特征，在两个金融披露数据集上优于基线，提升了文本回归预测效果。
2022-06-14 cs.AI cs.CL cs.LG
OASYS: Domain-Agnostic Automated System for Constructing Knowledge Base from Unstructured Text
Kakao Enterprise（Kakao企业）
近年来，创建和管理知识库已成为零售产品和企业领域的关键。我们提出了一个自动知识库建设系统，挖掘数据的文件。该系统可以在训练过程中生成训练数据，无需人工干预。因此，它是领域无关的可训练的，只使用目标领域文本语料库和预定义的知识库。这个系统被称为OASYS，是第一个以韩语为基础的系统。此外，我们还构建了一个新的人类注释的基准数据集的韩国维基百科语料库与韩国DBpedia配对，以帮助系统评估。在人工标注的基准测试数据集上的系统性能结果是有意义的，并且表明仅在自动生成的数据上训练的OASYS生成的知识库是有用的。我们提供了一个人工注释的测试数据集和一个自动生成的数据集。
2022-06-29 cs.AI cs.CL cs.LG
Concept Relation Discovery and Innovation Enabling Technology (CORDIET)
K.U.Leuven（鲁汶大学）；Vlerick Leuven Gent Management School（弗拉瑞克-鲁汶-根特管理学院）；Amsterdam-Amstelland Police（阿姆斯特丹-阿姆斯特尔兰警察局）；Universiteit van Amsterdam Business School（阿姆斯特丹大学商学院）；National Research University Higher School of Economics（国家研究型高等经济大学）
概念关系发现和创新使能技术（CORDIET）是一个从非结构化文本数据中获取新知识的工具箱。CORDIET的核心是C-K理论，它抓住了创新的基本要素。该工具使用形式概念分析（FCA），涌现自组织映射（ESOM）和隐马尔可夫模型（HMM）作为分析过程中的主要工件。用户可以定义时态、文本挖掘和复合属性。文本挖掘属性用于分析文档中的非结构化文本，时态属性使用这些文档的时间戳进行分析。复合属性是基于文本挖掘和时态属性的XML规则。用户可以使用对象聚类规则对对象进行聚类，也可以使用分割规则将数据分割成碎片。这些工件针对高效的数据分析进行了优化; FCA网格和ESOM映射中的对象标签包含一个URL，用户可以单击该URL打开所选文档。
2012-02-13 cs.AI cs.IR stat.ML
LLM-Driven Medical Document Analysis: Enhancing Trustworthy Pathology and Differential Diagnosis
Computer Vision Center, Universitat Autònoma de Barcelona（计算机视觉中心，巴塞罗那自治大学）
提出一个基于LLaMA-v3和低秩适配的医学文档分析平台，利用DDXPlus数据集优化鉴别诊断，提供可解释且隐私保护的诊断结果，性能超越现有模型。
2025-06-24 cs.AI
DSC-IITISM at FinCausal 2021: Combining POS tagging with Attention-based Contextual Representations for Identifying Causal Relationships in Financial Documents
Indian Institute of Technology (ISM), Dhanbad（印度理工学院(ISM)达巴德分校）
因果关系检测是自然语言处理和语言学研究领域的一个热点问题。它在信息检索、事件预测、问答、金融分析和市场研究中有重要的应用。在这项研究中，我们探索了几种方法来识别和提取因果对的金融文件使用Transformers。为此，我们提出了一种方法，结合POS标记与BIO计划，它可以与现代Transformer模型，以解决这一挑战，确定在给定的文本中的因果关系。在FinCausal 2021研讨会的FinCausal-2021共享任务中，我们的最佳方法在盲测中获得了0.9551的F1分数和0.8777的精确匹配分数。
2021-10-31 cs.AI cs.CL
Semantic Segmentation of Legal Documents via Rhetorical Roles
Indian Institute of Technology Kanpur (IIT-K)（印度理工学院坎普尔分校）；West Bengal National University of Juridical Sciences (WBNUJS)（西孟加拉国立法律科学大学）；Indian Institute of Management Ranchi (IIM-R)（印度管理学院兰契分校）
法律文档是非结构化的，使用法律术语，并且具有相当长的长度，使得它们难以通过传统的文本处理技术来自动处理。如果文件能够被分割成连贯的信息单元，法律文件处理系统将大大受益。本文提出了一个新的法律文件语料库注释（法律专家的帮助下）与一组13个语义连贯的单位标签（称为修辞角色），例如，事实、论据、法规、问题、先例、裁决和比例。我们对语料库和注释进行了全面的分析。为了实现法律文本的自动切分，我们尝试了修辞角色预测的任务：给定一个文本，预测对应于不同角色的文本片段。使用创建的语料库，我们对任务的各种基于深度学习的基线模型进行了广泛的实验。此外，我们开发了一个基于多任务学习（MTL）的深度模型，其中文档修辞角色标签偏移作为分割法律文档的辅助任务。所提出的模型表现出优越的性能比现有的模型。我们还对域转移和模型蒸馏技术的情况下的模型性能进行了实验，以查看有限数据条件下的模型性能。
2022-11-07 cs.AI cs.CL cs.LG
The Effectiveness of Large Language Models in Transforming Unstructured Text to Standardized Formats
Slovak Technical University（斯洛伐克技术大学）
该研究系统评估了四种LLM将非结构化食谱文本转换为Cooklang格式的能力，发现GPT-4o结合少样本提示可取得突破性性能，证明LLM无需大量训练即可实现领域文本结构化转换，为多领域自动化数据生成开辟了新路径。
2025-05-05 cs.AI cs.CL
Automatic summarisation of Instagram social network posts Combining semantic and statistical approaches
Technical and Vocational University（技术与职业大学）；Iran University of Science and Technology（伊朗科技大学）
互联网上诸如文章、网页、书籍、社交网络帖子等的数据和文本文档的激增已经在标题为“自动文本摘要”的文本处理的各个领域中产生了根本性的挑战。人工处理和汇总大量文本数据对于人类用户来说是一个非常困难、昂贵、耗时和不可能的过程。文本摘要系统分为提取和抽象两类。摘要抽取方法是从文本文档的重要句子中抽取出文档的最终摘要，而不对摘要进行任何修改。在这种方法中，可以重复一系列句子并干扰代词。然而，在抽象摘要方法中，文本文档的最终摘要是从同一文档或其他文档的句子和单词的含义和重要性中提取的。进行的许多工作都使用提取方法或摘要来总结收集的Web文档，其中每一个都有优点和缺点，在相似性或大小方面获得的结果。在这项工作中，开发了一个爬虫程序，通过适当的预处理从Instagram社交网络中提取流行的文本帖子，并结合了一组提取和抽象算法，以展示如何使用每种抽象算法。对社交网络Instagram上820个流行文本帖子的观察显示了所提出的系统的准确性（80%）。
2023-03-14 cs.AI
Predicting Document Coverage for Relation Extraction
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
本文提出了一个新的任务，预测的覆盖率的一个文本文档的关系抽取（RE）：文档是否包含许多关系元组为一个给定的实体？覆盖预测在选择最佳文档用于大输入语料库的知识库构建时是有用的。为了研究这个问题，我们提出了一个数据集的31,366不同的文件为520个实体。我们分析了文档覆盖率与长度、实体提及频率、Alexa排名、语言复杂度和信息检索分数等特征的相关性。这些特征中的每一个都只有中等的预测能力。我们采用的方法相结合的特征与统计模型，如TF-IDF和语言模型，如BERT。结合特征和BERT，HERB的模型，达到了高达46%的F1分数。我们展示了覆盖预测在两个用例上的实用性：KB构建和索赔反驳。
2021-11-26 cs.AI cs.CL
An Easy-to-use and Robust Approach for the Differentially Private De-Identification of Clinical Textual Documents
Femto-ST Institute（Femto-ST研究所）；Univ. Bourg. Franche-Comté（勃艮第-弗朗什孔泰大学）；CNRS（法国国家科学研究中心）
非结构化文本数据是医疗保健系统的核心。出于明显的隐私原因，研究人员无法访问这些文件，只要它们包含个人身份信息。在遵守立法框架（特别是GDPR或HIPAA）的同时共享这些数据的一种方法是在医疗机构内对其进行去识别，即通过命名实体识别（NER）系统检测个人信息，然后将其替换，使文档与个人难以关联。挑战在于拥有可靠的NER和替代工具，同时又不影响文件的保密性和一致性。大部分的研究集中在英文医疗文件与粗糙的替代没有受益于隐私的进步。本文展示了如何通过加强不太鲁棒的去识别方法和通过适应最先进的差分私有机制用于替代目的来实现高效和差分私有去识别方法。其结果是一种方法，用于去识别法语临床文件，但也可推广到其他语言，其鲁棒性在数学上得到证明。
2022-11-02 cs.AI cs.CR
Harvesting Events from Multiple Sources: Towards a Cross-Document Event Extraction Paradigm
School of Cyber Science and Engineering, Wuhan University（武汉大学网络科学与工程学院）
本文提出跨文档事件抽取（CDEE）任务，通过构建CLES数据集和五步流程基准，整合多文档事件信息以克服单文档局限性，实现约72%的F1分数。
2024-06-23 cs.AI cs.CL
Lung Cancer Concept Annotation from Spanish Clinical Narratives
Centro de Tecnología Biomédica, Universidad Politécnica de Madrid（马德里理工大学生物医学技术中心）；Universidad Politécnica de Madrid（马德里理工大学）；ETS de Ingenieros Informáticos, Universidad Politécnica de Madrid（马德里理工大学计算机工程高等技术学院）
近年来，临床数据的快速增长和计算科学的快速发展使我们能够从医疗行业的海量数据中提取新的见解。肿瘤临床记录正在创建用于记录患者病史的丰富数据库，它们可能包含许多有助于更好地管理疾病的模式。然而，这些模式被锁定在临床文档的自由文本（非结构化）部分内，并且限制了健康专业人员从它们提取有用信息并最终以准确的方式执行查询和查询（QA）过程。信息抽取（IE）过程需要自然语言处理（NLP）技术来为这些模式分配语义。因此，在本文中，我们分析了特定肺癌概念的注释器的设计，可以集成在Apache非结构化信息管理架构（UIMA）框架。此外，我们解释了注释结果的生成和存储的细节。
2018-09-18 cs.AI cs.CL
Document Parsing Unveiled: Techniques, Challenges, and Prospects for Structured Information Extraction
Peking University（北京大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Beihang University（北京航空航天大学）
本文综述了文档解析研究，系统分类了现有方法，探讨了布局分析、多类型内容识别及VLM驱动的解析模型发展，总结了评估指标与挑战，提出了更准确可扩展的文档智能系统方向。
2026-04-04 cs.AI cs.CL cs.CV
Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning
Mphasis Limited（美费西斯有限公司）
本文提出一种基于指令微调语言模型的领域无关可解释文本脱敏方案，支持用户以自然语言定义敏感信息，可应用于法律、医疗等关键场景的自动文本脱敏。
2026-08-18 cs.AI cs.CL
Text to model via SysML: Automated generation of dynamical system computational models from unstructured natural language text via enhanced System Modeling Language diagrams
Department of Engineering, University of Cambridge, Trumpington Street, Cambridge, UK（剑桥大学工程系，特鲁布里奇顿街，剑桥，英国）
本文提出利用领域和专家知识，通过SysML图自动从相关文档和输入文档生成动态系统计算模型，提升工程动态系统设计和部署效率。
2026-04-22 cs.AI cs.CE cs.CL
Machine Learning Sentiment Prediction based on Hybrid Document Representation
TEI of Thessaloniki（塞萨洛尼基技术教育学院）；mSensis S.A.（mSensis股份公司）
自动情感分析和意见挖掘是一个复杂的过程，涉及到从文本中提取有用的主观信息。Web上用户生成内容的爆炸式增长，特别是每天有数百万用户在博客、维基、社交网络、留言板等上表达他们对产品和服务的意见，使得从非结构化文本中可靠地自动导出情感和观点对于一些商业应用至关重要。在本文中，我们提出了一种新的混合矢量化方法的文本资源，结合了一个加权的变体流行的Word 2 Vec表示（基于词频-逆文档频率）表示和袋的词表示和基于词汇的情感值的向量。建议的文本表示方法进行评估，通过应用几个机器学习分类算法的数据集，广泛用于文献中的情感检测。通过所提出的混合矢量化方法得到的分类精度高于当其单独的组件用于文本表示时，并且与最先进的情感检测方法相当。
2015-11-29 cs.AI cs.CL stat.ML
