Improving Information Extraction by Acquiring External Evidence with Reinforcement Learning
CSAIL, MIT(麻省理工学院计算机科学与人工智能实验室)
大多数成功的信息抽取系统都能访问大量文档。在这项工作中,我们探索的任务,获取和纳入外部证据,以提高提取准确度的领域中的训练数据的量是稀缺的。这一过程需要发出搜索查询,从新的来源提取数据,并对提取的数据进行核对,重复这些过程,直到收集到足够的证据。我们使用一个强化学习框架来解决这个问题,在这个框架中,我们的模型学习根据上下文信息选择最佳动作。我们采用了一个深度Q网络,经过训练可以优化一个奖励函数,该函数反映了提取的准确性,同时惩罚了额外的努力。我们在两个数据库上的实验-枪击事件和食品掺假案件-表明我们的系统显着优于传统的提取器和竞争力的元分类器基线。
2016-09-27 cs.CL
Doc2Dict: Information Extraction as Text Generation
Indico Data Solutions(Indico数据解决方案公司);Franklin W. Olin College of Engineering(富兰克林·W·奥林工程学院);New York University(纽约大学)
通常,信息抽取(IE)需要一种流水线方法:首先,在手动注释的文档上训练序列标记模型以提取相关跨度;然后,当新文档到达时,模型预测跨度,然后对其进行后处理和标准化以将信息转换为数据库条目。我们用一个在现有数据库记录上训练的Transformer语言模型来代替这个劳动密集型工作流,以直接生成结构化JSON。我们的解决方案消除了与生成标记级注释相关的工作量,并利用了通常相当丰富的数据源(例如数据库记录)。由于长文档在信息抽取任务中很常见,因此我们使用梯度检查点和分块编码将我们的方法应用于单个GPU上多达32,000个令牌的序列。我们的Doc 2Dict方法与更复杂的手工设计的管道相比具有竞争力,并为文档级信息抽取提供了一个简单但有效的基线。我们发布了我们的Doc 2Dict模型和代码,以重现我们的实验并促进未来的工作。
2021-10-10 cs.AI cs.CL cs.LG
Automatic Keyword Extraction for Text Summarization: A Survey
National Institute of Technology, Rourkela(鲁尔克拉国立技术学院)
近年来,数据在新闻、社交媒体、银行、教育等各个领域迅速增长,由于数据的过剩,需要自动摘要器,它能够在原始文档中总结数据,特别是文本数据,而不会丢失任何关键目的。摘要是近年来出现的一个重要的研究领域。在这方面,回顾文本摘要过程的现有工作对于开展进一步的研究是有用的。由于文本摘要过程高度依赖于关键词提取,本文介绍了自动关键词提取和文本摘要的最新文献。这篇文献包括讨论不同的方法用于关键字提取和文本摘要。它还讨论了在几个领域中用于文本摘要的不同数据库以及评估矩阵。最后,简要讨论了研究者面临的问题和研究挑战以及未来的发展方向。
2017-04-11 cs.CL
A Monte Carlo Language Model Pipeline for Zero-Shot Sociopolitical Event Extraction
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
针对零样本二元事件抽取中词义歧义、情态敏感和计算低效问题,提出多阶段指令跟随生成式LM流水线并结合蒙特卡洛方法处理非确定性,显著提升性能与效率。
2024-06-02 cs.CL
Flexible, Model-Agnostic Method for Materials Data Extraction from Text Using General Purpose Language Models
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出一种结合LLM与人工监督、模型无关的材料文本数据提取方法,在体积模量句子提取和金属玻璃临界冷却速率数据库构建中验证了高召回率、高精度与强可扩展性。
2024-06-12 cond-mat.mtrl-sci cs.AI cs.CL
Metalinguistic Information Extraction for Terminology
本文介绍和评估元语言操作处理器(MOP)系统的元语言信息的自动编译技术和科学文件。该系统的目的是提取非标准的术语资源,我们称之为元语言信息数据库(或MID),以帮助更新不断变化的词汇表,知识库和本体,以及反映亚稳态动态的专业领域知识。
2005-04-15 cs.AI cs.CL cs.IR
Detecting and resolving spatial ambiguity in text using named entity extraction and self learning fuzzy logic techniques
Sathyabama University(萨蒂亚巴马大学)
信息抽取识别文档中有用的相关文本,并将非结构化文本转换为可加载到数据库表中的形式。命名实体抽取是信息抽取过程中的一项主要任务,是将词分配到一个或多个语义类或一个默认的非实体类的分类问题。一个词,可以属于一个或多个类,其中有一定程度的不确定性,可以最好地处理的自学模糊逻辑技术。本文提出了一种利用命名实体抽取技术和自学习模糊逻辑技术检测文本中空间不确定性的存在并处理空间歧义的方法
2013-03-03 cs.CL cs.IR
Information Extraction with Character-level Neural Networks and Free Noisy Supervision
Bloomberg LP(彭博有限合伙企业);AT&T Labs Research(AT&T实验室研究部)
我们提出了一个架构,信息抽取,从文本中增强了现有的分析器与字符级神经网络。使用提取的数据与现有数据库的一致性度量作为噪声监督的形式来训练网络。我们的架构结合了基于约束的信息抽取系统的能力,可以轻松地将领域知识和约束与深度神经网络的能力结合起来,利用大量数据来学习复杂的特征。该系统提高了现有解析器的精度,大大改进了彭博社用于金融语言文本的成熟和高度调整的基于约束的生产信息抽取系统。
2017-01-24 cs.CL cs.IR cs.LG
Data Extraction Attacks in Retrieval-Augmented Generation via Backdoors
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
本文提出通过在微调阶段注入中毒数据对RAG植入后门,使攻击者能利用特定触发器操纵LLM泄露检索数据库文档,在Gemma-2B-IT上以5%中毒数据实现94.1%逐字提取成功率,揭示了RAG供应链的隐私风险。
2025-03-30 cs.CL cs.CR
OpenChemIE: An Information Extraction Toolkit For Chemistry Literature
Massachusetts Institute of Technology(麻省理工学院)
OpenChemIE 提出文档级化学文献信息抽取工具包,通过多模态神经模型与化学信息学算法整合文本、表格和图形信息,实现细粒度反应数据抽取,并在反应式数据集上取得 69.5% F1 分数。
2024-04-01 cs.CL cs.IR cs.LG
PVLens: Enhancing Pharmacovigilance Through Automated Label Extraction
GlaxoSmithKline(葛兰素史克);London School of Hygiene and Tropical Medicine(伦敦卫生与热带医学院)
PVLens自动化提取FDA标签安全信息并映射至MedDRA,结合专家审查,在97个标签验证中F1达0.882,提供更准确、可扩展且持续更新的药物警戒参考。
2025-03-27 cs.CL cs.LG
Semi-automatic staging area for high-quality structured data extraction from scientific literature
University of Tsukuba(筑波大学);DFKI GmbH(德国人工智能研究中心)
提出半自动暂存区SuperCon2,结合自动异常检测、训练数据收集机制与智能界面,高效构建超导体数据库并显著提升数据整理质量。
2023-11-16 cond-mat.supr-con cs.CL cs.DB
Automated CVE Analysis: Harnessing Machine Learning In Designing Question-Answering Models For Cybersecurity Information Extraction
Colorado State University(科罗拉多州立大学)
本文针对网络安全非结构化文本信息抽取的挑战,构建了特定领域的问答数据集并训练了机器学习模型,为自动化构建网络安全知识图谱提供了关键支撑。
2024-12-21 cs.CL cs.CR cs.LG
CrimeNER: Curated Dataset and Methods for Research and Investigation in Language Intelligence
BiometricsAI, Universidad Autónoma de Madrid(生物度AI,马德里自治大学)
针对现实犯罪场景注释数据匮乏问题,提出CrimeNER及数据库CrimeNER-db,定义多种犯罪实体类型,通过完全监督微调通用NER模型实验等处理数据库质量,解决泛化能力问题,数据库可在GitHub获取。
2026-10-26 cs.AI cs.CL cs.DB
DREaM: Drug-Drug Relation Extraction via Transfer Learning Method
提出DREAM方法,利用迁移学习训练关系抽取模型构建药物关系本体,并用大语言模型验证,有效抽取药物间关系并揭示医学歧义。
2025-10-27 cs.AI cs.CL cs.LG
Constructing a Knowledge Graph from Textual Descriptions of Software Vulnerabilities in the National Vulnerability Database
Simula Research Laboratory(西穆拉研究实验室);University of Oslo(奥斯陆大学);Norwegian Computing Center(挪威计算中心);BI Norwegian Business School(BI挪威商学院)
提出从NVD文本构建漏洞知识图谱的新方法,结合NER、关系抽取与实体预测,修复缺失实体并评估性能。
2023-05-15 cs.AI cs.CL cs.CR
HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction
BlackRock, Inc.(贝莱德集团);NVIDIA(英伟达公司)
本文提出 HybridRAG,融合 GraphRAG 与 VectorRAG,从向量数据库和知识图谱共同检索上下文,提升金融文档问答的信息抽取准确率与生成质量。
2024-08-09 cs.CL cs.LG q-fin.ST
LexNLP: Natural language processing and information extraction for legal and regulatory texts
LexPredict, LLC(莱克斯预测有限责任公司)
LexNLP是一个开源Python包,专注于法律和法规文本的自然语言处理和机器学习。该软件包包括以下功能:(i)分割文档,(ii)识别关键文本,如标题和章节标题,(iii)提取超过18种类型的结构化信息,如距离和日期,(iv)提取命名实体,如公司和地缘政治实体,(v)将文本转换为模型训练的特征,以及(vi)构建无监督和监督模型,如词嵌入或标记模型。LexNLP包括基于数千个单元测试的预训练模型,这些测试来自SEC EDGAR数据库中的真实文档以及各种司法和监管程序。LexNLP被设计用于学术研究和工业应用,并在https://github.com/LexPredict/lexpredict-lexnlp上发布。
2018-06-10 cs.CL cs.IR stat.ML
WYSIWYE: An Algebra for Expressing Spatial and Textual Rules for Visual Information Extraction
IBM Research(IBM研究院);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);IBM Germany Research & Development(IBM德国研发中心)
网页的视觉布局可以为某些类型的信息抽取(IE)任务提供有价值的线索。在传统的基于规则的IE框架中,这些布局提示被映射到对网页的HTML源进行操作的规则。相比之下,我们已经开发了一个框架,其中的规则可以直接指定在布局级别。这有很多优点,因为更高的抽象级别导致更简单的提取规则,这些规则在很大程度上独立于页面的源代码,因此更健壮。它还可以实现以其他方式不可能的新类型规则的规范。据我们所知,没有一个通用的框架,允许声明性规范的信息抽取规则的基础上的空间布局。我们的框架是传统的基于文本的规则框架的补充,并允许基于空间布局的规则与传统的基于文本的规则的无缝结合。我们描述的代数,使这样一个系统和它的有效实施使用标准的关系和文本索引功能的关系数据库。我们证明了这个系统的简单性和效率的任务,涉及软件产品页面的软件系统要求的提取。
2016-09-27 cs.CL cs.DB cs.IR