DIAG-NRE: A Neural Pattern Diagnosis Framework for Distantly Supervised Neural Relation Extraction
Tsinghua University（清华大学）；University of Wisconsin - Madison（威斯康星大学麦迪逊分校）；AHI Fintech Inc.（AHI金融科技公司）
基于模式的标记方法在减轻远程监督神经关系抽取中不可避免的标记噪声方面取得了令人满意的结果。然而，这些方法需要大量的专家劳动来编写特定于关系的模式，这使得它们太复杂，无法快速泛化。为了减轻模式编写的劳动密集型工作量，并能够快速泛化到新的关系类型，我们提出了一个神经模式诊断框架，DIAG-NRE，它可以自动总结和提炼高质量的关系模式，从噪音数据与人类专家在循环中。为了证明DIAG-NRE的有效性，我们将其应用于两个真实世界的数据集，并提出了比最先进的方法显着和可解释的改进。
2019-06-10 cs.CL cs.LG
Grammatical Case Based IS-A Relation Extraction with Boosting for Polish
Institute of Computer Science Polish Academy of Sciences（波兰科学院计算机科学研究所）
基于模式的IS-A关系抽取方法严重依赖于所谓的赫斯特模式。这些是用自然语言表示类的实例枚举的方法。虽然这些词汇句法模式证明是非常有用的，但它们可能无法捕捉文本中表达的所有分类关系。因此，在本文中，我们描述了一种新的方法，IS-A关系抽取模式，它使用形态句法注释以及语法情况的名词短语，构成实体参与IS-A关系。我们还描述了一种方法，用于增加提取的关系，我们称之为伪子类提升，它具有潜在的应用在任何基于模式的关系抽取方法。实验进行了约0.5亿波兰语的网络文档的语料库。
2016-05-10 cs.CL cs.IR
Rules still work for Open Information Extraction
Jiangxi University of Finance and Economics（江西财经大学）；University of Calgary（卡尔加里大学）
本文提出中文开放信息抽取模型APRCOIE，通过自主生成抽取模式并结合基于张量计算的过滤器，在人工标注的大规模数据集上显著超越现有最优中文OIE模型。
2024-12-27 cs.CL
Uncover Sexual Harassment Patterns from Personal Stories by Joint Key Element Extraction and Categorization
Alibaba Group（阿里巴巴集团）；University of Washington（华盛顿大学）；Indiana University Bloomington（印第安纳大学伯明顿分校）
近年来，网上分享的关于性骚扰的个人故事数量呈指数级增长。这在一定程度上受到了\#MeToo和\#TimesUp运动的启发。Safecity是一个在线论坛，供经历或目睹性骚扰的人分享个人经历。到目前为止，它已经收集了\textgreater 10，000个故事。性骚扰发生的情形多种多样，对性骚扰事件进行分类并提取其要素，将对相关方理解和应对性骚扰提供极大帮助。在本研究中，我们在地点、时间和骚扰者特征维度上对这些故事进行了人工标注，并标记了与这些维度相关的关键要素。此外，我们应用自然语言处理技术与联合学习方案，自动分类这些故事在这些方面，并提取关键元素在同一时间。我们还从分类的性骚扰故事中发现了重要的模式。我们相信，我们的注释数据集、拟议算法和分析将以各种方式帮助受到骚扰的人、当局、研究人员和其他相关方，例如自动填写报告，启发公众以防止未来的骚扰，并采取更有效、更快的行动。
2019-11-01 cs.CL
Writing Style Aware Document-level Event Extraction
Central University of Finance and Economics（中央财经大学）
事件抽取技术是一种旨在从文档中自动提取结构化信息的技术，在各个领域受到了越来越多的关注。现有的大多数工作讨论了这个问题的令牌级多标签分类框架区分令牌作为不同的角色，而忽略了文档的写作风格。写作风格是文档内容组织的一种特殊方式，在具有特定领域的文档（如金融、医疗文档等）中，写作风格是相对固定的。我们认为，写作风格包含了重要的线索，判断令牌的作用和忽视这些模式可能会导致现有的作品的性能下降。为此，我们将文档中的写作风格建模为参数角色的分布，即，角色等级分布的事件抽取模型，并提出了一种基于角色等级分布的监督机制，通过事件抽取任务的监督训练过程来捕捉这种模式。我们将我们的模型与几个真实世界数据集上的最先进方法进行了比较。实证结果表明，我们的方法优于其他替代方案与捕获的模式。这验证了书写风格包含有价值的信息，可以提高事件提取任务的性能。
2022-01-10 cs.CL
Relation Extraction or Pattern Matching? Unravelling the Generalisation Limits of Language Models for Biographical RE
Faculty of Informatics, TU Wien（信息学院，维也纳技术大学）；D!ARC, University of Klagenfurt（D!ARC，克雷格福特大学）；Digital Philology, University of Vienna（数字人文，维也纳大学）；Khoury College of Computer Sciences, Northeastern University（科赫计算机科学学院，东北大学）
本研究揭示了语言模型在生物信息关系抽取任务中的泛化极限，指出数据质量和适应策略选择对迁移能力的影响，并指出现有基准的结构性问题限制了模型性能。
2025-12-13 cs.CL
Description of the Odin Event Extraction Framework and Rule Language
University of Arizona（亚利桑那大学）
本文档描述了Odin框架，这是一个独立于领域的平台，用于开发基于规则的事件提取模型。Odin的目标是强大（规则语言允许对复杂的语法结构进行建模）和健壮（从句法分析错误中恢复，语法模式可以自由地与表面的基于标记的模式混合），同时保持简单（一些领域语法可以在几分钟内启动并运行）和快速（Odin在现实世界的领域中处理超过100个句子/秒，超过200条规则）。在这里，我们包括Odin规则语言的完整定义，以及Scala语言中Odin API的描述，它允许将这些规则应用于任意文本。
2015-09-24 cs.CL
Characterizing Design Patterns of EHR-Driven Phenotype Extraction Algorithms
Northwestern University（西北大学）；Vanderbilt University（范德堡大学）；Geisinger（盖辛格）；Columbia University（哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
鉴于目前的实践非常耗时且资源密集，使用机器学习（ML）技术从电子健康记录数据自动开发表型算法具有极大的兴趣。从表型算法中提取设计模式对于理解其原理和标准至关重要，具有自动化开发过程的巨大潜力。在这项试点研究中，我们进行网络可视化的设计模式及其与表型和网站的关联。我们使用先前注释的表型算法的片段作为基础事实对设计模式进行分类。分类性能被用来作为一个代理的一致性在归因水平。具有基于知识的特征的词袋表示在分类任务中产生了良好的性能（0.79 macro-f1分数）。实验结果表明，该方法具有较好的分类准确率和较好的属性一致性，能够实现设计模式的自动识别。我们的研究结果指出了表型设计模式的自动识别的可行性和挑战，这将为表型算法的自动开发提供动力。
2018-11-15 cs.AI cs.CL
Cross-Domain Keyword Extraction with Keyness Patterns
Wuhan Textile University（武汉纺织大学）；Huazhong University of Science and Technology（华中科技大学）
本文提出一种基于关键度模式的有监督关键词排序抽取方法，利用独立与依赖特征及双卷积神经网络模型结合自举采样策略，有效克服领域依赖与标注主观性，在多个数据集上实现了最先进且稳健的跨领域性能。
2024-09-27 cs.CL cs.IR cs.NE
Informative Causality Extraction from Medical Literature via Dependency-tree based Patterns
Indiana University Purdue University Indianapolis（印第安纳大学与普渡大学印第安纳波利斯联合分校）
从医学文献中抽取因果实体是医学信息检索的一项重要任务。用于解决该任务的解决方案可以用于汇编各种因果关系，例如疾病和症状之间、药物和副作用之间、基因和疾病之间的因果关系等。用于提取因果实体的现有解决方案对于其中原因和结果短语是名称实体、单字名词或由两个到三个词组成的名词短语的句子工作良好。遗憾的是，在医学文献中，句子中的因果短语不是简单的名词或名词短语，而是由多个单词组成的复杂短语，现有方法无法正确提取此类句子中的因果实体。与给定句子中的意图相比，因果实体的部分提取传达了质量差、信息量小且往往矛盾的事实。在这项工作中，我们解决了这个问题，设计了一个无监督的方法，因果短语提取，模式因果关系，这是专门适用于医学文献。我们提出的方法首先使用因果依赖模式的集合作为模板来提取因果短语的中心词，然后使用一种新的短语提取方法从句子中获得完整的和有意义的因果短语。从PubMed文章中的句子建立的因果数据集上的实验表明，对于提取因果实体，PatternCausality大大优于现有的方法，在F-分数度量的数量级改进超过现有的最佳方法。
2022-03-13 cs.CL cs.LG
Multilingual Relation Extraction using Compositional Universal Schema
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
通用模式通过联合嵌入输入知识库中的所有关系类型以及表达原始文本中的关系的文本模式来构建实体和关系的知识库（KB）。在以前的大多数通用模式应用中，每个文本模式都表示为单个嵌入，防止泛化到看不见的模式。最近的工作采用了神经网络来捕捉模式的组合语义，为所有可能的输入文本提供泛化。作为回应，本文介绍了显着的进一步改进的覆盖面和灵活性的通用模式关系抽取：预测的实体看不见的训练和多语言迁移学习域没有注释。我们通过对英语和西班牙语TAC KBP基准的广泛实验来评估我们的模型，在没有手写模式或额外注释的情况下，性能优于TAC 2013插槽填充的顶级系统。我们还考虑了一种多语言设置，其中英语训练数据实体与种子KB重叠，但西班牙语文本不重叠。尽管没有对西班牙语数据的注释，我们训练了一个准确的预测器，并通过跨语言绑定词嵌入获得了额外的改进。此外，我们发现，多语言训练提高英语关系抽取的准确性。因此，我们的方法适合于广泛覆盖的自动化知识库建设在各种语言和领域。
2016-03-03 cs.CL cs.LG
Automated Extraction of Sentencing Decisions from Court Cases in the Hebrew Language
Bar-Ilan University（巴伊兰大学）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
我们提出的任务，自动惩罚提取（APE）在刑事法庭案件的判决希伯来语。解决APE将能够识别量刑模式，并构成希伯来语中许多后续法律NLP应用程序的重要垫脚石，包括预测量刑决定。我们策划了一个性侵犯量刑决定的数据集和一个手动注释的评估数据集，并实现了基于规则和监督的模型。我们发现，虽然监督模型可以识别包含惩罚的句子具有良好的准确性，但基于规则的方法在完整的APE任务上优于它们。最后，我们对我们数据集中的量刑模式进行了初步分析，并分析了常见模型的错误，指出了未来工作的方向，例如区分缓刑和实际监禁处罚。我们将根据要求提供所有资源，包括数据，注释和第一个基准模型。
2021-10-24 cs.CL
svcR: An R Package for Support Vector Clustering improved with Geometric Hashing applied to Lexical Pattern Discovery
INRA（法国国家农业研究院）
我们提出了一个新的R包，它需要一个数值矩阵格式作为数据输入，并使用支持向量聚类方法（SVC）计算集群。我们已经实现了一个原始的2D网格标记方法，以加快聚类提取。从这个意义上说，SVC可以被看作是一个有效的聚类提取，如果集群是可分离的2-D地图。其次，我们表明，这种SVC方法使用Jaccard径向基内核可以帮助分类足够好的一组术语到本体类，并帮助定义正则表达式规则的信息抽取的文件，我们的案例研究涉及一组术语和文件的发展和分子生物学。
2015-04-23 cs.CL cs.LG
Nearest Neighbor Search over Vectorized Lexico-Syntactic Patterns for Relation Extraction from Financial Documents
UtilizeAI Research（UtilizeAI研究院）
本文提出通过词汇-句法模式稠密向量的最近邻搜索在测试时参考训练关系，以解决金融文档关系抽取中隐式表达、长尾类别及复杂长句问题，并在REFinD上取得最先进性能。
2023-10-26 cs.CE cs.CL
Learning to answer questions
INESC-ID Lisboa（里斯本INESC-ID）；Instituto Superior Tecnico（高等技术学院）
我们提出了一个开放域的学习，回答问题的基础上成功的过去的互动系统。我们遵循一种基于模式的方法来提取问题，其中将问题与其答案关联的（词汇-句法）模式被自动学习并用于回答未来的问题。结果表明，我们的方法有助于系统的最佳性能时，它是共轭与典型的嵌入式提取策略。此外，它允许系统使用已回答的问题进行学习，并纠正错误或未解决的过去问题。
2013-09-04 cs.CL
PAMPO: using pattern matching and pos-tagging for effective Named Entities recognition in Portuguese
INESC TEC；FCUP（波尔图大学理学院）；ICMC-USP（圣保罗大学圣卡洛斯数学与计算机科学研究所）；University of São Paulo（圣保罗大学）；FEP（波尔图大学经济学院）
本文论述了实体提取任务（命名实体识别）的文本挖掘过程，旨在揭示非平凡的语义结构，如实体或社区之间的关系和相互作用。本文提出了一种简单有效的命名实体抽取算法。该方法采用灵活的模式匹配、词性标注和基于词典的规则，称为PAMPO（Pattern Matching and PO s tagingbased algorithm for NER）。它被开发用于处理用葡萄牙语编写的文本，但它也可能适用于其他语言。我们比较我们的方法与目前的替代品，支持命名实体识别（NER）的内容写在葡萄牙语。这些是炼金术师泽曼塔和伦勃朗在葡萄牙语写的几个文本上的实体提取方法的疗效评价表明，$recall$和$F_1$措施有相当大的改善。
2016-12-30 cs.CL cs.IR
Enhancing Complex Question Answering over Knowledge Graphs through Evidence Pattern Retrieval
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
本文提出证据模式检索（EPR）方法，通过显式建模知识图谱问答中子图提取的结构依赖性，显著提升复杂问答的F1分数。
2024-02-03 cs.CL cs.IR
pyBART: Evidence-based Syntactic Transformations for IE
Allen Institute for AI（艾伦人工智能研究所）；Bar Ilan University（巴伊兰大学）
句法依赖性可以被高精度地预测，并且对于机器学习和基于模式的信息抽取任务都是有用的。然而，其效用可以得到改善。这些句法依赖性被设计为准确地反映句法关系，并且它们不使语义关系显式化。因此，这些表示缺乏内容词之间的许多显式连接，这对于下游应用程序是有用的。像English Enhanced UD这样的提案通过使用额外的显式弧扩展通用依赖树来改善这种情况。但是，它们不适用于Python用户，并且覆盖范围也有限。我们介绍了一个广泛的覆盖面，数据驱动和语言健全的转换，使事件结构和许多词汇关系明确。我们提出了pyBART，一个易于使用的开源Python库，用于将英语UD树转换为增强的UD图或我们的表示。该库可以作为一个独立的包工作，也可以集成在spaCy NLP管道中。当在基于模式的关系抽取场景中进行评估时，我们的表示比增强型UD获得更高的抽取分数，同时需要更少的模式。
2020-06-04 cs.CL
Dynamic Bidirectional Pattern Memory: A Production-Scale Empirical Characterisation of Inference-Time Gating in Clinical NLP
Bangor University（班戈大学）；University of Thi-Qar（济加尔大学）
本研究在生产规模的临床NLP管道中，通过生成器-验证器架构和轻量级记忆机制，发现直接从验证器拒绝学习过滤规则在大规模下失效，而基于固定临床本体的规则有效，并揭示门控选择性取决于是否测试验证器权衡的证据。
2026-07-02 cs.CL
WebSets: Extracting Sets of Entities from the Web Using Unsupervised Information Extraction
Carnegie Mellon University（卡内基梅隆大学）
我们描述了一个开放域的信息抽取方法提取的概念实例对从HTML语料库。大多数早期的方法来解决这个问题依赖于组合集群的分布相似的条款和概念实例对获得赫斯特模式。相比之下，我们的方法依赖于一种新的方法，在HTML表中发现的术语聚类，然后使用赫斯特模式将概念名称分配给这些集群。该方法可以有效地应用于大型语料库，并在几个数据集上的实验结果表明，我们的方法可以准确地提取大量的概念实例对。
2013-07-01 cs.CL cs.IR cs.LG
Combing for Credentials: Active Pattern Extraction from Smart Reply
University of Virginia（弗吉尼亚大学）；Microsoft（微软）；Microsoft Research（微软研究院）
本研究提出一种主动提取攻击，利用规范模式从智能回复模型中仅用少量查询即可提取训练数据中的敏感信息，并验证差分隐私可有效防御此类攻击。
2023-09-02 cs.CL cs.CR cs.LG
Lightly-supervised Representation Learning with Global Interpretability
University of Arizona（亚利桑那大学）
我们提出了一种用于信息抽取，特别是命名实体分类的轻度监督方法，该方法结合了传统自举的优点，即，使用有限的注释和提取模式的可解释性，以及表示学习中提出的鲁棒学习方法。我们的算法迭代地学习自定义嵌入的多词实体提取和模式，匹配他们从每个类别的几个例子实体。我们证明，这种基于表示的方法优于其他三个国家的最先进的自举方法在两个数据集：CoNLL-2003和OntoNotes。此外，使用这些嵌入，我们的方法输出了一个全局可解释的模型，由一个决策列表组成，根据它们与给定类中嵌入的平均实体的接近程度对模式进行排名。我们表明，这种可解释的模型执行接近我们的完整的自举模型，证明表示学习可以用来产生可解释的模型，性能损失很小。
2018-05-29 cs.CL
POTATO: exPlainable infOrmation exTrAcTion framewOrk
TU Wien（维也纳工业大学）；Budapest University of Technology and Economics（布达佩斯技术与经济大学）
我们提出了POTATO，一个任务和语言独立的框架，用于基于规则的文本分类器使用基于图的特征的人在回路（HITL）学习。POTATO处理任何类型的有向图，并支持将文本解析为抽象意义表示（AMR），通用语义（UD）和4lang语义图。基于streamlit的用户界面允许用户根据图形模式构建规则系统，提供基于地面实况数据的实时评估，并通过使用可解释的机器学习模型对图形特征进行排名来建议规则。用户还可以使用正则表达式在图形上提供模式，POTATO可以推荐对这些规则的改进。POTATO应用于跨领域和跨语言的项目，包括对德语法律文本和英语社交媒体数据的分类任务。我们系统的所有组件都是用Python编写的，可以通过pip安装，并在GitHub上的MIT许可证下发布。
2022-10-16 cs.CL cs.LG
Quootstrap: Scalable Unsupervised Extraction of Quotation-Speaker Pairs from Large News Corpora via Bootstrapping
EPFL（洛桑联邦理工学院 (EPFL)）
我们提出了Quootstrap，一种提取报价的方法，以及说出他们的发言者的名字，从大型新闻语料库。虽然以前的工作主要是用监督机器学习来解决这个问题，但我们的方法遵循完全无监督的自举范式。它利用了大型新闻语料库中存在的冗余，更准确地说，事实上，相同的引用经常出现在多篇新闻文章中，上下文中略有不同。从几个种子模式开始，例如[“Q”，S说]，我们的方法提取一组引文-说话人对（Q，S），其依次用于发现表达相同引文的新模式;然后用较大的模式集重复该过程。我们的算法是高度可扩展的，我们通过在大型ICWSM 2011 Spinn 3r语料库上运行它来证明这一点。验证我们的结果与众包的地面真相，我们获得了90%的准确率在40%的召回使用一个单一的种子模式，具有显着更高的召回值更频繁地报告（因此可能更有趣）的报价。最后，我们展示了我们的算法的输出计算社会科学的有用性，通过分析我们提取的报价中表达的情绪。
2018-04-07 cs.CL cs.IR cs.SI
Learning Feature Representations for Keyphrase Extraction
在关键短语提取的监督方法中，候选短语用一组手工制作的特征编码，并且机器学习算法被训练以区分关键短语和非关键短语。虽然手动设计的功能已被证明在实践中工作得很好，功能工程是一个困难的过程，需要专业知识，通常不能很好地推广。在本文中，我们提出了SurfKE，一个功能学习框架，利用文本本身自动发现的模式，关键词展示。我们的模型将文档表示为图，并自动学习短语的特征表示。该模型在强基线上获得了显着的性能改善。
2018-01-05 cs.AI cs.CL
Automatic Rule Extraction from Long Short Term Memory Networks
UC Berkeley（加州大学伯克利分校）；Facebook AI Research（Facebook人工智能研究院）
虽然深度学习模型已被证明在解决自然语言处理中的问题方面是有效的，但它们得出结论的机制往往不清楚。因此，这些模型通常被视为黑箱，无法洞察潜在的学习模式。在本文中，我们考虑了长短期记忆网络（LSTM），并展示了一种新的方法，用于跟踪给定输出的LSTM输入的重要性。通过识别一致的重要模式的话，我们能够提炼出最先进的LSTM的情感分析和问答到一组代表性的短语。然后，通过使用提取的短语来构建一个简单的、基于规则的分类器来定量验证这种表示，该分类器近似于LSTM的输出。
2017-02-24 cs.AI cs.CL cs.NE
