Generalized knowledge-enhanced framework for biomedical entity and relation extraction
University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对生物医学文本复杂、出版物增长快的问题，该研究提出一种知识增强框架，借鉴人类学习机制构建可迁移的通用神经网络知识图谱，在生物医学实体与关系抽取任务的多个基准上取得有竞争力的性能。
2024-08-13 cs.AI cs.CL cs.IR
A Data-driven Approach for Noise Reduction in Distantly Supervised Biomedical Relation Extraction
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
事实三元组是生物医学领域中使用的结构化知识的常见形式。随着非结构化科学文本数量的持续增长，用于关系抽取任务的这些文本的手动注释变得越来越昂贵。远程监控提供了一种可行的方法来解决这个问题，它可以快速生成大量带标签但噪音很大的数据。我们的目标是通过扩展实体丰富的关系分类BERT模型的多实例学习的问题，并定义一个简单的数据编码方案，显着降低噪声，达到国家的最先进的性能远程监督生物医学关系抽取，以减少这种噪音。我们的方法进一步编码知识的关系三元组的方向，允许通过减少噪音和减轻联合学习与知识图谱完成的需要，增加对关系学习的关注。
2020-05-26 cs.CL cs.LG
Using Neural Networks for Relation Extraction from Biomedical Literature
LASIGE, Faculdade de Ciências, Universidade de Lisboa（里斯本大学理学院 LASIGE 实验室）
使用不同的信息源来支持自动提取生物医学概念之间的关系，有助于我们对生物系统的理解的发展。这些关系的主要综合来源是生物医学文献。已经提出了几种关系抽取方法来识别生物医学文献中概念之间的关系，即使用神经网络算法。使用由多个数据表示组成的多通道架构，如在深度神经网络中，正在产生最先进的结果。数据表示的正确组合最终可以使我们在关系抽取任务中获得更高的评估分数。因此，生物医学本体通过提供关于实体的语义和祖先信息而发挥基本作用。生物医学本体的纳入已经被证明可以增强以前的最先进的结果。
2020-09-18 cs.CL cs.LG stat.ML
A Biomedical Information Extraction Primer for NLP Researchers
Indian Institute of Technology Delhi（印度理工学院德里分校）
生物医学信息抽取是自然语言处理、生物学和医学交叉的一个令人兴奋的领域。它包括各种不同的任务，需要应用最先进的NLP技术，如NER和关系抽取。本文概述了该领域的问题，并讨论了一些用于解决这些问题的技术。
2017-05-10 cs.CL
Sentence Bag Graph Formulation for Biomedical Distant Supervision Relation Extraction
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；University of Rochester（罗切斯特大学）；School of Electrical and Information Engineering, Beijing University of Civil Engineering and Architecture（北京建筑大学电气与信息工程学院）；Beijing Key Laboratory of Intelligent Processing for Building Big Data, Beijing University of Civil Engineering and Architecture（北京建筑大学北京市建筑大数据智能处理重点实验室）
本文提出句子袋图建模框架，通过消息传递聚合实体对信息并融合句间依赖，有效缓解远程监督关系抽取中的噪声标注问题，在生物医学和通用文本数据集上均显著超越现有方法。
2023-10-29 cs.CL cs.LG
Inter-sentence Relation Extraction for Associating Biological Context with Events in Biomedical Texts
The University of Arizona（亚利桑那大学）
我们提出了一个分析的问题，确定生物背景，并将其与生物医学文本中的生物化学事件。这构成了一个非平凡的、跨领域的关系抽取任务。我们专注于生物背景的物种，组织类型和细胞类型，与生化事件的描述。我们描述的上下文-事件关系的注释语料库的属性，并提出和评估几个分类上下文-事件关联训练的句法，距离和频率特征。
2018-12-14 cs.CL cs.LG stat.ML
Exploring Semi-supervised Variational Autoencoders for Biomedical Relation Extraction
National Center for Biotechnology Information (NCBI), National Library of Medicine (NLM), National Institutes of Health (NIH)（美国国立卫生研究院国家医学图书馆国家生物技术信息中心）；Dalian University of Technology（大连理工大学）
生物医学文献提供了丰富的知识来源，如蛋白质-蛋白质相互作用（PPI），药物-药物相互作用（DDI）和化学-蛋白质相互作用（CPI）。生物医学关系抽取的目的是从生物医学文本中自动抽取生物医学关系，以供各种生物医学研究使用。用于生物医学关系抽取的现有技术方法主要基于监督机器学习，因此依赖于（足够的）标记数据。然而，创建大的训练数据集是非常昂贵和劳动密集型的，尤其是在生物医学中，因为需要领域知识。相比之下，PubMed中有大量未标记的生物医学文本。因此，能够采用未标记的数据，以减少人工注释的负担的计算方法是特别感兴趣的生物医学关系抽取。提出了一种基于变分自编码器（VAE）的半监督生物医学关系抽取方法。我们的模型包括以下三个部分，分类器，编码器和解码器。分类器使用多层卷积神经网络（CNN）实现，编码器和解码器分别使用双向长短期记忆网络（Bi-LSTM）和CNN实现。半监督机制允许我们的模型从标记和未标记数据中学习特征。我们评估我们的方法在多个公共PPI，DDI和CPI语料库。实验结果表明，该方法有效地利用了未标记数据，提高了性能，减少了对标记数据的依赖。据我们所知，这是第一个基于半监督VAE的（生物医学）关系抽取方法。我们的研究结果表明，利用这些未标记的数据可以大大有利于提高各种生物医学关系抽取的性能。
2019-01-18 cs.CL
Adversarial Learning for Supervised and Semi-supervised Relation Extraction in Biomedical Literature
Department of Computer and Information Science University of Delaware（特拉华大学计算机与信息科学系）
对抗性训练是一种通过在训练过程中引入对抗性样本来提高模型性能的技术。在本文中，我们研究了多个对抗性示例的对抗性训练，以利于关系抽取任务。我们还在半监督场景中应用对抗训练技术来利用未标记的数据。对蛋白质相互作用和蛋白质亚细胞定位任务的评估结果表明，对抗训练提供了对监督模型的改进，并且在半监督训练情况下也有效地涉及未标记数据。此外，我们的方法在两个基准数据集上实现了最先进的性能。
2020-09-25 cs.CL cs.LG
From POS tagging to dependency parsing for biomedical event extraction
The University of Melbourne（墨尔本大学）
背景资料：鉴于从生物医学研究出版物中提取关系或事件以支持知识捕获和合成的重要性，以及该信息抽取任务对句法信息的强烈依赖性，了解哪些方法对生物医学文本的句法处理具有最高性能是有价值的。结果如下：我们在两个基准生物医学语料库GENIA和CRAFT上进行了一项实证研究，比较了最先进的传统基于特征的模型和基于神经网络的模型，用于词性（POS）标记和依存句法分析这两个核心自然语言处理任务。据我们所知，最近没有在生物医学背景下进行这种比较的工作;具体来说，没有对这些数据的神经模型进行详细分析。实验结果表明，在一般情况下，神经模型优于基于特征的模型在两个基准生物医学语料库GENIA和CRAFT。我们还进行了面向任务的评估，以调查这些模型在下游应用程序的生物医学事件提取的影响，并表明，更好的内在解析性能并不总是意味着更好的外在事件提取性能。结论：我们已经提出了一个详细的实证研究比较传统的基于特征的和基于神经网络的模型的POS标记和依存句法分析在生物医学的背景下，还调查了分析器的选择的生物医学事件提取下游任务的影响。数据和材料的可用性：我们在https://github.com/datquocnguyen/BioPosDep上提供重新训练的模型
2019-01-02 cs.CL
RanAT4BIE: Random Adversarial Training for Biomedical Information Extraction
Department of Data Science and Big Data Technology, Hainan University, Haikou 570228, China（数据科学与大数据技术学院，海南大学，海口570228，中国）；Department of Mathematics, Hainan University, Haikou 570228, China（数学学院，海南大学，海口570228，中国）
本文提出随机对抗训练框架RanAT4BIE，通过结合随机采样机制与对抗训练，在提升生物医学信息抽取任务模型泛化能力与鲁棒性的同时大幅降低计算开销。
2025-09-14 cs.CL cs.IR
ReOnto: A Neuro-Symbolic Approach for Biomedical Relation Extraction
IIIT-Delhi（德里英迪拉甘地信息技术学院）；Cerence GmbH（赛轮思有限公司）；Zerotha Research（Zerotha研究院）
ReOnto提出一种神经符号方法，结合图神经网络与本体先验知识，通过提取实体间关系路径，在生物医学关系抽取中超越基线约3%。
2023-09-04 cs.AI cs.CL cs.IR
Configurable Semantic Chunking for Biomedical Information Extraction in Retrieval-Augmented Generation
Institute of Data Science in Biomedicine, Technische Universität Braunschweig（布伦瑞克工业大学生物医学数据科学研究所）
针对 BioMedRAG 固定大小分块割裂语义证据的问题，提出可配置语义分块框架，替换其分块构建阶段，在 GM-CIHT 上 F1 值提升 8.4 个百分点，为生物医学 RAG 提供可解释适配方案。
2026-09-01 cs.CL cs.IR
Revised JNLPBA Corpus: A Revised Version of Biomedical NER Corpus for Relation Extraction Task
Academia Sinica（中央研究院）；National Yang Ming University（国立阳明大学）；National Tsing-Hua University（国立清华大学）；National Central University（国立中央大学）
生物医学命名实体识别（BNER）和生物医学关系抽取（BRE）研究的进展推动了生物领域文本挖掘的发展。作为BRE的基石，需要健壮的BNER系统来识别纯文本中提到的NE，以用于进一步的关系抽取阶段。然而，目前的BNER语料库，在这些任务中发挥了重要作用，很少注意达到BRE任务的标准。在本研究中，我们提出了修订的JNLPBA语料库，JNLPBA语料库的修订，扩大了一个NER语料库的适用性，从BNER到BRE任务。我们保留了原始的实体类型，包括蛋白质，DNA，RNA，细胞系和细胞类型，而JNLPBA语料库中的所有摘要都是由领域专家根据新的注释准则重新手工策划的，该准则专注于特定的NE而不是一般术语。同时指出了JNLPBA中存在的一些不足之处，并在新的语料库中得到了弥补。为了比较不同的NER系统在修订的JNLPBA和JNLPBA语料库中的适应性，测量了三个开源NER系统（BANNER，Gimli和NERSuite）的F1-measure。在相同的情况下，所有系统的性能平均提高10%，在JNLPBA的JNLPBA的修订。此外，交叉验证测试，我们训练的NER系统上JNLPBA/修订JNLPBA语料库，并评估在蛋白质相互作用提取（PPIE）和生物医学事件提取（BEE）语料库的性能，以确认新的改进JNLPBA是一个称职的生物医学关系应用的NER语料库。修订后的JNLPBA语料库可在iasl-btm.…
2019-01-29 cs.CL cs.IR
Learning for Biomedical Information Extraction: Methodological Review of Recent Advances
Nuance Communications（Nuance通信公司）；University of Massachusetts Medical School（马萨诸塞大学医学院）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；VA Central West Massachusetts（马萨诸塞州中部西部退伍军人医疗系统）
生物医学信息抽取（BioIE）在临床决策支持、整合生物学、药物警戒等方面具有重要的应用价值，因此一直是研究的热点。与现有的综述涵盖了BioIE的整体观点，这篇综述主要集中在学习为基础的方法的最新进展，通过系统地总结他们到方法发展的不同方面。此外，我们深入研究了开放式信息抽取和深度学习，这两种新兴且有影响力的技术，并展望了下一代BioIE。
2016-06-26 cs.CL
Building a Corpus for Biomedical Relation Extraction of Species Mentions
Nantes Université（南特大学）；École Centrale Nantes（南特中央理工学院）；CNRS（法国国家科学研究中心）；LS2N（南特数字科学实验室）
本研究构建了聚焦肠道微生物组的物种间二元关系人工标注语料库Species-Species Interaction，经评估不同NER物种标注器后采用PubTator标注全文物种，用BERT及生物医学变体抽取关系的初步结果良好。
2023-06-14 cs.CL
Chemical-protein Interaction Extraction via Gaussian Probability Distribution and External Biomedical Knowledge
Dalian University of Technology（大连理工大学）；Beijing Institute of Health Administration and Medical Information（北京卫生健康管理与医学信息研究所）
动机：生物医学文献包含了丰富的化学蛋白质相互作用（CPI）。自动提取生物医学文献中描述的CPI对于药物发现、精准医学以及基础生物医学研究至关重要。大多数现有的方法只关注句子序列来识别这些CPI。然而，句子的局部结构和外部生物医学知识也包含有价值的信息。有效利用这些信息可以提高CPI提取的性能。结果：在本文中，我们提出了一种新的神经网络为基础的方法来改善CPI提取。具体来说，该方法首先采用BERT来生成标题序列、实例序列和知识序列的高质量上下文表示。然后，高斯概率分布被引入到捕获的局部结构的实例。同时，利用注意力机制分别对标题信息和生物医学知识进行融合。最后，相关的表示被连接并馈送到softmax函数中以提取CPI。我们评估我们提出的模型的CHEMPROT语料库。我们提出的模型是优于性能相比，与其他国家的最先进的模型。实验结果表明，高斯概率分布和外部知识是相辅相成的。将它们结合起来可以有效地提高CPI提取性能。此外，高斯概率分布可以有效地提高生物医学关系抽取任务中具有重叠关系的句子的抽取性能。可用性：数据和代码可在https://github.com/CongSun-dlut/CPI_extraction上获取。联系：yangzh@dlut.edu.cn，wangleibihami@gmail.com补充信息：补充数据可在生物信息学在线。
2020-04-24 cs.CL
BioNCERE: Non-Contrastive Enhancement For Relation Extraction In Biomedical Texts
School of Information Technology（信息技术学院）；Monash University（莫纳什大学）
针对生物医学关系抽取模型的各向异性问题，提出无需命名实体标签的BioNCERE方法，结合迁移学习与非对比学习分三阶段训练，在SemMedDB上取得接近现有最优的性能，降低了标注成本。
2024-10-31 cs.CL cs.LG
Pipelined Biomedical Event Extraction Rivaling Joint Learning
本文提出基于BERT的n元关系抽取方法构建Binding事件，在BioNLP GE11和GE13上F1达63.14%和59.40%，使流水线方法性能媲美甚至超越联合学习。
2024-03-19 cs.AI cs.CL
Intent Detection and Entity Extraction from BioMedical Literature
IIT Kharagpur（印度理工学院卡哈拉格普尔分校）；Columbia University（哥伦比亚大学）
本文实证评估生物医学文本的意图检测与命名实体识别，证明监督微调的PubMedBERT等模型仅需5个样本即可在NER上超越ChatGPT。
2024-08-05 cs.CL
Relation Extraction from Biomedical and Clinical Text: Unified Multitask Learning Framework
Indian Institute of Technology Patna（印度理工学院巴特那分校）
为了最大限度地减少在生物医学文献搜索中投入的加速时间，已经提出了许多用于自动化知识提取的方法。关系抽取就是这样一个任务，其中实体之间的语义关系是从自由文本中识别的。在生物医学领域，提取调控途径、代谢过程、药物不良反应或疾病模型需要来自个体关系的知识，例如，基因、蛋白质、药物、化学品、疾病或表型之间的物理或调控相互作用。在本文中，我们研究了关系抽取任务从三个主要的生物医学和临床任务，即药物-药物相互作用，蛋白质-蛋白质相互作用，医学概念关系抽取。为此，我们在多任务学习（MTL）框架中建模关系抽取问题，并首次引入结构化自我关注网络的概念，并辅以对抗性学习方法来预测生物医学和临床文本中的关系。MTL的基本概念是通过利用共享表示的概念同时学习多个问题。此外，我们还生成了高效的单任务模型，该模型利用了在注意门控递归单元上学习的最短依赖路径嵌入来比较我们提出的MTL模型。我们提出的框架显着提高了整体基线（深度学习技术）和单任务模型来预测关系，而不会影响所有任务的性能。
2020-09-20 cs.CL
An Effective Approach to Biomedical Information Extraction with Limited Training Data
总的来说，这项工作的两个主要贡献包括应用句子简化关联提取如上所述，和使用分布式语义概念提取。概念提取的拟议工作首次融合了两个不同的研究领域-分布式语义和信息抽取。这种方法提供了其他半监督机器学习系统中提供的所有优点，并且与其他提出的半监督方法不同，它可以在不同的基本框架和算法之上使用。http://gradworks.umi.com/34/49/3449837.html
2011-09-12 cs.CL
Experiments on transfer learning architectures for biomedical relation extraction
Loria, CNRS, Inria, Université de Lorraine（洛里亚研究所、法国国家科学研究中心、法国国家信息与自动化研究所、洛林大学）
关系抽取（RE）是从文本中自动识别和构造感兴趣的关系。最近，BERT提高了几个NLP任务的最佳性能，包括RE。然而，在机器学习架构和迁移学习策略中使用BERT的最佳方式仍然是一个悬而未决的问题，因为它高度依赖于每个特定的任务和领域。在这里，我们探索各种基于BERT的架构和迁移学习策略（即，冷冻或微调）用于两个语料库上的生物医学RE任务。在测试的架构和策略中，我们的 *BERT-segMCNN在两个语料库上的性能高于最先进的水平（在ChemProt和PGxCorpus语料库上分别有1.73%和32.77%的绝对改进）。更一般地说，我们的实验说明了使用BERT进行微调的预期兴趣，以及除了BERT经典地利用的上下文之外，使用结构信息（与句子分割）的未开发优势。
2020-11-24 cs.CL cs.LG
Decorate the Examples: A Simple Method of Prompt Design for Biomedical Relation Extraction
Université Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）
关系抽取是生物医学领域自然语言处理的核心问题。最近的关系抽取研究表明，基于神经网络的学习提高了全训练集和Few-Shot训练的微调性能。然而，在特定领域的任务上所做的努力较少，在这些任务中，良好的快速设计可能更加困难。在本文中，我们研究了生物医学关系抽取的提示，在ChemProt数据集上的实验。我们提出了一个简单而有效的方法，系统地产生全面的提示，重新制定的关系抽取任务作为一个完形填空测试任务下一个简单的提示制定。特别是，我们实验不同的排名分数，以及时选择。使用BioMed-RoBERTa-base，我们的结果表明，基于优化的微调比常规微调基线获得了14.21 F1的增益，比SciFive-Large获得了1.14 F1的增益，SciFive-Large是目前ChemProt上最先进的算法。此外，我们发现，基于神经网络的学习需要更少的训练样本来做出合理的预测。结果表明，我们的方法在这样一个特定领域的关系抽取任务的潜力。
2022-04-21 cs.CL
On the Effectiveness of the Pooling Methods for Biomedical Relation Extraction with Deep Learning
University of Oregon（俄勒冈大学）；Adobe Research（奥多比研究院）
深度学习模型在许多关系抽取数据集上取得了最先进的性能。这些深度学习模型中的一个共同元素涉及池化机制，其中隐藏向量的序列被聚合以生成单个表示向量，用作执行RE预测的特征。不幸的是，在文献中的模型往往采用不同的策略来执行池的RE，导致的挑战，以确定最好的池机制，这个问题，特别是在生物医学领域。为了回答这个问题，在这项工作中，我们进行了全面的研究，以评估生物医学RE中深度学习模型的不同池机制的有效性。实验结果表明，依赖性为基础的池是最好的池策略RE在生物医学领域，产生的国家的最先进的性能在两个基准数据集上的这个问题。
2019-11-04 cs.CL
BERE: An accurate distantly supervised biomedical entity relation extraction network
从文献中自动抽取实体关系抽取（RE）是构建生物医学数据库的重要来源，它比人工处理更高效、可扩展。然而，现有的RE模型通常忽略了句子结构和目标实体中包含的信息。在本文中，我们提出了BERE，这是一种基于深度学习的模型，它使用Gumbel Tree-GRU来学习句子结构，并使用联合嵌入来整合实体信息。它还采用词级注意力改进的关系抽取和事件级注意力，以适应远程监督数据集。由于现有的数据集相对较小，我们进一步构建了一个更大的药物靶点相互作用提取（DTIE）数据集的远程监督。在DDIExtraction 2013任务和DTIE数据集上进行的实验表明，我们的模型在F1测量和PR曲线方面优于最先进的基线。
2019-06-22 cs.CL
Investigation of BERT Model on Biomedical Relation Extraction Based on Revised Fine-tuning Mechanism
Department of Computer and Information Science University of Delaware（特拉华大学计算机与信息科学系）；University of Delaware（特拉华大学）；Department of Computer and Information Science（计算机与信息科学系）
随着生物医学文献的爆炸式增长，设计自动化的文献信息抽取工具对生物医学研究具有重要意义。最近，基于变压器的BERT模型适应于生物医学领域已经产生了领先的结果。然而，所有现有的BERT模型的关系分类只利用部分知识的最后一层。在本文中，我们将研究的方法，利用整个层的微调过程中的BERT模型。据我们所知，我们是第一个探索这种方法的。实验结果表明，我们的方法提高了BERT模型的性能，并优于国家的最先进的方法在三个基准数据集的不同关系抽取任务。进一步分析表明，关于关系的关键知识可以从BERT模型的最后一层学习。
2020-11-01 cs.CL
Joint Learning-based Causal Relation Extraction from Biomedical Literature
Soochow University（苏州大学）；The Hong Kong Polytechnic University（香港理工大学）
生物医学实体的因果关系抽取是生物医学文本挖掘中最复杂的任务之一，涉及实体关系和实体函数两类信息。一种可行的方法是将关系抽取和函数检测作为两个独立的子任务。然而，这种分离的学习方法忽略了它们之间的内在相关性，并导致性能不令人满意。本文提出了一种联合学习模型，将实体关系抽取和实体功能检测结合起来，利用它们的共性，捕捉它们之间的相互关系，从而提高生物医学因果关系抽取的性能。同时，在模型训练阶段，损失函数中的不同函数类型被分配不同的权重。具体地说，针对负函数实例的惩罚系数增加，有效地提高了函数检测的精度。在BioCreative-V Track 4语料库上的实验结果表明，我们的联合学习模型在BEL语句提取方面优于单独的模型，在第2阶段和第1阶段的测试集上分别获得了58.4%和37.3%的F1分数。这表明，我们的联合学习系统达到了最先进的性能，在第二阶段与其他系统相比。
2022-08-02 cs.AI cs.CL
An Attentive Sequence Model for Adverse Drug Event Extraction from Biomedical Text
SAAMA AI Research Lab（SAAMA人工智能研究实验室）
药物不良反应是一个潜在的危险问题，可能导致患者的死亡和发病。药物不良事件信息提取是生物医学研究中的一个重要问题。我们将ADE抽取建模为一个推理问题，并从机器阅读理解（MRC）文献中获得灵感，设计了我们的模型。我们设计这样一个模型的目的是利用临床文本中的局部语言背景，并实现序列内的相互作用，以便共同学习对药物和疾病实体进行分类，并提取由给定药物引起的不良反应。我们的模型利用自我注意力机制来促进文本序列中的序列内交互。这使我们能够可视化和理解网络如何利用本地和更广泛的上下文进行分类。
2018-01-02 cs.CL
BioIE: Biomedical Information Extraction with Multi-head Attention Enhanced Graph Convolutional Network
Xi’an Jiaotong University（西安交通大学）；The First Affiliated Hospital of Xi’an Jiaotong University（西安交通大学第一附属医院）
构建大规模的医学知识图谱可以极大地促进医学监护在医疗保健领域的应用，近年来受到了广泛的关注。构建大规模MKG的一个重要步骤是从医疗报告中提取信息。近年来，信息抽取技术在生物医学信息抽取中得到了广泛的应用。然而，这些方法只考虑有限类型的实体和关系，由于嘈杂的生物医学文本数据与复杂的实体相关性。因此，它们不能为构建MKG提供足够的信息，并限制了下游应用。为了解决这个问题，我们提出了生物医学信息抽取，一个混合神经网络，从生物医学文本和非结构化的医疗报告中提取关系。我们的模型利用一个多头注意力增强的图卷积网络来捕捉复杂的关系和上下文信息，同时抵抗来自数据的噪声。我们评估我们的模型上两个主要的生物医学关系提取任务，化学-疾病关系和化学-蛋白质相互作用，和跨医院泛癌症病理报告语料库。结果表明，我们的方法实现了优于基线的性能。此外，我们评估了我们的方法的适用性下的迁移学习设置，并表明BioIE在处理不同格式和写作风格的医学文本取得了良好的性能。
2021-10-26 cs.AI cs.CL cs.CV
Context awareness and embedding for biomedical event extraction
City University of Hong Kong（香港城市大学）
动机：生物医学事件检测是分子生物学和生物医学研究中信息抽取的基础。所检测到的事件形成了综合生物医学知识融合的中心基础，促进了对大量文献信息的消化。受特征上下文的限制，现有的事件检测模型大多适用于单一任务。生物医学知识管理迫切需要一个通用的、可扩展的计算模型。结果：我们认为，并提出了一个自下而上的检测框架，以确定从公认的参数的事件。为了捕捉参数之间的关系，我们训练了一个双向长短期记忆（LSTM）网络来模拟它们的上下文嵌入。利用组合属性，我们进一步推导出用于训练事件分类器的候选样本。我们在BioNLP共享任务的数据集上构建了我们的模型进行评估。我们的方法在BioNLPST-BGI和BioNLPST-BB数据集上分别实现了0.81和0.92的平均F分数。与7种最先进的方法相比，我们的方法在BioNLPST-BB数据集上的现有F分数性能几乎翻了一番（0.92 vs 0.56）。进行了案例研究，以揭示潜在的原因。可用性：https://github.com/cskyan/evntextrc
2019-05-02 cs.CL
Multi-layer Sequence Labeling-based Joint Biomedical Event Extraction
School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院）；Department of Chinese and Bilingual Studies, The Hong Kong Polytechnic University（香港理工大学中文及双语学系）
针对生物医学事件抽取现有方法复杂、未有效显式利用触发词信息的问题，提出基于多层序列标注的联合抽取方法MLSL，显式融入候选触发词信息学习交互关系，以简单工作流实现更优的抽取性能。
2024-08-14 cs.AI cs.CL
How Important is Domain Specificity in Language Models and Instruction Finetuning for Biomedical Relation Extraction?
University of Kentucky, Lexington, KY USA（肯塔基大学）
本文在四个生物医学关系抽取数据集上比较通用与生物医学预训练LM及不同指令微调来源，发现通用模型通常更优，而少量生物医学指令微调即可取得与通用指令微调相近的收益。
2025-07-25 cs.CL
Feature extraction and evaluation for BioMedical Question Answering
在本文中，我们介绍了我们在BioASQ管道上的工作。目标是回答四种类型的问题：摘要，是/否，事实和列表。我们的目标是根据经验评估不同的模块：特征提取器和句子选择块。我们使用我们的管道来测试每个模块对各种问题类型的有效性，并进行错误分析。我们定义了对未来与BioASQ管道相关的研究有用的指标，这些指标对提高训练管道的性能至关重要。
2021-05-28 cs.CL
Iteratively Improving Biomedical Entity Linking and Event Extraction via Hard Expectation-Maximization
Virginia Tech（弗吉尼亚理工大学）
本文提出联合生物医学实体链接与事件抽取方法，通过硬期望最大化将事件结构和实体引用作为隐变量，在Genia 2011和BC4GO数据集上显著优于基线并改进单项任务表现。
2023-05-24 cs.CL
Fine-Tuning Models for Biomedical Relation Extraction
本文针对生物医学变异-表型关系抽取，提出微调小型BERT模型（如DeBERTa）和Gemini Pro 1.0，在SNPPhenA语料库上接近或超越现有最先进水平。
2026-09-18 cs.CL
Simultaneously Linking Entities and Extracting Relations from Biomedical Text Without Mention-level Supervision
University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Google Research（谷歌研究院）
理解文本的含义通常涉及对实体及其关系的推理。这需要识别文本中提到的实体，将它们与规范概念联系起来，并识别它们的关系。这些任务几乎总是被视为管道中的独立组件，每个组件都需要不同的模型和训练数据。虽然关系抽取通常可以用容易获得的弱或远距离监督来训练，但实体链接器通常需要昂贵的提及级监督-这在许多领域中是不可用的。相反，我们提出了一个模型，该模型经过训练，可以同时生成实体链接和关系决策，同时不需要提及级别的注释。这种方法避免了流水线方法产生的级联错误，并更准确地预测文本中的实体关系。我们证明了我们的模型在两个生物医学数据集上的性能优于最先进的实体链接和关系抽取管道，并且可以大大提高系统的整体召回率。
2019-12-02 cs.CL cs.IR cs.LG
SnapToGrid: From Statistical to Interpretable Models for Biomedical Information Extraction
University of Arizona（亚利桑那大学）
我们提出了一种生物医学信息抽取的方法，该方法结合了机器学习模型的优点，例如，直接从数据中学习，具有基于规则的方法的优点，例如，可解释性我们的方法首先训练一个基于特征的统计模型，然后通过将其特征转换为规则，将该模型转换为基于规则的变体，并将特征权重“捕捉到网格”为离散投票。在这样做的过程中，我们的建议利用了机器学习中的大量工作，但它产生了一个可解释的模型，可以由专家直接编辑。我们在BioNLP 2009事件提取任务上评估我们的方法。我们的研究结果表明，在将统计模型转换为规则时会有一个小的性能损失，但可解释性的提高弥补了这一点：人类专家只需付出最小的努力，就可以改进此模型，使其具有与作为起点的统计模型相似的性能。
2016-06-30 cs.CL
BioSimplify: an open source sentence simplification engine to improve recall in automatic biomedical information extraction
Department of Biomedical Informatics, Arizona State University（亚利桑那州立大学生物医学信息学系）
Biocompatibility是一个用Java编写的开源工具，它引入并促进了一种用于自动话语分析和信息抽取的句子简化新模型的使用（与用于提高人类可读性的句子简化相反）。该模型基于一种“猎枪”方法，通过组合其组成要素的变体，产生原始句子的许多不同（更简单）版本。该工具针对处理生物医学科学文献进行了优化，例如PubMed中索引的摘要。我们测试了我们的工具对PPI提取任务的影响，它将PPI工具的f分数提高了约7%，召回率提高了约20%。生物统计工具和测试语料库可以从https://biosimplify.sourceforge.net下载。
2011-07-28 cs.CL
Into the Single Cell Multiverse: an End-to-End Dataset for Procedural Knowledge Extraction in Biomedical Texts
Rice University（莱斯大学）；University of Washington（华盛顿大学）
针对生物医学文本程序性知识提取缺乏端到端数据集的问题，提出FlaMBé数据集，涵盖单细胞研究流程标注及最大规模组织/细胞类型NER/NED数据，助力NLP模型发展并推动研究可重复性。
2023-09-04 cs.CL
A Structure-aware Generative Model for Biomedical Event Extraction
University of Hawaii at Manoa（夏威夷大学马诺阿分校）；Nanyang Technological University（南洋理工大学）
针对现有生成式生物医学事件抽取模型忽略复杂事件结构跨实例信息的问题，提出结构感知生成模型GenBEE，通过事件提示和结构前缀提示融合语义与结构特征，在多个基准上取得优异性能。
2025-02-21 cs.CL
PubMedCausal: A Span-Level Annotated Corpus for Causal Relation Extraction in Biomedical Text
Edyah Limited（Edyah有限公司）；University of Ibadan（伊巴丹大学）；Indiana University（印第安纳大学）；Creighton University（克雷顿大学）
为解决现有资源将因果关系与广义关联混淆、限制句子级标注或仅关注显式因果线索的问题，构建了基于PubMed摘要的跨度级因果关抽取语料库PubMedCausal，包含30,000段落级行、3,945因果行和6,491个裁决的因果对，并基准测试了判别式编码器和开源生成模型。
2026-10-28 cs.CL
EMBRE: Entity-aware Masking for Biomedical Relation Extraction
RMIT University（皇家墨尔本理工大学）
本文提出EMBRE方法，通过实体掩码预训练将实体知识融入深度神经网络，提升生物医学关系抽取中实体对、关系和新颖性预测的性能。
2024-01-15 cs.AI cs.CL
NaïveRole: Author-Contribution Extraction and Parsing from Biomedical Manuscripts
Trinity College Dublin（都柏林圣三一学院）；ADAPT Centre（ADAPT中心）；School of Computer Science and Statistics（计算机科学与统计学院）
关于个人作者对科学出版物的贡献的信息对于评估作者的成就很重要。一些生物医学出版物有一个简短的部分描述作者的角色和贡献。它通常是用自然语言编写的，因此作者的贡献不能以机器可读的格式简单地提取出来。在本文中，我们提出了1）作者贡献部分中的角色的统计分析，以及2）NaïveRole，一种从作者贡献部分中提取结构化作者角色的新方法。对于第一部分，我们使用了联合聚类技术以及开放信息抽取，半自动地发现PubMed Central的2,000个贡献部分的语料库中的流行角色。发现的角色被用来自动构建一个训练集，用于我们基于朴素贝叶斯的角色提取方法NaïveRole。NaïveRole以0.68的微平均精确度，0.48的召回率和0.57的F1提取角色。据我们所知，这是第一次尝试从研究论文中自动提取作者角色。本文是JCDL 2018上发表的海报的扩展版本。
2019-12-15 cs.CL cs.DL cs.IR
A framework for information extraction from tables in biomedical literature
University of Manchester（曼彻斯特大学）；AstraZeneca plc（阿斯利康公司）
科学文献呈指数级增长，专业人员无法应付当前的出版物数量。文本挖掘在过去提供了从文本中检索和提取信息的方法，然而，这些方法大多忽略了表格和图形。在挖掘表数据方面所做的研究仍然没有一个综合的挖掘方法，可以考虑表的所有复杂性和挑战。我们的研究正在检查从临床文献中的表格中提取数字（患者数量、年龄、性别分布）和文本（不良反应）信息的方法。本文提出了一个需求分析模板和一个完整的临床领域表格信息抽取方法，包括7个步骤：（1）表格检测，（2）功能处理，（3）结构处理，（4）语义标注，（5）语用处理，（6）单元选择和（7）句法处理和抽取。根据变量、任务及其复杂性的不同，我们的方法的F度量值在82%到92%之间。
2019-02-26 cs.CL cs.CV cs.LG
Biomedical Event Extraction with Hierarchical Knowledge Graphs
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of California, Los Angeles（加州大学洛杉矶分校）
生物医学事件提取是理解科学语料库中描述的生物分子相互作用的关键。其中一个主要的挑战是识别与非指示性触发词相关联的嵌套结构化事件。我们建议将领域知识从统一医学语言系统（UMLS）的预训练语言模型通过图边条件注意力网络（GEANet）和层次图表示。为了更好地识别触发词，每个句子首先接地的句子图的基础上，联合建模的层次知识图谱从UMLS。接地图，然后传播GEANet，一种新的图神经网络，用于增强能力，推断复杂的事件。在BioNLP 2011 GENIA事件提取任务中，我们的方法在所有事件和复杂事件上分别实现了1.41%和3.19%的F1改进。消融研究证实了GEANet和分级KG的重要性。
2020-10-12 cs.AI cs.CL
BERT Based Clinical Knowledge Extraction for Biomedical Knowledge Graph Construction and Analysis
School of Information Sciences（信息科学学院）；Mohammed V University in Rabat（拉巴特穆罕默德五世大学）；ENSIAS（国立高等计算机与系统分析学院）
提出一种结合BERT与CRF的端到端临床知识抽取框架，用于构建生物医学知识图谱并支持问答，在505份真实临床笔记上NER和RE准确率分别达90.7%和88%。
2023-04-21 cs.AI cs.CL
SIA: A Scalable Interoperable Annotation Server for Biomedical Named Entities
DFKI（德国人工智能研究中心）
近年来，生物医学科学的发展势头强劲，出版物数量也随之增加。从这些源中提取特定信息需要高度复杂的文本挖掘和信息抽取工具。然而，将免费提供的工具集成到定制的工作流程中往往是繁琐和困难的。我们描述SIA（可扩展的互操作性注释服务器），我们的贡献BeCalm技术的互操作性和性能的注释服务器（BeCalm-TIPS）的任务，一个可扩展的，可扩展的，和强大的注释服务。该系统目前涵盖六种命名实体类型（即，化学品，疾病，基因，miRNA，突变和生物体），并在Apache 2.0许可下在https://github.com/Erechtheus/sia上免费提供。
2020-04-08 cs.CL cs.IR
Attending To Syntactic Information In Biomedical Event Extraction Via Graph Neural Networks
Monash University, Malaysia（莫纳什大学（马来西亚））；Monash University, Australia（莫纳什大学（澳大利亚））
针对生物医学事件抽取中依赖路径信息不完整的问题，提出用图卷积网络嵌入完整依赖图邻接矩阵，显著提升性能并略超现有最优模型。
2025-01-21 cs.CL
Multimodal Graph-based Transformer Framework for Biomedical Relation Extraction
Indian Institute of Technology Patna（印度理工学院巴特那分校）
预训练的Transformer模型的最新进展推动了跨各种生物医学任务的有效文本挖掘模型的开发。然而，这些模型主要是在文本数据上学习的，并且通常缺乏实体的领域知识来捕获句子之外的上下文。在这项研究中，我们引入了一个新的框架，使模型能够在分子结构等额外多模态线索的帮助下学习有关实体（蛋白质）的多全能生物信息。为此，而不是开发特定于模态的架构，我们设计了一种通用的和优化的基于图的多模态学习机制，该机制利用GraphBERT模型对文本和分子结构信息进行编码，并利用各种模态的底层特征来实现端到端学习。我们评估了我们提出的方法对ProteinProtein Interaction任务的生物医学语料库，我们提出的广义方法被观察到受益于额外的特定领域的方式。
2021-07-01 cs.CL
Joint Biomedical Entity and Relation Extraction with Knowledge-Enhanced Collective Inference
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adobe Research（Adobe研究院）
与一般新闻领域相比，生物医学文本的信息抽取需要更广泛的领域知识。然而，许多以前的IE方法在推理过程中不利用任何外部知识。由于生物医学出版物的指数增长，不超过其固定参数集的模型可能会落后。受人类如何查找相关信息来理解科学文本的启发，我们提出了一个新的框架，利用外部知识进行联合实体和关系抽取命名为KECI（知识增强集体推理）。给定一个输入文本，KECI首先构造一个初始跨度图，表示它对文本的初始理解。然后使用实体链接器形成包含文本中提到的实体的相关背景知识的知识图谱。为了做出最终的预测，KECI使用注意力机制将初始跨度图和知识图谱融合成一个更精细的图。KECI采用一种集体方法，通过使用图卷积网络将全局关系信息集成到局部表示中，将提及跨度与实体联系起来。我们的实验结果表明，该框架是非常有效的，在两个不同的基准数据集：BioRelEx（结合相互作用检测）和ADE（不良药物事件提取）实现了新的最先进的结果。例如，KECI在BioRelEx实体和关系抽取任务上的F1得分比最先进的技术分别提高了4.59%和4.91%。
2021-06-01 cs.CL
LLMs are not Zero-Shot Reasoners for Biomedical Information Extraction
ASUS Intelligent Cloud Services (AICS)（ASUS智能云服务）；Imperial College London（伦敦帝国学院）；University of Manchester（曼彻斯特大学）；National University of Singapore（新加坡国立大学）
该研究针对大语言模型在生物医学结构化信息抽取任务上的表现不明的问题，系统测试了多种开源LLM在医学分类和NER任务上的性能，发现标准提示效果优于CoT、自一致性、RAG等复杂方法，指出高级提示法难迁移至该领域，需优化知识与推理整合方式。
2025-05-18 cs.AI cs.CL cs.LG
Can NLI Provide Proper Indirect Supervision for Low-resource Biomedical Relation Extraction?
Harvard University（哈佛大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of Southern California（南加利福尼亚大学）
提出NBR框架，通过自然语言推理间接监督将生物医学关系抽取转化为NLI任务，利用基于排序的损失校准弃权实例，在低资源下实现更清晰的决策边界和更优性能。
2023-10-19 cs.AI cs.CL q-bio.QM
Query-driven Document-level Scientific Evidence Extraction from Biomedical Studies
First Author Affiliation（第一作者机构）；Second Author Affiliation（第二作者机构）
本文聚焦于存在冲突证据的临床问题，构建了CochraneForest数据集，并提出了检索增强生成框架URCA用于文档级科学证据抽取，其F1分数较最佳方法提升10.3%。
2025-05-30 cs.AI cs.CL
BioDEX: Large-Scale Biomedical Adverse Drug Event Extraction for Real-World Pharmacovigilance
Ghent University – imec（根特大学-校际微电子中心）；Aarhus University（奥胡斯大学）；Parexel AI Labs（帕雷塞尔人工智能实验室）；Stanford University（斯坦福大学）
为改善药物警戒，本文提出大规模生物医学不良药物事件抽取资源BioDEX，包含大量文献与专家标注报告，并训练模型预测报告核心信息，发现最佳模型达62.3% F1但仍低于人类表现，具有显著提升空间。
2023-10-20 cs.CL
