SJTU-NLP at SemEval-2018 Task 9: Neural Hypernym Discovery with Term Embeddings
Shanghai Jiao Tong University（上海交通大学）；Huazhong University of Science and Technology（华中科技大学）
本文描述了我们参与SemEval-2018任务9的上位词发现系统，该系统旨在发现输入概念或实体的最佳（一组）候选上位词，给定预定义词汇的搜索空间。我们介绍了一个神经网络架构的有关任务，并实证研究各种神经网络模型，以建立潜在空间的单词和短语的表示。评价模型包括卷积神经网络、长短期记忆网络、门控递归单元和递归卷积神经网络。我们还探索了不同的嵌入方法，包括词嵌入和意义嵌入，以获得更好的性能。
2018-05-26 cs.CL
Sebis at SemEval-2023 Task 7: A Joint System for Natural Language Inference and Evidence Retrieval from Clinical Trial Reports
Technical University of Munich（慕尼黑工业大学）
针对临床试验报告的证据检索与自然语言推理需求，研究团队开发了流水线与多任务联合两套系统，通过集成融合输出，在SemEval-2023任务7中40支队伍里获第3名。
2023-05-02 cs.CL
Terminologies augmented recurrent neural network model for clinical named entity recognition
Paris University（巴黎大学）；AP-HP（巴黎公共援助医院）；LIMSI（法国计算机科学与自动化研究所）；CNRS（法国国家科学研究中心）；Univ. Paris-Sud（巴黎南大学）；Université Paris-Saclay（巴黎萨克雷大学）；Sorbonne Université（索邦大学）；Inserm（法国国家健康与医学研究院）；Univ Paris 13（巴黎第十三大学）；LIMICS（医学信息学与电子健康知识工程实验室）
我们的目的是提高性能的监督模型的临床命名实体识别（NER）使用医学术语。为了评估我们的系统在法国，我们建立了一个语料库的5种类型的临床实体。我们使用了一个基于术语的系统作为基线，建立在UMLS和SNOMED。然后，我们评估了一个biGRU-CRF，和一个混合系统使用的预测的术语为基础的系统的biGRU-CRF的功能。在英语中，我们在i2 b2 -2009药物名称识别的药物挑战赛上评估了NER系统，其中包含268个文档的8，573个实体。在法语中，我们建立了APcNER，这是一个包含147个文档的语料库，注释了5个实体（药物名称，体征或症状，疾病或病症，诊断程序或实验室测试和治疗程序）。我们评估每个NER系统使用精确和部分匹配定义的F-测度的NER。APcNER包含4，837个实体，需要28小时进行注释，注释者间一致性对于精确匹配的药物名称是可接受的（85%），对于非精确匹配的其他实体类型是可接受的（>70%）。对于i2 b2 -2009和APcNER上的药物名称识别，biGRU-CRF比基于术语的系统表现更好，精确匹配F测量值分别为91.1%和73%，81.9%和75%。此外，混合系统优于biGRU-CRF，精确匹配F测量值为92.2% vs 91.1%（i2 b2 -2009）和88.4% vs 81.9%（APcNER）。在APcNER语料库上，混合系统对5个实体的微平均F-测…
2019-05-15 cs.CL
LIMSI_UPV at SemEval-2020 Task 9: Recurrent Convolutional Neural Network for Code-mixed Sentiment Analysis
LIMSI, CNRS, Université Paris-Saclay（LIMSI实验室，法国国家科学研究中心，巴黎-萨克雷大学）；Universitat Politècnica de València（瓦伦西亚理工大学）
本文介绍了LIMSI UPV团队参与SemEval-2020任务9：代码混合社交媒体文本的情感分析。所提出的方法在SentiMix印地语-英语子任务中竞争，该子任务解决了预测给定印地语-英语代码混合推文的情感的问题。我们提出了递归卷积神经网络，它结合了递归神经网络和卷积网络，以更好地捕捉文本的语义，代码混合的情感分析。所提出的系统在给定的测试数据上获得了0.69（最佳运行）的F1分数，并在SentiMix印地语-英语子任务中获得了第9名（Codalab用户名：somban）。
2020-08-30 cs.AI cs.CL
Neobility at SemEval-2017 Task 1: An Attention-based Sentence Similarity Model
Shan-Si Elementary School（山寺小学）；University of Washington（华盛顿大学）
本文描述了一种神经网络模型，该模型在SemEval 2017跨语言语义文本相似性（STS）任务中表现出色（前6名）。我们的系统采用了基于注意力的递归神经网络模型，优化了句子相似度。在本文中，我们描述了我们参与的多语言STS任务，跨英语，西班牙语和阿拉伯语的相似性措施。
2017-03-16 cs.CL
Combining Neural Networks and Log-linear Models to Improve Relation Extraction
New York University（纽约大学）
在过去的十年中，传统的基于特征的方法在利用诸如词或词汇模式的离散结构从文本中提取关系方面取得了成功。最近，卷积和递归神经网络提供了非常有效的机制，通过连续表示捕获句子中的隐藏结构，从而显着提高了关系抽取的性能。卷积神经网络的优点是它们能够概括句子中的连续k元语法，而递归神经网络则能有效地对长范围的句子上下文进行编码。本文提出将传统的基于特征的方法与卷积和递归神经网络相结合，以同时发挥它们的优势。我们对不同网络架构和组合方法的系统评估证明了这种方法的有效性，并在ACE 2005和SemEval数据集上获得了最先进的性能。
2015-11-18 cs.CL cs.LG
Learning the grammar of drug prescription: recurrent neural network grammars for medication information extraction in clinical texts
CHU Necker, AP-HP（巴黎公共医疗救助机构内克尔大学医院）；INSERM UMR-S 872（法国国家健康与医学研究院 UMR-S 872）；Sorbonne Paris Cité, Faculté de Médecine（索邦巴黎西岱大学医学院）；Université de Paris（巴黎大学）
在这项研究中，我们评估了RNNG，神经自上而下的转换为基础的解析器，在临床文本中的药物信息抽取。我们在法国临床语料库上评估了该模型。任务是提取药物（或药物类别）的名称以及告知其给药的属性：频率，剂量，持续时间，条件和给药途径。我们将联合识别实体、事件及其关系的RNNG模型与作为基线的实体、事件和关系的单独BiLSTM模型进行了比较。我们将seq-BiLSTM称为关系提取的基线模型，它将实体和事件的BiLSTM输出作为额外输入。类似地，我们评估了seq-RNNG，这是一种混合RNNG模型，它将实体和事件的BiLSTM输出作为额外输入。RNNG在识别复杂关系方面优于seq-BiLSTM，平均F测量值为88.1 [84.4-91.6] %，而69.9 [64.0-75.4]。然而，RNNG在检测实体方面往往弱于基线BiLSTM，平均为82.4 [80.8-83.8]对84.1 [82.7-85.6] % F-测量。仅为检测关系而训练的RNNG往往弱于联合建模目标的RNNG，87.4% [85.8-88.8]对88.5% [87.2-89.8]。Seq-RNNG在实体方面与BiLSTM相当（84.0 [82.6-85.4] % F-measure），在关系方面与RNNG相当（88.7 [87.4-90.0] % F-measure）。RNNG在关系上的性能可以通过模型架构和联合建模目标来解…
2022-04-05 cs.CL
SalamNET at SemEval-2020 Task12: Deep Learning Approach for Arabic Offensive Language Detection
Kuwait University（科威特大学）；George Mason University（乔治梅森大学）
本文介绍了SalamNET，这是一个阿拉伯语攻击性语言检测系统，已提交给SemEval 2020共享任务12：社交媒体中的多语言攻击性语言识别。我们的方法侧重于应用多个深度学习模型，并对结果进行深入的错误分析，为未来的开发考虑提供系统影响。为了实现我们的目标，开发并评估了具有不同设计架构的递归神经网络（RNN），门控递归单元（GRU）和长短期记忆（LSTM）模型。SalamNET是一种基于双向门控循环单元（Bi-GRU）的模型，报告的宏观F1得分为0.83。
2020-07-28 cs.CL cs.LG
Edinburgh Clinical NLP at SemEval-2024 Task 2: Fine-tune your model unless you have access to GPT-4
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Usher Institute, University of Edinburgh（爱丁堡大学厄舍研究所）；Edinburgh Futures Institute, University of Edinburgh（爱丁堡未来学院）；School of Literatures, Languages and Cultures, University of Edinburgh（爱丁堡大学文学、语言与文化学院）
本文研究临床试验NLI任务中LLM的推理一致性，提出合并三元组与语言建模目标微调的PEFT适配器方法，虽提升F1和一致性，但仍不及GPT-4。
2024-03-30 cs.CL
Ghmerti at SemEval-2019 Task 6: A Deep Word- and Character-based Approach to Offensive Language Identification
Sharif University of Technology（谢里夫理工大学）；NazarBin（纳扎尔宾）
本文介绍了Ghmerti团队在SemEval 2019上为OffensEval共享任务的子任务A和B提交的模型。OffensEval在三个子任务中解决了识别和分类社交媒体中攻击性语言的问题;内容是否具有攻击性（子任务A），是否针对个人，团体或其他实体（子任务C）。该方法包括字符级卷积神经网络、词级递归神经网络和一些预处理。该模型对子任务A的性能达到77.93%的宏观平均F1分数。
2020-09-22 cs.CL
Structured prediction models for RNN based sequence labeling in clinical text
University of Massachusetts（马萨诸塞大学）；Bedford VAMC and CHOIR（贝德福德退伍军人医疗中心与CHOIR）
序列标记是一种广泛应用于非结构化自然语言数据的命名实体识别和信息抽取的方法。在临床领域，序列标记的一个主要应用涉及从电子健康记录叙述中提取医学实体，例如药物、适应症和副作用。在这个领域的序列标记，提出了自己的一套挑战和目标。在这项工作中，我们尝试了各种基于CRF的结构化学习模型和递归神经网络。我们扩展了先前研究的LSTM-CRF模型与显式建模的成对电位。我们还提出了一个近似版本的跳链CRF推理与RNN潜力。我们使用这些方法进行结构化预测，以提高准确的短语检测各种医疗实体。
2016-08-01 cs.CL
GWU NLP Lab at SemEval-2019 Task 3: EmoContext: Effective Contextual Information in Models for Emotion Detection in Sentence-level in a Multigenre Corpus
George Washington University（乔治华盛顿大学）；AWS AI（AWS人工智能）
在本文中，我们提出了一个提交给SemEval-2019任务3的情感分类器模型：上下文。任务目标是在3轮会话数据集中对情绪（即快乐、悲伤、愤怒）进行分类。我们制定的任务作为一个分类问题，并介绍了一个门控递归神经网络（GRU）模型与注意层，这是自举上下文信息和训练的多体裁语料库。我们利用不同的词嵌入来经验性地选择最适合的词嵌入来表示我们的特征。我们使用多体裁情感语料库对模型进行训练，以利用所有可用的训练集来引导结果。我们取得了整体f1分数%56.05，排名144。
2019-05-23 cs.CL
TLDR at SemEval-2024 Task 2: T5-generated clinical-Language summaries for DeBERTa Report Analysis
Carnegie Mellon University（卡内基梅隆大学）；Machine Learning Department（机器学习系）
针对临床试验自然语言推理任务中上下文窗口小、前提长的问题，提出融合T5生成前提摘要的TLDR方法，显著提升Macro F1分数，经实验验证其预测一致性与忠实度更优。
2024-04-14 cs.AI cs.CL cs.LG
D-NLP at SemEval-2024 Task 2: Evaluating Clinical Inference Capabilities of Large Language Models
Deepgram Research（Deepgram研究院）
本文以临床试验报告为数据集，评估主流开源与闭源 LLM 的自然语言推理能力，重点分析医学缩写和数值推理难题，Gemini 以 0.748 的 F1 排名第九。
2024-05-07 cs.CL
Lisbon Computational Linguists at SemEval-2024 Task 2: Using A Mistral 7B Model and Data Augmentation
INESC-ID；IST；University of Lisbon（里斯本大学）；NOVA-LINCS；NOVA University of Lisbon（里斯本新大学）
本文针对 SemEval-2024 NLI4CT 任务，提出基于 Mistral-7B 量化微调并结合数据增强的方法，在宏 F1 指标上取得显著效果，但在忠实性与一致性上仍有局限。
2024-08-06 cs.CL
Fast and Accurate Recognition of Chinese Clinical Named Entities with Residual Dilated Convolutions
East China University of Science and Technology（华东理工大学）；Shanghai Shuguang Hospital（上海曙光医院）
临床命名实体识别（Clinical Named Entity Recognition，CNER）的目的是对电子病历中的疾病、症状、治疗、检查、身体部位等临床术语进行识别和分类，是临床和翻译研究的基础和关键任务。近年来，深度学习方法在CNER任务中取得了重大成功。然而，这些方法在很大程度上依赖于递归神经网络（RNN），它保持了一个通过时间传播的隐藏激活向量，因此导致了太多的时间来训练模型。本文提出了一种基于条件随机场的残差扩张卷积神经网络（RD-CNN-CRF）来解决这一问题，首先将汉字和字典特征投影到稠密向量表示中，然后将其输入残差扩张卷积神经网络以捕获上下文特征。最后，采用条件随机场来捕获相邻标签之间的依赖性。CCKS-2017任务2基准数据集上的计算结果表明，我们提出的RD-CNN-CRF方法在计算性能和训练时间方面都与最先进的基于RNN的方法相媲美。
2018-11-27 cs.CL
SemEval-2024 Task 2: Safe Biomedical Natural Language Inference for Clinical Trials
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap研究所）；CRUK-MI（英国癌症研究中心曼彻斯特研究所）；National Biomarker Centre（国家生物标志物中心）
本文介绍 SemEval-2024 任务 2，通过改进的 NLI4CT-P 数据集评测 LLM 的干预与因果推理能力，并汇总参赛系统结果，以提升医疗 NLI 的安全性和鲁棒性。
2024-04-07 cs.AI cs.CL
Semantic Relation Classification via Bidirectional LSTM Networks with Entity-aware Attention using Latent Entity Typing
Hanyang University（汉阳大学）
对句子中实体对之间的语义关系进行分类是自然语言处理的一项重要任务。大多数以前的关系分类模型依赖于由NLP工具获得的高级词汇和句法特征，如WordNet，依赖解析器，词性（POS）标记器和命名实体识别器（NER）。此外，基于注意力机制的最新神经模型没有充分利用实体的信息，而实体的信息可能是关系分类的最关键特征。为了解决这些问题，我们提出了一种新的端到端的递归神经模型，它结合了一个实体感知的注意力机制与潜在的实体类型（LET）的方法。我们的模型不仅有效地利用了实体及其潜在类型作为特征，而且通过可视化应用于我们的模型和LET结果的注意力机制，使其更具可解释性。在SemEval-2010 Task 8（最流行的关系分类任务之一）上的实验结果表明，我们的模型在没有任何高级特征的情况下优于现有的最先进的模型。
2019-01-23 cs.CL
NL-FIIT at SemEval-2019 Task 9: Neural Model Ensemble for Suggestion Mining
Slovak University of Technology in Bratislava（布拉迪斯拉发斯洛伐克理工大学）；Faculty of Informatics and Information Technologies（信息学与信息技术学院）
在本文中，我们介绍了提交给SemEval-2019任务9竞赛的神经模型架构：“从在线评论和论坛中挖掘建议”。我们参与了特定领域和跨领域建议挖掘的子任务。我们提出了一种递归神经网络架构，它采用了Bi-LSTM层和自注意力机制。我们的架构尝试通过使用ELMo的单词表示来编码单词，并集成多个模型以获得更好的结果。我们进行了实验与不同的设置，我们提出的模型涉及加权预测类的损失函数。我们的最佳模型在子任务A和子任务B的官方测试评估得分分别为0.6816和0.6850。在官方结果中，我们在子任务A和B中分别获得了第12名和第10名。
2019-04-05 cs.CL
Answer Sequence Learning with Neural Networks for Answer Selection in Community Question Answering
Harbin Institute of Technology, Shenzhen Graduate School（哈尔滨工业大学深圳研究生院）
将社区问答（CQA）中的答案选择问题视为一个答案序列标记任务，提出了一种基于递归结构的答案选择方法。该方法首先利用卷积神经网络（CNN）学习问题-答案对的联合表示，然后将联合表示作为长短期记忆（LSTM）的输入学习问题的答案序列，以标记每个答案的匹配质量。在SemEval 2015 CQA数据集上进行的实验表明了该方法的有效性。
2015-06-22 cs.CL cs.IR cs.LG
Towards NLP with Deep Learning: Convolutional Neural Networks and Recurrent Neural Networks for Offensive Language Identification in Social Media
Imperial College London（帝国理工学院）
这篇简短的论文介绍了在完成SemEval任务6时所采取的设计决策和遇到的挑战，该任务提出了在推文中识别和分类攻击性语言的问题。我们提出的解决方案探索了深度学习技术、线性支持向量分类和随机森林来识别攻击性推文，将攻击分类为有针对性或无针对性，并最终识别目标主题类型。
2019-04-02 cs.CL
kdehumor at semeval-2020 task 7: a neural network model for detecting funniness in dataset humicroedit
Toyohashi University of Technology（丰桥技术科学大学）
本文介绍了我们对SemEval-2020任务7的贡献：评估编辑新闻标题中的幽默。在这里，我们提出了一种基于深度神经网络的方法。近年来，幽默的产生和感知受到了相当多的关注。我们的团队KdeHumor采用了包括双向LSTM（BiLSTM）在内的循环神经网络模型。此外，我们利用最先进的预训练句子嵌入技术。我们分析了我们的方法的性能，并展示了我们的架构的每个组件的贡献。
2021-05-11 cs.AI cs.CL
GNTeam at 2018 n2c2: Feature-augmented BiLSTM-CRF for drug-related entity recognition in hospital discharge summaries
School of Computer Science, The University of Manchester（曼彻斯特大学计算机学院）；Health eResearch Center, The University of Manchester（曼彻斯特大学健康电子研究中心）；The Alan Turing Institute（艾伦·图灵研究所）
监测药物给药和药物不良反应是药物警戒的关键部分。在本文中，我们探索通过深度学习从医院出院摘要中提取药物提及和药物相关信息（服用药物的原因，途径，频率，剂量，强度，形式，持续时间和不良事件），深度学习依赖于临床命名实体识别的各种表示。这项工作正式成为2018年n2 c2共享任务的一部分，我们使用提供的数据作为任务的一部分。我们开发了两种基于递归神经网络和预训练语言模型的深度学习架构。我们还探讨了临床命名实体识别的语义特征增强词表示的效果。我们的特征增强BiLSTM-CRF模型的F1得分为92.67%，在提交的n2 c2挑战系统中，实体提取子任务排名第4。使用预训练的特定领域词嵌入和用于标签优化的CRF层的递归神经网络执行药物、不良事件和相关实体提取，微平均F1分数超过91%。使用可用的临床NLP工具包提取语义特征来增强词向量可以进一步提高性能。词嵌入在相关文档的大型未注释语料库上进行预训练，并根据任务进行进一步微调，表现相当不错。然而，增加具有语义特征的词嵌入可以帮助提高来自电子健康记录的与药物相关的命名实体识别的性能（主要是通过提高精度）。
2019-09-23 cs.CL
Relation Extraction from Biomedical and Clinical Text: Unified Multitask Learning Framework
Indian Institute of Technology Patna（印度理工学院巴特那分校）
为了最大限度地减少在生物医学文献搜索中投入的加速时间，已经提出了许多用于自动化知识提取的方法。关系抽取就是这样一个任务，其中实体之间的语义关系是从自由文本中识别的。在生物医学领域，提取调控途径、代谢过程、药物不良反应或疾病模型需要来自个体关系的知识，例如，基因、蛋白质、药物、化学品、疾病或表型之间的物理或调控相互作用。在本文中，我们研究了关系抽取任务从三个主要的生物医学和临床任务，即药物-药物相互作用，蛋白质-蛋白质相互作用，医学概念关系抽取。为此，我们在多任务学习（MTL）框架中建模关系抽取问题，并首次引入结构化自我关注网络的概念，并辅以对抗性学习方法来预测生物医学和临床文本中的关系。MTL的基本概念是通过利用共享表示的概念同时学习多个问题。此外，我们还生成了高效的单任务模型，该模型利用了在注意门控递归单元上学习的最短依赖路径嵌入来比较我们提出的MTL模型。我们提出的框架显着提高了整体基线（深度学习技术）和单任务模型来预测关系，而不会影响所有任务的性能。
2020-09-20 cs.CL
IITK at SemEval-2024 Task 2: Exploring the Capabilities of LLMs for Safe Biomedical Natural Language Inference for Clinical Trials
Indian Institute of Technology, Kanpur（印度理工学院坎普尔分校）
本研究在 SemEval-2024 任务 2 中探索 LLMs 对乳腺癌临床试验报告进行安全生物医学 NLI 的能力，通过 RAG 框架和多种推理链比较 PLMs、GPT-3.5 与 Gemini Pro，取得 F1 0.69、一致性 0.71、忠实性 0.90 的结果。
2024-04-06 cs.AI cs.CL cs.LG
Amobee at SemEval-2018 Task 1: GRU Neural Network with a CNN Attention Mechanism for Sentiment Classification
Amobee
本文描述了Amobee在SemEval 2018上参与共享情感分析任务的情况。我们参与了所有的英语子任务和西班牙语效价任务。我们的系统由三个部分组成：训练特定于任务的词嵌入，训练一个由门控递归单元（GRU）和卷积神经网络（CNN）注意力机制组成的模型，并为每个子任务训练基于堆栈的集成。我们的算法分别在英语和西班牙语的价序分类子任务中达到了第3名和第1名。
2018-04-12 cs.CL stat.ML
DKE-Research at SemEval-2024 Task 2: Incorporating Data Augmentation with Generative Models and Biomedical Knowledge to Enhance Inference Robustness
Xi’an Jiaotong Liverpool University（西交利物浦大学）；University of Liverpool（利物浦大学）；University of Surrey（萨里大学）；Duke Kunshan University（昆山杜克大学）
针对临床试验生物医学自然语言推理中预训练模型偏差问题，提出结合语义扰动、领域词汇替换、数值推理任务的多任务数据增强方法，搭配DeBERTa架构，在NLI4CT 2024基准取得显著提升，消融验证各模块有效性，最终在32支队伍中获忠实度第12、一致性第8。
2024-04-14 cs.CL
Clinical TempEval
University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）；University of Sheffield（谢菲尔德大学）；Brandeis University（布兰迪斯大学）
我们描述了目前正在为SemEval-2015评估工作做准备的临床TempEval任务。这项任务涉及识别和描述临床文本中的事件，时间以及它们之间的关系。包括六个离散的子任务，重点是识别提到的时间和事件，描述这些提到的两种实体类型，确定事件和文档创建时间之间的关系，并确定叙事容器关系。
2014-03-19 cs.CL
SemEval-2023 Task 7: Multi-Evidence Natural Language Inference for Clinical Trial Data
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap研究所）；Cancer Research UK Manchester Institute（英国癌症研究院曼彻斯特研究所）
本文介绍SemEval-2023任务7（NLI4CT），包含临床试验数据的蕴含与证据选择两个子任务，发现增加模型参数比生物医学预训练更有效，并公开了数据集和结果。
2023-05-11 cs.AI cs.CL cs.LG
Combining Recurrent and Convolutional Neural Networks for Relation Classification
Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）；Institute for Natural Language Processing, University of Stuttgart（斯图加特大学自然语言处理研究所）；Siemens Corporate Technology（西门子中央研究院）
本文研究了两种不同的神经网络结构的关系分类任务：卷积神经网络和递归神经网络。对于这两种模式，我们展示了不同的架构选择的效果。我们提出了一种新的上下文表示卷积神经网络的关系分类（扩展的中间上下文）。此外，我们提出了连接主义双向递归神经网络，并引入排名损失的优化。最后，我们证明了使用简单的投票方案将卷积神经网络和递归神经网络相结合，足以提高结果的准确性。我们的神经模型在SemEval 2010关系分类任务上取得了最先进的结果。
2016-05-24 cs.CL
Multiple Range-Restricted Bidirectional Gated Recurrent Units with Attention for Relation Classification
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
大多数神经网络的关系分类方法都集中在使用卷积神经网络（CNN）来寻找表示语义关系的短模式，并且这些方法通常比使用递归神经网络（RNN）获得更好的性能。在与CNN模型类似的直觉中，我们提出了一种新的基于RNN的模型，该模型使用多个范围限制的双向层和对关系分类的关注，只关注句子的重要部分。SemEval-2010关系分类任务的实验结果表明，我们的模型与使用额外语言信息的最先进的基于CNN和基于RNN的模型相当。
2017-11-01 cs.CL
Enhancing Clinical Concept Extraction with Contextual Embeddings
School of Biomedical Informatics（生物医学信息学院）；The University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心）
基于神经网络的表示（“嵌入”）极大地推进了自然语言处理（NLP）任务，包括临床NLP任务，诸如概念提取。然而，最近，更先进的嵌入方法和表示（例如，ELMo、BERT）进一步推动了NLP的发展，但对于如何将这些表示集成到临床任务中，还没有通用的最佳实践。本研究的目的，然后，是探索在利用这些新的模型进行临床概念提取的可能选项的空间，包括比较这些传统的词嵌入方法（word 2 vec，GloVe，fastText）。评估了MIMIC-III的现成开放域嵌入和预训练的临床嵌入。我们探索了一系列由传统词嵌入和上下文嵌入组成的嵌入方法，并在四个概念提取语料库上进行了比较：i2 b2 2010，i2 b2 2012，SemEval 2014和SemEval 2015。我们还分析了ELMo或BERT等大语言模型的预训练时间对提取性能的影响。最后，我们提出了一个直观的方式来理解的语义信息编码的上下文嵌入。在大型临床语料库上预训练的上下文嵌入在所有概念提取任务中实现了新的最先进的性能。表现最好的模型优于所有最先进的方法，其F1测量值分别为90.25、93.18（部分）、80.74和81.65。我们展示了上下文嵌入的潜力，通过国家的最先进的性能，这些方法实现临床概念提取。此外，我们证明了上下文嵌入编码有价值的语义信息不占传统的词表示。
2019-08-14 cs.CL
End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures
Toyota Technological Institute（丰田工业大学）；Toyota Technological Institute at Chicago（芝加哥丰田工业研究所）
我们提出了一种新的端到端神经模型来提取实体和它们之间的关系。我们基于递归神经网络的模型通过将双向树结构LSTM-RNN堆叠在双向顺序LSTM-RNN上来捕获单词序列和依赖树子结构信息。这使得我们的模型能够在单个模型中联合表示具有共享参数的实体和关系。我们进一步鼓励在训练过程中检测实体，并通过实体预训练和预定采样在关系抽取中使用实体信息。我们的模型在端到端关系抽取方面优于最先进的基于特征的模型，在ACE 2005和ACE 2004上分别实现了12.1%和5.7%的F1分数相对误差减少。我们还表明，我们的基于LSTM-RNN的模型与最先进的基于CNN的模型（F1得分）在名义关系分类（SemEval-2010任务8）上相比毫不逊色。最后，我们提出了一个广泛的消融分析的几个模型组件。
2016-06-08 cs.CL cs.LG
NTUA-SLP at SemEval-2018 Task 3: Tracking Ironic Tweets using Ensembles of Word and Character Level Attentive RNNs
School of ECE, National Technical University of Athens（雅典国立技术大学电子与计算机工程学院）；Department of Informatics, Athens University of Economics and Business（雅典经济与商业大学信息学院）；Department of Informatics, University of Athens（雅典大学信息学院）；Behavioral Signal Technologies
在本文中，我们介绍了两个在SemEval-2018任务3“英语推文中的反讽检测”中竞争的深度学习系统。我们基于递归神经网络（Bi-LSTM）设计和集成了两个独立的模型，它们在单词和字符级别上运行，以捕获推文中的语义和句法信息。我们的模型增加了自我注意力机制，以识别信息量最大的单词。我们的词级模型的嵌入层是用word 2 vec词嵌入初始化的，并在5.5亿条英语推文的集合上进行了预训练。我们没有使用任何手工制作的特征，词典或外部数据集作为先验信息，我们的模型是使用约束数据的反向传播进行端到端训练的。此外，我们提供了可视化的推文与注释的显着令牌的注意力层，可以帮助解释所提出的模型的内部工作。我们在子任务A的42个团队中排名第二，在子任务B的31个团队中排名第二。然而，我们模型的任务完成后增强功能实现了最先进的结果，在两个子任务中排名第一。
2018-04-18 cs.CL
Drug-drug Interaction Extraction via Recurrent Neural Network with Multiple Attention Layers
National University of Defense Technology（国防科技大学）
药物间相互作用（DDI）是医生和药剂师打算同时给药两种或两种以上药物时的重要信息。因此，构建多个DDI数据库以避免错误地组合使用。近年来，从生物医学文本中自动提取DDI引起了研究者的关注。然而，现有的工作利用复杂的特征工程或NLP工具，这两个都是不够的句子理解。受自然语言处理中的深度学习方法的启发，我们提出了一种用于DDI分类的具有多个注意层的递归神经网络模型。我们在2013年SemEval DDIExtraction数据集上评估了我们的模型。实验表明，我们的模型将大多数药物对分类到正确的DDI类别中，这优于现有的NLP或深度学习方法。
2017-05-18 cs.CL
An Investigation of Recurrent Neural Architectures for Drug Name Recognition
University of Sydney（悉尼大学）；Capital Markets CRC（资本市场合作研究中心）；University of Technology Sydney（悉尼科技大学）
药物名称识别（DNR）是药物警戒（PV）管道中的重要步骤。DNR的目标是在非结构化的生物医学文本中找到药物名称，并将其分类到预定义的类别中。最先进的DNR方法严重依赖于手工制作的功能和难以收集和调整的特定于域的资源。出于这个原因，本文研究了当代递归神经架构的有效性-Elman和Jordan网络以及带有CRF解码的双向LSTM-直接从文本执行DNR。在权威的SemEval-2013 Task 9.1基准测试中获得的实验结果表明，双向LSTM-CRF与高度专用的手工制作的系统非常接近。
2016-09-24 cs.CL
Transfer Learning for the Prediction of Entity Modifiers in Clinical Text: Application to Opioid Use Disorder Case Detection
University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）；College of Computer Science and Engineering, Taibah University（塔伊巴大学计算机科学与工程学院）
本研究提出多任务Transformer架构联合预测临床实体修饰符，在SemEval 2015 Task 14上取得最优结果，并验证了迁移学习可有效应用于部分匹配的OUD数据集。
2024-02-05 cs.AI cs.CL cs.LG
Word Sense Induction with Neural biLM and Symmetric Patterns
Bar Ilan University（巴伊兰大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
一种已建立的词义归纳方法（WSI）使用语言模型来预测目标词的可能替代，并通过聚类这些得到的替代向量来归纳词义。我们用一个递归的语言模型代替了基于ngram的语言模型（LM）。除了更准确之外，使用递归LM还允许我们以一种创造性的方式有效地查询它，使用我们所谓的动态对称模式。RNN-LM和动态对称模式的组合为WSI提供了强大的替代向量，从而大大超过了SemEval 2013 WSI共享任务的当前最先进水平。
2018-08-30 cs.CL
Convolutional Gated Recurrent Units for Medical Relation Classification
Harbin Institute of Technology（哈尔滨工业大学）
卷积神经网络（CNN）和递归神经网络（RNN）模型已经成为关系分类的主流方法。我们提出了一个统一的架构，它同时利用CNN和RNN的优点，以确定医疗关系的临床记录，只有词嵌入功能。我们的模型通过CNN层学习短语级别的特征，这些特征表示被直接馈送到双向门控递归单元（GRU）层以捕获长期特征依赖性。我们在两个临床数据集上评估了我们的模型，实验表明，我们的模型在这两个数据集上的表现明显优于以前的单模型方法。
2018-07-29 cs.CL
Structure Regularized Bidirectional Recurrent Convolutional Neural Network for Relation Classification
School of Electronics Engineering and Computer Science, Peking University（北京大学信息科学技术学院）
关系分类是自然语言处理领域中一项重要的语义处理任务。本文提出了一种新的模型--结构正则化双向递归卷积神经网络（SR-BRCNN），用于句子中两个实体之间的关系分类，并利用新的中文三文数据集进行命名实体识别和关系分类。一些最先进的系统专注于利用卷积或循环神经网络对两个实体之间的最短依赖路径（SDP）进行建模。进一步探讨了如何充分利用SDP中的依赖关系信息，以及如何通过结构正则化的方法对模型进行改进。我们提出了一种结构正则化模型，沿着从结构正则化依赖树形成的森林中提取的SDP学习关系表示，这有利于降低整个模型的复杂性，并有助于将$F_{1}$得分提高10.3。实验结果表明，该方法在汉语三文测试中的性能优于现有方法，在SemEval-2010 Task 8数据集\footnote上的性能也相当。
2017-11-06 cs.CL
FZI-WIM at SemEval-2024 Task 2: Self-Consistent CoT for Complex NLI in Biomedical Domain
FZI Research Center for Information Technology（FZI信息技术研究中心）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
该研究提出面向生物医学临床试验 NLI 的自洽 CoT 推理系统，通过同提示采样多条推理链并多数投票，在 SemEval-2024 任务 2 中取得领先成绩并开源代码与数据。
2024-06-14 cs.AI cs.CL
Improved Relation Classification by Deep Recurrent Neural Networks with Data Augmentation
Key Laboratory of High Confidence Software Technologies (Peking University), Ministry of Education（高可信软件技术教育部重点实验室（北京大学））；Institute of Software, Peking University（北京大学软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Inveno Co., Ltd.（英围诺公司）
目前，神经网络在关系分类中扮演着重要的角色。通过设计不同的神经结构，研究人员在很大程度上提高了性能相比，传统的方法。然而，现有的用于关系分类的神经网络通常是浅体系结构（例如，单层卷积神经网络或循环网络）。他们可能无法探索不同抽象级别中的潜在表示空间。在本文中，我们提出了用于关系分类的深度循环神经网络（DRNN）来应对这一挑战。此外，我们提出了一个数据增强方法，利用关系的方向性。我们在SemEval-2010 Task~8上对我们的DRNN进行了评估，并获得了86.1%的F1分数，优于之前最先进的记录结果。
2016-10-13 cs.CL cs.LG
THiFLY Research at SemEval-2023 Task 7: A Multi-granularity System for CTR-based Textual Entailment and Evidence Retrieval
THiFLY Research（THiFLY研究院）；Tsinghua University（清华大学）；State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室）
本文提出融合 MGNet 句级与 token 级编码、SciFive 数值推理、模型集成及联合推理的多粒度系统，在 NLI4CT 两个子任务上均取得最佳 F1。
2023-06-02 cs.CL
Integer-Programming Ensemble of Temporal-Relations Classifiers
时态事件及其相互关系的提取和理解是自然语言处理的主要挑战。在逐句或逐表达式的基础上处理文本通常会失败，部分原因是捕获文本的全局一致性的挑战。我们提出了一个集成的方法，它调和跨文本使用整数规划的时间表达式的多个分类器的输出。计算实验表明，集成改进了最近两个挑战的最佳个体结果，SemEval-2013 TempEval-3（时间注释）和SemEval-2016 Task 12（临床TempEval）。
2018-07-30 cs.CL cs.LG math.OC
Relation Classification via Recurrent Neural Network
Tsinghua University（清华大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
深度学习在关系级分类中取得了很大的成功。例如，卷积神经网络（CNN）已经提供了有竞争力的性能，而无需像传统的基于模式的方法那样在特征工程上花费太多精力。因此，基于CNN结构的研究成果很多。然而，基于CNN的方法没有很好地解决的一个关键问题是缺乏学习时间特征的能力，特别是名义对之间的长距离依赖关系。在本文中，我们提出了一个简单的框架，基于递归神经网络（RNN），并比较它与基于CNN的模型。为了显示流行使用的SemEval-2010任务8数据集的局限性，我们引入了从MIMLRE提炼的另一个数据集（Angeli等人，2014年）。在两个不同数据集上的实验表明，基于RNN的模型可以提供更好的关系分类性能，特别是能够学习长距离关系模式。这使得它适用于经常涉及复杂表达式的实际应用。
2015-12-25 cs.CL cs.LG cs.NE
Enriching Pre-trained Language Model with Entity Information for Relation Classification
Alibaba Group (U.S.) Inc.（阿里巴巴集团（美国）公司）
关系分类是一项重要的自然语言处理任务，用于提取实体之间的关系。关系分类的最新方法主要基于卷积或递归神经网络。最近，预训练的BERT模型在许多NLP分类/序列标记任务中取得了非常成功的结果。关系分类与这些任务的不同之处在于，它依赖于句子和两个目标实体的信息。在本文中，我们提出了一个模型，既利用预训练的BERT语言模型，并结合来自目标实体的信息来处理关系分类任务。我们定位目标实体并通过预先训练的架构传输信息，并将两个实体的相应编码合并。我们在SemEval-2010任务8关系数据集上实现了对最先进方法的显着改进。
2019-05-20 cs.CL
LISA: Explaining Recurrent Neural Network Judgments via Layer-wIse Semantic Accumulation and Example to Pattern Transformation
Siemens AG（西门子股份公司）；University of Munich (LMU)（慕尼黑大学（LMU））
递归神经网络（RNN）是一种时间网络，本质上是累积的，在各种自然语言处理任务中已经显示出有希望的结果。尽管他们取得了成功，但要了解他们隐藏的行为仍然是一个挑战。在这项工作中，我们通过一种名为分层语义累积（LISA）的技术来分析和解释RNN的累积性质，用于解释决策和检测最可能的（即，显著性）模式，网络在决策时依赖于这些模式。我们演示了（1）LISA：“RNN如何在给定文本示例和预期响应的顺序处理过程中积累或构建语义”（2）Example2pattern：“根据决策中的网络，数据中每个类别的显着性模式看起来如何”。我们分析了RNN对不同输入的敏感性，以检查预测分数的增加或减少，并进一步提取网络学习的显着性模式。我们使用两个关系分类数据集：SemEval 10 Task 8和TAC KBP Slot Filling来解释通过LISA和example2模式进行的RNN预测。
2018-08-05 cs.AI cs.CL cs.IR
Simple Recurrent Neural Networks is all we need for clinical events predictions using EHR data
School of Biomedical Informatics, University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心生物医学信息学院）；School of Public Health, University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心公共卫生学院）；School of Computer Science and Technology, Dalian University of Technology（大连理工大学计算机科学与技术学院）；Computer Science Department, School of Engineering, Rice University（莱斯大学工程学院计算机科学系）
最近，人们对研究深度学习模型在使用电子健康记录（EHR）数据预测临床事件中的应用产生了极大的兴趣。在EHR数据中，患者的病史通常表示为一系列访问，每次访问包含多个事件。因此，为序列建模开发的深度学习模型，如循环神经网络（RNN），是基于EHR的临床事件预测模型的常见架构。虽然在文献中提出了各种各样的RNN模型，但目前还不清楚复杂的架构创新是否会提供卓越的预测性能。为了推动这一领域的发展，需要对各种方法进行严格的评估。在这项研究中，我们在EHR数据建模中对RNN架构进行了全面的基准测试。我们使用了两个预测任务：发生心力衰竭的风险和住院患者早期再入院的风险。我们发现，简单的门控RNN模型，包括GRU和LSTM，在使用贝叶斯优化进行适当调整时，通常会提供有竞争力的结果，这与自然语言处理（NLP）领域的研究结果相似。为了重现性，我们的代码库在https://github.com/ZhiGroup/pytorch_ehr上共享。
2021-10-03 cs.AI cs.CL cs.LG
Automatic Severity Classification of Coronary Artery Disease via Recurrent Capsule Network
East China University of Science and Technology（华东理工大学）；Shanghai Shuguang Hospital（上海曙光医院）
冠状动脉疾病（CAD）是心血管疾病死亡的主要原因之一。CAD病情进展迅速，如果不能在早期诊断和治疗，最终可能导致不可逆的心肌死亡状态。有创冠状动脉造影是诊断冠心病的金标准技术。冠状动脉造影文本详细描述了哪个部分有狭窄以及狭窄程度。对冠心病的严重程度进行分级至关重要。本文采用递归胶囊网络（RCN）提取中文冠状动脉造影文本中临床命名实体之间的语义关系，并根据Gensini改进的方法自动找出每个管腔的最大狭窄程度，从而推断CAD的严重程度。在上海曙光医院语料库上的实验结果表明，该方法对CAD严重程度的分类准确率达到97.0%.
2018-11-27 cs.CL
RePrompT: Recurrent Prompt Tuning for Integrating Structured EHR Encoders with Large Language Models
University of Kansas（堪萨斯大学）
RePrompT通过循环整合结构化EHR编码器与大语言模型，解决时间序列信息丢失和代码身份模糊问题，提升临床预测性能。
2026-04-20 cs.AI cs.CL
Grounded Recurrent Neural Networks
CIMS, New York University（纽约大学库朗数学科学研究所）；CSAIL & IMES, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室及医学工程与科学研究所）
在这项工作中，我们提出了接地递归神经网络（GRNN），这是一种用于多标签预测的递归神经网络架构，它明确地将标签与递归隐藏状态的特定维度联系起来（我们称这个过程为“接地”）。该方法特别适合从文本中提取大量概念。我们应用新模型来解决医疗保健中的一个重要问题，即理解临床文本中讨论的医学概念。使用来自重症监护病房的公开数据集，我们学会了从出院总结中标记患者的诊断和程序。我们的评估表明，在各种强大的基线上使用我们提出的架构具有明显的优势。
2017-05-23 cs.CL cs.LG cs.NE
Identifying Harm Events in Clinical Care through Medical Narratives
Georgetown University（乔治城大学）；MedStar Health
据估计，可排除的医疗差错是美国造成伤害和死亡的主要原因之一。为了防止这种错误，医疗保健系统已经实施了患者安全和事件报告系统。这些系统使临床医生能够报告不安全的情况以及患者因医疗错误而受到伤害的情况。这些报告是以自然语言进行的叙述，虽然它们提供了有关情况的详细信息，但进行大规模分析以识别错误和患者伤害的常见原因并非易事。在这项工作中，我们提出了一种基于专注卷积和递归网络的方法，用于识别患者护理中的伤害事件，并根据其严重程度对伤害进行分类。我们证明，我们的方法可以显着提高现有的方法在临床护理中识别伤害的性能。
2017-08-15 cs.CL cs.IR
Classifying Relations via Long Short Term Memory Networks along Shortest Dependency Path
Software Institute, Peking University（北京大学软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）
关系分类是自然语言处理领域的一个重要研究方向。在本文中，我们提出了SDP-LSTM，这是一种新型的神经网络，用于对句子中两个实体的关系进行分类。我们的神经架构利用了两个实体之间的最短依赖路径（SDP）;多通道递归神经网络，具有长短期记忆（LSTM）单元，沿着SDP拾取异构信息。我们提出的模型有几个明显的特点：（1）最短的依赖路径保留最相关的信息（关系分类），同时消除句子中的无关词。(2)多通道LSTM网络允许在依赖路径上从异构源进行有效的信息集成。(3)定制的丢弃策略使神经网络规则化以减轻过拟合。我们在SemEval 2010关系分类任务上测试了我们的模型，并获得了83.7%的$F_1$分数，高于文献中的竞争方法。
2015-08-15 cs.CL cs.LG
Bidirectional LSTM-CRF for Clinical Concept Extraction
University of Sydney（悉尼大学）；Capital Markets CRC（资本市场合作研究中心）；University of Technology Sydney（悉尼科技大学）
从患者临床记录中自动提取概念是临床研究的重要促进因素。出于这个原因，2010年i2 b2/VA临床记录的自然语言处理挑战引入了概念提取任务，旨在将概念识别和分类到预定义的类别中（即，治疗，测试和问题）。现有的概念抽取方法严重依赖于手工特征和难以收集和定义的特定领域资源。出于这个原因，本文提出了一种替代的简化方法：使用通用的现成单词嵌入初始化的递归神经网络（具有CRF解码的双向LSTM）。使用该框架在2010年i2 b2/VA参考语料库上取得的实验结果优于所有最近的方法，并接近于2010年i2 b2/VA挑战赛的最佳提交。
2016-11-25 cs.CL cs.LG stat.ML
