Focus on the Core: Efficient Attention via Pruned Token Compression for Document Classification
Chung-Ang University(中央大学)
针对BERT自注意力机制计算成本高的问题,提出整合token剪枝与token合并策略,利用模糊逻辑降低误剪枝风险,在提升文档分类性能的同时显著降低内存开销并实现加速。
2024-06-03 cs.AI cs.CL
An Effective System for Multi-format Information Extraction
Northeastern University(东北大学)
2021年语言与智力挑战赛中的多格式信息抽取任务,旨在从不同维度对信息抽取进行综合测评。它由一个多槽关系抽取子任务和两个事件抽取子任务组成,这两个子任务分别从事件级和文档级抽取事件。在这里,我们描述我们的系统,这种多格式的信息抽取竞争任务。具体而言,对于关系抽取子任务,我们将其转换为传统的三元组抽取任务,并设计了一种基于投票的方法,充分利用现有的模型。对于事件级事件提取子任务,我们将其转换为NER任务,并使用基于指针标记的方法进行提取。此外,考虑到标注的触发信息可能有助于事件提取,设计了一个辅助触发识别模型,并利用多任务学习机制将触发特征集成到事件提取模型中。对于文档级事件提取子任务,我们设计了一种基于编码器-解码器的方法,并提出了一种类似于transformer的解码器。最后,我们的系统在该多格式信息抽取任务的测试集排行榜上排名第4,其关系抽取、文档级事件抽取和文档级事件抽取的F1得分分别为79.887%、85.179%和70.828%。我们模型的代码可以在{https://github.com/neukg/MultiIE}上找到。
2021-08-16 cs.AI cs.CL
CMNEE: A Large-Scale Document-Level Event Extraction Dataset based on Open-Source Chinese Military News
National University of Defense Technology(国防科技大学);Southeast University(东南大学);Tsinghua University(清华大学)
针对军事文本事件抽取的数据稀缺问题,提出大规模文档级中文军事新闻事件抽取数据集CMNEE,含17,000文档和29,223事件,实验表明该领域任务更具挑战性。
2024-04-18 cs.CL
Dialogue Relation Extraction with Document-level Heterogeneous Graph Attention Networks
Singapore University of Technology and Design(新加坡科技设计大学)
对话关系抽取(DRE)的目的是检测在多方对话中提到的两个实体之间的关系。它对于从互联网上日益丰富的会话数据中构建知识图谱,促进智能对话系统的发展具有重要作用。先前的DRE方法并没有有意义地利用说话人信息,它们只是在话语前面加上各自的说话人名字。因此,他们未能模拟关键的说话人之间的关系,可能会通过代词和触发器提供额外的上下文相关的论点实体。然而,我们提出了一个基于图注意力网络的方法DRE的图,其中包含有意义的连接扬声器,实体,实体类型,和话语节点,构建。该图被馈送到图注意力网络,用于在相关节点之间进行上下文传播,从而有效地捕获对话上下文。我们的经验表明,这种基于图的方法非常有效地捕捉了对话中不同实体对之间的关系,因为它在基准数据集DialogRE上的表现明显优于最先进的方法。我们的代码发布于:https://github.com/declare-lab/dialog-HGAT
2021-06-20 cs.CL
SilentRetrieval: Hijacking Retrieval-Augmented Generation via Semantically-Preserving Adversarial Data Poisoning
City University of Hong Kong(香港城市大学)
提出SilentRetrieval两阶段数据投毒攻击,通过协调束搜索和上下文自适应触发生成,在保持文档流畅性的同时实现高检索命中率和攻击成功率,并评估了防御措施的有效性。
2026-05-27 cs.CL cs.CR cs.IR
Doc2EDAG: An End-to-End Document-level Framework for Chinese Financial Event Extraction
Institute of Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Microsoft Research(微软研究院)
现有的事件抽取方法大多只抽取句子范围内的事件论元。然而,这样的企业级EE方法难以处理来自新兴应用(诸如金融、立法、健康等)的激增的文档量,其中事件论点总是分散在不同的句子中,甚至多个这样的事件提及经常共存于同一文档中。为了解决这些挑战,我们提出了一种新的端到端模型,Doc2EDAG,它可以生成一个基于实体的有向无环图,以有效地实现文档级EE(DEE)。此外,我们重新形式化的DEE任务与无触发词的设计,以减轻文档级的事件标记。为了证明Doc2EDAG的有效性,我们建立了一个大规模的真实世界的数据集,包括中国的财务公告与上述挑战。广泛的实验与全面的分析说明了Doc2EDAG的优越性比国家的最先进的方法。数据和代码可以在https://github.com/dolphin-zs/Doc2EDAG上找到。
2019-09-23 cs.CL cs.LG
BERAG: Bayesian Ensemble Retrieval-Augmented Generation for Knowledge-based Visual Question Answering
Department of Engineering(工程系)
BERAG通过将语言模型条件于单个检索文档而非单一上下文,解决检索增强生成中文档贡献不明和长上下文中的信息丢失问题,提升视觉问答任务性能。
2026-10-27 cs.CL
A Two-Stream AMR-enhanced Model for Document-level Event Argument Extraction
Peking University(北京大学);Tencent Cloud Xiaowei(腾讯云小微)
以往的研究大多是从单个句子中提取事件,而文档级的事件提取仍然是探索不足。在本文中,我们专注于从整个文档中提取事件参数,这主要面临两个关键问题:a)触发器和参数之间的长距离依赖的句子; b)分散上下文对文档中的事件。为了解决这些问题,我们提出了一个双流抽象意义表示增强提取模型(TSAR)。TSAR采用双流编码模块从不同角度对文档进行编码,充分利用了局部和全局信息,降低了上下文干扰的影响。此外,TSAR还引入了AMR引导的交互模块,以局部和全局构造的AMR语义图为基础,捕获表内和表间特征。引入一个辅助的边界损失来显式地增强文本跨度的边界信息。大量的实验表明,TSAR优于以前的国家的最先进的大幅度,与2.54 F1和5.13 F1的性能增益在公共RAMS和WikiEvents数据集上分别显示出跨句子的参数提取的优越性。我们在https://github.com/ PKUnlp-icler/TSAR中发布我们的代码。
2022-04-30 cs.AI cs.CL
Understanding Performance Collapse in Layer-Pruned Large Language Models via Decision Representation Transitions
School of Computer Science and Engineering, Southeast University, Nanjing, China(东南大学计算机科学与工程学院,南京,中国);Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China(新一代人工智能技术及其交叉应用重点实验室(东南大学),教育部,中国)
本文通过决策表示过渡分析层剪枝对大型语言模型性能的影响,提出决策边际和选项频率两个指标,揭示剪枝导致决策阶段转变的机制,发现剪枝沉默阶段会引发性能崩溃。
2026-05-08 cs.AI cs.CL
Corrective Retrieval Augmented Generation
Department of Computer Science, University of California, Los Angeles(加利福尼亚大学洛杉矶分校计算机科学系);Google DeepMind(谷歌DeepMind)
针对大语言模型幻觉及RAG依赖检索质量的问题,提出即插即用的CRAG方法,通过轻量检索评估器、网页搜索扩展和先分解再重组算法,显著提升各类RAG方法的生成鲁棒性与性能。
2024-10-07 cs.CL
Retrieval-Augmented Large Language Models for Schema-Constrained Clinical Information Extraction
George Mason University(乔治·马歇尔大学)
本文提出一种模块化检索增强生成框架,通过schema约束提示、确定性后处理和二次审核,提升护士-患者对话中观察提取的F1分数达80.36%。
2026-05-14 cs.AI cs.CL
TRIS: A Tri-Layer Retrieval Integrity Sieve Against Knowledge Poisoning
University of Texas at Dallas(德克萨斯大学达拉斯分校)
该研究针对RAG的知识投毒攻击,提出三层检索完整性筛选器TRIS,通过跨嵌入空间聚类、结构过滤和LLM一致性验证,大幅降低攻击成功率并恢复干净准确率。
2026-09-02 cs.CL cs.CR cs.IR
COFFEE: A Contrastive Oracle-Free Framework for Event Extraction
University of Cambridge(剑桥大学);University of Glasgow(格拉斯哥大学)
本文提出COFFEE框架,通过对比选择模型在仅给定文本上下文的无预言设定下纠正触发词并处理多事件,在ACE05上超越现有方法。
2024-09-03 cs.CL
When More Documents Hurt RAG: Measuring and Reducing Vector Search Dilution with Domain-Scoped Retrieval
Dept. of Electrical Engineering & Computer Science, University of Wyoming(怀俄明大学电气工程与计算机科学系);Dept. of Civil, Architectural Engineering & Construction Management, University of Wyoming(怀俄明大学土木、建筑工程与施工管理系)
针对检索增强生成在异构文档集合中因向量搜索稀释导致性能下降的问题,提出基于组织元数据的领域限定方法MASDR-RAG,显著提升P@10至0.86,并揭示多智能体编排的精度-忠实度悖论。
2026-10-15 cs.CL cs.IR
Event Extraction by Associating Event Types and Argument Roles
事件抽取(EE)是从文本中获取结构化的事件知识,可以分为两个子任务:事件类型分类和元素抽取(即识别不同角色模式下的触发器和论元)。由于不同的事件类型总是拥有不同的提取模式(即,角色模式),以前的EE工作通常遵循一个孤立的学习范式,为不同的事件类型独立地执行元素提取。它忽略了事件类型和参数角色之间有意义的关联,导致不太频繁的类型/角色的性能相对较差。本文提出了一种新的神经联想框架EE任务。该算法首先通过构建文档级图来关联不同类型的句子节点,然后采用图注意力网络学习句子嵌入,从而实现对文档的类型分类。然后,通过建立一个通用的参数角色模式来实现元素提取,并使用参数继承机制来增强提取元素的角色偏好。因此,我们的模型在EE过程中考虑了类型和角色关联,从而实现了它们之间的隐式信息共享。实验结果表明,我们的方法始终优于最先进的EE方法在这两个子任务。特别地,对于具有较少训练数据的类型/角色,性能优于现有方法。
2022-08-18 cs.CL
If there's a Trigger Warning, then where's the Trigger? Investigating Trigger Warnings at the Passage Level
Bauhaus-Universität Weimar(魏玛包豪斯大学);Leipzig University(莱比锡大学);University of Kassel(卡塞尔大学)
该研究首次探究从文档中识别触发段落的可行性,构建了含4135个英文段落的多类别触发标注数据集,评估了微调与少样本分类器的效果,证实自动触发分类虽具挑战但可行。
2024-04-15 cs.CL cs.CY
RAG Collapse: LLM Responses Collapse When Retrieved Documents Are Self-Authored
Graphite Growth(石墨增长公司)
该研究发现,当基于LLM的AI系统检索自身生成的参考资料时会发生RAG坍缩,经大量模拟实验证实79.6%的模拟会坍缩,且仅一份自主生成参考资料即可触发该现象。
2026-08-25 cs.CL cs.IR
Rapid Customization for Event Extraction
Raytheon BBN Technologies(雷神BBN技术公司)
我们提出了一个系统,快速定制事件提取能力,找到新的事件类型和他们的参数。该系统允许用户通过探索未注释的语料库来查找、扩展和过滤新事件类型的事件触发器。然后,系统将自动生成提及级事件注释,并训练神经网络模型以查找相应的事件。此外,该系统使用ACE语料库来训练参数模型,用于为任何事件类型提取Actor、Place和Time参数,包括在其训练数据中未看到的参数。实验表明,在每个事件类型的人工工作时间不到10分钟的情况下,系统对67种新事件类型都取得了良好的性能。代码、文档和演示视频将在github.com上作为开源发布。
2018-09-20 cs.CL
Utilizing Contextual Clues and Role Correlations for Enhancing Document-level Event Argument Extraction
University of Electronic Science and Technology of China(电子科技大学)
针对文档级事件论元抽取中上下文交互不足和事件角色关联被忽视的问题,提出 CARLG 框架,通过 CCA 与 RLIG 以不足 1% 的新增参数提升性能与推理速度。
2024-04-03 cs.CL cs.IR
Event Extraction for Portuguese: A QA-driven Approach using ACE-2005
LIAAD-INESC TEC;FCUP-University of Porto(波尔图大学FCUP学院);University of Minho(米尼奥大学);University of Beira Interior(贝拉 interior 大学)
本文针对葡萄牙语事件抽取语料匮乏问题,通过自动翻译ACE-2005构建新语料,并采用基于BERT的token分类与问答模型分别完成触发词检测和论元抽取,在两项任务上取得新的最优F1值。
2024-08-29 cs.AI cs.CL
A Case Study on Pros and Cons of Regular Expression Detection and Dependency Parsing for Negation Extraction from German Medical Documents. Technical Report
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Oldenburg University(奥尔登堡大学)
我们描述了我们的工作信息抽取在德国写的医疗文件,特别是检测否定使用的架构的基础上UIMA管道。基于我们以前在软件模块上的工作,以涵盖诊断,检查等医学概念,我们采用了一个版本的NegEx正则表达式算法,其中包含大量触发器作为基线。我们展示了如何一个显着较小的触发集是足以实现类似的结果,以减少适应新的文本类型的时间。我们详细说明的问题是否依存句法分析(基于斯坦福CoreNLP模型)是一个很好的选择,并描述了这两种方法的潜力和缺点。
2021-05-20 cs.CL
Deceptive Grounding: Entity Attribution Failure in Clinical Retrieval-Augmented Generation
Lunit(鲁尼特)
研究临床检索增强生成中的欺骗性基础问题,通过对13个模型测试发现DG率8%-87%,医学等微调模型高达86.7%。控制消融确定机制,实体归因验证可检测DG,现有框架未实施,为该领域研究提供新视角和方法。
2026-07-13 cs.AI cs.CL cs.LG
A Rationale-centric Counterfactual Data Augmentation Method for Cross-Document Event Coreference Resolution
School of Engineering, Westlake University(西湖大学工程学院);Zhejiang University(浙江大学);Beijing University of Posts and Telecommunications(北京邮电大学);Institute of Advanced Technology, Westlake Institute for Advanced Study(西湖高等研究院先进技术研究院)
针对跨文档事件共指消解中触发词词汇匹配的虚假偏差,本文基于结构因果模型提出 LLM 参与闭环的理据中心反事实数据增强方法,在三个基准上达到 SOTA 并具备域外鲁棒性。
2024-05-08 cs.CL
Generating Harder Cross-document Event Coreference Resolution Datasets using Metaphoric Paraphrasing
Education Testing Service (ETS)(美国教育考试服务中心(ETS));University of Colorado Boulder(科罗拉多大学博尔德分校)
针对现有跨文档事件共指消解数据集词汇多样性不足及比喻语言数据匮乏的问题,提出ECB+META数据集,利用ChatGPT进行隐喻改写并半自动标注,证明现有方法在该数据集上表现不佳。
2024-06-05 cs.CL
Generating Uncontextualized and Contextualized Questions for Document-Level Event Argument Extraction
Arizona State University(亚利桑那州立大学);University of Arizona(亚利桑那大学)
本文提出无需人工参与的多种问题生成策略,通过结合非语境化与语境化问题提升文档级事件论元提取性能,并验证了策略的跨语料库迁移能力。
2024-04-07 cs.CL
EventPlus: A Temporal Event Understanding Pipeline
University of California, Los Angeles(加州大学洛杉矶分校);University of Southern California(南加州大学);Texas A&M University(德克萨斯A&M大学)
我们提出EventPlus,一个时间事件理解管道,集成了各种国家的最先进的事件理解组件,包括事件触发器和类型检测,事件参数检测,事件持续时间和时间关系抽取。事件信息,尤其是事件时态知识,是一种帮助人们理解故事如何演变并为未来事件提供预测暗示的常识性知识。EventPlus作为第一个全面的时态事件理解管道,为用户提供了一个方便的工具,可以快速获取任何用户提供的文档的事件及其时态信息的注释。此外,我们表明EventPlus可以很容易地适应其他领域(例如,生物医学领域)。我们公开EventPlus,以促进与事件相关的信息抽取和下游应用。
2021-04-25 cs.AI cs.CL cs.HC
Argument-Centric Causal Intervention Method for Mitigating Bias in Cross-Document Event Coreference Resolution
School of Computer Science and Technology, Xinjiang University, Urumqi, 830046, Xinjiang, China(新疆大学计算机科学与技术学院);Xinjiang Key Laboratory of Multilingual Information Technology, Xinjiang University, Urumqi, 830046, Xinjiang, China(新疆大学多语信息处理重点实验室);Department of Electronic Engineering, Tsinghua University, Beijing, 100084, China(清华大学电子工程系)
本文提出论元中心因果干预方法ACCI,通过结构化因果图、后门调整、反事实推理和论元感知增强,在端到端框架中缓解跨文档事件共指消解的触发词偏差,并在ECB+和GVC上取得最先进性能。
2025-06-02 cs.CL cs.IR
A Study on Token Pruning for ColBERT
Naver Labs Europe(Naver Labs 欧洲);Naver Corp(Naver 公司)
ColBERT模型最近被提出作为一种有效的基于BERT的排名器。通过采用后期交互机制,ColBERT的一个主要优点是可以预先计算文档表示。然而,该模型的最大缺点是索引大小,它与集合中的令牌数量呈线性关系。在本文中,我们研究了各种设计ColBERT模型,以解决这个问题。虽然压缩技术已被探索,以减少索引的大小,在本文中,我们研究标记修剪技术的ColBERT。我们比较简单的算法,以及一个单层的注意力机制,以选择标记保持在索引时间。我们的实验表明,ColBERT索引可以修剪高达30%的MS MARCO通道收集没有显着下降的性能。最后,我们在MS MARCO文档上进行了实验,揭示了这种机制面临的一些挑战。
2021-12-13 cs.CL cs.IR
Schema-Constrained Document-Level Event Argument Extraction with Lightweight LLM Fine-Tuning
University of Naples Federico II(那不勒斯费德里科二世大学);University of Salerno(萨勒诺大学)
研究文档级模式约束事件论元抽取,结合角色集注入、参数高效监督微调及确定性解码后处理方法,使微调后的中型开放模型在MAVEN-ARG评估中优于GPT基线,最好模型在事件共指级别达42.39% F1值。
2026-07-21 cs.CL
Verifiable Generation with Subsentence-Level Fine-Grained Citations
University of Michigan(密歇根大学)
本文研究子句级细粒度引用的可验证生成,提出包含1万维基百科段落的SCiFi数据集,并通过实验揭示扩大源文档上下文和专门微调可提升引用质量。
2024-06-10 cs.CL
Asking and Answering Questions to Extract Event-Argument Structures
Arizona State University(亚利桑那州立大学);University of Arizona(亚利桑那大学)
本文提出一种问答方法提取文档级事件-论元结构,结合模板与大语言模型生成问题,并开发句间关系数据增强策略,在RAMS数据集上取得优异结果。
2024-04-25 cs.CL
One Small and One Large for Document-level Event Argument Extraction
Xinjiang University(新疆大学);Renmin University(中国人民大学);Tsinghua University(清华大学)
针对文档级事件论元抽取中语义边界区分难和冗余信息干扰的问题,提出基于小语言模型的CsEAE模型和面向大语言模型的生成式提示方法,在多个数据集上取得显著性能提升。
2024-11-08 cs.CL
XCoref: Cross-document Coreference Resolution in the Wild
University of Wuppertal(伍珀塔尔大学);University of Konstanz(康斯坦茨大学);Heidelberg Academy of Sciences and Humanities(海德堡科学与人文学院);University of Zurich(苏黎世大学)
用于跨文档共指消解(CDCR)的数据集和方法关注具有严格共指关系的事件或实体。然而,他们缺乏注释和解决更抽象或松散的关系,可能会发生在新闻报道有争议的和两极分化的事件的共指提及。桥接和松散的共指关系触发的协会,可能会导致暴露新闻读者偏见的词的选择和标签。例如,提到“美国总统唐纳德·特朗普和金正恩之间的直接会谈”,如“在几个月的激烈言论之后举行的特别会议”或“解决世界问题的巨大机会”,会形成对这一事件的更积极的看法。一个步骤,使意识到偏见的词的选择和标签是可靠的解决方案,具有高度词汇多样性的共指。我们提出了一种名为XCoref的无监督方法,这是一种CDCR方法,不仅能够解决以前普遍存在的实体,如人,例如,“唐纳德·特朗普”,但也抽象定义的概念,如人群,“移民大篷车”,事件和行动,例如,向美国边境进军“在广泛的评估中,我们将提出的XCoref与最先进的CDCR方法和以前的方法TCA进行了比较,该方法解决了这种复杂的共指关系,并发现XCoref优于这些方法。跑赢了一个既定的CDCR模型表明,新的CDCR模型需要进行评估,语义复杂的提到更松散的共指关系,以表明其适用性的模型来解决提到的“野生”的政治新闻文章。
2021-09-11 cs.CL
CUP: Curriculum Learning based Prompt Tuning for Implicit Event Argument Extraction
East China Normal University(华东师范大学);Fudan University(复旦大学)
隐式事件参数提取(EAE)的目的是识别可能分散在文档中的参数。以往的研究大多集中在学习参数和触发器之间的直接关系,而隐含的关系与长程依赖没有得到很好的研究。此外,最近的基于神经网络的方法依赖于大量的标记数据进行训练,由于高标记成本,这是不可用的。本文提出了一种基于课程学习的提示微调(CUP)方法,通过四个学习阶段来解决内隐EAE。根据触发器节点在语义图中的关系定义阶段,很好地捕捉了参数和触发器之间的长程依赖关系。此外,我们集成了一个基于提示的编码器-解码器模型,以在每个阶段从预训练的语言模型(PLM)中获取相关知识,其中提示模板与学习进度相适应,以增强参数的推理。在两个著名的基准数据集上的实验结果显示了我们所提出的方法的巨大优势。特别是,我们在完全监督和低数据场景中的表现优于最先进的模型。
2022-06-12 cs.CL
Misinformation Without Triggers: From Factual Answers to Downstream Decisions
University of Technology Sydney(悉尼科技大学)
研究发现语言模型在无触发器数据投毒下,事实性回答正确但下游决策仍受虚假内容影响,存在审计差距,正确事实不保证正确决策。
2026-10-05 cs.AI cs.CL
A Semantic Mention Graph Augmented Model for Document-Level Event Argument Extraction
School of Computer Science and Technology, Xi'an Jiaotong University(西安交通大学计算机科学与技术学院);National University of Singapore(新加坡国立大学)
本文提出语义提及图增强模型(GAM),通过构建语义提及图并集成图变换器模块,解决文档级事件参数提取中实体提及独立建模和文档-提示隔离问题,在RAMS和WikiEvents数据集上取得最优性能。
2024-03-12 cs.AI cs.CL
Prioritization of COVID-19-related literature via unsupervised keyphrase extraction and document representation learning
Jožef Stefan Institute(约瑟夫·斯蒂芬研究所);Jožef Stefan International Postgraduate School(约瑟夫·斯蒂芬国际研究生院);University of Maribor(马里博尔大学)
COVID-19大流行引发了一波新的科学文献,这些文献不可能在合理的时间范围内手动检查和研究。当前的机器学习方法提供了将此类文献主体投影到向量空间中,其中类似的文档彼此靠近,从而提供了对科学论文和与COVID-19相关的其他知识源的深入探索。然而,要开始搜索,需要对这些文本进行适当的注释,但由于缺乏人力资源,这种情况很少发生。在我们的系统中,使用无监督的关键词提取来注释当前的COVID-19相关文献,从而促进对包含学习的文档嵌入(低维表示)的潜在空间的初始查询。该解决方案是通过一个网络服务器能够交互式搜索,术语排名,并探索潜在的有趣的文献。我们通过药物化学领域的案例研究证明了该方法的实用性。
2021-10-17 cs.CL cs.DL cs.IR
Event-based clinical findings extraction from radiology reports with pre-trained language model
University of Washington(华盛顿大学)
放射学报告包含放射科医生在解读图像期间记录的各种丰富的临床异常。放射学发现的综合语义表示将使广泛的二次使用应用程序能够支持诊断、分诊、结果预测和临床研究。在本文中,我们提出了一个新的语料库的放射学报告注释的临床发现。我们的注释模式捕获了在成像(“病变”)和其他类型的临床问题(“医学问题”)上可观察到的病理发现的详细表示。该模式使用基于事件的表示来捕获细粒度的细节,包括断言,解剖结构,特征,大小,计数等。我们的黄金标准语料库包含总共500个注释的计算机断层扫描(CT)报告。我们使用两种最先进的深度学习架构提取触发器和参数实体,包括BERT。然后,我们预测触发器和参数实体(称为参数角色)之间的联系,使用基于BERT的关系抽取模型。我们使用在我们机构的300万份放射学报告上预训练的BERT模型实现了最佳提取性能:90.9%-93.4%F1用于寻找触发器72.0%-85.6%F1用于参数角色。为了评估模型的可推广性,我们使用了从MIMIC胸部X射线(MIMIC-CXR)数据库中随机抽样的外部验证集。该验证集的提取性能为95.6%,用于寻找触发器,79.1%-89.7%用于参数角色,表明该模型适用于不同成像模式的跨机构数据。我们从MIMIC-CXR数据库中的所有放射学报告中提取发现事件,并将提取结果提供给研究团体。
2021-12-27 cs.CL
Time as Structure: A Temporal Backbone for Extraction and Reasoning over Legal Documents
Leiden Institute of Advanced Computer Science (LIACS)(莱顿高级计算机科学研究所(LIACS));Leiden University(莱顿大学)
该研究针对法律文件截止日期计算问题,提出时间依赖图结合日历引擎的方法,在英国就业上诉法庭案件中表现优于语言模型,正确率达90.2%,可用于可验证的法律截止日期计算。
2026-11-11 cs.CL
Event Argument Extraction with Enriched Prompts
Beijing Jiaotong University(北京交通大学)
本研究探究提示中融入触发词、同事件及跨事件角色论元对基于提示的事件论元抽取模型性能的影响,给出该类模型最优性能并验证可从训练目标角度优化,在RAMS上完成多模型实验。
2025-01-12 cs.CL
CLASP: Defending Hybrid Large Language Models Against Hidden State Poisoning Attacks
Ghent University–imec(根特大学–imec)
CLASP通过分析Mamba块输出嵌入的差异模式,利用XGBoost分类器检测恶意token,实现高效防御隐藏状态污染攻击,具有轻量级部署优势。
2026-03-27 cs.CL
GrepSeek: Training Search Agents for Direct Corpus Interaction
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
提出GrepSeek,一种通过两阶段训练(冷启动数据集+GRPO优化)和语义保持的分片并行执行引擎,训练紧凑型搜索代理直接与文本语料库交互(通过shell命令),在开放域问答中取得最优F1和精确匹配。
2026-10-01 cs.AI cs.CL cs.IR
Automated Detection and Structuring of Social Tipping Point Evidence in Climate related Documents: A Modular AI Framework
University of Oulu(奥卢大学);ITML CY(ITML CY公司);PredictBy Research and Consulting SL(PredictBy研究咨询有限公司);Verimpact(Verimpact公司);Epsilon International Ltd(埃普西隆国际有限公司);Politecnico di Milano(米兰理工大学);Inspiring Futures Europe(欧洲启迪未来机构);Centre for European Policy Studies(欧洲政策研究中心)
针对气候文献中社会临界点证据分散且缺乏系统发现方法的问题,提出一个模块化Transformer框架,在段落层面检测并结构化证据,实验表明其性能优于现有方法。
2026-09-14 cs.AI cs.CL