Annotation-Inspired Implicit Discourse Relation Classification with Auxiliary Discourse Connective Generation
Heidelberg Institute for Theoretical Studies gGmbH(海德堡理论研究所)
针对隐式话语关系分类缺连接词的难题,受PDTB标注启发提出端到端联合模型,结合计划采样生成连接词并预测关系,在三个基准上显著优于基线。
2023-06-10 cs.CL
Prompt-based Connective Prediction Method for Fine-grained Implicit Discourse Relation Recognition
East China Normal University(华东师范大学);Shanghai Transsion Co., Ltd.(上海传音控股股份有限公司)
由于连接词的缺乏,隐性话语关系识别(IDRR)仍然是话语分析中一项具有挑战性和关键性的任务。目前大多数的工作采用多任务学习,以帮助IDRR通过显式话语关系识别(EDRR)或利用话语关系标签之间的依赖关系来约束模型预测。但这些方法在细粒度的IDRR上仍然表现不佳,甚至在大多数Few-Shot话语关系类上完全错误识别。为了解决这些问题,我们提出了一种新的基于连接预测(PCP)的IDRR方法。我们的方法指导大规模预训练模型使用与话语关系相关的知识,并利用连接词与话语关系之间的强相关性来帮助模型识别隐含的话语关系。实验结果表明,该方法优于当前最先进的模型,并取得了显着改善那些细粒度的Few-Shot的话语关系。此外,我们的方法是能够转移到EDRR,并获得可接受的结果。我们的代码发布在https://github.com/zh-i9/PCP-for-IDRR上。
2022-10-16 cs.CL
Leveraging Hierarchical Prototypes as the Verbalizer for Implicit Discourse Relation Recognition
University of Edinburgh(爱丁堡大学)
本文提出利用捕捉类别语义特征的层次化原型替代人工verbalizer进行隐式篇章关系识别,在提升性能的同时支持零样本跨语言迁移,解决了传统方法中verbalizer歧义和低资源语言适配问题。
2024-11-22 cs.CL
Let's be explicit about that: Distant supervision for implicit discourse relation classification via connective prediction
Stockholm University(斯德哥尔摩大学)
在隐性话语关系分类中,我们希望在没有任何显性话语联系语的情况下预测相邻句子之间的关系。这甚至对人类来说也是一个挑战,导致注释数据的短缺,这使得监督机器学习方法的任务更加困难。在本研究中,我们不依赖于任何标记的隐含关系进行隐性话语关系分类。我们避开了缺乏数据,通过显式的隐含关系,减少任务到两个子问题:语言建模和显式的话语关系分类,一个更容易的问题。我们的实验结果表明,这种方法甚至可以略优于国家的最先进的,尽管是简单得多的替代模型的可比性能。此外,我们还表明,所实现的性能在各个领域都是鲁棒的,正如在完全不同的领域进行的零射击(zero-shot)实验所表明的那样。这表明语言建模的最新进展已经使得语言模型在没有显式话语标记的帮助下能够足够好地捕捉句子间的关系。
2021-06-06 cs.CL
Semantic Graph Convolutional Network for Implicit Discourse Relation Classification
Beijing Institute of Technology(北京理工大学);Pattern Recognition Center, WeChat AI, Tencent Inc(腾讯公司微信人工智能模式识别中心)
隐性语篇关系分类对于语篇分析具有重要意义,但由于缺乏表达这些关系的显性语篇联系语,隐性语篇关系分类仍然是一个具有挑战性的问题。对关系的两个参数之间的语义交互进行建模已被证明对于检测隐含的话语关系是有用的。然而,大多数以前的方法建模这样的语义交互从一个浅的交互层,这是不够的,捕捉足够的语义信息。本文提出了一种新颖有效的语义图卷积网络(SGCN),在更深层次的交互作用上增强论元间语义的建模,用于隐式话语关系分类。我们首先在两个参数的表示上构建交互图,然后通过图卷积自动提取深入的语义交互信息。在英语语料库PDTB和汉语语料库CDTB上的实验结果都证明了该模型的优越性。
2019-10-21 cs.CL
Zero-shot transfer for implicit discourse relation classification
Stockholm University(斯德哥尔摩大学)
对语篇中句子之间的关系进行自动分类是一项具有挑战性的任务,特别是在没有明显表达关系的情况下。由于带注释的训练数据仅存在于少数语言(例如英语和中文)的事实,这变得更具挑战性。我们提出了一个新的系统,使用zero-shot迁移学习隐式话语关系分类,其中唯一的资源用于目标语言是未注释的平行文本。该系统的话语注释TED-MDB并行语料库上进行了评估,在那里它获得了良好的效果,所有七种语言使用英语训练数据。
2019-07-30 cs.CL
Unsupervised Adversarial Domain Adaptation for Implicit Discourse Relation Classification
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
隐性话语关系比显性话语关系更难分类,也更难诠释。我们解决了缺乏隐式关系训练数据的情况,并从显式关系中利用领域自适应(Ji et al.,2015年)。我们提出了一个无监督的对抗域自适应网络,配备了重建组件。我们的系统优于以前的作品和其他对抗基准的无监督领域自适应。此外,我们扩展我们的系统,以利用标记的数据,如果有的话。
2020-04-15 cs.CL
On the Importance of Word and Sentence Representation Learning in Implicit Discourse Relation Classification
The Hong Kong University of Science and Technology(香港科技大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
隐性语篇关系分类是浅层语篇分析中最困难的部分之一,因为在没有显性连接词的情况下进行关系预测需要在语篇跨度和句子两个层面上进行语言理解。以往的研究主要集中在两个参数之间的相互作用。我们认为,一个强大的语境化表征模块,双边多视角匹配模块,和一个全球性的信息融合模块都是重要的隐式话语分析。我们提出了一个新的模型,将这些模块结合在一起。大量的实验表明,我们提出的模型在PDTB数据集上的性能优于BERT和其他最先进的系统约8%,在CoNLL 2016数据集上的性能优于约16%。我们还分析了内隐话语关系分类任务中不同模块的有效性,并展示了不同水平的表示学习如何影响结果。
2020-04-28 cs.CL
A Side-by-side Comparison of Transformers for English Implicit Discourse Relation Classification
University of Pennsylvania(宾夕法尼亚大学);LXPER AI Research(LXPER人工智能研究院)
本文在PDTB-3上对七个预训练语言模型进行隐式话语关系分类的并列比较,将SOTA提升至0.671 ACC,并发现句子级预训练目标通常不如MLM加全注意力机制有效。
2023-07-07 cs.CL
Multilingual Extraction and Recognition of Implicit Discourse Relations in Speech and Text
Uppsala University(乌普萨拉大学);IT University of Copenhagen(哥本哈根信息技术大学)
本文提出了一种多模态方法,通过整合文本和音频信息,实现多语言隐含语篇关系的跨语言迁移和识别。
2026-02-04 cs.CL
Fine-Grained Evaluation for Implicit Discourse Relation Recognition
本文通过细粒度分析预训练语言模型在隐式篇章关系识别中的预测表现,揭示任务难点,并通过半人工标注补充PDTB 3.0中的稀缺关系数据,显著提升了第二层语义的识别性能。
2025-03-07 cs.CL
An Analysis of Sentential Neighbors in Implicit Discourse Relation Prediction
The University of Colorado, Boulder(科罗拉多大学博尔德分校)
针对隐式话语关系预测仅依赖目标相邻句忽略更广上下文的问题,提出三种融入上下文的新方法,发现引入超单个话语单元的上下文会损害分类效果。
2024-05-17 cs.CL
Neural Network Models for Implicit Discourse Relation Classification in English and Chinese without Surface Features
Yelp(Yelp公司);University of Saarland(萨尔大学);Brandeis University(布兰迪斯大学)
从自然语言文本中推断隐含的语篇关系是语篇分析中最困难的子任务。表面特征取得了良好的性能,但它们不容易适用于其他语言没有语义词典。以前的神经模型需要解析、表面特征或小标签集才能正常工作。在这里,我们提出了神经网络模型,是基于前馈和长短期记忆架构没有任何表面特征。令我们惊讶的是,尽管进行了彻底的调整,但在大多数情况下,我们最佳配置的前馈架构的性能仍优于基于LSTM的模型。在各种细粒度的标签集和跨语言设置下,我们的前馈模型的性能始终更好,或者至少与需要手工制作的表面特征的系统一样好。我们的模型提出了第一个神经汉语语篇分析器在风格的汉语语篇树库,表明我们的结果持有跨语言。
2016-06-07 cs.CL
Implicit Discourse Relation Identification for Open-domain Dialogues
The Chinese University of Hong Kong(香港中文大学);University of California, Santa Cruz(加利福尼亚大学圣克鲁兹分校)
语篇关系识别是一个活跃的研究领域,但在开放领域的对话系统中,隐性关系识别仍然是一个尚未解决的问题。以前的工作主要依赖于正式文本的语料库,这些语料库本质上是非对话的,即,新闻和期刊。然而,这些数据不适合处理非正式对话的细微差别,也不能够浏览开放域对话中存在的过多有效主题。在本文中,我们设计了一种新的话语关系识别管道专门针对开放域对话系统。我们首先提出了一种方法来自动提取隐含的话语关系参数对和标签的数据集的对话轮,从而在一个新的语料库的话语关系对,第一次尝试识别的话语关系连接的对话轮在开放域的话语。此外,我们已经采取了第一步,利用我们的任务所特有的对话功能,通过执行功能消融和纳入对话功能来增强最先进的模型,进一步提高对这种关系的识别。
2019-07-09 cs.CL
Synthetic Data Augmentation for Cross-domain Implicit Discourse Relation Recognition
Saarland University(萨尔大学)
本研究探讨利用大语言模型生成合成数据以增强跨领域隐式话语关系识别,实验表明该方法未带来显著改进,并强调评估时需注重统计显著性与可比性。
2025-03-26 cs.CL
A Survey of Implicit Discourse Relation Recognition
Huazhong University of Science and Technology(华中科技大学)
包含一个或多个句子的话语描述日常问题和事件,供人们交流思想和观点。由于句子通常是由多个语篇片段组成的,正确理解语篇的主题必须考虑语篇片段之间的关系。虽然有时在原始文本中存在连接词来表达关系,但更多的情况是两个文本片段之间不存在连接词,但它们之间存在某种隐含的关系。隐性话语关系识别的任务是在两个没有连接词的文本片段之间发现隐含的关系并对其意义进行分类。事实上,IDRR任务是重要的下游自然语言处理任务,如文本摘要,机器翻译等。本文提供了一个全面的和最新的调查IDRR任务。我们首先总结了该领域广泛使用的任务定义和数据源。我们从IDRR任务的发展历史的角度对IDRR任务的主要解决方案进行了分类。在每个解决方案类别中,我们介绍并分析了最具代表性的方法,包括它们的起源,想法,优点和缺点。我们还提出了这些解决方案的性能比较实验上的公共语料库与标准的数据处理程序。最后,我们讨论了话语关系分析的未来研究方向。
2022-03-06 cs.CL
Implicit Premise Generation with Discourse-aware Commonsense Knowledge Models
Columbia University(哥伦比亚大学);Georgia Tech(佐治亚理工学院)
推理论证被定义为一个前提或结论是隐含的论点。我们处理的任务,产生隐含的前提推理,这不仅需要一个既定的结论和前提的理解,但也可以依赖于常识知识的额外推理。推理迷因的最大可用数据集(Habernal等人,2018)由1.7k个样本组成,这不足以训练神经文本生成模型。为了解决这个问题,我们利用了一个类似的任务和数据集:叙事文本中的溯因推理(Bhagavatula等人,2020年)。然而,我们表明,简单地使用一个国家的最先进的seq2seq模型微调这些数据可能不会产生有意义的隐式前提与给定的推理。我们证明了在微调过程中对话语感知常识进行编码可以提高生成的隐式前提的质量,并且在三个不同数据集的自动和人工评估中优于所有其他基线。
2021-09-11 cs.CL
They want to pretend not to understand: The Limits of Current LLMs in Interpreting Implicit Content of Political Discourse
University of Florence(佛罗伦萨大学);University of Amsterdam(阿姆斯特丹大学)
本文首次基于IMPAQTS语料库,通过多项选择与开放式生成任务评估LLM解读政治话语中预设和含义推导的能力,发现现有模型存在关键语用能力缺陷,并开源数据与代码。
2025-06-07 cs.CL
A description of Turkish Discourse Bank 1.2 and an examination of common dependencies in Turkish discourse
Middle East Technical University(中东技术大学)
我们描述了土耳其语话语库1.2,最新版本的话语语料库注释显式或隐式传达的话语关系,其构成单位,并在宾夕法尼亚州话语树库风格的意义。我们提出了一个评估最近添加的令牌和检查三个常见的依赖模式,一对相邻的话语关系,即,共享参数,完全嵌入和部分包含的话语关系的构成单位之间举行。我们发现了三个主要问题:(a)隐性关系比显性关系更常见;(b)两个相邻的隐性话语关系共享一个论元比两个相邻的显性话语关系共享一个论元更常见;(3)语篇关系的完全嵌入和部分包含在语料库中普遍存在,这可能是由于从属连接词的前置从句倾向于与主句一起选择而不是单独选择。最后,我们简要讨论了我们的研究结果对土耳其语篇分析的影响。
2022-07-13 cs.CL
A Multi-Task and Multi-Label Classification Model for Implicit Discourse Relation Recognition
Computational Linguistics at Concordia (CLaC) Laboratory(康科迪亚大学计算语言学实验室);Department of Computer Science and Software Engineering(计算机科学与软件工程系);Concordia University(康科迪亚大学)
本文提出一种多任务多标签分类模型,用于隐式话语关系识别,在PDTB 3.0框架下联合学习多标签表示,并建立多标签IDRR首个基准,在单标签任务上取得SOTA结果。
2025-07-08 cs.CL
Human Label Variation in Implicit Discourse Relation Recognition
本文探讨了隐含语义关系识别中人类标签变异问题,比较了不同模型在处理模糊任务时的表现,发现基于标签分布的模型更稳定,而观点主义模型面临认知压力带来的挑战。
2026-02-26 cs.CL
DiscoPrompt: Path Prediction Prompt Tuning for Implicit Discourse Relation Recognition
HKUST(香港科技大学);NVIDIA(英伟达)
针对隐式篇章关系识别,提出基于提示的层级路径预测方法,首次通过提示调优将结构信息注入预训练语言模型,性能显著优于基线。
2023-05-06 cs.CL
LIEDER: Linguistically-Informed Evaluation for Discourse Entity Recognition
Yale University(耶鲁大学)
该研究提出LIEDER数据集,用于评估大语言模型对语篇实体的四项核心语义属性的认知,发现前沿模型仅对新颖性不敏感,尚未达到人类级语言理解水平。
2024-08-10 cs.CL
Tag-Enhanced Tree-Structured Neural Networks for Implicit Discourse Relation Classification
Key Laboratory of Computational Linguistics, Peking University, MOE, China(北京大学计算语言学重点实验室(教育部));Collaborative Innovation Center for Language Ability, Xuzhou, Jiangsu, China(语言能力协同创新中心(江苏徐州));Peking University(北京大学)
识别文本跨度之间的隐含话语关系是一项具有挑战性的任务,因为它需要理解文本的含义。为了解决这个问题,最近的研究尝试了几种深度学习方法,但很少有人利用句法信息。在这项工作中,我们探讨的想法,将句法分析树到神经网络。具体来说,我们采用基于树结构的Tree-LSTM模型和Tree-GRU模型来编码关系中的参数。此外,我们进一步利用组成标签来控制这些树结构神经网络的语义组合过程。实验结果表明,我们的方法达到了国家的最先进的性能PDTB语料库。
2018-03-03 cs.CL
Neural Discourse Relation Recognition with Semantic Memory
Xiamen University(厦门大学);Soochow University(苏州大学)
人类理解语篇的意义和关系主要依赖于对概念和事实的一般知识进行编码的语义记忆。受此启发,我们提出了一个隐式话语关系分析的神经识别器,它建立在一个语义记忆,以分布式的方式存储知识。我们将这个识别器称为SeMDER。从话语参数的词嵌入开始,SeMDER采用浅层编码器来生成话语的分布式表面表示。进一步建立了基于表面表示的语义记忆矩阵的语义编码器。它能够从记忆中提取话语的深层语义表征。使用表面和语义表征作为输入,SeMDER最终通过神经识别器预测隐含的话语关系。在基准数据集上的实验表明,SeMDER受益于语义记忆,在F1分数方面,与当前最先进的基线相比,平均提高了2.56%。
2016-03-12 cs.CL
Constrained Multi-Layer Contrastive Learning for Implicit Discourse Relationship Recognition
Soochow University(苏州大学);Meituan(美团)
针对隐式篇章关系识别中多层网络判别能力不同的问题,提出约束多层对比学习方法,通过标签和实例中心的监督对比学习增强表示,并约束高层对比损失小于低层,在PDTB基准上显著提升了多分类和二分类性能。
2024-09-07 cs.CL
Global and Local Hierarchy-aware Contrastive Framework for Implicit Discourse Relation Recognition
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);The University of New South Wales(新南威尔士大学)
本文提出全局与局部层级感知对比框架GOLF,通过多任务学习和对比学习同时建模义项的全局静态层级与实例局部标签序列,在PDTB 2.0和PDTB 3.0上显著提升隐式篇章关系识别性能。
2023-05-25 cs.CL
Implicit Discourse Relation Classification For Nigerian Pidgin
Saarland University(萨尔大学)
针对尼日利亚皮钦语资源匮乏问题,本文比较了翻译回标与合成语料训练两种隐式话语关系分类方法,发现原生分类器在4-way和11-way任务上F1分别提升13.27%和33.98%。
2024-11-03 cs.CL
Design Choices for Crowdsourcing Implicit Discourse Relations: Revealing the Biases Introduced by Task Design
Bar Ilan University(巴伊兰大学);Saarland University(萨尔大学);Utrecht University(乌得勒支大学)
提出分析众包标注中的任务设计偏差,通过比较两种自然语言标注任务在1,200个隐式话语关系上的标注结果,发现任务设计会显著影响标注者倾向,建议在模型训练和测试时考虑该偏差。
2023-04-03 cs.CL
What Causes the Failure of Explicit to Implicit Discourse Relation Recognition?
Heidelberg Institute for Theoretical Studies gGmbH(海德堡理论研究所);CSIRO Data61(联邦科学与工业研究组织数据61部门)
本文通过语料库级经验证据证明显式话语关系在去除连接词后会发生标签偏移,并分析其句法与歧义成因,进而提出过滤噪声数据和联合学习两种策略,在PDTB 2.0、PDTB 3.0和GUM上显著提升隐式话语关系识别性能。
2024-04-01 cs.CL
A Discourse-Level Named Entity Recognition and Relation Extraction Dataset for Chinese Literature Text
Peking University(北京大学)
中文文献文本的命名实体识别和关系抽取被认为是一个非常困难的问题,部分原因是缺乏标注集。在本文中,我们建立了一个语篇层面的数据集,从数百个中文文学文章,以改善这一任务。为了构建高质量的数据集,我们提出了两种标记方法来解决数据不一致的问题,包括启发式标记方法和机器辅助标记方法。在此基础上,我们还介绍了几个广泛使用的模型进行实验。实验结果不仅证明了所提出的数据集的有效性,而且为进一步的研究提供了基线。该数据集可在https://github.com/lancopku/Chinese-Literature-NER-RE-Dataset上获得
2019-06-11 cs.CL
Implicit Discourse Relation Classification via Multi-Task Neural Networks
Peking University(北京大学);Collaborative Innovation Center for Language Ability(语言能力协同创新中心)
在没有话语联系语的情况下,对隐含话语关系进行分类是一项具有挑战性的任务,也是构建实用话语分析器的瓶颈。以往的研究通常使用一种语篇框架,如PDTB或BTB来提高语篇关系的分类性能。实际上,在不同的语篇注释框架下,存在着多种语料库,它们之间存在着内在的联系。为了利用不同语篇语料库的组合,我们设计了特定于语料库的相关语篇分类任务,并提出了一种新的卷积神经网络嵌入式多任务学习系统,通过学习每个任务的唯一和共享表示来合成这些任务。在PDTB隐式话语关系分类任务上的实验结果表明,我们的模型在基线系统上取得了显着的收益。
2016-03-09 cs.AI cs.CL cs.NE
Pre-trained Sentence Embeddings for Implicit Discourse Relation Classification
Georgia Institute of Technology(佐治亚理工学院);University of Washington(华盛顿大学)
隐性语篇关系将较小的语言单位联结成连贯的语篇。隐式关系的自动意义预测是困难的,因为它需要理解链接参数的语义。此外,由于这种现象的规模,注释数据集包含相对较少的标记示例:平均每个话语关系包含几十个单词。在本文中,我们探讨了实用的预训练句子嵌入作为基本表示的神经网络隐含的话语关系意义分类。我们提出了一系列的实验,使用监督的端到端训练模型和预训练的句子编码技术- SkipThought,Sent 2 vec和Infersent。预训练的嵌入与端到端模型具有竞争力,并且方法是互补的,组合模型在三个评估中的两个上产生了显着的性能改进。
2022-10-20 cs.AI cs.CL
Implicit Causality-biases in humans and LLMs as a tool for benchmarking LLM discourse capabilities
Bielefeld University(比勒费尔德大学)
本文通过对比人类与不同规模LLM在隐含因果动词上的话语偏差表现,提出将话语偏差作为评估LLM话语理解能力的基准,发现仅大型单语模型在共指上接近人类,而连贯与指称表达方面存在差异。
2025-01-22 cs.CL
Improving Implicit Discourse Relation Recognition with Natural Language Explanations from LLMs
本文通过利用LLMs生成的自然语言解释提升隐含话语关系识别的性能和可解释性。
2026-02-25 cs.CL
A Label Dependence-aware Sequence Generation Model for Multi-level Implicit Discourse Relation Recognition
School of Software, East China Jiaotong University(华东交通大学软件学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Tsinghua University(清华大学);Soochow University(苏州大学);Xiamen University(厦门大学)
隐性语篇关系识别是语篇分析中的一个重要课题。大多数现有的方法训练多个模型来独立地预测多级标签,而忽略了层次结构的标签之间的依赖性。本文将多级IDRR看作是一个条件标签序列生成任务,提出了一个标签依赖感知的序列生成模型(LDSGM),该模型首先设计一个标签关注编码器,学习输入实例的全局表示及其特定级别的上下文,并在其中整合标签依赖以获得更好的标签嵌入.然后,我们采用一个标签序列解码器,以自顶向下的方式输出预测的标签,其中预测的更高级别的标签直接用于指导当前级别的标签预测。我们进一步开发了一种相互学习的增强训练方法,以利用自下而上方向的标签依赖性,该依赖性由训练过程中引入的辅助解码器捕获。在PDTB数据集上的实验结果表明,该模型在多级IDRR上达到了最先进的性能。我们将在https://github.com/nlpersECJTU/LDSGM上发布我们的代码。
2021-12-22 cs.CL
Multi-Lingual Implicit Discourse Relation Recognition with Multi-Label Hierarchical Learning
Computational Linguistics at Concordia (CLaC) Laboratory(康科迪亚大学计算语言学实验室);Department of Computer Science and Software Engineering(计算机科学与软件工程系);Concordia University(康科迪亚大学)
本文提出首个多语言多标签隐式篇章关系识别模型 HArch,利用 PDTB 3.0 层次语义依赖,在 DiscoGeM 语料上超越 GPT-4o 等大模型并取得 SOTA 结果。
2025-08-28 cs.CL
Prompting Implicit Discourse Relation Annotation
Saarland University(萨尔大学);Utrecht University(乌得勒支大学)
本研究探讨多种提示技术以提升ChatGPT在隐式话语关系分类中的表现,但实验显示即使分解任务和复杂提示,准确率仍无显著提升,表明该任务在零样本或少样本下尚难解决。
2024-02-07 cs.AI cs.CL
Infusing Hierarchical Guidance into Prompt Tuning: A Parameter-Efficient Framework for Multi-level Implicit Discourse Relation Recognition
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部);Tianjin Key Laboratory of Cognitive Computing and Application(天津市认知计算与应用重点实验室)
本文提出参数高效的PEMI框架,通过提示微调与层次标签细化方法,以约0.1%可训练参数在PDTB 2.0和3.0上实现多级隐式篇章关系识别的可比性能。
2024-02-23 cs.CL
Adaptive Prompt Learning with Distilled Connective Knowledge for Implicit Discourse Relation Recognition
Huazhong University of Science and Technology(华中科技大学)
提出连续提示学习与连接知识蒸馏框架AdaptPrompt,通过虚拟词元和梯度搜索减少人工设计,利用教师-学生架构迁移连接词知识,在PDTB V3.0上性能优于现有方法。
2023-09-14 cs.CL
The Analysis of Synonymy and Antonymy in Discourse Relations: An interpretable Modeling Approach
Centro de Investigación en Ciencias Cognitivas(认知科学研究中心);Universidad Autónoma del Estado de Morelos(莫雷洛斯州立自治大学);Centro de Investigación en Ciencias(科学研究中心)
语篇关系是通过显式内容和生产者和解释者之间的共享或隐式知识来解释的,这一观点在语篇研究和语言学中普遍存在。然而,实际的贡献的词汇语义的论点是不清楚的。我们提出了一种计算方法来分析对比和让步关系的PDTB语料库。我们的工作揭示了词汇语义在多大程度上有助于信号显式和隐式的话语关系,并澄清了在这两个不同的词性的贡献。本研究基于语料库语言学和计算语言学的论元的同义和反义关系,提出了一种透明的、可解释的话语关系模型。
2022-08-09 cs.CL
Recognizing Implicit Discourse Relations via Repeated Reading: Neural Networks with Multi-Level Attention
Key Laboratory of Computational Linguistics, Peking University, MOE, China(北京大学计算语言学教育部重点实验室);ILCC, School of Informatics, University of Edinburgh, United Kingdom(爱丁堡大学信息学院语言认知计算研究所)
隐含语篇关系的识别是自然语言处理领域中一个具有挑战性的重要课题。对于这样一个复杂的文本处理任务,不同于以往的研究,我们认为,有必要反复阅读的论点,并动态地利用有效的功能,用于识别话语关系。为了模拟重复阅读策略,我们提出了多层次注意神经网络(NNMA),将注意力机制与外部记忆相结合,逐渐将注意力固定在有助于判断语篇关系的特定词汇上。在PDTB数据集上的实验表明,该方法取得了较好的效果。注意力权重的可视化也说明了我们的模型在每个级别上观察参数并逐步定位重要单词的过程。
2016-09-20 cs.AI cs.CL
Memorizing All for Implicit Discourse Relation Recognition
Shanghai Jiao Tong University(上海交通大学);Purdue University(普渡大学)
由于缺乏来自显式连接词的必要信息线索,隐性话语关系识别是一项具有挑战性的任务。关系的预测需要对句对的语义有深刻的理解。由于隐式话语关系识别器需要仔细处理给定句子对之间的语义相似性,同时存在严重的数据稀疏性问题,因此,掌握整个训练数据应该是有益的。因此,在本文中,我们提出了一种新的内存机制,以应对进一步提高性能的挑战。记忆机制是通过对所有训练实例的表征和话语关系进行配对来充分记忆信息,这正好填补了当前隐式话语关系识别器中数据匮乏的问题。我们的实验表明,我们记忆整个训练集的完整模型在强大的基线上达到了新的最先进水平,特别是首次超过了4路任务中60%准确率的里程碑。
2019-08-29 cs.AI cs.CL cs.LG
Emotion Recognition for Low-Resource Turkish: Fine-Tuning BERTurk on TREMO and Testing on Xenophobic Political Discourse
New Media and Communications Social Sciences University of Ankara (ASBU)(新媒体与传播科学大学安卡拉大学(ASBU));Department of Computer Science Gazi University(计算机科学系加齐大学)
本研究针对低资源土耳其语,基于BERTurk和TREMO数据集构建准确率达92.62%的情感识别模型,分析土耳其社交媒体上的反难民情绪话语,为本地化NLP工具及相关领域应用提供支撑。
2025-05-17 cs.CL
TEPrompt: Task Enlightenment Prompt Learning for Implicit Discourse Relation Recognition
School of Electronic Information and Communications(电子信息与通信学院);Huazhong University of Science and Technology(华中科技大学)
提出TEPrompt模型,通过联合训练篇章关系识别、语义分类和标注连接词预测三个提示学习任务并共享论元表示,融合辅助任务特征提升主任务性能,在隐式篇章关系识别中优于ConnPrompt。
2023-05-18 cs.CL
Deep Enhanced Representation for Implicit Discourse Relation Recognition
Shanghai Jiao Tong University(上海交通大学)
隐含语篇关系识别是一项具有挑战性的任务,因为在语篇分析中,没有显式连接词的关系预测需要理解文本跨度,并且不能轻易地从输入句子对的表面特征中获得。因此,正确地表达文本对这项任务至关重要。在本文中,我们提出了一个模型增强了不同粒度的文本表示,包括字符,子字,单词,句子和句子对水平。在基准树库上对所提出的更深层次模型进行了评估,并根据我们的最佳知识首次在11路分类中实现了最先进的准确率大于48%,并且在4路分类中$F_1$得分大于50%。
2018-07-13 cs.AI cs.CL cs.LG
Adversarial Connective-exploiting Networks for Implicit Discourse Relation Classification
Shanghai Jiao Tong University(上海交通大学);Carnegie Mellon University(卡内基梅隆大学)
隐性话语关系分类由于缺乏强有力的语言线索--连接词而面临巨大挑战,这促使人们使用带注释的隐性连接词来提高识别率。我们提出了一个特征模仿框架,在该框架中,隐式关系网络被驱动从另一个具有连接词的神经网络学习,从而鼓励提取类似的显著特征以进行准确的分类。我们开发了一个对抗性模型,通过隐式网络和竞争对手的特征网络之间的竞争来实现自适应模仿方案。我们的方法有效地将连接词的可辨别性转移到隐式特征上,并在PDTB基准测试中达到了最先进的性能。
2017-04-01 cs.AI cs.CL cs.LG
A Recurrent Neural Model with Attention for the Recognition of Chinese Implicit Discourse Relations
Turku Centre for Computer Science – TUCS(图尔库计算机科学中心);Åbo Akademi University(奥博学术大学);Goethe University(歌德大学)
我们介绍了一个基于注意力的中文隐式话语关系的Bi-LSTM,并证明了将参数对建模为联合序列可以优于词序不可知的方法。我们的模型得益于部分抽样方案,概念简单,但在中文语篇树库上实现了最先进的性能。我们还可视化了它的注意力活动,以说明模型有选择地关注输入序列的相关部分的能力。
2017-04-26 cs.AI cs.CL cs.LG
Improving Discourse Relation Projection to Build Discourse Annotated Corpora
Concordia University(康考迪亚大学)
由于在翻译过程中,隐含的话语关系往往会转化为显性的话语关系,反之亦然,因此单纯的注释投射方法不能有效地将话语注释从一种语言投射到另一种语言。在本文中,我们提出了一种新的方法的基础上统计词对齐模型之间的交集,以确定不支持的话语注释。这种方法确定了65%的不支持的注释,在英语和法语的平行句子从Europarl。通过过滤掉这些不支持的注释,我们从Europarl中推导出了第一个PDTB风格的法语话语注释语料库。然后,我们使用这个语料库训练分类器,以确定法语话语连接词的话语使用,并显示了15%的改善F1分数相比,分类器训练的非过滤注释。
2017-07-20 cs.CL
Prompt-based Logical Semantics Enhancement for Implicit Discourse Relation Recognition
Beijing Institute of Technology(北京理工大学)
本文提出基于提示的逻辑语义增强方法 PLSE,通过连接词预测注入篇章关系知识,并利用互信息最大化自监督目标弥补 MLM 全局语义不足,在 PDTB 2.0 和 CoNLL16 上取得优于现有模型的稳定性能。
2023-11-01 cs.AI cs.CL
On Crowdsourcing Task Design for Discourse Relation Annotation
Saarland University(萨尔大学)
本研究比较了自由选择与强制选择两种众包标注方法,发现自由选择虽灵活但标注多样性低,并揭示了任务设计与标注者能力间的相互作用。
2024-12-16 cs.CL
Superlatives in Context: Modeling the Implicit Semantics of Superlatives
Bar Ilan University(巴伊兰大学);Allen Institute for AI(艾伦人工智能研究所);The University of Edinburgh(爱丁堡大学)
本文提出统一的最高级语义框架并构建多领域标注数据集,研究话语语境如何限制隐式或歧义最高级表达的解释,实验表明包括GPT-4在内的当代模型在预测语境中最高级细粒度语义上仍面临挑战。
2024-10-17 cs.CL
Facilitating Contrastive Learning of Discourse Relational Senses by Exploiting the Hierarchy of Sense Relations
University of Edinburgh(爱丁堡大学)
隐性话语关系识别是一项具有挑战性的任务,涉及在两个相邻的文本跨度之间缺乏显式连接的情况下识别它们之间的意义。在PDTB-2和PDTB-3中,话语关系意义被组织成一个三层次结构,从四个广泛的顶级意义,到更具体的意义。大多数以前的工作隐含的话语关系识别使用的意义层次结构简单地表明什么意义标签是可用的。在这里我们做得更多--将感觉层次纳入识别过程本身,并用它来选择对比学习中使用的反面例子。无需额外的努力,该方法就可以在任务上实现最先进的性能。
2023-01-06 cs.AI cs.CL
Fine-grained Information Status Classification Using Discourse Context-Aware BERT
IBM Research Europe, Ireland(IBM欧洲研究部(爱尔兰))
先前关于桥接回指识别的工作(Hou等人,2013a)将问题转换为学习细粒度信息状态(IS)的子任务。然而,这些系统严重依赖于许多手工制作的语言特征。在本文中,我们提出了一个简单的话语上下文感知BERT模型细粒度的IS分类。在ISNotes语料库上(Markert等人,2012),我们的模型在细粒度IS分类上实现了新的最先进性能,与Hou等人(2013 a)相比,获得了4.8的绝对整体准确性提高。更重要的是,我们还显示了10.5 F1点的改进桥接回指识别,而不使用任何复杂的手工制作的语义功能,旨在捕捉桥接现象。我们进一步分析了训练模型,发现每个IS类别的最受关注的信号与信息状态的语言概念相对应。
2020-11-01 cs.CL