Analysis of the Effect of Dependency Information on Predicate-Argument Structure Analysis and Zero Anaphora Resolution
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Academic Center for Computing and Media Studies, Kyoto University(京都大学学术信息媒体中心)
本文研究和分析了依存信息对日语谓词论元结构分析(PASA)和零形回指消解(ZAR)的影响,结果表明,即使在依存信息不存在的情况下,直接的PASA和ZAR方法也是有效的。我们构建了一个分析器,直接预测的谓词和参数与他们的语义角色从POS标记语料库的关系。该系统的特点是通过使用依存句法分析中使用的特征作为参考来弥补句法信息的缺失。我们还构造了使用Oracle依赖和真实依存句法分析结果的分析器,并与不使用任何语法信息的系统进行了比较,以验证依赖提供的改进不是至关重要的。
2017-05-31 cs.CL
Towards Compositional Distributional Discourse Analysis
University of Oxford(牛津大学)
范畴组合分布语义学提供了一种从单个词的意义中推导出句子意义的方法:句子的语法归约自动诱导出一个线性映射,用于组合从分布语义学获得的词向量。在本文中,我们将这段话从词到句扩展到从句子到语篇的写作。为了实现这一目标,我们引入了一个概念的基本照应话语之间的自然语言话语正式的基本话语表示结构(DRS)的中级表示;和知识库查询语义网所描述的基本图形模式的资源描述框架(RDF)。这为问答和照应解析的组合算法提供了一个高层次的规范,并使我们能够将自然语言理解作为一个涉及统计和逻辑资源的过程。
2018-11-08 cs.AI cs.CL cs.DB
Cue Phrase Classification Using Machine Learning
提示短语可以在语篇意义上明确地表示语篇结构,也可以在语义意义上传达语义信息而不是结构信息。在利用话语结构的自然语言处理系统中,将提示短语正确地分类为话语或非话语是至关重要的,例如,用于执行诸如照应解析和计划识别的任务。本文探讨了使用机器学习分类提示短语作为话语或话语。两个机器学习程序(Ccludel和C4.5)被用来从文本和语音中的预先分类的提示短语及其特征的集合中归纳分类模型。机器学习被证明是一种有效的技术,不仅可以自动生成分类模型,而且可以改进以前的结果。与文献中已经存在的手动导出的分类模型相比,学习模型通常具有更高的准确性,并包含对数据的新语言见解。此外,自动构建分类模型的能力使得比较分析数据的替代特征表示的效用变得更容易。最后,易于再培训使得学习方法比手动方法更具可扩展性和灵活性。
1996-09-09 cmp-lg cs.CL
Evaluating Discourse in Structured Text Representations
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
语篇结构对于理解文本是不可或缺的,并且在许多NLP任务中很有帮助。学习话语的潜在表征是获取昂贵的标记话语数据的一个有吸引力的替代方案。Liu和Lapata(2018)提出了一种用于文本分类的结构化注意力机制,该机制在文本上生成一棵树,类似于一棵文本话语树。我们详细研究了这个模型,并对其他与话语相关的任务和数据集进行了评估,以评估结构化注意是否能提高最终任务的性能,以及它是否能捕捉到文本的话语结构。我们发现学习的潜在树几乎没有结构,而是专注于词汇线索;即使在获得更具结构化的树与建议的模型修改,树仍然远远不能捕捉话语结构时,从现有的话语分析器的话语依赖树相比。最后,消融研究表明,结构化注意提供的好处很少,有时甚至损害性能。
2019-06-10 cs.CL
RST-style Discourse Parsing Guided by Document-level Content Structures
Texas A&M University(得克萨斯农工大学)
针对现有RST解析流水线因缺乏文档级内容结构知识导致预测大型文本跨度篇章关系性能较低的问题,提出一种结合源自News Discourse Profiling任务的结构感知句子表示的新流水线,仅加入少量额外层即在多项RST解析指标上取得优异性能。
2023-09-08 cs.CL
Persian Rhetorical Structure Theory
University of Tehran(德黑兰大学)
在过去的几年里,人们对语篇分析和语篇句法分析的兴趣稳步增长,许多语篇注释语料库和语篇句法分析器已经建立起来。在本文中,我们提出了一个话语注释语料库的波斯语内置的修辞结构理论的框架,以及建立在DPLP解析器,一个开源的话语解析器的话语解析器。我们的语料库由150个新闻文本组成,每个文本平均约400个单词。语料库文本标注使用18个语篇关系,并根据英语语料库的注释准则。我们的文本级话语解析器使用黄金分割进行训练,并建立在DPLP话语解析器的基础上,DPLP话语解析器使用基于大边距过渡的方法来解决话语解析问题。在F1测度上,我们的语篇分析器在广度(S)、核度(N)和关系(R)检测上的性能分别为78%、64%和44%。
2021-06-25 cs.CL
MEGA RST Discourse Treebanks with Structure and Nuclearity from Scalable Distant Sentiment Supervision
University of British Columbia(不列颠哥伦比亚大学)
缺乏大型和多样化的话语树库阻碍了数据驱动方法(如深度学习)在RST风格话语分析中的应用。在这项工作中,我们提出了一种新的可扩展的方法来自动生成话语树库,使用远程监督从情感标注的数据集,创建和发布MEGA-DT,一个新的大规模的话语标注语料库。我们的方法生成的话语树,将结构和核的文件的任意长度依赖于一个有效的启发式波束搜索策略,扩展了随机组件。在多个数据集上的实验表明,与在人类注释的话语语料库上训练的解析器相比,在我们的MEGA-DT树库上训练的话语解析器提供了有希望的域间性能增益。
2020-11-05 cs.CL
Unsupervised Inference of Data-Driven Discourse Structures using a Tree Auto-Encoder
University of British Columbia(不列颠哥伦比亚大学)
随着在许多下游任务和现实世界的应用中对健壮和通用的话语结构的需求不断增长,目前缺乏高质量,高数量的话语树构成了严重的缺点。为了缓解这一限制,我们提出了一种新的策略来生成树结构在一个任务不可知的,无监督的方式通过扩展一个潜在的树感应框架与自动编码的目标。该方法适用于任何树型结构的目标,如句法分析、篇章分析等。然而,由于特别困难的注释过程中产生的话语树,我们最初开发这样的方法,以补充特定任务的模型,在产生更大,更多样化的话语树库。
2022-10-18 cs.CL
Modeling Discourse Structure for Document-level Neural Machine Translation
Xiamen University(厦门大学);Xiaomi AI Lab, Xiaomi Inc.(小米公司小米人工智能实验室)
近年来,文档级神经机器翻译(NMT)已成为机器翻译界研究的热点。尽管它取得了成功,但大多数现有的研究忽略了待翻译输入文档的语篇结构信息,这在其他任务中已经证明是有效的。在本文中,我们提出了改进文档级NMT的话语结构信息的援助。我们的编码器是基于一个分层的注意力网络(HAN)。具体来说,我们首先解析输入文档,以获得其话语结构。然后,我们引入了一个基于transformer的路径编码器来嵌入每个词的话语结构信息。最后,我们结合的话语结构信息与词嵌入之前,它被送入编码器。在英语到德语数据集上的实验结果表明,我们的模型可以显着优于Transformer和Transformer+HAN。
2020-06-08 cs.CL
Exploring Discourse Structures for Argument Impact Classification
the Hong Kong University of Science and Technology(香港科技大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
辩论中各论点之间的话语关系揭示了辩论会话的逻辑结构。然而,没有以前的工作已经明确研究如何话语关系的顺序影响索赔的影响。本文通过实证研究发现,两个论点之间沿着语境路径的话语关系是判断一个论点说服力的重要因素。我们进一步提出了DisCOC来注入和融合来自大规模语言模型的语境化特征与句子层次的结构语篇信息。实验结果和广泛的分析表明,显式建模上下文和文本的注意“与”门机制确实可以帮助Durmus等人定义的论点影响分类任务。(2019),并且要分类的索赔的上下文路径中的话语结构可以进一步提高性能。
2021-06-02 cs.CL
Sentiment analysis based on rhetorical structure theory: Learning deep neural networks from discourse trees
ETH Zurich(苏黎世联邦理工学院)
情感分析的突出应用数不胜数,涵盖市场营销、客户服务和沟通等领域。传统的词袋方法测量情绪只计算术语频率,然而,它忽略了在话语中的术语的位置。作为一种补救措施,我们开发了一个话语意识的方法,建立在文档的话语结构。为此,我们利用修辞结构理论来标记(子)子句,根据他们的层次关系,然后分配极性得分到单个叶子。为了从由此产生的修辞结构中学习,我们提出了一个基于张量的树结构深度神经网络(名为Discourse-LSTM),以处理完整的话语树。潜在的张量推断出叙事材料的显著段落。此外,我们提出了两个算法的数据增强(节点重新排序和人工叶插入),增加我们的训练集,减少过拟合。我们的基准测试证明了我们方法的卓越性能。此外,我们的张量结构揭示了显着的文本段落,从而提供了解释性的见解。
2018-10-04 cs.CL
DADgraph: A Discourse-aware Dialogue Graph Neural Network for Multiparty Dialogue Machine Reading Comprehension
Harbin Institute of Technology(哈尔滨工业大学);National University of Singapore(新加坡国立大学)
多方对话机器阅读理解(MRC)不同于传统的MRC,因为模型必须处理复杂的对话话语结构,这在传统的MRC中是没有考虑的。为了充分利用这种话语结构在多方对话,我们提出了一个话语感知的对话图神经网络,DADgraph,显式地构建对话图使用话语依赖链接和话语关系。为了验证我们的模型,我们在Molweni语料库上进行了实验,这是一个大规模的MRC数据集,建立在用话语结构注释的多方对话之上。在Molweni上的实验表明,与强神经网络MRC基线相比,我们的话语感知模型在统计上取得了显着的改进。
2021-04-26 cs.CL
Unleashing the Power of Neural Discourse Parsers -- A Context and Structure Aware Approach Using Large Scale Pretraining
University of British Columbia(不列颠哥伦比亚大学)
基于RST的语篇分析是一项重要的自然语言处理任务,具有许多下游应用,如摘要,机器翻译和意见挖掘。在本文中,我们展示了一个简单的,但高度准确的话语分析器,结合最近的上下文语言模型。我们的解析器建立了新的国家的最先进的(SOTA)性能预测的结构和核的两个关键数据集,RST-DT和Instr-DT。我们进一步证明,预训练我们的解析器上最近可用的大规模“银标准”话语树库MEGA-DT提供更大的性能优势,这表明在话语分析领域的一个新的和有前途的研究方向。
2020-11-06 cs.CL
Corruption Is Not All Bad: Incorporating Discourse Structure into Pre-training via Corruption for Essay Scoring
Tohoku University(东北大学);Riken Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);Stony Brook University(石溪大学)
现有的自动论文评分和文档表示学习方法通常依赖于话语解析器将话语结构纳入文本表示中。然而,解析器的性能并不总是足够的,特别是当它们被用于嘈杂的文本,如学生论文。在本文中,我们提出了一种无监督的预训练方法来捕获文章的连贯性和衔接方面的话语结构,不需要任何话语解析器或注释。我们为我们提出的预训练方法引入了几种类型的令牌,句子和段落级腐败技术,并使用我们的预训练方法来增强掩蔽语言建模预训练,以利用上下文和话语信息。我们提出的无监督方法在论文组织评分任务上取得了新的最先进的结果。
2020-10-13 cs.CL
Predicting Discourse Structure using Distant Supervision from Sentiment
University of British Columbia(不列颠哥伦比亚大学)
语篇解析还不能充分利用神经NLP革命,主要是由于缺乏注释数据集。我们提出了一种新的方法,使用远程监督的辅助任务(情感分类),产生大量的数据RST风格的话语结构预测。我们的方法结合了多实例学习的神经变体,使用文档级监督,与最佳CKY风格的树生成算法。在一系列的实验中,我们训练一个话语分析器(仅用于结构预测)我们自动生成的数据集,并将其与人类注释语料库(新闻领域RST-DT和教学领域)训练的分析器进行比较。结果表明,虽然我们的解析器还没有匹配在同一数据集(域内)上训练和测试的解析器的性能,但它确实在更困难且可以说更有用的域间话语结构预测任务上表现得非常好,其中解析器在一个域上训练并在另一个域上测试/应用。
2019-10-30 cs.CL
Unveiling Global Discourse Structures: Theoretical Analysis and NLP Applications in Argument Mining
University of Applied Sciences for Engineering and Economics(应用科学与工程经济大学)
本文针对全球话语结构的连贯性问题,提出论证挖掘方法,定义术语、总结现有研究并指出不足,设计基于新NLP技术的泛化架构,为话语结构理论理解提供支持。
2025-02-12 cs.CL
Discourse Structures Guided Fine-grained Propaganda Identification
Texas A&M University(德克萨斯A&M大学)
本文提出利用局部和全局语篇结构辅助细粒度宣传识别,通过两个教师模型分别建模句子间语篇关系和句子语篇角色,并以特征融合或知识蒸馏方式融入,在基准数据集上显著提升了宣传内容识别的精确率和召回率。
2023-10-28 cs.CL
Who Responded to Whom: The Joint Effects of Latent Topics and Discourse in Conversation Structure
Fudan University(复旦大学);The Hong Kong Polytechnic University(香港理工大学)
每天都会产生大量的在线对话,因此迫切需要理解对话。作为构建讨论的基础,我们识别了会话话语中的回应关系,这些关系将回应话语与其启动联系起来。为了弄清楚谁回应谁,在这里,我们探讨如何主题内容的一致性和话语角色的依赖性表明这样的互动,而大多数以前的工作忽略了潜在因素的影响,潜在的单词出现。我们提出了一个模型来学习潜在的主题和话语分布,并预测成对的启动-响应链接,通过利用主题一致性和话语依赖。对中英文会话的实验结果表明,我们的模型明显优于先前的艺术状态,如79对73 MRR的中文客户服务对话。我们进一步探讨我们的输出,并阐明如何主题和话语表明会话用户交互。
2021-04-17 cs.CL
Molweni: A Challenge Multiparty Dialogues-based Machine Reading Comprehension Dataset with Discourse Structure
Harbin Institute of Technology(哈尔滨工业大学);National University of Singapore(新加坡国立大学);Peng Cheng Laboratory(鹏城实验室)
近年来,对多党对话领域的研究有了相当大的增长。我们提出了Molweni数据集,一个机器阅读理解(MRC)数据集的话语结构建立在多方对话。Molweni的源代码样本来自Ubuntu聊天语料库,包括10,000个对话框,包含88,303个话语。我们在这个语料库上标注了30,066个问题,包括可回答和不可回答的问题。Molweni还在修改的分段话语表示理论(SDRT; Asher et al.,2016)风格,贡献了大规模(78,245注释话语关系)数据来承担多方对话话语解析的任务。我们的实验表明,Molweni对于当前MRC模型来说是一个具有挑战性的数据集:BERT-wwm,一个当前强大的SQuAD 2.0性能,在Molweni的问题上只实现了67.7%的F1,与其SQuAD 2.0性能相比,显著下降了20%以上。
2020-11-07 cs.CL
Discourse structure interacts with reference but not syntax in neural language models
Cornell University(康奈尔大学)
在大量文本上训练的语言模型(LM)被认为可以获得抽象的语言表示。我们的工作测试的鲁棒性,这些抽象的LMs学习不同的语言表示之间的相互作用的能力。特别是,我们利用刺激心理语言学研究表明,人类可以条件参考(即共指消解)和句法处理相同的话语结构(隐含的因果关系)。我们比较了Transformer和长短期记忆LM,发现与人类相反,尽管模型表征编码了必要的话语信息,但隐式因果关系仅影响LM行为以供参考,而不是句法。我们的研究结果进一步表明,LM的行为可以矛盾,不仅学到的话语表示,但也句法协议,指出标准的语言建模的缺点。
2020-10-10 cs.CL
On the Contribution of Discourse Structure on Text Complexity Assessment
Concordia University(康考迪亚大学)
本文探讨了语篇特征对语篇复杂性评价的影响。为此,我们创建了两个数据集的基础上,宾夕法尼亚州的话语树库和简单的英语维基百科语料库和比较的连贯性,衔接,表面,词汇和句法功能的影响,以评估文本的复杂性。结果表明,与这两个数据集的连贯性功能更相关的文本复杂性比其他类型的功能。此外,特征选择显示,对于两个数据集,最具鉴别力的特征是相干性特征。
2017-08-19 cs.CL
A Top-Down Neural Architecture towards Text-Level Parsing of Discourse Rhetorical Structure
Soochow University(苏州大学)
语篇修辞结构的文本级句法分析在自然语言的深层理解和各种下游应用中具有重要意义,近年来受到越来越多的关注。然而,以往的文本级语篇分析研究都是采用自底向上的方法,这使得DRS的确定仅限于局部信息,不能充分利用语篇整体信息。在本文中,我们证明从计算和感知的角度来看,自顶向下的架构更适合于文本级DRS解析。在此基础上,我们提出了一个自顶向下的神经网络结构的文本级DRS解析。特别是,我们铸造的话语分析作为一个递归的分裂点排名任务,其中一个分裂点被分类到不同的水平,根据其排名和与之相关的基本话语单位(EDU)相应地安排。以这种方式,我们可以通过具有内部堆栈的编码器-解码器将完整的DRS确定为分层树结构。在英文RST-DT语料库和中文CDTB语料库上的实验结果表明,本文提出的自顶向下方法对文本级DRS句法分析是有效的。
2021-05-19 cs.CL
Discourse Structure in Machine Translation Evaluation
Arabic Language Technologies (ALT), Qatar Computing Research Institute (QCRI), Hamad bin Khalifa University (HBKU), Qatar Foundation(阿拉伯语言技术组,卡塔尔计算研究所,哈马德·本·哈利法大学,卡塔尔基金会)
在这篇文章中,我们探讨了潜在的使用水平的话语结构的机器翻译评估。我们首先设计了话语感知的相似性度量,它使用所有子树内核来比较话语解析树,根据修辞结构理论(Rectorical Structure Theory,简称Rectorical Theory)。然后,我们表明,这些措施的一个简单的线性组合,可以帮助改善各种现有的机器翻译评估指标与人类的判断在段和系统级的相关性。这表明,话语信息是互补的信息使用的许多现有的评估指标,因此,它可以考虑在开发更丰富的评估指标,如WMT-14获奖的组合指标DiscoTKparty。我们还提供了一个详细的相关性分析的各种话语元素和关系的语义分析树的机器翻译评估。特别是,我们表明:(i)翻译树的所有方面都是相关的,(ii)核性比关系类型更有用,以及(iii)翻译翻译树与参考树的相似性与翻译质量正相关。
2017-10-04 cs.CL
DRS at MRP 2020: Dressing up Discourse Representation Structures as Graphs
University of Groningen(格罗宁根大学);UiL OTS(乌得勒支大学语言学研究所(乌得勒支语言与语音研究所));Utrecht University(乌得勒支大学);CLCG(计算语言学与心理语言学中心);University of Oslo(奥斯陆大学)
语篇表征理论是对自然语言语篇意义的形式化描述。DRT中的含义是通过话语表示结构(DRS)建模的,这是一种具有模型理论解释的含义表示,通常被描述为嵌套框。相反,有向标记图是用于对自然语言文本的语义进行编码的常见数据结构。本文描述了将DRS打扮成有向标记图的过程,以将DRT作为一个新的框架纳入2020年跨框架和跨语言意义表征解析的共享任务中。由于共享任务的目标之一是鼓励几个语义图框架的统一模型,因此转换过程偏向于使DRT图框架与其他基于图的含义表示框架有点相似。
2020-12-29 cs.CL
Discourse Analysis via Questions and Answers: Parsing Dependency Structures of Questions Under Discussion
University of Colorado Boulder(科罗拉多大学博尔德分校);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究采用讨论中的问题框架,开发首个QUD解析器,利用众包数据集自动推导文档中问题的依存结构,验证其可行性并展示在文档简化中的价值。
2023-05-12 cs.CL
Improving Implicit Discourse Relation Classification by Modeling Inter-dependencies of Discourse Units in a Paragraph
Texas A&M University(得克萨斯农工大学)
我们认为句子或小句的语义不能独立于段落的其他部分,或独立于所有的话语关系和整个段落层面的话语结构来解释。为了提高隐含语篇关系分类的准确性,我们引入了一个段落级的神经网络,该网络可以对语篇单元之间的相互依赖关系、语篇关系的连续性和模式进行建模,并预测一个段落中的语篇关系序列。实验结果表明,我们的模型优于以前的国家的最先进的系统上的基准语料的PDTB。
2018-04-16 cs.CL
Fast Rhetorical Structure Theory Discourse Parsing
Educational Testing Service(教育考试服务中心);University of Southern California(南加州大学)
近年来,人们对语篇分析进行了各种各样的研究,尤其是对非正式语篇分析的研究。最近的大多数工作都集中在实现新类型的功能或学习算法,以提高准确性,相对较少关注的效率,鲁棒性,或实际使用。此外,大多数实现并不广泛可用。在这里,我们描述了一个自适应的模型和功能集从各种以前的工作,如下所述的视频分割和解析系统。它的准确性接近最先进的水平,并且它被开发为快速,稳健和实用。例如,它可以在不到一秒钟的时间内处理新闻文章或散文等简短文档。
2015-05-10 cs.CL
A Novel Corpus of Discourse Structure in Humans and Computers
Brown University(布朗大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Sussex(苏塞克斯大学)
我们提出了一个新的语料库的445人类和计算机生成的文件,包括约27,000条款,注释的语义从句类型和连贯性关系,允许细致入微的比较人工和自然的话语模式。该语料库涵盖正式和非正式话语,并包含使用微调的GPT-2生成的文档(Zellers等人,2019)和GPT-3(Brown等人,2020年)。我们展示了这个语料库的有用性,详细的话语分析文本生成提供了初步的证据,数量较少,较短,往往不连贯的条款关系与较低的感知质量的计算机生成的叙述和论点。
2021-11-10 cs.CL
Unlocking Structure Measuring: Introducing PDD, an Automatic Metric for Positional Discourse Coherence
University of Cambridge(剑桥大学);Monash University(莫纳什大学)
针对现有指标难以衡量长文本语篇连贯性的问题,本文提出自动指标 PDD 来量化两篇文章的语篇分歧,并在三个领域数据集上验证其更贴合人类与 GPT-4 评价。
2024-04-02 cs.CL
Discourse in Multimedia: A Case Study in Information Extraction
Carnegie Mellon University(卡内基梅隆大学);University of Pennsylvania(宾夕法尼亚大学)
为了确保可读性,文本通常以适当的格式编写和呈现。这些文本格式化设备帮助作者有效地传达叙事。同时,也有助于读者把握语篇结构,理解所传达的信息。关于语篇结构的语言学理论有很多。然而,这些理论只考虑无格式文本。多媒体文本包含丰富的格式功能,可用于各种NLP任务。本文探讨了多媒体文本中的语篇特征及其在语境中的交际功能。我们研究如何这些多媒体话语功能可以用来改善信息抽取系统。我们发现,话语和文本布局功能提供的信息是互补的词汇语义信息通常用于信息抽取。作为一个案例研究,我们使用这些功能来收获结构化的几何学科知识的教科书。我们发现,收获的结构化知识可以用来改善现有的几何问题求解器,使其更准确,更易于解释。
2018-11-13 cs.CL
Discourse Structure Extraction from Pre-Trained and Fine-Tuned Language Models in Dialogues
Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LORIA(洛林计算机科学及其应用研究所);University of British Columbia(不列颠哥伦比亚大学);IRIT(图卢兹计算机科学研究所);Université de Toulouse(图卢兹大学);ANITI(图卢兹人工智能与自然智能研究所)
针对对话篇章处理的数据稀疏问题,提出基于PLMs注意力矩阵的无监督和半监督方法,结合对话定制微调任务,在STAC语料库上取得显著效果。
2023-06-25 cs.CL
Discourse-Aware Emotion Cause Extraction in Conversations
Soochow University(苏州大学)
会话中的情感原因提取旨在提取会话中包含情感原因的话语。大多数先前的研究集中在建模会话上下文与顺序编码,忽略了话语和会话特定功能的ECEC之间的信息交互。在本文中,我们探讨的话语结构在处理话语互动和会话特定功能的ECEC的重要性。为此,我们提出了一个话语感知模型(DAM)的这项任务。具体地说,我们联合使用多任务学习(MTL)框架的话语分析模型ECEC和显式编码的话语结构通过门控图神经网络(门控GNN),我们的模型中集成了丰富的话语交互信息。此外,我们使用门控GNN来进一步增强我们的ECEC模型与会话特定的功能。基准语料库上的结果表明,DAM优于国家的最先进的(SOTA)系统在文献中。这表明,话语结构可能包含一个潜在的联系之间的情感话语和相应的原因表达。同时也验证了会话特征的有效性.本文的代码将在GitHub上提供。
2022-10-26 cs.CL
When Discourse Pressures Conflict: Information Structure in Vision-Language Model Outputs
Department of Computer Science, Aalborg University(奥尔堡大学计算机科学系);Department of Psycholinguistics and Neurolinguistics, ELTE Research Centre for Linguistics(ELTE语言研究中心心理学语言学与神经语言学系);ELTE Bárczi Gusztáv Faculty of Special Needs Education(ELTE巴尔茨吉斯塔夫特殊教育学院)
研究视觉-语言模型在视觉问答中是否区分话语旧主题和新焦点,发现模型虽产生信息结构相关结构但过度正则化,倾向于窄响应模板,类似模式崩溃。
2026-09-03 cs.CL
How Do We Answer Complex Questions: Discourse Structure of Long-form Answers
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
由多个句子组成的长格式答案可以为更广泛的问题提供细致入微的全面答案。为了更好地理解这一复杂且未得到充分研究的任务,我们研究了从ELI 5、WebGPT和Natural Questions三个数据集收集的长格式答案的功能结构。我们的主要目标是了解人类如何组织信息来制作复杂的答案。我们开发了一个本体的六个层次的功能角色的长形式的答案,并注释3.9K的句子在640答案段落。不同的答案收集方式体现在不同的语篇结构中。我们进一步分析了模型生成的答案--发现注释者在注释模型生成的答案时,与注释人类编写的答案相比,彼此之间的一致性更低。我们的注释数据可以训练一个强大的分类器,可用于自动分析。我们希望我们的工作可以启发未来的研究话语级建模和评估的长形式问答系统。
2022-03-21 cs.CL
Structure-Aware Abstractive Conversation Summarization via Discourse and Action Graphs
Georgia Institute of Technology(佐治亚理工学院)
摘要会话摘要是近年来研究的热点。然而,这些生成的摘要通常存在内容不足、冗余或不正确的问题,这主要是由于人与人之间交互的非结构化和复杂特性。为此,我们建议显式地建模会话中的丰富结构,以获得更精确和准确的会话摘要,首先通过结构化图将话语和动作三元组(“谁做什么”)之间的话语关系纳入话语中,以更好地编码会话,然后设计一个多粒度解码器,通过结合所有级别的信息来生成摘要。实验表明,我们提出的模型优于国家的最先进的方法和推广以及在其他领域的自动评估和人类的判断。我们已在https://github.com/GT-SALT/Structure-Aware-BART上公开发布了我们的代码。
2021-04-16 cs.CL
Uncovering the Potential of ChatGPT for Discourse Analysis in Dialogue: An Empirical Study
CUHKSZ(香港中文大学(深圳))
本文通过设计提示模板并在六个数据集上实验,系统评估 ChatGPT 在对话主题分割与语篇解析中的能力,揭示其领域差异及对层级修辞结构的线性化局限。
2024-03-05 cs.CL
Unsupervised Mutual Learning of Discourse Parsing and Topic Segmentation in Dialogue
针对对话中话语解析与主题分割的监督标注昂贵及无监督方法忽视二者交互的问题,提出统一表示与两个语言学假设,构建无监督互学习框架UMLF,联合建模修辞与主题结构,在多个数据集上超越强基线并有效提升大语言模型的话语结构建模。
2025-02-24 cs.CL
Bridging Discourse Treebanks with a Unified Rhetorical Structure Parser
本文提出UniRST,首个统一RST话语解析器,通过多头与掩码联合策略处理多语言树库,并在多数基线上取得更优性能。
2025-10-07 cs.CL
Multilingual Neural RST Discourse Parsing
Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究所)
语篇分析在理解自然语言中的信息流和论证结构方面起着重要的作用。以往的修辞结构理论研究主要集中在从英语树库中归纳和评价模式。然而,由于注释数据的短缺,其他语言(如德语,荷兰语和葡萄牙语)的解析任务仍然具有挑战性。在这项工作中,我们研究了两种方法来建立一个神经,跨语言的话语解析器通过:(1)利用多语言向量表示;(2)采用段级翻译的源内容。实验结果表明,这两种方法在训练数据有限的情况下也能有效地进行文本级的跨语言句法分析。
2020-12-03 cs.CL
On the Role of Context for Discourse Relation Classification in Scientific Writing
CSIRO Sydney, Australia(澳大利亚悉尼CSIRO);Heidelberg Institute for Theoretical Studies(海德堡理论研究所)
随着越来越多地使用生成式人工智能(AI)方法来支持科学工作流程,我们对使用话语级信息来为AI生成的科学主张寻找支持证据感兴趣。实现这一目标的第一步是检查推理的话语结构在科技写作的任务。在这项工作中,我们提出了一个初步的调查预训练语言模型(PLM)和大语言模型(LLM)方法的话语关系分类(DRC),专注于科学出版物,一个欠研究的体裁这项任务。我们研究如何上下文可以帮助DRC任务,我们的实验表明,上下文,由话语结构定义,一般是有帮助的。我们还提出了一个分析的科学话语关系类型可能受益最多的上下文。
2025-10-30 cs.CL
Exploring Neural Methods for Parsing Discourse Representation Structures
Center for Language and Cognition, University of Groningen(格罗宁根大学语言与认知中心)
神经方法最近在语义解析方面取得了一些成功,尽管它们还没有面对基于形式语义产生意义表示的挑战。我们提出了一个序列到序列的神经语义解析器,能够产生高精度的英语句子的话语表示结构(DRS),优于传统的DRS解析器。为了便于学习的输出,我们表示DRS作为一个序列的扁平条款,并介绍了一种方法来验证所产生的DRS是格式良好,可解释的。我们比较了使用字符和单词作为输入的模型,发现(有点令人惊讶)前者比后者表现得更好。我们表明,消除变量名从输出使用德Bruijn指数提高解析器的性能。添加银级训练数据可进一步提高性能。
2018-10-30 cs.CL
DISAPERE: A Dataset for Discourse Structure in Peer Review Discussions
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
科学评价的基础是劳动密集型的同行评议过程。这一关键任务要求参与者阅读大量技术性很强的文本。先前的工作已经注释了评论论证的不同方面,但评论和反驳之间的话语关系还有待研究。我们提出了DISAPERE,一个包含20 k个句子的标记数据集,这些句子包含在506个英语评论-反驳对中,由专家注释。DISAPERE从先前的工作中合成标签集,并将其扩展到包括反驳句的细粒度注释,描述其在评论中的上下文以及作者对评论论点的立场。此外,我们对每一个评论和反驳句都做了注释。我们发现,话语线索反驳可以揭示评论的质量和解释。此外,了解审稿人和作者采用的论证策略为地区主席和其他决策者提供了有用的信号。
2022-11-07 cs.CL
Biaffine Discourse Dependency Parsing
我们提供了一个研究,使用双仿射模型的神经话语依存句法分析,并取得显着的性能改善相比,基线分析器。在任务中我们比较了Reynner算法和Chu-Liu-Edmonds算法,发现Chu-Liu-Edmonds算法生成的树更深,性能更好。我们还用平均最大路径长度和平均叶节点比例来评价解析器的输出结构,发现解析器生成的依赖树接近于黄金树。由于语料库允许非投射结构,我们分析了语料库非投射性的复杂性,发现该语料库中的依赖结构的间隙度和边缘度最多为1。
2022-01-12 cs.CL
An End-to-End Document-Level Neural Discourse Parser Exploiting Multi-Granularity Representations
Institute for Infocomm Research, A*STAR(A*STAR信息通信研究所)
根据修辞结构理论(Rectorical Structure Theory),文档级语篇分析仍然是众所周知的挑战。挑战包括文档级话语树的深层结构,微妙的语义判断的要求,以及缺乏大规模的训练语料库。为了解决这些挑战,我们建议利用从语法和语义的多个粒度级别中获得的鲁棒表示,并将这些表示纳入端到端的编码器-解码器神经架构中,以实现更丰富的话语处理。特别是,我们首先使用一个预先训练的上下文语言模型,它体现了高阶和长程依赖,以实现更细粒度的语义,语法和组织表示。我们进一步编码这种表示与边界和层次信息,以获得更精细的建模文档级的话语处理。实验结果表明,我们的解析器达到了最先进的性能,接近人类水平的性能基准测试数据集。
2020-12-21 cs.CL
eRST: A Signaled Graph Theory of Discourse Relations and Organization
Georgetown University(乔治城大学);LMU Munich(慕尼黑大学);Åbo Akademi University(奥博 Akademi 大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
提出增强修辞结构理论(eRST)框架,通过引入非投射和并发关系及显隐式信号克服现有话语分析框架缺陷,并构建超20万词元标注语料库与工具支持自动解析及应用。
2024-08-28 cs.CL
DisSim: A Discourse-Aware Syntactic Text Simplification Frameworkfor English and German
University of St.Gallen(圣加仑大学);University of Passau(帕绍大学);University of Manchester(曼彻斯特大学)
我们介绍了DisSim,一个话语意识的句子分裂框架,英语和德语,其目标是转换成一个中间表示,提出了一个简单的,更规则的结构,更容易处理的下游语义应用句法复杂的句子。为此,我们把输入的句子成一个两层的语义层次结构的形式的核心事实和伴随的上下文,同时确定它们之间的修辞关系。通过这种方式,我们保留了输入的连贯性结构,从而保留了其对下游任务的可解释性。
2019-09-26 cs.CL
DiscoPrompt: Path Prediction Prompt Tuning for Implicit Discourse Relation Recognition
HKUST(香港科技大学);NVIDIA(英伟达)
针对隐式篇章关系识别,提出基于提示的层级路径预测方法,首次通过提示调优将结构信息注入预训练语言模型,性能显著优于基线。
2023-05-06 cs.CL
Revisiting Conversation Discourse for Dialogue Disentanglement
Wuhan University(武汉大学);National University of Singapore(新加坡国立大学);Singapore Management University(新加坡管理大学)
该研究针对对话解缠任务,通过构建异构图建模话语结构、设计分层排序损失与易优先解码算法,在两个基准数据集上取得最优性能,可支撑多方多线程对话应用。
2023-06-10 cs.CL
Modeling Document-level Temporal Structures for Building Temporal Dependency Graphs
Salesforce Research(赛富时研究院);Texas A&M University(得克萨斯农工大学)
我们建议利用新闻语篇分析来建模文档级的时间结构,以构建时间依赖图。我们的主要观察是,用于分析新闻话语的句子的功能角色表示与新闻故事相关的不同时间框架,因此,可以帮助恢复文档的全局时间结构。我们的分析和广泛使用的知识蒸馏技术的实验表明,语篇分析有效地识别遥远的句子间事件和(或)时间表达对的时间相关,否则难以定位。
2022-10-21 cs.CL
QUDsim: Quantifying Discourse Similarities in LLM-Generated Text
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出QUDsim,一种基于QUD和问题语义学的语篇相似性度量,发现LLMs在生成文本时比人类更频繁地复用语篇结构,且结构类型与人类存在显著差异。
2025-08-11 cs.CL
'Don't Get Too Technical with Me': A Discourse Structure-Based Framework for Science Journalism
University of Edinburgh(爱丁堡大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);Northeastern University(东北大学);IBM Research Europe(IBM欧洲研究院)
本文针对自动科学新闻任务,提出整合论文话语结构与元数据指导生成的技术框架,并构建SciTechNews数据集,实验证明其优于Alpaca和ChatGPT等基线方法。
2023-10-23 cs.CL
Discourse Representation Structure Parsing for Chinese
University of Groningen(格罗宁根大学)
该研究探索无标注数据下中文话语表征结构语义解析的可行性,构建数据收集流水线与专用测试集,发现副词是主要难点,且机器翻译加英语解析器的效果略低于直接用中文数据训练。
2023-06-16 cs.CL
In-Context Learning for Diagram Code Generation: What is the Effect on Faithfulness and Quality?
Aalto University(阿尔托大学)
本研究通过基于RST的上下文示例方法改进教育图表生成,发现高复杂度上下文增加幻觉风险,LLMs难以检测错误。
2026-11-05 cs.CL
Discourse Centric Evaluation of Machine Translation with a Densely Annotated Parallel Corpus
ETH Zürich(苏黎世联邦理工学院);Microsoft Research Asia(微软亚洲研究院)
本文提出了基于BWB构建的带有丰富语篇标注的新数据集,通过实体、术语、共指和引用四个方面系统评估文档级机器翻译,发现MT输出与人类翻译在潜在语篇结构上存在根本差异。
2023-05-18 cs.CL