Revisiting the syntax of imperatives in Yemeni Arabic: An Agree across phases approach
Ibb University（伊卜大学）
本文重新审视也门阿拉伯语祈使句语法，提出跨阶段同意（AAP）方法，通过语法与语篇的紧密互动解释简单和复杂祈使结构，包括A'-链结构，并探讨祈使句的主题主语为二人代词，前置动词的代词或名词元素为C领域元素。
2026-05-08 cs.CL
DRTS Parsing with Structure-Aware Encoding and Decoding
Zhejiang University（浙江大学）；Westlake University（西湖大学）；Westlake Institute for Advanced Study（西湖高等研究院）；University of Edinburgh（爱丁堡大学）；Tianjin University（天津大学）
语篇表征树结构句法分析是近年来备受关注的一种新型语义解析任务。最先进的性能可以通过神经序列到序列模型来实现，将树的构建视为增量序列生成问题。该模型忽略了输入语法和部分输出的中间骨架等结构信息，这对DRTS分析有潜在的帮助。在这项工作中，我们提出了一个结构感知的模型在编码器和解码器阶段整合的结构信息，其中图注意力网络（GAT）被用来有效地建模。在基准数据集上的实验结果表明，我们提出的模型是有效的，可以获得最好的性能在文献中。
2020-05-14 cs.CL
The Syntactic Acceptability Dataset (Preview): A Resource for Machine Learning and Linguistic Analysis of English
Florida State University（佛罗里达州立大学）
该论文介绍了一个包含1,000个英语序列的句法可接受性数据集预览版，标注了语法性和可接受性，并发现两者约83%一致，且机器学习模型预测可接受性优于语法性。
2025-06-22 cs.CL
Can We Automate the Analysis of Online Child Sexual Exploitation Discourse?
University of Liverpool（利物浦大学）；University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）
社交媒体的日益普及引发了人们对儿童在线安全的担忧。未成年人与具有掠夺意图的成年人之间的互动尤其令人严重关切。对在线性修饰的研究通常依赖于领域专家手动注释对话，限制了规模和范围。在这项工作中，我们测试如何自动化的方法可以检测会话行为，并取代专家的人类注释。根据在线梳理的心理学理论，我们将儿童性犯罪者发送的$6772$聊天信息标记为11种掠夺行为之一。我们训练词袋和自然语言推理模型来对每个行为进行分类，并表明表现最好的模型以与人类注释一致但不一致的方式对行为进行分类。
2022-09-25 cs.CL
Joint Universal Syntactic and Semantic Parsing
Johns Hopkins University（约翰霍普金斯大学）；Microsoft Research（微软研究院）；University of Rochester（罗切斯特大学）
虽然已经进行了许多尝试来联合解析语法和语义，但是一个域中的高性能通常是以另一个域中的性能为代价的。这种权衡与大量的研究相矛盾，这些研究集中在语法-语义接口的丰富交互上。我们探索了多个模型架构，使我们能够利用通用分解语义（UDS）数据集中包含的丰富的语法和语义注释，共同解析通用分解和UDS，以获得两种形式主义的最先进的结果。我们分析的语法和语义的联合模型的行为，发现在语法语义接口的语言学理论支持的模式。然后，我们调查联合建模推广到多语言环境的程度，在那里我们发现8种语言的相似趋势。
2021-04-12 cs.CL
An End-to-End Document-Level Neural Discourse Parser Exploiting Multi-Granularity Representations
Institute for Infocomm Research, A*STAR（A*STAR信息通信研究所）
根据修辞结构理论（Rectorical Structure Theory），文档级语篇分析仍然是众所周知的挑战。挑战包括文档级话语树的深层结构，微妙的语义判断的要求，以及缺乏大规模的训练语料库。为了解决这些挑战，我们建议利用从语法和语义的多个粒度级别中获得的鲁棒表示，并将这些表示纳入端到端的编码器-解码器神经架构中，以实现更丰富的话语处理。特别是，我们首先使用一个预先训练的上下文语言模型，它体现了高阶和长程依赖，以实现更细粒度的语义，语法和组织表示。我们进一步编码这种表示与边界和层次信息，以获得更精细的建模文档级的话语处理。实验结果表明，我们的解析器达到了最先进的性能，接近人类水平的性能基准测试数据集。
2020-12-21 cs.CL
Modeling Online Discourse with Coupled Distributed Topics
Carnegie Mellon University（卡内基梅隆大学）
在本文中，我们提出了一个深，全球规范化的主题模型，结合结构关系连接文档在社会上生成的语料库，如在线论坛。我们的模型（1）除了传统的主题信息之外，还沿着观察到的回复链接捕获话语交互，（2）将潜在的分布式表示纳入深层架构中，这使得基于GPU的平均场推理过程能够有效地扩展到大数据。我们将我们的模型应用于一个新的社交媒体数据集，该数据集由从流行的互联网论坛Reddit挖掘的1300万条评论组成，Reddit对不考虑连接用户评论的关系的模型构成了重大挑战。我们评估现有的方法在多个指标，包括困惑和元数据预测，并定性分析学习的交互模式。
2020-05-08 cs.CL cs.LG stat.ML
DiscoPrompt: Path Prediction Prompt Tuning for Implicit Discourse Relation Recognition
HKUST（香港科技大学）；NVIDIA（英伟达）
针对隐式篇章关系识别，提出基于提示的层级路径预测方法，首次通过提示调优将结构信息注入预训练语言模型，性能显著优于基线。
2023-05-06 cs.CL
Analyzing Neural Discourse Coherence Models
University of Cambridge（剑桥大学）；The ALTA Institute（ALTA研究所）；King’s College London（伦敦国王学院）
在这项工作中，我们系统地研究如何以及目前的连贯性模型可以捕捉到的方面，涉及在话语组织的文本。我们设计了两个数据集的各种语言的变化，破坏连贯性和测试模型的敏感性，在语法和语义的变化。此外，我们探讨话语嵌入空间和检查的知识，是编码在表示的连贯性。我们希望这项研究将提供进一步的洞察如何框架的任务，并进一步改善模型的一致性评估。最后，我们公开了我们的数据集，作为研究人员用来测试话语连贯模型的资源。
2020-11-12 cs.AI cs.CL cs.LG
Discourse Marker Augmented Network with Reinforcement Learning for Natural Language Inference
Zhejiang University（浙江大学）；Alibaba-Zhejiang University Joint Institute of Frontier Technologies（阿里巴巴-浙江大学前沿技术联合研究院）；Fabu Inc.（Fabu公司）
自然语言推理（NLI），又称文本蕴涵识别（RTE），是自然语言处理中最重要的问题之一。它需要推断两个给定句子之间的逻辑关系。虽然目前的方法主要集中在句子的交互结构，在本文中，我们建议从一些重要的话语标记转移知识，以提高NLI模型的质量。我们观察到人们通常使用诸如“so”或“but”之类的话语标记来表示两个句子之间的逻辑关系。这些词与句子的意义有着潜在的深层联系，因此可以用来帮助改善句子的表征。此外，我们使用强化学习来优化一个新的目标函数，并根据NLI数据集的属性定义奖励，以充分利用标签信息。实验表明，我们的方法达到了最先进的性能在几个大规模的数据集。
2019-07-23 cs.AI cs.CL cs.LG
Muse-it: A Tool for Analyzing Music Discourse on Reddit
Muse-it是一个平台，用于检索和分析Reddit上的大规模音乐话语，支持主题建模、趋势分析和音乐元数据链接，为音乐研究提供便捷工具。
2025-09-24 cs.CL cs.HC cs.IR
Discourse-Aware Rumour Stance Classification in Social Media Using Sequential Classifiers
University of Warwick（华威大学）；Alan Turing Institute（艾伦·图灵研究所）；University of Sheffield（谢菲尔德大学）；University of Melbourne（墨尔本大学）；University of Copenhagen（哥本哈根大学）
谣言立场分类，定义为将特定社交媒体帖子的立场分类为支持，否认，质疑或评论早期帖子之一，正在成为研究人员越来越感兴趣的问题。虽然大多数以前的工作都集中在使用个人推文作为分类器的输入，在这里，我们报告的顺序分类器，利用社会媒体互动或“会话线程”固有的话语功能的性能。测试四个顺序分类器的有效性-霍克斯过程，线性链条件随机场（线性CRF），树结构条件随机场（树CRF）和长短期记忆网络（LSTM）-在与突发新闻故事相关的八个数据集上，并查看不同类型的本地和上下文特征，我们的工作为准确的立场分类器的开发提供了新的思路。我们发现，顺序分类器，利用社会媒体对话中的话语属性的使用，同时只使用本地功能，优于非顺序分类器。此外，我们还证明了使用精简特征集的LSTM可以优于其他顺序分类器;这种性能在数据集和立场类型之间是一致的。最后，我们的工作还分析了正在研究的不同特征，确定了那些最有助于识别和区分立场的特征，例如支持推文比否认推文更有可能伴随证据。我们还提出了一些未来研究的方向。
2017-12-06 cs.CL cs.SI
Machine-Facing English: Defining a Hybrid Register Shaped by Human-AI Discourse
ddai Inc.（ddai公司）
本研究基于语体理论定义了由人机交互塑造的面向机器的英语（MFE）语体，揭示了其提升机器解析度但压缩表达范围的五大特征，并指出其在界面设计与多语言教学上的挑战。
2025-05-29 cs.CL
Is Incoherence Surprising? Targeted Evaluation of Coherence Prediction from Language Models
University of Potsdam（波茨坦大学）
连贯语篇与单纯的话语集合的区别在于它满足了一系列不同的约束条件，例如表达方式的选择、所指事件之间的逻辑关系以及与世界知识的隐含兼容性。神经语言模型编码这样的约束吗？我们设计了一套可扩展的测试套件，解决不同方面的话语和对话的连贯性。与大多数以前的连贯性评估研究不同，我们解决了句子顺序扰动之外的特定语言设备，允许更细粒度地分析什么构成连贯性以及在语言建模目标上训练的神经模型编码。将神经语言模型的目标评估范式（Marvin和Linzen，2018）扩展到语法之外的现象，我们表明这种范式同样适合评估有助于连贯性概念的语言质量。
2021-05-07 cs.CL
Towards an Analysis of Discourse and Interactional Pragmatic Reasoning Capabilities of Large Language Models
Bielefeld University（比勒费尔德大学）；Social Cognitive Systems（社会认知系统）；Computational Linguistics（计算语言学）
本文梳理了大语言模型中已测试的语用能力及其测试方法，提出将语用学细分为话语语用学和互动语用学，并以此为基础综述相关研究。
2024-08-06 cs.CL
Information-Restricted Neural Language Models Reveal Different Brain Regions' Sensitivity to Semantics, Syntax and Context
INSERM（法国国家健康与医学研究院）；CEA（法国原子能和替代能源委员会）；INRIA（法国国家信息与自动化研究所）
神经语言学中的一个基本问题涉及言语理解过程中涉及句法和语义处理的大脑区域，包括词汇（字处理）和超词汇水平（句子和话语处理）。这些区域在多大程度上是相互分离或交织在一起的？为了解决这个问题，我们在文本语料库上训练了一个词汇语言模型Glove和一个超词汇语言模型GPT-2，我们选择性地删除了语法或语义信息。然后，我们评估了这些信息限制模型在多大程度上能够预测人类听自然主义文本的fMRI信号的时间过程。我们还操纵了提供给GPT-2的上下文信息的大小，以确定参与超词汇处理的大脑区域的整合窗口。我们的分析表明，虽然大多数涉及语言的大脑区域对句法和语义变量都很敏感，但这些影响的相对大小在这些区域之间有很大差异。此外，我们还发现左右半球之间的不对称性，语义和句法加工在左半球比在右半球更加分离，并且左半球和右半球分别对短和长语境表现出更大的敏感性。信息受限的NLP模型的使用，从而揭示了句法处理，语义处理和组合性的空间组织。
2023-02-28 cs.CL
Plurality and Quantification in Graph Representation of Meaning
Rutgers, The State University of New Jersey（罗格斯大学，新泽西州立大学）
在这篇论文中，我们提出了一种基于有向图的语义表示形式，并探讨了它在复数和量化语义方面的语言充分性和解释优势。我们的图形语言涵盖了自然语言语义的要点，只使用一元二阶变量。我们定义其模型理论的解释，在图遍历，其中的相对范围的变量从他们的估值顺序。我们提出了一个基于统一的机制，在一个简单的语法语义接口，语法作为一个分区功能的话语所指的是实现与范畴语法之间建立一个部分确定性的关系语义和句法分布的语义图。该机制是自动化的，以方便未来的探索。本图形式主义适用于语言问题的分配谓词，跨范畴的连接，和范围置换的量化表达式，包括不确定的例外范围行为。
2021-12-13 cs.CL
Discourse-Aware Emotion Cause Extraction in Conversations
Soochow University（苏州大学）
会话中的情感原因提取旨在提取会话中包含情感原因的话语。大多数先前的研究集中在建模会话上下文与顺序编码，忽略了话语和会话特定功能的ECEC之间的信息交互。在本文中，我们探讨的话语结构在处理话语互动和会话特定功能的ECEC的重要性。为此，我们提出了一个话语感知模型（DAM）的这项任务。具体地说，我们联合使用多任务学习（MTL）框架的话语分析模型ECEC和显式编码的话语结构通过门控图神经网络（门控GNN），我们的模型中集成了丰富的话语交互信息。此外，我们使用门控GNN来进一步增强我们的ECEC模型与会话特定的功能。基准语料库上的结果表明，DAM优于国家的最先进的（SOTA）系统在文献中。这表明，话语结构可能包含一个潜在的联系之间的情感话语和相应的原因表达。同时也验证了会话特征的有效性.本文的代码将在GitHub上提供。
2022-10-26 cs.CL
Anaphora and Discourse Structure
本文认为，许多常见的状语短语通常被用来表示语篇结构中句法连接单位之间的语篇关系，而不是间接依赖于语篇结构的回指作用，以贡献关系意义。这使得一个更简单的话语结构，提供脚手架的组合语义，并揭示了多种方式，在这种方式中，关系意义所传达的副词连接词可以与相关的话语结构相互作用。最后，我们勾勒出一个词汇化的语法话语，有利于话语解释的组成规则，照应决议和推理的产品。
2002-09-13 cs.CL
What makes an entity salient in discourse?
Georgetown University（乔治城大学）
本文研究了话语层面显著性的影响因素，发现话语结构和语义特征比形态语法特征更稳健，且受文体和交际意图影响显著。
2026-04-19 cs.CL
Unpacking Ambiguity: The Interaction of Polysemous Discourse Markers and Non-DM Signals
Georgetown University（乔治城大学）
本文基于eRST框架研究英语中多义话语标记与非话语标记信号的共现关系，发现多义话语标记伴随更多样化但并非更多的非话语标记信号，且体裁对二者交互有显著影响。
2025-09-17 cs.CL
Who Responded to Whom: The Joint Effects of Latent Topics and Discourse in Conversation Structure
Fudan University（复旦大学）；The Hong Kong Polytechnic University（香港理工大学）
每天都会产生大量的在线对话，因此迫切需要理解对话。作为构建讨论的基础，我们识别了会话话语中的回应关系，这些关系将回应话语与其启动联系起来。为了弄清楚谁回应谁，在这里，我们探讨如何主题内容的一致性和话语角色的依赖性表明这样的互动，而大多数以前的工作忽略了潜在因素的影响，潜在的单词出现。我们提出了一个模型来学习潜在的主题和话语分布，并预测成对的启动-响应链接，通过利用主题一致性和话语依赖。对中英文会话的实验结果表明，我们的模型明显优于先前的艺术状态，如79对73 MRR的中文客户服务对话。我们进一步探讨我们的输出，并阐明如何主题和话语表明会话用户交互。
2021-04-17 cs.CL
Subject islands do not reduce to construction-specific discourse function
Tel Aviv University（特拉维夫大学）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
研究探讨主语岛屿现象并非由移动引起，而是由信息结构和语篇背景性决定，通过实验验证不同构造对主语岛屿效应的影响。
2026-02-09 cs.CL
SHINE: Syntax-augmented Hierarchical Interactive Encoder for Zero-shot Cross-lingual Information Extraction
University of Science and Technology of China（中国科学技术大学）；iFLYTEK Research（科大讯飞研究院）
针对零样本跨语言信息抽取，提出SHINE编码器，通过多级交互网络融合语言通用特征与上下文信息，并引入成分结构语法特征建模跨度信息，有效提升了跨语言IE任务的性能与泛化能力。
2023-05-21 cs.CL
Document Context Language Models
Georgia Institute of Technology（佐治亚理工学院）；University of Melbourne（墨尔本大学）；Carnegie Mellon University（卡内基梅隆大学）
文本文档是在多个细节层次上结构化的：单个单词通过语法相关，但更大的文本单元通过话语结构相关。现有的语言模型通常不能解释语篇结构，但如果我们要有语言模型，奖励连贯性和生成连贯的文本，这是至关重要的。我们提出并实证评估了一组多层次的递归神经网络语言模型，称为文档上下文语言模型（DCLM），其中包括上下文信息内和外的句子。与单词级递归神经网络语言模型相比，DCLM模型获得了略好的预测似然性，以及相当好的文档连贯性评估。
2016-02-21 cs.CL cs.LG stat.ML
Recurrent Convolutional Neural Networks for Discourse Compositionality
Oxford University（牛津大学）
意义的组合性超出了单个句子。正如单词组合形成句子的意义一样，句子组合形成段落，对话和一般话语的意义。我们介绍了相应的两个层次的组合性的句子模型和话语模型。句子模型采用卷积作为语义向量构成的中心运算，并基于一种新型的分层卷积神经网络。话语模型扩展了句子模型，并基于一个递归神经网络，该网络以一种新颖的方式对当前句子和当前说话者进行调节。语篇模型能够捕捉句子的顺序性和不同说话者之间的互动。在没有特征工程或预训练的情况下，通过简单的贪心解码，与句子模型耦合的话语模型在对话行为分类实验上获得了最先进的性能。
2013-06-15 cs.CL
What Do AI Agents Talk About? Discourse and Architectural Constraints in the First AI-Only Social Network
Department of Computer Science, Kent State University（肯特州立大学计算机科学系）；New Jersey Institute of Technology（新泽西理工学院）
研究分析了Moltbook中代理话语的主题、情感和互动特性，揭示了话语生成受代理身份文件、行为指令和上下文窗口结构的影响，提出架构约束通信框架。
2026-05-14 cs.CL
An Annotation Scheme for Reichenbach's Verbal Tense Structure
University of Sheffield（谢菲尔德大学）
在本文中，我们提出了RTMML，一个置标语言的动词时态和动词之间的时间关系。语言中时态的丰富性并没有被现有的时间注释图式完全捕获。继赖兴巴赫，我们提出了一个分析时态的抽象时间点，支持自动化处理的时态和时间关系的语言的目的。这允许对文档中的时态进行精确的推理，并推断话语中时间和言语事件之间的时间关系。我们定义了RTMML的语法，并在一系列情况下演示了标记。
2012-03-22 cs.CL
When a sentence does not introduce a discourse entity, Transformer-based models still sometimes refer to it
Center for Data Science（数据科学中心）；Department of Linguistics（语言学系）；New York University（纽约大学）
理解较长的叙述或参与对话需要跟踪已经提到的话语实体。不定名词短语（NP），如“一只狗”，经常引入话语实体，但这种行为是由间接操作，如否定调制。例如，“亚瑟没有狗”中的“一只狗”由于否定的存在而没有引入话语实体。在这项工作中，我们适应的心理语言学评估的语言模型范式，以更高层次的语言现象，并介绍了英语评估套件，目标的知识之间的相互作用，不确定的操作符和NP。我们使用此评估套件对基于Transformer的模型GPT-2和GPT-3的实体跟踪能力进行细粒度调查。我们发现，虽然模型在一定程度上对我们研究的相互作用敏感，但它们都受到多个NP存在的挑战，并且它们的行为不是系统的，这表明即使是GPT-3规模的模型也没有完全获得基本的实体跟踪能力。
2022-05-06 cs.CL
AMERICANO: Argument Generation with Discourse-driven Decomposition and Agent Interaction
The Hong Kong Polytechnic University（香港理工大学）；InspireOmni AI；DAMO Academy, Alibaba Group（阿里巴巴达摩院）；Case Western Reserve University（凯斯西储大学）
本文提出 Americano 框架，将论证生成分解为基于论证理论的顺序动作并引入智能体交互与论证精炼模块，在 Reddit/CMV 子集上优于端到端和思维链方法，能生成更连贯、有说服力且内容多样的论证。
2024-09-02 cs.CL
On the Importance of Word and Sentence Representation Learning in Implicit Discourse Relation Classification
The Hong Kong University of Science and Technology（香港科技大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
隐性语篇关系分类是浅层语篇分析中最困难的部分之一，因为在没有显性连接词的情况下进行关系预测需要在语篇跨度和句子两个层面上进行语言理解。以往的研究主要集中在两个参数之间的相互作用。我们认为，一个强大的语境化表征模块，双边多视角匹配模块，和一个全球性的信息融合模块都是重要的隐式话语分析。我们提出了一个新的模型，将这些模块结合在一起。大量的实验表明，我们提出的模型在PDTB数据集上的性能优于BERT和其他最先进的系统约8%，在CoNLL 2016数据集上的性能优于约16%。我们还分析了内隐话语关系分类任务中不同模块的有效性，并展示了不同水平的表示学习如何影响结果。
2020-04-28 cs.CL
Intentions and Information in Discourse
本文探讨了语篇加工过程中交际意图、语篇结构和语篇域之间的推理流程。我们增加了一个理论的话语解释的不同的心理态度和推理的理论，以提供一个帐户的态度如何与推理的话语结构。
1994-06-01 cmp-lg cs.CL
Discourse and conversation impairments in patients with dementia
神经变性表征具有不同痴呆亚型的个体（例如，阿尔茨海默病、原发性进行性失语症和帕金森病患者），导致认知、语言和社会功能的进行性下降。言语和语言障碍是具有局灶性神经退行性疾病的个体的早期症状，伴有认知、社交和行为领域的缺陷。本文回顾了语言和沟通缺陷的研究结果，并确定了痴呆症的生产和感知的话语。它讨论了有关（一）语言功能，认知表征和损伤，（二）交际能力，情感，移情和心理理论，（三）言语互动的研究结果。它认为，临床话语分析可以提供一个全面的评估个人的语言和沟通能力，补充现有的神经语言学评估（鉴别）诊断，预后和治疗效果评估。
2022-12-03 cs.CL
Syntax and Semantics Meet in the "Middle": Probing the Syntax-Semantics Interface of LMs Through Agentivity
Language Technologies Institute（语言技术研究所）；Carnegie Mellon University（卡内基梅隆大学）
本文以施事性为案例，构建可选及物动词评测数据集，探究语言模型在句法-语义接口上的交互能力，发现GPT-3 text-davinci-003表现远超其他模型，且与人类判断相关性优于语料库统计量。
2023-07-10 cs.CL
A Multi-view Discourse Framework for Integrating Semantic and Syntactic Features in Dialog Agents
针对现有多轮对话模型忽略话语交互或同等对待所有话语的问题，本文提出语篇感知框架，通过MCCA和CCA两步法整合语义与句法特征，在Ubuntu语料库上提升响应选择效果。
2025-04-12 cs.CL
Is there an aesthetic component of language?
Texas Tech University（得克萨斯理工大学）
所有人类语言的使用者都利用语法手段来表达属性、情感和观点，以及对话语中的主题提供元评论。一般来说，语言学家将这一类别称为“表达”，尽管确切定义“表达”仍然难以捉摸。表达性的难以捉摸引起了人们对表达性作为一种语言原则的性质的大量猜测。具体来说，一些学者指出了相对于“正常”或“自然”形态句法，表情词的“特殊”或“不寻常”性质。
2022-02-19 cs.CL q-bio.NC
Paraphrase Types Elicit Prompt Engineering Capabilities
University of Göttingen（戈丁根大学）；University of Toronto（多伦多大学）
本研究通过分析同义词类型对提示工程的影响，发现特定语言变化可提升语言模型的任务表现。
2026-02-15 cs.CL
Principle Based Semantics for HPSG
本文提出了一种基于约束的HPSG语义形式化。语法语义接口直接实现了量词作用域和分布性的语法条件。语义表示的构建是由控制句法和语义之间相互作用的一般原则指导的。这些原则中的每一个都是一种约束，以缩小对一个句子的可能解释的范围。歧义句的意义由单个部分表示（所谓的U（nderspecified）D（iscourse）R（eprepresentation）S（structure）s）表示，可以单调地向其添加进一步的约束以获得关于句子内容的更多信息。没有必要建立大量的替代表示的句子，然后过滤随后的话语和世界知识。UDRS的优点不仅在于它们允许单调递增的解释，而且还配备了真值条件和证明理论，允许直接在量词范围未解决的结构上进行推理。
1995-02-21 cmp-lg cs.CL
Modeling Topics and Sociolinguistic Variation in Code-Switched Discourse: Insights from Spanish-English and Spanish-Guaraní
本研究利用大型语言模型构建标注流程，分析西班牙-英语和西班牙-瓜拉尼语混合话语中的主题与社会语言学变异，揭示性别、语言主导地位与话语功能的关系，并扩展了双语现象的定量证据。
2025-12-03 cs.CL
Holmes: A Benchmark to Assess the Linguistic Competence of Language Models
Ubiquitous Knowledge Processing Lab (UKP Lab)（通用知识处理实验室）；Technical University of Darmstadt（达姆施塔特技术大学）；Information Systems Research Lab（信息系统研究实验室）；Lucerne University of Applied Sciences and Arts（卢塞恩应用科学与艺术大学）；IBM Research AI（IBM AI研究部）；MIT CSAIL（MIT CSAIL实验室）；MIT-IBM Watson AI Lab（MIT-IBM沃森AI实验室）；IBM Research Europe - Ireland（IBM欧洲爱尔兰研究部）
Holmes基准通过分类器探测方法评估语言模型对语法、形态学等语言现象的理解，发现模型大小、架构和指令微调显著影响性能，提出FlashHolmes提升效率。
2026-05-11 cs.CL
When Discourse Pressures Conflict: Information Structure in Vision-Language Model Outputs
Department of Computer Science, Aalborg University（奥尔堡大学计算机科学系）；Department of Psycholinguistics and Neurolinguistics, ELTE Research Centre for Linguistics（ELTE语言研究中心心理学语言学与神经语言学系）；ELTE Bárczi Gusztáv Faculty of Special Needs Education（ELTE巴尔茨吉斯塔夫特殊教育学院）
研究视觉-语言模型在视觉问答中是否区分话语旧主题和新焦点，发现模型虽产生信息结构相关结构但过度正则化，倾向于窄响应模板，类似模式崩溃。
2026-09-03 cs.CL
Structure-Aware Abstractive Conversation Summarization via Discourse and Action Graphs
Georgia Institute of Technology（佐治亚理工学院）
摘要会话摘要是近年来研究的热点。然而，这些生成的摘要通常存在内容不足、冗余或不正确的问题，这主要是由于人与人之间交互的非结构化和复杂特性。为此，我们建议显式地建模会话中的丰富结构，以获得更精确和准确的会话摘要，首先通过结构化图将话语和动作三元组（“谁做什么”）之间的话语关系纳入话语中，以更好地编码会话，然后设计一个多粒度解码器，通过结合所有级别的信息来生成摘要。实验表明，我们提出的模型优于国家的最先进的方法和推广以及在其他领域的自动评估和人类的判断。我们已在https://github.com/GT-SALT/Structure-Aware-BART上公开发布了我们的代码。
2021-04-16 cs.CL
From Persona to Person: Enhancing the Naturalness with Multiple Discourse Relations Graph Learning in Personalized Dialogue Generation
Department of Computer Science（计算机科学系）；Information Engineering, National Cheng Kung University, Taiwan（信息工程系，国立云林科技大学，台湾）；Department of Computer Science, National Tsing Hua University, Taiwan（计算机科学系，国立清华大学，台湾）
针对个性化对话生成中回复需兼顾连贯性与人设一致性的挑战，提出MUDI方法，借助大语言模型构建对话图、用DialogueGAT捕捉话语关系，并通过连贯感知注意力提升生成质量，使回复更自然类人。
2025-06-13 cs.CL
Mastering the Explicit Opinion-role Interaction: Syntax-aided Neural Transition System for Unified Opinion Role Labeling
Wuhan University（武汉大学）；Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））
统一意见角色标注（ORL）的目的是检测所有可能的意见结构的“意见持有者目标”在一个镜头，给定的文本。现有的基于转换的统一方法，不幸的是，是受较长的意见条款，并未能解决术语重叠的问题。目前的最高性能已经实现了采用基于跨度的图模型，但仍然受到高模型复杂性和意见和角色之间的互动不足。在这项工作中，我们研究了一种新的解决方案，通过重新访问的过渡架构，并增加了一个指针网络（PointNet）。该框架以线性时间复杂度解析出所有的意见结构，同时突破了PointNet对任意词长的限制。为了实现明确的意见-角色的互动，我们进一步提出了一个统一的依赖意见图（UDOG），共同建模的句法依赖结构和部分意见-角色结构。然后，我们设计了一个以关系为中心的图聚合器（RCGA）编码的多关系UDOG，其中产生的高阶表示用于促进香草过渡系统中的预测。我们的模型在MPQA基准测试中取得了新的最先进的结果。分析进一步证明了我们的方法在有效性和效率上的优越性。
2021-12-13 cs.CL
Unsupervised Mutual Learning of Discourse Parsing and Topic Segmentation in Dialogue
针对对话中话语解析与主题分割的监督标注昂贵及无监督方法忽视二者交互的问题，提出统一表示与两个语言学假设，构建无监督互学习框架UMLF，联合建模修辞与主题结构，在多个数据集上超越强基线并有效提升大语言模型的话语结构建模。
2025-02-24 cs.CL
Leveraging Natural Supervision for Language Representation Learning and Generation
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
自然语言处理（NLP）的最新突破是由在大量纯文本上训练的语言模型推动的。虽然强大，从文本资源中获得监督仍然是一个悬而未决的问题。例如，语言模型预训练经常忽略文本数据中丰富的、自由可用的结构。在这篇论文中，我们描述了三条工作线，旨在改善使用自然发生的监督神经模型的训练和评估。我们首先研究自我监督训练损失，以帮助提高各种NLP任务的预训练语言模型的性能。具体来说，我们改变了句子预测损失，使其更好地适应其他预训练损失，解决起来更具挑战性。我们设计了一个中间微调步骤，使用自监督训练来提高模型的跨任务泛化能力。然后，我们描述的方法来利用维基百科和释义的结构。特别是，我们提出了培训损失，利用超链接，文章结构和文章类别图的实体，话语，蕴涵相关的知识。我们提出了一个使用释义对来理清句子表示中的语义和语法的框架。我们扩展了一个新的生成任务，控制输出文本的语法与一个mixtial范例的框架。最后，我们讨论了我们的工作量身定制的文本资源，建立具有挑战性的评估任务。我们通过使用各种粉丝贡献的网站定义新任务来介绍三个数据集，包括长格式数据到文本生成数据集，剧本摘要数据集和长格式故事生成数据集。这些数据集具有独特的特点，为今后在各自任务背景下开展工作提出了挑战。
2022-07-21 cs.CL
Embedding Syntax and Semantics of Prepositions via Tensor Decomposition
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
介词是英语中使用频率最高的词之一，在句子的句法和语义中起着复杂的作用。毫不奇怪，它们在句子的自动处理中造成了众所周知的困难（介词连接歧义和短语中的特殊用法）。关于介词表示的现有方法将介词与内容词（例如，word2vec和GloVe）。此外，最近的研究旨在解决介词连接和介词选择问题严重依赖外部语言资源，并使用特定的词汇表征。在本文中，我们使用词三元组计数（三元组中的一个是介词）来捕捉介词的相互作用，其附件和补充。然后，我们推导出介词嵌入通过张量分解一个大型的未标记的语料库。我们揭示了一个新的几何阿达玛产品，并实证证明其效用在释义短语动词。此外，我们的介词嵌入作为简单的功能，在两个具有挑战性的下游任务：介词选择和介词附件消歧。我们在多个标准化数据集上实现了与最先进技术相当或更好的结果。
2018-05-23 cs.CL
Nebula: A discourse aware Minecraft Builder
IRIT（法国图卢兹计算机科学、电子与通信研究院）；CNRS（法国国家科学研究中心）；LINAGORA Labs（LINAGORA实验室）
针对现有语言转动作模型缺乏对话语义结构信息的问题，研究提出融合对话先前话语与非语言语境的Nebula模型，微调LLM预测动作，在相关任务上净动作F1分数较基线翻倍，还验证了其形状构建与位置描述理解能力。
2024-10-08 cs.CL cs.LG
Linguistic Elements of Engaging Customer Service Discourse on Social Media
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
客户正在迅速转向社交媒体以获得客户支持。虽然这些平台上的品牌代理商有动机和善意地帮助和吸引客户，但如果他们对客户的最初回应与客户想要接收的特定语气，风格或主题不匹配，他们的努力往往会被忽视。对话的长度可以反映品牌对合作和帮助消费者的最初反应的努力和质量，即使对话的整体情绪可能不是很积极。因此，通过这项研究，我们的目标是弥合现有文献中的这一关键差距，通过分析语言的内容和风格方面，如表达的同理心，心理语言学特征，对话标签，量化个性化的话语，可以影响互动的参与和指标。本文表明，我们可以预测参与使用初始客户和品牌职位。
2022-12-24 cs.CL
ControBench: An Interaction-Aware Benchmark for Controversial Discourse Analysis on Social Networks
Nanyang Technological University（南洋理工大学）；NVIDIA（NVIDIA公司）；Nanjing University（南京大学）；Mila - Quebec AI Institute（魁北克AI研究所）；McGill University（麦吉尔大学）；University of Montreal（蒙特利尔大学）
ControBench结合异质社交交互图与丰富文本语义，通过Reddit讨论数据构建，用于研究争议性 discourse 分析中的政治极化、虚假信息和内容审核问题。
2026-10-14 cs.CL cs.LG
Intonational Boundaries, Speech Repairs and Discourse Markers: Modeling Spoken Dialog
为了理解说话者的谈话，需要将其分割成语调短语，清理可能发生的任何言语修复，并识别话语标记。在本文中，我们认为，这些问题必须一起解决，他们必须在处理流的早期解决。我们提出了一种统计语言模型，解决了这些问题，进行词性标注，并可以作为语音识别器的语言模型。我们发现，通过考虑这些任务之间的相互作用，每个任务的表现都有所改善，词性标注和困惑也有所改善。
1997-04-23 cmp-lg cs.CL
Spin Glass Models of Syntax and Language Evolution
California Institute of Technology（加州理工学院）
利用SSWL世界语言句法参数数据库和MIT媒体实验室关于语言交互作用的数据，我们构建了一个语言进化的自旋玻璃模型。我们把二进制语法参数作为自旋状态，语言作为图的顶点，并沿边缘分配相互作用能。我们研究一个粗略的语法演化模型，假设一个强大的相互作用能往往会导致参数对齐，在铁磁材料的情况下。我们还研究了如何修改自旋玻璃模型以解释语法参数之间的蕴涵关系。这种修改自然会导致与外部磁场的Potts模型的推广，其中包括在伊辛模型和Potts模型的顶点耦合与q=3，具有相同的边缘相互作用。我们描述了这些模型的动态模拟的结果，在不同的温度和能量制度。我们讨论的物理模型的参数的语言解释。
2015-07-31 cond-mat.dis-nn cs.CL physics.soc-ph
When Language Models Lose Their Mind: The Consequences of Brain Misalignment
MPI-SWS（马克斯·普朗克研究所）
研究探讨了大脑对齐对语言能力的影响，通过创建大脑错位模型发现其显著损害下游性能，强调了大脑对齐在实现稳健语言能力中的关键作用。
2026-03-24 cs.CL
Self-Training Doesn't Flatten Language -- It Restructures It: Surface Markers Amplify While Deep Syntax Dies
Amazon（亚马逊）
该研究通过实验发现自我训练过程并非使语言扁平化，而是重构了语言结构，表面标记增强而深层语法结构消失，并提出了结构性深度假说来解释这一现象。
2026-05-20 cs.AI cs.CL cs.LG
