An Adversarial Approach to High-Quality, Sentiment-Controlled Neural Dialogue Generation
Language Technologies Institute（语言技术研究所）；Carnegie Mellon University（卡内基梅隆大学）
在这项工作中，我们提出了一种神经对话响应生成的方法，它不仅允许根据对话历史生成语义合理的响应，而且还可以通过情感标签明确控制响应的情感。我们提出的模型是基于有条件对抗学习的范式;情感控制对话生成器的训练由对抗性学习辅助，该学习评估从对话历史和给定情感标签生成的响应的流畅性和可行性。由于我们的框架的灵活性，生成器可以是标准的序列到序列（SEQ 2 SEQ）模型或更复杂的一个，如条件变分自编码器为基础的SEQ 2 SEQ模型。使用自动和人类评价的实验结果都表明，我们提出的框架是能够生成语义合理和情感控制的对话响应。
2019-01-22 cs.CL
Counterfactual Data Augmentation via Perspective Transition for Open-Domain Dialogues
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Tencent Inc（腾讯公司）
开放领域对话系统的构建需要高质量的对话数据集。对话数据承认对于给定对话历史的各种各样的响应，特别是具有不同语义的响应。然而，在大多数情况下，收集高质量的数据集是劳动密集型和耗时的。在本文中，我们提出了一个数据增强方法，自动增加高质量的响应与不同的语义反事实推理。具体来说，给定一个观察到的对话，我们的反事实生成模型首先推断语义上不同的反应，取代观察到的答复的角度与替代的。此外，我们的数据选择方法过滤掉有害的扩增反应。实验结果表明，我们的数据增强方法可以增加高质量的响应与不同的语义为一个给定的对话历史，并可以在多个下游任务的竞争基线。
2022-10-30 cs.AI cs.CL
Learning Disentangled Semantic Spaces of Explanations via Invertible Neural Networks
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap研究所）
本文提出将可逆神经网络与Transformer语言自编码器结合，实现更通用的句子语义解耦，从而提升语言可解释性与可控生成能力。
2024-06-11 cs.AI cs.CL
Generating Dialogue Responses from a Semantic Latent Space
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Samsung Research America（三星美国研究院）
现有的开放域对话生成模型通常使用词汇的交叉熵损失来训练以模仿训练集中的黄金响应。然而，一个好的响应不需要类似于黄金响应，因为对于给定的提示有多种可能的响应。在这项工作中，我们假设，目前的模型是无法整合的信息，从多个语义相似的有效响应的提示，从而产生通用的和无信息的反应。为了解决这个问题，我们提出了一种替代的端到端分类的词汇。我们学习提示和响应之间的配对关系作为潜在空间上的回归任务。在我们的新的对话生成模型中，语义相关的句子的表示是彼此接近的潜在空间。人类评估表明，在连续空间上学习任务可以产生相关和信息丰富的反应。
2020-10-04 cs.CL
Seen to Unseen: Exploring Compositional Generalization of Multi-Attribute Controllable Dialogue Generation
Meituan（美团）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出DCG模型，通过属性提示向量和解耦损失实现多属性可控对话生成的组合泛化，并设计统一无参考评估框架，在两个基准上验证了有效性。
2023-06-17 cs.CL
Nudging Neural Conversational Model with Domain Knowledge
Microsoft Research（微软研究院）
神经会话模型是有吸引力的，因为人们可以训练一个模型直接对对话的例子与最少的标签。然而，对于少量的数据，它们通常无法概括测试数据，因为它们倾向于捕获虚假的特征，而不是语义上有意义的领域知识。为了解决这个问题，我们提出了一种新的方法，允许任何人类教师将他们的领域知识以自然语言规则的形式转移到会话模型中。我们用三个不同的对话数据集测试了我们的方法。所有领域的性能提高证明了我们提出的方法的有效性。
2018-11-15 cs.AI cs.CL
Low-Resource Knowledge-Grounded Dialogue Generation
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机技术研究所）；Center for Data Science, AAIS, Peking University（北京大学人工智能研究院数据科学中心）；Microsoft Corporation（微软公司）；Beijing Academy of Artificial Intelligence (BAAI)（北京人工智能研究院）
知识响应已被公认为智能会话代理的一个重要能力。然而，知识为基础的对话，作为训练数据学习这样的响应生成模型，是很难获得的。在实践中的挑战的动机下，我们认为知识为基础的对话生成的自然假设，只有有限的训练样本。在这样一个低资源的设置，我们设计了一个解开响应解码器，以隔离依赖于知识为基础的对话从整个生成模型的参数。通过这种方法，模型的主要部分可以从大量的无基础的对话和非结构化的文档中学习，而剩余的小参数可以使用有限的训练样本很好地拟合。两个基准测试的结果表明，该模型仅用1/8的训练数据就能达到最先进的性能，并能很好地推广领域外的知识。
2020-02-24 cs.CL
Semantically Aligned Task Decomposition in Multi-Agent Reinforcement Learning
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳人工智能与机器人研究院）；East China Normal University（华东师范大学）；Tongji University（同济大学）
针对合作式稀疏奖励多智能体强化学习中现有自动子目标生成方法样本效率低的问题，提出结合预训练语言模型思维链与语言锚定强化学习的SAMA方法，显著提升样本效率。
2023-09-30 cs.AI cs.CL cs.LG
MME-RAG: Multi-Manager-Expert Retrieval-Augmented Generation for Fine-Grained Entity Recognition in Task-Oriented Dialogues
Harbin Institute of Technology（哈尔滨工业大学）；Byering Technology（Byering技术公司）
针对任务型对话细粒度实体识别中LLM的领域适配与检索可控性难题，提出MME-RAG多管理者-专家检索增强生成框架，经多数据集验证性能优于基线，具备良好鲁棒性与跨域泛化性。
2025-11-15 cs.AI cs.CL
Deep Active Learning for Dialogue Generation
University of Waterloo（滑铁卢大学）；Huawei Technologies（华为技术有限公司）
我们提出了一个在线的，端到端的，神经生成会话模型的开放域对话。它使用离线两阶段监督学习和在线人在回路主动学习的独特组合进行训练。虽然大多数现有的研究提出了离线监督或手工制作的奖励功能，在线强化，我们设计了一种新的交互式学习机制的基础上汉明多样的束搜索响应生成和一个字符的用户反馈，在每一步。实验表明，我们的模型内在地促进了语义相关和有趣的反应的生成，并可用于训练代理定制的人物角色，情绪和会话风格。
2017-06-16 cs.AI cs.CL cs.NE
Modeling the One-to-Many Property in Open-Domain Dialogue with LLMs
School of Electrical and Electronic Engineering, Nanyang Technological University（南洋理工大学电子与电气工程学院）；Department of Electrical and Electronic Engineering, The Hong Kong Polytechnic University（香港理工大学电子与电气工程系）
本文提出通过分解生成任务和引入新策略，利用大语言模型提升开放式对话的回应多样性和质量。
2026-01-02 cs.AI cs.CL
Large-Scale Multi-Domain Belief Tracking with Knowledge Sharing
University of Cambridge（剑桥大学）
健壮的对话信念跟踪是保持高质量对话系统的关键组成部分。对话系统试图解决的任务正变得越来越复杂，需要可扩展到多域、语义丰富的对话。然而，大多数目前的方法有困难的领域，因为依赖于对话本体的模型参数的规模。在本文中，介绍了一种新的方法，充分利用对话语句和本体术语之间的语义相似性，允许跨域的信息共享。评估是在最近收集的多域对话数据集上进行的，比目前可用的语料库大一个数量级。我们的模型在处理多域对话方面表现出很强的能力，同时在单域对话跟踪任务中优于现有的最先进的模型。
2018-07-17 cs.CL
Dialogue Benchmark Generation from Knowledge Graphs with Cost-Effective Retrieval-Augmented LLMs
Concordia University（康考迪亚大学）
本研究提出多阶段检索增强生成平台Chatty-Gen，利用知识图谱自动生成特定领域高质量对话基准，通过阶段验证、高效检索减少成本与幻觉，在多知识图谱和多LLM上性能优于现有系统。
2025-01-17 cs.AI cs.CL
A Unified Implicit Dialog Framework for Conversational Search
IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
我们提出了一个统一的隐式对话框架，面向目标，信息寻求任务的会话搜索应用程序。它的目的是使对话框与域数据交互，而不回复显式编码的规则，而是利用底层数据表示来构建对话框交互所需的组件，我们在这项工作中将其称为隐式对话框。拟议框架包括一系列端到端可培训模块。集中式知识表示用于语义地为多个对话模块提供基础。一套相关的工具与框架相结合，收集最终用户的意见，以不断改进系统。目标是通过识别可以在许多最终用户应用程序中进行调整和重用的组件和数据来促进会话系统的开发。我们证明了我们的方法，通过创建几个独立的域的会话代理。
2018-02-12 cs.CL
AV-Dialog: Spoken Dialogue Models with Audio-Visual Input
Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·阿伦计算机科学与工程学院）；Meta AI Research（Meta AI研究院）
针对对话模型在嘈杂多说话者环境中的缺陷，提出首个多模态对话框架AV-Dialog，结合视听线索跟踪说话者、预测话轮转换并生成回复，通过多任务多阶段训练提升性能，为真实环境口语对话代理奠基。
2025-11-14 cs.AI cs.CL cs.CV
Retrieval-based Goal-Oriented Dialogue Generation
Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系）
大多数关于对话的研究都集中在开放式聊天的对话生成或目标导向对话的状态跟踪上。在这项工作中，我们探索了一种混合的方法，以目标为导向的对话生成，结合检索过去的历史与层次，神经编码器-解码器架构。我们使用Multiwoz数据集（Budzianowski等人，2018年）。我们表明，将此检索步骤添加到分层的神经编码器-解码器架构中会导致显着的改进，包括被人类评估者评为更合适和流畅的响应。最后，我们将我们的基于检索的模型与明确使用过去的对话行为信息的各种语义条件模型进行比较，并发现我们提出的模型与当前的现有技术相比具有竞争力（Chen等人，2019年），同时不要求对过去的机器行为进行明确的标签。
2019-09-30 cs.CL cs.LG
RiSAWOZ: A Large-Scale Multi-Domain Wizard-of-Oz Dataset with Rich Semantic Annotations for Task-Oriented Dialogue Modeling
Soochow University（苏州大学）；Tianjin University（天津大学）
为了缓解多领域数据不足的问题，并为面向任务的对话建模捕捉话语现象，我们提出了一个具有丰富语义标注的大规模多领域中文Wizard-of-Oz数据集RiSAWOZ。RiSAWOZ包含11.2K人对人（H2 H）多回合语义注释对话，其中超过15万个话语跨越12个领域，这比之前所有注释的H2 H对话数据集都要大。单域对话和多域对话都有，分别占65%和35%。每一个对话都有全面的对话注释，包括自然语言描述形式的对话目标、领域、对话状态和用户侧和系统侧的动作。除了传统的对话注释外，我们还特别提供对话语现象的语言注释，例如，省略和共指，在对话中，这是有用的对话共指和省略决议的任务。除了完整的注释数据集外，我们还详细描述了数据集的数据汇集过程、统计和分析。文中给出了一系列的基准测试模型和结果，包括自然语言理解（意图检测和槽填充）、对话状态跟踪和对话上下文到文本的生成，以及共指和省略消解，为该语料库的后续研究提供了基线比较。
2020-10-17 cs.CL
PRISM: Prosody-Integrated Multi-Agent Reasoning Framework for Empathetic Spoken Dialogue
School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院）
提出PRISM多智能体框架，通过解耦语音感知、响应生成和语音合成，并引入韵律到语言翻译机制，实现共情口语对话中的韵律适当性和知识集成。
2026-06-12 cs.CL
An Auto-Encoder Matching Model for Learning Utterance-Level Semantic Dependency in Dialogue Generation
Peking University（北京大学）
生成语义一致的响应仍然是对话生成中的一个主要挑战。与传统的文本生成任务不同，会话中的输入和响应之间的映射更为复杂，这就要求理解话语级的语义依赖，即输入和输出的整体意义之间的关系。为了解决这个问题，我们提出了一个自动编码器匹配（AEM）模型来学习这种依赖关系。该模型包含两个自动编码器和一个映射模块。自动编码器学习输入和响应的语义表示，并且映射模块学习连接话语级表示。自动和人工评估的实验结果表明，与基线模型相比，我们的模型能够生成高连贯性和流畅性的响应。代码可在https://github.com/lancopku/AMM上获得
2018-08-27 cs.CL
Controllable and Diverse Data Augmentation with Large Language Model for Low-Resource Open-Domain Dialogue Generation
Soochow University（苏州大学）
本文提出基于摘要的对话增强方法SDA，利用对话摘要作为规划工具提升大语言模型的可控性，在小种子数据下生成高质量且语义多样的对话数据，并通过聚类度量验证其能有效提升低资源开放域对话模型性能。
2024-03-30 cs.CL
Pneg: Prompt-based Negative Response Generation for Dialogue Response Selection Task
Scatter Lab（斯卡特实验室）；KAIST（韩国科学技术院）
在基于检索的对话系统中，响应选择模型充当排序器以在多个候选者中选择最合适的响应。然而，这样的选择模型往往依赖于上下文响应内容相似性，这使得模型容易受到语义相似但与对话上下文无关的对抗性响应的影响。最近的研究表明，利用这些对抗性反应作为负训练样本对于提高选择模型的辨别力是有用的。然而，收集人类书写的对抗性响应是昂贵的，并且现有的合成方法通常具有有限的可扩展性。为了克服这些局限性，本文提出了一种简单而有效的方法，利用大规模的语言模型生成对抗性的负面反应。对话选择任务的实验结果表明，我们的方法优于其他方法合成对抗性的负面反应。这些结果表明，我们的方法可以有效地替代人类注释器生成对抗性响应。我们的数据集和生成代码可以在https://github.com/leenw23/generating-negatives-by-gpt3上找到。
2022-10-31 cs.CL
Relational Temporal Graph Reasoning for Dual-task Dialogue Language Understanding
Australian Artificial Intelligence Institute (AAII)（澳大利亚人工智能研究所）；University of Technology Sydney（悉尼科技大学）；Centre for Frontier AI Research, A*STAR（新加坡科技研究局前沿人工智能研究中心）
针对双任务对话语言理解任务，本文提出基于关系时序图推理的框架及DARER、DARER2两种模型，通过显式预测层面交互建模任务依赖，在多场景实验中性能显著优于现有最优模型。
2023-06-15 cs.AI cs.CL
GE-Blender: Graph-Based Knowledge Enhancement for Blender
Haomo Technology Co., Ltd.（毫末科技有限公司）；Hebei Normal University（河北师范大学）；University of Luxembourg（卢森堡大学）
虽然开放域对话生成取得了巨大成功，但不可见实体可能对对话生成任务产生很大影响。这会导致对话框生成过程中模型的性能下降。以前的研究使用检索到的知识看到实体作为辅助数据，以提高模型的代表性。然而，对不可见实体的逻辑解释仍然是未知的，例如它们可能的共现或语义相似的词及其实体类别。在这项工作中，我们提出了一种方法来解决上述挑战。我们通过提取其中的实体节点来构建一个图，用实体的1跳周围节点来增强看不见的实体的上下文的表示。此外，我们增加了命名实体标签预测任务，以应用图中不存在未见过实体的问题。我们进行了我们的实验在一个开放的数据集向导的维基百科和实证结果表明，我们的方法优于国家的最先进的方法向导的维基百科。
2023-01-30 cs.AI cs.CL
A Neural Topical Expansion Framework for Unstructured Persona-oriented Dialogue Generation
Shandong University（山东大学）；Tencent AI Lab（腾讯人工智能实验室）；The Chinese University of Hong Kong（香港中文大学）；University of Amsterdam（阿姆斯特丹大学）
非结构化面向角色的对话系统（UPDS）已经被证明在通过利用预定义的自然语言用户角色描述（例如，“我是一个素食主义者”）。然而，预定义的用户角色描述通常很短，并且仅限于几个描述性词语，这使得难以将它们与对话相关联。因此，现有的方法要么无法使用的角色描述或使用它们不正确时，生成人物角色一致的响应。为了解决这个问题，我们提出了一个神经主题扩展框架，即人物角色探索和利用（PEE），它能够扩展预定义的用户角色描述与语义相关的内容，然后利用它们来生成对话响应。PEE由两个主要模块组成：角色探索和角色开发。前者通过使用基于变分自动编码器（VAE）的主题模型挖掘和关联现有对话语料库来学习扩展预定义的用户角色描述。后者通过利用预定义的和扩展的用户角色描述来学习生成角色一致的响应。为了使角色开发能够更好地利用用户的角色描述，我们还引入了两个面向角色的损失函数：面向角色匹配（Persona-oriented Matching，P-Match）损失和面向角色词袋（Persona-oriented Bag-of-Words，P-BoWs）损失，分别用于监督编码器和解码器中的角色选择。实验结果表明，我们的方法优于国家的最先进的基线，在自动和人工评估。
2020-02-06 cs.AI cs.CL cs.LG
Template Guided Text Generation for Task-Oriented Dialogue
Google（谷歌）；Google Research（谷歌研究院）
Google Assistant、Amazon Alexa和Apple Siri等虚拟助手使用户能够使用自然语言与Web上的大量服务和API进行交互。在这项工作中，我们研究了两种方法自然语言生成（NLG）使用一个单一的领域独立的模型在大量的API。首先，我们提出了一个模式引导的方法，条件上的模式描述的API在自然语言的生成。我们的第二种方法研究了使用少量的模板，在插槽数量上线性增长，以传达API的语义。为了生成任意时隙组合的话语，首先连接几个简单的模板以给出语义正确但可能不连贯且不合语法的话语。一个预先训练的语言模型随后被用来将其重写成连贯的、自然的文本。通过自动度量和人工评估，我们表明我们的方法在强基线上有所改进，对域外输入具有鲁棒性，并显示出改进的样本效率。
2020-11-13 cs.CL
Jurassic is (almost) All You Need: Few-Shot Meaning-to-Text Generation for Open-Domain Dialogue
University of California（加利福尼亚大学）
开放域对话系统的一个挑战是需要对任何主题产生真实的、高质量的响应。我们的目标是提高雅典娜的质量和覆盖面，这是一个Alexa奖对话系统。我们实验了基于Few-Shot的学习，将GPT-Neo与Jurassic-1进行比较，用于电影，音乐，电视，体育和视频游戏领域，包括域内和跨域，具有不同的提示集大小（2，3，10），格式和由WikiData KG三元组或对话行为组成的含义表示。我们的评估使用了BLEURT和人类指标，并表明在10次提示下，Athena-Jurassic的表现在连贯性和语义准确性方面明显更好。使用2次跨域提示的实验导致Athena-GPT-Neo的性能大幅下降，其语义准确率下降到0.41，而其不真实的幻觉率增加到12%。电子游戏对话行为的实验表明，在10次提示下，两种模型都学会了控制对话行为，但《雅典娜-侏罗纪》的连贯性明显更高，只有4%的不真实幻觉。我们的研究结果表明，雅典娜侏罗纪产生足够高的质量输出，是有用的，在生活系统与真实用户。据我们所知，这些是第一个结果表明，基于Few-Shot的语义学习可以创建NLG，推广到新的领域，并产生高质量的，语义控制，会话反应直接从意义表示。
2021-11-10 cs.CL
Emphasising Structured Information: Integrating Abstract Meaning Representation into LLMs for Enhanced Open-Domain Dialogue Evaluation
针对开放域对话评估中对抗性负样本的挑战，提出一种将抽象意义表示（AMR）增强的特定领域语言模型与大语言模型集成的评估框架，通过门控机制和提示融合显著提升了与人类判断的相关性。
2025-09-16 cs.CL
CORAL: Contextual Response Retrievability Loss Function for Training Dialog Generation Models
IIT Kharagpur（印度理工学院克勒格布尔分校）；Microsoft R&D India（微软印度研发中心）
针对对话生成中交叉熵损失忽略上下文且无法处理多有效响应的问题，提出基于强化学习的CORAL损失函数及混合策略训练算法，显著提升了模型性能。
2023-05-20 cs.CL
Variational Autoencoder with Disentanglement Priors for Low-Resource Task-Specific Natural Language Generation
Monash University（莫纳什大学）；The University of Melbourne（墨尔本大学）
在本文中，我们提出了一个变分自编码器与解纠缠先验，VAE-DPRIOR，特定于任务的自然语言生成没有或少数特定于任务的标记的例子。为了解决跨任务的合成泛化问题，我们的模型通过为潜在内容空间引入一个条件先验和为潜在标签空间引入另一个条件先验来执行解纠缠的表示学习。这两种类型的先验满足一个新的属性称为$ε$ -解纠缠。我们的经验和理论表明，新的先验可以解开表示，即使没有特定的正则化，在以前的工作。内容先验使得能够直接从内容空间中采样不同的内容表示，所述内容空间是从所看到的任务中学习的，并且将它们与新颖任务的表示融合，以用于在低资源设置中生成语义上不同的文本。我们广泛的实验证明了我们的模型在以下方面优于竞争基线：i）连续零/少样本学习中的数据增强，以及ii）Few-Shot设置中的文本样式传输。
2022-10-29 cs.CL
FLM-Audio: Natural Monologues Improves Native Full-Duplex Chatbots via Dual Training
Beijing Academy of Artificial Intelligence, Beijing, China（北京人工智能研究院）；Nanyang Technological University, Singapore（南洋理工大学）
FLM-Audio通过双训练策略和连续独白提升全双工聊天机器人的响应质量和体验。
2026-01-30 cs.AI cs.CL cs.SD
ToolACE-MT: Non-Autoregressive Generation for Agentic Multi-Turn Interaction
Huawei Technologies Co., Ltd（华为技术有限公司）；Shanghai Jiao Tong University（上海交通大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
ToolACE-MT通过非自回归生成方法高效构建高质量多轮代理对话，解决传统自回归方法效率低下的问题。
2026-02-13 cs.AI cs.CL cs.LG
Toward Multi-Session Personalized Conversation: A Large-Scale Dataset and Hierarchical Tree Framework for Implicit Reasoning
University of California, San Diego（加利福尼亚大学圣迭戈分校）
针对多会话个性化对话中隐式推理难以捕捉的问题，本文提出大规模数据集 ImplexConv 和层次树框架 TaciTree，通过分层摘要与逐级检索显著提升大语言模型的长期对话推理能力。
2025-03-10 cs.CL
