Contextualize Knowledge Bases with Transformer for End-to-end Task-Oriented Dialogue Systems
College of Electronics and Information Engineering, Sichuan University, China（四川大学电子信息学院，中国）；School of Computer Science, The University of Adelaide, Australia（阿德莱德大学计算机学院，澳大利亚）；University of Electronic Science and Technology of China, China（电子科技大学，中国）；Tencent（腾讯）
将知识库转化为面向任务的端到端对话系统是一个挑战，因为它需要正确地表示知识库的实体，而知识库的实体与知识库上下文和对话上下文相关联。现有的工作表示的实体，只有感知其知识库上下文的一部分，这可能会导致低效率的表示，由于信息丢失，并不利于知识库推理和响应生成。为了解决这个问题，我们探索通过动态感知所有相关实体和对话历史来完全上下文化实体表示。为了实现这一点，我们提出了一个COontext-aware内存增强的Transformer框架（COMET），它把知识库作为一个序列，并利用一个新的内存掩码，以强制实体只专注于其相关的实体和对话历史，同时避免分心无关的实体。通过大量的实验，我们表明，我们的COMET框架可以实现优越的性能超过国家的艺术。
2021-09-29 cs.CL
Improving Medical Dialogue Generation with Abstract Meaning Representations
The University of Manchester（曼彻斯特大学）；The University of Surrey（萨里大学）
本文提出利用抽象语义表示（AMR）图建模医疗对话，并通过双重注意力机制融合文本与图形知识，以提升医学知识和逻辑关系的表示能力，实验证明其在医疗对话生成上优于强基线模型。
2023-09-19 cs.CL
Ontology-Enhanced Slot Filling
NYU Shanghai（上海纽约大学）
槽填充是面向任务的对话系统中对话状态跟踪的基本任务。在多领域任务导向的对话系统中，用户的话语和系统的响应可能会提到多个命名实体和属性值。系统需要选择那些由用户确认的，并将它们填充到指定的插槽中。一个困难是，由于对话会话包含多个系统-用户回合，由于输入单词令牌和GPU存储器的容量有限，将所有令牌馈送到诸如BERT的深度模型中可能具有挑战性。在本文中，我们研究了本体增强的方法，通过匹配命名实体出现在所有的对话轮使用本体。在先前的对话轮中匹配的实体将被累积和编码为基于BERT的对话状态跟踪器的附加输入。此外，我们的改进包括本体约束检查和插槽名称标记化的纠正。实验结果表明，我们的本体增强的对话状态跟踪器提高了联合目标的准确率（槽F1）从52.63%（91.64%）到53.91%（92%）的MultiWOZ 2.1语料库。
2021-08-25 cs.CL
TREND: Trigger-Enhanced Relation-Extraction Network for Dialogues
National Taiwan University（台湾大学）
对话关系抽取（DRE）的目的是识别给定对话中两个实体之间的关系。在会话过程中，说话人会通过明示或暗示的线索暴露出自己与特定实体的关系，这种证据被称为“触发点”。然而，触发器注释可能并不总是可用于目标数据，因此利用这些信息来增强性能是具有挑战性的。因此，本文提出学习如何从具有触发器注释的数据中识别触发器，然后将触发器查找能力转移到其他数据集以获得更好的性能。实验结果表明，该方法能够有效地提高未知关系的关系抽取性能，并证明了该模型在不同领域和数据集之间的可移植性.
2022-07-25 cs.CL
Medical Dialogue Generation via Dual Flow Modeling
The Hong Kong Polytechnic University（香港理工大学）；Southern University of Science and Technology（南方科技大学）；Research Institute of Trustworthy Autonomous Systems（可信自主系统研究院）
本文提出DFMed框架，通过建模医疗实体转移和医生对话行为的双流交互，提升医疗对话生成质量，并在两个数据集上验证了其优越性。
2023-05-29 cs.AI cs.CL
An Ontology-Based Dialogue Management System for Banking and Finance Dialogue Systems
Com Innovation Center（4Com创新中心）
在对话系统中保持对话状态是众所周知的困难任务。我们介绍了一个基于本体的对话管理器（OntoDM），对话管理器，保持会话的状态，提供了一个基础的回指解析和驱动会话通过领域本体。银行和金融领域通过丰富的产品集和专有名词、命名实体和动词的特异性来消除上下文的歧义。我们使用本体作为知识库和对话管理器的基础;知识库组件和对话管理器组件在某种意义上合并。领域知识用于跟踪感兴趣的实体，即本体的节点（类），这些节点恰好是产品和服务。通过这种方式，我们在某种意义上也介绍了会话记忆和注意力。我们将语言学方法、领域驱动的关键词排名和领域本体进行了很好的融合，以创建领域驱动的对话方式。建议的框架用于我们内部的德语银行和金融聊天机器人。还介绍了德语语言处理和金融银行领域聊天机器人语言模型和词汇的一般挑战。这项工作仍在进行中，因此尚未引入成功指标。
2018-04-13 cs.CL
An Embarrassingly Simple Model for Dialogue Relation Extraction
Nanyang Technological University（南洋理工大学）；Agency for Science, Technology and Research（新加坡科技研究局）
本文提出SimpleRE模型，利用BRS输入格式和关系精炼门RRG建模对话中的多关系关联，在DialogRE及句子级RE任务上以更短训练时间取得最佳性能。
2022-01-25 cs.CL
Handling Class Imbalance in Low-Resource Dialogue Systems by Combining Few-Shot Classification and Interpolation
The Ohio State University（俄亥俄州立大学）
低资源对话系统中的话语分类性能受到类别标签中不可避免的高度数据不平衡的限制。我们提出了一个新的端到端的成对学习框架，专门设计来解决这种现象，诱导一个Few-Shot分类能力的话语表示和增强数据，通过插值的话语表示。我们的方法是一种通用的训练方法，不可知用于编码话语的神经架构。对于三种不同的神经架构，我们在宏F1分数上显示出了标准交叉熵训练的显着改进，证明了虚拟患者对话数据集的改进以及Switchboard对话行为分类数据集的低资源仿真。
2020-10-28 cs.CL cs.LG
Dialogue Relation Extraction with Document-level Heterogeneous Graph Attention Networks
Singapore University of Technology and Design（新加坡科技设计大学）
对话关系抽取（DRE）的目的是检测在多方对话中提到的两个实体之间的关系。它对于从互联网上日益丰富的会话数据中构建知识图谱，促进智能对话系统的发展具有重要作用。先前的DRE方法并没有有意义地利用说话人信息，它们只是在话语前面加上各自的说话人名字。因此，他们未能模拟关键的说话人之间的关系，可能会通过代词和触发器提供额外的上下文相关的论点实体。然而，我们提出了一个基于图注意力网络的方法DRE的图，其中包含有意义的连接扬声器，实体，实体类型，和话语节点，构建。该图被馈送到图注意力网络，用于在相关节点之间进行上下文传播，从而有效地捕获对话上下文。我们的经验表明，这种基于图的方法非常有效地捕捉了对话中不同实体对之间的关系，因为它在基准数据集DialogRE上的表现明显优于最先进的方法。我们的代码发布于：https://github.com/declare-lab/dialog-HGAT
2021-06-20 cs.CL
Prompt-based Generative Approach towards Multi-Hierarchical Medical Dialogue State Tracking
East China University of Science and Technology（华东理工大学）；Tongji University（同济大学）
医疗对话系统是一种很有前途的应用，可以为患者提供极大的方便。医疗对话系统中的对话状态跟踪（DST）模块将话语解释为机器可读结构以用于下游任务，这是特别具有挑战性的。首先，状态需要能够表示复合实体，例如具有身体部位的症状或具有严重程度的疾病，以提供足够的信息用于决策支持。第二，话语中的这些命名实体可能是不连续的，分散在句子和说话者中。这些也使得它难以注释一个大的语料库，这是必不可少的大多数方法。因此，我们首先定义一个多层次的状态结构。我们用中文注释并发布了一个医学对话数据集。据我们所知，以前没有公开的。然后，我们提出了一种基于自顶向下的生成方法，它可以生成槽值与多层次的增量使用自顶向下的方法。此外，还补充了对话风格提示，以利用大型未标记的对话语料库来缓解数据稀缺问题。实验结果表明，该方法优于其他DST方法，在数据较少的情况下是相当有效的。
2022-03-18 cs.CL
MARS-Bench: A Multi-turn Athletic Real-world Scenario Benchmark for Dialogue Evaluation
University of Science and Technology of China（中国科学技术大学）
提出MARS-Bench基准，通过赛况解说构建真实多轮对话，评估LLMs在超长多轮、交互多轮及跨轮任务中的鲁棒性，并揭示闭源模型优势、显式推理提升及注意力汇聚致性能下降机制。
2025-09-15 cs.AI cs.CL
DSTEA: Improving Dialogue State Tracking via Entity Adaptive Pre-training
Korea University（高丽大学）；Electronics and Telecommunications Research Institute（韩国电子通信研究院）；Sejong University（世宗大学）
本文提出 DSTEA，通过多方式识别对话关键实体并进行选择性知识掩码的实体自适应预训练，在无需直接注入外部知识的情况下提升多个 DST 模型在 MultiWOZ 系列数据集上的性能。
2023-07-23 cs.CL
What do Entity-Centric Models Learn? Insights from Entity Linking in Multi-Party Dialogue
Universitat Pompeu Fabra（庞培法布拉大学）
人类使用语言来指代外部世界中的实体。受此启发，近年来，已经提出了几种模型，其中包括对学习实体表示的偏见。这种以实体为中心的模型已经显示出经验上的成功，但我们仍然对原因知之甚少。在本文中，我们分析了两个最近提出的以实体为中心的模型在参考任务中的行为，多方对话中的实体链接（SemEval 2018任务4）。我们表明，这些模型在这项任务上优于最先进的技术，并且它们在较低频率的实体上比具有相同模型大小的非实体中心的对应模型做得更好。我们认为，以实体为中心的模型自然会促进良好的架构决策。然而，我们也表明，这些模型并没有真正建立实体表示，他们利用语言环境差。这些负面的结果强调了模型分析的必要性，以测试特定架构的动机是否在模型部署时的行为中得到证实。
2019-05-16 cs.CL
Tackling Long-Tailed Relations and Uncommon Entities in Knowledge Graph Completion
The Chinese University of Hong Kong（香港中文大学）；Alibaba DAMO Academy（阿里巴巴达摩院）；Tencent AI Lab（腾讯人工智能实验室）
对于大规模的知识图谱，近年来的研究主要集中在大比例的非频繁关系上，而这些关系在以往的研究中被忽略了。例如，研究了关系的少样本学习范例。在这项工作中，我们进一步主张，处理不常见的实体是不可避免的，当处理罕见的关系。因此，我们提出了一个元学习框架，旨在通过使用文本描述来处理与少样本学习和不常见实体的不频繁关系。我们设计了一个新的模型，以更好地从文本描述中提取关键信息。此外，我们还在我们的框架中开发了一种新的生成模型，通过在训练阶段生成额外的三元组来提高性能。在两个真实世界的KG数据集上进行了实验，结果表明，我们的框架在处理不频繁关系及其伴随的不常见实体时优于以前的方法。
2019-09-25 cs.CL
Don't get Lost in Negation: An Effective Negation Handled Dialogue Acts Prediction Algorithm for Twitter Customer Service Conversations
IBM-Research, Almaden（IBM阿尔马登研究中心）；UC Santa Cruz（加州大学圣克鲁兹分校）
在过去的几年里，Twitter被公司作为与客户互动的替代平台，以解决他们的问题。随着这种非传统的会话资源的丰富，开发有效的虚拟代理比以往任何时候都更加迫切。为了应对这一挑战，需要更好地了解此类客户服务对话。最近，有几个作品提出了一种新的分类细粒度的对话行为，以及开发算法自动检测这些行为。这些工作的成果为建立高效和有效的虚拟代理的最终目标提供了垫脚石。但这些作品都没有考虑处理的概念，否定到所提出的算法。在这项工作中，我们开发了一个基于SVM的Twitter客户服务对话的对话行为预测算法，其中否定处理是端到端解决方案的一个组成部分。对于否定处理，我们提出了几种有效的算法，并采用了最新的基于第三方机器学习的解决方案。从经验上讲，我们在处理否定时显示了模型的性能增益，而不是当我们不处理时。实验表明，对于非正式文本，如推文，基于语义的方法是更有效的。
2018-07-16 cs.AI cs.CL
CALLS: Japanese Empathetic Dialogue Speech Corpus of Complaint Handling and Attentive Listening in Customer Center
The University of Tokyo（东京大学）；LINE Corp.（LINE公司）
本文提出日语客服中心共情对话语音语料库CALLS，通过模拟电话接线员场景扩展共情对话语音合成的应用范围，并实验证明混合不同领域语料会导致合成语音质量出现有偏差的改善。
2023-05-23 cs.CL cs.LG cs.SD
Large-Scale Multi-Domain Belief Tracking with Knowledge Sharing
University of Cambridge（剑桥大学）
健壮的对话信念跟踪是保持高质量对话系统的关键组成部分。对话系统试图解决的任务正变得越来越复杂，需要可扩展到多域、语义丰富的对话。然而，大多数目前的方法有困难的领域，因为依赖于对话本体的模型参数的规模。在本文中，介绍了一种新的方法，充分利用对话语句和本体术语之间的语义相似性，允许跨域的信息共享。评估是在最近收集的多域对话数据集上进行的，比目前可用的语料库大一个数量级。我们的模型在处理多域对话方面表现出很强的能力，同时在单域对话跟踪任务中优于现有的最先进的模型。
2018-07-17 cs.CL
Enhanced Speaker-aware Multi-party Multi-turn Dialogue Comprehension
Shanghai Jiao Tong University（上海交通大学）
多方多话轮对话理解在处理多个说话人的复杂场景和说话人意识话语之间的交叉话语关系方面带来了前所未有的挑战。大多数现有的方法处理的对话上下文作为纯文本和重视不够的关键说话人意识的线索。在这项工作中，我们提出了一个具有掩蔽注意力和异构图网络的增强的说话者感知模型，以全面捕获来自说话者属性和说话者感知关系双方的话语线索。通过这种全面的说话者感知建模，实验结果表明，我们的说话者感知模型有助于在基准数据集Molweni上实现最先进的性能。实例分析表明，该模型增强了话语与说话人之间的联系，捕捉到了说话人感知的话语关系，这对对话建模至关重要。
2021-09-09 cs.CL
Grounding Dialogue Systems via Knowledge Graph Aware Decoding with Pre-trained Transformers
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）
在面向目标和非目标的对话系统中生成基于知识的响应是一个重要的研究挑战。知识图谱（KG）可以被视为现实世界的抽象，其可以潜在地促进对话系统产生基于知识的响应。然而，以端到端的方式将KG集成到对话生成过程中是一项重要的任务。本文提出了一种新的体系结构，通过训练一个BERT模型，学习回答使用KG（实体和关系）的元素在多任务，端到端的设置集成KG到响应生成过程。KG的k-hop子图在使用图拉普拉斯算子的训练和推理期间被并入模型中。实证评估表明，该模型实现了更好的知识覆盖度（通过实体F1得分衡量）相比，其他国家的最先进的模型，目标和非目标导向的对话。
2021-03-30 cs.CL
Improving Longer-range Dialogue State Tracking
Google Research（谷歌研究院）
对话状态跟踪（DST）是面向任务的对话系统中的一个关键组成部分。虽然DST模型在简短的对话中捕获信念状态相对容易，但随着对话长度的增加，由于注入更多分散注意力的上下文，DST的任务变得更具挑战性。在本文中，我们的目标是提高DST的整体性能，特别注重处理较长的对话。我们从三个方面解决这个问题：1）一个模型，旨在使分层槽状态预测; 2）通用和特定任务的语言理解的平衡训练过程; 3）数据扰动，提高了模型的能力，在处理较长的对话。我们在MultiWOZ基准上进行实验，并通过一组消融测试来证明每个组件的有效性，特别是在较长的对话中。
2021-05-05 cs.AI cs.CL cs.LG
DOROTHIE: Spoken Dialogue for Handling Unexpected Situations in Interactive Autonomous Driving Agents
University of Michigan（密歇根大学）；U.S. Army Research Laboratory（美国陆军研究实验室）
在现实世界中，自动驾驶智能体在充满意外情况的高度动态环境中导航，其中预先训练的模型是不可靠的。在这些情况下，车辆立即可用的通常只有人类操作员。赋予自动驾驶智能体在连续和动态环境中导航的能力，并通过基于感觉运动的对话与人类进行交流变得至关重要。为此，我们介绍了对话的道路上处理不规则事件（DOROTHIE），一种新型的交互式仿真平台，使意外的情况下创建的飞行，以支持与自动驾驶代理人的经验研究的情况下沟通。基于这个平台，我们创建了情境对话导航（SDN），这是一个导航基准测试，共有183次试验，总共8415个话语，大约18.7小时的控制流和2.9小时的修剪音频。SDN的开发是为了评估智能体预测人类对话动作以及生成自己的对话动作和物理导航动作的能力。我们进一步为这些SDN任务开发了基于变压器的基线模型。我们的实证结果表明，在一个高度动态的环境中，语言引导导航是一个非常困难的任务，端到端的模型。这些结果将为未来强大的自动驾驶代理的工作提供见解。DOROTHIE平台、SDN基准和基线模型的代码可在https://github.com/sled-group/DOROTHIE上获得。
2022-10-22 cs.AI cs.CL cs.CV
Frame Interpretation and Validation in a Open Domain Dialogue System
INESC ID Lisboa（里斯本INESC ID研究所）
我们在本文中的目标是建立一个对话平台，能够应付开放域考虑到可能的互动体现代理和人类之间的手段。为此，我们提出了一种算法，能够处理自然语言的话语，并验证他们对知识结构的智能代理的头脑。我们的算法利用对话技术，以解决歧义，并获得有关未知实体的知识。
2012-07-18 cs.CL cs.RO
VicunaNER: Zero/Few-shot Named Entity Recognition using Vicuna
National University of Singapore（新加坡国立大学）
针对现有大模型NER依赖在线API的隐私与复现问题，提出基于开源Vicuna的两阶段多轮对话NER框架VicunaNER，含重识别与实体校验机制，在零/少样本设置下均取得优异性能。
2023-05-05 cs.CL
A Comparative Study on Language Models for Task-Oriented Dialogue Systems
Institut Teknologi Bandung（万隆理工学院）
语言模型的最新发展已经显示出有希望的结果，通过微调预训练的模型，在各种自然语言任务上实现了最先进的性能。在面向任务的对话（ToD）系统中，语言模型可以用于端到端训练，而不依赖于对话状态跟踪来跟踪对话历史，而是允许语言模型根据作为输入给出的上下文来生成响应。本文进行了一项比较研究，以显示在端到端ToD系统上使用最近的预训练模型进行微调的有效性和优势，例如BART和T5。实验结果表明，经过语言模型微调后，性能有了很大的提高。在将知识添加到指导模型避免幻觉并在生成的响应中生成准确实体的上下文之后，模型产生更流畅的响应。此外，我们发现BART和T5在BLEU和F1分数方面优于基于GPT的模型，并在ToD系统中实现了最先进的性能。
2022-01-21 cs.CL
KNSE: A Knowledge-aware Natural Language Inference Framework for Dialogue Symptom Status Recognition
Fudan University（复旦大学）
本文提出KNSE框架，将症状状态识别形式化为自然语言推理任务，利用BERT及注意力、GRU等模块编码症状知识与假设三元组，在中文医疗对话数据上取得优于基线方法的效果，并具备跨疾病和跨症状优势。
2023-05-26 cs.CL
Viola: A Topic Agnostic Generate-and-Rank Dialogue System
University of Southern California（南加州大学）
我们提出了中提琴，一个开放域的对话系统口语对话，使用一个简单的生成和排名的方法的基础上的主题不可知的对话管理器。利用由大语言模型驱动的生成对话系统的最新进展，Viola从使用不同数据集和知识基础输入训练的各种神经对话模型中提取了一批响应候选者。还考虑源自基于模板的生成器的附加响应，这取决于用户的输入和检测到的实体。手工制作的生成器建立在动态知识图谱上，注入了从网络上抓取的丰富内容，并每天自动处理。Viola的响应排序器是一个微调的polyencoder，它根据对话历史选择最佳响应。虽然单独为polyencoder提供专用注释可以间接引导它避免选择有问题的响应，但我们添加了基于规则的安全网来检测神经退化，并添加了专用分类器来过滤掉攻击性内容。我们分析了Viola参加Alexa Prize Socialbot Grand Challenge 4的对话，并讨论了我们方法的优点和缺点。最后，我们建议未来的工作重点是专门为社交机器人管理会话数据，这将有助于建立一个更强大的数据驱动的社交机器人。
2021-08-25 cs.CL
SweetieChat: A Strategy-Enhanced Role-playing Framework for Diverse Scenarios Handling Emotional Support Agent
Institute of Automation, CAS（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
针对大语言模型情感支持回复冗长公式化的问题，提出含三角色策略增强交互与微调训练的框架，构建ServeForEmo数据集，推出能处理多样开放域场景的SweetieChat智能体，经实验验证可提供更细致适配的情感支持。
2024-12-11 cs.CL
MedDG: An Entity-Centric Medical Consultation Dataset for Entity-Aware Medical Dialogue Generation
Sun Yat-sen University（中山大学）；Hong Kong University of Science and Technology（香港科技大学）；Hong Kong Polytechnic University（香港理工大学）；Tencent Jarvis Lab（腾讯天衍实验室）
开发会话代理以与患者互动并提供主要临床建议，由于其巨大的应用潜力，特别是在COVID-19大流行时期，引起了越来越多的关注。然而，端到端的基于神经的医学对话系统的训练受到医学对话语料数量不足的制约。在这项工作中，我们首次尝试构建并发布了一个与12种常见胃肠道疾病相关的大规模高质量医学对话数据集MedDG，从在线健康咨询社区收集了超过17 K的对话。五种不同类别的实体，包括疾病，症状，属性，测试和药物，在MedDG的每个对话中作为附加标签进行注释。为了推动未来构建专家敏感的医学对话系统的研究，本文提出了两种基于MedDG数据集的医学对话任务。一个是下一个实体预测，另一个是医生响应生成。为了对这两个医学对话任务有一个清晰的理解，我们实现了几个最先进的基准，并设计了两个对话模型，进一步考虑了预测的实体。实验结果表明，预训练的语言模型和其他基线在我们的数据集中表现不佳的两个任务上挣扎，并且可以在辅助实体信息的帮助下提高响应质量。从人类的评价，简单的检索模型优于几个国家的最先进的生成模型，这表明仍然有很大的改进空间，产生医学上有意义的反应。
2022-07-31 cs.AI cs.CL
Controllable Neural Dialogue Summarization with Personal Named Entity Planning
Institute for Infocomm Research, A*STAR, Singapore（资讯通信研究院（A*STAR），新加坡）
在本文中，我们提出了一个可控的神经生成框架，可以灵活地指导个人命名实体规划的对话摘要。条件序列的调制，以决定什么类型的信息或什么角度时，形成摘要，以解决欠约束的问题，摘要任务。该框架支持两种类型的用例：（1）综合视角，这是一种没有指定用户偏好的通用案例，考虑来自所有对话者和所有提到的人的摘要点;（2）焦点视角，基于用户指定的个人命名实体定位摘要，该实体可以是对话者之一或对话中提到的人之一。在训练过程中，我们利用个人命名实体和共指信息的发生规划，以提高时间的一致性，并尽量减少神经生成中的幻觉。实验结果表明，我们提出的框架生成流畅的和事实上一致的摘要下各种规划控制使用客观指标和人类的评价。
2021-09-27 cs.CL
Handling and extracting key entities from customer conversations using Speech recognition and Named Entity recognition
Pune Institute of Computer Technology（浦那计算机技术学院）
本文提出一个两阶段网络，先用最优语音识别将客户对话转为文本，再用NER BERT transformer模型提取订单号、具体问题等关键实体，以减少人工复查对话的工作量并提升客户体验。
2022-11-28 cs.CL cs.LG
Contrast and Generation Make BART a Good Dialogue Emotion Recognizer
School of Computer Science, Fudan University（复旦大学计算机科学技术学院）；Peng Cheng Laboratory（鹏城实验室）；Shanghai Key Laboratory of Intelligent Information Processing, Fudan University（复旦大学上海市智能信息处理重点实验室）
在对话系统中，具有相似语义的话语在不同的语境下可能具有不同的情感。因此，建立说话人相关的长距离语境情感关系模型在对话情感识别中起着关键作用。同时，区分不同的情感类别是不平凡的，因为它们通常具有语义相似的情感。为此，我们采用有监督的对比学习，使不同的情绪互斥，以更好地识别相似的情绪。同时，我们利用一个辅助响应生成任务，以提高模型的能力，处理上下文信息，从而迫使模型识别情感相似的语义在不同的情况下。为了实现这些目标，我们使用预训练的编码器-解码器模型BART作为我们的骨干模型，因为它非常适合理解和生成任务。在四个数据集上的实验表明，我们提出的模型在对话情感识别方面比现有的模型获得了更好的结果。消融研究进一步证明了监督对比损失和生成损失的有效性。
2022-01-24 cs.CL
Multimodal Incremental Transformer with Visual Grounding for Visual Dialogue Generation
WeChat AI（微信人工智能）；Tencent Inc（腾讯公司）
视觉对话是一项具有挑战性的任务，因为它需要在理解视觉环境的基础上回答一系列连贯的问题。以往的研究多集中于通过隐式地关注空间图像特征或对象层次的图像特征来探索多模态共指，而忽略了在视觉内容中显式地定位对象的重要性，这些对象与文本内容中的实体相关联。因此，本文提出了一种具有{\bf V}视觉{\bf G}舍入的{\bf M}多模态{\bf I}增量{\bf T}变换器，称为MITVG，它由两个关键部分组成：视觉接地和多模态增量Transformer。视觉基础的目的是明确地定位相关的对象在图像中的文本实体的指导下，这有助于模型排除不需要注意的视觉内容。多模态增量式Transformer在视觉接地的基础上，将多轮对话历史与视觉场景相结合，按照对话的先后顺序逐步进行编码，生成上下文一致、视觉连贯的应答。在VisDial v0.9和v1.0数据集上的实验结果证明了该模型的优越性，其性能相当。
2021-09-17 cs.CL cs.CV cs.MM
CLSE: Corpus of Linguistically Significant Entities
Google（谷歌）；Predibase
针对NLG中命名实体处理导致的语法错误问题，构建了涵盖34种语言、74种语义类型的语言学显著实体语料库CLSE，并基于其生成SGD-CLSE基准，在法语、马拉地语和俄语上评估了神经、模板及混合NLG系统的质量基线。
2023-08-30 cs.CL
Bridging Information Gaps in Dialogues With Grounded Exchanges Using Knowledge Graphs
Technical University of Munich（慕尼黑工业大学）；National Institute of Advanced Industrial Science and Technology（日本国立先进工业科学技术研究院）
本文构建五领域对话语料 BridgeKG，并基于知识图谱评估大型语言模型的接地行为分类与信息项识别能力。
2024-08-11 cs.CL
GraphDialog: Integrating Graph Knowledge into End-to-End Task-Oriented Dialogue Systems
The University of Melbourne（墨尔本大学）
端到端面向任务的对话系统旨在直接从纯文本输入生成系统响应。这样的系统有两个挑战：一个是如何有效地将外部知识库（KBs）的学习框架，另一个是如何准确地捕捉对话历史的语义。在本文中，我们解决了这两个挑战，利用图形结构信息的知识库和依存句法分析树的对话。为了有效地利用对话历史中的结构信息，我们提出了一种新的循环细胞架构，允许图上的表示学习。为了充分利用知识库中实体之间的关系，该模型结合了基于图结构的多跳推理能力。实验结果表明，该模型在两个不同的面向任务的对话数据集上取得了一致的改进。
2020-10-04 cs.AI cs.CL
Reference Resolution and Context Change in Multimodal Situated Dialogue for Exploring Data Visualizations
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of Cincinnati（辛辛那提大学）
指称解析的目的是识别说话者所指的实体，在现实世界中更为复杂：新的指称可能是由智能体参与的过程创建的，并且/或者仅仅因为它们属于共享的物理环境而显着。我们的重点是解决多模态对话中大屏幕显示器上的可视化引用;至关重要的是，引用解析直接参与创建新可视化的过程。我们描述了我们的注释用户引用的可视化出现在一个大屏幕上通过语言和手势，也是新的实体建立，这是由于执行用户请求创建一个新的可视化。我们还描述了我们的参考决议管道，它依赖于一个信息状态架构，以保持对话的背景。我们报告了检测和解决引用的结果，模型上上下文信息的有效性，以及创建可视化的未指定请求。我们还使用传统的CRF和深度学习/Transformer模型（BiLSTM-CRF和BERT-CRF）进行实验，以标记用户话语文本中的引用。我们的研究结果表明，迁移学习显著提高了深度学习方法的性能，尽管CRF仍然优于它们，这表明传统方法可能更好地推广低资源数据。
2022-09-06 cs.CL
DiaCDM: Cognitive Diagnosis in Teacher-Student Dialogues using the Initiation-Response-Evaluation Framework
Lab of Artificial Intelligence for Education, East China Normal University, China（人工智能教育实验室，华东师范大学，中国）；Shanghai Institute of Artificial Intelligence for Education, East China Normal University, China（人工智能教育上海研究院，华东师范大学，中国）；XR System Application Research Center, Nanchang Research Institute, Zhejiang University, China（XR系统应用研究中心，南昌研究所，浙江大学，中国）
DiaCDM首次将认知诊断应用于师生对话，基于IRE框架设计对话诊断框架，并提出图编码方法整合教师提问与知识组件，在三个真实数据集上显著提升诊断准确性和可解释性。
2025-10-14 cs.CL
DialogueBERT: A Self-Supervised Learning based Dialogue Pre-training Encoder
JD AI（京东人工智能）；Xiaoduo AI（晓多人工智能）
随着人工智能的快速发展，会话机器人已经在主流电子商务平台中盛行，它可以及时提供便捷的客户服务。为了满足用户，会话机器人需要理解用户的意图，检测用户的情感，并从会话语句中提取关键实体。然而，理解对话被认为是一项非常具有挑战性的任务。与一般的语言理解不同，对话中的话语是从不同的角色交替出现的，并且通常被组织成层次结构。为了促进对话的理解，在本文中，我们提出了一种新的上下文对话编码器（即对话BERT）的基础上流行的预训练的语言模型BERT。设计了五个自监督学习预训练任务来学习会话话语的特殊性。四种不同的输入嵌入，包括话轮嵌入，角色嵌入，标记嵌入和位置嵌入的集成来捕捉话语之间的关系。DialogueBERT在真实场景中预先训练了7000万个对话，然后在三个不同的下游对话理解任务中进行了微调。实验结果表明，DialogueBERT在意图识别、情感识别和命名实体识别方面分别取得了88.63%、94.25%和97.04%F1的优异成绩，大大优于几个强基线。
2021-09-22 cs.AI cs.CL
Retrieval-Generation Alignment for End-to-End Task-Oriented Dialogue System
Sun Yat-sen University（中山大学）；Tencent AI Lab（腾讯人工智能实验室）
本文提出利用最大边缘似然训练感知型检索器并结合元知识指导生成器，以解决T5和ChatGPT等模型在任务型对话中难以区分检索记录的问题，有效提升了生成响应质量。
2023-10-20 cs.CL
Efficient Out-of-Scope Detection in Dialogue Systems via Uncertainty-Driven LLM Routing
Telepathy Labs GmbH（Telepathy Labs）
本文提出一种将不确定性估计与微调大语言模型相结合的模块化框架，先对域内意图分类器输出进行不确定性估计，再对高不确定性实例触发LLM做最终决策，在真实部署的对话系统OOS检测基准上取得最先进结果并兼顾计算效率。
2025-07-02 cs.CL
Lifelong and Interactive Learning of Factual Knowledge in Dialogues
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
对话系统越来越多地使用存储真实世界事实的知识库（KB）来帮助生成高质量的响应。然而，由于KB固有地是不完整的并且在对话期间保持固定，因此它限制了对话系统回答问题和处理涉及不在KB中的实体或关系的问题的能力。在本文中，我们试图提出一个引擎的连续和交互式学习知识（CILK）的对话系统，使他们能够不断地和交互式学习和推断新的知识在对话过程中。随着时间的推移积累了更多的知识，他们将能够更好地学习并回答更多的问题。我们的实证评估表明，CILK是有前途的。
2019-12-21 cs.AI cs.CL cs.HC
KG-ECO: Knowledge Graph Enhanced Entity Correction for Query Rewriting
Amazon（亚马逊）
查询重写（QR）在大规模对话系统中起着减少摩擦的关键作用。当存在实体错误时，它对对话系统产生令人满意的响应提出了额外的挑战。在这项工作中，我们提出了KG-ECO：知识图谱增强实体COrrection查询重写，一个实体纠正系统与腐败的实体跨度检测和实体检索/重新排名功能。为了提高模型的性能，我们结合了知识图谱（KG）来提供实体结构信息（由图神经网络编码的相邻实体）和文本信息（由RoBERTa编码的KG实体描述）。实验结果表明，我们的方法在两个基线上产生了明显的性能增益：话语水平QR和实体校正，而不利用KG信息。所提出的系统是特别有效的少样本学习的情况下，目标实体很少看到在训练中或有一个KG关系的目标实体和其他上下文实体的查询。
2023-02-22 cs.CL cs.LG
RT-KGD: Relation Transition Aware Knowledge-Grounded Dialogue Generation
Soochow University（苏州大学）；IFLYTEK Research（讯飞研究院）；Fudan University（复旦大学）
将对话系统与外部知识结合起来是提高答复质量的一个有希望的方法。现有的大多数作品都采用知识图谱（KG）作为外部资源，关注对话最后一句话中实体对上下文理解和响应生成的贡献。然而，知识隐含在多轮背景下，在幼儿园的关系之间的过渡性的相关性是未充分探讨。为此，我们提出了一个关系迁移感知的知识为基础的对话生成模型（RT-KGD）。具体而言，受人类会话的潜在逻辑的启发，我们的模型集成了对话级关系转换与回合级实体语义信息。通过这种方式，知识之间的相互作用被认为产生了丰富的线索，用于预测适当的知识并产生连贯的反应。自动评估和手动评估的实验结果表明，我们的模型优于国家的最先进的基线。
2022-07-17 cs.AI cs.CL
SafeDialBench: A Fine-Grained Safety Evaluation Benchmark for Large Language Models in Multi-Turn Dialogues with Diverse Jailbreak Attacks
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室）；University of Liverpool（利物浦大学）；City University of Hong Kong（香港城市大学）；School of Intelligence Science and Technology, Nanjing University（南京大学智能科学与技术学院）；China Mobile Research Institute（中国移动研究院）；China Mobile (Suzhou) Software Technology Co., Ltd（中国移动苏州软件技术有限公司）
SafeDialBench提出了一种细粒度基准，用于评估大型语言模型在多轮对话中面对多样化对抗攻击时的安全性，通过多维度分类和对抗攻击策略提升评估精度。
2026-02-07 cs.AI cs.CL
Linking Entities to Unseen Knowledge Bases with Arbitrary Schemas
Amazon AI（亚马逊人工智能（Amazon AI））
在实体链接中，原始文本中提到的命名实体将根据知识库（KB）进行消歧。这项工作的重点是链接到看不见的知识库，没有训练数据，其模式是未知的训练期间。我们的方法依赖于将具有多个属性值对的任意KB中的实体灵活转换为平面字符串的方法，我们将其与最先进的模型结合使用以进行零次（zero-shot）链接。为了提高我们的模型的泛化能力，我们使用了两种正则化方案，基于实体属性的洗牌和看不见的属性的处理。在英语数据集上进行的实验表明，我们的模型在CoNLL数据集上进行训练，并在TAC-KBP 2010数据集上进行测试，结果表明，我们的模型比基线模型的准确度高出12个点以上。与之前的工作不同，我们的方法还允许无缝组合多个训练数据集。我们通过添加一个完全不同的数据集（Wikia）以及增加TAC-KBP 2010训练集的训练数据来测试这种能力。我们的模型在各方面都表现良好。
2020-10-21 cs.CL
GE-Blender: Graph-Based Knowledge Enhancement for Blender
Haomo Technology Co., Ltd.（毫末科技有限公司）；Hebei Normal University（河北师范大学）；University of Luxembourg（卢森堡大学）
虽然开放域对话生成取得了巨大成功，但不可见实体可能对对话生成任务产生很大影响。这会导致对话框生成过程中模型的性能下降。以前的研究使用检索到的知识看到实体作为辅助数据，以提高模型的代表性。然而，对不可见实体的逻辑解释仍然是未知的，例如它们可能的共现或语义相似的词及其实体类别。在这项工作中，我们提出了一种方法来解决上述挑战。我们通过提取其中的实体节点来构建一个图，用实体的1跳周围节点来增强看不见的实体的上下文的表示。此外，我们增加了命名实体标签预测任务，以应用图中不存在未见过实体的问题。我们进行了我们的实验在一个开放的数据集向导的维基百科和实证结果表明，我们的方法优于国家的最先进的方法向导的维基百科。
2023-01-30 cs.AI cs.CL
Joint model for intent and entity recognition
Czech Technical University in Prague（布拉格捷克理工大学）
自然对话的语义理解由几个部分组成。其中一些，如意图分类和实体检测，在决定处理用户输入的下一步中起着至关重要的作用。将每个任务作为一个单独的问题处理可能会浪费培训资源，而且每个问题都可以相互受益。本文将这些问题作为一个整体来处理。我们的新模型将意图和实体识别结合到一个系统中，与单独解决每个任务相比，它在两个任务中实现了更好的指标，并且培训要求更低。我们还根据输入对模型进行了优化。
2021-09-07 cs.CL
LLM-Enhanced Dialogue Management for Full-Duplex Spoken Dialogue Systems
Tencent AI Lab（腾讯人工智能实验室）
本文提出一种基于大语言模型的语义语音活动检测模块，用于高效管理全双工语音对话系统的轮询，通过轻量级大语言模型实现意图和非意图打断的区分，并通过短间隔处理输入语音以实现实时决策，同时减少计算开销。
2026-06-03 cs.CL eess.AS
MP2D: An Automated Topic Shift Dialogue Generation Framework Leveraging Knowledge Graphs
IPAI, Seoul National University（首尔国立大学IPAI研究所）；Dept. of ECE, Seoul National University（首尔国立大学电子与计算机工程系）；LG AI Research（LG人工智能研究院）；SNU-LG AI Research Center（首尔国立大学LG人工智能研究中心）
针对对话话题转移训练数据稀缺的问题，提出利用知识图谱的MP2D框架生成带自然话题过渡的对话数据集，构建TS-WikiDialog基准，验证了该数据能提升模型处理话题转移的性能。
2024-03-09 cs.AI cs.CL
Personalized Dialogue Generation with Persona-Adaptive Attention
University of Surrey（萨里大学）；Southern University of Science and Technology（南方科技大学）；ByteDance AI Lab（字节跳动人工智能实验室）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
本文提出基于人设自适应注意力（PAA）的对话生成框架，通过自适应整合上下文与人设权重并应用动态掩码机制，在低资源下表现优异。
2024-01-10 cs.CL
Emphasising Structured Information: Integrating Abstract Meaning Representation into LLMs for Enhanced Open-Domain Dialogue Evaluation
针对开放域对话评估中对抗性负样本的挑战，提出一种将抽象意义表示（AMR）增强的特定领域语言模型与大语言模型集成的评估框架，通过门控机制和提示融合显著提升了与人类判断的相关性。
2025-09-16 cs.CL
Dynamic Dialogue Policy for Continual Reinforcement Learning
Heinrich Heine University Düsseldorf（杜塞尔多夫海因里希·海涅大学）
持续学习是人类学习的关键组成部分之一，也是人工智能的必然要求。由于对话可以潜在地跨越无限多的主题和任务，面向任务的对话系统必须具有持续学习的能力，动态地适应新的挑战，同时保留已经获得的知识。尽管对话政策的持续强化学习很重要，但在很大程度上仍未得到解决。缺乏一个框架，培训协议，基线模型和适当的指标，迄今为止阻碍了这方面的研究。在这项工作中，我们正好填补了这一空白，使对话政策优化的研究从静态到动态学习。我们提供了一个持续学习算法，基线架构和评估持续学习模型的指标。此外，我们提出了动态对话策略Transformer（DDPT），一种新的动态架构，可以无缝地集成新的知识，能够处理大的状态空间，并获得显着的zero-shot性能时，暴露于看不见的域，没有任何增长的网络参数大小。
2022-10-10 cs.CL cs.LG
Towards End-to-End Reinforcement Learning of Dialogue Agents for Information Access
Microsoft Research（微软研究院）；National Taiwan University（台湾大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出了KB-InfoBot --一个多轮对话代理，它可以帮助用户搜索知识库（KBs），而无需编写复杂的查询。这种面向目标的对话代理通常需要与外部数据库进行交互，以访问真实世界的知识。以前的系统通过向知识库发出符号查询来根据条目的属性检索条目来实现这一点。然而，这种符号操作打破了系统的可微性，并阻止了神经对话代理的端到端训练。在本文中，我们解决了这个限制，取代符号查询诱导的“软”后验分布的KB，表明用户感兴趣的实体。将软检索过程与强化学习器相结合，在模拟和真实用户中都能获得更高的任务成功率和奖励。我们还提出了一个完全神经端到端的代理，完全从用户反馈训练，并讨论其应用到个性化的对话代理。源代码可在https://github.com/MiuLab/KB-InfoBot上获得。
2017-04-20 cs.CL cs.LG
SKG-Eval: Stateful Evaluation of Multi-Turn Dialogue via Incremental Semantic Knowledge Graphs
Maulana Abul Kalam Azad University of Technology（Maulana Abul Kalam Azad 工业技术大学）；National Institute of Technology Durgapur（Durgapur 国家理工大学）
本文提出SKG-Eval框架，通过增量语义知识图谱模型，解决多轮对话评估中长距离不一致问题，提供可解释的评估信号和可复现的评分结果。
2026-05-15 cs.AI cs.CL
