Structure Extraction in Task-Oriented Dialogues with Slot Clustering
UCLA（加州大学洛杉矶分校）；Salesforce AI Research（赛富时人工智能研究院）
从对话数据中提取结构信息可以帮助我们更好地理解用户和系统的行为。在面向任务的对话中，对话结构通常被认为是对话状态之间的转换图。然而，手动注释对话状态是昂贵且耗时的。在本文中，我们提出了一个简单而有效的方法，用于面向任务的对话结构提取。我们首先使用预先训练的模型检测和聚类可能的槽令牌，以近似目标域的对话本体。然后我们跟踪每个已识别令牌组的状态并推导出状态转换结构。实验结果表明，我们的方法优于无监督的基线模型在对话结构提取。此外，我们表明，数据增强的基础上提取的结构丰富的表面格式的训练数据，可以实现显着的性能提升，在对话响应生成。
2022-03-15 cs.AI cs.CL
DialoGLUE: A Natural Language Understanding Benchmark for Task-Oriented Dialogue
Carnegie Mellon University（卡内基梅隆大学）；Amazon Alexa AI（亚马逊Alexa人工智能）
面向任务的对话研究的一个长期目标是能够灵活地调整对话模型以适应新的领域。为了推进这一方向的研究，我们引入了DialogLUE（对话语言理解评估），这是一个公共基准，由7个面向任务的对话数据集组成，涵盖4个不同的自然语言理解任务，旨在鼓励基于表示的迁移，领域自适应和样本有效任务学习的对话研究。我们发布了几个强大的基线模型，通过在大型开放域对话语料库上进行预训练和任务自适应自监督训练，在普通BERT架构上展示了性能改进，并在7个任务中的5个任务上获得了最先进的结果。通过DialogLUE基准、基线方法和我们的评估脚本，我们希望能够促进开发更通用的面向任务的对话模型的目标。
2020-10-01 cs.AI cs.CL
Bootstrapping a User-Centered Task-Oriented Dialogue System
The Ohio State University（俄亥俄州立大学）
我们介绍了TacoBot，这是一个面向任务的对话系统，专为首届Alexa Prize TaskBot挑战赛而设计，可帮助用户完成多步烹饪和家居装修任务。TacoBot的设计以用户为中心的原则，并致力于提供协作和可访问的对话体验。为此，它配备了准确的语言理解，灵活的对话管理，并参与响应生成。此外，TacoBot还拥有强大的搜索引擎和自动化的端到端测试套件。在引导TacoBot的开发过程中，我们探索了一系列数据增强策略，以训练先进的神经语言处理模型，并通过收集的真实对话不断改善对话体验。在半决赛结束时，TacoBot的平均评分为3.55/5.0。
2022-07-21 cs.AI cs.CL cs.LG
Improved Goal Oriented Dialogue via Utterance Generation and Look Ahead
Technion, IIT（以色列理工学院）；IBM Research（IBM研究院）
目标导向的对话系统已成为大多数企业的一个突出的客户关怀互动渠道。然而，并非所有的互动都是顺畅的，客户意图误解是导致对话失败的主要原因。我们表明，可以通过训练深度文本到文本神经模型来改进意图预测，以便从未标记的对话数据中生成连续的用户话语。为此，我们定义了一个多任务训练机制，利用连续的用户话语生成来提高意图预测。我们的方法实现了报告的改进，由于两个互补的因素：第一，它使用了大量的未标记的对话数据的辅助生成任务。其次，它使用所生成的用户话语作为意图预测模型的附加信号。最后，我们提出了一种新的前瞻性的方法，使用用户话语生成，以提高意图预测的推理时间。具体来说，我们生成反事实的连续用户话语的对话与模糊的预测意图，并消除歧义的预测，通过重新评估的级联序列的可用和生成的话语。
2021-10-24 cs.AI cs.CL cs.LG
JMultiWOZ: A Large-Scale Japanese Multi-Domain Task-Oriented Dialogue Dataset
Graduate School of Informatics, Nagoya University（名古屋大学信息学研究科）
本研究构建了首个日语大规模多领域任务型对话数据集JMultiWOZ，评估表明其与MultiWOZ2.2基准相当，并揭示了基于LLM的方法在日语任务完成能力上的局限性。
2024-03-26 cs.AI cs.CL
BBQ-Networks: Efficient Exploration in Deep Reinforcement Learning for Task-Oriented Dialogue Systems
我们提出了一种新算法，可以显著提高对话系统中深度Q学习代理的探索效率。我们的智能体通过汤普森采样进行探索，从贝叶斯反向传播神经网络中提取蒙特卡罗样本。我们的算法比常见的探索策略（如ε-greedy，Boltzmann，bootstrapping和基于内在奖励的策略）学习得更快。此外，我们还证明了，在重放缓冲区中加入一些成功的经验，可以使Q学习在可能失败的情况下变得可行。
2017-11-20 cs.AI cs.CL cs.LG
ViWOZ: A Multi-Domain Task-Oriented Dialogue Systems Dataset For Low-resource Language
VNU（越南国立大学）
目前大多数面向任务的对话系统（ToD），尽管有有趣的结果，是专为少数语言，如中文和英文。因此，由于缺乏标准的数据集和评估策略，它们在低资源语言中的性能仍然是一个重大问题。为了解决这个问题，我们提出了ViWOZ，一个完全注释的越南语面向任务的对话数据集。ViWOZ是越南语（一种低资源语言）中第一个多回合、多领域任务导向的数据集。该数据集由总共5，000个对话组成，其中包括60，946个完全注释的话语。此外，我们提供了一个全面的基准测试，在低资源语言场景中的模块化和端到端模型。有了这些特征，ViWOZ数据集使未来的研究能够创建一个面向多语言任务的对话系统。
2022-03-15 cs.AI cs.CL
Target-oriented Proactive Dialogue Systems with Personalization: Problem Formulation and Dataset Curation
The Hong Kong Polytechnic University（香港理工大学）
本文提出个性化面向目标对话问题，将<对话行为，主题>作为目标，并基于角色扮演方法构建大规模数据集TopDial（约18K轮），实验证明其高质量，为相关研究提供支撑。
2023-10-13 cs.AI cs.CL
Modelling Hierarchical Structure between Dialogue Policy and Natural Language Generator with Option Framework for Task-oriented Dialogue System
Imperial College London（帝国理工学院）；Laiye Network Technology Co. Ltd.（来也网络科技有限公司）；KAIST（韩国科学技术院）；University of Bath（巴斯大学）
设计面向任务的对话系统是一个具有挑战性的研究课题，因为它不仅需要生成满足用户要求的话语，而且要保证可理解性。许多先前的工作训练端到端（E2 E）模型与监督学习（SL），然而，在标注系统话语的偏见仍然是一个瓶颈。强化学习（RL）通过使用不可微的评估度量（例如，成功率）作为奖励。尽管如此，现有的工作与强化学习表明，生成的系统话语的可理解性可能会损坏时，提高性能，满足用户的请求。在我们的工作中，我们（1）提出了对话策略和自然语言生成器（NLG）之间的层次结构建模与选项框架，称为HDNO，其中潜在的对话行为被应用，以避免设计特定的对话行为表示;（2）通过分层强化学习（HRL）训练HDNO，以及建议在训练期间在对话策略和NLG之间的异步更新，以理论上保证它们收敛到局部最大化器;以及（3）建议使用用语言模型建模的词典作为额外奖励，以进一步提高可理解性。我们在MultiWoz 2.0和MultiWoz 2.1（多域对话数据集）上测试了HDNO，并与使用RL，LaRL和HDSA训练的单词级E2 E模型进行了比较，显示了自动评估指标和人工评估的性能改进。最后，我们论证了潜在对话行为的语义，以说明HDNO的可解释性。
2021-02-19 cs.AI cs.CL cs.LG
A Neural Topical Expansion Framework for Unstructured Persona-oriented Dialogue Generation
Shandong University（山东大学）；Tencent AI Lab（腾讯人工智能实验室）；The Chinese University of Hong Kong（香港中文大学）；University of Amsterdam（阿姆斯特丹大学）
非结构化面向角色的对话系统（UPDS）已经被证明在通过利用预定义的自然语言用户角色描述（例如，“我是一个素食主义者”）。然而，预定义的用户角色描述通常很短，并且仅限于几个描述性词语，这使得难以将它们与对话相关联。因此，现有的方法要么无法使用的角色描述或使用它们不正确时，生成人物角色一致的响应。为了解决这个问题，我们提出了一个神经主题扩展框架，即人物角色探索和利用（PEE），它能够扩展预定义的用户角色描述与语义相关的内容，然后利用它们来生成对话响应。PEE由两个主要模块组成：角色探索和角色开发。前者通过使用基于变分自动编码器（VAE）的主题模型挖掘和关联现有对话语料库来学习扩展预定义的用户角色描述。后者通过利用预定义的和扩展的用户角色描述来学习生成角色一致的响应。为了使角色开发能够更好地利用用户的角色描述，我们还引入了两个面向角色的损失函数：面向角色匹配（Persona-oriented Matching，P-Match）损失和面向角色词袋（Persona-oriented Bag-of-Words，P-BoWs）损失，分别用于监督编码器和解码器中的角色选择。实验结果表明，我们的方法优于国家的最先进的基线，在自动和人工评估。
2020-02-06 cs.AI cs.CL cs.LG
Many Hands Make Light Work: Task-Oriented Dialogue System with Module-Based Mixture-of-Experts
Georgia Institute of Technology（佐治亚理工学院）
针对任务型对话系统受预训练语言模型能力限制、扩展成本高的问题，提出基于混合专家集成的SMETOD系统，在多项基准任务上取得最优性能，且推理成本更低、准确性更高。
2024-05-16 cs.AI cs.CL
TODSum: Task-Oriented Dialogue Summarization with State Tracking
Beijing University of Posts and Telecommunications（北京邮电大学）；Meituan（美团）；China Mobile Communication Corporation（中国移动通信集团公司）
以往的会话摘要数据集主要集中在开放领域的聊天会话，而广泛使用的面向任务的会话摘要数据集还没有被探索。自动总结这种面向任务的对话可以帮助企业收集和审查需求以改进服务。此外，以往的数据集更注重生成具有较高ROUGE分数的好摘要，但它们几乎不理解对话的结构化信息，忽略了摘要的真实性。在本文中，我们介绍了一个大规模的公共面向任务的对话摘要数据集，TODSum，它旨在总结智能体完成某些任务与用户的关键点。与现有的工作相比，TODSum遭受严重的分散信息问题，并要求严格的事实一致性，这使得它很难直接应用最近的对话摘要模型。因此，我们引入额外的对话状态知识TODSum，以提高所生成的摘要的忠实性。我们希望更好地理解会话内容有助于摘要模型生成简洁和连贯的摘要。同时，我们建立了一个全面的基准TODSum，并提出了一个状态感知的结构化对话摘要模型，集成对话状态信息和对话历史。详尽的实验和定性分析证明了对话结构指导的有效性。最后，我们讨论了当前的问题TODSum和未来工作的潜在发展方向。
2021-10-25 cs.AI cs.CL
A Copy-Augmented Sequence-to-Sequence Architecture Gives Good Performance on Task-Oriented Dialogue
Stanford University（斯坦福大学）
面向任务的对话侧重于参与用户发起的关于特定领域主题的对话的会话代理。与聊天机器人相反，它只是寻求维持开放式的有意义的话语，现有的面向任务的代理通常显式地建模用户的意图和信念状态。本文探讨绕过这样一个明确的表示依赖于一个潜在的神经嵌入的状态和学习选择性注意对话的历史与复制，将相关的先验上下文。我们补充最近的工作，显示简单的序列到序列的神经架构与复制机制的有效性。我们的模型在每个响应生成方面比更复杂的内存增强模型高出7%，并且与DSTC 2上的当前最先进的模型相当。
2017-08-14 cs.AI cs.CL
GraphDialog: Integrating Graph Knowledge into End-to-End Task-Oriented Dialogue Systems
The University of Melbourne（墨尔本大学）
端到端面向任务的对话系统旨在直接从纯文本输入生成系统响应。这样的系统有两个挑战：一个是如何有效地将外部知识库（KBs）的学习框架，另一个是如何准确地捕捉对话历史的语义。在本文中，我们解决了这两个挑战，利用图形结构信息的知识库和依存句法分析树的对话。为了有效地利用对话历史中的结构信息，我们提出了一种新的循环细胞架构，允许图上的表示学习。为了充分利用知识库中实体之间的关系，该模型结合了基于图结构的多跳推理能力。实验结果表明，该模型在两个不同的面向任务的对话数据集上取得了一致的改进。
2020-10-04 cs.AI cs.CL
Leveraging Graph Structures and Large Language Models for End-to-End Synthetic Task-Oriented Dialogues
UCBL（里昂第一大学）；CNRS（法国国家科学研究中心）；Centrale Lyon（里昂中央理工学院）；INSA Lyon（里昂国立应用科学学院）；Univ. Lumière Lyon 2（里昂第二大学）；Reecall（瑞卡尔公司）
本文提出GraphTOD框架，利用图结构和大型语言模型，通过JSON转换图简化任务型对话的生成，降低数据集创建成本与复杂性。
2025-01-21 cs.AI cs.CL
TOD-BERT: Pre-trained Natural Language Understanding for Task-Oriented Dialogue
Salesforce Research（Salesforce研究院）
普通文本和任务型对话在语言模式上的根本差异使得现有的预训练语言模型在实践中用处不大。在这项工作中，我们统一了9个人与人之间的多回合面向任务的对话数据集，用于语言建模。为了在预训练期间更好地建模对话行为，我们将用户和系统令牌纳入掩蔽语言建模。我们提出了一个对比的目标函数来模拟反应选择任务。我们预先训练的面向任务的对话BERT（TOD-BERT）在四个下游面向任务的对话应用上的性能优于BERT等强基线，包括意图识别，对话状态跟踪，对话行为预测和响应选择。我们还表明，TOD-BERT具有更强的Few-Shot能力，可以缓解面向任务的对话的数据稀缺问题。
2020-10-01 cs.CL
Goal-oriented Dialogue Policy Learning from Failures
University of Science and Technology of China（中国科学技术大学）；SUNY Binghamton（纽约州立大学宾汉姆顿分校）
强化学习方法已经被用于学习对话策略。然而，学习一个有效的对话政策往往需要大量的对话。这部分是因为对话中的奖励很少，而且在早期学习阶段很少有成功的对话。后见之明的经验重演（HER）可以从失败中学习，但由于隐含的目标，香草HER不适用于对话学习。在这项工作中，我们开发了两个复杂的HER方法，提供不同的复杂性和性能之间的权衡，并首次启用HER为基础的对话策略学习。使用真实用户模拟器的实验表明，我们的HER方法在学习率方面优于现有的经验重放方法（应用于深度Q网络）。
2018-11-22 cs.AI cs.CL
Post-processing Networks: Method for Optimizing Pipeline Task-oriented Dialogue Systems using Reinforcement Learning
Nagoya University（名古屋大学）
许多研究已经提出了通过使用强化学习联合训练系统中的模块来优化整个管道面向任务的对话系统的对话性能的方法。然而，这些方法是有限的，因为它们只能应用于使用可训练的基于神经的方法实现的模块。为了解决这个问题，我们提出了一种方法，用于优化由任意方法实现的对话性能的模块组成的流水线系统。使用我们的方法，基于神经的组件称为后处理网络（PPN）安装在这样的系统中，对每个模块的输出进行后处理。通过使用强化学习更新所有PPN以提高系统的整体对话性能，而不需要每个模块是可区分的。通过对MultiWOZ数据集的对话模拟和人工评估，我们表明我们的方法可以提高由各种模块组成的流水线系统的对话性能。
2022-07-25 cs.AI cs.CL
UniConv: A Unified Conversational Neural Architecture for Multi-domain Task-oriented Dialogues
Singapore Management University（新加坡管理大学）；Salesforce Research Asia（Salesforce亚洲研究院）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）
建立一个端到端的会话代理多领域的面向任务的对话一直是一个开放的挑战，主要有两个原因。首先，跟踪多个域的对话状态是不平凡的，因为对话代理必须从所有相关域获得完整的状态，其中一些可能具有域之间的共享槽以及仅针对一个域的唯一槽。其次，对话代理还必须处理跨域的各种类型的信息，包括对话上下文、对话状态和数据库，以生成对用户的自然响应。与现有的通常被设计为单独训练每个模块的方法不同，我们提出了“UniConv”--一种用于多领域面向任务的对话中的端到端会话系统的新型统一神经架构，其被设计为联合训练（i）通过独立地在槽和域级别学习信号来跟踪对话状态的双层状态跟踪器，以及（ii）联合对话行为和响应生成器，其合并来自各种输入组件的信息并且同时对对话行为和目标响应进行建模。我们在MultiWOZ2.1基准测试中进行了对话状态跟踪、上下文到文本和端到端设置方面的全面实验，实现了优于竞争基准的性能。
2020-11-15 cs.CL cs.LG
Dialogue Meaning Representation for Task-Oriented Dialogue Systems
Amazon AWS AI（亚马逊AWS人工智能部门）；Fudan University（复旦大学）
对话意义表征将自然语言的话语语义以一种明确的、机器可读的形式表达出来。以前的工作通常遵循意图槽框架，这是很容易注释，但在复杂的语言表达的可扩展性有限。一系列的作品通过引入层次结构来解释表示问题，但对表达复杂的组合语义（如否定和共指）具有挑战性。我们提出了对话意义表示（DMR），一个柔韧的，易于扩展的表示面向任务的对话。我们的表示包含一组节点和边来表示丰富的组合语义。此外，我们提出了一个继承层次机制，重点领域的可扩展性。此外，我们用DMR注释了DMR-FastFood，这是一个具有超过70 k话语的多轮对话数据集。我们提出了两个评估任务来评估不同的对话模型和一个新的共指消解模型GNNCoref用于基于图的共指消解任务。实验表明，DMR可以很好地解析预训练的Seq 2Seq模型，GNNCoref大幅优于基线模型。
2022-11-15 cs.AI cs.CL
Rethinking Supervised Learning and Reinforcement Learning in Task-Oriented Dialogue Systems
University of Amsterdam（阿姆斯特丹大学）；Microsoft Research（微软研究院）
面向任务的对话系统的对话策略学习近年来取得了很大的进展，主要是通过采用强化学习方法。然而，这些方法已经变得非常复杂。现在是时候重新评估它了。我们真的在开发基于强化学习的对话代理方面取得了进展吗？我们演示了如何（1）传统的监督学习与（2）无模拟器的对抗学习方法一起使用，以实现与最先进的基于RL的方法相当的性能。首先，我们引入一个简单的对话动作解码器来预测适当的动作。然后，对传统的多标签对话策略学习方案进行扩展，增加密集层，提高对话Agent的性能。最后，我们采用Gumbel-Softmax估计交替训练对话代理和对话奖励模型，而不使用强化学习。基于我们广泛的实验，我们可以得出结论，所提出的方法可以实现更稳定和更高的性能，更少的努力，如领域知识所需的设计一个用户模拟器和棘手的参数调整强化学习。我们的主要目标不是用监督学习击败强化学习，而是展示重新思考强化学习和监督学习在优化面向任务的对话系统中的作用的价值。
2020-09-21 cs.CL cs.LG
SalesBot: Transitioning from Chit-Chat to Task-Oriented Dialogues
National Taiwan University（国立台湾大学）；MediaTek Research（联发科研究院）
对话系统通常分为两种类型，开放域和面向任务的。第一个重点是与用户聊天，让他们参与对话，其中选择一个合适的话题，以适应对话的背景是一个成功的对话至关重要。另一个专注于特定的任务，而不是随意的谈话，例如，周五晚上看电影或者放首歌这两个方向由于目的不同而被分开研究。然而，如何从社交聊天顺利过渡到任务导向的对话对于触发商业机会很重要，目前还没有公开数据关注此类场景。因此，本文的重点是调查从开放域社交聊天开始，然后逐渐过渡到面向任务的目的，并发布了一个大规模的数据集，详细的注释，以鼓励这一研究方向。为了实现这一目标，本文提出了一个框架，自动生成许多对话，没有人的参与，任何强大的开放域对话生成模型可以很容易地利用。人工评估表明，我们生成的对话数据具有合理质量的自然流动，表明我们发布的数据具有指导未来研究方向和商业活动的巨大潜力。此外，发布的模型允许研究人员在目标场景中自动生成无限对话，这可以大大有利于半监督和无监督方法。
2022-04-22 cs.AI cs.CL
UniDS: A Unified Dialogue System for Chit-Chat and Task-oriented Dialogues
University of Science and Technology of China（中国科学技术大学）
随着深度学习的进步，聊天对话系统和面向任务的对话系统取得了巨大的进步。然而，这两个系统在当前的方法中通常被单独处理。为了实现与人类更自然的交互，对话代理需要能够聊天和完成任务。为此，我们提出了一个统一的对话系统（UniDS）与上述两个技能。特别是，我们设计了一个统一的对话数据模式，兼容聊天和面向任务的对话，我们训练UniDS与混合对话数据从一个预先训练的聊天对话模型。无需向SOTA基线添加额外的参数，UniDS可以在统一的框架中处理闲聊和面向任务的对话。实验结果表明，建议的UniDS工程以及纯聊天系统，它优于最先进的面向任务的对话系统。更重要的是，UniDS实现了更好的鲁棒性，因为它能够在两种类型的对话之间平滑切换。这些结果证明了建立一个一对多的对话系统的可行性和潜力。
2021-10-15 cs.CL
Continual Learning in Task-Oriented Dialogue Systems
The Hong Kong University of Science and Technology（香港科技大学）；Facebook（脸书）
面向任务的对话系统中的持续学习可以让我们随着时间的推移添加新的领域和功能，而不会产生整个系统重新训练的高成本。在本文中，我们提出了一个面向任务的对话系统的持续学习基准37个领域不断学习的四个设置，如意图识别，状态跟踪，自然语言生成，和端到端。此外，我们实现并比较了多个现有的持续学习基线，并提出了一种基于剩余适配器的简单而有效的架构方法。我们的实验表明，所提出的架构方法和一个简单的基于重放的策略执行良好，但他们都达到了多任务学习基线，在那里所有的数据都显示在一次，显示在面向任务的对话系统的持续学习是一项具有挑战性的任务，性能较差。此外，我们揭示了几个权衡不同的持续学习方法的参数使用和内存大小，这是重要的面向任务的对话系统的设计。拟议的基准与几个基线一起发布，以促进这一方向的更多研究。
2020-12-31 cs.AI cs.CL
Fusing task-oriented and open-domain dialogues in conversational agents
Nanyang Technological University（南洋理工大学）；National University of Singapore（新加坡国立大学）
构建智能对话系统的目标在很大程度上是在两种范式下分别追求的：面向任务的对话（TOD）系统，它执行面向目标的功能，和开放域对话（ODD）系统，它专注于非面向目标的闲聊。这两种对话模式可以在同一个对话中无缝地交织在一起，就像友好的人类助手很容易做到的那样。这种能力在会话代理中是可取的，因为集成使它们更容易访问和有用。我们的论文解决了这个问题，融合多轮对话中的TOD和ODD。基于流行的TOD数据集MultiWOZ，我们通过重写现有的TOD转弯并添加新的ODD转弯来构建新的数据集FusedChat。该过程构造包含来自两种对话模式的交换的会话会话。它具有模式间上下文依赖性，即，对话从两种模式的相互依存转向了两种模式的相互依存。丰富的依赖模式，包括共指和省略的功能。新的数据集包含60k个新的人类书写的ODD回合和5k个重写的TOD回合，提供了一个测试对话模型执行模式间对话能力的基准。这是一项更具挑战性的任务，因为模型必须确定适当的对话模式并基于模式间上下文生成响应。但这样的模型可以更好地模仿人类水平的对话能力。我们评估了基线模型，包括基于分类的两阶段模型和二合一融合模型。我们公开发布FusedChat和基线，以推动未来在模式间对话系统https://github.com/tomyoung903/FusedChat上的工作。
2022-04-04 cs.AI cs.CL
EmoWOZ: A Large-Scale Corpus and Labelling Scheme for Emotion Recognition in Task-Oriented Dialogue Systems
识别情感的能力赋予了会话型人工智能一种人性化的感觉。虽然聊天对话中的情感已经得到了很大的关注，但任务型对话中的情感在很大程度上仍然没有得到解决。尽管情感和对话成功在自然系统中扮演着同样重要的角色。现有的情感标注的面向任务的语料库在大小、标签丰富性和公共可用性方面受到限制，为下游任务创造了瓶颈。为了给任务型对话中的情感研究奠定基础，本文介绍了一个大规模的人工标注的任务型对话情感语料库-MPEGWOZ。EmoWOZ基于MultiWOZ，MultiWOZ是一个多领域面向任务的对话数据集。它包含超过11 K的对话，以及超过83 K的用户话语情感注释。除了MultiWOZ的“绿野仙踪”对话之外，我们还收集了同一组域中的人机对话，以充分覆盖数据驱动的对话系统生命周期中可能发生的各种情感空间。据我们所知，这是第一个大规模的开源语料库。我们提出了一种新的情感标签计划，这是专为面向任务的对话。我们报告了一组实验结果，以显示该语料库的可用性，情感识别和状态跟踪在面向任务的对话。
2022-05-02 cs.CL
Target-constrained Bidirectional Planning for Generation of Target-oriented Proactive Dialogue
The Hong Kong Polytechnic University（香港理工大学）
针对目标导向主动对话的规划难题，提出带双向一致性的目标约束双向规划TRIP方法，用两个Transformer解码器双向生成动作-话题对路径，引导对话生成，在两个数据集上显著优于基线模型。
2024-03-10 cs.AI cs.CL
Prompt Learning for Domain Adaptation in Task-Oriented Dialogue
University of Wisconsin - Madison（威斯康星大学麦迪逊分校）；NVIDIA（英伟达）
对话设计者在创建面向任务的生产质量对话系统时继续面临重大障碍。模式开发和数据汇集的复杂性和成本通常是这些设计人员的主要障碍，限制了他们创建自然的用户友好体验的能力。我们将用户意图的分类框架为规范形式的生成，使用自然语言的轻量级语义表示。我们表明，规范形式提供了一个很有前途的替代传统方法的意图分类。通过调整冻结的大语言模型的软提示，我们表明，规范形式推广非常好的新的，看不见的领域在零或Few-Shot设置。该方法也是样本效率，降低了复杂性和努力开发新的面向任务的对话域。
2022-11-10 cs.AI cs.CL
End-to-End Optimization of Task-Oriented Dialogue Model with Deep Reinforcement Learning
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）
在本文中，我们提出了一个基于神经网络的面向任务的对话系统，可以优化端到端的深度强化学习（RL）。该系统能够跟踪对话状态，与知识库接口，并将查询结果纳入代理的响应，成功地完成面向任务的对话。对话策略学习采用混合监督和深度RL方法进行。我们首先训练的对话代理在监督的方式直接从面向任务的对话语料库学习，并进一步优化它与用户交互过程中的深度RL。在两个不同的对话任务域上的实验中，我们的模型在跟踪对话状态和产生合理的系统响应方面表现出鲁棒的性能。我们表明，与监督训练模型相比，基于深度强化学习的优化显著提高了任务成功率，减少了对话长度。我们进一步展示了训练面向任务的对话模型端到端的好处，与对话模拟和人类评估的实验结果相比，组件优化。
2017-11-30 cs.CL
Probing Task-Oriented Dialogue Representation from Language Models
Salesforce Research（Salesforce 研究院）
本文研究了预训练的语言模型，以找出哪种模型本质上携带最多的面向任务的对话任务的信息表示。我们从两个方面来研究这个问题：有监督的分类器探测和无监督的互信息探测。我们微调前馈层作为分类器探测器，它位于一个固定的预训练语言模型之上，带有有监督的注释标签。同时，我们提出了一种无监督的互信息探针来评估真实聚类和表示聚类之间的相互依赖性。本文的目的是1）研究探测技术，特别是从无监督互信息方面; 2）为对话研究社区提供预训练语言模型选择的指南; 3）发现对话应用的预训练因素，这可能是成功的关键。
2020-10-26 cs.AI cs.CL
Task-oriented Dialogue Systems: performance vs. quality-optima, a review
University of the West of England（西英格兰大学）；GE Aviation（通用电气航空）；Universidad Atlántida Argentina（阿根廷大西洋大学）
任务导向的对话系统（TODS）正在继续流行，因为各个行业都在寻找有效利用其能力的方法，从而节省时间和金钱。然而，即使是最先进的TODS也尚未充分发挥其潜力。TODS的主要设计重点通常是完成手头的任务，因此任务解决的度量应该优先考虑。可以忽略可能指向对话的成功或其他的其他会话质量属性。这可能导致人与对话系统之间的交互，这使得用户不满意或沮丧。本文探讨了文献的评价框架的对话系统和会话质量属性的作用，在对话系统，看看如果，如何，以及在哪里使用，并检查它们的相关性与性能的对话系统。
2021-12-21 cs.AI cs.CL
Unsupervised Flow Discovery from Task-oriented Dialogues
CISUC, Universidade de Coimbra（科英布拉大学系统与计算机工程中心，科英布拉大学）；DEI, FCTUC, Universidade de Coimbra（科英布拉大学工程学院，科英布拉大学）；ISEC, Instituto Politécnico de Coimbra（科英布拉理工学院高等工程学院）
本文提出一种从任务导向对话历史中无监督发现对话流程的方法，通过话语向量聚类构建状态转移图，并在MultiWOZ上验证了其提取有意义流程的潜力。
2024-05-02 cs.AI cs.CL
Augmenting Task-Oriented Dialogue Systems with Relation Extraction
University of Michigan（密歇根大学）；Bloomberg（彭博）；Vanderbilt University（范德堡大学）
标准的面向任务的对话管道使用意图分类和槽填充来解释用户话语。虽然这种方法可以处理各种各样的查询，但它不能提取处理包含槽之间关系的更复杂查询所需的信息。我们建议将关系抽取集成到这个管道中，作为扩展对话系统功能的有效方法。我们评估我们的方法，使用一个内部数据集的插槽和关系注释跨越三个域。最后，我们展示了如何插槽填充注释计划可以简化，一旦关系注释的表达能力，减少插槽的数量，同时仍然捕捉用户的意图。
2022-10-24 cs.CL cs.LG
CANDLE: Decomposing Conditional and Conjunctive Queries for Task-Oriented Dialogue Systems
Amelia Science（阿米莉亚科学公司）；IPsoft R&D（IPsoft研发部）
领域特定的对话系统通常通过依赖于主要集中于单个动作句子的句子级分类器来确定用户意图。这样的分类器不是设计来有效地处理复杂的查询组成的条件和顺序子句，表示多个动作。我们尝试将此类查询分解为较小的单个操作子查询，这些子查询对于意图分类器在对话管道中理解是合理的。我们发布了CANDLE（Conditional & AND type Expressions），这是一个由4282个手动标记有条件和顺序标签的话语组成的数据集，并通过训练两个基线标记器来演示这种分解。
2022-11-23 cs.AI cs.CL
Towards Automatic Evaluation of Task-Oriented Dialogue Flows
USC Information Sciences Institute（南加州大学信息科学研究所）；Got It AI
本文提出FuDGE（模糊对话图编辑距离）这一新颖指标，通过评估结构复杂性和对话数据表征覆盖度，解决任务型对话流缺乏标准评估方法的问题，有效提升对话设计的效率与自动化水平。
2024-11-15 cs.AI cs.CL
Adaptive Natural Language Generation for Task-oriented Dialogue via Reinforcement Learning
Nagoya University（名古屋大学）
当在现实世界的面向任务的对话系统中实现自然语言生成（NLG）组件时，不仅需要生成如在训练数据上学习的自然话语，而且需要生成适于对话环境的话语（例如，来自环境声音的噪声）和用户（例如，具有低水平理解能力的用户）。受语言生成任务的强化学习（RL）的最新进展的启发，我们提出了ANTOR，一种通过强化学习为面向任务的对话自适应自然语言生成的方法。在ANTOR中，一个自然语言理解（NLU）模块，它对应于用户对系统话语的理解，被纳入RL的目标函数。如果NLG的意图被正确地传达给理解系统话语的NLU，则NLG被给予积极的奖励。我们在MultiWOZ数据集上进行了实验，我们证实了ANTOR可以针对语音识别错误和不同词汇水平的用户生成自适应的话语。
2022-09-16 cs.AI cs.CL
DivTOD: Unleashing the Power of LLMs for Diversifying Task-Oriented Dialogue Representations
Meituan（美团）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出 DivTOD 预训练模型，通过与大语言模型协作迁移多样化知识并去除矛盾领域知识，在多个下游任务型对话任务上超越强基线，有效学习对话的内在多样性。
2024-03-31 cs.CL
CHAI: A CHatbot AI for Task-Oriented Dialogue with Offline Reinforcement Learning
UC Berkeley（加州大学伯克利分校）
传统上，为对话代理生成自然语言可以被视为统计学习问题：确定人类提供的数据中的模式，并生成具有类似统计属性的适当响应。然而，对话也可以被视为一个目标导向的过程，说话者试图完成一项特定的任务。强化学习（RL）算法是专门为解决这类目标导向问题而设计的，但应用RL的最直接方法--通过人类对话中的试错学习--成本很高。在本文中，我们研究如何离线强化学习可以完全使用从人类说话者收集的静态数据集来训练对话代理。我们的实验表明，最近开发的离线强化学习方法可以与语言模型相结合，以产生更好地完成任务目标的现实对话代理。
2022-04-18 cs.CL cs.LG
Memory-augmented Dialogue Management for Task-oriented Dialogue Systems
Tsinghua University（清华大学）；Alibaba Group（阿里巴巴集团）
对话管理根据当前对话状态决定对话系统的下一步动作，在面向任务的对话系统中起着核心作用。由于对话管理不仅需要访问本地话语，而且需要访问整个对话会话的全局语义，因此对远程历史信息进行建模是一个关键问题。为此，我们提出了一种新的内存增强对话管理模型（MAD），它采用了一个内存控制器和两个额外的内存结构，即，槽值存储器和外部存储器。槽值存储器通过记忆和更新语义槽的值（例如，菜系、价格和位置）来跟踪对话状态，外部存储器通过存储更多的上下文信息来增强传统递归神经网络的隐藏状态的表示。为了有效地更新对话状态，我们还提出了槽级关注用户的话语提取特定的语义信息，为每个槽。实验表明，我们的模型可以获得最先进的性能，并优于现有的基线。
2018-05-01 cs.AI cs.CL cs.IR
Sequence-to-Sequence Learning for Task-oriented Dialogue with Dialogue State Representation
Research Center for Social Computing and Information Retrieval（社会计算与信息检索研究中心）；Harbin Institute of Technology（哈尔滨工业大学）
面向任务的对话系统的经典流水线模型需要对对话状态进行显式建模，并手工构建动作空间来查询特定领域的知识库。相反，序列到序列模型学习将对话历史映射到当前回合的响应，而无需显式的知识库查询。在这项工作中，我们提出了一个新的框架，利用经典的管道和序列到序列模型的优势。我们的框架模型的对话状态作为一个固定大小的分布式表示，并使用此表示查询知识库通过注意力机制。在斯坦福多回合多领域面向任务的对话数据集上的实验表明，我们的框架在自动和人工评估方面都显着优于其他基于序列到序列的基线模型。
2018-06-12 cs.CL
Learning to Memorize in Neural Task-Oriented Dialogue Systems
The Hong Kong University of Science and Technology（香港科技大学）
在这篇论文中，我们利用神经复制机制和记忆增强的神经网络（MANNs）来解决神经任务导向对话学习的挑战。我们通过在多域对话状态跟踪、基于检索的对话系统和基于生成的对话系统中实现良好的性能来展示我们的策略的有效性。我们首先提出了一个可转移的对话状态生成器（TRADE），利用其复制机制，摆脱对话本体和领域之间的知识共享。我们还评估看不见的域对话状态跟踪，并表明，贸易使zero-shot对话状态跟踪，可以适应新的Few-Shot域，而不会忘记以前的域。第二，我们利用人工神经网络来改善基于检索的对话学习。他们能够捕捉对话顺序的依赖关系，并记住长期的信息。我们还提出了一个记录的delexicalization复制策略，以取代真正的实体值与有序的实体类型。我们的模型被证明超过其他检索基线，特别是当对话有大量的回合。最后，我们用两个模型来处理基于生成的对话学习，即内存到序列（Mem2Seq）和全局到局部内存指针网络（GLMP）。Mem2Seq是第一个将多跳内存注意力与复制机制相结合的模型。GLMP进一步引入了响应草图和双指针复制的概念。我们表明，GLMP实现了最先进的性能对人类的评价。
2019-05-19 cs.AI cs.CL
Global-to-local Memory Pointer Networks for Task-Oriented Dialogue
The Hong Kong University of Science and Technology（香港科技大学）；Salesforce Research（Salesforce研究院）
端到端面向任务的对话具有挑战性，因为知识库通常很大，动态，很难纳入学习框架。我们提出了全局到局部内存指针（GLMP）网络来解决这个问题。在我们的模型中，提出了一个全局记忆编码器和一个局部记忆解码器来共享外部知识。编码器对对话历史进行编码，修改全局上下文表示，并生成全局内存指针。解码器首先生成具有未填充槽的草图响应。接下来，它传递全局内存指针来过滤外部知识以获得相关信息，然后通过本地内存指针实例化插槽。我们的经验表明，我们的模型可以提高复制的准确性和减轻常见的词汇表问题。因此，GLMP能够在模拟bAbI对话数据集和人-人斯坦福多域对话数据集的自动和人类评估方面改进先前最先进的模型。
2019-03-29 cs.AI cs.CL
Training Neural Response Selection for Task-Oriented Dialogue Systems
PolyAI Limited（PolyAI有限公司）
尽管它们在聊天机器人文献中很受欢迎，但基于检索的模型对面向任务的对话系统的影响不大，其应用的主要障碍是大多数面向任务的对话任务的低数据机制。受语言建模中预训练最近成功的启发，我们提出了一种有效的方法，用于在面向任务的对话中部署响应选择。为了训练面向任务的对话任务的响应选择模型，我们提出了一种新的方法：1）在大型通用领域对话语料库上预训练响应选择模型;然后2）针对目标对话领域微调预训练模型，仅依赖于小的领域内数据集来捕获给定对话领域的细微差别。我们的评估六个不同的应用领域，从电子商务到银行，证明了所提出的培训方法的有效性。
2019-06-07 cs.CL
Precognition in Task-oriented Dialogue Understanding: Posterior Regularization by Future Context
Ant Group（蚂蚁集团）
面向任务的对话系统是近年来研究的热点。在面向任务的对话系统中，对话理解被广泛用于理解用户的意图、情感和对话状态。大多数以前的作品，这种歧视性的任务只模型当前查询或历史对话。即使在某些工作中，整个对话流被建模，它是不适合现实世界的面向任务的会话，因为未来的上下文是不可见的，在这种情况下。在本文中，我们提出了联合模型的历史和未来的信息，通过后验正则化方法。更具体地说，通过将当前话语和过去的上下文建模为先验，将整个对话流建模为后验，我们优化了这些分布之间的KL距离，以在训练过程中正则化我们的模型。只有历史信息才能用于推理。在两个对话数据集上的实验验证了该方法的有效性，与所有基线模型相比，取得了更好的结果。
2022-03-07 cs.CL
KETOD: Knowledge-Enriched Task-Oriented Dialogue
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Meta
现有的对话系统研究大多将面向任务的对话和聊天作为独立的研究领域。为了构建一个可以与用户自然无缝对话的类人助理，构建一个有效进行两种类型对话的对话系统非常重要。在这项工作中，我们研究如何面向任务的对话和知识为基础的闲聊可以有效地整合到一个单一的模型。为此，我们创建了一个新的数据集，KETOD（知识丰富的面向任务的对话），在那里我们自然地丰富了基于相关实体知识的闲聊面向任务的对话。我们还提出了两个新的模型，SimpleToDPlus和组合器，所提出的任务。自动和人工评估的实验结果表明，所提出的方法可以显着提高知识丰富的响应生成的性能，同时保持有竞争力的面向任务的对话性能。我们相信我们的新数据集将是未来研究的宝贵资源。我们的数据集和代码可在\url{https://github.com/facebookresearch/ketod}上公开获得。
2022-05-11 cs.CL
Dialogue Learning with Human Teaching and Feedback in End-to-End Trainable Task-Oriented Dialogue Systems
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）；Samsung Research（三星研究院）
在这项工作中，我们提出了一种混合学习方法，通过在线用户交互训练面向任务的对话系统。用于学习面向任务的对话的流行方法包括在监督的预训练模型上应用具有用户反馈的强化学习。这种学习方法的效率可能受到离线训练和在线交互式学习阶段之间的对话状态分布的不匹配的影响。为了解决这一挑战，我们提出了一种混合模仿和强化学习的方法，与对话代理可以有效地学习，从人类的教学和反馈与用户的互动。我们设计了一个基于神经网络的面向任务的对话代理，可以优化端到端的学习方法。实验结果表明，我们的端到端的对话代理可以有效地学习，从它所犯的错误，通过模仿学习从用户教学。在模仿学习阶段之后应用具有用户反馈的强化学习进一步提高了代理成功完成任务的能力。
2018-04-18 cs.CL
A Chit-Chats Enhanced Task-Oriented Dialogue Corpora for Fuse-Motive Conversation Systems
Beijing University of Posts and Telecommunications（北京邮电大学）
构建智能对话系统的目标在很大程度上是在两个动机下分别追求的：面向任务的对话（TOD）系统和用于聊天的开放域系统（CC）。尽管先前的TOD对话系统在测试基准集上工作良好，但是当暴露于实际的自然场景时，它们会导致不期望的失败，其中用户话语可以具有高动机多样性，从而在多轮交互中融合了TOD和CC。由于工业TOD系统应该能够在TOD和CC动机之间与用户对话，因此构建包含TOD或CC的融合动机对话数据集是重要的。大多数先前的工作依赖于人群工作人员来收集和注释大规模数据集，并且仅限于英语语言设置。我们的工作，相反，解决了这个问题，在一个更有效的方式，并发布了一个多轮对话数据集称为CCET（中文聊天增强任务）。同时，我们还提出了一种融合动机对话的形式化方法，以及由CC话语整合的几个TOD会话的评估指标。
2022-05-12 cs.AI cs.CL
MinTL: Minimalist Transfer Learning for Task-Oriented Dialogue Systems
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；Department of Electronic and Computer Engineering（电子与计算机工程系）；The Hong Kong University of Science and Technology（香港科技大学）
在本文中，我们提出了最简迁移学习（MinTL），以简化面向任务的对话系统的系统设计过程，并减轻对注释数据的过度依赖。MinTL是一个简单而有效的迁移学习框架，它允许我们即插即用预先训练的seq2seq模型，并共同学习对话状态跟踪和对话响应生成。与以前的方法，使用复制机制来“结转”旧的对话状态到新的，我们引入Levenshtein的信念跨度（Lev），允许有效的对话状态跟踪与最小的生成长度。我们用两个预先训练好的主干来实例化我们的学习框架：T5和BART，并在MultiWOZ上对它们进行评估。大量的实验表明：1）我们的系统建立了新的国家的最先进的端到端响应生成的结果，2）MinTL为基础的系统是更强大的比基线方法在低资源设置，他们实现了竞争力的结果，只有20\%的训练数据，和3）Lev大大提高了推理效率。
2020-09-28 cs.AI cs.CL
Relevance of Unsupervised Metrics in Task-Oriented Dialogue for Evaluating Natural Language Generation
Microsoft Maluuba（微软 Maluuba）
诸如BLEU的自动化度量在机器翻译文献中被广泛使用。它们最近也被对话界用于评估对话回应的生成。然而，以前的工作中的对话响应生成表明，这些指标不密切相关的非面向任务的对话设置与人类的判断。任务导向型对话的回答表达的领域较窄，多样性较低。因此，有理由认为，这些自动化的指标将与人类的判断在面向任务的设置，其中生成任务包括翻译成一个句子的对话行为。我们进行了实证研究，以证实是否是这样。我们的研究结果表明，这些自动化的指标有更强的相关性与人类的判断，在面向任务的设置相比，在非面向任务的设置。我们还观察到，这些指标与提供多个地面真实参考句子的数据集的相关性更好。此外，我们表明，一些目前可用的语料库面向任务的语言生成可以解决简单的模型和倡导更具挑战性的数据集。
2017-06-29 cs.CL
Task-Oriented Dialogue System as Natural Language Generation
University of California Santa Barbara（加州大学圣巴巴拉分校）；Alibaba DAMO Academy（阿里巴巴达摩院）；Tencent AI Lab（腾讯人工智能实验室）；Microsoft Research Asia（微软亚洲研究院）
在本文中，我们建议将面向任务的对话系统制定为纯自然语言生成任务，以便充分利用GPT-2等大规模预训练模型，并简化复杂的去词汇化处理。然而，直接应用该方法严重遭受由去除去词汇化令牌引起的对话实体不一致性，以及预训练模型在微调期间的灾难性遗忘问题，导致性能不令人满意。为了缓解这些问题，我们设计了一种新的GPT-Adapter-CopyNet网络，它将轻量级适配器和CopyNet模块集成到GPT-2中，以实现更好的迁移学习和对话实体生成性能。在DSTC 8 Track 1基准测试和MultiWOZ数据集上进行的实验结果表明，我们提出的方法在自动和人工评估方面的性能显着优于基线模型。
2022-04-24 cs.AI cs.CL
DiagGPT: An LLM-based and Multi-agent Dialogue System with Automatic Topic Management for Flexible Task-Oriented Dialogue
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对现有大语言模型在复杂诊断类任务型对话中表现不足的问题，本文提出具备自动主题管理功能的多智能体系统DiagGPT，可拓展大模型的任务型对话适用场景、提升交互灵活性，实验验证其性能优异。
2024-04-15 cs.AI cs.CL
DialoKG: Knowledge-Structure Aware Task-Oriented Dialogue Generation
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）；University of Hamburg（汉堡大学）
面向任务的对话生成具有挑战性，因为基础知识往往是动态的，很难有效地将知识纳入学习过程。在这种情况下，产生类似人类和信息的反应特别具有挑战性。最近的研究主要集中在各种知识蒸馏方法，其中知识库中的事实之间的潜在关系没有被有效地捕获。在本文中，我们更进一步，并证明如何结构信息的知识图谱可以提高系统的推理能力。具体来说，我们提出了DialoKG，一种新的面向任务的对话系统，有效地将知识纳入语言模型。我们提出的系统将关系知识视为一个知识图谱，并引入（1）结构感知的知识嵌入技术，（2）知识图谱加权注意掩蔽策略，以方便系统在对话生成过程中选择相关信息。实证评估表明，DialoKG在几个标准的基准数据集上的最先进的方法的有效性。
2022-04-19 cs.AI cs.CL
Flexible and Scalable State Tracking Framework for Goal-Oriented Dialogue Systems
Amazon Alexa AI（亚马逊Alexa人工智能）
面向目标的对话系统通常依赖于专门为单个任务或领域开发的组件。这以两种不同的方式限制了这样的系统：如果任务域中有更新，则对话系统通常需要更新或完全重新训练。将这样的对话系统扩展到不同的和多个域也更困难。传统对话系统中的对话状态跟踪器就是这样一个组件--它通常被设计成适合定义良好的应用领域。例如，状态变量通常是手动预定义的实体集合上的分类分布（Henderson等人，2013），导致了不灵活且难以扩展的对话系统。在本文中，我们提出了一种新的对话状态跟踪方法，可以推广到多个领域，而无需结合任何特定领域的知识。在该框架下，独立地学习离散对话状态变量，并且不需要对话状态变量的预定义的一组可能值的信息。此外，它允许添加任意对话上下文作为功能，并允许多个值与单个状态变量相关联。这些特征使得扩展对话状态空间变得更加容易。我们评估我们的框架使用广泛使用的对话状态跟踪挑战数据集（DSTC 2），并表明，我们的框架产生竞争力的结果与其他国家的最先进的结果，尽管结合很少的领域知识。我们还表明，这个框架可以受益于广泛可用的外部资源，如预先训练的词嵌入。
2018-11-30 cs.AI cs.CL
Towards Reliable and Empathetic Depression-Diagnosis-Oriented Chats
Shanghai Jiao Tong University（上海交通大学）；University of Wisconsin - Madison（威斯康星大学麦迪逊分校）
本文针对抑郁症诊断对话需兼顾专业性与共情的问题，提出融合任务导向可靠性和共情闲聊的本体定义与生成框架，并在 D$^4$ 上验证其可显著提升任务完成与情感支持生成。
2024-04-07 cs.AI cs.CL
