SF-DST: Few-Shot Self-Feeding Reading Comprehension Dialogue State Tracking with Auxiliary Task
Graduate School of Artificial Intelligence, POSTECH（浦项科技大学人工智能研究生院）；Department of Computer Science and Engineering, POSTECH（浦项科技大学计算机科学与工程系）
Few-Shot对话状态跟踪（DST）模型以可靠的准确性跟踪对话中的用户请求，即使数据量很小。在本文中，我们介绍了一个本体无关的Few-Shot DST与自我喂养的信念状态输入。自馈信念状态输入通过总结先前对话来增加多轮对话中的准确性。此外，我们新开发了一个槽门辅助任务。这个新的辅助任务有助于区分对话中是否提到了一个槽。我们的模型在multiWOZ 2.0上的四个域的Few-Shot设置中获得了最佳分数。
2022-09-16 cs.CL
Efficient Dialogue State Tracking by Masked Hierarchical Transformer
Hithink RoyalFlush Information Network Co.,Ltd.（同花顺网络信息股份有限公司）
本文描述了我们的方法，DSTC 9轨道2：跨语言多域对话状态跟踪，任务的目标是建立一个跨语言的对话状态跟踪器的训练集在丰富的资源语言和测试集在低资源语言。我们制定了一个方法，分别用于槽操作分类任务和状态跟踪任务的联合学习。实验结果表明，该模型在DSTC Challenge II上取得了良好的性能，在MultiWOZ（en-zh）和CrossWOZ（zh-en）数据集上的联合准确率分别达到62.37%和23.96%。
2021-06-28 cs.CL
Dialogue State Distillation Network with Inter-slot Contrastive Learning for Dialogue State Tracking
Baidu Inc.（百度公司）
在面向任务的对话系统中，对话状态跟踪（DST）旨在从对话历史中提取用户的意图。目前，大多数现有的方法遭受错误传播，并且在利用先前的对话状态时不能动态地选择相关信息。此外，不同时隙的更新之间的关系为DST提供了重要线索。然而，现有的方法仅依赖于预定义的图来间接地捕获关系。在本文中，我们提出了一个对话状态蒸馏网络（DSDN），利用以前的对话状态的相关信息，并迁移训练和测试之间的利用差距。因此，它可以动态地利用先前的对话状态，同时避免引入错误传播。此外，我们提出了一个时隙间的对比学习损失，有效地捕捉槽的协同更新关系的对话上下文。实验在广泛使用的MultiWOZ 2.0和MultiWOZ 2.1数据集上进行。实验结果表明，我们提出的模型达到了DST的最新性能。
2023-03-07 cs.CL
Coreference Augmentation for Multi-Domain Task-Oriented Dialogue State Tracking
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Artificial Intelligence Application Research Center, Huawei Technologies（华为技术有限公司人工智能应用研究中心）
对话状态跟踪（DST）是通过估计给定对话历史的信念状态来推断用户目标的过程，在面向任务的对话系统中起着至关重要的作用。在多话轮会话中观察到的共指现象没有解决现有的DST模型，导致次优性能。在本文中，我们提出了共指对话状态跟踪器（CDST），显式模型的共指功能。特别是，在每一轮，该模型联合预测的共指域插槽对，并提取共指值的对话上下文。在MultiWOZ 2.1数据集上的实验结果表明，该模型达到了最先进的联合目标的准确率为56.47%。
2021-06-16 cs.CL
Turn-Level Active Learning for Dialogue State Tracking
University of Technology Sydney（悉尼科技大学）；University of Liverpool（利物浦大学）；University College London（伦敦大学学院）；University of Wollongong（伍伦贡大学）
针对任务导向对话系统中对话状态跟踪（DST）数据逐轮标注成本高的问题，提出一种新型轮次级主动学习框架，通过主动选择对话轮次进行标注，在显著减少标注数据量的同时实现与传统方法相当的DST性能。
2023-10-23 cs.CL
Recurrent Polynomial Network for Dialogue State Tracking
Shanghai Jiao Tong University（上海交通大学）
对话状态跟踪（DST）是一个过程，以估计随着对话的进展，对话状态的分布。最近的研究约束马尔可夫贝叶斯多项式（CMBP）框架迈出了第一步之间的差距，基于规则和统计方法的DST。本文提出了一种新的框架--递归多项式网络（RPN），进一步弥补了这一不足。RPN的独特结构使该框架具有CMBP的所有优点，包括效率，可移植性和可解释性。此外，RPN比CMBP实现了更多的统计方法属性。在第二次和第三次对话状态跟踪挑战（DSTC-2/3）的数据库上评价RPN。实验表明，RPN可以显着优于传统的基于规则的方法和统计方法具有相似的特征集。与现有的统计DST方法相比，RPN具有更丰富的特征，具有很强的竞争力。
2015-11-21 cs.CL
Self-Training with Purpose Preserving Augmentation Improves Few-shot Generative Dialogue State Tracking
POSTECH（浦项科技大学）
在对话状态跟踪（DST）中，标记数据集涉及大量的人力劳动。我们提出了一个新的自我训练框架的Few-Shot生成DST，利用未标记的数据。我们的自训练方法通过伪标签迭代地改进模型，并采用目的保持增强（PPAug）来防止过拟合。与基线相比，我们在MultiWOZ 2.1上将Few-Shot 10%性能提高了约4%，并将不可见值的插槽召回率提高了8.34%。
2022-11-17 cs.CL
Knowledge-grounded Dialog State Tracking
University of California, Davis（加州大学戴维斯分校）；Google Research（谷歌研究院）
知识（包括结构化知识，如模式和本体，以及非结构化知识，如Web语料库）是对话理解的关键部分，特别是对于看不见的任务和领域。传统上，这种特定于领域的知识被隐式地编码到用于执行下游任务的模型参数中，这使得训练效率低下。此外，这样的模型是不容易转移到新的任务与不同的模式。在这项工作中，我们建议执行对话状态跟踪接地外部编码的知识。我们查询各种形式的对话上下文的基础上，这些信息可以接地的对话状态的预测相关知识。我们证明了我们提出的方法在强基线上的优越性能，特别是在少样本学习设置中。
2022-10-13 cs.CL
Recurrent Neural Networks for Dialogue State Tracking
Charles University in Prague（布拉格查理大学）
本文讨论了使用循环神经网络（RNN）的对话状态跟踪模型。我们目前的实验标准的对话状态跟踪（DST）数据集，DSTC 2。一方面，RNN模型成为DST中最先进的模型，另一方面，大多数最先进的模型都是基于回合的，需要特定于网络的预处理（例如DSTC 2特定）才能实现这样的结果。我们实现了两个架构，可以用于增量设置，几乎不需要预处理。我们比较他们的性能的基准DSTC 2，并讨论他们的属性。只有琐碎的预处理，我们的模型的性能接近国家的最先进的结果。
2016-07-13 cs.CL
Schema Encoding for Transferable Dialogue State Tracking
POSTECH（浦项科技大学）；Graduate School of Artificial Intelligence（人工智能研究生院）
对话状态跟踪是面向任务的对话系统的一个重要子任务。最近的工作集中在DST的深度神经模型上。然而，神经模型需要大量的数据集进行训练。此外，将它们应用到另一个领域需要一个新的数据集，因为神经模型通常被训练来模仿给定的数据集。在本文中，我们提出了可转移对话状态跟踪（SETDST），这是一个神经DST方法有效地转移到新的域模式编码。可转移的DST可以帮助对话系统的发展，即使在目标领域的数据集很少。我们使用模式编码器不仅仅是为了模仿数据集，而是为了理解数据集的模式。我们的目标是通过编码新的模式并将其用于多域设置上的DST来将模型转移到新的域。因此，SET-DST在MultiWOZ 2.1上将接头精度提高了1.46个点。
2022-10-05 cs.CL
"Do you follow me?": A Survey of Recent Approaches in Dialogue State Tracking
Orange Innovation（奥兰治创新）；Aix-Marseille Université（艾克斯-马赛大学）；CNRS（法国国家科学研究中心）
面向任务的对话系统在与用户进行会话时，必须根据会话历史记录跟踪用户在每一轮的需求。这个过程被称为对话状态跟踪（DST）是至关重要的，因为它直接通知下游对话策略。DST近年来受到了很多关注，文本到文本范例成为最受欢迎的方法。在这篇综述论文中，我们首先介绍了任务及其相关数据集。然后，考虑到大量最近的出版物，我们确定了2021-2022年的研究重点和进展。虽然神经方法已经取得了重大进展，我们认为，对话系统的一些关键方面，如泛化仍然是未充分探索。为了激励未来的研究，我们提出了几个研究途径。
2022-07-29 cs.CL
Tracking of enriched dialog states for flexible conversational information access
Tsinghua University（清华大学）
对话状态跟踪（DST）是面向任务的对话系统中用于会话信息访问的关键组件。当前对话系统中的一种常见做法是通过一组槽值对来定义对话状态。这种对话状态的表示和基于槽填充的DST已被广泛采用，但存在三个缺点。(1)对话状态可以只包含一个槽的单个值，并且（2）可以只包含用户对槽的值的肯定偏好。(3)目前基于任务的对话系统主要集中在搜索任务上，而查询任务在实践中也很常见。上述观察促使我们丰富当前的对话状态表示，并收集一个全新的关于电影的对话数据集，在此基础上，我们建立了一个新的DST，称为丰富的DST（EDST），灵活地访问电影信息。EDST支持搜索任务、查询任务以及它们的混合任务。我们表明，新的EDST方法不仅在爱奇艺数据集上取得了良好的效果，而且在传统的对话数据集，WOZ 2. 0和DSTC 2上也优于其他最先进的DST方法。
2018-02-24 cs.CL
Zero-Shot Transfer Learning with Synthesized Data for Multi-Domain Dialogue State Tracking
Stanford University（斯坦福大学）
多域对话状态跟踪的Zero-shot迁移学习可以让我们处理新的域，而不会产生数据采集的高成本。本文提出了一种新的零短时迁移学习技术用于对话状态跟踪，其中领域内的训练数据都是由抽象的对话模型和领域本体合成的。我们表明，通过合成数据的数据增强可以提高MultiWOZ 2.1数据集上的TRADE模型和基于BERT的SUMBT模型的零样本学习的准确性。我们发现，仅使用SUMBT模型上的合成域内数据进行训练，可以达到使用完整训练数据集获得的准确度的2/3左右。我们将各领域的零样本学习平均提高了21%。
2020-05-02 cs.CL
Preview, Attend and Review: Schema-Aware Curriculum Learning for Multi-Domain Dialog State Tracking
Alibaba Group（阿里巴巴集团）；Ingenuity Labs Research Institute（创意实验室研究所）；Queen’s University（女王大学）
现有的对话状态跟踪（DST）模型是用随机顺序的对话数据训练的，忽略了数据集中丰富的结构信息。在本文中，我们建议使用课程学习（CL），以更好地利用课程结构和图式结构的任务导向的对话。具体来说，我们提出了一个模型不可知的框架称为模式感知课程学习的对话状态跟踪（SaCLog），它包括一个预览模块，预训练的DST模型与模式信息，课程模块，优化模型与CL，和审查模块，增加误预测的数据，以加强CL培训。我们表明，我们提出的方法提高了基于transformer和基于RNN的DST模型（TripPy和TRADE）的DST性能，并在WOZ2.0和MultiWOZ2.1上实现了新的最先进的结果。
2021-06-01 cs.CL
Deep Reinforcement Learning for On-line Dialogue State Tracking
Key Lab. of Shanghai Education Commission for Intelligent Interaction and Cognitive Eng.（上海市教育委员会智能交互与认知工程重点实验室）；SpeechLab, Department of Computer Science and Engineering（计算机科学与工程系语音实验室）；Brain Science and Technology Research Center（脑科学与技术研究中心）；Shanghai Jiao Tong University, Shanghai, China（上海交通大学）
对话状态跟踪（DST）是对话管理中的一个重要模块。它通常被视为一个有监督的训练问题，这不利于在线优化。本文提出了一种新的基于同伴教学的深度强化学习（DRL）在线DST优化框架。据我们所知，这是第一次努力，以优化DRL框架内的DST模块的在线面向任务的口语对话系统。此外，还可以进一步共同更新对话政策。实验表明，在线DST优化可以有效地提高对话管理器的性能，同时保持使用预定义策略的灵活性。DST和政策的联合培训可以进一步提高绩效。
2020-09-22 cs.CL
Conversational Semantic Parsing for Dialog State Tracking
Apple（苹果公司）
我们考虑对话状态跟踪（DST）的新视角，即在对话过程中估计用户目标的任务。通过将DST制定为一个基于层次表示的语义解析任务，我们可以将语义组合性、跨领域知识共享和共同引用结合起来。我们提出了TreeDST，一个包含27 k会话的数据集，其中注释了树结构的对话状态和系统行为。我们描述了一个编码器-解码器框架的DST与分层表示，这导致了20%的改进，比国家的最先进的DST方法，操作上的槽值对的平面意义空间。
2021-05-13 cs.CL
A Robust Data-Driven Approach for Dialogue State Tracking of Unseen Slot Values
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）
对话状态跟踪器是对话系统中的关键组件，其估计每个对话回合处的可能用户目标的信念。使用递归神经网络的深度学习方法在对话状态跟踪任务中表现出了最先进的性能。通常，这些方法假设预定义的候选列表，并且努力预测在训练期间未看到的任何新的对话状态值。这使得在没有模型保留的情况下扩展时隙的候选列表是不可行的，并且在对低资源域建模时也具有限制，在低资源域中，时隙值的训练数据是昂贵的。在本文中，我们提出了一种新的对话状态跟踪器的基础上复制机制，可以有效地跟踪这样看不见的槽值，而不会影响性能的槽值在训练过程中看到的。所提出的模型在扩展候选列表方面也是灵活的，而不需要对模型进行任何重新训练或改变。我们在各种基准数据集（DSTC 2，DSTC 3和WoZ 2.0）上评估了所提出的模型，并表明我们的方法在跟踪看不见的插槽值方面优于其他端到端数据驱动的方法，并且在DST建模方面也具有显着的优势。
2019-11-01 cs.CL
STN4DST: A Scalable Dialogue State Tracking based on Slot Tagging Navigation
Beijing Institute of Technology（北京理工大学）
处理未知时隙值的可扩展性是对话状态跟踪（DST）中的一个重要问题。据我们所知，以前的可扩展DST方法通常依赖于从槽标记输出的候选生成或对话上下文中的跨度提取。然而，基于候选生成的DST往往遭受错误传播，由于其流水线的两阶段的过程中，同时跨度提取的DST有生成无效跨度的风险，在缺乏语义约束的开始和结束位置指针。针对上述不足，提出一种基于槽标记导航的可扩展对话状态跟踪方法，通过槽标记和槽值位置预测的联合学习，实现了一个端到端的单步指针，快速准确地定位和提取槽值，特别是对于未知槽值。在多个基准数据集上的实验表明，该模型的性能大大优于最先进的基线。
2021-06-17 cs.CL
Plan, Generate and Complicate: Improving Low-resource Dialogue State Tracking via Easy-to-Difficult Zero-shot Data Augmentation
School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）
本文提出 EDZ-DA 框架，利用大语言模型按领域关系进行由易到难的零样本对话数据增强，并通过复杂化对话和槽位值排列提升低资源对话状态追踪性能，在 MultiWOZ 上优于已有基线。
2024-06-13 cs.CL
Choice Fusion as Knowledge for Zero-Shot Dialogue State Tracking
Georgia Institute of Technology（佐治亚理工学院）；Amazon（亚马逊）
随着在新领域中以更低的成本部署对话系统的需求，zero-shot对话状态跟踪（DST），它在面向任务的对话中跟踪用户的需求，而不需要在期望的领域进行训练，越来越受到关注。尽管先前的工作已经利用问答（QA）数据来减少DST中对域内训练的需求，但是它们未能明确地对用于跟踪对话状态的知识转移和融合进行建模。为了解决这个问题，我们提出了CoFunDST，它是在领域无关的QA数据集上训练的，并直接使用槽值的候选选择作为zero-shot对话状态生成的知识，基于T5预训练的语言模型。具体来说，CoFunDST选择与参考上下文高度相关的选择，并将它们融合以初始化解码器来约束模型输出。我们的实验结果表明，我们提出的模型在MultiWOZ 2.1上的大多数领域中实现了优于现有zero-shot DST方法的联合目标精度。大量的分析表明，我们提出的方法，以改善zero-shot DST学习QA的有效性。
2023-02-25 cs.CL
Schema-Guided Dialogue State Tracking Task at DSTC8
Google Research（谷歌研究院）
本文概述了第八届对话系统技术挑战赛的模式引导对话状态跟踪任务。该任务的目标是开发适用于大规模虚拟助理的对话状态跟踪模型，重点是跨域的数据高效联合建模和新API的zero-shot泛化。该任务提供了一个新的数据集，包括跨越16个领域的训练集中的16000多个对话，以突出这些挑战，以及能够zero-shot推广到新API的基线模型。25个小组参与了开发一系列神经网络模型的工作，大大超过了基准模型的性能。提交的资料采用了各种预先训练的编码器和数据增强技术。本文介绍了任务定义，数据集和评估方法。我们还总结了提交的系统的方法和结果，以突出国家的最先进的整体趋势。
2020-02-02 cs.CL
Scalable Multi-Domain Dialogue State Tracking
Google Research（谷歌研究院）
对话状态跟踪（DST）是面向任务的对话系统的关键组成部分。DST估计用户在每个用户回合的目标，直到那时为止。用于状态跟踪的现有技术方法依赖于深度学习方法，并且将对话状态表示为本体中存在的每个槽的所有可能槽值上的分布。当可能值的集合是无界的（例如，日期、时间或位置）或动态（例如，电影或用户名）。此外，这种模型的训练需要标记数据，其中每个用户回合都用对话状态进行注释，这使得为新领域构建模型具有挑战性。在本文中，我们提出了一个可扩展的多领域的深度学习为DST的方法。我们引入了一个新的框架，状态跟踪，这是独立的插槽值集，并表示对话状态的分布在一组感兴趣的值（候选集）来自对话的历史或知识。将这些候选集限制为大小有界解决了时隙可扩展性的问题。此外，通过利用槽独立的架构和迁移学习，我们表明，我们提出的方法有利于快速适应新的领域。
2018-01-02 cs.CL
Context-Sensitive Generation Network for Handing Unknown Slot Values in Dialogue State Tracking
Beijing Institute of Technology（北京理工大学）
对话状态跟踪作为对话系统中的一个重要组成部分，具有重要的作用。对话状态跟踪中时隙值未知的问题是非常重要的。就我们所知，几乎所有现有的方法都依赖于指针网络来解决未知槽值问题。这些基于指针网络的方法通常有一个隐藏的假设，即由于指针网络的特性，在未知的槽值中最多有一个词汇表外的单词。然而，通常，在一个未知的槽值中存在多个词汇表外的单词，这使得现有的方法性能不佳。为了解决这个问题，在本文中，我们提出了一种新的上下文敏感的生成网络（CSG），它可以方便地表示的词汇表外的话时，产生的未知槽值。大量的实验表明，我们提出的方法比最先进的基线性能更好。
2020-10-16 cs.CL
More Robust Schema-Guided Dialogue State Tracking via Tree-Based Paraphrase Ranking
University of Cambridge（剑桥大学）；Apple（苹果公司）
模式引导的范式克服了使用静态本体构建面向任务的对话（TOD）代理所固有的可扩展性问题。而不是单独的对话上下文操作，代理人有机会获得分层模式包含任务相关的自然语言描述。微调的语言模型擅长模式引导的对话状态跟踪（DST），但对模式的写作风格敏感。我们探索提高DST模型鲁棒性的方法。我们提出了一个框架，使用基于树的排名，以共同优化词汇多样性和语义的忠实性产生的合成模式。当使用我们的框架生成的提示来增强其训练数据时，强基线的泛化得到了改善，正如SGD-X基准测试中平均联合目标准确度（JGA）和模式敏感度（SS）的显着改善所证明的那样。
2023-03-17 cs.CL
Leveraging Slot Descriptions for Zero-Shot Cross-Domain Dialogue State Tracking
The Hong Kong University of Science and Technology（香港科技大学）；Facebook；Columbia University（哥伦比亚大学）
Zero-shot跨域对话状态跟踪（DST）使我们能够在看不见的域中处理面向任务的对话，而无需收集域内数据。本文提出了一种时隙描述增强的zero-shot跨域DST生成方法。具体来说，我们的模型首先使用预先训练的自注意编码器对对话上下文和时隙进行编码，并以自回归方式生成时隙值。此外，我们将插槽类型知情的描述，捕获跨插槽的共享信息，以促进跨领域的知识转移。在MultiWOZ数据集上的实验结果表明，该方法在跨域zero-shot条件下显著改善了现有的最新结果。
2021-05-10 cs.CL
Multimodal Dialogue State Tracking By QA Approach with Data Augmentation
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Thomas J Watson Research Center（IBM托马斯·J·沃森研究中心）
最近，一个更具挑战性的状态跟踪任务，音频视频场景感知对话（AVSD），正在引起越来越多的研究人员的关注。与纯文本的对话状态跟踪不同，AVSD中的对话包含一系列关于视频的问答对，并且给定问题的最终答案需要对视频进行额外的理解。本文从开放领域问答的角度对AVSD问题进行了解释，并提出了一个多模态开放领域问答系统来解决该问题。所提出的QA系统使用具有多模态融合和注意力的公共编码器-解码器框架。教师强迫被应用于训练自然语言生成器。我们还提出了一种新的数据增强方法，特别是在QA假设。我们的实验表明，我们的模型和技术带来了显着的改进DSTC 7-AVSD数据集上的基线模型，并展示了我们的数据增强技术的潜力。
2020-07-20 cs.CL
Zero-shot Generalization in Dialog State Tracking through Generative Question Answering
Amazon Alexa AI（亚马逊Alexa人工智能部门）；UC San Diego（加州大学圣地亚哥分校）；AWS AI（亚马逊云服务人工智能部门）
对话状态跟踪（DST）是现代对话系统的一个组成部分，旨在跟踪面向任务的对话中的用户偏好和约束（槽）。在服务不断变化的现实环境中，DST系统必须推广到新的域和不可见的插槽类型。现有的DST方法不能很好地推广到新的插槽名称，并且许多方法需要插槽类型和值的已知本体进行推理。我们介绍了一种新的本体自由框架，支持自然语言查询看不见的约束和插槽在多领域面向任务的对话。我们的方法是基于生成式问答使用条件语言模型预先训练的实质性英语句子。我们的模型在zero-shot领域自适应设置中将联合目标精度提高了9%（绝对值），超过了MultiWOZ 2.1数据集上的先前最先进水平。
2021-01-20 cs.CL
Scalable Neural Dialogue State Tracking
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）
对话状态跟踪器（DST）是对话系统中的关键组件，旨在估计每个对话回合处的可能用户目标的信念。目前的大多数DST跟踪器都使用递归神经网络，并且基于复杂的架构，这些架构管理对话的几个方面，包括用户话语，系统动作以及在领域本体中定义的槽值对。然而，这种神经架构的复杂性导致对话状态预测中的相当大的延迟，这限制了模型在现实世界应用中的部署，特别是当任务可扩展性（即时隙量）是一个关键因素时。在本文中，我们提出了一种用于对话状态跟踪的创新神经模型，称为全局编码器和时隙注意解码器（G-SAT），它可以以非常低的延迟时间预测对话状态，同时保持高水平的性能。我们报告的三种不同的语言（英语，意大利语和德语）的WoZ2.0数据集的实验，并表明，所提出的方法提供了竞争优势，国家的最先进的DST系统，无论是在准确性和预测的时间复杂度方面，超过15倍的速度比其他系统。
2019-10-22 cs.CL
Attention Guided Dialogue State Tracking with Sparse Supervision
Singapore University of Technology and Design（新加坡科技设计大学）；Amazon Development Center Germany GmbH（亚马逊德国研发中心有限公司）
对话状态跟踪（DST）的现有方法依赖于回合级别对话状态注释，其大规模获取是昂贵的。在呼叫中心中，对于管理预订或订阅等任务，用户目标可以与操作相关联（例如，API调用）。这些动作日志可以大量使用，并且可以用于学习对话状态。然而，与回合级别注释不同，这种记录的动作仅在对话中稀疏可用，仅为DST模型提供弱监督形式。为了有效地学习具有稀疏标签的DST，我们扩展了最先进的编码器-解码器模型。该模型学习对话历史的槽感知表示，其专注于相关回合以指导解码器。我们在两个公共多域DST数据集（MultiWOZ和模式指导对话）上展示了两种设置的结果，即使用回合级别和稀疏监督进行训练。所提出的方法在这两种情况下都比基线有所改进。更重要的是，我们用稀疏监督训练的模型在性能上与完全监督的基线相比具有竞争力，同时具有更多的数据和成本效益。
2021-01-28 cs.CL
DiSTRICT: Dialogue State Tracking with Retriever Driven In-Context Tuning
IBM Research（IBM研究院）
提出DiSTRICT，一种无需手工模板的泛化对话状态跟踪上下文微调方法，通过检索相关训练样本微调模型，在MultiWOZ基准的零样本和少样本设置下以更小模型超越现有方法。
2023-10-21 cs.CL
Stabilized In-Context Learning with Pre-trained Language Models for Few Shot Dialogue State Tracking
Columbia University（哥伦比亚大学）
具有大型预训练语言模型（PLM）的基于XML的方法在许多NLP任务中表现出令人印象深刻的独立性能。这些模型通过添加一些标记的上下文范例来指导输出生成而得到进一步改进。然而，对于更复杂的任务，如对话状态跟踪（DST），设计可靠地传达所需意图的提示是不平凡的，导致不稳定的结果。此外，建立对话任务的上下文范例是困难的，因为对话上下文很长，而模型输入长度相对较短。为了克服这些问题，我们首先将元学习方案适应于对话域，从而稳定模型在各种提示下表现良好的能力。我们还设计了一种新的训练方法来改进香草检索机制，以找到理想的上下文示例。最后，我们引入了一个显着性模型来限制对话文本的长度，使我们能够在每个查询中包含更多的样本。实际上，我们能够在MultiWOZ上实现极具竞争力的Few-Shot DST结果。
2023-02-12 cs.CL
Prompt-based Generative Approach towards Multi-Hierarchical Medical Dialogue State Tracking
East China University of Science and Technology（华东理工大学）；Tongji University（同济大学）
医疗对话系统是一种很有前途的应用，可以为患者提供极大的方便。医疗对话系统中的对话状态跟踪（DST）模块将话语解释为机器可读结构以用于下游任务，这是特别具有挑战性的。首先，状态需要能够表示复合实体，例如具有身体部位的症状或具有严重程度的疾病，以提供足够的信息用于决策支持。第二，话语中的这些命名实体可能是不连续的，分散在句子和说话者中。这些也使得它难以注释一个大的语料库，这是必不可少的大多数方法。因此，我们首先定义一个多层次的状态结构。我们用中文注释并发布了一个医学对话数据集。据我们所知，以前没有公开的。然后，我们提出了一种基于自顶向下的生成方法，它可以生成槽值与多层次的增量使用自顶向下的方法。此外，还补充了对话风格提示，以利用大型未标记的对话语料库来缓解数据稀缺问题。实验结果表明，该方法优于其他DST方法，在数据较少的情况下是相当有效的。
2022-03-18 cs.CL
Fine-Tuning BERT for Schema-Guided Zero-Shot Dialogue State Tracking
University of Science and Technology of China（中国科学技术大学）
我们在对话系统技术挑战8（DSTC 8）中介绍了我们在轨道4上的工作。DSTC 8-Track 4旨在在zero-shot设置下执行对话状态跟踪（DST），其中模型需要在给定这些目标API的模式定义的情况下对看不见的服务API进行泛化。作为Siri、Alexa和Google Assistant等众多虚拟助手的核心，DST跟踪用户的目标和对话历史中发生的事情，主要包括意图预测、槽填充和用户状态跟踪，测试模型的自然语言理解能力。最近，预训练的语言模型已经取得了最先进的结果，并在各种NLP任务上显示出令人印象深刻的泛化能力，这为语言理解提供了一种很有前途的零样本学习方法。在此基础上，我们提出了一个模式引导的范例zero-shot对话状态跟踪（SGP-DST）微调BERT，最流行的预训练语言模型之一。SGP-DST系统包含四个模块，分别用于意图预测、时隙预测、时隙转移预测和用户状态汇总。根据官方评估结果，我们的SGP-DST（team 12）在25个参赛团队中，在联合目标准确性（排名提交的主要评估指标）方面排名第三，在所需的F1位置上排名第一。
2020-02-01 cs.CL
MoPE: Mixture of Prefix Experts for Zero-Shot Dialogue State Tracking
School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院）；Meituan（美团）
针对零样本对话状态跟踪的领域迁移和部分预测问题，提出前缀专家混合模型MoPE，通过跨领域相似槽位建连提升迁移能力，在MultiWOZ2.1和SGD数据集上取得相应准确率表现。
2024-04-12 cs.CL
An End-to-End Dialogue State Tracking System with Machine Reading Comprehension and Wide & Deep Classification
Pingan Life Insurance of China, Ltd（中国平安人寿保险股份有限公司）
本文介绍了我们的方法在DSTC 8轨道4：模式引导对话状态跟踪。该任务的目标是预测意图和槽在每个用户轮完成对话状态跟踪（DST）的基础上提供的信息的任务的模式。与传统的分段式DST不同，我们提出了一种端到端的DST系统，以避免对话轮之间的错误积累。DST系统由用于非范畴槽的机器阅读理解（MRC）模型和用于范畴槽的宽深模型组成。据我们所知，这是MRC和Wide & Deep模型第一次以完全端到端的方式应用于DST问题。实验结果表明，该框架在包含50% zero-shot服务的测试数据集上取得了良好的性能，联合目标准确率为0.8652，槽标记F1-Score为0.9835。
2020-02-02 cs.CL
In-Context Learning for Few-Shot Dialogue State Tracking
University of Washington（华盛顿大学）；University of Hong Kong（香港大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
收集和注释面向任务的对话是耗时且昂贵的;因此，零和少样本学习可以极大地有益于对话状态跟踪（DST）。在这项工作中，我们提出了一个上下文学习（ICL）框架的zero-shot和少样本学习DST，其中一个大型的预训练语言模型（LM）的测试实例和一些样本作为输入，并直接解码的对话状态没有任何参数更新。为了更好地利用LM提示符中的表格域描述，我们将DST重新表述为文本到SQL的问题。我们还提出了一种新的方法来检索注释的对话作为范例。MultiWOZ的实证结果表明，我们的方法IC-DST大大优于以前的微调国家的最先进的模型在Few-Shot设置。此外，我们测试IC-DST在zero-shot设置，其中该模型只需要一个固定的任务指令作为输入，发现它优于以前的zero-shot方法的大幅度。
2022-10-25 cs.CL
Multi-task learning for Joint Language Understanding and Dialogue State Tracking
Google AI（谷歌人工智能）
本文提出了一种新的方法，多任务学习的语言理解（LU）和对话状态跟踪（DST）在面向任务的对话系统。多任务训练使得能够共享负责对LU和DST两者的用户话语进行编码的神经网络层，并且在减少网络参数的数量的同时提高性能。在我们提出的框架中，DST对到目前为止提到的每个插槽的一组候选值进行操作。这些候选集是使用当前用户话语的LU槽注释、对应于先前系统话语的对话动作和针对先前回合估计的对话状态来生成的，使得DST能够处理具有可能值的大的或无界的集合的槽并且处理在训练期间未看到的槽值。此外，为了弥合训练和推理之间的差距，我们研究了对当前用户话语的LU输出以及前一轮的DST输出使用预定采样。
2018-11-13 cs.CL
Hybrid Dialog State Tracker with ASR Features
Charles University in Prague（布拉格查理大学）；IBM Watson（IBM沃森）
本文提出了一种混合对话状态跟踪器增强可训练的口语语言理解（SLU）的槽填充对话系统。我们的架构的灵感来自以前提出的基于神经网络的信念跟踪系统。此外，我们使用可区分的规则扩展了模块化架构的某些部分，以允许端到端的培训。我们假设这些规则使我们的跟踪器比纯粹的基于机器学习的系统更好地泛化。为了进行评估，我们使用了对话状态跟踪挑战（DSTC）2数据集-一个流行的信念跟踪测试平台，来自餐厅信息系统的对话。据我们所知，我们的混合跟踪器在DSTC 2的四个类别中的三个类别中设置了一个新的最先进的结果。
2017-02-21 cs.CL
MultiWOZ 2.4: A Multi-Domain Task-Oriented Dialogue Dataset with Essential Annotation Corrections to Improve State Tracking Evaluation
University College London（伦敦大学学院）
MultiWOZ 2.0数据集极大地促进了面向任务的对话系统的研究。然而，它的状态注释包含大量的噪声，这阻碍了模型性能的正确评估。为了解决这个问题，大量的努力致力于纠正注释。三个改进版本（即，MultiWOZ 2.1 - 2.3）已发布。尽管如此，仍然有许多不正确和不一致的注释。这项工作介绍了MultiWOZ 2.4，它细化了MultiWOZ 2.1的验证集和测试集中的注释。训练集中的注释保持不变（与MultiWOZ 2.1相同），以获得鲁棒和抗噪声的模型训练。我们在MultiWOZ 2.4上测试了八种最先进的对话状态跟踪模型。所有这些都表现出比MultiWOZ 2.1更高的性能。
2022-07-10 cs.CL
BERT-DST: Scalable End-to-End Dialogue State Tracking with Bidirectional Encoder Representations from Transformer
Carnegie Mellon University（卡内基梅隆大学）
对话状态跟踪（DST）中一个重要但很少解决的问题是动态本体的可扩展性（例如，电影、餐馆）和看不见的槽值。我们专注于一个特定的条件，其中本体是未知的状态跟踪器，但目标槽值（除了没有和dontcare），可能在训练过程中看不见，可以在对话上下文中找到的词段。先前的方法通常依赖于从n-gram枚举或时隙标记器输出的候选生成，这可能是低效的或遭受错误传播。我们提出了BERT-DST，一个端到端的对话状态跟踪器，直接从对话上下文中提取插槽值。我们使用BERT作为对话上下文编码器，其上下文化的语言表示适合于可扩展的DST，以从其语义上下文中识别槽值。此外，我们采用编码器参数共享在所有槽有两个优点：（1）参数的数量不与本体线性增长。(2)语言表征知识可以在槽之间转移。实证评估表明，跨时隙参数共享的BERT-DST在基准可扩展DST数据集Sim-M和Sim-R上的性能优于先前的工作，并在标准DSTC 2和WOZ 2.0数据集上实现了有竞争力的性能。
2019-07-05 cs.CL
N-Shot Learning for Augmenting Task-Oriented Dialogue State Tracking
National University of Singapore（新加坡国立大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）
任务导向对话的扩充遵循了用于纯文本的标准方法，如回译、词级操作和释义，尽管其结构有丰富的注释。在这项工作中，我们引入了一个增强框架，利用信念状态注释，以匹配从各种对话轮，并形成新的合成对话中自下而上的方式。与其他增强策略不同，它只使用五个示例。我们的增强策略产生显着的改善时，既适应DST模型到一个新的领域，当适应一个语言模型的DST任务，评估与贸易和TOD-BERT模型。进一步的分析表明，我们的模型在训练过程中对可见值的表现更好，并且对不可见值也更鲁棒。我们的结论是，利用信念状态注释增强对话增强，并导致改进的模型在n杆训练方案。
2022-03-22 cs.CL
Spectral decomposition method of dialog state tracking via collective matrix factorization
Xerox Research Center Europe（施乐欧洲研究中心）
对话管理的任务通常被分解为两个连续的子任务：对话状态跟踪和对话策略学习。在端到端对话系统中，对话状态跟踪的目的是根据由语音识别和自然语言理解模块产生的噪声观测来准确地估计真实对话状态。状态跟踪任务主要用于支持对话策略。从概率的角度来看，这是通过保持由一组上下文相关变量组成的隐藏对话状态的后验分布来实现的。一旦对话策略被学习，它就在给定估计的对话状态和定义的奖励函数的情况下努力选择最佳对话动作。提出了一种基于双线性代数分解模型的对话状态跟踪方法，该模型通过集体矩阵分解提供了一种有效的推理模式。我们在第二个对话状态跟踪挑战（DSTC-2）数据集上评估了所提出的方法，并表明与参与此标准基准测试的最先进的跟踪器相比，所提出的跟踪器给出了令人鼓舞的结果。最后，我们表明，预测模式是计算效率相比，以前的方法。
2016-06-16 cs.CL stat.ML
Efficient Dialogue State Tracking by Selectively Overwriting Memory
Clova AI, NAVER Corp.（NAVER公司Clova AI）
最近的作品在对话状态跟踪（DST）集中在一个开放的基于词汇的设置，以解决可扩展性和泛化问题的预定义的基于本体的方法。然而，它们是低效的，因为它们从头开始预测每一个回合的对话状态。在这里，我们认为对话状态作为一个显式的固定大小的内存，并提出了一个选择性的存储机制，更有效的DST。该机制由两个步骤组成：（1）预测每个存储器槽上的状态操作，以及（2）用新的值来存储存储器，其中只有少数是根据预测的状态操作生成的。该方法将DST分解为两个子任务，并引导解码器只关注其中一个任务，从而减轻了解码器的负担。这提高了培训和DST性能的有效性。我们的SOM-DST（Selectively Overwriting Memory for Dialogue State Tracking）模型在基于开放词汇的DST设置中实现了最先进的联合目标准确率，MultiWOZ 2.0为51.72%，MultiWOZ 2.1为53.01%。此外，我们分析了当前和地面真值给定情况之间的准确性差距，并建议改善状态操作预测以提高DST性能是一个有前途的方向。
2020-05-04 cs.CL
Interpretable and Robust Dialogue State Tracking via Natural Language Summarization with LLMs
Technological University of Peru（秘鲁理工大学）
针对传统槽位—值 DST 难处理开放域与噪声问题，提出 NL-DST，用 LLM 生成自然语言状态描述，并在两个数据集上显著提升准确率、鲁棒性与可解释性。
2025-03-11 cs.CL
Diverse and Effective Synthetic Data Generation for Adaptable Zero-Shot Dialogue State Tracking
Emory University（埃默里大学）
提出一种全自动合成对话生成方法，构建涵盖1000多个领域的D0T数据集以训练零样本DST模型，在MultiWOZ上提升联合目标准确率6.7%。
2024-06-13 cs.CL
Prompt Pool based Class-Incremental Continual Learning for Dialog State Tracking
Tsinghua University（清华大学）；China Mobile Research Institute（中国移动研究院）；Tsinghua University-China Mobile Communications Group Co., Ltd. Joint Institute（清华大学-中国移动通信集团有限公司联合研究院）
针对对话状态跟踪在类增量场景下的持续学习，提出基于提示池的方法，通过键值配对提示自动识别任务，在SGD和真实数据集上显著提升联合目标准确率。
2023-11-17 cs.CL
A Dual Prompt Learning Framework for Few-Shot Dialogue State Tracking
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Sichuan University（四川大学）；Stanford University（斯坦福大学）；National University of Singapore（新加坡国立大学）
对话状态跟踪模块是面向任务的对话系统了解用户目标和需求的重要组成部分。收集包括槽和值的对话状态标签可能是昂贵的，特别是随着对话系统在越来越多的新兴领域中的广泛应用。在本文中，我们专注于如何利用语言理解和生成能力的预训练语言模型的DST。我们设计了一个双重提示学习框架，用于Few-Shot DST。具体来说，我们将槽生成和值生成的学习视为双重任务，并基于这种双重结构设计了两个提示语，分别将这两个任务的任务相关知识融入其中。以这种方式，DST任务可以在Few-Shot设置下被有效地公式化为语言建模任务。在两个面向任务的对话数据集上的实验结果表明，该方法不仅优于现有的Few-Shot方法，而且能够生成不可见的槽.这表明，DST相关的知识可以从PLM中探索，并利用快速学习的帮助下，有效地解决低资源的DST。
2023-01-26 cs.CL
Continual Prompt Tuning for Dialog State Tracking
Tsinghua University（清华大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
一个理想的对话系统应该能够不断学习新的技能而不忘记旧的，从而适应新的领域或任务，在其生存周期。然而，持续训练模型通常会导致众所周知的灾难性遗忘问题。在本文中，我们提出了持续的提示微调，一个参数有效的框架，不仅可以避免遗忘，但也使任务之间的知识转移。为了避免遗忘，我们只学习和存储每个任务的一些提示符的嵌入，同时冻结骨干预训练模型。为了实现任务之间的双向知识转移，我们提出了几种技术（连续提示初始化，查询融合，和内存重放），从前面的任务和内存引导的技术转移知识从后续的任务。大量的实验表明，我们提出的方法的有效性和效率的持续学习对话状态跟踪，与国家的最先进的基线相比。
2022-03-13 cs.CL
Dialogue Summaries as Dialogue States (DS2), Template-Guided Summarization for Few-shot Dialogue State Tracking
Riiid AI Research（Riiid人工智能研究院）；The Hong Kong University of Science and Technology（香港科技大学）
注释面向任务的对话以昂贵和困难的数据汇集过程而闻名。Few-Shot对话状态跟踪（DST）是解决这一问题的一个现实方案。在本文中，我们假设，对话摘要本质上是非结构化的对话状态，因此，我们建议重新制定对话状态跟踪作为一个对话摘要问题。为了详细说明，我们训练一个文本到文本的语言模型与合成的基于模板的对话摘要，由一组规则从对话状态生成。然后，可以通过逆应用概要生成规则来恢复对话状态。我们的经验表明，我们的方法DS2优于以前的作品Few-Shot DST在MultiWoZ 2.0和2.1，在跨域和多域设置。我们的方法在训练和推理过程中也表现出了巨大的加速，因为它可以一次生成所有状态。最后，基于我们的分析，我们发现摘要模板的自然性对成功的训练起着关键作用。
2022-03-03 cs.AI cs.CL
CSS: Combining Self-training and Self-supervised Learning for Few-shot Dialogue State Tracking
CUHK-Shenzhen（香港中文大学（深圳））；JD AI Research（京东人工智能研究院）；Pengcheng Lab（鹏城实验室）
Few-Shot对话状态跟踪（DST）是用有限的标记数据训练DST模型的现实问题。现有的Few-Shot方法主要传递从外部标记的对话数据（例如，从问答、对话摘要、机器阅读理解任务等）然而，收集大量的外部标记数据是费力的，并且外部数据可能不会有效地有助于DST特定的任务。在本文中，我们提出了一个称为CSS的Few-Shot DST框架，它结合了自训练和自监督学习方法。DST任务的未标记数据被纳入自训练迭代中，其中伪标签由预先在有限的标记数据上训练的DST模型预测。此外，一个对比的自我监督的方法是用来学习更好的表示，其中的数据是增加的dropout操作训练模型。MultiWOZ数据集上的实验结果表明，我们提出的CSS在几个Few-Shot场景中达到了有竞争力的性能。
2022-10-11 cs.CL
Granular Change Accuracy: A More Accurate Performance Metric for Dialogue State Tracking
National University of Singapore (NUS)（新加坡国立大学（NUS））
针对现有对话状态跟踪评估指标的均匀分布假设、无部分评分及重复计数偏差，提出粒度变化准确率（GCA）指标，聚焦对话状态变化评估，显著减少偏差，尤其适用于少样本和零样本模型评估。
2024-03-17 cs.CL
Zero-Shot Dialogue State Tracking via Cross-Task Transfer
The Hong Kong University of Science and Technology（香港科技大学）；Facebook；Columbia University（哥伦比亚大学）
用于对话状态跟踪（DST）Zero-shot迁移学习使我们能够处理各种面向任务的对话域，而无需收集域内数据。在这项工作中，我们建议从一般的问答（QA）语料库的zero-shot DST任务的\textit{cross-task}知识。具体来说，我们提出了TransferQA，一个可转移的生成QA模型，通过文本到文本的Transformer框架，无缝地结合了提取QA和多选择QA，并跟踪DST中的分类槽和非分类槽。此外，我们引入了两种有效的方法来构建无法回答的问题，即否定问题采样和上下文截断，这使得我们的模型能够处理“无”值槽中的zero-shot DST设置。大量的实验表明，我们的方法大大改善了现有的zero-shot和Few-Shot的结果MultiWoz。此外，与Schema-Guided Dialogue数据集上经过充分训练的基线相比，我们的方法在看不见的领域中表现出更好的泛化能力。
2021-09-10 cs.CL
Dual Learning for Dialogue State Tracking
Key Lab. of Shanghai Education Commission for Intelligent Interaction and Cognitive Eng.（上海市教育委员会智能交互与认知工程重点实验室）；SpeechLab, Department of Computer Science and Engineering（计算机科学与工程系SpeechLab）；Brain Science and Technology Research Center（脑科学与技术研究中心）；Shanghai Jiao Tong University, Shanghai, China（上海交通大学）
在面向任务的多轮对话系统中，对话状态是指用户目标在对话历史背景中的紧凑表示。对话状态跟踪（DST）是对每一轮对话的状态进行估计。由于对复杂的对话历史上下文的依赖，DST数据注释比单句语言理解更昂贵，这使得任务更具挑战性。在这项工作中，我们制定DST作为一个序列生成问题，并提出了一种新的双重学习框架，充分利用未标记的数据。在双重学习框架中，有两个代理：原始跟踪代理（话语到状态生成器）和双重话语生成代理（状态到话语生成器）。与传统的监督学习框架相比，对偶学习可以在没有标记数据的情况下，分别通过重构误差和奖励信号迭代更新两个智能体。在以往的DST方法中，奖励稀疏性问题难以解决。在这项工作中，重新制定的DST作为一个序列生成模型有效地解决了这个问题。我们称之为原始追踪剂双重DST。在MultiWOZ2.1数据集上的实验结果表明，提出的双DST算法具有很好的性能，尤其是在标记数据有限的情况下。它实现了与完全使用标记数据的系统相当的性能。
2020-09-22 cs.CL
Towards LLM-driven Dialogue State Tracking
The Hong Kong Polytechnic University（香港理工大学）
本研究评估了ChatGPT在对话状态跟踪中的能力，并针对其闭源和隐私等局限，提出了基于开源小模型的LDST框架，通过领域-槽位指令微调在零样本和少样本设置下性能超越SOTA。
2023-10-23 cs.CL
