Act-Aware Slot-Value Predicting in Multi-Domain Dialogue State Tracking
Georgia Institute of Technology（佐治亚理工学院）
作为面向任务的对话系统的重要组成部分，对话状态跟踪（DST）的目的是跟踪人机交互，并生成用于管理对话的状态表示。对话状态的表示依赖于领域本体和用户的目标。在几个目标范围有限的面向任务的对话中，对话状态可以表示为一组槽值对。随着对话系统的能力扩展到支持越来越自然的通信，将对话行为处理纳入对话模型设计变得至关重要。缺乏这样的考虑限制了具有特定目标和本体的对话的对话状态跟踪模型的可扩展性。为了解决这个问题，我们制定并纳入对话行为，并利用机器阅读理解的最新进展，预测分类和非分类类型的插槽多域对话状态跟踪。实验结果表明，我们的模型可以提高对话状态跟踪的MultiWOZ 2.1数据集上的整体准确性，并表明，纳入对话行为可以指导未来面向任务的对话系统的对话状态设计。
2022-08-04 cs.AI cs.CL
SGD-QA: Fast Schema-Guided Dialogue State Tracking for Unseen Services
NVIDIA（英伟达）
对话状态跟踪是面向目标的对话系统的重要组成部分，而大多数这些状态跟踪模型往往无法处理看不见的服务。在本文中，我们提出了SGD-QA，一个简单的和可扩展的模式引导的对话状态跟踪模型的基础上的问答方法。所提出的多通道模型在域信息和对话话语之间共享单个编码器。领域的描述表示查询，对话话语充当上下文。与SGD数据集上的单通道基线模型相比，该模型将看不见的服务的性能提高了至少1.6倍。与最先进的多遍模型相比，SGD-QA显示出具有竞争力的性能，同时在内存消耗和训练性能方面显着更高效。我们提供了一个全面的讨论模型与烧蚀研究和误差分析。
2021-05-17 cs.CL cs.LG
Multimodal Dialogue State Tracking By QA Approach with Data Augmentation
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Thomas J Watson Research Center（IBM托马斯·J·沃森研究中心）
最近，一个更具挑战性的状态跟踪任务，音频视频场景感知对话（AVSD），正在引起越来越多的研究人员的关注。与纯文本的对话状态跟踪不同，AVSD中的对话包含一系列关于视频的问答对，并且给定问题的最终答案需要对视频进行额外的理解。本文从开放领域问答的角度对AVSD问题进行了解释，并提出了一个多模态开放领域问答系统来解决该问题。所提出的QA系统使用具有多模态融合和注意力的公共编码器-解码器框架。教师强迫被应用于训练自然语言生成器。我们还提出了一种新的数据增强方法，特别是在QA假设。我们的实验表明，我们的模型和技术带来了显着的改进DSTC 7-AVSD数据集上的基线模型，并展示了我们的数据增强技术的潜力。
2020-07-20 cs.CL
Zero-shot Generalization in Dialog State Tracking through Generative Question Answering
Amazon Alexa AI（亚马逊Alexa人工智能部门）；UC San Diego（加州大学圣地亚哥分校）；AWS AI（亚马逊云服务人工智能部门）
对话状态跟踪（DST）是现代对话系统的一个组成部分，旨在跟踪面向任务的对话中的用户偏好和约束（槽）。在服务不断变化的现实环境中，DST系统必须推广到新的域和不可见的插槽类型。现有的DST方法不能很好地推广到新的插槽名称，并且许多方法需要插槽类型和值的已知本体进行推理。我们介绍了一种新的本体自由框架，支持自然语言查询看不见的约束和插槽在多领域面向任务的对话。我们的方法是基于生成式问答使用条件语言模型预先训练的实质性英语句子。我们的模型在zero-shot领域自适应设置中将联合目标精度提高了9%（绝对值），超过了MultiWOZ 2.1数据集上的先前最先进水平。
2021-01-20 cs.CL
Goal-Oriented Multi-Task BERT-Based Dialogue State Tracker
Neural Networks and Deep Learning Lab（神经网络与深度学习实验室）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）
对话状态跟踪（DST）是Alexa或Siri等虚拟助手的核心组件。为了完成各种任务，这些助手需要支持越来越多的服务和API。第八届对话系统技术挑战赛的模式引导状态跟踪轨道强调了不可见服务的DST问题。组织者引入了具有多域对话的模式引导对话（SGD）数据集，并发布了zero-shot对话状态跟踪模型。在这项工作中，我们提出了一个面向GOaL的多任务基于BERT的对话状态跟踪器（GOLOMB）的启发架构的阅读理解问答系统。该模型“查询”对话历史与插槽和服务的描述以及插槽的可能值。这允许在多域对话中传输槽值，并具有扩展到看不见的槽类型的能力。我们的模型在SGD数据集上实现了53.97%的联合目标准确率，优于基线模型。
2020-02-05 cs.CL cs.LG stat.ML
Multi-domain Dialogue State Tracking as Dynamic Knowledge Graph Enhanced Question Answering
Amazon Alexa Search（亚马逊Alexa搜索部）
多域对话状态跟踪（DST）是对话式AI系统的关键组件。领域本体（即，会话式AI系统的域、槽和值的规范）通常是不完整的，使得DST模型在推理期间推广到新的槽、值和域的能力是必要的。在本文中，我们提出了一个问题回答问题，称为对话状态跟踪通过问答（DSTQA）的多域DST模型。在DSTQA中，每轮生成一个问题，询问（域，槽）对的值，从而使其自然地扩展到看不见的域，槽和值。此外，我们使用动态演化的知识图谱来明确地学习（域，槽）对之间的关系。我们的模型在MultiWOZ 2.0和MultiWOZ 2.1数据集上分别比当前最先进的模型有5.80%和12.21%的相对改进。此外，我们的模型在领域自适应设置中始终优于最先进的模型。(Code发布于https://github.com/alexa/dstqa）
2020-06-20 cs.AI cs.CL cs.LG
KILDST: Effective Knowledge-Integrated Learning for Dialogue State Tracking using Gazetteer and Speaker Information
Samsung Research（三星研究院）；Samsung Research India Bangalore（三星研究院印度班加罗尔分院）
对话状态跟踪（DST）是对话系统的核心研究内容，受到了广泛的关注。此外，有必要定义一个可以处理用户之间对话的新问题，作为从用户之间的对话中提取和推荐信息的对话式AI的一步。因此，我们引入了一个新的任务- DST从用户之间的对话安排一个事件（DST-USERS）。DST-USERS任务更具挑战性，因为它要求模型理解和跟踪用户之间对话中的对话状态，并理解谁建议了时间表，谁同意了所建议的时间表。为了方便DST-USERS研究，我们开发了计划时间表的用户之间的对话数据集。需要在对话中提取的带注释的槽值是日期、时间和位置。以前的方法，如机器阅读理解（MRC）和传统的DST技术，并没有取得良好的效果，在我们广泛的评估。通过采用知识集成的学习方法，我们取得了优异的成绩。该模型结构有效地结合了地名词典特征和说话人信息。我们对计划日程的用户之间的对话数据集的评估表明，我们的模型优于基线模型。
2023-01-18 cs.AI cs.CL
CSS: Combining Self-training and Self-supervised Learning for Few-shot Dialogue State Tracking
CUHK-Shenzhen（香港中文大学（深圳））；JD AI Research（京东人工智能研究院）；Pengcheng Lab（鹏城实验室）
Few-Shot对话状态跟踪（DST）是用有限的标记数据训练DST模型的现实问题。现有的Few-Shot方法主要传递从外部标记的对话数据（例如，从问答、对话摘要、机器阅读理解任务等）然而，收集大量的外部标记数据是费力的，并且外部数据可能不会有效地有助于DST特定的任务。在本文中，我们提出了一个称为CSS的Few-Shot DST框架，它结合了自训练和自监督学习方法。DST任务的未标记数据被纳入自训练迭代中，其中伪标签由预先在有限的标记数据上训练的DST模型预测。此外，一个对比的自我监督的方法是用来学习更好的表示，其中的数据是增加的dropout操作训练模型。MultiWOZ数据集上的实验结果表明，我们提出的CSS在几个Few-Shot场景中达到了有竞争力的性能。
2022-10-11 cs.CL
DSTEA: Improving Dialogue State Tracking via Entity Adaptive Pre-training
Korea University（高丽大学）；Electronics and Telecommunications Research Institute（韩国电子通信研究院）；Sejong University（世宗大学）
本文提出 DSTEA，通过多方式识别对话关键实体并进行选择性知识掩码的实体自适应预训练，在无需直接注入外部知识的情况下提升多个 DST 模型在 MultiWOZ 系列数据集上的性能。
2023-07-23 cs.CL
Continual Dialogue State Tracking via Example-Guided Question Answering
Information Sciences Institute, University of Southern California（美国南加州大学信息科学研究所）；Meta AI
本文将对话状态跟踪重构为示例引导的细粒度问答任务，结合状态变化检索器与对话级记忆回放，使60M参数模型在持续学习基准上达到SOTA。
2025-09-29 cs.AI cs.CL
DREAM: A Challenge Dataset and Models for Dialogue-Based Reading Comprehension
Cornell University（康奈尔大学）；Tencent AI Lab（腾讯人工智能实验室）；University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们提出了梦想，第一个基于对话的多项选择阅读理解数据集。我们的数据集收集自人类专家设计的英语作为外语的考试，以评估中国英语学习者的理解水平，我们的数据集包含6，444个对话的10，197个多项选择题。与现有的阅读理解数据集相比，DREAM是第一个专注于深度多回合多方对话理解的数据集。DREAM可能会对现有的阅读理解系统提出重大挑战：84%的答案是非提取的，85%的问题需要推理超过一个句子，34%的问题还涉及常识知识。我们应用了几种流行的神经阅读理解模型，这些模型主要利用文本中的表面信息，并发现它们充其量只是勉强优于基于规则的方法。接下来，我们调查的效果，将对话结构和不同种类的一般世界知识，以基于规则和（神经和非神经）机器学习为基础的阅读理解模型。在DREAM数据集上的实验结果表明了对话结构和一般世界知识的有效性。梦想将在https://dataset.org/dream/上提供。
2019-02-01 cs.CL
SF-DST: Few-Shot Self-Feeding Reading Comprehension Dialogue State Tracking with Auxiliary Task
Graduate School of Artificial Intelligence, POSTECH（浦项科技大学人工智能研究生院）；Department of Computer Science and Engineering, POSTECH（浦项科技大学计算机科学与工程系）
Few-Shot对话状态跟踪（DST）模型以可靠的准确性跟踪对话中的用户请求，即使数据量很小。在本文中，我们介绍了一个本体无关的Few-Shot DST与自我喂养的信念状态输入。自馈信念状态输入通过总结先前对话来增加多轮对话中的准确性。此外，我们新开发了一个槽门辅助任务。这个新的辅助任务有助于区分对话中是否提到了一个槽。我们的模型在multiWOZ 2.0上的四个域的Few-Shot设置中获得了最佳分数。
2022-09-16 cs.CL
Reasoning in Dialog: Improving Response Generation by Context Reading Comprehension
Peking University（北京大学）；Xiaomi AI Lab（小米AI实验室）；Renmin University of China（中国人民大学）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）
在多轮对话中，话语并不总是采用句子\cite{Carbonell1983DiscoursePA}的完整形式，这自然使得理解对话上下文更加困难。然而，必须完全掌握对话上下文以生成合理的响应。因此，在本文中，我们建议通过检查模型回答阅读理解问题的能力来提高响应生成性能，其中问题集中在对话中省略的信息上。受多任务学习方案的启发，我们提出了一个联合框架，将这两个任务统一起来，共享相同的编码器来提取共同的和任务不变的特征，使用不同的解码器来学习特定于任务的特征。为了在编码部分更好地融合来自问题和对话历史的信息，我们建议用存储器更新器来增强Transformer架构，该存储器更新器被设计成选择性地存储和更新历史对话信息，以便支持下游任务。在实验中，我们雇用人类注释者来编写和检查大规模对话阅读理解数据集。在此数据集上进行了大量的实验，结果表明，该模型在两个任务上都比几个强基线有了实质性的改进。通过这种方式，我们证明了推理确实可以帮助更好地生成响应，反之亦然。我们发布了我们的大规模数据集以供进一步研究。
2020-12-14 cs.CL
Spectral decomposition method of dialog state tracking via collective matrix factorization
Xerox Research Center Europe（施乐欧洲研究中心）
对话管理的任务通常被分解为两个连续的子任务：对话状态跟踪和对话策略学习。在端到端对话系统中，对话状态跟踪的目的是根据由语音识别和自然语言理解模块产生的噪声观测来准确地估计真实对话状态。状态跟踪任务主要用于支持对话策略。从概率的角度来看，这是通过保持由一组上下文相关变量组成的隐藏对话状态的后验分布来实现的。一旦对话策略被学习，它就在给定估计的对话状态和定义的奖励函数的情况下努力选择最佳对话动作。提出了一种基于双线性代数分解模型的对话状态跟踪方法，该模型通过集体矩阵分解提供了一种有效的推理模式。我们在第二个对话状态跟踪挑战（DSTC-2）数据集上评估了所提出的方法，并表明与参与此标准基准测试的最先进的跟踪器相比，所提出的跟踪器给出了令人鼓舞的结果。最后，我们表明，预测模式是计算效率相比，以前的方法。
2016-06-16 cs.CL stat.ML
Dialogue Graph Modeling for Conversational Machine Reading
Shanghai Jiao Tong University（上海交通大学）
会话式机器阅读（CMR）旨在以复杂的方式回答问题。机器需要根据给定的规则文档、用户场景和对话历史，通过与用户的交互来回答问题，并在必要时提出问题以澄清。本文提出了一种对话图建模框架，以提高机器对CMR任务的理解和推理能力。总共有三种类型的图形。具体而言，话语图用于显式学习和提取规则文本之间的话语关系以及场景的额外知识;解耦图用于理解规则文本中的局部和上下文连接。最后是一个全局图，用于将信息融合在一起，并回复用户，我们的最终决定是“是/否/无关”，或者提出后续问题来澄清。
2021-05-29 cs.AI cs.CL
Smoothing Dialogue States for Open Conversational Machine Reading
Shanghai Jiao Tong University（上海交通大学）；National Institute of Information and Communications Technology (NICT)（日本国立情报学研究所）
会话式机器阅读（CMR）要求机器通过决策和问题生成过程两个突出对话状态之间的多轮交互与人类进行交流。在开放的CMR环境中，由于更接近现实场景，检索到的背景知识会带有噪声，这给信息传输带来了严峻的挑战。现有的研究通常训练独立或流水线系统的两个子任务。然而，这些方法都是琐碎的，通过使用硬标签的决定，以激活问题的生成，这最终阻碍了模型的性能。在这项工作中，我们提出了一个有效的门控策略，通过平滑的两个对话状态，只有一个解码器和桥梁决策和问题的产生，以提供一个更丰富的对话状态参考。在OR-ShARC数据集上的实验表明了该方法的有效性，取得了新的结果。
2021-09-02 cs.AI cs.CL cs.HC
Encoding Word Confusion Networks with Recurrent Neural Networks for Dialog State Tracking
本文提出了一种新的方法来编码词混淆网络，它可以代表一个丰富的假设空间的自动语音识别系统，通过循环神经网络。我们证明了我们的方法的实用程序的任务，依赖于自动语音识别输出的口语对话系统中的对话状态跟踪。对混淆网络进行编码优于对神经系统中的自动语音识别的最佳假设进行编码，以用于在公知的第二对话状态跟踪挑战数据集上进行对话状态跟踪。
2017-08-09 cs.CL
WebQAmGaze: A Multilingual Webcam Eye-Tracking-While-Reading Dataset
University of Copenhagen（哥本哈根大学）；University of Zurich（苏黎世大学）
本文提出WebQAmGaze，首个基于网络摄像头的多语言阅读眼动追踪数据集，含600名参与者数据，验证了低成本采集的可行性，并支持问答认知研究。
2024-03-15 cs.CL
Coreference-aware Double-channel Attention Network for Multi-party Dialogue Reading Comprehension
Soochow University（苏州大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）
针对多方对话阅读理解中代词多跳推理和异构特征混淆的瓶颈，提出核心感知注意力建模方法与双通道编码网络，在Molweni和FriendsQA基准上取得显著性能提升。
2023-05-22 cs.CL
An End-to-End Trainable Neural Network Model with Belief Tracking for Task-Oriented Dialog
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一种新的端到端的可训练神经网络模型面向任务的对话系统。该模型能够跟踪对话状态，向知识库（KB）发出API调用，并将结构化的KB查询结果合并到系统响应中，以成功地完成面向任务的对话。该模型通过共同学习信念跟踪和KB结果处理条件的对话历史，产生结构良好的系统响应。我们使用从第二个对话状态跟踪挑战（DSTC 2）语料库转换的数据集来评估餐厅搜索域中的模型。实验结果表明，该模型可以鲁棒地跟踪对话状态给定的对话历史。此外，我们的模型在产生适当的系统响应方面表现出良好的效果，优于使用每个响应准确度评估指标的先前端到端可训练神经网络模型。
2017-08-20 cs.CL
Reading Task Classification Using EEG and Eye-Tracking Data
University of Copenhagen（哥本哈根大学）；University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）；University of Potsdam（波茨坦大学）
苏黎世认知语言处理语料库（ZuCo）提供了来自两种阅读范式（正常阅读和特定任务阅读）的眼动追踪和EEG信号。我们分析了机器学习方法是否能够使用眼动追踪和EEG特征对这两个任务进行分类。我们实现的模型具有聚合的词汇级功能以及细粒度的单词级功能。我们测试的模型在学科内和跨学科的评估方案。所有模型都在ZuCo 1.0和ZuCo 2.0数据子集上进行了测试，这些数据子集的特征在于不同的记录程序，从而允许不同水平的概括性。最后，我们提供了一系列的控制实验，更详细地分析结果。
2021-12-12 cs.CL
A Frame Tracking Model for Memory-Enhanced Dialogue Systems
Microsoft Maluuba（微软 Maluuba）
最近，提出了资源和任务以超越对话系统中的状态跟踪。一个例子是帧跟踪任务，它需要记录多个帧，每个帧对应于对话期间设置的每个用户目标。这允许用户例如比较对应于不同目标的项目。本文提出了一种模型，它作为输入的列表中创建的框架到目前为止，在对话中，当前用户的话语以及对话行为，插槽类型，和插槽值与此话语。然后，该模型输出由对话行为、时隙类型和时隙值的每个三元组引用的帧。我们表明，在最近发布的Frames数据集上，该模型的性能显着优于先前提出的基于规则的基线。此外，我们提出了一个广泛的分析框架跟踪任务，将其划分为子任务，并评估其难度与我们的模型。
2017-06-06 cs.CL
Neural Dialogue State Tracking with Temporally Expressive Networks
Beihang University（北京航空航天大学）；University of Ottawa（渥太华大学）；University of Leeds（利兹大学）
对话状态跟踪是口语对话系统的重要组成部分。现有的DST模型要么忽略了跨对话轮的时间特征依赖关系，要么未能显式地对对话中的时间状态依赖关系进行建模。在这项工作中，我们提出了时间表达网络（TEN），以联合建模DST中的两种类型的时间依赖关系。TEN模型利用了递归网络和概率图形模型的强大功能。在标准数据集上的测试结果表明，该方法能有效地提高匝数-电平-状态预测和状态聚合的精度。
2020-10-03 cs.CL
Out-of-Task Training for Dialog State Tracking Models
Heinrich Heine University Düsseldorf（海因里希·海涅大学（杜塞尔多夫））
对话状态跟踪（DST）遭受严重的数据稀疏。虽然许多自然语言处理（NLP）任务受益于迁移学习和多任务学习，但在对话中，这些方法受到可用数据量和对话应用程序的特殊性的限制。在这项工作中，我们成功地利用不相关的NLP任务的非对话数据训练对话状态跟踪器。这为大量不相关的NLP语料库打开了大门，以缓解DST固有的数据稀疏问题。
2020-11-18 cs.CL
Efficient Dialogue State Tracking by Masked Hierarchical Transformer
Hithink RoyalFlush Information Network Co.,Ltd.（同花顺网络信息股份有限公司）
本文描述了我们的方法，DSTC 9轨道2：跨语言多域对话状态跟踪，任务的目标是建立一个跨语言的对话状态跟踪器的训练集在丰富的资源语言和测试集在低资源语言。我们制定了一个方法，分别用于槽操作分类任务和状态跟踪任务的联合学习。实验结果表明，该模型在DSTC Challenge II上取得了良好的性能，在MultiWOZ（en-zh）和CrossWOZ（zh-en）数据集上的联合准确率分别达到62.37%和23.96%。
2021-06-28 cs.CL
The Copenhagen Corpus of Eye Tracking Recordings from Natural Reading of Danish Texts
University of Copenhagen（哥本哈根大学）；IT University of Copenhagen（哥本哈根信息技术大学）
阅读过程中的眼动记录是人类语言处理过程中最丰富的信号之一。眼动语料库在阅读上下文运行的文本是一种方式，使这些记录可用于自然语言处理的目的。这样的语料库已经存在于一些语言中。我们目前CopCo，哥本哈根语料库的眼动追踪录音从自然阅读丹麦文本。这是丹麦语的第一个眼动追踪语料库。CopCo包括1，832个句子和34，897个从演讲稿中提取的丹麦语文本标记。该语料库的首次发布包含来自22名参与者的眼动追踪数据。它将随着更多的参与者和其他体裁的文本而不断扩展。我们评估了记录的眼动数据的质量，发现提取的特征与相关研究一致。数据集在这里：https://osf.io/ud8s5/。
2022-04-28 cs.CL
Dialogue State Distillation Network with Inter-slot Contrastive Learning for Dialogue State Tracking
Baidu Inc.（百度公司）
在面向任务的对话系统中，对话状态跟踪（DST）旨在从对话历史中提取用户的意图。目前，大多数现有的方法遭受错误传播，并且在利用先前的对话状态时不能动态地选择相关信息。此外，不同时隙的更新之间的关系为DST提供了重要线索。然而，现有的方法仅依赖于预定义的图来间接地捕获关系。在本文中，我们提出了一个对话状态蒸馏网络（DSDN），利用以前的对话状态的相关信息，并迁移训练和测试之间的利用差距。因此，它可以动态地利用先前的对话状态，同时避免引入错误传播。此外，我们提出了一个时隙间的对比学习损失，有效地捕捉槽的协同更新关系的对话上下文。实验在广泛使用的MultiWOZ 2.0和MultiWOZ 2.1数据集上进行。实验结果表明，我们提出的模型达到了DST的最新性能。
2023-03-07 cs.CL
Multi-domain Dialog State Tracking using Recurrent Neural Networks
University of Cambridge（剑桥大学）；VocalIQ Ltd.（VocalIQ有限公司）
对话状态跟踪是许多现代对话系统的关键组件，其中大多数对话系统都是针对单个定义良好的域而设计的。本文表明，从不同的对话域的对话数据可以用来训练一般的信念跟踪模型，可以在所有这些领域，表现出优越的性能，每个特定领域的模型。我们提出了一个训练过程，使用域外数据初始化的信念跟踪模型，为全新的领域。该过程导致信念跟踪性能的改善，而不管可用于训练模型的域内数据的量。
2015-06-23 cs.CL cs.LG
CREDIT: Coarse-to-Fine Sequence Generation for Dialogue State Tracking
Shanghai Jiao Tong University（上海交通大学）
在对话系统中，对话状态跟踪器旨在基于整个对话历史准确地找到当前对话状态的紧凑表示。虽然以前的方法通常定义为一个单独的三元组（{ \em域槽值}）的组合对话状态，在本文中，我们采用了结构化的状态表示和铸造对话状态跟踪作为一个序列生成问题。基于这个新的公式，我们提出了一种{ \bf C} a { \bf R}s{ \bf E}-精细{ \bf DI}重态{ \bf T}的racking（{ \bf CREDIT}）方法。利用结构化的状态表示，这是一个标记的语言序列，我们可以进一步微调预训练的模型（通过监督学习），通过优化自然语言度量与策略梯度方法。像所有生成状态跟踪方法一样，CREDIT不依赖于枚举所有可能的槽值的预定义对话本体。实验表明，我们的跟踪器在MultiWOZ 2.0和MultiWOZ 2.1数据集的五个域中实现了令人鼓舞的联合目标精度。
2020-09-22 cs.CL
Recurrent Polynomial Network for Dialogue State Tracking
Shanghai Jiao Tong University（上海交通大学）
对话状态跟踪（DST）是一个过程，以估计随着对话的进展，对话状态的分布。最近的研究约束马尔可夫贝叶斯多项式（CMBP）框架迈出了第一步之间的差距，基于规则和统计方法的DST。本文提出了一种新的框架--递归多项式网络（RPN），进一步弥补了这一不足。RPN的独特结构使该框架具有CMBP的所有优点，包括效率，可移植性和可解释性。此外，RPN比CMBP实现了更多的统计方法属性。在第二次和第三次对话状态跟踪挑战（DSTC-2/3）的数据库上评价RPN。实验表明，RPN可以显着优于传统的基于规则的方法和统计方法具有相似的特征集。与现有的统计DST方法相比，RPN具有更丰富的特征，具有很强的竞争力。
2015-11-21 cs.CL
Knowledge-grounded Dialog State Tracking
University of California, Davis（加州大学戴维斯分校）；Google Research（谷歌研究院）
知识（包括结构化知识，如模式和本体，以及非结构化知识，如Web语料库）是对话理解的关键部分，特别是对于看不见的任务和领域。传统上，这种特定于领域的知识被隐式地编码到用于执行下游任务的模型参数中，这使得训练效率低下。此外，这样的模型是不容易转移到新的任务与不同的模式。在这项工作中，我们建议执行对话状态跟踪接地外部编码的知识。我们查询各种形式的对话上下文的基础上，这些信息可以接地的对话状态的预测相关知识。我们证明了我们提出的方法在强基线上的优越性能，特别是在少样本学习设置中。
2022-10-13 cs.CL
Recurrent Neural Networks for Dialogue State Tracking
Charles University in Prague（布拉格查理大学）
本文讨论了使用循环神经网络（RNN）的对话状态跟踪模型。我们目前的实验标准的对话状态跟踪（DST）数据集，DSTC 2。一方面，RNN模型成为DST中最先进的模型，另一方面，大多数最先进的模型都是基于回合的，需要特定于网络的预处理（例如DSTC 2特定）才能实现这样的结果。我们实现了两个架构，可以用于增量设置，几乎不需要预处理。我们比较他们的性能的基准DSTC 2，并讨论他们的属性。只有琐碎的预处理，我们的模型的性能接近国家的最先进的结果。
2016-07-13 cs.CL
Schema Encoding for Transferable Dialogue State Tracking
POSTECH（浦项科技大学）；Graduate School of Artificial Intelligence（人工智能研究生院）
对话状态跟踪是面向任务的对话系统的一个重要子任务。最近的工作集中在DST的深度神经模型上。然而，神经模型需要大量的数据集进行训练。此外，将它们应用到另一个领域需要一个新的数据集，因为神经模型通常被训练来模仿给定的数据集。在本文中，我们提出了可转移对话状态跟踪（SETDST），这是一个神经DST方法有效地转移到新的域模式编码。可转移的DST可以帮助对话系统的发展，即使在目标领域的数据集很少。我们使用模式编码器不仅仅是为了模仿数据集，而是为了理解数据集的模式。我们的目标是通过编码新的模式并将其用于多域设置上的DST来将模型转移到新的域。因此，SET-DST在MultiWOZ 2.1上将接头精度提高了1.46个点。
2022-10-05 cs.CL
Tracking of enriched dialog states for flexible conversational information access
Tsinghua University（清华大学）
对话状态跟踪（DST）是面向任务的对话系统中用于会话信息访问的关键组件。当前对话系统中的一种常见做法是通过一组槽值对来定义对话状态。这种对话状态的表示和基于槽填充的DST已被广泛采用，但存在三个缺点。(1)对话状态可以只包含一个槽的单个值，并且（2）可以只包含用户对槽的值的肯定偏好。(3)目前基于任务的对话系统主要集中在搜索任务上，而查询任务在实践中也很常见。上述观察促使我们丰富当前的对话状态表示，并收集一个全新的关于电影的对话数据集，在此基础上，我们建立了一个新的DST，称为丰富的DST（EDST），灵活地访问电影信息。EDST支持搜索任务、查询任务以及它们的混合任务。我们表明，新的EDST方法不仅在爱奇艺数据集上取得了良好的效果，而且在传统的对话数据集，WOZ 2. 0和DSTC 2上也优于其他最先进的DST方法。
2018-02-24 cs.CL
Preview, Attend and Review: Schema-Aware Curriculum Learning for Multi-Domain Dialog State Tracking
Alibaba Group（阿里巴巴集团）；Ingenuity Labs Research Institute（创意实验室研究所）；Queen’s University（女王大学）
现有的对话状态跟踪（DST）模型是用随机顺序的对话数据训练的，忽略了数据集中丰富的结构信息。在本文中，我们建议使用课程学习（CL），以更好地利用课程结构和图式结构的任务导向的对话。具体来说，我们提出了一个模型不可知的框架称为模式感知课程学习的对话状态跟踪（SaCLog），它包括一个预览模块，预训练的DST模型与模式信息，课程模块，优化模型与CL，和审查模块，增加误预测的数据，以加强CL培训。我们表明，我们提出的方法提高了基于transformer和基于RNN的DST模型（TripPy和TRADE）的DST性能，并在WOZ2.0和MultiWOZ2.1上实现了新的最先进的结果。
2021-06-01 cs.CL
Entity Tracking Improves Cloze-style Reading Comprehension
School of Engineering and Applied Sciences（工程与应用科学学院）；Harvard University（哈佛大学）
阅读理解任务测试模型处理长期上下文和记住显著信息的能力。最近的研究表明，相对简单的神经方法，如注意力总和阅读器，可以在这些任务上表现良好;然而，这些系统仍然显着落后于人类的表现。分析表明，其余的许多困难情况与无法跟踪整个文档中的实体引用有关。这项工作的重点是这些硬实体跟踪的情况下，有两个扩展：（1）额外的实体功能，（2）训练与多任务跟踪目标。我们表明，这些简单的修改提高了性能，无论是独立的和组合，我们优于以前的最先进的LAMBADA数据集，特别是在困难的实体的例子。
2018-10-05 cs.CL
Conversational Semantic Parsing for Dialog State Tracking
Apple（苹果公司）
我们考虑对话状态跟踪（DST）的新视角，即在对话过程中估计用户目标的任务。通过将DST制定为一个基于层次表示的语义解析任务，我们可以将语义组合性、跨领域知识共享和共同引用结合起来。我们提出了TreeDST，一个包含27 k会话的数据集，其中注释了树结构的对话状态和系统行为。我们描述了一个编码器-解码器框架的DST与分层表示，这导致了20%的改进，比国家的最先进的DST方法，操作上的槽值对的平面意义空间。
2021-05-13 cs.CL
Variational Hierarchical Dialog Autoencoder for Dialog State Tracking Data Augmentation
Seoul National University（首尔国立大学）；Adobe Research（奥多比研究院）
最近的工作表明，生成式数据增强（其中从深度生成模型生成的合成样本补充训练数据集）使NLP任务受益。在这项工作中，我们将这种方法扩展到面向目标的对话框的对话状态跟踪任务。由于面向目标的对话在话语和相关注释上的固有层次结构，深度生成模型必须能够捕获不同层次和类型的对话特征之间的一致性。我们提出了变分层次对话自动编码器（VHDA）建模的完整方面的面向目标的对话，包括语言特征和底层结构化注释，即扬声器信息，对话行为，和目标。所提出的架构的目的是模型的每一个方面的目标为导向的对话，使用相互连接的潜在变量，并学会生成连贯的目标为导向的对话，从潜在的空间。为了克服训练复杂变分模型时出现的训练问题，我们提出了适当的训练策略。在各种对话数据集上的实验表明，该模型通过生成式数据增强提高了下游对话跟踪器的鲁棒性。我们还发现了我们的统一方法建模面向目标的对话框的额外好处：对话框响应生成和用户模拟，我们的模型优于以前的强大基线。
2020-10-07 cs.CL cs.LG
PoTeC: A German Naturalistic Eye-tracking-while-reading Corpus
University of Zurich（苏黎世大学）；University of Potsdam（波茨坦大学）
PoTeC是一个包含专家和新手阅读眼动数据的自然主义语料库，用于研究阅读策略和文本理解。
2024-03-01 cs.CL
Context-Sensitive Generation Network for Handing Unknown Slot Values in Dialogue State Tracking
Beijing Institute of Technology（北京理工大学）
对话状态跟踪作为对话系统中的一个重要组成部分，具有重要的作用。对话状态跟踪中时隙值未知的问题是非常重要的。就我们所知，几乎所有现有的方法都依赖于指针网络来解决未知槽值问题。这些基于指针网络的方法通常有一个隐藏的假设，即由于指针网络的特性，在未知的槽值中最多有一个词汇表外的单词。然而，通常，在一个未知的槽值中存在多个词汇表外的单词，这使得现有的方法性能不佳。为了解决这个问题，在本文中，我们提出了一种新的上下文敏感的生成网络（CSG），它可以方便地表示的词汇表外的话时，产生的未知槽值。大量的实验表明，我们提出的方法比最先进的基线性能更好。
2020-10-16 cs.CL
Eye-Tracking-while-Reading: A Living Survey of Datasets with Open Library Support
University of Zurich（苏黎世大学）；University of Potsdam（波茨坦大学）
本文通过创建活体数据集概述，提升眼动追踪阅读研究的透明度和互操作性，促进科学实践。
2026-07-14 cs.CL
Efficient Context and Schema Fusion Networks for Multi-Domain Dialogue State Tracking
State Key Laboratory of Media Convergence Production Technology and Systems（媒体融合生产技术与系统国家重点实验室）；MoE Key Lab of Artificial Intelligence, AI Institute, Shanghai Jiao Tong University（上海交通大学人工智能研究院人工智能教育部重点实验室）；SpeechLab, Department of Computer Science and Engineering（计算机科学与工程系语音实验室）；Shanghai Jiao Tong University（上海交通大学）
对话状态跟踪（DST）的目的是估计当前的对话状态给定的所有前面的对话。对于多域DST，数据稀疏性问题是一个主要的障碍，由于增加的候选状态和对话长度的数量。为了有效地编码对话上下文，我们利用先前的对话状态（预测）和当前对话话语作为DST的输入。为了考虑不同域槽之间的关系，利用了包含先验知识的模式图。本文提出了一种新颖的上下文和模式融合网络，利用内部和外部注意力机制对对话上下文和模式图进行编码。实验结果表明，我们的方法可以获得新的国家的最先进的性能的开放词汇DST在MultiWOZ 2.0和MultiWOZ 2.1基准测试。
2020-10-07 cs.AI cs.CL
Learn to Focus: Hierarchical Dynamic Copy Network for Dialogue State Tracking
Peking University（北京大学）
近年来，研究人员探索使用编码器-解码器框架来解决对话状态跟踪（DST），这是面向任务的对话系统的关键组成部分。然而，他们认为多轮对话是一个扁平的序列，当序列很长时，不能集中在有用的信息上。在本文中，我们提出了一个层次化的动态复制网络（HDCN），以方便集中在最翔实的转，使其更容易从对话上下文中提取槽值。基于编码器-解码器框架，我们采用了分层复制方法，该方法在单词和回合级别计算两个级别的注意力，然后将其重新归一化以获得最终的复制分布。一个焦点损失项被用来鼓励模型将最高的回合级别注意力权重分配给信息量最大的回合。实验结果表明，我们的模型在MultiWOZ 2.1数据集上实现了46.76%的联合准确率。
2021-07-25 cs.AI cs.CL
Beyond Single-User Dialogue: Assessing Multi-User Dialogue State Tracking Capabilities of Large Language Models
Chung-Ang University（Chung-Ang 大学）
本研究针对现有对话状态追踪基准难以覆盖多用户交互复杂性的问题，通过基于言语行为理论生成第二位用户话语扩展数据集，评估发现大语言模型在多用户对话状态追踪任务中性能显著下降，为后续相关模型优化指明方向。
2025-06-12 cs.AI cs.CL
A Study on Prompt-based Few-Shot Learning Methods for Belief State Tracking in Task-oriented Dialog Systems
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
我们解决了面向任务的会话系统的对话信念状态跟踪（DST）问题。最近利用基于transformer的模型来解决这个问题的方法已经取得了很好的效果。然而，训练这些模型在计算资源和时间方面都是昂贵的。此外，收集高质量的注释对话数据集仍然是研究人员面临的挑战，因为训练这些模型需要大量的注释。在最近成功的预训练语言模型和基于样本的学习的推动下，我们探索了基于样本的少样本学习用于对话信念状态跟踪。我们制定的DST问题作为一个2阶段的基于语义的语言建模任务和训练语言模型的任务，并提出了一个全面的实证分析，他们的单独和联合性能。我们展示了基于递归的方法在DST的少样本学习中的潜力，并为未来的改进提供了方向。
2022-04-18 cs.AI cs.CL
Dynamic Schema Graph Fusion Network for Multi-Domain Dialogue State Tracking
University College London（伦敦大学学院）；Zhejiang University（浙江大学）
对话状态跟踪（DST）旨在跟踪用户在对话过程中的意图。在DST中，域和槽之间的关系的建模仍然是一个研究不足的问题。考虑这种关系的现有方法通常在以下方面存在不足：（1）明确地融合先前的槽域成员关系和对话感知的动态槽关系，以及（2）推广到看不见的域。为了解决这些问题，我们提出了一种新的\textbf{D}架构的\textbf{S}的\textbf{G}？\textbf{F}？\textbf{Net}工作（\textbf{DSGFNet}），它产生一个动态模式图显式融合以前的插槽域成员关系和对话感知的动态插槽关系。它还使用图式来促进知识转移到新的领域。DSGFNet由对话发声编码器、模式图编码器、对话感知模式图进化网络和模式图增强对话状态解码器组成。基准数据集的经验结果（即，SGD，MultiWOZ2.1和MultiWOZ2.2），表明DSGFNet优于现有方法。
2022-04-15 cs.CL cs.IR
MultiWOZ 2.1: A Consolidated Multi-Domain Dialogue Dataset with State Corrections and State Tracking Baselines
Amazon（亚马逊）；Google（谷歌）
MultiWOZ 2.0（Budzianowski等人，2018）是最近发布的多领域对话数据集，涵盖7个不同的领域，包含超过10，000个对话。虽然MultiWOZ 2.0非常有用，也是迄今为止同类资源中最大的资源之一，但它也有一些缺点。首先，在对话状态注释和对话话语中存在大量噪声，这对状态跟踪模型的性能产生负面影响。其次，后续工作（Lee等人，2019）通过用户对话行为增强了原始数据集。这会导致同一数据集的多个共存版本进行微小修改。在这项工作中，我们通过引入MultiWOZ 2.1来解决上述问题。为了修复嘈杂的状态注释，我们使用众包工作人员根据数据集中的原始话语重新注释状态和话语。这个校正过程导致在40%的对话回合中对超过32%的状态注释进行了更改。此外，我们固定146对话话语规范槽值的话语数据集本体中的值。为了解决第二个问题，我们将后续工作的贡献合并到MultiWOZ 2.1中。因此，我们的数据集还包括用户对话行为以及每个对话状态槽的多个槽描述。然后，我们在MultiWOZ 2.1数据集上对一些最先进的对话状态跟踪模型进行基准测试，并在校正的状态注释上显示联合状态跟踪性能。我们向社区公开发布MultiWOZ 2.1，希望这个数据集资源能够在内置的各种对话子问题中构建更有效的模型。
2019-12-03 cs.AI cs.CL
MultiWOZ 2.2 : A Dialogue Dataset with Additional Annotation Corrections and State Tracking Baselines
Google Research（谷歌研究院）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
MultiWOZ是一个著名的面向任务的对话数据集，包含跨越8个领域的10，000多个注释对话。它被广泛用作对话状态跟踪的基准。然而，最近的作品报道了在对话状态注释中存在大量噪声。MultiWOZ 2.1识别并修复了许多这些错误的注释和用户话语，从而改进了该数据集的版本。这项工作引入了MultiWOZ 2.2，这是该数据集的另一个改进版本。首先，我们在MultiWOZ 2.1的基础上识别并修复了17.3%的对话状态注释错误。其次，我们通过不允许具有大量可能值的槽的词汇表（例如，餐厅名称、预订时间）。此外，我们为这些插槽引入插槽跨度注释，以在最近的模型中对其进行标准化，这些模型以前使用自定义字符串匹配算法来生成它们。我们还对一些最先进的对话状态跟踪模型进行了基准测试，以便于将来的工作进行比较。最后，我们讨论了对话数据汇集的最佳实践，可以帮助避免注释错误。
2020-07-10 cs.AI cs.CL
Robust Dialog State Tracking for Large Ontologies
Adobe Research（奥多比研究院）；MIT（麻省理工学院）；Massachusetts Institute of Technology（麻省理工学院）
对话状态跟踪挑战4（DSTC 4）与前三个版本的区别如下：本体中存在的槽值对的数量要大得多，没有给出口语语言理解输出，并且在子对话级别标记话语。本文描述了一种新的对话状态跟踪方法，旨在这些条件下，使用精心设计的字符串匹配，共指消解定制的对话框和其他一些改进工作鲁棒。该方法可以正确地识别话语中未明确存在的许多值。在最后的评估中，我们的方法在7个参赛团队和24个参赛作品中获得第一名。通过我们的方法实现的F1分数分别比话语级评估和子对话级评估的亚军高出9和7个百分点。
2016-05-07 cs.AI cs.CL cs.LG
A Sequence-to-Sequence Approach to Dialogue State Tracking
University College London（伦敦大学学院）；ByteDance AI Lab（字节跳动人工智能实验室）
研究了面向任务的对话系统中的对话状态跟踪问题。构建高效的DST模块仍然是一个具有挑战性的问题，尽管最近已经取得了重大进展。本文提出了一种新的对话状态跟踪方法，称为Seq 2Seq-DU，它将DST形式化为一个序列到序列的问题。Seq 2Seq-DU采用两个基于BERT的编码器分别对对话中的话语和模式描述进行编码，一个参与者计算话语嵌入和模式嵌入之间的注意力，一个解码器生成指针来表示对话的当前状态。Seq 2Seq-DU具有以下优点。它可以联合建模意图、槽和槽值;它可以利用基于BERT的话语和模式的丰富表示;它可以有效地处理分类和非分类槽以及看不见的模式。此外，Seq 2Seq-DU还可以用于对话系统的NLU（自然语言理解）模块中。在不同设置的基准数据集（SGD、MultiWOZ2.2、MultiWOZ2.1、WOZ2.0、DSTC 2、M2M、SNIPS和ATIS）上的实验结果表明，Seq 2Seq-DU优于现有方法。
2021-05-29 cs.AI cs.CL cs.IR
Hybrid Dialog State Tracker with ASR Features
Charles University in Prague（布拉格查理大学）；IBM Watson（IBM沃森）
本文提出了一种混合对话状态跟踪器增强可训练的口语语言理解（SLU）的槽填充对话系统。我们的架构的灵感来自以前提出的基于神经网络的信念跟踪系统。此外，我们使用可区分的规则扩展了模块化架构的某些部分，以允许端到端的培训。我们假设这些规则使我们的跟踪器比纯粹的基于机器学习的系统更好地泛化。为了进行评估，我们使用了对话状态跟踪挑战（DSTC）2数据集-一个流行的信念跟踪测试平台，来自餐厅信息系统的对话。据我们所知，我们的混合跟踪器在DSTC 2的四个类别中的三个类别中设置了一个新的最先进的结果。
2017-02-21 cs.CL
MultiWOZ 2.4: A Multi-Domain Task-Oriented Dialogue Dataset with Essential Annotation Corrections to Improve State Tracking Evaluation
University College London（伦敦大学学院）
MultiWOZ 2.0数据集极大地促进了面向任务的对话系统的研究。然而，它的状态注释包含大量的噪声，这阻碍了模型性能的正确评估。为了解决这个问题，大量的努力致力于纠正注释。三个改进版本（即，MultiWOZ 2.1 - 2.3）已发布。尽管如此，仍然有许多不正确和不一致的注释。这项工作介绍了MultiWOZ 2.4，它细化了MultiWOZ 2.1的验证集和测试集中的注释。训练集中的注释保持不变（与MultiWOZ 2.1相同），以获得鲁棒和抗噪声的模型训练。我们在MultiWOZ 2.4上测试了八种最先进的对话状态跟踪模型。所有这些都表现出比MultiWOZ 2.1更高的性能。
2022-07-10 cs.CL
Scalable and Accurate Dialogue State Tracking via Hierarchical Sequence Generation
University of California, San Diego（加州大学圣地亚哥分校）
现有的对话状态跟踪方法依赖于由一组所有可能的时隙类型和值组成的预定义本体。虽然这样的方法在单域基准上表现出有希望的性能，但是它们遭受计算复杂性，该计算复杂性与需要跟踪的预定义时隙的数量成比例地增加。当涉及到包括大量插槽的多域对话时，这个问题变得更加严重。在本文中，我们研究如何使用生成框架没有预定义的本体列表的方法DST。给定每轮用户话语和系统响应，我们直接生成一个序列的信念状态，通过应用分层编码器-解码器结构。通过这种方式，我们的模型的计算复杂性将是一个常数，而不管预定义的槽的数量。在多域和单域对话状态跟踪数据集上的实验表明，我们的模型不仅可以随着预定义域和槽的数量的增加而轻松扩展，而且还可以达到最先进的性能。
2019-10-18 cs.AI cs.CL
Leveraging Human Reading Behavior for Keyphrase Extraction: A Webcam-based Eye-tracking Corpus
本研究构建了含FFD、FN、TFD特征的CLIS-ET语料库，将眼动特征融入KPE模型，发现FN与TFD组合在Att-BiLSTM+CRF模型上提升了中文学术摘要的关键词抽取性能。
2026-08-12 cs.CL cs.DL cs.HC
