Multi-domain Dialogue State Tracking as Dynamic Knowledge Graph Enhanced Question Answering
Amazon Alexa Search(亚马逊Alexa搜索部)
多域对话状态跟踪(DST)是对话式AI系统的关键组件。领域本体(即,会话式AI系统的域、槽和值的规范)通常是不完整的,使得DST模型在推理期间推广到新的槽、值和域的能力是必要的。在本文中,我们提出了一个问题回答问题,称为对话状态跟踪通过问答(DSTQA)的多域DST模型。在DSTQA中,每轮生成一个问题,询问(域,槽)对的值,从而使其自然地扩展到看不见的域,槽和值。此外,我们使用动态演化的知识图谱来明确地学习(域,槽)对之间的关系。我们的模型在MultiWOZ 2.0和MultiWOZ 2.1数据集上分别比当前最先进的模型有5.80%和12.21%的相对改进。此外,我们的模型在领域自适应设置中始终优于最先进的模型。(Code发布于https://github.com/alexa/dstqa)
2020-06-20 cs.AI cs.CL cs.LG
Scalable and Accurate Dialogue State Tracking via Hierarchical Sequence Generation
University of California, San Diego(加州大学圣地亚哥分校)
现有的对话状态跟踪方法依赖于由一组所有可能的时隙类型和值组成的预定义本体。虽然这样的方法在单域基准上表现出有希望的性能,但是它们遭受计算复杂性,该计算复杂性与需要跟踪的预定义时隙的数量成比例地增加。当涉及到包括大量插槽的多域对话时,这个问题变得更加严重。在本文中,我们研究如何使用生成框架没有预定义的本体列表的方法DST。给定每轮用户话语和系统响应,我们直接生成一个序列的信念状态,通过应用分层编码器-解码器结构。通过这种方式,我们的模型的计算复杂性将是一个常数,而不管预定义的槽的数量。在多域和单域对话状态跟踪数据集上的实验表明,我们的模型不仅可以随着预定义域和槽的数量的增加而轻松扩展,而且还可以达到最先进的性能。
2019-10-18 cs.AI cs.CL
Speak & Spell: LLM-Driven Controllable Phonetic Error Augmentation for Robust Dialogue State Tracking
Graduate School of Artificial Intelligence, POSTECH, Republic of Korea(人工智能研究生院,POSTECH,韩国);Department of Computer Science and Engineering, POSTECH, Republic of Korea(计算机科学与工程系,POSTECH,韩国)
针对ASR命名实体错误导致DST准确率下降的问题,提出一种基于LLM的可控语音错误数据增强方法,利用关键词高亮提示引入语音相似错误,显著提升了噪声及低精度ASR环境下的DST鲁棒性与准确率。
2025-10-30 cs.AI cs.CL
The Speech-LLM Takes It All: A Truly Fully End-to-End Spoken Dialogue State Tracking Approach
本文提出利用语音大语言模型实现端到端语音对话状态跟踪,通过比较不同上下文管理策略,发现完整语音对话输入能获得最佳性能,同时压缩历史信息能保持准确性与效率的平衡。
2026-02-16 cs.AI cs.CL cs.LG
MA-DST: Multi-Attention Based Scalable Dialog State Tracking
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Amazon Alexa AI(亚马逊 Alexa 人工智能)
面向任务的对话代理为用户提供了一个自然语言接口来完成他们的任务。对话状态跟踪(DST)通常是这些系统的核心组件,它跟踪系统在整个对话中对用户目标的理解。为了实现准确的多域DST,该模型需要对过去的话语和槽语义之间的依赖关系进行编码,并理解对话上下文,包括远程跨域引用。我们引入了一种新的架构,这个任务的会话历史和插槽语义编码更强大的使用注意力机制在多个粒度。特别是,我们使用交叉注意力模型的上下文和插槽之间的关系在不同的语义水平和自我注意力来解决跨域共指。此外,我们提出的架构不依赖于事先知道的域本体,也可以用于新的域或看不见的槽值的zero-shot设置。与MultiWoZ 2.1数据集上目前最先进的技术相比,我们的模型在全数据设置中将联合目标准确度提高了5%(绝对),在zero-shot设置中提高了2%(绝对)。
2020-02-07 cs.AI cs.CL cs.LG
Are cascade dialogue state tracking models speaking out of turn in spoken dialogues?
Orange Innovation, France(法国Orange创新公司)
本文分析了TOD系统中级联模型在复杂对话状态跟踪任务中的交互错误,发现非分类槽值错误是口语与文本对话系统差距的关键,并探索了改进转录及纠正错误的潜在方案。
2023-11-03 cs.AI cs.CL eess.AS
Modeling ASR Ambiguity for Dialogue State Tracking Using Word Confusion Networks
Naver Labs Europe(欧洲Naver实验室);International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术研究所)
口语对话系统通常使用前N个ASR假设的列表来推断语义含义并跟踪对话的状态。然而,诸如混淆网络(confnet)的ASR图提供了比前N个ASR列表更丰富的假设空间的紧凑表示。在本文中,我们研究了使用混淆网络与最先进的神经对话状态跟踪器(DST)的好处。我们使用可用于任何DST系统的注意力混淆网络编码器将2维confnet编码成1维嵌入序列。我们的confnet编码器被插入到最先进的DST的“全局-局部自注意对话状态跟踪器”(GLAD)模型中,与使用前N个ASR假设相比,在准确性和推理时间方面都有了显着的改进。
2020-08-01 cs.CL cs.LG cs.SD
Scaling Multi-Domain Dialogue State Tracking via Query Reformulation
Johns Hopkins University(约翰斯·霍普金斯大学);Alexa AI(亚马逊 Alexa 人工智能);Amazon.com, Inc.(亚马逊公司)
我们提出了一种新的方法,对话状态跟踪和参考表达决议的任务。多话轮口语对话的成功语境理解需要解决跨话轮的指称表达和跨话轮跟踪与会话相关的实体。当存在多个口语语言理解(SLU)子系统并且每个SLU子系统在其特定于域的含义表示上操作时,在多域场景中跟踪会话状态特别具有挑战性。虽然以前的方法已经解决了不同的模式的问题,通过学习候选人的意义表示的转换,在本文中,我们取而代之的是一个对话上下文感知的用户查询重构任务的参考分辨率模型-对话状态序列化的自然语言令牌代表的对话。我们开发了我们的模型使用指针生成器网络和一种新的多任务学习设置的查询重构。在我们的实验中,我们分别在内部和即将发布的公共基准测试中显示了绝对F1的显着改善。
2019-03-29 cs.CL
Jointly Optimizing State Operation Prediction and Value Generation for Dialogue State Tracking
Université de Montréal(蒙特利尔大学)
本文研究了开放词汇表下的多领域对话状态跟踪问题。现有的方法利用BERT编码器和基于复制的RNN解码器,其中编码器预测状态操作,并且解码器生成新的时隙值。然而,在这种堆叠的编码器-解码器结构中,操作预测目标仅影响BERT编码器,而值生成目标主要影响RNN解码器。在本文中,我们提出了一个纯粹的基于transformer的框架,其中一个单一的BERT工程作为编码器和解码器。这样做,操作预测目标和价值生成目标可以联合优化用于DST的该BERT。在解码阶段,我们重新使用编码器的隐藏状态在相应的解码器层的自注意力机制,以构建一个扁平的编码器-解码器架构,有效的参数更新。实验结果表明,我们的方法大大优于现有的国家的最先进的框架,它也取得了非常有竞争力的性能最好的基于本体的方法。
2021-04-08 cs.AI cs.CL
Learning to Memorize in Neural Task-Oriented Dialogue Systems
The Hong Kong University of Science and Technology(香港科技大学)
在这篇论文中,我们利用神经复制机制和记忆增强的神经网络(MANNs)来解决神经任务导向对话学习的挑战。我们通过在多域对话状态跟踪、基于检索的对话系统和基于生成的对话系统中实现良好的性能来展示我们的策略的有效性。我们首先提出了一个可转移的对话状态生成器(TRADE),利用其复制机制,摆脱对话本体和领域之间的知识共享。我们还评估看不见的域对话状态跟踪,并表明,贸易使zero-shot对话状态跟踪,可以适应新的Few-Shot域,而不会忘记以前的域。第二,我们利用人工神经网络来改善基于检索的对话学习。他们能够捕捉对话顺序的依赖关系,并记住长期的信息。我们还提出了一个记录的delexicalization复制策略,以取代真正的实体值与有序的实体类型。我们的模型被证明超过其他检索基线,特别是当对话有大量的回合。最后,我们用两个模型来处理基于生成的对话学习,即内存到序列(Mem2Seq)和全局到局部内存指针网络(GLMP)。Mem2Seq是第一个将多跳内存注意力与复制机制相结合的模型。GLMP进一步引入了响应草图和双指针复制的概念。我们表明,GLMP实现了最先进的性能对人类的评价。
2019-05-19 cs.AI cs.CL
An End-to-end Approach for Handling Unknown Slot Values in Dialogue State Tracking
Mobvoi AI Lab(Mobvoi AI实验室);University of Washington(华盛顿大学)
我们强调了一个实际的,但很少讨论的问题,在对话状态跟踪(DST),即处理未知的插槽值。先前的方法通常假定预定义的候选列表,并且因此未被设计为输出未知值,特别是当口语语言理解(SLU)模块如在许多端到端(E2E)系统中那样不存在时。本文描述了一种基于指针网络(PtrNet)的E2E架构,该架构可以有效地提取未知的时隙值,同时在标准DSTC 2基准测试中仍然获得最先进的精度。我们还提供了大量的经验证据,表明跟踪未知值可能具有挑战性,我们的方法可以在有效的特征丢弃技术的帮助下带来显着的改进。
2018-05-03 cs.CL
Is one brick enough to break the wall of spoken dialogue state tracking?
Orange Innovation(Orange创新)
本文提出一种完全神经化的口语对话状态追踪方法,并与级联方法深入比较,表明联合优化在音频原生场景下具有竞争力,同时指出上下文传播需考虑先前上下文的不确定性。
2024-07-01 cs.AI cs.CL eess.AS
Hybrid Dialog State Tracker with ASR Features
Charles University in Prague(布拉格查理大学);IBM Watson(IBM沃森)
本文提出了一种混合对话状态跟踪器增强可训练的口语语言理解(SLU)的槽填充对话系统。我们的架构的灵感来自以前提出的基于神经网络的信念跟踪系统。此外,我们使用可区分的规则扩展了模块化架构的某些部分,以允许端到端的培训。我们假设这些规则使我们的跟踪器比纯粹的基于机器学习的系统更好地泛化。为了进行评估,我们使用了对话状态跟踪挑战(DSTC)2数据集-一个流行的信念跟踪测试平台,来自餐厅信息系统的对话。据我们所知,我们的混合跟踪器在DSTC 2的四个类别中的三个类别中设置了一个新的最先进的结果。
2017-02-21 cs.CL
OLISIA: a Cascade System for Spoken Dialogue State Tracking
Orange Innovation(Orange创新中心);Aix-Marseille Université(艾克斯-马赛大学);Avignon Université(阿维尼翁大学)
本文提出OLISIA级联系统,集成ASR与DST模型,通过归一化ASR输出、数据增强及增大模型规模,在DSTC11 Track 3中排名第一,有效缩小了书面与口语对话的性能差距。
2023-08-31 cs.AI cs.CL cs.SD
Towards an Ontology-Driven Blockchain Design for Supply Chain Provenance
Schulich School of Business, York University(约克大学舒立克商学院);York University(约克大学)
在我们的大数据时代,一个有趣的研究问题是确定出处。对实物商品的来源进行细致的评估-例如跟踪药品的成分或证明奢侈品的真实性-对于今天在复杂的、组织间的、往往跨越国际的供应链中生产和运输的物品来说,往往是不可能的。最近采用的物联网和区块链技术为更好的供应链来源提供了希望。我们对区块链特别感兴趣,因为区块链的许多受欢迎的用例都是用于来源跟踪。我们也有兴趣应用本体,因为已经有一些工作做了知识来源,可追溯性和食品来源使用本体。在本文中,我们将说明为什么本体可以有助于区块链设计。为了支持这种情况,我们分析了一个可追溯性本体,并将其一些表示转换为智能合约,这些智能合约执行出处跟踪并在以太坊区块链平台上实施可追溯性约束。
2016-08-28 cs.AI cs.CY
Learning from Mistakes: Combining Ontologies via Self-Training for Dialogue Generation
University of California, Santa Cruz(加利福尼亚大学圣克鲁兹分校);Amazon Alexa AI(亚马逊 Alexa 人工智能)
面向任务对话的自然语言生成器(NLG)通常将意义表示(MR)作为输入。它们通过MR/话语对的语料库进行端到端的训练,其中MR覆盖特定的对话行为和域属性集。创建这样的数据集是劳动密集型和耗时的。因此,新领域本体的对话系统将受益于使用预先存在的本体的数据。在这里,我们探索,第一次,是否有可能训练一个NLG的一个新的更大的本体使用现有的训练集的餐厅领域,其中每个集合是基于不同的本体。我们创建一个新的、更大的组合本体,然后训练NLG生成覆盖它的话语。例如,如果一个数据集具有家庭友好和评级信息的属性,另一个数据集具有装饰和服务的属性,我们的目标是组合本体的NLG可以生成实现家庭友好、评级、装饰和服务价值的话语。使用基线神经序列到序列模型的初步实验表明,这项任务具有惊人的挑战性。然后,我们开发了一种新的自训练方法,识别(错误的)模型输出,自动构建一个正确的MR输入,形成一个新的(MR,话语)训练对,然后重复添加这些新的实例回到训练数据。然后,我们在一个新的测试集上测试结果模型。结果是一个自我训练的模型,其性能比基线模型提高了75.4%。我们还报告了最终模型的人类定性评价,表明它实现了高度的自然性,语义连贯性和语法性
2020-09-30 cs.CL
Non-Autoregressive Dialog State Tracking
Salesforce Research(Salesforce研究);Singapore Management University(新加坡管理大学);Salesforce Research Asia(Salesforce亚洲研究)
最近在面向任务的对话的对话状态跟踪(DST)的努力已经朝着开放词汇或基于生成的方法,其中模型可以从对话历史本身生成槽值候选人。这些方法表现出良好的性能增益,特别是在复杂的对话域与动态槽值。然而,它们在两个方面存在不足:(1)它们不允许模型显式地学习跨域和时隙的信号,以检测(域,时隙)对之间的潜在依赖关系;以及(2)现有模型遵循自回归方法,当对话在多个域和多个回合上演变时,会产生很高的时间成本。在本文中,我们提出了一种新的框架,非自回归对话状态跟踪(NADST),它可以考虑域和插槽之间的潜在依赖关系,以优化模型,更好地预测对话状态作为一个完整的集合,而不是单独的插槽。特别是,我们的方法的非自回归性质,不仅使解码并行显着减少延迟的DST实时对话响应生成,但也检测插槽之间的依赖关系,除了插槽和域级别令牌级别。我们的实证结果表明,我们的模型在MultiWOZ 2.1语料库上的所有领域都达到了最先进的联合准确度,并且随着对话历史的不断延长,我们模型的延迟比以前的最先进水平低一个数量级。
2020-02-19 cs.AI cs.CL cs.LG
Towards End-to-End Learning for Dialog State Tracking and Management using Deep Reinforcement Learning
Language Technologies Institute(语言技术研究所);Carnegie Mellon University(卡内基梅隆大学)
本文提出了一个端到端的框架,面向任务的对话系统使用的深度递归Q网络(DRQN)的变体。该模型能够与关系数据库接口,并共同学习语言理解和对话策略的策略。此外,我们提出了一种混合算法,结合了强化学习和监督学习的强度,以实现更快的学习速度。我们评估了20个问题的游戏会话游戏模拟器上提出的模型。结果表明,该方法优于基于模块的基线和学习的潜在对话状态的分布式表示。
2016-09-15 cs.AI cs.CL cs.LG
Multi-domain Dialog State Tracking using Recurrent Neural Networks
University of Cambridge(剑桥大学);VocalIQ Ltd.(VocalIQ有限公司)
对话状态跟踪是许多现代对话系统的关键组件,其中大多数对话系统都是针对单个定义良好的域而设计的。本文表明,从不同的对话域的对话数据可以用来训练一般的信念跟踪模型,可以在所有这些领域,表现出优越的性能,每个特定领域的模型。我们提出了一个训练过程,使用域外数据初始化的信念跟踪模型,为全新的领域。该过程导致信念跟踪性能的改善,而不管可用于训练模型的域内数据的量。
2015-06-23 cs.CL cs.LG
A Multichannel Convolutional Neural Network For Cross-language Dialog State Tracking
Panasonic Corporation(松下公司)
第五届对话状态跟踪挑战赛(DSTC 5)引入了一种新的跨语言对话状态跟踪场景,要求参与者基于英语训练语料库构建跟踪器,同时使用未标记的中文语料库对其进行评估。虽然数据集中提供了英文和中文语料的计算机生成的翻译,但这些翻译包含错误,不小心使用它们很容易损害所构建的跟踪器的性能。为了解决这个问题,我们提出了一个多通道卷积神经网络(CNN)架构,其中我们把英语和汉语作为一个单一的CNN模型的不同输入通道。在DSTC 5的评估中,我们发现这种多通道架构可以有效地提高对翻译错误的鲁棒性。此外,我们的DSTC 5方法纯粹是基于机器学习的,不需要关于目标语言的先验知识。我们认为这是在跨语言上下文中构建跟踪器的理想属性,因为不是每个开发人员都熟悉这两种语言。
2017-01-23 cs.AI cs.CL cs.LG
Variational Hierarchical Dialog Autoencoder for Dialog State Tracking Data Augmentation
Seoul National University(首尔国立大学);Adobe Research(奥多比研究院)
最近的工作表明,生成式数据增强(其中从深度生成模型生成的合成样本补充训练数据集)使NLP任务受益。在这项工作中,我们将这种方法扩展到面向目标的对话框的对话状态跟踪任务。由于面向目标的对话在话语和相关注释上的固有层次结构,深度生成模型必须能够捕获不同层次和类型的对话特征之间的一致性。我们提出了变分层次对话自动编码器(VHDA)建模的完整方面的面向目标的对话,包括语言特征和底层结构化注释,即扬声器信息,对话行为,和目标。所提出的架构的目的是模型的每一个方面的目标为导向的对话,使用相互连接的潜在变量,并学会生成连贯的目标为导向的对话,从潜在的空间。为了克服训练复杂变分模型时出现的训练问题,我们提出了适当的训练策略。在各种对话数据集上的实验表明,该模型通过生成式数据增强提高了下游对话跟踪器的鲁棒性。我们还发现了我们的统一方法建模面向目标的对话框的额外好处:对话框响应生成和用户模拟,我们的模型优于以前的强大基线。
2020-10-07 cs.CL cs.LG
Natural Language Generation at Scale: A Case Study for Open Domain Question Answering
University of Trento(特伦托大学);Amazon Alexa AI(亚马逊Alexa人工智能);Uber AI(优步人工智能);Google(谷歌)
当前的对话自然语言生成(NLG)方法主要集中在使用有限本体(多达20种槽类型)的特定于域的面向任务的应用(例如,餐厅预订),通常不考虑先前的对话上下文。此外,这些方法需要每个域的大量数据,并且不能受益于可用于其他域的示例。这项工作探讨了将统计NLG应用于需要更大本体的场景的可行性,例如基于知识图谱的多域对话应用或开放域问答(QA)。我们通过一个编码器-解码器框架,使用一个大的数据集的真实世界的用户和开放域QA的会话代理之间的交互NLG模型。首先,我们调查的影响,增加插槽类型的数量上的生成质量和实验的QA数据的不同分区与逐渐增大的本体(高达369插槽类型)。其次,我们在开放域QA和面向任务的对话之间进行多任务学习实验,并在流行的NLG数据集上对我们的模型进行基准测试。此外,我们尝试使用会话上下文作为额外的输入,以提高响应生成质量。我们的实验表明,学习统计NLG模型的开放域QA与较大的本体的可行性。
2019-09-23 cs.CL
Dialog State Tracking: A Neural Reading Comprehension Approach
Amazon Alexa AI(亚马逊Alexa AI)
对话状态跟踪用于在给定所有先前对话的情况下估计对话的当前置信状态。另一方面,机器阅读理解专注于构建阅读文本段落并回答需要对段落有一定理解的问题的系统。我们将对话状态跟踪作为阅读理解任务,在阅读会话上下文后回答问题$what\ is\ the\ state\ of\ the\ current\ dialog?$。与传统的状态跟踪方法相比,在传统的状态跟踪方法中,对话状态通常被预测为本体内所有可能的槽值的封闭集合上的分布,我们的方法使用简单的基于注意力的神经网络来指向会话内的槽值。在MultiWOZ-2.0跨域对话数据集上的实验表明,与以前更复杂的方法相比,我们简单的系统可以获得类似的精度。通过利用上下文词嵌入的最新进展,添加一个模型,明确跟踪槽值是否应该结转到下一轮,并结合我们的方法与传统的联合状态跟踪方法,依赖于封闭的词汇集,我们可以获得联合目标的准确性$47.33\%$的标准测试分裂,超过当前最先进的$11.75\%$ **。
2019-08-15 cs.CL cs.LG
Dialog State Tracking with Reinforced Data Augmentation
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
神经对话状态跟踪器通常由于缺乏带注释的训练数据的数量和多样性而受到限制。在本文中,我们通过提出一个基于强化学习(RL)的数据增强框架来解决这个困难,该框架可以生成高质量的数据来改进神经状态跟踪器。具体来说,我们引入了一种新的上下文强盗生成器来学习细粒度的增强策略,可以通过为特定上下文选择合适的替代品来生成新的有效实例。此外,通过在生成器和状态跟踪器之间交替学习,我们可以不断改进生成策略,为神经状态跟踪器生成更多高质量的训练数据。在WoZ和MultiWoZ(餐厅)数据集上的实验结果表明,该框架显著提高了现有模型的性能,特别是在训练数据有限的情况下。
2019-11-18 cs.AI cs.CL cs.LG
Learn to Focus: Hierarchical Dynamic Copy Network for Dialogue State Tracking
Peking University(北京大学)
近年来,研究人员探索使用编码器-解码器框架来解决对话状态跟踪(DST),这是面向任务的对话系统的关键组成部分。然而,他们认为多轮对话是一个扁平的序列,当序列很长时,不能集中在有用的信息上。在本文中,我们提出了一个层次化的动态复制网络(HDCN),以方便集中在最翔实的转,使其更容易从对话上下文中提取槽值。基于编码器-解码器框架,我们采用了分层复制方法,该方法在单词和回合级别计算两个级别的注意力,然后将其重新归一化以获得最终的复制分布。一个焦点损失项被用来鼓励模型将最高的回合级别注意力权重分配给信息量最大的回合。实验结果表明,我们的模型在MultiWOZ 2.1数据集上实现了46.76%的联合准确率。
2021-07-25 cs.AI cs.CL
A Study on Prompt-based Few-Shot Learning Methods for Belief State Tracking in Task-oriented Dialog Systems
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
我们解决了面向任务的会话系统的对话信念状态跟踪(DST)问题。最近利用基于transformer的模型来解决这个问题的方法已经取得了很好的效果。然而,训练这些模型在计算资源和时间方面都是昂贵的。此外,收集高质量的注释对话数据集仍然是研究人员面临的挑战,因为训练这些模型需要大量的注释。在最近成功的预训练语言模型和基于样本的学习的推动下,我们探索了基于样本的少样本学习用于对话信念状态跟踪。我们制定的DST问题作为一个2阶段的基于语义的语言建模任务和训练语言模型的任务,并提出了一个全面的实证分析,他们的单独和联合性能。我们展示了基于递归的方法在DST的少样本学习中的潜力,并为未来的改进提供了方向。
2022-04-18 cs.AI cs.CL
SynthDST: Synthetic Data is All You Need for Few-Shot Dialog State Tracking
Carnegie Mellon University(卡内基梅隆大学);Apple Inc.(苹果公司)
SynthDST利用LLMs仅凭对话模式和少量模板合成带标注对话数据,实现少样本DST,在MultiWOZ上相比零样本提升4-5%联合目标准确率,并恢复近98%的人工数据性能。
2024-02-03 cs.AI cs.CL cs.LG
MultiWOZ 2.1: A Consolidated Multi-Domain Dialogue Dataset with State Corrections and State Tracking Baselines
Amazon(亚马逊);Google(谷歌)
MultiWOZ 2.0(Budzianowski等人,2018)是最近发布的多领域对话数据集,涵盖7个不同的领域,包含超过10,000个对话。虽然MultiWOZ 2.0非常有用,也是迄今为止同类资源中最大的资源之一,但它也有一些缺点。首先,在对话状态注释和对话话语中存在大量噪声,这对状态跟踪模型的性能产生负面影响。其次,后续工作(Lee等人,2019)通过用户对话行为增强了原始数据集。这会导致同一数据集的多个共存版本进行微小修改。在这项工作中,我们通过引入MultiWOZ 2.1来解决上述问题。为了修复嘈杂的状态注释,我们使用众包工作人员根据数据集中的原始话语重新注释状态和话语。这个校正过程导致在40%的对话回合中对超过32%的状态注释进行了更改。此外,我们固定146对话话语规范槽值的话语数据集本体中的值。为了解决第二个问题,我们将后续工作的贡献合并到MultiWOZ 2.1中。因此,我们的数据集还包括用户对话行为以及每个对话状态槽的多个槽描述。然后,我们在MultiWOZ 2.1数据集上对一些最先进的对话状态跟踪模型进行基准测试,并在校正的状态注释上显示联合状态跟踪性能。我们向社区公开发布MultiWOZ 2.1,希望这个数据集资源能够在内置的各种对话子问题中构建更有效的模型。
2019-12-03 cs.AI cs.CL
The SPPD System for Schema Guided Dialogue State Tracking Challenge
Tencent Inc(腾讯公司)
本文介绍了我们小组在对话系统技术挑战8(DSTC 8)中的一项工作,即用于模式引导对话状态跟踪挑战的SPPD系统。这个挑战在DSTC 8中被命名为Track 4,为开发用于现实世界对话系统的可扩展的多域对话状态跟踪算法提供了一个全新的和具有挑战性的数据集。我们提出了一个zero-shot的对话状态跟踪系统,这个任务。该系统的关键组件是一些基于BERT的zero-shot自然语言理解模型,这些模型可以有效地捕获服务模式的自然语言描述与对话轮中的话语之间的语义关系。我们还提出了一些策略,使系统更好地利用信息从较长的对话历史,并克服槽结转问题的多域对话。实验结果表明,该系统与基线系统相比,取得了显着的改善。
2020-06-16 cs.CL
Controllable User Dialogue Act Augmentation for Dialogue State Tracking
National Taiwan University(台湾大学)
先前的工作已经证明,数据增强对于改进对话状态跟踪是有用的。然而,有许多类型的用户话语,而现有的方法只考虑了最简单的一个增强,提高了泛化能力差的关注。为了更好地覆盖不同的对话行为并控制生成质量,提出了可控的用户对话行为增强(CUDA-DST)方法来增强具有不同行为的用户话语。随着数据的增强,不同的状态跟踪器获得了改善,并表现出更好的鲁棒性,在MultiWOZ 2.1上实现了最先进的性能
2022-07-26 cs.CL
HyST: A Hybrid Approach for Flexible and Accurate Dialogue State Tracking
Amazon(亚马逊)
基于端到端可训练神经网络的方法的最近工作已经展示了对话状态跟踪的最新结果。性能最好的方法估计所有可能的时隙值的概率分布。然而,这些方法不适用于现实应用中常见的大值集,并且对于跟踪训练集中未观察到的时隙值并不理想。为了解决这些问题,已经提出了基于候选生成的方法。这些方法基于会话历史和/或语言理解输出来估计在每个回合处可能的值的集合,并且因此使得能够在看不见的值和大的值集合上进行状态跟踪。然而,与第一组相比,它们在性能方面不足。在这项工作中,我们分析了这两种替代对话状态跟踪方法的性能,并提出了一种混合方法(HyST),学习每个插槽类型的适当方法。为了证明HyST在丰富的插槽类型集上的有效性,我们使用最近发布的MultiWOZ-2.0多域,面向任务的对话数据集进行了实验。我们的实验表明,HyST规模多领域的应用。我们的最佳性能模型分别比之前的SOTA和我们的最佳基线相对提高了24%和10%。
2019-07-01 cs.AI cs.CL
On Tracking Dialogue State by Inheriting Slot Values in Mentioned Slot Pools
Zhejiang Lab(之江实验室);Zhejiang University(浙江大学)
对话状态跟踪(DST)是面向任务的对话系统的一个组成部分。它负责根据对话话语提取和管理槽值,其中每个槽代表完成任务的信息的重要部分,并且槽值在每个对话轮中循环更新。但是,许多DST模型无法适当地更新插槽值。这些模型可能会重复继承在前几轮中提取的错误槽值,导致整个DST任务失败。他们也不能很好地更新间接提到的插槽。本研究设计了一个模型与提到槽池(MSP),以解决更新问题。MSP是一个特定于槽的存储器,它记录了所有可能被继承的槽值,我们的模型根据MSP和对话上下文更新槽值。我们的模型拒绝继承以前的插槽值时,它断言的值是错误的。然后,它从当前对话上下文中重新提取槽值。随着上下文信息随着对话的进行而积累,新的值更有可能是正确的。它还可以通过从MSP中选择一个值来跟踪间接提到的插槽。实验结果表明,我们的模型在MultiWOZ 2.1和2.2数据集上达到了最先进的DST性能。
2022-04-24 cs.AI cs.CL
Spectral decomposition method of dialog state tracking via collective matrix factorization
Xerox Research Center Europe(施乐欧洲研究中心)
对话管理的任务通常被分解为两个连续的子任务:对话状态跟踪和对话策略学习。在端到端对话系统中,对话状态跟踪的目的是根据由语音识别和自然语言理解模块产生的噪声观测来准确地估计真实对话状态。状态跟踪任务主要用于支持对话策略。从概率的角度来看,这是通过保持由一组上下文相关变量组成的隐藏对话状态的后验分布来实现的。一旦对话策略被学习,它就在给定估计的对话状态和定义的奖励函数的情况下努力选择最佳对话动作。提出了一种基于双线性代数分解模型的对话状态跟踪方法,该模型通过集体矩阵分解提供了一种有效的推理模式。我们在第二个对话状态跟踪挑战(DSTC-2)数据集上评估了所提出的方法,并表明与参与此标准基准测试的最先进的跟踪器相比,所提出的跟踪器给出了令人鼓舞的结果。最后,我们表明,预测模式是计算效率相比,以前的方法。
2016-06-16 cs.CL stat.ML
An End-to-End Trainable Neural Network Model with Belief Tracking for Task-Oriented Dialog
Carnegie Mellon University(卡内基梅隆大学)
我们提出了一种新的端到端的可训练神经网络模型面向任务的对话系统。该模型能够跟踪对话状态,向知识库(KB)发出API调用,并将结构化的KB查询结果合并到系统响应中,以成功地完成面向任务的对话。该模型通过共同学习信念跟踪和KB结果处理条件的对话历史,产生结构良好的系统响应。我们使用从第二个对话状态跟踪挑战(DSTC 2)语料库转换的数据集来评估餐厅搜索域中的模型。实验结果表明,该模型可以鲁棒地跟踪对话状态给定的对话历史。此外,我们的模型在产生适当的系统响应方面表现出良好的效果,优于使用每个响应准确度评估指标的先前端到端可训练神经网络模型。
2017-08-20 cs.CL
A Sequence-to-Sequence Approach to Dialogue State Tracking
University College London(伦敦大学学院);ByteDance AI Lab(字节跳动人工智能实验室)
研究了面向任务的对话系统中的对话状态跟踪问题。构建高效的DST模块仍然是一个具有挑战性的问题,尽管最近已经取得了重大进展。本文提出了一种新的对话状态跟踪方法,称为Seq 2Seq-DU,它将DST形式化为一个序列到序列的问题。Seq 2Seq-DU采用两个基于BERT的编码器分别对对话中的话语和模式描述进行编码,一个参与者计算话语嵌入和模式嵌入之间的注意力,一个解码器生成指针来表示对话的当前状态。Seq 2Seq-DU具有以下优点。它可以联合建模意图、槽和槽值;它可以利用基于BERT的话语和模式的丰富表示;它可以有效地处理分类和非分类槽以及看不见的模式。此外,Seq 2Seq-DU还可以用于对话系统的NLU(自然语言理解)模块中。在不同设置的基准数据集(SGD、MultiWOZ2.2、MultiWOZ2.1、WOZ2.0、DSTC 2、M2M、SNIPS和ATIS)上的实验结果表明,Seq 2Seq-DU优于现有方法。
2021-05-29 cs.AI cs.CL cs.IR
Dialogue State Tracking with Multi-Level Fusion of Predicted Dialogue States and Conversations
Hithink RoyalFlush Information Network Co., Ltd(同花顺信息网络有限公司);Hithink RoyalFlush AI Research Institute(同花顺人工智能研究院);Zhejiang University(浙江大学)
最近提出的对话状态跟踪(DST)的方法利用上下文和最后的对话状态来跟踪当前的对话状态,这往往是槽值对。虽然语境包含了完整的对话信息,但这些信息通常是间接的,甚至需要推理才能获得。最后预测的对话状态中的信息是直接的,但是当存在预测错误时,来自该源的对话信息将是不完整的或错误的。在本文中,我们提出了预测对话状态和对话网络(FPDSC)的多级融合的对话状态跟踪。该模型通过对每轮话语、对应的最后一个对话状态和对话槽之间的交互进行建模,提取每轮对话的信息。然后,每个对话轮的表示聚合的层次结构,形成通道信息,这是利用在当前轮的DST。在MultiWOZ 2.0和MultiWOZ 2.1数据集上的实验结果验证了融合网络的有效性,其联合准确率分别为55.03%和59.07%,达到了最先进的性能。此外,我们进行了删除值和相关插槽实验MultiWOZ 2.1来评估我们的模型。
2021-07-12 cs.CL
Out-of-Task Training for Dialog State Tracking Models
Heinrich Heine University Düsseldorf(海因里希·海涅大学(杜塞尔多夫))
对话状态跟踪(DST)遭受严重的数据稀疏。虽然许多自然语言处理(NLP)任务受益于迁移学习和多任务学习,但在对话中,这些方法受到可用数据量和对话应用程序的特殊性的限制。在这项工作中,我们成功地利用不相关的NLP任务的非对话数据训练对话状态跟踪器。这为大量不相关的NLP语料库打开了大门,以缓解DST固有的数据稀疏问题。
2020-11-18 cs.CL
Efficient Dialogue State Tracking by Masked Hierarchical Transformer
Hithink RoyalFlush Information Network Co.,Ltd.(同花顺网络信息股份有限公司)
本文描述了我们的方法,DSTC 9轨道2:跨语言多域对话状态跟踪,任务的目标是建立一个跨语言的对话状态跟踪器的训练集在丰富的资源语言和测试集在低资源语言。我们制定了一个方法,分别用于槽操作分类任务和状态跟踪任务的联合学习。实验结果表明,该模型在DSTC Challenge II上取得了良好的性能,在MultiWOZ(en-zh)和CrossWOZ(zh-en)数据集上的联合准确率分别达到62.37%和23.96%。
2021-06-28 cs.CL
ASSIST: Towards Label Noise-Robust Dialogue State Tracking
University College London(伦敦大学学院)
MultiWOZ 2.0数据集极大地推动了对话状态跟踪(DST)的研究。然而,在其状态注释中发现了大量的噪声。这种噪声给训练DST模型带来了巨大的挑战。虽然最近已经发布了几个改进版本,包括MultiWOZ 2.1-2.4,但仍然存在大量噪声标签,特别是在训练集中。此外,纠正所有有问题的注释是昂贵的。在本文中,而不是进一步提高标注质量,我们提出了一个通用的框架,名为ASSIST(lAbel noiSe-robustdilementstate Tracking),训练DST模型鲁棒噪声标签。ASSIST首先通过使用在小的干净数据集上训练的辅助模型为训练集中的每个样本生成伪标签,然后将生成的伪标签和香草噪声标签放在一起来训练主模型。我们从理论上证明了ASSIST的有效性。实验结果还表明,与仅使用普通噪声标签相比,ASSIST在MultiWOZ 2.0上将DST的联合目标精度提高了$28.16\%$,在MultiWOZ 2.4上提高了$8.41\%$。
2022-03-11 cs.AI cs.CL
Zero-shot Multi-Domain Dialog State Tracking Using Descriptive Rules
Universidad de Buenos Aires(布宜诺斯艾利斯大学);CONICET-UBA(阿根廷科学与技术研究委员会-布宜诺斯艾利斯大学联合机构);SRI International(SRI国际公司)
在这项工作中,我们提出了一个框架,将描述性的逻辑规则在国家的最先进的神经网络,使他们能够学习如何处理看不见的标签,而不引入任何新的训练数据。通过在网络的损失函数中增加一个惩罚不遵守设计规则的网络状态的项,将规则集成到现有网络中,而不修改它们的体系结构。作为一个案例研究,该框架被应用到现有的基于神经的对话状态跟踪器。我们的实验表明,包含逻辑规则允许预测看不见的标签,而不会恶化的预测能力的原始系统。
2020-09-17 cs.AI cs.CL
Turn-Level Active Learning for Dialogue State Tracking
University of Technology Sydney(悉尼科技大学);University of Liverpool(利物浦大学);University College London(伦敦大学学院);University of Wollongong(伍伦贡大学)
针对任务导向对话系统中对话状态跟踪(DST)数据逐轮标注成本高的问题,提出一种新型轮次级主动学习框架,通过主动选择对话轮次进行标注,在显著减少标注数据量的同时实现与传统方法相当的DST性能。
2023-10-23 cs.CL
Large-Scale Multi-Domain Belief Tracking with Knowledge Sharing
University of Cambridge(剑桥大学)
健壮的对话信念跟踪是保持高质量对话系统的关键组成部分。对话系统试图解决的任务正变得越来越复杂,需要可扩展到多域、语义丰富的对话。然而,大多数目前的方法有困难的领域,因为依赖于对话本体的模型参数的规模。在本文中,介绍了一种新的方法,充分利用对话语句和本体术语之间的语义相似性,允许跨域的信息共享。评估是在最近收集的多域对话数据集上进行的,比目前可用的语料库大一个数量级。我们的模型在处理多域对话方面表现出很强的能力,同时在单域对话跟踪任务中优于现有的最先进的模型。
2018-07-17 cs.CL
CREDIT: Coarse-to-Fine Sequence Generation for Dialogue State Tracking
Shanghai Jiao Tong University(上海交通大学)
在对话系统中,对话状态跟踪器旨在基于整个对话历史准确地找到当前对话状态的紧凑表示。虽然以前的方法通常定义为一个单独的三元组({ \em域槽值})的组合对话状态,在本文中,我们采用了结构化的状态表示和铸造对话状态跟踪作为一个序列生成问题。基于这个新的公式,我们提出了一种{ \bf C} a { \bf R}s{ \bf E}-精细{ \bf DI}重态{ \bf T}的racking({ \bf CREDIT})方法。利用结构化的状态表示,这是一个标记的语言序列,我们可以进一步微调预训练的模型(通过监督学习),通过优化自然语言度量与策略梯度方法。像所有生成状态跟踪方法一样,CREDIT不依赖于枚举所有可能的槽值的预定义对话本体。实验表明,我们的跟踪器在MultiWOZ 2.0和MultiWOZ 2.1数据集的五个域中实现了令人鼓舞的联合目标精度。
2020-09-22 cs.CL
Dual Slot Selector via Local Reliability Verification for Dialogue State Tracking
State Key Laboratory of Networking and Switching Technology(网络与交换技术国家重点实验室);Beijing University of Posts and Telecommunications(北京邮电大学);Graduate School of Information Science and Technology, The University of Tokyo(东京大学信息科学与技术研究生院)
对话状态跟踪(DST)的目标是在给定所有先前对话上下文的情况下预测当前对话状态。现有的方法通常从零开始预测每一轮的对话状态。然而,每一轮中绝大多数的槽应该简单地继承前一轮的槽值。因此,在每一轮中同等地处理时隙的机制不仅效率低,而且由于冗余时隙值的生成而可能导致额外的错误。为了解决这个问题,我们设计了两个阶段的DSS-DST,它包括双槽的基础上的当前轮对话,和槽值发生器的基础上的对话历史。双时隙调度器从两个方面来确定每个时隙是更新时隙值还是从前一轮继承时隙值:(1)它与当前轮对话话语之间是否存在强关系;(2)是否可以通过当前轮对话为其获得具有高可靠性的时隙值。允许选择要更新的插槽进入插槽值生成器以通过混合方法更新值,而其他插槽直接继承上一轮的值。实验结果表明,我们的方法在MultiWOZ 2.0、MultiWOZ 2.1和MultiWOZ 2.2数据集上分别实现了56.93%、60.73%和58.04%的联合准确率,并实现了新的最先进的性能,并取得了显着的改进。
2021-07-27 cs.AI cs.CL
Tracking Initiative in Collaborative Dialogue Interactions
在本文中,我们认为有必要区分任务和对话的倡议,并提出了一个模型来跟踪这两种类型的倡议在对话互动的转变。我们的模型预测的主动持有人在下一个对话轮的基础上,目前的主动持有人和观察到的线索对改变他们的影响。我们对各种语料库的评估表明,使用线索一贯提高系统的预测任务和对话主动持有人的准确性分别为2-4和8-13个百分点,从而说明了我们的模型的一般性。
1997-04-17 cmp-lg cs.CL
A Simple but Effective BERT Model for Dialog State Tracking on Resource-Limited Systems
Purdue University(普渡大学);Adobe Research(奥多比研究院)
在面向任务的对话系统中,对话状态跟踪(DST)的目标是从对话历史中监视会话的状态。最近,许多基于深度学习的方法已经被提出用于该任务。尽管它们的性能令人印象深刻,但目前用于DST的神经架构通常是经过严格设计的,并且在概念上很复杂,因此很难在生产环境中实现,调试和维护它们。在这项工作中,我们提出了一个简单而有效的DST模型的基础上BERT。除了它的简单性,我们的方法也有一些其他的优点:(a)参数的数量不会随着本体的大小增长(b)模型可以在领域本体可能动态变化的情况下运行。实验结果表明,我们的基于BERT的模型比以前的方法有很大的优势,在标准WoZ 2.0数据集上获得了新的最先进的结果。最后,为了使模型足够小和快速的资源受限的系统,我们应用知识蒸馏方法来压缩我们的模型。最终的压缩模型实现了与原始模型相当的结果,同时小8倍,快7倍。
2020-02-09 cs.CL cs.LG
Knowledge-grounded Dialog State Tracking
University of California, Davis(加州大学戴维斯分校);Google Research(谷歌研究院)
知识(包括结构化知识,如模式和本体,以及非结构化知识,如Web语料库)是对话理解的关键部分,特别是对于看不见的任务和领域。传统上,这种特定于领域的知识被隐式地编码到用于执行下游任务的模型参数中,这使得训练效率低下。此外,这样的模型是不容易转移到新的任务与不同的模式。在这项工作中,我们建议执行对话状态跟踪接地外部编码的知识。我们查询各种形式的对话上下文的基础上,这些信息可以接地的对话状态的预测相关知识。我们证明了我们提出的方法在强基线上的优越性能,特别是在少样本学习设置中。
2022-10-13 cs.CL
LUNA: Learning Slot-Turn Alignment for Dialogue State Tracking
JD AI Research(京东人工智能研究院)
对话状态跟踪(DST)的目的是在给定对话历史的情况下预测当前对话状态。现有的方法通常利用所有对话轮的话语来为每个时隙分配值。由于从对话历史中的不相关话语引入的信息,这可能导致次优结果,这可能是无用的,甚至可能导致混淆。为了解决这个问题,我们提出了LUNA,一个sLot-tUrN对齐增强的方法。它首先明确地将每个槽与其最相关的话语对齐,然后基于该对齐的话语而不是所有对话话语进一步预测对应的值。此外,我们还设计了一个时隙排序辅助任务来学习时隙之间的时间相关性,这有助于对齐。在多领域面向任务的对话数据集上进行了综合实验,MultiWOZ 2.0、MultiWOZ 2.1和MultiWOZ 2.2。结果表明,LUNA在这些数据集上取得了新的最先进的结果。
2022-05-05 cs.CL
Enhancing Visual Dialog State Tracking through Iterative Object-Entity Alignment in Multi-Round Conversations
Beijing Information Science and Technology University(北京信息科技大学);Beijing University of Technology(北京工业大学)
针对现有视觉对话方法忽略轮次级对话信息流的问题,提出多轮对话状态跟踪模型MDST,以视觉-语言二元组构建对话状态表示,在VisDial v1.0生成式任务上取得SOTA,且生成答案更一致类人。
2024-08-13 cs.AI cs.CL cs.CV
Tracking of enriched dialog states for flexible conversational information access
Tsinghua University(清华大学)
对话状态跟踪(DST)是面向任务的对话系统中用于会话信息访问的关键组件。当前对话系统中的一种常见做法是通过一组槽值对来定义对话状态。这种对话状态的表示和基于槽填充的DST已被广泛采用,但存在三个缺点。(1)对话状态可以只包含一个槽的单个值,并且(2)可以只包含用户对槽的值的肯定偏好。(3)目前基于任务的对话系统主要集中在搜索任务上,而查询任务在实践中也很常见。上述观察促使我们丰富当前的对话状态表示,并收集一个全新的关于电影的对话数据集,在此基础上,我们建立了一个新的DST,称为丰富的DST(EDST),灵活地访问电影信息。EDST支持搜索任务、查询任务以及它们的混合任务。我们表明,新的EDST方法不仅在爱奇艺数据集上取得了良好的效果,而且在传统的对话数据集,WOZ 2. 0和DSTC 2上也优于其他最先进的DST方法。
2018-02-24 cs.CL
Dialog state tracking, a machine reading approach using Memory Network
Xerox Research Centre Europe(欧洲施乐研究院);The University of Melbourne(墨尔本大学)
在端到端对话系统中,对话状态跟踪的目的是根据由语音识别和自然语言理解模块产生的噪声观测序列来准确地估计当前对话状态的紧凑表示。本文介绍了一种新的方法,对话状态跟踪的基础上,机器阅读的一般范式,并提出解决它使用端到端的内存网络,MemN 2N,内存增强的神经网络架构。我们在第二个对话状态跟踪挑战(DSTC-2)数据集上评估了所提出的方法。语料库已被转换的场合,以帧的隐藏状态变量推理作为一个问答任务的基础上从对话中提取的一系列话语。我们表明,建议的跟踪器给出了令人鼓舞的结果。然后,我们建议扩展DSTC-2数据集与特定的推理能力的要求,如计数,列表维护,是非问答和不确定的知识管理。最后,我们提出了令人鼓舞的结果,使用我们提出的基于MemN 2N的跟踪模型。
2017-03-02 cs.CL cs.NE stat.ML
Preview, Attend and Review: Schema-Aware Curriculum Learning for Multi-Domain Dialog State Tracking
Alibaba Group(阿里巴巴集团);Ingenuity Labs Research Institute(创意实验室研究所);Queen’s University(女王大学)
现有的对话状态跟踪(DST)模型是用随机顺序的对话数据训练的,忽略了数据集中丰富的结构信息。在本文中,我们建议使用课程学习(CL),以更好地利用课程结构和图式结构的任务导向的对话。具体来说,我们提出了一个模型不可知的框架称为模式感知课程学习的对话状态跟踪(SaCLog),它包括一个预览模块,预训练的DST模型与模式信息,课程模块,优化模型与CL,和审查模块,增加误预测的数据,以加强CL培训。我们表明,我们提出的方法提高了基于transformer和基于RNN的DST模型(TripPy和TRADE)的DST性能,并在WOZ2.0和MultiWOZ2.1上实现了新的最先进的结果。
2021-06-01 cs.CL
Conversational Semantic Parsing for Dialog State Tracking
Apple(苹果公司)
我们考虑对话状态跟踪(DST)的新视角,即在对话过程中估计用户目标的任务。通过将DST制定为一个基于层次表示的语义解析任务,我们可以将语义组合性、跨领域知识共享和共同引用结合起来。我们提出了TreeDST,一个包含27 k会话的数据集,其中注释了树结构的对话状态和系统行为。我们描述了一个编码器-解码器框架的DST与分层表示,这导致了20%的改进,比国家的最先进的DST方法,操作上的槽值对的平面意义空间。
2021-05-13 cs.CL
A Robust Data-Driven Approach for Dialogue State Tracking of Unseen Slot Values
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Trento(特伦托大学)
对话状态跟踪器是对话系统中的关键组件,其估计每个对话回合处的可能用户目标的信念。使用递归神经网络的深度学习方法在对话状态跟踪任务中表现出了最先进的性能。通常,这些方法假设预定义的候选列表,并且努力预测在训练期间未看到的任何新的对话状态值。这使得在没有模型保留的情况下扩展时隙的候选列表是不可行的,并且在对低资源域建模时也具有限制,在低资源域中,时隙值的训练数据是昂贵的。在本文中,我们提出了一种新的对话状态跟踪器的基础上复制机制,可以有效地跟踪这样看不见的槽值,而不会影响性能的槽值在训练过程中看到的。所提出的模型在扩展候选列表方面也是灵活的,而不需要对模型进行任何重新训练或改变。我们在各种基准数据集(DSTC 2,DSTC 3和WoZ 2.0)上评估了所提出的模型,并表明我们的方法在跟踪看不见的插槽值方面优于其他端到端数据驱动的方法,并且在DST建模方面也具有显着的优势。
2019-11-01 cs.CL