A Context-aware Natural Language Generator for Dialogue Systems
Charles University in Prague(布拉格查理大学)
我们提出了一种新的自然语言生成系统的口语对话系统能够夹带(适应)用户的说话方式,提供上下文适当的反应。该生成器是基于递归神经网络和序列到序列的方法。它完全可以从包括先前上下文以及要生成的响应的数据中进行训练。我们表明,上下文感知生成器产生了显着的改进,在自动度量和人类成对偏好测试的基线。
2016-08-25 cs.CL
SocialDial: A Benchmark for Socially-Aware Dialogue Systems
Monash University(莫纳什大学);California State University, Northridge(加州州立大学北岭分校)
本文构建基于中国社会文化的社会感知对话基准 SocialDial,结合人工标注多轮对话与基于本体的 ChatGPT 合成数据,并通过 BERT、RoBERTa 等模型验证社会规范建模的研究价值。
2023-04-24 cs.CL
Generate, Evaluate, and Select: A Dialogue System with a Response Evaluator for Diversity-Aware Response Generation
Waseda University(早稻田大学)
我们的目标是克服目前对话系统的反应缺乏多样性,并开发一个作为对话伙伴参与的对话系统。我们提出了一个生成器评估模型,评估多个响应生成器生成的响应,并选择最佳响应的评估。通过生成多个响应,我们获得不同的响应。我们进行人类的评价,比较建议的系统与基线系统的输出。人工评估的结果表明,所提出的系统的响应往往被判断为优于基线系统的,并表明所提出的方法的有效性。
2022-06-10 cs.CL
Grounding Dialogue Systems via Knowledge Graph Aware Decoding with Pre-trained Transformers
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
在面向目标和非目标的对话系统中生成基于知识的响应是一个重要的研究挑战。知识图谱(KG)可以被视为现实世界的抽象,其可以潜在地促进对话系统产生基于知识的响应。然而,以端到端的方式将KG集成到对话生成过程中是一项重要的任务。本文提出了一种新的体系结构,通过训练一个BERT模型,学习回答使用KG(实体和关系)的元素在多任务,端到端的设置集成KG到响应生成过程。KG的k-hop子图在使用图拉普拉斯算子的训练和推理期间被并入模型中。实证评估表明,该模型实现了更好的知识覆盖度(通过实体F1得分衡量)相比,其他国家的最先进的模型,目标和非目标导向的对话。
2021-03-30 cs.CL
Speaker and Time-aware Joint Contextual Learning for Dialogue-act Classification in Counselling Conversations
BITS Pilani(比尔拉理工学院);Maharaja Agrasen Institute of Technology(马哈拉贾·阿格拉森理工学院);IIIT-Delhi(德里印度信息技术学院)
COVID-19疫情的爆发使人们的心理健康面临风险。在这种环境下,社会咨询具有非常重要的意义。与一般的目标导向型对话不同,患者和治疗师之间的对话是相当含蓄的,尽管对话的目标是非常明显的。在这种情况下,理解患者的意图对于在治疗过程中提供有效的咨询是必不可少的,这同样适用于对话系统。在这项工作中,我们在开发用于心理健康咨询的自动对话系统方面迈出了一小步,但这是重要的一步。我们开发了一个新的数据集,命名为希望,提供一个平台的对话行为分类在咨询会话。我们确定这样的对话的要求,并提出了12个特定领域的对话行为(DAC)标签。我们从YouTube上公开的咨询会议视频中收集了12.9K的话语,提取它们的成绩单,清理并用DAC标签注释它们。此外,我们提出了SPARTA,一个基于变压器的架构与一个新的扬声器和时间感知上下文学习的对话行为分类。我们的评估显示了令人信服的性能在几个基线,实现国家的最先进的希望。我们还补充我们的实验与广泛的实证和定性分析斯巴达。
2021-11-12 cs.CL
Do You Know My Emotion? Emotion-Aware Strategy Recognition towards a Persuasive Dialogue System
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
劝说策略识别任务要求系统根据会话内容识别劝说者所采用的策略。然而,以往的方法主要集中在上下文信息,很少有人知道,将心理反馈,即情绪的说服,以预测策略。在本文中,我们提出了一个跨渠道反馈记忆网络(CFO-Net),利用情感反馈迭代地测量策略的潜在好处,并将它们纳入上下文感知的对话信息。CFO-Net设计了一个反馈记忆模块,包括策略池和反馈池,以获得情感感知策略表征。策略池用于存储历史策略,反馈池用于根据反馈的情感信息获取更新的策略权重。此外,跨通道融合预测器的发展,使情感感知的策略表示和上下文感知的对话信息之间的相互作用的策略识别。在\textsc{PersuasionForGood}上的实验结果表明,所提出的模型CFO-Net可以有效地将M-F1的性能从61.74提高到65.41。
2022-06-24 cs.CL
EthicMind: A Risk-Aware Framework for Ethical-Emotional Alignment in Multi-Turn Dialogue
University of Electronic Science and Technology of China(电子科技大学);Shenzhen Institute for Advanced Study, UESTC(电子科技大学深圳高等研究院)
本文提出EthicMind框架,通过多轮对话中联合分析伦理风险与用户情感,生成平衡伦理指导与情感互动的回复,提升对话系统的伦理与情感对齐能力。
2026-04-10 cs.CL
Audio Visual Scene-Aware Dialog (AVSD) Challenge at DSTC7
Georgia Tech(佐治亚理工学院);Mitsubishi Electric Research Laboratories (MERL)(三菱电机研究实验室)
场景感知对话系统将能够与用户就他们周围的对象和事件进行对话。通过整合多个研究领域的最新技术,包括端到端对话系统、可视对话和视频描述,可以在此类系统上取得进展。我们介绍了视听场景感知对话框(AVSD)的挑战和数据集。在这个挑战中,这是第七届对话系统技术挑战(DSTC 7)研讨会1的一个轨道,任务是建立一个系统,在对话中生成关于输入视频的响应
2018-06-01 cs.CL cs.CV
Exploring Context, Attention and Audio Features for Audio Visual Scene-Aware Dialog
Intel Labs(英特尔研究院)
我们正在见证视觉、语音和对话系统技术的融合,这些技术使IVA能够学习话语的视听基础,并与用户就周围的物体、活动和事件进行对话。视觉接地技术和音频理解的最新进展使机器能够理解共享的语义概念并倾听环境中的各种感官事件。通过音频和视觉接地方法,端到端的多模态SDS被训练成用自然语言与我们进行有意义的交流,了解我们周围真实的动态视听感官世界。在这项工作中,我们探讨的作用,“主题”的背景下,随着多模态注意到这样一个端到端的视听场景感知对话系统架构的对话。我们还将端到端音频分类ConvNet,AclNet纳入我们的模型。我们开发和测试我们的方法上的视听场景感知对话(AVSD)数据集发布的DSTC 7的一部分。我们提出了我们的实验分析,并表明,我们的一些模型的变化优于基线系统发布的AVSD。
2019-12-20 cs.CL
Dialogue State Induction Using Neural Latent Variable Models
School of Engineering, Westlake University(西湖大学工学院);Institute of Advanced Technology, Westlake Institute for Advanced Study(西湖高等研究院前沿技术研究所);Research Center for Social Computing and Information Retrieval, Harbin Institute of Technology(哈尔滨工业大学社会计算与信息检索研究中心);School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院)
对话状态模块是面向任务的对话系统中的有用组件。传统的方法通过人工标记训练语料库来发现对话状态,神经模型在此基础上进行训练。然而,标记过程可能是昂贵的,缓慢的,容易出错的,更重要的是,不能覆盖客户服务的现实世界对话中的广泛领域。我们提出了对话状态归纳的任务,建立了两个神经隐变量模型,从未标记的客户服务对话记录中自动挖掘对话状态。结果表明,该模型能有效地发现有意义的槽。此外,配备有诱导对话状态,与不使用对话状态模块相比,现有技术的对话系统给出更好的性能。
2020-08-13 cs.CL
History-Aware Hierarchical Transformer for Multi-session Open-domain Dialogue System
Nanyang Technological University(南洋理工大学);Alibaba-NTU Singapore Joint Research Institute(阿里巴巴-新加坡南洋理工大学联合研究院);Joint NTU-UBC LILY Research Centre(南洋理工大学-不列颠哥伦比亚大学LILY联合研究中心);Alibaba Group(阿里巴巴集团);Shandong University(山东大学)
随着预先训练的语言模型的发展,当前的开放域对话系统在进行单会话会话方面取得了很大的进步。相比之下,多会话对话(MSC),它由同一用户长期的多个会话组成,研究不足。在本文中,我们提出了历史感知的分层Transformer(HAHT)的多会话开放域对话。HAHT保持历史会话的长期记忆,并利用历史信息来理解当前会话上下文,并生成消息灵通和上下文相关的响应。具体地,HAHT首先将历史会话分层地编码到历史存储器中。然后,HAHT利用历史信息,以促进当前会话上下文的理解,通过编码的历史记忆与当前上下文的注意力为基础的机制。最后,为了明确地利用历史信息,HAHT使用了一个历史感知响应生成器,它可以在通用词汇表和历史感知词汇表之间切换。大规模MSC数据集上的实验结果表明,所提出的HAHT模型始终优于基线模型。人类评估结果支持HAHT比基线模型产生更多的人性化,上下文相关和历史相关的响应。
2023-02-02 cs.CL
SIM: A Slot-Independent Neural Model for Dialogue State Tracking
Microsoft Speech and Dialogue Group(微软语音与对话组)
对话状态跟踪是面向任务的对话系统中的重要组成部分,用于在对话进行时识别用户的目标和请求。然而,由于大多数以前的模型都依赖于对话槽,当槽的数量增加时,模型的复杂性会飙升。在本文中,我们提出了一个槽独立的神经模型(SIM)跟踪对话状态,同时保持模型的复杂性不变的对话槽的数量。该模型利用用户话语和系统动作之间的注意力机制。SIM在WoZ和DSTC 2任务上实现了最先进的结果,模型大小仅为以前模型的20%。
2019-09-26 cs.CL
An End-to-End Trainable Neural Network Model with Belief Tracking for Task-Oriented Dialog
Carnegie Mellon University(卡内基梅隆大学)
我们提出了一种新的端到端的可训练神经网络模型面向任务的对话系统。该模型能够跟踪对话状态,向知识库(KB)发出API调用,并将结构化的KB查询结果合并到系统响应中,以成功地完成面向任务的对话。该模型通过共同学习信念跟踪和KB结果处理条件的对话历史,产生结构良好的系统响应。我们使用从第二个对话状态跟踪挑战(DSTC 2)语料库转换的数据集来评估餐厅搜索域中的模型。实验结果表明,该模型可以鲁棒地跟踪对话状态给定的对话历史。此外,我们的模型在产生适当的系统响应方面表现出良好的效果,优于使用每个响应准确度评估指标的先前端到端可训练神经网络模型。
2017-08-20 cs.CL
Improving Dialog Safety using Socially Aware Contrastive Learning
University at Buffalo(布法罗大学)
针对现有对话AI易生成不安全内容、难识别细微不安全场景的问题,提出基于社会感知n对对比损失的双步微调方法,结合多数据集训练融合亲社会行为的模型,有效提升了对话回复的社会适宜性。
2024-02-01 cs.CL
Domain-Aware Dialogue State Tracker for Multi-Domain Dialogue Systems
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);ICT Doctoral School, University of Trento(特伦托大学ICT博士学校);University of Trento(特伦托大学);University of Trento, Italy(特伦托大学(意大利));Fondazione Bruno Kessler, Trento, Italy(布鲁诺·凯斯勒基金会,特伦托,意大利);ICT Doctoral School, University of Trento, Italy(特伦托大学ICT博士学校,意大利)
在面向任务的对话系统中,对话状态跟踪器(DST)组件负责基于对话历史来预测对话的状态。目前的DST方法依赖于预定义的领域本体,这限制了它们在大规模会话代理中的有效使用,其中DST不断需要与不断增加的服务和API进行接口。为了克服这个缺点,我们提出了一个领域感知的对话状态跟踪器,这是完全数据驱动的,它是建模预测动态服务模式。该模型利用域和槽信息提取域和槽特定的表示为一个给定的对话,然后使用这样的表示来预测相应的槽的值。将此机制与预训练的语言模型(即BERT)相结合,我们的方法可以有效地学习语义关系。
2020-01-21 cs.AI cs.CL
Iterative Policy Learning in End-to-End Trainable Task-Oriented Neural Dialog Models
Carnegie Mellon University(卡内基梅隆大学)
在本文中,我们提出了一个深度强化学习(RL)框架,用于端到端面向任务的对话系统中的迭代对话策略优化。使用RL学习对话策略的流行方法包括让对话代理学习用户模拟器。然而,构建一个可靠的用户模拟器并不简单,它通常和构建一个好的对话代理一样困难。我们通过模拟两个代理之间的对话来联合优化对话代理和具有深度RL的用户模拟器来解决这一挑战。我们首先引导一个基本的对话代理和一个基本的用户模拟器直接从对话语料库与监督训练。然后,我们通过让两个代理进行面向任务的对话并使用深度RL迭代优化其策略来进一步改进它们。对话代理和用户模拟器都是用可以端到端训练的神经网络模型设计的。我们的实验结果表明,与监督训练和单智能体RL训练基线模型相比,所提出的方法在任务成功率和总任务奖励方面都有很大的改进。
2017-09-18 cs.CL
Neural Generation of Dialogue Response Timings
ADAPT Centre(ADAPT中心);School of Engineering(工程学院);Trinity College Dublin(都柏林圣三一学院)
人类对话中的口头响应偏移的定时已经被示出基于对话的上下文元素而变化。我们提出了神经模型,模拟这些响应偏移量的分布,同时考虑到响应转向以及前面的转向。这些模型被设计成集成到增量口语对话系统(SDS)的流水线中。我们使用离线实验以及人类听力测试来评估我们的模型。我们表明,人类听众认为某些响应时间是更自然的对话上下文的基础上。将这些模型引入SDS管道可以增加交互的感知自然度。
2020-05-18 cs.CL
Graph Neural Network Policies and Imitation Learning for Multi-Domain Task-Oriented Dialogues
Avignon University(阿维尼翁大学);Orange Labs(奥兰治实验室)
面向任务的对话系统被设计成在与人对话的同时实现特定目标。在实践中,他们可能必须同时处理多个领域和任务。因此,对话管理器必须能够考虑到域的变化,并计划在不同的域/任务,以处理多域对话。然而,在这种情况下,强化学习变得困难,因为状态-动作维度更大,而奖励信号仍然很少。我们的实验结果表明,基于图神经网络结合不同程度的模仿学习的结构化策略可以有效地处理多领域对话。报告的实验强调结构化的政策比标准的政策的好处。
2022-10-11 cs.CL
Neural Dialogue State Tracking with Temporally Expressive Networks
Beihang University(北京航空航天大学);University of Ottawa(渥太华大学);University of Leeds(利兹大学)
对话状态跟踪是口语对话系统的重要组成部分。现有的DST模型要么忽略了跨对话轮的时间特征依赖关系,要么未能显式地对对话中的时间状态依赖关系进行建模。在这项工作中,我们提出了时间表达网络(TEN),以联合建模DST中的两种类型的时间依赖关系。TEN模型利用了递归网络和概率图形模型的强大功能。在标准数据集上的测试结果表明,该方法能有效地提高匝数-电平-状态预测和状态聚合的精度。
2020-10-03 cs.CL
Scalable Neural Dialogue State Tracking
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Trento(特伦托大学)
对话状态跟踪器(DST)是对话系统中的关键组件,旨在估计每个对话回合处的可能用户目标的信念。目前的大多数DST跟踪器都使用递归神经网络,并且基于复杂的架构,这些架构管理对话的几个方面,包括用户话语,系统动作以及在领域本体中定义的槽值对。然而,这种神经架构的复杂性导致对话状态预测中的相当大的延迟,这限制了模型在现实世界应用中的部署,特别是当任务可扩展性(即时隙量)是一个关键因素时。在本文中,我们提出了一种用于对话状态跟踪的创新神经模型,称为全局编码器和时隙注意解码器(G-SAT),它可以以非常低的延迟时间预测对话状态,同时保持高水平的性能。我们报告的三种不同的语言(英语,意大利语和德语)的WoZ2.0数据集的实验,并表明,所提出的方法提供了竞争优势,国家的最先进的DST系统,无论是在准确性和预测的时间复杂度方面,超过15倍的速度比其他系统。
2019-10-22 cs.CL
Adversarial Learning of Task-Oriented Neural Dialog Models
Carnegie Mellon University(卡内基梅隆大学)
在这项工作中,我们提出了一个对抗性学习方法的奖励估计强化学习(RL)为基础的面向任务的对话模型。当前大多数基于RL的面向任务的对话系统都需要访问来自用户反馈或用户评级的奖励信号。然而,这种用户评级在实践中可能并不总是一致或可用的。此外,使用RL的在线对话策略学习通常需要向用户进行大量查询,从而遭受样本效率问题。为了解决这些挑战,我们提出了一种对抗性学习方法,直接从对话样本中学习对话奖励。这样的奖励进一步用于利用基于策略梯度的RL来优化对话策略。在餐馆搜索领域的评估中,我们表明,与强基线方法相比,所提出的对抗性对话学习方法实现了高级对话成功率。我们进一步讨论了在线对抗对话学习中的协变量偏移问题,并展示了如何通过部分访问用户反馈来解决这个问题。
2018-05-30 cs.CL
A Large Collection of Model-generated Contradictory Responses for Consistency-aware Dialogue Systems
Tohoku University(东北大学);RIKEN(理化学研究所);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文首次构建大规模模型生成矛盾回复数据集,通过广泛分析揭示矛盾特征,并证明该数据集显著提升数据驱动矛盾抑制方法的性能。
2024-03-19 cs.CL
Learning from Easy to Complex: Adaptive Multi-curricula Learning for Neural Dialogue Generation
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Data Science Lab, JD.com(京东数据科学实验室);National Computer network Emergency Response technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心)
目前最先进的神经对话系统主要是数据驱动的,并且是根据人类生成的响应进行训练的。然而,由于人类对话的主观性和开放性,训练对话的复杂性差异很大。噪声和不均匀的复杂性的查询-响应对阻碍了神经对话生成模型的学习效率和效果。此外,目前还没有统一的对话复杂度测量方法,而对话复杂度体现了多方面的属性-特异性、重复性、关联性等。受人类学习对话的行为的启发,儿童从简单对话学习到复杂对话,并动态调整学习进度,我们首先分析了五个对话属性,以衡量在三个公开可用的语料库的多角度对话的复杂性。然后,我们提出了一个自适应的多课程学习框架,安排一个委员会的组织课程。该框架建立在强化学习范式之上,在进化学习过程中根据神经对话生成模型的学习状态自动选择不同的课程。在五个最先进的模型上进行的大量实验证明了它在13个自动评估指标和人类判断方面的学习效率和有效性。
2020-03-16 cs.CL
SUMBT+LaRL: Effective Multi-domain End-to-end Neural Task-oriented Dialog System
NAVER Green Factory;SK Telecom(SK电信);Chungnam National University(忠南国立大学)
最近出现的神经方法开发每个对话组件在面向任务的对话系统有显着改善,但优化整体系统的性能仍然是一个挑战。此外,以前的研究建模复杂的多领域的面向目标的对话在端到端的方式已经有限。在本文中,我们提出了一个有效的多域端到端可训练神经对话系统SUMBT+LaRL,它结合了两个以前的强模型,并使它们完全可微。具体而言,SUMBT+估计用户行为以及对话信念状态,LaRL模型潜在的系统动作空间,并生成响应给定的估计上下文。我们强调,三个步骤的训练框架显着和稳定地提高对话成功率:分别预训练SUMBT+和LaRL,微调整个系统,然后强化学习的对话策略。我们还介绍了新的奖励标准的强化学习的对话策略训练。然后,我们讨论了根据奖励标准和不同的对话评价方法的实验结果。因此,我们的模型在基于语料库的评估中实现了85.4%的最新成功率,并且在DSTC 8挑战提供的基于模拟器的评估中实现了81.40%的可比成功率。据我们所知,我们的工作是第一个全面的研究,一个模块化的E2E多域对话系统,学习从每个组件到整个对话策略的任务成功。
2021-08-26 cs.CL
Explicit State Tracking with Semi-Supervision for Neural Dialogue Generation
Fudan University(复旦大学);National University of Singapore(新加坡国立大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
对话生成的任务旨在自动提供响应给定先前的话语。跟踪对话状态是判断用户意图的一个重要环节。然而,\emph{expensive nature of state labeling}和\emph{weak interpretability}使得对话状态跟踪对于面向任务和非面向任务的对话生成都是具有挑战性的问题:对于在面向任务的对话中生成响应,状态跟踪通常从人工注释的语料库中学习,其中人工注释对于训练来说是昂贵的;对于在非面向任务的对话中生成响应,由于对话状态的数量不受限制,大多数现有工作忽略了显式状态跟踪。在本文中,我们提出了\emph{semi-supervised explicit dialogue state tracker}(SEDST)的神经对话生成。为此,我们的方法有两个核心成分:\emph{CopyFlowNet}和\emph{posterior regularization}。具体来说,我们提出了一个编码器-解码器架构,命名为\emph{CopyFlowNet},表示一个明确的对话状态的概率分布在词汇空间。为了优化训练过程,我们采用后验正则化策略来整合间接监督。在任务型和非任务型对话语料库上进行的大量实验证明了该模型的有效性。此外,我们发现,我们提出的半监督对话状态跟踪器实现了国家的最先进的监督学习基线状态跟踪过程中的性能相当。
2018-08-31 cs.CL
FaceChat: An Emotion-Aware Face-to-face Dialogue Framework
Columbia University(哥伦比亚大学)
虽然像ChatGPT这样的当前对话系统在基于文本的交互方面取得了重大进展,但它们往往忽视了其他模式在增强整体用户体验方面的潜力。我们提出了FaceChat,一个基于网络的对话框架,使情感敏感和面对面的对话。通过无缝集成自然语言处理、计算机视觉和语音处理方面的尖端技术,FaceChat提供了高度沉浸式和引人入胜的用户体验。FaceChat框架具有广泛的潜在应用,包括咨询,情感支持和个性化客户服务。该系统被设计为简单和灵活的平台,为未来的研究人员推进多模态对话系统领域。该代码可在https://github.com/qywu/FaceChat上公开获取。
2023-03-08 cs.AI cs.CL
Knowledge-graph based Proactive Dialogue Generation with Improved Meta-Learning
Xi'an Jiaotong University(西安交通大学)
基于知识图谱的对话系统可以缩小知识候选,以用于使用先验信息来生成信息丰富的和多样的响应,例如,三重属性或图形路径。然而,大多数现有的知识图谱(KG)覆盖了不完整的特定领域知识。为了克服这一缺点,我们提出了一个基于知识图谱的主动对话生成模型(KgDg)的三个组成部分,改进的模型不可知的Meta学习算法(MAML),知识三元组嵌入的知识选择,知识感知的主动响应生成器。对于知识三元组的嵌入和选择,我们将其表述为一个句子嵌入的问题,以更好地捕捉语义信息。我们改进的MAML算法能够从有限数量的知识图谱中学习一般特征,这也可以快速适应具有未知知识三元组的对话生成。在知识感知对话数据集(DuConv)上进行了大量的实验。结果表明,KgDg适应快速和良好的知识图谱为基础的对话生成,并优于国家的最先进的基线。
2020-04-19 cs.CL
Training Neural Response Selection for Task-Oriented Dialogue Systems
PolyAI Limited(PolyAI有限公司)
尽管它们在聊天机器人文献中很受欢迎,但基于检索的模型对面向任务的对话系统的影响不大,其应用的主要障碍是大多数面向任务的对话任务的低数据机制。受语言建模中预训练最近成功的启发,我们提出了一种有效的方法,用于在面向任务的对话中部署响应选择。为了训练面向任务的对话任务的响应选择模型,我们提出了一种新的方法:1)在大型通用领域对话语料库上预训练响应选择模型;然后2)针对目标对话领域微调预训练模型,仅依赖于小的领域内数据集来捕获给定对话领域的细微差别。我们的评估六个不同的应用领域,从电子商务到银行,证明了所提出的培训方法的有效性。
2019-06-07 cs.CL
RT-KGD: Relation Transition Aware Knowledge-Grounded Dialogue Generation
Soochow University(苏州大学);IFLYTEK Research(讯飞研究院);Fudan University(复旦大学)
将对话系统与外部知识结合起来是提高答复质量的一个有希望的方法。现有的大多数作品都采用知识图谱(KG)作为外部资源,关注对话最后一句话中实体对上下文理解和响应生成的贡献。然而,知识隐含在多轮背景下,在幼儿园的关系之间的过渡性的相关性是未充分探讨。为此,我们提出了一个关系迁移感知的知识为基础的对话生成模型(RT-KGD)。具体而言,受人类会话的潜在逻辑的启发,我们的模型集成了对话级关系转换与回合级实体语义信息。通过这种方式,知识之间的相互作用被认为产生了丰富的线索,用于预测适当的知识并产生连贯的反应。自动评估和手动评估的实验结果表明,我们的模型优于国家的最先进的基线。
2022-07-17 cs.AI cs.CL
Recent Neural Methods on Slot Filling and Intent Classification for Task-Oriented Dialogue Systems: A Survey
University of Trento(特伦托大学);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
近年来,在深度学习技术和对会话AI的高需求的推动下,已经提出了各种方法来解决在面向任务的对话系统中引出和理解用户需求的能力。我们专注于两个核心任务,插槽填充(SF)和意图分类(IC),并调查如何基于神经的模型已经迅速发展,以解决自然语言理解对话系统。我们介绍了三种神经体系结构:独立模型,分别对SF和IC进行建模,联合模型,同时利用两个任务的共同利益,以及迁移学习模型,将模型扩展到新的领域。我们讨论了SF和IC的研究现状,并强调了仍然需要注意的挑战。
2020-11-01 cs.CL
Link the World: Improving Open-domain Conversation with Dynamic Spatiotemporal-aware Knowledge
Baidu Inc.(百度公司)
让聊天机器人像人类一样在对话中感知世界是一个至关重要的挑战,世界可能包含动态知识和时空状态。最近的一些进展试图将对话系统链接到静态知识库或搜索引擎,但它们不包含对话所需的所有世界信息。相反,我们提出了一种新的方法来改善对话系统使用时空感知的动态知识。我们利用服务信息作为对话系统连接世界的一种方式。该系统根据对话上下文和时空状态主动构建请求,获取服务信息,然后生成感知世界的响应。为了实现这种方法,我们收集了DuSinc,这是一个开放领域的人与人对话数据集,参与者可以访问该服务以获取对话响应所需的信息。通过自动评估和人工评估,我们发现服务信息显著提高了对话系统的一致性、信息性、真实性和可理解性,使其表现得更像人类。与没有时空感知动态知识的预训练模型相比,整体会话级别得分提高了60.87%。收集数据集和方法将是开源的。
2022-09-05 cs.AI cs.CL
CDialog: A Multi-turn Covid-19 Conversation Dataset for Entity-Aware Dialog Generation
Indian Institute of Technology Patna(印度理工学院巴特那分校)
开发对话代理与患者互动并提供临床建议吸引了许多研究人员的兴趣,特别是在COVID-19大流行的情况下。另一方面,端到端基于神经的对话系统的训练受到缺乏多轮医学对话语料库的阻碍。我们首次尝试发布一个名为CDialog的与Covid-19疾病相关的高质量多轮医疗对话数据集,其中包括从在线医疗咨询网站收集的超过1000个对话。我们用七种不同类别的医学实体来注释对话的每个话语,包括疾病,症状,医学测试,病史,补救措施,药物和其他方面作为附加标签。最后,我们提出了一种新的神经医疗对话系统的基础上的CDialog数据集,以推进未来的研究开发自动化医疗对话系统。我们使用预先训练的语言模型进行对话生成,将注释的医疗实体,以生成一个虚拟医生的响应,解决病人的查询。实验结果表明,所提出的对话模型的性能更好地补充实体信息,从而可以提高响应质量。
2022-11-16 cs.AI cs.CL
Context-Aware Language Modeling for Goal-Oriented Dialogue Systems
UC Berkeley(加州大学伯克利分校)
面向目标的对话系统面临着流畅的语言生成和特定任务控制之间的权衡。虽然使用大语言模型的监督学习能够产生逼真的文本,但如何在不牺牲语言质量的情况下引导这些响应完成特定任务仍然是一个悬而未决的问题。在这项工作中,我们制定了面向目标的对话作为一个部分观察马尔可夫决策过程,解释的语言模型的动态和政策的代表。这种观点使我们能够扩展基于学习的控制技术,如任务重新标记,以获得一种简单有效的方法,以目标感知的方式微调语言模型,从而显着提高任务性能。我们还介绍了一些训练策略,这些策略可以更好地将模型集中在手头的任务上。我们评估我们的方法,上下文感知语言模型(CALM),在一个实际的航班预订任务,使用AirDialogue。从经验上看,CALM在任务成功率方面比最先进的方法高出7%,与人类水平的任务性能相匹配。
2022-04-22 cs.AI cs.CL
Why Do Neural Dialog Systems Generate Short and Meaningless Replies? A Comparison between Dialog and Translation
Software Institute, Peking University(北京大学软件研究所);David R. Cheriton School of Computer Science, University of Waterloo(滑铁卢大学大卫·切瑞顿计算机科学学院);Toutiao AI Lab(今日头条人工智能实验室)
这篇论文提出了一个问题:为什么神经对话系统会产生简短而无意义的回复?我们推测,在对话系统中,一个话语可能有多个同样合理的答复,导致神经网络在对话应用中的不足。我们提出了一个系统的方法来模仿对话场景中的机器翻译系统,并设法再现的现象,产生短,意义不大的句子在翻译设置,我们的猜想的证据。
2017-12-06 cs.CL cs.LG
DialoKG: Knowledge-Structure Aware Task-Oriented Dialogue Generation
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);University of Hamburg(汉堡大学)
面向任务的对话生成具有挑战性,因为基础知识往往是动态的,很难有效地将知识纳入学习过程。在这种情况下,产生类似人类和信息的反应特别具有挑战性。最近的研究主要集中在各种知识蒸馏方法,其中知识库中的事实之间的潜在关系没有被有效地捕获。在本文中,我们更进一步,并证明如何结构信息的知识图谱可以提高系统的推理能力。具体来说,我们提出了DialoKG,一种新的面向任务的对话系统,有效地将知识纳入语言模型。我们提出的系统将关系知识视为一个知识图谱,并引入(1)结构感知的知识嵌入技术,(2)知识图谱加权注意掩蔽策略,以方便系统在对话生成过程中选择相关信息。实证评估表明,DialoKG在几个标准的基准数据集上的最先进的方法的有效性。
2022-04-19 cs.AI cs.CL
Exploring Personality-Aware Interactions in Salesperson Dialogue Agents
National Taiwan University(台湾大学)
本研究通过大规模测试,基于MBTI人格类型评估销售对话代理的交互质量与性能,揭示人格对交互动态和任务完成率的影响,并发布通用用户模拟器以支持个性化对话系统研究。
2025-04-25 cs.AI cs.CL
SEntNet: Source-aware Recurrent Entity Network for Dialogue Response Selection
University of Amsterdam(阿姆斯特丹大学);Microsoft Research AI(微软研究院AI)
对话应答选择是面向任务的对话系统的重要组成部分,它的目的是在给定的对话语境中预测一个合适的应答。从复杂、长时间的对话上下文中获取关键信息是具有挑战性的,特别是当不同的信息源可用时,例如,用户的话语、系统的响应以及从知识库(KB)检索的结果。以前的工作忽略了信息源的类型,并合并源的响应选择。然而,占的来源类型可能会导致显着的差异,在响应选择的质量。我们提出了源感知的递归实体网络(SENTNet),这是知道不同的信息源的响应选择过程。SENTNet通过使用特定于源的存储器来利用来自不同信息源(用户、系统和知识库)的单词使用和句法结构的差异来实现这一点。实验结果表明,SEntNet在Dialog bAbI数据集上获得了91.0%的准确率,比之前的工作高出4.7%。在DSTC 2数据集上,SEntNet获得了41.2%的准确率,击败了2.4%的不知道源的循环实体网络。
2019-09-16 cs.AI cs.CL cs.IR
WHAT, WHEN, and HOW to Ground: Designing User Persona-Aware Conversational Agents for Engaging Dialogue
SK Telecom(SK电讯);University of Southern California(南加州大学)
本文针对个性化开放域对话中的 WWH 问题,提出加权数据集混合、负向画像信息增强和响应类型标签等方法,在保持对话流畅性的同时提升 grounded 响应的可控性与可解释性。
2023-07-03 cs.AI cs.CL
Knowledge-Aware Graph-Enhanced GPT-2 for Dialogue State Tracking
University of Cambridge(剑桥大学)
对话状态跟踪是面向多领域任务的对话系统的核心,负责从用户话语中提取信息。我们提出了一种新的混合体系结构,增强GPT-2的表示来自图注意力网络的方式,允许因果,顺序预测槽值。该模型架构捕获跨域的时隙间关系和依赖性,否则这些关系和依赖性可能在顺序预测中丢失。我们报告了MultiWOZ 2.0在强大的GPT-2基线下状态跟踪性能的改进,并研究了一个简化的稀疏训练场景,其中DST模型仅在会话级注释上训练,但在回合级别进行评估。我们进一步报告了详细的分析,以证明图模型在DST中的有效性,通过显示所提出的图模块捕获插槽间的依赖关系,并提高对多个域共同的值的预测。
2021-09-23 cs.CL cs.LG
Audio Visual Scene-Aware Dialog Generation with Transformer-based Video Representations
NTT Computer and Data Science Laboratories, NTT Corporation(日本电信电话株式会社计算机与数据科学实验室)
已经有许多尝试来构建可以响应关于给定视听信息的问题的多模态对话系统,并且这种系统的代表性任务是视听场景感知对话(AVSD)。大多数传统的AVSD模型采用基于卷积神经网络(CNN)的视频特征提取器来理解视觉信息。虽然CNN倾向于获得时间和空间局部信息,但全局信息对于提高视频理解也至关重要,因为AVSD需要长期的时间视觉依赖性和整体视觉信息。在这项研究中,我们应用了基于变换器的视频特征,该特征可以比基于CNN的特征更有效地捕获时间和空间全局表示。我们的AVSD模型及其基于transformer的功能在答案生成方面获得了更高的客观性能分数。此外,我们的模型在DSTC 10中获得了接近人类答案的主观分数。我们观察到,基于transformer的视觉特征对AVSD任务是有益的,因为我们的模型倾向于正确回答需要时间和空间上广泛的视觉信息的问题。
2022-02-21 cs.CL cs.CV
Chat as Expected: Learning to Manipulate Black-box Neural Dialogue Models
Michigan State University(密歇根州立大学)
近年来,基于神经网络的对话系统在我们日益数字化的社会中变得无处不在。然而,由于其固有的不透明性,最近提出的一些关于使用神经模型的担忧开始受到重视。事实上,有意或无意的行为都可能导致对话系统产生不适当的反应。因此,在本文中,我们研究了我们是否可以学习制作输入句子,从而导致黑盒神经对话模型被操纵,使其输出包含目标词或匹配目标句子。我们提出了一个基于强化学习的模型,可以自动生成这样的所需的输入。在一个流行的训练有素的最先进的神经对话模型上进行的大量实验表明,我们的方法可以成功地找到所需的输入,在相当大的一部分情况下,导致目标输出。因此,我们的工作揭示了神经对话模型被操纵的潜力,这激发并打开了开发策略来保护它们的大门。
2020-05-27 cs.AI cs.CL
Causal-aware Safe Policy Improvement for Task-oriented dialogue
Salesforce Research(赛富时研究院)
最近强化学习(RL)在解决复杂任务方面的成功通常归功于其探索和利用训练环境的能力。样本效率通常不是问题,因为便宜的模拟器可用于对策略上的数据进行采样。另一方面,面向任务的对话通常是从使用人类演示收集的离线数据中学习的。收集不同的演示并注释它们是昂贵的。不幸的是,使用在非政策数据上训练的RL方法容易出现偏差和泛化问题,这进一步加剧了人类响应的随机性和对话管理系统的非马尔可夫信念状态。为此,我们提出了一个面向任务的对话策略学习的批量强化学习框架:因果感知安全策略改进(CASPI)。这种方法保证了对话策略的性能,并根据人类响应背后的意图来学习塑造奖励,而不仅仅是模仿演示数据;这种与批量RL的结合有助于整体提高框架的样本效率。我们证明了这个框架的有效性对话上下文到文本生成和端到端的对话任务的Multiwoz2.0数据集。在这两种情况下,所提出的方法在这些指标上优于现有技术。在端到端的情况下,我们的方法只训练了10%的数据,在四个评估指标中有三个能够超过当前状态。
2021-03-10 cs.AI cs.CL cs.LG
Fractional Decay KV-Cache: Ownership-Aware Memory Management for Improved Inference Relevancy in Dialog Systems
NetApp Inc(NetApp公司)
提出FD-KVC算法,通过双通道评分机制实现对话系统KV缓存的所有权感知内存管理,在多轮对话场景中多项指标优于H2O,适配新话题更快且话题多样性更高。
2026-08-20 cs.AI cs.CL
Learning to Memorize in Neural Task-Oriented Dialogue Systems
The Hong Kong University of Science and Technology(香港科技大学)
在这篇论文中,我们利用神经复制机制和记忆增强的神经网络(MANNs)来解决神经任务导向对话学习的挑战。我们通过在多域对话状态跟踪、基于检索的对话系统和基于生成的对话系统中实现良好的性能来展示我们的策略的有效性。我们首先提出了一个可转移的对话状态生成器(TRADE),利用其复制机制,摆脱对话本体和领域之间的知识共享。我们还评估看不见的域对话状态跟踪,并表明,贸易使zero-shot对话状态跟踪,可以适应新的Few-Shot域,而不会忘记以前的域。第二,我们利用人工神经网络来改善基于检索的对话学习。他们能够捕捉对话顺序的依赖关系,并记住长期的信息。我们还提出了一个记录的delexicalization复制策略,以取代真正的实体值与有序的实体类型。我们的模型被证明超过其他检索基线,特别是当对话有大量的回合。最后,我们用两个模型来处理基于生成的对话学习,即内存到序列(Mem2Seq)和全局到局部内存指针网络(GLMP)。Mem2Seq是第一个将多跳内存注意力与复制机制相结合的模型。GLMP进一步引入了响应草图和双指针复制的概念。我们表明,GLMP实现了最先进的性能对人类的评价。
2019-05-19 cs.AI cs.CL
Continuously Learning Neural Dialogue Management
University of Cambridge(剑桥大学)
我们描述了一个两步的方法,在面向任务的口语对话系统的对话管理。提出了一个统一的神经网络框架,使系统能够首先通过监督从一组对话数据中学习,然后通过强化学习不断改善其行为,所有这些都使用基于梯度的算法在一个单一的模型上。实验表明,监督模型的有效性,在基于语料库的评价,与用户模拟,并与付费人类科目。强化学习的使用进一步提高了模型在两种交互式环境中的性能,特别是在高噪声条件下。
2016-06-08 cs.CL cs.LG
MedDG: An Entity-Centric Medical Consultation Dataset for Entity-Aware Medical Dialogue Generation
Sun Yat-sen University(中山大学);Hong Kong University of Science and Technology(香港科技大学);Hong Kong Polytechnic University(香港理工大学);Tencent Jarvis Lab(腾讯天衍实验室)
开发会话代理以与患者互动并提供主要临床建议,由于其巨大的应用潜力,特别是在COVID-19大流行时期,引起了越来越多的关注。然而,端到端的基于神经的医学对话系统的训练受到医学对话语料数量不足的制约。在这项工作中,我们首次尝试构建并发布了一个与12种常见胃肠道疾病相关的大规模高质量医学对话数据集MedDG,从在线健康咨询社区收集了超过17 K的对话。五种不同类别的实体,包括疾病,症状,属性,测试和药物,在MedDG的每个对话中作为附加标签进行注释。为了推动未来构建专家敏感的医学对话系统的研究,本文提出了两种基于MedDG数据集的医学对话任务。一个是下一个实体预测,另一个是医生响应生成。为了对这两个医学对话任务有一个清晰的理解,我们实现了几个最先进的基准,并设计了两个对话模型,进一步考虑了预测的实体。实验结果表明,预训练的语言模型和其他基线在我们的数据集中表现不佳的两个任务上挣扎,并且可以在辅助实体信息的帮助下提高响应质量。从人类的评价,简单的检索模型优于几个国家的最先进的生成模型,这表明仍然有很大的改进空间,产生医学上有意义的反应。
2022-07-31 cs.AI cs.CL
Using Domain Knowledge to Guide Dialog Structure Induction via Neural Probabilistic Soft Logic
UC Santa Cruz(加州大学圣克鲁兹分校);Google Research(谷歌研究院);Harvard University(哈佛大学)
本文提出神经符号方法NEUPSL DSI,将符号知识注入生成神经模型的潜在空间,以解决对话结构归纳在有限数据和分布偏移下表现不佳的问题,并在多个数据集和设置下实现一致性能提升。
2024-03-26 cs.CL cs.LG
Leveraging Topics and Audio Features with Multimodal Attention for Audio Visual Scene-Aware Dialog
Intel Labs(英特尔研究院)
随着人工智能(AI)、智能虚拟助理(IVA)(如Alexa、Google Home等)的最新进展,已经成为许多家庭中无处不在的一部分。目前,这样的IVA大多是基于音频的,但展望未来,我们正在目睹视觉,语音和对话系统技术的融合,这些技术使IVA能够学习话语的视听基础。这将使代理能够与用户进行有关其周围的对象,活动和事件的对话。在这项工作中,我们提出了三个主要的架构探索的视听场景感知对话(AVSD):1)调查“主题”的对话作为一个重要的上下文特征的对话,2)探索多模态注意力机制在响应生成过程中,3)将端到端的音频分类ConvNet,AclNet,到我们的架构。我们讨论了详细的分析实验结果,并表明我们的模型变化优于基线系统的AVSD任务。
2019-12-20 cs.CL cs.MM cs.SD
Policy-Driven Neural Response Generation for Knowledge-Grounded Dialogue Systems
Amazon Alexa AI(亚马逊 Alexa 人工智能)
开放域对话系统旨在产生相关、信息丰富和吸引人的回应。Seq2seq神经响应生成方法没有明确的机制来控制所生成的响应的内容或风格,并且经常导致无信息的话语。在本文中,我们提出了使用对话策略计划的内容和风格的目标响应的形式的行动计划,其中包括相关的对话上下文,有针对性的对话行为,主题信息等知识句的行动计划内的属性自动注释公开发布的主题聊天数据集。我们的条件神经反应发生器上的行动计划,然后实现为目标的话语在回合和句子水平。我们还研究了不同的对话政策模型,以预测给定对话背景下的行动计划。通过自动化和人工评估,我们测量生成的响应的适当性,并检查生成模型是否确实学会实现给定的行动计划。我们证明,一个基本的对话政策,在句子层面上产生更好的反应,在比较转向水平生成以及基线模型,没有行动计划。此外,基本对话政策还具有可控性的附加效果。
2020-08-24 cs.AI cs.CL
EDA: Enriching Emotional Dialogue Acts using an Ensemble of Neural Annotators
University of Hamburg(汉堡大学)
情感和对话行为的识别丰富了会话分析,有助于构建自然的对话系统。情感解读使我们理解情感,而对话行为则反映话语的意图和施为功能。然而,大多数文本和多模态会话情感语料库只包含情感标签,而不包含对话行为。为了解决这个问题,我们建议使用一个在对话行为语料库上训练的各种递归神经模型的池,有上下文和没有上下文。这些神经模型用对话行为标签标注情感语料库,并且集成标注器提取最终的对话行为标签。我们标注了两个可访问的多模态情感语料库:IEMOCAP和MELD。我们分析了情感和对话行为标签的共现,发现了特定的关系。例如,接受/同意对话行为经常伴随着喜悦的情绪、悲伤的道歉和喜悦的感谢发生。我们将情感对话行为(EDA)语料库公开提供给研究界进行进一步的研究和分析。
2020-03-16 cs.AI cs.CL cs.RO
UniConv: A Unified Conversational Neural Architecture for Multi-domain Task-oriented Dialogues
Singapore Management University(新加坡管理大学);Salesforce Research Asia(Salesforce亚洲研究院);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
建立一个端到端的会话代理多领域的面向任务的对话一直是一个开放的挑战,主要有两个原因。首先,跟踪多个域的对话状态是不平凡的,因为对话代理必须从所有相关域获得完整的状态,其中一些可能具有域之间的共享槽以及仅针对一个域的唯一槽。其次,对话代理还必须处理跨域的各种类型的信息,包括对话上下文、对话状态和数据库,以生成对用户的自然响应。与现有的通常被设计为单独训练每个模块的方法不同,我们提出了“UniConv”--一种用于多领域面向任务的对话中的端到端会话系统的新型统一神经架构,其被设计为联合训练(i)通过独立地在槽和域级别学习信号来跟踪对话状态的双层状态跟踪器,以及(ii)联合对话行为和响应生成器,其合并来自各种输入组件的信息并且同时对对话行为和目标响应进行建模。我们在MultiWOZ2.1基准测试中进行了对话状态跟踪、上下文到文本和端到端设置方面的全面实验,实现了优于竞争基准的性能。
2020-11-15 cs.CL cs.LG
Beyond Task-Oriented and Chitchat Dialogues: Proactive and Transition-Aware Conversational Agents
Hanyang University(汉阳大学);Hyundai Motor Company(现代汽车公司)
针对任务型对话与闲聊融合不足的问题,本研究提出支持双向模式切换的TACT数据集及两个新评估指标,结合DPO训练的模型在相关任务上表现优异,推动了具备主动性与转换感知能力的对话智能体研发。
2025-11-11 cs.AI cs.CL
End-to-End Task-Completion Neural Dialogue Systems
Microsoft Research(微软研究院);National Taiwan University(台湾大学)
模块化任务完成对话系统的主要缺点之一是每个模块都是单独训练的,这带来了几个挑战。例如,下游模块受到较早模块的影响,并且整个系统的性能对于累积的误差不具有鲁棒性。本文提出了一种新的端到端的学习框架任务完成对话系统,以解决这些问题。我们的神经对话系统可以直接与结构化数据库交互,以帮助用户访问信息和完成某些任务。基于强化学习的对话管理器提供稳健的能力来处理由对话系统的其他组件引起的噪声。我们在电影票预订领域的实验表明,我们的端到端系统不仅优于模块化的对话系统基线的客观和主观的评价,但也是强大的噪音,几个系统的实验证明了不同的错误粒度和特定的语言理解模块的速率。
2018-02-11 cs.AI cs.CL
Unsupervised Discrete Sentence Representation Learning for Interpretable Neural Dialog Generation
Language Technologies Institute(语言技术研究所);Carnegie Mellon University(卡内基梅隆大学)
编码器-解码器对话模型是用于在复杂领域中构建对话系统的最突出的方法之一。然而,它是有限的,因为它不能输出可解释的行动,在传统的系统,这阻碍了人类理解其生成过程。我们提出了一个无监督的离散句子表示学习方法,可以与任何现有的编码器-解码器对话模型,可解释的响应生成。在变分自编码器(VAE)的基础上,我们提出了两种新的模型DI-VAE和DI-VST,它们改进了VAE,并且可以通过自动编码或上下文预测来发现可解释的语义。我们的方法已经在真实世界的对话数据集上进行了验证,以发现语义表示并增强具有可解释生成的编码器-解码器模型。
2018-04-22 cs.AI cs.CL