Deep Reinforcement Learning For Modeling Chit-Chat Dialog With Discrete Attributes
Mila, Université de Montréal(蒙特利尔大学Mila);Google Research(谷歌研究院)
开放域对话系统面临的挑战是重复的,并产生通用的反应。在本文中,我们表明,通过调节可解释的离散对话属性和组成属性的响应生成,它有助于提高模型的困惑,并导致不同的和有趣的非冗余的响应。我们建议将对话属性预测公式化为强化学习(RL)问题,并使用策略梯度方法来优化使用长期奖励的话语生成。与现有的RL方法,制定令牌预测作为一个政策,我们的方法通过限制动作空间对话属性,从而降低了策略优化的复杂性,使策略优化更实用和样本效率。我们证明了这一点与实验和人类的评价。
2019-09-14 cs.CL cs.LG
Simulated Chats for Building Dialog Systems: Learning to Generate Conversations from Instructions
IBM Research AI(IBM研究院);International Institute of Information Technology, Bangalore(班加罗尔国际信息技术学院)
流行的对话数据集(如MultiWOZ)是通过向群组工作人员提供以自然语言表达的指令来创建的,该指令描述了要完成的任务。人群工作者扮演用户和代理的角色,生成对话来完成预订餐厅餐桌,叫出租车等任务。在本文中,我们提出了一种数据创建策略,使用预先训练好的语言模型,GPT 2,通过创建一个用户机器人和一个代理机器人来模拟人群工作者之间的交互。我们训练模拟器时,只使用一小部分实际人群生成的对话及其相应的指令。我们证明,通过使用模拟数据,我们在两个公开可用的数据集-MultiWOZ数据集和Persona聊天数据集上实现了低资源设置的显着改进。
2021-10-20 cs.AI cs.CL
Instruct Once, Chat Consistently in Multiple Rounds: An Efficient Tuning Framework for Dialogue
The Hong Kong Polytechnic University(香港理工大学);Sichuan University(四川大学)
针对传统微调忽略对话多轮交互与角色差异导致一致性不佳的问题,提出基于双适配器和轮次级记忆缓存机制的Midi-Tuning框架,分别建模智能体与用户角色,显著提升了多轮对话一致性。
2024-05-30 cs.AI cs.CL
Discovering Conversational Dependencies between Messages in Dialogs
University of Waterloo(滑铁卢大学);The Ohio State University(俄亥俄州立大学)
我们调查的任务,推断一对一的在线聊天,这已成为最流行的形式之一的客户服务的消息之间的会话依赖关系。我们提出了一种新的概率分类器,利用会话,词汇和语义信息。该方法是经验评估的一组客户服务聊天记录从中国电子商务网站。它优于启发式基线。
2016-12-08 cs.CL
Chat-Ghosting: A Comparative Study of Methods for Auto-Completion in Dialog Systems
Indian Institute of Technology Kharagpur(印度理工学院卡里格普尔分校);Microsoft Research(微软研究院);Microsoft(微软)
本研究针对对话系统自动补全(Chat-Ghosting)问题,比较了多种方法,提出熵动态早停策略,发现统计模型在已见前缀上更优,神经模型在未见查询上更佳,且对话上下文显著提升效果。
2025-07-08 cs.CL
Towards human-like spoken dialogue generation between AI agents from written dialogue
rinna Co., Ltd.(Rinna株式会社)
针对从书面对话生成类人口语对话的难题,研究提出基于离散token的CHATS系统,可同时生成双方语音、实现自然话轮转换,效果优于基线,对话更互动流畅且清晰可懂。
2023-10-02 cs.CL cs.LG cs.SD
Contextual Topic Modeling For Dialog Systems
Amazon(亚马逊)
会话主题的准确预测可以是用于创建连贯和吸引人的对话系统的有价值的信号。在这项工作中,我们专注于上下文感知的主题分类方法,用于识别自由形式的人类聊天机器人对话中的主题。我们扩展了以前的工作,神经主题分类和无监督主题关键字检测,将会话上下文和对话行为功能。在注释数据上,我们表明,将上下文和对话行为导致主题分类准确率相对提高35%,主题经常跨越多个话语的会话交互的无监督关键字检测召回率提高11%。我们发现,主题深度等主题指标与连贯性和参与度等对话评价指标高度相关,这意味着会话主题模型可以预测用户满意度。我们检测对话主题和关键字的工作可以用来引导聊天机器人进行连贯的对话。
2018-10-19 cs.CL
I love your chain mail! Making knights smile in a fantasy game world: Open-domain goal-oriented dialogue agents
Language Technologies Institute, Carnegie Mellon University(卡内基梅隆大学语言技术研究所)
对话研究倾向于区分闲聊和目标导向的任务。虽然前者可以说是更自然的,有更广泛的语言使用,后者有更清晰的指标和一个直接的学习信号。人类毫不费力地将两者结合起来,例如,为了交换信息或引起特定的反应而进行闲聊。在这里,我们弥合了这两个领域之间的鸿沟,在一个丰富的多玩家基于文本的幻想环境中,代理和人类参与行动和对话。具体来说,我们训练一个目标导向的模型与强化学习对模仿学习的"闲聊“模型有两种方法:该政策要么学会选择一个主题,要么学会选择一个话语给定的前K话语从闲聊模型。我们表明,这两种模型都优于逆模型基线,可以自然地与他们的对话伙伴,以实现目标。
2020-02-10 cs.AI cs.CL stat.ML
Understanding Common Ground Misalignment in Goal-Oriented Dialog: A Case-Study with Ubuntu Chat Logs
University of Maryland, College Park(马里兰大学 College Park 分校)
本文以 Ubuntu IRC 技术支持日志为案例,分析共同基础错位导致的对话摩擦及其与任务成功的关系,并评估 LLM 对不同难度摩擦实例的识别能力。
2025-07-26 cs.CL
DiagGPT: An LLM-based and Multi-agent Dialogue System with Automatic Topic Management for Flexible Task-Oriented Dialogue
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对现有大语言模型在复杂诊断类任务型对话中表现不足的问题,本文提出具备自动主题管理功能的多智能体系统DiagGPT,可拓展大模型的任务型对话适用场景、提升交互灵活性,实验验证其性能优异。
2024-04-15 cs.AI cs.CL
Effects of Naturalistic Variation in Goal-Oriented Dialog
IBM Research(IBM研究公司/IBM研究院(注:IBM Research 通常译为IBM研究部门或IBM研究院,此处按常见译法提取机构))
用于评估端到端神经对话系统性能的现有基准缺乏一个关键组成部分:人类对话中存在的自然变化。大多数数据集都是通过众包构建的,众包工作人员在扮演用户/代理角色时遵循固定的指令模板。这导致了直接的,有点常规的,并且大多数情况下没有麻烦的对话,因为人群工作人员不认为代表真实用户自然发生的全部动作。在这项工作中,我们研究了自然主义的变化对两个面向目标的数据集:bAbI对话任务和斯坦福多域数据集(SMD)的影响。我们还提出了新的和更有效的测试平台,这两个数据集,由用户引入自然的变化。我们观察到,最近最先进的端到端神经方法(如BossNet和GLMP)在两个数据集上的性能显着下降(SMD上的Ent.F1超过60%,bAbI任务的每对话准确率为85%)。
2020-10-05 cs.AI cs.CL
Dual Task Framework for Improving Persona-grounded Dialogue Dataset
Yonsei University(延世大学);Seoul National University(首尔大学)
本文介绍了一种简单而有效的以数据为中心的方法,用于改进基于角色的对话代理。以前以模型为中心的方法无疑依赖于原始的众包基准数据集,如Persona-Chat。相比之下,我们的目标是在基准测试中修复注释工件,这适用于任何对话模型。具体来说,我们增加相关的人物角色,以改善对话数据集/代理,利用原始对偶结构的两个任务,预测对话响应和人物角色的基础上彼此。Persona-Chat上的实验表明,我们的方法在准确性方面比预训练的LM高出11.7个点。
2022-02-16 cs.AI cs.CL cs.LG
Personalizing Dialogue Agents: I have a dog, do you have pets too?
Montreal Institute for Learning Algorithms, MILA(蒙特利尔学习算法研究所(MILA));Facebook AI Research(脸书人工智能研究院)
闲聊模式有几个问题:他们缺乏特异性,没有表现出一致的个性,而且往往不是很迷人。在这项工作中,我们提出的任务,使闲聊更吸引人的条件配置文件信息。我们收集数据并训练模型,以(i)根据其给定的简档信息进行调节;以及(ii)关于他们正在与之交谈的人的信息,从而改善对话,如通过下一个话语预测所测量的。由于(ii)最初是未知的,我们的模型经过训练,使其合作伙伴参与个人话题,我们表明由此产生的对话可以用来预测对话者的个人资料信息。
2018-09-25 cs.AI cs.CL
Measuring and Controlling Instruction (In)Stability in Language Model Dialogs
Harvard University(哈佛大学);Northeastern University(东北大学)
提出定量基准评估语言模型对话中的指令稳定性,发现八轮对话内存在显著指令漂移,并基于注意力衰减分析提出轻量级方法 split-softmax 以有效控制该现象。
2024-07-25 cs.AI cs.CL cs.LG
Building a Conversational Agent Overnight with Dialogue Self-Play
Google AI(谷歌人工智能)
我们提出了机器对机器(M2M),一个框架相结合的自动化和众包,以快速引导端到端的对话代理在任意领域的目标为导向的对话。M2M仅通过任务模式和来自对话系统开发人员的API客户端扩展到新任务,但它也可以定制以满足特定于任务的交互。与用于数据汇集的绿野仙踪方法相比,M2M实现了显著对话流的更大多样性和覆盖率,同时保持了个体话语的自然性。在第一阶段中,模拟的用户机器人和领域不可知的系统机器人进行对话,以详尽地生成对话“大纲”,即模板话语及其语义解析的序列。在第二阶段,人群工作者提供对话的上下文重写,使话语更自然,同时保留其意义。整个过程可以在几个小时内完成。我们提出了一个新的语料库的3,000对话跨越2个领域收集与M2M,并提出与流行的对话数据集的表面形式和对话流的质量和多样性的比较。
2018-01-15 cs.AI cs.CL
Visual Dialog
Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学);UC Berkeley(加州大学伯克利分校);Virginia Tech(弗吉尼亚理工大学)
我们介绍了视觉对话的任务,这需要一个人工智能智能体举行一个有意义的对话与人类在自然,会话语言的视觉内容。具体来说,给定一个图像,一个对话历史,和一个关于图像的问题,代理必须在图像中的基础问题,从历史中推断上下文,并准确地回答问题。Visual Dialog从特定的下游任务中解脱出来,可以作为机器智能的一般测试,同时以视觉为基础,可以客观评估个人的反应和基准进度。我们开发了一种新的两人聊天数据收集协议,以管理一个大规模的可视化对话数据集(VisDial)。VisDial v0.9已经发布,包含1个对话框,10个问答对,来自COCO的约12万张图像,总共约120万个对话框问答对。我们为Visual Dialog引入了一系列神经编码器-解码器模型,其中包括3个编码器-后期融合,分层递归编码器和记忆网络-以及2个解码器(生成和判别),它们的性能优于许多复杂的基线。我们提出了一个检索为基础的评价协议的可视化对话,其中的人工智能智能体被要求排序的一组候选人的答案和评价指标,如人类反应的平均倒数排名。我们通过人类研究量化机器和人类在视觉对话任务上的表现之间的差距。把这一切放在一起,我们展示了第一个“视觉聊天机器人”!我们的数据集,代码,训练模型和可视化聊天机器人可在www.example.com上获得
2017-08-01 cs.AI cs.CL cs.CV