Aiming to Know You Better Perhaps Makes Me a More Engaging Dialogue Partner
University of Southern California(南加州大学);Netflix(奈飞)
已经有几次尝试为闲聊对话代理定义一个合理的动机,可以导致参与对话。在这项工作中,我们探索了一个新的方向,代理专门专注于发现有关其对话者的信息。我们通过定义一个量化指标来正式化这种方法。我们提出了一个算法,代理,以最大限度地提高它。我们验证的想法与人类的评价,我们的系统优于各种基线。我们证明,该指标确实与人类的判断一致性。
2018-08-21 cs.AI cs.CL
Opportunities and Challenges in Neural Dialog Tutoring
ETH AI Center(苏黎世联邦理工学院人工智能中心);The Chinese University of Hong Kong(香港中文大学);ETH Zürich(苏黎世联邦理工学院);TU Darmstadt(达姆施塔特工业大学)
设计对话导师一直具有挑战性,因为它涉及到建模人类导师所采用的多样化和复杂的教学策略。虽然最近在使用大语言模型(LLM)的神经会话系统中已经有了显著的进步,并且可用对话语料库的增长,但是对话辅导在很大程度上仍然不受这些进步的影响。在本文中,我们严格分析了各种生成语言模型的两个对话辅导数据集的语言学习使用自动和人工评估,以了解这些进步带来的新机遇,以及我们必须克服的挑战,以建立模型,将在现实的教育环境中使用。我们发现,虽然目前的方法可以建模辅导在受约束的学习场景时,要教的概念和可能的教师策略的数量很小,他们表现不佳,在约束较少的情况下。我们的人类质量评估表明,模型和地面实况注释在公平辅导方面表现出较低的性能,这衡量了学生的学习机会以及对话的参与程度。为了了解我们的模型在真实教学环境中的行为,我们使用专家注释器进行了用户研究,并在45%的对话中发现了大量的模型推理错误。最后,我们将我们的研究结果联系起来,以概述未来的工作。
2023-03-27 cs.AI cs.CL
Injecting Salesperson's Dialogue Strategies in Large Language Models with Chain-of-Thought Reasoning
National Taiwan University(台湾大学)
本文提出改进数据集SalesBot 2.0及基于思维链推理的新模型SalesAgent,通过策略性提示注入大语言模型常识与销售人员对话策略,有效提升了话题转换、意图理解与策略选择能力,增强了销售对话的连贯性与自然度。
2024-04-29 cs.AI cs.CL
Self-Emotion Blended Dialogue Generation in Social Simulation Agents
The University of Tokyo(东京大学);Couger Inc(库格公司)
本文研究 LLM 社会模拟智能体的自我情绪,通过策略预测、微调模型评估和多主题虚拟讨论实验,证明其可提升对话拟人度与自然性,并显著改变约半数决策。
2024-08-03 cs.AI cs.CL cs.CY
Decision-Oriented Dialogue for Human-AI Collaboration
UC Berkeley(加州大学伯克利分校);Microsoft Semantic Machines(微软语义机器)
本文提出面向决策的对话任务,构建三个日常决策环境,评估大型语言模型与人类协作的表现,发现其奖励远低于人类助手,并发布环境作为未来研究测试平台。
2024-05-05 cs.AI cs.CL
SGP-TOD: Building Task Bots Effortlessly via Schema-Guided LLM Prompting
The Chinese University of Hong Kong(香港中文大学);Microsoft Research(微软研究院)
研究提出SGP-TOD,一种基于LLM的模式引导提示框架,通过任务模式指导固定LLM生成回复,无需训练数据。在多个数据集上实现SOTA零样本性能,超越少样本方法,并可通过添加模式规则轻松适应新功能。
2023-05-15 cs.CL
M2D: Monolog to Dialog Generation for Conversational Story Telling
University of California, Santa Cruz(加州大学圣克鲁兹分校)
讲故事有许多不同的社会功能,例如,故事被用来说服,分享烦恼,建立共同的价值观,学习社会行为和娱乐。此外,故事通常是通过对话来讲述的,以前的工作表明,对话提供的信息比独白提供的信息更吸引人。在本文中,我们提出的算法转换成一个对话的讲故事,可以不同的方面讲故事,包括讲故事的人的个性的一个深表示。我们进行了几个实验,以测试对话式讲故事是否更吸引人,以及是否可以在扩展的讲故事对话中识别出与个性差异相对应的语言形式的自动生成的变体。
2017-08-24 cs.CL
From Long Videos to Engaging Clips: A Human-Inspired Video Editing Framework with Multimodal Narrative Understanding
University of Science and Technology of China(中国科学技术大学);ByteDance China(字节跳动中国)
针对现有自动视频编辑依赖文本线索、忽略视觉上下文导致输出不连贯的问题,提出融合多模态叙事理解的HIVE框架,通过场景分割拆分编辑子任务,还构建了DramaAD数据集,实验显示其性能优于基线,缩小了与人工编辑的质量差距。
2025-10-03 cs.CL cs.CV
Combining Search with Structured Data to Create a More Engaging User Experience in Open Domain Dialogue
University of California, Santa Cruz(加州大学圣克鲁兹分校)
构建复杂的开放域对话代理的最大挑战直接来自于正在进行的混合主动多回合对话的潜力,这种对话不遵循特定的计划或追求特定的固定信息需求。为了在这种情况下做出连贯的会话贡献,会话代理必须能够跟踪会话中讨论的实体的类型和属性,并知道它们是如何相关的。在某些情况下,智能体可以依靠结构化的信息源来帮助识别相关的语义关系并产生话轮,但在其他情况下,唯一可用的内容来自搜索,并且可能不清楚搜索结果和话语上下文之间的语义关系。另一个限制是系统必须实时地对正在进行的对话做出贡献。本文描述了我们为2017年Alexa Prize构建SlugBot的经验,并讨论了我们如何利用来自不同来源的搜索和结构化数据来帮助SlugBot生成对话轮并进行对话,其在半决赛用户评估期间的平均时长为8:17分钟。
2017-09-15 cs.CL
Engaging in Dialogue about an Agent's Norms and Behaviors
Tufts University(塔夫茨大学)
我们提出了一套能力,允许代理规划与道德和社会规范的时间逻辑表示,以回应查询其规范和行为的自然语言,并为人类用户添加和删除规范直接在自然语言。用户也可以对代理人的规范提出假设性的修改,并询问其效果。
2019-11-01 cs.AI cs.CL
CET2: Modelling Topic Transitions for Coherent and Engaging Knowledge-Grounded Conversations
National University of Singapore(新加坡国立大学);Bytedance(字节跳动)
本文提出 CET2 框架,通过建模有效话题转换逻辑并比较知识候选,平衡上下文连贯性与知识多样性,从而提升知识选择的准确率与跨话题泛化能力。
2024-03-04 cs.CL
Affect Recognition in Conversations Using Large Language Models
Heinrich Heine University Düsseldorf(杜塞尔多夫海因里希·海涅大学);University of Cambridge(剑桥大学);Tsinghua University(清华大学)
本文利用 IEMOCAP、EmoWOZ 和 DAIC-WOZ 评估 LLM 在闲聊、任务导向及临床对话中的情感识别能力,比较上下文学习与任务特定微调,并考察 ASR 错误的影响。
2024-08-05 cs.CL
Enhancing Personalized Multi-Turn Dialogue with Curiosity Reward
Google DeepMind(谷歌DeepMind);University of Washington(华盛顿大学);Google Research(谷歌研究);University of California, Berkeley(伯克利加州大学)
针对现有多轮对话个性化依赖用户历史、传统RLHF共情适配不足的问题,提出融入好奇心内在奖励的多轮RLHF方法,可主动推断用户特征,在推荐与教育场景提升个性化效果与泛化能力。
2025-10-02 cs.AI cs.CL
A Multi-Turn Emotionally Engaging Dialog Model
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
开放域对话系统(也称为聊天机器人)在自然语言处理中越来越受到关注。最近的一些工作旨在将情感信息纳入序列到序列神经对话建模中,使反应在情感上更丰富,而其他人则使用手工制作的规则来确定所需的情感反应。然而,他们并没有明确地学习人类对话中捕捉到的微妙的情感互动。在本文中,我们提出了一个多轮对话系统,旨在学习和产生情感反应,到目前为止,只有人类知道如何做。离线实验表明,与两个基线模型相比,该方法在困惑分数上表现最好。进一步的人类评估证实,我们的聊天机器人可以跟踪对话上下文,并在情感上产生更合适的反应,同时在语法上表现同样出色。
2020-06-24 cs.AI cs.CL cs.HC
WHAT, WHEN, and HOW to Ground: Designing User Persona-Aware Conversational Agents for Engaging Dialogue
SK Telecom(SK电讯);University of Southern California(南加州大学)
本文针对个性化开放域对话中的 WWH 问题,提出加权数据集混合、负向画像信息增强和响应类型标签等方法,在保持对话流畅性的同时提升 grounded 响应的可控性与可解释性。
2023-07-03 cs.AI cs.CL
FurChat: An Embodied Conversational Agent using LLMs, Combining Open and Closed-Domain Dialogue with Facial Expressions
Heriot-Watt University(赫瑞-瓦特大学);Alana AI
FurChat利用GPT-3.5和Furhat机器人,实现兼具开放与封闭域对话及面部表情的接待员具身代理,用于国家机器人馆访客互动。
2023-08-30 cs.AI cs.CL cs.HC
The Effects of Embodiment and Personality Expression on Learning in LLM-based Educational Agents
Bilkent University(比尔肯特大学);The University of Massachusetts Boston(马萨诸塞大学波士顿分校)
本研究扩展人格驱动对话框架,集成LLM对话支持,通过用户研究评估高/低外向性与宜人性人格及三种模型(纯对话、动画人物仅对话、动画人物对话加动画)对教育智能体人格感知与学习的影响,发现所有模型均获积极评价,高人格特质模型更具吸引力。
2024-06-24 cs.CL cs.GR
Image Chat: Engaging Grounded Conversations
Facebook AI Research(脸书人工智能研究院)
为了实现机器能够与人类进行对话的长期目标,我们的模型应该吸引他们说话伙伴的兴趣。基于图像的通信,其中基于给定的照片进行对话,是自然吸引人类的设置(Hu等人,2014年)。在这项工作中,我们研究了大规模的架构和数据集,以实现这一目标。我们使用最先进的图像和文本表示测试了一组神经架构,考虑了各种融合组件的方法。为了测试这些模型,我们收集了一个接地的人与人对话的数据集,其中要求说话者在给定的情感情绪或风格下扮演角色,因为使用这些特征也是表达的关键因素(Guo et al.,2019年)。我们的数据集Image-Chat由202 k个对话和202 k个图像组成,使用了215种可能的风格特征。自动指标和人工参与度评估显示了我们方法的有效性;特别是,我们在现有的IGC任务上获得了最先进的性能,并且我们的最佳性能模型在图像聊天测试集中几乎与人类相当(首选47.7%的时间)。
2020-04-29 cs.CL
Towards Coherent and Engaging Spoken Dialog Response Generation Using Automatic Conversation Evaluators
California Institute of Technology(加州理工学院);Google(谷歌);Uber AI(优步人工智能);University of Trento(特伦托大学);Alexa AI, Amazon(亚马逊Alexa人工智能)
基于编码器-解码器的神经架构充当端到端开放域对话系统中的最先进方法的基础。由于大多数这样的系统是用最大似然(MLE)目标训练的,因此它们遭受诸如缺乏可推广性和通用响应问题(即,可以是对大量用户话语的回答的系统响应,例如,“我不知道,也不想知道。”“在每一轮都对系统响应的相关性和有趣性进行明确反馈,这可以是一个有用的信号,可以通过选择不同方法的响应来缓解这些问题并提高系统质量。为了实现这一目标,我们提出了一个系统,该系统评估聊天机器人的反应,在每个对话轮的连贯性和参与。我们的系统提供了明确的回合级对话质量反馈,我们表明是高度相关的人的评价。为了表明将这种反馈纳入神经反应生成模型提高对话质量,我们提出了两种不同的和互补的机制,将显式反馈纳入神经反应生成模型:在训练过程中重新排序和直接修改损失函数。我们的研究表明,响应生成模型,结合这些组合的反馈机制,产生更多的参与和连贯的反应,在一个开放的域口语对话设置,显着提高响应质量使用自动和人工评估。
2019-11-22 cs.AI cs.CL cs.LG
A Short Survey of Pre-trained Language Models for Conversational AI-A NewAge in NLP
Macquarie University(麦考瑞大学);The University of Adelaide(阿德莱德大学)
构建一个能够自然地与人交流的对话系统是基于主体的计算中一个具有挑战性且有趣的问题。该领域的快速发展通常受到长期存在的数据稀缺问题的阻碍,因为这些系统需要从数量不足的特定任务数据集中学习语法、语法、决策和推理。最近引入的预训练语言模型有可能解决数据稀缺的问题,并通过生成上下文化的词嵌入带来相当大的优势。这些模型被认为是NLP中ImageNet的对应模型,并已被证明可以捕获语言的不同方面,例如层次关系,长期依赖和情感。在这篇简短的调查论文中,我们讨论了预训练语言模型领域的最新进展。我们还讨论了如何利用这些语言模型的优势来设计更有吸引力和更雄辩的会话代理。因此,本文旨在确定这些预先训练的模型是否可以克服与对话系统相关的挑战,以及如何利用它们的架构来克服这些挑战。还审议了对话系统领域的公开挑战。
2021-04-22 cs.AI cs.CL cs.IR
Interview: A Large-Scale Open-Source Corpus of Media Dialog
University of California, San Diego(加州大学圣地亚哥分校)
现有的会话数据集包括对话的书面代理或自然语音的小规模transmitting。我们介绍“采访”:一个大规模(105K对话)的媒体对话数据集收集的新闻采访成绩单。与现有的大规模会话数据代理相比,在我们的数据集上训练的语言模型在现有的口语对话数据集上表现出更好的零射击(zero-shot)域外性能,这证明了它在建模真实世界对话方面的有用性。“面试”包含每个回合的发言者角色注释,促进了引人入胜的响应式对话系统的开发。事实上,在两个对话任务上的实验表明,利用这些标签可以提高与说话者无关的基线的性能,并使模型能够在面试风格的对话中生成更具体和更好奇的回答。
2020-04-07 cs.CL
Neural Response Ranking for Social Conversation: A Data-Efficient Approach
Heriot-Watt University(赫瑞-瓦特大学)
“社交”对话系统的总体目标是支持关于各种各样的话题的引人入胜的、娱乐性的和冗长的对话,包括社交闲聊。除了原始的对话数据,用户提供的评级是最常见的信号,用于训练这样的系统,以产生引人入胜的反应。在本文中,我们表明,社会对话系统可以有效地从原始的未注释的数据进行训练。使用在2017年Alexa Prize挑战中收集的真实对话数据集,我们开发了一个神经排名器,用于选择对用户话语的“好”系统响应,即可能导致长时间和引人入胜的对话的响应。我们表明,(1)当训练以优化用户评级时,我们的神经排名器始终优于几个强基线;(2)当训练大量数据并仅使用对话长度作为目标时,排名器的表现优于使用评级训练的排名器-最终达到0.87的Precision@1。这一进步将使社交会话代理的数据汇集在未来变得更简单、更便宜。
2018-11-02 cs.CL
Alquist 4.0: Towards Social Intelligence Using Generative Models and Dialogue Personalization
Faculty of Electrical Engineering, CTU Prague(布拉格捷克理工大学电气工程学院);CTU Medialab(布拉格捷克理工大学媒体实验室);DTU Compute, Technical University of Denmark(丹麦技术大学计算学院);CIIRC, CTU Prague(布拉格捷克理工大学人工智能、机器人与控制论研究所)
开放域-对话系统Alquist的目标是进行连贯和引人入胜的对话,可以被认为是社会智力的基准之一。该系统的第四个版本是在Alexa Prize Socialbot Grand Challenge 4中开发的,带来了两个主要创新。第一个解决连贯性,第二个解决对话的连贯性。对于创新的一致性,我们提出了一种新的混合方法相结合的手设计的反应和生成模型。所提出的方法利用手工设计的对话,域外检测,和神经反应发生器。手工设计的对话引导用户完成高质量的对话流程。域外检测识别出用户偏离了预定义的流,并防止系统产生可能对意外的用户输入没有意义的脚本响应。最后,神经响应生成器基于对话的上下文生成响应,该响应正确地对意外的用户输入做出反应,并将对话返回到手动设计的对话的边界。我们提出的创新参与,主要是受到著名的探索-开发困境的启发。为了与对话伙伴进行一次引人入胜的对话,你必须了解他们的偏好和兴趣--探索。此外,为了吸引合作伙伴,我们必须利用我们已经学到的知识-剥削。在这项工作中,我们提出的原则和内部运作的开放域的对话系统Alquist开发的Alexa奖Socialbot大挑战4和实验,我们已经进行了评估。
2021-09-16 cs.AI cs.CL
Contextual Topic Modeling For Dialog Systems
Amazon(亚马逊)
会话主题的准确预测可以是用于创建连贯和吸引人的对话系统的有价值的信号。在这项工作中,我们专注于上下文感知的主题分类方法,用于识别自由形式的人类聊天机器人对话中的主题。我们扩展了以前的工作,神经主题分类和无监督主题关键字检测,将会话上下文和对话行为功能。在注释数据上,我们表明,将上下文和对话行为导致主题分类准确率相对提高35%,主题经常跨越多个话语的会话交互的无监督关键字检测召回率提高11%。我们发现,主题深度等主题指标与连贯性和参与度等对话评价指标高度相关,这意味着会话主题模型可以预测用户满意度。我们检测对话主题和关键字的工作可以用来引导聊天机器人进行连贯的对话。
2018-10-19 cs.CL
Advancing the State of the Art in Open Domain Dialog Systems through the Alexa Prize
Amazon(亚马逊)
构建开放域对话系统,允许用户就他们选择的主题进行引人入胜的对话是一项具有挑战性的任务。Alexa Prize于2016年推出,旨在解决实现自然,持续,连贯和引人入胜的开放领域对话的问题。在2018年的第二轮比赛中,大学团队通过在对话模型中使用上下文,利用知识图谱进行语言理解,处理复杂的话语,构建统计和分层对话管理器,以及利用用户响应的模型驱动信号来推进最先进的技术。2018年的比赛还包括为参赛者提供一套工具和模型,包括CoBot(会话机器人)工具包,主题和对话行为检测模型,对话评估器和敏感内容检测模型,以便参赛团队可以专注于构建知识丰富,连贯和引人入胜的多轮对话系统。本文概述了大学团队和Alexa Prize团队为实现推进对话式人工智能科学的共同目标而取得的进展。我们解决了几个关键的开放式问题,如会话语音识别,开放域自然语言理解,常识推理,统计对话管理,对话评估。这些合作努力使Alexa用户的体验得到了改善,平均评分为3.61分,中位持续时间为2分18秒,平均回合数为14.6,自2018年比赛启动以来分别增长了14%,92%和54%。对于会话语音识别,自Alexa Prize推出以来,我们的相对单词出错率提高了55%,相对实体出错率提高了34%。Socialbots在2018年的质量改善速度明显加快,部分原因是CoBot工具包的发布。
2018-12-27 cs.AI cs.CL
Neural Generation Meets Real People: Building a Social, Informative Open-Domain Dialogue Agent
Stanford NLP(斯坦福大学自然语言处理组)
我们介绍Chirpy Cardinal,一个开放域的社交聊天机器人。为了既能提供信息又能进行对话,我们的机器人以一种真实的、情感智能的方式与用户聊天。通过将受控神经生成与脚手架手写对话相结合,我们让用户和机器人轮流驱动对话,产生一种引人入胜的社交流畅体验。在Alexa Prize Socialbot Grand Challenge的第四次迭代中,Chirpy Cardinal每天处理数千次对话,在9个机器人中排名第二,平均用户评分为3.58/5。
2023-01-17 cs.CL
Linguistic Elements of Engaging Customer Service Discourse on Social Media
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
客户正在迅速转向社交媒体以获得客户支持。虽然这些平台上的品牌代理商有动机和善意地帮助和吸引客户,但如果他们对客户的最初回应与客户想要接收的特定语气,风格或主题不匹配,他们的努力往往会被忽视。对话的长度可以反映品牌对合作和帮助消费者的最初反应的努力和质量,即使对话的整体情绪可能不是很积极。因此,通过这项研究,我们的目标是弥合现有文献中的这一关键差距,通过分析语言的内容和风格方面,如表达的同理心,心理语言学特征,对话标签,量化个性化的话语,可以影响互动的参与和指标。本文表明,我们可以预测参与使用初始客户和品牌职位。
2022-12-24 cs.CL
SingaKids: A Multilingual Multimodal Dialogic Tutor for Language Learning
Nanyang Technological University, Singapore(新加坡南洋理工大学);National Institute of Education (NIE), Singapore(新加坡国家教育研究所);Institute for Infocomm Research (I 2 R), A*STAR, Singapore(新加坡资讯与通信研究院(I2R))
SingaKids是一个面向儿童语言学习的多语言多模态对话式导师系统,通过图片描述任务并结合密集图像描述、多语言对话、语音理解与生成技术,在四种语言中实现沉浸式教学,实证表明能有效提升不同水平学习者的学习效果。
2025-06-03 cs.AI cs.CL
HERALD: An Annotation Efficient Method to Detect User Disengagement in Social Conversations
Stanford University(斯坦福大学);Columbia University(哥伦比亚大学)
开放域对话系统有一个以用户为中心的目标:为人类提供一个引人入胜的对话体验。用户参与度是评估开放域对话系统的最重要指标之一,也可以用作实时反馈,以利于对话策略学习。现有的检测用户脱离的工作通常需要手工标记许多对话框样本。我们提出了HERALD,一个有效的注释框架,重新定义的训练数据注释过程作为一个去噪问题。具体来说,我们首先使用一组标记算法来自动标记训练样本,而不是手动标记训练样本。然后,我们使用Shapley算法对弱标记数据进行去噪。最后,我们使用去噪的数据来训练用户参与检测器。实验结果表明,HERALD显著提高了标注效率,在两个对话语料库中达到了86%的用户脱离检测准确率。
2021-06-02 cs.CL
Enterprise to Computer: Star Trek chatbot
University of Pennsylvania(宾夕法尼亚大学)
人机交互和人机交互受风格和内容的强烈影响。向聊天机器人添加角色使其更像人类,并有助于提供更好、更吸引人的用户体验。在这项工作中,我们提出了一个聊天机器人的设计,它通过将节目中的参考资料与其中虚构人物的奇特音调结合起来,捕捉到了《星际迷航》的“风格”。我们的企业到计算机机器人(E2 Cbot)使用两个递归神经网络编码器-解码器模型,以不同的方式对待星际迷航对话风格和一般对话风格。Star Trek对话框样式使用序列到序列(SEQ 2SEQ)模型(Sutskever等人,2014; Bahdanau等人,2014年,《星舰迷航记》正式上映。常规对话框样式使用Word Graph将SEQ 2SEQ模型的响应转移到Star Trek域中。我们评估机器人的困惑和单词重叠与星际迷航词汇和主观使用人类评估。
2017-08-02 cs.CL
Modeling Intent, Dialog Policies and Response Adaptation for Goal-Oriented Interactions
Intel Labs(英特尔研究院)
构建用于面向目标的交互的机器学习驱动的口语对话系统涉及意图和数据汇集的仔细设计以及意图识别模型和对话策略学习算法的开发。模型应该足够健壮,以处理交互流程中的各种用户干扰,并应引导用户返回到参与交互,以成功完成交互。在这项工作中,我们设计了一个目标导向的互动系统,儿童可以从事代理的一系列互动,涉及'满足\&问候'和'西蒙说'的游戏。我们已经探索了各种用于改进意图识别的特征提取器和模型,并研究了利用注意力模型以新颖的方式利用先前的用户和系统交互。我们还研究了用于夹带响应选择的对话自适应方法。我们从有限的训练数据中得到的自举模型比我们在意图识别和对话动作预测方面看到的许多基线方法都要好。
2019-12-20 cs.CL
PicPersona-TOD : A Dataset for Personalizing Utterance Style in Task-Oriented Dialogue with Image Persona
Graduate School of Artificial Intelligence, POSTECH, Republic of Korea(人工智能研究生院,POSTECH,韩国);Department of Computer Science and Engineering, POSTECH, Republic of Korea(计算机科学与工程系,POSTECH,韩国)
本文提出PicPersona-TOD数据集,利用用户图像作为人设,结合第一印象、策略引导和外部知识,实现任务型对话中的个性化回复,并引入NLG模型Pictor,在未见领域表现稳健。
2025-04-24 cs.CL
Augmenting End-to-End Dialog Systems with Commonsense Knowledge
Beijing Institute of Technology(北京理工大学);Nanyang Technological University(南洋理工大学);Tsinghua University(清华大学)
构建能够与人类自然对话的对话智能体是人工智能的一个具有挑战性且有趣的问题。在开放域人机对话中,对话代理人被期望以有趣和引人入胜的方式对人类的反应做出响应,常识知识必须有效地集成到模型中。在本文中,我们调查的影响,提供常识知识的概念涵盖的对话。我们的模型代表了第一次尝试将一个大的常识知识库集成到端到端的会话模型。在基于检索的场景中,我们提出了Tri-LSTM模型,以联合考虑消息和常识来选择适当的响应。我们的实验表明,知识增强模型优于他们的知识自由同行在自动评估。
2018-02-12 cs.AI cs.CL
Enhancing Self-Disclosure In Neural Dialog Models By Candidate Re-ranking
ADAPT Centre, Trinity College Dublin(都柏林圣三一学院ADAPT中心);ADAPT Centre, University College Dublin(都柏林大学学院ADAPT中心);ADAPT Center, Trinity College Dublin(都柏林圣三一学院ADAPT中心)
针对神经对话模型回复平淡、缺乏对话策略的问题,提出自我表露增强架构SDEA,在推理阶段用SDTM重排序候选回复,提升单轮回复的自我表露水平。
2023-08-28 cs.CL
Detecting agreement in multi-party dialogue: evaluating speaker diarisation versus a procedural baseline to enhance user engagement
Heriot-Watt University(赫瑞-瓦特大学)
本研究针对多方对话中说话人身份影响对话状态跟踪的问题,对比说话人分群模型与基于频率邻近度的程序方法在一致性检测上的效果,发现后者准确率更高且更能提升用户参与度。
2023-11-06 cs.CL
Gunrock: A Social Bot for Complex and Engaging Long Conversations
University of California, Davis(加州大学戴维斯分校)
Gunrock是2018年亚马逊Alexa奖的获奖者,这是通过真实用户和亚马逊选择的专家对话者的一致性和参与度进行评估的。我们专注于理解复杂的句子,并在开放的领域进行深入的对话。在本文中,我们介绍了一些创新的系统设计和相关的验证分析。总的来说,我们发现用户对Gunrock产生更长的句子,这与用户的参与度直接相关(例如,额定值、匝数)。此外,用户对Gunrock的背景故事查询与用户满意度呈正相关。最后,我们发现,将事实、个人观点和故事交织在一起的对话流会带来更好的用户满意度。
2019-10-07 cs.AI cs.CL cs.HC
Neural Generation Meets Real People: Towards Emotionally Engaging Mixed-Initiative Conversations
Stanford NLP(斯坦福自然语言处理实验室)
我们将开放域对话代理Chirpy Cardinal作为2019年Alexa Prize竞赛的研究平台。构建一个开放领域的社交机器人,与真实的人交谈是具有挑战性的-这样的系统必须满足多种用户期望,如广泛的世界知识,对话风格和情感联系。我们的社交机器人按照用户的要求与他们互动-优先考虑他们的兴趣、感受和自主权。因此,我们的社交机器人提供了一个响应式的、个性化的用户体验,能够明智地谈论各种各样的话题,也能同情地谈论日常生活。神经生成在实现这些目标中起着关键作用,为我们的对话和情感基调提供了支柱。在比赛结束时,Chirpy Cardinal以3.6/5.0的平均评分进入决赛,平均对话持续时间为2分16秒,90%的持续时间超过12分钟。
2020-09-05 cs.AI cs.CL
Social Commonsense-Guided Search Query Generation for Open-Domain Knowledge-Powered Conversations
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对被动用户对话中难以确定检索信息的问题,提出社交常识引导的搜索查询生成方法,整合主题跟踪、常识响应生成和指令驱动查询生成,生成更相关具体的查询以提升对话吸引力。
2023-10-22 cs.CL
Large Scale Multi-Actor Generative Dialog Modeling
University of California, Irvine(加州大学欧文分校);NVIDIA(英伟达)
非目标导向的对话代理(即聊天机器人)旨在与用户进行不同的和有吸引力的对话;然而,它们通常在对话中表现出不一致的个性或所有用户的平均个性。本文解决了这些问题,通过控制代理人的角色生成后,通过调节先前的对话的目标演员。通过这样做,我们能够在一个人的讲话中利用更抽象的模式,并在生成的响应中更好地模仿它们。这项工作介绍了生成会话控制模型,一个增强和微调的GPT-2语言模型的条件下,过去的参考对话概率模型多轮对话中的演员的角色。我们引入了一个附带的数据汇集过程,从6个月的Reddit评论中获得1030万次对话。我们证明,将模型大小从117 M扩展到8.3B参数,在1.7M的Reddit对话中,困惑度从23.14提高到13.14。增加模型规模在人类评估中也取得了类似的改善,这些评估衡量了模型样本对现实主义(31%增加到37%),风格匹配(37%到42%),语法和内容质量(29%到42%)以及会话一致性(32%到40%)的偏好。我们发现,有条件地建模过去的对话提高了0.47的自动评估的困惑。通过人体试验,我们确定了条件建模和风格匹配之间的积极趋势,并概述了进一步改善人物角色控制的步骤。
2020-05-13 cs.CL
A Mixture-of-Expert Approach to RL-based Dialogue Management
Google Research(谷歌研究院)
尽管最近在语言模型(LM)方面取得了进展,但它们在对话管理(DM)问题和进行丰富对话的能力方面的应用仍然是一个挑战。我们使用强化学习(RL)来开发一个对话代理,避免短视(输出通用话语),并最大限度地提高整体用户满意度。大多数现有的RL方法DM训练的代理在单词级别,因此,必须处理一个组合复杂的动作空间,即使是一个中等大小的词汇。因此,他们很难产生一个成功的和引人入胜的对话,即使他们是热开始与预先训练的LM。为了解决这个问题,我们开发了一个基于RL的DM使用一种新的混合专家语言模型(MoE-LM),它包括(i)一个LM能够学习不同的语义会话历史,(ii)一些{ \em专门} LM(或专家)能够生成对应于特定属性或个性的话语,以及(iii)基于RL的DM,其利用由专家生成的话语执行对话规划。我们的MoE方法提供了更大的灵活性,以生成具有不同意图的合理话语,并允许RL专注于会话级别的DM。我们比较它与SOTA基线开放域对话,并证明其有效性的多样性和敏感性的生成的话语和整体DM性能。
2022-05-31 cs.AI cs.CL
DEUX: An Attribute-Guided Framework for Sociable Recommendation Dialog Systems
University of California, Davis(加州大学戴维斯分校);University of Pennsylvania(宾夕法尼亚大学);Columbia University(哥伦比亚大学)
对于可社交的推荐对话系统来说,重要的是同时作为任务内容和社交内容来执行,以吸引用户并获得他们的青睐。除了理解用户偏好并提供令人满意的推荐之外,这样的系统还必须能够为用户生成连贯和自然的社交对话。传统的对话状态跟踪不能应用于这样的系统,因为它不跟踪社交内容中的属性。为了解决这个问题,我们提出了DEUX,一个新的属性引导框架,以创建更好的用户体验,同时完成电影推荐任务。DEUX具有跟踪电影属性(例如,最喜欢的类型,演员等)在用户话语和系统响应两者中。这允许系统在其社交内容中引入新的电影属性。然后,DEUX对于适合推荐任务的相同属性类型具有多个值,因为例如用户可能喜欢多个流派。实验表明,DEUX在更一致、更符合用户偏好以及提供更吸引人的聊天体验方面优于所有基线。我们的方法可以用于任何类似的问题,社会任务导向的对话系统。
2021-04-16 cs.AI cs.CL
Tartan: A retrieval-based socialbot powered by a dynamic finite-state machine architecture
Carnegie Mellon University(卡内基梅隆大学)
本文描述了为2018年Alexa Prize竞赛构建的Tartan会话代理。Tartan是一个非目标导向的社交机器人,专注于为用户提供一个吸引人的和流畅的休闲对话。Tartan的主要特点包括强调基于灵活的有限状态模型的结构化对话,以及专注于理解和使用对话行为的方法。为了提供引人入胜的对话,Tartan将脚本般的动态响应与基于数据的生成和检索模型相结合。Tartan的独特之处在于我们的对话管理器被建模为动态有限状态机。据我们所知,没有其他会话代理实现遵循这种特定的结构。
2018-12-04 cs.AI cs.CL
Learning to Retrieve Engaging Follow-Up Queries
Georgia Institute of Technology(佐治亚理工学院);Amazon Alexa AI(亚马逊Alexa AI)
开放域会话代理可以回答广泛的目标查询。然而,与这些系统交互的顺序性质使得知识探索成为一项冗长的任务,这使得用户需要提出一连串措辞良好的问题。在本文中,我们提出了一个基于检索的系统和相关的数据集,用于预测用户可能会遇到的下一个问题。这样的系统可以主动地帮助用户进行知识探索,从而产生更吸引人的对话。该检索系统在一个数据集上进行训练,该数据集包含约14 K多轮信息搜索对话,其中包含一个有效的后续问题和一组无效的候选人。生成无效候选以模拟各种句法和语义混淆,例如释义、部分实体匹配、不相关实体和ASR错误。我们使用混淆特定技术来模拟OR-QuAC数据集上的这些负面例子,并开发了一个名为后续查询库(Follow-up Query Bank,简称FQ-Bank)的数据集。然后,我们训练排名模型的银行和目前的结果比较监督和无监督的方法。结果表明,我们可以检索到有效的后续行动,他们在更高的位置相比,混杂因素,但进一步的知识基础可以提高排名的表现。
2023-02-21 cs.AI cs.CL cs.IR
Topic Spotting using Hierarchical Networks with Self Attention
Disney Research(迪士尼研究院);Rutgers University(罗格斯大学)
深度学习技术的成功重新激发了人们对对话系统开发的兴趣。然而,当前的系统难以与用户进行一致的长期对话,并且无法建立融洽的关系。话题识别,即自动推断对话话题的任务,已被证明有助于使对话系统更吸引人和更有效。我们提出了一个层次模型与自我注意的主题发现。在Switchboard语料库上的实验表明,我们的模型比以前提出的主题发现技术和文本分类的深度模型具有更好的性能。此外,与对话的离线处理相比,我们还分析了我们的模型在更现实的设置中的性能,即在在线设置中,随着对话的进行,主题被实时的识别。结果表明,我们的模型是能够推广,即使在有限的信息在线设置。
2019-04-04 cs.AI cs.CL cs.LG
Learning to Respond with Your Favorite Stickers: A Framework of Unifying Multi-Modality and User Preference in Multi-Turn Dialog
Peking University(北京大学);Inception Institute of Artificial Intelligence(起源人工智能研究院);Renmin University of China(中国人民大学)
具有生动和吸引人的表情的贴纸在在线消息应用中变得越来越受欢迎,并且一些作品致力于通过将贴纸图像与先前的话语进行匹配来自动选择贴纸响应。然而,现有的方法通常侧重于测量对话上下文和贴纸图像之间的匹配度,这忽略了用户使用贴纸的偏好。因此,在本文中,我们建议推荐一个合适的贴纸给用户的基础上,多轮对话上下文和贴纸使用历史的用户。这项任务面临两个主要挑战。一种是基于用户先前的标签选择历史来建模标签偏好。另一个挑战是将用户偏好和对话上下文与候选贴纸之间的匹配联合融合到最终的预测中。为了应对这些挑战,我们提出了一个\emph{Preference Enhanced Sticker Response Selector}(PESRS)模型。具体而言,PESRS首先采用基于卷积的贴纸图像编码器和基于自我注意的多轮对话编码器来获得贴纸和话语的表示。接下来,提出了深度交互网络来进行贴纸与每个话语之间的深度匹配。然后,我们通过使用最近选择的贴纸作为输入来建模用户偏好,并使用键值记忆网络来存储偏好表示。PESRS通过融合网络学习所有交互结果之间的短期和长期依赖关系,并将用户偏好表示动态融合到最终的贴纸选择预测中。在大规模真实对话数据集上进行的大量实验表明,我们的模型在所有常用指标上都达到了最先进的性能。实验也验证了PESRS各组成部分的有效性。
2020-11-05 cs.CL cs.CV cs.MM
Topic-based Evaluation for Conversational Bots
University of Maryland(马里兰大学);Amazon Alexa(亚马逊Alexa)
对话评估是一个具有挑战性的问题,特别是对于非面向任务的对话,其中会话成功没有很好地定义。我们建议使用基于主题的指标来评估对话质量,这些指标描述了对话机器人在主题上保持连贯和引人入胜的对话的能力,以及机器人可以处理的主题的多样性。为了检测每个话语的会话主题,我们采用深度平均网络(DAN)和训练的主题分类器上的各种问题和查询数据分类成多个主题。我们提出了一种新的扩展DAN通过添加一个主题词的注意力表,允许系统联合捕获主题关键字在话语和执行主题分类。我们将我们提出的基于主题的指标与用户提供的评级进行比较,并表明我们的指标与人类判断相关并补充人类判断。我们的分析是在Alexa Prize竞赛中成千上万的真实人机对话中进行的,并突出了用户对对话机器人的期望。
2018-01-11 cs.AI cs.CL cs.CY
Learning Conversational Systems that Interleave Task and Non-Task Content
Carnegie Mellon University(卡内基梅隆大学)
面向任务的对话系统已经应用于各种任务,例如自动化个人助理、客户服务提供者和教师。当用户有清晰明确的意图,并且与系统的功能保持一致时,这些系统就能很好地工作。然而,如果用户的意图不明确,它们就会失败。为了解决这个缺点,我们提出了一个框架,将非任务内容(即日常社交对话)插入任务对话。当任务内容失败时,系统仍然可以保持用户参与非任务内容。我们使用强化学习算法训练策略,以促进长话轮会话的连贯性和一致性,从而使系统能够在任务和非任务内容之间平滑过渡。为了测试所提出的框架的有效性,我们开发了一个电影推广对话系统。与人类用户的实验表明,一个系统,交错的社会和任务内容实现了更好的任务成功率,也被评为更吸引人相比,一个纯粹的面向任务的系统。
2017-03-01 cs.AI cs.CL cs.HC