Emora: An Inquisitive Social Chatbot Who Cares For You
Emory University(埃默里大学)
受人与人之间对话中经验分享的研究启发,埃默里大学开发的社交聊天机器人Emora旨在将这种以经验为中心的交互带入当前的对话人工智能领域。信息共享主题处理程序的传统方法与Emora提供的以观点为导向的交流相平衡,并开发了新的对话能力,支持由合作理解和学习伙伴生活经验的过程组成的对话。我们提出了一个策划的对话系统,利用高度表达的自然语言模板,强大的意图分类,和本体资源,提供一个引人入胜的和有趣的对话体验,每个用户。
2020-09-10 cs.AI cs.CL
On Chatbots Exhibiting Goal-Directed Autonomy in Dynamic Environments
IBM Research(IBM研究院)
会话界面(CI)或聊天机器人是一种流行的智能代理形式,可以让人类参与面向任务或非正式的对话。在这份立场文件和演示中,我们认为,在动态环境中工作的聊天机器人,如传感器数据,不仅可以作为一个有前途的平台,研究学习,推理,表示和执行的交叉问题,以实现目标导向的自治;而且还可以处理非平凡的业务应用程序。我们探讨的背景下,水顾问,一个初步的多模式对话系统,可以访问和解释水质数据的根本问题。
2018-03-26 cs.AI
Towards Task-Oriented Dialogue in Mixed Domains
FPT Technology Research Institute(FPT技术研究院);FPT University(FPT大学);Vietnam National University(越南国家大学)
本文研究了混合域环境下的任务型对话问题。我们使用两个相关的国家的最先进的对话系统的对话轮序列中的不同域之间的交替的效果进行研究。我们首先表明,一个专门的状态跟踪组件在多个领域中发挥着重要的作用,并给出了更好的结果比一个端到端的面向任务的对话系统。然后,我们提出了一个混合系统,这是能够提高约28%的平均绝对点在一个标准的多域对话数据集的信念跟踪精度。这些实验结果为改进我们的商业聊天机器人平台FPT.AI提供了一些有用的见解,该平台目前已被部署用于许多实际的聊天机器人应用。
2019-09-05 cs.CL
CASA-NLU: Context-Aware Self-Attentive Natural Language Understanding for Task-Oriented Chatbots
Amazon AI(亚马逊人工智能)
自然语言理解是对话系统的核心组成部分。它通常涉及两个任务-意图分类(IC)和插槽标记(SL),然后是对话管理(DM)组件。这样的NLU系统迎合孤立的话语,从而将上下文管理的问题推到DM。然而,上下文信息对于正确预测会话中的意图和时隙至关重要。上下文NLU的先前工作在所使用的上下文信号的类型以及对它们对模型的影响的理解方面受到限制。在这项工作中,我们提出了一个上下文感知的自我注意的NLU(CASA-NLU)模型,使用多个信号,如以前的意图,插槽,对话行为和话语在一个可变的上下文窗口,除了当前用户的话语。CASA-NLU在两个会话数据集上的表现优于循环上下文NLU基线,其中一个数据集的IC任务增益高达7%。此外,CASA-NLU的非上下文变体在标准公共数据集- Snips和ATIS上实现了IC任务的最新性能。
2019-09-18 cs.CL cs.LG
Task-Oriented Dialog Systems for the Senegalese Wolof Language
Baamtu Technologies(巴姆图科技);Université Cheikh Anta Diop(谢赫·安塔·迪奥普大学);Ecole Supérieure Polytechnique (ESP)(高等理工学院(ESP))
本文提出基于Rasa框架的模块化任务导向对话系统,结合内部机器翻译投影标注,构建沃洛夫语聊天机器人,其意图分类性能媲美法语,且可扩展至其他低资源语言。
2024-12-15 cs.AI cs.CL cs.HC
A Copy-Augmented Sequence-to-Sequence Architecture Gives Good Performance on Task-Oriented Dialogue
Stanford University(斯坦福大学)
面向任务的对话侧重于参与用户发起的关于特定领域主题的对话的会话代理。与聊天机器人相反,它只是寻求维持开放式的有意义的话语,现有的面向任务的代理通常显式地建模用户的意图和信念状态。本文探讨绕过这样一个明确的表示依赖于一个潜在的神经嵌入的状态和学习选择性注意对话的历史与复制,将相关的先验上下文。我们补充最近的工作,显示简单的序列到序列的神经架构与复制机制的有效性。我们的模型在每个响应生成方面比更复杂的内存增强模型高出7%,并且与DSTC 2上的当前最先进的模型相当。
2017-08-14 cs.AI cs.CL
Self-Attentional Models Application in Task-Oriented Dialogue Generation Systems
University of Alberta(阿尔伯塔大学)
自注意模型是序列建模任务的一种新范式,它不同于常见的序列建模方法,如基于递归和基于卷积的序列学习,因为它们的体系结构仅基于注意力机制。自我注意模型已经被用于许多NLP任务中最先进的模型的创建,例如神经机器翻译,但是它们的使用还没有被探索用于训练端到端面向任务的对话生成系统的任务。在这项研究中,我们将这些模型应用于三个不同的数据集,用于训练面向任务的聊天机器人。我们的研究结果表明,自我注意力模型可以用来创建端到端的面向任务的聊天机器人,与基于递归的模型相比,这些聊天机器人不仅可以获得更高的评估分数,而且可以更有效地完成任务。
2019-09-11 cs.CL cs.LG stat.ML
LGBTQ-AI? Exploring Expressions of Gender and Sexual Orientation in Chatbots
University College Dublin(都柏林大学);Swansea University(斯旺西大学);Bat Camp(蝙蝠营地)
聊天机器人是面向任务和社交互动的流行机器伙伴。人机计算机介导的通信研究探索了人们如何在在线社交互动中表达自己的性别和性取向,但很少有人知道聊天机器人是否以及以何种方式做同样的事情。我们进行了半结构化的访谈,5个基于文本的会话代理人来探讨这个话题。通过这些访谈,我们确定了6个共同的主题,围绕性别和性身份的表达:身份描述,身份形成,同伴接受,积极的反思,不舒服的感觉和偏离主题的反应。聊天机器人通过经验和情感的关系明确地表达性别和性,模仿它们所训练的人类语言。然而,很明显,聊天机器人与人类对话伙伴不同,因为它们缺乏人类生活经验所带来的灵活性和理解力。虽然聊天机器人擅长使用语言来表达身份,但它们也缺乏真实的性别和性体验。
2021-06-03 cs.CL cs.HC
Towards Reliable and Empathetic Depression-Diagnosis-Oriented Chats
Shanghai Jiao Tong University(上海交通大学);University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
本文针对抑郁症诊断对话需兼顾专业性与共情的问题,提出融合任务导向可靠性和共情闲聊的本体定义与生成框架,并在 D$^4$ 上验证其可显著提升任务完成与情感支持生成。
2024-04-07 cs.AI cs.CL
Building Advanced Dialogue Managers for Goal-Oriented Dialogue Systems
EPFL(洛桑联邦理工学院);Swisscom(瑞士电信)
目标导向(GO)对话系统,俗称目标导向聊天机器人,帮助用户在封闭域中实现预定义的目标(例如预订电影票)。第一步是通过使用自然语言理解技术来理解用户的目标。一旦知道目标,机器人必须管理对话以实现该目标,该对话是根据学习的策略进行的。对话系统的成功取决于策略的质量,而策略的质量又依赖于策略学习方法(例如深度强化学习)的高质量训练数据的可用性。由于领域的特殊性,可用的数据量通常太低,无法培训良好的对话策略。在这篇硕士论文中,我们介绍了一种迁移学习方法,以减轻低域内数据可用性的影响。我们基于迁移学习的方法将机器人的成功率提高了$20\%$,与没有迁移学习的模型相比,对于远距离域,我们将其提高了一倍以上。此外,迁移学习聊天机器人学习策略的速度快了5到10倍。最后,由于迁移学习方法是补充额外的处理,如热启动,我们表明,他们的联合应用程序给出了最好的结果。
2018-06-03 cs.CL
Making the case for audience design in conversational AI: Rapport expectations and language ideologies in a task-oriented chatbot
University of Surrey(萨里大学)
聊天机器人在商业和科学背景下越来越普遍。他们帮助客户投诉产品或服务,或支持他们找到最好的旅行交易。其他机器人提供心理健康支持或帮助预订医疗预约。本文认为,洞察用户的语言意识形态和他们的融洽的期望,可以用来告知观众的机器人的语言和交互模式的设计,并确保公平地获得机器人提供的服务。这一论点得到了三种数据的支持:模拟用户与促进健康预约预订的聊天机器人的交互,用户对其交互的内省评论以及用户与预订机器人互动后的定性调查评论。最后,我将定义对话式人工智能的受众设计,并讨论如何使用以用户为中心的聊天机器人交互分析和社会语言学知情的理论方法,如融洽关系管理,来支持受众设计。
2022-06-21 cs.AI cs.CL
Training Neural Response Selection for Task-Oriented Dialogue Systems
PolyAI Limited(PolyAI有限公司)
尽管它们在聊天机器人文献中很受欢迎,但基于检索的模型对面向任务的对话系统的影响不大,其应用的主要障碍是大多数面向任务的对话任务的低数据机制。受语言建模中预训练最近成功的启发,我们提出了一种有效的方法,用于在面向任务的对话中部署响应选择。为了训练面向任务的对话任务的响应选择模型,我们提出了一种新的方法:1)在大型通用领域对话语料库上预训练响应选择模型;然后2)针对目标对话领域微调预训练模型,仅依赖于小的领域内数据集来捕获给定对话领域的细微差别。我们的评估六个不同的应用领域,从电子商务到银行,证明了所提出的培训方法的有效性。
2019-06-07 cs.CL
Contextual Biasing of Language Models for Speech Recognition in Goal-Oriented Conversational Agents
面向目标的会话界面旨在完成特定的任务,通常具有倾向于跨越多个回合的交互,这些交互遵循预定义的结构和目标。然而,自动语音识别(ASR)系统中的传统神经语言模型(NLM)大多是在有限的上下文下逐段训练的。在本文中,我们探索了将上下文纳入基于LSTM的NLM的不同方法,以便对长程依赖关系进行建模并改进语音识别。具体来说,我们使用跨多个回合的上下文结转,并使用词汇上下文线索,例如来自自然语言理解(NLU)模型的系统对话行为和用户提供的聊天机器人结构。我们还提出了一个新的架构,利用上下文嵌入来自BERT在推理时间提供的样本话语。我们的实验表明,一个字的出错率(WER)相对减少7%以上的非上下文话语级NLM rescorers目标为导向的音频数据集。
2021-06-04 cs.CL
Beyond Ontology in Dialogue State Tracking for Goal-Oriented Chatbot
Yonsei Univ.(延世大学);Onoma AI
本研究提出一种无需预定义本体论的对话状态跟踪方法,结合指令微调、提示策略与反幻觉机制,并利用变分图自编码器预测用户意图,在JGA上达到42.57%,超越现有无本体模型,提升了目标导向聊天机器人的适应性和准确性。
2024-10-30 cs.AI cs.CL
Reinforcing Real-world Service Agents: Balancing Utility and Cost in Task-oriented Dialogue
Ning Gao;Wei Zhang;Yuqin Dai;Ling Shi;Ziyin Wang;Yujie Wang;Wei He;Jinpeng Wang;Chaozheng Wang
InteractCS-RL通过多粒度强化学习框架,在任务导向对话中平衡效用与成本,通过用户驱动策略和成本感知优化提升代理性能。
2026-02-26 cs.AI cs.CL
Adding Chit-Chat to Enhance Task-Oriented Dialogues
Cornell University(康奈尔大学);Facebook(脸书公司);Facebook AI Research(脸书人工智能研究院)
现有的对话语料库和模型通常是在两个不相交的动机下设计的:而面向任务的系统专注于实现功能目标(例如,预订酒店),开放域聊天机器人旨在进行社交参与对话。在这项工作中,我们建议通过将Chit-Chat添加到ENhance Task-Oriented对话(ACCENTOR)来集成这两种类型的系统,目标是使虚拟助理对话更具吸引力和互动性。具体来说,我们提出了一种人类<->AI协作数据汇集方法,用于生成多样化的聊天响应,以最小的注释工作来增强面向任务的对话。然后,我们将我们新的基于聊天的注释呈现给来自两个流行的面向任务的数据集(Schema-Guided Dialogue和MultiWOZ 2.1)的23.8K对话,并通过人工评估展示了它们相对于原始对话的优势。最后,我们提出了三种新的模型,用于将闲聊添加到面向任务的对话中,明确训练以预测用户目标并生成上下文相关的闲聊响应。自动和人工评估表明,与最先进的面向任务的基线相比,我们的模型可以在任务和聊天之间进行代码切换,以更吸引人,有趣,知识渊博和人性化,同时保持有竞争力的任务性能。
2021-05-01 cs.CL
Exploring the Impact of Human Evaluator Group on Chat-Oriented Dialogue Evaluation
Emory University(埃默里大学)
本文通过4个评估者群体测试4个最先进对话系统,分析评估者群体对对话评估的影响,发现Likert评估比Pairwise评估对评估者群体更稳健,并揭示了专业水平与客观性对评估结果的影响。
2023-09-14 cs.CL
SMRT Chatbots: Improving Non-Task-Oriented Dialog with Simulated Multiple Reference Training
Johns Hopkins University(约翰霍普金斯大学);New York University(纽约大学)
非面向任务的对话模型遭受质量差和非多样性的响应。为了克服有限的会话数据,我们应用模拟多参考训练(SMRT; Khayrallah等人,2020),并使用释义器来模拟每个训练提示的多个响应。我们发现SMRT在一个强大的Transformer基线上得到了改进,这是通过人工和自动质量分数以及词汇多样性来衡量的。我们还发现SMRT在人类评估质量方面与预训练相当,并且在自动质量和词汇多样性方面优于预训练,而不需要相关领域的对话数据。
2020-11-01 cs.CL
Submodularity-Inspired Data Selection for Goal-Oriented Chatbot Training Based on Sentence Embeddings
School of Computer and Communication Sciences, EPFL(洛桑联邦理工学院计算机与通信科学学院);Swisscom AG(瑞士电信股份公司)
口语语言理解(SLU)系统(例如面向目标的聊天机器人或个人助理)依赖于初始自然语言理解(NLU)模块来确定意图并从它们作为输入的用户查询中提取相关信息。SLU系统通常帮助用户解决相对狭窄领域内的问题,并且需要大量的域内训练数据。这导致了严重的数据可用性问题,阻碍了成功系统的开发。为了缓解这个问题,我们提出了一种在低数据制度,使我们能够训练更少的标记句子,从而更小的标签成本的数据选择技术。我们提出了一个子模块启发的数据排序函数,比率惩罚边际增益,选择数据点标记的基础上只从文本嵌入空间中提取的信息。我们表明,嵌入空间中的距离是一个可行的信息来源,可用于数据选择。我们的方法优于两个已知的主动学习技术,并使成本效益的NLU单元的培训。此外,我们提出的选择技术不需要在选择步骤之间重新训练模型,这也使其具有时间效率。
2018-07-08 cs.CL
Task-Optimized Adapters for an End-to-End Task-Oriented Dialogue System
Sogang University(西江大学)
本文提出一种带有任务优化适配器的端到端任务导向对话系统,通过每任务独立学习少量参数并结合强化学习增强DST与NLG模块,在MultiWOZ基准上取得竞争性性能,并在DST任务上达到最先进水平。
2023-05-31 cs.CL
A Unified Pre-training Framework for Conversational AI
Baidu Inc.(百度公司)
在这项工作中,我们探讨了PLATO-2在各种对话系统中的应用,包括开放域对话,基于知识的对话和面向任务的对话。PLATO-2最初被设计为一个开放领域的聊天机器人,通过两个阶段的课程学习进行训练。在第一阶段中,学习粗粒度的响应生成模型以适应简化的一对一映射关系。该模型适用于面向任务的会话,给定的语义映射往往是确定性的任务完成。在第二阶段中,另一个细粒度的生成模型和评估模型,进一步学习不同的响应生成和一致性估计,分别。该模型具有良好的一对多映射能力,适用于开放领域会话和基于知识的会话。对于PLATO-2的综合评估,我们参与了DSTC 9的多个任务,包括开放域对话的交互评估(Track 3-task 2),知识基础对话的静态评估(Track 3-task 1)和端到端面向任务的对话(Track 2-task 1)。PLATO-2在所有三项任务中均获得第一名,验证了其作为各种对话系统的统一框架的有效性。
2021-05-27 cs.CL
Lifelong and Continual Learning Dialogue Systems
Intel Labs(英特尔实验室);University of Illinois at Chicago (UIC)(伊利诺伊大学芝加哥分校);Indian Institute of Technology (IIT) - Roorkee(印度理工学院鲁尔基分校)
本书提出终身学习对话系统范式,使聊天机器人能在与用户和环境的自主交互中持续学习语言、知识、样本与对话技能,并综述相关技术进展与未来挑战。
2024-06-17 cs.AI cs.CL cs.HC
Few-Shot Bot: Prompt-Based Learning for Dialogue Systems
The Hong Kong University of Science and Technology(香港科技大学)
学习仅使用几个例子进行对话是对话式AI的一大挑战。目前最好的会话模式,要么是很好的闲聊(例如,BlenderBot)或面向目标的系统(例如,MinTL)是在大型会话数据集上微调的语言模型(LM)。训练这些模型是昂贵的,无论是在计算资源和时间方面,而且很难让它们与新的会话技能保持同步。一个简单但尚未探索的解决方案是基于梯度的少样本学习(Brown et al. 2020),它不需要基于梯度的微调,而是使用LM上下文中的一些示例作为学习的唯一来源。在本文中,我们探讨了基于会话的少样本学习在对话任务。我们基准LM的不同大小的九个响应生成任务,其中包括四个知识为基础的任务,面向任务的生成任务,三个开放聊天任务,并控制文体生成,和五个会话解析任务,其中包括对话状态跟踪,图形路径生成,人物信息抽取,文档检索,和互联网查询生成。目前最大的LM(GPT-J-6B)使用基于样本的少样本学习,因此不需要训练,达到了与完全训练的最先进模型竞争的性能。此外,我们提出了一种新的基于文本的Few-Shot分类器,也不需要任何微调,以选择最合适的提示给定的对话历史。最后,通过结合基于机器人的Few-Shot学习和技能训练的能力,我们创建了一个名为Few-Shot Bot(FSB)的端到端聊天机器人,它自动选择最合适的会话技能,查询不同的知识库或互联网,并使用检索到的知识生成类似人类的响应,所有这些都只使用每个技…
2021-10-15 cs.AI cs.CL
Task-Oriented Dialogue with In-Context Learning
Rasa(Rasa公司)
本文提出一种结合LLMs上下文学习与业务逻辑确定性执行的面向任务对话系统,利用LLMs在对话表层形式与DSL间转换,实验证明其比基于意图的NLU方法开发成本更低且能驾驭复杂对话,具备良好的大规模任务扩展性。
2024-02-19 cs.CL
Turn-level Dialog Evaluation with Dialog-level Weak Signals for Bot-Human Hybrid Customer Service Systems
我们开发了一种机器学习方法,可以在互动过程中的任何时候量化客户服务联系中的成功或价值的多个方面。具体而言,关于跨人类代理、聊天机器人和其他混合对话系统的回合级行为的价值/奖励函数的特征在于基于来自仅用对话级属性/状态中的弱信号训练的多任务神经网络的令牌级预测的语句之间的增量信息和置信度增益。由此产生的模型名为Value Profiler,作为一个面向目标的对话管理器,通过使用其奖励和状态预测来调节自动决策,从而增强对话。它支持对机器人和人工处理的联系人进行实时监控和可扩展的离线客户体验评估。我们展示了它如何在几个应用程序中提高亚马逊客户服务质量。
2020-10-25 cs.CL cs.LG
SAGE: Steering Dialog Generation with Future-Aware State-Action Augmentation
Apple(苹果公司)
提出SAGE方法,通过状态-动作链引入潜变量控制对话长程行为,并结合自我改进流程优化对话轨迹,提升了情感智能指标且保持LLM基准能力。
2025-07-01 cs.AI cs.CL
ViMQ: A Vietnamese Medical Question Dataset for Healthcare Dialogue System Development
VinBrain
本文发布面向意图分类与命名实体识别的越南语医疗问题数据集 ViMQ,并通过带跨度噪声建模的自监督策略显著提升基线模型性能。
2023-04-27 cs.CL
LLM Roleplay: Simulating Human-Chatbot Interaction
Technical University of Darmstadt(达姆施塔特工业大学);Hessian Center for AI (hessian.AI)(黑森州人工智能中心);Ubiquitous Knowledge Processing Lab (UKP Lab)(普适知识处理实验室)
提出LLM Roleplay方法,利用大型语言模型扮演文本角色自动生成多轮人机对话,有效模拟不同社会人口背景的交互,并在高不可区分率下验证了其有效性。
2024-10-13 cs.CL
On the Use of Linguistic Features for the Evaluation of Generative Dialogue Systems
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究所);Unity Health Toronto(多伦多联合健康)
自动评估基于文本的、非面向任务的对话系统(即,“聊天机器人”)仍然是一个开放的问题。以前的方法面临着从与人类判断的相关性差到泛化能力差的挑战,并且通常需要金标准参考进行比较或人工注释的数据。扩展现有的评估方法,我们提出,基于语言特征的度量可能能够与人类判断保持良好的相关性,并且是可解释的,而不需要黄金标准参考或人类注释的数据。为了支持这一命题,我们测量和分析各种语言特征的对话产生的多种对话模式。我们发现特征的行为与测试模型的已知属性一致,并且在各个领域都是相似的。我们还证明了这种方法具有很好的性能,如zero-shot泛化到新的域上的相关任务的评价响应的相关性。
2021-04-13 cs.CL cs.LG
Breeze-7B Technical Report
MediaTek Research(联发科研究院)
本文介绍基于 Mistral-7B 的开源繁体中文语言模型 Breeze-7B,通过额外预训练、微调和评估,使其基础与对话版本在同复杂度模型的多项理解及聊天任务基准中取得顶尖表现。
2024-04-03 cs.CL
A Deep Learning Approach to Integrate Human-Level Understanding in a Chatbot
Brac University(布拉克大学);Jadavpur University(贾达普大学)
近年来,许多人都参与了建立自己的企业。与人类不同,聊天机器人可以同时为多个客户提供服务,全天候可用,并在不到一秒钟的时间内回复。虽然聊天机器人在面向任务的活动中表现良好,但在大多数情况下,它们无法理解个性化的意见,陈述甚至查询,这些意见,陈述甚至查询后来会影响组织的服务管理。机器人缺乏理解能力,使人类不愿意继续与它们对话。通常,当聊天机器人无法准确解释用户的文本时,它们会给出荒谬的回应。通过使用聊天机器人从对话中提取客户评论,组织可以减少用户和聊天机器人之间的理解差距,并提高他们的产品和服务质量。因此,在我们的研究中,我们纳入了聊天机器人准确分析和理解输入文本所需的所有关键要素。我们使用深度学习进行情感分析、情感检测、意图分类和命名实体识别,以开发具有人文理解和智能的聊天机器人。通过详细的分析,可以证明我们的方法的有效性。
2021-12-31 cs.CL cs.LG
EnSToM: Enhancing Dialogue Systems with Entropy-Scaled Steering Vectors for Topic Maintenance
Graduate School of Artificial Intelligence, POSTECH(人工智能研究生院,POSTECH);Department of Computer Science and Engineering, POSTECH(计算机科学与工程系,POSTECH)
针对小型大语言模型在任务型对话中难以维持主题一致性的问题,提出熵缩放引导向量方法EnSToM,根据输入不确定性动态调整引导强度,以较小数据规模显著提升主题遵循性能。
2025-05-22 cs.CL
End-to-End Knowledge-Routed Relational Dialogue System for Automatic Diagnosis
Sun Yat-Sen University(中山大学);Soochow University(苏州大学);Dark Matter AI Inc.(暗物质人工智能公司)
除了目前越来越受到关注的会话聊天机器人或面向任务的对话系统之外,我们还在开发一种用于自动医疗诊断的对话系统,该系统与患者对话,收集他们自我报告之外的其他症状,并自动进行诊断。除了会话对话系统面临的挑战(如话题转换连贯性和问题理解)外,自动医疗诊断还对医学知识和疾病关系背景下的对话合理性提出了更严格的要求。现有的对话系统(Madotto,Wu,and Fung 2018; Wei et al. 2018; Li et al. 2017)主要依赖于数据驱动的学习,无法对额外的专家知识图谱进行编码。在这项工作中,我们提出了一个端到端的知识路由的关系对话系统(KR-DS),无缝地将丰富的医学知识图谱到对话管理中的主题转换,并使其与自然语言理解和自然语言生成合作。提出了一种新的知识路由深度Q网络(KR-DQN)来管理主题转换,它集成了一个用于编码不同症状和疾病对之间关系的关系精化分支和一个用于主题决策的知识路由图分支。在公共医疗对话数据集上进行的广泛实验表明,我们的KR-DS显著击败了最先进的方法(诊断准确率超过8%)。我们进一步展示了我们的KR-DS在新收集的医疗对话系统数据集上的优越性,该数据集在保留患者和医生之间的原始自我报告和对话数据方面更具挑战性。
2019-03-18 cs.CL
DFEE: Interactive DataFlow Execution and Evaluation Kit
AWS AI Labs(亚马逊云科技人工智能实验室)
DataFlow由于其对对话任务的表达性语义表示而成为构建面向任务的聊天机器人的新范式。尽管有大型数据集SMCalFlow和简化的语法,但由于系统复杂性和缺乏下游工具链,基于DataFlow的聊天机器人的开发和评估仍然具有挑战性。在这个演示中,我们提出了DFEE,一个交互式的数据流执行和评估工具包,支持执行,可视化和基准测试的语义分析器给定的对话输入和后端数据库。我们通过一个复杂的对话任务演示了该系统:涉及时间推理的事件调度。它还支持通过友好的界面诊断解析结果,该界面允许开发人员检查动态DataFlow和相应的执行结果。为了说明如何对SoTA模型进行基准测试,我们提出了一个新的基准测试,该基准测试涵盖了更复杂的事件调度场景和任务成功评估的新指标。DFEE的代码已在https://github.com/amazonscience/dataflow-evaluation-toolkit上发布。
2022-12-04 cs.AI cs.CL
Multi-User Chat Assistant (MUCA): a Framework Using LLMs to Facilitate Group Conversations
Microsoft Research(微软研究院)
针对现有聊天机器人多聚焦单用户的问题,本文提出多用户聊天机器人3W设计维度与基于LLM的MUCA框架,含三大模块确定回应内容、时机与对象,还提出MUS加速开发,实验验证其在中小规模目标对话中有效提升参与度等表现。
2024-10-04 cs.CL
The Task-oriented Queries Benchmark (ToQB)
Google(谷歌)
本文提出了一种利用现有面向任务对话数据集和LLM服务高效生成面向任务查询基准(ToQB)的新方法,通过案例研究展示了定制LLM提示的过程,并公开了生成的数据集。
2024-06-05 cs.AI cs.CL cs.HC
CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues
NVIDIA(英伟达)
针对对话场景下语言模型话题保持对齐数据缺失的问题,研究者推出含干扰轮次的多领域合成对话数据集CantTalkAboutThis,微调后模型的话题连贯性优于通用指令微调LLM,还能提升细粒度指令遵循及安全对齐表现。
2024-06-21 cs.CL
Improving Retrieval Modeling Using Cross Convolution Networks And Multi Frequency Word Embedding
Department of Computer Science, CUNY Graduate Center, USA(纽约市立大学研究生中心计算机科学系,美国);Department of Mathematics and Computer Science, York College (CUNY), USA(纽约市立大学约克学院数学与计算机科学系,美国);Department of Electrical Engineering, Columbia University, USA(哥伦比亚大学电气工程系,美国);OATH Inc, USA(OATH公司,美国)
为了构建一个令人满意的聊天机器人,能够管理以目标为导向的多轮对话,人类对话的准确建模至关重要。在本文中,我们集中在多轮人机对话与给定的背景下的响应选择的任务。以前的方法在捕获出现在上下文或正确响应中的罕见关键字的信息方面表现出弱点,并且与长输入序列作斗争。我们提出了交叉卷积网络(CCN)和多频词嵌入来解决这两个问题。我们使用Ubuntu Dialogue数据集训练了几个模型,该数据集是最大的免费提供的基于多回合的对话语料库。我们进一步通过对多个模型的预测进行平均来建立一个系综模型。我们在这个数据集上实现了一个新的最先进的技术,与以前的最佳结果相比有了相当大的改进。
2018-02-16 cs.CL
Infusing Theory of Mind into Socially Intelligent LLM Agents
University of British Columbia(不列颠哥伦比亚大学);Vector Institute for AI(向量人工智能研究所)
本文提出ToMAgent,通过结合心智理论与对话前瞻训练,提升对话效果和目标达成能力,实验表明其在社交交互评估基准中优于基线方法。
2026-04-11 cs.CL
A Corpus of Controlled Opinionated and Knowledgeable Movie Discussions for Training Neural Conversation Models
University of Potsdam(波茨坦大学);Volkswagen AG(大众汽车公司)
众所周知,用于非目标导向对话的完全数据驱动的聊天机器人在其回合中存在不一致的行为,这是由于控制参数(如其假设的背景个性和事实知识)存在普遍困难。其中一个原因是相对缺乏标记数据,从这些数据中可以学习个性一致性和事实使用以及对话行为。为了解决这个问题,我们在电影讨论领域引入了一个新的标记对话数据集,其中每个对话都基于预先指定的事实和观点。我们彻底验证了收集的对话,以确保参与者遵守其既定的事实和观点,并发现这方面的总体质量很高。这个过程还为我们提供了一个额外的注释层,这对训练模型可能很有用。我们引入了一个基于这些数据训练的端到端训练的自我注意解码器模型作为基线,并表明它能够生成被认为是自然和知识渊博的固执己见的反应,并表现出注意力。
2020-03-30 cs.CL
MADial-Bench: Towards Real-world Evaluation of Memory-Augmented Dialogue Generation
International Digital Economy Academy(国际数字经济学院);Southern University of Science and Technology(南方科技大学);Monash University(莫纳什大学)
本文提出MADial-Bench基准,融合被动与主动记忆回忆范式,引入记忆注入、情感支持熟练度和亲密度等新评分标准,以更真实地评估记忆增强对话系统。
2024-10-23 cs.AI cs.CL