InfoQuest: Evaluating Multi-Turn Dialogue Agents for Open-Ended Conversations with Hidden Context
Advanced Knowledge Center for Immersive Technologies – AKCIT(沉浸式技术高级知识中心(AKCIT));OATML, University of Oxford(牛津大学OATML)
本文提出了InfoQuest多轮聊天基准,用于评估对话代理在处理具有隐藏上下文的开放式请求时的信息寻求能力,发现现有模型在有效收集关键信息和主动澄清方面仍存在显著局限。
2025-04-25 cs.CL cs.LG
CLAIM: An Intent-Driven Multi-Agent Framework for Analyzing Manipulation in Courtroom Dialogues
Manipal University Jaipur(Manipal大学贾ipur)
本文提出 LegalCon 法庭对话数据集和两阶段意图驱动多智能体框架 CLAIM,用于检测操纵、识别操纵者并分类操纵技术,以提升司法公平性与透明度。
2025-06-04 cs.AI cs.CL cs.LG
Creating Spoken Dialog Systems in Ultra-Low Resourced Settings
Carnegie Mellon University(卡内基梅隆大学)
本文面向弗拉芒语低资源意图分类,在现有轻量模型上结合语音与音标转写两层数据增强,缓解标注数据稀缺并提升性能。
2023-12-11 cs.CL cs.LG eess.AS
An Evaluation Dataset for Intent Classification and Out-of-Scope Prediction
Clinc, Inc.(Clinc公司)
面向任务的对话系统需要知道查询何时超出其支持的意图范围,但当前的文本分类语料库只定义了覆盖每个示例的标签集。我们引入了一个新的数据集,其中包括范围外的查询-即,不属于系统支持的任何意图的查询。这带来了新的挑战,因为模型不能假设推理时的每个查询都属于系统支持的意图类。我们的数据集还涵盖了10个领域的150个意图类,涵盖了面向生产任务的代理必须处理的广度。我们在我们的数据集上评估了一系列基准分类器以及几种不同的范围外识别方案。我们发现,虽然分类器在范围内的意图分类上表现良好,但它们很难识别范围外的查询。我们的数据集和评估填补了该领域的一个重要空白,提供了一种在任务驱动的对话系统中更严格、更现实地对文本分类进行基准测试的方法。
2019-09-04 cs.AI cs.CL cs.LG
A Context-Aware Hierarchical BERT Fusion Network for Multi-turn Dialog Act Detection
Georgia Institute of Technology(佐治亚理工学院)
交互式对话系统的成功通常与口语语言理解(SLU)任务的质量相关,该任务主要识别每轮中相应的对话行为和槽值。通过孤立地处理话语,大多数SLU系统经常忽略对话行为所期望的语义上下文。回合之间的动作依赖性是重要的,但对识别正确的语义表示至关重要。以前的作品与有限的上下文意识暴露了处理复杂性的不足,在多方位的用户意图,这是受自发变化,在回合转换。在这项工作中,我们提出了增强SLU在多轮对话,采用上下文感知的分层BERT融合网络(CaBERT-SLU),不仅辨别对话中的上下文信息,但也联合识别多个对话行为和插槽中的每个话语。实验结果表明,我们的方法达到了新的国家的最先进的(SOTA)性能在两个复杂的多轮对话数据集有相当大的改善相比,以前的方法,只考虑单话语的多个意图和插槽填充。
2021-09-03 cs.CL
Scalable language model adaptation for spoken dialogue systems
Amazon(亚马逊)
用于交互式语音识别系统的语言模型(LM)是在大量数据上训练的,并且模型参数是在过去的用户数据上优化的。随着时间的推移,这些系统会发布新的应用程序意图和交互类型,这给LM的适应带来了挑战,因为现有的训练数据不再足以对未来的用户交互进行建模。目前还不清楚如何使LM适应新的应用程序意图,而不会降低现有应用程序的性能。在本文中,我们提出了一种解决方案:(a)直接从手写语法中估计n-gram计数,用于训练LM;(b)使用约束优化来优化未来用例的系统参数,同时不会降低过去使用的性能。我们评估了我们针对个人助理系统的新应用程序意图的方法,发现即使在应用程序没有可用的自适应数据时,自适应也可以将新应用程序的单词出错率提高高达15%。
2018-12-11 cs.CL
A Self-Attention Joint Model for Spoken Language Understanding in Situational Dialog Applications
ByteDance Corporation(字节跳动公司)
口语语言理解(SLU)是面向目标的对话系统的一个重要组成部分。它通常涉及识别说话者意图并从用户话语中提取语义槽,这被称为意图检测(ID)和槽填充(SF)。SLU问题是近年来研究的热点问题。然而,这些方法只是语法约束SF结果,独立解决ID和SF,或没有充分利用两个任务的相互影响。提出了一种具有条件随机场层和先验掩码的多头自注意联合模型。实验表明,我们的模型的有效性,与国家的最先进的模型相比。与此同时,中国的在线教育在过去几年取得了长足的进步。但是很少有智能教育对话应用程序供学生学习外语。因此,我们设计了一个智能对话机器人配备了不同的场景设置,以帮助学生学习沟通技巧。
2019-05-27 cs.AI cs.CL cs.HC
Using Domain Knowledge to Guide Dialog Structure Induction via Neural Probabilistic Soft Logic
UC Santa Cruz(加州大学圣克鲁兹分校);Google Research(谷歌研究院);Harvard University(哈佛大学)
本文提出神经符号方法NEUPSL DSI,将符号知识注入生成神经模型的潜在空间,以解决对话结构归纳在有限数据和分布偏移下表现不佳的问题,并在多个数据集和设置下实现一致性能提升。
2024-03-26 cs.CL cs.LG
End-to-end speech-to-dialog-act recognition
Kyoto University(京都大学)
提取话语中的意图和/或语义概念的口语语言理解通常被公式化为自动语音识别的后处理。它通常使用Oracle脚本进行训练,但需要通过ASR处理错误。此外,还有一些与意图相关但没有用转录本表示的声学特征。在本文中,我们提出了一个端到端的模型,直接将语音转换成对话行为,而不确定性的转录过程。在该模型中,对话行为识别网络在softmax层之前的潜在层与声学到单词ASR模型相结合,该模型提供了单词级ASR解码信息的分布式表示。然后,整个网络以端到端的方式进行微调。这允许稳定的训练以及对ASR错误的鲁棒性。该模型进一步扩展,进行DA分割联合。与Switchboard语料库的评估表明,该方法显着提高了对话行为识别的准确性从传统的管道框架。
2020-07-28 cs.CL cs.SD eess.AS
Proactive Dialogue Model with Intent Prediction
Department of Computer Science(计算机科学系)
本文提出一种轻量级意图过渡先验,通过时间贝叶斯网络提升对话主动性,实验表明能提高意图覆盖效率并减少交互次数。
2026-04-30 cs.CL cs.LG
Towards a Fully Unsupervised Framework for Intent Induction in Customer Support Dialogues
INOV(INOV研究所);Instituto Superior Técnico(高等技术学院);INESC-ID(葡萄牙国家信息与通信技术研究所);Xpand-it(Xpand-it公司)
本文提出一种完全无监督的对话意图归纳框架,通过预处理语料库提升效果并提取意图对话流,在MultiWOZ数据集上验证,适用于真实客户支持场景。
2023-07-28 cs.CL
Unsupervised Slot Schema Induction for Task-oriented Dialog
University of California, Davis(加州大学戴维斯分校);Google Research(谷歌研究院)
精心设计的模式描述了如何收集和注释对话语料库是一个先决条件,以建立面向任务的对话系统。在实际应用中,手动设计模式可能容易出错、费力、迭代和缓慢,特别是在模式复杂的情况下。为了减轻这个昂贵和耗时的过程中,我们提出了一个无监督的方法槽模式感应从未标记的对话语料库。利用域内语言模型和无监督解析结构,我们的数据驱动的方法提取候选插槽没有约束,然后由粗到细聚类,以诱导插槽类型。我们将我们的方法与几个强监督基线进行了比较,并在MultiWoz和SGD数据集上的槽模式归纳中显示出显着的性能改进。我们还证明了下游应用程序,包括对话状态跟踪和响应生成的诱导模式的有效性。
2022-05-09 cs.CL
A Post-processing Method for Detecting Unknown Intent of Dialogue System via Pre-trained Deep Neural Network Classifier
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
随着对话系统的成熟和普及,在对话系统中检测用户的未知意图成为一项重要的任务。这也是最具挑战性的任务之一,因为我们很难获得示例,先验知识或未知意图的确切数量。在本文中,我们提出了SofterMax和深度新奇检测(SMDN),这是一种简单而有效的后处理方法,用于基于预训练的深度神经网络分类器检测对话系统中的未知意图。我们的方法可以灵活地应用于在深度神经网络中训练的任何分类器,而无需改变模型架构。我们校准softmax输出的置信度以计算校准的置信度分数(即,SofterMax)并使用它来计算未知意图检测的决策边界。此外,我们将深度神经网络学习的特征表示输入到传统的新颖性检测算法中,从不同的角度检测未知意图。最后,我们结合上述方法进行联合预测。我们的方法将与已知意图不同的示例分类为未知,并且不需要任何示例或先验知识。我们在三个基准对话数据集上进行了广泛的实验。结果表明,我们的方法可以产生显着的改善相比,国家的最先进的基线
2020-03-07 cs.CL cs.LG
Dialog Intent Induction with Deep Multi-View Clustering
ASAPP Inc.(ASAPP公司)
我们介绍了对话意图诱导任务,并提出了一种新的深度多视图聚类方法来解决这个问题。对话意图归纳旨在从人与人之间的对话中的用户查询话语中发现用户意图,例如客户支持代理与客户之间的对话。出于直觉,对话意图不仅表示在用户查询话语,但也被捕获在对话的其余部分,我们分裂成两个独立的视图和利用多视图聚类技术诱导对话意图的对话。特别是,我们提出了交替视图k均值(AV-KMEANS)的联合多视图表示学习和聚类分析。关键的创新是,通过预测从替代视图获得的聚类分配来迭代地更新实例视图表示,使得实例的多视图表示导致相似的聚类分配。在两个公开数据集上的实验表明,AV-KMEANS可以比最先进的无监督表示学习方法和标准的多视图聚类方法更好地诱导对话意图聚类。
2020-09-15 cs.CL
Intent Induction from Conversations for Task-Oriented Dialogue Track at DSTC 11
AWS AI Labs(AWS人工智能实验室)
本文介绍 DSTC 11 的对话意图归纳赛道,构建真实客服场景基准、两项子任务、三个数据集与基线,并汇总34个团队的提交结果。
2023-04-25 cs.CL
Dialog Flow Induction for Constrainable LLM-Based Chatbots
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对 LLM 聊天机器人易越出专业领域的问题,本文提出无监督自动归纳领域对话流的方法及两种变体,并证明其可提升领域覆盖、减少人工流程设计。
2024-08-03 cs.CL
Analysis of Utterance Embeddings and Clustering Methods Related to Intent Induction for Task-Oriented Dialogue
Korea University(高丽大学);Naver Corporation(Naver公司)
本文研究任务型对话中意图归纳的无监督方法,比较不同话语嵌入与聚类算法的组合,发现预训练MiniLM结合Agglomerative聚类在NMI、ARI、F1、准确率和覆盖率上显著提升。
2024-06-05 cs.AI cs.CL
Multi-Stage Coarse-to-Fine Contrastive Learning for Conversation Intent Induction
Chongqing University(重庆大学);iFLYTEK Research(讯飞研究院);University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室)
意图识别是面向任务的对话系统的关键。然而,对于新兴领域和新服务,由于耗时的数据注释和相对较差的模型可移植性,很难准确地识别会话的关键意图。因此,对话意图的自动归纳对于智能对话系统来说是非常重要的。本文提出了我们的解决方案,轨道2的意图诱导会话面向任务的对话在第十一届对话系统技术挑战赛(DSTC 11)。意图聚类的实质在于区分不同对话话语的表征。自动意图归纳的关键在于,对于任何给定的新数据集,模型获得的句子表示可以很好地区分不同的标签。因此,我们提出了一个多阶段的粗到精的对比学习模型训练方案,包括无监督的对比学习预训练,监督的对比学习预训练,并与联合对比学习和聚类微调,以获得更好的对话话语表示模型的聚类任务。在发布的DSTC 11 Track 2评估结果中,我们提出的系统在该Track的两个子任务中均排名第一。
2023-03-09 cs.CL
Self-seeding and Multi-intent Self-instructing LLMs for Generating Intent-aware Information-Seeking dialogs
Leiden University(莱顿大学);University of Amsterdam(阿姆斯特丹大学)
本文提出SOLID及SOLID-RL方法,利用大语言模型的自播种与多意图自指导方案零样本生成大规模意图感知信息寻求对话,实验证明其训练效果优于人工标注数据。
2025-02-07 cs.CL
Improved Goal Oriented Dialogue via Utterance Generation and Look Ahead
Technion, IIT(以色列理工学院);IBM Research(IBM研究院)
目标导向的对话系统已成为大多数企业的一个突出的客户关怀互动渠道。然而,并非所有的互动都是顺畅的,客户意图误解是导致对话失败的主要原因。我们表明,可以通过训练深度文本到文本神经模型来改进意图预测,以便从未标记的对话数据中生成连续的用户话语。为此,我们定义了一个多任务训练机制,利用连续的用户话语生成来提高意图预测。我们的方法实现了报告的改进,由于两个互补的因素:第一,它使用了大量的未标记的对话数据的辅助生成任务。其次,它使用所生成的用户话语作为意图预测模型的附加信号。最后,我们提出了一种新的前瞻性的方法,使用用户话语生成,以提高意图预测的推理时间。具体来说,我们生成反事实的连续用户话语的对话与模糊的预测意图,并消除歧义的预测,通过重新评估的级联序列的可用和生成的话语。
2021-10-24 cs.AI cs.CL cs.LG
CESAR: Automatic Induction of Compositional Instructions for Multi-turn Dialogs
National University of Singapore(新加坡国立大学);Amazon Alexa AI(亚马逊Alexa人工智能部门)
本文提出CESAR框架,通过统一格式并自动归纳组合指令,构建了包含63个数据集、86个基础任务和68个复合任务的InstructDial++基准,使模型能遵循多约束组合提示。
2023-11-29 cs.CL
DialogUSR: Complex Dialogue Utterance Splitting and Reformulation for Multiple Intent Detection
Peking University(北京大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent Cloud Xiaowei(腾讯云小微)
在与聊天机器人交互时,用户可以在单个对话话语中引出多个意图。我们提出了DialogUSR,而不是训练一个专用的多意图检测模型,这是一个对话话语分裂和重构任务,它首先将多意图用户查询分成几个单意图子查询,然后恢复子查询中所有的共指和省略信息。DialogUSR可以作为一个插件和域无关模块,以最小的努力为部署的聊天机器人提供多意图检测。我们收集了一个高质量的自然发生的数据集,涵盖了23个领域的多步人群搜索程序。为了对拟议的数据集进行基准测试,我们提出了多个基于动作的生成模型,这些模型涉及端到端和两阶段训练,并对拟议基线的利弊进行了深入分析。
2022-10-20 cs.AI cs.CL
Dynamic Label Name Refinement for Few-Shot Dialogue Intent Classification
Chung-Ang University(中央大学);LG AI Research(LG人工智能研究院)
本文提出一种基于上下文学习和动态标签优化的少样本对话意图分类方法,通过大型语言模型动态优化意图标签以区分相似意图,在多个数据集上显著提升性能并增强标签可解释性。
2024-12-20 cs.CL
Modelling Users, Intentions, and Structure in Spoken Dialog
我们概述了如何在对话中的话语可以解释使用部分一阶逻辑。我们利用这种逻辑的能力来谈论公式的真理状态,以定义话语之间的连贯性的概念,并解释这种连贯性关系如何可以用于构建与/或树,表示对话的分割。在一个BDI模型中,我们正式的对话和合作行为的参与者的基本假设。这些假设为从话语和对话参与者态度之间的连贯关系推断言语行为提供了基础。言语行为被证明是有用的,用于确定对话片段定义的概念上完成对话参与者的期望。最后,我们勾勒出如何明确的分割暗示短语和施为性是由我们的对话模型。
1998-09-17 cs.CL
Discovering Customer-Service Dialog System with Semi-Supervised Learning and Coarse-to-Fine Intent Detection
Tianjin University(天津大学);China Mobile Communication Group Tianjin Co., Ltd.(中国移动通信集团天津有限公司)
任务导向对话(Task-oriented dialogue,TOD)旨在通过多轮对话帮助用户实现特定的目标。最近,基于大型预训练模型已经获得了良好的结果。然而,标签数据的稀缺性阻碍了TOD系统的大规模有效开发。在这项工作中,我们构建了一个基于教师/学生范式的弱监督数据集,该范式利用了大量未标记的对话。此外,我们建立了一个模块化的对话系统和集成的粗到细粒度的用户意图检测分类。实验结果表明,该方法能够以较高的成功率达到对话目标,并产生更连贯的响应。
2022-12-23 cs.CL
Empathetic Dialog Generation with Fine-Grained Intents
School of Computer and Communication Sciences(计算机与通信科学学院);École Polytechnique Fédérale de Lausanne, Switzerland(洛桑联邦理工学院)
移情对话生成的目的是在先前的对话轮之后产生连贯的反应,更重要的是,表现出关心和帮助的愿望。现有的模型要么依赖于预定义的情感标签来指导响应生成,要么使用确定性规则来决定响应的情感。随着高级语言模型的出现,可以直接从数据集中学习微妙的交互,前提是情感类别提供足够的细微差别,并且包括其他非情感但情感调节的意图。在本文中,我们描述了如何将32个情绪类别和8个额外的情绪调节意图的分类成功的移情反应生成的任务。为了便于训练,我们还从电影字幕中策划了一个大规模的情感对话数据集。通过一个精心设计的众包实验,我们评估并展示了我们的模型如何产生更多的移情对话。
2021-10-04 cs.CL
Multi-View Zero-Shot Open Intent Induction from Dialogues: Multi Domain Batch and Proxy Gradient Transfer
Seoul National University(首尔国立大学);Hanyang University(汉阳大学)
针对任务导向对话中的零样本开放意图归纳,本文提出融合 SBERT、MDB 与 PGT 的语义多视角模型,利用多域知识和 Siamese 聚类微调显著提升性能。
2023-08-13 cs.AI cs.CL
Natural Language Understanding for Argumentative Dialogue Systems in the Opinion Building Domain
Southeast University(东南大学);Ulm University(乌尔姆大学);Mercedes-Benz Research & Development(梅赛德斯-奔驰研发中心)
本文介绍了一个自然语言理解(NLU)框架,在信息寻求和意见建设领域的辩论对话系统。该框架包括两个子模型,即意图分类器和论点相似度。意图分类器模型将BiLSTM与注意力机制堆叠在预训练的BERT模型之上,并微调模型以识别用户意图,而论点相似性模型使用BERT + BiLSTM来识别用户在他或她的自然语言话语中引用的系统论点。我们的模型是在一个争论性的对话系统,从事用户通知他/她自己的一个有争议的话题,通过探索赞成和反对的论点,并建立他/她对这个话题的意见。为了评估所提出的方法,我们收集用户话语的互动与各自的系统标签的意图和参考参数在一个广泛的在线研究。数据汇集包括多个主题和两种不同的用户类型(来自英国的英语母语者和来自中国的非英语母语者)。此外,我们分别在公开的Banking77和STS基准数据集上评估了所提出的意图分类器和参数相似性模型。评估表明,在几个数据集的基线方法,以及对新的主题和不同的语言能力,以及用户的文化背景所提出的方法的鲁棒性所使用的技术的明显优势。此外,结果表明,我们的意图分类器模型在Few-Shot设置中优于DIET、DistillBERT和BERT微调模型(即,每个意图具有10、20或30个标记的示例)和完整的数据设置。
2022-02-19 cs.CL cs.LG
Modeling Intent, Dialog Policies and Response Adaptation for Goal-Oriented Interactions
Intel Labs(英特尔研究院)
构建用于面向目标的交互的机器学习驱动的口语对话系统涉及意图和数据汇集的仔细设计以及意图识别模型和对话策略学习算法的开发。模型应该足够健壮,以处理交互流程中的各种用户干扰,并应引导用户返回到参与交互,以成功完成交互。在这项工作中,我们设计了一个目标导向的互动系统,儿童可以从事代理的一系列互动,涉及'满足\&问候'和'西蒙说'的游戏。我们已经探索了各种用于改进意图识别的特征提取器和模型,并研究了利用注意力模型以新颖的方式利用先前的用户和系统交互。我们还研究了用于夹带响应选择的对话自适应方法。我们从有限的训练数据中得到的自举模型比我们在意图识别和对话动作预测方面看到的许多基线方法都要好。
2019-12-20 cs.CL
Intent-driven In-context Learning for Few-shot Dialogue State Tracking
School of Intelligent Systems Engineering Sun Yat-sen University Shenzhen, China
本文提出 IDIC-DST,通过意图驱动的对话信息增强、噪声屏蔽、输入重写与相似示例检索,利用大语言模型在少样本 DST 中达到 MultiWOZ 2.1/2.4 最优性能。
2024-12-04 cs.AI cs.CL
Slot Induction via Pre-trained Language Model Probing and Multi-level Contrastive Learning
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Amazon(亚马逊);Salesforce Research(赛富时研究院)
本文提出利用预训练语言模型探测与多级对比学习,在仅有句子级意图标签的条件下实现槽位归纳,并在两个NLU基准上缩小与词元级监督模型的差距,同时提升槽位填充性能。
2023-08-09 cs.CL cs.LG
Automatic Intent-Slot Induction for Dialogue Systems
Ping An Life Insurance of China, Ltd.(中国平安人寿保险股份有限公司)
自动和准确地识别用户意图并从他们的口语中填充相关联的槽是对话系统成功的关键。传统的方法需要手动定义DOMAIN-INTENT-SLOT模式,并要求许多领域专家注释相应的话语,在此基础上训练神经模型。这一过程带来的挑战,信息共享阻碍,模式外,或数据稀疏的开放域对话系统。为了应对这些挑战,我们探索了一个新的任务{ \em自动意图槽归纳},并提出了一个新的域独立的工具。也就是说,我们设计了一个由粗到精的三步过程,包括角色标记、概念挖掘和模式挖掘(RCAP):(1)角色标记:从用户的话语中提取关键词,并通过序列标记将其分类为四个粗略定义的意图角色;(2)概念挖掘:将提取的意图角色提及聚类并将其命名为抽象的细粒度概念;(3)模式挖掘:将Apriori算法应用于意图角色模式的挖掘,并利用这些粗粒度的意图角色标签和细粒度的概念自动推断意图槽。在域内和域外数据集上的实验结果表明:(1)RCAP可以生成令人满意的SLU模式,性能优于现有的监督学习方法:(2)RCAP可以直接应用于域外数据集,在意图检测和槽填充上分别提高了76%和41%;(3)我们的RCAP在通用意图槽提取方面表现出了强大的功能,并且人工工作量更少,这为新领域的模式归纳和可推广的对话系统的不可见意图槽发现开辟了途径。
2021-03-16 cs.AI cs.CL
Bootstrapping Multilingual Intent Models via Machine Translation for Dialog Automation
Interactions, LLC;Murray Hill, NJ, USA(美国新泽西州默里希尔(注:此处为地址,非机构,按要求不应提取。正确机构仅为Interactions, LLC))
随着基于聊天的对话系统在消费者和企业应用中的复兴,在开发数据驱动和基于规则的自然语言模型以理解人类意图方面取得了很大成功。由于这些模型需要大量的数据和领域内的知识,因此将等效服务扩展到新市场会受到语言障碍的干扰,这些语言障碍阻碍了对话自动化。本文提出了一个用户研究,以评估实用的开箱即用的机器翻译技术(1)快速引导多语言口语对话系统和(2)使现有的人类分析师理解外语话语。我们还评估了机器翻译在人工辅助环境中的实用性,其中一部分流量由分析师处理。在英语->西班牙语的实验中,我们观察到对话自动化的高潜力,以及人类分析师以高精度处理外语话语的潜力。
2018-05-11 cs.CL
DialogVCS: Robust Natural Language Understanding in Dialogue System Upgrade
Peking University(北京大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent Cloud AI(腾讯云AI)
本文针对对话系统更新中新旧意图产生语义纠缠损害NLU模型鲁棒性的问题,提出DialogVCS基准,将意图检测表述为正但未标记的多标签分类任务,并证明自动工作流能有效识别语义纠缠的意图。
2023-05-24 cs.AI cs.CL
Building the Intent Landscape of Real-World Conversational Corpora with Extractive Question-Answering Transformers
Bell Canada(加拿大贝尔)
对于提供客户服务的公司来说,在会话数据中映射意图对于构建基于自然语言理解(NLU)的应用程序至关重要。然而,目前还没有建立自动化技术来从嘈杂的在线聊天或语音记录中收集意图。简单的聚类方法不适合意图稀疏的对话。为了解决这个意图景观任务,我们提出了一个无监督的管道,从现实世界的对话中提取意图和意图的分类。我们的管道使用提取问答Electra模型挖掘意图跨度候选项,并利用句子嵌入应用低级别密度聚类,然后是顶级层次聚类。我们的研究结果证明了在SQuAD 2数据集上微调的ELECTRA大型模型的泛化能力,以理解对话。通过正确的提示问题,该模型实现了超过85%的意图跨度的语言验证率。我们还从MultiDoGo数据集重建了五个领域的意图方案,平均召回率为94.3%。
2022-08-30 cs.AI cs.CL cs.LG
A Survey of Intent Classification and Slot-Filling Datasets for Task-Oriented Dialog
Vanderbilt University(范德堡大学)
本综述系统梳理了面向任务型对话的意图分类与槽填充公开数据集,分析其特点与优劣,并探讨其在评估大型语言模型零样本NLU能力中的新角色。
2026-09-09 cs.CL
Intent Recognition and Unsupervised Slot Identification for Low Resourced Spoken Dialog Systems
Carnegie Mellon University(卡内基梅隆大学)
意图识别和槽识别是口语语言理解(SLU)系统的重要组成部分。在本文中,我们提出了一种新的方法对这些任务的背景下,低资源和非书面语言。我们提出了一个基于声学的SLU系统,它使用通用的电话识别系统将语音转换为音标。我们建立了一个无词的自然语言理解模块,它可以从这些音标中进行意图识别和槽识别。我们提出的SLU系统执行资源丰富的情况下,具有竞争力,并显着优于现有的方法,可用数据量减少。我们观察到泰米尔语的意图分类改善了10%以上,僧伽罗语的意图分类改善了5%以上。我们还提出了一种新的方法对无监督槽识别使用归一化的注意力分数。该方法可用于无监督的时隙标记、数据增强以及仅用一个语音记录以一次性方式为新时隙生成数据
2021-09-28 cs.CL
Balancing Accuracy and Efficiency in Multi-Turn Intent Classification for LLM-Powered Dialog Systems in Production
Forth AI;Shopee;Singapore University of Technology and Design(新加坡科技设计大学)
本文针对生产环境多轮意图分类的准确性与效率问题,提出符号微调和C-LARA框架,利用大语言模型生成合成数据并微调小型模型,在提升准确率5.09%的同时降低40%标注成本,实现低资源多语言工业系统的可扩展部署。
2024-11-19 cs.AI cs.CL cs.IR
Improved intent classification based on context information using a windows-based approach
本研究提出基于窗口的卷积神经网络方法,利用BERT向量表示和对话历史上下文,在巴西葡萄牙语语料库上显著提升意图分类准确率。
2024-11-09 cs.CL
Task Conditioned BERT for Joint Intent Detection and Slot-filling
Universidade NOVA de Lisboa(新里斯本大学);Farfetch(发发奇)
本文提出任务条件化BERT,通过在统一Transformer编码器上同时条件化意图和多种槽位推断,在MultiWOZ上使联合意图与槽位检测最高提升14.4%,并在真实对话中取得较高性能。
2023-08-11 cs.CL
Intent Detection with WikiHow
University of Pennsylvania(宾夕法尼亚大学)
现代任务导向对话系统需要可靠地理解用户的意图。当迁移到新领域或新语言时,意图检测是最具挑战性的,因为几乎没有注释数据。为了应对这一挑战,我们提出了一套预训练的意图检测模型。我们的模型能够从许多行动中预测广泛的预期目标,因为它们是在wikiHow(一个综合性的教学网站)上训练的。我们的模型在Snips数据集,Schema-Guided Dialogue数据集和Facebook多语言对话数据集的所有3种语言上实现了最先进的结果。我们的模型还展示了强大的零次和Few-Shot性能,在所有数据集中仅使用100个训练样本就达到了75%以上的准确率。
2020-12-12 cs.CL
Gaining Insights into Unrecognized User Utterances in Task-Oriented Dialog Systems
IBM Research(IBM研究院)
快速增长的市场需求的自动对话代理能够面向目标的行为,导致许多技术行业的领导者投入大量精力到面向任务的对话系统。这些系统的成功高度依赖于其意图识别的准确性-推断用户请求的目标或含义并将其映射到已知意图之一以进行进一步处理的过程。因此,深入了解未识别的话语(系统无法将用户请求归因于已知意图)是持续改进面向目标的对话系统的关键过程。我们提出了一个端到端的管道处理未识别的用户话语,部署在现实世界中,商业任务导向的对话系统,包括专门定制的聚类算法,一种新的方法来集群代表提取,和集群命名。我们评估了所提出的组件,展示了它们在分析未识别用户请求方面的优势。
2022-10-24 cs.CL
Semantic Parsing for Task Oriented Dialog using Hierarchical Representations
Facebook Conversational AI(Facebook 对话人工智能);Facebook AI Research(Facebook 人工智能研究院)
面向任务的对话系统通常首先将用户话语解析为包括意图和槽的语义框架。以前关于面向任务的意图和槽填充工作的工作被限制为每个查询一个意图和每个令牌一个槽标签,因此无法对复杂的组合请求进行建模。替代的语义解析系统已经将查询表示为逻辑形式,但是这些对于注释和解析是具有挑战性的。我们提出了一个层次化的语义解析的注释方案,允许组合查询的表示,并可以有效地和准确地解析标准的选区解析模型。我们发布了一个44k注释查询的数据集(fb.me/semanticparsingdialog),并表明解析模型在这个数据集上的性能优于序列到序列的方法。
2018-10-18 cs.CL
WHEN TO ACT, WHEN TO WAIT: Modeling the Intent-Action Alignment Problem in Dialogue
Northeastern University(东北大学);Tufts University(塔夫茨大学);Boston University(波士顿大学);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校);Massachusetts Institute of Technology(麻省理工学院);Northwestern University(西北大学);George Washington University(乔治华盛顿大学)
针对对话系统中用户话语语义完整但缺乏系统行动所需清晰度的意图-行动对齐问题,提出STORM框架建模UserLLM与AgentLLM间的不对称信息对话,生成标注语料库并提出评估指标,实验发现中等不确定性在部分场景更优,为对话系统设计提供参考。
2025-08-23 cs.AI cs.CL
Resolving Intent Ambiguities by Retrieving Discriminative Clarifying Questions
Amelia Science(阿米莉亚科学公司);IPsoft(艾普索夫特公司)
针对任务导向对话中用户查询在两个意图间存在歧义且领域澄清问题获取成本高的问题,本文提出一种基于规则的区分性问题生成方法,无需标注数据即可借助问题生成系统澄清意图,并可扩展至多意图场景。
2024-12-06 cs.AI cs.CL cs.LG
On the Robustness of Intent Classification and Slot Labeling in Goal-oriented Dialog Systems to Real-world Noise
构成对话系统基础的意图分类(IC)和槽标记(SL)模型在真实世界环境中经常遇到噪声数据。在这项工作中,我们研究了IC/SL模型对噪声数据的鲁棒性。我们收集并公开发布了一个测试套件,用于测试生产中人与机器人对话中发现的七种常见噪音类型(缩写、大小写、拼写错误、形态变体、释义、标点符号和同义词)。在这个测试套件中,我们发现,常见的噪声类型大大降低了IC的精度和SL F1性能的最先进的基于BERT的IC/SL模型。通过利用交叉噪声鲁棒性转移(在一种噪声类型上进行训练以提高对另一种噪声类型的鲁棒性),我们设计了聚合数据增强方法,使所有七种噪声类型的模型性能平均提高了10.8%(IC精度)和15个点(SL F1)。据我们所知,这是第一次提出一个单一的IC/SL模型,是强大的广泛的噪声现象的工作。
2021-11-01 cs.AI cs.CL
Interactive Question Clarification in Dialogue via Reinforcement Learning
Ant Financial Services Group(蚂蚁金融服务集团)
在现实世界的对话系统中,处理模棱两可的问题一直是一个长期存在的问题。虽然通过提问来澄清是人类交互的常见形式,但很难定义适当的问题来从用户那里引出更具体的意图。在这项工作中,我们提出了一个强化模型,以澄清模糊的问题,建议改进的原始查询。我们首先制定一个集合划分问题,选择一组标签,使我们能够区分潜在的明确意图。我们将选择的标签作为意图短语列出给用户以供进一步确认。然后,所选择的标签连同原始用户查询一起用作细化的查询,可以更容易地识别合适的响应。该模型使用具有深度策略网络的强化学习进行训练。我们根据真实世界的用户点击来评估我们的模型,并在几个不同的实验中展示了显着的改进。
2020-12-17 cs.CL
Semi-Supervised Clustering with Contrastive Learning for Discovering New Intents
MYbank, Ant Group(蚂蚁集团网商银行)
现实世界中的大多数对话系统依赖于预定义的意图和答案来提供问答服务,因此,从大型语料库中发现潜在的意图对于构建此类对话服务非常重要。考虑到大多数场景中已知的意图很少,大多数意图等待被发现,我们专注于半监督文本聚类,并试图使所提出的方法受益于标记样本,以获得更好的整体聚类性能。在本文中,我们提出了深度对比半监督聚类(DCSC),它的目的是在一个半监督的方式聚类文本样本,并提供分组的意图给操作人员。为了使DCSC充分利用有限的已知意图,我们提出了一个两阶段的DCSC训练过程,其中DCSC将在标记样本和未标记样本上进行训练,并获得更好的文本表示和聚类性能。我们在两个公共数据集上进行了实验,将我们的模型与几种流行的方法进行了比较,结果表明DCSC在所有数据集和情况下都取得了最佳性能,表明了我们工作中改进的效果。
2022-01-07 cs.AI cs.CL cs.LG
Finding Dominant User Utterances And System Responses in Conversations
IBM Research Labs(IBM研究院)
有几种对话框架允许手动指定意图和基于规则的对话流。基于规则的框架为对话框设计者提供了良好的控制,但代价是更加耗时和费力。如果我们能够从用户和代理之间的先前对话中自动识别用户意图和相应的响应,则对话设计者的工作可以减少。在本文中,我们提出了一种方法来找到这些频繁的用户话语(作为意图的例子)和相应的代理响应。我们提出了一种新的SimCluster算法,扩展了标准的K-means算法,同时聚类用户的话语和代理话语,考虑到他们的邻接信息。该方法还对齐这些聚类以提供成对的意图和响应组。我们将我们的结果与在真实数据集上使用简单Kmeans聚类产生的结果进行比较,并观察到F1分数的绝对改善高达10%。通过在人工数据集上的实验,我们证明了在数据方差较大的情况下,该算法比K-means算法具有更大的优势。
2017-10-29 cs.CL
Conformal Intent Classification and Clarification for Fast and Accurate Intent Recognition
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);ING Group NV(ING集团);TU Delft(代尔夫特理工大学)
本文提出保形意图分类与澄清框架CICC,将意图分类器的不确定性分数转化为保证包含真实意图的澄清问题,并支持分布外检测,在七个数据集上验证了其高效性与准确性。
2024-03-27 cs.CL
Intent Speaks Louder: Controllable User Simulation Beyond Response Imitation
Beihang University(北京航空航天大学)
该研究提出UserIDA模型,将交互意图作为每轮明确指令,在LMSYS-USP上实现86.6%意图准确率,大幅优于基线,为用户模拟提供了与回应保真度互补的每轮意图控制维度。
2026-08-11 cs.CL
The StatCan Dialogue Dataset: Retrieving Data Tables through Conversations with Genuine Intents
Mila Quebec AI Institute(米拉魁北克人工智能研究所);McGill University(麦吉尔大学);ServiceNow Research(ServiceNow研究院);Facebook(脸书)
本文介绍StatCan对话数据集,含19,379轮真实意图对话,提出数据表检索与回复生成两个任务,实验显示现有模型在时间分割上泛化困难,并鼓励社区开发模型以辅助知识工作者。
2023-04-05 cs.CL
RECAP: REwriting Conversations for Intent Understanding in Agentic Planning
Megagon Labs(Megagon实验室)
RECAP通过对话重写提升代理规划中的意图理解,提出新基准和方法,验证重写对规划效用的提升。
2026-01-24 cs.AI cs.CL
Quick Starting Dialog Systems with Paraphrase Generation
National Bank of Canada(加拿大国家银行);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
获取训练数据以提高对话系统的鲁棒性可能是一个艰苦而漫长的过程。在这项工作中,我们提出了一种方法,以减少成本和努力,创造新的会话代理人,人工生成更多的数据,从现有的例子,使用释义生成。我们所提出的方法可以启动一个对话系统,几乎没有人力的努力,并使其性能达到令人满意的水平,足以让实际的互动与真正的最终用户。我们实验了两种神经释义方法,即神经机器翻译和基于transformer的seq 2seq模型。我们展示了用英语和法语两个数据集获得的结果:~众包公共意图分类数据集和我们自己的企业对话系统数据集。我们表明,我们提出的方法提高了两个数据集上的意图分类模型的泛化能力,减少了初始化新对话系统所需的工作量,并有助于在组织内大规模部署这项技术。
2022-05-03 cs.CL