Multi-Stage Coarse-to-Fine Contrastive Learning for Conversation Intent Induction
Chongqing University(重庆大学);iFLYTEK Research(讯飞研究院);University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室)
意图识别是面向任务的对话系统的关键。然而,对于新兴领域和新服务,由于耗时的数据注释和相对较差的模型可移植性,很难准确地识别会话的关键意图。因此,对话意图的自动归纳对于智能对话系统来说是非常重要的。本文提出了我们的解决方案,轨道2的意图诱导会话面向任务的对话在第十一届对话系统技术挑战赛(DSTC 11)。意图聚类的实质在于区分不同对话话语的表征。自动意图归纳的关键在于,对于任何给定的新数据集,模型获得的句子表示可以很好地区分不同的标签。因此,我们提出了一个多阶段的粗到精的对比学习模型训练方案,包括无监督的对比学习预训练,监督的对比学习预训练,并与联合对比学习和聚类微调,以获得更好的对话话语表示模型的聚类任务。在发布的DSTC 11 Track 2评估结果中,我们提出的系统在该Track的两个子任务中均排名第一。
2023-03-09 cs.CL
BootTOD: Bootstrap Task-oriented Dialogue Representations by Aligning Diverse Responses
Beijing University of Posts and Telecommunications(北京邮电大学);Meituan(美团)
针对任务型对话预训练中对比框架依赖正负样本且缺乏多样性的问题,本文提出 BootTOD,通过自举对齐上下文与上下文加响应表示并利用多响应目标建模一对多多样性,在下游任务上超过 TOD 基线。
2024-03-02 cs.CL
Robust Task-Oriented Dialogue Generation with Contrastive Pre-training and Adversarial Filtering
The University of Melbourne(墨尔本大学)
数据伪影激励机器学习模型通过利用数据中的捷径来学习不可转移的概括,越来越多的证据表明,数据伪影对深度学习模型在最近的自然语言处理基准测试中取得的强大结果起着重要作用。在本文中,我们专注于面向任务的对话,并调查是否流行的数据集,如MultiWOZ包含这样的数据工件。我们发现,通过在训练样本中只保留频繁短语,最先进的模型与用完整数据训练的变体相比表现相似,这表明它们利用这些虚假的相关性来解决任务。基于此,我们提出了一个基于对比学习的框架,以鼓励模型忽略这些线索,专注于学习可推广的模式。我们还尝试了对抗性过滤,以删除“简单”的训练实例,以便模型专注于从“较难”的实例中学习。我们进行了大量的泛化实验,例如,跨域/数据集和对抗性测试-评估我们方法的鲁棒性,发现它工作得非常好。
2022-05-20 cs.CL
$C^3$: Compositional Counterfactual Contrastive Learning for Video-grounded Dialogues
Salesforce Research Asia(Salesforce亚洲研究院);A*STAR, Institute for Infocomm Research(新加坡科技研究局资讯通信研究院)
本文提出组合式反事实对比学习($C^3$),通过事实/反事实采样和对比隐藏状态表示优化视频基础对话生成,并在AVSD基准上取得性能提升。
2023-08-05 cs.CL cs.CV cs.LG
Template-assisted Contrastive Learning of Task-oriented Dialogue Sentence Embeddings
Stanford University(斯坦福大学);Zhejiang University(浙江大学);Alibaba Qwen Pilot(阿里巴巴Qwen Pilot)
本文提出TaDSE方法,利用模板信息通过自监督对比学习学习对话句嵌入,通过合成数据集增强效果,并在五个对话基准数据集上验证了其有效性。
2026-04-12 cs.AI cs.CL
Utterance Rewriting with Contrastive Learning in Multi-turn Dialogue
Carnegie Mellon University(卡内基梅隆大学);ANT GROUP(蚂蚁集团)
上下文建模在构建多轮对话系统中起着重要的作用。为了充分利用语境信息,系统可以使用不完全话语重写(IUR)方法,通过将当前话语和语境信息合并成一个自包含的话语,将多轮对话简化为单轮对话。然而,以前的方法忽略了原始查询和重写查询之间的意图一致性。可以进一步改进对原始查询中的省略或共指位置的检测。在本文中,我们引入了对比学习和多任务学习来联合建模的问题。我们的方法受益于精心设计的自我监督的目标,作为辅助任务,以捕捉语义在文本级和令牌级。实验表明,我们提出的模型在几个公共数据集上达到了最先进的性能。
2022-03-22 cs.CL cs.LG
Searching for Snippets of Open-Domain Dialogue in Task-Oriented Dialogue Datasets
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);Laboratoire Interdisciplinaire des Sciences du Numérique(数字科学跨学科实验室)
本研究通过主题建模探索Schema-Guided Dialogues和MultiWOZ训练集,发现面向任务对话数据中自然存在社交闲聊序列,为闲聊与任务对话的结合研究提供了依据。
2023-11-23 cs.CL
Small Changes Make Big Differences: Improving Multi-turn Response Selection in Dialogue Systems via Fine-Grained Contrastive Learning
Microsoft(微软)
基于检索的对话响应选择旨在从给定多轮上下文的候选集合中找到合适的响应。基于预训练的语言模型(PLM)的方法在这一任务上取得了显著的改进。序列表征在对话语境与应答匹配度的学习中起着关键作用。然而,我们观察到,不同的上下文响应对共享相同的上下文总是有更大的相似性,在序列表示计算的PLM,这使得它很难区分积极的反应,从消极的。基于此,我们提出了一种新的\textbf{F}线性学习方法-- \textbf{G}雨\textbf{C}对比学习(FGC)方法,用于基于PLM的响应选择任务.这种FGC学习策略有助于PLM在细粒度上生成每个对话的更可区分的匹配表示,并进一步对选择积极响应做出更好的预测。两个基准数据集的实证研究表明,所提出的FGC学习方法可以普遍和显着提高现有的基于PLM的匹配模型的模型性能。
2021-11-25 cs.CL cs.IR
ADVISER: A Toolkit for Developing Multi-modal, Multi-domain and Socially-engaged Conversational Agents
University of Stuttgart(斯图加特大学)
我们提出了ADVISER -一个开源的,多域的对话系统工具包,使开发多模态(包括语音,文本和视觉),社会参与(如情感识别,参与度预测和反向通道)会话代理。我们的工具包的最终基于Python的实现是灵活的,易于使用,易于扩展,不仅适用于技术经验丰富的用户,如机器学习研究人员,而且适用于技术经验较少的用户,如语言学家或认知科学家,从而为协作研究提供了一个灵活的平台。开源代码链接:https://github.com/DigitalPhonetics/adviser
2020-05-04 cs.AI cs.CL
Learning Dialogue Representations from Consecutive Utterances
Northwestern University(西北大学);AWS AI Labs(亚马逊云科技人工智能实验室)
学习高质量的对话表示对于解决各种面向对话的任务至关重要,特别是考虑到对话系统经常遭受数据稀缺。在本文中,我们介绍了对话句子嵌入(DSE),一个自我监督的对比学习方法,学习有效的对话表示适合广泛的对话任务。DSE通过将同一对话的连续话语作为对比学习的正对来从对话中学习。尽管它的简单性,DSE实现了显着更好的表示能力比其他对话表示和通用的句子表示模型。我们评估DSE的五个下游的对话任务,检查在不同的语义粒度的对话表示。在Few-Shot和zero-shot设置下的实验表明,DSE的性能大大优于基线。例如,在6个数据集上的单次意图分类中,它在最强的无监督基线上实现了13%的平均性能提升。我们还提供了我们的模型的优点和局限性的分析。
2022-07-21 cs.CL cs.LG
Collaborative Rational Speech Act: Pragmatic Reasoning for Multi-Turn Dialog
International Laboratory on Learning Systems (ILLS)(国际学习系统实验室);Laboratoire Interdisciplinaire des Sciences du Numérique (LISN)(跨学科数字科学实验室);Mila - Quebec AI Institute(魁北克人工智能研究所);CNRS(法国国家科学研究中心);CentraleSupélec(中央超导研究所);Université Paris-Saclay(巴黎萨克雷大学);McGill University(麦吉尔大学)
本文提出协作理性言语行为(CRSA)框架,通过率失真理论优化的增益函数建模多轮对话中的语用推理,在指称游戏和医患对话中表现出更一致、可解释和协作的行为。
2025-09-22 cs.CL
CTRLStruct: Dialogue Structure Learning for Open-Domain Response Generation
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Shandong University(山东大学)
对话结构发现是对话生成的关键。结构良好的主题流可以利用背景信息和预测未来的主题,以帮助产生可控和可解释的反应。然而,以往的研究大多集中在任务型对话中的对话结构学习,而不是更复杂、更具挑战性的开放域对话。在本文中,我们提出了一个新的框架CTRLStruct对话结构学习,有效地探索主题级的对话集群,以及他们的过渡与未标记的信息。准确地说,由双向Transformer编码的对话话语通过特殊设计的对比学习任务进一步训练以提高表征。然后,我们执行聚类的话语级表示和形成的主题级集群,可以被认为是对话结构图中的顶点。通过模仿数据集中的专家行为来计算图中指示顶点之间的转移概率的边。最后,将对话结构图集成到对话模型中,实现受控响应生成。在两个流行的开放域对话数据集上的实验表明,与一些优秀的对话模型相比,该模型能够产生更连贯的响应,并且在对话话语表示方面优于一些典型的句子嵌入方法。代码可以在GitHub上找到。
2023-03-02 cs.CL
A Taxonomy of Empathetic Response Intents in Human Social Conversations
School of Computer and Communication Sciences(计算机与通信科学学院);École polytechnique fédérale de Lausanne(洛桑联邦理工学院)
开放域会话代理或聊天机器人在自然语言处理社区中越来越受欢迎。其中一个挑战是让他们以一种同情的方式交谈。目前的神经反应生成方法仅依赖于从大规模对话数据中进行端到端学习来生成对话。由于缺乏用于训练神经模型的大规模质量数据,这种方法可能产生社会上不可接受的响应。然而,最近的工作表明,结合对话行为/意图建模和神经反应生成的承诺。这种混合方法提高了聊天机器人的响应质量,使其更具可控性和可解释性。对话意图建模中的一个关键元素是分类法的开发。受此启发,我们使用相当大的移情对话数据集(25 K对话)的子集手动标记了500个响应意图。我们的目标是产生一个大规模的移情反应意图的分类。此外,使用词汇和机器学习方法,我们自动分析了整个数据集的说话者和听者话语,识别出了响应意图和32种情感类别。最后,我们使用信息可视化的方法来总结情感对话交流模式及其时间进程。这些结果揭示了新的和重要的移情模式,在人与人的开放域对话,并可以作为混合方法的启发。
2020-12-07 cs.CL
Mitigating Negative Style Transfer in Hybrid Dialogue System
School of Computer Science, Fudan University(复旦大学计算机科学学院);Shanghai Key Laboratory of Intelligent Information Processing, Fudan University(复旦大学上海市智能信息处理重点实验室)
随着对话系统功能的发展,实现用户特定目标并参与与用户的开放话题聊天的混合对话系统正吸引越来越多的关注。现有的研究利用多任务融合技术同时学习两个任务,但忽略了由独特的文本风格差异引起的负迁移现象。因此,基于潜变量模型的对比学习被用来解耦潜空间中的各种文本体裁。我们为不同的数据集设计了监督和自我监督的正样本和负样本构造。此外,为了利用解耦潜变量中包含的风格信息,我们采用了一个风格前缀,该前缀进一步包含潜变量,以控制具有不同风格的响应的生成。我们在三个对话数据集上进行了广泛的实验,包括一个混合对话数据集和两个面向任务的对话数据集。实验结果表明,我们的方法可以减轻负风格迁移问题,并在多个对话数据集上实现最先进的性能。
2022-12-14 cs.CL
Consistent Dialogue Generation with Self-supervised Feature Learning
Microsoft Research(微软研究院)
生成与对话上下文一致的响应是构建参与对话代理的核心挑战之一。我们证明了神经会话模型可以通过在整个会话中保持与主题和人物角色相关的某些功能来生成一致的响应。过去的工作需要外部监督,利用通常无法获得的用户身份等功能。在我们的方法中,主题和人物特征提取器使用对比训练方案,利用对话数据的自然结构进行训练。我们还采用了一个功能,解开损失,与可控的响应生成技术相结合,使我们能够促进或降级某些学习的主题和人物角色的功能。评估结果表明,该模型的能力,捕捉有意义的主题和人物角色的功能。所学习的特征的并入在两个对话数据集上生成的响应的质量方面带来了显著的改进。
2021-08-11 cs.CL
IntenDD: A Unified Contrastive Learning Approach for Intent Detection and Discovery
Uniphore Inc.(Uniphore 公司);University of Utah(犹他大学);Stony Brook University(石溪大学)
提出IntenDD统一对比学习方法,利用无监督对比学习和两步后处理,在少样本多类、多标签及意图发现任务上均优于基线。
2023-10-25 cs.CL
DEnsity: Open-domain Dialogue Evaluation Metric using Density Estimation
KAIST AI(韩国科学技术院人工智能学院)
针对开放域对话评估中分类器过度自信的问题,本文提出基于密度估计的指标DEnsity,并结合对比学习压缩特征空间,在多个数据集上取得优于现有指标的人类评估相关性。
2023-05-25 cs.CL
Modeling Discriminative Representations for Out-of-Domain Detection with Supervised Contrastive Learning
Beijing University of Posts and Telecommunications(北京邮电大学);Meituan Group(美团集团)
在面向任务的对话系统中,从用户查询中检测出域外(OOD)或未知意图是必不可少的。OOD检测的一个关键挑战是学习有区别的语义特征。传统的交叉熵损失只关注样本是否被正确分类,并没有明确区分类别之间的边缘。在本文中,我们提出了一个有监督的对比学习的目标,以最大限度地减少类内方差拉在一起属于同一类的领域内的意图,并最大限度地提高类间的方差,从不同的类推开样本。此外,我们采用对抗性增强机制来获取潜在空间中样本的伪多样视图。在两个公开数据集上的实验证明了该方法在OOD检测中的有效性。
2021-05-29 cs.CL
"Hiding in Plain Sight": Designing Synthetic Dialog Generation for Uncovering Socially Situated Norms
Purdue University(普渡大学)
本文提出 NormHint 数据集,通过多步骤框架生成合成对话,自动揭示社会规范,提升模型对对话中潜在规范违规的检测能力。
2026-01-14 cs.CL
ValueNet: A New Dataset for Human Value Driven Dialogue System
UCLA Center for Vision, Cognition, Learning, and Autonomy(加州大学洛杉矶分校视觉、认知、学习与自主中心);Microsoft Research(微软研究院)
构建一个具有社会智能的代理涉及许多挑战,其中之一是教代理像人类一样在其价值的指导下说话。然而,价值驱动的聊天机器人在对话系统领域仍然研究不足。大多数现有的数据集集中在常识推理或社会规范建模。在这项工作中,我们提出了一个新的大规模人类价值数据集,称为ValueNet,其中包含21,374个文本场景的人类态度。该数据集被组织在十个维度,符合跨文化研究中的基本人类价值理论。我们进一步在ValueNet上开发了一个基于Transformer的价值回归模型来学习效用分布。综合的实证结果表明,学习价值模型可以受益于广泛的对话任务。例如,通过使用强化学习和价值模型的奖励来教授生成代理,我们的方法在个性化对话生成数据集Persona-Chat上获得了最先进的性能。通过将值作为附加特征,现有的情感识别模型能够在上下文中捕获丰富的人类情感,这进一步提高了EmpatheticDialogues数据集中的移情响应生成性能。据我们所知,ValueNet是第一个用于人类价值建模的大规模文本数据集,我们是第一个尝试将价值模型纳入情感智能对话系统的人。该数据集可在https://liang-qiu.github.io/ValueNet/上获得。
2021-12-12 cs.AI cs.CL
Watch the Neighbors: A Unified K-Nearest Neighbor Contrastive Learning Framework for OOD Intent Discovery
Beijing University of Posts and Telecommunications(北京邮电大学);Meituan(美团)
发现域外(OOD)意图对于在面向任务的对话系统中开发新技能非常重要。关键的挑战在于如何将先前的领域内(IND)知识转移到OOD聚类,以及共同学习OOD表示和聚类分配。以往的方法存在域内过拟合问题,表示学习与聚类目标之间存在天然的鸿沟。在本文中,我们提出了一个统一的K-近邻对比学习框架来发现面向对象设计意图。具体来说,对于IND预训练阶段,我们提出了一个KCL目标来学习类间区分特征,同时保持类内多样性,这消除了域内过拟合问题。在面向对象聚类阶段,我们提出了一种KCC方法,通过挖掘真实的硬否定样本来形成紧凑的聚类,从而弥补了聚类和表示学习之间的差距。在三个基准数据集上的大量实验表明,我们的方法比最先进的方法有了很大的改进。
2022-10-17 cs.CL
RSVP: Customer Intent Detection via Agent Response Contrastive and Generative Pre-Training
National Yang Ming Chiao Tung University(国立阳明交通大学)
提出RSVP自监督框架,利用智能体响应通过响应检索和生成两阶段预训练,提升客户意图检测准确率,在两个真实数据集上平均提升4.95%准确率。
2023-10-15 cs.CL
Semi-Supervised Clustering with Contrastive Learning for Discovering New Intents
MYbank, Ant Group(蚂蚁集团网商银行)
现实世界中的大多数对话系统依赖于预定义的意图和答案来提供问答服务,因此,从大型语料库中发现潜在的意图对于构建此类对话服务非常重要。考虑到大多数场景中已知的意图很少,大多数意图等待被发现,我们专注于半监督文本聚类,并试图使所提出的方法受益于标记样本,以获得更好的整体聚类性能。在本文中,我们提出了深度对比半监督聚类(DCSC),它的目的是在一个半监督的方式聚类文本样本,并提供分组的意图给操作人员。为了使DCSC充分利用有限的已知意图,我们提出了一个两阶段的DCSC训练过程,其中DCSC将在标记样本和未标记样本上进行训练,并获得更好的文本表示和聚类性能。我们在两个公共数据集上进行了实验,将我们的模型与几种流行的方法进行了比较,结果表明DCSC在所有数据集和情况下都取得了最佳性能,表明了我们工作中改进的效果。
2022-01-07 cs.AI cs.CL cs.LG
SPACE-2: Tree-Structured Semi-Supervised Contrastive Pre-training for Task-Oriented Dialog Understanding
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
具有对比学习目标的预训练方法在对话理解任务中表现出显著的成功。然而,当前的对比学习仅将自增强对话样本视为正样本,而将所有其他对话样本视为负样本,这甚至对于语义相关的对话实施了不同的表示。在本文中,我们提出了SPACE-2,一个树结构的预训练会话模型,它通过半监督对比预训练从有限的标记对话和大规模的未标记对话语料库中学习对话表示。具体地说,我们首先定义了一个通用的语义树结构(STS),以统一不同的对话数据集之间的不一致的注释模式,使丰富的结构信息存储在所有标记的数据可以被利用。然后,我们提出了一种新的多视图评分函数,以增加共享相似STS的所有可能对话的相关性,并且在监督对比预训练期间仅推开其他完全不同的对话。为了充分利用未标记的对话框,还添加了基本的自监督对比损失以改进学习的表示。实验表明,我们的方法可以实现新的国家的最先进的结果DialogLUE基准组成的七个数据集和四个流行的对话理解任务。为了重现性,我们在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/space-2上发布代码和数据。
2022-09-14 cs.CL
Pseudo-Label Enhanced Prototypical Contrastive Learning for Uniformed Intent Discovery
School of Software Engineering, Xi’an Jiaotong University(西安交通大学软件学院);City University of Hong Kong(香港城市大学);Singapore Management University(新加坡管理大学);School of Information and Communication Engineering, Xi’an Jiaotong University(西安交通大学信息与通信工程学院)
针对现有意图发现方法存在表示与聚类脱节、忽略全量监督信号、设置单一等问题,提出伪标签增强原型对比学习模型,通过迭代伪标签挖掘正负样本、融合多源信号的原型学习,在多数据集与任务设置下验证了有效性。
2024-10-26 cs.CL
CluCDD:Contrastive Dialogue Disentanglement via Clustering
School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University(上海交通大学电子信息与电气工程学院)
每天都有大量的多参与者对话发生在网上,这导致很难理解人类和机器的对话动态的本质。对话解纠缠的目的是将纠缠的对话分解为独立的会话,从而增加长时间无序对话的可读性。以往的研究主要集中在消息对分类和聚类两步方法,不能保证整个聚类性能的对话。为了解决这个问题,我们提出了一个简单而有效的模型命名为CluCDD,通过对比学习聚集话语。更具体地说,我们的模型将同一会话中的话语拉在一起,并将不同会话中的话语推开。然后采用聚类方法生成预测聚类标签。在Movie Dialogue数据集和IRC数据集上进行的综合实验表明,我们的模型实现了一个新的最先进的结果。
2023-02-16 cs.CL
Improving Proactive Dialog Agents Using Socially-Aware Reinforcement Learning
Augsburg University(奥格斯堡大学);Ulm University(乌尔姆大学)
本文提出一种结合社会与任务特征的社会感知强化学习方法,用于优化对话代理的主动行为,以提升任务成功率、效率和用户信任,从而改善人机合作。
2023-06-22 cs.AI cs.CL cs.HC
DialogueCSE: Dialogue-based Contrastive Learning of Sentence Embeddings
DAMO Academy, Alibaba Group(阿里巴巴达摩院)
从对话中学习句子嵌入因其低标注成本和高领域适应性而受到越来越多的关注。传统的方法采用连体网络来完成这个任务,它通过在句子编码器上应用前馈网络来建模上下文响应语义相关性来获得句子嵌入。然而,由于语义文本相似性通常通过元素距离度量(例如余弦和L2距离)来测量,因此这种架构在训练和评估之间产生了很大的差距。在本文中,我们提出了DialogueCSE,一个基于对话的对比学习方法来解决这个问题。DialogueCSE首先引入了一种新的匹配引导嵌入(MGE)机制,该机制根据多轮上下文响应匹配矩阵的指导,为每个候选响应嵌入生成上下文感知嵌入(即上下文无关嵌入)。然后将每个上下文感知嵌入与其对应的上下文无关嵌入配对,最后最小化所有对的对比损失。我们在三个多轮对话数据集上评估了我们的模型:微软对话语料库,京东对话语料库和电子商务对话语料库。评估结果表明,我们的方法显着优于所有三个数据集的MAP和斯皮尔曼的相关性措施方面的基线,证明了其有效性。进一步的定量实验表明,我们的方法实现了更好的性能时,利用更多的对话上下文和保持鲁棒性时,提供更少的训练数据。
2021-09-26 cs.CL
Scalable Frame-based Construction of Sociocultural NormBases for Socially-Aware Dialogues
Monash University(莫纳什大学)
本文提出利用大语言模型和上下文框架从社交对话中可扩展地构建中文社会文化规范库,并通过合成数据与RAG模型验证了规范质量和下游任务效果。
2024-10-04 cs.AI cs.CL cs.IR
DialAug: Mixing up Dialogue Contexts in Contrastive Learning for Robust Conversational Modeling
Amazon(亚马逊)
基于检索的会话系统通过计算它们的向量表示之间的相似性来学习对给定对话上下文的响应候选进行排名。然而,在多回合上下文的单个文本形式上进行训练限制了模型学习表示的能力,这些表示概括为推理期间看到的自然扰动。在本文中,我们提出了一个框架,将增强版本的对话背景下的学习目标。我们利用对比学习作为一个辅助目标,学习强大的对话上下文表示是不变的扰动注入通过增强方法。我们用四个基准对话数据集进行了实验,证明我们的框架与现有的增强方法结合得很好,并且可以显着改善基于BERT的基线排名架构。此外,我们提出了一种新的数据增强方法,ConMix,通过随机混合令牌从其他上下文中的批次添加令牌级扰动。我们表明,我们提出的增强方法优于以前的数据增强方法,并提供对话表示,更强大的常见干扰推理过程中看到的。
2022-04-15 cs.CL
New Intent Discovery with Pre-training and Contrastive Learning
Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算机学院);University of California, San Diego(加利福尼亚大学圣地亚哥分校);Fano Labs(Fano实验室)
本文针对新意图发现中表示学习与聚类两大问题,提出多任务预训练策略和新对比损失,在无监督与半监督场景下显著超越现有方法。
2025-04-06 cs.CL
Contrastive Speaker-Aware Learning for Multi-party Dialogue Generation with LLMs
Shangqiu University(商丘大学)
本文提出SA-LLM,通过说话人感知对比学习无需关系标注即可建模多方对话中的说话人角色与上下文连贯性,在流畅性、连贯性和多样性上超越现有基线。
2025-03-11 cs.CL
Enhancing Dialogue Generation via Multi-Level Contrastive Learning
The Chinese University of Hong Kong(香港中文大学);Tencent AI Lab(腾讯人工智能实验室)
大多数现有的对话生成工作都是直接在从网站上抓取的语料库上训练的数据驱动模型。它们主要关注于改进模型结构以产生更好的响应,但很少注意对比地考虑训练数据的质量。在本文中,我们提出了一个多层次的对比学习范例来模拟细粒度的质量的响应方面的查询。设计了一个秩感知校正(RC)网络来构造多级对比优化目标。由于这些目标是基于句子级别计算的,这可能会错误地鼓励/抑制无信息/信息词的生成。为了解决这个问题,一方面,我们设计了一个精致的令牌级策略,以更准确地估计实例损失。另一方面,我们建立了一个知识推理(KI)组件,在训练过程中从参考文献中捕获关键字知识,并利用这些信息来鼓励生成信息词。我们在仔细注释的对话数据集上评估了所提出的模型,结果表明,与基线模型相比,我们的模型可以产生更相关和更多样化的响应。
2021-06-22 cs.CL
Assistive Large Language Model Agents for Socially-Aware Negotiation Dialogues
Monash University(莫纳什大学)
该研究开发基于LLMs的辅助智能体助力商务协商,通过角色扮演模拟协商、补救智能体重写违规话语,提出基于价值影响标准的无调优无标签ICL方法识别高质量示例,在三类主题协商中验证有效性并开源相关资源。
2025-02-17 cs.AI cs.CL
An Efficient Self-Learning Framework For Interactive Spoken Dialog Systems
Amazon AGI(亚马逊AGI);UC Berkeley(加州大学伯克利分校)
针对传统ASR系统无法适配对话上下文、缺乏反馈整合能力的问题,提出结合师生学习、上下文感知处理与Ohm在线难负例挖掘的自学习框架,显著降低词错误率。
2024-09-16 cs.AI cs.CL cs.SD
ReMeDi: Resources for Multi-domain, Multi-service, Medical Dialogues
Shandong University(山东大学);University of Amsterdam(阿姆斯特丹大学);Tencent(腾讯)
医疗对话系统(MDS)旨在帮助医生和患者提供一系列专业医疗服务,即,诊断、治疗和咨询。由于缺乏资源,医疗卫生系统的发展受到阻碍。尤其是。(1)不存在具有覆盖多种医疗服务并包含细粒度医疗标签的大规模医疗对话的数据集(即,意图、动作、槽、值),以及(2)对于用于多域、多服务医学对话的MDS,没有一组已建立的基准。在本文中,我们提出了ReMeDi,一套资源的医学对话。ReMeDi由ReMeDi数据集和ReMeDi基准测试两部分组成。ReMeDi数据集包含96,965个医生和患者之间的对话,其中包括1,557个带有精细标签的对话。它涵盖了843种疾病,5,228个医疗实体和40个领域的3个医疗服务专业。据我们所知,ReMeDi数据集是唯一一个涵盖多个领域和服务的医疗对话数据集,并且具有细粒度的医疗标签。ReMeDi资源的第二部分由一组用于(医学)对话生成的最先进模型组成。ReMeDi基准测试有以下方法:(1)预训练模型(即,BERT-WWM、BERT-MED、GPT 2和MT5)在ReMeDi数据集上进行训练、验证和测试,以及(2)一种自监督对比学习(SCL)方法,用于扩展ReMeDi数据集并增强最先进的预训练模型的训练。我们描述了ReMeDi数据集的创建,ReMeDi基准测试方法,并使用ReMeDi基准测试方法在ReMeDi数据集上建立实验结果,以供将来的研究进行比较。在本文中,我们分享…
2022-03-01 cs.AI cs.CL
HierarchicalContrast: A Coarse-to-Fine Contrastive Learning Framework for Cross-Domain Zero-Shot Slot Filling
College of Computer Science and Technology(计算机科学与技术学院);Zhejiang University(浙江大学)
针对跨域零样本槽位填充在未见槽位上泛化能力差的问题,提出基于高斯分布嵌入的由粗到细分层对比学习框架HiCL,并设计迭代标签集语义推断方法独立评估未见槽位,在四个数据集上取得优于或可比的性能。
2023-10-20 cs.AI cs.CL
Improving Cross-Modal Understanding in Visual Dialog via Contrastive Learning
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
可视化对话是一项具有挑战性的视觉语言任务,因为可视化对话代理需要在对图像内容和对话历史进行推理后回答一系列问题。虽然现有的方法试图处理视觉对话中的跨模态理解,但它们仍然不足以基于对视觉和文本上下文的理解来对候选答案进行排序。本文基于视觉语言预训练模型VD-BERT,分析了视觉对话中的跨模态理解问题,提出了一种新的提高视觉对话跨模态理解的方法ICMU。ICMU通过基于四向对比学习区分不同的拉取输入(即拉取图像、问题或答案)来增强跨模态理解。此外,ICMU利用单轮视觉问答来增强视觉对话模型的跨模态理解,以处理多轮视觉接地对话。实验结果表明,该方法提高了可视化对话模型的跨模态理解能力,在VisDial数据集上取得了满意的效果。
2022-04-15 cs.CL cs.CV
Multi-level Adaptive Contrastive Learning for Knowledge Internalization in Dialogue Generation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Mohamed bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学);Institute of Computing Technology, CAS(中国科学院计算技术研究所)
提出多层级自适应对比学习框架,通过动态采样负样本并在词元级和序列级惩罚复制式退化行为,促进对话生成中的知识内化,在WoW数据集上验证了有效性。
2023-10-17 cs.CL
OP-Bench: Benchmarking Over-Personalization for Memory-Augmented Personalized Conversational Agents
Harbin Institute of Technology(哈尔滨工业大学)
OP-Bench通过评估多种模型和方法,揭示了内存增强对话代理中过个性化问题的普遍性,并提出Self-ReCheck机制以缓解该问题。
2026-09-29 cs.AI cs.CL
CONCSS: Contrastive-based Context Comprehension for Dialogue-appropriate Prosody in Conversational Speech Synthesis
Beijing University of Posts and Telecommunications(北京邮电大学);Beijing Language and Culture University(北京语言大学);Perfect World Co., Ltd(完美世界股份有限公司)
针对对话语音合成中上下文表征能力不足、区分度弱的问题,提出基于对比学习的CONCSS框架,通过专属前置任务和负样本增强采样策略提升上下文理解,合成语音的韵律更适配对话语境。
2023-12-16 cs.CL cs.HC
Dialog2Flow: Pre-training Soft-Contrastive Action-Driven Sentence Embeddings for Automatic Dialog Flow Extraction
Idiap Research Institute(伊迪亚普研究所);University of Zurich(苏黎世大学);Brno University of Technology(布尔诺理工大学)
本文提出Dialog2Flow嵌入,通过软对比预训练将对话话语按动作功能映射到潜在空间并聚类量化,从而自动提取对话工作流,在多个领域上优于现有句子嵌入方法。
2024-11-05 cs.AI cs.CL cs.LG
Topic-Aware Contrastive Learning for Abstractive Dialogue Summarization
Beijing University of Posts and Telecommunications(北京邮电大学)
与结构良好的文本(如新闻报道和百科全书文章)不同,对话内容通常来自两个或多个对话者,彼此交换信息。在这种情况下,对话的主题可以随着进展而变化,并且特定主题的关键信息通常分散在不同说话者的多个话语中,这对抽象总结对话提出了挑战。为了捕获会话的各种主题信息并概述所捕获主题的突出事实,这项工作提出了两个主题感知的对比学习目标,即连贯性检测和子摘要生成目标,期望隐式地建模主题变化并处理对话摘要任务的信息分散挑战。所提出的对比目标的框架作为辅助任务的主要对话摘要任务,通过一个替代参数更新策略。在基准数据集上的大量实验表明,所提出的简单方法显着优于强基线,并实现了新的最先进的性能。代码和训练模型可通过\href{https://github.com/Junpliu/ConDigSum}{https://github.com/Junpliu/ConDigSum}公开获得。
2021-09-10 cs.AI cs.CL cs.LG
Dial2vec: Self-Guided Contrastive Learning of Unsupervised Dialogue Embeddings
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
在本文中,我们介绍了学习无监督对话嵌入的任务。一些简单的方法,如将预先训练的单词或句子嵌入和通过预先训练的语言模型(PLM)进行编码相结合,已被证明对这项任务是可行的。然而,这些方法通常忽略了对话者之间的会话互动,导致性能不佳。为了解决这个问题,我们提出了一个自我引导的对比学习方法称为dial2vec。Dial2vec认为对话是一个信息交换的过程。它捕捉对话者之间的会话互动模式,并利用它们来指导学习对应于每个对话者的嵌入。通过聚合来自所有对话者的嵌入来获得对话嵌入。为了验证我们的方法,我们建立了一个全面的基准,包括六个广泛使用的对话数据集。我们考虑三个评估任务:领域分类,语义相关性,和对话检索。Dial2vec在纯度、斯皮尔曼相关性和平均平均精度(MAP)方面分别比三项任务的最强基线平均提高了8.7、9.0和13.8分。进一步的分析表明,dial2vec获得的信息和歧视性的嵌入对话者的指导下的会话互动和实现最佳性能时,通过对话者级池策略聚合它们。所有代码和数据均可在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/dial2vec上公开获取。
2022-10-27 cs.AI cs.CL
Bilateral Personalized Dialogue Generation with Contrastive Learning
针对人机对话中忽视用户人格的问题,提出双边个性化对话生成方法,融合用户与机器人人格,采用条件互信息最大化与对比学习选回复,实验验证其更个性化且一致。
2021-09-21 cs.AI cs.CL
From Intents to Conversations: Generating Intent-Driven Dialogues with Contrastive Learning for Multi-Turn Classification
Singapore University of Technology and Design(新加坡科技设计大学)
针对多轮意图分类缺乏大规模领域多语言数据的问题,提出融合HMM与LLM的Chain-of-Intent框架生成意图驱动对话,搭配MINT-CL多任务对比学习框架提升分类效果,还发布了电商领域多语言多轮对话语料库MINT-E。
2025-09-01 cs.AI cs.CL
Improving the Robustness of Knowledge-Grounded Dialogue via Contrastive Learning
Soochow University(苏州大学);Fudan University(复旦大学);The Hong Kong Polytechnic University(香港理工大学);Jilin University(吉林大学)
针对现实噪声影响知识增强对话(KGD)鲁棒性的问题,提出基于实体的对比学习框架,通过构造语义相关与无关的扰动正负样本提升模型抗噪能力,在三个基准数据集上取得最优性能且在噪声与少样本设置下表现更优。
2024-01-09 cs.AI cs.CL
Topic Shift Detection in Chinese Dialogues: Corpus and Benchmark
Soochow University(苏州大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对无回复信息的对话话题转移预测难题,构建了含1308段对话的中文CNTD语料库,提出基于层级对比学习的师生框架,实验验证了模型有效性。
2023-05-02 cs.CL cs.LG
MCP: Self-supervised Pre-training for Personalized Chatbots with Multi-level Contrastive Sampling
Renmin University of China(中国人民大学);University of Montreal(蒙特利尔大学)
个性化聊天机器人专注于赋予聊天机器人一致的个性,以表现得像真实用户一样,并进一步充当个人助理。以前的研究已经探索了从用户的对话历史中生成隐式用户简档,以构建个性化的聊天机器人。然而,这些研究仅使用响应生成损失来训练整个模型,因此容易遭受数据稀疏的问题。此外,他们过分强调最终生成的响应的质量,而忽略了用户的对话历史之间的相关性和融合,导致粗糙的数据表示和性能下降。为了解决这些问题,我们提出了一个自监督学习框架MCP,用于从用户的对话历史中捕获更好的表示,以用于个性化聊天机器人。具体来说,我们应用对比采样方法来利用隐藏在用户对话历史中的监督信号,并生成用于增强模型的预训练样本。我们设计了三个预训练任务,基于三种类型的对比对用户对话历史,即响应对,序列增强对,和用户对。我们预先训练的话语编码器和历史编码器的对比目标,并使用这些预先训练的编码器生成用户简档,而个性化的响应生成。在两个真实数据集上的实验结果表明,与现有的方法相比,我们提出的模型MCP有显着的改善。
2022-12-14 cs.AI cs.CL cs.LG
Towards Objective Evaluation of Socially-Situated Conversational Robots: Assessing Human-Likeness through Multimodal User Behaviors
Kyoto University(京都大学);KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出一种基于多模态用户行为的客观评估方法,通过分析用户行为与类人性分数的相关性来评估社会情境对话机器人的类人性,从而提升评估的客观性与可复现性。
2023-09-25 cs.CL cs.HC cs.RO
Contrastive Representation Learning for Conversational Question Answering over Knowledge Graphs
University of Bonn(波恩大学);Zerotha Research(泽罗塔研究院);Cerence GmbH(赛轮思有限公司);University of Siegen(锡根大学);Amazon(亚马逊);Institute for Applied Informatics(应用信息学研究所)
研究了基于知识图谱的会话式问答问题。大多数现有的ConvQA方法依赖于完整的监督信号,严格假设查询的黄金逻辑形式的可用性,以从KG中提取答案。然而,在现实世界的场景中,创建这样一个黄金逻辑形式对于每个潜在问题都是不可行的。因此,在缺少黄金逻辑形式的情况下,现有的基于信息检索的方法通过启发式或强化学习使用弱监督,将ConvQA公式化为KG路径排序问题.尽管缺少黄金逻辑形式,丰富的会话上下文,如整个对话历史与流畅的反应和域信息,可以有效地达到正确的KG path.This工作提出了一个对比表示学习为基础的方法来排名KG路径有效。我们的方法解决了两个关键挑战。首先,它允许基于弱监督的学习,忽略了黄金注释的必要性。其次,它结合了会话上下文(整个对话历史和域信息),以联合学习其同质表示与KG路径,以提高有效的路径排名的对比表示。我们在ConvQA的标准数据集上评估了我们的方法,在这些数据集上,它在所有领域和整体上都显着优于现有的基线。具体而言,在某些情况下,与最先进的性能相比,平均倒数排名(MRR)和Hit@5排名度量分别提高了绝对10和18个点。
2022-10-09 cs.CL
A Task-oriented Dialog Model with Task-progressive and Policy-aware Pre-training
Beijing University of Posts and Telecommunications(北京邮电大学);Meituan(美团)
针对现有任务导向对话预训练模型在捕捉任务序列性、学习对话策略上的不足,提出带两项策略感知预训练任务的三阶段任务渐进式模型,在少参数少数据的情况下于两个基准上超越此前最优模型GALAXY。
2023-10-01 cs.CL
SDARE-Bench: Evaluating Large Language Models on Conversational Stigma Detection and Response in Dyadic and Group Dialogue
Monash University(莫纳什大学);University of Liverpool(利物浦大学);University of Edinburgh(爱丁堡大学);Federation University(联邦大学);Orygen, The University of Melbourne(墨尔本大学下属Orygen机构)
研究人员构建首个场景式基准SDARE-Bench,评估8个LLMs在二元与群体对话中的污名检测和响应能力,发现LLMs对污名识别差、群体场景污名表达率达97.5%,污名响应是其安全漏洞。
2026-09-02 cs.CL
SpeechEQ: Benchmarking Emotional Intelligence Quotient in Socially Aware Voice Conversational Models
New York University(纽约大学);NVIDIA(英伟达);Carnegie Mellon University(卡内基梅隆大学);NYU Shanghai(上海纽约大学)
提出SpeechEQ框架,基于EQ-i 2.0理论构建2265个对话数据集,通过口语情商(SEQ)评分评估语音语言模型在主动多轮对话中的副语言社交线索推理能力,揭示端到端模型存在模态捷径、安全陷阱和上下文遗忘等瓶颈。
2026-11-03 cs.AI cs.CL cs.SD