Investigating Co-Constructive Behavior of Large Language Models in Explanation Dialogues
Leibniz University Hannover, Institute of Artificial Intelligence(汉诺威莱布尼茨大学人工智能研究所);LMU Munich, MCML(慕尼黑大学MCML);Paderborn University(帕德博恩大学);Bielefeld University, CITEC(比勒菲尔德大学CITEC)
本研究探究LLMs在共建解释对话中作为解释者的能力,通过用户研究评估其共建行为对解释接受者理解和参与的影响,发现LLMs能通过提问促进参与,但监控和调整解释的能力有限。
2025-07-10 cs.CL
Audio Dialogues: Dialogues dataset for audio and music understanding
NVIDIA(英伟达)
针对现有音频理解数据集多为单轮交互、缺乏对话式理解支撑的问题,研究团队构建了含16.38万样本的多轮音频对话数据集Audio Dialogues,覆盖通用音频与音乐,支持多音频比较,基于提示方法和现有字幕标注用LLM生成对话,并验证了其复杂性与适用性。
2024-04-11 cs.CL cs.SD eess.AS
Back to the Future: Bidirectional Information Decoupling Network for Multi-turn Dialogue Modeling
Shanghai Jiao Tong University(上海交通大学)
多轮对话建模作为自然语言理解(NLU)的一个具有挑战性的分支,旨在为机器构建理解人类对话的表示,这为多个下游任务提供了坚实的基础。目前的对话建模研究通常采用预训练的语言模型(PrLM)将对话历史编码为连续的令牌,这在捕捉对话的时间特性方面是不够的。因此,我们提出了双向信息解耦网络(BiDeN)作为一个通用的对话编码器,它明确地结合了过去和未来的上下文,并可以推广到广泛的对话相关的任务。在不同下游任务的数据集上的实验结果证明了BiDeN的通用性和有效性。
2022-10-20 cs.CL
Self-Explanation Prompting Improves Dialogue Understanding in Large Language Models
Alibaba(阿里巴巴)
本文提出任务无关的“自我解释”提示策略,让LLM在执行任务前先分析每句对话,在六个基准上超越零样本并匹敌少样本提示,显著提升多轮对话理解能力。
2023-09-22 cs.AI cs.CL
Enhancing Semantic Understanding with Self-supervised Methods for Abstractive Dialogue Summarization
Samsung SDS(三星数据系统)
语境化的词嵌入可以在自然语言理解中产生最先进的性能。最近,预训练的深度上下文文本编码器(如BERT)在改进包括抽象摘要在内的自然语言任务方面显示出了潜力。现有的对话摘要方法集中于将大语言模型结合到由新闻文章而不是多个说话人的对话组成的大规模语料库上训练的摘要任务中。在本文中,我们引入自监督的方法来弥补不足,训练的对话摘要模型。我们的原则是检测不连贯的信息流使用借口对话文本,以提高BERT的能力,语境化的对话文本表示。我们使用增强的BERT在共享的编码器-解码器架构上构建并微调抽象对话摘要模型。我们经验评估我们的抽象对话摘要与SAMSum语料库,最近推出的数据集与抽象对话摘要。我们所有的方法都有助于改善ROUGE评分的抽象总结。通过广泛的消融研究,我们还提出了一个敏感性分析的关键模型超参数,切换话语和掩蔽对话者的概率。
2022-09-01 cs.AI cs.CL
LLM-Assisted Automated Deductive Coding of Dialogue Data: Leveraging Dialogue-Specific Characteristics to Enhance Contextual Understanding
The University of Hong Kong(香港大学)
本研究提出一种LLM辅助的对话数据自动编码框架,利用交际行为与事件特征及多模型协作与一致性检查,显著提升了编码精度并有效应对上下文挑战。
2025-04-28 cs.CL cs.SI
DialogueBERT: A Self-Supervised Learning based Dialogue Pre-training Encoder
JD AI(京东人工智能);Xiaoduo AI(晓多人工智能)
随着人工智能的快速发展,会话机器人已经在主流电子商务平台中盛行,它可以及时提供便捷的客户服务。为了满足用户,会话机器人需要理解用户的意图,检测用户的情感,并从会话语句中提取关键实体。然而,理解对话被认为是一项非常具有挑战性的任务。与一般的语言理解不同,对话中的话语是从不同的角色交替出现的,并且通常被组织成层次结构。为了促进对话的理解,在本文中,我们提出了一种新的上下文对话编码器(即对话BERT)的基础上流行的预训练的语言模型BERT。设计了五个自监督学习预训练任务来学习会话话语的特殊性。四种不同的输入嵌入,包括话轮嵌入,角色嵌入,标记嵌入和位置嵌入的集成来捕捉话语之间的关系。DialogueBERT在真实场景中预先训练了7000万个对话,然后在三个不同的下游对话理解任务中进行了微调。实验结果表明,DialogueBERT在意图识别、情感识别和命名实体识别方面分别取得了88.63%、94.25%和97.04%F1的优异成绩,大大优于几个强基线。
2021-09-22 cs.AI cs.CL
PMIScore: An Unsupervised Approach to Quantify Dialogue Engagement
本文提出PMIScore,一种无监督方法,通过点互信息量化对话参与度,利用大语言模型生成对话对并训练神经网络,验证了其在合成和真实数据集上的有效性。
2026-03-14 cs.CL
Understanding Clinical Cognitive Dialogues Using Large Language Models
College of AI, Cyber and Computing(人工智能、网络与计算学院);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
本研究构建了33次认知评估对话的标注语料库,并基准测试大型语言模型,发现指令调优和推理感知微调分别提升生成与分类性能,但细粒度对话行为区分仍具挑战性。
2026-10-05 cs.CL
Frugal Prompting for Dialog Models
IIT Kharagpur(印度理工学院卡哈拉格普尔分校);Microsoft(微软)
本研究围绕大语言模型构建对话系统的提示方法展开,通过实验优化对话历史表示与提示结构,提出紧凑的节俭提示方案,在保障性能的同时降低推理API成本,助力LLM在交互式系统中的高效应用。
2023-11-05 cs.CL
TIMEDIAL: Temporal Commonsense Reasoning in Dialog
Google Assistant(谷歌助理);University of Washington(华盛顿大学)
日常对话需要理解日常事件,这反过来又需要理解与这些事件交织在一起的时间常识概念。尽管最近在大规模预训练语言模型(LM)(如T5和GPT-3)方面取得了进展,但它们在对话中的时间推理能力在很大程度上仍未得到充分开发。在本文中,我们提出了第一项研究,通过引入一个新的任务和一个众包的英语挑战集,TIMEDIAL,调查预先训练的LM在对话中的时间推理能力。我们将时间拨号作为一个多项选择完形填空任务,其中包含超过1.1K精心策划的对话。实证结果表明,即使是表现最好的模型,在这项任务上也与人类相比,准确性有23个绝对点的差距。此外,我们的分析表明,该模型无法正确的对话上下文的原因,相反,他们依赖于浅线索的基础上现有的时间模式的背景下,激励未来的研究建模时间概念的文本和强大的上下文推理。该数据集可在https://github.com/google-research-datasets/timedial上公开获得。
2021-06-08 cs.CL
Effectiveness of French Language Models on Abstractive Dialogue Summarization Task
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Grenoble INP(格勒诺布尔理工学院)
预训练的语言模型已经在各种自然语言处理任务上建立了最先进的技术,包括对话摘要,它允许读者从会议,采访或电话中的长对话中快速访问关键信息。然而,这样的对话仍然难以用当前模型处理,因为语言的自发性涉及很少出现在用于预训练语言模型的语料库中的表达。此外,在这一领域完成的绝大多数工作都集中在英语上。在这项工作中,我们提出了一个研究的摘要自发的口头对话在法国使用几种语言特定的预训练模型:BARThez和BelGPT-2,以及多语种的预训练模型:mBART,mBARThez和mT5。DECODA(呼叫中心)的对话语料库,其任务是从呼叫中心的呼叫者和一个或几个代理之间的对话,根据情况产生抽象的概要进行实验。结果表明,BARThez模型提供了最好的性能远远高于以前的国家的最先进的DECODA。我们进一步讨论了这种预先训练的模型的局限性,以及总结自发对话必须解决的挑战。
2022-07-17 cs.AI cs.CL
Understanding Common Ground Misalignment in Goal-Oriented Dialog: A Case-Study with Ubuntu Chat Logs
University of Maryland, College Park(马里兰大学 College Park 分校)
本文以 Ubuntu IRC 技术支持日志为案例,分析共同基础错位导致的对话摩擦及其与任务成功的关系,并评估 LLM 对不同难度摩擦实例的识别能力。
2025-07-26 cs.CL
From Words to Wisdom: Discourse Annotation and Baseline Models for Student Dialogue Understanding
Department of Electrical and Computer Engineering, Tufts University(电气与计算机工程系,塔夫茨大学);Department of Computer Science and Information Technology, Patuakhali Science and Technology University(计算机科学与信息技术系,帕图阿哈利科学与技术大学);Department of Electrical and Computer Engineering, Computer Science and Biomedical Engineering, Tufts University(电气与计算机工程系,计算机科学与生物医学工程系,塔夫茨大学);Department of Mechanical Engineering and Education, Tufts University(机械工程与教育系,塔夫茨大学)
本文提出一个标注的教育对话数据集和基于预训练模型的基线模型,用于自动检测学生对话中的语篇特征,发现现有模型在该任务上表现欠佳,提示未来研究方向。
2025-11-25 cs.CL
Dialog Action-Aware Transformer for Dialog Policy Learning
The Chinese University of Hong Kong(香港中文大学);Tencent(腾讯)
本文提出对话动作感知Transformer(DaTrans),利用预训练语言模型知识并设计掩码最后动作任务,加速强化学习对话策略学习,经模拟器与人工评估验证有效。
2023-09-05 cs.CL
FutureTOD: Teaching Future Knowledge to Pre-trained Language Model for Task-Oriented Dialogue
Beijing University of Posts and Telecommunications(北京邮电大学);Meituan(美团)
本文提出FutureTOD对话预训练模型,通过自训练框架将未来知识融入对话上下文表示,以解决通用文本与任务型对话差异及对比学习难题,实验验证了其泛化性和鲁棒性。
2023-06-17 cs.CL
Weakly Supervised Data Augmentation Through Prompting for Dialogue Understanding
Columbia University(哥伦比亚大学);Amazon Alexa AI(亚马逊Alexa人工智能部门)
对话理解任务往往需要大量的注释数据才能取得良好的绩效,这在资源匮乏的环境中提出了挑战。为了缓解这一障碍,我们探索了Few-Shot数据增强的对话理解,提示大型预训练的语言模型,并提出了一种新的方法,迭代增强质量,通过应用弱监督过滤器。我们在DailyDialog中的情感和行为分类任务以及Facebook多语言任务导向对话中的意图分类任务上评估了我们的方法。在我们的增强数据与Few-Shot地面实况数据混合的基础上进行微调的模型能够在两个数据集上接近或超过现有的最先进性能。特别是对于DailyDialog,使用10%的地面真实数据,我们的表现优于使用100%数据的当前最先进的模型。
2022-11-02 cs.AI cs.CL cs.LG
Learning LLM Preference over Intra-Dialogue Pairs: A Framework for Utterance-level Understandings
Amazon.com Inc.(亚马逊公司)
本文提出一种面向话语级对话理解的框架,通过降噪偏好学习损失结合LLM生成标签与人工标注,在情感检测和对话行为分类等任务上显著提升小型模型的准确率。
2025-03-07 cs.AI cs.CL
Loose Lips: Understanding Privacy Leakage in Agentic Dialogue
Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);Simon Fraser University(西蒙菲莎大学);ÉTS(ÉTS(魁北克大学工程与技术学院));ServiceNow AI Research(ServiceNow人工智能研究部);Université de Montréal(蒙特利尔大学)
该研究构建了基于情境完整性理论的双智能体对话隐私泄露基准,评估Qwen3和Llama 3.1系列模型,发现任务能力与隐私泄露存在结构性耦合,思考型模型泄露更严重且随对话长度加剧。
2026-10-14 cs.AI cs.CL
A Zero-Shot Open-Vocabulary Pipeline for Dialogue Understanding
Koç University(科克大学);KUIS AI Lab(库伊斯人工智能实验室)
本文提出一种零样本开放词汇流水线,将领域分类与DST统一,并通过问答重构和自我精炼提示,在Multi-WOZ 2.1上以更少API请求实现最高20%的JGA提升。
2025-03-07 cs.AI cs.CL
Structural Pre-training for Dialogue Comprehension
Shanghai Jiao Tong University(上海交通大学)
预训练的语言模型(PrLM)表现出优越的性能,因为它们具有从自我监督的预训练中学习通用语言表示的强大能力。然而,即使在强大的PrLM的帮助下,它仍然是具有挑战性的有效地捕捉任务相关的知识,从对话文本,丰富的说话人意识的话语之间的相关性。在这项工作中,我们提出了SPIDER,结构预训练的对话阅读器,捕捉对话的独特功能。为了模拟类似对话的特征,除了原始的LM目标之外,我们还提出了两个训练目标:1)话语顺序恢复,预测对话上下文中置换话语的顺序; 2)句子主干正则化,正则化模型以提高总结的主谓宾三元组的事实正确性。在广泛使用的对话基准上的实验结果验证了新引入的自监督任务的有效性。
2021-05-23 cs.AI cs.CL
Towards Joint Modeling of Dialogue Response and Speech Synthesis based on Large Language Model
Communication University of China(中国传媒大学);Hong Kong University of Science and Technology(香港科技大学)
本文提出用大语言模型同时建模对话响应与语音合成所需的语言特征,通过韵律结构预测和统一编码实验验证了构建统一口语对话系统的可行性。
2023-09-20 cs.CL cs.SD eess.AS
Learning Locality and Isotropy in Dialogue Modeling
City University of Hong Kong(香港城市大学);Sensetime Research(商汤科技研究院)
借助Transformer和大规模预训练的语言模型,现有的对话建模方法在各种对话任务上取得了令人满意的性能。然而,最近的一些研究表明,这些方法产生的上下文表示遭受各向异性的问题。在本文中,我们发现,所生成的表示也不是会话的,失去了会话结构的信息在上下文建模阶段。为此,我们确定了对话建模中的两个属性,即,局部性和各向同性,提出了一种简单的对话表征校准方法SimDRC,用于构建各向同性和对话性特征空间。实验结果表明,在自动和人工评估指标方面,我们的方法在三个对话任务上的性能显着优于当前最先进的模型。更深入的分析进一步证实了我们提出的方法的有效性。
2023-01-29 cs.CL cs.IR cs.LG
Utterance-level Dialogue Understanding: An Empirical Study
University of Michigan(密歇根大学);Singapore University of Technology and Design(新加坡科技设计大学)
最近在Web和其他地方大量的会话数据需要有效的NLP系统来进行对话理解。完整的话语级理解通常需要上下文理解,由附近的话语定义。近年来,已经提出了许多方法用于各种话语级对话理解任务。这些方法中的大多数都考虑了有效理解的背景。在本文中,我们使用最先进的对话理解方法作为基线,探索并量化上下文在对话不同方面(即情感、意图和对话行为识别)中的作用。具体来说,我们采用各种扰动来扭曲给定话语的上下文,并研究其对不同任务和基线的影响。这使我们能够深入了解对话不同方面的基本语境控制因素。这些见解可以激发更有效的对话理解模型,并为未来的文本生成方法提供支持。与这项工作有关的实现可在https://github.com/declare-lab/dialogue-understanding上获得。
2020-10-22 cs.CL
A Survey of Arabic Dialogues Understanding for Spontaneous Dialogues and Instant Message
Institute of Statistical Studies and Research (ISSR), Cairo University(开罗大学统计研究与研究所);Faculty of Computers and Information, Cairo University(开罗大学计算机与信息学院)
建立对话系统互动最近得到了相当大的关注,但迄今为止建立的大多数资源和系统都是针对英语和其他印欧语言的。为其他语言设计系统的需求正在增加,例如阿拉伯语。因此,阿拉伯语对话行为分类任务越来越受到关注,因为它是阿拉伯语语言理解的关键角色。本文综述了阿拉伯语对话行为分类的不同方法。我们描述了文献中介绍的用于阿拉伯语对话理解的话语分割和分类、注释模式和测试语料库的主要现有技术
2015-05-12 cs.CL
Speaker Role Contextual Modeling for Language Understanding and Dialogue Policy Learning
National Taiwan University(国立台湾大学)
语言理解和对话策略学习是会话系统的两个重要组成部分。人与人之间的对话并没有得到很好的控制,而且由于他们自己的目标和说话习惯,往往是随机和不可预测的。本文提出了一个基于角色的语境模型,根据多话轮对话中说话人的不同说话模式,独立考虑不同的说话人角色。在基准数据集上的实验表明,所提出的基于角色的模型成功地学习了特定于角色的行为模式,从而显著提高了语言理解和对话策略学习任务。
2017-09-30 cs.CL
SPACE-3: Unified Dialog Model Pre-training for Task-Oriented Dialog Understanding and Generation
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团)
最近,预训练方法在面向任务的对话(TOD)系统中取得了显着的成功。然而,大多数现有的TOD预训练模型专注于对话理解或对话生成,但不是两者兼而有之。在本文中,我们提出了SPACE-3,这是一种新的统一的半监督预训练会话模型,它从具有有限注释的大规模对话语料库中学习,可以在广泛的下游对话任务中进行有效的微调。具体而言,SPACE-3由单个Transformer中的四个连续组件组成,以维持TOD系统中的任务流:(i)对话编码模块,用于对对话历史进行编码,(ii)对话理解模块,用于从用户查询或系统响应中提取语义向量,(iii)对话策略模块,用于生成包含响应的高级语义的策略向量,以及(iv)用于产生适当响应的对话生成模块。我们为每个组件设计了专门的预培训目标。具体地说,我们用跨度掩码语言建模来预训练对话编码模块,以学习上下文化的对话信息。为了捕获结构化对话语义,我们通过一种新的树诱导的半监督对比学习目标与额外的对话注释的帮助下,预训练对话理解模块。此外,我们通过最小化其输出策略向量与响应的语义向量之间的L2距离来预训练对话策略模块,以进行策略优化。最后,通过语言建模对对话生成模型进行预训练。结果表明,SPACE-3在八个下游对话基准测试中达到了最先进的性能,包括意图预测、对话状态跟踪和端到端对话建模。我们还表明,SPACE-3具有更强的Few-Shot能力比现有的模型在低资源设置。
2022-09-14 cs.CL
TOD-BERT: Pre-trained Natural Language Understanding for Task-Oriented Dialogue
Salesforce Research(Salesforce研究院)
普通文本和任务型对话在语言模式上的根本差异使得现有的预训练语言模型在实践中用处不大。在这项工作中,我们统一了9个人与人之间的多回合面向任务的对话数据集,用于语言建模。为了在预训练期间更好地建模对话行为,我们将用户和系统令牌纳入掩蔽语言建模。我们提出了一个对比的目标函数来模拟反应选择任务。我们预先训练的面向任务的对话BERT(TOD-BERT)在四个下游面向任务的对话应用上的性能优于BERT等强基线,包括意图识别,对话状态跟踪,对话行为预测和响应选择。我们还表明,TOD-BERT具有更强的Few-Shot能力,可以缓解面向任务的对话的数据稀缺问题。
2020-10-01 cs.CL
SPACE-2: Tree-Structured Semi-Supervised Contrastive Pre-training for Task-Oriented Dialog Understanding
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
具有对比学习目标的预训练方法在对话理解任务中表现出显著的成功。然而,当前的对比学习仅将自增强对话样本视为正样本,而将所有其他对话样本视为负样本,这甚至对于语义相关的对话实施了不同的表示。在本文中,我们提出了SPACE-2,一个树结构的预训练会话模型,它通过半监督对比预训练从有限的标记对话和大规模的未标记对话语料库中学习对话表示。具体地说,我们首先定义了一个通用的语义树结构(STS),以统一不同的对话数据集之间的不一致的注释模式,使丰富的结构信息存储在所有标记的数据可以被利用。然后,我们提出了一种新的多视图评分函数,以增加共享相似STS的所有可能对话的相关性,并且在监督对比预训练期间仅推开其他完全不同的对话。为了充分利用未标记的对话框,还添加了基本的自监督对比损失以改进学习的表示。实验表明,我们的方法可以实现新的国家的最先进的结果DialogLUE基准组成的七个数据集和四个流行的对话理解任务。为了重现性,我们在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/space-2上发布代码和数据。
2022-09-14 cs.CL
On the Effectiveness of Integration Methods for Multimodal Dialogue Response Retrieval
Myongji University(明州大学);Kyungpook National University(庆北国立大学);Yonsei University(延世大学);Pohang University of Science and Technology(坡山科学技术大学)
针对多模态对话回复检索任务,该研究将其拆解为三个子任务,提出基于两阶段和端到端的三种融合方法,实验验证端到端方法性能相当,参数共享策略可减参并提升性能。
2025-06-13 cs.CL
Memory Consolidation for Contextual Spoken Language Understanding with Dialogue Logistic Inference
Institute of Automation, CAS(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);CAS Center for Excellence in Brain Science and Intelligence Technology(中国科学院脑科学与智能技术卓越创新中心)
对话语境在口语语言理解(SLU)系统中被证明是有用的,并且它们通常被编码为外显记忆表征。然而,大多数以前的模型学习的上下文记忆只有一个目标,最大限度地提高SLU的性能,留下的上下文记忆开发不足。在本文中,我们提出了一个新的对话逻辑推理(DLI)任务巩固上下文记忆联合SLU在多任务框架。DLI被定义为将混洗的对话会话排序为其原始逻辑顺序,并且与SLU模型共享相同的存储器编码器和检索机制。我们的实验结果表明,各种流行的上下文SLU模型可以受益于我们的方法,和改进是相当令人印象深刻的,特别是在插槽填充。
2019-06-05 cs.CL
An Efficient Approach to Encoding Context for Spoken Language Understanding
Google AI(谷歌人工智能)
在面向任务的对话系统中,口语语言理解或SLU是指将自然语言用户话语解析成语义框架的任务。从先前的对话历史中利用上下文是更有效的SLU的关键。SLU的现有技术方法使用存储器网络通过在每一轮处理来自对话的多个话语来编码上下文,从而导致准确性和计算效率之间的显著权衡。另一方面,像对话状态跟踪器(DST)这样的下游组件已经跟踪了对话状态,这可以作为对话历史的摘要。在这项工作中,我们提出了一个有效的方法来编码上下文从先前的话语SLU。更具体地说,我们的架构包括一个单独的基于递归神经网络(RNN)的编码模块,该模块积累对话上下文以指导帧解析子任务,并且可以在SLU和DST之间共享。在我们的实验中,我们证明了我们的方法对两个领域的对话的有效性。
2018-07-01 cs.CL
On the Effectiveness of Offline RL for Dialogue Response Generation
ASAPP(ASAPP公司);Cornell University(康奈尔大学)
针对教师强制训练需精确匹配人类语言的局限,本文研究多种离线强化学习方法用于对话回复生成序列级目标最大化的效果,经多数据集、模型与指标评估,证实其性能优于教师强制且训练稳定、预算可控。
2023-07-23 cs.CL
TalkFa: A Unified Benchmark for Farsi Dialogue Generation and Understanding
University of Siena(锡耶纳大学)
本文针对波斯语缺乏对话生成与理解综合基准的问题,提出含三个互补数据集的TalkFa基准,经实验验证其可靠性,还将发布相关资源。
2026-09-03 cs.CL
Robots-Dont-Cry: Understanding Falsely Anthropomorphic Utterances in Dialog Systems
University of California, Davis(加州大学戴维斯分校);Columbia University(哥伦比亚大学)
对话系统通常被设计或训练为输出类似人类的响应。然而,机器可能无法真实地说出某些响应(例如“那部电影让我哭了”)。高度拟人化的反应可能会让用户感到不舒服,或者含蓄地欺骗他们认为他们正在与人类互动。我们收集人类评级的可行性约900两轮对话从9个不同的数据源采样。评级是针对两个假设的机器实施例:未来派人形机器人和数字助理。我们发现,对于通常用于训练对话系统的一些数据源,20-30%的话语不被视为机器可能。额定值受机器实施例的影响很小。我们探讨这些评级的定性和定量原因。最后,我们建立分类器,并探讨如何建模配置可能会影响输出许可,并讨论了建设虚假拟人化的对话系统的影响。
2022-10-22 cs.CL
Multi-task learning for Joint Language Understanding and Dialogue State Tracking
Google AI(谷歌人工智能)
本文提出了一种新的方法,多任务学习的语言理解(LU)和对话状态跟踪(DST)在面向任务的对话系统。多任务训练使得能够共享负责对LU和DST两者的用户话语进行编码的神经网络层,并且在减少网络参数的数量的同时提高性能。在我们提出的框架中,DST对到目前为止提到的每个插槽的一组候选值进行操作。这些候选集是使用当前用户话语的LU槽注释、对应于先前系统话语的对话动作和针对先前回合估计的对话状态来生成的,使得DST能够处理具有可能值的大的或无界的集合的槽并且处理在训练期间未看到的槽值。此外,为了弥合训练和推理之间的差距,我们研究了对当前用户话语的LU输出以及前一轮的DST输出使用预定采样。
2018-11-13 cs.CL
DialoGLUE: A Natural Language Understanding Benchmark for Task-Oriented Dialogue
Carnegie Mellon University(卡内基梅隆大学);Amazon Alexa AI(亚马逊Alexa人工智能)
面向任务的对话研究的一个长期目标是能够灵活地调整对话模型以适应新的领域。为了推进这一方向的研究,我们引入了DialogLUE(对话语言理解评估),这是一个公共基准,由7个面向任务的对话数据集组成,涵盖4个不同的自然语言理解任务,旨在鼓励基于表示的迁移,领域自适应和样本有效任务学习的对话研究。我们发布了几个强大的基线模型,通过在大型开放域对话语料库上进行预训练和任务自适应自监督训练,在普通BERT架构上展示了性能改进,并在7个任务中的5个任务上获得了最先进的结果。通过DialogLUE基准、基线方法和我们的评估脚本,我们希望能够促进开发更通用的面向任务的对话模型的目标。
2020-10-01 cs.AI cs.CL
Evaluate On-the-job Learning Dialogue Systems and a Case Study for Natural Language Understanding
LIMSI(LIMSI机构);Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);LNE(LNE机构)
在职学习是指在开放的环境中,在生产中使用的同时不断学习,这意味着系统必须自己处理以前从未见过的情况和元素。似乎特别适合在职学习的系统是对话系统,因为它们可以利用与用户的互动来收集反馈,以便随着时间的推移调整和改进其组件。一些进行在职学习的对话系统已经建立和评估,但尚未确定一般方法。因此,在本文中,我们提出了第一个通用的方法来评估在职学习对话系统。我们还描述了一个面向任务的对话系统,提高了工作的自然语言组件,通过其用户交互。最后,我们评估我们的系统与所描述的方法。
2021-02-26 cs.CL
Turn Segmentation into Utterances for Arabic Spontaneous Dialogues and Instance Messages
Institute of Statistical Studies and Research (ISSR), Cairo University(开罗大学统计研究与研究所);Faculty of Computers and Information, Cairo University(开罗大学计算机与信息学院)
文本分割任务是许多自然语言处理(NLP)的基本处理任务,例如文本摘要、文本翻译、对话语言理解等。话轮切分被认为是建立自动化人机系统计算机系统的关键任务。在本文中,我们介绍了一种新的方法,把分割成话语埃及自发对话和实例消息(IM)使用机器学习(ML)的方法作为自动理解埃及自发对话和IM任务的一部分。由于缺乏埃及方言对话语料库,我们的语料库评估的系统包括3001轮,这是收集,分割,并从埃及呼叫中心手动注释。该系统的F1评分为90.74%,准确率为95.98%。
2015-05-12 cs.CL
Improving Cross-Modal Understanding in Visual Dialog via Contrastive Learning
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
可视化对话是一项具有挑战性的视觉语言任务,因为可视化对话代理需要在对图像内容和对话历史进行推理后回答一系列问题。虽然现有的方法试图处理视觉对话中的跨模态理解,但它们仍然不足以基于对视觉和文本上下文的理解来对候选答案进行排序。本文基于视觉语言预训练模型VD-BERT,分析了视觉对话中的跨模态理解问题,提出了一种新的提高视觉对话跨模态理解的方法ICMU。ICMU通过基于四向对比学习区分不同的拉取输入(即拉取图像、问题或答案)来增强跨模态理解。此外,ICMU利用单轮视觉问答来增强视觉对话模型的跨模态理解,以处理多轮视觉接地对话。实验结果表明,该方法提高了可视化对话模型的跨模态理解能力,在VisDial数据集上取得了满意的效果。
2022-04-15 cs.CL cs.CV
DIET: Lightweight Language Understanding for Dialogue Systems
Rasa(Rasa公司)
大规模的预训练语言模型在语言理解基准测试(如GLUE和SuperGLUE)上显示出令人印象深刻的结果,比其他预训练方法(如分布式表示(GloVe)和纯监督方法)有很大改进。我们介绍了双重意图和实体Transformer(DIET)架构,并研究了不同的预训练表示对意图和实体预测的有效性,这两个常见的对话语言理解任务。DIET在复杂的多域NLU数据集上推进了最先进的技术,并在其他更简单的数据集上实现了类似的高性能。令人惊讶的是,我们发现使用大型预训练模型来完成这项任务并没有明显的好处,事实上,即使在没有任何预训练嵌入的纯监督设置中,DIET也改进了当前的技术水平。我们的最佳性能模型优于微调BERT,并且训练的速度约为6倍。
2020-05-11 cs.CL
KoDialogBench: Evaluating Conversational Understanding of Language Models with Korean Dialogue Benchmark
Scatter Lab
本文提出 KoDialogBench 韩语对话基准,通过原生与翻译对话构建理解和响应选择数据集,评估多种语言模型并揭示其能力短板及训练技术的效果。
2024-06-17 cs.CL
VSTAR: A Video-grounded Dialogue Dataset for Situated Semantic Understanding with Scene and Topic Transitions
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院);National Key Laboratory of General Artificial Intelligence(通用人工智能全国重点实验室)
本文提出基于395部电视剧的大规模视频对话数据集VSTAR,并构建场景分割、话题分割与对话生成基准,验证多模态信息与片段对视频对话理解及生成的重要性。
2023-05-30 cs.CL cs.CV
Graph Based Network with Contextualized Representations of Turns in Dialogue
Hanyang University(汉阳大学)
基于对话的关系抽取(RE)旨在抽取对话中出现的两个论元之间的关系。由于对话具有人称代词出现率高、信息密度低的特点,而且对话中的大多数关系事实没有任何单个句子的支持,因此基于对话的关系抽取需要对对话有全面的了解。在本文中,我们提出了TURN上下文awaRE图卷积网络(TUCORE-GCN)关注的方式,人们理解对话建模。此外,我们提出了一种新的方法,将会话中的情感识别(ERC)的任务作为一个基于对话的RE。在一个基于对话的RE数据集和三个ERC数据集上的实验表明,我们的模型在各种基于对话的自然语言理解任务中是非常有效的。在这些实验中,TUCORE-GCN在大多数基准数据集上的表现优于最先进的模型。我们的代码可在www.example.com上获得。
2021-09-09 cs.CL
Hierarchical Multi-Task Natural Language Understanding for Cross-domain Conversational AI: HERMIT NLU
Heriot-Watt University(赫瑞-瓦特大学)
我们提出了一种新的神经架构,用于口语对话系统中的广泛覆盖的自然语言理解。我们开发了一个分层的多任务架构,它提供了句子含义的多层表示(即,对话行为和框架式结构)。该架构是自我注意力机制和BiLSTM编码器的层次结构,随后是CRF标记层。我们描述了各种各样的实验,表明我们的方法在用对话行为和框架语义注释的数据集上获得了有希望的结果。此外,我们证明了它对不同的、公开可用的NLU数据集的适用性,该数据集注释了特定领域的意图和相应的语义角色,提供了比RASA、Dialogflow、LUIS和Watson等最先进的工具更高的整体性能。例如,我们在Rasa、Dialogflow和LUIS上的实体标记F分数平均提高了4.45%。
2019-10-02 cs.CL
Dialog as a Vehicle for Lifelong Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校)
对话系统的研究主要集中在两种主要类型的应用程序-任务导向的对话系统,学习使用澄清,以帮助理解一个目标,和开放式的对话系统,预计将进行不受约束的“闲聊”对话。然而,对话交互还可以用于获得各种类型的知识,这些知识可以用于改进底层语言理解系统或对话所作用的其他机器学习系统。在这份立场文件中,我们提出的问题,设计对话系统,使终身学习作为一个重要的挑战性问题,特别是涉及物理位置的机器人的应用程序。我们包括在这方面的工作,并讨论仍然有待解决的挑战的例子。
2020-06-26 cs.CL
An Exploration of Data Efficiency in Intra-Dataset Task Transfer for Dialog Understanding
University of California, Santa Barbara(加州大学圣巴巴拉分校)
迁移学习是自然语言处理的一个令人兴奋的领域,它有可能提高模型性能和数据效率。本研究探讨了不同数量的目标任务训练数据对对话域中顺序迁移学习的影响。我们假设模型可以利用从源任务中学习到的信息来更好地学习目标任务,从而减少所需的目标任务训练样本的数量。非直观地,我们的数据显示,与没有迁移学习的相同模型相比,目标任务训练数据大小通常对顺序迁移学习的性能影响最小。我们的研究结果使我们相信,这种意想不到的结果可能是由于灾难性遗忘的影响,激励进一步研究防止这种遗忘的方法。
2022-10-21 cs.CL
Dialogue Games for Benchmarking Language Understanding: Motivation, Taxonomy, Strategy
University of Potsdam(波茨坦大学)
本文提出用对话博弈补充传统语言理解测试,通过构建情境化语言使用活动并建立与底层能力模型关联的分类体系,以更全面评估人工语言理解能力。
2023-04-14 cs.CL
A Bag of Tricks for Dialogue Summarization
Amazon AI(亚马逊人工智能);Cairo University(开罗大学);Department of Computer Science, Columbia University(哥伦比亚大学计算机科学系)
与新闻或科技文章摘要相比,对话摘要有其独特的挑战。在这项工作中,我们探讨了四个不同的挑战的任务:处理和区分部分的对话属于多个扬声器,否定的理解,推理的情况下,和非正式的语言理解。使用预训练的序列到序列语言模型,我们探索了说话人姓名替换,否定范围突出显示,相关任务的多任务学习,以及域内数据的预训练。我们的实验表明,我们提出的技术确实提高了摘要性能,优于强基线。
2021-09-16 cs.CL
CookDial: A dataset for task-oriented dialogs grounded in procedural documents
Ghent University(根特大学);imec(比利时微电子研究中心)
这项工作提出了一个新的对话数据集CookDial,它有助于研究具有程序知识理解的面向任务的对话系统。该语料库包含260个人与人之间的任务导向对话,其中一个代理,给出一个食谱文档,指导用户烹饪一道菜。CookDial中的对话具有两个独特的功能:(i)对话流和支持文档之间的程序对齐;(ii)复杂的代理决策,包括分割长句,解释硬指令和解决对话上下文中的共指。此外,我们确定了三个具有挑战性的(子)任务,在假设的面向任务的对话系统:(1)用户问题理解,(2)代理动作帧预测,(3)代理响应生成。对于这些任务中的每一个,我们都开发了一个神经基线模型,并在CookDial数据集上进行了评估。我们公开发布了CookDial数据集,包括对话框和食谱文档的丰富注释,以刺激对特定于域的基于文档的对话框系统的进一步研究。
2022-06-17 cs.CL
Transfer Learning for Context-Aware Spoken Language Understanding
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
口语语言理解是面向任务的对话系统的重要组成部分。SLU将自然语言用户话语解析成语义框架。先前的工作已经表明,将上下文信息显着提高SLU性能的多轮对话。然而,收集大规模的人类标记的多轮对话语料库的目标领域是复杂和昂贵的。为了减少对收集和注释工作的依赖,我们提出了一个上下文编码语言Transformer(CELT)模型,便于利用各种上下文信息SLU。我们探索不同的迁移学习方法,以减少对数据汇集和注释的依赖。除了使用大规模通用未标记语料库(如维基百科)进行无监督预训练外,我们还探索了用于迁移学习的无监督和有监督自适应训练方法,以从其他域内和域外对话语料库中受益。实验结果表明,基于所提出的迁移学习方法的模型在两个大规模单话轮对话基准测试和一个大规模多话轮对话基准测试上的SLU性能比现有模型有了显著的提高。
2020-03-03 cs.CL
PyTOD: Programmable Task-Oriented Dialogue with Execution Feedback
University of Cambridge(剑桥大学);Apple(苹果公司);Meta;Imperial College London(帝国理工学院)
PyTOD 通过生成可执行代码跟踪对话状态,并利用策略与执行反馈纠错,在 SGD 基准上取得最先进的状态跟踪性能,显著提升任务导向对话的准确性与鲁棒性。
2025-08-21 cs.CL
Natural language understanding for task oriented dialog in the biomedical domain in a low resources context
Hôpital Necker-Enfants Malades, APHP(内克尔-患病儿童医院,APHP);INSERM UMRS 1138(法国国家健康与医学研究院 UMRS 1138);LIMSI, CNRS(法国国家科学研究中心 LIMSI)
在生物医学领域,缺乏可共享的数据集通常限制了开发自然语言处理系统的可能性,特别是对话应用和自然语言理解模型。为了克服这个问题,我们探索数据生成使用模板和术语和数据增强的方法。也就是说,我们报告了我们的实验,使用在一个大型EHR语料库上学习的释义和单词表示,使用Fasttext和ELMo,在没有任何可用数据集的情况下学习NLU模型。我们评估的自然语言理解任务的自然语言查询EHR分为插槽填充和意图分类子任务。在插槽填充任务中,我们使用ELMo表示获得了0.76的F分数;在分类任务中,平均F分数为0.71。我们的研究结果表明,这种方法可以用来开发一个基线系统。
2018-11-29 cs.CL
Towards Understanding Omission in Dialogue Summarization
Fudan University(复旦大学);Microsoft Research Asia(微软亚洲研究院)
本文提出OLDS数据集,为对话摘要提供省略标签,通过分析发现提供真实省略标签可大幅提升摘要质量,并构建省略检测任务以支持训练与评估。
2023-05-11 cs.CL