Alternating Recurrent Dialog Model with Large-scale Pre-trained Language Models
University of California, Davis（加州大学戴维斯分校）；Tsinghua University（清华大学）
现有的对话系统模型需要大量的人工注释，并且难以推广到不同的任务。大型预训练语言模型如BERT和GPT-2（Devlin等人，2019; Radford等人，2019年）提出了将语言先验纳入下游NLP任务的有效性。然而，预训练的语言模型能在多大程度上帮助对话响应生成仍在探索中。在本文中，我们提出了一个简单，通用，有效的框架：交替角色对话模型（ARDM）。ARDM分别对每个说话者建模，并利用大型预训练语言模型。它不需要人类注释的监督，如信念状态或对话行为，以实现有效的对话。ARDM在两个流行的面向任务的对话数据集：CamRest 676和MultiWOZ上的性能优于或与最先进的方法相当。此外，我们可以将ARDM推广到更具挑战性的非协作任务，如说服。在说服任务中，ARDM能够产生类似人类的反应，说服人们向慈善机构捐款。
2021-04-26 cs.AI cs.CL
DFlow: Diverse Dialogue Flow Simulation with Large Language Models
Amazon Web Services（亚马逊网络服务）
本文提出DFlow方法，利用LLMs生成决策树结构任务计划以推导多样化对话轨迹，构建了含3,886个对话流的任务导向数据集，微调模型在下一动作预测任务上超越GPT-4。
2025-03-01 cs.AI cs.CL
A Survey of the Evolution of Language Model-Based Dialogue Systems: Data, Task and Models
The Chinese University of Hong Kong（香港中文大学）；Huawei Noah Ark Lab（华为诺亚实验室）；MoE Key Laboratory of High Confidence Software Technologies, The Chinese University of Hong Kong（高可信软件技术重点实验室，香港中文大学）
本文按语言模型突破的时间顺序系统综述对话系统演进，梳理数据、任务与模型变化，并讨论开放挑战与未来方向。
2025-07-20 cs.AI cs.CL
LAD: Language Models as Data for Zero-Shot Dialog
Carnegie Mellon University（卡内基梅隆大学）；Google（谷歌）
为了在面向任务的对话中实现zero-shot泛化，提出了语言模型即数据（LAD）。LAD是用于创建多样且准确的合成数据的范例，该合成数据传达必要的结构约束并且可以用于训练下游神经对话模型。LAD利用GPT-3诱导语言多样性。LAD在zero-shot设置中在意图预测（+15%）、槽填充（+31.4 F-1）和下一动作预测（+11 F1）方面实现了显著的性能提升。此外，一个交互式的人的评价表明，与人的对话培训与LAD的培训是有竞争力的。LAD是开源的，代码和数据可在https://github.com/Shikib/lad上获得。
2022-07-28 cs.AI cs.CL
TurnGPT: a Transformer-based Language Model for Predicting Turn-taking in Spoken Dialog
KTH Speech, Music and Hearing（KTH语言、音乐与听力学院）
句法和语用的完整性对于话轮转换预测是非常重要的，但是到目前为止，话轮转换的机器学习模型只以有限的方式使用了这样的语言信息。在本文中，我们介绍了TurnGPT，一个基于transformer的语言模型，用于预测口语对话中的话轮转换。该模型已经在各种书面和口头对话数据集上进行了训练和评估。我们表明，该模型优于先前工作中使用的两个基线。我们还报告了消融研究，以及注意力和梯度分析，这表明该模型能够利用对话上下文和语用完整性的话轮转换预测。最后，我们探讨了该模型的潜力，不仅检测，而且投影，回合完成。
2020-10-21 cs.AI cs.CL
Integrating Pretrained Language Model for Dialogue Policy Learning
The Chinese University of Hong Kong（香港中文大学）
强化学习（RL）已被证明其潜力，训练一个对话策略代理，以最大限度地提高用户的累积奖励。然而，奖励可能是非常稀疏的，因为它通常只在对话会话结束时提供，这导致了可接受的对话代理无法承受的交互要求。与许多致力于优化策略和回收奖励的努力不同，这些努力容易陷入局部最优和模型崩溃，我们将对抗训练分解为两个步骤：1）我们将预训练的语言模型整合为一个模型，以判断当前系统动作是否足够好用于最后一个用户动作（即，\textit{next action prediction}）; 2）算法给出局部稠密奖励，以指导Agent的探索。实验结果表明，该方法显著提高了对话系统的完成率（~4.4\%）和成功率（~8.0\%）。
2021-11-02 cs.AI cs.CL
Increasing faithfulness in human-human dialog summarization with Spoken Language Understanding tasks
Aix-Marseille Univ（艾克斯-马赛大学）；CNRS（法国国家科学研究中心）；LIS（信息科学与系统实验室）；Enedis（恩吉斯公司）；International Laboratory on Learning Systems - ILLS - IRL CNRS（国际学习系统实验室（ILLS - IRL 法国国家科学研究中心））
针对对话摘要模型易产生不一致内容、忠实度不足的问题，本研究将口语理解的语义信息融入面向任务的人与人对话摘要，提出新评估标准与标注数据集，实验验证该方法可提升摘要准确率。
2024-09-16 cs.AI cs.CL
Speak Out of Turn: Safety Vulnerability of Large Language Models in Multi-turn Dialogue
Beijing University of Posts and Telecommunications（北京邮电大学）；University of Michigan（密歇根大学）
该研究聚焦大语言模型多轮对话的安全盲区，提出通过拆解有害查询为多轮子问题的越狱方法，实验验证多款LLM存在相关漏洞，为LLM安全防护带来新挑战。
2024-10-30 cs.AI cs.CL
An Empirical Investigation of Pre-Trained Transformer Language Models for Open-Domain Dialogue Generation
Tencent AI Lab（腾讯AI实验室）
我们提出了一个基于transformer的预训练自回归语言模型的开放域对话生成任务的实证调查。采用预训练和微调的训练范式进行参数学习。分别收集了中文新闻语料库和英文维基百科语料库用于预训练阶段。在微调阶段，对话上下文和响应被连接成单个序列，用作模型的输入。一个加权的联合预测模式的上下文和响应的设计，以评估模型的性能与上下文预测的损失项或没有。采用各种解码策略，例如贪婪搜索、束搜索、top-k采样等来进行响应文本生成。在典型的单话轮和多话轮对话语料库如微博、豆瓣、Reddit、DailyDialog和Persona-Chat上进行了大量的实验。报告了语言模型以及基线方法生成结果的相关性和多样性的自动评估指标的详细数量。
2020-03-09 cs.AI cs.CL
Towards End-to-End Integration of Dialog History for Improved Spoken Language Understanding
The Ohio State University（俄亥俄州立大学）；IBM Research AI（IBM研究人工智能）
在对话系统中，对话历史在口语语言理解（SLU）性能中起着重要的作用。对于端到端（E2E）SLU，以前的工作已经使用文本形式的对话历史，这使得模型依赖于级联自动语音识别器（ASR）。这取消了E2E系统的益处，该E2E系统旨在是紧凑的并且对ASR错误是鲁棒的。在本文中，我们提出了一个分层的会话模型，能够直接使用语音形式的对话历史，使其完全E2E。我们还通过联合训练一个类似的基于文本的会话模型，并明确绑定声学和语义嵌入，从可用的黄金会话成绩单中提取语义知识。我们还提出了一种新的技术，我们称之为DropFrame来处理通过以E2E方式添加对话历史所产生的长训练时间。在HarperValleyBank对话数据集上，我们的E2E历史集成在对话动作识别任务上的绝对F1得分比历史独立基线高7.7%。我们的模型与最先进的基于历史的级联基线相比具有竞争力，但使用的参数减少了48%。在没有黄金成绩单来微调ASR模型的情况下，我们的模型以10%的绝对F1分数显著优于此基线。
2022-04-11 cs.AI cs.CL
Generating Persona Consistent Dialogues by Exploiting Natural Language Inference
Research Center for Social Computing and Information Retrieval（社会计算与信息检索研究中心）；Harbin Institute of Technology（哈尔滨工业大学）
一致性是对话代理人面临的主要挑战之一。一个类人的对话代理不仅应该自然地响应，而且还应该保持一致的角色。在本文中，我们利用自然语言推理（NLI）技术的优势，以解决生成人物角色一致性对话的问题。不同于现有的工作，重新排序检索到的响应通过NLI模型，我们投任务作为一个强化学习问题，并建议利用NLI信号从响应人物对作为奖励的对话生成过程。具体来说，我们的生成器采用了基于注意力的编码器-解码器来生成基于角色的响应。我们的评估器由两部分组成：一个adversarially训练的自然度模块和一个基于NLI的一致性模块。此外，我们使用另一个表现良好的NLI模型中的人物角色一致性的评价。对人工和自动度量的实验结果，包括基于模型的一致性评价，表明所提出的方法优于强大的生成基线，特别是在生成的响应的人物一致性。
2021-03-22 cs.AI cs.CL
FunctionChat-Bench: Comprehensive Evaluation of Language Models' Generative Capabilities in Korean Tool-use Dialogs
Kakao Corp.（Kakao公司）
本文提出韩语工具使用对话基准 FunctionChat-Bench，从工具调用、答案补全、槽位提问和相关性检测四个维度评估语言模型，发现单轮工具调用准确率高并不代表多轮生成能力强。
2024-11-21 cs.AI cs.CL
Sequence-to-Sequence Data Augmentation for Dialogue Language Understanding
Research Center for Social Computing and Information Retrieval（社会计算与信息检索研究中心）；Harbin Institute of Technology（哈尔滨工业大学）
本文研究面向任务的对话系统中语言理解的数据增强问题。在以前的工作，增强话语，而不考虑其与其他话语的关系，我们提出了一个序列到序列生成的数据增强框架，利用一个话语的相同的语义替代品的训练数据。在话语表示中引入了一种新的多样性秩，使模型产生多样的话语，这些多样性增强的话语有助于提高语言理解模块。在航空公司旅游信息系统数据集和斯坦福大学多回合多领域对话数据集上新创建的语义框架注释上的实验结果表明，当仅表示数百个话语的训练集时，我们的框架分别实现了6.38和10.04的F分数的显着提高。案例研究也证实，我们的方法产生不同的话语。
2018-07-04 cs.AI cs.CL
DialogVCS: Robust Natural Language Understanding in Dialogue System Upgrade
Peking University（北京大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Tencent Cloud AI（腾讯云AI）
本文针对对话系统更新中新旧意图产生语义纠缠损害NLU模型鲁棒性的问题，提出DialogVCS基准，将意图检测表述为正但未标记的多标签分类任务，并证明自动工作流能有效识别语义纠缠的意图。
2023-05-24 cs.AI cs.CL
Building Task-Oriented Visual Dialog Systems Through Alternative Optimization Between Dialog Policy and Language Generation
University of California, Davis（加州大学戴维斯分校）
强化学习（Reinforcement learning，RL）是面向任务的可视化对话系统学习最优对话策略的有效方法。一种常见的做法是在神经序列到序列（seq2seq）框架上应用RL，其中动作空间是解码器中的输出词汇表。然而，很难设计一个奖励函数，可以在学习有效的策略和生成自然的对话响应之间实现平衡。本文提出了一种新的框架，交替训练图像猜测的RL策略和监督seq2seq模型，以提高对话生成质量。我们评估我们的框架上的GuessWhich任务和框架实现了国家的最先进的性能，在任务完成和对话质量。
2019-10-28 cs.AI cs.CL cs.LG
Dialog without Dialog Data: Learning Visual Dialog Agents from VQA Data
Georgia Institute of Technology（佐治亚理工学院）；Oregon State University（俄勒冈州立大学）；Allen Institute for AI（艾伦人工智能研究所）；Facebook AI Research（Facebook 人工智能研究院）；SRI International（斯坦福国际研究院）
我们能否开发出基于视觉的对话代理，可以有效地适应新的任务，而不会忘记如何与人交谈？这样的代理可以利用更多种类的现有数据来概括新的任务，最大限度地减少昂贵的数据汇集和注释。在这项工作中，我们研究了一个设置，我们称之为“没有对话框的对话框”，这需要代理开发视觉接地的对话模型，可以适应新的任务，没有语言水平的监督。通过分解意图和语言，我们的模型在针对新任务进行微调后最大限度地减少了语言漂移。我们提出了定性结果，自动化指标和人类研究，所有这些都表明我们的模型可以适应新的任务并保持语言质量。基线要么在新任务中表现不佳，要么经历语言漂移，变得无法理解。代码已在https://github.com/mcogswell/dialog_without_dialog上提供
2020-07-24 cs.AI cs.CL cs.CV
Dialog Context Language Modeling with Recurrent Neural Networks
Carnegie Mellon University（卡内基梅隆大学）
在这项工作中，我们提出了上下文语言模型，将对话层次的话语信息到语言建模。以往的语境语言模型都是将前面的话语看作一个输入序列，而没有考虑对话的交互作用。我们设计了基于递归神经网络（RNN）的上下文语言模型，专门跟踪对话中说话者之间的交互。在Switchboard Dialog Act语料库上的实验结果表明，该模型在复杂度方面比传统的单轮RNN语言模型提高了3.3%。所提出的模型也表现出优于其他竞争的上下文语言模型的性能。
2017-01-15 cs.CL
Investigating Robustness of Dialog Models to Popular Figurative Language Constructs
Carnegie Mellon University（卡内基梅隆大学）；University of California San Diego（加州大学圣地亚哥分校）
人类经常在交流中使用比喻语言，包括在与对话系统交互期间。因此，对于现实世界的对话系统来说，能够处理流行的比喻语言结构（如隐喻和隐喻）是很重要的。在这项工作中，我们分析了现有的对话模型的性能的情况下，输入对话上下文展示使用比喻语言。我们观察到在处理比喻语言的两个开放域对话数据集上评估模型时存在很大的差距。当面对由比喻语言组成的对话上下文时，与没有比喻语言的上下文相比，一些模型显示出非常大的性能下降。我们鼓励未来的研究在对话建模单独分析和报告结果的比喻语言，以更好地测试模型功能相关的现实世界的使用。最后，我们提出了轻量级的解决方案，以帮助现有的模型变得更加强大的比喻语言，简单地使用外部资源翻译比喻语言的字面（非比喻）的形式，同时保留的意义，以最大限度地。
2021-10-01 cs.CL
AugESC: Dialogue Augmentation with Large Language Models for Emotional Support Conversation
Institute for Artificial Intelligence（人工智能研究院）；Tsinghua University（清华大学）
本研究利用大型语言模型将对话增强视为对话补全任务，构建了AugESC数据集，大幅扩展了情感支持对话的规模与话题覆盖，并证明其能提升下游模型向开放域话题的泛化能力。
2023-05-18 cs.CL
A Self-Attention Joint Model for Spoken Language Understanding in Situational Dialog Applications
ByteDance Corporation（字节跳动公司）
口语语言理解（SLU）是面向目标的对话系统的一个重要组成部分。它通常涉及识别说话者意图并从用户话语中提取语义槽，这被称为意图检测（ID）和槽填充（SF）。SLU问题是近年来研究的热点问题。然而，这些方法只是语法约束SF结果，独立解决ID和SF，或没有充分利用两个任务的相互影响。提出了一种具有条件随机场层和先验掩码的多头自注意联合模型。实验表明，我们的模型的有效性，与国家的最先进的模型相比。与此同时，中国的在线教育在过去几年取得了长足的进步。但是很少有智能教育对话应用程序供学生学习外语。因此，我们设计了一个智能对话机器人配备了不同的场景设置，以帮助学生学习沟通技巧。
2019-05-27 cs.AI cs.CL cs.HC
Quantized-Dialog Language Model for Goal-Oriented Conversational Systems
IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
我们提出了一种新的方法来解决对话学习的背景下，面向目标的会话系统。其关键思想是将对话空间划分为集群，并在集群中创建语言模型，从而允许准确选择对话中的下一个话语。语言模型依赖于与话语聚类相关联的n-gram。这种量化的对话语言模型方法已被应用到最新的对话系统技术挑战（DSTC 6）的端到端的目标导向的轨道。我们的目标是找到正确的系统话语从一个池的候选人，以完成用户和自动餐厅预订系统之间的对话。我们的研究结果表明，本文提出的技术实现了高精度的选择正确的候选话语，并优于其他国家的最先进的方法的基础上神经网络。
2018-12-26 cs.CL
Can Large Language Models be Used to Provide Psychological Counselling? An Analysis of GPT-4-Generated Responses Using Role-play Dialogues
The University of Electro-Communications（电气通信大学）；iDEAR Human Support Service（iDEAR人文支持服务）；Japanese Organization of Mental Health and Educational Agencies（日本心理健康与教育机构组织）
本研究通过角色扮演对话收集专家咨询师数据并标注意图，由第三方咨询师评估GPT-4与人类咨询师在相同情境下的响应适当性，发现GPT-4生成的响应与人类咨询师具有竞争力，验证了大型语言模型用于心理咨询的可行性。
2024-02-20 cs.AI cs.CL cs.HC
A Multichannel Convolutional Neural Network For Cross-language Dialog State Tracking
Panasonic Corporation（松下公司）
第五届对话状态跟踪挑战赛（DSTC 5）引入了一种新的跨语言对话状态跟踪场景，要求参与者基于英语训练语料库构建跟踪器，同时使用未标记的中文语料库对其进行评估。虽然数据集中提供了英文和中文语料的计算机生成的翻译，但这些翻译包含错误，不小心使用它们很容易损害所构建的跟踪器的性能。为了解决这个问题，我们提出了一个多通道卷积神经网络（CNN）架构，其中我们把英语和汉语作为一个单一的CNN模型的不同输入通道。在DSTC 5的评估中，我们发现这种多通道架构可以有效地提高对翻译错误的鲁棒性。此外，我们的DSTC 5方法纯粹是基于机器学习的，不需要关于目标语言的先验知识。我们认为这是在跨语言上下文中构建跟踪器的理想属性，因为不是每个开发人员都熟悉这两种语言。
2017-01-23 cs.AI cs.CL cs.LG
AuGPT: Auxiliary Tasks and Data Augmentation for End-To-End Dialogue with Pre-Trained Language Models
Charles University（查理大学）；Czech Technical University in Prague（捷克理工大学）；Czech Institute of Informatics, Robotics and Cybernetics（捷克信息学、机器人与控制论研究所）
基于注意力的预训练语言模型（如GPT-2）为端到端对话建模带来了相当大的进步。然而，它们也给面向任务的对话带来相当大的风险，例如缺乏知识基础或多样性。为了解决这些问题，我们引入了修改后的语言模型微调的训练目标，我们采用了大量的数据增强通过反向翻译，以增加训练数据的多样性。我们进一步研究了组合来自多个源的数据以提高目标数据集性能的可能性。我们通过人工和自动方法仔细评估我们的贡献。我们的模型在MultiWOZ数据上的表现大大优于基线，并在自动和人工评估中显示出与最先进技术的竞争性能。
2022-01-14 cs.AI cs.CL cs.LG
Knowledge-Grounded Dialogue Generation with Pre-trained Language Models
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Center for Data Science, AAIS, Peking University（北京大学人工智能研究院数据科学中心）；Meituan（美团）；Microsoft Corporation（微软公司）；Beijing Academy of Artificial Intelligence (BAAI)（北京人工智能研究院）
我们研究基于知识的对话生成与预训练的语言模型。为了利用冗余的外部知识的能力约束下，我们提出装备响应生成定义的一个预先训练的语言模型与知识选择模块，和一个无监督的方法来联合优化知识选择和响应生成与未标记的对话。两个基准的实证结果表明，我们的模型可以显着优于国家的最先进的方法，在自动评估和人类的判断。
2020-10-17 cs.CL
Hello, It's GPT-2 -- How Can I Help You? Towards the Use of Pretrained Language Models for Task-Oriented Dialogue Systems
Cambridge University（剑桥大学）；PolyAI Limited（PolyAI有限公司）
数据稀缺是一个长期存在的关键挑战，它阻碍了跨多个领域的面向任务的对话系统的快速开发：面向任务的对话模型预计将从少量的特定于任务的数据中学习语法，句法，对话推理，决策和语言生成。在本文中，我们证明了语言建模预训练和迁移学习的最新进展有望克服这个问题。我们提出了一个面向任务的对话模型，只对文本输入操作：它有效地绕过明确的政策和语言生成模块。在TransferTransfo框架之上构建（Wolf等人，2019）和生成模型预训练（Radford et al.，2019），我们从MultiWOZ数据集验证了复杂的多领域面向任务的对话方法。我们的自动和人工评估表明，所提出的模型与强大的任务特定神经基线相当。从长远来看，我们的方法有望缓解数据稀缺问题，并支持构建更具吸引力和更雄辩的面向任务的会话代理。
2019-08-04 cs.CL
PSYDIAL: Personality-based Synthetic Dialogue Generation using Large Language Models
Ajou University（亚洲大学）
本文提出PSYDIAL流水线，通过提示大语言模型生成基于大五人格外向性维度的韩语人格化对话数据集，实验证明该数据集训练的模型在生成反映人格的回应上显著优于预训练和闲聊微调模型。
2024-04-01 cs.CL
Natural Language Generation in Dialogue using Lexicalized and Delexicalized Data
Microsoft Maluuba（微软 Maluuba）；AdeptMind
自然语言生成在口语对话系统中起着至关重要的作用。我们提出了一种新的方法，自然语言生成面向任务的对话，使用递归神经网络的编码器-解码器框架。与以前的工作相比，我们的模型同时使用词汇化和非词汇化组件，即对话行为的槽值对，槽和相应的值对齐在一起。这使得我们的模型可以从所有可用的数据中学习，包括槽值配对，而不是局限于去词汇化的槽。我们表明，这有助于我们的模型生成更自然的句子，具有更好的语法。我们通过转移从预训练的句子自动编码器学习的权重来进一步提高模型的性能。对我们表现最好的模型的人类评估表明，它生成的句子对用户来说更有吸引力。
2017-04-21 cs.CL
A Knowledge-Grounded Dialog System Based on Pre-Trained Language Models
Hithink RoyalFlush Information Network Co.,Ltd.（同花顺信息网络股份有限公司）
我们提出了一个知识为基础的对话系统开发的第九届对话系统技术挑战赛（DSTC 9）轨道1 -超越域API：面向任务的会话建模与非结构化知识访问。我们利用迁移学习与现有的语言模型来完成这个挑战轨道中的任务。具体来说，我们将任务划分为四个子任务，并在每个子任务上微调了几个Transformer模型。我们做了额外的改变，在性能和效率上都有所提高，包括将模型与传统的实体匹配技术相结合，以及在语言模型的输出层添加指针网络。
2021-06-28 cs.CL
Controllable and Diverse Data Augmentation with Large Language Model for Low-Resource Open-Domain Dialogue Generation
Soochow University（苏州大学）
本文提出基于摘要的对话增强方法SDA，利用对话摘要作为规划工具提升大语言模型的可控性，在小种子数据下生成高质量且语义多样的对话数据，并通过聚类度量验证其能有效提升低资源开放域对话模型性能。
2024-03-30 cs.CL
OPAL: Ontology-Aware Pretrained Language Model for End-to-End Task-Oriented Dialogue
Shanghai Jiao Tong University（上海交通大学）；AISpeech Co., Ltd.（思必驰有限公司）
提出了一种面向任务的端到端对话的本体感知预训练语言模型（OPAL）。与聊天对话模型不同，面向任务的对话模型至少实现两个特定于任务的模块：对话状态跟踪器（DST）和响应生成器（RG）。对话状态由域-槽-值三元组组成，作为用户搜索域相关数据库的约束条件。带有注释的结构化对话状态的大规模面向任务的对话数据通常是不可访问的。它阻碍了为面向任务的对话开发预先训练好的语言模型。我们提出了一个简单而有效的预训练方法来缓解这个问题，它包括两个预训练阶段。第一阶段是对大规模上下文文本数据进行预训练，其中文本的结构化信息由信息提取工具提取。为了弥合预训练方法和下游任务之间的差距，我们设计了两个预训练任务：类似本体的三重恢复和下一个文本生成，分别模拟DST和RG。第二阶段是根据TOD数据对预训练模型进行微调。实验结果表明，我们提出的方法取得了令人兴奋的提升，并获得竞争力的性能，即使没有任何TOD数据的CamRest 676和MultiWOZ基准。
2022-09-10 cs.CL
PULSAR at MEDIQA-Sum 2023: Large Language Models Augmented by Synthetic Dialogue Convert Patient Dialogues to Medical Records
University of Manchester（曼彻斯特大学）；National University of Singapore（新加坡国立大学）；University of Melbourne（墨尔本大学）
PULSAR系统通过领域预训练与合成数据增强训练大语言模型，将医患对话转为临床记录，在MEDIQA-Sum 2023任务B中获第二、三名，并发现扩大模型规模最有效。
2023-07-05 cs.CL
Investigating the Impact of Pre-trained Language Models on Dialog Evaluation
National University of Singapore（新加坡国立大学）；Robert Bosch (SEA)（罗伯特博世（东南亚））；Universidad Politécnica de Madrid（马德里理工大学）；Kriston AI Lab（Kriston人工智能实验室）
最近，有一个在自动开放域对话评估中应用预训练语言模型（Pr-LM）的兴趣激增。Pr-LM为解决多领域评估挑战提供了一个有前途的方向。然而，不同的Pr-LM对自动度量性能的影响还没有得到很好的理解。本文研究了8种不同的Pr-LM，并研究了它们对三种典型的自动对话评估指标的影响。具体来说，我们分析了如何选择的Pr-LM影响自动度量的性能。对每个指标进行广泛的相关性分析，以评估不同Pr-LM沿各个轴的影响，包括预训练目标，对话评估标准，模型大小和跨数据集鲁棒性。这项研究作为第一次全面评估不同的Pr-LM对自动对话评价的影响。
2021-11-02 cs.CL
Dialog-based Language Learning
Facebook AI Research（Facebook AI研究院）
机器学习研究的一个长期目标是建立一个智能对话代理。自然语言理解的大多数研究都集中在从固定的标记数据训练集学习，并在单词级别（标记，解析任务）或句子级别（问答，机器翻译）进行监督。这种监督对于人类如何学习是不现实的，因为语言既通过交流学习，又用于交流。在这项工作中，我们研究了基于对话的语言学习，在对话过程中，对话伙伴的反应中自然地和隐含地给出了监督。我们在两个领域研究这种设置：bAbI数据集（Weston et al.，2015）和大规模问答（Dodge et al.，2015）。我们评估了这些任务的一组基线学习策略，并表明，一种新的模型，将预测前瞻性是一个很有前途的方法，从教师的反应学习。特别是，一个令人惊讶的结果是，它可以学习正确回答问题，而无需任何基于奖励的监督。
2016-10-24 cs.CL
Multimodal Hierarchical Reinforcement Learning Policy for Task-Oriented Visual Dialog
University of California, Davis（加利福尼亚大学戴维斯分校）；Carnegie Mellon University（卡内基梅隆大学）
创建一个能够理解视觉和语言的智能对话系统是人工智能（AI）的最终目标之一~ \cite{winograd1972understanding}。广泛的研究集中在视觉到语言生成，然而，有限的研究已经触及到这两种模式结合在一个目标驱动的对话上下文。我们提出了一个多模态层次强化学习框架，动态集成视觉和语言的面向任务的视觉对话。该框架联合学习多模态对话状态表示和分层对话策略，以提高对话任务的成功率和效率。我们还提出了一种新的技术，状态自适应，在对话状态表示集成上下文感知。我们在一个图像猜测游戏中评估了所提出的框架和状态自适应技术，并取得了可喜的成果。
2018-05-08 cs.CL
User Adaptive Language Learning Chatbots with a Curriculum
Columbia University（哥伦比亚大学）；The University of Hong Kong（香港大学）；Articulate.AI Inc（Articulate.AI公司）
本文提出将词汇约束解码应用于BlenderBot3对话系统，使生成内容与中学生课本词汇对齐，实验证明该方法能提升学生对目标词汇的理解和英语练习兴趣。
2023-04-11 cs.CL
A Comparative Study on Language Models for Task-Oriented Dialogue Systems
Institut Teknologi Bandung（万隆理工学院）
语言模型的最新发展已经显示出有希望的结果，通过微调预训练的模型，在各种自然语言任务上实现了最先进的性能。在面向任务的对话（ToD）系统中，语言模型可以用于端到端训练，而不依赖于对话状态跟踪来跟踪对话历史，而是允许语言模型根据作为输入给出的上下文来生成响应。本文进行了一项比较研究，以显示在端到端ToD系统上使用最近的预训练模型进行微调的有效性和优势，例如BART和T5。实验结果表明，经过语言模型微调后，性能有了很大的提高。在将知识添加到指导模型避免幻觉并在生成的响应中生成准确实体的上下文之后，模型产生更流畅的响应。此外，我们发现BART和T5在BLEU和F1分数方面优于基于GPT的模型，并在ToD系统中实现了最先进的性能。
2022-01-21 cs.CL
Relevance of Unsupervised Metrics in Task-Oriented Dialogue for Evaluating Natural Language Generation
Microsoft Maluuba（微软 Maluuba）
诸如BLEU的自动化度量在机器翻译文献中被广泛使用。它们最近也被对话界用于评估对话回应的生成。然而，以前的工作中的对话响应生成表明，这些指标不密切相关的非面向任务的对话设置与人类的判断。任务导向型对话的回答表达的领域较窄，多样性较低。因此，有理由认为，这些自动化的指标将与人类的判断在面向任务的设置，其中生成任务包括翻译成一个句子的对话行为。我们进行了实证研究，以证实是否是这样。我们的研究结果表明，这些自动化的指标有更强的相关性与人类的判断，在面向任务的设置相比，在非面向任务的设置。我们还观察到，这些指标与提供多个地面真实参考句子的数据集的相关性更好。此外，我们表明，一些目前可用的语料库面向任务的语言生成可以解决简单的模型和倡导更具挑战性的数据集。
2017-06-29 cs.CL
Småprat: DialoGPT for Natural Language Generation of Swedish Dialogue by Transfer Learning
Luleå University of Technology（吕勒奥理工大学）；RISE Research Institutes of Sweden（瑞典RISE研究机构）
构建能够产生令人信服的响应的开放域会话系统（或聊天机器人）是一项公认的挑战。最新的基于转换器的自然语言对话生成模型在模拟英语中的类人单轮对话方面表现出令人印象深刻的性能。这项工作调查，通过实证研究，这种模式的迁移学习到瑞典语的潜力。DialoGPT是一种英语预训练模型，通过对从公开来源获得的三种不同的瑞典语会话数据集进行训练来适应。困惑分数（一种自动化的内在语言模型度量）和人类评估的调查被用来评估微调模型的性能，结果表明，迁移学习的能力可以得到相当大的成功。要求对模拟对话进行评分的人类评估人员判断，对于在最大（瑞典）数据集上训练的模型，超过57%的聊天机器人响应与人类相似。我们在HuggingFace平台上提供英语和瑞典语聊天机器人的演示和模型检查点供公众使用。
2022-02-13 cs.CL cs.LG
PanGu-Bot: Efficient Generative Dialogue Pre-training from Pre-trained Language Model
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Huawei Technologies Co., Ltd.（华为技术有限公司）
在本文中，我们介绍了PanGu-Bot，一个基于大型预训练语言模型（PLM）PANGU-alpha（Zeng et al.，2021年）。与其他从零开始在大量对话数据上训练的预训练对话模型不同，我们的目标是通过继承PLM中有价值的语言能力和知识，以相对较少的数据和计算成本构建强大的对话模型。为此，我们从大型PLM PANGU-alpha中训练PanGu-Bot，该系统已被证明在各种中文自然语言任务上表现良好。我们调查PanGu-Bot产生的响应的不同方面，包括响应质量，知识和安全性。我们表明PanGu-Bot优于最先进的中文对话系统（CDIALGPT（Wang et al.，2020）、EVA（Zhou等人，2021）、EVA2.0（Gu等人，2022））w.r.t.以上三个方面。我们还证明，PanGu-Bot可以很容易地部署，以产生情绪反应，而无需进一步培训。通过实证分析，我们也指出盘古机器人的响应质量、知识正确性和安全性还远远不够完善，要构建可靠、智能的对话系统还需要进一步探索。我们的模型和代码将很快在https://github.com/huawei-noah/Pretrained-Language-Model/tree/master/PanGu-Bot上提供。
2022-07-05 cs.CL
A Context-aware Natural Language Generator for Dialogue Systems
Charles University in Prague（布拉格查理大学）
我们提出了一种新的自然语言生成系统的口语对话系统能够夹带（适应）用户的说话方式，提供上下文适当的反应。该生成器是基于递归神经网络和序列到序列的方法。它完全可以从包括先前上下文以及要生成的响应的数据中进行训练。我们表明，上下文感知生成器产生了显着的改进，在自动度量和人类成对偏好测试的基线。
2016-08-25 cs.CL
Boosting Naturalness of Language in Task-oriented Dialogues via Adversarial Training
Microsoft Speech and Dialogue Research Group（微软语音与对话研究组）
面向任务的对话系统中的自然语言生成（NLG）模块产生传达所需信息的面向用户的话语。因此，生成的响应必须自然流畅。我们建议整合对抗性训练，以产生更多类似人类的反应。该模型使用Straight-Through Gumbel-Softmax估计器进行梯度计算。我们还提出了一个两阶段的培训计划，以提高性能。实验结果表明，对抗训练可以有效地提高语言生成的质量在自动和人工评估。例如，在RNN-LG餐厅数据集中，我们的模型AdvNLG在BLEU中的表现比之前的最先进结果高出3.6%。
2020-05-06 cs.CL
Building a Role Specified Open-Domain Dialogue System Leveraging Large-Scale Language Models
NAVER CLOVA；NAVER AI Lab（NAVER人工智能实验室）
最近的开放领域对话模式带来了许多突破。然而，构建聊天系统是不可扩展的，因为它通常需要大量的人与人之间的对话数据，特别是在强制执行角色、风格或安全等功能时。在这项工作中，我们研究了开放域的对话系统施加角色的挑战，使系统保持一致的角色，同时自然地与人类交谈的目标。为了实现这一点，系统必须满足角色规范，该角色规范包括关于所述特征的某些条件以及关于是否允许某些类型的话语的系统策略。为此，我们提出了一个高效的数据汇集框架，利用大规模语言模型的上下文少样本学习，从头开始构建角色满意的对话数据集。然后，我们比较各种架构的开放域对话系统在满足角色规范，同时保持会话能力。自动和人工评估表明，我们的模型返回很少的出界话语，保持竞争力的一般指标的性能。我们发布了我们为进一步研究而构建的韩语对话数据集。
2022-04-30 cs.CL
Understanding the Effectiveness of Very Large Language Models on Dialog Evaluation
Carnegie Mellon University（卡内基梅隆大学）；Amazon（亚马逊）；Microsoft Turing（微软图灵）
语言模型的规模在过去几年中稳步增长。它们在各种自然语言处理（NLP）任务（如问答和摘要）上实现了高水平的性能。大语言模型（LLM）已经被用于生成，现在可以输出类似人类的文本。因此，对话领域中的其他下游任务现在可以利用LLM的语言理解能力。对话评估是本文将探讨的任务之一。它专注于LLM的提示：BLOOM，OPT，GPT-3，Flan-T5，InstructDial和TNLGv 2。本文表明，用于训练模型的数据集的选择有助于它在任务上的表现以及提示应该如何构建。具体来说，模型训练的数据集组越多样化和相关，对话评估的性能就越好。本文还研究了提示中的示例数量和使用的示例选择类型如何影响模型的性能。
2023-01-27 cs.CL
Grammar Control in Dialogue Response Generation for Language Learning Chatbots
EPFL（洛桑联邦理工学院）；University of Tübingen（蒂宾根大学）；ETH Zürich（苏黎世联邦理工学院）；Leibniz-Institut für Wissensmedien（莱布尼茨知识媒体研究所）
针对语言学习聊天机器人难以控制语法等语言形式以匹配学习者需求的问题，该研究将对话响应生成模型基于语法技能教学知识库，评估相关策略，发现策略性解码Llama3在容忍轻微质量损失时优于GPT-3.5，模拟显示其能支持适配学习者熟练度的语法习得。
2025-02-11 cs.CL
A Simple Language Model for Task-Oriented Dialogue
Salesforce Research（赛富时研究院）
面向任务的对话通常被分解为三个任务：理解用户输入、决定操作和生成响应。虽然这种分解可能会为每个子任务提供一个专用的模型，但我们发现一种简单，统一的方法可以在MultiWOZ数据集上实现最先进的性能。SimpleTOD是一种简单的面向任务的对话方法，它使用一个单一的因果语言模型，在所有子任务上训练，重新转换为一个单一的序列预测问题。这使得SimpleTOD能够充分利用来自预先训练的开放领域因果语言模型（如GPT-2）的迁移学习。SimpleTOD在对话状态跟踪的联合目标准确性方面比现有技术有了改进，我们的分析揭示了这种设置对嘈杂注释的鲁棒性。SimpleTOD还改进了用于评估端到端环境中的行动决策和响应生成的主要指标：通知率提高了8.1分，成功率提高了9.7分，综合得分提高了7.2分。
2022-04-12 cs.CL
Knowledge Injection into Dialogue Generation via Language Models
University of California, Santa Barbara（加州大学圣塔芭芭拉分校）；Google Research（谷歌研究院）
对话生成已经通过神经网络从零开始成功地学习，但是倾向于产生相同的一般响应，例如，“你在说什么？”在许多谈话中。为了减少这种同质性，外部知识，如扬声器的配置文件和领域知识作为一个额外的条件，以多样化的模型的输出。然而，开发有效对话所需的知识并不总是可用的，这与先前工作的假设不同，即模型在聊天之前总是获得足够的知识。当应用这样的对话模型与不受约束的人和主题在线聊天时，这个问题可能是有害的，因为模型没有所需的知识。为了解决这个问题，我们提出了InjK，这是一个两阶段的方法注入知识的对话生成模型。首先，我们训练一个大规模的语言模型，并将其作为文本知识进行查询。其次，我们建立了一个对话生成模型来生成文本知识和相应的回应。从经验上讲，当对话生成模型只能访问有限的知识时，我们的方法通过产生更连贯和信息量更大的响应而优于先前的工作。
2021-04-05 cs.CL
AllWOZ: Towards Multilingual Task-Oriented Dialog Systems for All
Columbia University（哥伦比亚大学）
亚马逊Alexa和苹果Siri等最先进的自然语言技术的一个常见问题是，由于语言障碍，它们的服务无法扩展到大多数发展中国家的公民。这些人群由于缺乏可用的语言资源来构建NLP产品而受到影响。本文介绍了AllWOZ，一个多语言多领域面向任务的客户服务对话数据集，涵盖八种语言：英语，普通话，韩语，越南语，印地语，法语，葡萄牙语和泰语。此外，我们通过应用mT5和元学习为我们的多语言数据集创建了一个基准。
2021-12-15 cs.CL
AffectON: Incorporating Affect Into Dialog Generation
Harvard University（哈佛大学）；Koç University（科奇大学）
自然语言具有丰富的表达能力，是人类情感交流的重要工具。同样的语言调查（例如，“你是谁？可以根据会话伙伴的情感状态和会话的上下文而引起具有不同影响的响应。然而，大多数对话系统不认为影响作为反应生成的组成方面。在本文中，我们介绍了AffectON，在推理过程中产生情感反应的方法。为了在目标情感中生成语言，我们的方法利用了概率语言模型和情感空间。AffectON是语言模型不可知的，因为它可以与由任何语言模型生成的概率一起工作（例如，序列到序列模型、神经语言模型、n-gram）。因此，它可以用于情感对话和情感语言生成。我们尝试了情感对话生成，并客观和主观地评估生成的文本。对于评价的主观部分，我们设计了一个自定义的用户界面进行评级，并为此类界面的设计提供了建议。主观和客观的结果都表明，我们的方法是成功的，在句法连贯性的牺牲很小，在拉向目标的影响所产生的语言。
2020-12-12 cs.CL
Dialogue Response Prefetching Based on Semantic Similarity and Prediction Confidence of Language Model
Nara Institute of Science and Technology（奈良科学技术研究所）；RIKEN（理化学研究所）；Tokyo Institute of Technology（东京技术大学）
本文提出基于语义相似度和语言模型预测置信度的对话响应预取方法，旨在减少用户感知延迟。
2026-01-13 cs.CL
Exploring the Factual Consistency in Dialogue Comprehension of Large Language Models
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学现代软件工程国家重点实验室）
本文通过对话摘要和派生事实性问题评估大语言模型的对话理解能力，发现其事实一致性错误率较高，并提出自动构建多任务数据的微调方法以降低错误率。
2024-04-01 cs.CL
Few-shot Natural Language Generation for Task-Oriented Dialog
Microsoft Research（微软研究院）
自然语言生成（NLG）模块是面向任务的对话系统的重要组成部分，它将以语义形式表示的对话行为转换为自然语言的应答。传统的基于模板或统计模型的成功通常依赖于大量注释的数据，这对于新领域是不可行的。因此，在实际应用中，如何利用有限的标记数据进行良好的泛化是NLG系统的关键。为此，我们提出了FewShotWoz，第一个NLG基准测试，以模拟面向任务的对话系统中的少样本学习设置。在此基础上，我们建立了SC-GPT模型。该算法在大量标注的NLG语料库上进行预训练，获得可控的生成能力，并通过少量的领域特定标签进行微调，以适应新的领域。在FewShotWoz和大型Multi-Domain-WOZ数据集上的实验表明，通过各种自动度量和人工评估，所提出的SC-GPT显着优于现有方法。
2020-02-27 cs.CL
Cross-lingual Data Augmentation for Document-grounded Dialog Systems in Low Resource Languages
Nanjing University（南京大学）
本文提出跨语言增强模型 CLEM，通过对抗训练检索、Fid 生成器及翻译对齐架构，利用高资源语言增强低资源文档驱动对话系统，并在 DialDoc 2023 竞赛中取得第 4 名。
2023-09-20 cs.CL
Zero and Few-Shot Localization of Task-Oriented Dialogue Agents with a Distilled Representation
Stanford University（斯坦福大学）
面向任务的对话（ToD）代理主要限于几种广泛使用的语言，这主要是由于为每种语言获取训练数据的成本很高。现有的低成本方法依赖于跨语言嵌入或朴素的机器翻译，为了数据效率牺牲了很多准确性，并且在创建可用的对话代理方面基本上失败。我们提出了自动方法，使用ToD训练数据在源语言中建立一个高质量的功能对话代理在另一个目标语言，没有训练数据（即zero-shot）或一个小的训练集（即Few-Shot）。不像大多数以前的工作，跨语言的ToD只专注于对话状态跟踪（DST），我们建立了一个端到端的代理。我们表明，我们的方法关闭之间的准确性差距Few-Shot和现有的完整的拍摄方法ToD代理。我们通过（1）改进对话数据表示，（2）改进实体感知机器翻译，（3）自动过滤噪声翻译来实现这一点。我们在最近的双语对话数据集BiToD上评估了我们的方法。在汉英迁移中，在zero-shot条件下，我们的方法在任务成功率（TSR）和对话成功率（DSR）上分别达到了46.7%和22.0%。在Few-Shot设置中，使用目标语言中10%的数据，我们将最先进的技术提高了15.2%和14.0%，在全拍摄训练的5%以内。
2023-02-18 cs.CL
