Unsupervised Learning of Interpretable Dialog Models
IBM Research AI（IBM研究院人工智能部门）
最近，已经提出了几种基于深度学习的模型用于对话的端到端学习。虽然这些模型可以从数据中训练而不需要任何额外的注释，但很难解释它们。另一方面，存在传统的基于状态的对话系统，其中对话的状态是离散的，因此易于解释。然而，这些状态需要手工制作并在数据中注释。为了实现两全其美，我们提出了潜在状态跟踪网络（Latent State Tracking Network，LSTN），使用它我们以无监督的方式学习可解释的模型。该模型定义了一个离散的潜在变量在每一轮的对话，可以采取一组有限的值。由于这些离散变量不存在于训练数据中，我们使用EM算法以无监督的方式训练我们的模型。在实验中，我们表明，与端到端的方法相比，Lebron可以帮助实现对话模型的可解释性，而不会降低性能。
2018-11-02 cs.AI cs.CL
Structured Attention for Unsupervised Dialogue Structure Induction
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of California, Davis（加利福尼亚大学戴维斯分校）
从一个或一组对话中导出有意义的结构表征是计算语言学中一项重要而又具有挑战性的任务。这一领域的研究对于对话系统的设计和语篇分析具有重要意义。它也可以扩展到解决语法推理。在这项工作中，我们建议将结构化注意力层纳入具有离散潜在状态的变分递归神经网络（VRNN）模型中，以无监督的方式学习对话结构。与普通VRNN相比，结构化注意力使模型能够专注于源句子嵌入的不同部分，同时强制执行结构归纳偏差。实验表明，在两方对话数据集上，具有结构化注意力的VRNN学习与用于生成此对话语料库的模板相似的语义结构。在多方对话数据集上，我们的模型学习了一个交互式结构，展示了它区分说话者或地址的能力，自动解开对话，而无需明确的人类注释。
2020-10-09 cs.AI cs.CL
Unsupervised Dialog Structure Learning
University of California, Davis（加州大学戴维斯分校）；Carnegie Mellon University（卡内基梅隆大学）
从一组面向任务的对话中学习共享对话结构是计算语言学的一个重要挑战。对话结构的学习可以揭示如何分析人类对话，更重要的是有助于对话系统的设计和评估。我们提出了一种改进的VRNN模型与离散的潜在向量提取对话结构。与现有的基于HMM的模型不同，我们的模型是基于变分自动编码器（VAE）。这种模式能够捕捉到更多的动态对话超越了语言的表面形式。我们发现，定性地，我们的方法提取有意义的对话结构，定量地，优于以前的模型预测看不见的数据的能力。我们进一步评估模型的有效性，在下游的任务，对话系统建设任务。实验表明，通过将学习到的对话结构集成到奖励函数设计中，该模型在强化学习设置中收敛得更快，并且得到更好的结果。
2019-06-25 cs.AI cs.CL
How NOT To Evaluate Your Dialogue System: An Empirical Study of Unsupervised Evaluation Metrics for Dialogue Response Generation
McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）
我们调查评估指标的对话响应生成系统，监督标签，如任务完成，是不可用的。响应生成的最新工作采用了来自机器翻译的度量，以将模型生成的响应与单个目标响应进行比较。我们发现，这些指标与非技术Twitter域中的人类判断非常弱相关，而在技术Ubuntu域中根本不相关。我们提供了定量和定性的结果，突出了现有指标的具体弱点，并提供建议，为对话系统更好的自动评估指标的未来发展。
2017-01-03 cs.AI cs.CL cs.LG
Learning to Reason and Use Tools through Unsupervised Fine-Tuning in Task-Oriented Dialog Systems
HiTZ Center - Ixa, University of the Basque Country UPV/EHU（巴斯克大学UPV/EHU HiTZ中心 - Ixa）
本研究针对任务导向对话系统的动态信息检索缺陷，提出适配ReAct框架的无监督微调方法，使LLMs可访问外部知识，其微调后的8B模型性能超越70B上下文系统，在SIMMC数据集上表现优异。
2026-09-01 cs.CL
Relevance of Unsupervised Metrics in Task-Oriented Dialogue for Evaluating Natural Language Generation
Microsoft Maluuba（微软 Maluuba）
诸如BLEU的自动化度量在机器翻译文献中被广泛使用。它们最近也被对话界用于评估对话回应的生成。然而，以前的工作中的对话响应生成表明，这些指标不密切相关的非面向任务的对话设置与人类的判断。任务导向型对话的回答表达的领域较窄，多样性较低。因此，有理由认为，这些自动化的指标将与人类的判断在面向任务的设置，其中生成任务包括翻译成一个句子的对话行为。我们进行了实证研究，以证实是否是这样。我们的研究结果表明，这些自动化的指标有更强的相关性与人类的判断，在面向任务的设置相比，在非面向任务的设置。我们还观察到，这些指标与提供多个地面真实参考句子的数据集的相关性更好。此外，我们表明，一些目前可用的语料库面向任务的语言生成可以解决简单的模型和倡导更具挑战性的数据集。
2017-06-29 cs.CL
Unsupervised Flow Discovery from Task-oriented Dialogues
CISUC, Universidade de Coimbra（科英布拉大学系统与计算机工程中心，科英布拉大学）；DEI, FCTUC, Universidade de Coimbra（科英布拉大学工程学院，科英布拉大学）；ISEC, Instituto Politécnico de Coimbra（科英布拉理工学院高等工程学院）
本文提出一种从任务导向对话历史中无监督发现对话流程的方法，通过话语向量聚类构建状态转移图，并在MultiWOZ上验证了其提取有意义流程的潜力。
2024-05-02 cs.AI cs.CL
Achieving Conversational Goals with Unsupervised Post-hoc Knowledge Injection
UC San Diego（加州大学圣地亚哥分校）；Carnegie Mellon University（卡内基梅隆大学）
当前神经对话模型的局限性在于，它们往往在生成的响应中缺乏特异性和信息性，这主要是由于依赖于覆盖有限种类的场景并传达有限知识的训练数据。缓解此问题的一种方法是在解码时从外部源提取相关知识并将其并入对话响应中。在本文中，我们提出了一种事后知识注入技术，我们首先检索一组不同的相关知识片段的条件下，从现有的对话模型的对话历史和初始响应。我们构建多个候选响应，使用基于梯度的解码方法将每个检索到的片段单独注入初始响应，然后使用无监督排名步骤选择最终响应。我们在目标导向和知识为基础的对话设置的实验表明，人类注释者判断所提出的方法的输出更吸引人，信息量更大，从以前的对话系统的响应相比。我们进一步表明，知识增强促进成功实现会话目标，在这两个实验设置。
2022-03-22 cs.CL
Probing Task-Oriented Dialogue Representation from Language Models
Salesforce Research（Salesforce 研究院）
本文研究了预训练的语言模型，以找出哪种模型本质上携带最多的面向任务的对话任务的信息表示。我们从两个方面来研究这个问题：有监督的分类器探测和无监督的互信息探测。我们微调前馈层作为分类器探测器，它位于一个固定的预训练语言模型之上，带有有监督的注释标签。同时，我们提出了一种无监督的互信息探针来评估真实聚类和表示聚类之间的相互依赖性。本文的目的是1）研究探测技术，特别是从无监督互信息方面; 2）为对话研究社区提供预训练语言模型选择的指南; 3）发现对话应用的预训练因素，这可能是成功的关键。
2020-10-26 cs.AI cs.CL
Intent Recognition and Unsupervised Slot Identification for Low Resourced Spoken Dialog Systems
Carnegie Mellon University（卡内基梅隆大学）
意图识别和槽识别是口语语言理解（SLU）系统的重要组成部分。在本文中，我们提出了一种新的方法对这些任务的背景下，低资源和非书面语言。我们提出了一个基于声学的SLU系统，它使用通用的电话识别系统将语音转换为音标。我们建立了一个无词的自然语言理解模块，它可以从这些音标中进行意图识别和槽识别。我们提出的SLU系统执行资源丰富的情况下，具有竞争力，并显着优于现有的方法，可用数据量减少。我们观察到泰米尔语的意图分类改善了10%以上，僧伽罗语的意图分类改善了5%以上。我们还提出了一种新的方法对无监督槽识别使用归一化的注意力分数。该方法可用于无监督的时隙标记、数据增强以及仅用一个语音记录以一次性方式为新时隙生成数据
2021-09-28 cs.CL
Variational Learning for Unsupervised Knowledge Grounded Dialogs
IBM Research AI（IBM研究院人工智能部门）
最近的方法知识为基础的对话生成的反应，将信息从外部文本文件。这些方法不需要在训练期间知道确切的文档，并且依赖于使用检索系统从大型索引中获取相关文档。用于生成响应的文档被建模为潜在变量，其先验概率需要估计。诸如RAG和REALM之类的模型将从索引检索的文档上的文档概率边缘化，以定义端到端优化的对数似然损失函数。在本文中，我们开发了一种变分方法，上述技术，其中，我们反而最大化的证据下限（ELBO）。使用三个公开可用的开放式对话数据集的集合，我们演示了具有地面真实响应信息的后验分布如何在训练期间更好地近似目标函数。为了克服与采样在一个大的知识集合的挑战，我们开发了一种有效的方法来近似ELBO。据我们所知，我们是第一个将变分训练应用于开放规模无监督知识基础对话系统的人。
2022-04-28 cs.CL cs.LG
Contextual Topic Modeling For Dialog Systems
Amazon（亚马逊）
会话主题的准确预测可以是用于创建连贯和吸引人的对话系统的有价值的信号。在这项工作中，我们专注于上下文感知的主题分类方法，用于识别自由形式的人类聊天机器人对话中的主题。我们扩展了以前的工作，神经主题分类和无监督主题关键字检测，将会话上下文和对话行为功能。在注释数据上，我们表明，将上下文和对话行为导致主题分类准确率相对提高35%，主题经常跨越多个话语的会话交互的无监督关键字检测召回率提高11%。我们发现，主题深度等主题指标与连贯性和参与度等对话评价指标高度相关，这意味着会话主题模型可以预测用户满意度。我们检测对话主题和关键字的工作可以用来引导聊天机器人进行连贯的对话。
2018-10-19 cs.CL
QUARTZ : QA-based Unsupervised Abstractive Refinement for Task-oriented Dialogue Summarization
Université de Lorraine, CNRS, Inria, LORIA（法国洛林大学、法国国家科学研究中心、法国国家信息与自动化研究所、LORIA研究所）；Université Sorbonne Paris Nord, CNRS, Laboratoire d’Informatique de Paris Nord, LIPN（法国巴黎北大学、法国国家科学研究中心、巴黎北信息学实验室、LIPN研究所）；Inserm, Centre de Recherche des Cordeliers, Université Paris Cité, Sorbonne Université（法国国家医学研究院、cordeliers研究中心、巴黎城市大学、索邦大学）；HeKA, Inria Paris（HeKA、法国国家信息与自动化研究所巴黎分所）；Department of Medical Informatics, Assistance Publique Hôpitaux de Paris, Georges Pompidou European Hospital（医学信息学系、巴黎公共医院、乔治·蓬皮杜欧洲医院）
本文提出无监督框架 QUARTZ，利用 LLM 生成任务问答并据此筛选高质量对话摘要，再微调模型，在零样本设置下达到接近完全监督 SotA 的效果。
2025-09-30 cs.AI cs.CL
Likelihood Ratios and Generative Classifiers for Unsupervised Out-of-Domain Detection In Task Oriented Dialog
Carnegie Mellon University（卡内基梅隆大学）；Facebook Conversational AI（Facebook 对话人工智能部门）
最近，由于模型在现实世界中的部署越来越多，在测试时直接识别域外（OOD）输入示例的任务重新引起了人们的兴趣。在这项工作中，我们专注于OOD检测自然语言句子输入到基于任务的对话系统。我们的发现有三个方面：首先，我们策划并发布ROSTD（面向任务的对话框中的真实域外句子）-这是一个包含4K OOD示例的数据集，用于公开提供的数据集（Schuster et al. 2019）。与现有的通过保留类的子集来合成OOD示例的设置相反，我们的示例是由注释者使用先验指令来创作的，这些先验指令相对于现有数据集中的句子是域外的。第二，我们探讨似然比为基础的方法作为一种替代目前流行的范式。具体来说，我们重新制定和应用这些方法的自然语言输入。我们发现它们在所有数据集上都与后者相匹配或优于后者，并且在非人工OOD基准测试（如我们的数据集）上有较大的改进。我们的消融验证，特别是使用似然比，而不是普通的可能性是必要的区分OOD和域内数据。第三，我们提出学习生成分类器并计算用于OOD检测的边缘似然（比率）。这允许我们使用原则可能性，同时利用训练时间标签。我们发现，这种方法优于简单的似然（比）为基础的和其他先前的方法。迄今为止，我们是第一个调查使用生成分类器的OOD检测在测试时。
2019-12-30 cs.AI cs.CL
Query Enhanced Knowledge-Intensive Conversation via Unsupervised Joint Modeling
Baidu Inc.（百度公司）
本文提出无监督查询增强方法 QKConv，通过联合训练查询生成器、知识选择器和响应生成器，仅利用对话上下文与目标响应，在三个知识密集型对话数据集上优于所有无监督方法并接近有监督方法。
2023-05-26 cs.CL
Personalizing Task-oriented Dialog Systems via Zero-shot Generalizable Reward Function
University of Kentucky（肯塔基大学）；University of Central Florida（中佛罗里达大学）
面向任务的对话系统使用户能够使用自然语言完成任务。最先进的系统以相同的方式响应用户，而不管他们的个性如何，尽管个性化对话可以导致更高水平的采用和更好的用户体验。构建个性化对话系统是一项重要但具有挑战性的工作，只有少数作品接受了挑战。大多数现有的工作依赖于监督学习方法，并且需要为每个用户简档标记费力且昂贵的训练数据。此外，收集和标记每个用户简档的数据实际上是不可能的。在这项工作中，我们提出了一个新的框架，P-ToD，个性化的面向任务的对话系统能够适应各种用户简档在一个无监督的方式使用zero-shot概括奖励功能。P-ToD使用预训练的GPT-2作为骨干模型，并分三个阶段工作。第一阶段是针对具体任务的培训。第二阶段通过利用近端策略优化算法来启动无监督个性化，该算法执行由zero-shot可推广奖励函数指导的策略梯度。我们新的奖励函数可以量化生成的响应的质量，即使是看不见的配置文件。可选的最后阶段使用几个标记的训练样本微调个性化模型。我们进行了广泛的实验分析，使用个性化的bAbI对话基准的五个任务和多达180个不同的用户简档。实验结果表明，即使P-ToD可以访问零标记示例，与强大的全监督GPT-2基线相比，P-ToD的性能也优于最先进的监督个性化模型，并在BLEU和ROUGE指标上实现了竞争性性能
2023-03-24 cs.CL cs.LG
Towards Universal Dialogue Act Tagging for Task-Oriented Dialogues
Amazon（亚马逊）
用于构建面向任务的对话系统的机器学习方法需要带有标签的大型会话数据集来进行训练。我们对从人与人的对话中构建面向任务的对话系统感兴趣，这些对话可能在现有的客户服务中心日志中大量可用，或者可以从人群工作人员那里收集。注释这些数据集可能非常昂贵。最近发布了多个带注释的面向任务的人机对话数据集，但是它们的注释模式在不同的集合中有所不同，即使是对于定义良好的类别，如对话行为（DA）。我们提出了一个通用的DA模式面向任务的对话，并调整现有的注释数据集与我们的模式。我们的目标是训练一个通用DA标记器（U-DAT）的任务导向的对话，并使用它来标记人与人的对话。我们调查了多个数据集，提出了手动和自动化的方法来调整不同的模式，并在人与人对话的目标语料库上呈现结果。在无监督学习实验中，我们在人与人对话中的系统回合上获得了54.1%的F1分数。在半监督设置中，F1分数增加到57.7%，否则需要至少1.7K手动注释转弯。对于新的域，我们展示了进一步的改进，当未标记或标记的目标域数据可用。
2019-07-05 cs.AI cs.CL
Conversational Recommendation System with Unsupervised Learning
University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）；Rulai Inc.（Rulai公司）
我们将演示一个会话式产品推荐代理。这个系统展示了我们如何将个性化推荐系统的研究与对话系统的研究相结合来构建一个虚拟销售代理。基于我们开发的新深度学习技术，虚拟代理能够学习如何与用户交互，如何回答用户问题，下一个问题是什么，以及在与人类用户聊天时推荐什么。通常，一个特定领域的下降会话代理需要成千上万的手工标记的会话数据或手写规则。这是为新域启动会话代理时的主要障碍。我们将探索和演示学习解决方案的有效性，即使没有手写的规则或手工标记的训练数据。
2016-09-22 cs.CL cs.IR cs.LG
Data-Efficient Goal-Oriented Conversation with Dialogue Knowledge Transfer Networks
Heriot-Watt University（赫瑞-瓦特大学）；Amazon Alexa AI（亚马逊Alexa AI）
面向目标的对话系统现在被广泛采用的行业，它是至关重要的，以保持一个快速的原型周期的新产品和领域。数据驱动的对话系统开发必须适应这一要求-因此，减少训练此类系统所需的数据和注释量是一个中心研究问题。在本文中，我们提出了对话知识转移网络（DiKTNet），一个国家的最先进的方法，以目标为导向的对话生成，只使用几个例子对话（即少样本学习），其中没有一个被注释。我们通过执行两阶段训练来实现这一点。首先，我们在多个领域的目标导向对话的大型来源MetaLWOz语料库上进行无监督对话表示预训练。其次，在传输阶段，我们使用此表示以及其他2个具有不同通用性水平的文本知识源来训练DiKTNet：ELMo编码器和主数据集的源域。我们的主要数据集是斯坦福多领域对话语料库。我们在BLEU和实体F1分数方面评估了我们的模型，并表明我们的方法在一系列基线模型以及之前最先进的对话生成模型ZSDG上有显著且一致的改进。后者的改进--在实体F1中高达10%，BLEU得分平均为3%--仅使用相当于ZSDG域内训练数据10%的数据就实现了。
2019-10-03 cs.CL
Rethinking Action Spaces for Reinforcement Learning in End-to-end Dialog Agents with Latent Variable Models
Carnegie Mellon University（卡内基梅隆大学）；Shanghai Jiao Tong University（上海交通大学）
定义会话代理的动作空间并使用强化学习优化其决策过程是一个持久的挑战。通常的做法是使用手工制作的对话行为或输出词汇表，例如在神经编码器解码器中，作为动作空间。两者都有各自的局限性。本文提出了一种新的潜在的行动框架，把一个端到端的对话代理的行动空间作为潜在的变量，并开发无监督的方法，以诱导自己的行动空间的数据。全面的实验进行检查连续和离散的行动类型和两种不同的优化方法的基础上随机变分推理。结果表明，所提出的潜在行动实现了优越的经验性能的改善，比以前的字级策略梯度方法的DealOrNoDeal和MultiWoz对话。我们的详细分析也提供了关于各种潜在变量的策略学习方法的见解，可以作为在未来的研究中开发更好的潜在行动的基础。
2019-04-15 cs.AI cs.CL
Using Domain Knowledge to Guide Dialog Structure Induction via Neural Probabilistic Soft Logic
UC Santa Cruz（加州大学圣克鲁兹分校）；Google Research（谷歌研究院）；Harvard University（哈佛大学）
本文提出神经符号方法NEUPSL DSI，将符号知识注入生成神经模型的潜在空间，以解决对话结构归纳在有限数据和分布偏移下表现不佳的问题，并在多个数据集和设置下实现一致性能提升。
2024-03-26 cs.CL cs.LG
SalesBot: Transitioning from Chit-Chat to Task-Oriented Dialogues
National Taiwan University（国立台湾大学）；MediaTek Research（联发科研究院）
对话系统通常分为两种类型，开放域和面向任务的。第一个重点是与用户聊天，让他们参与对话，其中选择一个合适的话题，以适应对话的背景是一个成功的对话至关重要。另一个专注于特定的任务，而不是随意的谈话，例如，周五晚上看电影或者放首歌这两个方向由于目的不同而被分开研究。然而，如何从社交聊天顺利过渡到任务导向的对话对于触发商业机会很重要，目前还没有公开数据关注此类场景。因此，本文的重点是调查从开放域社交聊天开始，然后逐渐过渡到面向任务的目的，并发布了一个大规模的数据集，详细的注释，以鼓励这一研究方向。为了实现这一目标，本文提出了一个框架，自动生成许多对话，没有人的参与，任何强大的开放域对话生成模型可以很容易地利用。人工评估表明，我们生成的对话数据具有合理质量的自然流动，表明我们发布的数据具有指导未来研究方向和商业活动的巨大潜力。此外，发布的模型允许研究人员在目标场景中自动生成无限对话，这可以大大有利于半监督和无监督方法。
2022-04-22 cs.AI cs.CL
Analysis of Utterance Embeddings and Clustering Methods Related to Intent Induction for Task-Oriented Dialogue
Korea University（高丽大学）；Naver Corporation（Naver公司）
本文研究任务型对话中意图归纳的无监督方法，比较不同话语嵌入与聚类算法的组合，发现预训练MiniLM结合Agglomerative聚类在NMI、ARI、F1、准确率和覆盖率上显著提升。
2024-06-05 cs.AI cs.CL
MALA: Cross-Domain Dialogue Generation with Action Learning
The University of Melbourne（墨尔本大学）；Twitter Inc.（推特公司）
面向任务的对话反应生成包括两个基本部分：对话规划和表面实现。然而，这两个组成部分在其目标上有差异，即，完成任务和语言质量。为了处理这种差异，已经引入了条件反应生成，其中生成过程被分解为动作决策和语言生成通过显式动作表征。为了获得动作表征，最近的研究学习潜在的动作在无监督的方式的基础上的话语词汇相似性。这种行动学习方法容易出现语言表面的混乱，从而影响任务的完成和语言质量。为了解决这个问题，我们提出了多阶段自适应潜在动作学习（MALA），通过区分话语对对话进程的影响来学习语义潜在动作。我们使用话语引起的对话状态的转换建模话语效果，并开发了一个语义相似性测量，估计话语是否有类似的效果。为了在没有对话状态的域上学习语义动作，MsALA逐步扩展跨域的语义相似性度量，即，从调整共享操作到学习特定领域的操作。使用多域数据集SMD和MultiWOZ的实验表明，我们提出的模型在任务完成和语言质量方面都比基线模型取得了一致的改进。
2020-10-13 cs.AI cs.CL cs.LG
Unsupervised Evaluation of Interactive Dialog with DialoGPT
Dialog Research Center, Language Technologies Institute（语言技术研究所对话研究中心）；Carnegie Mellon University（卡内基梅隆大学）
定义有意义和可解释的自动评估指标对于开放域对话研究是非常重要的。标准的语言生成度量已被证明对对话无效。本文介绍了FED度量（对话的细粒度评估），这是一种使用DialoGPT的自动评估度量，无需任何微调或监督。它还介绍了FED数据集，该数据集是通过注释一组具有18个细粒度对话质量的人-系统和人-人对话而构建的。FED度量（1）不依赖于地面实况响应，（2）不需要训练数据，以及（3）在回合和整个对话级别上测量细粒度对话质量。FED在这两个水平上都与人类判断达到中度到高度相关。
2020-06-23 cs.AI cs.CL cs.HC
USR: An Unsupervised and Reference Free Evaluation Metric for Dialog Generation
Carnegie Mellon University（卡内基梅隆大学）
由于缺乏有意义的对话自动评价指标，阻碍了开放域对话的研究。标准的语言生成度量已经被证明对于评估对话模型是无效的。为此，本文提出了USR，一个无监督和无参考的对话评价指标。USR是一个无参考的指标，它训练无监督模型来测量对话的几个理想质量。USR被证明与人类对Topical-Chat（回合级别：0.42，系统级别：1.0）和PersonaChat（回合级别：0.48和系统级别：1.0）的判断密切相关。USR还为对话框的几个理想属性提供了可解释的措施。
2020-05-01 cs.CL cs.LG
Unsupervised Enrichment of Persona-grounded Dialog with Background Stories
UC San Diego（加州大学圣地亚哥分校）；Carnegie Mellon University（卡内基梅隆大学）
人们经常引用个人的叙述、生活经历和事件来使谈话更吸引人、更丰富。虽然基于人物角色的对话模型能够生成遵循给定人物角色的响应，但它们通常会错过与人物角色相关的详细体验或事件，通常会使对话变得肤浅和乏味。在这项工作中，我们装备对话模型与“背景故事”相关的人物角色，利用虚构的叙述，从现有的故事数据集（如ROCStories）。由于当前的对话数据集不包含这样的叙述响应，我们执行一个无监督的适应检索的故事，使用基于梯度的重写技术生成一个对话响应。我们提出的方法鼓励生成的响应是流畅的（即，很可能）与对话历史记录，与检索到的故事的差异最小，以保持事件顺序并与原始人物角色一致。我们证明，我们的方法可以生成更多样化的响应，并被评为更具吸引力和人性化的人类评估员，从现有的对话模型的输出相比。
2021-06-15 cs.CL
Unsupervised Learning of Hierarchical Conversation Structure
University of Washington（华盛顿大学）；Microsoft Research（微软研究院）；Allen Institute for AI（艾伦人工智能研究所）
人类对话可以以许多不同的方式发展，这给自动理解和摘要带来了挑战。目标导向的对话通常具有有意义的子对话结构，但它可能高度依赖于领域。这项工作介绍了一种无监督的方法来学习层次对话结构，包括轮和子对话段标签，分别对应于对话行为和子任务。解码的结构被证明是有用的，在增强神经模型的语言为三个会话级的理解任务。此外，学习的有限状态子对话网络通过自动摘要变得可解释。
2022-11-17 cs.CL
An Unsupervised Dialogue Topic Segmentation Model Based on Utterance Rewriting
Beijing Information Science & Technology University（北京信息科技大学）
针对多轮对话中共指、省略影响无监督主题分割效果的问题，提出结合话语改写技术的UR-DTS模型，通过改写恢复共指与省略内容，在DialSeg711、Doc2Dial数据集上实现性能提升，达到无监督SOTA水平。
2024-09-12 cs.AI cs.CL
A Hybrid Architecture for Out of Domain Intent Detection and Intent Discovery
Amirkabir University of Technology（阿米卡比尔理工大学）
本文提出一种混合架构，利用变分自编码器独立于数据分布进行OOD/OOS意图检测，并结合非线性降维与无监督聚类实现意图发现，在英语和波斯语上超越基线。
2023-07-30 cs.AI cs.CL
Unsupervised Learning of KB Queries in Task-Oriented Dialogs
IBM Research（IBM研究院）；IIT Delhi（印度理工学院德里分校）；LimeChat
面向任务的对话（task oriented dialog，TOD）系统通常需要制定与用户意图相对应的知识库（knowledge base，KB）查询，并使用查询结果来生成系统响应。现有的方法需要对话数据集来显式地注释这些KB查询--这些注释可能很耗时，而且成本很高。作为回应，我们定义了新的问题，预测的KB查询和训练的对话代理，没有明确的KB查询注释。对于查询预测，我们提出了一个强化学习（RL）基线，它奖励那些查询的生成，其KB结果覆盖了后续对话中提到的实体。进一步的分析表明，在知识库中的查询属性之间的相关性可以显着混淆内存增强策略优化（MAPO），现有的最先进的RL代理。为了解决这个问题，我们通过简单但重要的修改来改进MAPO基线，以适合我们的任务。为了训练完整的TOD系统，我们提出了一种流水线方法：它独立地预测何时进行KB查询（查询位置预测器），然后在预测的位置预测KB查询（查询预测器），并在后续对话中使用预测查询的结果（下一个响应预测器）。总的来说，我们的工作提出了我们的新问题的第一个解决方案，我们的分析突出了在没有查询注释的情况下训练TOD系统的研究挑战。
2021-06-03 cs.CL cs.LG stat.ML
Improving Dialog Evaluation with a Multi-reference Adversarial Dataset and Large Scale Pretraining
Robert-Bosch Centre for Data Science and Artificial Intelligence（罗伯特-博世数据科学与人工智能中心）；Indian Institute of Technology, Madras（马德拉斯印度理工学院）
基于模型的对话评估指标（如ADEM、RUBER和最近的基于BERT的指标）越来越受到关注。这些模型的目的是给所有相关的反应分配高分，给所有不相关的反应分配低分。理想情况下，这些模型应该使用针对任何给定上下文的多个相关和不相关响应进行训练。然而，没有这样的数据是公开的，因此现有的模型通常使用单个相关响应和来自其他上下文的多个随机选择的响应（随机否定）进行训练。为了对基于模型的指标进行更好的训练和鲁棒性评估，我们引入了DailyDialog++数据集，该数据集由（i）每个上下文的五个相关响应和（ii）每个上下文的五个对立的不相关响应组成。使用这个数据集，我们首先表明，即使存在多个正确的引用，基于n-gram的度量和基于嵌入的度量也不能很好地将相关响应与随机否定分开。虽然基于模型的度量在随机否定上的表现优于基于n-gram和嵌入的度量，但在对抗性示例上进行评估时，它们的性能会大幅下降。为了验证大规模预训练是否有帮助，我们提出了一个新的基于BERT的评估指标DEB，它在7.27亿Reddit对话上进行了预训练，然后在我们的数据集上进行了微调。DEB的性能明显优于现有模型，与人类判断的相关性更好，对随机否定的性能更好（准确率为88.27%）。然而，当对对抗性响应进行评估时，其性能再次大幅下降，从而突出表明即使是大规模的预训练评估模型对我们数据集中的对抗性示例也不鲁棒。数据集和代码是公开的。
2020-09-23 cs.CL
Pretraining Methods for Dialog Context Representation Learning
Carnegie Mellon University（卡内基梅隆大学）
本文研究了各种无监督的预训练目标学习对话上下文表示。提出了两种新的预训练对话上下文编码器的方法，总共有四种方法进行了检查。使用MultiWoz数据集在一组下游对话任务上对每个预训练目标进行微调和评估，并观察到强大的性能改进。进一步的评估表明，我们的预训练目标不仅带来了更好的性能，而且还带来了更好的收敛性，模型的数据需求更少，并且具有更好的领域泛化能力。
2019-06-04 cs.AI cs.CL
Dialog Flow Induction for Constrainable LLM-Based Chatbots
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对 LLM 聊天机器人易越出专业领域的问题，本文提出无监督自动归纳领域对话流的方法及两种变体，并证明其可提升领域覆盖、减少人工流程设计。
2024-08-03 cs.CL
TWEETSUMM -- A Dialog Summarization Dataset for Customer Service
IBM Research AI（IBM研究院AI）
在典型的客户服务聊天场景中，客户联系支持中心寻求帮助或提出投诉，人工代理试图解决问题。在大多数情况下，在谈话结束时，要求代理写一个简短的摘要，强调问题和建议的解决方案，通常是为了其他代理的利益，可能必须处理相同的客户或问题。本文的目标是推进这一任务的自动化。我们介绍了第一个大规模，高质量，客户关怀对话摘要数据集，接近6500人注释的摘要。这些数据基于真实世界的客户支持对话，包括提取和抽象摘要。我们还介绍了一个新的无监督，提取摘要方法特定的对话。
2021-11-23 cs.CL
Context-based Word Acquisition for Situated Dialogue in a Virtual World
Michigan State University（密歇根州立大学）
为了解决会话系统中的词汇问题，以前的工作已经将无监督学习方法应用于交互过程中同时出现的语音和眼睛注视以自动获取新单词。虽然这些方法已经显示出前景，但与人类语言行为和人机对话相关的几个问题尚未得到解决。首先，心理语言学研究表明，人类的眼球运动和语言产生之间存在一定的时间相关性。虽然这些方法可以潜在地指导采集过程，但它们尚未被纳入以前的无监督方法中。其次，会话系统通常具有关于领域和词汇的现有知识库。虽然现有的知识可以潜在地帮助引导和约束所获得的新词，但它没有被纳入到以前的模型中。第三，眼睛凝视在人机对话中可以发挥不同的作用。一些注视流可能不与语音流紧密耦合，并且因此对单词获取潜在地有害。基于会话上下文的紧密耦合的语音-凝视流的自动识别是重要的。为了解决这些问题，我们开发了新的方法，将用户的语言行为，领域知识，和会话上下文中的单词获取。我们评估了这些方法的背景下，在虚拟世界中的对话。我们的实验结果表明，将上述三种类型的上下文信息显着提高单词习得的性能。
2014-01-16 cs.CL
Discovering Dialog Structure Graph for Open-Domain Dialog Generation
Harbin Institute of Technology（哈尔滨工业大学）；Baidu, Inc.（百度公司）
从人-人对话中学习可解释的对话结构产生对对话结构的基本见解，并且还提供背景知识以促进对话生成。在本文中，我们进行无监督的发现对话结构的聊天语料库，然后利用它来促进下游系统中的对话生成。为此，我们提出了一个离散变分自动编码器与图神经网络（DVAE-GNN），发现一个统一的人类可读的对话结构。该结构是一个两层有向图，包含会话级语义在上层顶点，话语级语义在下层顶点，和这些语义顶点之间的边缘。特别是，我们将GNN集成到DVAE中，以微调话语级语义，从而更有效地识别会话级语义顶点。此外，为了减轻发现大量话语级语义的困难，我们设计了一种耦合机制，将每个话语级语义顶点与一个不同的短语绑定，以提供先验语义。在两个基准语料库上的实验结果证实了DVAE-GNN能够发现有意义的对话结构，并且使用对话结构图作为背景知识可以促进基于图的会话系统进行连贯的多轮对话生成。
2020-12-31 cs.AI cs.CL
Prompter: Zero-shot Adaptive Prefixes for Dialogue State Tracking Domain Adaptation
National University of Singapore (NUS)（新加坡国立大学）；A*STAR（新加坡科技研究局）
针对对话状态跟踪的零样本领域自适应难题，提出Prompter，利用目标领域槽位描述生成动态前缀并接入各层自注意力的键和值，在MultiWOZ与SGD上超越以往方法。
2023-06-07 cs.CL
Mnemosyne: An Unsupervised, Human-Inspired Long-Term Memory Architecture for Edge-Based LLMs
Kaliber AI, Research Division（Kaliber AI 研究部门）
提出Mnemosyne，一种受人类记忆启发的无监督长期记忆架构，用于边缘LLM，通过图存储、概率回忆和核心摘要，在纵向医疗对话中实现65.8%的胜率，优于RAG基线。
2025-10-07 cs.AI cs.CL cs.LG
Open Intent Discovery through Unsupervised Semantic Clustering and Dependency Parsing
SpeechX Limited（SpeechX有限公司）；The Chinese University of Hong Kong（香港中文大学）；Centre for Perceptual and Interactive Intelligence（感知与交互智能中心）
意图理解在对话系统中起着重要的作用，并且通常被公式化为监督学习问题。然而，从头开始为新领域设计意图是具有挑战性和耗时的，这通常需要领域专家的大量手动工作。本文提出了一种无监督的两阶段方法来发现意图和自动生成有意义的意图标签从一个领域中的未标记的话语的集合。在第一阶段，我们的目标是生成一组语义连贯的集群，其中每个集群内的话语传达相同的意图。我们从各种预训练的句子嵌入中获得话语表示，并提出了一个平衡得分的度量来确定平衡数据集的K-均值聚类中的最佳聚类数。在第二阶段，目标是为每个聚类自动生成意图标签。我们使用依赖解析器从每个话语中提取动作-对象对，并在每个聚类中取最频繁的对，例如，book-restaurant作为生成的intent标签。实验结果表明，该方法可以自动生成有意义的意图标签，并在话语聚类和意图发现中实现高精度和召回率。
2021-12-14 cs.CL
Unsupervised Multimodal Clustering for Semantics Discovery in Multimodal Utterances
State Key Laboratory of Intelligent Technology and Systems, Department of Computer Science and Technology, Tsinghua University（智能技术与系统国家重点实验室，计算机科学与技术系，清华大学）；School of Information Science and Engineering, Hebei University of Science and Technology（信息科学与工程学院，河北科技大学）；Samton (Jiangxi) Technology Development Co.,Ltd（江西松通科技发展有限公司）
本文针对多模态话语语义发现问题，提出无监督多模态聚类方法UMC。通过构建增强视图预训练、动态选样及自动确定参数优化样本选择，在基准数据集上实验，UMC比现有方法聚类指标提升2-7%，取得开创性成果。
2026-07-21 cs.AI cs.CL cs.MM
DecompEval: Evaluating Generated Texts as Unsupervised Decomposed Question Answering
Tsinghua University（清华大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
本文提出无监督指标DecompEval，通过指令式PLM问答并将文本质量问题分解为句子级子问题，以提升NLG评估的泛化性与可解释性。
2023-07-13 cs.AI cs.CL
Direct Preference Optimization: Your Language Model is Secretly a Reward Model
Stanford University（斯坦福大学）；CZ Biohub
针对RLHF复杂且不稳定的问题，提出直接偏好优化（DPO）算法，通过奖励模型的新参数化方法以封闭形式提取最优策略，仅用简单分类损失即可解决对齐问题，实验证明其性能优于或匹配现有方法且更易实现。
2024-07-29 cs.AI cs.CL cs.LG
