Local Knowledge Powered Conversational Agents
UNC Charlotte（北卡罗来纳大学夏洛特分校）；NVIDIA（英伟达）；OpenAI（开放人工智能研究中心）
国家的最先进的会话代理显着先进的结合使用大型transformer为基础的语言模型。然而，即使有了这些进步，会话代理仍然缺乏产生与本地上下文信息丰富和一致的响应的能力。在这项工作中，我们提出了一个对话框架，结合本地知识以及用户过去的对话，以产生高质量的对话。我们介绍了一种基于Reddit对话构建数据集的方法，其中出站URL链接在对话中广泛存在，并且超链接文档可以自然地作为本地外部知识包含在内。使用我们的框架和数据集，我们证明，结合本地知识可以在很大程度上提高信息性，一致性和现实性的措施，使用人类的评价。特别是，我们的方法在所有三个指标上都始终优于Reddit数据集上最先进的会话模型。我们还发现，将我们的模型的大小从117M扩展到8.3B参数，可以持续改善验证困惑度和人类评估指标。我们的模型与8.3B参数可以生成类似人类的反应，在单轮对话设置中的各种人类评价。
2020-10-20 cs.AI cs.CL cs.HC
Comparing informativeness of an NLG chatbot vs graphical app in diet-information domain
University of Aberdeen（阿伯丁大学）
图表和表格等数据的可视化表示对于读者来说可能很难理解。以前的工作表明，将可视化与文本相结合可以改善静态环境中的见解交流，但对交互式的了解甚少。在这项工作中，我们提出了一个NLG聊天机器人，处理自然语言查询，并通过图表和文本的组合提供见解。我们将其应用于营养，一个领域的沟通质量是至关重要的。通过众包评估，我们将聊天机器人的信息量与传统的静态饮食应用程序进行了比较。我们发现，对话上下文显着提高了用户对各种任务中饮食数据的理解，并且用户认为聊天机器人比传统应用程序更有用且使用更快。
2022-07-02 cs.AI cs.CL
Bridging Information Gaps with Comprehensive Answers: Improving the Diversity and Informativeness of Follow-Up Questions
University of British Columbia（不列颠哥伦比亚大学）；Vector Insitute（向量研究所）
本文提出一种信息鸿沟驱动的知识蒸馏流程，利用教师模型生成全面回答并识别缺失信息，扩充数据集十倍，微调小模型以提升后续问题的多样性与信息量，实验验证其有效性。
2025-09-23 cs.AI cs.CL cs.HC
Achieving Conversational Goals with Unsupervised Post-hoc Knowledge Injection
UC San Diego（加州大学圣地亚哥分校）；Carnegie Mellon University（卡内基梅隆大学）
当前神经对话模型的局限性在于，它们往往在生成的响应中缺乏特异性和信息性，这主要是由于依赖于覆盖有限种类的场景并传达有限知识的训练数据。缓解此问题的一种方法是在解码时从外部源提取相关知识并将其并入对话响应中。在本文中，我们提出了一种事后知识注入技术，我们首先检索一组不同的相关知识片段的条件下，从现有的对话模型的对话历史和初始响应。我们构建多个候选响应，使用基于梯度的解码方法将每个检索到的片段单独注入初始响应，然后使用无监督排名步骤选择最终响应。我们在目标导向和知识为基础的对话设置的实验表明，人类注释者判断所提出的方法的输出更吸引人，信息量更大，从以前的对话系统的响应相比。我们进一步表明，知识增强促进成功实现会话目标，在这两个实验设置。
2022-03-22 cs.CL
Beyond Transcripts: Iterative Peer-Editing with Audio Unlocks High-Quality Human Summaries of Conversational Speech
Johns Hopkins University（约翰霍普金斯大学）
该研究通过比较音频和转录本总结的质量，探讨了同行编辑在提升语音总结质量中的作用，并发现音频总结在信息量和压缩程度上不如转录本总结，但通过迭代同行编辑可以弥补这一差距。
2026-05-17 cs.CL
cTBLS: Augmenting Large Language Models with Conversational Tables
The Georgia Institute of Technology（佐治亚理工学院）
本文提出cTBLS架构，通过稠密表格检索、粗细粒度表格知识排序与GPT-3.5生成相结合，显著提升对话LLM的准确性与信息量。
2023-05-31 cs.AI cs.CL
Posterior-GAN: Towards Informative and Coherent Response Generation with Posterior Generative Adversarial Network
School of Computer Science & Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）；Data Science Lab, JD.com（京东数据科学实验室）
神经会话模型通过考虑对话历史来学习生成响应。这些模型通常在具有最大似然估计目标的查询-响应对上进行优化。然而，查询-响应元组是自然松耦合的，并且存在可以响应于给定查询的多个响应，这导致会话模型学习负担沉重。此外，当模型面对无意义的反应训练实例时，一般的迟钝反应问题甚至会恶化。直觉上，一个高质量的响应不仅响应给定的查询，而且还链接到未来的会话，在本文中，我们利用查询-响应-未来的话轮三元组，以诱导生成的响应，考虑给定的上下文和未来的会话。为了便于这些三元组的建模，我们进一步提出了一种新的基于编码器-解码器的生成对抗学习框架，后向生成对抗网络（Posterior-GAN），它由一个前向和一个后向生成网络组成，通过两个互补的评估视角来协同鼓励生成的响应是信息丰富和连贯的。实验结果表明，我们的方法有效地提高了自动和人工评价的信息量和一致性，这验证了考虑两个评估角度的优势。
2020-03-04 cs.CL
Ask to Be Sure: Informative Interactions for Confident Multi-Turn LLM Recommendation
Amazon（亚马逊）
该研究针对多轮LLM推荐中有效挖掘用户偏好的挑战，提出以推荐熵降为奖励的方法微调LLM，结合SFT与DPO在INSPIRED、ReDial数据集上提升了推荐质量与对话效率。
2026-08-21 cs.AI cs.CL cs.IR
Fine-grained Conversational Decoding via Isotropic and Proximal Search
City University of Hong Kong（香港城市大学）
针对对话解码未被充分探索的问题，提出各向同性与邻近搜索（IPS）方法，生成语义集中且保持信息量和区分度的回复，实验证明其优于现有解码策略。
2023-11-15 cs.CL
Maria: A Visual Experience Powered Conversational Agent
Sun Yat-sen University（中山大学）；Microsoft（微软）
可以说，会话智能体对物理世界的视觉感知是它们展现类人智能的关键途径。基于图像的对话因此被提出来应对这一挑战。现有的作品集中在探索多模态对话模型，地面上的对话一个给定的图像。在本文中，我们进一步研究图像为基础的对话在一个完全开放的设置下，没有配对的对话和图像是假设可用的。具体来说，我们提出了玛丽亚，神经会话代理的视觉世界的经验，从大规模的图像索引检索。玛丽亚由三个灵活的组成部分，即，文本到图像检索器、视觉概念检测器和基于视觉知识的响应生成器。检索器的目标是从图像索引中检索与对话相关的图像，而视觉概念检测器从图像中提取丰富的视觉知识。然后，响应生成器基于所提取的视觉知识和对话上下文来生成目标响应。大量的实验表明，Maria在自动度量和人工评估方面优于以前的最先进方法，并且可以生成具有物理世界视觉常识的信息响应。
2021-06-23 cs.AI cs.CL
Neural Generation Meets Real People: Building a Social, Informative Open-Domain Dialogue Agent
Stanford NLP（斯坦福大学自然语言处理组）
我们介绍Chirpy Cardinal，一个开放域的社交聊天机器人。为了既能提供信息又能进行对话，我们的机器人以一种真实的、情感智能的方式与用户聊天。通过将受控神经生成与脚手架手写对话相结合，我们让用户和机器人轮流驱动对话，产生一种引人入胜的社交流畅体验。在Alexa Prize Socialbot Grand Challenge的第四次迭代中，Chirpy Cardinal每天处理数千次对话，在9个机器人中排名第二，平均用户评分为3.58/5。
2023-01-17 cs.CL
Dialogue Chain-of-Thought Distillation for Commonsense-aware Conversational Agents
Yonsei University（延世大学）；University of Minnesota（明尼苏达大学）
本文提出知识蒸馏框架，利用LLMs作为不可靠教师并通过一致性过滤器选择性蒸馏一致依据，构建对话思维链推理器DOCTOR，为对话智能体提供高质量推理依据以显著提升回复质量。
2023-10-22 cs.AI cs.CL
Balancing Knowledge Delivery and Emotional Comfort in Healthcare Conversational Systems
National Taiwan University（国立台湾大学）
本研究针对医疗对话中知识传递与情感支持的平衡问题，通过改写真实医疗对话数据集生成带情绪的医患交互数据，用多种微调方法优化大模型，在保留知识回答准确性的同时显著提升了其情感回复能力。
2025-06-16 cs.AI cs.CL
Adaptive Retrieval-Augmented Generation for Conversational Systems
University of Sheffield（谢菲尔德大学）；University of Liverpool（利物浦大学）；University of Aberdeen（阿伯丁大学）；University College London（伦敦大学学院）
本文提出RAGate门控模型，通过建模对话上下文自适应判断每轮回复是否需要检索增强生成，实验证明其能提升回复质量与生成置信度。
2024-07-31 cs.CL cs.IR
Knowledge-Grounded Response Generation with Deep Attentional Latent-Variable Model
National Taiwan University（台湾大学）
端到端的对话生成已经取得了可喜的成果，而无需使用针对每个任务和语料库的手工特征和属性。然而，这种方法的致命缺点之一是它们无法生成信息性话语，因此它限制了它们在一些现实世界的会话应用中的使用。本文尝试用一个变分生成模型来生成多样化和信息丰富的回答，该模型包含一个联合的注意力机制，它同时对来自对话语境和额外知识的信息进行调节。
2019-03-23 cs.CL
Deep Conversational Recommender in Travel
Tsinghua University（清华大学）；National University of Singapore（新加坡国立大学）
当前往外国旅行时，我们经常迫切需要一个智能会话代理，为我们的各种查询提供即时和信息性的响应。然而，建立这样一个旅行社是不平凡的。首先，旅行自然涉及几个子任务，如酒店预订，餐厅推荐和出租车预订等，这就需要全局主题控制。其次，代理应考虑各种限制，如价格或距离由用户推荐一个合适的地点。在本文中，我们提出了一个深度会话推荐（DCR），并应用于旅游。它使用神经潜在主题组件增强了序列到序列（seq2seq）模型，以更好地指导响应生成并使训练更容易。为了考虑场地推荐的各种约束，我们利用基于图卷积网络（GCN）的方法来捕获不同场地之间的关系以及场地和对话上下文之间的匹配。对于响应生成，我们结合了基于主题的组件与指针网络的想法，这使我们能够有效地将推荐结果。我们进行了广泛的评估多轮任务导向的对话数据集在旅游领域和结果表明，我们的方法实现了优越的性能相比，广泛的基线。
2019-06-25 cs.AI cs.CL cs.IR
Discovering conversational topics and emotions associated with Demonetization tweets in India
Govt. College of Engineering & Ceramic Technology（政府工程与陶瓷技术学院）；Indian Institute of Management Calcutta（印度管理学院加尔各答分校）
社交媒体平台包含大量信息，为我们提供了探索隐藏模式或未知相关性的机会，并了解人们对他们所讨论的内容的满意度。作为一个展示，在本文中，我们总结了与最近所有Rs的非货币化相关的Twitter消息的数据集。500卢比印度的1000个笔记，并从Twitter的数据中探索见解。我们提出的系统自动提取流行的潜在主题的对话中讨论的废钞通过潜在的Dirichlet分配（LDA）为基础的主题模型在Twitter上，还确定了相关的主题在不同的类别。此外，它还通过情绪分析器发现人们通过与正在考虑的事件相关的推文表达的意见。该系统还采用直观和信息可视化来显示未发现的洞察力。此外，我们使用的评价措施，归一化互信息（NMI），选择最好的LDA模型。LDA结果表明，该工具可以有效地提取讨论主题，并将其汇总，以供进一步的人工分析。
2017-11-11 cs.CL
Knowledge Graphs and Pre-trained Language Models enhanced Representation Learning for Conversational Recommender Systems
Griffith University（格里菲斯大学）；School of Information and Communication Technology（信息与通信技术学院）
本文提出KERL框架，融合知识图谱与预训练语言模型增强对话推荐系统中的实体表示，并构建WikiMKG知识图谱，在推荐和回复生成任务上达到最优性能。
2024-05-01 cs.AI cs.CL cs.IR
A Knowledge-Grounded Neural Conversation Model
Microsoft Research（微软研究院）；Information Sciences Institute, USC（南加州大学信息科学研究所）
神经网络模型能够生成非常自然的对话交互。尽管如此，这些模型还没有证明它们可以以事实信息或实体为基础的意见的形式纳入内容，使它们能够在更多面向任务的会话应用程序中服务。本文提出了一种新颖的、完全数据驱动的、以知识为基础的神经会话模型，旨在产生更满意的响应，而无需填充槽。我们推广了广泛使用的Seq2Seq方法，通过对会话历史和外部“事实”的条件反应，使该模型在开放域环境中具有通用性和适用性。我们的方法在竞争性Seq2Seq基线上产生了显着的改进。人类法官发现我们的输出信息量更大。
2018-11-15 cs.CL
Learning Natural Conversational Behavior in Tandem Speech-to-Speech Models with Randomized Guidance
Sakana AI
针对串联语音到语音模型训练中引导数据缺失问题，提出随机中间引导方法，直接从语料库采样引导，提升响应质量与自然对话行为，优于基线模型。
2026-09-28 cs.CL eess.AS
Multimodal Dialogue Response Generation
Microsoft STC Asia（微软亚洲互联网工程院）；Microsoft Research Asia（微软亚洲研究院）
图像响应已被认为是智能会话代理的重要能力。然而现有的工作只关注于基于检索的多模态对话模型的研究，而忽略了生成方法的研究。为了填补这一空白，我们首先提出了一个多模态对话生成模型，该模型以对话历史为输入，然后生成文本序列或图像作为响应。学习这样的模型通常需要包含文本和图像的多模态对话，这是很难获得的。出于实践中的挑战，我们认为多模态对话生成的自然假设下，只有有限的训练样本。在这样一个低资源的设置，我们设计了一种新的会话代理，Divter，以隔离参数，依赖于多模态对话从整个生成模型。通过这种方法，可以分别从大量的纯文本对话和文本图像对中学习模型的主要部分，然后利用有限的训练样本来拟合模型的全部参数。大量的实验表明，我们的方法在自动和人工评估方面都取得了最先进的结果，并且可以生成信息丰富的文本和高分辨率的图像响应。
2022-03-29 cs.AI cs.CL cs.CV
RefNet: A Reference-aware Network for Background Based Conversation
Shandong University（山东大学）；University of Amsterdam（阿姆斯特丹大学）
现有的会话系统倾向于生成通用的响应。最近，已经引入了基于背景的对话（BBCs）来解决这个问题。这里，生成的响应基于一些背景信息。针对BBC提出的方法能够生成更多信息的响应，它们要么不能生成自然响应，要么难以定位正确的背景信息。在本文中，我们提出了一个参考感知网络（RefNet）来解决这两个问题。与现有的逐个令牌生成响应的方法不同，RefNet结合了一种新颖的参考解码器，该解码器提供了一种替代方法来学习直接引用语义单元（例如，包含完整语义信息的跨度）。实验结果表明，RefNet在自动和人工评估方面都明显优于最先进的方法，这表明RefNet可以生成更合适和更人性化的响应。
2019-11-23 cs.AI cs.CL cs.LG
Contextual Candor: Enhancing LLM Trustworthiness Through Hierarchical Unanswerability Detection
EDP University of Puerto Rico: San Sebastian（EDP巴尔的摩大学：圣塞巴斯蒂安）
本文提出强化不可回答性学习（RUL）框架，通过分层标签数据集ECA与RLHF训练，使大语言模型能准确检测不可回答问题并生成恰当拒绝回复，从而提升对话AI的可信度与有用性。
2025-06-01 cs.CL
Conversing by Reading: Contentful Neural Conversation with On-demand Machine Reading
University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
虽然神经会话模型在学习如何产生流利的反应方面是有效的，但它们的主要挑战在于知道该说什么才能使会话内容丰富且不空洞。我们提出了一种新的端到端的方法来实现内容丰富的神经会话，该方法联合建模响应生成和按需机器阅读。其核心思想是为会话模型提供动态的相关长文本作为外部知识的来源。该模型执行问答式的阅读理解对这个文本在每个会话的转折，从而允许更集中的外部知识的整合比以前的方法。为了支持对基于知识的会话的进一步研究，我们引入了一个新的基于外部网页的大规模会话数据集（2.8M回合，7.4M句子的接地）。人工评估和自动化指标都表明，与以前的各种方法相比，我们的方法会产生更有内容的响应，从而提高了所生成输出的信息量和多样性。
2019-06-07 cs.AI cs.CL cs.LG
Response Ranking with Deep Matching Networks and External Knowledge in Information-seeking Conversation Systems
Center for Intelligent Information Retrieval, University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校智能信息检索中心）；Alibaba Group（阿里巴巴集团）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Dept. of Computer Science, Rutgers University（罗格斯大学计算机科学系）
具有基于文本或基于语音的会话界面的智能个人助理系统在世界各地变得越来越流行。基于检索的会话模型具有返回流畅和信息丰富的响应的优点。现有的研究多集中在开放领域的“闲聊”会话或面向任务/事务的会话上。需要对寻求信息的对话进行更多的研究。在当前的会话模型中，也缺乏对超出对话话语的外部知识的建模。在本文中，我们提出了一个基于深度神经匹配网络的学习框架，该框架利用外部知识在信息搜索会话系统中进行响应排名。我们通过伪相关反馈和QA对应知识蒸馏将外部知识纳入深度神经模型。在三个信息搜索会话数据集上进行的大量实验表明，我们的方法优于各种基线方法，包括几种深度文本匹配模型和最先进的多轮会话响应选择方法。我们还对不同的响应类型，模型变化和排名示例进行分析。我们的模型和研究结果为如何利用外部知识与深度神经模型进行响应选择提供了新的见解，并对下一代信息寻求对话系统的设计产生了影响。
2018-05-09 cs.CL cs.IR
