EvalConvoLearn: An Open-Source Framework for Evaluating Grounded Learner Simulations in Tutoring Conversations
EvalConvoLearn是评估辅导对话中学习者模拟的开源框架,从学习行为与对话质量两个维度开展评估,验证了其在辅导对话数据集上的有效性并公开了代码。
2026-08-11 cs.CL cs.HC
Intent-Driven Semantic ID Generation for Grounded Conversational News Recommendation
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区);Platform and Content Group, Tencent(腾讯平台与内容部)
本文提出意图驱动的语义ID生成方法,通过多任务对齐和GPT-4链式推理蒸馏,实现意图到层级SID前缀的映射,提升新闻推荐的 grounded 性和冷启动用户推荐效果。
2026-05-08 cs.CL
Factors That Support Grounded Responses in LLM Conversations: A Rapid Review
(June 2025)((2025年6月))
本文通过快速回顾识别了支持LLM对话中基础响应的因素,重点分析了推理时间、训练后及强化学习方法,旨在提升LLM响应的准确性和可靠性。
2025-11-24 cs.AI cs.CL
Plan-Grounded Large Language Models for Dual Goal Conversational Settings
NOVA School of Science and Technology(NOVA科学与技术学院);NOVA LINCS
针对双目标混合主动对话,提出PlanLLM模型,将对话基于程序性计划并兼顾用户指令,实验显示比强基线提升2.1倍且泛化良好。
2024-02-01 cs.AI cs.CL
Context-Aware LLM Translation System Using Conversation Summarization and Dialogue History
PwC Korea(普华永道韩国);Yonsei University(延世大学)
本文提出一种上下文感知的大语言模型翻译系统,通过结合最近对话原始数据与早期对话摘要来管理上下文长度,显著提升英韩客户支持对话翻译的准确性与连贯性。
2024-10-22 cs.CL
VCB Bench: An Evaluation Benchmark for Audio-Grounded Large Language Model Conversational Agents
School of Artificial Intelligence, Wuhan University(武汉大学人工智能学院);Tencent AI Lab(腾讯AI实验室)
针对现有音频语言模型基准局限,提出VCB Bench,基于真实人类语音构建,从指令跟随、知识理解、鲁棒性三个角度评估,揭示性能差距并指明改进方向,提供评估框架。
2026-07-07 cs.CL cs.SD
Persona-Grounded Safety Evaluation of AI Companions in Multi-Turn Conversations
Seattle University(西雅图大学)
本文提出首个端到端可扩展框架,用于可控模拟和评估AI陪伴应用的多轮交互安全性,通过构建角色、生成场景、模拟对话及评估危害,分析Replika对高风险用户群体的响应。
2026-04-30 cs.CL
AgenticAI-DialogGen: Topic-Guided Conversation Generation for Fine-Tuning and Evaluating Short- and Long-Term Memories of LLMs
School of Computing, Macquarie University(麦考瑞大学计算机学院)
本文提出AgenticAI-DialogGen框架,通过生成基于角色和主题的对话来微调和评估LLM的短期和长期记忆,引入了TopicGuidedChat数据集以提升对话质量和模型性能。
2026-04-14 cs.CL cs.IR
OMIND: Framework for Knowledge Grounded Finetuning and Multi-Turn Dialogue Benchmark for Mental Health LLMs
Indian Institute of Technology Bombay(印度理工学院孟买分校)
本文提出OMIND框架,通过结构化知识检索、模型剪枝和人工审核生成高质量多任务SFT数据集,并引入oMind-Chat多轮对话基准,验证了其在核心能力和对话任务上的优越性能。
2026-03-26 cs.CL
A Controllable Model of Grounded Response Generation
University of Washington(华盛顿大学);Microsoft Research(微软研究院);Allen Institute for AI(艾伦人工智能研究所)
当前的端到端神经会话模型本质上缺乏在响应生成过程中施加语义控制的灵活性,通常导致无趣的响应。仅仅提高信息量的尝试是以牺牲事实的准确性为代价的,预先训练的语言模型倾向于“幻觉”事实就是证明。虽然可以通过获取背景知识来缓解这一问题,但无法保证生成的答复具有相关性和信息量。我们提出了一个框架,我们称之为可控接地响应生成(CGRG),其中词汇控制短语由用户提供或自动提取的控制短语预测器从对话上下文和接地知识。定量和定性结果表明,使用该框架,基于Transformer的模型具有新的归纳注意力机制,在类似对话的Reddit数据集上训练,优于强大的生成基线。
2021-06-14 cs.CL
A Large-Scale Multi-Dimensional Empirical Study of LLMs for Conversation Summarization
CCSE, Beihang University(北京航空航天大学CCSE);MAIS, CASIA(中国科学院自动化研究所MAIS);Fanyu AI Laboratory(帆禹AI实验室)
提出OmniCSEval基准,包含1800个跨六场景的对话,评估28个LLM在对话摘要中的完整性、简洁性和忠实性,揭示推理能力与模型规模的影响。
2026-08-04 cs.CL
Do Personalized LLMs Need the Whole Conversation? Matching the Full History with Only 5% of Its Text via Relevance-Filtered Context
Keio University(庆应义塾大学)
该研究针对个性化助手传递完整对话历史成本高的问题,提出通过相关性过滤的句子级检索构建仅含5%文本的上下文,在PersonaMem-v2数据集上达到完整历史的准确率,且优于LLM摘要,为优化LLM上下文选择提供了方向。
2026-10-14 cs.CL
KnowPrefix-Tuning: A Two-Stage Prefix-Tuning Framework for Knowledge-Grounded Dialogue Generation
Beihang University(北京航空航天大学);Tencent Cloud AI(腾讯云人工智能)
提出KnowPrefix-Tuning两阶段框架,通过向轻量级前缀注入先验知识绕过检索,并采用交互式重参数化机制,在知识驱动对话生成中实现优于微调且媲美检索基线的性能,推理速度提升3倍。
2023-06-27 cs.CL
KPT: Keyword-guided Pre-training for Grounded Dialog Generation
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
将外部知识引入响应生成过程对于构建更有用和可靠的对话代理至关重要。然而,收集基于知识的对话通常是昂贵的,需要一个更好的预训练模型来生成基于知识的对话,该模型可以很好地概括w.r.t.不同类型的知识。在这项工作中,我们提出了KPT(关键词引导的预训练),一种新的自我监督的预训练方法,用于生成接地对话,而不依赖于额外的知识注释。具体来说,我们使用预先训练的语言模型来提取对话中最不确定的标记作为关键字。通过这些关键词,我们构建了两种知识,并预训练了一个基于知识的响应生成模型,旨在处理两种不同的场景:(1)知识应该是忠实的基础;(2)它可以被选择性地使用。对于前者,基础知识由从响应中提取的关键字组成。对于后者,基础知识被额外地用从同一对话中的其他话语中提取的关键字来增强。由于知识是从对话本身中提取的,因此KPT可以很容易地在大量和各种对话数据上执行。我们考虑了三个数据源(开放域,面向任务,会话QA),共有250万个对话。我们对各种Few-Shot知识基础生成任务进行了广泛的实验,包括对话行为,知识图谱,人物描述和维基百科段落。我们全面的实验和分析表明,KPT始终优于国家的最先进的方法,这些任务与不同的接地知识。
2022-12-04 cs.CL
LawCompass: Navigating from Legal QA to Multi-Agent Deep Research with Grounded Evidence
Anhui University(安徽大学);Tsinghua University(清华大学)
LawCompass是一个基于证据的法律助手,通过法律问答、专业检索和深度研究三种功能,实现从标准问答到多智能体深度研究的转变,并保持引用链接以增强可信度。
2026-10-02 cs.CL
PedagoSense: A Pedology Grounded LLM System for Pedagogical Strategy Detection and Contextual Response Generation in Learning Dialogues
Al Andlus University(阿尔安多斯大学);Ajman University(阿治曼大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
PedagoSense通过结合两阶段策略分类器和大语言模型,实现了学习对话中教学策略的检测与上下文响应生成,提升教育技术的适应性。
2026-02-01 cs.CL
TalkDep: Clinically Grounded LLM Personas for Conversation-Centric Depression Screening
University of Sheffield(谢菲尔德大学);University of A Coruña(阿罗纳大学)
针对抑郁症诊断训练数据不足,提出临床医生参与的LLM患者模拟流水线TalkDep,生成符合诊断标准的多样化症状,经临床验证以提升自动诊断系统的鲁棒性。
2025-08-06 cs.AI cs.CL
Culturally-Aware Conversations: A Framework & Benchmark for LLMs
University of Pennsylvania(宾夕法尼亚大学)
针对现有基准与LLM跨文化交互实际挑战错位的问题,提出基于社会文化理论的文化感知对话评估框架与基准,并引入对话框架等新评估要求,实验表明顶级LLM在对话场景中仍难以实现文化适应。
2025-10-13 cs.CL
A Knowledge-Grounded Dialog System Based on Pre-Trained Language Models
Hithink RoyalFlush Information Network Co.,Ltd.(同花顺信息网络股份有限公司)
我们提出了一个知识为基础的对话系统开发的第九届对话系统技术挑战赛(DSTC 9)轨道1 -超越域API:面向任务的会话建模与非结构化知识访问。我们利用迁移学习与现有的语言模型来完成这个挑战轨道中的任务。具体来说,我们将任务划分为四个子任务,并在每个子任务上微调了几个Transformer模型。我们做了额外的改变,在性能和效率上都有所提高,包括将模型与传统的实体匹配技术相结合,以及在语言模型的输出层添加指针网络。
2021-06-28 cs.CL
SimInter: Evidence-Grounded User Simulation with Interview-Based Profile Enrichment for Conversational Recommender Systems
University of Tehran(德黑兰大学);Institute for Research in Fundamental Sciences (IPM)(基础科学研究所(IPM))
本研究提出SimInter,一种基于LLM智能体合成访谈的用户模拟流水线,用于丰富对话式推荐系统的用户画像,在电影推荐实验中显著提升了偏好维度多样性,且人工评估验证了其有效性。
2026-10-14 cs.AI cs.CL cs.IR
Measuring What Matters!! Assessing Therapeutic Principles in Mental-Health Conversation
IIIT Delhi(印度德里理工学院);MBZUAI(马尔科姆·比尔人工智能研究所);Wysa
本文提出CARE框架,通过多阶段方法评估AI生成的治疗回应是否符合临床标准,实验显示其在F-1分数上优于基线模型,展示了结构化推理和上下文建模的重要性。
2026-04-14 cs.CL
NC-Bench: An LLM Benchmark for Evaluating Conversational Competence
Independent Researcher(独立研究者);IBM Research(IBM研究院)
NC-Bench提出了一种评估大型语言模型对话能力的基准,通过三种不同集合测试模型在不同对话任务中的表现,发现模型在基础回答任务表现较好,但在复杂多轮请求上面临挑战。
2026-09-29 cs.AI cs.CL
TANet: Thread-Aware Pretraining for Abstractive Conversational Summarization
Beihang University(北京航空航天大学);Meituan(美团)
虽然预训练的语言模型(PLM)已经取得了巨大的成功,并成为自然语言处理的一个里程碑,抽象的会话摘要仍然是一个具有挑战性的,但研究较少的任务。困难在于两个方面。一是缺乏大规模的会话摘要数据。另一个问题是,将现有的预训练模型应用于这项任务是很棘手的,因为对话中的结构依赖及其非正式表达等,在这项工作中,我们首先基于Reddit社区中的多人讨论构建了一个名为RCS的大规模(11M)预训练数据集。然后,我们提出了TANet,一个线程感知的基于transformer的网络。与现有的将对话视为句子序列的预训练模型不同,我们认为话语之间固有的上下文依赖性在理解整个对话中起着至关重要的作用,因此提出了两种新技术来将结构信息纳入我们的模型。第一种是线索感知注意力,它是通过考虑话语内的上下文依赖性来计算的。其次,我们应用线索预测损失来预测话语之间的关系。我们在四个真实对话的数据集上评估了我们的模型,这些数据集涵盖了会议记录、客户服务记录和论坛线程的类型。实验结果表明,TANET实现了一个新的国家的最先进的自动评估和人类的判断。
2022-04-09 cs.CL
ChatGPT as your Personal Data Scientist
Auburn University(奥本大学)
本文提出基于ChatGPT的对话式数据科学框架,通过自然语言接口连接用户与ML模型,围绕四个对话状态实现端到端AutoML任务,验证了LLM解决复杂任务的能力并揭示其改进空间。
2023-05-23 cs.CL
Real-time Speech Summarization for Medical Conversations
University of Toronto(多伦多大学);University Health Network(大学健康网络);College of William and Mary(威廉玛丽学院);University of Cincinnati(辛辛那提大学);Indiana State University(印第安纳州立大学);FPT Software AI Center(FPT软件人工智能中心)
本研究提出了首个可部署的实时医疗对话语音摘要系统,并发布了首个医疗对话语音摘要数据集VietMed-Sum,同时利用LLM与人工协同创建摘要并提供了基线结果。
2025-04-04 cs.AI cs.CL cs.LG
HEMA : A Hippocampus-Inspired Extended Memory Architecture for Long-Context AI Conversations
HEMA提出一种受海马体启发的双记忆架构,结合紧凑摘要与向量存储,使6B参数模型在超300轮对话中保持连贯,事实回忆率从41%提升至87%,显著优于传统方法。
2025-04-23 cs.AI cs.CL
AInsight: Augmenting Expert Decision-Making with On-the-Fly Insights Grounded in Historical Data
Cheriton School of Computer Science(切里顿计算机科学学院);University of Waterloo(滑铁卢大学)
本文提出AInsight系统,通过基于检索的LLM智能体流水线实时监听对话并从历史数据中生成洞察,以医患互动为例验证了其在增强专家实时决策中的有效性与挑战。
2025-07-12 cs.AI cs.CL cs.HC
Automated test generation to evaluate tool-augmented LLMs as conversational AI agents
Zendesk
针对工具增强型LLM作为对话式AI智能体评估难的问题,提出带中间图约束的自动化测试生成流水线及客服场景数据集ALMITA,验证了现有模型在完整对话处理上的不足,方法可跨领域通用。
2024-10-10 cs.AI cs.CL cs.LG
State-Grounded Multi-Agent Synthetic Data Generation for Tool-Augmented LLMs
PayPal AI
提出StateGen平台,通过四角色LLM循环和状态管理器生成多轮、工具接地的高质量训练对话,消除工具调用幻觉,支持层次化多智能体设置。
2026-06-16 cs.AI cs.CL
SEADialogues: A Multilingual Culturally Grounded Multi-turn Dialogue Dataset on Southeast Asian Languages
MBZUAI;Mekari;Universitas Indonesia(印度尼西亚大学);Detik Network(Detik网络);AI Singapore(新加坡AI);Chulalongkorn University(朱拉隆功大学);Capital One
针对现有闲聊数据集忽略文化细微差异的问题,研究推出SEADialogues,一个涵盖东南亚六国八种低资源语言、包含角色属性与文化话题的多轮对话数据集,以推动文化感知且以人为本的大型语言模型研究。
2025-08-09 cs.AI cs.CL
Knowledge-Grounded Conversational Data Augmentation with Generative Conversational Networks
Amazon(亚马逊)
虽然丰富的开放域文本数据通常是可用的,并且可能包括有趣的现象(幽默,讽刺,同情等)。大多数是为语言处理任务设计的,并且通常是非会话格式。在这项工作中,我们采取了一个步骤自动生成会话数据使用生成会话网络,旨在受益于可用的语言和知识数据的广度,并训练开放域社会会话代理。我们使用自动指标和人工评估器评估我们在话题聊天数据集上有知识和没有知识的对话上的方法。我们的研究结果表明,对于没有知识基础的对话,GCN可以从种子数据中概括出来,产生相关性较低但更具吸引力的新对话,对于知识基础的对话,它可以产生更多的以知识为中心,流畅和吸引人的对话。具体来说,我们表明,对于具有10%种子数据的开放域对话,我们的方法的性能接近使用100%数据的基线,而对于基于知识的对话,它只使用1%的数据,就人类对流畅性,流畅性和相关性的评价而言,达到了相同的效果。
2022-07-22 cs.CL
You need to MIMIC to get FAME: Solving Meeting Transcript Scarcity with a Multi-Agent Conversations
University of Göttingen(哥廷根大学)
为解决会议摘要高质量数据受限问题,提出多智能体会议合成框架 MIMIC 生成 FAME 数据集,并辅以基于心理学的评估框架,验证其能近似真实会议条件,可作为可扩展的会议数据代理。
2025-05-30 cs.AI cs.CL
A Dataset for Document Grounded Conversations
Carnegie Mellon University(卡内基梅隆大学)
本文介绍了一个基于文档的文本会话数据集。我们将“文档基础对话”定义为关于指定文档内容的对话。在这个数据集中,指定的文档是关于流行电影的维基百科文章。该数据集包含4112个对话,平均每个对话有21.43个回合。这使得该数据集不仅可以在生成响应时提供相关的聊天历史记录,还可以提供模型可以使用的信息源。我们描述了两个神经架构,提供基准性能的任务生成下一个响应。我们还评估了我们的参与度和流畅度模型,发现文档中的信息有助于生成更有吸引力和流畅的响应。
2018-09-19 cs.CL
Attacks, Defenses and Evaluations for LLM Conversation Safety: A Survey
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本综述全面梳理了LLM对话安全领域的攻击、防御与评估研究,旨在提供结构化总结以增进理解并推动后续探索。
2024-03-27 cs.AI cs.CL cs.CY
A Knowledge-Grounded Neural Conversation Model
Microsoft Research(微软研究院);Information Sciences Institute, USC(南加州大学信息科学研究所)
神经网络模型能够生成非常自然的对话交互。尽管如此,这些模型还没有证明它们可以以事实信息或实体为基础的意见的形式纳入内容,使它们能够在更多面向任务的会话应用程序中服务。本文提出了一种新颖的、完全数据驱动的、以知识为基础的神经会话模型,旨在产生更满意的响应,而无需填充槽。我们推广了广泛使用的Seq2Seq方法,通过对会话历史和外部“事实”的条件反应,使该模型在开放域环境中具有通用性和适用性。我们的方法在竞争性Seq2Seq基线上产生了显着的改进。人类法官发现我们的输出信息量更大。
2018-11-15 cs.CL
Incremental Transformer with Deliberation Decoder for Document Grounded Conversations
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Northeastern University(东北大学);Huazhong University of Science and Technology(华中科技大学);Tencent Inc(腾讯公司)
文档固定对话是一项在聊天时生成对话响应的任务,内容是给定文档。显然,文档知识在基于文档的对话中起着至关重要的作用,而现有的对话模型并没有充分利用这种知识。在本文中,我们提出了一种新的基于transformer的多轮文档接地对话的架构。特别是,我们设计了一个增量Transformer编码多轮话语以及相关文件中的知识。受人类认知过程的启发,我们设计了一个两遍解码器(审议解码器),以提高上下文一致性和知识的正确性。我们对真实世界文档接地数据集的实证研究证明,我们的模型生成的响应在上下文一致性和知识相关性方面都显着优于竞争基线。
2019-07-31 cs.CL
ConVAWG: A Retrieval-Grounded Framework for Controlled Synthetic Dialogue Generation in Violence Against Women and Girls
University of Sheffield(谢菲尔德大学);Forensic Capability Network(法医能力网络);University of Leeds(利兹大学);University of Warwick(华威大学)
本研究针对VAWG场景建模的空白,提出检索驱动框架ConVAWG,生成符合CPS标准的合成VAWG多轮对话,发布6000余个对话事件,经多类评估验证其质量与领域保真度。
2026-08-12 cs.AI cs.CL cs.LG
When2Speak: A Dataset for Temporal Participation and Turn-Taking in Multi-Party Conversations for Large Language Models
Pratt School of Engineering(普拉特工程学院);Duke University(杜克大学)
本文提出When2Speak数据集,通过四阶段生成流程学习群体互动中的发言时机,通过强化学习优化模型,提升多党对话中的发言准确性与自然度。
2026-05-07 cs.AI cs.CL
Flexible End-to-End Dialogue System for Knowledge Grounded Conversation
Hong Kong University of Science and Technology(香港科技大学)
在以知识为基础的会话中,领域知识在音乐这样的特殊领域中起着重要的作用。基于知识的会话的应答可能包含多个应答实体或根本不包含应答实体。虽然现有的生成式问答(QA)系统可以应用于基于知识的会话,他们要么在响应中最多有一个实体,要么不能处理词汇表外的实体。我们提出了一个完全数据驱动的生成式对话系统GenDS,它能够根据输入消息和相关知识库(KB)生成响应。为了生成任意数量的答案实体,即使这些实体从来没有出现在训练集中,我们设计了一个动态的知识查询器,选择不同的答案实体在不同的位置在一个单一的响应,根据不同的本地上下文。它不依赖于实体的表示,使我们的模型能够处理词汇表外的实体。我们收集了一个人与人的对话数据(ConversMusic)与知识注释。在CoversMusic和一个公共问答数据集上对所提出的方法进行了评估。我们提出的GenDS系统在BLEU,实体准确性,实体召回和人类评估方面明显优于基线方法。此外,实验还表明,即使在小数据集上,GenDS也能更好地工作。
2017-09-13 cs.CL
Affective Visual Dialog: A Large-Scale Benchmark for Emotional Reasoning Based on Visually Grounded Conversations
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);HealthUnity;Google DeepMind(谷歌DeepMind)
本文提出情感视觉对话任务及包含50K个10轮视觉对话的AffectVisDial数据集,覆盖问答、情感预测和情感解释生成,并验证了基线模型的情感推理能力。
2024-08-27 cs.CL
Spoken Conversational Agents with Large Language Models
NVIDIA Research(NVIDIA研究)
本文探讨了如何通过大语言模型构建语音对话代理,涵盖从级联到端到端系统的路径,以及跨模态对齐和联合训练等关键技术,同时讨论了隐私、安全和评估中的开放问题。
2025-12-02 cs.CL cs.MA cs.NE
CHARP: Conversation History AwaReness Probing for Knowledge-grounded Dialogue Systems
Université de Montréal(蒙特利尔大学);RALI(RALI(机器智能学习与应用研究组))
本文提出 CHARP 诊断测试集,用于评估知识 grounded 对话系统的幻觉与对话历史遵从性,发现现有模型因忽略对话历史而表现不佳,并指出 FaithDial 评估的不足。
2024-05-24 cs.CL
NewsDialogues: Towards Proactive News Grounded Conversation
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Beijing Institute of Technology(北京理工大学);Peking University(北京大学)
本文提出主动式新闻 grounding 对话任务,构建含1K对话的 NewsDialogues 中文数据集,并设计 Predict-Generate-Rank 方法,通过知识预测、回复生成与排序缓解曝光偏差,实验验证其有效性。
2023-08-12 cs.CL
Image Chat: Engaging Grounded Conversations
Facebook AI Research(脸书人工智能研究院)
为了实现机器能够与人类进行对话的长期目标,我们的模型应该吸引他们说话伙伴的兴趣。基于图像的通信,其中基于给定的照片进行对话,是自然吸引人类的设置(Hu等人,2014年)。在这项工作中,我们研究了大规模的架构和数据集,以实现这一目标。我们使用最先进的图像和文本表示测试了一组神经架构,考虑了各种融合组件的方法。为了测试这些模型,我们收集了一个接地的人与人对话的数据集,其中要求说话者在给定的情感情绪或风格下扮演角色,因为使用这些特征也是表达的关键因素(Guo et al.,2019年)。我们的数据集Image-Chat由202 k个对话和202 k个图像组成,使用了215种可能的风格特征。自动指标和人工参与度评估显示了我们方法的有效性;特别是,我们在现有的IGC任务上获得了最先进的性能,并且我们的最佳性能模型在图像聊天测试集中几乎与人类相当(首选47.7%的时间)。
2020-04-29 cs.CL
Content Selection Network for Document-grounded Retrieval-based Chatbots
Université de Montréal(蒙特利尔大学);Renmin University of China(中国人民大学)
在文档中建立人机对话是提高基于检索的聊天机器人性能的有效方法。然而,只有部分文档内容可能与帮助在一轮中选择适当的响应相关。因此,选择与当前会话上下文相关的文档内容部分至关重要。在本文中,我们提出了一个文档内容选择网络(CSN)执行显式选择相关的文档内容,并过滤掉不相关的部分。我们在两个公共文档为基础的会话数据集上的实验表明,CSN可以有效地帮助选择相关的文档内容的会话上下文,它产生更好的结果比国家的最先进的方法。我们的代码和数据集可以在https://github.com/DaoD/CSN上找到。
2021-01-21 cs.CL
Eliciting Knowledge from Large Pre-Trained Models for Unsupervised Knowledge-Grounded Conversation
The Chinese University of Hong Kong(香港中文大学)
大规模预训练的最新进展为大型模型提供了从原始文本中学习知识的潜力。因此,很自然地会问,是否有可能利用这些大型模型作为下游任务的知识库。在这项工作中,我们在无监督的知识基础对话中回答了上述问题。我们探索各种方法,最好地从大型模型中获取知识。我们的人类研究表明,尽管存在幻觉,但大型模型具有独特的优势,能够输出常识并总结无法从搜索引擎直接检索的事实。为了更好地利用这些产生的知识在对话生成,我们把产生的知识作为一个嘈杂的知识源,并提出了基于后验的重新加权以及嘈杂的训练策略。两个基准的实证结果显示出优于国家的最先进的方法。
2022-11-08 cs.CL
doc2dial: A Goal-Oriented Document-Grounded Dialogue Dataset
IBM Research AI(IBM研究AI)
我们介绍doc2dial,一个新的基于相关文档的面向目标的对话数据集。受作者如何撰写文档以指导最终用户的启发,我们首先构建了基于内容元素的对话流,这些内容元素对应于跨文本部分的高层关系以及部分内话语单元之间的低层关系。然后,我们将这些对话流呈现给人群贡献者,以创建会话语句。该数据集包括大约4800个带注释的对话,平均14个回合,来自四个领域的480多个文档。与之前基于文档的对话数据集相比,该数据集涵盖了信息寻求对话中的各种对话场景。为了评估数据集的多功能性,我们引入了多个对话建模任务,并提出了基线方法。
2020-11-18 cs.CL
KGConv, a Conversational Corpus grounded in Wikidata
Orange Innovation(奥兰治创新公司);CNRS(法国国家科学研究中心);LORIA(洛林信息学及其应用研究实验室)
提出KGConv,一个基于Wikidata的71k对话语料库,每个问答对基于事实,平均8.6个问题,提供多问题变体,并给出对话式问题生成基线,支持多种生成与分析任务。
2023-08-29 cs.AI cs.CL
Topical-Chat: Towards Knowledge-Grounded Open-Domain Conversations
Amazon Alexa AI(亚马逊Alexa人工智能部门)
针对现有知识型对话数据集程式化、话题覆盖不足的问题,研究者推出含8类话题、无明确角色的Topical-Chat人-人对话数据集,并训练基准模型开展评估,助力开放域对话AI研究。
2023-08-23 cs.AI cs.CL
Sequential Topic Selection Model with Latent Variable for Topic-Grounded Dialogue
Huazhong University of Science and Technology(华中科技大学);Pingan Property & Casualty Research(平安财产保险研究院);Beijing Institute of Technology(北京理工大学)
近年来,基于话题的对话系统因其能够根据历史语境和给定的话题序列预测下一个话题从而获得更好的响应而受到广泛关注。然而,几乎所有现有的主题预测解决方案都只关注当前会话和相应的主题序列来预测下一个会话主题,而不利用可能包含与当前会话相关的主题转换的其他主题引导会话。为了解决这个问题,在本文中,我们提出了一种新的方法,命名为顺序全局主题注意力(SGTA),利用主题转换在所有的对话中,以一种微妙的方式,更好地建模后响应主题转换,并指导响应生成当前的对话。具体来说,我们引入了一个潜在空间建模为一个多元偏态分布与混合核函数,灵活地整合全球层面的信息与序列层面的信息,并预测的基础上的分布抽样结果的主题。我们还利用主题感知的先验-后验方法对预测主题进行二次选择,以优化响应生成任务。大量的实验表明,我们的模型在预测和生成任务上优于竞争基线。
2022-10-17 cs.CL
Grounded Conversation Generation as Guided Traverses in Commonsense Knowledge Graphs
Brown University(布朗大学);Microsoft Research AI(微软人工智能研究院);Tsinghua University(清华大学)
人类的对话自然会围绕相关的概念发展,并分散到多跳概念。本文提出了一种新的会话生成模型ConceptFlow,它利用常识知识图谱来显式地对会话流进行建模。通过将会话接地到概念空间,ConceptFlow将潜在的会话流表示为沿着常识关系在概念空间中遍历。遍历由概念图中的图注意力引导,朝着概念空间中更有意义的方向移动,以生成更多语义和信息的响应。在Reddit会话上的实验证明了ConceptFlow的有效性,超过了以前的知识感知会话模型和基于GPT-2的模型,同时使用的参数减少了70%,证实了显式建模会话结构的优势。本工作的所有源代码都可以在https://github.com/thunlp/ConceptFlow上获得。
2020-05-05 cs.AI cs.CL
CorefDiffs: Co-referential and Differential Knowledge Flow in Document Grounded Conversations
National University of Singapore(新加坡国立大学);ByteDance(字节跳动)
基于知识的对话系统需要在选择用于生成响应的知识之间进行平滑过渡,以确保对话自然流动。对于基于文档的对话系统,文档间和文档内的知识关系可以用于对这样的会话流进行建模。我们开发了一种新的多文档共指图(Coref-MDG),以有效地捕获基于常识和相似性的文档间关系以及接地文档内知识段的文档内共指结构。我们提出了CorefDiffs,一个共同引用和差分流管理方法,线性化的静态Coref-MDG会话序列逻辑。CorefDiffs通过考虑上下文图结构和知识差异序列来执行知识选择。CorefDiffs在三个公共基准上的表现明显优于最先进的9.5%,7.4%和8.2%。这表明,对话流的共指和知识差异的有效建模对于基于文档的会话中的转换至关重要
2022-10-05 cs.AI cs.CL
A Unified Pre-training Framework for Conversational AI
Baidu Inc.(百度公司)
在这项工作中,我们探讨了PLATO-2在各种对话系统中的应用,包括开放域对话,基于知识的对话和面向任务的对话。PLATO-2最初被设计为一个开放领域的聊天机器人,通过两个阶段的课程学习进行训练。在第一阶段中,学习粗粒度的响应生成模型以适应简化的一对一映射关系。该模型适用于面向任务的会话,给定的语义映射往往是确定性的任务完成。在第二阶段中,另一个细粒度的生成模型和评估模型,进一步学习不同的响应生成和一致性估计,分别。该模型具有良好的一对多映射能力,适用于开放领域会话和基于知识的会话。对于PLATO-2的综合评估,我们参与了DSTC 9的多个任务,包括开放域对话的交互评估(Track 3-task 2),知识基础对话的静态评估(Track 3-task 1)和端到端面向任务的对话(Track 2-task 1)。PLATO-2在所有三项任务中均获得第一名,验证了其作为各种对话系统的统一框架的有效性。
2021-05-27 cs.CL
Robust Conversational AI with Grounded Text Generation
Microsoft Research(微软研究院)
本文提出了一种基于Grounded Text Generation(GTG)模型的混合方法,用于大规模构建健壮的任务机器人。GTG是一个混合模型,它使用一个大规模的Transformer神经网络作为其骨干,结合符号操作模块的知识库推理和先验知识编码,以产生基于对话信念状态和现实世界的知识完成任务的响应。GTG在大量原始文本和人类会话数据上进行了预训练,并且可以进行微调以完成各种任务。混合方法及其变体正在由多个研究团队同时开发。面向任务的对话基准测试报告的主要结果是非常有前途的,证明了这种方法的巨大潜力。本文概述了这一进展,并讨论了可以用于构建强大的对话式AI系统的相关方法和技术。
2020-09-07 cs.AI cs.CL