Topic Segmentation and Labeling in Asynchronous Conversations
Qatar Computing Research Institute(卡塔尔计算研究所);University of British Columbia(不列颠哥伦比亚大学)
话题分割和标记通常被认为是更高级别会话分析的先决条件,并且已被证明在许多自然语言处理(NLP)应用中是有用的。我们提出了两个新的语料库的电子邮件和博客对话注释的主题,并评估注释器的可靠性,在这些异步对话的分割和标记任务。我们提出了一个完整的计算框架,主题分割和标签在异步会话。我们的方法通过考虑异步会话的细粒度结构以及通过应用最近的基于图的NLP方法的其他会话特征来扩展最先进的方法。对于主题分割,我们提出了两个新的无监督模型,利用细粒度的会话结构,和一个新的图论监督模型,结合词汇,会话和主题功能。对于主题标签,我们提出了两种新的(无监督)随机游走模型,分别从两个不同的来源捕获会话特定的线索:领导的句子和细粒度的会话结构。经验评估表明,我们最好的模型所执行的分割和标记击败了最先进的技术,并且与人类注释高度相关。
2014-02-04 cs.CL
Would you Like to Talk about Sports Now? Towards Contextual Topic Suggestion for Open-Domain Conversational Agents
Emory University(埃默里大学)
为了进行真正的对话,智能代理应该能够偶尔采取主动,并推荐下一个自然的对话主题。这是一项具有挑战性的任务。代理人建议的话题应该与人相关,适合对话上下文,并且代理人应该有一些有趣的话题要说。因此,照本宣科,或一刀切,基于受欢迎程度的话题建议注定会失败。相反,我们探索不同的方法,为开放域对话的个性化,上下文主题建议。我们正式的会话主题建议问题(CTS),以更清楚地确定的假设和要求。我们还探索了三种可能的方法来解决这个问题:(1)基于模型的顺序主题建议,以捕获会话上下文(CTS-Seq),(2)基于协同过滤的建议,以捕获以前成功的会话从类似的用户(CTS-CF),和(3)一个混合的方法结合会话上下文和协同过滤。为了评估这些方法的有效性,我们使用了作为Amazon Alexa Prize 2018对话AI挑战赛的一部分收集的真实对话。结果令人鼓舞:CTS-Seq模型建议的主题比基线高出23%的准确度,并且将协同过滤信号并入混合CTS-Seq-CF模型中进一步将推荐准确度提高了12%。总之,我们提出的模型,实验和分析显着推进开放域会话代理的研究,并为未来的改进提出了有前途的方向。
2020-05-28 cs.CL
Where Words Begin and End
Scicom (MSC) Berhad(Scicom(MSC)有限公司)
该研究针对现有对齐器的不足,微调Whisper结合LoRA构建新对齐器,在多场景英语及韩语、荷兰语上精度优于MFA,电话通话场景表现突出,词语边界误差显著降低。
2026-10-20 cs.CL
Topic-aware Pointer-Generator Networks for Summarizing Spoken Conversations
Institute for Infocomm Research (I2R)(资讯通信研究所);Changi General Hospital(樟宜综合医院)
由于缺乏公开可用的资源,会话摘要受到的关注远远低于文本摘要。由于对话的目的是在至少两个对话者之间交换信息,因此关于某个主题的关键信息通常分散并跨越来自不同说话者的多个话语和回合。这一现象在口语对话中更为明显,在口语对话中,诸如反向引导和错误开始之类的言语特征可能会打断主题流。此外,话题扩散和(话语内)话题漂移也更常见于人与人之间的对话。对话主题的这种语言特征使得口语文档中使用的会话级提取摘要方法不适合用于摘要会话。指针生成器网络通过文本摘要中的神经建模有效地展示了其在集成提取和抽象能力方面的实力。据我们所知,迄今为止还没有人采用它来总结对话。在这项工作中,我们提出了一个主题感知架构,利用固有的层次结构的对话,以进一步适应指针生成器模型。我们的方法显著优于竞争基准,实现更有效的学习成果,并获得更强大的性能。
2019-10-03 cs.CL
TopiOCQA: Open-domain Conversational Question Answering with Topic Switching
Mila(米拉人工智能研究所);McGill University(麦吉尔大学);ETH Zürich(苏黎世联邦理工学院);Microsoft Montréal(微软蒙特利尔);ServiceNow Research(ServiceNow研究院);Facebook CIFAR AI Chair(Facebook-CIFAR人工智能讲席)
在会话式问答场景中,提问者试图通过一系列相互依赖的问题和答案来提取关于主题的信息。随着谈话的进行,他们可能会切换到相关的话题,这是在信息搜索会话中常见的现象。然而,当前用于会话式问答的数据集在两个方面受到限制:1)它们不包含主题转换;以及2)它们假设给出了会话的参考文本,即,该设置不是开放域。我们介绍TopiOCQA(发音为Tapioca),这是一个开放域的会话数据集,在维基百科上具有主题开关。TopiOCQA包含3,920个对话,其中包含信息寻求问题和自由形式的答案。平均而言,我们数据集中的对话跨越13个问答回合,涉及4个主题(文档)。TopiOCQA提出了一个具有挑战性的测试床的模型,在同一会话的多个回合,需要有效的检索,结合使用会话历史构建有效的响应。我们评估了几个基线,通过结合最先进的文档检索方法与神经阅读器模型。我们最好的模型达到了55.8的F1,比人类的表现低了14.2分,这表明我们的数据集很难。我们的数据集和代码可在https://mcgill-nlp.github.io/topiocqa上获得
2022-02-20 cs.CL
What You Say and How You Say it: Joint Modeling of Topics and Discourse in Microblog Conversations
The Chinese University of Hong Kong(香港中文大学);University of Warwick(华威大学);Tencent AI Lab(腾讯人工智能实验室)
本文提出了一个无监督的框架,联合建模的主题内容和话语行为在微博会话。具体地说,我们提出了一个神经模型来发现表明会话所关注的词簇(即,主题)和反映参与者如何表达他们的意见的那些(即,话语)。大量的实验表明,我们的模型可以产生连贯的主题和有意义的话语行为。进一步的研究表明,我们的主题和话语表示可以有利于微博消息的分类,特别是当它们与分类器联合训练时。
2019-03-18 cs.CL
Who Responded to Whom: The Joint Effects of Latent Topics and Discourse in Conversation Structure
Fudan University(复旦大学);The Hong Kong Polytechnic University(香港理工大学)
每天都会产生大量的在线对话,因此迫切需要理解对话。作为构建讨论的基础,我们识别了会话话语中的回应关系,这些关系将回应话语与其启动联系起来。为了弄清楚谁回应谁,在这里,我们探讨如何主题内容的一致性和话语角色的依赖性表明这样的互动,而大多数以前的工作忽略了潜在因素的影响,潜在的单词出现。我们提出了一个模型来学习潜在的主题和话语分布,并预测成对的启动-响应链接,通过利用主题一致性和话语依赖。对中英文会话的实验结果表明,我们的模型明显优于先前的艺术状态,如79对73 MRR的中文客户服务对话。我们进一步探讨我们的输出,并阐明如何主题和话语表明会话用户交互。
2021-04-17 cs.CL
NaturalConv: A Chinese Dialogue Dataset Towards Multi-turn Topic-driven Conversation
Tencent AI Lab(腾讯人工智能实验室)
本文提出中文多轮话题驱动对话数据集NaturalConv,含19.9K对话和40万话语,并给出基准模型结果,表明现有模型难以利用背景知识提升性能,为多轮对话研究提供基准。
2024-11-07 cs.CL
Contextual Topic Modeling For Dialog Systems
Amazon(亚马逊)
会话主题的准确预测可以是用于创建连贯和吸引人的对话系统的有价值的信号。在这项工作中,我们专注于上下文感知的主题分类方法,用于识别自由形式的人类聊天机器人对话中的主题。我们扩展了以前的工作,神经主题分类和无监督主题关键字检测,将会话上下文和对话行为功能。在注释数据上,我们表明,将上下文和对话行为导致主题分类准确率相对提高35%,主题经常跨越多个话语的会话交互的无监督关键字检测召回率提高11%。我们发现,主题深度等主题指标与连贯性和参与度等对话评价指标高度相关,这意味着会话主题模型可以预测用户满意度。我们检测对话主题和关键字的工作可以用来引导聊天机器人进行连贯的对话。
2018-10-19 cs.CL
Sequential Topic Selection Model with Latent Variable for Topic-Grounded Dialogue
Huazhong University of Science and Technology(华中科技大学);Pingan Property & Casualty Research(平安财产保险研究院);Beijing Institute of Technology(北京理工大学)
近年来,基于话题的对话系统因其能够根据历史语境和给定的话题序列预测下一个话题从而获得更好的响应而受到广泛关注。然而,几乎所有现有的主题预测解决方案都只关注当前会话和相应的主题序列来预测下一个会话主题,而不利用可能包含与当前会话相关的主题转换的其他主题引导会话。为了解决这个问题,在本文中,我们提出了一种新的方法,命名为顺序全局主题注意力(SGTA),利用主题转换在所有的对话中,以一种微妙的方式,更好地建模后响应主题转换,并指导响应生成当前的对话。具体来说,我们引入了一个潜在空间建模为一个多元偏态分布与混合核函数,灵活地整合全球层面的信息与序列层面的信息,并预测的基础上的分布抽样结果的主题。我们还利用主题感知的先验-后验方法对预测主题进行二次选择,以优化响应生成任务。大量的实验表明,我们的模型在预测和生成任务上优于竞争基线。
2022-10-17 cs.CL
With a Little Help from my (Linguistic) Friends: Topic Segmentation of Multi-party Casual Conversations
Université de Lorraine(洛林大学);Inria(法国国家信息与自动化研究所);University of Gothenburg(哥德堡大学)
本文采用形式化方法对多方随意对话进行主题分割,识别有意义特征以理解对话主题结构,达到与机器学习模型相当的准确率。
2024-02-05 cs.CL
A Joint Model of Conversational Discourse and Latent Topics on Microblogs
Tencent AI Lab(腾讯人工智能实验室);Fudan University(复旦大学);The Chinese University of Hong Kong(香港中文大学)
传统的话题模型不能有效地从微博消息中提取话题,因为缺乏结构和上下文的短消息表现出数据稀疏性,导致消息级的词共现模式很差。针对这一问题,本文根据微博消息的转发和回复关系将其组织成会话树,并提出一个无监督的模型,该模型联合学习词分布来表示:1)会话话语的不同角色,2)反映内容信息的各种潜在主题。通过明确区分不同的话语角色,包含主题词的消息的概率,我们的模型是能够发现集群的话语词是指示的主题内容。在一个大规模的微博语料库的自动评估,我们的联合模型产生的主题具有更好的连贯性分数比竞争的主题模型从以前的研究。对模型输出的定性分析表明,我们的模型诱导有意义的话语和主题的表征。我们进一步提出了一个基于我们的联合模型的输出微博摘要的实证研究。实验结果表明,联合建模的话语和主题表征可以有效地指示微博会话中值得摘要的内容。
2018-09-11 cs.CL
Exploring Effective Information Utilization in Multi-Turn Topic-Driven Conversations
The University of Melbourne(墨尔本大学);Tencent(腾讯);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
谈话总是与某些话题有关。然而,由于预先训练好的语言模型(PLMs)的输入长度限制,当前的对话生成模型难以同时融合来自不同来源的对话历史和话题信息。为了扩展PLM可以利用的信息,我们使用具有多个通道的融合解码器(FiD)的某些提示对主题和对话历史信息进行编码,并探索三种不同通道设置的影响。在本文中,我们的实验集中在一个名为NaturalConv的特定中国数据集上,其中的对话围绕着一条最近的新闻。我们彻底比较了不同的对话模式和不同的FiD通道设置。实验结果表明,通过将我们提出的整个通道与额外的历史通道相结合,我们的方法可以在NaturalConv上实现有竞争力的性能,从而可以从过长的文本中编码各种信息。
2022-09-12 cs.CL
Continuity of Topic, Interaction, and Query: Learning to Quote in Online Conversations
The Chinese University of Hong Kong(香港中文大学);The Hong Kong Polytechnic University(香港理工大学);Tencent AI Lab(腾讯AI实验室)
在人际交往中,引语是成功解释和说服的关键。然而,在对话中找到要引用的内容对人类和机器来说都是一个挑战。本文研究了在线会话中引语的自动生成,并探讨了语言一致性如何影响引语是否符合给定的上下文。在这里,我们捕获的上下文一致性的报价方面的潜在主题,与对话历史的互动,和连贯性的查询转的现有内容。此外,采用编码器-解码器神经框架来通过语言生成用引用来继续上下文。在中英文两个大规模数据集上的实验结果表明,该模型的性能优于现有的模型。进一步的分析表明,主题、交互和查询一致性都有助于学习如何在在线对话中引用。
2021-06-18 cs.CL
Topics as Proxies for Sociodemographics: How Conversational Context Affects LLM Answers
Institute for Logic, Language and Computation, University of Amsterdam(逻辑、语言与计算研究所,阿姆斯特丹大学);Khoury College of Computer Sciences, Northeastern University(计算机科学学院,东北大学);Center for Language and Cognition, University of Groningen(语言与认知中心,格罗宁根大学)
研究大语言模型在高风险场景中对话上下文对回答差异的影响,发现话题是社会人口统计差异的主要驱动因素,且影响方式不可预测。
2026-08-14 cs.CL
Personality Differences Drive Conversational Dynamics: A High-Dimensional NLP Approach
Stanford University(斯坦福大学)
本文利用高维NLP方法分析1655段陌生人对话,发现开放性和外向性人格差异分别影响主题广度与语言对齐变化,并揭示人格差异是社会影响的重要驱动因素。
2024-12-27 cs.CL
FinChat: Corpus and evaluation setup for Finnish chat conversations on everyday topics
Aalto University(阿尔托大学);University of Helsinki(赫尔辛基大学)
创建开放域聊天机器人需要大量的会话数据和相关的基准任务来评估它们。标准化的评估任务对于为模型开发创建自动评估指标至关重要;否则,比较模型将需要资源昂贵的人工评估。虽然聊天机器人挑战最近设法为英语提供了大量此类资源,但其他语言的资源尚未提供。在这项工作中,我们为芬兰开放域聊天机器人研究提供了一个起点。我们描述了我们的收集工作,以创建芬兰聊天对话语料库FinChat,这是公开的。FinChat包括来自不同年龄的人的七个主题的无脚本对话。使用这个语料库,我们还构建了一个基于检索的评估任务,芬兰聊天机器人的发展。我们观察到,在会话语料库上训练的现成聊天机器人模型在基于自动度量选择正确答案方面的表现并不比偶然性更好,而人类几乎可以完美地完成相同的任务。类似地,在人类评估中,对来自聊天机器人生成的评估集的问题的响应主要被标记为不连贯。因此,FinChat提供了一个具有挑战性的评估集,旨在鼓励芬兰语的聊天机器人开发。
2020-08-19 cs.CL
Conversational Topic Recommendation in Counseling and Psychotherapy with Decision Transformer and Large Language Models
University of Michigan(密歇根大学);Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院);IBM Research(IBM研究院)
本文提出用 decision transformer 建模咨询对话中的状态、动作与奖励以推荐话题,并将其输出作为合成标签微调 LLaMA-2 7B,提升了相对强化学习基线的效果。
2024-05-08 cs.CL
Comparing Human and Machine Errors in Conversational Speech Transcription
Microsoft AI and Research(微软人工智能与研究部);Microsoft AI(微软人工智能);Research, Redmond, WA, USA(研究部,美国华盛顿州雷德蒙德)
最近在自动识别会话电话语音(CTS)的工作已经达到了与人类转录器相当的准确性水平,尽管使用NIST 2000 CTS评估集,如何精确量化人类在这项任务上的表现还存在一些争议。这就提出了一个问题,什么系统的差异,如果有的话,可能会发现区分人类和机器的转录错误。在本文中,我们通过比较我们最准确的CTS识别系统的输出到一个标准的语音转录供应商管道来解决这个问题。我们发现,最常见的替代,删除和插入错误类型的两个输出显示出高度的重叠。唯一值得注意的例外是,自动识别器往往会混淆填充停顿(“uh”)和反向通道停顿(“uhhuh”)。人类往往不会犯这种错误,大概是因为这些词所具有的独特而对立的语用功能。此外,我们量化了人和机器之间的相关性的错误在说话人的水平,并调查的影响,说话人之间的重叠训练和测试数据。最后,我们报告了一个非正式的“图灵测试”,要求人类区分自动和人类转录错误的情况。
2017-08-29 cs.CL
CET2: Modelling Topic Transitions for Coherent and Engaging Knowledge-Grounded Conversations
National University of Singapore(新加坡国立大学);Bytedance(字节跳动)
本文提出 CET2 框架,通过建模有效话题转换逻辑并比较知识候选,平衡上下文连贯性与知识多样性,从而提升知识选择的准确率与跨话题泛化能力。
2024-03-04 cs.CL
Response Selection for Multi-Party Conversations with Dynamic Topic Tracking
Salesforce Research Asia(Salesforce亚洲研究院);Nanyang Technological University(南洋理工大学)
当多方多话轮会话中的参与者同时参与多个会话主题时,现有的响应选择方法主要针对两方单会话场景开发。因此,现有的方法忽略了会话话题的延伸和转换。在这项工作中,我们框架响应选择作为一个动态的主题跟踪任务,以匹配响应和相关的会话上下文之间的主题。有了这个新的公式,我们提出了一个新的多任务学习框架,通过一次只有两个话语的大型预训练模型来支持有效的编码,以执行动态主题解纠缠和响应选择。我们还提出了主题-BERT的一个必要的预训练步骤嵌入主题信息到BERT与自监督学习。在DSTC-8 Ubuntu IRC数据集上的实验结果显示,响应选择和主题分解任务的最新结果远远优于现有方法。
2020-10-15 cs.AI cs.CL
Proactive Human-Machine Conversation with Explicit Conversation Goals
Baidu Inc.(百度公司)
虽然人机对话已经取得了很大的进展,但目前的对话系统仍处于起步阶段:它通常是被动地对话,更多地是作为回应而不是主动地说出话语。在本文中,我们朝着构建类人会话代理迈出了激进的一步:赋予它主动领导会话的能力(引入新主题或维护当前主题)。为了促进这种对话系统的开发,我们创建了一个名为DuConv的新数据集,其中一个充当对话领导者,另一个充当追随者。领导者被提供了一个知识图谱,并被要求按照给定的谈话目标顺序改变讨论主题,同时保持对话尽可能自然和吸引人。DuConv实现了一个非常具有挑战性的任务,因为模型需要理解对话并在给定的知识图谱上进行规划。我们使用几种最先进的模型在这个数据集上建立了基线结果(大约270K话语和30K对话)。实验结果表明,规划在知识图谱上的对话模型可以充分利用相关知识生成更多样化的多轮对话。基线系统和数据集都是公开的
2019-11-07 cs.CL
Dialogue Act Modeling for Automatic Tagging and Recognition of Conversational Speech
我们描述了一种用于对会话语音中的对话行为进行建模的统计方法,即,类似言语行为的单元,如陈述、问题、反向通道、同意、不同意和道歉。我们的模型检测和预测的基础上的词汇,搭配,韵律线索,以及对话行为序列的话语连贯性的对话行为。对话模型是基于治疗会话的话语结构作为一个隐藏的马尔可夫模型和个人的对话行为的观察,从模型的状态。通过对话行为n-gram对可能的对话行为序列进行约束建模,将统计对话语法与单词n-gram、决策树和神经网络相结合,对每个对话行为的特殊词汇和韵律表现进行建模。我们开发了一个概率集成的语音识别与对话建模,以提高语音识别和对话行为分类的准确性。使用来自自发的人对人电话语音的Switchboard语料库的1,155个会话的大型手动标记数据库来训练和评估模型。我们实现了良好的对话行为标记准确率(65%基于错误,自动识别的单词和韵律,71%基于单词成绩单,相比之下,机会基线准确率为35%,人类准确率为84%)和单词识别错误的小幅减少。
2000-10-26 cs.CL
Learning to Ask Questions in Open-domain Conversational Systems with Typed Decoders
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京国家信息科学与技术研究中心);Shandong University(山东大学)
在大规模、开放领域的会话系统中提出好的问题是相当重要的,但却没有触及。该任务与传统的问题生成任务有着本质的不同,它不仅要求提问的模式多样化,而且要求提问的主题多样化、相关性强。我们观察到一个好的问题是{\it疑问词}、{\it主题词}和{\it普通词}的自然组合。疑问词词汇化提问模式,话题词处理对话中话题转换的关键信息,普通词在构成自然句子中发挥句法和语法作用。我们设计了两种类型的解码器(\textit{soft typed decoder}和\textit{hard typed decoder}),其中估计了三种类型的类型分布,并用于调制最终生成分布。大量的实验表明,类型化解码器的性能优于最先进的基线,可以生成更有意义的问题。
2018-05-13 cs.CL
AgenticAI-DialogGen: Topic-Guided Conversation Generation for Fine-Tuning and Evaluating Short- and Long-Term Memories of LLMs
School of Computing, Macquarie University(麦考瑞大学计算机学院)
本文提出AgenticAI-DialogGen框架,通过生成基于角色和主题的对话来微调和评估LLM的短期和长期记忆,引入了TopicGuidedChat数据集以提升对话质量和模型性能。
2026-04-14 cs.CL cs.IR
Topic Detection from Conversational Dialogue Corpus with Parallel Dirichlet Allocation Model and Elbow Method
School of Computer Science and Statistics, Trinity College Dublin, University of Dublin(都柏林大学圣三一学院计算机科学与统计学院);ADAPT Centre, Trinity College Dublin, University of Dublin(都柏林大学圣三一学院ADAPT中心)
会话系统需要知道如何在主题之间切换,以便在更长的时间内继续会话。因此,从对话语料中检测话题已成为会话的一项重要任务,准确预测会话话题对于创建连贯和引人入胜的对话系统至关重要。本文提出了一种基于并行潜在狄利克雷分配(PLDA)模型的主题检测方法,该方法基于TF-IDF得分和词袋(BOW)技术对已知相似词进行聚类。在实验中,我们使用K-均值聚类与肘方法的解释和验证一致性的类内分析,以选择最佳的聚类数。我们通过与传统LDA和聚类技术的比较来评估我们的方法。实验结果表明,PLDA和肘方法相结合,选择最佳的集群数量和细化会话的主题。
2020-06-05 cs.CL cs.IR
RubyStar: A Non-Task-Oriented Mixture Model Dialog System
Carnegie Mellon University(卡内基梅隆大学)
RubyStar是一个对话系统,旨在通过结合不同的响应生成策略来创建“类人”对话。RubyStar通过使用基于规则、基于检索和生成方法的集合,就一般主题进行非任务导向的对话。主题检测、参与监控和上下文跟踪用于管理交互。可预测的对话元素,如机器人的背景故事和简单的问答由单独的模块处理。我们描述了一个评级计划,我们开发的响应生成评估。我们发现,字符级RNN是一种有效的一般响应生成模型,具有适当的参数设置;然而,其他类型的会话主题可能会受益于使用其他模型。
2017-12-16 cs.CL
Diversifying Topic-Coherent Response Generation for Natural Multi-turn Conversations
Southwest University(西南大学);Chongqing University of Education(重庆第二师范学院);The University of Western Australia(西澳大学)
虽然单轮对话的反应生成(RG)多样化已经得到了很好的发展,但对于自然的多轮对话的研究较少。此外,过去的工作侧重于使答复多样化,而没有考虑主题与背景的一致性,从而产生了信息量不大的答复。在本文中,我们提出了主题连贯的分层递归编码器-解码器模型(THRED),以多样化的生成的响应,而不偏离上下文主题的多轮会话。总的来说,我们建立了一个序列到序列网络(Seq 2Seq)来模拟多轮对话。然后,我们求助于潜在变量层次递归编码器-解码器模型(VHRED)来学习对话的全局上下文分布。此外,我们还构造了一个稠密的话题矩阵,该矩阵包含了会话语料库的词级相关性。话题矩阵用于学习上下文话语的局部话题分布。通过结合全局上下文分布和局部主题分布,THRED产生多样化和主题一致的回复。此外,我们提出了一个明确的指标(\emph{TopicDiv})来衡量的主题之间的分歧后,产生的反应,我们还提出了一个整体的指标相结合的多样化指标(\emph{Distinct})和\emph{TopicDiv}。我们评估我们的模型与三个基线(Seq 2Seq,HRED和VHRED)在两个真实世界的语料库,分别进行比较,并证明其在多样化和主题一致性的出色表现。
2019-10-24 cs.AI cs.CL
A Transformer-based Response Evaluator for Open-Domain Spoken Conversation
Amazon Alexa AI(亚马逊Alexa人工智能部门);UCSC(加州大学圣克鲁兹分校)
许多开放域对话系统依赖于多个响应生成器,其中任何一个都可以在特定上下文中对对话做出响应。因此,比较潜在响应并选择最佳响应的能力在确保对话系统连贯且引人入胜方面发挥着重要作用。对话的连贯性不仅仅是停留在主题上-有些琐事可能是在主题上,在突然提到时很吸引人,但在对话的背景下可能不连贯和不连贯。我们在Athena系统中进行响应选择实验,该系统是Alexa Prize SocialBot,具有专用内容和针对大量主题的多个特定主题响应生成器。首先,我们收集了一个语料库的雅典娜对话与现场人类交通,其中所有启用的响应生成器的潜在响应被记录,并随后注释响应质量。我们比较了几个现成的开放域对话的响应排名方法,雅典娜启发式,启发式响应排名,在雅典娜在第三届Alexa奖比赛中进行了现场测试。我们还将这些与基于transformer的响应排名器进行比较,我们称之为Athena-RR,我们在Athena对话中进行训练。Athena-RR使用会话上下文和对话状态来对潜在的响应进行排名。我们发现,具有70.79\%的Recall@1的Athena-RR大幅优于Athena-Heuristic和所有现成的排名器。然后,我们进行了一项现场A/B研究,在与Alexa用户的6,358次对话中比较了Athena-Heuristic和Athena-RR。我们表明,雅典娜RR导致显着更长的对话,获得显着更高的用户评级比启发式…
2023-02-09 cs.CL
AugESC: Dialogue Augmentation with Large Language Models for Emotional Support Conversation
Institute for Artificial Intelligence(人工智能研究院);Tsinghua University(清华大学)
本研究利用大型语言模型将对话增强视为对话补全任务,构建了AugESC数据集,大幅扩展了情感支持对话的规模与话题覆盖,并证明其能提升下游模型向开放域话题的泛化能力。
2023-05-18 cs.CL
Dynamic Knowledge Routing Network For Target-Guided Open-Domain Conversation
Sun Yat-Sen University(中山大学);Dark Matter AI Inc.(暗物质人工智能公司)
目标引导的开放域会话旨在主动和自然地引导对话代理或人在开放式会话期间实现特定目标,主题或关键字。现有的方法主要依赖于单轮数据驱动学习和简单的目标引导策略,而不考虑候选主题/关键词之间的语义或事实知识关系。这导致过渡平滑性差和成功率低。在这项工作中,我们采用了一种结构化的方法,通过引入粗粒度的关键字来控制系统响应的预期内容,通过回合级监督学习和候选关键字之间的知识关系来实现平滑的会话转换,并使用话语级引导策略来驱动会话朝向指定的目标。特别是,我们提出了一种新的动态知识路由网络(DKRN),考虑候选关键字之间的语义知识关系,准确的下一个主题预测下一个话语。在更准确的关键词预测的帮助下,我们的关键词增强响应检索模块可以实现更好的检索性能和更有意义的对话。此外,我们还提出了一种新的双语篇层次目标引导策略,以引导会话顺利地达到其目标,具有较高的成功率。此外,为了拓展目标引导开放域会话的研究边界,使其更好地匹配真实场景,本文引入了一个新的大规模中文目标引导开放域会话数据集(超过90万会话),该数据集从新浪微博上抓取。定量和人工评估表明,我们的方法可以产生有意义和有效的目标引导对话,显着提高了其他国家的最先进的方法超过20%的成功率和超过0.6的平均平滑分数。
2020-03-06 cs.CL
Linguistic Characterization of Divisive Topics Online: Case Studies on Contentiousness in Abortion, Climate Change, and Gun Control
Georgia Institute of Technology(佐治亚理工学院);Georgetown University(乔治城大学)
随着公共话语继续在网上移动和增长,社交媒体平台上关于分裂话题的对话也有所增加。这些分裂的话题引发了有争议和无争议的对话。虽然这些对话的区别,通常被认为是使这些对话有争议的原因,是众所周知的,但对这些对话的语言特征知之甚少。先前的研究表明,有争议的内容和结构可以预测这个任务,然而,他们中的大多数人都集中在一般的对话,非常具体的事件,或复杂的结构分析。此外,在以前的工作中使用的许多模型缺乏解释能力,这是在线审核的一个关键因素。我们的工作填补了这些空白,专注于高度分裂的话题(堕胎,气候变化和枪支管制)的对话,操作一套新颖的语言和会话特征和用户因素,并将它们纳入构建可解释的模型。我们证明,这些特征可以在很大程度上提高预测性能的这项任务,也使微妙的可解释性。我们对这三个有争议的话题的案例研究表明,某些通用语言特征与会话中的争议性高度相关,而其他语言特征则对特定的分裂性话题产生重大的语境影响。
2022-04-05 cs.CL cs.SI
"Wait, did you mean the doctor?": Collecting a Dialogue Corpus for Topical Analysis
Université de Lorraine(洛林大学);University of Gothenburg(哥德堡大学)
针对现有对话主题组织与识别研究不足、长对话多主题数据难获取的问题,本文提出通过自研即时通讯工具开展对话收集实验,构建适用于主题分析的对话语料库。
2025-01-14 cs.CL
Topic Propagation in Conversational Search
ISTI-CNR(意大利国家研究委员会信息科学与技术研究所);University of Pisa(比萨大学);Georgetown University(乔治城大学)
在会话语境中,用户将她的多方面信息需求表达为一系列自然语言问题,即,话语从一个给定的主题开始,对话通过用户的话语和系统的回复。由于自然语言的模糊性以及难以检测话语之间可能的主题转移和语义关系,与会话中给定话语相关的文档的检索是具有挑战性的。我们采用2019年TREC会话助理跟踪(CAST)框架来实验模块化架构,执行:(i)主题感知话语重写,(ii)检索重写话语的候选段落,以及(iii)基于神经的候选段落重新排名。我们提出了一个全面的实验评估的架构评估传统的IR指标在小的截止。实验结果表明,我们的技术的有效性,实现了0.28(+93%)的P@1和0.19(+89.9%)的nDCG@3 w.r.t. CAST基线。
2020-04-29 cs.CL cs.IR
Multi-Granularity Prompts for Topic Shift Detection in Dialogue
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院)
针对对话话题转换检测中未深入探讨多粒度话题信息的问题,提出基于提示的方法,从标签、轮次和话题三个层次提取信息,在 CNTD 和 TIAGE 数据集上优于基线并有效提升模型对话题的理解。
2023-05-23 cs.CL
Topic-Conversation Relevance (TCR) Dataset and Benchmarks
Microsoft(微软公司)
为提升会议效率,构建了涵盖多领域、含1500场会议及2200万词的主题-对话相关性数据集,并基于GPT-4建立基准以评估模型理解转录与主题相关性的能力。
2024-11-04 cs.AI cs.CL
Modeling Semantic Relationship in Multi-turn Conversations with Hierarchical Latent Variables
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
多话轮会话包含复杂的语义结构,在已有话语的基础上生成连贯多样的会话仍然是一个挑战。实际上,会话发生在一个背景下,同时,查询和响应通常是最相关的,它们在主题上是一致的,但在内容上也是不同的。然而,很少有研究关注话语之间的这种等级关系。为了解决这个问题,我们提出了一个会话语义关系RNN(CSRR)模型来显式地构建依赖关系。该模型包含三个层次的潜变量。语篇层次的语义模型反映了语言的整体背景,语对层次的语义模型反映了语言查询和响应之间的共同主题信息,而话语层次的语义模型则试图反映语言内容的差异。实验结果表明,我们的模型显着提高响应的流畅性,一致性和多样性方面的质量相比,基线方法。
2019-06-18 cs.CL
NewsDialogues: Towards Proactive News Grounded Conversation
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Beijing Institute of Technology(北京理工大学);Peking University(北京大学)
本文提出主动式新闻 grounding 对话任务,构建含1K对话的 NewsDialogues 中文数据集,并设计 Predict-Generate-Rank 方法,通过知识预测、回复生成与排序缓解曝光偏差,实验验证其有效性。
2023-08-12 cs.CL
Consistent Dialogue Generation with Self-supervised Feature Learning
Microsoft Research(微软研究院)
生成与对话上下文一致的响应是构建参与对话代理的核心挑战之一。我们证明了神经会话模型可以通过在整个会话中保持与主题和人物角色相关的某些功能来生成一致的响应。过去的工作需要外部监督,利用通常无法获得的用户身份等功能。在我们的方法中,主题和人物特征提取器使用对比训练方案,利用对话数据的自然结构进行训练。我们还采用了一个功能,解开损失,与可控的响应生成技术相结合,使我们能够促进或降级某些学习的主题和人物角色的功能。评估结果表明,该模型的能力,捕捉有意义的主题和人物角色的功能。所学习的特征的并入在两个对话数据集上生成的响应的质量方面带来了显著的改进。
2021-08-11 cs.CL
What Changed Your Mind: The Roles of Dynamic Topics and Discourse in Argumentation Process
The Chinese University of Hong Kong(香港中文大学);The Hong Kong Polytechnic University(香港理工大学);University of Warwick(华威大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
在这个充满不确定性的世界里,辩论和论证有助于科学和社会的进步。尽管人们越来越关注人类辩论的特征,但迄今为止取得的大多数进展都集中在辩论结果上,在很大程度上忽略了辩论过程中的动态模式。本文提出了一项自动分析论证说服力的关键因素的研究,而不仅仅是预测谁会说服谁。具体来说,我们提出了一种新的神经模型,能够动态跟踪潜在的话题和话语的变化,在争论的对话,允许调查他们的角色在影响说服的结果。在社交媒体和最高法院上,人们对辩论性对话进行了广泛的实验。结果表明,我们的模型在识别说服性论点方面优于最先进的模型,通过明确地探索主题和话语的动态因素。我们进一步分析了话题和话语对说服力的影响,发现它们都是有用的-话题提供了具体的证据,而优越的话语风格可能会使参与者产生偏见,特别是在社交媒体争论中。此外,我们从实证结果中得出一些发现,这将有助于人们更好地参与未来的说服性对话。
2020-02-10 cs.CL
Topic-based Evaluation for Conversational Bots
University of Maryland(马里兰大学);Amazon Alexa(亚马逊Alexa)
对话评估是一个具有挑战性的问题,特别是对于非面向任务的对话,其中会话成功没有很好地定义。我们建议使用基于主题的指标来评估对话质量,这些指标描述了对话机器人在主题上保持连贯和引人入胜的对话的能力,以及机器人可以处理的主题的多样性。为了检测每个话语的会话主题,我们采用深度平均网络(DAN)和训练的主题分类器上的各种问题和查询数据分类成多个主题。我们提出了一种新的扩展DAN通过添加一个主题词的注意力表,允许系统联合捕获主题关键字在话语和执行主题分类。我们将我们提出的基于主题的指标与用户提供的评级进行比较,并表明我们的指标与人类判断相关并补充人类判断。我们的分析是在Alexa Prize竞赛中成千上万的真实人机对话中进行的,并突出了用户对对话机器人的期望。
2018-01-11 cs.AI cs.CL cs.CY
Unsupervised Mutual Learning of Discourse Parsing and Topic Segmentation in Dialogue
针对对话中话语解析与主题分割的监督标注昂贵及无监督方法忽视二者交互的问题,提出统一表示与两个语言学假设,构建无监督互学习框架UMLF,联合建模修辞与主题结构,在多个数据集上超越强基线并有效提升大语言模型的话语结构建模。
2025-02-24 cs.CL
KdConv: A Chinese Multi-domain Dialogue Dataset Towards Multi-turn Knowledge-driven Conversation
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
知识驱动的会话系统的研究在很大程度上是有限的,由于缺乏对话数据,包括多轮对话的多个主题和知识注释。本文提出了一个基于知识驱动的中文多领域会话数据集KdConv,它将多轮会话中的话题建立在知识图谱上。我们的语料库包含来自三个领域(电影,音乐和旅行)的4.5K对话和86K话语,平均回合数为19.0。这些对话包含对相关主题的深入讨论以及多个主题之间的自然过渡。为了便于对该语料库的后续研究,我们提供了几个基准模型。对比结果表明,背景知识的引入可以增强模型的性能,但利用背景知识对多话轮会话进行建模仍有很大的研究空间。研究结果还表明,不同领域的学习效果存在明显差异,表明迁移学习和领域自适应值得进一步探索。语料库和基准模型是公开的。
2020-04-08 cs.AI cs.CL
Guiding Topic Flows in the Generative Chatbot by Enhancing the ConceptNet with the Conversation Corpora
Tsinghua University(清华大学);Tencent Inc(腾讯公司)
人类的会话是由合理的、自然的话题流组成的,这些话题流可以被看作是所提到的概念在话语之间的转移。以前的聊天机器人结合了外部常识知识图谱,证明了对概念转换进行建模可以有效地缓解沉闷和无信息的响应困境。然而,自然会话中的概念关系与外部常识知识图谱中的概念关系之间仍然存在差距,这是一个有待解决的问题。具体来说,外部常识知识图谱中的概念关系不是从对话场景中直观构建的,而是从世界知识中直观构建的,这使得它们不足以用于聊天机器人的构建。为了弥补上述差距,我们提出的方法,提供更多的概念关系提取会话语料库和重建一个增强的概念图的聊天机器人建设。此外,我们提出了一种新的,强大的,快速的图形编码架构命名为边变压器,以取代传统的GNN架构。Reddit会话数据集上的实验结果表明,我们提出的方法显着优于强基线系统,并实现了新的SOTA结果。进一步的分析分别证明了增强的概念图和Edge-Transformer架构的有效性。
2021-09-14 cs.AI cs.CL
Increasing happiness through conversations with artificial intelligence
Yale University(耶鲁大学);Sainsbury Wellcome Centre for Neural Circuits and Behaviour, UCL(伦敦大学学院Sainsbury Wellcome神经环路与行为中心);Google DeepMind(谷歌DeepMind);University of Oxford(牛津大学);Max Planck UCL Centre for Computational Psychiatry and Ageing Research(马克斯·普朗克伦敦大学学院计算精神病学与衰老研究中心)
本研究通过与AI聊天机器人对话与撰写日记的对比实验,发现AI对话能提升参与者幸福感,特别是在讨论负面主题时,其机制在于AI的积极偏差引导参与者情感对齐,且情感预测误差能预测幸福感提升。
2025-04-02 cs.CL
Viola: A Topic Agnostic Generate-and-Rank Dialogue System
University of Southern California(南加州大学)
我们提出了中提琴,一个开放域的对话系统口语对话,使用一个简单的生成和排名的方法的基础上的主题不可知的对话管理器。利用由大语言模型驱动的生成对话系统的最新进展,Viola从使用不同数据集和知识基础输入训练的各种神经对话模型中提取了一批响应候选者。还考虑源自基于模板的生成器的附加响应,这取决于用户的输入和检测到的实体。手工制作的生成器建立在动态知识图谱上,注入了从网络上抓取的丰富内容,并每天自动处理。Viola的响应排序器是一个微调的polyencoder,它根据对话历史选择最佳响应。虽然单独为polyencoder提供专用注释可以间接引导它避免选择有问题的响应,但我们添加了基于规则的安全网来检测神经退化,并添加了专用分类器来过滤掉攻击性内容。我们分析了Viola参加Alexa Prize Socialbot Grand Challenge 4的对话,并讨论了我们方法的优点和缺点。最后,我们建议未来的工作重点是专门为社交机器人管理会话数据,这将有助于建立一个更强大的数据驱动的社交机器人。
2021-08-25 cs.CL
How You Ask Shapes What You Get: A Theory-Seeded Measurement of Articulation in Advice-Seeking LLM Conversations
KAIST(韩国科学技术院)
该研究探究建议寻求型LLM对话中提问的表达清晰度是否为可与话题分离的潜在维度,从16447条提示词中提取出可复现的表达清晰度因子,发现其与模型回应存在关联,提出基准测试应按表达清晰度分层。
2026-09-01 cs.CL
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
West Virginia University(西弗吉尼亚大学)
PrivDrift基准通过1,000个多轮对话和提取探测,评估三个LLM在主题漂移后用户秘密的泄露率(38.7%-54.6%),揭示隐私风险是持久行为失败而非仅记忆或越狱。
2026-09-28 cs.AI cs.CL cs.CR
GPT-Calls: Enhancing Call Segmentation and Tagging by Generating Synthetic Conversations via Large Language Models
Microsoft(微软);Technion(以色列理工学院);The Open University(开放大学);Tel-Aviv University(特拉维夫大学)
本研究提出无需标注数据的GPT-Calls方法,通过GPT模型生成合成主题句提取锚向量,结合时域分析实现通话分割与主题标注,已在微软Dynamics 365销售对话智能产品中落地应用。
2023-06-09 cs.CL cs.LG
Multiple topic identification in human/human conversations
University of Avignon(阿维尼翁大学);McGill University(麦吉尔大学);LIA, University of Avignon(阿维尼翁大学LIA(此处按原文提取,LIA可能为实验室或研究所,但根据规则若其本身为独立机构则需保留,此处按要求提取到大学级别,同时保留LIA))
本文讨论了自动分析的真实生活中的电话交谈之间的代理和客户服务(ccs)的客户。应用领域是巴黎的公共交通系统,目的是收集有关客户问题的统计数据,以便监控服务并决定干预的优先级,以提高用户满意度。分析的首要任务是检测客户问题的主题。主题在应用程序需求中定义,并且是ccs文档中隐含的应用程序本体的一部分。由于客户人口的多样性,与代理的对话结构是不可预测的。对话可以是关于一个或多个主题。主题提及可以与与应用程序目的无关的事实提及交错。此外,在某些会话中,主题提及被定位在特定的会话片段中,而在其他会话中,提及不能被定位。因此,考虑了具有和不具有提及定位的特征提取的方法。由自动过程识别的应用领域相关主题由特定句子表达,该特定句子的单词由自动语音识别(asr)系统假设。asr系统容易出错。单词的出错率很高有很多原因。其中值得一提的是不可预测的背景噪音,扬声器口音,和各种类型的语音不流利。由于应用任务要求主题提及比例的组合,本文引入了一种顺序决策策略,用于对给定时间段内提供的大量会话进行调查。该策略必须对对话进行抽样,以形成一个包含足够高精度分析数据的调查,以便能够以足够的精度估计比例。由于主题提及的不可预测的类型,考虑基于全局和局部特征提取的主题假设方法是适当的。该策略将考虑基于每种特征提取类型的两个系统。这四种方法中有一种是新颖的。它是基于一个新的定义的密度的主题提到和本地化的高密度区的边界不…
2018-12-29 cs.CL
Topic and genre in dialogue
Université de Lorraine(洛林大学);University of Gothenburg(哥德堡大学)
本文论证主题在对话中的基础地位,主张将其与体裁正交区分,以支撑模块化、可靠且可控的灵活领域对话系统。
2023-12-06 cs.CL
2020 U.S. presidential election in swing states: Gender differences in Twitter conversations
University of South Carolina(南卡罗来纳大学)
在竞选期间,公众通常使用社交媒体来表达他们对不同问题的意见。在各种社交媒体渠道中,Twitter为研究人员和政治家提供了一个有效的平台,以探讨有关经济和外交政策等广泛主题的民意。目前的文献主要集中在分析推文的内容,没有考虑用户的性别。这项研究收集和分析了大量的推文,并使用计算,人类编码和统计分析来识别2020年美国总统大选期间发布的30多万条推文中的主题,并比较女性和男性用户讨论主题的平均权重。我们的调查结果基于广泛的主题,如税收、气候变化和COVID-19疫情。在话题中,超过70%的话题在女性和男性用户之间存在显著差异。
2022-07-14 cs.CL cs.SI
"How Was Your Weekend?" A Generative Model of Phatic Conversation
Principles of Expressive Machines Lab(表达机器原理实验室);Department of Computer Science(计算机科学系);North Carolina State University(北卡罗来纳州立大学)
潜规则,如那些决定选择适当的讨论话题和何时改变讨论话题的规则,指导着会话行为。我们提出了一个计算模型的对话,可以遵循或打破这样的规则,与参与者代理相应地作出反应。此外,我们展示了该模型的应用:实验社会导师(EST),第一步的社会技能培训工具,产生人类可读的对话和对话中的每一点的指导方针。最后,我们讨论了一个试点研究评估EST的设计和结果。结果表明,我们的模型能够产生遵循社会规范的对话。
2018-02-13 cs.AI cs.CL
DASH: Dialogue-Aware Similarity and Handshake Recognition for Topic Segmentation in Public-Channel Conversations
DASH-DTS通过对话感知相似性与握手识别技术,提升公共频道对话中主题分割的准确性和鲁棒性,并发布首个海上VHF通信数据集推动相关研究。
2025-12-17 cs.CL cs.IR