Open-Domain Conversational Question Answering with Historical Answers
National Taiwan University(国立台湾大学)
开放域会话式问答可以被看作两个任务:段落检索和会话式问答,其中前者依赖于从大型语料库中选择候选段落,后者需要更好地理解问题并结合上下文来预测答案。本文提出了ConvADR-QA,利用历史答案来提高检索性能,并进一步实现更好的回答性能。在我们提出的框架中,检索器使用师生框架,以减少噪音从以前的回合。我们在基准数据集OR-QuAC上的实验表明,我们的模型在提取式和生成式读者设置中的表现优于现有基线,很好地证明了开放域会话问答的历史答案的有效性。
2022-11-17 cs.CL
Investigating Conversational Search Behavior For Domain Exploration
Technical University of Munich(慕尼黑工业大学);University of Twente(特温特大学)
对话式搜索作为一种新的信息检索模式,标志着从传统的搜索系统向具有智能搜索代理的交互式对话的转变。这种变化特别影响探索性的信息搜索环境,其中会话搜索系统可以引导发现不熟悉的领域。在这些场景中,用户发现由于不充分的背景知识,通常难以表达他们的信息目标。对话界面可以通过引出信息需求和缩小搜索空间来提供帮助。然而,由于信息寻求行为的复杂性,用于检索信息的会话界面的设计仍然是一个巨大的挑战。虽然以前的工作已经采用用户研究经验地面的系统设计,大多数现有的研究仅限于定义明确的搜索任务或已知的领域,因此,探索性的性质。因此,我们进行了一项实验室研究,以调查开放式搜索行为导航通过未知的信息景观。该研究由26名参与者组成,他们的搜索仅限于文本聊天界面。基于收集到的对话记录,我们应用统计分析和过程挖掘技术,揭示了五个不同领域的一般信息寻求模式。我们不仅确定了核心对话行为和它们之间的相互关系,使用户能够发现领域知识,但也得到会话搜索系统的设计建议。
2023-02-27 cs.CL
Credit C-GPT: A Domain-Specialized Large Language Model for Conversational Understanding in Vietnamese Debt Collection
Credit C-GPT是一种针对越南债务催收场景优化的领域专用大语言模型,通过整合多任务对话智能,提升对话理解、情感识别和意图检测等能力,为企业呼叫中心提供实时帮助和分析解决方案。
2026-01-15 cs.CL
Knowledge-Grounded Conversational Data Augmentation with Generative Conversational Networks
Amazon(亚马逊)
虽然丰富的开放域文本数据通常是可用的,并且可能包括有趣的现象(幽默,讽刺,同情等)。大多数是为语言处理任务设计的,并且通常是非会话格式。在这项工作中,我们采取了一个步骤自动生成会话数据使用生成会话网络,旨在受益于可用的语言和知识数据的广度,并训练开放域社会会话代理。我们使用自动指标和人工评估器评估我们在话题聊天数据集上有知识和没有知识的对话上的方法。我们的研究结果表明,对于没有知识基础的对话,GCN可以从种子数据中概括出来,产生相关性较低但更具吸引力的新对话,对于知识基础的对话,它可以产生更多的以知识为中心,流畅和吸引人的对话。具体来说,我们表明,对于具有10%种子数据的开放域对话,我们的方法的性能接近使用100%数据的基线,而对于基于知识的对话,它只使用1%的数据,就人类对流畅性,流畅性和相关性的评价而言,达到了相同的效果。
2022-07-22 cs.CL
ConCET: Entity-Aware Topic Classification for Open-Domain Conversational Agents
Emory University(埃默里大学)
在开放域会话系统中识别每个用户话语的主题(域)是所有后续语言理解和响应任务的关键步骤。特别地,对于复杂域,话语通常被路由到负责该域的单个组件。因此,正确地将用户话语映射到正确的域是至关重要的。为了解决这个问题,我们引入了ConCET:一个并发的可信度感知的会话主题分类器,它将实体类型信息与话语内容特征结合在一起。具体来说,ConCET利用实体信息来丰富话语表示,将字符,单词和实体类型嵌入到单个表示中。然而,对于具有数百万个可用实体的丰富域,将需要不切实际的标记训练数据量。为了补充我们的模型,我们提出了一个简单而有效的方法,用于生成合成训练数据,以增加通常有限数量的标记训练数据,使用常用的知识库,以生成额外的标记话语。我们首先在一个名为Self-Dialogue的公开可用的人与人对话数据集上广泛评估ConCET和我们提出的训练方法,以根据以前最先进的方法校准我们的方法;其次,我们在与真实用户进行人机对话的大型数据集上评估ConCET,作为Amazon Alexa Prize的一部分收集。我们的研究结果表明,ConCET显著提高了两个数据集上的主题分类性能,包括比最先进的深度学习方法提高了8-10%。我们补充我们的定量结果与系统性能的详细分析,这可用于进一步改进的会话代理。
2020-05-28 cs.CL
ISO-Standard Domain-Independent Dialogue Act Tagging for Conversational Agents
University of Trento(特伦托大学)
对话行为(DA)标注对于口语语言理解系统是至关重要的,因为它提供了说话者意图的一般表示,而不受特定对话系统的约束。不幸的是,具有DA注释的公开可用数据集都基于不同的注释方案,因此彼此不兼容。此外,他们的方案往往没有涵盖开放领域人机交互所需的所有方面。在本文中,我们提出了一种方法来映射几个公开可用的语料库的ISO标准的一个子集,以创建一个大型的任务无关的训练语料库DA分类。我们展示了使用此语料库训练一个独立于域的DA标记测试它的域外的会话数据的可行性,并认为多个语料库的训练,以实现跨不同DA类别的鲁棒性的重要性。
2018-06-12 cs.CL
Zero-Shot Adaptive Transfer for Conversational Language Understanding
Microsoft Corporation(微软公司)
像Alexa和Google Assistant这样的会话代理需要不断通过添加新的域来提高其语言理解能力。训练每个新领域需要大量的标记数据。虽然领域自适应方法减轻了注释成本,但是现有方法受到增加的训练时间和次优概念对齐的影响。为了解决这个问题,我们引入了一种新的Zero-Shot自适应传输方法槽标记,利用槽描述跨域传输可重用的概念,并享有有效的训练,没有任何明确的概念对齐。在与我们的商业个人数字助理相关的10个域的数据集上进行的广泛实验表明,我们的模型在很大程度上优于以前的最先进的系统,并且在低数据状态下实现了更高的改进。
2018-08-29 cs.CL
A Vietnamese Text-Based Conversational Agent
Faculty of Information Technology University of Engineering
本文介绍了一个越南语基于文本的会话代理架构的特定知识领域,这是集成在一个问答系统。当问答系统无法对用户的输入提供答案时,我们的会话代理可以介入与用户交互以向用户提供答案。实验结果是有希望的,我们的越南语基于文本的会话代理实现了积极的反馈,在大学学术监管领域进行的研究。
2019-11-26 cs.CL
TopiOCQA: Open-domain Conversational Question Answering with Topic Switching
Mila(米拉人工智能研究所);McGill University(麦吉尔大学);ETH Zürich(苏黎世联邦理工学院);Microsoft Montréal(微软蒙特利尔);ServiceNow Research(ServiceNow研究院);Facebook CIFAR AI Chair(Facebook-CIFAR人工智能讲席)
在会话式问答场景中,提问者试图通过一系列相互依赖的问题和答案来提取关于主题的信息。随着谈话的进行,他们可能会切换到相关的话题,这是在信息搜索会话中常见的现象。然而,当前用于会话式问答的数据集在两个方面受到限制:1)它们不包含主题转换;以及2)它们假设给出了会话的参考文本,即,该设置不是开放域。我们介绍TopiOCQA(发音为Tapioca),这是一个开放域的会话数据集,在维基百科上具有主题开关。TopiOCQA包含3,920个对话,其中包含信息寻求问题和自由形式的答案。平均而言,我们数据集中的对话跨越13个问答回合,涉及4个主题(文档)。TopiOCQA提出了一个具有挑战性的测试床的模型,在同一会话的多个回合,需要有效的检索,结合使用会话历史构建有效的响应。我们评估了几个基线,通过结合最先进的文档检索方法与神经阅读器模型。我们最好的模型达到了55.8的F1,比人类的表现低了14.2分,这表明我们的数据集很难。我们的数据集和代码可在https://mcgill-nlp.github.io/topiocqa上获得
2022-02-20 cs.CL
STYLE: Improving Domain Transferability of Asking Clarification Questions in Large Language Model Powered Conversational Agents
College of Computer Science, Sichuan University(四川大学计算机学院);National University of Singapore(新加坡国立大学);Ant Group(蚂蚁集团)
针对大型语言模型驱动的对话智能体在未见领域提出澄清问题时可迁移性差的问题,提出名为Style的新方法,通过避免一刀切策略实现有效领域迁移,在四个未见领域平均提升约10%搜索性能。
2024-06-01 cs.CL
Conversational Domain Adaptation of IndicTrans2 across 21 Indic Languages via Experience Replay and Model Soups
通过经验回放和模型汤方法,将IndicTrans2-1B适应至21种印度语言的对话风格,在保持通用领域性能的同时,平均对话chrF提升6.2。
2026-06-27 cs.CL
Pretrained language model transfer on neural named entity recognition in Indonesian conversational texts
命名实体识别(NER)是自然语言处理中的一项重要任务,但由于会话领域的噪声特征,其研究更具挑战性。此外,会话文本通常数量有限,使得监督任务不可行。要从小数据中学习,需要强归纳偏差。以前的工作依赖于手工制作的功能来编码这些偏见,直到迁移学习出现。在这里,我们探索了一种迁移学习方法,即语言模型预训练,在印尼语会话文本的NER任务。我们利用大型未标记数据(通用域)转移到会话文本,从而实现对有限域内数据的监督训练。我们报告了两种迁移学习变体,即监督模型微调和无监督预训练LM微调。我们的实验表明,当在小数据(100个句子)上训练时,这两种变体的性能都优于基线神经模型,测试F1得分绝对提高了32分。此外,我们发现预训练的LM编码的部分语音信息,这是一个强大的预测NER。
2019-02-21 cs.CL
DoQA -- Accessing Domain-Specific FAQs via Conversational QA
University of the Basque Country (UPV/EHU)(巴斯克大学);Zurich University of Applied Sciences (ZHAW)(苏黎世应用科学大学)
这项工作的目标是建立会话问答(QA)接口的大量领域特定的信息在FAQ网站。我们提出了DoQA,一个包含2,437个对话和10,917个QA对的数据集。这些对话是从三个Stack Exchange网站收集的,使用了众包的绿野仙踪方法。与以前的工作相比,DoQA包括定义明确的信息需求,导致更连贯和自然的对话,更少的事实问题,并且是多领域的。此外,我们引入了一个更现实的信息检索(IR)的情况下,系统需要找到答案的任何常见问题解答的文件。一个现有的,强大的,系统的结果表明,由于迁移学习从维基百科QA数据集和微调一个单一的FAQ域,它是可能的,建立高质量的会话QA系统的FAQ没有域内训练数据。良好的结果延续到更具挑战性的IR场景。在这两种情况下,仍然有足够的改进空间,正如更高的人类上限所表明的那样。
2020-05-18 cs.CL
Towards Learning Transferable Conversational Skills using Multi-dimensional Dialogue Modelling
Heriot-Watt University(赫瑞瓦特大学);Interaction Lab(互动实验室)
最近的统计方法已经改进了口语对话系统的鲁棒性和可伸缩性。然而,尽管最近在领域自适应方面取得了进展,但它们对域内数据的依赖仍然限制了它们的跨域可伸缩性。在本文中,我们认为,这个问题可以通过扩展现有的模型来反映和利用人类对话的多维性来解决。我们提出了我们的多维度,统计对话管理框架,其中可转移的会话技能可以通过分离出域独立的通信维度和使用多智能体强化学习来学习。我们与模拟用户的初步实验表明,我们可以加快学习过程中学习的政策。
2018-03-31 cs.CL
Learning to Ask Questions in Open-domain Conversational Systems with Typed Decoders
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京国家信息科学与技术研究中心);Shandong University(山东大学)
在大规模、开放领域的会话系统中提出好的问题是相当重要的,但却没有触及。该任务与传统的问题生成任务有着本质的不同,它不仅要求提问的模式多样化,而且要求提问的主题多样化、相关性强。我们观察到一个好的问题是{\it疑问词}、{\it主题词}和{\it普通词}的自然组合。疑问词词汇化提问模式,话题词处理对话中话题转换的关键信息,普通词在构成自然句子中发挥句法和语法作用。我们设计了两种类型的解码器(\textit{soft typed decoder}和\textit{hard typed decoder}),其中估计了三种类型的类型分布,并用于调制最终生成分布。大量的实验表明,类型化解码器的性能优于最先进的基线,可以生成更有意义的问题。
2018-05-13 cs.CL
Would you Like to Talk about Sports Now? Towards Contextual Topic Suggestion for Open-Domain Conversational Agents
Emory University(埃默里大学)
为了进行真正的对话,智能代理应该能够偶尔采取主动,并推荐下一个自然的对话主题。这是一项具有挑战性的任务。代理人建议的话题应该与人相关,适合对话上下文,并且代理人应该有一些有趣的话题要说。因此,照本宣科,或一刀切,基于受欢迎程度的话题建议注定会失败。相反,我们探索不同的方法,为开放域对话的个性化,上下文主题建议。我们正式的会话主题建议问题(CTS),以更清楚地确定的假设和要求。我们还探索了三种可能的方法来解决这个问题:(1)基于模型的顺序主题建议,以捕获会话上下文(CTS-Seq),(2)基于协同过滤的建议,以捕获以前成功的会话从类似的用户(CTS-CF),和(3)一个混合的方法结合会话上下文和协同过滤。为了评估这些方法的有效性,我们使用了作为Amazon Alexa Prize 2018对话AI挑战赛的一部分收集的真实对话。结果令人鼓舞:CTS-Seq模型建议的主题比基线高出23%的准确度,并且将协同过滤信号并入混合CTS-Seq-CF模型中进一步将推荐准确度提高了12%。总之,我们提出的模型,实验和分析显着推进开放域会话代理的研究,并为未来的改进提出了有前途的方向。
2020-05-28 cs.CL
A Neural Conversational Model
Google(谷歌)
会话建模是自然语言理解和机器智能领域的一项重要任务。尽管存在先前的方法,但它们通常限于特定的域(例如,预订机票),并需要手工制作的规则。在本文中,我们提出了一个简单的方法,这项任务,它使用最近提出的序列序列框架。我们的模型通过预测对话中前一句或前几句的下一句来进行对话。我们模型的优势在于它可以端到端地训练,因此需要更少的手工规则。我们发现,这个简单的模型可以生成简单的对话,给定一个大型的会话训练数据集。我们的初步结果表明,尽管优化了错误的目标函数,该模型能够很好地转换。它能够从特定领域的数据集和电影字幕的大型、嘈杂和一般领域的数据集中提取知识。在特定领域的IT帮助台数据集上,该模型可以通过对话找到技术问题的解决方案。在有噪声的开放域电影文本数据集上,该模型可以执行简单形式的常识推理。正如预期的那样,我们还发现缺乏一致性是我们模型的一个常见故障模式。
2015-07-22 cs.CL
Contextual Dialogue Act Classification for Open-Domain Conversational Agents
Emory University(埃默里大学)
对会话中的用户话语的一般意图进行分类,也称为对话行为(DA),例如,开放式问题、意见陈述或意见请求是会话主体的自然语言理解(NLU)的关键步骤。虽然DA分类已经在人与人的对话中得到了广泛的研究,但对于新兴的开放域自动会话代理,它还没有得到充分的探索。此外,尽管话语级DA分类取得了重大进展,但对对话话语的充分理解需要会话语境。另一个挑战是缺乏开放领域人机对话的可用标记数据。为了解决这些问题,我们提出了一种新的方法,CDAC(上下文对话行为分类器),一个简单而有效的上下文对话行为分类的深度学习方法。具体来说,我们使用迁移学习来调整在人机对话中训练的模型,以预测人机对话中的对话行为。为了研究我们方法的有效性,我们在著名的Switchboard人机对话数据集上训练我们的模型,并对其进行微调,以预测人机对话数据中的对话行为,这些数据是作为Amazon Alexa Prize 2018竞赛的一部分收集的。结果表明,CDAC模型在Switchboard数据集上的表现比话语级最先进的基线高出8.0%,并且与最新报道的最先进的上下文DA分类结果相当。此外,我们的研究结果表明,微调的CDAC模型的手动标记的人机对话的小样本,使CDAC更准确地预测对话行为在真实用户的对话,建议未来的改进方向。
2020-05-28 cs.CL
Training Conversational Agents with Generative Conversational Networks
Amazon(亚马逊)
网络上丰富的开放域文本数据为语言处理带来了巨大的进步。然而,虽然这些数据可能适合语言处理任务,但它们大多是非会话的,缺乏人类交互中出现的许多现象,这就是为什么我们在会话人工智能中仍然存在许多未解决的挑战的原因之一。在这项工作中,我们试图解决这个问题,使用生成会话网络自动生成数据和训练社会会话代理。我们在TopicalChat上使用自动指标和人工评估器评估了我们的方法,结果表明,使用10%的种子数据,它的性能接近使用100%数据的基线。
2021-10-15 cs.CL
Hierarchical Multi-Task Natural Language Understanding for Cross-domain Conversational AI: HERMIT NLU
Heriot-Watt University(赫瑞-瓦特大学)
我们提出了一种新的神经架构,用于口语对话系统中的广泛覆盖的自然语言理解。我们开发了一个分层的多任务架构,它提供了句子含义的多层表示(即,对话行为和框架式结构)。该架构是自我注意力机制和BiLSTM编码器的层次结构,随后是CRF标记层。我们描述了各种各样的实验,表明我们的方法在用对话行为和框架语义注释的数据集上获得了有希望的结果。此外,我们证明了它对不同的、公开可用的NLU数据集的适用性,该数据集注释了特定领域的意图和相应的语义角色,提供了比RASA、Dialogflow、LUIS和Watson等最先进的工具更高的整体性能。例如,我们在Rasa、Dialogflow和LUIS上的实体标记F分数平均提高了4.45%。
2019-10-02 cs.CL
Beyond Domain APIs: Task-oriented Conversational Modeling with Unstructured Knowledge Access Track in DSTC9
Amazon Alexa AI(亚马逊Alexa AI);National Taiwan University(国立台湾大学)
面向任务的对话系统的大多数先前工作被限制到域API的有限覆盖,而用户经常具有未被API覆盖的域相关请求。这一挑战路径旨在通过整合外部非结构化知识源来扩大面向任务的对话系统的覆盖范围。我们定义了三个任务:知识寻求转向检测,知识选择和知识接地响应生成。我们介绍了三个任务的数据集和神经基线模型。挑战赛共收到来自24支参赛队伍的105份参赛作品。在评估结果中,集成方法与不同的大规模预训练语言模型取得了很高的性能,提高了知识选择能力和更好的泛化到看不见的数据。
2021-02-04 cs.CL
Strong and Efficient Baselines for Open Domain Conversational Question Answering
Idiap Research Institute(伊迪亚普研究所);EPFL(洛桑联邦理工学院);Amazon Alexa AI(亚马逊Alexa人工智能部门)
本文针对ODConvQA任务中现有DPR-FiD流水线性能下降的问题,提出在检索器与阅读器间引入快速重排序组件及针对性微调的强高效基线方法,在提升SotA结果的同时降低60%阅读器延迟。
2023-10-23 cs.CL
Towards Scalable Multi-domain Conversational Agents: The Schema-Guided Dialogue Dataset
Google Research(谷歌研究院)
Google Assistant、Alexa和Siri等虚拟助理为跨多个域的大量服务和API提供对话界面。这样的系统需要支持不断增加的服务数量,这些服务可能具有重叠的功能。此外,这些服务中的一些服务几乎没有可用的训练数据。现有的面向任务的对话的公共数据集不足以捕捉这些挑战,因为它们覆盖几个领域,并假设每个域的一个静态本体。在这项工作中,我们介绍了模式引导对话(SGD)数据集,包含超过16k的多域会话跨越16个域。我们的数据集在规模上超过了现有的面向任务的对话语料库,同时也突出了与构建大规模虚拟助手相关的挑战。它为许多任务提供了一个具有挑战性的测试平台,包括语言理解、槽填充、对话状态跟踪和响应生成。沿着同样的思路,我们提出了一个模式引导的范式为任务导向的对话,其中预测的意图和插槽,作为输入,使用他们的自然语言描述的动态设置。这允许单个对话系统容易地支持大量服务,并且便于新服务的简单集成,而不需要额外的训练数据。基于所提出的范例,我们发布了一个对话状态跟踪模型,能够zero-shot推广到新的API,同时在常规设置中保持竞争力。
2020-01-29 cs.CL
A Unified Implicit Dialog Framework for Conversational Search
IBM Thomas J. Watson Research Center(IBM托马斯·J·沃森研究中心)
我们提出了一个统一的隐式对话框架,面向目标,信息寻求任务的会话搜索应用程序。它的目的是使对话框与域数据交互,而不回复显式编码的规则,而是利用底层数据表示来构建对话框交互所需的组件,我们在这项工作中将其称为隐式对话框。拟议框架包括一系列端到端可培训模块。集中式知识表示用于语义地为多个对话模块提供基础。一套相关的工具与框架相结合,收集最终用户的意见,以不断改进系统。目标是通过识别可以在许多最终用户应用程序中进行调整和重用的组件和数据来促进会话系统的开发。我们证明了我们的方法,通过创建几个独立的域的会话代理。
2018-02-12 cs.CL
A scalable framework for learning from implicit user feedback to improve natural language understanding in large-scale conversational AI systems
自然语言理解(NLU)是对话AI或数字助理系统中的一个既定组件,负责产生对用户请求的语义理解。我们提出了一种可扩展的自动方法,通过利用隐式用户反馈来改善大规模会话AI系统中的NLU,并洞察到用户交互数据和对话上下文具有丰富的嵌入式信息,可以从中推断用户满意度和意图。特别是,我们提出了一个通用的领域不可知框架,用于管理新的监督数据,以改善来自实时生产流量的NLU。通过一组广泛的实验,我们展示了应用该框架和改进大规模生产系统的NLU的结果,并展示了其在10个领域的影响。
2021-09-10 cs.CL
The Dangers of trusting Stochastic Parrots: Faithfulness and Trust in Open-domain Conversational Question Answering
Alana AI(阿兰人工智能公司)
本文研究开放域对话问答中语言对话行为对用户信任的影响,发现词汇对齐等“鹦鹉学舌”行为会提高信任度,但可能掩盖不忠实回答,从而揭示此类系统的潜在危险。
2023-05-25 cs.CL
Conversational Machine Comprehension: a Literature Review
UMass Amherst(马萨诸塞大学阿默斯特分校);UMass Lowell(马萨诸塞大学洛厄尔分校)
会话机器理解(CMC)是会话人工智能的一个研究方向,它期望机器理解开放域自然语言文本,然后进行多轮会话来回答与文本相关的问题。虽然机器阅读理解(MRC)的大多数研究都围绕着单轮问答(QA),但由于通过BERT等神经语言模型进行自然语言理解的进步以及CoQA和QuAC等大规模会话数据集的引入,多轮CMC最近获得了突出地位。然而,兴趣的增加导致了一系列并发出版物,每一个都有不同但结构相似的建模方法和对周围文献的不一致看法。随着提交给会话数据集的模型数量每年都在增加,需要整合这一领域的分散知识以简化未来的研究。这篇文献综述试图提供一个全面的CMC概述,重点是最近发表的模型的共同趋势,特别是在他们的方法来处理会话历史。该评论综合了CMC模型的通用框架,同时强调了最近的方法的差异,并打算作为未来研究人员的CMC纲要。
2020-11-05 cs.CL
Detecting early signs of depression in the conversational domain: The role of transfer learning in low-resource scenarios
PRHLT research center, Universitat Politècnica de València(瓦伦西亚理工大学PRHLT研究中心);Faculty of Mathematics and Computer Science, University of Bucharest(布加勒斯特大学数学与计算机科学学院);CIIRC, Czech Technical University(捷克技术大学捷克信息学、机器人与控制论研究所)
抑郁症在社会中的高度流行引起了对新的数字化工具的需求,以帮助其早期发现。为此,现有的研究主要集中在检测社交媒体领域的抑郁症,其中有足够的数据量。然而,随着Siri或Alexa等会话代理的兴起,会话领域变得越来越重要。不幸的是,缺乏对话领域的数据。我们进行了一项研究,侧重于领域自适应从社会媒体到会话域。我们的方法主要利用文本的矢量表示中保留的语言信息。我们描述了迁移学习技术,以分类用户谁患有抑郁症的早期迹象与高回忆。我们在一个常用的会话数据集上实现了最先进的结果,并且我们强调了该方法如何轻松地用于会话代理。我们公开发布所有源代码。
2022-04-22 cs.CL cs.LG
Adaptive Query Rewriting: Aligning Rewriters through Marginal Probability of Conversational Answers
The Chinese University of Hong Kong(香港中文大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出 AdaQR 框架,仅用约10%重写标注且无需段落标签,通过答案对 Top-K 段落的边际概率衡量检索器偏好,并用 DPO 优化重写器,提升领域内外 CQA 检索效果。
2024-06-16 cs.CL
Leveraging Twitter for Low-Resource Conversational Speech Language Modeling
University of Washington(华盛顿大学)
在涉及会话语音的应用中,数据稀疏性是构建更好的语言模型的限制因素。我们提出了一种简单的,独立于语言的方法,可以快速从Twitter中收集大量数据,以补充与该领域更紧密匹配的较小训练集。这些技术导致四种低资源语言的困惑显着减少,即使这些语言在Twitter上的存在相对较小。我们还发现,Twitter的文本是更有用的学习词类比域中的文本,使用这些词类导致进一步减少困惑。此外,我们介绍了一种方法,使用社会和文本信息,优先级的下载队列在Twitter的爬行。这最大化了可以收集的有用数据的数量,影响了困惑度和词汇覆盖率。
2015-04-09 cs.CL
Multi-Type Conversational Question-Answer Generation with Closed-ended and Unanswerable Questions
POSTECH(浦项科技大学)
会话式问答(CQA)有助于对给定上下文的增量和交互式理解,但由于数据稀缺的问题,构建CQA系统对于许多领域来说是困难的。在本文中,我们介绍了一种新的方法来合成数据的CQA与各种问题类型,包括开放式,封闭式和无法回答的问题。我们为每种问题类型设计了不同的生成流程,并将它们有效地结合在一个单一的共享框架中。此外,我们设计了一个分层的可回答性分类(分层AC)模块,提高质量的合成数据,同时获得无法回答的问题。人工检查表明,用我们的框架生成的合成数据具有与人类生成的对话非常相似的特征。在四个领域中,在我们的合成数据上训练的CQA系统确实显示出与在人类注释数据上训练的系统接近的良好性能。
2022-10-24 cs.CL
Punctuation restoration in Swedish through fine-tuned KB-BERT
EECS(欧洲经济与计算机科学学院);National Library of Sweden(瑞典国家图书馆)
本文提出了一种利用BERT模型自动恢复瑞典语标点符号的方法。该方法是基于KB-BERT,一个公开的,神经网络语言模型预先训练的瑞典国家图书馆的瑞典语语料库。然后,利用政府文本语料库,对这一模式进行了微调,以适应这一具体任务。如果输入的是小写和不加标点的瑞典语文本,模型应该返回语法正确的标点文本副本作为输出。这个问题的成功解决方案为一系列NLP领域带来了好处,例如语音到文本和自动文本。该项目只考虑了标点符号句号,逗号和问号,因为缺乏更罕见的标记数据,如标点符号。此外,有些标记在某种程度上可以与更常见的标记互换,例如感叹号和句号。因此,数据集的所有感叹号都被句号取代。经过微调的瑞典BERT模型,被称为presto BERT,取得了78.9的F1总成绩。该模型的得分与国际同行相似,匈牙利和中国模型的F1得分分别为82.2和75.6。作为进一步的比较,进行了人类评估案例研究。人类测试组的总体F1得分为81.7,但在句号和逗号上的得分都比prestoBERT差得多。检查模型和人类的输出句子显示出令人满意的结果,尽管F1分数存在差异。这种脱节似乎源于不必要地专注于复制测试集中使用的完全相同的标点符号,而不是提供任何数量的正确解释。如果可以重写损失函数,以奖励所有语法正确的输出,而不是仅仅奖励一个原始示例,那么prestoBERT和人类组的性能都可以显著提高。
2022-02-14 cs.AI cs.CL cs.LG
On Improving Faithfulness of Podcasts from Documents
Indian Institute of Science(印度科学研究所);Adobe Research(Adobe研究院)
研究基于文档的播客生成中的忠实度问题,构建数据集并用多个大语言模型生成记录,引入轮次级评判框架。发现先进模型也常生成无根据内容,提出catch - n - repair框架,实验证明该框架能提升播客生成的忠实度。
2026-07-27 cs.CL
ShopTalk: A System for Conversational Faceted Search
Google(谷歌)
我们提出ShopTalk,一个多回合的会话分面搜索系统的购物,旨在处理大型和复杂的模式,超出了范围的最先进的插槽填充系统。ShopTalk将对话管理从实现中分离出来,从而允许对话理解系统是域不可知的,并且不依赖于特定的购物应用。对话理解系统由深度学习的上下文语言理解模块和主要基于规则的对话状态跟踪器(DST)组成,上下文理解模块解释用户话语,DST更新对话状态并制定针对实现引擎的搜索请求。这两个模块之间的接口由一组最小的与域无关的“意图操作符”组成,这些操作符指示DST如何更新对话框状态。ShopTalk于2020年部署在Google Assistant上,用于购物搜索。
2021-09-02 cs.CL
Topic Modelling of Swedish Newspaper Articles about Coronavirus: a Case Study using Latent Dirichlet Allocation Method
Saarland University(萨尔兰大学);University of Malta(马耳他大学);University of Manchester(曼彻斯特大学)
本研究使用潜在狄利克雷分配(LDA)方法对6515篇瑞典报纸冠状病毒文章进行主题建模,分析约14个月内的主题变化,为流行病时代的社会经济与医疗分析提供公开可用的语料库和代码。
2023-04-18 cs.CL cs.SI
Addressing Objects and Their Relations: The Conversational Entity Dialogue Model
Cambridge University Engineering Department(剑桥大学工程系)
统计口语对话系统通常依赖于单域或多域对话模型,该模型在其对复杂对话结构建模的能力方面受到限制,例如,关系在这项工作中,我们提出了一种新的对话模型,是围绕实体,并能够建模的关系,以及相同类型的多个实体。我们展示了在对话层面上的关系建模的原型实现的好处,并表明,一个训练有素的政策,使用这些关系优于多域基线。此外,我们表明,通过对对话级别上的关系建模,系统能够处理用户输入中存在的关系,甚至学会在系统响应中解决它们。
2019-01-05 cs.CL
Nudging Neural Conversational Model with Domain Knowledge
Microsoft Research(微软研究院)
神经会话模型是有吸引力的,因为人们可以训练一个模型直接对对话的例子与最少的标签。然而,对于少量的数据,它们通常无法概括测试数据,因为它们倾向于捕获虚假的特征,而不是语义上有意义的领域知识。为了解决这个问题,我们提出了一种新的方法,允许任何人类教师将他们的领域知识以自然语言规则的形式转移到会话模型中。我们用三个不同的对话数据集测试了我们的方法。所有领域的性能提高证明了我们提出的方法的有效性。
2018-11-15 cs.AI cs.CL
Multi2WOZ: A Robust Multilingual Dataset and Conversational Pretraining for Task-Oriented Dialog
University of Mannheim(曼海姆大学);Bocconi University(博科尼大学);University of Cambridge(剑桥大学);University of Würzburg(维尔茨堡大学)
对(多领域)面向任务的对话(TOD)的研究主要集中在英语语言上,主要是由于缺乏其他语言的强大的TOD数据集,阻碍了对这个关键的NLP应用领域的跨语言迁移的系统研究。在这项工作中,我们介绍了Multi2WOZ,一个新的多语言多域TOD数据集,来自成熟的英语数据集MultiWOZ,它跨越了四种类型不同的语言:中文,德语,阿拉伯语和俄语。与并行工作相比,Multi2WOZ包含目标语言的黄金标准对话框,可直接与英语数据集的开发和测试部分进行比较,从而能够对TOD的跨语言迁移性能进行可靠和比较性的估计。然后,我们介绍了一个新的框架,多语言会话专业化的预训练语言模型(PrLM),旨在促进跨语言迁移任意下游的TOD任务。使用这种专门针对具体目标语言的会话PrLM,我们系统地基准测试了一些zero-shot和Few-Shot跨语言迁移方法在两个标准的TOD任务:对话状态跟踪和响应检索。我们的实验表明,在大多数设置中,最佳性能需要(I)目标语言的会话专业化和(ii)具体的TOD任务的Few-Shot转移的组合。最重要的是,我们表明,我们在目标语言的会话专业化允许一个非常样本高效的Few-Shot传输下游的TOD任务。
2022-05-20 cs.CL
Tri-level Joint Natural Language Understanding for Multi-turn Conversational Datasets
The University Of Sydney(悉尼大学);The University Of Western Australia(西澳大学)
本文提出三层联合自然语言理解方法,在意图和槽位基础上引入领域层并实现三层语义交互,首次在多轮对话数据集上验证其槽位填充和意图检测性能优于现有最优联合模型。
2023-05-28 cs.CL
HalluDetect: Detecting, Mitigating, and Benchmarking Hallucinations in Conversational Systems in the Legal Domain
Indian Institute of Technology Bombay(印度理工学院孟买学院);National Law School of India University(印度国家法律学校大学)
本文提出 HalluDetect,一个用于法律领域消费者投诉聊天机器人的幻觉检测系统,并基准测试了五种缓解架构,发现 AgentBot 能在保持最高 token 准确率的同时最有效地降低每轮幻觉率。
2025-10-12 cs.CL
Open-Domain Conversational Search Assistant with Transformers
NOVA School of Science and Technology(诺瓦科学与技术学院);School of Science & Technology(科学技术学院)
开放域会话搜索助手旨在以会话的方式回答用户关于开放主题的问题。在本文中,我们将展示Transformer架构如何在关键的IR任务中实现最先进的结果,利用创建会话助理,这些会话助理使用单一但信息丰富的答案进行开放域会话搜索。特别是,我们提出了一个开放域的抽象会话搜索代理管道,以解决两个主要的挑战:第一,会话上下文感知搜索和第二,抽象的搜索答案生成。为了解决第一个挑战,会话上下文建模与查询重写方法,展开的上下文的会话到一个特定的时刻,以搜索正确的答案。然后,这些答案被传递到基于transformer的重新排序器,以进一步提高检索性能。第二个挑战是用最近的抽象Transformer架构来处理,以生成最相关段落的摘要。实验表明,Transformers在会话搜索的所有任务中都提供了稳定的性能,超过了TREC CAST 2019年的最佳基线。
2021-01-20 cs.CL cs.IR cs.LG
Conv-CoA: Improving Open-domain Question Answering in Large Language Models via Conversational Chain-of-Action
Northwestern University(西北大学)
本文提出Conv-CoA框架,通过动态推理-检索机制、Hopfield检索器和对话式多参考置信度分数,解决开放域对话问答中的幻觉、推理弱和检索性能差问题,在五个方向和两个基准上超越23种最先进方法。
2024-05-28 cs.AI cs.CL
Target-Guided Open-Domain Conversation Planning
Tohoku University(东北大学);RIKEN(理化学研究所)
以前的研究解决面向目标的会话任务缺乏一个重要的概念,已深入研究的背景下,面向目标的人工智能代理,即规划。在这项研究中,我们提出了目标引导的开放域会话规划(TGCP)任务,以评估神经会话代理是否具有目标导向的会话规划能力。使用TGCP任务,我们调查现有的检索模型和最近的强生成模型的会话规划能力。实验结果揭示了当前技术面临的挑战。
2022-09-20 cs.CL
Evaluating the Performance of RAG Methods for Conversational AI in the Airport Domain
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Royal Schiphol Group(皇家施比尔集团)
针对机场高动态环境下的对话式AI需求,本文对比三种RAG方法的性能,发现Graph RAG准确率最高且幻觉少,SQL RAG幻觉也显著低于传统RAG,二者更适配机场场景。
2025-05-19 cs.CL
SDR-GNN: Spectral Domain Reconstruction Graph Neural Network for Incomplete Multimodal Learning in Conversational Emotion Recognition
College of Computer and Mathematics, Central South University of Forestry and Technology(中南林业科技大学计算机与数学学院);Department of Computer Science, State University of New York(纽约州立大学计算机科学系)
针对对话情感识别中的模态缺失问题,本文提出SDR-GNN,通过语义交互图、加权关系聚合、谱域多频恢复和多头注意力融合提升识别性能,并在多个真实数据集上超过现有方法。
2024-11-29 cs.CL
Open-Domain Question Answering Goes Conversational via Question Rewriting
Apple Inc.(苹果公司);University of Amsterdam(阿姆斯特丹大学)
我们引入了一个新的数据集,用于会话上下文中的问题重写(QReCC),其中包含14K对话和80K问答对。QReCC的任务是在1000万个网页(分成5400万个段落)中找到会话问题的答案。同一对话中的问题的答案可能分布在多个网页上。QReCC提供注释,使我们能够训练和评估端到端会话问答(QA)任务所需的问题重写,段落检索和阅读理解的各个子任务。我们报告了一个强大的基线方法的有效性,结合了国家的最先进的模型的问题重写,开放域QA的竞争力模型。我们的结果为QReCC数据集设定了第一个基线,F1为19.10,而人类的上限为75.45,这表明设置的难度和很大的改进空间。
2021-04-14 cs.CL cs.IR
ErAConD : Error Annotated Conversational Dialog Dataset for Grammatical Error Correction
Columbia University(哥伦比亚大学);Zhejiang University(浙江大学);University of California, Davis(加利福尼亚大学戴维斯分校)
针对现有语法错误纠正(GEC)数据集局限于规范书面文本的问题,提出首个对话场景GEC数据集ErAConD,用其微调最先进GEC模型可提升16个百分点精度,还设计按可理解性影响排序的标注方案,有效改善对话场景下GEC性能。
2022-05-03 cs.CL
Exploring Conversational Language Generation for Rich Content about Hotels
University of California Santa Cruz(加州大学圣克鲁兹分校);Google Content Studio(谷歌内容工作室);Google Research(谷歌研究院)
用于旅馆和游客信息的对话系统通常简化了域的丰富性,将系统话语集中在仅少数选定的属性上,诸如价格、位置和房间类型。然而,更多的内容通常可用于酒店,通常多达50个不同的实例化属性用于单个实体。需要新的方法来使用这些内容为酒店信息生成自然对话,并且通常用于具有如此丰富复杂内容的任何领域。我们描述了三个实验,旨在收集数据,可以通知NLG的酒店对话,并显示,毫不奇怪,在原来的书面酒店描述的网页上提供的每一个酒店的句子是文体不是一个很好的匹配会话互动。我们量化的文体特征,表征原始文本数据和收集的对话数据之间的差异。我们计划在文体模型中使用这些来生成,并对检索到的话语进行评分,以用于酒店对话
2018-05-01 cs.CL
A Unified Pre-training Framework for Conversational AI
Baidu Inc.(百度公司)
在这项工作中,我们探讨了PLATO-2在各种对话系统中的应用,包括开放域对话,基于知识的对话和面向任务的对话。PLATO-2最初被设计为一个开放领域的聊天机器人,通过两个阶段的课程学习进行训练。在第一阶段中,学习粗粒度的响应生成模型以适应简化的一对一映射关系。该模型适用于面向任务的会话,给定的语义映射往往是确定性的任务完成。在第二阶段中,另一个细粒度的生成模型和评估模型,进一步学习不同的响应生成和一致性估计,分别。该模型具有良好的一对多映射能力,适用于开放领域会话和基于知识的会话。对于PLATO-2的综合评估,我们参与了DSTC 9的多个任务,包括开放域对话的交互评估(Track 3-task 2),知识基础对话的静态评估(Track 3-task 1)和端到端面向任务的对话(Track 2-task 1)。PLATO-2在所有三项任务中均获得第一名,验证了其作为各种对话系统的统一框架的有效性。
2021-05-27 cs.CL
Towards conversational assistants for health applications: using ChatGPT to generate conversations about heart failure
Department of Computer Science(计算机科学系);Department of Biomedical and Health Information Sciences(生物医学与健康信息科学系);Department of Medicine(医学系);Department of Communications(通讯系)
本文研究利用ChatGPT为非裔美国心力衰竭患者生成自我护理对话,通过四种提示策略并纳入SDOH属性,发现有效提示设计能提升对话质量,但ChatGPT在医疗沟通中仍缺乏同理心与参与度。
2025-05-06 cs.CL
Beyond Domain APIs: Task-oriented Conversational Modeling with Unstructured Knowledge Access
Amazon Alexa AI(亚马逊Alexa人工智能部门)
面向任务的对话系统的大多数先前工作被限制到域API的有限覆盖,而用户经常具有未被API覆盖的域相关请求。在本文中,我们建议扩大覆盖面的面向任务的对话系统,将外部非结构化的知识来源。我们定义了三个子任务:知识寻求转向检测、知识选择和基于知识的响应生成,这些可以单独或联合建模。我们介绍了一个增强版本的MultiWOZ 2.1,其中包括新的API覆盖范围以外的转弯和基于外部知识来源的响应。我们使用传统和神经方法为每个子任务提供基线。我们的实验结果表明,需要在这个方向上进行进一步的研究,使更多的信息会话系统。
2020-06-05 cs.AI cs.CL
Fluent Response Generation for Conversational Question Answering
Ohio State University(俄亥俄州立大学);Amazon Alexa(亚马逊Alexa)
问答(QA)是开放域会话Agent的一个重要方面,在会话QA(ConvQA)子任务中获得了特定的研究热点。最近的ConvQA努力的一个显着的局限性是响应是从目标语料库中提取答案跨度,从而忽略了高质量会话代理的自然语言生成(NLG)方面。在这项工作中,我们提出了一种方法,用于将QA响应定位在一个SEQ2SEQ NLG方法中,以生成流畅的语法回答响应,同时保持正确性。从技术角度来看,我们使用数据增强来为端到端系统生成训练数据。具体来说,我们开发了句法转换(ST)来产生特定于问题的候选答案响应,并使用基于BERT的分类器对它们进行排名(Devlin等人,2019年)。SQuAD 2.0数据的人体评价(Rajpurkar等人,2018)证明,所提出的模型在生成对话响应方面优于基线CoQA和QuAC模型。我们通过对CoQA数据集进行测试,进一步展示了我们模型的可扩展性。代码和数据可在https://github.com/abaheti95/QADialogSystem上获得。
2020-12-17 cs.CL
ADVISER: A Toolkit for Developing Multi-modal, Multi-domain and Socially-engaged Conversational Agents
University of Stuttgart(斯图加特大学)
我们提出了ADVISER -一个开源的,多域的对话系统工具包,使开发多模态(包括语音,文本和视觉),社会参与(如情感识别,参与度预测和反向通道)会话代理。我们的工具包的最终基于Python的实现是灵活的,易于使用,易于扩展,不仅适用于技术经验丰富的用户,如机器学习研究人员,而且适用于技术经验较少的用户,如语言学家或认知科学家,从而为协作研究提供了一个灵活的平台。开源代码链接:https://github.com/DigitalPhonetics/adviser
2020-05-04 cs.AI cs.CL
UniConv: A Unified Conversational Neural Architecture for Multi-domain Task-oriented Dialogues
Singapore Management University(新加坡管理大学);Salesforce Research Asia(Salesforce亚洲研究院);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
建立一个端到端的会话代理多领域的面向任务的对话一直是一个开放的挑战,主要有两个原因。首先,跟踪多个域的对话状态是不平凡的,因为对话代理必须从所有相关域获得完整的状态,其中一些可能具有域之间的共享槽以及仅针对一个域的唯一槽。其次,对话代理还必须处理跨域的各种类型的信息,包括对话上下文、对话状态和数据库,以生成对用户的自然响应。与现有的通常被设计为单独训练每个模块的方法不同,我们提出了“UniConv”--一种用于多领域面向任务的对话中的端到端会话系统的新型统一神经架构,其被设计为联合训练(i)通过独立地在槽和域级别学习信号来跟踪对话状态的双层状态跟踪器,以及(ii)联合对话行为和响应生成器,其合并来自各种输入组件的信息并且同时对对话行为和目标响应进行建模。我们在MultiWOZ2.1基准测试中进行了对话状态跟踪、上下文到文本和端到端设置方面的全面实验,实现了优于竞争基准的性能。
2020-11-15 cs.CL cs.LG