Conv-CoA: Improving Open-domain Question Answering in Large Language Models via Conversational Chain-of-Action
Northwestern University(西北大学)
本文提出Conv-CoA框架,通过动态推理-检索机制、Hopfield检索器和对话式多参考置信度分数,解决开放域对话问答中的幻觉、推理弱和检索性能差问题,在五个方向和两个基准上超越23种最先进方法。
2024-05-28 cs.AI cs.CL
Open-Domain Conversational Question Answering with Historical Answers
National Taiwan University(国立台湾大学)
开放域会话式问答可以被看作两个任务:段落检索和会话式问答,其中前者依赖于从大型语料库中选择候选段落,后者需要更好地理解问题并结合上下文来预测答案。本文提出了ConvADR-QA,利用历史答案来提高检索性能,并进一步实现更好的回答性能。在我们提出的框架中,检索器使用师生框架,以减少噪音从以前的回合。我们在基准数据集OR-QuAC上的实验表明,我们的模型在提取式和生成式读者设置中的表现优于现有基线,很好地证明了开放域会话问答的历史答案的有效性。
2022-11-17 cs.CL
Technical report on Conversational Question Answering
ZhuiYi Technology(追一科技)
会话问答是一项具有挑战性的任务,因为它需要了解会话历史。在这个项目中,我们提出了一个新的系统RoBERTa + AT +KD,它涉及理性标记多任务,对抗训练,知识蒸馏和语言后处理策略。在没有数据增强的情况下,我们的单一模型在CoQA测试集上达到90.4(F1),比当前最先进的单一模型高出2.6%F1。
2019-09-24 cs.CL
CoQA: A Conversational Question Answering Challenge
Stanford University(斯坦福大学);Computer Science Department(计算机科学系)
人类通过参与涉及一系列相互关联的问题和答案的对话来收集信息。因此,对于帮助收集信息的机器来说,使它们能够回答会话问题至关重要。我们介绍了CoQA,一种用于构建会话式问答系统的新型数据集。我们的数据集包含127k个问题和答案,这些问题和答案来自七个不同领域的8k个文本段落对话。问题是对话式的,答案是自由形式的文本,并在文章中突出显示相应的证据。我们深入分析了CoQA,并表明会话问题具有现有阅读理解数据集中不存在的挑战性现象,例如,共指和语用推理。我们在CoQA上评估强大的会话和阅读理解模型。最好的系统获得了65.4%的F1分数,比人类的表现(88.8%)落后23.4分,这表明有足够的改进空间。我们在http://stanfordnlp.github.io/coqa/上推出CoQA作为对社区的挑战
2019-03-29 cs.AI cs.CL cs.LG
CoDi: Conversational Distillation for Grounded Question Answering
Reality Labs at Meta(元宇宙实验室(Meta旗下));FAIR at Meta(Meta人工智能研究院)
提出对话蒸馏框架CoDi,为约10亿参数的小语言模型合成大规模对话数据,在接地问答任务上达到与人工数据相当的性能,并超越更大规模指令微调模型。
2024-08-20 cs.AI cs.CL
QAConv: Question Answering on Informative Conversations
Salesforce AI Research(Salesforce人工智能研究院);The Hong Kong University of Science and Technology(香港科技大学)
本文介绍了QAConv,一个新的问答(QA)数据集,使用会话作为知识源。我们专注于信息对话,包括商业电子邮件,小组讨论和工作渠道。与开放领域和面向任务的对话不同,这些对话通常很长、复杂、异步,并且涉及强大的领域知识。总的来说,我们从10,259个选定的对话中收集了34,608个QA对,其中包括人类书写和机器生成的问题。我们使用问题生成器和对话摘要作为辅助工具来收集和推荐问题。该数据集有两个测试场景:块模式和完整模式,这取决于是否提供或检索接地部分会话。实验结果表明,最先进的预训练QA系统具有有限的zero-shot性能,并且倾向于将我们的问题预测为无法回答。我们的数据集提供了一个新的训练和评估测试平台,以促进对话研究的QA。
2022-04-14 cs.AI cs.CL cs.IR
An Empirical Study of Content Understanding in Conversational Question Answering
National Taiwan University(国立台湾大学)
随着上下文无关问答系统的大量研究,会话式问答模型成为自然语言处理领域的一个发展趋势。多亏了最近收集的数据集,包括QuAC和CoQA,在会话式问答方面有了更多的工作,最近的工作在这两个数据集上都取得了有竞争力的性能。然而,据我们所知,会话理解研究的两个重要问题还没有得到很好的研究:1)基准数据集能在多大程度上反映模型的内容理解?2)模型在回答问题时是否很好地利用了对话内容?为了研究这些问题,我们设计了不同的训练设置,测试设置,以及攻击,以验证模型的能力,内容理解QuAC和CoQA。实验结果表明,在基准数据集,QuAC和CoQA,会话理解研究的一些潜在的危险。我们的分析还揭示了模型可以学习什么以及数据集如何使模型产生偏差。通过对该任务的深入研究,相信本研究对会话理解的进一步发展具有一定的借鉴意义。源代码可在https://github.com/MiuLab/CQA-Study上获得。
2019-11-27 cs.CL
PCoQA: Persian Conversational Question Answering Dataset
Sharif University of Technology(谢里夫理工大学);Lorestan University(洛雷斯坦大学);Tehran University(德黑兰大学)
本文构建首个波斯语对话式问答数据集 PCoQA,包含 9,026 个上下文相关问题,并评估基线与预训练基准模型。
2023-12-07 cs.AI cs.CL
Answering Conversational Questions on Structured Data without Logical Forms
Google Research(谷歌研究院)
我们提出了一种新的方法来回答基于结构化对象(如知识库或表)的顺序问题,而不使用逻辑形式作为中间表示。我们使用基于Transformer架构的图神经网络模型将表编码为图。然后使用指针网络从编码图中选择答案。此模型适用于处理围绕结构化数据的会话,其中选择问题答案的注意力机制也可用于解析会话引用。我们证明了这种方法的有效性与竞争的结果顺序问答(SQA)任务(Iyyer等人,2017年)。
2019-08-30 cs.CL
Towards Data Distillation for End-to-end Spoken Conversational Question Answering
Yale University(耶鲁大学);Peking University(北京大学)
在口语问答中,QA系统被设计为回答来自相关语音转录内的连续文本跨度的问题。然而,人类寻求或测试知识的最自然的方式是通过人类对话。因此,我们提出了一个新的口语会话问答任务(SCQA),旨在使问答系统模型的复杂的对话流给定的语音话语和文本语料库。在这项任务中,我们的主要目标是建立一个问答系统来处理口语和文本形式的会话问题,并探索在口语文档中提供更多线索与信息收集系统的可行性。为此,而不是采用自动生成的语音转录与高噪声数据,我们提出了一种新的统一的数据蒸馏方法,DDNet,直接融合音频文本功能,以减少自动语音识别假设和参考转录之间的错位。此外,为了评估问答系统在对话式交互中的能力,我们组装了一个口语会话问答(口语CoQA)数据集,其中包含超过12万个问答对。实验表明,我们提出的方法取得了优越的性能在口语会话问答。
2020-10-18 cs.AI cs.CL eess.AS
Bridging Context Gaps: Enhancing Comprehension in Long-Form Social Conversations Through Contextualized Excerpts
Massachusetts Institute of Technology(麻省理工学院);Meta
本文针对长篇社交对话摘录在跨场景分享时缺失语境的问题,提出利用大型语言模型为摘录生成具有社会相关性的补充语境,并发布HSE数据集,实验证明该方法能显著提升理解力、可读性与共情能力。
2024-12-28 cs.AI cs.CL
Few-shot Policy (de)composition in Conversational Question Answering
提出LDPC神经符号框架,利用大型语言模型在少样本下通过逻辑分解检测策略合规,在ShARC基准上无需微调即达竞争性能,并增强可解释性。
2025-01-20 cs.AI cs.CL
Conversational QA Dataset Generation with Answer Revision
Graduate School of Artificial Intelligence(人工智能研究生院);POSTECH(浦项科技大学);Computer Science and Engineering(计算机科学与工程系)
会话问答生成是一个基于输入段落自动生成大规模会话问答数据集的任务。在本文中,我们介绍了一种新的框架,提取值得提问的短语从一个通道,然后生成相应的问题,考虑以前的对话。特别是,我们的框架在生成问题后修改了提取的答案,以便答案与配对问题完全匹配。实验结果表明,我们的简单的答案修正方法导致显着提高合成数据的质量。此外,我们证明了我们的框架可以有效地利用会话问答的领域自适应。
2022-09-23 cs.AI cs.CL
Contextual Aware Joint Probability Model Towards Question Answering System
Stanford University(斯坦福大学)
在本文中,我们解决了SQuAD 2.0数据集的问答挑战。我们设计了一个模型架构,利用BERT的上下文感知的词嵌入和Bioblog的上下文交互式探索机制的能力。通过整合这两个国家的最先进的架构,我们的系统试图提取上下文单词表示在单词和字符的水平,更好地理解问题和上下文及其相关性。我们还提出了我们原来的联合后验概率预测模块及其相关的损失函数。到目前为止,我们最好的模型在测试PCE排行榜上获得了75.842%的F1分数和72.24%的EM分数。
2019-04-17 cs.AI cs.CL
MuPPET: A Benchmark for Contextual Privacy of LLM Assistants in Multi-Party Conversations
Parameter Lab(参数实验室);University of Rome Tor Vergata(罗马第二大学);University of Oxford(牛津大学);NAVER AI Lab(NAVER AI实验室);KAIST AI(韩国科学技术院人工智能研究所)
提出MuPPET基准,评估多用户对话中LLM代理的隐私泄露风险,发现模型在多用户场景下泄露更严重,现有防御措施效果有限。
2026-06-23 cs.AI cs.CL
Active Learning and Multi-label Classification for Ellipsis and Coreference Detection in Conversational Question-Answering
Orange Labs(Orange实验室);CNRS(法国国家科学研究中心);LORIA(洛林计算机科学及其应用实验室)
在人类会话中,省略和指代是常见的语言现象。虽然这些现象是使人机对话更流畅和自然的一种手段,但只有少数对话语料库包含明确的指示,哪些话轮包含省略和/或共指。在本文中,我们解决的任务,自动检测省略和共指会话问答回答。我们建议使用基于DistilBERT的多标签分类器。多标签分类和主动学习被用来补偿有限的标记数据量。我们表明,这些方法大大提高了分类器的性能,用于检测手动标记的数据集上的这些现象。
2022-07-07 cs.CL
An Answer Verbalization Dataset for Conversational Question Answerings over Knowledge Graphs
University of Bonn(波恩大学);Zerotha Research(泽罗塔研究院);Cerence GmbH(赛轮思有限公司);University of Siegen(锡根大学)
我们引入了一个新的数据集会话问答的知识图谱(KG)与口头回答。基于KGs的问答目前主要集中在单轮问题(KGQA)或多轮会话式问答(ConvQA)的答案生成上。然而,在现实世界的场景中(例如,语音助理,如Siri,Alexa和Google Assistant),用户更喜欢口头回答。本文通过扩展现有的ConvQA数据集,使用多个释义的口头回答,为最先进的技术做出了贡献。我们用五个序列到序列模型进行实验,在保持语法正确性的同时生成答案响应。我们还执行了一个错误分析,详细说明了模型在指定类别中的错误预测率。我们提出的数据集扩展与回答语言化是公开的,其使用更广泛的实用程序的详细文档。
2022-08-13 cs.CL
A Survey of the State-of-the-Art in Conversational Question Answering Systems
本综述全面分析对话式问答系统的最新进展,涵盖核心组件、先进机器学习技术、大语言模型及关键数据集,并指出未来研究方向。
2025-09-06 cs.AI cs.CL
Do not let the history haunt you -- Mitigating Compounding Errors in Conversational Question Answering
University of Liverpool(利物浦大学);Amazon(亚马逊)
会话问答(CoQA)任务涉及回答关于上下文段落的一系列相互关联的会话问题。虽然现有的方法在测试时使用人类编写的地面实况答案来回答会话问题,但在现实场景中,CoQA模型将无法访问先前问题的地面实况答案,迫使模型依赖于自己先前预测的答案来回答后续问题。在本文中,我们发现,复合错误发生时,使用以前预测的答案在测试时,显着降低CoQA系统的性能。为了解决这个问题,我们提出了一种采样策略,在训练过程中在目标答案和模型预测之间进行动态选择,从而密切模拟测试时的情况。此外,我们分析了这种现象的严重程度作为问题类型,会话长度和域类型的函数。
2020-05-12 cs.CL cs.IR
Contextual embedding and model weighting by fusing domain knowledge on Biomedical Question Answering
Beijing University of Technology(北京工业大学)
生物医学问答旨在从生物医学领域获得给定问题的答案。由于其对生物医学领域知识的要求很高,模型很难从有限的训练数据中学习领域知识。我们提出了一种上下文嵌入方法,结合开放领域的QA模型\aoa和\biobert模型预训练的生物医学领域的数据。我们采用无监督预训练的大型生物医学语料库和监督微调生物医学问答数据集。此外,我们采用一个基于MLP的模型加权层,自动利用两个模型的优点,提供正确的答案。利用PubMed语料库构建的公共数据集\biomrc对该方法进行了评价。实验结果表明,我们的模型优于国家的最先进的系统由一个很大的利润。
2022-06-26 cs.AI cs.CL
S2M: Converting Single-Turn to Multi-Turn Datasets for Conversational Question Answering
Zhejiang University(浙江大学);Ant Group(蚂蚁集团)
针对单轮数据在对话问答中利用不足的问题,提出S2M方法,通过生成器、重组器和重写器将单轮数据转为多轮数据,有效提升CQA性能,并在QuAC排行榜上位列第一。
2023-12-27 cs.AI cs.CL
TopiOCQA: Open-domain Conversational Question Answering with Topic Switching
Mila(米拉人工智能研究所);McGill University(麦吉尔大学);ETH Zürich(苏黎世联邦理工学院);Microsoft Montréal(微软蒙特利尔);ServiceNow Research(ServiceNow研究院);Facebook CIFAR AI Chair(Facebook-CIFAR人工智能讲席)
在会话式问答场景中,提问者试图通过一系列相互依赖的问题和答案来提取关于主题的信息。随着谈话的进行,他们可能会切换到相关的话题,这是在信息搜索会话中常见的现象。然而,当前用于会话式问答的数据集在两个方面受到限制:1)它们不包含主题转换;以及2)它们假设给出了会话的参考文本,即,该设置不是开放域。我们介绍TopiOCQA(发音为Tapioca),这是一个开放域的会话数据集,在维基百科上具有主题开关。TopiOCQA包含3,920个对话,其中包含信息寻求问题和自由形式的答案。平均而言,我们数据集中的对话跨越13个问答回合,涉及4个主题(文档)。TopiOCQA提出了一个具有挑战性的测试床的模型,在同一会话的多个回合,需要有效的检索,结合使用会话历史构建有效的响应。我们评估了几个基线,通过结合最先进的文档检索方法与神经阅读器模型。我们最好的模型达到了55.8的F1,比人类的表现低了14.2分,这表明我们的数据集很难。我们的数据集和代码可在https://mcgill-nlp.github.io/topiocqa上获得
2022-02-20 cs.CL
LingYi: Medical Conversational Question Answering System based on Multi-modal Knowledge Graphs
Institute of Automation, CAS(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Hunan University(湖南大学)
灵医系统基于多模态知识图谱,采用流水线框架实现医疗分诊、咨询、图文药物推荐与记录,利用实体消歧和对话生成技术,并开源代码与数据集以提升医疗对话效率。
2022-04-20 cs.AI cs.CL
Ditch the Gold Standard: Re-evaluating Conversational Question Answering
Princeton University(普林斯顿大学)
会话式问答旨在为用户提供自然语言的答案。现有的会话QA基准将模型与预先收集的人与人之间的对话进行比较,使用会话历史中提供的真实答案。目前还不清楚我们是否可以依赖这种静态评估来进行模型开发,以及当前的系统是否可以很好地推广到现实世界的人机对话。在这项工作中,我们进行了第一次大规模的人类评估国家的最先进的会话QA系统,其中人类评估者与模型交谈,并判断他们的答案的正确性。我们发现,人机对话的分布与人与人之间的对话有很大的不同,并且在模型排名方面,人与金历史评价之间存在分歧。我们进一步研究如何提高自动评估,并提出了一个问题重写机制的基础上预测的历史,更好地与人类的判断。最后,我们分析了各种建模策略的影响,并讨论了未来的发展方向,以建立更好的会话问答系统。
2022-03-21 cs.CL cs.LG
SDNet: Contextualized Attention-based Deep Network for Conversational Question Answering
Microsoft Speech and Dialogue Research Group(微软语音与对话研究组)
会话式问答(CQA)是一种需要理解对话语境的新型问答任务。与传统的单轮机器阅读理解(MRC)任务不同,CQA包括篇章理解、共指消解和语境理解。在本文中,我们提出了一种创新的基于上下文的注意力深度神经网络SDNet,将上下文融合到传统的MRC模型中。我们的模型利用相互注意和自我注意来理解会话上下文并从段落中提取相关信息。此外,我们展示了一种新的方法来集成最新的BERT上下文模型。实证结果表明,我们的模型的有效性,它设置了新的国家的最先进的结果在CoQA排行榜,优于以前的最佳模型的1.6%F1。我们的集成模型进一步提高了2.7%F1的结果。
2019-01-02 cs.CL
Token Trails: Navigating Contextual Depths in Conversational AI with ChatLLM
Stevens Institute of Technology(史蒂文斯理工学院);Amazon(亚马逊公司);Khulna University(库尔纳大学);Chittagong University of Engineering and Technology(吉大港工程技术大学)
本文提出 Token Trails 框架,通过 token 类型嵌入区分用户与机器人话语以增强上下文建模,实验表明其在对话理解和回复生成上达到最先进性能。
2024-04-03 cs.AI cs.CL cs.IR
C5: Towards Better Conversation Comprehension and Contextual Continuity for ChatGPT
College of Software, Zhejiang University of Technology(浙江工业大学软件学院)
针对多轮对话中人类遗忘与模型上下文遗忘问题,本文提出交互式对话可视化系统C5,通过全局、主题和上下文关联问答三类视图帮助用户理解对话结构与上下文连续性,并经案例与用户研究验证其有效性。
2023-08-10 cs.AI
Towards leveraging latent knowledge and Dialogue context for real-world conversational question answering
University of Amsterdam(阿姆斯特丹大学);Utrecht University(乌得勒支大学)
在许多现实世界的场景中,缺乏像维基百科这样的外部知识源限制了问答系统依赖于有限对话数据中的潜在内部知识。此外,人类经常通过问几个问题来寻求答案,以获得更全面的信息。随着对话变得越来越广泛,机器面临着参考以前的对话回合来回答问题的挑战。在这项工作中,我们建议通过神经检索阅读系统利用现有会话日志中的潜在知识,通过基于TFIDF的文本摘要器改进冗长的会话历史以缓解长上下文问题。我们的实验表明,我们的检索阅读系统可以利用检索到的背景知识,以产生显着更好的答案。结果还表明,我们的上下文摘要显着帮助检索者和读者介绍更简洁,更少的噪音上下文信息。
2022-12-17 cs.CL
SCAI-QReCC Shared Task on Conversational Question Answering
Amazon(亚马逊)
面向搜索的对话式人工智能(SCAI)是一个既定的场所,它经常关注最近推进对话式搜索领域的工作。SCAI'21是作为一个独立的在线活动组织的,并以会话问答的共同任务为特色。由于所有的参与者团队都尝试了这个任务的答案生成模型,我们确定了在这种情况下的答案正确性评估的主要挑战和目前的研究差距。除了自动评估之外,我们还进行了两个众包实验,以收集答案的可信性和忠实性的注释。由于这个共享的任务,用于评估的原始会话QA数据集进一步扩展了参与者系统产生的替代正确答案。
2022-01-26 cs.CL cs.IR
Reinforced Dynamic Reasoning for Conversational Question Generation
Zhejiang University(浙江大学);The Ohio State University(俄亥俄州立大学);Alibaba-Zhejiang University Joint Institute of Frontier Technologies(阿里巴巴-浙江大学前沿技术联合研究院)
本文研究了一种新的会话问题生成(CQG)任务,该任务是基于段落和会话历史(即,前几轮问答对)。CQG是开发智能代理的关键任务,可以驱动问答式对话或测试用户对给定段落的理解。为此,我们提出了一种新的方法,名为增强动态推理(ReDR)网络,它是基于一般的编码器-解码器框架,但采用了一种动态的推理过程,以更好地理解已经问了什么,接下来要问什么的段落。为了鼓励产生有意义的问题,我们利用流行的问答(QA)模型来提供反馈,并使用强化学习机制来微调问题生成器。最近发布的CoQA数据集上的实证结果表明,我们的方法与各种基线和模型变量相比是有效的。此外,为了显示我们的方法的适用性,我们还将其应用于创建多轮问答会话的SQuAD中的段落。
2019-07-29 cs.AI cs.CL
End-to-end Spoken Conversational Question Answering: Task, Dataset and Model
Tencent(腾讯);Peking University(北京大学);Yale University(耶鲁大学)
在口语问答中,系统被设计为回答来自相关语音转录内的连续文本跨度的问题。然而,人类寻求或测试知识的最自然的方式是通过人类对话。因此,我们提出了一个新的口语会话问答任务(SCQA),旨在使系统能够模拟复杂的对话流的语音文件。在这项任务中,我们的主要目标是建立一个系统来处理会话问题的基础上的音频记录,并探讨在信息收集系统提供更多的线索,从不同的模态的可行性。为此,而不是直接采用自动生成的语音转录与高噪声数据,我们提出了一种新的统一的数据蒸馏方法,DDNet,有效地摄取跨模态信息,以实现细粒度的语音和语言模态的表示。此外,我们提出了一个简单而新颖的机制,称为双重注意,通过鼓励更好的音频和文本之间的对齐,以减轻知识转移的过程。为了评估SCQA系统在对话式交互中的能力,我们组装了一个口语会话问答(Spoken-CoQA)数据集,其中包含来自4k个会话的超过40 k个问答对。现有的最先进的方法的性能显着降低我们的数据集,因此证明了跨模态信息集成的必要性。我们的实验结果表明,我们提出的方法在口语会话问答任务中取得了优异的性能。
2022-04-29 cs.AI cs.CL cs.SD
Multi-Task Learning for Conversational Question Answering over a Large-Scale Knowledge Base
University of Technology Sydney(悉尼科技大学);Microsoft(微软);Sun Yat-sen University(中山大学)
我们考虑了大规模知识库上的会话式问答问题。为了处理大规模知识库中庞大的实体词汇,现有的基于神经语义解析的方法通常将任务分解为多个子任务,然后依次求解,这会导致以下问题:1)前一个子任务中的错误会传播并对下游子任务产生负面影响; 2)每个子任务不能自然地与其他子任务共享监督信号。为了解决这些问题,我们提出了一个创新的多任务学习框架,其中配备指针的语义解析模型被设计用于解决会话中的共指,并自然地赋予联合学习一个新的类型感知实体检测模型。因此,所提出的框架,使共享的监督和消除错误传播的影响。在包含1280万个实体的160万个问答对的大规模会话问答数据集上的实验表明,与以前的最先进的工作相比,所提出的框架将总体F1分数从67%提高到79%。
2019-10-11 cs.CL
Boosting Conversational Question Answering with Fine-Grained Retrieval-Augmentation and Self-Check
School of Computer Science and Technology, East China Normal University(华东师范大学计算机科学与技术学院)
本文提出一种结合细粒度检索增强与自检查的对话级RAG方法,包含问题重写器、细粒度检索器和回复生成器三组件,有效解决复杂对话场景下的问答问题,并发布了一个中文CQA数据集。
2024-03-27 cs.AI
Conversational Answer Generation and Factuality for Reading Comprehension Question-Answering
问答(QA)是语音助理的重要用例。一种流行的问答方法是提取阅读理解(RC),它在文本段落中找到答案跨度。然而,提取的答案在会话上下文中通常是不自然的,这导致次优的用户体验。在这项工作中,我们调查问答会话的答案生成。我们提出了一个端到端的生成RC模型,它将多个段落的答案生成与段落排名和可回答性相结合。此外,在应用生成RC的一个障碍是幻觉的答案是事实上与文本不一致。我们利用最近的工作总结,以评估真实性。实验结果表明,与MS MARCO 2.1 NLGEN和NarrativeQA之前发表的最佳结果相比,EscherBART显着提高了2.5 ROUGE-L和9.4 ROUGE-L。
2021-03-11 cs.CL
ParaQA: A Question Answering Dataset with Paraphrase Responses for Single-Turn Conversation
University of Bonn(波恩大学);Zerotha Research(Zerotha研究机构);Cerence GmbH(Cerence GmbH公司);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
本文提出了ParaQA,一个问答(QA)数据集与多个释义的反应,单轮会话的知识图谱(KG)。该数据集是使用半自动化框架创建的,该框架使用反向翻译等技术生成答案的各种释义。现有的用于在KG上的会话式问答(单轮/多轮)的数据集集中于问题释义并且仅提供最多一个答案口头化。然而,ParaQA包含5000个问答对,每个问题最少有两个,最多有八个独特的释义回答。我们用基线模型补充了数据集,并通过常用的指标(如BLEU和METEOR)说明了具有多个释义答案的优势。ParaQA数据集在一个持久的URI上公开提供,以便在研究社区中更广泛地使用和适应。
2021-03-13 cs.CL
Can Question Rewriting Help Conversational Question Answering?
The Hong Kong University of Science and Technology(香港科技大学)
问题重写(QR)是会话问答(CQA)的一个子任务,旨在通过将问题重新表述为一个独立的形式,来缓解理解对话历史之间依赖关系的挑战。尽管看似合理,但几乎没有证据证明QR是CQA的缓解方法。为了验证QR在CQA中的有效性,我们研究了一种强化学习方法,该方法集成了QR和CQA任务,并且不需要针对目标CQA的相应QR数据集。然而,我们发现RL方法与端到端基线相当。我们提供了一个失败的分析,并描述了利用QR CQA的困难。
2022-04-13 cs.CL
Brotherhood at WMT 2024: Leveraging LLM-Generated Contextual Conversations for Cross-Lingual Image Captioning
本文提出利用 GPT-4o 和 Claude 3.5 Sonnet 等 LLM 生成上下文对话并结合加权提示策略,在无需训练或微调的情况下提升跨语言图像描述性能,并在 WMT 2024 低资源多模态翻译任务中取得领先结果。
2024-09-23 cs.AI cs.CL
Self-supervised Dialogue Learning for Spoken Conversational Question Answering
Peking University(北京大学);Yale University(耶鲁大学);Peng Cheng Laboratory(鹏城实验室)
在口语会话式问答(SCQA)中,通过检索然后分析固定的口语文档(包括多部分会话)来生成对应问题的答案。大多数SCQA系统只考虑从有序的话语中检索信息。然而,对话的顺序对于建立一个健壮的口语问答系统是非常重要的,而话语顺序的改变会严重地导致低质量和不连贯的语料库。为此,我们引入了一种自监督学习方法,包括不连贯辨别、插入检测和问题预测,以显式捕获口语文档之间的共指消解和对话连贯性。具体来说,我们设计了一个联合学习框架,其中辅助自监督任务可以使预训练的SCQA系统实现更连贯和更有意义的口语对话学习。我们还利用所提出的自监督学习任务来捕获句内连贯性。实验结果表明,我们提出的方法提供了更连贯的,有意义的,适当的反应,产生优越的性能增益相比,原来的预训练语言模型。我们的方法在Spoken-CoQA数据集上实现了最先进的结果。
2021-06-24 cs.AI cs.CL cs.LG
Fluent Response Generation for Conversational Question Answering
Ohio State University(俄亥俄州立大学);Amazon Alexa(亚马逊Alexa)
问答(QA)是开放域会话Agent的一个重要方面,在会话QA(ConvQA)子任务中获得了特定的研究热点。最近的ConvQA努力的一个显着的局限性是响应是从目标语料库中提取答案跨度,从而忽略了高质量会话代理的自然语言生成(NLG)方面。在这项工作中,我们提出了一种方法,用于将QA响应定位在一个SEQ2SEQ NLG方法中,以生成流畅的语法回答响应,同时保持正确性。从技术角度来看,我们使用数据增强来为端到端系统生成训练数据。具体来说,我们开发了句法转换(ST)来产生特定于问题的候选答案响应,并使用基于BERT的分类器对它们进行排名(Devlin等人,2019年)。SQuAD 2.0数据的人体评价(Rajpurkar等人,2018)证明,所提出的模型在生成对话响应方面优于基线CoQA和QuAC模型。我们通过对CoQA数据集进行测试,进一步展示了我们模型的可扩展性。代码和数据可在https://github.com/abaheti95/QADialogSystem上获得。
2020-12-17 cs.CL
CANDI: Contextual Alignment for Niche Domains Question Answering
研究针对专业领域大语言模型评估问题,提出CANDI-QA数据集,含两类问答对。评估多种语言模型,给出MTSS-Net框架。揭示特定领域上下文对齐挑战及当前模型局限,为上下文感知语言模型研究提供关键基准。
2026-07-15 cs.AI cs.CL
Conversational AI : Open Domain Question Answering and Commonsense Reasoning
Erik Jonsson School of Engineering and Computer Science(埃里克·琼森工程与计算机科学学院);The University of Texas at Dallas(得克萨斯大学达拉斯分校)
我们的研究重点是建立一个类人的问答系统,可以合理地回答。我们的方法的显着特点是,它将使用自动化的常识推理来真正“理解”对话,使其能够像人类一样交谈。人们在交谈中经常会做出很多假设。我们用我们的常识来推断没有明确告诉我们的事实。在问答系统中简化常识知识只会使它更健壮。
2019-09-18 cs.AI cs.HC cs.LO
Building the Intent Landscape of Real-World Conversational Corpora with Extractive Question-Answering Transformers
Bell Canada(加拿大贝尔)
对于提供客户服务的公司来说,在会话数据中映射意图对于构建基于自然语言理解(NLU)的应用程序至关重要。然而,目前还没有建立自动化技术来从嘈杂的在线聊天或语音记录中收集意图。简单的聚类方法不适合意图稀疏的对话。为了解决这个意图景观任务,我们提出了一个无监督的管道,从现实世界的对话中提取意图和意图的分类。我们的管道使用提取问答Electra模型挖掘意图跨度候选项,并利用句子嵌入应用低级别密度聚类,然后是顶级层次聚类。我们的研究结果证明了在SQuAD 2数据集上微调的ELECTRA大型模型的泛化能力,以理解对话。通过正确的提示问题,该模型实现了超过85%的意图跨度的语言验证率。我们还从MultiDoGo数据集重建了五个领域的意图方案,平均召回率为94.3%。
2022-08-30 cs.AI cs.CL cs.LG
Conversational Question Answering: A Survey
The University of Adelaide(阿德莱德大学);Macquarie University(麦考瑞大学)
问答(QA)系统提供了一种查询以各种格式可用的信息的方式,包括但不限于以自然语言的非结构化和结构化数据。它构成了对话式人工智能(AI)的相当大的一部分,这导致了对对话式问答(CQA)的特殊研究课题的引入,其中要求系统理解给定的上下文,然后进行多轮问答以满足用户的信息需求。虽然大多数现有的研究工作的重点是受到单轮QA,多轮QA领域最近抓住了注意力和突出,由于大规模的,多轮QA数据集的可用性和预先训练的语言模型的发展。近年来,随着大量的模型和研究论文的增加,迫切需要以统一的方式安排和呈现相关工作,以简化未来的研究。因此,这项调查旨在对CQA的最新研究趋势进行全面回顾,主要基于2016-2021年的综述论文。我们的研究结果表明,已经出现了从单轮到多轮问答的趋势,这从不同的角度赋予了对话式AI领域以力量。本调查旨在为研究界提供一个缩影,希望为CQA领域奠定坚实的基础。
2021-06-03 cs.AI cs.CL cs.IR
Semantic Parsing for Conversational Question Answering over Knowledge Graphs
University of Edinburgh(爱丁堡大学);Amazon Alexa(亚马逊Alexa)
在本文中,我们感兴趣的是开发语义解析器,理解嵌入在与用户的对话中的自然语言问题,并将其置于具有非常大的词汇量(涵盖数千个概念名称和关系,以及数百万个实体)的通用知识图谱(KG)中的定义上的正式查询。为此,我们开发了一个数据集,其中用户问题用Sparql解析进行注释,系统答案对应于其执行结果。我们提出了两种不同的语义解析方法,并强调了任务的挑战:处理大词汇,建模会话上下文,预测查询与多个实体,并概括到新的问题在测试时。我们希望我们的数据集将作为对话式语义解析器开发的有用测试平台。我们的数据集和模型发布在https://github.com/EdinburghNLP/SPICE。
2023-01-28 cs.CL
Open-Retrieval Conversational Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Ant Financial(蚂蚁金融);Alibaba Group(阿里巴巴集团)
对话式检索是信息检索的最终目标之一。最近的研究方法会话搜索的简化设置的响应排名和会话的问答,其中答案是从一个给定的候选集选择或从一个给定的通道提取。这些简化忽略了检索在会话搜索中的基本作用。为了解决这一限制,我们引入了一个开放检索会话式问答(ORConvQA)设置,在那里我们学习从一个大的集合中检索证据,然后提取答案,作为构建功能会话搜索系统的进一步步骤。我们创建了一个数据集OR-QuAC,以促进对ORConvQA的研究。我们为ORConvQA构建了一个端到端的系统,其中包括一个检索器、一个重排序器和一个读取器,这些都是基于Transformers的。我们在OR-QuAC上的大量实验表明,可学习的检索器对ORConvQA至关重要。我们进一步表明,当我们在所有系统组件中启用历史建模时,我们的系统可以做出实质性的改进。此外,我们表明,reranker组件有助于通过提供正则化效果的模型性能。最后,进行了进一步的深入分析,以提供新的见解ORConvQA。
2020-05-22 cs.CL cs.IR
Beyond Static: Related Questions Retrieval Through Conversations in Community Question Answering
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院);School of Management Science and Engineering, Southwestern University of Finance and Economics(西南财经大学管理科学与工程学院)
本文提出TeCQR模型,通过对话方式提升社区问答中相关问题检索性能,利用标签增强澄清问题和噪声容忍模型,有效处理噪声反馈并优化问题表示。
2026-03-09 cs.AI cs.CL cs.IR
Open-Domain Question Answering Goes Conversational via Question Rewriting
Apple Inc.(苹果公司);University of Amsterdam(阿姆斯特丹大学)
我们引入了一个新的数据集,用于会话上下文中的问题重写(QReCC),其中包含14K对话和80K问答对。QReCC的任务是在1000万个网页(分成5400万个段落)中找到会话问题的答案。同一对话中的问题的答案可能分布在多个网页上。QReCC提供注释,使我们能够训练和评估端到端会话问答(QA)任务所需的问题重写,段落检索和阅读理解的各个子任务。我们报告了一个强大的基线方法的有效性,结合了国家的最先进的模型的问题重写,开放域QA的竞争力模型。我们的结果为QReCC数据集设定了第一个基线,F1为19.10,而人类的上限为75.45,这表明设置的难度和很大的改进空间。
2021-04-14 cs.CL cs.IR
PACIFIC: Towards Proactive Conversational Question Answering over Tabular and Textual Data in Finance
The Chinese University of Hong Kong(香港中文大学);Sichuan University(四川大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Sea-NExT Joint Lab(Sea-NExT联合实验室);National University of Singapore(新加坡国立大学)
为了促进金融领域混合背景下的会话式问答(CQA),我们提出了一个新的数据集,名为PACIFIC。与现有的CQA数据集相比,PACIFIC具有三个关键特征:(i)主动性,(ii)数值推理,(iii)表格和文本的混合上下文。因此,本文提出了一个新的研究课题--主动会话问答(PCQA)。此外,我们提出了一种新的方法,即UniPCQA,以适应PCQA的输入和输出内容的混合格式到Seq 2Seq问题,包括重新制定的数值推理过程的代码生成。UniPCQA在PCQA中的所有子任务上执行多任务学习,并且通过交叉验证顶部$k$采样的Seq 2Seq输出来结合简单的集成策略以减轻多任务学习中的错误传播问题。我们使用广泛的基线对PACIFIC数据集进行基准测试,并对PCQA的每个子任务进行全面评估。
2023-03-19 cs.CL
BERT-CoQAC: BERT-based Conversational Question Answering in Context
Macquarie University(麦考瑞大学);The University of Adelaide(阿德莱德大学)
问答对话系统作为一种通过与机器人对话来查询任何特定信息的有前途的方式,近年来获得了越来越多的研究兴趣。交互式问答系统的设计一直是自然语言处理领域的一项具有挑战性的任务,并被用作评估机器自然语言理解能力的基准。然而,这样的系统往往挣扎时,问题回答是由用户在多个回合,以寻求更多的信息的基础上,他们已经学会了,因此,引起了另一个复杂的形式称为会话问答(CQA)。CQA系统经常被批评在回答问题时不理解或利用对话的先前上下文。为了弥补这一研究空白,本文探讨了如何将会话历史整合到神经机器理解系统中。一方面,我们引入了一个框架的基础上,一个可编程的预先训练的语言模型称为BERT的历史变成系统。另一方面,我们提出了一个历史选择机制,选择相关的,并有助于回答当前问题的回合。实验结果表明,我们的框架是在性能与国家的最先进的模型在QuAC领导人板。我们还进行了一些实验,以显示使用整个上下文信息的副作用,这带来了不必要的信息和噪声信号,导致模型的性能下降。
2021-04-23 cs.CL
QA-TOOLBOX: Conversational Question-Answering for process task guidance in manufacturing
提出QA-TOOLBOX,利用LLM增强制造过程任务指导的对话式问答,构建20万余个基于规范、旁白和视频的问答对,并通过LLM-as-a-judge、众包与专家评估开源模型基线。
2024-12-03 cs.AI cs.CL
Contextual ASR Error Handling with LLMs Augmentation for Goal-Oriented Conversational AI
University of Pittsburgh(匹兹堡大学);Northeastern University(东北大学)
针对目标导向对话中缺乏先验数据且语言多变的 ASR 错误,提出 LLM 上下文增强与双向排序纠错方法,在真实家庭装修和烹饪场景中显著提升召回率与 F1。
2025-01-10 cs.AI cs.CL
Improving Conversational Question Answering Systems after Deployment using Feedback-Weighted Learning
University of the Basque Country (UPV/EHU)(巴斯克地区大学(UPV/EHU));New York University (NYU)(纽约大学(NYU))
会话系统与用户的交互为部署后的改进提供了一个令人兴奋的机会,但几乎没有证据表明其可行性。在大多数应用程序中,用户无法向系统提供正确的答案,但他们能够提供二进制(正确,不正确)反馈。在本文中,我们提出了反馈加权学习的基础上重要性采样,以改善初始监督系统使用二进制用户反馈。我们对文档分类(用于开发)和会话问答数据集(如QuAC和DoQA)进行模拟实验,其中二进制用户反馈来自黄金注释。结果表明,我们的方法能够改进初始监督系统,接近完全监督系统,在域内实验(QuAC)中可以访问相同的标记示例,甚至在域外实验(DoQA)中进行匹配。我们的工作开辟了利用与真实用户的交互并在部署后改进会话系统的前景。
2020-11-01 cs.CL
Structured Context and High-Coverage Grammar for Conversational Question Answering over Knowledge Graphs
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);Google Research(谷歌研究院)
我们使用神经语义解析方法来解决大知识图谱上弱监督会话问答的问题。我们引入了一种新的逻辑形式(LF)语法,可以在图形上对各种查询进行建模,同时保持足够简单以有效地生成监督数据。我们基于Transformer的模型采用类似JSON的结构作为输入,使我们能够轻松地将知识图谱和会话上下文结合起来。这种结构化的输入被转换为嵌入列表,然后被馈送到标准的注意力层。我们验证了我们的方法,无论是在语法覆盖率和LF执行的准确性,两个公开可用的数据集,CSQA和ConvQuestions,都在维基数据接地。在CSQA上,我们的方法将覆盖范围从$80\%$增加到$96.2\%$,并将LF执行精度从$70.6\%$增加到$75.6\%$。在ConvQuestions上,我们在最先进的技术方面取得了有竞争力的结果。
2021-09-01 cs.CL
Context Transformer with Stacked Pointer Networks for Conversational Question Answering over Knowledge Graphs
Technische Universität Darmstadt(达姆施塔特工业大学);University of Bonn(波恩大学);Zerotha Research(泽罗塔研究院);Cerence GmbH(赛轮思有限公司);Osthus GmbH(奥斯图斯有限公司);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
神经语义解析方法已广泛应用于基于知识图谱的问答系统。这样的方法提供了处理具有复杂查询和大量实体的QA数据集的灵活性。在这项工作中,我们提出了一个新的框架名为纸箱,它执行多任务的语义解析处理问题的会话问答在一个大规模的知识图谱。我们的框架包括一个堆栈的指针网络作为一个上下文Transformer模型的扩展,用于解析输入的问题和对话的历史。框架生成可以在知识图谱上执行的动作序列。我们在一个标准数据集上对CARTON进行了评估,以进行复杂的顺序问答,CARTON在该数据集上的表现优于所有基线。具体来说,我们观察到的性能改善F1分数的10个问题类型相比,以前的状态。对于逻辑推理问题,11个绝对点的改善达到。
2021-06-24 cs.CL