Towards End-to-End Open Conversational Machine Reading
UM-SJTU Joint Institute（上海交通大学密西根联合学院）；Shanghai Jiao Tong University（上海交通大学）
针对 OR-CMR 中级联模块易产生错误传播且难以联合优化的问题，本文提出统一的文本到文本端到端框架，在 ShARC 与 OR-ShARC 上显著提升两项子任务并达到新 SOTA。
2024-10-25 cs.AI cs.CL cs.HC
CoQA: A Conversational Question Answering Challenge
Stanford University（斯坦福大学）；Computer Science Department（计算机科学系）
人类通过参与涉及一系列相互关联的问题和答案的对话来收集信息。因此，对于帮助收集信息的机器来说，使它们能够回答会话问题至关重要。我们介绍了CoQA，一种用于构建会话式问答系统的新型数据集。我们的数据集包含127k个问题和答案，这些问题和答案来自七个不同领域的8k个文本段落对话。问题是对话式的，答案是自由形式的文本，并在文章中突出显示相应的证据。我们深入分析了CoQA，并表明会话问题具有现有阅读理解数据集中不存在的挑战性现象，例如，共指和语用推理。我们在CoQA上评估强大的会话和阅读理解模型。最好的系统获得了65.4%的F1分数，比人类的表现（88.8%）落后23.4分，这表明有足够的改进空间。我们在http://stanfordnlp.github.io/coqa/上推出CoQA作为对社区的挑战
2019-03-29 cs.AI cs.CL cs.LG
Towards leveraging latent knowledge and Dialogue context for real-world conversational question answering
University of Amsterdam（阿姆斯特丹大学）；Utrecht University（乌得勒支大学）
在许多现实世界的场景中，缺乏像维基百科这样的外部知识源限制了问答系统依赖于有限对话数据中的潜在内部知识。此外，人类经常通过问几个问题来寻求答案，以获得更全面的信息。随着对话变得越来越广泛，机器面临着参考以前的对话回合来回答问题的挑战。在这项工作中，我们建议通过神经检索阅读系统利用现有会话日志中的潜在知识，通过基于TFIDF的文本摘要器改进冗长的会话历史以缓解长上下文问题。我们的实验表明，我们的检索阅读系统可以利用检索到的背景知识，以产生显着更好的答案。结果还表明，我们的上下文摘要显着帮助检索者和读者介绍更简洁，更少的噪音上下文信息。
2022-12-17 cs.CL
Orca: A Few-shot Benchmark for Chinese Conversational Machine Reading Comprehension
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Hong Kong University of Science and Technology（香港科技大学）；IDEA（深圳国际数字经济研究院）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）
提出首个中文对话机器阅读理解基准Orca，含831段对话、4,742轮，覆盖33个领域，提供零样本/小样本设置，答案标注为自然回复，三个强基线显示任务挑战性。
2023-10-13 cs.AI cs.CL
A Wrong Answer or a Wrong Question? An Intricate Relationship between Question Reformulation and Answer Selection in Conversational Question Answering
University of Amsterdam（阿姆斯特丹大学）；Apple Inc.（苹果公司）
一个适当的问题制定和正确的答案选择之间的依赖关系是一个非常有趣的，但仍然未充分探索的领域。在本文中，我们表明，问题重写（QR）的会话背景下，可以更清楚地揭示这种现象，也可以用它来评估不同的答案选择方法的鲁棒性。我们介绍了一个简单的框架，使会话问答（QA）的性能使用问题重写的自动分析，并提出了这种分析的结果TREC CAST和QuAC（CANARD）数据集。我们的实验揭示了敏感性的问题制定的流行的国家的最先进的模型，阅读理解和文章排名。我们的研究结果表明，阅读理解模型是不敏感的问题制定，而文章的排名变化显着的输入问题的一点变化。QR的好处是，它允许我们自动定位和分组这些情况。我们展示了如何使用这种方法来验证QA模型是真的在学习任务，还是只是在数据集中找到捷径，并更好地理解它们经常犯的错误类型。
2022-02-03 cs.CL
TREC CAsT 2019: The Conversational Assistance Track Overview
University of Glasgow（格拉斯哥大学）；Microsoft Research（微软研究院）；Carnegie Mellon University（卡内基梅隆大学）
会话辅助轨道（CAST）是TREC 2019的一个新轨道，旨在促进会话信息搜索（CIS）研究，并为会话搜索系统创建大规模可重用的测试集合。文档语料库是来自TREC复杂答案检索（CAR）和微软机器阅读理解（MARCO）数据集的38，426，252个段落。80个信息寻求对话（30个训练，50个测试）平均有9到10个问题。为30个培训主题和20个测试主题提供相关性评估。今年，21个小组使用不同的对话查询理解和排名方法总共提交了65次运行。方法包括传统的基于检索的方法，基于特征的学习排名，神经模型和知识增强的方法。贯穿运行的一个共同主题是使用基于BERT的神经重排序方法。领先的方法还采用了文档扩展、会话查询扩展和用于会话查询重写的生成语言模型（GPT-2）。结果表明，自动系统和那些使用手动解决的话语之间的差距，与最好的自动系统相比，手动重写有35%的相对改善。
2020-03-30 cs.CL cs.IR cs.LG
SDNet: Contextualized Attention-based Deep Network for Conversational Question Answering
Microsoft Speech and Dialogue Research Group（微软语音与对话研究组）
会话式问答（CQA）是一种需要理解对话语境的新型问答任务。与传统的单轮机器阅读理解（MRC）任务不同，CQA包括篇章理解、共指消解和语境理解。在本文中，我们提出了一种创新的基于上下文的注意力深度神经网络SDNet，将上下文融合到传统的MRC模型中。我们的模型利用相互注意和自我注意来理解会话上下文并从段落中提取相关信息。此外，我们展示了一种新的方法来集成最新的BERT上下文模型。实证结果表明，我们的模型的有效性，它设置了新的国家的最先进的结果在CoQA排行榜，优于以前的最佳模型的1.6%F1。我们的集成模型进一步提高了2.7%F1的结果。
2019-01-02 cs.CL
Dialog State Tracking: A Neural Reading Comprehension Approach
Amazon Alexa AI（亚马逊Alexa AI）
对话状态跟踪用于在给定所有先前对话的情况下估计对话的当前置信状态。另一方面，机器阅读理解专注于构建阅读文本段落并回答需要对段落有一定理解的问题的系统。我们将对话状态跟踪作为阅读理解任务，在阅读会话上下文后回答问题$what\ is\ the\ state\ of\ the\ current\ dialog?$。与传统的状态跟踪方法相比，在传统的状态跟踪方法中，对话状态通常被预测为本体内所有可能的槽值的封闭集合上的分布，我们的方法使用简单的基于注意力的神经网络来指向会话内的槽值。在MultiWOZ-2.0跨域对话数据集上的实验表明，与以前更复杂的方法相比，我们简单的系统可以获得类似的精度。通过利用上下文词嵌入的最新进展，添加一个模型，明确跟踪槽值是否应该结转到下一轮，并结合我们的方法与传统的联合状态跟踪方法，依赖于封闭的词汇集，我们可以获得联合目标的准确性$47.33\%$的标准测试分裂，超过当前最先进的$11.75\%$ **。
2019-08-15 cs.CL cs.LG
Open-Domain Question Answering Goes Conversational via Question Rewriting
Apple Inc.（苹果公司）；University of Amsterdam（阿姆斯特丹大学）
我们引入了一个新的数据集，用于会话上下文中的问题重写（QReCC），其中包含14K对话和80K问答对。QReCC的任务是在1000万个网页（分成5400万个段落）中找到会话问题的答案。同一对话中的问题的答案可能分布在多个网页上。QReCC提供注释，使我们能够训练和评估端到端会话问答（QA）任务所需的问题重写，段落检索和阅读理解的各个子任务。我们报告了一个强大的基线方法的有效性，结合了国家的最先进的模型的问题重写，开放域QA的竞争力模型。我们的结果为QReCC数据集设定了第一个基线，F1为19.10，而人类的上限为75.45，这表明设置的难度和很大的改进空间。
2021-04-14 cs.CL cs.IR
Conversational Machine Comprehension: a Literature Review
UMass Amherst（马萨诸塞大学阿默斯特分校）；UMass Lowell（马萨诸塞大学洛厄尔分校）
会话机器理解（CMC）是会话人工智能的一个研究方向，它期望机器理解开放域自然语言文本，然后进行多轮会话来回答与文本相关的问题。虽然机器阅读理解（MRC）的大多数研究都围绕着单轮问答（QA），但由于通过BERT等神经语言模型进行自然语言理解的进步以及CoQA和QuAC等大规模会话数据集的引入，多轮CMC最近获得了突出地位。然而，兴趣的增加导致了一系列并发出版物，每一个都有不同但结构相似的建模方法和对周围文献的不一致看法。随着提交给会话数据集的模型数量每年都在增加，需要整合这一领域的分散知识以简化未来的研究。这篇文献综述试图提供一个全面的CMC概述，重点是最近发表的模型的共同趋势，特别是在他们的方法来处理会话历史。该评论综合了CMC模型的通用框架，同时强调了最近的方法的差异，并打算作为未来研究人员的CMC纲要。
2020-11-05 cs.CL
FedQAS: Privacy-aware machine reading comprehension with federated learning
Uppsala University, Sweden（瑞典乌普萨拉大学）；Scaleout Systems, Sweden（瑞典Scaleout Systems公司）；Department of Information Technology（信息技术系）；Division of Scientific Computing（科学计算部）
文本数据的机器阅读理解（MRC）是自然语言理解的一个重要任务。这是一个复杂的NLP问题，随着斯坦福问答数据集（SQuAD）和会话式问答（CoQA）的发布，许多研究正在进行中。它被认为是教计算机如何“理解”文本，然后能够使用深度学习回答有关文本的问题的努力。然而，到目前为止，关于私人文本数据和知识共享的大规模培训一直缺乏这个NLP任务。因此，我们提出了FedQAS，这是一个保护隐私的机器阅读系统，能够利用大规模的私有数据，而不需要将这些数据集集中在一个中心位置。该方法结合了Transformer模型和联邦学习技术。该系统使用FEDn框架开发，并作为概念验证联盟计划部署。FedQAS是灵活的，语言无关的，并允许直观的参与和执行本地模型训练。此外，我们提出了该系统的架构和实现，以及提供一个基于SQUAD数据集的参考评估，以展示它如何克服数据隐私问题，并在联邦学习环境中实现联盟成员之间的知识共享。
2022-02-09 cs.AI cs.CL cs.LG
Open-Retrieval Conversational Machine Reading
Chinese University of Hong Kong（香港中文大学）；Salesforce Research（Salesforce研究院）
在对话式机器阅读中，系统需要解释自然语言规则，回答高级问题，如“我可以获得VA医疗福利吗？“，并提出后续澄清问题，这些问题的答案是回答原始问题所必需的。然而，现有的作品假设规则文本提供给每个用户的问题，这忽略了在实际情况下的必要的检索步骤。在这项工作中，我们提出并调查了一个开放的检索设置的会话机器阅读。在开放式检索环境中，相关规则文本是未知的，使得系统需要从规则文本集合中检索与问题相关的证据，并以会话的方式根据检索到的多个规则文本回答用户的高级问题。我们提出了MUDERN，一个多通道话语感知蕴涵推理网络，通过话语分割提取规则文本中的条件，进行多通道蕴涵推理，直接回答用户的问题，或问澄清后续问题，以查询更多的信息。在我们创建的OR-ShARC数据集上，MUDERN实现了最先进的性能，大大优于现有的单通道对话机器阅读模型以及新的多通道对话机器阅读基线。此外，我们还进行深入分析，为这种新环境和我们的模型提供新的见解。
2021-11-25 cs.AI cs.CL cs.LG
ZeQR: Zero-shot Query Reformulation for Conversational Search
Institute for Financial Services Analytics（金融服务分析研究院）；University of Delaware（特拉华大学）
本文提出零样本查询重构框架ZeQR，利用机器阅读理解语言模型显式解决对话查询中的共指和省略歧义，无需监督数据即可普遍适用于任意检索器，并在四个TREC对话数据集上持续超越最先进基线。
2024-10-17 cs.CL cs.IR
Multilingual Question Answering from Formatted Text applied to Conversational Agents
Worldline（源讯世界线）
语言模型的最新进展（例如BERT、XLNet等），在复杂的NLP任务（如阅读理解）上，然而，用于训练的标记数据集主要以英语提供，这使得很难用其他语言确认进展。幸运的是，模型现在已经在来自数百种语言的未标记数据上进行了预训练，并表现出从一种语言到另一种语言的有趣迁移能力。在本文中，我们表明，多语言的BERT是自然能够zero-shot转移提取问答任务（eQA）从英语到其他语言。更具体地说，它超过了以前已知的最好的转移到日语和法语的基线。此外，使用最近发布的大型eQA法语数据集，我们能够进一步证明：（1）zero-shot迁移提供的结果非常接近于目标语言的直接训练;（2）迁移和目标语言训练的组合是总体上最好的选择。最后，我们提出了一个实际的应用：一个多语言的会话代理称为凯特回答人力资源相关的问题，在几种语言直接从内部网页面的内容。
2021-02-01 cs.CL
Conversational Question Answering over Passages by Leveraging Word Proximity Networks
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
文本段上的问答是信息检索领域的一个重要问题。最近，会话设置引起了人们的注意，其中用户询问一系列问题以满足她围绕主题的信息需求。虽然这种设置是一种自然的设置，类似于人类彼此交谈，但它引入了两个关键的研究挑战：理解用户在后续问题中留下的隐含上下文，以及处理特设问题公式。在这项工作中，我们展示了CROWN（通过词网络推理的会话段落排名）：一个无监督但有效的系统，用于会话QA与通道响应，支持多种模式的上下文传播多个回合。为此，CROWN首先从大型语料库中构建一个词邻近网络（WPN）来存储统计上显著的术语共现。在回答时，段落通过其与问题的相似性和查询术语的一致性的组合进行排名：这些因素通过从WPN读取节点和边权重来测量。CROWN提供了一个界面，既直观的最终用户，并为专家的洞察力，重新配置到个人设置。在TREC CAsT数据上评估了CROWN，其中它在神经方法池中实现了高于中值的性能。
2020-05-25 cs.CL cs.IR
E3: Entailment-driven Extracting and Editing for Conversational Machine Reading
University of Washington（华盛顿大学）
当用户不知道做出决定的确切规则（例如，他们是否需要特定的收入水平或退伍军人身份）时，对话式机器阅读系统可以帮助用户回答高级问题（例如，确定他们是否有资格获得特定的政府福利）。关键的挑战是，这些规则只以程序文本的形式提供（例如政府网站上的指南），系统必须阅读这些文本才能弄清楚向用户询问什么。我们提出了一个新的会话机器阅读模型，共同提取一组决策规则的过程中的文本，而推理所涉及的会话历史，仍然需要编辑，以创建问题的用户。在最近推出的ShARC对话机器阅读数据集上，我们的蕴涵驱动的提取和编辑网络（E3）实现了新的最先进的技术，优于现有系统以及新的基于BERT的基线。此外，通过明确强调哪些信息仍然需要收集，E3提供了一个更易于解释的替代方案。我们在https://github.com/vzhong/e3上发布了模型和实验的源代码。
2020-02-13 cs.AI cs.CL cs.LG
Machine Reading Comprehension for Answer Re-Ranking in Customer Support Chatbots
Sofia University（索非亚大学）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）；Qatar Computing Research Institute（卡塔尔计算研究所）
深度神经网络、语言建模和语言生成的最新进展为会话代理领域引入了新的想法。因此，序列到序列、记忆网络和Transformer等深度神经模型已成为最先进对话系统的关键组成部分。虽然这些模型即使在看不见的情况下也能够生成有意义的响应，但它们需要大量的训练数据来构建可靠的模型。因此，大多数现实世界的系统坚持基于信息检索的传统方法，甚至是手工制作的规则，因为它们的鲁棒性和有效性，特别是对于狭窄的对话。在这里，我们提出了一种方法，该方法采用了来自机器阅读理解领域的深度神经架构，以使用问题作为上下文，对来自不同模型的建议答案进行重新排序。我们训练我们的模型使用负采样的基础上的问题，答案对从Twitter的客户支持数据集。实验结果表明，我们的重新排名框架可以提高性能方面的单词重叠和语义的单独模型以及模型组合。
2019-02-26 cs.CL
Few-shot Policy (de)composition in Conversational Question Answering
提出LDPC神经符号框架，利用大型语言模型在少样本下通过逻辑分解检测策略合规，在ShARC基准上无需微调即达竞争性能，并增强可解释性。
2025-01-20 cs.AI cs.CL
Review Conversational Reading Comprehension
Tsinghua University（清华大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
受对话式阅读理解（CRC）的启发，本文研究了一个新的任务，利用评论作为一个源，建立一个代理，可以回答多轮问题的潜在消费者的在线业务。我们首先建立一个回顾CRC数据集，然后提出一个新的任务感知预调步骤，在语言模型（例如，BERT）预训练和特定领域的微调。所提出的预调优不需要数据注释，但可以大大提高我们最终任务的性能。实验结果表明，该方法是非常有效的，具有竞争力的性能监督方法。数据集可在\url{https://github.com/howardhsu/RCRC}上获得
2019-11-06 cs.CL
Multifaceted Improvements for Conversational Open-Domain Question Answering
Hangzhou Dianzi University（杭州电子科技大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
开放域问答（OpenQA）是文本问答的一个重要分支，它基于大量的非结构化文档来发现给定问题的答案。有效地从开放域资源中挖掘正确答案还有很长的路要走。现有的OpenQA系统可能会受到问题复杂性和模糊性的问题，以及不足的背景知识。最近，会话OpenQA被提出来解决这些问题，丰富的上下文信息的会话。尽管它可能是有前途的，但存在几个基本的限制，包括不准确的问题理解，对通道选择的粗略排名，以及在训练和推理阶段中黄金通道的不一致使用。为了缓解这些限制，在本文中，我们提出了一个框架与多方面的改进会话开放域问答（MICQA）。具体而言，MICQA具有三个显著优势。首先，所提出的基于KL发散的正则化能够导致更好的问题理解，用于检索和答案阅读。第二，增加的后排名模块可以将更多相关的段落推到顶部放置，并为读者选择两方面的约束。第三，精心设计的课程学习策略有效地缩小了训练和推理的黄金通道设置之间的差距，鼓励读者在没有黄金通道帮助的情况下找到真正的答案。在公开数据集OR-QuAC上进行的大量实验证明了MICQA在会话OpenQA任务中优于最先进的模型。
2022-04-01 cs.CL cs.IR
Benchmarking Machine Reading Comprehension: A Psychological Perspective
National Institute of Informatics（国立信息学研究所）；University College London（伦敦大学学院）
机器阅读理解（MRC）作为自然语言理解的基准已经受到相当大的关注。然而，MRC的传统任务设计缺乏超出模型解释的可解释性，即，阅读理解的模式不能用人类的语言来解释。为此，本文为基于心理学和心理测量学的MRC数据集的设计提供了理论基础，并总结了MRC基准测试的先决条件。我们的结论是，未来的数据集应该（i）评估模型的能力，以构建一个连贯和接地表示理解上下文相关的情况和（ii）确保通过捷径证明问题和解释作为任务设计的一部分，实质性的有效性。
2021-01-26 cs.CL
Unsupervised Technique To Conversational Machine Reading
Taita Taveta University（泰塔塔维塔大学）；Jomo Kenyatta University of Agriculture and Technology（乔莫·肯雅塔农业与技术大学）
会话式机器阅读（CMR）工具在最近的过去取得了快速的进展。现有的工具依赖于监督学习技术，需要标记的数据集进行训练。监督技术需要为每个新的规则文本创建一个手动标记的数据集。这是乏味的并且容易出错。本文介绍并论证了无监督学习技术在CMR开发中的应用。具体来说，我们演示了如何无监督学习可以用于规则提取和蕴涵模块的CMR。与目前最好的CMR工具相比，我们开发的框架报告微观平均精度提高了3.3%，宏观平均精度提高了1.4%。
2021-06-29 cs.AI cs.CL
Ask to Learn: A Study on Curiosity-driven Question Generation
reciTAL（reciTAL公司）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）
我们提出了一个新的文本生成任务，即好奇心驱动的问题生成。我们从观察问题生成任务传统上被认为是双重问题的问答，因此解决的问题，生成一个问题的文本，包含其答案。这些问题可以用来评估机器阅读理解。然而，在现实生活中，特别是在对话环境中，人们倾向于提出问题，目的是丰富他们的知识和/或澄清先前收集的信息的各个方面。我们将这些好奇的问题称为好奇心驱动的问题：这些问题的产生是为了获得输入文本中不存在的新信息（答案）。在这项工作中，我们使用会话式问答（QA）数据集对这个新任务进行实验;此外，由于大多数QA数据集不是以内置的会话方式，我们描述了一种方法来从非会话式QA数据中获得用于这个新任务的数据。我们研究了几种自动化指标来衡量好奇问题的不同属性，并在好奇驱动的问题生成任务上实验了不同的方法，包括模型预训练和强化学习。最后，我们报告所产生的输出的定性评价。
2019-11-08 cs.AI cs.CL
Medical Exam Question Answering with Large-scale Reading Comprehension
Tsinghua University（清华大学）；Tsinghua-iFlytek Joint Laboratory（清华-讯飞联合实验室）
文本的阅读和理解是临床医学计算机辅助诊断的重要组成部分，也是自然语言处理领域的一个主要研究问题。在这项工作中，我们引入了一个问答任务，称为MedQA研究回答问题，在临床医学中使用的知识，在一个大规模的文件收集。MedQA的目的是通过大规模阅读理解来回答现实世界的问题。我们提出了我们的解决方案SeaReader--一个基于LSTM网络和双路径注意力架构的模块化端到端阅读理解模型。这种新颖的双路径注意力从两个角度对信息流进行建模，并且能够同时阅读单个文档并整合多个文档中的信息。在实验中，我们的SeaReader在MedQA上的准确性比竞争模型有了很大的提高。此外，我们开发了一系列新的技术来演示解释的问答过程中的SeaReader。
2018-02-28 cs.CL
Explicit Memory Tracker with Coarse-to-Fine Reasoning for Conversational Machine Reading
The Chinese University of Hong Kong（香港中文大学）；Salesforce Research（Salesforce 研究院）
对话式机器阅读的目标是回答给定知识库文本的用户问题，这可能需要提出澄清问题。现有的方法是有限的，在他们的决策，由于斗争中提取问题相关的规则和推理。在本文中，我们提出了一个新的对话式机器阅读框架，其中包括一个新的显式记忆跟踪器（EMT），以跟踪规则文本中列出的条件是否已经满足作出决定。此外，我们的框架产生澄清问题，采用了由粗到细的推理策略，利用语义级蕴涵分数加权令牌级分布。在ShARC基准（盲，保持）测试集上，EMT实现了74.6%的微平均决策准确率和49.5 BLEU4的最新结果。我们还表明，EMT是更可解释的可视化的蕴涵为导向的推理过程中的会话流。代码和模型在https://github.com/Yifan-Gao/explicit_memory_tracker上发布。
2020-06-23 cs.CL
Attentional Multi-Reading Sarcasm Detection
Oregon State University（俄勒冈州立大学）
识别讽刺通常需要深入了解多种信息来源，包括话语，对话上下文和现实世界的事实。目前的大多数讽刺检测系统只考虑孤立的话语。有一些有限的尝试考虑到会话上下文。在本文中，我们提出了一个可解释的端到端模型，结合信息的话语和会话背景下检测讽刺，并通过实证评估证明其有效性。我们还研究了所提出的模型的行为，为模型的决策提供解释。重要的是，我们的模型能够确定话语和会话背景对模型决策的影响。最后，我们提供了一个消融研究来说明所提出的模型的不同组件的影响。
2018-09-09 cs.AI cs.CL cs.LG
Dialogue Graph Modeling for Conversational Machine Reading
Shanghai Jiao Tong University（上海交通大学）
会话式机器阅读（CMR）旨在以复杂的方式回答问题。机器需要根据给定的规则文档、用户场景和对话历史，通过与用户的交互来回答问题，并在必要时提出问题以澄清。本文提出了一种对话图建模框架，以提高机器对CMR任务的理解和推理能力。总共有三种类型的图形。具体而言，话语图用于显式学习和提取规则文本之间的话语关系以及场景的额外知识;解耦图用于理解规则文本中的局部和上下文连接。最后是一个全局图，用于将信息融合在一起，并回复用户，我们的最终决定是“是/否/无关”，或者提出后续问题来澄清。
2021-05-29 cs.AI cs.CL
Explicit Alignment and Many-to-many Entailment Based Reasoning for Conversational Machine Reading
Beijing University of Posts and Telecommunications（北京邮电大学）
针对对话式机器阅读中文档与用户信息对齐被忽略的问题，提出一种通过显式对齐与轻量级多对多蕴含推理进行决策并生成后续问题的流水线框架，在ShARC数据集上取得最优结果。
2023-10-20 cs.CL
Discern: Discourse-Aware Entailment Reasoning Network for Conversational Machine Reading
The Chinese University of Hong Kong（香港中文大学）；Salesforce Research（Salesforce研究院）；Nanyang Technological University（南洋理工大学）
文档解释和对话理解是对话式机器阅读的两个主要挑战。在这项工作中，我们提出了Discern，一个话语感知的蕴涵推理网络，以加强连接，提高对文档和对话的理解。具体来说，我们使用预先训练的话语分割模型将文档分割成子句式的基本话语单元（EDU），并且我们以弱监督的方式训练我们的模型来预测每个EDU是否由会话中的用户反馈所涉及。基于所学习的EDU和蕴涵表示，我们要么向用户回复我们对初始问题的最终决定“是/否/不相关”，要么生成后续问题以询问更多信息。我们在ShARC基准测试（盲测试集）上的实验表明，Discern在决策方面达到了78.3%的宏观平均准确率，在后续问题生成方面达到了64.0 BLEU 1。代码和模型在https://github.com/Yifan-Gao/Discern上发布。
2020-10-16 cs.AI cs.CL cs.LG
Modeling Hierarchical Reasoning Chains by Linking Discourse Units and Key Phrases for Reading Comprehension
Shanghai Jiao Tong University（上海交通大学）
本文提出整体图网络（HGN），在话语和词级别建模层次关系，通过节点级和类型级交互机制提升机器阅读理解的逻辑推理能力，并在ReClor、LogiQA等数据集上验证了有效性。
2023-06-21 cs.CL cs.LG
Smoothing Dialogue States for Open Conversational Machine Reading
Shanghai Jiao Tong University（上海交通大学）；National Institute of Information and Communications Technology (NICT)（日本国立情报学研究所）
会话式机器阅读（CMR）要求机器通过决策和问题生成过程两个突出对话状态之间的多轮交互与人类进行交流。在开放的CMR环境中，由于更接近现实场景，检索到的背景知识会带有噪声，这给信息传输带来了严峻的挑战。现有的研究通常训练独立或流水线系统的两个子任务。然而，这些方法都是琐碎的，通过使用硬标签的决定，以激活问题的生成，这最终阻碍了模型的性能。在这项工作中，我们提出了一个有效的门控策略，通过平滑的两个对话状态，只有一个解码器和桥梁决策和问题的产生，以提供一个更丰富的对话状态参考。在OR-ShARC数据集上的实验表明了该方法的有效性，取得了新的结果。
2021-09-02 cs.AI cs.CL cs.HC
Emotional RAG LLMs: Reading Comprehension for the Open Internet
AI Virtual Assistant (AVA) Lab, Georgia Institute of Technology（人工智能虚拟助理实验室，佐治亚理工学院）；Wand AI；Invoca
针对现实RAG应用中互联网文本语气多样导致下游任务困难的挑战，本文提出了一个情感化数据集、一个情感翻译模型以及一种基于提示的方法，以提升LLMs对检索文本的语用理解能力。
2025-06-29 cs.AI cs.CL cs.IR
Introducing "Forecast Utterance" for Conversational Data Science
Auburn University（奥本大学）
本文引入Forecast Utterance概念，将其构建为槽位填充问题，并采用EE和QA两种零样本方法自动解释用户预测目标，实验验证了其有效性与可行性。
2023-09-07 cs.CL cs.HC
Chatty-KG: A Multi-Agent AI System for On-Demand Conversational Question Answering over Knowledge Graphs
Concordia University（康科德大学）；IBM Research（IBM研究院）
Chatty-KG通过多智能体系统实现基于知识图谱的对话问答，结合RAG检索与结构化执行，提升多轮问答的准确性和效率。
2025-11-26 cs.CL
ChatR1: Reinforcement Learning for Conversational Reasoning and Retrieval Augmented Question Answering
University of Amsterdam（阿姆斯特丹大学）
ChatR1通过强化学习实现对话问答中的推理与检索增强，通过意图感知奖励提升多轮对话性能，优于多个基准数据集。
2026-04-25 cs.CL cs.IR
Grounded Complex Task Segmentation for Conversational Assistants
NOVA LINCS（新里斯本大学计算机科学与信息学实验室）；NOVA School of Science and Technology（新里斯本大学科学与技术学院）
本文研究对话助手中复杂任务的分割问题，以食谱领域为例，通过标注对话场景下的指令结构并采用基于 token 的 Transformer 方法建模，使用户更易遵循步骤，实验显示 86% 的任务在对话适用性上得到改善。
2023-09-20 cs.AI cs.CL
Conversing by Reading: Contentful Neural Conversation with On-demand Machine Reading
University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
虽然神经会话模型在学习如何产生流利的反应方面是有效的，但它们的主要挑战在于知道该说什么才能使会话内容丰富且不空洞。我们提出了一种新的端到端的方法来实现内容丰富的神经会话，该方法联合建模响应生成和按需机器阅读。其核心思想是为会话模型提供动态的相关长文本作为外部知识的来源。该模型执行问答式的阅读理解对这个文本在每个会话的转折，从而允许更集中的外部知识的整合比以前的方法。为了支持对基于知识的会话的进一步研究，我们引入了一个新的基于外部网页的大规模会话数据集（2.8M回合，7.4M句子的接地）。人工评估和自动化指标都表明，与以前的各种方法相比，我们的方法会产生更有内容的响应，从而提高了所生成输出的信息量和多样性。
2019-06-07 cs.AI cs.CL cs.LG
Reading Between the Lines: The One-Sided Conversation Problem
Paul G. Allen School of Computer Science & Engineering, University of Washington（保罗·G·阿伦计算机科学与工程学院，华盛顿大学）；Allen Institute for Artificial Intelligence（阿伦人工智能研究所）；Hearvana AI
本文提出单侧对话问题，研究如何从单侧对话中重建缺失发言和生成摘要，发现未来发言和发言长度信息有助于重建，而高质量摘要无需重建。
2026-04-16 cs.AI cs.CL cs.LG
DRInQ: Evaluating Conversational Implicature with Controlled Context Variation
University of Southern California（南加州大学）
提出DRInQ基准，通过半自动化管道生成系统变化的问答上下文实例，评估大语言模型在会话含义中的语用推理能力，发现模型在生成与推理之间存在不对称性。
2026-05-22 cs.CL
Did they answer? Subjective acts and intents in conversational discourse
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
话语信号通常是隐含的，留给口译员去做出必要的推断。与此同时，话语是嵌入在一个社会背景下，这意味着口译员应用自己的假设和信念时，解决这些推论，导致多种，有效的解释。然而，目前的话语数据和框架忽略了社会方面，只期望一个单一的地面真理。我们提出了第一个话语数据集与英语会话的形式感知会话行为和意图的多重和主观的解释。我们仔细分析了我们的数据集，并创建了计算模型，以（1）证实我们的假设，即考虑到口译员的偏见会导致对口译的更好预测，（2）并显示分歧是微妙的，需要对不同的上下文因素有更深入的理解。我们在http://github.com/elisaF/subjective_discourse上分享我们的数据集和代码。
2021-04-09 cs.CL
Wizard of Wikipedia: Knowledge-Powered Conversational agents
Facebook AI Research（Facebook人工智能研究）
在开放领域的对话智能代理应该表现出知识的使用，但有几个令人信服的证明这一日期。最流行的序列到序列模型通常“生成并希望”通用话语，当从输入话语映射到输出时，这些通用话语可以被记忆在模型的权重中，而不是采用回忆的知识作为上下文。到目前为止，知识的使用被证明是困难的，部分原因是缺乏一个监督学习基准任务，该任务展示了具有明确基础的知识性开放对话。为此，我们收集并发布了一个大型数据集，其中的对话直接基于从维基百科检索到的知识。然后，我们设计能够检索知识，阅读和调节知识，并最终产生自然反应的架构。我们表现最好的对话模型能够对开放领域的主题进行知识性的讨论，通过自动指标和人工评估进行评估，而我们的新基准允许衡量这一重要研究方向的进一步改进。
2019-02-21 cs.CL
Ruffle&Riley: Insights from Designing and Evaluating a Large Language Model-Based Conversational Tutoring System
Carnegie Mellon University（卡内基梅隆大学）；Texas A&M University（德克萨斯农工大学）；Ariel University（阿里尔大学）
本文提出了一种基于LLM的对话辅导系统Ruffle&Riley，通过AI辅助内容编写和双智能体自动化脚本编排实现自由对话，用户研究表明其能提升参与度但短期学习收益与阅读活动无显著差异。
2024-04-26 cs.CL
CoHS-CQG: Context and History Selection for Conversational Question Generation
Nanyang Technological University（南洋理工大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）；National University of Singapore（新加坡国立大学）；Salesforce AI Research（赛富时人工智能研究院）
会话问题生成（CQG）是机器通过会话来帮助人类的重要任务，例如交互式阅读理解。与传统的单轮问题生成（SQG）相比，CQG更具有挑战性，因为它要求生成的问题不仅要有意义，而且要与会话历史保持一致。虽然以前的研究主要集中在如何建模的流动和对齐的对话，一直没有深入的研究，到目前为止，该模型的背景和历史的哪些部分是必要的。我们认为，缩短上下文和历史是至关重要的，因为它可以帮助模型优化更多的会话对齐属性。为此，我们提出了CoHS-CQG，一个两阶段的CQG框架，它采用了一个CoHS模块，以缩短输入的上下文和历史。特别地，CoHS通过top-p策略根据其相关性得分选择连续的句子和历史转折。我们的模型实现了最先进的性能CoQA在两个答案感知和答案不知情的设置。
2022-10-10 cs.CL
Towards Spontaneous Style Modeling with Semi-supervised Pre-training for Conversational Text-to-Speech Synthesis
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；XVerse Inc.（元象科技）；The Chinese University of Hong Kong（香港中文大学）
针对自发性语音数据稀缺和标注成本高的问题，提出半监督预训练方法，结合文本与语音信息检测自发性行为，并利用语言感知编码器建模会话关系，实现表现性语音合成。
2023-08-31 cs.CL cs.LG cs.SD
VAIS ASR: Building a conversational speech recognition system using language model combination
Vietnam Artificial Intelligence System（越南人工智能系统）；Hanoi University of Science and Technology（河内理工大学）；Thai Nguyen University（太原大学）；Hanoi University of Mining and Geology（河内矿业与地质大学）
自动语音识别（ASR）系统发展迅速，在某些情况下达到了与人类同等的水平。这些系统通常在阅读风格和干净的语音方面表现得很好，然而，大多数可用的系统都受到说话风格是对话和嘈杂环境的情况的影响。由于语音和文本的数据汇集存在困难，解决此类问题并不简单。在本文中，我们试图减轻使用语言模型组合技术，使我们能够利用大量的写作风格的文本和少量的会话文本数据的问题。对VLSP 2019 ASR挑战的评估显示，我们的系统在VLSP 2018和VLSP 2019数据集上分别实现了4.85%和15.09%的WER。
2019-10-12 cs.CL cs.SD eess.AS
WaveMind: Towards a Conversational EEG Foundation Model Aligned to Textual and Visual Modalities
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
针对EEG配对数据模态错配阻碍跨模态学习的问题，研究提出将EEG与对应模态映射到统一语义空间，并构建首个跨任务EEG指令微调数据集WaveMind-Instruct-338k，开发的WaveMind模型兼具高分类准确率与多任务对话能力。
2025-09-26 cs.AI cs.CL cs.LG
Computational Interpretations of the Gricean Maxims in the Generation of Referring Expressions
我们研究了生成作为适当指称表达的定指名词短语的问题，即：（1）成功地识别听话人的预期指称，同时（2）不向她传达任何虚假的会话含义（Grice，1975）。我们回顾了几种可能的计算解释的会话含义准则，不同的计算成本，并认为，最简单的可能是最好的，因为它似乎是最接近人类说话者做什么。我们详细描述了我们推荐的算法，以及主机系统必须提供的资源，以利用该算法的规范，并在IDAS系统的自然语言生成组件中使用的实现。这篇论文将发表在1995年4 - 6月的《认知科学》杂志上，并在该杂志的出版商Ablex的许可下在cmp-lg上提供。
1995-04-26 cmp-lg cs.CL
ChatRetriever: Adapting Large Language Models for Generalized and Robust Conversational Dense Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Université de Montréal（蒙特利尔大学）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）；Waseda University（早稻田大学）
本文提出ChatRetriever，通过对比学习与掩码指令微调的双学习方法适配大型语言模型，显著提升了多轮会话密集检索的性能与鲁棒性，达到最新水平。
2024-04-21 cs.CL cs.IR
Conversational DNA: A Visual Language and Interactive Atlas of Human and AI Dialogue
Berkman Klein Center For Internet & Society（互联网与社会伯克曼-克莱因中心）；Harvard University（哈佛大学）
本文提出Conversational DNA，一种将对话视为生命系统并通过生物学隐喻可视化其时间架构的新视觉语言，揭示了传统方法遗漏的交互模式。
2026-09-25 cs.AI cs.CL cs.CY
Interactive Teaching for Conversational AI
Amazon（亚马逊）
目前的对话式人工智能系统旨在理解一组预先设计的请求并执行相关操作，这限制了它们自然进化并根据人类交互进行调整。受儿童如何与成人互动学习第一语言的启发，本文描述了一种新的可教学人工智能系统，该系统能够使用实时交互式教学会话直接从最终用户那里学习新的语言金块（称为概念）。所提出的设置使用三个模型来：a）在实时会话交互期间自动识别理解的差距，b）从与用户的实时交互中学习这些未知概念的各自解释，以及c）管理专门为交互式教学会话定制的课堂子对话。我们提出了最先进的基于Transformer的模型神经架构，在预训练模型的基础上进行了微调，并在各个组件上显示了准确性的提高。实验结果表明，该方法在构建更具自适应性和个性化的语言理解模型方面具有广阔的应用前景。
2020-12-02 cs.CL
HiGMem: A Hierarchical and LLM-Guided Memory System for Long-Term Conversational Agents
East China Normal University（东华大学）；Shanghai Jiao Tong University（上海交通大学）
HiGMem通过分层事件-对话轮次内存系统，利用事件摘要作为语义锚点，提升检索效率和证据集可靠性，优于现有方法。
2026-04-22 cs.CL
Ruffle&Riley: Towards the Automated Induction of Conversational Tutoring Systems
Carnegie Mellon University（卡内基梅隆大学）；Ariel University（阿里埃勒大学）
本文提出Ruffle&Riley，一种利用大语言模型自动生成辅导脚本并通过双智能体模拟师生对话的对话式辅导系统，实验显示其在学习体验上优于简单问答机器人。
2023-11-14 cs.AI cs.CL cs.HC
JUMPER: Learning When to Make Classification Decisions in Reading
Tsinghua University（清华大学）
在早期，文本分类通常是通过基于特征的机器学习模型来完成的;最近，深度神经网络作为一种强大的学习机器，使处理原始输入成为可能。然而，现有的端到端神经网络缺乏对预测的明确解释。在本文中，我们提出了一个新的框架，跳跃，灵感来自文本阅读的认知过程，模型文本分类作为一个顺序的决策过程。基本上，JUMPER是一个神经系统，它顺序扫描一段文本，并在它希望的时候做出分类决定。分类结果和何时进行分类都是决策过程的一部分，决策过程由策略网络控制，并使用强化学习进行训练。实验结果表明，经过适当训练的JUMPER具有以下特性：（1）只要证据足够，它就可以做出决策，因此可以减少30-40%的文本阅读量，并且经常找到预测的关键理由。(2)它在几个基准和工业数据集中实现了比最先进的模型更好或相当的分类精度。
2018-07-06 cs.AI cs.CL cs.IR
Reading Subtext: Evaluating Large Language Models on Short Story Summarization with Writers
Columbia University（哥伦比亚大学）
该研究与作家合作构建未公开的短篇小说测试集，结合叙事理论定量定性评估GPT-4等三款大模型的摘要能力，发现超半数摘要存忠实性错误，且自动评分与作家评分相关性差。
2024-07-11 cs.CL
