Retrospective Reader for Machine Reading Comprehension
Shanghai Jiao Tong University（上海交通大学）；SJTU-ParisTech Elite Institute of Technology, Shanghai Jiao Tong University（上海交通大学巴黎卓越工程师学院）
机器阅读理解（MRC）是一项人工智能挑战，要求机器根据给定的段落确定问题的正确答案。MRC系统不仅必须在必要时回答问题，还必须根据给定的段落区分何时没有答案，然后巧妙地放弃回答。当MRC任务中涉及无法回答的问题时，除了编码器之外，还特别需要一个称为验证器的基本验证模块，尽管MRC建模的最新实践仍然最受益于采用预先训练好的语言模型作为编码器块，只关注“阅读”。本文致力于探索更好的验证器设计的MRC任务与不可回答的问题。受人类如何解决阅读理解问题的启发，我们提出了一种回顾性阅读器（Retro-Reader），它集成了两个阶段的阅读和验证策略：1）粗略阅读，简要调查段落和问题的整体互动，并产生初步判断; 2）精读，验证答案并给出最终预测。在两个基准MRC挑战数据集SQuAD2.0和NewsQA上对所提出的阅读器进行了评估，获得了新的最先进的结果。显著性检验表明，我们的模型明显优于强ELECTRA和ALBERT基线。本文还对该阅读器的有效性进行了一系列的分析。
2020-12-11 cs.AI cs.CL cs.IR
RoR: Read-over-Read for Long Document Machine Reading Comprehension
JD AI Research（京东人工智能研究院）；Harbin Institute of Technology（哈尔滨工业大学）
基于transformer的预训练模型，如BERT，在机器阅读理解上取得了显著的效果。然而，由于编码长度的约束（例如，512 WordPiece令牌），长文档通常被分成多个独立读取的块。这导致阅读域仅限于单个块，而没有长文档机器阅读理解的信息协作。为了解决这个问题，我们提出了RoR，一个读过读的方法，它扩展了阅读领域从块到文档。具体地，RoR包括块读取器和文档读取器。前者首先为每个块预测一组区域答案，然后将其压缩成原始文档的高度压缩版本，保证编码一次。后者进一步预测了这份浓缩文件的全球答案。最终，利用投票策略对区域和全球答案进行汇总和重新排名，以进行最终预测。在两个基准测试QuAC和TriviaQA上的大量实验证明了RoR在长文档阅读中的有效性。值得注意的是，RoR在提交时（2021年5月17日）在QuAC排行榜（https：//quac.ai/）上排名第一。
2021-09-14 cs.CL
Retrieve, Read, Rerank: Towards End-to-End Multi-Document Reading Comprehension
National University of Defense Technology（国防科技大学）
本文研究了多个文本作为输入的阅读理解任务。先前的工作已经表明，检索器、读取器和重排序器的流水线可以提高整体性能。然而，流水线系统是低效的，因为输入在每个模块内被重新编码，并且不能利用上游组件来帮助下游训练。在这项工作中，我们提出了RE $^3$ QA，一个统一的问答模型，结合上下文检索，阅读理解和答案重新排序，以预测最终的答案。与以前的流水线方法不同，RE $^3$ QA在不同的组件之间共享上下文化的文本表示，并且被精心设计为使用高质量的上游输出（例如，检索的上下文或候选答案）用于直接监督下游模块（例如，读者或重新排序者）。因此，整个网络可以端到端地训练，以避免上下文不一致问题。实验表明，我们的模型优于流水线基线，并在两个版本的TriviaQA和SQuAD的两个变体上实现了最先进的结果。
2019-06-11 cs.CL
Sogou Machine Reading Comprehension Toolkit
Sogou, Inc.（搜狗公司）
近年来，机器阅读理解得到了广泛的研究，基于神经网络的模型表现出了优越的性能。在本文中，我们提出了一个搜狗机器阅读理解（SMRC）工具包，可用于提供现代机器理解模型的快速，高效的开发，包括已发布的模型和原始原型。为了实现这一目标，该工具包提供了数据集读取器、灵活的预处理管道、必要的神经网络组件和内置模型，使数据准备、模型构建和训练的整个过程变得更加简单。
2019-04-01 cs.CL
Read + Verify: Machine Reading Comprehension with Unanswerable Questions
National University of Defense Technology（国防科技大学）；Microsoft Research Asia（微软亚洲研究院）
具有不可回答问题的机器阅读理解旨在当无法推断答案时避免回答。除了提取答案，以前的作品通常预测一个额外的“无答案”的概率来检测无法回答的情况。然而，他们无法通过验证预测答案的合法性来验证问题的可回答性。为了解决这个问题，我们提出了一种新的读取然后验证系统，它不仅利用神经阅读器来提取候选答案并产生无答案概率，而且还利用答案验证器来决定预测的答案是否包含输入片段。此外，我们引入了两个辅助损失，以帮助读者更好地处理答案提取以及无答案检测，并调查三种不同的架构的答案验证。我们在SQuAD 2.0数据集上的实验表明，我们的系统在测试集上获得了74.2 F1的分数，在提交时（2018年8月28日）达到了最先进的结果。
2018-11-15 cs.CL
RikiNet: Reading Wikipedia Pages for Natural Question Answering
Sichuan University（四川大学）；Microsoft Research Asia（微软亚洲研究院）；Microsoft AI Research（微软人工智能研究院）；Microsoft Search Technology Center Asia（微软亚洲搜索技术中心）
阅读长文档来回答开放域问题在自然语言理解中仍然具有挑战性。在本文中，我们介绍了一个新的模型，称为RikiNet，它读取维基百科页面的自然问答。RikiNet包含一个动态段落双注意阅读器和一个多级级联答案预测器。读者通过利用一组互补的注意力机制来动态地表示文档和问题。然后将表示馈送到预测器中，以级联方式获得简短答案的跨度、长答案的段落和答案类型。在自然问题（NQ）数据集上，单个RikiNet在长答案和短答案任务上分别达到74.3 F1和57.9 F1。据我们所知，这是第一个超越单一人类表现的单一模型。此外，集合RikiNet在长回答和短回答任务中获得76.1 F1和61.3 F1，在NQ官方排行榜上取得最佳成绩
2020-04-30 cs.CL
Improving Machine Reading Comprehension with General Reading Strategies
Cornell University（康奈尔大学）；Tencent AI Lab（腾讯人工智能实验室）
阅读策略已被证明可以提高理解水平，特别是对于缺乏足够先验知识的读者。正如知识积累的过程对于人类读者来说是耗时的一样，通过预训练将丰富的一般领域知识传授到深度语言模型中是需要资源的。受认知科学中识别的阅读策略的启发，并考虑到有限的计算资源-只有一个预先训练的模型和固定数量的训练实例-我们提出了三种旨在提高非提取机器阅读理解（MRC）的一般策略：（i）考虑输入序列的原始顺序和逆序的前后读取，（ii）高亮，其将可训练嵌入添加到与问题和候选答案相关的标记的文本嵌入，以及（iii）自我评估，其以无监督的方式直接从文本生成练习问题和候选答案。通过微调预训练的语言模型（Radford等人，2018）通过我们在最大的通用领域多项选择MRC数据集RACE上提出的策略，我们获得了5.8%的准确性绝对提高，而之前的最佳结果是在RACE上微调相同的预训练模型而不使用策略。我们进一步对目标MRC任务的结果模型进行了微调，导致在来自不同领域的六个代表性非提取MRC数据集上的平均准确度比以前的最先进方法绝对提高了6.2%（即，ARC、OpenBookQA、MCTest、SemEval-2018任务11、ROCStories和MultiRC）。这些结果证明了我们提出的策略的有效性和我们的微调模型，将这些策略的通用性和普遍适用性。核心代码可在https://github.com/nlpdata/strategy/上…
2019-03-22 cs.CL
Investigating Prior Knowledge for Challenging Chinese Machine Reading Comprehension
Cornell University（康奈尔大学）；Tencent AI Lab（腾讯人工智能实验室）
机器阅读理解任务要求机器阅读者回答与给定文档相关的问题。在本文中，我们提出了第一个自由形式的多项选择中文机器阅读理解数据集（C^3），包含13，369个文件（对话或更正式的书面混合体裁的文本）和相关的19，577多项选择自由形式的问题，从汉语作为第二语言的考试收集。我们提出了一个全面的分析先验知识（即，语言、特定领域和一般世界知识）。我们实现了基于规则的和流行的神经方法，发现性能最好的模型（68.5%）和人类读者（96.0%）之间仍然存在显着的性能差距，特别是在需要先验知识的问题上。我们进一步研究了干扰项可扩展性和基于翻译的英语相关数据集的数据增强对模型性能的影响。我们预计C^3将对现有系统提出巨大挑战，因为回答86.8%的问题需要附带文档内外的知识，我们希望C^3可以作为一个平台，研究如何利用各种先验知识来更好地理解给定的书面或口头文本。C^3可在https://dataset.org/c3/上获得。
2019-12-17 cs.CL
Meta Answering for Machine Reading
Google Research（谷歌研究院）；ETH Zürich（苏黎世联邦理工学院）；New York University（纽约大学）；University of Maryland（马里兰大学）
我们研究了一个机器阅读的框架，灵感来自现实世界的信息寻求问题，其中一个Meta问答系统与黑盒环境进行交互。该环境封装了一个基于BERT的竞争机器阅读器，提供问题的候选答案，可能还有一些上下文。为了验证我们的公式的现实性，我们要求人类扮演元回答者的角色。只需在答案周围添加一小段文字，人类就可以超越机器阅读器，提高回忆率。类似地，一个简单的机器元回答器优于环境，提高了Natural Questions数据集的精确度和召回率。该系统依赖于答案评分和条件信息选择的联合训练。
2020-04-30 cs.AI cs.CL
$G^2$-Reader: Dual Evolving Graphs for Multimodal Document QA
Shanghai Jiao Tong University（上海交通大学）；Intelligent Game and Decision Laboratory（智能游戏与决策实验室）
$G^2$-Reader通过双重图式解决多模态文档问答中的结构破坏和检索失效问题，实现66.21%的高准确率。
2026-01-29 cs.CL
Effective Character-augmented Word Embedding for Machine Reading Comprehension
East China Normal University（华东师范大学）；Shanghai Jiao Tong University（上海交通大学）
机器阅读理解是一个对篇章和查询之间的关系进行建模的任务。就深度学习框架而言，大多数最先进的模型只是简单地连接单词和字符级别的表示，这对于相关任务来说是次优的。在本文中，我们经验性地探讨了不同的整合策略的词和字符嵌入，并提出了一个字符增强阅读器，出席字符级的代表性，以增加词嵌入与一个简短的列表，以改善词的表示，特别是对罕见的话。实验结果表明，所提出的方法有助于基线模型显着优于国家的最先进的基线在各种公共基准。
2021-01-07 cs.CL
Single-Sentence Reader: A Novel Approach for Addressing Answer Position Bias
Denison University（丹尼森大学）
针对机器阅读理解中答案位置偏差问题，提出单句阅读器方法，在六个模型上实验证明其效果接近正常数据集训练的模型，并讨论了挑战与解决方案。
2023-09-06 cs.CL
A Survey on Neural Machine Reading Comprehension
University of Chinese Academy of Sciences（中国科学院大学）
使机器能够阅读和理解自然语言文档，以便它可以回答一些问题仍然是一个难以捉摸的挑战。近年来，深度学习的普及和大规模数据集的建立，都促进了机器阅读理解的繁荣。本文介绍了如何利用神经网络来构建一个阅读器，并介绍了一些经典的模型，分析了它们的改进之处。进一步指出了现有模型的不足和未来的研究方向
2019-06-10 cs.CL cs.LG
Learning to Attend On Essential Terms: An Enhanced Retriever-Reader Model for Open-domain Question Answering
University of California, San Diego（加州大学圣地亚哥分校）；Microsoft（微软）
开放域问答仍然是一项具有挑战性的任务，因为它需要能够理解问题和答案，收集有用信息和推理证据的模型。以前的工作通常制定这个任务作为一个阅读理解或蕴涵问题的证据检索搜索引擎。然而，现有的技术努力检索间接相关的证据时，没有直接相关的证据提供，特别是对于复杂的问题，它是很难准确地解析问题问。在本文中，我们提出了一个检索者-读者模型，学习参加在问答过程中的基本条款。我们构建了（1）一个基本术语选择器，它首先识别问题中最重要的词，然后重新制定查询并搜索相关证据;以及（2）一个增强的阅读器，它区分基本术语和分散注意力的词来预测答案。我们在多个开放域多项选择QA数据集上评估了我们的模型，特别是在AI 2推理挑战（ARC）数据集上表现出最先进的水平。
2019-05-09 cs.CL
Improving Machine Reading Comprehension with Contextualized Commonsense Knowledge
Cornell University（康奈尔大学）；Tencent AI Lab（腾讯人工智能实验室）
在本文中，我们的目标是提取常识知识，以提高机器阅读理解。我们建议通过将结构化知识置于上下文中而不是依赖于预定义的一组关系来隐式地表示关系，我们称之为上下文化知识。每一条语境化知识都由一对相互关联的语言和非语言信息组成，这些信息是从剧本和场景中提取出来的，它们作为语境隐含地代表了语言和非语言信息之间的关系，这些信息最初是通过剧本中的不同模态来传达的。我们提出了一个两阶段的微调策略，使用大规模的弱标记数据的基础上的一种类型的上下文知识，并采用师生范式注入多种类型的上下文知识到学生机器阅读器。实验结果表明，我们的方法在机器阅读理解数据集C^3上的准确率提高了4.3%，其中大多数问题需要未陈述的先验知识。
2020-10-19 cs.CL
Bidirectional End-to-End Learning of Retriever-Reader Paradigm for Entity Linking
Tsinghua University（清华大学）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）；Alibaba DAMO Academy（阿里巴巴达摩院）；Sun-Yat Sen University（中山大学）
针对实体链接中检索器与阅读器分离训练缺乏交互的问题，提出双向端到端训练框架BEER$^2$，使两者相互学习共同进步，有效提升了端到端EL性能。
2024-03-20 cs.CL
Using Adversarial Attacks to Reveal the Statistical Bias in Machine Reading Comprehension Models
Zhejiang University（浙江大学）；Zhejiang Lab（之江实验室）
预先训练的语言模型在许多机器阅读理解（MRC）任务中已经达到了人类水平的性能，但目前还不清楚这些模型是否真正理解语言或通过利用数据集中的统计偏差来回答问题。在这里，我们展示了一种简单而有效的方法来攻击MRC模型，并揭示这些模型中的统计偏差。我们将该方法应用于RACE数据集，其中每个MRC问题的答案从4个选项中选择。研究发现，包括BERT、ALBERT和RoBERTa在内的几种预训练语言模型对某些选项表现出一致的偏好，即使这些选项与问题无关。当受到这些无关选项的干扰时，MRC模型的性能会从人的水平降低到机会水平。然而，人类读者并不明显受到这些无关选项的影响。最后，我们提出了一种增强的训练方法，可以大大减少模型的统计偏差。
2021-05-25 cs.CL
PAIR: Memory-Efficient and Fast Inference with Reading--Reasoning Fusion
Siebel School of Computing and Data Science（西贝尔计算与数据科学学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
PAIR是一种多模型推理方法，通过Reader与Reasoner模型在logit层面融合，在HotpotQA等数据集上以约四分之一的KV内存保留32B模型96%精度，吞吐量提升3.2倍，优化了精度与效率的权衡。
2026-10-14 cs.CL
Retrieval as Attention: End-to-end Learning of Retrieval and Reading within a Single Transformer
Carnegie Mellon University（卡内基梅隆大学）；Bosch Research North America（博世北美研究院）；Amazon（亚马逊）
知识密集型任务的系统，如开放领域的问答（QA）通常包括两个阶段：从一个大的语料库中有效检索相关的文件和详细阅读所选择的文件，以产生答案。检索器和读取器通常是单独建模的，这需要繁琐的实现，并且很难以端到端的方式进行训练和调整。在本文中，我们重新审视了这种设计，并避开了单独的架构和培训，而是使用单个Transformer来执行Retrieval as Attention（ReAtt），并仅基于来自最终QA任务的监督进行端到端培训。我们第一次证明，一个单一的模型训练的端到端可以实现竞争检索和QA性能，匹配或略优于最先进的分别训练检索和读者。此外，端到端自适应显著提高了其在有监督和无监督环境下对域外数据集的性能，使我们的模型成为知识密集型任务的简单且适应性强的解决方案。代码和模型可在https://github.com/jzbjyb/ReAtt上获得。
2022-12-05 cs.CL cs.LG
Guiding LLM to Fool Itself: Automatically Manipulating Machine Reading Comprehension Shortcut Triggers
Bar-Ilan University（巴伊兰大学）；Allen Institute for AI（艾伦人工智能研究所）
本文提出一个框架引导GPT4向机器阅读理解样本中注入捷径触发器，发现GPT4可被自身编辑欺骗（F1下降15%），并发布ShortcutQA数据集以揭示LLMs对捷径操纵的固有脆弱性。
2023-10-24 cs.AI cs.CL
Multi-step Retriever-Reader Interaction for Scalable Open-domain Question Answering
University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Microsoft Research, Montréal（微软蒙特利尔研究院）；Google AI, Mountain View（谷歌山景城人工智能部门）
本文介绍了一种新的开放域问答框架，其中检索者和读者迭代地相互交互。该框架对机器阅读模型的架构是不可知的，只需要访问阅读器的标记级隐藏表示。检索器使用快速最近邻搜索来扩展到包含数百万段落的语料库。门控递归单元在每一步以读者的状态为条件更新查询，并且检索器使用重构后的查询来对段落进行重新排序。我们进行分析，并表明，迭代交互有助于检索信息段落从语料库。最后，我们表明，我们的多步推理框架带来了一致的改善时，应用到两个广泛使用的阅读器架构DrQA和Bioburden在各种大型开放域数据集-TriviaQA未过滤，QuasarT，SearchQA，SQuAD开放。
2019-05-14 cs.CL cs.LG
Training a Ranking Function for Open-Domain Question Answering
New York University（纽约大学）
近年来，用于机器阅读的深度学习方法取得了惊人的进展。在机器阅读中，机器阅读器必须从给定的地面真理段落中提取答案。近年来，最先进的机器阅读模型在SQuAD（一种阅读理解风格的问答（QA）任务）中达到了人类水平的性能。机器阅读的成功启发了研究人员将信息检索与机器阅读相结合来解决开放领域的问答问题。然而，与阅读理解式QA相比，这些系统的表现很差，因为很难检索包含问题答案的段落片段。在这项研究中，我们提出了两个神经网络排名器，根据它们包含给定问题答案的可能性为不同的段落分配分数。此外，我们还分析了语义相似度和词级相关匹配在开放域问答中的相对重要性。
2018-04-12 cs.CL cs.IR
Multi Document Reading Comprehension
Indian Institute Of Technology (BHU) Varanasi（印度理工学院（巴纳拉斯印度教大学）瓦拉纳西分校）
阅读理解（RC）是从给定的文章或一组文章中回答问题的任务。在多个段落的情况下，任务是找到问题的最佳答案。最近在自然语言处理（NLP）领域的试验和实验已经证明，机器不仅可以处理文章中的文本并理解其含义以回答文章中的问题，而且还可以在许多数据集上超越人类表现，例如斯坦福的问答数据集（SQuAD）。本文介绍了近几十年来自然语言处理领域对阅读理解的研究及其进展。我们还将研究如何单文档阅读理解任务作为我们的多文档阅读理解系统的构建块。在本文的后半部分，我们将研究最近提出的多文档阅读理解模型-RE 3QA，该模型由阅读器，检索器和基于重新排序的网络组成，以从给定的段落集合中获取最佳答案。
2022-01-05 cs.AI cs.CL
When Retriever-Reader Meets Scenario-Based Multiple-Choice Questions
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
基于场景的问答（SQA）需要从大型语料库中检索和阅读段落来回答由长场景描述上下文化的问题。由于场景中既包含用于检索的关键词，又包含大量噪声，因此SQA的检索非常困难。此外，由于SQA缺乏段落的相关性标签，因此很难对其进行监督。为了应对这一挑战，在本文中，我们提出了一个联合检索器-读者模型称为JEEVES检索器是隐式监督只使用QA标签通过一种新的词加权机制。在三个SQA数据集中，JEEVES在多项选择题上的表现明显优于各种强基线。
2021-09-05 cs.AI cs.CL cs.IR
How to make qubits speak
Cambridge Quantum Computing Ltd.（剑桥量子计算有限公司）；Oxford University（牛津大学）
这是一个关于让量子计算机说话的故事，并且以量子原生的，合成的和意义感知的方式这样做。最近，我们用一台真正的量子计算机进行了问答。我们解释了我们所做的，强调这一切都是在图片方面完成的，并提供了许多相关文献的指针。事实上，除了自然语言之外，许多其他事物都可以以量子原生、组合和意义感知的方式实现，我们为读者提供了一些更广泛的图像景观的指示，包括我们对组合性概念的解释。我们还提供了一些实际执行的指导，以便读者也可以尝试一下。
2021-07-02 cs.CL quant-ph
Explicit Utilization of General Knowledge in Machine Reading Comprehension
York University（约克大学）
为了弥补机器阅读理解（MRC）模型与人类之间的差距，主要体现在对数据的渴求和对噪声的鲁棒性上，本文探讨如何将MRC模型的神经网络与人类的一般知识相结合。一方面，我们提出了一种数据丰富的方法，它使用WordNet提取词间语义连接作为一般知识，从每个给定的问题对。另一方面，我们提出了一个端到端的MRC模型命名为知识辅助阅读器（KAR），它显式地使用上述提取的一般知识，以协助其注意力机制。基于数据富集方法，KAR在性能上与最先进的MRC模型相当，并且对噪声的鲁棒性明显优于它们。当只有一个子集（20%-80%）的训练样本是可用的，KAR优于国家的最先进的MRC模型的大幅度，仍然是合理的噪音鲁棒性。
2019-05-20 cs.AI cs.CL
Japanese Lexical Complexity for Non-Native Readers: A New Dataset
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；CyberAgent Inc.（CyberAgent公司）；RIKEN（理化学研究所）
该研究构建了首个日语词汇复杂度预测（LCP）数据集，通过区分不同母语标注者的复杂度评分满足读者L1特定需求，并在基线实验中验证了基于BERT系统的有效性。
2023-06-30 cs.CL
The NarrativeQA Reading Comprehension Challenge
DeepMind；University of Oxford（牛津大学）
阅读理解（RC）--与信息检索相反--需要在整个文档中整合关于事件、实体及其关系的信息和推理。问答通常用于评估RC能力，在人工代理和儿童学习阅读。然而，现有的RC数据集和任务由可以通过使用表面信息（例如，局部上下文相似性或全局术语频率）;因此，它们未能测试RC的基本综合方面。为了鼓励更深入地理解语言，我们提出了一个新的数据集和一组任务，读者必须通过阅读整本书或电影剧本来回答有关故事的问题。这些任务的设计是为了成功地回答他们的问题需要理解潜在的叙述，而不是依赖于肤浅的模式匹配或显著性。我们表明，虽然人类很容易解决的任务，标准的RC模型的斗争在这里提出的任务。我们对数据集及其带来的挑战进行了分析。
2017-12-19 cs.AI cs.CL cs.NE
Knowledgeable Reader: Enhancing Cloze-Style Reading Comprehension with External Commonsense Knowledge
Research Training Group AIPHES（AIPHES研究培训小组）；Department of Computational Linguistics, Heidelberg University（海德堡大学计算语言学系）；Heidelberg, Germany（德国海德堡）
我们引入了一个神经阅读理解模型，它整合了外部常识知识，编码为键值记忆，在完形填空风格的设置。我们的模型不像以前的工作那样只依赖于文档到问题的交互或离散特征，而是关注相关的外部知识，并在推断答案之前将这些知识与上下文表示相结合。这允许模型从文本中没有明确说明但与推断答案相关的外部知识源中吸引和暗示知识。我们的模型在硬通用名词数据集上的非常强的基线上改进了结果，使其成为更复杂模型的强有力竞争对手。通过显式地包含知识，我们的模型还可以提供有关RC过程中使用的背景知识的证据。
2018-05-21 cs.CL
Complementary Advantages of ChatGPTs and Human Readers in Reasoning: Evidence from English Text Reading Comprehension
Southeast University（东南大学）；Qufu Normal University（曲阜师范大学）
本研究通过三个推理测试比较ChatGPT与高中生，发现两者在常识、情感和因果推理上各有优劣，形成互补关系。
2023-11-17 cs.CL
Predicting Native Language from Gaze
MIT（麻省理工学院）
语言学习中的一个基本问题是关于一个人的第一语言在第二语言习得中的作用。我们提出了一种新的研究方法：分析第二语言自由文本阅读中的眼动模式。使用这种方法，我们证明了第一次，英语学习者的母语可以预测，从他们的凝视时，阅读英语。我们提供了分类器的不确定性和学习功能的分析，这表明在英语阅读的差异很可能是植根于跨母语的语言差异。所提出的框架补充了生产研究，并为推进多语制研究提供了新的基础。
2017-05-02 cs.CL
Personalized Prediction of Offensive News Comments by Considering the Characteristics of Commenters
Kyushu University（九州大学）
当阅读社交网络服务和新闻网站上的新闻文章时，读者可以查看其他人对这些文章的评论。通过阅读这些评论，读者可以了解有关新闻的舆论，往往有助于把握新闻的全貌。然而，这些评论通常包含读者不喜欢阅读的攻击性语言。本研究旨在预测此类攻击性评论，以提高读者在阅读评论时的体验质量。该方法考虑到读者价值观的多样性，根据读者过去评价为“攻击性”的少量新闻评论的反馈，预测每个读者的攻击性新闻评论。此外，我们使用了一个机器学习模型，该模型考虑评论者的特征来进行预测，独立于新闻评论中的单词和主题。实验结果表明，该方法可以个性化预测，即使在预测中使用的读者的反馈数据量是有限的。特别是，所提出的方法，它考虑了评论者的特点，具有较低的错误检测攻击性评论的概率。
2022-12-26 cs.CL
Reader Proficiency Shapes Layer-wise Surprisal Profiles
Universitat Pompeu Fabra（庞培法布拉大学）
本研究利用MECO L2语料库和12个LLM，发现低词汇熟练度读者在首次注视时长上预测深度更深，且总注视时长比首次注视时长预测深度更深，表明逐层惊异度分布与读者熟练度及注视测量相关。
2026-09-30 cs.CL
CAESAR: Context Awareness Enabled Summary-Attentive Reader
Yahoo Inc.（雅虎公司）；Graduate School of Interdisciplinary Information Studies（跨学科信息研究研究生院）；The University of Tokyo（东京大学）
从自然语言中理解含义是自然语言处理（NLP）的主要目标，而文本理解是实现这一目标的基石，在此基础上可以实现聊天机器人、语言翻译等所有其他问题。我们报告了我们设计的一个摘要-注意阅读器，以更好地模拟人类阅读过程，以及一个基于词典的解决方案，关于数据中的词汇表外（OOV）单词，以基于机器理解SQuAD基准中的阅读段落和问题来生成答案。我们使用两种流行的模型（Match LSTM和Dynamic Coattention）实现这些功能，能够接近匹配从人类获得的结果。
2018-03-04 cs.CL
A Framework for Learning Assessment through Multimodal Analysis of Reading Behaviour and Language Comprehension
Indian Institute of Information Technology Allahabad（印度信息技术学院阿拉哈巴德分校）
阅读理解是一项重要的学术技能，它是通过将文字的字形转化为意义的过程来理解书面语篇的。其他语言学习技能--写作、口语和听力，都与阅读理解有关。研究人员提出了一些措施来自动评估第二语言（L2）学习者的理解技能，特别是英语作为第二语言（ESL）和英语作为外语（EFL）的学习者。然而，目前的方法测量特定的技能没有分析阅读频率对理解技能的影响。在这篇论文中，我们展示了如何不同的技能可以自动测量和评分。我们还展示了，使用多种形式的学习者的反应的例子实验，如何频繁的阅读实践可能会影响变量的多模态技能（阅读模式，写作和口语流利性）。本论文由五个部分组成。第一和第二项研究是基于在重复阅读（RR）会话中收集的EFL读者的眼动数据。研究三和研究四是对英语阅读者在重复阅读中撰写的自由文本摘要进行评价。第五个也是最后一个研究，在本论文的第六章中描述，是对EFL读者在重复阅读中背诵的口头摘要进行评估。简而言之，通过这篇论文，我们表明，学习者的多模态技能可以进行评估，以衡量他们的理解能力，以及衡量这些技能在时间的过程中重复阅读的效果，通过发现显着的功能，并通过应用机器学习技术与统计模型，如LMER的组合。
2021-10-22 cs.CL
Can Entropy Explain Successor Surprisal Effects in Reading?
Johns Hopkins University（约翰斯·霍普金斯大学）
人类的阅读行为对重复性很敏感：更可预测的单词往往会读得更快。出乎意料的是，这不仅适用于当前正在阅读的单词的连读，还适用于尚未固定的即将出现的（后续）单词的连读。这一发现被解释为读者可以旁联想地提取词汇信息的证据。对这种解释提出了质疑，Angele et al.（2015）表明，即使在这些后继词尚未可见的情况下，后继效应也会出现。他们假设继任者Rupsal预测阅读时间，因为它近似于读者对即将到来的单词的不确定性。我们使用LSTM语言模型在阅读时间语料库上测试了这一假设，并发现后继语义和熵是阅读时间的独立预测因子。这种独立性表明，熵本身不太可能是后继的熵效应的全部解释。
2018-10-26 cs.CL
How to Engage Your Readers? Generating Guiding Questions to Promote Active Reading
ETH Zürich（苏黎世联邦理工学院）；ETH AI Center（ETH人工智能中心）
该研究提出了GuidingQ数据集，包含1万个文内问题，通过分析其特征并探索语言模型生成方法，发现生成的高质量问题能有效提升读者的记忆与理解，效果接近人工编写。
2024-07-29 cs.AI cs.CL
Assessing Language Proficiency from Eye Movements in Reading
MIT BCS（麻省理工学院脑与认知科学系）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
本文提出了一种利用阅读过程中眼动行为轨迹来确定学习者第二语言水平的新方法。我们的方法提供了独立的眼动跟踪为基础的英语水平分数，反映了在何种程度上学习者的凝视模式在阅读中是类似的母语为英语的。我们发现，我们的成绩与标准化英语水平测试密切相关。我们还证明，凝视信息可以用来准确地预测这种测试的结果。我们的方法产生最强的性能时，考生提出了一套句子，我们从其他读者的眼动数据。然而，它仍然有效，即使使用眼动跟踪的句子，眼睛运动数据尚未收集。通过将熟练程度作为普通阅读过程中眼动的自动副产品，我们的方法为第二语言水平评估提供了一个潜在的有价值的新工具。更广泛地说，我们的研究结果为未来从阅读行为痕迹推断读者特征的方法打开了大门。
2018-04-24 cs.CL
Emulating Reader Behaviors for Fake News Detection
Chongqing University（重庆大学）；Illinois Institute of Technology（伊利诺伊理工学院）；University of Sydney（悉尼大学）
针对现有基于模态的假新闻检测方法忽略读者阅读和验证行为的问题，提出Ember方法，通过构建组件内特征提取器和组件间序列聚合模块模拟读者逐组件阅读与验证过程，在九个真实数据集上验证了其优越性。
2023-06-27 cs.CL
Jack the Reader - A Machine Reading Framework
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；University College London（伦敦大学学院）；Università della Svizzera italiana（瑞士意大利语区大学）；University of Copenhagen（哥本哈根大学）；University of Oxford（牛津大学）；Ghent University - imec（根特大学-imec）
许多机器阅读和自然语言理解任务需要阅读支持文本以回答问题。例如，在问答中，支持文本可以是新闻或维基百科的文章;在自然语言推理中，前提可以被视为支持文本，假设可以被视为问题。提供一组在相关任务的单个框架中操作的有用原语将允许表达性建模，并且更容易进行模型比较和复制。为此，我们提出了Jack the Reader（Jack），这是一个机器阅读框架，可以通过组件重用来快速进行模型原型设计，在现有数据集上评估新模型，以及集成新数据集并将其应用于越来越多的已实现基线模型。Jack目前支持（但不限于）三个任务：问答、自然语言推理和链接预测。它的开发旨在提高研究效率和代码重用。
2018-06-20 cs.CL cs.LG stat.ML
Character-based Surprisal as a Model of Reading Difficulty in the Presence of Error
Stanford University（斯坦福大学）；University of Edinburgh（爱丁堡大学）；University of Washington（华盛顿大学）；Harvard University（哈佛大学）
直觉上，人类读者很容易处理文本中的错误;错别字，拼写错误，单词替换等不会过度破坏自然阅读。以前的研究表明，字母换位会增加阅读时间，但目前还不清楚这种效果是否适用于更自然的错误。在本文中，我们报告了一项眼动追踪研究，比较了两种错误类型（字母换位和自然发生的拼写错误）和两种出错率（10%或50%的单词包含错误）。我们发现，人类读者表现出不受损害的理解，尽管这些错误，但错误的话造成更多的阅读困难比正确的话。此外，换位比拼写错误更困难，高出错率增加了所有单词的难度，包括正确的单词。然后，我们提出了一个计算模型，使用基于字符（而不是传统的基于单词）的语法来解释这些结果。该模型解释说，换位比拼写错误更难，因为它们包含意想不到的字母组合。它也解释了出错率效应：当上下文降级时，即将出现的单词更难预测，导致错误率增加。
2019-05-20 cs.CL
KnowledgeGain: Evaluating and Optimizing Science News Generation for Reader Learning
Old Dominion University（旧 Dominion 大学）；University of Notre Dame（诺特大学）
提出KnowledgeGain指标，通过测量读者知识增益来评估科学新闻质量，并利用LLM模拟器优化生成，提升读者学习效果。
2026-05-29 cs.AI cs.CL
Controlling Reading Ease with Gaze-Guided Text Generation
MaiNLP, Center for Information and Language Processing, LMU Munich（MaiNLP、信息与语言处理中心、慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
通过眼动引导生成可控阅读易度的文本，利用眼动模式预测优化语言模型输出，提升文本可读性与学习效果。
2026-01-25 cs.CL
Emergent Predication Structure in Hidden State Vectors of Neural Readers
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
大量的阅读理解神经结构最近被开发出来，并在大型完形填空数据集上进行了评估。我们目前的实验支持出现的“述谓结构”在这些读者的隐藏状态向量。更具体地说，我们提供的证据表明，隐藏的状态向量表示原子公式$Φ[c]$，其中$Φ$是一个语义属性（谓词）和$c$是一个常数符号实体标识符。
2017-05-31 cs.CL
Readers make targeted regressions to plausible errors in reanalysis of "noisy-channel garden-path" sentences
MIT Brain and Cognitive Sciences（麻省理工学院脑与认知科学）
研究探讨了读者在处理‘噪声通道花园路径’句子时如何通过后续信息定位可能的错误，揭示了阅读动态中的定向回归现象及对噪声通道语言理解理论的影响。
2026-05-18 cs.CL
FBS: Modeling Native Parallel Reading inside a Transformer
Southeast University（东南大学）
FBS通过引入Parafovea-Attention Window、Chunk-Head和Skip-Gate模块，改进了Transformer的推理效率与质量平衡，无需增加参数。
2026-04-08 cs.AI cs.CL
On the Effect of Anticipation on Reading Times
University of Cambridge（剑桥大学）；ETH Zürich（苏黎世联邦理工学院）；MIT（麻省理工学院）
本文将阅读中的预期操作化为上下文熵，在四个自然阅读数据集上对比其与 surprisal 对阅读时间的预测力，证明阅读兼具反应性与预期性。
2023-07-14 cs.CL
A Word-Level Digital Reader of the Prasthanatrayi with Sankara's Bhasya: Corpus, Method, and an Open, Offline Reading Aid for the Advaita Vedanta Canon
Ramakrishna Mission Vivekananda Educational and Research Institute（罗摩克里希那传道会辨喜教育与研究学院）
该研究针对吠檀多三经阅读难题，构建开放离线词级数字阅读器。利用混合管道和人工审核循环处理文本，涵盖多单元及大量词分析与字典。经评估其分析与权威词典高度一致，提供了便捷的教学阅读辅助工具。
2026-07-09 cs.CL cs.DL
From Reading to Compressing: Exploring the Multi-document Reader for Prompt Compression
Sungkyunkwan University（成均馆大学）
本文提出 R2C 提示压缩方法，利用 FiD 架构的交叉注意力分数识别提示中的关键信息，无需伪标签即可训练压缩器，在域外评估中提升 LLM 性能 6% 并将提示长度减少 80%。
2024-12-31 cs.AI cs.CL
Envisioning the Next-Gen Document Reader
Harvard University（哈佛大学）；Adobe Research（Adobe研究院）
人们每天阅读数字文档，以在电子环境中共享、交换和理解信息。然而，当前的文档阅读器创建了静态的、孤立的阅读体验，这不支持用户通过文档交互获得更多知识和执行附加任务的目标。在这项工作中，我们提出了我们对下一代文档阅读器的愿景，该阅读器致力于增强用户的理解，并创建一个更加连接，值得信赖的信息体验。我们描述了18个NLP驱动的功能，以添加到现有的文档阅读器，并提出了一个新的插件市场，允许用户进一步定制他们的阅读体验，通过https://github.com/catherinesyeh/nextgen-prototypes提供的3个探索性UI原型进行演示
2023-02-15 cs.AI cs.CL cs.HC
The Semantic Reader Project: Augmenting Scholarly Documents through AI-Powered Interactive Reading Interfaces
Allen Institute for AI（艾伦人工智能研究所）；University of Washington（华盛顿大学）；University of California, Berkeley（加州大学伯克利分校）；University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）；Massachusetts Institute of Technology（麻省理工学院）；KAIST（韩国科学技术院）；Johns Hopkins University（约翰斯·霍普金斯大学）；University of Minnesota（明尼苏达大学）；University of California, San Diego（加州大学圣地亚哥分校）；Microsoft Research（微软研究院）
本文介绍 Semantic Reader 项目，利用 AI 与 HCI 将遗留 PDF 转化为智能、交互式、可访问的学术阅读界面，并通过十个原型和 300 多名用户验证其效果。
2023-04-23 cs.AI cs.CL cs.HC
Broad Context Language Modeling as Reading Comprehension
Toyota Technological Institute at Chicago（芝加哥丰田工业大学）；University of Chicago（芝加哥大学）
文本理解的进展是由测试特定能力的大型数据集驱动的，如最近的阅读理解数据集（Hermann et al.，2015年）。我们在这里关注LAMBADA数据集（Paperno等人，2016），一个单词预测任务需要比直接句子更广泛的上下文。我们认为LAMBADA作为一个阅读理解问题，并应用基于神经网络的理解模型。虽然这些模型被限制在从上下文中选择一个词，但它们将LAMBADA的最新技术水平从7.3%提高到了49%。我们分析了100个实例，发现神经网络阅读器在涉及基于对话或话语线索从上下文中选择名称的情况下表现良好，但在需要共指消解或外部知识时表现不佳。
2017-02-16 cs.CL
Paper Plain: Making Medical Research Papers Approachable to Healthcare Consumers with Natural Language Processing
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of California, Berkeley（加州大学伯克利分校）；University of Pennsylvania（宾夕法尼亚大学）
当寻求信息不包括在患者友好的文件，如医疗小册子，医疗消费者可能会转向研究文献。然而，阅读医学论文可能是一种具有挑战性的经历。为了提高对医学论文的访问，我们引入了一种新的交互式界面--Paper Plain，它具有四个由自然语言处理提供支持的功能：不熟悉的术语的定义，原位普通语言部分摘要，引导读者回答段落的关键问题的集合，以及回答段落的普通语言摘要。我们评估了Paper Plain，发现与使用典型PDF阅读器的参与者相比，使用Paper Plain的参与者更容易阅读和理解研究论文，而不会损失论文理解。总而言之，研究结果表明，引导读者阅读相关段落，并在原始论文内容旁边提供简单的语言摘要或“gists”，可以使阅读医学论文更容易，并让读者更有信心接近这些论文。
2022-02-28 cs.CL cs.HC
Do readers prefer AI-generated Italian short stories?
IULM University Milan Italy（米兰IULM大学）
通过盲测实验，比较AI（ChatGPT-4o）与著名作家Alberto Moravia的意大利短篇小说，发现AI文本平均评分略高且更受偏好，但差异不显著，且与人口统计和阅读习惯无关。
2026-06-03 cs.AI cs.CL
