To Test Machine Comprehension, Start by Defining Comprehension
Elemental Cognition（元素认知公司）
许多任务旨在测量机器阅读理解（MRC），通常侧重于被认为是困难的问题类型。然而，任务设计者很少从考虑系统实际上应该理解什么开始。在本文中，我们做了两个关键的贡献。首先，我们认为，现有的方法没有充分定义的理解，他们是太不系统的内容进行测试。其次，我们提出了一个详细的定义理解-“理解的模板”-广泛有用的一类文本，即短叙事。然后，我们进行了一个实验，强烈表明现有的系统不符合我们定义的叙事理解任务。
2020-05-11 cs.AI cs.CL
Conversational Answer Generation and Factuality for Reading Comprehension Question-Answering
问答（QA）是语音助理的重要用例。一种流行的问答方法是提取阅读理解（RC），它在文本段落中找到答案跨度。然而，提取的答案在会话上下文中通常是不自然的，这导致次优的用户体验。在这项工作中，我们调查问答会话的答案生成。我们提出了一个端到端的生成RC模型，它将多个段落的答案生成与段落排名和可回答性相结合。此外，在应用生成RC的一个障碍是幻觉的答案是事实上与文本不一致。我们利用最近的工作总结，以评估真实性。实验结果表明，与MS MARCO 2.1 NLGEN和NarrativeQA之前发表的最佳结果相比，EscherBART显着提高了2.5 ROUGE-L和9.4 ROUGE-L。
2021-03-11 cs.CL
Classic4Children: Adapting Chinese Literary Classics for Children with Large Language Model
Key Laboratory of Big Data and Intelligent Robot (South China University of Technology) Ministry of Education（大数据与智能机器人重点实验室（华南理工大学）教育部）；School of Software Engineering, South China University of Technology（软件学院（华南理工大学））；The Hong Kong Polytechnic University（香港理工大学）
本文提出InstructChild方法，通过指令微调、可读性奖励对齐和前瞻解码，使大语言模型能够将中国文学经典改编为符合儿童阅读偏好的文本，并构建Classic4Children数据集验证其有效性。
2025-02-03 cs.AI cs.CL
Text-to-Stage: Spatial Layouts from Long-form Narratives
Rice University（里士大学）；Meta FAIR；Meta Reality Labs Research（Meta现实实验室）
本文研究如何通过语言模型从无结构文本推断戏剧舞台布局，提出确定性评估体系和结合拒绝SFT与RL的训练方法，在多个指标上优于基线模型。
2026-03-18 cs.AI cs.CL cs.LG
Attention-Guided Answer Distillation for Machine Reading Comprehension
National University of Defense Technology（中国人民解放军国防科技大学）；Microsoft Research Asia（微软亚洲研究院）
尽管目前的阅读理解系统已经取得了显着的进步，他们有前途的表现往往是在获得的成本，使众多的模型的合奏。此外，现有的方法也容易受到对抗攻击。本文通过利用知识蒸馏来解决这些问题，知识蒸馏的目的是将知识从集成模型转移到单个模型。我们首先证明了香草知识蒸馏应用于答案跨度预测是有效的阅读理解系统。然后，我们提出了两种新的方法，不仅惩罚预测混乱的答案，但也指导训练与对齐信息从合奏。实验表明，与集成教师相比，我们最好的学生模型在SQuAD测试集上的F1只有0.4%的轻微下降，而在推理过程中运行速度快了12倍。它甚至在对抗性SQuAD数据集和NarrativeQA基准测试中优于教师。
2018-09-17 cs.CL
ESTER: A Machine Reading Comprehension Dataset for Event Semantic Relation Reasoning
University of Southern California（南加州大学）；University of California, Los Angeles（加州大学洛杉矶分校）；Allen Institute for AI（艾伦人工智能研究所）；Amazon（亚马逊）；University of Pennsylvania（宾夕法尼亚大学）
理解事件在语义上是如何相互关联的是阅读理解的本质。最近的事件为中心的阅读理解数据集主要集中在事件参数或时间关系。虽然这些任务部分评估了机器的叙事理解能力，但类似人类的阅读理解需要处理基于事件的信息的能力，而不仅仅是论点和时间推理。例如，要理解事件之间的因果关系，我们需要推断动机或目的;要建立事件层次结构，我们需要理解事件的构成。为了促进这些任务，我们介绍了ESTER，一个全面的机器阅读理解（MRC）数据集的事件语义关系推理。该数据集利用自然语言查询来推理五种最常见的事件语义关系，提供超过6 K个问题并捕获10.1K个事件关系对。实验结果表明，目前的SOTA系统在基于标记的精确匹配，F1和基于事件的HIT@1得分方面分别达到了22.1%，63.3%和83.5%，这都明显低于人类的表现（分别为36.0%，79.6%，100%），突出了我们的数据集作为一个具有挑战性的基准。
2021-09-10 cs.CL
Multi-granularity hierarchical attention fusion networks for reading comprehension and question answering
Alibaba Group（阿里巴巴集团）
本文描述了一种新的层次注意网络的阅读理解风格的问答，其目的是回答一个给定的叙述段落的问题。在该方法中，注意力和融合进行水平和垂直跨层的问题和段落之间的不同粒度的水平。具体来说，它首先编码的问题和段落与细粒度的语言嵌入，以更好地捕捉各自的表示在语义层面。然后提出了一种多粒度融合方法，充分融合来自全局和关注表示的信息。最后，引入层次注意网络，通过多层次软对齐逐步关注答案广度。在大规模SQuAD和TriviaQA数据集上的实验验证了该方法的有效性。在撰写本文时（2018年1月12日），我们的模型在SQuAD排行榜上获得了单个和集成模型的第一名。我们还在TriviaQA、AddSent和AddOne-Sent数据集上实现了最先进的结果。
2018-11-29 cs.CL
CrashSage: A Large Language Model-Centered Framework for Contextual and Interpretable Traffic Crash Analysis
Smart Mobility and Infrastructure Lab College of Engineering University of Georgia（智能移动与基础设施实验室 工程学院 佐治亚大学）
本文提出以 LLM 为中心的 CrashSage 框架，将异构事故表格数据转为结构化叙述并增强、微调 LLaMA3-8B 推断事故严重程度，结合梯度可解释性揭示关键风险因素。
2025-05-08 cs.AI cs.CL
Relational Representation Learning in Visually-Rich Documents
Tencent YouTu Lab（腾讯优图实验室）
关系理解对于许多视觉丰富文档（VRD）理解任务至关重要。通过多模态预训练，最近的研究提供了全面的上下文表示，并利用它们作为先验知识的下游任务。尽管他们的结果令人印象深刻，我们观察到，广泛的关系暗示（例如，收据上的键/值字段的关系）还没有被挖掘。为了缓解这一差距，我们提出了DocReL，一个文档关系表示学习框架。DocReL面临的主要挑战源于关系的多样性。从最简单的两两关系到复杂的全局结构，由于不同任务中关系的定义不同甚至冲突，因此进行监督训练是不可行的。为了处理不可预测的关系定义，我们提出了一种新的对比学习任务命名为关系一致性建模（RCM），它利用了这样一个事实，即现有的关系应该是一致的，在不同的增强积极的意见。RCM提供的关系表示更符合下游任务的迫切需要，即使没有任何关于关系的确切定义的知识。DocReL在各种各样的VRD关系理解任务上实现了更好的性能，包括表结构识别、关键信息抽取和读取顺序检测。
2022-05-05 cs.CL
Analyzing Effect of Repeated Reading on Oral Fluency and Narrative Production for Computer-Assisted Language Learning
Indian Institute of Information Technology, Allahabad（印度理工学院安拉阿巴德分校）
重复阅读（RR）可以帮助那些几乎没有流利阅读经验的学习者获得自信，速度和自动处理单词。重复阅读的好处包括帮助所有学习者回忆事实，帮助识别学习者的主要思想和词汇，提高理解力，加快阅读速度，提高单词识别的准确性，并帮助学习者从逐字阅读过渡到更有意义的措辞。因此，叙述性语言最终有助于提高学习者的口语流利性和叙述性产出。然而，有没有开放的音频数据集提供的口头回应的学习者的基础上，他们的RR实践。因此，在本文中，我们提出了我们的数据集，讨论其属性，并提出了一种方法来评估口语流利性和叙事生产的英语学习者使用声学，韵律，词汇和句法特征。结果表明，计算机辅助语言学习系统可以用来评估学习者口语流利性和叙述性产出的提高。
2020-06-25 cs.CL
ReadTwice: Reading Very Large Documents with Memories
University of Southern California（南加州大学）；Google Research（谷歌研究院）
诸如问答之类的知识密集型任务通常需要从诸如书籍或文章集合之类的大量输入的不同部分吸收信息。我们提出了ReadTwice，一个简单而有效的技术，结合了几个优势，以前的方法来建模与Transformers的远程依赖关系。其主要思想是以小段的形式并行阅读文本，将每个片段汇总到一个内存表中，以便在第二次阅读文本时使用。我们表明，该方法在几个问答（QA）数据集上的表现优于大小相当的模型，并在具有挑战性的NarrativeQA任务上开创了一个新的领域，其中包括关于整本书的问题。ReadTwice的源代码和预先训练的检查点可以在https://goo.gle/research-readtwice上找到。
2021-05-11 cs.CL cs.LG
A Human-Inspired Reading Agent with Gist Memory of Very Long Contexts
Google DeepMind（谷歌DeepMind）
提出ReadAgent，一种模拟人类阅读的LLM代理，通过记忆片段压缩为要点记忆并支持原文查找，将有效上下文长度提升3.5-20倍，在三个长文档阅读理解任务上超越基线。
2024-07-22 cs.AI cs.CL cs.IR
Paranoid Transformer: Reading Narrative of Madness as Computational Approach to Creativity
Higher School of Economics（高等经济大学）；Yandex（扬戴克斯）
本文在计算创造力的背景下重新审视接受理论。它提出了一个偏执的Transformer的案例研究-一个完全自主的文本生成引擎与原始输出，可以阅读作为一个疯狂的数字人物的叙述，没有任何额外的人后过滤。我们描述了生成系统的技术细节，提供输出的例子，并讨论了接受理论，机会发现和模拟边缘心理状态对计算创造力的理解的影响。
2020-07-13 cs.AI cs.CL cs.CY
A Sentence Cloze Dataset for Chinese Machine Reading Comprehension
Research Center for SCIR, Harbin Institute of Technology（哈尔滨工业大学SCIR研究中心）；State Key Laboratory of Cognitive Intelligence, iFLYTEK Research, China（科大讯飞研究中心认知智能国家重点实验室）；iFLYTEK AI Research (Hebei), Langfang, China（科大讯飞（河北）人工智能研究院，廊坊）
由于中国NLP社区的不断努力，越来越多的中文机器阅读理解数据集变得可用。为了增加这一领域的多样性，在本文中，我们提出了一个新的任务称为句子完形填空式机器阅读理解（SC-MRC）。这个任务的目的是将正确的候选句子填入有几个空格的文章中。我们建立了一个名为CMRC 2019的中国数据集，以评估SC-MRC任务的难度。此外，为了增加难度，我们还制作了与正确候选人相似的假候选人，这需要机器在上下文中判断它们的正确性。建议的数据集包含超过10万个空白（问题）在超过10 K的段落，这是源于中国的叙事故事。为了评估数据集，我们基于预训练的模型实现了几个基线系统，结果表明，最先进的模型仍然远远低于人类的表现。我们发布数据集和基线系统，以进一步促进我们的社区。资源可通过https://github.com/ymcui/cmrc2019获得
2020-11-02 cs.CL
Tracing Origins: Coreference-aware Machine Reading Comprehension
Shanghai International Studies University（上海外国语大学）；Shanghai Jiao Tong University（上海交通大学）
机器阅读理解是用于评估新的预训练语言模型（PrLM）和微调策略的大量研究和测试领域，并且最近的研究已经用句法、语义和其他语言信息来丰富预训练语言模型以提高模型的性能。在本文中，我们模仿人类在连接回指表达时的阅读过程，并显式地利用实体的共指信息来增强来自预训练语言模型的词嵌入，以突出必须在QUOREF中识别的实体的共指提及，以进行共指密集型问答，一个相对较新的数据集，专门用于评估模型的相关性能。我们使用两种策略来微调预训练的语言模型，即在预训练的语言模型之后放置额外的编码器层以专注于共指提及或构建关系图卷积网络以对共指关系进行建模。我们证明了在微调阶段显式纳入共指信息比在预训练语言模型中纳入共指信息表现得更好。
2022-03-16 cs.CL
Simple and Effective Curriculum Pointer-Generator Networks for Reading Comprehension over Long Narratives
Nanyang Technological University（南洋理工大学）；Singapore Management University（新加坡管理大学）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Mila, Polytechnique Montréal（蒙特利尔大学理工学院 Mila）；Microsoft Research, Montréal（微软研究院（蒙特利尔））；Facebook（脸书）；Amazon AI（亚马逊人工智能）
本文解决了阅读理解的问题，在长期的叙述文件很容易跨越数千个令牌。我们提出了一个基于课程学习（CL）的指针生成器框架，用于对大型文档进行阅读/采样，从而基于交替上下文难度的概念实现神经模型的多样化训练。这可以被解释为训练期间的域随机化和/或生成预训练的一种形式。为此，指针生成器的使用软化了在上下文中获得答案的要求，使我们能够构建用于学习的各种训练样本。此外，我们提出了一个新的内省对齐层（IAL），其中的原因分解对齐使用基于块的自我注意。我们在NarrativeQA阅读理解基准测试上评估了我们提出的方法，实现了最先进的性能，通过BLEU-4上的$51\%$相对改进和Rouge-L上的$17\%$相对改进来改进现有基线。广泛消融证实了我们提出的IAL和CL组件的有效性。
2019-05-26 cs.AI cs.CL cs.IR
Interpreting Themes from Educational Stories
University of Houston（休斯顿大学）；Universidad Nacional de Colombia（哥伦比亚国立大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文构建首个面向教育叙事解释性理解的主题数据集，定义多层级任务并评测前沿方法，证明推断故事主题兼具挑战与研究价值。
2024-04-08 cs.CL
A Close Reading Approach to Gender Narrative Biases in AI-Generated Stories
Sapienza University of Rome（罗马萨皮恩扎大学）；Link University of Rome（罗马链接大学）
本文采用细读方法，基于Propp角色分类和Freytag叙事结构设计提示词，分析ChatGPT、Gemini和Claude生成故事中的性别叙事偏见，揭示了隐性偏见的持续存在并强调多层面评估的重要性。
2025-08-13 cs.AI cs.CL cs.CY
EviDR: Evidence-Emphasized Discrete Reasoning for Reasoning Machine Reading Comprehension
Harbin Institute of Technology（哈尔滨工业大学）；JD AI Research（京东人工智能研究院）
推理机器阅读理解（R-MRC）旨在回答需要基于文本进行离散推理的复杂问题。为了支持离散推理，证据，通常是描述问题相关事实的简洁文本片段，包括主题实体和属性值，是从问题到答案的关键线索。然而，以前的端到端的方法，实现最先进的性能很少解决问题，支付足够的重视证据的建模，错过了机会，进一步提高模型的推理能力，为R-MRC。为了缓解上述问题，在本文中，我们提出了一个证据强调离散推理方法（EviDR），其中句子和子句级别的证据是第一次检测的基础上，远程监督，然后用来驱动一个推理模块实现的关系异构图卷积网络，以获得答案。在DROP（discrete reasoning over paragraphs）数据集上进行了大量实验，实验结果表明了该方法的有效性。此外，定性分析验证了所提出的证据强调的离散推理R-MRC的能力。
2021-10-26 cs.CL
From Individuals to Interactions: Benchmarking Gender Bias in Multimodal Large Language Models from the Lens of Social Relationship
School of Information Science and Technology, ShanghaiTech University（信息科学与技术学院，上海科技大学）
本文提出Genres基准，通过双角色叙事生成任务从社会关系视角评估多模态大语言模型中的性别偏见，实验表明开源与闭源模型均存在单角色场景下无法显现的情境敏感偏见，为偏见诊断与缓解提供新思路。
2026-10-14 cs.AI cs.CL cs.CY
BioADAPT-MRC: Adversarial Learning-based Domain Adaptation Improves Biomedical Machine Reading Comprehension Task
University of Tennessee（田纳西大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
生物医学机器阅读理解（biomedical-MRC）旨在理解复杂的生物医学叙述，并帮助医疗保健专业人员从中检索信息。现代基于神经网络的MRC系统的高性能依赖于高质量、大规模、人工标注的训练数据集。在生物医学领域，创建这样的数据集的一个关键挑战是对领域知识的需求，导致标记数据的稀缺性以及从标记的通用（源）领域到生物医学（目标）领域的迁移学习的需求。然而，由于主题的差异，通用和生物医学领域之间的边缘分布存在差异。因此，将学习到的表示从通用领域训练的模型直接转移到生物医学领域可能会损害模型的性能。针对生物医学机器阅读理解任务（BioADAPT-MRC）提出了一种基于对抗学习的领域自适应框架，该框架是一种基于神经网络的方法，用于解决一般和生物医学领域数据集之间的边缘分布差异。BioADAPT-MRC放松了生成伪标签的需要，以训练性能良好的生物医学MRC模型。我们通过将其与三个广泛使用的基准生物医学MRC数据集（BioASQ-7b，BioASQ-8b和BioASQ-9b）上的最佳现有方法进行比较，广泛评估了BioADAPT-MRC的性能。我们的研究结果表明，在不使用任何来自生物医学领域的合成或人工注释数据的情况下，BioADAPT-MRC可以在这些数据集上实现最先进的性能。可用性：BioADAPT-MRC作为开源项目在\url{https://github.com/mmahbub/BioAD…
2022-07-26 cs.AI cs.CL cs.LG
"Once Upon a Time..." Literary Narrative Connectedness Progresses with Grade Level: Potential Impact on Reading Fluency and Literacy Skills
Mobile Brain（移动脑机构）；Bioinformatics Multidisciplinary Environment (BioME), Federal University of Rio Grande do Norte (UFRN)（巴西北里奥格兰德联邦大学生物信息学多学科环境）；Árvore（阿沃雷机构）；Institute of Psychiatry (IPUB), Federal University of Rio de Janeiro (UFRJ)（里约热内卢联邦大学精神病学研究所）
本研究探索学校文学文本的叙事复杂性随年级的演变，通过词重复图分析1627本文本，发现连贯性呈指数增长（尤其入学前三年），为儿童阅读书籍选择及读写能力培养提供参考。
2025-02-10 cs.CL
Modeling Story Expectations: A Generative Framework using LLMs
Columbia Business School（哥伦比亚商学院）
研究针对非结构化叙事内容建模消费者故事期望的难题，利用大语言模型生成故事延续并提取特征，通过两种验证程序，将其应用于不同数据发现模型期望与人类信念及实际故事延续相关，为叙事内容信念建模提供可扩展方法。
2026-07-15 cs.AI cs.CL econ.GN
Discourse-Aware Semantic Self-Attention for Narrative Reading Comprehension
Heidelberg University（海德堡大学）
在这项工作中，我们建议使用语言注释作为基础的\textit{Discourse-Aware Semantic Self-Attention}编码器，我们采用阅读理解长叙事文本。我们提取的话语单位，事件和他们的论点之间的关系，以及共指提及，使用现有的注释工具。我们的实证评估表明，调查结构提高了整体性能，特别是内部和跨部门的话语关系，内部语义角色关系，和长距离共指关系。我们发现，将自我注意力集中在内部关系和连接相邻句子的关系上，有利于在较长的上下文中找到问题的答案。我们的研究结果鼓励使用语篇语义标注来增强自我注意模型对阅读理解的泛化能力。
2019-08-28 cs.CL cs.LG
A Tale of Two Identities: An Ethical Audit of Human and AI-Crafted Personas
Pennsylvania State University（宾夕法尼亚州立大学）
本文审计GPT4o、Gemini 1.5 Pro与Deepseek 2.5生成的1512个角色画像，揭示其对种族身份的过度凸显和叙事简化造成算法他者化，并提出评估与验证建议。
2025-05-07 cs.AI cs.CL cs.CY
Extracting narrative signals from public discourse: a network-based approach
Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克数学科学研究所）；Laboratoire Lattice, École Normale Supérieure - PSL - CNRS - Univ. Sorbonne Nouvelle（格勒诺布尔大学拉提实验室）；médialab, Sciences Po（社会科学高等学院媒体实验室）；Brussels School of Governance, Vrije Universiteit Brussel（布鲁塞尔治理学校，自由大学布鲁塞尔）；imec-SMIT, Vrije Universiteit Brussel（imec-SMIT，自由大学布鲁塞尔）
本文提出一种基于抽象意义表示（AMR）的图方法与启发式过滤规则，从政治文本中提取行动者、事件和视角化等叙事信号并构建网络，结合远读与细读重建潜在政治叙事，并以2010—2023年欧盟国情咨文为例验证其有效性。
2025-11-07 cs.CL cs.CY cs.IR
Reading Between the Lines: Exploring Infilling in Visual Narratives
Carnegie Mellon University（卡内基梅隆大学）
从多个模态生成诸如故事和过程的长形式叙述一直是人工智能的长期梦想。在这方面，往往有关键的潜台词，是从周围的情况下得出的。一般的seq2seq训练方法使模型人手不足，同时试图弥合这些相邻上下文之间的差距。在本文中，我们解决了这个问题，通过使用\textit{infilling}技术，涉及预测丢失的步骤，在叙事，同时生成文本描述的图像序列。我们还提出了一个新的大规模\textit{visual procedure telling}（ViPT）数据集，共有46，200个程序和大约340k成对图像和文本描述，这些图像和文本描述丰富了这种上下文依赖关系。使用填充技术生成步骤证明了在具有更连贯文本的视觉过程中的有效性。我们最终显示METEOR在程序上的得分为27.51，高于最先进的视觉故事讲述。我们还展示了在推理过程中插入新文本与丢失的图像的影响。代码和数据集将在https://visual-narratives.github.io/Visual-Narratives/上公开。
2020-10-26 cs.CL
Plotting Markson's 'Mistress'
University College Dublin（都柏林大学）
大卫·马克森的后现代小说《维特根斯坦的情妇》（1988）向读者呈现了一种极具挑战性的非线性叙事，这种叙事本身就是小说的主题之一。我们提出了一个远距离阅读这部作品，旨在补充大卫福斯特华莱士（1990）的近距离阅读。使用文本分析，实体识别和网络相结合，我们绘制重复的结构，在小说的叙事与他们的批评分析。
2019-05-17 cs.AI cs.CL
Neural Language Taskonomy: Which NLP Tasks are the most Predictive of fMRI Brain Activity?
INRIA（法国国家信息与自动化研究所）；IIIT Hyderabad（印度海得拉巴国际信息技术学院）；Microsoft（微软）
几种流行的基于Transformer的语言模型已经被发现对于文本驱动的大脑编码是成功的。然而，现有文献仅利用预训练的文本Transformer模型，并且尚未探索特定于任务的学习Transformer表示的功效。在这项工作中，我们探索了从十个流行的自然语言处理任务（两个句法和八个语义）学习的表征的迁移学习，用于预测来自两个不同数据集的大脑反应：Pereira（受试者阅读段落中的句子）和Narratives（受试者听口语故事）。基于任务特征的编码模型用于预测整个大脑不同区域的活动。共指消解、NER和浅层句法分析的特征解释了阅读活动的更大差异。另一方面，对于听力活动，任务，如释义生成，摘要，和自然语言推理表现出更好的编码性能。所有10个任务表征的实验提供了以下认知见解：（i）语言左半球比语言右半球具有更高的预测脑活动，（ii）后内侧皮层、颞顶枕交界区、背额叶与早期听觉和听觉联合皮层具有更高的相关性，（iii）句法和语义任务分别在阅读和听力刺激的大脑区域中显示出良好的预测性能。
2022-05-03 cs.AI cs.CL cs.LG
RAVEL: Rare Concept Generation and Editing via Graph-driven Relational Guidance
Virginia Tech（弗吉尼亚理工大学）；UIUC（伊利诺伊大学香槟分校）
RAVEL通过图驱动的关系引导方法，提升罕见概念生成与编辑的可控性和可解释性，适用于长尾领域。
2025-12-26 cs.CL cs.CV
Hybrid topic modelling for computational close reading: Mapping narrative themes in Pushkin's Evgenij Onegin
The BioRobotics Institute, Scuola Superiore Sant’Anna（生物机器人研究所，圣安娜高等学院）
本文提出一种结合LDA和sPLS-DA的混合主题建模框架，用于分析叙事诗歌的主题结构和纵向动态，通过《叶甫根尼·奥涅金》的意大利译本验证无监督与有监督词法结构在小语料库中的收敛性。
2026-03-20 cs.CL
TRACE: An Experiential Framework for Coherent Multi-hop Knowledge Graph Question Answering
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Hebei University of Technology（河北工业大学）；City University of Hong Kong（香港城市大学）
TRACE框架通过整合语言模型驱动的上下文推理与探索先验，提升多跳知识图谱问答的连贯性和鲁棒性，实验表明其优于现有方法。
2026-04-13 cs.CL
FairytaleQA Translated: Enabling Educational Question and Answer Generation in Less-Resourced Languages
Artificial Intelligence and Computer Science Laboratory (LIACC) Faculty of Engineering of the University of Porto (FEUP)（人工智能与计算机科学实验室（LIACC）工程学院（FEUP））
本文将 FairytaleQA 机器翻译为低资源语言版本，并基于微调中等模型建立 QG 与 QA 基准，结合问答对生成案例和多维质量评估推动相关研究。
2024-06-24 cs.AI cs.CL
Relation Module for Non-answerable Prediction on Question Answering
JD AI Research（京东人工智能研究院）
近年来，随着阅读理解数据集的不断增加，机器阅读理解（MRC）受到了广泛的关注。在本文中，我们的目标是提高MRC模型的能力，以确定一个问题是否有一个答案在给定的上下文中（例如，最近提出的SQuAD 2.0任务）。我们的解决方案是一个适用于任何MRC模型的关系模块。关系模块由语义抽取和关系信息两部分组成。我们首先提取高层次的语义对象从问题和上下文与多头自注意池。然后，这些语义对象被传递到关系网络，该关系网络为句子中的每个对象对生成关系分数。这些分数用于确定一个问题是否不可回答。我们在SQuAD 2.0数据集上测试了关系模块，并使用Biodog和BERT模型作为基线读取器。我们在Bioscience阅读器上获得了1.8%的F1增益，在BERT基础模型上获得了1.0%的增益。这些结果表明了我们的关系模型在MRC上的有效性
2019-10-23 cs.AI cs.CL cs.LG
Long-Span Question-Answering: Automatic Question Generation and QA-System Ranking via Side-by-Side Evaluation
Google DeepMind（谷歌DeepMind）
本文提出一种利用LLM长上下文能力从整本书自动生成阅读理解数据的流水线，通过成对比较和Bradley-Terry模型排名的相对评估方法，验证了整本书上下文在阅读理解任务上的优越性。
2024-05-31 cs.AI cs.CL
Reading and Steering Representations of Materials-Science Mechanisms in an Open-Weight Language Model
Massachusetts Institute of Technology（麻省理工学院）
研究大语言模型中材料科学机制信息的表示形式，结合多种方法，包括匹配读数、状态几何等，通过实验验证其三种形式，如概念可读、取向由状态变换承载等，还通过比较提示等发现物理关系在受控状态变化中更易显现。
2026-09-04 cond-mat.mes-hall cond-mat.mtrl-sci cs.AI
State over Tokens: Characterizing the Role of Reasoning Tokens
Bar-Ilan University（巴伊兰大学）；University of Haifa（海法大学）；New York University（纽约大学）；Allen Institute for AI（人工智能研究院）
本文提出SoT框架，将LLM的推理令牌视为外部化计算状态，而非文本叙述，以揭示其实际推理机制及未被关注的研究问题。
2025-12-14 cs.AI cs.CL
ARN: Analogical Reasoning on Narratives
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；Department of Computer Science, University of Southern California（南加州大学计算机科学系）；Department of Computer Science, Vrije Universiteit Amsterdam（阿姆斯特丹自由大学计算机科学系）；Computational Linguistics & Text Mining Lab, Vrije Universiteit Amsterdam（阿姆斯特丹自由大学计算语言学与文本挖掘实验室）
本文提出ARN基准，将词对关系类比扩展为叙事系统类比，覆盖近/远类比与非类比，并发现现有LLMs在零样本下难以处理远类比，少样本与思维链可提升但仍远低于人类。
2024-09-03 cs.CL
NS-ST-GraphRAG: Neuro-Symbolic Spatio-Temporal GraphRAG for Literary Knowledge Processing
Dalian Ocean University（大连海洋大学）
针对长篇文学叙事的信息处理挑战，提出NS-ST-GraphRAG神经符号时空GraphRAG框架，构建首个中国古典文学多跳问答基准Red-Chamber-QA，实验显示其机械答案复现率与语义判断准确率优于基线模型。
2026-09-07 cs.CL
ReviewQA: a relational aspect-based opinion reading dataset
NAVER LABS Europe（NAVER欧洲实验室）
在过去的几年里，用于问答的深度阅读模型表现出了良好的性能。然而，目前的系统倾向于学习如何巧妙地提取源文档的跨度，基于其与问题的相似性，而不是寻求适当的答案。事实上，阅读机器应该能够检测文档中关于问题的相关段落，但更重要的是，它应该能够对文档的重要部分进行推理，以便在需要时产生答案。为了实现这一目标，我们提出了ReviewQA，一个基于酒店评论的问答数据集。这个数据集的问题与我们期望模型掌握的一组关系理解能力有关。事实上，每个问题都有一个相关的类型，描述了所需的能力。通过这个框架，可以对主要的模型系列进行基准测试，并概述给定模型在该数据集中评估的任务集上的优势和劣势。我们的语料库包含超过50万个自然语言的问题，超过10万条酒店评论。我们的设置是投影的，问题的答案不需要从文档中提取，就像大多数最近的数据集一样，而是从一组候选人中选择，这些候选人包含数据集问题的所有可能答案。最后，我们提供了该数据集的几个基线。
2018-10-29 cs.CL
A Generative Approach to Question Answering
Microsoft（微软）
问答经历了从回答句的选择、关系问答到阅读理解的漫长历程。我们将注意力转移到生成式问答（gQA），通过学习生成答案来帮助机器阅读段落并回答问题。我们将问题框架为生成任务，其中编码器是一个网络，该网络对问题和段落之间的关系进行建模，并将其编码为向量，从而便于解码器直接形成答案的抽象。不能记住事实和重复是影响答案整体易读性的常见错误。为了解决这些问题，我们分别采用复制机制和覆盖向量的维护在我们的模型。我们在MS-MARCO上的结果证明了它比基线的优越性，我们还展示了我们在正确性和可读性方面改进的定性示例
2018-07-07 cs.CL
LocalBench: Benchmarking LLMs on County-Level Local Knowledge and Reasoning
针对大语言模型在超本地知识处理上的评估空白，本文提出首个系统性评估美国县级本地知识的基准LocalBench，通过多来源问答对评估13个LLM，揭示其在叙事、数值推理上的局限性，强调对公平位置感知AI系统的需求。
2025-11-17 cs.AI cs.CL cs.CY
From Model to Classroom: Evaluating Generated MCQs for Portuguese with Narrative and Difficulty Concerns
Faculdade de Engenharia, Universidade do Porto（工程学院，葡萄牙波尔图大学）；Departamento de Investigação e Tecnologia（研究与技术部门）；Divisão de Tecnologias Educativas（教育技术部门）；Escola Básica Mirante dos Sonhos（梦想之镜初级学校）
本文评估生成模型为葡萄牙语阅读理解自动生成选择题的能力，发现其质量与人工相当，但在语义清晰度、可回答性及干扰项设计上仍存在挑战。
2025-06-18 cs.AI cs.CL
Narrative Knowledge Weaver: Narrative-Centric Retrieval-Augmented Reasoning for Long-Form Text Understanding
Southeast University（东南大学）；Beijing Zhongguancun Academy（北京中关村学院）；Nanjing Normal University（南京师范大学）；ZhuiWen Technology Co., Ltd.（智文科技有限公司）
提出叙事知识编织器（NKW），一种基于源头的框架，通过将文本证据、原子事实、规范图结构、实体档案、交互、情节和故事线对齐，并利用文本、图和叙事工具进行后检索阅读，以解决长文本叙事QA中需要推理演化故事世界的问题，在STAGE、FairytaleQA和QuALITY上表现优异。
2026-06-04 cs.AI cs.CL
LUKE-Graph: A Transformer-based Approach with Gated Relational Graph Attention for Cloze-style Reading Comprehension
Semnan University（塞姆南大学）
本文提出LUKE-Graph模型，通过构建文档实体异构图并结合关系图注意力网络与门控机制，在不依赖外部知识图谱的情况下融合实体感知和关系感知表示，在ReCoRD常识推理数据集上取得最优性能。
2023-03-12 cs.CL cs.LG
Fantastic Questions and Where to Find Them: FairytaleQA -- An Authentic Dataset for Narrative Comprehension
University of California Irvine（加州大学欧文分校）；IBM Research（IBM研究院）；WeChat AI, Tencent（腾讯微信人工智能）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；University of Washington（华盛顿大学）；University of Notre Dame（圣母大学）；Syracuse University（雪城大学）；IBM Research Ireland（IBM爱尔兰研究院）；Hong Kong Univ. of Sci and Tech（香港科技大学）；Georgia Institute of Technology（佐治亚理工学院）；University of California Los Angeles（加州大学洛杉矶分校）；Columbia University（哥伦比亚大学）
问答（QA）是促进机器和幼儿叙事理解技能评估和训练的基本手段，然而缺乏精心设计的高质量QA数据集。特别是，现有的数据集很少区分细粒度的阅读技能，例如对不同叙事元素的理解。借鉴阅读教育的研究，我们介绍了FairytaleQA，一个数据集，专注于幼儿园到八年级学生的叙事理解。FairytaleQA由教育专家基于循证理论框架生成，由来自278个儿童友好故事的10，580个显性和隐性问题组成，涵盖七种类型的叙事元素或关系。我们的数据集有两个方面的价值：首先，我们在我们的数据集上运行了现有的QA模型，并确认该注释有助于评估模型的细粒度学习技能。其次，数据集支持教育领域的问题生成（QG）任务。通过对QG模型进行基准测试，我们证明了在FairytaleQA上训练的QG模型能够提出高质量和更多样化的问题。
2022-03-26 cs.CL
Weighted Global Normalization for Multiple Choice Reading Comprehension over Long Documents
Carnegie Mellon University（卡内基梅隆大学）；University of Southern California（南加州大学）
最近的证据指出，高性能的跨度预测模型的脆弱性的动机，我们把我们的注意力多项选择阅读理解。特别是，这项工作介绍了一种新的方法，通过加权的全球规范化的预测部分的文件，以改善答案选择长文件。我们表明，将我们的方法应用于适用于答案选择的跨度预测模型有助于对NarrativeQA的长摘要进行建模，NarrativeQA是一个具有答案选择任务的具有挑战性的阅读理解数据集，并且我们通过+36.2平均倒数排名大大提高了任务基线性能。
2021-11-25 cs.CL
AutiHero: Engaging Parents in Creating Personalized, Multi-path Social Narratives for Autistic Children
Dodakim Child Development Center（多达金儿童发展中心）；NAVER AI Lab（NAVER AI实验室）
AutiHero通过生成式AI帮助家长为自闭症儿童创建个性化多路径社会叙事，提高日常行为指导信心。
2026-04-03 cs.AI cs.CL cs.HC
Incorporating Relation Knowledge into Commonsense Reading Comprehension with Multi-task Learning
Alibaba DAMO Academy（阿里巴巴达摩院）
本文主要研究如何利用外部关系知识提高多任务学习下的机器阅读理解能力。MRC中的大多数传统方法假设用于获得正确答案的知识通常存在于给定的文档中。然而，在现实世界的任务中，部分知识可能不会被提及，机器应该具备利用外部知识的能力。在本文中，我们将关系知识整合到MRC模型中，以进行常识推理。具体地，基于预先训练的语言模型（LM）。我们设计了两个辅助的关系感知任务来预测两个词之间是否存在任何常识关系以及关系类型，以便更好地建模文档和候选答案选项之间的交互。我们在两个多项选择基准数据集上进行实验：SemEval-2018任务11和完形填空故事测试。实验结果表明，该方法的有效性，它实现了优越的性能相比，可比的基线在两个数据集。
2019-09-05 cs.CL
XGRAG: A Graph-Native Framework for Explaining KG-based Retrieval-Augmented Generation
Berlin Technology Centre（柏林技术中心）；Deutsche Bank（德意志银行）
XGRAG通过图基扰动策略生成因果解释，提升GraphRAG系统的可解释性，在多个问答数据集上实现解释质量提升。
2026-04-27 cs.AI cs.IR cs.LG
An Annotated Reading of 'The Singer of Tales' in the LLM Era
IBM Research – Thomas J. Watson Research Center（IBM研究部托马斯·J·沃森研究中心）
本文从LLM和生成式AI视角重新解读帕里-洛德口头程式理论，比较口头创作与LLM生成的异同，并探讨其对社会与AI政策的启示。
2025-02-07 cs.CL cs.CY
Relation Clustering in Narrative Knowledge Graphs
IDSIA（达拉夫雷人工智能研究所）
当处理诸如小说或短篇小说的文学文本时，知识图谱形式的结构化信息的提取可能会受到与小说中的人物相对应的实体之间的大量可能关系以及随之而来的收集关于它们的监督信息的障碍的阻碍。这样的问题在这里被解决作为一个无监督的任务授权的变压器：关系句子在原始文本中嵌入（与SBERT）和聚类，以合并在一起语义相似的关系。同一个聚类中的所有句子最终被总结（使用BART），并从总结中提取描述性标签。初步测试表明，这种聚类可以成功地检测相似关系，并提供了一个有价值的预处理半监督方法。
2020-11-27 cs.AI cs.CL cs.LG
Advancing Question Generation with Joint Narrative and Difficulty Control
LIACC, Faculdade de Engenharia, Universidade do Porto（LIACC，工程学院，葡萄牙波尔图大学）
针对教育场景中问题生成需同时适配叙事特征与难度的需求，提出联合叙事与难度控制策略，并通过评估验证其可行性、适用条件及权衡。
2025-06-07 cs.CL
KELM: Knowledge Enhanced Pre-Trained Language Representations with Message Passing on Hierarchical Relational Graphs
Huawei Technologies Co., Ltd.（华为技术有限公司）；ByteDance（字节跳动）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Shanghai AI Laboratory（上海人工智能实验室）
将事实知识转化为预先训练的语言模型（PLM），如BERT，是最近NLP研究的一个新兴趋势。然而，大多数现有的方法结合外部知识整合模块与修改的预训练损失和重新实现的预训练过程中的大规模语料库。重新预训练这些模型通常是消耗资源的，并且难以适应具有不同知识图谱（KG）的另一个领域。此外，这些作品要么不能根据文本语境动态地嵌入知识语境，要么存在知识歧义问题。本文提出了一种新的基于微调过程的知识感知语言模型框架，该框架为PLM提供了一个统一的知识增强文本图，其中包含从KG中提取的文本和多关系子图。我们设计了一种基于层次关系图的消息传递机制，它可以允许注入KG和文本的表示相互更新，并可以动态地选择有歧义的提到共享相同的文本的实体。我们的实验结果表明，我们的模型可以有效地将世界知识从KG到现有的语言模型，如BERT，并取得了显着的改善机器阅读理解（MRC）的任务相比，其他知识增强模型。
2022-05-05 cs.AI cs.CL
