Counterfeit Answers: Adversarial Forgery against OCR-Free Document Visual Question Answering
University of Cagliari, Italy（卡利亚里大学）；Computer Vision Center, UAB, Spain（UAB计算机视觉中心）
提出一种视觉上不可察觉但语义上定向的对抗攻击方法，通过伪造文档内容诱导DocVQA模型产生错误答案，在Pix2Struct和Donut模型上验证了有效性。
2026-06-25 cs.CV
DocPrune:Efficient Document Question Answering via Background, Question, and Comprehension-aware Token Pruning
Korea University（韩国大学）；KAIST（韩国科学技术院）；Adobe Research（Adobe研究院）
本文提出DocPrune框架，通过背景、问题和理解感知的令牌修剪提升长文档理解效率，实验显示在M3DocRAG上提升了吞吐量和F1分数。
2026-04-24 cs.CV
ORCA: Orchestrated Reasoning with Collaborative Agents for Document Visual Question Answering
Digital Research Center of Sfax, SMARTS Laboratory（突尼斯斯法克斯数字研究中心，SMARTS实验室）；École Polytechnique de Tunisie, University of Carthage（突尼斯理工学院，卡塔赫纳大学）；Computer Vision Center, Universitat Autònoma de Barcelona（巴塞罗那自治大学计算机视觉中心）
ORCA通过协作代理协同推理提升文档视觉问答的复杂推理与多步骤工作流处理能力。
2026-03-02 cs.CV
Multi-Page Document Visual Question Answering using Self-Attention Scoring Mechanism
Computer Vision Center（计算机视觉中心）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）
本文提出基于自注意力评分机制的多页文档视觉问答方法，利用Pix2Struct编码器检索相关页面，无需OCR即可在近800页文档上保持最先进性能，并显著降低GPU资源需求。
2024-04-29 cs.CV
DocAttriBench: Benchmarking Answer Grounding in Document Visual Question Answering
University of Modena and Reggio Emilia（摩德纳和雷焦艾米利亚大学）；University of Pisa（比萨大学）
针对文档VQA答案溯源缺乏标注且构建成本高的问题，提出DocAttriBench基准及MAPPET方法，基于掩码困惑度自动生成元素级溯源数据，并评测多模态大模型，发现强模型仍难定位支持元素。
2026-09-23 cs.CV
Synthetic Document Question Answering in Hungarian
SambaNova Systems, Inc.（SambaNova系统公司）；University of Washington（华盛顿大学）
针对匈牙利语文档视觉问答数据缺乏问题，提出HuDocVQA等数据集及构建方法，并通过微调使Llama 3.2 11B准确率提升7.2%。
2025-05-29 cs.AI cs.CL cs.CV
ViSAR: Training-Free Adaptive-$k$ Retrieval for Visual Document Question Answering
INSA Lyon（里昂国立应用科学学院）；CNRS（法国国家科学研究中心）；EPITA Research Laboratory (LRE)（EPITA研究实验室）；Lowit（洛维特公司）；LIRIS UMR 5205（里昂信息、图像与智能系统实验室）
ViSAR是一种无需训练的自适应k检索方法，用于视觉文档问答，可动态确定检索页面数量，降低RAG延迟最高58.7%，同时保持或提升答案准确性。
2026-09-04 cs.AI cs.CL cs.CV
Chain of Evidence: Pixel-Level Visual Attribution for Iterative Retrieval-Augmented Generation
National Engineering Research Center for Software Engineering, Peking University（软件工程国家级工程研究中心，北京大学）；City University of Hong Kong（香港城市大学）；Peking University（北京大学）；Tencent Technology（腾讯科技）
提出Chain of Evidence (CoE)框架，利用视觉语言模型直接对检索到的文档截图进行推理，输出精确边界框以可视化完整推理链，解决迭代检索增强生成中的粗粒度归因和视觉语义丢失问题。
2026-05-23 cs.AI cs.CL cs.CV
Benchmarking Retrieval-Augmented Multimodal Generation for Document Question Answering
Huawei Noah’s Ark Lab（华为诺亚实验室）
本文提出 MMDocRAG 基准，通过 4,055 个多页跨模态问答对和 60 个 VLM/LLM 及 14 个检索系统的大规模实验，揭示多模态证据检索与整合挑战，并发现专有 LVMs 优于开源模型、图像描述可提升微调 LLMs 性能。
2025-11-07 cs.CL cs.CV cs.IR
Invoice Haystack: Benchmarking Document Retrieval and Visual Question Answering Under Strong Visual Homogeneity
The University of Melbourne（墨尔本大学）；Lakehead University（湖首大学）
针对视觉同质文档集合中的检索困难，提出Invoice Haystack基准和VL-RAG混合检索框架，通过文本与视觉嵌入融合及VLM验证过滤，显著提升检索准确率。
2026-09-04 cs.CV
Federated Document Visual Question Answering: A Pilot Study
Computer Vision Center（计算机视觉中心）；Universitat Autonoma de Barcelona（巴塞罗那自治大学）
本研究提出联邦学习框架下的文档VQA训练方法，结合自预训练与集中式自适应优化，在异构私有文档数据上提升模型性能，并验证超参数调优的重要性。
2024-05-22 cs.AI cs.CL cs.CV
SAGE: From Direct Answering to Evidence-Grounded Inference for Chinese Ancient Document Understanding
Fudan University（复旦大学）；University of Liverpool（利物浦大学）
针对现有大型视觉语言模型（LVLMs）在古代文献理解中证据支撑不足的问题，本文提出SAGE多智能体框架，通过多阶段证据导向推理实现任务规划、证据获取与验证，在AncientDoc基准上优于基线，搭载Qwen3.5-9B的SAGE性能超更大单体模型。
2026-08-26 cs.AI cs.CL
Index Light, Reason Deep: Deferred Visual Ingestion for Visual-Dense Document Question Answering
OpsMate AI, Inc.（OpsMate AI公司）
本文提出延迟视觉摄入框架，通过分层图号聚类构建索引，利用BM25检索和VLM分析提升视觉密集文档问答性能。
2026-02-26 cs.CL cs.CV cs.IR
Towards Self-Explainable Document Visual Question Answering with Chain-of-Explanation Predictions
Department of Informatics, University of Oslo（奥斯陆大学信息学院）；Integreat – Norwegian Centre for Knowledge-driven Machine Learning（挪威知识驱动机器学习中心）；TRUST – The Norwegian Centre for Trustworthy AI（挪威可信人工智能中心）
本文提出CoExVQA框架，通过解释链设计实现文档视觉问答的自解释，通过证据识别、答案定位和基于证据解码三步流程提升可解释性，实验显示在PFL-DocVQA上取得SotA性能，ANLS提升12%。
2026-05-07 cs.CV cs.LG
Comparative Study of Domain-adapted VLMs for General Document Visual Question Answering
Universidad Autónoma de Madrid (UAM)（马德里自治大学）；BiometricsAI（生物识别人工智能）
研究对8个开源预训练VLMs在三种文档领域的DocVQA进行全面评估，通过多种评估方式发现其在不同布局性能有差异，参数缩放影响性能，视觉理解是瓶颈，还表明少样本微调能让模型快速适应目标域文档。
2026-07-09 cs.CV cs.LG
DocIntent: Answerability-Guided Agentic Restoration for Real-World Document Visual Question Answering
South China University of Technology（华南理工大学）
针对真实场景退化影响多模态大语言模型文档问答的问题，提出无需训练的DocIntent框架，通过评估可回答性、选择性调用恢复工具及比较式回滚机制，提升了各类MLLM在WildDoc基准上的表现。
2026-09-01 cs.AI cs.CV
Spatially Grounded Explanations in Vision Language Models for Document Visual Question Answering
Computer Vision Center, Universitat Autònoma de Barcelona（计算机视觉中心，巴塞罗那自治大学）；Gradiant
本文提出无需训练的模型无关流程EaGERS，通过生成推理依据、空间定位相关区域并限制响应生成，在DocVQA上提升准确率与可解释性。
2025-07-15 cs.AI cs.CL cs.CV
Marten: Visual Question Answering with Mask Generation for Multi-modal Document Understanding
Meituan（美团）；Shanghai Jiao Tong University（上海交通大学）；Beijing Institute of Technology（北京理工大学）
本文提出 VQAMask 预训练任务与 MTMask6M 数据集，通过文本解析和可丢弃掩码生成器实现语义及空间对齐，并构建训练高效的文档理解 MLLM Marten。
2025-03-18 cs.CV
HierDoc: Hierarchical Page-to-Region Evidence Routing for Long-Document Visual Question Answering
HierDoc是分层证据路由框架，将长文档视觉问答的页与区域选择整合为连续两阶段，在开放权重系统中达SOTA，使LongDocURL提升16.87%，区域证据可显著提升单页系统性能。
2026-08-03 cs.CV
SciEGQA: A Dataset for Scientific Evidence-Grounded Question Answering and Reasoning
Beihang University（北京航空航天大学）；Peking University（北京大学）；The University of Hong Kong（香港大学）；Baidu Inc.（百度公司）
SciEGQA数据集通过精细标注和大规模自动构建，提升视觉语言模型在科学文档中的证据定位与推理能力。
2026-03-30 cs.AI cs.CV cs.DB
LiGT: Layout-infused Generative Transformer for Visual Question Answering on Vietnamese Receipts
University of Information Technology（信息科技大学）；Vietnam National University（越南国立大学）
针对越南语收据提出大规模数据集ReceiptVQA与布局感知模型LiGT，利用语言模型嵌入处理布局信息，实验证明多模态生成式架构优于仅编码器模型。
2025-03-07 cs.CL
Benchmarking Multimodal RAG through a Chart-based Document Question-Answering Generation Framework
College of Computer Science, Chongqing University（重庆大学计算机学院）；Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院空天信息创新研究院）；Kuaishou Technology（快手科技）
针对现有多模态RAG基准忽略复杂图表格式的问题，研究提出CHARGE生成框架，构建含4738个问答对的Chart-MRAG Bench基准，揭示了当前方法的三类关键局限。
2025-02-20 cs.AI cs.CV
Can Machines Help Us Answering Question 16 in Datasheets, and In Turn Reflecting on Inappropriate Content?
Technical University Darmstadt（达姆施塔特工业大学）；Hessian Center for AI（黑森人工智能中心）；Centre for Cognitive Science Darmstadt（达姆施塔特认知科学中心）
大部分当前机器学习的基础数据集提出了关于不适当内容的严重问题，例如攻击性，侮辱性，威胁性或可能导致焦虑。这就要求增加数据集文档，例如，使用活页纸。除其他专题外，这些专题鼓励对数据集的组成进行反思。然而，到目前为止，这些文档都是手动完成的，因此可能很繁琐且容易出错，特别是对于大型图像数据集。在这里，我们提出了一个可以说是“循环”的问题，即机器是否可以帮助我们反思不适当的内容，回答数据表中的问题16。为此，我们建议使用存储在预训练的Transformer模型中的信息来帮助我们进行文档处理。具体来说，基于社会道德价值观数据集的自动调优引导CLIP识别潜在的不适当内容，从而减少人工劳动。然后，我们根据使用视觉语言模型生成的标题，使用词云记录发现的不合适的图像。以这种方式产生的两个流行的大规模计算机视觉数据集- ImageNet和OpenImages的文档表明，机器确实可以帮助数据集创建者回答关于不适当图像内容的问题16。
2022-07-14 cs.AI cs.CV cs.CY
Privacy-Aware Document Visual Question Answering
Computer Vision Center, Universitat Autonoma de Barcelona（计算机视觉中心，巴塞罗那自治大学）；University of Helsinki（赫尔辛基大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；French Institute for Research in Computer Science and Automation (INRIA)（法国国家信息与自动化研究所）；Yooz（Yooz公司）
本文首次研究 DocVQA 的隐私问题，提出发票场景下的大规模数据集，并结合联邦学习与差分隐私评估多模态隐私泄露风险，同时设计基于记忆效应的攻击方法验证隐私漏洞。
2024-09-02 cs.AI cs.CV cs.LG
V-Doc : Visual questions answers with Documents
The University of Sydney（悉尼大学）；FortifyEdge
我们提出了V-Doc，一个使用文档图像和PDF的问答工具，主要针对研究人员和一般非深度学习专家，希望生成，处理和理解文档视觉问答任务。V-Doc支持使用文档图像生成和使用提取和抽象问答对。提取QA从文档内容中选择一个令牌或短语的子集来预测答案，而抽象QA识别内容中的语言并基于训练的模型生成答案。这两个方面对于理解文档至关重要，尤其是图像格式的文档。我们包括一个详细的情况下，抽象的QA任务的问题生成。V-Doc支持广泛的数据集和模型，并且通过声明式、框架无关的平台具有高度可扩展性。
2022-05-31 cs.AI cs.CV
Enhancing BERT-Based Visual Question Answering through Keyword-Driven Sentence Selection
Politecnico di Torino（都灵理工大学）
本文提出一种基于关键词驱动句子选择的纯文本方法，通过掩码语言建模微调BERT模型，以增强文档视觉问答中父子关系检测的性能。
2023-10-13 cs.AI cs.CL cs.LG
TabIQA: Table Questions Answering on Business Document Images
National Institute of Informatics（国立信息学研究所）
表格回答业务文档中的问题有许多挑战，需要理解表格结构、跨文档引用以及简单搜索查询之外的其他数值计算。本文介绍了一种新的管道，名为TabIQA，回答有关业务文档图像的问题。TabIQA结合了最先进的深度学习技术，1）从图像中提取表格内容和结构信息，2）回答与数字数据、基于文本的信息以及结构化表格中的复杂查询相关的各种问题。在VQAonBD 2023数据集上的评估结果证明了TabIQA在回答表格相关问题方面的有效性。TabIQA存储库可在https://github.com/phucty/itabqa上获得。
2023-03-27 cs.CL cs.CV
MemSum-DQA: Adapting An Efficient Long Document Extractive Summarizer for Document Question Answering
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
MemSum-DQA利用MemSum抽取式摘要器，通过前缀问题与类型实现文档问答，精确匹配提升9%，擅长子关系理解。
2023-10-10 cs.CL
JDocQA: Japanese Document Question Answering Dataset for Generative Language Models
Nara Institute of Science and Technology（奈良科学技术研究所）；RIKEN（理化学研究所）；ATR（ATR（先进电信研究所））
本文提出JDocQA，一个包含5,504份PDF文档和11,600个日语问答实例的大规模日语文档问答数据集，要求同时利用视觉与文本信息，并通过纳入不可回答问题来抑制大语言模型的幻觉生成。
2024-03-28 cs.CL
Phrase-Indexed Question Answering: A New Challenge for Scalable Document Comprehension
我们正式目前的问答任务的一个新的模块化的变体，通过执行完全独立的文件编码器的问题编码器。这种提法解决了机器理解的一个关键挑战，需要一个独立的表示文件的话语。它还带来了显著的可扩展性优势，因为文档中的答案候选短语的编码可以预先计算并离线索引以进行高效检索。我们对新任务的基线模型进行了实验，这些模型达到了合理的准确性，但显着低于无约束的QA模型。我们邀请QA研究社区参与短语索引问答（PIQA，pika）以缩小差距。排行榜位于：nlp.cs.washington.edu/piqa
2018-09-26 cs.CL
Representations for Question Answering from Documents with Tables and Text
Google Research（谷歌研究院）；University of Washington（华盛顿大学）
Web文档中的表是普遍存在的，可以直接用于回答Web上搜索的许多查询，从而促进了它们在问答中的集成。表格中提供的信息通常很简洁，很难用标准语言表示来解释。另一方面，表格通常出现在文本上下文中，例如描述表格的文章。使用来自项目的信息作为附加上下文可以潜在地丰富表表示。在这项工作中，我们的目标是改善问答从表中提炼表表示从周围的文本信息的基础上。我们还提出了一种有效的方法来结合文本和基于表格的预测，从完整的文档中的问答，获得显着的改进自然问题数据集。
2021-01-26 cs.CL
Adaptive Document Retrieval for Deep Question Answering
ETH Zurich（苏黎世联邦理工学院）
深度问答中的现有技术系统如下进行：（1）初始文档检索选择相关文档，（2）然后由神经网络处理这些文档以便提取最终答案。然而，这两个组件之间的确切相互作用知之甚少，特别是关于应该检索的候选文档的数量。我们发现，选择一个静态的文件数量-在以前的研究中使用-遭受噪声信息权衡，并产生次优的结果。作为补救措施，我们提出了一个自适应的文档检索模型。它学习文档检索的最佳候选数量，条件是语料库和查询的大小。我们报告了大量的实验结果，表明我们的自适应方法在多个基准数据集以及不同大小的语料库中的性能优于最先进的方法。
2018-08-20 cs.CL
VELD-QA: A Large-Scale Dataset for Visual Evidence Grounding and Question Answering in Long Documents
University of Southern California（南加州大学）；Oracle AI（甲骨文人工智能公司）；Turing Enterprise Inc（图灵企业公司）；University of Pennsylvania（宾夕法尼亚大学）
研究人员提出VELD-QA数据集，该数据集含15000个人工问答对，用于评估长文档问答中视觉证据的定位与解释，发现视觉元素标注可缩小性能差距17%-24%。
2026-10-20 cs.CL cs.CV
DocPrompt: Large-scale continue pretrain for zero-shot and few-shot document question answering
Baidu Inc.（百度公司）
本文提出DocPrompt，通过弱监督数据生成、多阶段训练和模型集成，在4个文档问答任务上达到最先进性能，显著提升效率并降低成本。
2023-08-31 cs.AI cs.CL
Knowledge-Aided Open-Domain Question Answering
Tsinghua University（清华大学）
开放域问答（QA）的目标是从大量的文档中找到问题的答案，虽然许多单文档机器理解模型已经取得了很好的性能，但由于文档检索和答案重排序的不足，开放域QA系统仍有很大的改进空间。包含正确答案的黄金文档可能不会被检索组件正确地评分，并且已经提取的正确答案可能被重新排序组件错误地排序在其他候选答案之后。其中一个原因来自独立原则，即每个候选文档（或答案）都是独立评分的，而不考虑其与其他文档（或答案）的关系。在这项工作中，我们提出了一个知识辅助的开放领域的QA（KAQA）方法，其目标是提高相关的文档检索和候选答案重新排序，通过考虑问题和文件之间的关系（称为问题-文档图），和候选文件之间的关系（称为文档-文档图）。这些图是使用来自外部知识资源的知识三元组构建的。在文档检索过程中，通过考虑候选文档与问题和其他文档的关系来对候选文档进行评分。在答案重排序过程中，候选答案不仅使用其自身的上下文，而且还使用来自其他文档的线索进行重排序。实验结果表明，我们提出的方法提高了文档检索和答案重排序，从而提高了开放域问答的整体性能。
2020-06-09 cs.CL
Survey on Question Answering over Visually Rich Documents: Methods, Challenges, and Trends
Orange（奥兰治公司）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；ISIR（法国国家科学研究中心智能系统与机器人研究所）
本文综述了视觉富文档问答的现有方法，分析其优缺点、主要挑战和未来研究方向。
2025-03-10 cs.CL
DocNavRAG: Document-Structured Graph RAG with Stateful Evidence Construction for Complex Document Question Answering
School of Computer Science, Wuhan University（武汉大学计算机学院）；The Hong Kong University of Science and Technology（香港科技大学）；The Chinese University of Hong Kong（香港中文大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出DocNavRAG，将文档结构组织为可导航图并维护证据状态，在四个文档QA基准上，相比最强基线平均提升答案质量7.8%、上下文充分性17.7%。
2026-08-04 cs.CL
BoundingDocs: a Unified Dataset for Document Question Answering with Spatial Annotations
Università degli Studi di Firenze（佛罗伦萨大学）；LETXBE
BoundingDocs数据集通过整合文档AI和视觉丰富文档理解任务，统一了文档问答任务，提供精确的边界框标注以提升大语言模型在文档理解中的性能。
2025-12-01 cs.AI cs.CL
Question Answering by Reasoning Across Documents with Graph Convolutional Networks
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
大多数阅读理解的研究都集中在回答基于单个文档甚至单个段落的问题上。我们引入了一个神经模型，它集成和原因依赖于文档内和跨多个文档的信息传播。我们把它看作是一个图上的推理问题。实体的提及是该图的节点，而边编码不同提及之间的关系（例如，文档内和跨文档共同参考）。将图卷积网络（GCN）应用于这些图，并训练其执行多步推理。我们的快速GCN方法是可扩展的和紧凑的，并且它在多文档问答数据集WikiHop（Welbl等人，2018年）。
2022-09-27 cs.CL stat.ML
Classification Betters Regression in Query-based Multi-document Summarisation Techniques for Question Answering: Macquarie University at BioASQ7b
Macquarie University（麦考瑞大学）
2019年BioASQ挑战赛B阶段的任务B侧重于生物医学问答。麦考瑞大学的参与应用了基于查询的多文档提取摘要技术，以生成给定问题和相关片段集的多句回答。在过去的参与中，我们使用深度学习架构和简单的策略梯度架构探索了回归方法的使用。在2019年的挑战中，我们尝试使用有和没有强化学习的分类方法。此外，我们还进行了各种ROUGE指标与BioASQ人类评估评分之间的相关性分析。
2019-09-02 cs.CL
AutoKG: Constructing Virtual Knowledge Graphs from Unstructured Documents for Question Answering
MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）
知识图谱具有为问答系统提供细粒度细节的优点。不幸的是，建立一个可靠的KG是耗时和昂贵的，因为它需要人为干预。为了克服这个问题，我们提出了一个新的框架，自动构建KG从非结构化的文件，不需要外部对齐。我们首先从非结构化文档中提取表面形式的知识元组，并用上下文信息对其进行编码。具有相似上下文语义的实体然后通过内部对齐链接以形成图结构。这使我们能够通过遍历生成的KG从多个文档中提取所需的信息，而无需手动处理。我们研究其性能检索为基础的QA系统重新制定的WikiMovies和MetaQA数据集成一个元组级检索任务。实验结果表明，我们的方法优于传统的检索方法的大幅度。
2021-03-10 cs.CL
Information Extraction from Documents: Question Answering vs Token Classification in real-world setups
BNP Paribas（法国巴黎银行）
本文系统比较 DocKIE 中的问答与令牌分类方法，通过五类实验表明前者更适合噪声和长实体场景，后者在干净短实体上表现更优。
2023-04-21 cs.CL
Single-Pass Document Scanning for Question Answering
Laboratory for Emerging Intelligence（新兴智能实验室）；University of California, San Diego（加州大学圣地亚哥分校）
提出单遍文档扫描方法，线性时间处理长文档，保持全局连贯性，在41个问答基准上优于分块嵌入方法，以低计算成本媲美大模型。
2025-08-07 cs.CL
Fine-Grained Relevance Annotations for Multi-Task Document Ranking and Question Answering
TU Wien（维也纳工业大学）
存在许多现有的检索和问答数据集。然而，他们中的大多数要么专注于排名列表评估或单一候选人的问答。这种划分使得正确评估与对文档进行排名以及为给定查询提供片段或答案有关的方法具有挑战性。在这项工作中，我们提出了FiRA：一个新的细粒度相关性注释数据集。我们扩展了TREC 2019的深度学习轨道的分级检索注释，为所有相关文档提供了段落和单词级别的分级相关性注释。我们使用新创建的数据来研究长文档中相关性的分布，以及注释者对文本特定位置的注意力。作为一个例子，我们评估最近推出的TKL文档排序模型。我们发现，虽然TKL展览国家的最先进的检索结果长文件，它错过了许多相关段落。
2020-08-12 cs.CL cs.IR
Answering Any-hop Open-domain Questions with Iterative Document Reranking
Peking University（北京大学）；Georgia Institute of Technology（佐治亚理工学院）；Siemens Corporate Technology（西门子企业技术部）
现有的开放域问答（QA）方法通常是针对需要单跳或多跳推理的问题而设计的，这些推理对要回答的问题的复杂性做出了很强的假设。此外，多步骤文档检索通常会导致更多相关但不支持的文档，这会抑制下游噪声敏感的阅读器模块进行答案提取。为了解决这些挑战，我们提出了一个统一的QA框架来回答任何跳开放域的问题，迭代检索，重新排序和过滤文件，并自适应地确定何时停止检索过程。为了提高检索精度，我们提出了一个基于图的重排序模型，执行多文档交互作为我们的迭代重排序框架的核心。我们的方法在单跳和多跳开放域QA数据集（包括Natural Questions Open，SQuAD Open和HotpotQA）上始终实现与最先进的性能相当或更好的性能。
2021-05-24 cs.CL
Hierarchical Question Answering for Long Documents
University of Washington（华盛顿大学）；Google Research（谷歌研究院）；Tel Aviv University（特拉维夫大学）
我们提出了一个用于问答的框架，可以有效地扩展到更长的文档，同时保持甚至提高最先进模型的性能。虽然大多数成功的阅读理解方法都依赖于递归神经网络（RNN），但在长文档上运行它们的速度非常慢，因为很难在序列上并行化。受人们如何首先浏览文档，识别相关部分，并仔细阅读这些部分以产生答案的启发，我们结合了一个粗糙，快速的模型来选择相关句子，并使用一个更昂贵的RNN来从这些句子中产生答案。我们把句子选择作为一个潜在的变量，只使用强化学习从答案中联合训练。实验证明了在维基阅读的一个具有挑战性的子集和一个新的数据集上的最先进的性能，同时将模型加速了3.5x-6.7x。
2017-02-08 cs.CL
A question-answering system for aircraft pilots' documentation
Airbus AI Research（空客人工智能研究院）
航空航天工业依赖于大量复杂的技术文档，包括系统描述、手册或程序。本文提出了一个问答（QA）系统，将帮助飞机飞行员访问的信息，在此文件中自然地与系统进行交互，并提出问题，在自然语言。在描述对话系统的每个模块之后，我们为QA模块提出了一种基于多任务的方法，该方法可以提高飞行机组操作手册（FCOM）数据集的性能。还提出了一种结合检索器和QA模块的分数的方法。
2020-11-26 cs.CL cs.IR
Benchmarking Large Language Models for Conversational Question Answering in Multi-instructional Documents
University of Science and Technology of China（中国科学技术大学）
本文提出指令性文档对话式问答基准 InsCoQA 及 LLM 辅助评估器 InsEval，用于评测大型语言模型在多文档中检索、解释和总结分步指导的能力。
2024-10-01 cs.CL
Answering questions by learning to rank -- Learning to rank by answering questions
University Politehnica of Bucharest（布加勒斯特理工大学）
在没有明确提供支持文档的情况下，选择题的处理仍然是自然语言处理的核心问题。这篇文章的贡献是双重的。首先，它描述了一种方法，可以用来从维基百科或类似的自然语言语料库中提取的文档进行语义排名。其次，我们提出了一个模型，采用语义排名，在两个最流行的排行榜回答多项选择题：ARC容易和挑战。为了实现这一目标，我们引入了一个基于自我注意的神经网络，它潜在地学习根据与给定问题相关的重要性对文档进行排名，同时优化预测正确答案的目标。这些文件被认为是基本问题的相关背景。我们已经发布了排名的文档，以便它们可以被现成地用于改进下游决策模型。
2019-11-14 cs.CL cs.LG
AttenWalker: Unsupervised Long-Document Question Answering via Attention-based Graph Walking
Huazhong University of Science and Technology（华中科技大学）；Beijing Institute of Technology（北京理工大学）
针对长文档问答标注成本高、现有无监督问答难处理长距离信息的问题，提出无监督长文档问答任务与AttenWalker方法，通过三模块构建长距离依赖答案，在基准数据集及少样本场景下表现优异。
2023-05-03 cs.CL
Trace Only What You Need: Structure-Aware On-Demand Hypergraph Memory for Long-Document Question Answering
University of New South Wales（新南威尔士大学）；CSIRO（澳大利亚联邦科学与工业研究组织）；University of Wollongong（伍伦贡大学）
提出DocTrace，一种多智能体RAG框架，通过查询触发的知识组织、文档结构感知和经验引导推理，解决长文档问答中知识组织成本高、结构利用不足和推理经验无法复用的问题，在三个数据集上取得最佳性能。
2026-08-07 cs.CL
Probabilistic Assumptions Matter: Improved Models for Distantly-Supervised Document-Level Question Answering
Microsoft Research（微软研究院）；Google Research（谷歌研究院）
我们使用文档级的远程监督，将问题和相关文档与答案字符串配对，解决了抽取式问答问题。我们比较了以前使用的概率空间和遥远的超视假设（假设弱答案字符串标签和可能的答案提及跨度之间的对应关系）。我们表明这些假设相互作用，并且不同的配置提供了互补的好处。我们证明了多目标模型可以有效地结合多个假设的优势，并优于最佳的个人制定。我们的方法在TriviaQA-Wiki上的F1和NarrativeQA摘要上的Rouge-L中分别比以前的最先进模型高出4.3分和1.7分。
2020-05-05 cs.CL cs.LG
Parameter-Efficient Neural Question Answering Models via Graph-Enriched Document Representations
Georgia Tech（佐治亚理工学院）；Keio University（庆应义塾大学）；University of Toronto（多伦多大学）
随着现代NLP系统计算量的增长，获得更有效的模型变得越来越重要。我们表明，通过采用图卷积文档表示，我们可以达到一个问答系统，执行的是martto，并在某些情况下超过SOTA解决方案，而使用不到5\%的资源方面的可训练参数。就目前而言，将GCN应用于NLP的一个主要问题是文档表示。在本文中，我们表明，GCN丰富的文档表示大大提高了HotPotQA中看到的结果，即使使用一个平凡的拓扑结构。我们的模型（gQA）与当前的SOTA相比表现出色，并且几乎不需要预处理。在Shao等人2020中，作者认为图网络对于多跳QA的良好性能不是必需的。在本文中，我们通过展示一个基于预训练的语言模型的GCN执行到SoTA模型的简单实现，表明大语言模型对于良好的性能是不必要的。
2021-06-01 cs.CL
Enhanced vectors for top-k document retrieval in Question Answering
现代应用程序，特别是涉及“搜索”作为其用例的信息检索网络应用程序，正逐渐向“应答”模块移动。会话式聊天机器人已被证明对用户更具吸引力，使用问答作为其核心。由于精确的回答在计算上是昂贵的，因此已经开发了几种方法来从包含答案的数据库中预取最相关的文档/段落。我们提出了一种不同的方法，可以高效、准确地检索证据文档，确保不会错过给定用户查询的相关文档。我们通过为每个文档（或本文中的段落）分配一个唯一的标识符，并使用它们来创建可以有效索引的密集向量。更准确地说，我们使用标识符来预测与段落对应的相关问题的随机采样的上下文窗口单词以及段落本身的单词。这自然地将通道标识符嵌入到向量空间中，使得嵌入更接近问题而不损害信息内容。这种方法可以在约4毫秒内高效地创建实时查询向量。
2022-10-08 cs.CL cs.IR cs.LG
