K-COMP: Retrieval-Augmented Medical Domain Question Answering With Knowledge-Injected Compressor
POSTECH(POSTECH大学);GSAI;POSTECH CSE(POSTECH计算机科学与工程系)
提出K-COMP(知识注入压缩器),通过在压缩检索文档前自动生成先验知识并将其整合到自回归压缩过程中,解决医学领域检索增强问答中专业知识理解难和文档冗余导致的幻觉问题,从而引导阅读器模型生成准确答案并信任上下文。
2025-05-28 cs.AI cs.CL
Emotional RAG LLMs: Reading Comprehension for the Open Internet
AI Virtual Assistant (AVA) Lab, Georgia Institute of Technology(人工智能虚拟助理实验室,佐治亚理工学院);Wand AI;Invoca
针对现实RAG应用中互联网文本语气多样导致下游任务困难的挑战,本文提出了一个情感化数据集、一个情感翻译模型以及一种基于提示的方法,以提升LLMs对检索文本的语用理解能力。
2025-06-29 cs.AI cs.CL cs.IR
Why Does Surprisal From Larger Transformer-Based Language Models Provide a Poorer Fit to Human Reading Times?
The Ohio State University(俄亥俄州立大学)
这项工作提出了一个详细的语言分析,为什么更大的基于transformer的预训练语言模型具有更多的参数和更低的困惑,但仍然产生对人类阅读时间预测性较低的粗略估计。首先,回归分析显示,对于两个单独的数据集上最近发布的五种GPT-Neo变体和八种OPT变体,困惑度和拟合读取时间之间存在严格单调的正对数线性关系,复制了仅限于GPT-2的早期结果(Oh等人,2022年)。随后,残差分析揭示了一个系统的偏差较大的变量,如低估的命名实体的阅读时间,并作出补偿overpredictions功能词,如情态动词和连词的阅读时间。这些结果表明,较大的基于transformer的模型在训练过程中“记忆”序列的倾向使得它们的经验估计与人类的期望不同,这使得在使用预训练的语言模型研究人类语言处理时需要谨慎。
2022-12-23 cs.CL
Attention Basin: Why Contextual Position Matters in Large Language Models
本研究揭示大语言模型存在“注意力盆地”现象,即对序列首尾信息注意力高、中间低,据此提出无需训练的AttnRank重排序框架,将关键内容对齐至高注意力位置,在10种模型上显著提升多跳问答与少样本学习性能。
2025-08-07 cs.AI cs.CL
On the impact of retrieved content representations in RAG Pipelines
The University of Queensland(昆士兰大学);CSIRO(澳大利亚联邦科学与工业研究组织)
通过控制变量实验,研究检索文档的不同表示(选择、摘要、改写等)对RAG生成准确性的影响,发现答案保留是主要决定因素。
2026-05-29 cs.AI cs.CL cs.IR
Don't Read Too Much into It: Adaptive Computation for Open-Domain Question Answering
University College London(伦敦大学学院)
开放域问答的大多数方法由一个轻量级检索器和一个计算量大的阅读器组成,前者选择一组候选段落,后者检查段落以识别正确答案。以前的研究表明,随着检索到的段落数量的增加,读者的表现也会增加。然而,它们假设所有检索到的段落都具有相同的重要性,并为它们分配相同的计算量,从而导致计算成本的大幅增加。为了减少这种成本,我们建议使用自适应计算来控制分配给要阅读的段落的计算预算。我们首先介绍了一种技术,它依赖于随时预测和每层估计的早期退出概率的单独通道上运行。然后,我们介绍SkylineBuilder,一种基于通过强化学习训练的资源分配策略,动态决定在每一步分配计算的方法。我们在SQuAD-Open上的结果表明,具有全局优先级的自适应计算比几种强大的静态和自适应方法有所改进,计算量减少了4.3倍,同时保留了完整模型的95%性能。
2020-11-10 cs.AI cs.CL cs.LG
Beyond Perplexity: Let the Reader Select Retrieval Summaries via Spectrum Projection Score
针对RAG整体评估难分离检索真实贡献的问题,本文提出无监督轻量指标SPS衡量检索摘要与阅读器的语义对齐度,并基于此构建推理时控制器框架xCompress,实验验证其可提升多任务性能并为检索生成交互提供新视角。
2025-11-13 cs.CL
Merging Generated and Retrieved Knowledge for Open-Domain QA
University of Michigan(密歇根大学);LG AI Research(LG人工智能研究院);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
针对开放域问答中检索知识覆盖不足与LLM生成易产生幻觉的问题,提出COMBO框架,通过判别器匹配生成与检索段落为兼容对,并利用Fusion-in-Decoder阅读器融合处理,在多数基准上优于基线且在知识冲突场景表现更优。
2023-10-22 cs.AI cs.CL
Lost at the End: Primacy Bias in Multimodal Retrieval-Augmented Question Answering
University of California, San Diego(加州大学圣地亚哥分校);The Ohio State University(俄亥俄州立大学)
研究多模态知识型视觉问答中检索上下文的位置依赖,发现不同于纯文本的U形效应,出现首因偏差(开头优于末尾),并通过消融实验定位原因为指令调优阅读器的提示槽0。
2026-09-16 cs.AI cs.CL cs.CV
Reading Is Not Using: Retrieval, Judgment, and the Design of AI Financial Research Workflows
Carroll School of Management, Boston College(波士顿学院卡罗尔管理学院);Columbia Business School, Columbia University(哥伦比亚大学哥伦比亚商学院)
该研究针对长上下文金融分析中存在的检索-整合缺口,通过实验发现工作流架构会影响LLMs将检索到的风险披露信息整合至投资判断的效果,指出AI分析师表现由模型能力与工作流架构共同决定。
2026-08-26 cs.AI cs.CL
Improving Question Answering over Incomplete KBs with Knowledge-Aware Reader
University of California, Santa Barbara(加州大学圣巴巴拉分校);IBM Research(IBM研究院)
我们提出了一个新的端到端的问答模型,它学习从一个不完整的知识库(KB)和一组检索到的文本片段聚合答案的证据。在结构化知识库更容易查询且获取的知识有助于理解非结构化文本的假设下,该模型首先从问题相关的知识库子图中积累实体知识,然后在潜在空间中重构问题,并利用积累的实体知识阅读文本。知识库和文本中的证据最终被聚合以预测答案。在广泛使用的KBQA基准WebQSP上,我们的模型在不同程度的KB不完整性的设置上实现了一致的改进。
2019-05-31 cs.AI cs.CL
On the Tip of the Tongue: Why LLMs Hallucinate Answers They Can Decode
研究揭示语言模型幻觉源于对不确定性整合失败,而非检测能力不足。通过拓扑分析发现不确定性表示碎片化而非统一退避,梯度和Fisher探针显示不确定性方向敏感性坍缩,交叉熵训练缺乏退避吸引子,导致关联机制放大碎片化激活。
2026-10-05 cs.AI cs.CL cs.LG
Less Context, More Accuracy: A Bi-Temporal Memory Engine for LLM Agents Where a Lean Retrieved Context Beats the Full History
Independent Researcher(独立研究者)
提出一种双时间记忆引擎Engram,通过混合读取路径从约9.6k token的检索片段中回答,在LongMemEval_S上达到83.6%准确率,比完整历史(79k token)高10.4个百分点,且无错误。
2026-06-05 cs.AI cs.CL cs.IR
Read, Grep, and Synthesize: Diagnosing Cross-Domain Seed Exposure for LLM Research Ideation
Yonsei University, Seoul, Republic of Korea(延世大学,首尔,韩国)
本文通过PaperGym框架研究跨领域检索对LLM构想系统的影响,发现种子暴露提升特定性,但检索效果不如随机多样种子控制,表明系统需进一步优化语义理解。
2026-05-12 cs.AI
Improving Zero-shot Reader by Reducing Distractions from Irrelevant Documents in Open-Domain Question Answering
Korea Advanced Institute of Science and Technology(韩国科学技术院)
本研究提出干扰感知答案选择(DAS)方法,通过否定指令和分数调整减少不相关文档干扰,提升开放域问答中零样本阅读器的性能,并展现无需训练的强迁移能力。
2023-11-14 cs.AI cs.CL
From What to Why: A Multi-Agent System for Evidence-based Chemical Reaction Condition Reasoning
Hangzhou Dianzi University(杭州电子科技大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Tsinghua University(清华大学);University of Oxford(牛津大学)
本文提出ChemMAS多智能体系统,通过机制 grounding、多通道回忆、约束感知辩论和理由聚合,提升化学反应条件推荐的可解释性,实验表明其在准确率和可解释性上优于现有方法。
2026-03-26 cs.AI cs.CL
Reading Comprehension using Entity-based Memory Network
Kyoto University(京都大学)
本文提出基于实体的记忆网络,通过维护实体状态记忆池来处理细粒度信息和复杂关系,并在多个问答任务上取得满意效果。
2017-02-01 cs.AI cs.CL
Search-G1: Co-Evolving Representation-Based Rewards for Selective Grounded Search
Fudan University(复旦大学);Tencent(腾讯);Nanjing University(南京大学);Nanyang Technological University(南洋理工大学);Shanghai Jiao Tong University(上海交通大学)
该研究提出Search-G1框架,通过两个经干预校准的读数构成的表征内在奖励,改善了搜索增强语言智能体的接地性与搜索成本的权衡,在多基准和模型规模上验证了其有效性。
2026-10-14 cs.AI cs.CL
Do LLMs Understand Why We Write Diaries? A Method for Purpose Extraction and Clustering
European University at Saint Petersburg(圣彼得堡欧洲大学)
本文提出基于大语言模型的日记写作目的提取与聚类方法,并在Prozhito苏联日记语料上验证,发现GPT-4o和o1-mini性能最佳,同时分析了目的分布与模型错误类型。
2025-06-01 cs.CL
Evaluating the Rationale Understanding of Critical Reasoning in Logical Reading Comprehension
The Asahi Shimbun Company(朝日新闻公司);National Institute of Informatics(国立信息学研究所)
本文构建了一个包含3,003个子问题的数据集,用于评估语言模型对逻辑阅读理解中批判性推理理由的理解,实验发现现有大模型即使能答对主问题,也难以解释为何排除错误选项,从而揭示了其在批判性推理上的不足。
2023-11-30 cs.CL
Answer Extraction for Why Arabic Questions Answering Systems: EWAQ
Al-Albayt University(阿尔阿尔拜特大学)
随着网络信息量的不断增加,问答系统变得非常重要,它允许用户访问他们的请求的直接答案。本文提出了一个基于蕴涵度量的阿拉伯语问答系统。本文关注的问题类型是为什么问题。有很多原因导致我们开发这个系统:一般来说,缺乏阿拉伯语的问题和稀缺的阿拉伯语问题的回答系统,重点是为什么问题。在这项研究中,建议系统的目标是提取答案重新排序检索段落检索搜索引擎。这个系统只提取为什么问题的答案。这个系统被EWAQ称为:基于蕴涵的为什么阿拉伯语问题的解释。每个答案都使用蕴涵度量进行评分,并根据其分数进行排名,以确定最可能的正确答案。利用人工测试集,将EWAQ与成熟的网络问答系统搜索引擎:yahoo、google和ask.com进行了比较。在EWAQ实验中,通过对搜索引擎检索到的相关段落进行重排序并判定正确答案,实现了文本蕴涵,提高了准确率。所得到的结果表明,使用基于蕴涵的相似性,可以显着地帮助解决为什么答案提取模块在阿拉伯语。
2019-07-04 cs.CL cs.IR
Why the Valuable Capabilities of LLMs Are Precisely the Unexplainable Ones
Tsinghua University(清华大学)
本文提出论点:大语言模型真正有价值的能力恰恰是无法用人类可读的离散规则完全描述的部分。通过专家系统等价性证明,若LLM能力可被规则完全描述,则等同于专家系统,但专家系统在历史上和实证上均弱于LLM,从而产生矛盾。
2026-03-17 cs.AI
Chain-of-Note: Enhancing Robustness in Retrieval-Augmented Language Models
Tecent AI Lab(腾讯人工智能实验室)
本文提出Chain-of-Noting方法,通过为检索文档生成顺序阅读笔记来评估相关性并整合信息,从而提升检索增强语言模型在噪声文档和未知场景下的鲁棒性,实验显示其在多个开放域问答基准上显著优于标准RALMs。
2024-10-03 cs.AI cs.CL
R$^3$: Reinforced Reader-Ranker for Open-Domain Question Answering
School of Information System, Singapore Management University(新加坡管理大学信息系统学院);AI Foundations - Learning, IBM Research AI(IBM人工智能研究院AI基础学习部)
近年来,研究人员已经取得了相当大的成功,应用神经网络方法的问答(QA)。这些方法已经在简化的闭域设置中实现了现有技术的结果,例如SQuAD(Rajpurkar等人,2016)数据集,该数据集提供预先选择的段落,可以从该段落提取给定问题的答案。最近,研究人员已经开始解决开放域QA,其中模型被赋予一个问题并访问大型语料库(例如,wikipedia)而不是预先选择的段落(Chen等人,2017年a)。这种设置更复杂,因为它需要通过信息检索组件对相关段落进行大规模搜索,并结合“阅读”段落以生成问题答案的阅读理解模型。这种设置的性能大大落后于闭域性能。在本文中,我们提出了一种新的开放域问答系统称为加强排名读者$(R^3)$,基于两个算法的创新。首先,我们提出了一个新的管道开放域QA与排名组件,它学会排名检索段落的可能性生成地面真理的答案给一个给定的问题。其次,我们提出了一种新的方法,联合训练的排名与答案生成阅读器模型,基于强化学习。我们报告了大量的实验结果,表明我们的方法显着提高了多个开放域QA数据集的最新技术水平。
2017-11-21 cs.AI cs.CL
Example-Guided Prompting for Document-Level Text Simplification
SCE(SCE(以色列SCE学院));ScaDS.AI, TUD Dresden(ScaDS.AI,德累斯顿工业大学)
该研究针对文档级文本简化中提示指导不足的问题,提出示例引导提示方法,经OneStopEnglish语料库实验,可提升大语言模型的简化质量,性能优于或媲美相关基准系统。
2026-08-07 cs.CL
RAG Deserves an Index: Why Ingest-Time Compilation Beats Query-Time Interpretation
Endgame Labs, Inc.(终局实验室公司);Asia AI Institute(亚洲人工智能研究院);Musashino University(武藏野大学);Faculty of Data Science, Musashino University(武藏野大学数据科学学院);AIx, Inc.(AIx公司)
该研究提出摄入时语义编译(ISC)范式,将语料编译为可查询数据库对象,实验显示其检索效果优于传统RAG方法,增量更新成本更低,为RAG提供了索引化解决方案。
2026-08-24 cs.AI cs.DB cs.IR
Why Limit the Residual Stream to Layers and Not Tokens? Persistent Memory for Continuous Latent Reasoning
University of Cambridge(剑桥大学)
针对CoCoNuT在潜在空间推理中因中间隐藏状态被覆盖导致概念瓶颈的问题,提出AGCLR模型,通过门控概念流持久记忆机制,在GSM8K、HotpotQA和ProsQA上取得一致提升。
2026-06-05 cs.AI cs.CL cs.LG
Loud and Clear: Making Visual Evidence Count in Multimodal Document RAG
POSTECH(浦项科技大学)
该研究针对多模态文档RAG中视觉证据利用不足的问题,提出LoC方法,结合高分辨率页面与查询相关区域OCR,在三个数据集上较现有方法取得显著准确率提升。
2026-10-16 cs.AI cs.CV
Beyond Retrieval Failure: Understanding Why LLMs Miss Evidence in Multi-Hop RAG
Zhejiang University(浙江大学);Shanghai AI Laboratory(上海人工智能实验室);Fudan University(复旦大学);Sun Yat-sen University(中山大学);University of British Columbia(不列颠哥伦比亚大学);The Chinese University of Hong Kong(香港中文大学)
本研究针对多跳RAG中LLM遗漏证据的问题,提出ExecutionRAG方法,发现错误原因从检索引导转向证据验证,且不同嵌入模型的错误数量有显著变化。
2026-10-16 cs.CL
Read it Twice: Towards Faithfully Interpretable Fact Verification by Revisiting Evidence
Tsinghua University(清华大学);University of Cambridge(剑桥大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
针对现有证据检索方法无法同时满足忠实性、合理性及提升验证准确率要求的问题,提出ReRead事实验证模型,分阶段训练可解释证据检索器与重访证据的主张验证器,在不同设置下均取得显著性能提升。
2023-05-02 cs.CL cs.IR
Recall Is Not Enough: A Reader-Context Diagnostic for Budget-Constrained Retrieval-Augmented Generation
Ahsanullah University of Science and Technology(阿赫桑乌拉科技大学)
针对固定读者上下文预算下的检索增强生成,提出答案在上下文中诊断指标,并构建基于子模最大化的打包器,在特定条件下提升性能。
2026-08-06 cs.CL cs.IR
Why are Sequence-to-Sequence Models So Dull? Understanding the Low-Diversity Problem of Chatbots
University of Amsterdam(阿姆斯特丹大学)
多样性是信息检索中一个长期研究的话题,通常指检索结果不重复并涵盖不同方面的要求。在对话环境中,多样性的另一个维度很重要:一个有吸引力的响应生成系统应该能够输出多样化和有趣的响应。序列到序列(Seq2Seq)模型已被证明对于响应生成非常有效。然而,由Seq2Seq模型生成的对话响应往往具有低多样性。在本文中,我们回顾了已知的来源和现有的方法,这个低多样性的问题。我们还确定了一个低多样性的来源,到目前为止很少研究,即模型过度自信。我们勾画了几个方向来解决模型过度自信,因此,低多样性的问题,包括置信惩罚和标签平滑。
2018-09-06 cs.AI cs.CL
Why can't memory networks read effectively?
Computational Linguistics & Psycholinguistics Research Center(计算语言学与心理语言学研究中心);University of Antwerp(安特卫普大学)
记忆网络已经成为机器阅读理解和问答的神经架构中的流行选择。虽然最近的工作表明,记忆网络不能真正执行多跳推理,我们在本文中表明,香草记忆网络是无效的,即使在单跳阅读理解。我们分析了两个完形填空风格的数据集,一个来自医学领域,另一个包括儿童小说的原因。我们发现,具有实体特定权重的输出分类层和具有相对平坦的注意力分布的通道信息的聚合是导致较差结果的最重要因素。我们提出了网络适应,可以作为简单的补救措施。我们还发现,在测试时看不见的答案的存在会显着影响报告的结果,所以我们建议在评估过程中控制这个因素。
2019-10-16 cs.CL
Reading Between the Lines: A dataset and a study on why some texts are tougher than others
University of Leeds(利兹大学)
本文针对智力障碍读者的文本可读性问题,构建了基于平行语料的困难标注数据集,并微调transformer模型预测简化策略,同时探索模型决策的可解释性。
2025-01-03 cs.CL
Separating Semantic Competition from Context Length in RAG Reading
Meta Platforms(Meta平台)
通过匹配对照实验,分离出检索增强生成中阅读器的语义竞争效应,证明性能下降部分源于竞争而非仅上下文长度。
2026-05-26 cs.CL cs.IR
Why AI Readiness Is an Organizational Learning Problem, Not a Technology Purchase
Ars Innovate Technology and Consulting(Ars Innovate技术与咨询);Matador Advisors(Matador顾问);NC State University(北卡罗来纳州立大学)
本文指出,人工智能项目失败本质上是组织学习问题而非技术不足,提出SIO模型指导企业AI能力发展。
2026-04-21 cs.AI cs.CL cs.CY
Answering Open-Domain Multi-Answer Questions via a Recall-then-Verify Framework
Tsinghua University(清华大学);Institute for Artificial Intelligence(人工智能研究院);State Key Lab of Intelligent Technology and Systems(智能技术与系统国家重点实验室);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
开放域问题可能是开放式的和模棱两可的,导致多个有效答案。现有的方法通常采用重新排序然后阅读框架,其中读者阅读排名靠前的证据来预测答案。根据我们的实证分析,该框架面临三个问题:第一,在记忆限制下,为了利用大量读者,重新排序者应该只选择少数相关段落来覆盖不同的答案,而平衡相关性和多样性是不平凡的;第二,小的阅读预算阻止读者访问被重新排序者过滤掉的有价值的检索证据;第三,当使用生成式阅读器基于所有选择的证据来同时预测答案时,有效答案是否也将被病理性地预测取决于某个其他有效答案的证据。为了解决这些问题,我们建议用一个回忆-然后-验证框架来回答开放域多答案问题,该框架将每个答案的推理过程分开,以便我们可以更好地利用检索到的证据,同时在相同的内存约束下利用大型模型。我们的框架在两个多答案数据集上实现了最先进的结果,并预测了比使用Oracle reranker的rerank-then-read系统更多的黄金答案。
2022-03-01 cs.CL
Retrieved but Not Delivered: Multimodal Memory Delivery for Long-Term Agents
研究多模态智能体记忆投递阶段,发现检索与回答间存在未隔离环节,提出DeliverMem方法,通过保留原始模态、赋予身份标识和注明时间三个决策提升性能,在MemLens和DMV-Bench基准上均领先现有方法。
2026-09-29 cs.AI cs.CL cs.CV
CompAct: Compressing Retrieved Documents Actively for Question Answering
Korea University(高丽大学);Upstage AI;AIGEN Sciences
提出CompAct框架,通过主动策略压缩检索文档,在多跳问答基准上显著提升性能与压缩率(47x),可作为低成本插件兼容多种检索器与阅读器。
2024-10-14 cs.CL
Compact Documentation for Coding Agents: A Benchmark, an Optimizer, and Why It Does Not Transfer
Daffodil International University(达福迪尔国际大学)
本研究构建了往返基准和优化器,发现文档完整性决定保真度,但实验表明文档并不能提升智能体解决真实仓库问题的能力。
2026-09-28 cs.AI cs.CL cs.SE
KG-FiD: Infusing Knowledge Graph in Fusion-in-Decoder for Open-Domain Question Answering
Carnegie Mellon University(卡内基梅隆大学);Microsoft(微软);University of Notre Dame(圣母大学);University of Southern California(南加州大学)
现有的开放领域问答模型通常包含一个检索模块和一个阅读模块。给定一个输入问题,阅读模块从检索器检索到的相关段落中预测答案。最近提出的融合解码器(FiD)建立在预训练的生成模型T5之上,在阅读模块中实现了最先进的性能。虽然它是有效的,但它仍然受到所有包含大量噪音的检索段落的低效注意的限制。在这项工作中,我们提出了一种新的方法KG-FiD,利用检索到的通道与知识图谱之间的结构关系过滤噪声通道。我们从FiD编码器启动通道节点嵌入,然后使用图神经网络(GNN)更新表示进行重新排序。为了提高效率,我们在FiD编码器的中间层输出之上构建GNN,并且只将少数重新排序的通道传递到编码器和解码器的更高层以生成答案。我们还提出了基于GNN的重排序方法,以提高检索模块中的段落检索结果。在常见的ODQA基准数据集(Natural Question和TriviaQA)上进行的大量实验表明,KG-FiD可以将普通FiD的答案精确匹配分数提高1.5%,并在计算成本仅为40%的情况下实现与FiD相当的性能。
2022-06-06 cs.CL cs.LG
Detecting and Repairing Hallucinations in Retrieval-Augmented Generation
Leiden University(莱顿大学)
本研究针对检索增强生成(RAG)的幻觉问题,借助RAGTruth基准数据集,对比三种修复策略的效果,发现策略在依据保留权衡上各有侧重,需依据答案有用性选择。
2026-09-01 cs.AI cs.CL
Fine-Tuning a KV Cache Concatenation-Aware Model or Recomputing KV Caches? Why Not Both?
Kioxia Corporation(铠侠公司)
本文提出结合微调感知KV缓存拼接与选择性重算KV缓存的方法,在RULER基准上提升长上下文准确性9.7分,同时减少80%的TTFT。
2026-09-10 cs.AI cs.CL cs.LG
Generate-then-Ground in Retrieval-Augmented Generation for Multi-hop Question Answering
Shandong University(山东大学);University of Electronic Science and Technology of China(电子科技大学);Leiden University(莱顿大学)
针对多跳问答中检索增强生成范式受检索器和文档噪声限制的问题,提出GenGround框架,通过交替生成单跳答案与文档落地修正的方式协同参数化知识与外部文档,还提出指令落地蒸馏适配小模型,在四个数据集上表现更优。
2024-09-16 cs.CL cs.IR
Better Retrieval May Not Lead to Better Question Answering
The University of Arizona(亚利桑那大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
近年来,开放领域的问答(QA)问题取得了很大的进展,这些问题需要信息检索(IR)和阅读理解(RC)。一个流行的方法来提高系统的性能是提高从IR阶段检索的上下文的质量。在这项工作中,我们表明,对于StrategyQA,一个具有挑战性的开放域QA数据集,需要多跳推理,这种常见的方法是令人惊讶的无效-提高检索上下文的质量几乎没有提高系统的性能。我们进一步分析系统的行为,以确定潜在的原因。
2022-05-07 cs.CL
Retrieve, Read, Rerank: Towards End-to-End Multi-Document Reading Comprehension
National University of Defense Technology(国防科技大学)
本文研究了多个文本作为输入的阅读理解任务。先前的工作已经表明,检索器、读取器和重排序器的流水线可以提高整体性能。然而,流水线系统是低效的,因为输入在每个模块内被重新编码,并且不能利用上游组件来帮助下游训练。在这项工作中,我们提出了RE $^3$ QA,一个统一的问答模型,结合上下文检索,阅读理解和答案重新排序,以预测最终的答案。与以前的流水线方法不同,RE $^3$ QA在不同的组件之间共享上下文化的文本表示,并且被精心设计为使用高质量的上游输出(例如,检索的上下文或候选答案)用于直接监督下游模块(例如,读者或重新排序者)。因此,整个网络可以端到端地训练,以避免上下文不一致问题。实验表明,我们的模型优于流水线基线,并在两个版本的TriviaQA和SQuAD的两个变体上实现了最先进的结果。
2019-06-11 cs.CL
Off-Axis, On Purpose: Where a Transformer Computes Concepts and Why it Does So
University of Washington(华盛顿大学);School of Computer Science and Engineering(计算机科学与工程学院)
该研究揭示Transformer分两阶段计算,概念阶段采用与读取轴近乎正交的子空间,强制该几何结构可提升稀疏旋转的收敛性,且不损害语言建模基准性能。
2026-08-12 cs.CL cs.LG
Align Documents to Questions: Question-Oriented Document Rewriting for Retrieval-Augmented Generation
University of Science and Technology of China(中国科学技术大学);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出QREAM框架,通过风格控制重写使检索文档更符合问题需求,提升检索增强生成的准确性与效率。
2026-04-19 cs.CL
Towards leveraging latent knowledge and Dialogue context for real-world conversational question answering
University of Amsterdam(阿姆斯特丹大学);Utrecht University(乌得勒支大学)
在许多现实世界的场景中,缺乏像维基百科这样的外部知识源限制了问答系统依赖于有限对话数据中的潜在内部知识。此外,人类经常通过问几个问题来寻求答案,以获得更全面的信息。随着对话变得越来越广泛,机器面临着参考以前的对话回合来回答问题的挑战。在这项工作中,我们建议通过神经检索阅读系统利用现有会话日志中的潜在知识,通过基于TFIDF的文本摘要器改进冗长的会话历史以缓解长上下文问题。我们的实验表明,我们的检索阅读系统可以利用检索到的背景知识,以产生显着更好的答案。结果还表明,我们的上下文摘要显着帮助检索者和读者介绍更简洁,更少的噪音上下文信息。
2022-12-17 cs.CL
Beyond Raw Context Transfer: Representation-based Federated Retrieval-Augmented Generation
University of Oxford(牛津大学);National University of Singapore(新加坡国立大学)
针对集中式RAG在敏感数据场景的局限,提出基于表示的联邦RAG框架FedRepRAG,仅交换紧凑潜在表示,通过协作训练的项目器集成知识,在VQA和QA基准上优于基线并降低开销。
2026-09-22 cs.CL cs.LG
Quasar: Datasets for Question Answering by Search and Reading
School of Computer Science(计算机科学学院);Carnegie Mellon University(卡内基梅隆大学)
我们提出了两个新的大规模数据集,旨在评估系统,旨在理解一个自然语言查询,并从一个大的文本语料库中提取其答案。Quasar-S数据集由37000个完形填空式(fill-in-the-gap)查询组成,这些查询是根据流行网站Stack Overflow上的软件实体标签定义构建的。网站上的帖子和评论作为回答完形填空题的背景语料。Quasar-T数据集由43000个开放领域的琐事问题和从各种互联网来源获得的答案组成。CNOW Web 09作为提取这些答案的背景语料库。我们将这些数据集作为仿真问答的两个相关子任务的挑战:(1)搜索包含查询正确答案的相关文本片段,以及(2)阅读检索到的文本以回答查询。我们还描述了一个检索系统,用于从给定查询的语料库中提取相关的句子和文档,并将这些包括在发布中,供希望只关注(2)的研究人员使用。我们在两个数据集上评估了几个基线,从简单的算法到强大的神经模型,并表明这些基线分别落后于Quasar-S和-T的16.4%和32.1%。这些数据集可在https://github.com/bdhingra/quasar上获得。
2017-08-09 cs.CL cs.IR cs.LG