In-Context Examples Suppress Scientific Knowledge Recall in LLMs
Korea Advanced Institute of Science and Technology(韩国科学技术院);Shanghai Jiao Tong University(上海交通大学)
研究发现上下文示例会削弱大语言模型对科学知识的回忆能力,使模型更依赖经验模式匹配而非预训练知识。
2026-08-10 cs.AI
RecaLLM: Addressing the Lost-in-Thought Phenomenon with Explicit In-Context Retrieval
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
RecaLLM通过交替推理与显式上下文检索解决推理过程中因长上下文导致的检索性能下降问题,显著提升了RULER和HELMET基准测试表现。
2026-04-10 cs.AI cs.CL cs.IR
DENIAHL: In-Context Features Influence LLM Needle-In-A-Haystack Abilities
New York University(纽约大学);Databricks(Databricks公司)
针对“大海捞针”测试无法分析上下文长度外影响语言模型回忆特定信息的因素问题,本文开发DENIAHL合成基准,消融数据类型等特征,发现模型性能差异及项目大小、数据类型对回忆性能的影响,为大上下文模型提供启示。
2024-11-28 cs.AI cs.CL cs.LG
MemoCue: Empowering LLM-Based Agents for Human Memory Recall via Strategy-Guided Querying
Northwestern Polytechnical University(西北工业大学)
针对传统智能体辅助记忆唤起受记忆模块规模限制的问题,提出策略引导的MemoCue方法,通过Recall Router框架结合5W唤起图谱与分层唤起树优化策略选择,在三个数据集上较现有LLM方法提升17.74%的唤起启发效果。
2025-07-31 cs.AI
What Level of Automation is "Good Enough"? A Benchmark of Large Language Models for Meta-Analysis Data Extraction
School of Mathematical and Computational Sciences(数学与计算科学学院);Massey University(梅西大学);Auckland, New Zealand(新西兰奥克兰)
本文评估了三种大型语言模型在医疗领域数据提取中的性能,发现定制提示能显著提升召回率,提出三层次指南以平衡自动化与专家监督。
2025-07-20 cs.AI cs.CL cs.LG
Empty Shelves or Lost Keys? Recall Is the Bottleneck for Parametric Factuality
Google Research(Google研究);Technion – Israel Institute of Technology(以色列技术学院)
提出行为框架区分LLM事实错误源于知识缺失或访问失败,通过WikiProfile基准测试发现前沿模型编码饱和但回忆是主要瓶颈,思考可恢复大量失败。
2026-06-23 cs.AI cs.CL
Can LLMs Evaluate What They Cannot Annotate? Revisiting LLM Reliability in Hate Speech Detection
本研究通过主观性-aware框架重新评估大语言模型在仇恨言论检测中的可靠性,发现LLM生成的标注能反映模型性能趋势,可作为主观NLP任务的可扩展代理评估者。
2025-12-10 cs.AI cs.CL
Measurement Boundaries in LLM Financial Agent Evaluation: Fixed-Tape Execution and Multi-Defect Auditing
本研究通过两个实验揭示LLM金融智能体评估中执行比较与审计分数的测量边界,表明固定磁带执行和诊断控制(如多缺陷审计)对分数解释至关重要。
2026-09-29 cs.AI cs.CE cs.LG
Have I Scene This Before? Spatially Grounded Conversational Memory for Complex Queries in Egocentric Assistants
针对自我中心助手处理复杂空间查询的挑战,提出空间接地对话记忆(SpaC-MEM),利用3D重建与分割压缩多模态历史,并构建Ego-SpaCR基准,在准确率与对象回忆上优于基线,验证了空间证据的关键作用。
2026-10-06 cs.AI
Reasoning Primitives in Hybrid and Non-Hybrid LLMs: Do Architectural Differences Yield Advantages in State-Tracking and Recall?
Lamarr Institute for Machine Learning and Artificial Intelligence(拉玛尔机器学习与人工智能研究所);Rheinische Friedrich-Wilhelms-Universität Bonn(波恩莱茵河弗里德里希-威廉大学)
本研究通过五个受控任务族比较了Transformer和混合架构在状态召回任务上的表现,发现推理增强是主要优势因素,而混合架构的优势较窄且依赖于任务。
2026-05-25 cs.AI cs.CL
Time Awareness in Large Language Models: Benchmarking Fact Recall Across Time
FEE, CTU in Prague(布拉格捷克技术大学电子工程系);CIIRC, Czech Technical University in Prague(布拉格捷克技术大学信息与通信研究中心)
本文构建覆盖2018–2024年8000多个日级标注事件的框架与数据集,并以TimeShift评估LLM时间事实回忆,发现基础模型常优于指令微调模型且大模型对改写事实仍脆弱。
2025-05-15 cs.AI cs.CL
What the "Spotless" Mind Remembers: How Knowledge Entanglement Shapes What Leaks After Unlearning in LLMs
Computer Science University of Southern California(计算机科学南加州大学);Computer Science Indiana University(计算机科学印第安纳大学)
该研究探究LLM中知识纠缠与遗忘后事实泄露的关系,发现GA+KL等算法会反转纠缠度与回忆率的正相关,训练出可预测遗忘后提示事实性的模型用于模型审计。
2026-08-28 cs.AI cs.CL
RECALL: Library-Like Behavior In Language Models is Enhanced by Self-Referencing Causal Cycles
MBZUAI(穆罕默德·本·扎耶德人工智能大学);RIKEN AIP(理化学研究所人工智能项目);Tohoku University(东北大学)
本文提出自引用因果循环(RECALL)机制,使LLM能绕过反转诅咒,通过循环token连接训练数据,增强从后续token回忆前文的能力,并经形式化与实验验证。
2025-01-23 cs.AI cs.CL
What Is Actually Being Annotated? Inter-Prompt Reliability as a Measurement Problem in LLM-Based Social Science Labeling
Boston University(波士顿大学)
本文提出Inter-Prompt Reliability框架,评估LLM在不同提示下的输出稳定性,发现标注存在显著随机性,多数投票能提高可重复性。
2026-04-02 cs.AI cs.CY
What the Reranker Sees: Multi-Aspect Page Annotation for Long-Document Multimodal Question Answering
Emory University(埃默里大学);Hippocratic AI(希波克拉底人工智能公司)
本文针对长文档多模态问答的重排序瓶颈,提出含Trident-R与Trident-S组件的Trident模型,通过多方面页面标注提升检索与生成性能,在多数据集上取得显著效果。
2026-08-18 cs.AI
Memory for Autonomous LLM Agents:Mechanisms, Evaluation, and Emerging Frontiers
Hong Kong Research Institute of Technology(香港理工大学)
本文探讨了自主LLM代理中记忆的机制、评估及未来发展方向,分析了五种核心机制及评估挑战,强调记忆对代理适应性和应用的重要性。
2026-03-08 cs.AI
DyadMem: A Long-Term Memory Benchmark of How Agents Work with Users
Nanyang Technological University(南洋理工大学);National University of Singapore(新加坡国立大学);University of Hong Kong(香港大学);Stepfun
DyadMem提出用户条件关系智能体记忆(URAM)基准,包含大量多会话标注,揭示前沿模型在完整流水线问答中性能骤降,并验证URAM对20个模型均有积极效果。
2026-10-05 cs.AI
PHANTOM RECALL: When Familiar Puzzles Fool Smart Models
School of Computing and Augmented Intelligence, Arizona State University(计算与增强智能学院,亚利桑那州立大学)
本研究提出PHANTOM RECALL基准,通过扰动经典逻辑谜题,揭示大型语言模型依赖记忆而非推理的脆弱性,并提供判断器、错误分类和提示缓解框架,表明模型在情境变化时缺乏重新推理能力。
2025-10-13 cs.AI cs.CL
HQANN: Efficient and Robust Similarity Search for Hybrid Queries with Structured and Unstructured Constraints
内存中近似最近邻搜索(ANNS)算法在快速高查全率查询处理方面取得了巨大成功,但在处理具有非结构化(即,特征向量)和结构化(即,相关属性)约束。在本文中,我们提出了HQANN,一个简单而高效的混合查询处理框架,可以很容易地嵌入到现有的基于邻近图的人工神经网络算法。我们保证低延迟和高召回利用属性之间的导航感和融合向量相似性搜索与属性过滤。在公共和内部数据集上的实验结果表明,HQANN比最先进的混合ANNS解决方案快10倍,以达到相同的召回质量,其性能几乎不受属性复杂性的影响。它可以在大约50微秒内达到99\% recall@10在GLOVE-1.2M上具有数千个属性约束。
2022-07-16 cs.DB cs.IR
SPANN: Highly-efficient Billion-scale Approximate Nearest Neighbor Search
Microsoft(微软);Peking University(北京大学);Tencent(腾讯);Baidu(百度)
内存中的近似最近邻搜索算法(ANNS)在快速高查全率搜索方面取得了很大的成功,但在处理超大规模数据库时代价非常昂贵。因此,对于具有小存储器和便宜的固态驱动器(SSD)的混合ANNS解决方案的需求越来越多。在本文中,我们提出了一个简单而有效的存储器-磁盘混合索引和搜索系统,命名为SPANN,遵循倒排索引的方法。它将张贴列表的质心点存储在内存中,并将大型张贴列表存储在磁盘中。我们通过有效减少磁盘访问次数和检索高质量的倒排列表来保证磁盘访问效率(低延迟)和高召回率。在索引构建阶段,采用层次平衡聚类算法来平衡倒排表的长度,并通过在相应聚类的闭包中增加点来扩充倒排表。在搜索阶段,我们使用了一个查询感知的方案来动态修剪不必要的倒排列表的访问。实验结果表明,在30亿规模的数据集上,SPANN比最先进的ANNS解决方案CANN快2 $\times$,在相同的内存开销下达到相同的召回质量$90\%$.它可以在大约1毫秒内达到$90\%$ recall@1和recall@10,而内存成本仅为32 GB。代码可从以下地址获得:{ \footnotesize \color{blue}{\url{https://github.com/microsoft/SPTAG}} }。
2021-11-05 cs.AI cs.CV cs.DB
When to Repair a Graph ANN Index: A Matched-Budget Negative Result, and the Interpolated-Baseline Trap That Hid It
VaidhyaMegha Private Limited(VaidhyaMegha私人有限公司)
针对图ANN索引在插入/删除变动下召回率下降的问题,提出基于可导航性退化信号触发局部边修复的策略,在固定修复预算下显著提升尾部召回,优于固定周期修复。
2026-07-13 cs.DB cs.IR
Query-aware Routing for Filtered Approximate Nearest Neighbors Search
Australian National University(澳大利亚国立大学)
提出查询感知路由框架,通过轻量级ML模型预测各候选方法的召回率,结合离线基准表选择最佳召回-QPS权衡,在五个未见数据集上达到SOTA性能。
2026-06-19 cs.DB cs.IR
FusedANN: Convexified Hybrid ANN via Attribute-Vector Fusion
Huawei Technologies Ltd(华为技术有限公司)
FusedANN通过属性-向量融合和凸化松弛,将混合查询中的属性过滤转化为优化约束,实现高效近似搜索,在标准基准上吞吐量提升达3倍且召回率更优。
2025-09-25 cs.AI cs.DB cs.IR
Total Recall at What Cost? Benchmarking the Serving Cost of Agentic Memory Systems
Bricks Technology(布里克科技)
本研究基准测试 Mem0 等三种智能体记忆系统的服务成本,对比固定窗口与全量重发策略,发现其成本受内部行为驱动,且无系统同时在成本与准确率上占优。
2026-08-13 cs.CL cs.IR
δ-EMG: A Monotonic Graph Index for Approximate Nearest Neighbor Search
Beijing Institute of Technology(北京理工大学);Nanyang Technological University(南洋理工大学);Huawei Technologies Ltd(华为技术有限公司)
δ-EMG通过单调图索引实现误差有界近似最近邻搜索,提升大规模数据下的查询效率与精度。
2025-11-21 cs.IR
Closed Forms and Synthetic Twins: Predicting Approximate Nearest Neighbor Recall from Embedding Statistics
Independent Researcher
该研究提出从嵌入统计量预测近似索引召回率的方法,利用闭式解、合成孪生体等工具,可在索引构建前预测召回率,还能通过优化得分边际提升多索引系列的召回率,适用于动态语料库。
2026-09-02 cs.IR
GPU-Native Approximate Nearest Neighbor Search with IVF-RaBitQ: Fast Index Build and Search
Nanyang Technological University(南洋理工大学);NVIDIA(英伟达)
IVF-RaBitQ是一种基于GPU的近似最近邻搜索方法,结合了IVF和RaBitQ量化技术,实现了快速索引构建、高吞吐量搜索和高召回率,同时降低存储需求。
2026-08-31 cs.DB cs.DS cs.IR
FreshDiskANN: A Fast and Accurate Graph-Based ANN Index for Streaming Similarity Search
近似最近邻搜索(ANNS)是信息检索中的基本构建块,其中基于图的索引是当前最先进的并且在工业中广泛使用。基于图的索引的最新进展使得在具有SSD的单个商品机器上索引和搜索具有高召回率和毫秒级延迟的十亿点数据集成为可能。然而,现有的人工神经网络图算法只支持静态索引,不能反映许多关键的现实世界场景所需的语料库的实时变化(例如,文档中的句子索引,电子邮件或新闻索引)。为了克服这个缺点,当前用于将更新体现到这样的索引中的行业实践是周期性地重新构建这些索引,这可能是非常昂贵的。在本文中,我们提出了第一个基于图的ANNS索引,该索引将语料库更新实时反映到索引中,而不会影响搜索性能。使用此索引的更新规则,我们设计了FreshmartANN,一个可以在具有SSD和有限内存的工作站上索引超过10亿个点的系统,并支持每秒数千次并发实时插入,删除和搜索,同时保留$>95\%$ 5-recall@5。与现有方法相比,这意味着保持索引新鲜度的成本降低了5- 10倍。
2021-05-20 cs.IR
In-Place Updates of a Graph Index for Streaming Approximate Nearest Neighbor Search
针对流式 ANNS 图索引难以高频删除并保持召回稳定的问题,提出 IP-DiskANN,通过原地处理插入与删除避免批量合并,并在标准基准上实现稳定召回及更优吞吐和更新速度。
2025-02-19 cs.IR
Content-Based Quality Estimation for Automatic Subject Indexing of Short Texts under Precision and Recall Constraints
语义标注必须满足质量约束才能对数字图书馆有用,这在大型和多样化的数据集上尤其具有挑战性。多标签分类方法的置信度得分通常仅指特定主题的相关性,而忽略了文档级内容表示不足的指标。因此,我们提出了一种新的方法,检测文件,而不是概念的质量标准得到满足。我们的方法使用了一个深层的,多层的回归架构,其中包括各种基于内容的指标。我们使用法律和经济学的文本集评估了多个配置,其中可用的内容仅限于非常短的文本。值得注意的是,我们证明了所提出的质量估计技术可以确定以前看不见的数据的子集,其中可以实现文档级召回的可观收益,同时保持精度。因此,该方法有效地执行过滤,确保操作信息检索系统中的高数据质量标准。
2018-06-07 cs.DL cs.IR
The Impacts of Data, Ordering, and Intrinsic Dimensionality on Recall in Hierarchical Navigable Small Worlds
本文研究HNSW在深度学习嵌入与真实数据上的召回表现,发现本征维度和插入顺序显著影响召回,并指出现有ANN基准需更贴近实际。
2024-05-28 cs.IR
Recall Is Not Enough: A Reader-Context Diagnostic for Budget-Constrained Retrieval-Augmented Generation
Ahsanullah University of Science and Technology(阿赫桑乌拉科技大学)
针对固定读者上下文预算下的检索增强生成,提出答案在上下文中诊断指标,并构建基于子模最大化的打包器,在特定条件下提升性能。
2026-08-06 cs.CL cs.IR
SHEAF: Self-profiled Hardness Estimation from Answer-set Flux for Predicting Query Hardness in Graph-based ANN Search
研究基于图的ANN搜索中查询硬度预测问题,提出SHEAF度量标准,通过答案集通量表示查询硬度,设计自剖析估计器和评估协议,在多个数据集和索引上,相比基线度量能更好地预测查询束宽,提升预测效果。
2026-07-15 cs.IR
Efficient k-NN Search with Cross-Encoders using Adaptive Multi-Round CUR Decomposition
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Google Research(谷歌研究院)
本文提出ADACUR方法,通过自适应多轮迭代执行k-NN搜索并更新锚点集,结合CUR矩阵分解高效最小化top-k邻居近似误差,在不增加计算开销下将召回误差降低高达70%。
2023-10-23 cs.CL cs.IR cs.LG
GRIT: Graph-based Recall Improvement for Task-oriented E-commerce Queries
本文提出GRIT方法,通过构建商品相似度图并利用邻居节点的语境与动作相关性来改进任务型电商查询的第一阶段召回,在多种检索方法上最高提升6.3%召回率。
2025-02-16 cs.IR