COLA: Continual Learning via Autoencoder Retrieval of Adapters
Microsoft（微软）
本文提出COLA框架，利用自编码器检索任务适配器嵌入，实现LLM高效持续学习，防止灾难性遗忘，无需数据回放，显著减少参数与内存，并在多数据集上超越现有方法。
2025-10-22 cs.LG
When Continual Learning Moves to Memory: A Study of Experience Reuse in LLM Agents
Nanyang Technological University（南洋理工大学）
研究揭示了内存增强型LLM智能体在持续学习中经验重用的问题，发现记忆检索时旧经验与新经验的竞争加剧了持续学习的瓶颈，提出了(k,v)框架以解耦外部记忆的设计关键要素。
2026-04-29 cs.AI cs.LG
A Parametric Memory Head for Continual Generative Retrieval
University of Amsterdam（阿姆斯特丹大学）
本文提出PAMT方法，通过参数化内存头解决连续生成检索中稳定性和可塑性之间的权衡问题，提升早期文档检索性能且对新增文档影响小。
2026-04-25 cs.AI cs.CL cs.IR
Neural Subspace Reallocation: Continual Learning as Retrieval-Based Subspace Memory Management
Independent Researcher（独立研究者）
提出神经子空间重分配（NSR），通过SVD压缩、相似性检索和重分配循环管理参数子空间内存，在循环环境中实现10倍恢复速度提升，并证明记忆机制比学习策略更关键。
2026-06-29 cs.AI cs.CV cs.LG
Information-Theoretic Decoupled Prompt Tuning for Continual Learning
National Engineering Lab for Big Data Analytics, School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院大数据分析国家工程实验室）
针对持续学习中提示微调的检索依赖和分类器偏差问题，提出解耦提示微调方法，将提示解耦为共享分布与类别特定提示，并给出信息论理论保障，在标准基准上达到最先进性能。
2026-09-23 cs.LG
Saliency-Guided Hidden Associative Replay for Continual Learning
Emory University（埃默里大学）
针对持续学习中回放方法内存开销大、现有局部数据检索机制不符合人类记忆规律的问题，提出结合联想记忆与回放策略的SHARC框架，通过稀疏编码存储显著片段、基于内容检索实现高效回忆，在多任务上验证了有效性。
2023-10-06 cs.LG
Adaptive Explainable Continual Learning Framework for Regression Problems with Focus on Power Forecasts
University of Kassel（卡塞尔大学）
与传统的深度学习技术相比，持续学习使深度神经网络能够持续自适应地学习。随着应用中数据量的不断增加，深度神经网络需要学习新的任务，并克服遗忘从旧任务中获得的知识。在本文中，将提出两个持续学习方案，以描述在这种情况下的潜在挑战。此外，基于我们以前的工作CLeaR框架，这是短期的持续学习回归任务，工作将进一步发展，使模型能够扩展自己和学习数据连续。研究主题涉及但不限于开发持续的深度学习算法，数据流中的非平稳检测策略，可解释和可视化的人工智能等。此外，框架和算法相关的超参数应在应用中动态更新。预测实验将根据从实际应用中收集的发电和消费数据进行。一系列的综合评价指标和可视化工具可以帮助分析实验结果。预计拟议框架将普遍适用于其他不断变化的情景。
2022-02-07 cs.LG
ISM:Self-Improving Strategy Memory for Continual Mathematical Reasoning
提出智能模式记忆（ISM），一种自我演进的记忆增强系统，通过从成功和失败案例中学习并维护策略模式库，在不更新模型参数的情况下提升冻结LLM在持续学习中的数学推理能力。
2026-07-03 cs.LG
Interactive Continual Learning: Fast and Slow Thinking
Harbin Institute of Technology（哈尔滨工业大学）；Tsinghua University（清华大学）
本文提出交互式持续学习框架，结合ViT与多模态LLM，通过CKT-MHA和CL-vMF机制增强记忆检索，并利用vMF-ODI识别困难样本，实现抗遗忘的持续学习，性能优于现有方法。
2024-03-19 cs.CV cs.LG
Bridging Streaming Continual Learning via In-Context Large Tabular Models
本文提出通过大规模上下文表格模型实现流式持续学习，结合流式学习与持续学习的核心原则，平衡塑性与稳定性，并控制内存大小。
2025-12-12 cs.LG
Ex-Model: Continual Learning from a Stream of Trained Models
University of Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学校）
从非平稳数据流中持续学习是一个具有挑战性的研究课题，在过去的几年里越来越受欢迎。能够以高效，有效和可扩展的方式不断学习，适应和概括是人工智能系统可持续发展的基础。然而，以代理为中心的持续学习的观点需要直接从原始数据中学习，这限制了独立代理之间的交互，效率和当前方法的隐私。相反，我们认为，持续学习系统应该利用压缩信息的训练模型的形式的可用性。在本文中，我们介绍并正式命名为"前模型持续学习"（ExML），其中一个代理学习从一个序列的先前训练的模型，而不是原始数据的新范式。我们进一步贡献了三个前模型持续学习算法和经验设置，包括三个数据集（MNIST，CIFAR-10和CORe50），和八个场景，其中所提出的算法进行了广泛的测试。最后，我们突出了前模型范式的特点，我们指出有趣的未来研究方向。
2021-12-13 cs.AI cs.CV cs.LG
Renate: A Library for Real-World Continual Learning
Amazon Web Services（亚马逊云科技）；University College London（伦敦大学学院）
本文提出持续学习库 Renate，面向 PyTorch 模型的真实世界增量更新流水线，依据实践需求设计组件与接口，并通过实验展示其优势。
2023-04-24 cs.AI cs.CV cs.LG
Continual Learning for Large Language Models: A Survey
Monash University（莫纳什大学）；Griffith University（格里菲斯大学）
本文综述了大型语言模型的持续学习技术，提出多阶段分类方案，涵盖持续预训练、指令微调与对齐，并对比其他方法，指出挑战与未来方向。
2024-02-07 cs.CL cs.LG
Few-Shot Vision-Language Action-Incremental Policy Learning
School of Computer Science and Technology, Harbin Institute of Technology (Shenzhen)（计算机科学与技术学院，哈尔滨工业大学（深圳））；Department of Computer Science and Technology, Ocean University of China（计算机科学与技术系，中国海洋大学）；Huawei Noah’s Ark Lab（华为诺亚实验室）
本文提出任务提示图演化策略（TOPIC），通过任务特定提示和连续演化策略，实现机器人操控中的少样本动作增量学习，成功率比现有方法高26%以上。
2025-04-22 cs.LG cs.RO
Learning from Mistakes: Rollout-Retrieval Lifelong Policy Learning for Autonomous Driving
School of Mechanical Engineering, Beijing Institute of Technology（北京理工大学机械工程学院）；School of Mechanical and Aerospace Engineering, Nanyang Technological University（南洋理工大学机械与航空航天工程学院）
提出R²LPL框架，通过从可恢复的闭环驾驶错误中检索纠正目标并进行终身学习，将稀疏失败证据转化为监督知识，持续提升自动驾驶策略性能。
2026-06-29 cs.AI cs.CV cs.LG
An Investigation of Replay-based Approaches for Continual Learning
Fulda University of Applied Sciences（富尔达应用科学大学）
持续学习（CL）是机器学习（ML）的一个主要挑战，它描述了在没有灾难性遗忘（CF）的情况下顺序学习多个任务的能力。最近的工作表明，CL是一个复杂的话题，甚至更是当涉及到多个约束的现实世界的场景。已经提出了几种解决方案，其中所谓的基于重放的方法似乎非常有前途，由于其简单性和鲁棒性。这种方法将过去样本的子集存储在专用存储器中以供以后处理：虽然这不能解决所有问题，但已经获得了良好的结果。在这篇文章中，我们实证研究基于重放的持续学习方法，并评估其应用潜力。选择最近的方法，以及自己的建议进行比较的一套共同的基准，特别侧重于评估不同的样本选择策略的性能。我们发现，当存储的样本数量较少时，样本选择的影响会增加。然而，不同的重放方法之间的性能变化很大。令人惊讶的是，我们发现，我们在这里提出的最天真的基于排练的方法可以优于最近的最先进的方法。
2021-08-15 cs.LG
Continual Learning and Catastrophic Forgetting
Department of Electrical Engineering KU Leuven, Belgium（卢森堡鲁文大学电气工程系）；Department of Electrical and Computer Engineering University of Texas at San Antonio, USA（德克萨斯大学圣安东尼奥分校电气与计算机工程系）
本书章节探讨持续学习从非平稳数据流增量学习的挑战，重点分析灾难性遗忘现象，并回顾该领域近十年的研究见解。
2024-03-08 cs.AI cs.CV cs.LG
Exploring Fine-tuning Techniques for Pre-trained Cross-lingual Models via Continual Learning
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；Department of Electronic and Computer Engineering（电子与计算机工程系）；The Hong Kong University of Science and Technology（香港科技大学）
最近，微调预训练的语言模型（例如，多语言BERT）到下游跨语言任务的转换已经显示出有希望的结果。然而，微调过程不可避免地改变了预训练模型的参数，并削弱了其跨语言能力，这导致了次优性能。为了缓解这个问题，我们利用持续学习来保留预训练模型的原始跨语言能力，当我们微调它到下游任务时。实验结果表明，我们的微调方法可以更好地保持跨语言能力的预训练模型在句子检索任务。我们的方法在zero-shot跨语言词性标注和命名实体识别任务上也取得了比其他微调基线更好的性能。
2020-10-04 cs.CL cs.LG
MetaCD: A Meta Learning Framework for Cognitive Diagnosis based on Continual Learning
MetaCD通过元学习和持续学习方法，提升认知诊断模型在长尾分布和动态数据下的准确率与泛化能力。
2025-12-28 cs.LG
Budgeted Online Continual Learning by Adaptive Layer Freezing and Frequency-based Sampling
Seoul National University（首尔大学）
针对在线持续学习中计算与存储预算不一致导致比较不公的问题，提出以 FLOPs 和总字节内存统一预算，并结合自适应层冻结与频率采样检索，在多个图像数据集上以同等总预算取得优于 SOTA 的效果。
2025-03-16 cs.AI cs.CV cs.LG
Calibration of Continual Learning Models
University of Pisa（比萨大学）；ISTI-CNR
针对持续学习模型易遗忘、缺乏校准的问题，首次实证研究该领域校准方法的表现，提出持续校准方法提升后处理校准性能，为构建可靠的持续学习预测模型迈出第一步。
2024-04-12 cs.AI cs.LG
Retrievable Gradients: Continual Post-Training Without Cumulative Weight Drift
Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）
提出ReGrad范式，将梯度作为可检索知识单元，通过元学习重塑文档梯度为通用适应信号，实现无权重漂移的可扩展参数知识注入。
2026-10-14 cs.AI cs.CL cs.IR
From Categories to Classifiers: Name-Only Continual Learning by Exploring the Web
University of Oxford（牛津大学）；KAUST（阿卜杜拉国王科技大学）；Meta AI
本文提出仅名称持续学习范式，通过利用互联网查询和下载网络监督数据构建支持集，无需人工标注即可适应新类别，并在多个持续学习场景中取得接近人工标注数据训练模型的性能，准确率最高提升25%。
2024-09-04 cs.LG
Routing without Forgetting
无遗忘的路由通过在transformer中引入基于能量的关联检索层，实现了在在线持续学习中动态选择表示子空间，从而在多个基准测试中超越了现有基于提示的方法。
2026-03-10 cs.AI cs.LG
Continual Learning for Monolingual End-to-End Automatic Speech Recognition
KU Leuven（鲁汶大学）
本文提出了一种连续学习方法，用于在不存储历史数据的情况下提升单语端到端ASR模型在多个新任务上的性能。
2023-03-09 cs.CL cs.LG eess.AS
Efficient Continual Learning in Language Models via Thalamically Routed Cortical Columns
SnT, University of Luxembourg（卢森堡大学SnT学院）
TRC$^{2}$通过丘脑路由和海马路径实现持续学习，提升任务边界建模质量并减少累积遗忘，优于多种基线模型。
2026-04-17 cs.LG
Imbalanced Continual Learning with Partitioning Reservoir Sampling
Neural Processing Research Center, Seoul National University（首尔大学神经处理研究中心）
从连续的数据流中进行持续学习是机器学习研究的一个关键挑战。大多数研究都是在单标签分类设置下进行的，并假设标签分布均衡。这项工作扩展了多标签分类的研究视野。在这样做的过程中，我们发现了许多多标签数据集中固有的意料之外的逆境，即长尾分布。我们共同解决这两个独立解决的问题，灾难性的遗忘和长尾标签分布，首先经验性地显示了一个新的挑战，破坏性遗忘的少数概念的尾巴。然后，我们策划了两个基准数据集，COCOseq和NUS-WIDEseq，允许研究任务内和任务间的不平衡。最后，我们提出了一种新的采样策略，称为分区水库采样（PRS），它允许模型保持平衡的头和尾类的知识。我们在项目页面中公开发布数据集和代码。
2020-09-08 cs.AI cs.CV cs.LG
Continual Learning for Recurrent Neural Networks: an Empirical Evaluation
University of Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学校）
在整个模型生命周期内持续学习是部署机器学习解决方案对数据分布漂移鲁棒性的基础。使用循环神经网络的持续学习（CL）的进步可以为大量输入数据不稳定的应用铺平道路，如自然语言处理和机器人技术。然而，关于这一主题的现有工作仍然是零散的，其方法是针对具体应用的，其评估是基于异构的学习协议和数据集。在本文中，我们组织的文献CL顺序数据处理提供了一个分类的贡献和审查的基准。我们基于现有数据集提出了两个新的CL基准，其中包含顺序数据，其特征类似于现实世界的应用程序。我们还提供了一个广泛的经验评估CL和循环神经网络类增量的情况下，通过测试他们的能力，以减轻遗忘与一些不同的策略，这不是特定的顺序数据处理。我们的研究结果突出了序列长度所起的关键作用和CL场景的明确规范的重要性。
2021-08-02 cs.AI cs.LG
Audio-Visual Continual Test-Time Adaptation without Forgetting
本文提出AVReCAP方法，在测试时无需源数据即可提升模型性能，通过动态检索最佳融合层参数减少灾难性遗忘。
2026-07-21 cs.LG cs.SD
STELLA: Continual Audio-Video Pre-training with Spatio-Temporal Localized Alignment
KAIST（韩国科学技术院）；UNC Chapel Hill（北卡罗来纳大学教堂山分校）；NAVER AI Lab（NAVER AI实验室）；DeepAuto
提出STELLA持续音频-视频预训练方法，通过局部补丁重要性评分和重放引导相关性评估，实现有效学习，在零样本检索中相对提升3.69%，内存减少约45%。
2024-05-28 cs.CV cs.LG
Continual Lifelong Learning with Neural Networks: A Review
Universität Hamburg（汉堡大学）；Rochester Institute of Technology（罗切斯特理工学院）；Heriot-Watt University（赫瑞-瓦特大学）
人类和动物有能力在其一生中不断获得，微调和转移知识和技能。这种能力被称为终身学习，是由一套丰富的神经认知机制介导的，这些机制共同促进我们感觉运动技能的发展和专业化，以及长期记忆的巩固和检索。因此，终身学习能力是至关重要的自主智能体在现实世界中进行交互和处理连续的信息流。然而，终身学习仍然是机器学习和神经网络模型的长期挑战，因为从非平稳数据分布中不断获取增量可用信息通常会导致灾难性遗忘或干扰。这种限制代表了最先进的深度神经网络模型的主要缺点，该模型通常从静止批次的训练数据中学习表示，因此没有考虑到信息随着时间的推移变得增量可用的情况。在这篇综述中，我们批判性地总结了与人工学习系统终身学习相关的主要挑战，并比较了现有的神经网络方法，这些方法在不同程度上缓解了灾难性遗忘。我们讨论了成熟的和新兴的研究动机终身学习因素在生物系统，如结构可塑性，记忆重放，课程和迁移学习，内在动机，多感官整合。
2019-02-11 cs.LG q-bio.NC stat.ML
Advancing continual lifelong learning in neural information retrieval: definition, dataset, framework, and empirical evaluation
Loughborough University（拉夫堡大学）
针对神经信息检索领域缺乏明确持续学习任务范式的问题，本文提出了对应的任务定义、多主题数据集与整合典型模型和学习策略的框架，实证验证了其防遗忘效果并对比了不同模型的性能差异。
2024-06-19 cs.CL cs.IR
Reviewing continual learning from the perspective of human-level intelligence
University of Science and Technology of China（中国科学技术大学）；Institute of Intelligent Machines, Chinese Academy of Sciences（中国科学院合肥智能机械研究所）；Mississippi State University（密西西比州立大学）；Sichuan University（四川大学）；Southwest Jiaotong University（西南交通大学）；Central South University（中南大学）
人类的持续学习（CL）能力与稳定性与可塑性困境密切相关，该困境描述了人类如何实现持续学习能力和对学习信息的保存。CL的概念自诞生以来一直存在于人工智能（AI）中。本文提出了一个全面的审查CL。与以往的研究主要关注合作学习中的灾难性遗忘现象不同，本文基于稳定性与可塑性机制，从更宏观的角度对合作学习进行了研究。类似于生物学上的对应物，“智能”人工智能智能体应该i）记住先前学习的信息（信息回顾）; ii）不断推断新的信息（信息展望）; iii）传递有用的信息（信息传递），以实现高水平的CL。根据分类法，介绍了评价指标、算法、应用以及一些尚待解决的问题。我们的主要贡献包括：i）从人工通用智能的层面重新审视CL; ii）对CL主题进行详细而广泛的概述; iii）提出一些关于CL潜在发展的新想法。
2021-11-23 cs.AI cs.LG cs.NE
An Inclusive and Lightweight Approach to Federated Continual Learning for Cultural Heritage
Information Technologies Institute, Centre for Research and Technology Hellas（希腊研究与技术中心信息技术研究所）；School of Electronic Engineering and Computer Science, Queen Mary University of London（伦敦大学玛丽女王学院电子工程与计算机科学学院）
针对文化遗产数据分布受限且时序演变的问题，提出轻量级联邦持续学习策略FedCurv-DR，经WikiArt数据集评估可减轻遗忘，平衡性能、公平性与能效。
2026-08-21 cs.AI cs.CV cs.LG
TiC-CLIP: Continual Training of CLIP Models
Apple（苹果公司）；Carnegie Mellon University（卡内基梅隆大学）
该研究提出了首批网络规模的时间持续学习基准TiC-DataComp等，用于训练视觉-语言模型，并发现基于重演的持续训练方法可将计算量减少2.5倍。
2024-03-21 cs.CL cs.CV cs.LG
Continual Learning for Generative Retrieval over Dynamic Corpora
本文针对动态语料库下生成式检索的持续学习问题，提出CLEVER模型，通过增量乘积量化和记忆增强学习机制实现新文档的低成本索引与无遗忘记忆，实验验证了其有效性和效率。
2025-09-27 cs.IR
AgriLens: Semantic Retrieval in Agricultural Texts Using Topic Modeling and Language Models
3 Dept. of Computer Science \& Applications, Sharda University, Greater Noida, Uttar Pradesh, India；4 The Chinese University of Hong Kong, Hong Kong SAR, China
AgriLens通过主题建模和语言模型实现农业文本的可解释语义检索，提供零样本主题标注和高效检索能力。
2026-01-13 cs.IR cs.LG
CREAM: Continual Retrieval on Dynamic Streaming Corpora with Adaptive Soft Memory
Korea University（韩国大学）；Yonsei University（延世大学）
CREAM通过自监督框架实现动态数据流中的持续检索，利用自适应软记忆提升对未知主题的适应性和检索准确性。
2026-01-10 cs.AI cs.IR
RAG without Forgetting: Continual Query-Infused Key Memory
Emory University（埃默里大学）；Virginia Tech（弗吉尼亚理工大学）
ERM通过正确性门控反馈实现持续检索改进，无需训练，将查询扩展转化为稳定索引，提升多领域检索与生成性能。
2026-02-05 cs.IR
Enhanced document retrieval with topic embeddings
针对RAG应用中检索机制准确性瓶颈及多相关主题文档检索性能不佳问题，提出融合文档主题信息的文本向量化新方法，在RAG场景下评估该方法并讨论相关的RAG系统评估挑战。
2024-08-19 cs.IR
Interpreting Dense Retrieval as Mixture of Topics
稠密检索（DR）在第一阶段的检索中达到了最先进的结果，但对其成功的机制知之甚少。因此，在这项工作中，我们最近提出的DR模型进行解释研究。具体来说，我们首先离散化文档和查询编码器输出的嵌入。基于离散表示，我们分析了输入标记的属性。定性和定量实验都是在公共测试集上进行的。结果表明，DR模型注意不同方面的输入和提取各种高层次的主题表示。因此，我们可以将DR模型学习的表示视为高级主题的混合。
2021-11-27 cs.IR
Enhancing Retrieval-Augmented Generation with Topic-Enriched Embeddings: A Hybrid Approach Integrating Traditional NLP Techniques
National University of Tierra del Fuego（泰德菲国立大学）
本文提出一种整合传统NLP技术的混合方法，通过主题增强嵌入提升检索增强生成系统的检索精度和语义聚类效果。
2025-12-31 cs.AI cs.IR
Topic Map: An Ontology Framework for Information Retrieval
组织信息的基本分类技术是叙词表、分类法和分面分类法。主题地图是一个相对较新的进入这个信息空间。主题地图标准描述了如何使用XML语法来表示抽象概念和现实世界资源之间的复杂关系。本文探讨了主题地图在信息检索中的内容管理、索引、知识表示、约束规范和查询语言等方面如何与传统技术相结合，以及它的优缺点。主题图的构造用XTM中实现的用例来说明
2010-03-18 cs.DL cs.IR
CorpusBrain++: A Continual Generative Pre-Training Framework for Knowledge-Intensive Language Tasks
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；University of Amsterdam（阿姆斯特丹大学）
本文针对知识密集型语言任务中动态文档更新的问题，提出持续生成式预训练框架 CorpusBrain++，并构建 KILT++ 基准，有效缓解灾难性遗忘，显著提升动态检索性能。
2024-02-26 cs.CL cs.IR
Enhancing Knowledge Retrieval with Topic Modeling for Knowledge-Grounded Dialogue
本文提出在知识库上引入主题建模以增强神经检索，并结合 ChatGPT 利用改进后的检索结果提升知识 grounded 对话的回复生成，实验证明检索与生成性能均获提升。
2024-05-07 cs.IR
Hybrid XML Retrieval: Combining Information Retrieval and a Native XML Database
本文探讨了三种方法对XML检索的影响：使用Zettair，一个全文信息检索系统;使用eXist，一个本地XML数据库;并使用一个混合系统，从Zettair的完整文章的答案，并使用eXist从这些文章中提取元素。对于纯内容主题，我们对INEX 2003相关性评估进行了初步分析，以确定高度相关的文档组件的类型。进一步的分析确定了相关性评估的两个补充子案例（“一般”和“具体”）和两类专题（“广义”和“狭义”）。我们开发了一种新的检索模块，对于一个内容唯一的主题，利用信息从一个原生XML数据库的答案列表，并动态地确定优选的检索单元，我们称之为“一致的检索元素”。我们的实验结果表明，-当三个系统中的每一个被评估对不同的检索方案（如不同的情况下的相关性评估，不同的主题类别和不同的选择的评价指标）-的XML检索系统表现出不同的行为和最佳性能可以达到不同的值的检索参数。在INEX 2003年的相关性评估的情况下，只有内容的主题，我们新开发的混合XML检索系统是更有效的比Zettair或eXist，并产生一个强大的和非常有效的XML检索。
2005-07-28 cs.IR
Topic-Grained Text Representation-based Model for Document Retrieval
National University of Defense Technology（国防科技大学）
文档检索使用户能够准确、快速地找到所需的文档。为了满足检索效率的要求，流行的深度神经方法采用基于表示的匹配范式，通过离线预存储文档表示来节省在线匹配时间。然而，上面的范例消耗了大量的本地存储空间，特别是当将文档存储为单词粒度的表示时。为了解决这个问题，我们提出了TGTR，一个主题粒度的文本表示为基础的文档检索模型。TGTR采用基于表示的匹配模式，离线存储文档表示以保证检索效率，而采用新颖的主题粒度表示而不是传统的词粒度表示，大大降低了存储需求。实验结果表明，与词粒度基线相比，TGTR在检索准确率方面始终与TREC CAR和MS MARCO竞争，但它所需的存储空间不到它们所需的1/10。此外，TGTR在检索精度方面压倒性地超过了全球粒度基线。
2022-07-11 cs.CL cs.IR
A Markov Random Field Topic Space Model for Document Retrieval
本文提出了一种新的智能文档检索的统计方法。它试图提供一个更结构化和可扩展的数学方法，在流行的潜在语义分析（LSA）的方法来文档索引的术语泛化。一个马尔可夫随机场（MRF），捕获的条款和文件之间的关系作为随机变量之间的概率依赖假设。从那里，它使用MRF-Gibbs等价推导出联合概率以及文档变量的局部概率。提出了一种参数学习方法，该方法利用秩约简和奇异值分解，将文档-术语关系的维度降低到潜在主题空间的维度。实验结果证实了这种方法的能力，有效地和高效地从大量的数据集检索文档。
2011-11-28 cs.IR
Enhancing Health Information Retrieval with RAG by Prioritizing Topical Relevance and Factual Accuracy
本文提出一种基于RAG的三阶段健康信息检索模型，利用LLM生成GenText，同时评估文档的主题相关性与事实准确性，实验证明其能有效缓解健康错误信息问题。
2025-02-07 cs.IR
Intelligent Topic Selection for Low-Cost Information Retrieval Evaluation: A New Perspective on Deep vs. Shallow Judging
虽然测试集合为基于Cranfield的信息检索（IR）系统的评估提供了基石，但依靠传统的池化技术来构建当今海量文档集合规模的测试集合已变得实际上不可行。在本文中，我们提出了一种新的智能主题选择方法，减少了可靠的IR评估所需的搜索主题的数量。为了严格评估我们的方法，我们整合了以前关于智能主题选择和深度与浅层判断的不同研究。虽然之前关于智能主题选择的工作从未针对浅判断基线进行过评估，但之前关于深与浅判断的工作在很大程度上主张浅判断，但假设随机主题选择。我们认为，任何主题选择方法进行评估，最终必须问它是否实际上是有用的选择主题，或者应该简单地执行肤浅的判断在许多主题？在寻求一个严格的答案，这个过度的问题，我们进行了一系列的相关因素进行了全面的调查，以前从未一起研究1）主题选择方法2）主题熟悉度对人类判断速度的影响和3）不同的主题生成过程如何影响（i）预算利用率和（ii）由此产生的判断质量。在NIST TREC Robust 2003和Robust 2004测试集上的实验表明，该方法不仅可以用较少的主题对IR系统进行可靠的评估，而且1）在智能选择主题的情况下，深度判断在评估可靠性方面往往比浅层判断更具成本效益; 2）主题熟悉度和主题生成成本对评估成本与可靠性的权衡有很大影响。我们的研究结果挑战了传统观念，表明当主题被明智地选择时，深度判断往往比肤浅判断更可取。
2017-09-19 cs.IR
MCompassRAG: Topic Metadata as a Semantic Compass for Paragraph-Level Retrieval
University of British Columbia（不列颠哥伦比亚大学）；University of Salerno（萨莱诺大学）；ServiceNow Research（ServiceNow研究院）
提出MCompassRAG框架，通过主题元数据增强段落表示，利用LLM蒸馏训练轻量检索器，实现主题感知检索，在六个基准上平均信息效率提升8.24%，延迟降低5倍以上。
2026-06-18 cs.CL cs.IR
AT-RAG: An Adaptive RAG Model Enhancing Query Efficiency with Topic Filtering and Iterative Reasoning
Munich Reinsurance Co-Canada（慕尼黑再保险公司加拿大分公司）
AT-RAG 通过 BERTopic 主题过滤与迭代推理提升多跳问答的检索效率与答案质量，在通用及医学问答中均显著优于现有方法。
2024-10-16 cs.CL cs.IR cs.LG
Doc2Query++: Topic-Coverage based Document Expansion and its Application to Dense Retrieval via Dual-Index Fusion
提出Doc2Query++框架，通过无监督主题建模和混合关键词选择结构化LLM查询生成，并采用双索引融合策略隔离噪声，显著提升稀疏与稠密检索性能。
2025-10-13 cs.IR
DS@GT at LongEval: Evaluating Temporal Performance in Web Search Systems and Topics with Two-Stage Retrieval
DS@GT团队在CLEF 2025 LongEval中，基于Qwant数据集采用查询扩展与文档重排序的两阶段稀疏检索系统，评估并缓解Web内容演变导致的IR模型性能下降问题，最佳系统平均NDCG@10达0.296。
2025-07-11 cs.IR
