RAG / 检索增强生成

CrossFormer: Cross-Segment Semantic Fusion for Document Segmentation

Tongke Ni, Yang Fan, Junru Zhou, Xiangping Wu, Qingcai Chen

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.CL

Comments 10 pages, 4 figures

Dewey Long Context Embedding Model: A Technical Report

Dun Zhang, Panxiang Zou, Yudong Zhou

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.IR

Comments 5 pages, 1 figure

BRIEF: Bridging Retrieval and Inference for Multi-hop Reasoning via Compression

Yuankai Li, Jia-Chen Gu, Di Wu, Kai-Wei Chang, Nanyun Peng

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.CL

Comments Accepted by NAACL 2025 Findings. Project page: https://jasonforjoy.github.io/BRIEF/

Decoding the Flow: CauseMotion for Emotional Causality Analysis in Long-form Conversations

Yuxuan Zhang, Yulong Li, Zichen Yu, Feilong Tang, Zhixiang Lu, Chong Li, Kang Dang, Jionglong Su

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.CL

Comments 7pages

ConTReGen: Context-driven Tree-structured Retrieval for Open-domain Long-form Text Generation

Kashob Kumar Roy, Pritom Saha Akash, Kevin Chen-Chuan Chang, Lucian Popa

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.IR

Comments Accepted at EMNLP'24 Findings

Less is More: Making Smaller Language Models Competent Subgraph Retrievers for Multi-hop KGQA

Wenyu Huang, Guancheng Zhou, Hongru Wang, Pavlos Vougiouklis, Mirella Lapata, Jeff Z. Pan

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.CL

Comments Accepted by EMNLP 2024 Findings

Enhanced document retrieval with topic embeddings

Kavsar Huseynova, Jafar Isbarov

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.IR

Comments Accepted to AICT 2024

Chain of Agents: Large Language Models Collaborating on Long-Context Tasks

Yusen Zhang, Ruoxi Sun, Yanfei Chen, Tomas Pfister, Rui Zhang, Sercan Ö. Arik

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.CL

Comments 19 pages, 6 figures

Analyzing Temporal Complex Events with Large Language Models? A Benchmark towards Temporal, Long Context Understanding

Zhihan Zhang, Yixin Cao, Chenchen Ye, Yunshan Ma, Lizi Liao, Tat-Seng Chua

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)；分类 cs.CL

Comments Accepted to ACL 2024

Requirements-Augmented Generation for Trustworthy Acceptance Testing of LLM-Based Software

面向基于大语言模型的软件的可信验收测试的需求增强生成技术

Fanyu Wang, Chetan Arora, Zhenping Xie, Yonghui Liu, Kla Tantithamthavorn, Aldeida Aleti, Siwei Jiang

专题命中 长文档RAG ：RAG(abstract,abstract_cn)

AI总结 该研究针对基于大语言模型的软件的验收测试缺口，提出需求增强生成技术与置信度校准级联判定方法，经工业案例验证可提升预言机质量、准确率与成本效率，具备工业可行性。

Comments Accepted at ASE2026

RAGMesh with FaME-G2E: Long-Form Text-Driven 3D Face Generation and Editing

结合FaME-G2E的RAGMesh：长文本驱动的3D人脸生成与编辑

Hao Li, Ju Dai, Feng Zhou, Mengting Shi, Haofei Wang, Zhen Song, Wei Zhou, Lei Li, Junjun Pan

机构 * Beihang University（北京航空航天大学） ； Pengcheng Laboratory（鹏城实验室） ； Shanxi University of Finance and Economics（山西财经大学） ； North China University of Technology（北方工业大学） ； Cardiff University（卡迪夫大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 长文档RAG ：RAG(abstract,abstract_cn)

AI总结 该研究构建了含文本-网格等标注的FaME-G2E数据集，提出RAGMesh框架，含MSRF模块与AdaRAGS约束，在3D人脸生成编辑任务上性能优于现有方法。

Prompt-Driven Simulation with Feature Perturbation for Cross-Domain Few-Shot Object Detection

面向跨域小样本目标检测的、结合特征扰动的提示驱动模拟方法

Linhai Zhuo, Junxi Cai, Tianwen Qian, Qingping Zheng, Yang Liu

机构 * Fuzhou University（福州大学） ； Xiamen University（厦门大学） 纠错

专题命中 长文档RAG ：RAG(abstract,abstract_cn)

AI总结 本文提出PSP-FSOD框架，结合提示驱动域模拟与特征扰动正则化，缓解跨域小样本目标检测的域偏移与标注数据不足问题，在多个基准上实现性能提升。

HYPIC: Accelerating Hybrid-Attention LLM Serving with Position-Independent Caching

HYPIC: 利用位置无关缓存加速混合注意力LLM服务

Yifei Liu, Juntong Wu, Yang Liu, Junhao Hu, Minghao Li, Xiaoxu Chen, Weihang Chen

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract_cn)

AI总结 提出Hypic系统，通过段累积转移算子和边界重计算，实现混合注意力LLM的位置无关缓存，显著降低首令牌延迟并提升吞吐量。

Narrative World Model: Narratology-Grounded Writer Memory for Long-Form Fiction

叙事世界模型：基于叙事学的长篇小说作者记忆

Mohammad Saifullah, Thomas Kornmaier, Taaha Kazi, Vasu Sharma, Aditya Sanjiv Kanade, Aanand Kumar Yadav

机构 * PocketFM（口袋FM） 纠错

专题命中 长文档RAG ：hybrid retrieval(abstract)；分类 cs.IR、cs.CL、cs.AI

AI总结 研究针对长篇小说作者记忆问题，提出叙事世界模型（NWM），结合叙事学时间状态图与查询条件混合检索，在多跳叙事学问答上显著优于基线，优势源于其独特表征，非提取方式。

Comments 23 pages, 4 figures; 9-page main text plus appendix. Preprint

Agent Security Meets Regulatory Reality -- A Practitioner Systematization of Autonomous-Agent Threats and Controls in Regulated Financial Systems

代理安全遇上监管现实——受监管金融系统中自主代理威胁与控制的从业者系统化

Krishna Mohan, Guda Nagavenkata Srinivasa

专题命中 长文档RAG ：RAG(abstract,abstract_cn)

AI总结 本文基于生产经验，将六类代理威胁映射到美欧金融监管义务，提出四种架构模式将手动流程自动化处理约80%案例，并报告三项负面结果。

Simplified Sparse Attention via Gist Tokens

遗忘，然后回忆：通过概要稀疏注意力实现可学习的压缩与选择性展开

Yuzhen Mao, Michael Y. Li, Emily B. Fox

机构 * Stanford University（斯坦福大学） 纠错

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract_cn)

AI总结 本文提出一种通过概要稀疏注意力实现可学习的压缩与选择性展开机制，结合紧凑的全局表示与目标访问细粒度证据，提升长上下文大语言模型的效率与性能。

A Zero-Shot Multi-Agent Framework for Human-Building Interaction via Programmatic Reasoning

通过程序化推理实现人楼交互的零样本多智能体框架

Yuqi Wang, Gulai Shen, Ali Mehmani

专题命中 长文档RAG ：RAG(abstract,abstract_cn)

AI总结 提出一种分层多智能体框架，利用语义路由和程序化推理解耦自然语言理解与建筑分析，通过“门卫”机制分解任务并生成可执行Python脚本，在200多栋商业建筑数据上验证了准确性和上下文响应能力。

LLM-Assisted Authentication and Fraud Detection

基于大语言模型的认证与欺诈检测

Emunah S-S. Chan, Aldar C-F. Chan

专题命中 长文档RAG ：RAG(abstract,abstract_cn)

AI总结 本文提出基于大语言模型的认证机制和欺诈检测流水线，通过语义判断和文档分段提升认证准确率，减少欺诈误报，验证了大语言模型在安全流程中的应用价值。

Comments 20 pages, 7 figures, 2 tables

MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens

MSA：内存稀疏注意力用于高效端到端内存模型扩展至100M标记

Yu Chen, Runkai Chen, Sheng Yi, Xinda Zhao, Xiaohong Li, Jianjin Zhang, Jun Sun, Chuanrui Hu, Yunyun Han, Lidong Bing, Yafeng Deng, Tianqiao Chen

机构 * Evermind ； Shanda Group（盛大集团） ； Peking University（北京大学） 纠错

专题命中 长文档RAG ：RAG(abstract)；分类 cs.IR、cs.CL、cs.AI

AI总结 本文提出MSA，一种高效的端到端可训练内存模型框架，通过可扩展稀疏注意力和文档级RoPE实现线性复杂度，支持从16K到100M标记的扩展，同时保持稳定性，且在100M标记推理中实现2xA800 GPU的高效处理。

Prompt Compression in the Wild: Measuring Latency, Rate Adherence, and Quality for Faster LLM Inference

野火中的提示压缩：测量延迟、速率遵守和质量以加快大语言模型推理

Cornelius Kummer, Lena Jurkschat, Michael Färber, Sahar Vahdati

机构 * ScaDS.AI Dresden/Leipzig, CIDS, TU Dresden（ScaDS.AI 德累斯顿/莱比锡，CIDS，德累斯顿工业大学） 纠错

专题命中 长文档RAG ：RAG(abstract)；分类 cs.IR、cs.CL、cs.AI

AI总结 本文研究了提示压缩在实际应用中的延迟、速率遵守和质量影响，通过大规模实验发现，当提示长度、压缩比和硬件容量匹配时，LLMLingua可实现18%的端到端加速，但超出此范围压缩步骤会抵消收益。

Comments Accepted at ECIR 2026 (Full Paper)

Graph-KV: Breaking Sequence via Injecting Structural Biases into Large Language Models

Graph-KV: 通过向大语言模型注入结构偏差打破序列

Haoyu Wang, Peihao Wang, Mufei Li, Shikun Liu, Siqi Miao, Zhangyang Wang, Pan Li

机构 * Georgia Institute of Technology（佐治亚理工学院） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)

AI总结 Graph-KV通过引入结构偏差打破序列限制，提升大语言模型在图结构任务中的表现。

MEPIC: Memory Efficient Position Independent Caching for LLM Serving

MEPIC：内存高效的无位置依赖缓存用于大语言模型服务

Qian Wang, Zahra Yousefijamarani, Morgan Lindsay Heisler, Rongzhi Gu, Bai Xiaolong, Shan Yizhou, Wei Zhang, Wang Lan, Ying Xiong, Yong Zhang, Zhenan Fan

机构 * Huawei Technologies Canada Co., Ltd.（华为技术加拿大有限公司） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)

AI总结 MEPIC通过内存高效的无位置依赖缓存技术，实现跨请求和批次的片段KV重用，显著减少HBM使用量，提升大语言模型服务性能。

Retro*: Optimizing LLMs for Reasoning-Intensive Document Retrieval

Junwei Lan, Jianlyu Chen, Zheng Liu, Chaofan Li, Siqi Bao, Defu Lian

机构 * University of Science and Technology of China（中国科学技术大学） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室） ； Hong Kong Polytechnic University（香港理工大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 长文档RAG ：RAG(abstract)；分类 cs.IR、cs.CL、cs.AI

Faux Polyglot: A Study on Information Disparity in Multilingual Large Language Models

Nikhil Sharma, Kenton Murray, Ziang Xiao

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Center for Speech and Language Processing（语言与语音研究中心） ； Human Language Technology Center for Excellence（语言技术卓越中心） 纠错

专题命中 长文档RAG ：RAG(abstract)；分类 cs.IR、cs.CL、cs.AI

Comments NAACL 2025

Fast State Restoration in LLM Serving with HCache

Shiwei Gao, Youmin Chen, Jiwu Shu

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；RAG(abstract)

Comments EuroSys 2025

Fine Tuning LLM for Enterprise: Practical Guidelines and Recommendations

Mathav Raj J, Kushala VM, Harikrishna Warrier, Yogesh Gupta

专题命中 长文档RAG ：retrieval augmented generation(abstract)；RAG(abstract)

Comments 17 pages, 12 tables, 3 figures

HMARS: A Hierarchical Multi-Agent Memory System for Long-Context Reasoning

HMARS：用于长上下文推理的分层多智能体记忆系统

Zeju Li, Ziyang Zheng, Yizhou Zhou, Qiang Xu

机构 * The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 长文档RAG ：retrieval-augmented generation(abstract)；分类 cs.IR、cs.AI

AI总结 提出HMARS分层多智能体记忆系统，通过子智能体、中层智能体和前沿模型的分层结构管理长上下文，在长文档和多轮记忆任务中优于检索、重排序、全上下文、基于图和智能体基线。

From Similarity to Structure: Training-free LLM Context Compression with Hybrid Graph Priors

从相似性到结构：基于混合图先验的训练自由LLM上下文压缩

Yitian Zhou, Chaoning Zhang, Jiaquan Zhang, Zhenzhen Huang, Jinyu Guo, Sung-Ho Bae, Lik-Hang Lee, Caiyan Qin, Yang Yang

机构 * School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院） ； School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院） ； Department of Computer Science and Engineering, Kyung Hee University（Kyung Hee大学计算机科学与工程系） ； Department of Industrial and Systems Engineering, The Hong Kong Polytechnic University（香港理工大学工业与系统工程系） ； School of Robotics and Advanced Manufacture, Harbin Institute of Technology, Shenzhen（哈尔滨工业大学深圳校区机器人与先进制造学院） 纠错

专题命中 长文档RAG ：dense retrieval(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种无需训练的上下文压缩框架，利用混合图先验选择句子，通过构建稀疏句子图、提取主题骨架并结合可解释评分进行冗余抑制，实验证明在长文档基准上表现更优。

TSUBASA: Improving Long-Horizon Personalization via Evolving Memory and Self-Learning with Context Distillation

TSUBASA：通过动态记忆演化和基于上下文蒸馏的自我学习提升长周期个性化

Xinliang Frederick Zhang, Lu Wang

专题命中 长文档RAG ：RAG(abstract)；分类 cs.CL、cs.AI

AI总结 TSUBASA通过动态记忆演化和基于上下文蒸馏的自我学习，提升个性化大语言模型的长周期任务能力，在Qwen-3模型家族上验证了其有效性，超越了依赖记忆写入的Mem0和Memory-R1系统。

Search-R2: Enhancing Search-Integrated Reasoning via Actor-Refiner Collaboration

Search-R2: 通过演员-细化协作提升搜索集成推理

Bowei He, Minda Hu, Zenan Xu, Hongru Wang, Licheng Zong, Yankai Chen, Chen Ma, Xue Liu, Pluto Zhou, Irwin King

机构 * The Chinese University of Hong Kong（香港中文大学） ； LLM Department, Tencent（腾讯语言模型部门） ； Mohamed bin Zayed University of Artificial Intelligence（马尔代夫人工智能大学） ； McGill University（麦吉尔大学） ； City University of Hong Kong（香港城市大学） ； The University of Edinburgh（爱丁堡大学） 纠错

专题命中 长文档RAG ：RAG(abstract)；分类 cs.CL、cs.AI

AI总结 Search-R2通过演员-细化协作框架提升搜索集成推理，通过针对性干预和混合奖励设计，在多种QA数据集上超越强基线，实现更优的推理准确性。