语言大模型 / LLM

RUTA: Principled Visual Token Allocation via Rate-Utility Optimization

RUTA：基于率-效用优化的原则性视觉令牌分配方法

Jian Zou, Xiaoyu Xu, Zhihua Wang, Yilin Wang, Balu Adsumilli, Kede Ma

机构 * City University of Hong Kong（香港城市大学） ； Google Inc.（谷歌公司） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 针对视觉语言模型因长视觉令牌序列导致的LLM侧计算和内存成本过高问题，提出RUTA方法，仅用2.0%、4.2%的视觉令牌，分别在LLaVA-NeXT-7B、Qwen3-VL-8B上保留88.2%、94.4%的任务性能。

Formal Verification of an Out-of-Order Multiprocessor against an In-Order Weak-Memory ISA

针对顺序弱内存ISA的乱序多处理器形式验证

Janggun Lee, Jeehoon Kang

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究针对顺序弱内存ISA的乱序多处理器验证问题，核心方法是设计核心规范并分两步证明，主要贡献是首次实现此类形式验证，借助核心规范简化证明，且利用LLM代理自动编写证明。

From Blind Search to Memory-Aware Evolution: Efficient DBMS Tuning via Collaborative Diagnosis and Utility-Aware Retrieval

从盲目搜索到内存感知进化：通过协作诊断和效用感知检索实现高效数据库管理系统调优

Zhaoyan Hong, Yishen Sun, Xinyi Zhang, Zhentao Han, Jinhao Dong, Wei Lu, Kai Xu, Liu Tang, Qi Liu, Xiaoyong Du

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 针对多组件DBMS调优难题，EvoTune框架通过协作诊断定位高影响子空间，引入效用感知检索策略，将调优反馈组织成层次化内存，无需LLM微调，实验证明其性能优于现有基线，能快速提升查询性能。

General Non-Clairvoyant KV-Cache Scheduling via Regime-Aware Routing

通过状态感知路由实现通用的非先知式键值缓存调度

Yiding Feng, Siyu Liu, Zonghan Yang, Yuhao Zhang

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究硬KV缓存内存预算下批量LLM推理的非先知式调度，提出基于状态感知路由框架的常数竞争算法，能处理任意提示和响应长度，对完工时间和总完成时间有常数竞争保证。

Seeing and Reflecting: Multimodal Memory-Enhanced Agent Collaboration for Recommendation

视觉与反思：用于推荐的多模态记忆增强智能体协作

Hao Cong, Huizu Lin, Zihan Wang, Chengkai Huang, Quan Z. Sheng, Lina Yao

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 针对基于LLM的推荐系统局限，提出MMEACR框架，采用双轨记忆架构，通过属性引导机制更新记忆，构建多模态嵌入记忆，经加权倒数排名融合两轨道，实验证明其在多领域表现出色，尤其视觉推荐场景有显著提升。

ConCovUp: Effective Agent-Based Test Driver Generation for Concurrency Testing

ConCovUp：面向并发测试的有效代理基于测试驱动生成

Yuandao Cai, Shuhao Fu, Wensheng Tang, Cheng Wen, Shengchao Qin, Charles Zhang

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出ConCovUp框架，结合LLM与程序分析，通过静态分析提取共享内存访问及调用上下文，利用LLM驱动的逆向追踪方法生成有效并发测试，提升SMAP覆盖率。

Illusion-Aware Visual Preprocessing and Anti-Illusion Prompting for Classic Illusion Understanding in Vision-Language Models

基于 illusion 意识的视觉预处理与反 illusion 提示的经典 illusion 理解在视觉-语言模型中的应用

Junli Zha, Jiahui Wang, Xinkai Lu, Jinbo Wang

机构 * SF Technology Co., Ltd.（SF技术有限公司） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；prompting(title)

AI总结 本文提出无需训练的框架，通过图像预处理、反 illusion 提示工程和多票集成策略，解决视觉-语言模型对视觉错觉的感知与记忆冲突，实现90.48%和98.41%的准确率。

Comments Accepted at CVPR 2026 Workshop on 5th DataCV Challenge

FlashRT: Towards Computationally and Memory Efficient Red-Teaming for Prompt Injection and Knowledge Corruption

FlashRT: 向计算和内存高效方向发展用于提示注入和知识腐败的红队测试

Yanting Wang, Chenlong Yin, Ying Chen, Jinyuan Jia

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出FlashRT框架，通过提升计算和内存效率，优化长上下文LLM的提示注入和知识腐败攻击，实现2-7倍的加速和2-4倍的内存节省，为系统评估长上下文LLM的安全性提供工具。

Comments The code is available at https://github.com/Wang-Yanting/FlashRT

SAGE: Selective Attention-Guided Extraction for Token-Efficient Document Indexing

SAGE：基于选择性注意力的令牌高效文档索引提取

Xinzhi Wang, Peter Baile Chen, Gerardo Vitagliano, Matthew Russo, Jun Chen, Michael Cafarella, Samuel Madden, Chunwei Liu

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出SAGE方法，通过轻量本地LLM进行单次预填充，将语言模型注意力信号转化为查询特定的相关热图，从而在可控粒度下选择高相关单元，减少上下文并提升问答性能。

Comments 12 pages, 10 figures

Search-Based Multi-Trajectory Refinement for Safe C-to-Rust Translation with Large Language Models

基于搜索的多轨迹优化用于大型语言模型驱动的安全C到Rust转换

HoHyun Sim, Hyeonjoong Cho, Yeonghyeon Go, Sadegh AlMahdi Kazemi Zarkouei, Zhoulai Fu, Ali Shokri, Binoy Ravindran

专题命中 长上下文与记忆 ：large language model(title)；language model(title)；LLM(abstract)

AI总结 本文提出LAC2R方法，利用MCTS系统探索多轨迹优化，提升C到Rust转换的安全性和准确性，实验表明其在大规模和小规模基准测试中均表现优异。

LAAF: Logic-layer Automated Attack Framework A Systematic Red-Teaming Methodology for LPCI Vulnerabilities in Agentic Large Language Model Systems

LAAF：逻辑层自动攻击框架：一种针对代理大语言模型系统中LPCI漏洞的系统性红队方法

Hammad Atta, Ken Huang, Kyriakos Rock Lambros, Yasir Mehmood, Zeeshan Baig, Mohamed Abdur Rahman, Manish Bhatt, M. Aziz Ul Haq, Muhammad Aatif, Nadeem Shahzad, Kamal Noor, Vineeth Sai Narajala, Hazem Ali, Jamel Abed

专题命中 长上下文与记忆 ：large language model(title)；language model(title)；LLM(abstract)

AI总结 LAAF是首个结合特定技术分类和分阶段种子升级的自动化红队框架，通过49种技术分类生成大量独特负载，并通过持久化阶段突破器实现分阶段负载变异，有效提升阶段突破效率。

ReFusion: A Diffusion Large Language Model with Parallel Autoregressive Decoding

ReFusion：一种具有并行自回归解码的扩散大语言模型

Jia-Nan Li, Jian Guan, Wei Wu, Chongxuan Li

专题命中 长上下文与记忆 ：large language model(title)；language model(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 ReFusion通过整合序列重组到因果注意框架中，实现并行解码和高效生成，显著提升性能和速度，缩小与传统自回归模型的差距。

Eagle 2.5: Boosting Long-Context Post-Training for Frontier Vision-Language Models

Guo Chen, Zhiqi Li, Shihao Wang, Jindong Jiang, Yicheng Liu, Lidong Lu, De-An Huang, Wonmin Byeon, Matthieu Le, Tuomas Rintamaki, Tyler Poon, Max Ehrlich, Tuomas Rintamaki, Tyler Poon, Tong Lu, Limin Wang, Bryan Catanzaro, Jan Kautz, Andrew Tao, Zhiding Yu, Guilin Liu

专题命中 长上下文与记忆 ：language model(title,abstract)；post-training(title)

Agentao: A Governed Local-First Runtime for Tool-Using LLM Agents

Agentao：面向使用工具的大语言模型智能体的受管控本地优先运行时

Bo Jin, Qiang Jiao, Xin Tong

机构 * The Third Research Institute of the Ministry of Public Security（公安部第三研究所） ； Bureau of Science and Technology Information Ministry of Public Security of the People’s Republic of China（中华人民共和国公安部科技信息局） ； School of Information and Cyber Security People’s Public Security University of China（中国人民公安大学信息与网络安全学院） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 针对工具使用型LLM智能体的安全管控需求，提出Agentao运行时，通过分层架构分离动作提案与授权执行，将权限等构建为显式抽象，提升智能体可管控性与可检查性。

Comments The code is publicly available at Github. We are conducting testing and analysis of this framework, and will provide experimental results and examples in future versions

Interpreting Language Model Hidden States at Scale

大规模语言模型隐藏状态的解释

Jordan Pettyjohn, Mansi Sakarvadia, Nathaniel Hudson, Daniel McKenzie, Kyle Chard, Ian Foster

专题命中 长上下文与记忆 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；分类 cs.AI

AI总结 研究人员提出OmniLens，一种可适配任意模型宽度激活的Lens方法，通过低秩翻译器和Subset-KL技术降低成本，在LLaMA-3.3-70B上构建482个Lens集成，以更低成本复现提示注入检测等案例研究的关键结果。

RIS-Kernel: A Model-Agnostic Architecture for Long-Context LLM Inference via Sparse Attention

RIS-Kernel：一种通过稀疏注意力实现长上下文语言模型推理的模型无关架构

Anderson R. Santos

机构 * Federal University of Uberlândia (UFU)（乌贝兰迪亚联邦大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对大语言模型全自注意力复杂度高限制长上下文分析的问题，提出RIS-Kernel模型无关架构，通过稀疏随机几何降低复杂度，经实验验证其在不同设置下的有效性及在普通CPU服务器上实现长上下文推理的可行性。

Comments 20 pages, 9 figures, 5 tables

BatchDAG: LLM-Planned Execution Graphs for Scalable Ad-Hoc Analysis Over Enterprise Data

BatchDAG：用于企业数据上可扩展即席分析的大语言模型规划执行图

Anupreet Walia

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对企业数据跨实体分析问题，提出BatchDAG系统，大语言模型生成操作DAG，经确定性引擎评估。通过实体感知批处理优化，减少大语言模型调用。实验显示其质量高、溯源性好，能高效处理查询，是通用编排层替代手工工作流程。

Comments 9 pages, 2 figures, 9 tables

Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory

保留还是合并？语言智能体记忆中依赖预算的算子选择

Qingcan Kang, Mingyang Liu, Shixiong Kai, Kaichao Liang, Zhentao Tang, Yuqi Cui, Tao Zhong, Mingxuan Yuan

专题命中 长上下文与记忆 ：language agent(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究语言智能体记忆中预算依赖的算子选择问题，核心方法是将算子效用分解，用离线抽象安全机制实现，主要贡献是通过实验揭示在不同预算下保留和合并策略的适用情况及算子效果差异。

LLMpedia: A Transparent Framework to Materialize an LLM's Encyclopedic Knowledge at Scale

LLMpedia：一个大规模实现LLM百科全书知识的透明框架

Muhammed Saeed, Simon Razniewski

机构 * ScaDS.AI Dresden/Leipzig & TU Dresden, Germany（ScaDS.AI 德累斯顿/莱比锡及德累斯顿技术大学，德国） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；language model(abstract)；分类 cs.CL

AI总结 提出LLMpedia框架，从三个模型家族中提取约130万篇百科全书文章，通过维基百科和网络证据审计，发现可验证真实率远低于MMLU基准，揭示了模型知识的事实性差距。

Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search

通过微调语言模型和引导树搜索自动证明香农型熵不等式

Shing Yin Wong, Shaocheng Liu, Linqi Song, Amin Gohari, Cheuk Ting Li

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；large language model(abstract)；prompting(abstract)；分类 cs.LG

AI总结 本文通过微调小规模语言模型并结合引导束搜索，自动化证明香农型熵不等式，在含10-15个变量的测试集上达到85%的证明成功率。

State commitment learning: training language models to distinguish computation from memory

状态承诺学习：训练语言模型区分计算与记忆

Fei Ding, Yongkang Zhang, Runhao Liu, Yuhao Liao, Zijian Zeng, Huiming Yang

机构 * Alibaba Group（阿里巴巴集团） ； Tsinghua University（清华大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；SFT(abstract,abstract_cn)；分类 cs.LG

AI总结 提出状态承诺学习目标及反事实擦除强化学习（CERL）方法，通过训练模型区分应保留的持久状态与可丢弃的临时计算，减少推理对隐藏思维的依赖，在数学、长链逻辑、科学问答和多轮工具使用任务中保持准确率的同时降低依赖。

Comments 17 pages

EchoPilot: Training-Free Ultrasound Video Segmentation via Scale-Space Semantic Prompting and Reliability-Gated Memory

EchoPilot: 通过尺度空间语义提示和可靠性门控记忆实现无训练超声视频分割

Ruiqiang Xiao, Zhaohu Xing, Yijun Yang, Zhenyan Han, Weiming Wang, Kaishun Wu, Lei Zhu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Third Affiliated Hospital of Sun Yat-Sen University（中山大学第三附属医院） ； Hong Kong Metropolitan University（香港 Metropolitan 大学） 纠错

专题命中 长上下文与记忆 ：prompting(title,abstract)；language model(abstract)；foundation model(abstract)；分类 cs.AI

AI总结 提出EchoPilot，一种无需训练、仅需单点点击和类别名称的超声视频分割框架，通过尺度空间语义提示解决初始化歧义，并引入可靠性门控记忆减少传播漂移，在多个数据集上达到最优性能。

Comments Early accepted to MICCAI 2026. Project page: https://keeplearning-again.github.io/EchoPilot/

FoodCHA: Multi-Modal LLM Agent for Fine-Grained Food Analysis

FoodCHA：多模态LLM代理用于细粒度食物分析

Woojin Lee, Pranav Mekkoth, Ye Tian, Onat Gungor, Tajana Rosing

机构 * Department of Computer Science and Engineering（计算机科学与工程系） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；language model(abstract)；分类 cs.AI

AI总结 本文提出FoodCHA，一种多模态代理框架，通过分层决策过程提升食物识别的细粒度属性区分能力，实验显示其在类别和子类识别精度上优于现有模型。

SRTJ: Self-Evolving Rule-Driven Training-Free LLM Jailbreaking

SRTJ：自演化规则驱动的无训练LLM jailbreaking

Jindong Li, Ying Liu, Yali Fu, Jinjing Zhu, Leyao Wang, Menglin Yang, Rex Ying

机构 * HKUST (GZ)（香港科技大学（广州）） ； Jilin University（吉林大学） ； Yale University（耶鲁大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.CL

AI总结 SRTJ通过交互反馈系统发现、组合和优化攻击策略，无需更新模型参数，有效平衡探索与利用，提升攻击鲁棒性和泛化能力。

Escaping the Context Bottleneck: Active Context Curation for LLM Agents via Reinforcement Learning

突破上下文瓶颈：通过强化学习实现LLM代理的主动上下文精修

Xiaozhe Li, Tianyi Lyu, Yizhao Yang, Liang Shan, Siyi Yang, Ligao Zhang, Zhuoyi Huang, Qingwen Liu, Yang Li

机构 * Tongji University（同济大学） ； Stanford University（斯坦福大学） ； CurrentsAI Research（CurrentsAI 研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出一种解耦上下文管理和任务执行的框架，通过强化学习训练轻量级策略模型ContextCurator，有效减少工作内存中的信息熵，提升LLM在长周期任务中的表现。

PersonalAI: A Systematic Comparison of Knowledge Graph Storage and Retrieval Approaches for Personalized LLM agents

PersonalAI：个性化大语言模型中知识图谱存储与检索方法的系统比较

Mikhail Menschikov, Dmitry Evseev, Victoria Dochkina, Ruslan Kostoev, Ilia Perepechkin, Petr Anokhin, Nikita Semenov, Evgeny Burnaev

机构 * Skoltech（斯科尔科沃科学技术学院） ； Public Joint Stock Company “Sberbank of Russia”（俄罗斯联邦储蓄银行） ； AIRI（人工智能研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出基于知识图谱的灵活外部记忆框架，通过自动构建和更新图谱提升个性化LLM代理的长期交互能力，通过多种检索机制验证了不同配置在不同任务中的最优性能。

Your LLM Agent Can Leak Your Data: Data Exfiltration via Backdoored Tool Use

你的LLM代理可能泄露你的数据：通过植入工具使用的数据外泄

Wuyang Zhang, Shichao Pei

机构 * University of Massachusetts Boston（马萨诸塞大学波士顿分校） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究揭示了通过植入工具使用的LLM代理进行数据外泄的风险，提出Back-Reveal攻击方法，展示多轮交互加剧信息泄露，强调需加强对抗外泄后门的防御。

Comments The 64th Annual Meeting of the Association for Computational Linguistics

HYVE: Hybrid Views for LLM Context Engineering over Machine Data

HYVE：用于机器数据上的LLM上下文工程的混合视图

Jian Tan, Fan Bu, Yuqing Gao, Dev Khanolkar, Jason Mackay, Boris Sobolev, Lei Jin, Li Zhang

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 HYVE通过预处理和后处理框架优化LLM处理大规模机器数据的能力，减少token使用并提升输出质量，尤其在图表生成和异常检测任务中表现突出。

Comments 22 pages, 6 figures

Scaling Teams or Scaling Time? Memory Enabled Lifelong Learning in LLM Multi-Agent Systems

团队规模还是时间规模？基于内存的持续学习在大语言模型多智能体系统中的应用

Shanglin Wu, Yuyang Luo, Yueqing Liang, Kaiwen Shi, Yanfang Ye, Ali Payani, Kai Shu

机构 * Emory University（埃默里大学） ； Illinois Institute of Technology（伊利诺伊理工学院） ； University of Notre Dame（圣母大学） ； Cisco Research（思科研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了大语言模型多智能体系统在团队规模和持续学习能力上的协同优化，提出LLMA-Mem框架，通过灵活内存拓扑提升长期性能并降低成本。

ByteRover: Agent-Native Memory Through LLM-Curated Hierarchical Context

ByteRover：通过LLM-curated分层上下文实现代理原生内存

Andy Nguyen, Danh Doan, Hoang Pham, Bao Ha, Dat Pham, Linh Nguyen, Hieu Nguyen, Thien Nguyen, Cuong Do, Phat Nguyen, Toan Nguyen

机构 * ByteRover 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ByteRover，一种代理原生内存架构，通过LLM-curated分层上下文实现知识的结构化存储与检索，实验显示其在LoCoMo和LongMemEval上表现优异，无需外部基础设施。

Comments 19 pages, 3 figures, 7 tables