语言大模型 / LLM

Internalizing Meta-Experience into Memory for Guided Reinforcement Learning in Large Language Models

将元经验内化到记忆中以指导大语言模型的强化学习

Shiting Huang, Zecheng Li, Yu Zeng, Qingnan Ren, Zhen Fang, Qisheng Su, Kou Shi, Lin Chen, Zehui Chen, Feng Zhao

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 通过将元经验内化到记忆中，MEL提升了大语言模型的强化学习效果，实现了更有效的知识重用和推理能力增强。

ZeroTuning: Unlocking the Initial Token's Power to Enhance Large Language Models Without Training

ZeroTuning: 解锁初始标记的潜力以无需训练的方式提升大语言模型

Feijiang Han, Xiaodong Yu, Jianheng Tang, Delip Rao, Weihua Du, Lyle Ungar

机构 * University of Pennsylvania（宾夕法尼亚大学） ； AMD（AMD公司） ； Peking University（北京大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 长上下文与记忆 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 ZeroTuning通过仅调整初始标记的注意力实现无需训练的大语言模型性能提升，适用于多种任务和场景。

Comments ICLR 2026 Accepted Version: proofread, introduction rewritten, additional experiments and appendix material added

From Assistant to Double Agent: Formalizing and Benchmarking Attacks on OpenClaw for Personalized Local AI Agent

从助手到双代理：形式化和评估 OpenClaw 对个性化本地 AI 代理的攻击

Yuhang Wang, Feiming Xu, Zheng Lin, Guangyu He, Yuzhe Huang, Haichang Gao, Zhenxing Niu, Shiguo Lian, Zhaoxiang Liu

机构 * Xidian University（西安电子科技大学） ； Data Science & Artificial Intelligence Research Institute（数据科学与人工智能研究院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出个性化代理安全评估框架 PASB，用于评估 OpenClaw 在现实部署中的安全风险，揭示其在多个执行阶段的关键漏洞。

Comments 11 pages,2 figures

Rotary Positional Embeddings as Phase Modulation: Theoretical Bounds on the RoPE Base for Long-Context Transformers

旋转位置嵌入作为相位调制：长上下文Transformer的RoPE基础理论界限

Feilong Liu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文将RoPE重新解释为相位调制，推导出长上下文Transformer中RoPE基础的理论界限，揭示了位置一致性、精度和深度对模型性能的影响。

WAVE++: Capturing Within-Task Variance for Continual Relation Extraction with Adaptive Prompting

WAVE++: 通过自适应提示捕捉任务内方差以实现连续关系抽取

Bao-Ngoc Dao, Minh Le, Quang Nguyen, Luyen Ngo Dinh, Nam Le, Linh Ngo Van

机构 * Hanoi University of Science and Technology（河内科学技术大学） 纠错

专题命中 长上下文与记忆 ：prompting(title)；分类 cs.CL

AI总结 WAVE++通过自适应提示捕捉任务内方差，提升连续关系抽取的鲁棒性与准确性。

Comments Accepted in Neurocomputing, Elsevier

When to Memorize and When to Stop: Gated Recurrent Memory for Long-Context Reasoning

何时记忆何时停止：用于长上下文推理的门控循环记忆

Leheng Sheng, Yongtao Zhang, Wenchang Ma, Yaorui Shi, Ting Huang, Xiang Wang, An Zhang, Ke Shen, Tat-Seng Chua

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 GRU-Mem通过引入两个文本控制的门，实现了更稳定和高效的长上下文推理，显著提升了推理速度和性能。

Comments 26 pages

UMEM: Unified Memory Extraction and Management Framework for Generalizable Memory

UMEM: 通用记忆的统一记忆提取与管理框架

Yongshi Ye, Hui Jiang, Feihu Jiang, Tian Lan, Yichao Du, Biao Fu, Xiaodong Shi, Qianghuai Jia, Longyue Wang, Weihua Luo

机构 * Xiamen University（厦门大学） ； Alibaba International Digital Commerce（阿里巴巴国际数字商务） ； Tongyi Lab, Alibaba Group（阿里云实验室，阿里巴巴集团） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 UMEM通过联合优化大语言模型，实现记忆的提取与管理，提升记忆的泛化能力，实验显示在多轮交互任务中表现优于基线模型。

Building Production-Ready Probes For Gemini

为Gemini构建生产级探针

János Kramár, Joshua Engels, Zheng Wang, Bilal Chughtai, Rohin Shah, Neel Nanda, Arthur Conmy

机构 * Google（谷歌） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出新的探针架构以应对长上下文分布变化，并通过实验验证其在网络安全领域的有效性，同时展示了自动化AI安全研究的初步成果。

Comments v4 (another minor acknowledgements fix)

LUCID: Attention with Preconditioned Representations

LUCID：带有预条件表示的注意力

Sai Surya Duvvuri, Nirmal Patel, Nilesh Gupta, Inderjit S. Dhillon

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Google（谷歌公司） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.LG

AI总结 LUCID通过预条件表示改进注意力机制，提升长上下文检索任务性能，尤其在BABI Long和RULER任务中表现更优。

VERA: Identifying and Leveraging Visual Evidence Retrieval Heads in Long-Context Understanding

VERA：识别和利用长上下文理解中的视觉证据检索头

Rongcan Pei, Huan Li, Fang Guo, Qi Zhu

机构 * Tongji University（同济大学） ； Zhejiang University（浙江大学） ； Westlake University（西湖大学） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL

AI总结 VERA通过识别和利用视觉证据检索头，提升长上下文理解能力，显著提高开源VLMs的性能。

Comments 12 pages, 12 figures

Force Generative Imitation Learning: Bridging Position Trajectory and Force Commands through Control Technique

力生成模仿学习：通过控制技术弥合位置轨迹与力命令之间的鸿沟

Hiroshi Sato, Sho Sakaino, Toshiaki Tsuji

机构 * Graduate School of Systems and Information Engineering, University of Tsukuba（东京大学系统与信息工程研究生院） ； Graduate School of Science and Engineering, Saitama University（埼玉大学科学与工程研究生院） ； Department of Intelligent Interaction Technologies, Institute of Systems and Information Engineering, University of Tsukuba（东京大学系统与信息工程研究所智能交互技术系） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)

AI总结 本文提出一种力生成模型，通过无记忆反馈控制机制提升机器人在未见过位置轨迹下的力命令生成能力，以改善现实任务中的泛化性能。

Comments Accepted for IEEE Access