语言大模型 / LLM

GRPO with State Mutations: Improving LLM-Based Hardware Test Plan Generation

GRPO与状态突变：改进基于LLM的硬件测试计划生成

Dimple Vijay Kochar, Nathaniel Pinckney, Guan-Ting Liu, Chia-Tung Ho, Chenhui Deng, Haoxing Ren, Brucek Khailany

机构 * Electrical Engineering and Computer Science, Massachusetts Institute of Technology, Cambridge, MA（麻省理工学院电子工程与计算机科学系） ； NVIDIA Research, Austin, TX（NVIDIA研究部） ； NVIDIA Research, Taiwan（NVIDIA台湾研究部） ； NVIDIA Research, Santa Clara, CA（NVIDIA圣克拉拉研究部） 纠错

专题命中 后训练与偏好优化 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 GRPO-SMu通过改进LLM训练方法，显著提升硬件验证中测试计划生成的准确率和突变检测率。

Forward versus Backward: Comparing Reasoning Objectives in Direct Preference Optimization

正向与反向：在直接偏好优化中比较推理目标

Murtaza Nikzad, Raghuram Ramanujan

机构 * Department of Math and Computer Science（数学与计算机科学系） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过直接偏好优化比较正向与反向推理目标，发现正向训练提升准确性，反向训练降低误报率，两者互补提升模型推理可靠性。

Segmental Advantage Estimation: Enhancing PPO for Long-Context LLM Training

段落优势估计：增强PPO用于长上下文LLM训练

Xue Gong, Qi Yi, Ziyuan Nan, Guanhua Huang, Kejiao Li, Yuhao Jiang, Ruibin Xiong, Zenan Xu, Jiaming Guo, Shaohui Peng, Bo Zhou

机构 * LLM Department, Tencent（腾讯大语言模型部门） ； University of Chinese Academy of Sciences（中国科学院大学） ； Intelligent Software Research Center, Institute of Software, CAS（软件研究所智能软件研究中心） ； State Key Lab of Processors, Institute of Computing Technology, CAS（计算技术研究所处理器国家重点实验室） 纠错

专题命中 后训练与偏好优化 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 段落优势估计通过减少稀疏奖励环境中的偏差，提升PPO在长上下文LLM训练中的稳定性和效率

SPINAL -- Scaling-law and Preference Integration in Neural Alignment Layers

SPINAL -- 神经对齐层中的缩放律与偏好整合

Arion Das, Partha Pratim Saha, Amit Dhanda, Vinija Jain, Aman Chadha, Amitava Das

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；RLHF(abstract)；preference optimization(abstract)

AI总结 SPINAL通过分析神经对齐层的几何特性，量化对齐在深度层的集中表现及稳定性变化。

ADPO: Anchored Direct Preference Optimization

ADPO：基于锚定的直接偏好优化

Wang Zixian

机构 * China Mobile Communications Group Shandong Co., Ltd. Tai’an Branch（中国移动通信集团山东有限公司 Tai’an 分部） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；分类 cs.AI、cs.LG

AI总结 ADPO通过锚定logits优化相对优势，统一了监督微调、强化学习和排序目标，在推理任务中取得最佳性能。

FocalOrder: Focal Preference Optimization for Reading Order Detection

FocalOrder：阅读顺序检测中的焦点偏好优化

Fuyuan Liu, Dianyu Yu, He Ren, Nayu Liu, Xiaomian Kang, Delai Qiu, Fa Zhang, Genpeng Zhen, Shengping Liu, Jiaen Liang, Wei Huang, Yining Wang, Junnan Zhu

机构 * Unisound AI Technology Co.Ltd（Unisound人工智能技术有限公司） ； MAIS, Institute of Automation, Chinese Academy of Sciences（自动化研究所，中国科学院） ； Beihang University（北航大学） ； School of Computer Science and Technology, Tiangong University（技术学院，天津大学） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)

AI总结 FocalOrder通过焦点偏好优化解决阅读顺序检测中位置差异问题，提升复杂文档结构处理能力。

Steer Model beyond Assistant: Controlling System Prompt Strength via Contrastive Decoding

超越助手的引导模型：通过对比解码控制系统提示强度

Yijiang River Dong, Tiancheng Hu, Zheng Hui, Nigel Collier

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL

AI总结 通过对比解码控制系统提示强度，提升模型在复杂指令下的引导能力和准确性。

RIPRAG: Hack a Black-box Retrieval-Augmented Generation Question-Answering System with Reinforcement Learning

RIPRAG：通过强化学习攻击基于检索增强生成的黑盒问答系统

Meng Xi, Sihan Lv, Yechen Jin, Guanjie Cheng, Naibo Wang, Ying Li, Jianwei Yin

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 RIPRAG通过强化学习攻击黑盒RAG系统，提升污染攻击成功率0.72，揭示LLM安全防御的不足。

MixDPO: Modeling Preference Strength for Pluralistic Alignment

MixDPO：建模偏好强度以实现多元对齐

Saki Imai, Pedram Heydari, Anthony Sicilia, Asteria Kaeberlein, Katherine Atwell, Malihe Alikhani

机构 * Northeastern University（东北大学） ； Johns Hopkins University（约翰霍普金斯大学） ； West Virginia University（西弗吉尼亚大学） 纠错

专题命中 后训练与偏好优化 ：language model(abstract)；preference optimization(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 MixDPO通过建模偏好强度差异，提升多样的偏好对齐性能，同时保持子群体偏好，适用于高异质性场景。

Rewarding Creativity: A Human-Aligned Generative Reward Model for Reinforcement Learning in Storytelling

奖励创造力：一种人类对齐的生成奖励模型用于故事创作中的强化学习

Zhaoyan Li, Hang Lei, Yujia Wang, Lanbo Liu, Hao Liu, Liang Yu

机构 * Alibaba Group（阿里巴巴集团） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种人类对齐的生成奖励模型和强化学习框架，用于提升故事创作的质量和稳定性。

Failure-Aware RL: Reliable Offline-to-Online Reinforcement Learning with Self-Recovery for Real-World Manipulation

具有自恢复能力的失败感知强化学习：用于现实世界操控的可靠离线到在线强化学习

Huanyu Li, Kun Lei, Sheng Zang, Kaizhe Hu, Yongyuan Liang, Bo An, Xiaoli Li, Huazhe Xu

机构 * Shanghai Qi Zhi Institute（上海启智研究院） ； Shanghai Jiao Tong University（上海交通大学） ； IIIS, Tsinghua University（清华大学人工智能研究院） ； Nanyang Technological University（南洋理工大学） ； A*STAR Institute for Infocomm Research（新加坡科技动力研究院） ； University of Maryland（马里兰大学） 纠错

专题命中 后训练与偏好优化 ：post-training(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出FARL框架，通过整合安全批评者和恢复策略，有效减少现实世界强化学习中的失败并提升性能。

Comments Project page: https://failure-aware-rl.github.io

Graph-KV: Breaking Sequence via Injecting Structural Biases into Large Language Models

Graph-KV: 通过向大语言模型注入结构偏差打破序列

Haoyu Wang, Peihao Wang, Mufei Li, Shikun Liu, Siqi Miao, Zhangyang Wang, Pan Li

机构 * Georgia Institute of Technology（佐治亚理工学院） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 Graph-KV通过引入结构偏差打破序列限制，提升大语言模型在图结构任务中的表现。

From static to adaptive: immune memory-based jailbreak detection for large language models

从静态到适应性：基于免疫记忆的大型语言模型 jailbreak 检测

Jun Leng, Yu Liu, Litian Zhang, Ruihan Hu, Zhuting Fang, Xi Zhang

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 基于免疫记忆的框架，通过动态记忆更新和主动免疫机制，提升大型语言模型对 jailbreak 攻击的检测准确率至 94%。

LongEmotion: Measuring Emotional Intelligence of Large Language Models in Long-Context Interaction

LongEmotion: 测量大语言模型在长上下文交互中的情感智能

Weichu Liu, Jing Xiong, Yuxuan Hu, Zixuan Li, Minghuan Tan, Ningning Mao, Hui Shen, Wendong Xu, Chaofan Tao, Min Yang, Chengming Li, Lingpeng Kong, Ngai Wong

机构 * Shenzhen MSU-BIT University（深圳MSU-BIT大学） ； The University of Hong Kong（香港大学） ； City University of Hong Kong（香港城市大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究所） ； Beijing Normal University（北京师范大学） ； University of Michigan, Ann Arbor（密歇根大学安娜堡分校） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 LongEmotion是一个评估大语言模型在长上下文交互中情感智能的基准，通过多任务和协作框架提升模型在情绪识别与共情生成中的表现。

Comments Technical Report

BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents

BackdoorAgent: 一个统一框架用于针对基于LLM的代理的后门攻击

Yunhao Feng, Yige Li, Yutao Wu, Yingshui Tan, Yanming Guo, Yifan Ding, Kun Zhai, Xingjun Ma, Yu-Gang Jiang

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； Singapore Management University（新加坡管理大学） ； Alibaba Group（阿里巴巴集团） ； Deakin University（德肯大学） ； Hunan Institute of Advanced Technology（湖南高级技术研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 BackdoorAgent提出一个统一框架，分析LLM代理中后门攻击的跨阶段传播和触发器持续性，揭示代理工作流的脆弱性。

Beyond Dialogue Time: Temporal Semantic Memory for Personalized LLM Agents

超越对话时间：面向个性化LLM代理的时序语义记忆

Miao Su, Yucan Guo, Zhongni Hou, Long Bai, Zixuan Li, Yufei Zhang, Guojun Yin, Wei Lin, Xiaolong Jin, Jiafeng Guo, Xueqi Cheng

机构 * Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； State Key Laboratory of AI Safety（人工智能安全国家重点实验室） ； School of Computer Science, University of Chinese Academy of Sciences（中国科学院大学计算机科学学院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出TSM，一种面向个性化LLM代理的时序语义记忆框架，通过建模语义时间和持续记忆，提升对话任务的准确性和持续性。

NeuroGenPoisoning: Neuron-Guided Attacks on Retrieval-Augmented Generation of LLM via Genetic Optimization of External Knowledge

NeuroGenPoisoning: 通过神经引导对抗LLM检索增强生成中的外部知识注入

Hanyu Zhu, Lance Fiondella, Jiawei Yuan, Kai Zeng, Long Jiao

机构 * University of Massachusetts Dartmouth（马萨诸塞大学达特茅斯分校） ； George Mason University（乔治·梅森大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 NeuroGenPoisoning通过神经引导和遗传优化生成对抗性外部知识，有效解决RAG中的知识冲突并提高污染成功率。

Intrinsic Memory Agents: Heterogeneous Multi-Agent LLM Systems through Structured Contextual Memory

内在记忆代理：通过结构化上下文记忆实现异构多代理LLM系统

Sizhe Yuen, Francisco Gomez Medina, Ting Su, Yali Du, Adam J. Sobey

机构 * The Alan Turing Institute（艾伦·图灵研究所） ； King’s College London（伦敦大学国王学院） ； University of Southampton（南安普顿大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出内在记忆代理，通过结构化上下文记忆提升多代理LLM系统在复杂任务中的表现，展现更高的设计质量和一致性。

Memory Poisoning Attack and Defense on Memory Based LLM-Agents

基于内存的LLM代理中的内存污染攻击与防御

Balachandra Devarangadi Sunil, Isheeta Sinha, Piyush Maheshwari, Shantanu Todmal, Shreyan Mallik, Shuchi Mishra

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文研究了基于内存的LLM代理中的内存污染攻击与防御，通过实验发现预存合法记忆可显著降低攻击效果，并提出两种新的防御机制。

Learning How to Remember: A Meta-Cognitive Management Method for Structured and Transferable Agent Memory

学习如何记忆：一种用于结构化和可迁移智能体记忆的元认知管理方法

Sirui Liang, Pengfei Cao, Jian Zhao, Wenhao Teng, Xiangwen Liao, Jun Zhao, Kang Liu

机构 * Institute of Automation, CAS（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Zhongguancun Academy（中关村学院） ； Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究所） ； Department of Gastrointestinal Surgery, Fujian Provincial Cancer Hospital（福建省癌症医院胃肠外科） ； College of Computer and Data Science, Fuzhou University（福州大学计算机与数据科学学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 本文提出MCMA方法，通过学习记忆抽象技能提升智能体在长期任务中的记忆管理和泛化能力。

LLMs Can't Play Hangman: On the Necessity of a Private Working Memory for Language Agents

LLMs无法玩井字游戏：关于语言代理所需私人工作记忆的必要性

Davide Baldelli, Ali Parviz, Amal Zouaq, Sarath Chandar

机构 * Mila – Quebec AI Institute（魁北克人工智能研究所） ； Polytechnique Montréal（蒙特利尔大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； LAMA-WeST Lab（LAMA-WeST实验室） ； Chandar Research Lab（Chandar研究实验室） 纠错

专题命中 长上下文与记忆 ：language agent(title,abstract)；分类 cs.CL

AI总结 本文提出私人状态交互任务（PSITs）并证明标准LLMs无法在交互任务中保持秘密和一致性，提出包含显式私人工作记忆的架构以恢复一致性。

Stronger Baselines for Retrieval-Augmented Generation with Long-Context Language Models

更强的检索增强生成基线：长上下文语言模型

Alex Laitenberger, Christopher D. Manning, Nelson F. Liu

机构 * Stanford University（斯坦福大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出DOS RAG作为长上下文问答任务的强基线，通过保持文档结构和简单性，在多个基准上超越复杂方法。

Comments 11 pages, 6 figures, for associated source code, see https://github.com/alex-laitenberger/stronger-baselines-rag

Journal ref Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP 2025), pages 32559-32569

HiMem: Hierarchical Long-Term Memory for LLM Long-Horizon Agents

HiMem：用于长时间跨度代理的分层长时记忆

Ningning Zhang, Xingxing Yang, Zhizhong Tan, Weiping Deng, Wenyong Wang

机构 * Macau University of Science and Technology（澳门科学理工大學） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 HiMem通过分层长时记忆框架提升长跨度对话代理的适应性和自我进化能力，采用双通道分割和多阶段信息提取实现高效且保真的记忆管理。

Dreaming Is Not a Bug: A Jung-Inspired Dream Layer for Multi-Agent LLM Companions

梦境并非bug：一种基于荣格思想的多智能体LLM伴侣的梦境层

V. Cheung

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 本文提出一种基于荣格思想的梦境层，通过离线生成梦境叙事来增强多智能体LLM伴侣的学习与关系建立能力，将幻觉转化为资源而非bug。

Comments Preprint, 35 pages (5 pages of appendix), 2 figures, 3 tables. Conceptual and architectural proposal with preliminary simulation results

HiMeS: Hippocampus-inspired Memory System for Personalized AI Assistants

HiMeS：基于海马体的记忆系统用于个性化AI助手

Hailong Li, Feifei Li, Wenhui Que, Xingyu Fan

机构 * Tencent Inc.（腾讯公司） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 HiMeS通过融合短期和长期记忆机制，提升个性化AI助手在知识密集型场景中的问答质量与用户定制能力。

RealMem: Benchmarking LLMs in Real-World Memory-Driven Interaction

RealMem: 在真实世界中评估大语言模型的内存驱动交互

Haonan Bian, Zhiyuan Yao, Sen Hu, Zishan Xu, Shaolei Zhang, Yifu Guo, Ziliang Yang, Xueran Han, Huacan Wang, Ronghao Chen

机构 * Xidian University（西安电子科技大学） ； Zhejiang University（浙江大学） ； Peking University（北京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Renmin University of China（中国人民大学） ； Sun Yat-sen University（中山大学） ； University of the Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 RealMem是一个基于真实项目场景的基准，评估大语言模型在长期项目导向交互中的记忆管理能力。

Seg-LSTM: Performance of xLSTM for Semantic Segmentation of Remotely Sensed Images

Seg-LSTM：xLSTM在遥感图像语义分割中的性能

Qinfeng Zhu, Yuanzhi Cai, Lei Fan

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Seg-LSTM首次评估了xLSTM在遥感图像语义分割中的性能，发现其表现逊于基于Transformer和Mamba的模型。

Seeing through the Conflict: Transparent Knowledge Conflict Handling in Retrieval-Augmented Generation

通过冲突看见：在检索增强生成中实现透明的知识冲突处理

Hua Ye, Siyuan Chen, Ziqi Zhong, Canran Xiao, Haoliang Zhang, Yuhan Wu, Fei Shen

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 TCR通过透明冲突解决框架提升检索增强生成中的冲突检测与知识恢复能力，减少误导性上下文影响。

Comments 9 pages, 9 figures, 5 tables

Mosaic: Unlocking Long-Context Inference for Diffusion LLMs via Global Memory Planning and Dynamic Peak Taming

Mosaic: 通过全局内存规划和动态峰值镇压解锁扩散语言模型的长上下文推理

Liang Zheng, Bowen Shi, Yitao Hu, Jiawei Zhang, Ruofan Li, Sheng Chen, Wenxin Li, Keqiu Li

机构 * Tianjin University, China（天津大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Mosaic通过全局内存规划和动态峰值镇压，提升扩散语言模型的长上下文推理能力，实现内存效率和推理长度的显著提升。

Comments 11 pages, 18 figures

TALM: Dynamic Tree-Structured Multi-Agent Framework with Long-Term Memory for Scalable Code Generation

TALM：具有长期记忆的动态树结构多智能体框架用于可扩展的代码生成

Ming-Tung Shen, Yuh-Jzer Joung

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 TALM通过动态树结构多智能体框架结合长期记忆机制，提升复杂代码生成任务中的推理性能和令牌效率。