语言大模型 / LLM

SABER: Small Actions, Big Errors -- Safeguarding Mutating Steps in LLM Agents

SABER: 小动作，大误差 -- 保护LLM代理中的突变步骤

Alejandro Cuadron, Pengfei Yu, Yang Liu, Arpit Gupta

机构 * Amazon AGI Foundations（亚马逊人工智能基础研究） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 SABER通过分析LLM代理中的突变步骤，提出针对性保护措施，提升长周期任务的稳定性。

Comments submitted to ICLR2026

TOBUGraph: Knowledge Graph-Based Retrieval for Enhanced LLM Performance Beyond RAG

Savini Kashmira, Jayanaka L. Dantanarayana, Joshua Brodsky, Ashish Mahendra, Yiping Kang, Krisztian Flautner, Lingjia Tang, Jason Mars

机构 * University of Michigan（密歇根大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI、cs.LG

Comments Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing: Industry Track

Accumulating Context Changes the Beliefs of Language Models

Jiayi Geng, Howard Chen, Ryan Liu, Manoel Horta Ribeiro, Robb Willer, Graham Neubig, Thomas L. Griffiths

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI

Language Modeling With Factorization Memory

Lee Xiong, Maksim Tkachenko, Johanes Effendi, Ting Cai

机构 * Rakuten Group, Inc.（Rakuten集团） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI

Category-Aware Semantic Caching for Heterogeneous LLM Workloads

Chen Wang, Xunzhuo Liu, Yue Zhu, Alaa Youssef, Priya Nagpurkar, Huamin Chen

机构 * IBM Research（IBM研究院） ； Tencent（腾讯） ； Red Hat（红帽） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI、cs.LG

Comments 13 pages including reference, position paper

LLM Based Long Code Translation using Identifier Replacement

Manojit Chakraborty, Madhusudan Ghosh, Rishabh Gupta

机构 * Bosch Research & Technology Center（博世研究与技术中心） ； Indian Association for the Cultivation of Science（印度科学培养协会） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI、cs.LG

ChromFound: Towards A Universal Foundation Model for Single-Cell Chromatin Accessibility Data

Yifeng Jiao, Yuchen Liu, Yu Zhang, Xin Guo, Yushuai Wu, Chen Jiang, Jiyang Li, Hongwei Zhang, Limei Han, Xin Gao, Yuan Qi, Yuan Cheng

机构 * Artificial Intelligence Innovation and Incubation Institute, Fudan University（复旦大学人工智能创新与孵化院） ； Shanghai Academy of Artificial Intelligence for Science（上海人工智能科学研究院） ； Computer, Electrical and Mathematical Sciences and Engineering Division, KAUST（卡塔尔大学计算机、电子与数学科学与工程系） ； Center of Excellence for Smart Health, KAUST（卡塔尔大学智能健康卓越中心） ； Center of Excellence on GenAI, KAUST（卡塔尔大学生成人工智能卓越中心） ； Zhongshan Hospital, Fudan University（复旦大学中山医院） 纠错

专题命中 长上下文与记忆 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

Understanding Network Behaviors through Natural Language Question-Answering

Mingzhe Xing, Chang Tian, Jianan Zhang, Lichen Pan, Peipei Liu, Zhaoteng Yan, Yinliang Yue

专题命中 长上下文与记忆 ：large language model(abstract,comments)；language model(abstract,comments)；LLM(abstract)；分类 cs.CL、cs.AI

Comments Large Language Models

Preference-Aware Memory Update for Long-Term LLM Agents

Haoran Sun, Zekun Zhang, Shaoning Zeng

机构 * Haoran Sun, Zekun Zhang, Shaoning Zeng（作者） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Issue Localization via LLM-Driven Iterative Code Graph Searching

Zhonghao Jiang, Xiaoxue Ren, Meng Yan, Wei Jiang, Yong Li, Zhongxin Liu

机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University, Hangzhou, China（区块链与数据安全国家重点实验室，浙江大学，杭州，中国） ； School of Big Data and Software Engineering, Chongqing University, Chongqing, China（大数据与软件工程学院，重庆大学，重庆，中国） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted by ASE 2025

Exploring and Controlling Diversity in LLM-Agent Conversation

KuanChao Chu, Yi-Pei Chen, Hideki Nakayama

机构 * The University of Tokyo（东京大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments EMNLP 2025 Findings

MLP-Offload: Multi-Level, Multi-Path Offloading for LLM Pre-training to Break the GPU Memory Wall

Avinash Maurya, M. Mustafa Rafique, Franck Cappello, Bogdan Nicolae

机构 * Argonne National Laboratory（阿贡国家实验室） ； Rochester Institute of Technology（罗切斯特理工学院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI、cs.LG

Comments SC'25: The International Conference for High Performance Computing, Networking, Storage and Analysis

Journal ref SC'25: The International Conference for High Performance Computing, Networking, Storage and Analysis, 2025

MeVe: A Modular System for Memory Verification and Effective Context Control in Language Models

Andreas Ottem

机构 * Independent Researcher（独立研究者） 纠错

专题命中 长上下文与记忆 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

Comments 16 pages, 7 figures, held online presentation at NLPA 2025

Augmented Vision-Language Models: A Systematic Review

Anthony C Davis, Burhan Sadiq, Tianmin Shu, Chien-Ming Huang

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI

CRISP-SAM2: SAM2 with Cross-Modal Interaction and Semantic Prompting for Multi-Organ Segmentation

Xinlei Yu, Changmiao Wang, Hui Jin, Ahmed Elazab, Gangyong Jia, Xiang Wan, Changqing Zou, Ruiquan Ge

机构 * Hangzhou Dianzi University（杭州电子科技大学） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） ； Shenzhen University（深圳大学） ； Zhejiang University（浙江大学） 纠错

专题命中 长上下文与记忆 ：prompting(title,abstract)；分类 cs.AI、cs.LG

Comments Accepted By ACMMM25

ALCo-FM: Adaptive Long-Context Foundation Model for Accident Prediction

Pinaki Prasad Guha Neogi, Ahmad Mohammadshirazi, Rajiv Ramnath

机构 * Department of Computer Science（计算机科学系） ； Engineering, Ohio State University, Ohio, US（工程系，俄亥俄州立大学，俄亥俄州，美国） 纠错

专题命中 长上下文与记忆 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

Towards General Continuous Memory for Vision-Language Models

Wenyi Wu, Zixuan Song, Kun Zhou, Yifei Shao, Zhiting Hu, Biwei Huang

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.AI、cs.LG

Efficient Length-Generalizable Attention via Causal Retrieval for Long-Context Language Modeling

Xiang Hu, Zhihao Teng, Jun Zhao, Wei Wu, Kewei Tu

机构 * ShanghaiTech University（上海科技大学） ； Fudan University（复旦大学） 纠错

专题命中 长上下文与记忆 ：language model(title)；post-training(abstract)；分类 cs.CL、cs.AI

Comments accepted to ICML 2025

MiniKV: Pushing the Limits of LLM Inference via 2-Bit Layer-Discriminative KV Cache

Akshat Sharma, Hangliang Ding, Jianping Li, Neel Dani, Minjia Zhang

机构 * UIUC（伊利诺伊大学厄巴纳-香槟分校） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； SSAIL Lab（超算系统人工智能实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL、cs.LG

Scaling Context, Not Parameters: Training a Compact 7B Language Model for Efficient Long-Context Processing

Chen Wu, Yin Song

机构 * Amazon Web Services（亚马逊网络服务） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.LG

Comments 8 pages, 6 figures, ACL 2025 (Industry Track)

Technical Report: Evaluating Goal Drift in Language Model Agents

Rauno Arike, Elizabeth Donoway, Henning Bartsch, Marius Hobbhahn

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.AI、cs.LG

LLM-Empowered Embodied Agent for Memory-Augmented Task Planning in Household Robotics

Marc Glocker, Peter Hönig, Matthias Hirschmanner, Markus Vincze

机构 * Automation and Control Institute, Faculty of Electrical Engineering, TU Wien（自动化与控制研究所，电气工程学院，维也纳技术大学） ； AIT Austrian Institute of Technology GmbH, Center for Vision, Automation and Control（奥地利技术研究所（AIT）有限公司，视觉、自动化与控制中心） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted at Austrian Robotics Workshop 2025

Spider 2.0: Evaluating Language Models on Real-World Enterprise Text-to-SQL Workflows

Fangyu Lei, Jixuan Chen, Yuxiao Ye, Ruisheng Cao, Dongchan Shin, Hongjin Su, Zhaoqing Suo, Hongcheng Gao, Wenjing Hu, Pengcheng Yin, Victor Zhong, Caiming Xiong, Ruoxi Sun, Qian Liu, Sida Wang, Tao Yu

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments ICLR 2025 Oral

Presumed Cultural Identity: How Names Shape LLM Responses

Siddhesh Pawar, Arnav Arora, Lucie-Aimée Kaffee, Isabelle Augenstein

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments 23 Pages, 13 Figures, 4 Tables

Pause-Tuning for Long-Context Comprehension: A Lightweight Approach to LLM Attention Recalibration

James Begin, Namit Agrawal, Eshan Singh, Yicheng Fu, Sean O'Brien, Vasu Sharma, Kevin Zhu

专题命中 长上下文与记忆 ：LLM(title)；language model(abstract)；分类 cs.CL、cs.AI

CompAct: Compressed Activations for Memory-Efficient LLM Training

Yara Shamshoum, Nitzan Hodos, Yuval Sieradzki, Assaf Schuster

专题命中 长上下文与记忆 ：LLM(title)；pretraining(abstract)；分类 cs.CL、cs.LG

Comments Accepted to NAACL 2025

GIRAFFE: Design Choices for Extending the Context Length of Visual Language Models

Mukai Li, Lei Li, Shansan Gong, Qi Liu

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments Working in progress

Winner-Take-All Column Row Sampling for Memory Efficient Adaptation of Language Model

Zirui Liu, Guanchu Wang, Shaochen Zhong, Zhaozhuo Xu, Daochen Zha, Ruixiang Tang, Zhimeng Jiang, Kaixiong Zhou, Vipin Chaudhary, Shuai Xu, Xia Hu

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.LG

One Thousand and One Pairs: A "novel" challenge for long-context language models

Marzena Karpinska, Katherine Thai, Kyle Lo, Tanya Goyal, Mohit Iyyer

专题命中 长上下文与记忆 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

Comments EMNLP 2024, camera ready

Extracting Prompts by Inverting LLM Outputs

Collin Zhang, John X. Morris, Vitaly Shmatikov

专题命中 长上下文与记忆 ：LLM(title)；language model(abstract)；分类 cs.CL、cs.LG