语言大模型 / LLM

CG-MLLM: Captioning and Generating 3D content via Multi-modal Large Language Models

CG-MLLM：通过多模态大语言模型实现图像描述与3D内容生成

Junming Huang, Chi Wang, Letian Li, Guangkai Xu, Donglin Huang, Hao Chen, Qiang Dai, Weiwei Xu

机构 * Zhejiang University, China（浙江大学） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)

AI总结 本文提出CG-MLLM，一种能实现3D描述和高分辨率3D生成的多模态大语言模型，通过混合Transformer架构分离不同建模需求，结合预训练视觉语言模型与专用3D VAE潜在空间，提升3D生成质量与感知能力。

Comments ICML 2026

Markovian Generation Chains in Large Language Models

大语言模型中的马尔可夫生成链

Mingmeng Geng, Amr Mohamed, Guokan Shang, Michalis Vazirgiannis, Thierry Poibeau

机构 * ENS-PSL & CNRS-Lattice（ENS-PSL与CNRS-Lattice） ； MBZUAI & Ecole Polytechnique（MBZUAI与巴黎高等理工学院） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了大语言模型中迭代推理过程的演变，通过马尔可夫链建模发现句子多样性受温度参数和初始输入影响，揭示了迭代推理的动力学及其对多智能体系统的影响。

Large Language Models are Good Relational Learners

Fang Wu, Vijay Prakash Dwivedi, Jure Leskovec

机构 * Stanford University（斯坦福大学） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

A Neuro-inspired Interpretation of Unlearning in Large Language Models through Sample-level Unlearning Difficulty

Xiaohua Feng, Yuyuan Li, Chengye Wang, Junlin Liu, Li Zhang, Chaochao Chen

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 16 pages

Echo: A Large Language Model with Temporal Episodic Memory

WenTao Liu, Ruohua Zhang, Aimin Zhou, Feng Gao, JiaLi Liu

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Extracting effective solutions hidden in large language models via generated comprehensive specialists: case studies in developing electronic devices

Hikari Tomita, Nobuhiro Nakamura, Shoichi Ishida, Toshio Kamiya, Kei Terayama

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 18 pages, 4 figures

LAMPO: Large Language Models as Preference Machines for Few-shot Ordinal Classification

Zhen Qin, Junru Wu, Jiaming Shen, Tianqi Liu, Xuanhui Wang

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments COLM 2024

Needle in the Haystack for Memory Based Large Language Models

Elliot Nelson, Georgios Kollias, Payel Das, Subhajit Chaudhury, Soham Dan

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 5 pages; slightly revised abstract

Aspects of human memory and Large Language Models

Romuald A. Janik

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 13+3 pages; v2: abstract expanded and future research directions added; v3: minor clarifications added

Retrieval meets Long Context Large Language Models

Peng Xu, Wei Ping, Xianchao Wu, Lawrence McAfee, Chen Zhu, Zihan Liu, Sandeep Subramanian, Evelina Bakhturina, Mohammad Shoeybi, Bryan Catanzaro

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Published at ICLR 2024

Ghost in the Minecraft: Generally Capable Agents for Open-World Environments via Large Language Models with Text-based Knowledge and Memory

Xizhou Zhu, Yuntao Chen, Hao Tian, Chenxin Tao, Weijie Su, Chenyu Yang, Gao Huang, Bin Li, Lewei Lu, Xiaogang Wang, Yu Qiao, Zhaoxiang Zhang, Jifeng Dai

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Large language models improve Alzheimer's disease diagnosis using multi-modality data

Yingjie Feng, Jun Wang, Xianfeng Gu, Xiaoyin Xu, Min Zhang

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

Optimal Skill Selection for LLM Agents with Provable Bicriteria Guarantees

具备可证明双准则保证的大语言模型智能体最优技能选择

Yu Chen, Ruishuo Chen, Xun Wang, Zhuoran Li, Longbo Huang

机构 * Institute for Interdisciplinary Information Sciences Tsinghua University（清华大学交叉信息研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对LLM智能体的技能选择问题，提出了具备可证明双准则保证的BPS算法，在BigCodeBench变体上实现了更高任务成功率且标记使用更少的优势。

GraphWake: Group Polarization via Memory-Mediated Polarization Cascade in LLM-Agent Communities

GraphWake：LLM智能体社群中基于记忆介导极化级联的群体极化

Haoran Bu, Zejian Chen, Litian Zhang, Xi Zhang

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI

AI总结 该研究提出名为GraphWake的新型威胁，通过记忆介导极化级联操纵LLM智能体社群，实验证实其可大幅提升群体极化程度，揭示了社群层面的极化风险。

LycheeMemory V2: Efficient Long-Term Memory for LLM Agents via Semantic Segment-Level Consolidation

LycheeMemory V2：基于语义片段级整合的LLM智能体高效长期记忆

Dongfang Li, Zixuan Liu, Junmai Wang, Jiahe Huang, Fuhao Li, Bonian Jia, Baotian Hu, Min Zhang

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.CL

AI总结 LycheeMemory V2用语义片段级整合替代轮次级整合，降低LLM编码成本，在LoCoMo、LongMemEval-S上实现SOTA性能，构建token用量较A-Mem大幅减少且未增加查询开销。

Comments 34 pages, 5 figures

SHE: Trajectory-driven Safety Harness Evolution for LLM Agents

SHE：面向大语言模型智能体的轨迹驱动安全管控机制演化

Wanying Qu, Qinghua Mao, Yu Li, Jiyao Liu, Xin Zhang, Dadi Guo, Yanxu Zhu, Qingyu Liu, Leitao Yuan, Xi Lin, Shanfeng Zhu, Yanwei Fu, Jing Shao, Xia Hu, Dongrui Liu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； Shanghai Jiao Tong University（上海交通大学） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究提出SHE框架，将LLM智能体的安全管控机制分解为四个构件并引入归因引导演化循环，在Agent-SafetyBench上使攻击成功率降低3.1倍，还具备泛化与跨模型迁移能力。

Comments Project: https://github.com/RainbowQTT/SHE

SodaMem: Evidence-Grounded Temporal Graph Memory for LLM Agents

SodaMem：面向大语言模型智能体的基于证据的时序图记忆

Fengrong Wan, Chengcan Wu, Ningtao Lyu

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对LLM智能体对话的时效性、来源追溯等问题，提出基于证据的时序图记忆SodaMem，在LongMemEval-S上以Flash级花费达到高准确率，性能优于部分高成本系统。

MNC: Scope-Bound Semantic Declassification for Private LLM-Agent Communication

MNC：面向私有大语言模型智能体通信的范围受限语义解密

Jinghan Xu, Longze Fan, Zeyuan Wang, Xinjin Li, Hankai Liu

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对多智能体LLM系统的隐私泄露问题，提出范围受限语义解密协议MNC，通过绑定披露范围实现授权信息传递，阻止未授权操作，为私有LLM智能体系统提供实用通信边界。

Practical Online KV Cache Compaction for LLM Agents: An Empirical Study

面向LLM智能体的实用在线KV缓存压缩：一项实证研究

Yujian Liu, Jiabao Ji, Li An, Rohit Jain, Gungor Polatkan, Siyu Zhu, Shiyu Chang

机构 * UC Santa Barbara（加州大学圣巴巴拉分校） ； LinkedIn（领英公司） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.CL

AI总结 该研究针对LLM智能体的KV缓存瓶颈，实证对比了令牌驱逐与注意力匹配两类在线压缩方法，发现延迟压缩可恢复性能，令牌驱逐在代理不完善时更鲁棒，能大幅压缩KV缓存并提升吞吐量。

AiFlow: Token-Native Reactive Orchestration with Bounded Backpressure for Streaming LLM Applications

AiFlow：面向流式大语言模型应用的带界背压令牌原生反应式编排框架

Qunhui Zhang

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对现有流式LLM工作流编排的背压等管理缺陷，提出AiFlow令牌原生反应式编排模型，经实验验证可降低应用TTFPT并控制队列深度。

Comments 24 pages, 5 figures, 12 tables, 1 algorithm, and 1 code listing. Public implementation: https://github.com/ModelEngine-Group/fit-framework

Know It, Act on It: Investigating Memory Utilization in LLM Personalization

了解它，执行它：研究大语言模型个性化中的记忆利用

Zhaoxin Feng, Jianfei Ma, Emmanuele Chersoni

机构 * The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究针对LLM个性化中记忆利用的问题，提出解耦评估范式，发现智能体常能回忆用户偏好却未在行为中体现，健康相关偏好的利用薄弱且风险最高。

Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory

大语言模型智能体中的内存来源洗白：用于持久内存的非放大防火墙

Jinghan Xu, Yiyong Xiao, Wanru Shao, Hankai Liu, Xinjin Li

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对LLM智能体内存来源洗白的安全问题，提出PPMF防火墙，通过匹配行动风险与记忆权限，成功阻止高风险未授权行动，保障智能体内存安全。

Comments EMNLP2026 submitted

MIND: Lightweight and Effective Memory Injection Defense for LLM Agents via Intent-Aware Information Bottleneck

MIND：基于意图感知信息瓶颈的轻量且有效的LLM智能体记忆注入防御

Dongyi Liu, Haixing He, Xiaobao Wu, Jia Li

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI

AI总结 针对LLM智能体记忆注入攻击，提出轻量防御框架MIND，通过意图感知信息瓶颈过滤冗余信息并识别恶意记忆，在ReAct-StrategyQA上大幅降低攻击成功率且保留任务性能与效率。

$Σ$-Mem: An Online Reliability Memory for LLM-based Multi-Agent Systems

Σ-Mem：面向基于大语言模型（LLM）的多智能体系统的在线可靠性记忆

Peilin Feng, Suorong Yang, Soujanya Poria

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI

AI总结 针对现有LLM多智能体系统记忆系统无法建模智能体可信度的问题，提出Σ-Mem在线可靠性记忆，基于决策后反馈更新实对称状态，在Qwen系列模型上实现自适应协调与更优性能。

IFCMemoryBench: Evaluating Long-Term Memory of LLM-Based Agents in BIM Information Retrieval

IFCMemoryBench：评估基于大语言模型（LLM）的智能体在建筑信息模型（BIM）信息检索中的长期记忆能力

Changyu Du, Alexander Vosseler, Filippo Mazza, André Borrmann

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文推出IFCMemoryBench基准，评估基于LLM的智能体在BIM信息检索中的长期记忆，发现现有通用记忆系统在该场景下表现差，存在领域迁移差距。

Comments KDD 2026 Workshop on Evaluation and Trustworthiness of Agentic AI

PANOPTICON: A PII-Based Assemblage of Naturalistic Output Tokens for Investigating Privacy Leakage Within LLM Context Window

全景监控：基于个人身份信息的自然主义输出令牌集合，用于研究大语言模型上下文窗口内的隐私泄露

Ryan Thornton, Mir Mehedi Ahsan Pritom, Maanak Gupta

机构 * Meta 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型上下文窗口内隐私泄露问题，引入PANOPTICON管道和数据集，由Meta模型生成含PII片段的提示，测量数据集多样性评估真实性，通过案例展示其在理解提示反转攻击中的效用及为LLM隐私研究奠基。

Comments 9 pages, 3 figures, 3 tables. Submitted to IEEE CARS 2026

Learning to Make Friends: Coaching LLM Agents toward Emergent Social Ties

学习交朋友：引导大语言模型智能体形成新兴社会关系

Philipp J. Schneider, Lin Tian, Marian-Andrei Rizoiu

机构 * EPFL Lausanne, Switzerland（洛桑联邦理工学院） ； University of Technology Sydney（悉尼技术大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究LLM智能体能否再现人类在线行为社会动态及相关机制。提出多智能体LLM模拟框架，设计行为奖励函数，经实验发现引导后的智能体形成稳定互动与社会关系，为研究LLM群体集体动态建立测试平台。

Comments NeurIPS 2025 Workshop: Scaling Environments for Agents (SEA)

Improving Language Agents through BREW: Bootstrapping expeRientially-learned Environmental knoWledge

通过BREW改进语言智能体：引导式经验学习环境知识

Shashank Kirtania, Param Biyani, Priyanshu Gupta, Yasharth Bajpai, Roshni Iyer, Sumit Gulwani, Gustavo Soares

机构 * University of Michigan（密歇根大学） ； Independent（独立研究者） ； Microsoft（微软） ； Apple（苹果公司） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；language agent(title)；large language model(abstract)；language model(abstract)

AI总结 研究基于LLM的智能体无法从经验学习的问题，提出BREW框架，通过提炼交互轨迹成知识库、引入EG-MCTS算法及适应事后重标记等方法，在多基准测试中提升任务成功率并减少执行步骤，且知识库具有良好特性。

End-to-End LLM Flight Planning with RAG-based Memory and Multi-modal Coach Agent

基于基于检索增强生成的记忆和多模态教练代理的端到端大语言模型飞行规划

Amin Tabrizian, Arsyi Aziz, Aarifah Ullah, Mahyar Ghazanfari, Pouria Razzaghi, Peng Wei

机构 * George Washington University（乔治华盛顿大学） ； Metis Solutions Technology Inc 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对电动垂直起降飞机部署中传统飞行规划算法难以融入人类偏好的问题，提出FRAMe工具，集成规划器LLM、多模态教练代理和基于RAG的记忆，在多场景演示中效果最佳，能将自然语言指令转化为优质飞行路线。

Comments Accepted at the ICML 2026 LM4Plan Workshop

PHOENIX: Resilient LLM Training with Hot-Swapping via Zero-Overhead Checkpoint

DeadPool: 通过零开销检查点热替换实现弹性LLM训练

Haotian Xie, Junlin Chen, Mingkai Zheng, Lishan Yang, Zhao Zhang

机构 * Rutgers University（罗格斯大学） ； George Mason University（乔治·马歇尔大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出DeadPool，利用非关键路径内存检查点和通信器重建协议实现零开销热替换，在无故障时无额外开销，故障时40秒内恢复，支持高达512 GPU和65B参数模型。