论文导读
复旦大学、阿里巴巴通义应用业务组提出RPMem，把每次会话编译成独立于模型底座的潜在记忆，再递归合并并映射为LoRA参数。Qwen3-8B在PERMA上达到85.52%，比最强参数记忆和文本记忆基线高5.32和12.98个百分点。
聊天越长，检索记忆越容易漏
多数智能体把历史写成文本条目，需要回答时再搜索并拼回上下文。优点是内容可查看，代价是会话越多，结果越依赖检索是否找全、模型是否能在长上下文中用对证据。扩大检索范围会增加成本，也不能保证关键偏好没有被噪声淹没。
参数记忆把经验直接写进模型计算，但过去方案常和某个底座绑定：模型升级后，旧记忆很难复用。RPMem把“记住什么”和“由哪个模型读取”拆开，先生成模型无关的潜在记忆，再为目标底座解码成低秩适配参数。
图：单会话编译、跨会话递归合并和不同模型共享记忆的训练与推理流程。
每次会话先编译，再决定保留多少
第一阶段的记忆编译器把一段会话压成固定结构，不需要通过反向训练为每位用户单独更新。第二阶段的递归门读取新旧记忆，学习哪些内容应覆盖、补充或继续保留。合并后的记忆再经LoRA解码器适配具体底座。
这种设计让更新成本和记忆占用接近恒定，不必把所有历史都带到下一次输入。门控分析显示，不同任务会形成不同的整合策略：出现新偏好时加强更新，重复或无关信息则减少写入。
图：一个长会话案例中的事件位置、门控幅度和不同记忆单元分配随会话推进而变化。
五种底座上测试跨模型复用
论文使用三个长期记忆基准和五种底座评估。Qwen3-8B在PERMA上达到85.52%，分别比最强参数记忆和文本记忆方法高5.32、12.98个百分点。消融实验显示，会话编译与跨会话合并缺一不可。
跨底座实验把同一潜在记忆映射给新的模型，而不是把旧LoRA权重直接硬套。这个结果支持“记忆生命周期与底座生命周期分离”，但仍限于研究基准；生产系统还要处理删除请求、记忆冲突、错误信息回滚和可审计性。
图：不同训练数据规模下的门控记忆表现，展示会话数量增加时的准确率变化。
真正落地还要解决可删除与可解释
参数记忆减少了上下文检索，却不像文本条目那样容易逐条查看。下一步需要把潜在记忆与可读记录对应起来，支持用户确认、修正和删除，也要防止一次错误会话长期污染后续行为。跨模型升级时还应验证旧偏好是否被新底座误读，并保留可回滚版本与变更记录。RPMem已经验证跨会话、跨底座复用的技术路径，工程成败取决于记忆治理是否同样可控。
参考资料
https://arxiv.org/abs/2609.23466
