Pancake: Hierarchical Memory System for Multi-Agent LLM Serving
Pancake:多代理LLM服务的分层内存系统
专题命中 记忆与上下文管理 :agent(title,abstract);multi-agent(title);agentic(abstract)
AI总结 Pancake是一种多级代理内存系统,通过多级索引缓存、协调索引管理和GPU-CPU协作,提升了LLM服务的内存管理效率和吞吐量。
AI 大模型
智能体、工具调用、规划、工作流、多智能体和自主任务执行。
Pancake:多代理LLM服务的分层内存系统
专题命中 记忆与上下文管理 :agent(title,abstract);multi-agent(title);agentic(abstract)
AI总结 Pancake是一种多级代理内存系统,通过多级索引缓存、协调索引管理和GPU-CPU协作,提升了LLM服务的内存管理效率和吞吐量。
场论记忆用于人工智能代理:连续动态以保持上下文
机构 * Rotalabs
专题命中 记忆与上下文管理 :AI agent(title,abstract);agent(abstract);multi-agent(abstract);分类 cs.AI、cs.CL、cs.LG
AI总结 本文提出基于场论的记忆系统,通过连续动态保持上下文,提升多会话推理和时间推理性能。
Comments 15 pages, 6 figures. Code: https://github.com/rotalabs/rotalabs-fieldmem
部分可观测环境中的时序知识图谱记忆
机构 * HumemAI ; Vrije Universiteit Amsterdam(范·艾克大学阿姆斯特丹) ; ELLIS Institute Finland & Abo Akademi University(芬兰ELLIS研究所及阿博阿卡迪米大学)
专题命中 记忆与上下文管理 :agent(abstract);分类 cs.AI、cs.LG
AI总结 该研究提出了一种基于时序知识图谱的记忆机制,通过在部分可观测环境中测试,展示了符号智能体在QA任务中比神经基线高出四倍的准确率。
结构对齐的子任务级记忆用于软件工程代理
专题命中 记忆与上下文管理 :agent(abstract);分类 cs.AI、cs.SE
AI总结 本文提出结构对齐的子任务级记忆方法,通过与代理功能分解对齐来提升软件工程代理的长周期推理能力,实验表明在多种backbone上均优于传统方法。
结构化提示语言:面向大语言模型的声明式上下文管理
专题命中 记忆与上下文管理 :agentic(abstract);分类 cs.CL
AI总结 结构化提示语言SPL通过声明式框架管理大语言模型的上下文资源,实现高效提示生成和多模型协同,减少65%的模板开销,提升成本透明度和执行效率。
Comments 44 pages, 6 figures, 14 tables, 15 code-listings
SunnyParking: 多次停车场景下的轨迹生成与运动状态感知
机构 * Chubu University(名古屋大学) ; Tongji University(同济大学)
专题命中 记忆与上下文管理 :planning(abstract)
AI总结 SunnyParking通过双分支端到端架构实现运动状态感知,结合空间轨迹和离散运动状态预测,提升复杂多次停车场景下的轨迹生成和换挡点定位精度。
选择性披露在重叠世代模型中
专题命中 记忆与上下文管理 :agent(abstract)
AI总结 本文研究了重叠世代模型中信息选择性披露机制,探讨了信息传递概率对披露策略的影响,并展示了在极限情况下最优信息筛选的特性。