A Probabilistic Interpretation of KV Cache Eviction
KV缓存驱逐的概率解释
机构 * University of California, Los Angeles(加州大学洛杉矶分校)
AI总结 本文通过概率推理形式化KV驱逐问题,证明其计算难度,将其简化为可采样近似的期望估计,提出解码时校正方法,调整现有方法实现该校正,使结合该校正的KV驱逐在相同压缩预算下更鲁棒且性能有竞争力。
高校专区
KV缓存驱逐的概率解释
机构 * University of California, Los Angeles(加州大学洛杉矶分校)
AI总结 本文通过概率推理形式化KV驱逐问题,证明其计算难度,将其简化为可采样近似的期望估计,提出解码时校正方法,调整现有方法实现该校正,使结合该校正的KV驱逐在相同压缩预算下更鲁棒且性能有竞争力。
Meta-Ctrl:通过分离句法与语义约束实现带保证的规划生成
机构 * Michigan State University(密歇根州立大学) ; University of California Los Angeles(加利福尼亚大学洛杉矶分校)
AI总结 Meta-Ctrl是一种约束解码框架,通过引入元标记分离句法与语义约束,在保证规划满足约束的同时保留语言模型的规划质量,在WAH-NL数据集和真实桌面机器人上均取得优于GPT-4的效果。
大推理模型在不同脚本间转移参数知识时面临困难
机构 * Google Research(谷歌研究) ; University of California, Los Angeles(加州大学洛杉矶分校) ; University of Melbourne(墨尔本大学)
AI总结 研究发现,大模型在跨语言知识转移中主要受脚本差异影响,通过分析数据和实验表明,提升模型对转写歧义的推理能力可改善跨脚本知识转移。
Comments Findings of EMNLP 2026
通过知识性经验学习对齐代理世界模型
机构 * Zhejiang University(浙江大学) ; University of California, Los Angeles(加州大学洛杉矶分校)
AI总结 WorldMind通过知识性经验学习对齐代理世界模型,解决物理模拟中的幻觉问题,实现跨环境的高效迁移。
Comments EMNLP 2026 Findings