On the Limits of Learned Importance Scoring for KV Cache Compression
关于学习重要性评分在KV缓存压缩中的限制
机构 * Georgia Institute of Technology(佐治亚理工学院)
AI总结 本文研究了学习重要性评分在KV缓存压缩中的局限性,发现基于位置的启发式方法和预填注意力信号在性能上优于复杂学习评分器。
Comments 14 pages, 7 figures, 5 tables
高校专区
关于学习重要性评分在KV缓存压缩中的限制
机构 * Georgia Institute of Technology(佐治亚理工学院)
AI总结 本文研究了学习重要性评分在KV缓存压缩中的局限性,发现基于位置的启发式方法和预填注意力信号在性能上优于复杂学习评分器。
Comments 14 pages, 7 figures, 5 tables
通过正则化策略优化实现欺骗性序列决策
机构 * Georgia Institute of Technology(佐治亚理工学院) ; University of Texas at Austin(德克萨斯大学奥斯汀分校) ; United States Military Academy(美国军事学院)
AI总结 本文提出三种正则化策略,用于在策略优化中主动欺骗对手关于系统奖励的误解,从而在保持高累积奖励的同时误导对手。
Comments 18 pages, 5 figures
H3Fusion: 有助于、无害且诚实的对齐大语言模型融合
机构 * Georgia Institute of Technology, USA(佐治亚理工学院)
AI总结 H3Fusion通过基于MoE的融合机制,在帮助性、无害性和诚实性方面优于现有方法。
强化反散射
机构 * School of Industrial and Systems Engineering(工业与系统工程学院) ; Georgia Institute of Technology(佐治亚理工学院) ; Department of Statistics(统计学系) ; University of Chicago(芝加哥大学) ; Department of Mathematics(数学系) ; Department of Computer Science(计算机科学系) ; University of Maryland College Park(马里兰大学 College Park 分校)
AI总结 本文通过强化学习智能优化传感器位置和波频,提升反散射成像的重建质量与资源利用效率。