Reconstructing KV Caches with Cross-layer Fusion For Enhanced Transformers
通过跨层融合重建KV缓存以增强Transformer
机构 * Taobao & Tmall Group of Alibaba(淘宝与天猫集团) ; GSAI, Renmin University of China(国际人工智能学院,中国人民大学) ; Nanjing University(南京大学)
AI总结 通过跨层融合重建KV缓存以提升Transformer性能,减少内存占用并提高效率。
Comments Accepted by ICLR2026