arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Intel(英特尔)

2026-01-06 至 2026-01-06 共收录 2
2503.00022 2026-01-06 cs.CL cs.AI cs.LG

KVCrush: Key value cache size-reduction using similarity in head-behaviour

KVCrush: 利用头部行为相似性进行键值缓存尺寸缩减

Gopi Krishna Jha, Sameh Gobriel, Liubov Talamanova, Nilesh Jain

机构 * Intel Corporation(英特尔公司)

AI总结 KVCrush通过利用头部行为相似性,减少KV缓存尺寸并提升模型精度,兼容多种实际部署方案。

Journal ref Proceedings of the 17th Asian Conference on Machine Learning (2025), PMLR

详情

展开后加载摘要…

URL PDF HTML 收藏
2305.07205 2026-01-06 cs.IR cs.AI cs.LG

Mem-Rec: Memory Efficient Recommendation System using Alternative Representation

Mem-Rec: 基于替代表示的记忆高效推荐系统

Gopi Krishna Jha, Anthony Thomas, Nilesh Jain, Sameh Gobriel, Tajana Rosing, Ravi Iyer

机构 * Intel Labs(英特尔实验室) University of California San Diego(加州大学圣地亚哥分校)

AI总结 Mem-Rec通过替代表示方法减少推荐系统内存占用并提升嵌入效率。

Journal ref Proceedings of the 15th Asian Conference on Machine Learning (2023), PMLR 222:518-533

详情

展开后加载摘要…

URL PDF HTML 收藏