arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Intel(英特尔)

2026-08-28 至 2026-08-28 共收录 2
2508.06753 2026-08-28 cs.AI cs.LG cs.PF 版本更新

Pushing the Envelope of LLM Inference with Ultra-Low-Bit Quantized Models

推动AI-PC和英特尔GPU上LLM推理的边界

Evangelos Georganas, Dhiraj Kalamkar, Alexander Heinecke, Pradeep Dubey

机构 * Intel Corporation(英特尔公司)

AI总结 本文通过优化CPU和GPU上的低比特推理框架,实现了在AI-PC和英特尔Xe GPU上更高效的LLM推理,提升了端到端延迟和GEMM性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.00280 2026-08-28 cs.LG cs.DC cs.PF 版本更新

ReLATE: Accelerating Tensor Decomposition via Safe and Efficient Learning of Sparse Encodings

ReLATE:通过安全高效学习稀疏编码加速张量分解

Ahmed E. Helal, Fabio Checconi, Jan Laukemann, Yongseok Soh, Jesmin Jahan Tithi, Fabrizio Petrini, Jee Choi

机构 * Intel Corporation(英特尔公司) University of Erlangen-Nürnberg(埃尔兰根-纽伦堡大学) University of Oregon(俄勒冈大学)

AI总结 ReLATE是一种学习增强框架,通过混合强化学习算法发现安全高效的稀疏编码,可在低开销下加速张量分解,在真实稀疏张量上较专家设计格式最高提速2倍。

Comments Accepted to SC 2026

详情

展开后加载摘要…

URL PDF HTML 收藏