Intel（英特尔）

Pushing the Limits of Sparsity: A Bag of Tricks for Extreme Pruning

推动稀疏性的极限：用于极端剪枝的技巧集合

Andy Li, Aiden Durrant, Milan Markovic, Tianjin Huang, Souvik Kundu, Tianlong Chen, Lu Yin, Georgios Leontidis

机构 * Department of Computing Science University of Aberdeen, UK（计算科学系阿伯丁大学，英国） ； Department of Computing Science & Interdisciplinary Institute University of Aberdeen, UK（计算科学系与跨学科研究所阿伯丁大学，英国） ； Department of Computer Science University of Exeter, UK（计算机科学系埃克塞特大学，英国） ； Intel Labs, USA（英特尔实验室，美国） ； Department of Computer Science University of North Carolina at Chapel Hill, US（计算机科学系北卡罗来纳大学教堂山分校，美国） ； School of Computer Science and Electronic Engineering University of Surrey, UK（计算机科学与电子工程学院 Surrey大学，英国） 纠错

AI总结 本文提出EAST方法，通过动态ReLU相位、权重共享和循环稀疏性技术，在极端稀疏性下实现稳定训练和性能提升。

Comments V4: moderate revisions and overall improvements for journal camera ready submission

Journal ref TMLR 11/2025 (https://openreview.net/pdf?id=XX9JdOJD8R)

EDIT: Early Diffusion Inference Termination for dLLMs Based on Dynamics of Training Gradients

EDIT：基于训练梯度动态的早期扩散推理终止用于dLLMs

He-Yen Hsieh, Hong Wang, H. T. Kung

机构 * CISPA ； Harvard University（哈佛大学） ； Intel Corporation（英特尔公司） 纠错

AI总结 EDIT通过利用训练梯度动态，在保持准确性的同时减少dLLM推理步骤，提升效率。

Comments 22 pages, 11 figures

Tensor-Parallelism with Partially Synchronized Activations

具有部分同步激活的张量并行

Itay Lamprecht, Asaf Karnieli, Yair Hanani, Niv Giladi, Daniel Soudry

机构 * Intel, Israel（英特尔（以色列）） ； Department of Electrical and Computer Engineering - Technion, Haifa, Israel（技术学院电子与计算机工程系（海法，以色列）） ； AWS AI Labs（亚马逊AWS人工智能实验室） 纠错

AI总结 CAAT-Net通过部分同步激活减少张量并行通信，提升LLM训练和推断效率

SafeCiM: Investigating Resilience of Hybrid Floating-Point Compute-in-Memory Deep Learning Accelerators

SafeCiM: 探究混合浮点计算内存深度学习加速器的鲁棒性

Swastik Bhattacharya, Sanjay Das, Anand Menon, Shamik Kundu, Arnab Raha, Kanad Basu

机构 * Department of Electrical and Computer Engineering, University of Texas at Dallas（得克萨斯大学达拉斯分校电气与计算机工程系） ； Advanced Architecture Research Group at Intel Corporation（英特尔公司先进架构研究组） ； Department of Electrical, Computer and Systems Engineering, Rensselaer Polytechnic Institute（拉特格斯理工学院电气、计算机与系统工程系） 纠错

AI总结 SafeCiM通过引入位翻转故障分析，提升了混合浮点计算内存加速器在硬件故障下的鲁棒性，显著降低了LLM推理准确性下降的风险。