Huawei（华为）

AsymSpec: Context-Asymmetric Speculative Decoding for Agentic LLMs

AsymSpec：面向智能体大语言模型的上下文非对称投机解码

Sheng Liang, Yongyue Zhang, Nathanael Brian, Hang Lv, Hao Wang, Chen Zhang, Yong Liu

机构 * Huawei Technologies Co., Ltd.（华为技术有限公司） ； University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 AsymSpec是面向智能体大语言模型的非对称投机解码框架，通过轻量级草稿读全输入、大型验证模型用压缩视图，实现近90%完整上下文准确率，获1.3-1.7倍吞吐量加速且计算成本仅0.2-0.3倍。

Comments EMNLP Main Conference 2026

Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory

超越缩放：基于经验驱动工作流与经验图记忆的硬件内核优化自演进大语言模型智能体

Siyuan Chen, Runlin Hou, Shenxiu Wu, Yansong Sun, Junming Cao, Yiyu Zhang, Shudi Shao, Junhao Qiu, Zhichao Lu, Qingfu Zhang

机构 * City University of Hong Kong（香港城市大学） ； Huawei Technologies Ltd.（华为技术有限公司） 纠错

AI总结 本文提出KOPE框架，通过经验图记忆与主动上下文管理实现硬件内核优化自演进LLM智能体，在相同模型设置下其加速比、通过率等关键指标显著优于现有基线方法。

SHIFT-LLM: Distribution Shift Correction in Depth-Pruned LLMs

SHIFT-LLM：深度剪枝大语言模型中的分布偏移校正

Ali Bahri, Hang Li, Hongliang Li, Zhitang Chen

机构 * Huawei Noah’s Ark Lab（华为诺亚方舟实验室） 纠错

AI总结 SHIFT-LLM是一种无需训练的剪枝后校正框架，通过插入线性残差适配器缓解深度剪枝大语言模型的分布偏移，可在低样本无梯度下恢复准确率，在Llama-3.1-8B-Instruct上增益达15.7个点。