RUQuant: Towards Refining Uniform Quantization for Large Language Models
RUQuant: 向大语言模型的均匀量化精修迈进
机构 * Dalian University of Technology(大连理工大学) ; Peking University(北京大学) ; Macao Polytechnic University(澳门理工大学)
AI总结 本文提出RUQuant方法,通过理论分析和两阶段正交变换,解决激活分布非均匀导致的量化精度下降问题,在不需微调的情况下实现高精度量化。
Comments Accepted to KDD 2026. 12 pages, 9 figures