Dissecting Quantization Error: A Concentration-Alignment Perspective
分解量化误差:一种集中对齐视角
机构 * Qualcomm AI Research(高通人工智能研究)
AI总结 本文提出块集中对齐变换(CAT),通过提升权重与激活的对齐度以减少量化误差,验证了在4位精度下优于现有方法。
大厂专区
分解量化误差:一种集中对齐视角
机构 * Qualcomm AI Research(高通人工智能研究)
AI总结 本文提出块集中对齐变换(CAT),通过提升权重与激活的对齐度以减少量化误差,验证了在4位精度下优于现有方法。