University of Oxford（牛津大学）

Target-Aware Calibration Data Selection for Preserving Uncertainty in Quantized Language Models

面向量化语言模型不确定性保留的目标感知校准数据选择

Zhen Yang, Sizai Hou, Kaiwen Zheng, Yaofang Liu, Liang He, Yixuan Chen, Kangning Cui

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； City University of Hong Kong（香港城市大学） ； Shanghai Institute of Optics and Fine Mechanics（上海光学精密机械研究所） ； University of Oxford（牛津大学） ； Yale University（耶鲁大学） 纠错

AI总结 本文针对量化语言模型的不确定性保留问题，提出DPQ方案，通过选择与目标对齐的校准数据，在多模型多基准实验中验证其能根据部署需求保留不同类型的不确定性行为。

Comments 20 pages, 5 figures. Accepted to EMNLP Findings 2026