University of Wisconsin-Madison（威斯康星大学麦迪逊分校）

CafeQ: Calibration-free Quantization via Learned Transformations and Adaptive Rounding

CafeQ: 无需校准的量化方法通过学习变换和自适应四舍五入

Ziteng Sun, Adrian Benton, Samuel Kushnir, Asher Trockman, Vikas Singh, Suhas Diggavi, Ananda Theertha Suresh

机构 * Google（谷歌） ； University of Wisconsin Madison（威斯康星大学麦迪逊分校） ； University of California Los Angeles（加州大学洛杉矶分校） 纠错

AI总结 CafeQ通过学习变换和自适应四舍五入方法，在无需校准数据的情况下提升大语言模型的量化效果，实现更高效的推理性能。

Your Pre-trained LLM is Secretly an Unsupervised Confidence Calibrator

你的预训练大语言模型实际上是一个未监督的置信度校准器

Beier Luo, Shuoyuan Wang, Sharon Li, Hongxin Wei

机构 * Department of Statistics and Data Science, Southern University of Science and Technology（统计与数据科学系，南方科技大学） ； Department of Computer Sciences, University of Wisconsin-Madison（计算机科学系，威斯康星大学麦迪逊分校） 纠错

AI总结 本文提出DACA方法，通过无监督方式优化后训练模型的置信度校准，减少不一致预测带来的过度自信问题，提升模型可靠性。

Comments NeurIPS 2025