大模型对齐与安全

UQLM: A Python Package for Uncertainty Quantification in Large Language Models

UQLM：用于大型语言模型不确定性量化的Python包

Dylan Bouchard, Mohit Singh Chauhan, David Skarbrevik, Ho-Kyeong Ra, Viren Bajaj, Zeya Ahmad

机构 * CVS Health（CVS健康） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 UQLM是一个用于检测大型语言模型幻觉的Python工具包，通过先进的不确定性量化技术提升模型输出的可靠性。

Comments Accepted by JMLR; UQLM Repository: https://github.com/cvs-health/uqlm

Journal ref Journal of Machine Learning Research, 2026

A Multi-Dimensional Quality Scoring Framework for Decentralized LLM Inference with Proof of Quality

一种用于去中心化大语言模型推理的多维质量评分框架

Arther Tian, Alex Ding, Frank Chen, Simon Wu, Aaron Chan

机构 * DGrid AI 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种多维质量评分框架，用于去中心化LLM推理中的质量评估，通过分解输出质量为多个模块化维度，并通过实验验证其在不同任务中的有效性。

Query-Level Uncertainty in Large Language Models

查询级不确定性在大语言模型中

Lihu Chen, Gerard de Melo, Fabian M. Suchanek, Gaël Varoquaux

机构 * Imperial College London（伦敦帝国学院） ； Hasso Plattner Institute / University of Potsdam（霍普夫纳研究所/波茨坦大学） ； Telecom Paris, Institut Polytechnique de Paris（电信巴黎学院，巴黎理工学院） ； Soda, Inria Saclay（Soda，法国国家信息与自动化技术研究院萨克利实验室） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本研究提出了一种无需训练的内部置信度方法，用于检测大语言模型的知识边界，通过查询级不确定性提高回答质量并降低计算成本。

Comments ICLR 2026