大模型对齐与安全

Mitigating Hallucinations in LM-Based TTS Models via Distribution Alignment Using GFlowNets

Chenlin Liu, Minghui Fang, Patrick Zhang, Wei Zhou, Jie Gao, Jiqing Han

机构 * Harbin Institute of Technology, China（哈尔滨工业大学） ； Zhejiang University, China（浙江大学） ； Tsinghua University, Shenzhen, China（清华大学深圳研究院） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.AI

Comments Accepted to EMNLP 2025 Main Conference (Oral)

TPA: Temporal Prompt Alignment for Fetal Congenital Heart Defect Classification

Darya Taratynova, Alya Almsouti, Beknur Kalmakhanbet, Numan Saeed, Mohammad Yaqub

机构 * Department of Machine Learning Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) Abu Dhabi, UAE（机器学习系，Mohamed bin Zayed人工智能大学（MBZUAI），阿布扎比，阿联酋） ； Department of Computer Vision Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) Abu Dhabi, UAE（计算机视觉系，Mohamed bin Zayed人工智能大学（MBZUAI），阿布扎比，阿联酋） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)

TECP: Token-Entropy Conformal Prediction for LLMs

Beining Xu, Yongming Lu

机构 * Department of School of Engineering, Shenzhen MSU-BIT University, Shenzhen, China, 518000（深圳MSU-BIT大学工程学院部门） ； MSU-BIT-SMBU Joint Research Center of Applied Mathematics, Shenzhen MSU-BIT University, Shenzhen, China, 518000（应用数学联合研究中心） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

Enhancing Self-Driving Segmentation in Adverse Weather Conditions: A Dual Uncertainty-Aware Training Approach to SAM Optimization

Dharsan Ravindran, Kevin Wang, Zhuoyuan Cao, Saleh Abdelrahman, Jeffery Wu

机构 * Queen's University（女王大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

Why Language Models Hallucinate

Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang

机构 * OpenAI ； Georgia Tech（佐治亚理工学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL