大模型对齐与安全

MultiMind at SemEval-2025 Task 7: Crosslingual Fact-Checked Claim Retrieval via Multi-Source Alignment

多思维在SemEval-2025任务7中的应用：通过多源对齐实现跨语言事实核查声明检索

Mohammad Mahdi Abootorabi, Alireza Ghahramani Kure, Mohammadali Mohammadkhani, Sina Elahimanesh, Mohammad Ali Ali Panah

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 TriAligner通过多源对齐和对比学习，实现跨语言事实核查声明的高效检索，提升多语言环境下的信息准确性。

Comments 11 pages Published at the SemEval-2025 workshop

Diagnose Like A REAL Pathologist: An Uncertainty-Focused Approach for Trustworthy Multi-Resolution Multiple Instance Learning

像真正的病理科医生一样诊断：一种以不确定性为核心的多分辨率多实例学习方法

Sungrae Hong, Sol Lee, Jisu Shin, Jiwon Jeong, Mun Yong Yi

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） 纠错

专题命中 幻觉与事实性 ：trustworthy(title,abstract)

AI总结 本文提出UFC-MIL方法，通过多分辨率图像和不确定性校准，提升多实例学习的诊断可靠性。

Comments Accepted by IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2026

MicroProbe: Efficient Reliability Assessment for Foundation Models with Minimal Data

MicroProbe: 用极少数据高效评估基础模型的可靠性

Aayam Bansal, Ishaan Gangwani

机构 * Aayam Bansal（未知） ； Ishaan Gangwani（未知） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 MicroProbe通过仅使用100个精心选择的示例，高效评估基础模型可靠性，比随机采样方法提升23.5%的综合分数，显著降低评估成本并保持高覆盖率。

Comments ICML NewInML