视觉大模型 / VLM

Are foundation models for computer vision good conformal predictors?

计算机视觉基础模型是否是良好的符合预测器？

Leo Fillioux, Julio Silva-Rodríguez, Ismail Ben Ayed, Paul-Henry Cournède, Maria Vakalopoulou, Stergios Christodoulidis, Jose Dolz

机构 * MICS, CentraleSupélec, Université Paris-Saclay（MICS、中央理工巴黎高等学院、巴黎-萨克雷大学） ； LIVIA, ILLS, ETS Montréal（LIVIA、ILLs、蒙特利尔工程师学院） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文研究了计算机视觉基础模型在符合预测中的表现，发现其适合符合化过程，但校准置信度预测会降低效率，且视觉-语言模型在少样本适应中表现更优。

A unified framework for evaluating the robustness of machine-learning interpretability for prospect risking

评估机器学习可解释性在勘探风险中的鲁棒性统一框架

Prithwijit Chowdhury, Ahmad Mustafa, Mohit Prabhushankar, Ghassan AlRegib

机构 * Center for Energy and Geo Processing (CeGP)（能源与地球处理中心） ； Omni Lab for Intelligent Visual Engineering and Science (OLIVES)（智能视觉工程与科学实验室） ； School of Electrical and Computer Engineering（电气与计算机工程学院） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.LG

AI总结 本文提出统一框架，通过量化必要性和充分性来评估LIME和SHAP在高维结构化勘探风险数据中的鲁棒性。

Journal ref Geophysics 90, no. 3 (2025): IM103-IM118

ReliabilityRAG: Effective and Provably Robust Defense for RAG-based Web-Search

ReliabilityRAG: 有效且可证明的防御方法用于基于检索的Web搜索

Zeyu Shen, Basileal Imana, Tong Wu, Chong Xiang, Prateek Mittal, Aleksandra Korolova

机构 * Department of Computer Science（计算机科学系） ； Princeton University（普林斯顿大学） ； Center for Information Technology Policy（信息政策中心） ； Department of Electrical and Computer Engineering（电气与计算机工程系） ； NVIDIA（英伟达） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 ReliabilityRAG通过利用文档可靠性信息，提供更有效且可证明鲁棒的防御方法，以增强基于检索的Web搜索系统对对抗攻击的抵御能力。

Comments Accepted to NeurIPS 2025