视觉大模型 / VLM

Mask What Matters: Mitigating Object Hallucinations in Multimodal Large Language Models with Object-Aligned Visual Contrastive Decoding

关注关键要素：通过对象对齐的视觉对比解码缓解多模态大语言模型中的对象幻觉

Boqi Chen, Xudong Liu, Jianing Qiu

机构 * ETH Zurich（苏黎世联邦理工学院） ； Amazon（亚马逊） ； MBZUAI（穆罕默德·本·拉什德智能科学技术研究院） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(title,abstract)；分类 cs.CV

AI总结 本文提出了一种通过对象对齐的视觉对比解码缓解多模态大语言模型中对象幻觉的方法，具有计算开销低且兼容性强的特点。

DSO: Direct Steering Optimization for Bias Mitigation

DSO：直接转向优化以减轻偏差

Lucas Monteiro Paes, Nivedha Sivakumar, Yinong Oliver Wang, Masha Fedzechkina, Barry-John Theobald, Luca Zappella, Nicholas Apostoloff

机构 * Apple（苹果公司） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；VLM(abstract)；分类 cs.LG

AI总结 DSO通过强化学习优化激活转换，在VLMs和LLMs中实现公平性与能力的最佳平衡，提供推理时的偏见控制能力。

DeepSight: An All-in-One LM Safety Toolkit

DeepSight: 一个全方位的大型模型安全工具包

Bo Zhang, Jiaxuan Guo, Lijun Li, Dongrui Liu, Sujin Chen, Guanxu Chen, Zhijie Zheng, Qihao Lin, Lewen Yan, Chen Qian, Yijin Zhou, Yuyao Wu, Shaoxiong Guo, Tianyi Du, Jingyi Yang, Xuhao Hu, Ziqi Miao, Xiaoya Lu, Jing Shao, Xia Hu

机构 * Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)；分类 cs.CV、cs.AI

AI总结 DeepSight是一个开源工具包，旨在通过整合安全评估与诊断，提升大型模型的安全性与可解释性。

Comments Technical report, 29 pages, 24 figures

LabSafety Bench: Benchmarking LLMs on Safety Issues in Scientific Labs

LabSafety Bench: 对科学实验室中AI安全问题的LLM基准测试

Yujun Zhou, Jingdong Yang, Yue Huang, Kehan Guo, Zoe Emory, Bikram Ghosh, Amita Bedar, Sujay Shekar, Zhenwen Liang, Pin-Yu Chen, Tian Gao, Werner Geyer, Nuno Moniz, Nitesh V Chawla, Xiangliang Zhang

专题命中 幻觉与鲁棒性 ：vision language model(abstract)；分类 cs.LG

AI总结 LabSafety Bench通过评估LLMs和VLMs在实验室安全问题上的表现，揭示了当前模型在危险识别和风险评估方面的不足，强调了对AI安全评估框架的迫切需求。

Comments Published at Nature Machine Intelligence

Journal ref Nat Mach Intell 8, 20-31 (2026)

Adaptive Debiasing Tsallis Entropy for Test-Time Adaptation

自适应去偏Tsallis熵用于测试时适应

Xiangyu Wu, Dongming Jiang, Feng Yu, Yueying Tian, Jiaqi Tang, Qing-Guo Chen, Yang Yang, Jianfeng Lu

机构 * Nanjing University of Science and Technology（南京理工大学） ； Alibaba Cloud（阿里云） ； University of Texas at Dallas（德克萨斯大学达拉斯分校） ； University of Sussex（Sussex 大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出自适应去偏Tsallis熵用于测试时适应，通过引入非广延参数q来缓解预训练数据偏差，提升模型适应性能。

Comments Accepted for publication at ICLR 2026; 24 pages; 5 figures

Poly-Guard: Massive Multi-Domain Safety Policy-Grounded Guardrail Dataset

Poly-Guard: 大规模多领域安全政策导向的防护数据集

Mintong Kang, Zhaorun Chen, Chejian Xu, Jiawei Zhang, Chengquan Guo, Minzhou Pan, Ivan Revilla, Yu Sun, Bo Li

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 Poly-Guard是一个大规模多领域安全政策导向的防护数据集，旨在提升防护系统的安全性和领域适应性。

Comments NeurIPS 2025 Dataset & Benchmark