大模型对齐与安全

Attention Guided Alignment in Efficient Vision-Language Models

注意力引导的高效视觉-语言模型

Shweta Mahajan, Hoang Le, Hyojin Park, Farzad Farhadzadeh, Munawar Hayat, Fatih Porikli

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出AGE-VLM，通过交错交叉注意力层和空间知识提取，减少高效视觉-语言模型中的幻觉问题。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop on Efficient Reasoning

GContextFormer: A global context-aware hybrid multi-head attention approach with scaled additive aggregation for multimodal trajectory prediction

GContextFormer: 一种基于全局上下文的混合多头注意力方法，通过缩放加法聚合实现多模态轨迹预测

Yuzhi Chen, Yuanchang Xie, Lei Zhao, Pan Liu, Yajie Zou, Chen Wang

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 GContextFormer通过全局上下文感知的混合多头注意力和缩放加法聚合，实现无地图依赖的多模态轨迹预测，提升鲁棒性和预测精度。

Community-Aligned Behavior Under Uncertainty: Evidence of Epistemic Stance Transfer in LLMs

在不确定性下对齐的行为：LLMs中认知立场转移的证据

Patrick Gerard, Aiden Chang, Svitlana Volkova

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本研究通过删除事件知识验证LLMs在无知情况下仍能保持社区特定的行为模式，证明对齐编码了结构化且可推广的行为，推动更安全的LLM部署。

Comments 37 pages, EurIPS 2025

Minimax Multi-Target Conformal Prediction with Applications to Imaging Inverse Problems

最小最大多目标符合预测及其在成像反问题中的应用

Jeffrey Wen, Rizwan Ahmad, Philip Schniter

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） ； The Ohio State University（俄亥俄州立大学） ； Department of Biomedical Engineering（生物医学工程系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出了一种渐近最小最大方法用于多目标符合预测，应用于多指标盲图像质量评估、多任务不确定性量化和多轮测量获取，通过合成和MRI数据验证了其有效性。

Journal ref Transactions on Machine Learning Research, 11/2025. https://openreview.net/forum?id=53FEYwDQK0

Modeling and Calibration of Supplier Selection Problem in Freight Agent-Based Simulations

货运 agent 仿真实验中供应商选择问题的建模与校准

Abdelrahman Ismael, Taner Cokyasar

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本研究提出了一种大规模校准的 agent 仿真实验模型，用于建模和校准供应商选择问题，以提高货运网络流的预测精度和供应链的韧性。