大模型对齐与安全

SeFaR: Semantic Feature-aware Robustness Testing of Deep Neural Networks

SeFaR：面向深度神经网络的语义特征感知鲁棒性测试

Nusrat Jahan Mozumder, Divya Gopinath, Corina Pasareanu, Matthew Dwyer

机构 * University of Virginia（弗吉尼亚大学） ； KBR Inc.（KBR公司） ； NASA Ames（美国国家航空航天局艾姆斯研究中心） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 SeFaR是一个以语义特征为核心的视觉模型鲁棒性测试框架，可在保留需求满足性的前提下，生成测试输入以识别影响模型决策的特征，进而发现故障并关联相关特征。

Evaluation-Conditioned Training: Teaching Models to Generalize to Stronger Oversight Regimes

评估条件化训练：让模型泛化到更强的监督机制

Alec Harris, Kasey Corra, Archie Chaudhury, Yixiong Hao

机构 * AI Safety Initiative at Georgia Tech（佐治亚理工学院AI安全倡议） ； University of Chicago（芝加哥大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 该研究提出ECT后训练框架，作为SFT、PPO的附加组件，通过关联反馈保真度提升不完美反馈下的模型性能，在新闻生成和算术任务中验证其可改善目标行为。

Comments 16 pages, 7 figures. Accepted at the Agent Behavior Workshop at COLM 2026. Code: https://github.com/evaluationconditionedtraining/Evaluation-Conditioned-Training

More Accurate, Less Human: Gestalt Grouping in Vision Models

更准确，更少人工：视觉模型中的格式塔分组

Sudhanva Manjunath Athreya, Sai Phani Kumar Malladi

机构 * University of Utah（犹他大学） ； Siemens AG（西门子公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 该研究引入行为测试套件，对比45个不同类型视觉模型与人类在四项分组任务上的表现，发现部分封闭模型的感知组织对齐度低于基准准确率，为可视化研究提供了审核模型的可复用标准。

Comments 9 pages, 7 figures, 5 tables. Conditionally accepted to VISxVision 2026, a workshop at IEEE VIS 2026. Includes appendix with per-task stimuli, metric derivations, and full per-model results

Navigation Alone Is Not Enough: Evaluating Explanatory Assistive UI Agents

仅导航是不够的：评估解释性辅助UI智能体

Santosh Patapati

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究推出辅助UI智能体基准NeXUI，评估其导航、解释及用户控制能力，实验发现Gemini-3.5-Flash在该基准中表现不佳，为相关研发提供基础。

PragMatch: Separating Pragmatic Incongruity from Cross-Modal Mismatch in Large Vision-Language Models

PragMatch：分离大视觉语言模型中的语用不一致与跨模态不匹配

Zhanna Mukhametsharip, Vera Demberg, Varsha Suresh

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本研究提出PragMatch基准，揭示大视觉语言模型易受表面线索影响，为评估多模态语用推理提供测试平台。

Comments Under Review

Illusion or Integrity? Geometrical Consistency Metric for AIGC Video Quality Evaluation

幻觉还是完整性？用于AIGC视频质量评估的几何一致性指标

Yifei Xue, Yuanchen Fei, Hao Zhang, Chenzhi Nie, Tie ji, Yizhen Lao

机构 * Hunan University（湖南大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对现有AIGC视频质量评估缺乏物理定律保真度量化指标的问题，提出GeoCon-Bench基准，通过帧间几何一致性评估AIGC视频质量，经实验验证其可靠性。

Reducing Pretraining-Generation Mismatch in Diffusion Language Models

减少扩散语言模型中的预训练-生成不匹配

Xiaocheng Lu, Huabin Liu, Song Guo, Jianguo Li

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 该研究针对扩散语言模型的预训练-生成不匹配问题，提出 PCD 方法，在不改变推理模式的情况下，在 LLaDA2-Mini 和 Qwen 模型上显著提升了性能。

Comments 12 pages, 9 figures, 1 table

SafeSceneReason: A Multimodal Reasoning Benchmark Connecting Industrial Hazards with Accident Knowledge

SafeSceneReason：连接工业危害与事故知识的多模态推理基准

Yuanchi Zhu, Kang An, Tengyue Wang, Zhongyu Yang, Chenxu Du, Xinqi Yang, Hebao Zhu, Bokai Zhao, Tianyu Liang, Ziliang Wang, Faqiang Qian, Yunli Yang, Weiyang Shi, Qibing Ren

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 SafeSceneReason是关联工业危害与事故知识的多模态推理基准，含两类问答对，评估发现现有视觉-语言模型在工业安全推理上存显著弱点。

An Agentic Generative Large Language Model for Treatment Planning of Colorectal Cancer

用于结直肠癌治疗规划的智能体生成式大语言模型

Mengxian Lyu, Cheng Peng, Tim Jang, Ang Li, Mengyuan Zhang, Ziyi Chen, Leighton Elliott, Tianshi Liu, Lidice Galindo, Chiranjeevi Sainatham, Oscar F. Borja-Montes, Kaleb E. Smith, Ying Zhang, Lichao Sun, Jiang Bian, Gloria Lipori, Duane A. Mitchell, Elizabeth A. Shenkman, Yi Guo, Thomas J. George, Yonghui Wu

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本研究提出智能体生成式大语言模型GatorOnco，经大规模生物医学文本训练与领域适配，在结直肠癌治疗规划的临床评估中性能优于开源LLM，达到专家级水平，可缩小生成式AI在高风险诊疗规划领域的应用差距。

RAVEN-Eval: Rubric-Guided Automatic Evaluation for AI Video Generation Models Based on LMM Preference Judgement

RAVEN-Eval：基于大语言多模态模型（LMM）偏好判断的、采用评分准则引导的AI视频生成模型自动评估框架

Ziheng Jia, Jiaying Qian, Zicheng Zhang, Xiaorong Zhu, Lancheng Gao, Xiongkuo Min

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出RAVEN-Eval框架，基于LMM偏好判断与评分准则引导，可自动评估AI视频生成模型，已筛选任务、收集数据、评估模型与LMM并建立排行榜，为AIVGMs评估提供可扩展路径。

Triple Expert Learning from Noisy Labels for Semi-Supervised Vision Foundation Model Adaptation

面向半监督视觉基础模型适配的带噪标签三重专家学习

Xuanyu Liu, Zheng Fang, Hongyang He, Yundi Hong, Daizong Liu

机构 * The University of Warwick（华威大学） ； Wuhan University（武汉大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 TriNoL框架通过将未标记样本按伪标签置信度分配给三个LoRA专家，实现半监督视觉基础模型适配，提升了对带噪监督的鲁棒性且训练成本较低。

Comments Accepted for publication at the British Machine Vision Conference (BMVC) 2026. Official list of accepted papers: https://bmvc2026.bmva.org/programme/accepted_papers/

Label-Free Parkinson's Disease Screening from Face and Voice through Mechanistic Interpretability

基于机械可解释性的无标签面部与语音帕金森病筛查

Jiaheng Su, Yu Sun

机构 * California State Polytechnic University, Pomona（加州州立理工大学波莫纳分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本研究针对PD筛查需标签的问题，提出基于冻结预训练编码器的无标签面部+语音PD筛查方法，引入对齐原则，在YouTubePD基准上实现AUROC 0.802，为PD筛查提供新方案。

SymDiag: Explainable Diagnosis for LLM Reasoning via Neuro-Symbolic Verification

SymDiag：基于神经符号验证的LLM推理可解释诊断

Wenyao Cui, Huaping Zhang, Yongyi Huang, Qiuchi Li, Jian Xu, Cheng-Lin Liu, Chunxiao Gao, Juan Wang, Baohua Zhang

机构 * Beijing Institute of Technology（北京理工大学） ； Zhongguancun Academy（中关村学院） ； Xinjiang Future Enterprise Incubator Co., Ltd.（新疆未来企业孵化器有限公司） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 SymDiag是一种神经符号框架，将LLM推理验证重构为结构化故障诊断，可定位推理故障步骤、分离翻译与推理错误，在多类基准中提升了不可靠推理检测与推理修复反馈效果。

FitAQA: A Benchmark of Fitness Action Quality Assessment for Multimodal Large Language Models

FitAQA：面向多模态大语言模型的健身动作质量评估基准

Kaili Zheng, Kaiwen Wang, Xun Zhu, Qingyuan Yang, Chenyi Guo, Ji Wu

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本研究推出FitAQA基准，含2219个视频等数据，设计三项评估任务，发现当前MLLMs评估健身动作质量及定位错误存在瓶颈，视觉感知是关键瓶颈，相关数据和代码将公开。

SkillReason: Reasoning-Enhanced Agent Skill Retrieval for Implicit User Requests

SkillReason：面向隐式用户请求的推理增强型智能体技能检索

Donghong Jiang, Endian Lin, Luoping Cui, Hanqing Liu, Mingjie Liu, Fan Yang, Hong Wang, Zhao Yang, Chuang Zhu

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对隐式用户请求的技能检索难题，提出两阶段框架SkillReason，结合推理增强训练，在SkillReason-Bench等三个基准上取得最优性能，缩小任务目标与技能能力的语义差距。

A Fair Objective for Human-Empowerment-Preserving AI: Desiderata, Design, and Likely Behavioral Consequences

一种保留人类赋能的公平AI目标： desiderata、设计及可能的行为后果

Jobst Heitzig, Ram Potham

机构 * Potsdam Institute for Climate Impact Research（波茨坦气候影响研究所） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文设计了一种保留人类赋能的AI公平目标函数，通过公理化方法兼顾人类权力的不平等与风险规避，明确AI需赋能人类并管理人机权力平衡，还验证了其在典型场景的行为后果。

Comments Slightly extended version of paper accepted for Algorithmic Decision Theory 2026

VTO: Visual Tool Orchestration for Video Anomaly Detection

VTO：面向视频异常检测的可视化工具编排

Rui Wang, Yeteng Wu, Xianling Zhang, Mengshi Qi

机构 * State Key Laboratory of Networking and Switching Technology（网络与交换技术国家重点实验室） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； School of Digital Media & Design Art（数字媒体与设计艺术学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对视频异常检测中传统方法泛化差、多模态智能体工具编排难的问题，提出过程监督强化学习框架VTO，结合VAD-Tool工具集，在工具调度上较基线提升10.2%。

Comments Accepted by ACM MM 2026

Persuasive and Compliant Tendencies Predict Group Decision-Making in Humans and Language Models

说服倾向与顺从倾向预测人类及语言模型的群体决策

Wenwen He, Wenke Huang, Wei Yang Bryan Lim, Dacheng Tao

机构 * College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究引入DecisionQE框架，以狼人杀为测试平台，发现顺从倾向强的LLM在群体决策中合作优势更稳定，且顺从兼具支持合作与提升对抗角色隐藏能力的双重效应，为LLM安全评估提供了新视角。

Janus: An Algorithm-Evaluator Co-Evolution Framework for LLM-Driven Discovery under Expensive Evaluation Budgets

Janus：面向评估预算昂贵的大语言模型驱动发现的算法-评估器协同进化框架

Ximeng Liu, Qianlong Wang, Yingming Mao, Annan Li, Yatao Li, Shizhen Zhao, Jianmin Wu, Dawei Yin, Dou Shen

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 Janus是一个算法-评估器协同进化框架，它用LLM协同进化目标程序与代理评估器，通过真实结果校准、在线信用更新等策略缓解分布偏移，在五项任务中用更少真实评估实现更优性能，将评估器引导的LLM发现扩展到评估昂贵的科学领域。

Agentic AI-driven Immersive Simulation: A Knowledge-Aware Virtual Training Platform forHigh Dose Rate (HDR) Brachytherapy

智能体AI驱动的沉浸式模拟：用于高剂量率（HDR）近距离放射治疗的知识感知虚拟训练平台

Ronghua Xu, Kepha Barasa, Manoj Kumal, Xinyun Liu, Weihua Zhou, Xin Qian

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 该研究提出一款智能体AI驱动的沉浸式模拟平台，用于HDR阴道圆柱近距离放射治疗虚拟训练，集成VR、移动计算与RAG技术，经原型验证可提供高保真无风险训练环境，具备合适延迟与高RAG支持质量。

Verication-driven closed-loop multi-agent large language modelframework for code-compliant structural design

验证驱动的闭环多智能体大语言模型框架：面向符合代码规范的结构设计

Jianbin Luo, Weibin Lin, Yiran Lin, Qing Wei, Wei Guo

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出验证驱动的闭环多智能体LLM框架，通过耦合有限元验证系统与双节点结构提升结构设计的代码合规性，开源基准与脚本，性能提升显著且具可复现性。

Comments 20 pages, 21 figures

CyberAGENTS: Structured Autonomy for Agentic Gamified Learning in Cybersecurity

CyberAGENTS：面向网络安全领域智能体游戏化学习的结构化自主机制

Ivan Hornung, Deepthi Marasinghe Arachchige, Tharindu Kumarage, Garima Agrawal, Yuli Deng, Ying-Chih Chen, Huan Liu

机构 * Arizona State University（亚利桑那州立大学） ； Amazon AGI（亚马逊AGI） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出CyberAGENTS框架，通过结构化自主机制实现游戏化网络安全学习，经课堂评估验证其可提升学习者参与度与对AI响应的信任度，为相关系统设计提供蓝图。

Guixu: Valuation-Driven Data Discovery for Autonomous AI Agents with On-Chain Attestation

Guixu：面向具备链上证明的自主AI智能体的估值驱动型数据发现

Yifan Wu, Yuchen Peng, Jiaqi Chai, Yufei Qian, Xilin Li, Ke Chen, Lidan Shou

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 Guixu是面向自主AI智能体的估值驱动型数据发现系统，采用三阶段估值管线等技术，整合智能体支付协议与链上数据市场，实现任务、预算感知且可信的数据发现与采购。

Comments This paper has been accepted for presentation at VLDB 2026

On the use of foundation models in cognitive science

基础模型在认知科学中的应用

Raj Sanjay Shah, Alex Warstadt, Michael Frank, Sashank Varma

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文针对将基础模型作为认知模型的挑战，提出四阶段推理框架，明确连接假设作用，强调行为对齐需结合理论承诺等才具科学意义。

SurveyReview: A Reviewer-Aligned Benchmark for Survey Evaluators

SurveyReview：面向综述评估者的审稿人对齐基准

Yuheng Zhang, Yuanchun Wang, Fanjin Zhang, Ruyu Zhao, Juanzi Li, Jie Tang, Jing Zhang

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对现有LLM评估综述未与人类审稿人对齐的问题，提出SurveyReview基准及SurveyAlign基线，大幅提升自动评估与人类审稿人的对齐程度，为该领域提供参考。

CMU-Drive and V2V-VLA: Cooperative Multi-agent Unified Driving with Reasoning Benchmark and Vehicle-to-Vehicle Vision-Language-Action Models

CMU-Drive与V2V-VLA：具备推理能力的协同多智能体统一驾驶基准及车对车视觉-语言-动作模型

Hsu-kuang Chiu, Stephen F. Smith

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出协同多智能体统一驾驶基准CMU-Drive及车对车视觉-语言-动作模型V2V-VLA，解决现有VLA模型缺乏协同能力的问题，构建了协同自动驾驶研究的首个基准并将相关资源开源。

Mechanistic Interpretability-Guided Selective Fine-Tuning of Vision-Language Models for Centimeter-Level Flood Depth Estimation

面向厘米级洪水深度估计的、由机械可解释性引导的视觉-语言模型选择性微调

Nafis Fuad, Xiaodong Qian, Dongxiao Zhu

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 该研究针对城市洪水缺乏厘米级实时深度估计的问题，提出三种视觉-语言模型，通过机械可解释性分析确定关键交叉注意力层进行选择性微调，在合成与真实基准测试中均实现高精度洪水深度估计，大幅减少可训练参数。

Comments This Paper is accepted in International Conference on Machine Learning and Application (ICMLA) 2026

MetaSpace: Metamorphic Testing for Spatial Cognition in Embodied Agents

MetaSpace：面向具身智能体空间认知的变形测试

Gengyang Xu, Dongwei Xiao, Yiteng Peng, Shuai Wang

机构 * Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 MetaSpace是评估具身智能体空间认知的框架，基于变形测试原则生成测试用例，在三个场景中检测到SOTA MLLM驱动智能体的90422个空间认知错误，其SC分数远低于人类基准。

Comments 30 pages, 17 figures. Published in Proceedings of the ACM on Programming Languages (OOPSLA1)

Journal ref Proceedings of the ACM on Programming Languages, 10, OOPSLA1 (April 2026), 343-372

The Judge Knows When It Knows: Calibrated Abstention for LLM-Based A/B-Test Prediction

法官知道自己何时知晓：基于大语言模型的A/B测试预测的校准弃权（不执行）

Tyler Dooskin, Squoosh Technical Staff

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 该研究探究多模态LLM能否仅通过网页截图预测A/B测试结果，发现Gemini 3 Flash法官表现不佳，提出投票边际关卡隔离置信判断可提升性能，还在人类中重现了共识与真实结果脱节的现象，并发布了相关研究资源。

Comments 15 pages. Pre-registered experimental program with a public, tiered claims ledger; includes powered negative results, a label-validity audit, a cross-judge shared-prior measurement (n_eff ~ 2 of 16 votes), and a first-party 15-expert human baseline. Pre-registrations, statistical harness, human responses, and the full experiment ledger are released

Open Technical Problems in Open-Weight AI Model Risk Management

开放权重AI模型风险管理中的开放技术问题

Stephen Casper, Kyle O'Brien, Shayne Longpre, Elizabeth Seger, Kevin Klyman, Rishi Bommasani, Aniruddha Nrusimha, Ilia Shumailov, Sören Mindermann, Steven Basart, Frank Rudzicz, Kellin Pelrine, Avijit Ghosh, Andrew Strait, Robert Kirk, Dan Hendrycks, Peter Henderson, Zico Kolter, Geoffrey Irving, Yarin Gal, Yoshua Bengio, Dylan Hadfield-Menell

专题命中 安全评测 ：safety(abstract)；分类 cs.CY

AI总结 本文指出开放权重AI模型风险管理存在16项涉及多环节的技术挑战，强调相关研究需兼顾开放性，以实现其益处并减轻危害。

Comments Published in Transactions on Machine Learning Research (03/2026) Reviewed on OpenReview: https: // openreview. net/ forum? id= 8QyGLnFkzc