大模型对齐与安全

Agentic AI-Enabled Solar-Powered High-Altitude Platforms for Sustainable SAGINs

智能体人工智能赋能的太阳能驱动高空平台用于可持续空天地一体化网络（SAGINs）

Haoxiang Luo, Bang Huang, Mohamed-Slim Alouini

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本研究针对SAGINs的耦合能源需求，提出原生适用于HAP的智能体AI框架，经灾难案例验证，可提升能源效率等性能，为SAGINs可持续发展提供关键方向。

From IR to RecSys: Evaluating LLM-based Judges in Cranfield-style Recommendation Collections

LLM-judges是否能在 Cranfield 风格的推荐系统评估中与人类相关性一致？

Gustavo Penha, Aleksandr V. Petrov, Claudia Hauff, Enrico Palumbo, Ali Vardasbi, Edoardo D'Amico, Francesco Fabbri, Alice Wang, Praveen Chandar, Henrik Lindstrom, Hugues Bouchard, Mounia Lalmas

专题命中 安全评测 ：alignment(abstract)

AI总结 本文探讨了LLM是否能作为自动评判者解决推荐系统评估的可扩展性问题，通过实验发现LLM与人类在排序一致性上表现良好，具有实际应用价值。

Comments v2 paper accepted at the RecSys'26 Unified Search & Recommendation Workshop

On the Robustness of Temporal Vision-Language Models for Surgical Endoscopy Videos

手术内窥镜视频的时间视觉语言模型的鲁棒性研究

Darakshan Rashid, Raza Imam, Ufaq Khan, Muhammad Bilal, Shazad Ashraf, Dwarikanath Mahapatra, Mohammad Yaqub, Muhammad Haris Khan, Imran Razzak, Brejesh Lall, Lena Maier-Hein, Yutong Xie

机构 * Indian Institute of Technology Delhi（印度理工学院德里分校） ； Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学） ； Birmingham City University（伯明翰城市大学） ； University Hospitals Birmingham（伯明翰大学医院） ； Khalifa University（哈利法大学） ； German Cancer Research Center (DKFZ)（德国癌症研究中心） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究针对手术内窥镜视频的时间视觉语言模型，构建Endo-C6基准测试其鲁棒性，提出RobustEndoCLIP，可提升模型在内窥镜损坏下的性能与鲁棒性。

Comments Accepted to MICCAI 2026

Beyond Simplification: DFT-GEN for Fidelity-Preserving Visual Accessibility in Dyslexia-Friendly Educational Texts

超越简化：用于阅读障碍友好型教育文本中保真视觉可访问性的DFT-GEN

Jiaqian Yu, Chen Jason Zhang, Haoyang Li, Guoqiong Ivanka Huang

专题命中 安全评测 ：safety(abstract)

AI总结 本研究针对阅读障碍人群的教育文本，提出DFT-GEN框架，通过专属可访问性层兼顾信息保真与视觉可访问性，在双语考试条目上取得显著效果。

Comments Preprint. Code available at https://github.com/MorrisYUJQ/DFT-GEN

A Temporal Barrier Framework for Collision Avoidance in Multi-Agent Autonomous Aerial Vehicles

用于多智能体自主飞行器避障的时间屏障框架

Benedikt Barthel Sorensen, Mitchell Black, Erfaun Noorani, Themistoklis Sapsis

机构 * Massachusetts Institute of Technology（麻省理工学院） ； MIT Lincoln Laboratory（麻省理工学院林肯实验室） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 该研究针对多自主飞行器避障问题，提出对抗性碰撞时间嵌入控制屏障函数的aTTC-CBF方法，经仿真验证其在提升航路点推进速度的同时降低了碰撞率。

How Good are Foundation Models in Longitudinal MRI Disease Progression Reasoning?

基础模型在纵向MRI疾病进展推理中的表现如何？

Wafa Al Ghallabi, Ritesh Thawkar, Sara Ghaboura, Omkar Thawakar, Numan Saeed, Dana Al Nuaimi, Ajnas Alkatheeri, Salman Khan, Fahad Shahbaz Khan

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Department of Health Abu Dhabi（阿布扎比卫生部） ； Fatima College of Health Sciences（法蒂玛健康科学学院） ； Linköping University（林雪平大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究推出Time-Aware Multi-View MRI基准，评估16个视觉-语言模型在纵向MRI疾病进展推理中的表现，发现模型在变化方向识别等方面存在缺陷，多视角输入对模型性能有特定影响。

Comments Accepted at MICCAI 2026 (Early Accept). 11 pages, 3 figures, 2 tables

How LLMs Respond to Escalating Delusions: Four Longitudinal Trajectories of Model Behavior

大语言模型（LLM）对日益严重的妄想的反应：模型行为的四种纵向轨迹

Anna Sterna, Kacper Dudzic, Karolina Drożdż, Hubert Plisiecki, Marcin Rządeczka, Marcin Moskalewicz

专题命中 安全评测 ：safety(abstract)

AI总结 本研究通过30天的纵向实验，评估15种主流LLM对模拟精神症状进展的反应，识别出四种不同行为轨迹，提出需从识别时机、稳定性和干预准确性维度纵向评估LLM加剧AI精神病的潜力。

GateTruth: Auditing the Rigor of RTL Design Benchmarks via Mutation Testing

GateTruth：通过变异测试审计RTL设计基准的严谨性

Meet Bhadra

专题命中 安全评测 ：trustworthy(abstract)

AI总结 GateTruth是用于审计RTL基准测试平台严谨性的变异测试引擎，实验显示多数RTLLM v2.0基准测试平台未达95%变异体杀伤阈值，4096-token输出上限会影响模型排名，其成果推动将变异体杀伤认证设为RTL基准的标准要求。

Can Vision-Language Models Assess Proxemic Risk from Egocentric Robot Images?

视觉-语言模型能否从机器人的第一人称视角图像评估人际距离风险？

Vladyslava Rudas, Dmytro Kuzmenko

机构 * National University of Kyiv-Mohyla Academy（基辅莫希拉国立大学） ； University of Turin（都灵大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 该研究评估了InternVL、Qwen-VL、SmolVLM三种VLM在机器人第一人称视角图像人际距离危险分类中的表现，发现Qwen-VL经特定优化后高危险召回率更高，当前VLM在相关推理定位上仍有局限。

Comments Accepted at the EMR 2026 workshop at ECCV 2026 (non-archival)

Semantic Drift in Bug Resolution: How Behavioral Signals Propagate from Reports to Tests and Patches

错误修复中的语义漂移：行为信号如何从报告传播到测试和补丁

Wendkûuni C. Ouédraogo, Yinghua Li, Xueqi Dang, Paweł Borsukiewicz, Liang Xiao, Lingfeng Bao, Anil Koyuncu, Jacques Klein, David Lo, Tegawendé F. Bissyandé

专题命中 安全评测 ：alignment(abstract)

AI总结 研究错误修复中行为信号跨工件传播的量化问题，核心方法是引入Desc2Fix框架，通过结构化行为锚等实现语义对齐，主要贡献是证明行为对齐可测且非相似性可比，能为测试和补丁相关工作提供可重现信号，助力多项错误修复任务。

Generalizable Operating Room Expert with Multimodal Enhancement

具备多模态增强能力的可泛化手术室专家

Peiqi He, Zhenhao Zhang, Yixiang Zhang, Jiaxin Liu, Xiongjun Zhao, Shaoliang Peng

专题命中 安全评测 ：alignment(abstract)

AI总结 针对手术室空间建模的局限，提出仅用RGB图像推理的多模态大语言模型OR-Expert，通过内部推导空间线索实现三维推理，在手术室基准上达SOTA且泛化性良好。

Comments Accepted by ACM Multimedia 2026

Do Not Forget the Obvious - RISC: A Risk-Informed Slice-Coverage Protocol for Safe Autonomous Driving

勿忽视显而易见的内容——RISC：一种用于安全自动驾驶的风险感知切片覆盖协议

Fabian Hüger

机构 * CARIAD SE 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 该研究提出RISC协议，将安全问题转化为风险切片，通过风险引导选择提升自动驾驶关键故障发现率，可应用于多类自动驾驶子系统，补充现有测试验证流程。

Comments 14 pages, 3 figures, 5 tables. Accepted at the ECCV 2026 Workshop on Safe and Defensive Autonomous Driving (SDAD). Non-archival workshop paper

Video2Track: From Real-World Interaction Videos to Steerable Adversarial Closed-Track Testing for Automated Driving Systems

Video2Track：从真实世界交互视频到自动驾驶系统的可操控对抗性封闭赛道测试

Mengjie Tian, Xinrui Zhang, Tianyu Li, Peizhi Zhang, Guirong Zhou, Haojie Feng, Junpeng Huang, Qixiang Zhang, Lu Xiong

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出Video2Track框架，通过两个耦合模块将真实驾驶视频交互场景转化为可操控对抗性封闭赛道测试，可复现实景交互场景并生成可控变体，为ADS验证提供可扩展方案。

Repurposing RGB-based Foundation Model for Depth Estimation on Thermal Images Using Hierarchical Supervision

利用分层监督将基于RGB的基础模型重新用于热图像的深度估计

Jie Hong, Tingtian Li, Xuesong Li, Xiao Li

机构 * The University of Hong Kong（香港大学） ； Commonwealth Scientific and Industrial Research Organisation (CSIRO)（英联邦科学与工业研究组织） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对热图像深度估计中RGB基础模型分层表示利用不足的问题，提出RGB-HS框架，通过分层监督和基于图像质量的标记加权对齐，在基准上实现了有竞争力的性能。

Comments Accepted in IROS 2026

When Repository Labels Are Not Image-Level Truth: A Supervision Auditing Framework for Chest Radiograph AI

当仓库标签并非图像级真值：面向胸部X光AI的监督审计框架

Yesika Alexandra Agudelo-Londoño, Jhon Wilmer Pino-Román, Brahian Carrera Rodríguez, José Miguel Castañeda-Bedoya, Juan Pablo Gómez-López, Aura C. Puche-Sarmiento, Niharika S. D'Souza, Juan Sebastian Osorio-Valencia, Jon E. Duque-Grajales, Jazmín Ximena Suárez-Revelo, Jorge Mario Vélez-Arango, Gabriel Castrillón

机构 * Medical Imaging and AI in Healthcare Research Group, Biosciences Center, SURA（SURA生物科学中心医疗成像与医疗保健人工智能研究组） ； Universidad de Antioquia（安蒂奥基亚大学） ； IBM Research（IBM研究院） ； Neuroradiology Institute, Universitätsklinikum Erlangen（埃尔兰根大学医院神经放射学研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 针对胸部X光仓库标签非图像级真值的问题，提出RSA框架，以MIMIC-CXR心脏肥大数据为例发现其标签与专家评估一致性极低，用专家精选队列训练的DenseNet121模型达0.853的ROC-AUC，强调监督审计的重要性。

Comments Accepted (oral) at the 3rd MICCAI Student Board (MSB) EMERGE Workshop, MICCAI 2026. This is the authors' version; the final authenticated version will appear in Springer Lecture Notes in Computer Science (LNCS). 10 pages, 3 figures

CapProbe: Evaluating Detailed Image Captions via Full-Scene Dense Question Answering

CapProbe：通过全场景密集问答评估详细图像描述

Mouxiao Huang, Qiangyu Yan, Borui Jiang, Han Shu

机构 * Huawei Technologies（华为技术有限公司） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 CapProbe是用于评估VLMs生成的详细图像描述的全场景密集问答基准，通过区域对齐的事实核查，揭示了13个VLMs的覆盖差距、能力-效率权衡及遗漏的失败模式，相关资源将很快发布。

Not a Monolith: Lab-Level Divergence in the Cooperative Equilibria of Chinese Frontier LLM Agents

并非单一整体：中国前沿大语言模型智能体合作均衡的实验室层面差异

Francisco León Zúñiga Bolívar

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究以四款中国前沿LLM智能体为对象，消除混淆因素后发现，合作倾向的设定单位是实验室，中国模型并非单一整体，且生态系统内差异大于东西差异。

Comments 9 pages, 8 tables. Companion study to arXiv:2605.29874, under a fixed-converter design. Code and replication package: https://github.com/arqFranciscoLeon/evollm (archived: https://doi.org/10.5281/zenodo.20248614)

Dissect and Prune: Enhancing Robustness in AI-Generated Image Detection

剖析与剪枝：增强AI生成图像检测的鲁棒性

Dahye Kim, Jaehyun Choi, Hyun Seok Seong, Seongho Kim, Donghun Lee, Sungwon Yi, Jang-Ho Choi

机构 * Korea AI Safety Institute (AISI), ETRI, Seongnam, South Korea（韩国人工智能安全研究所（AISI）、ETRI、Seongnam韩国） ； Department of Artificial Intelligence, Sungkyunkwan University, Suwon, South Korea（人工智能系，全州大学，Suwon韩国） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对AI生成图像检测器对真实类别的预测偏差问题，提出DEAR方法，利用修复图像识别并剪除干扰特征，从而提升对未知生成器和后处理的鲁棒性。

Comments Accepted to ICML 2026. 26 pages, 9 figures, 9 tables. Includes appendix

MuSS: A Large-Scale Dataset and Cinematic Narrative Benchmark for Multi-Shot Subject-to-Video Generation

MuSS：一个多镜头数据集和电影叙事基准用于多镜头主体到视频生成

Haojie Zhang, Di Wu, Bingyan Liu, Linjie Zhong, Yuancheng Wei, Xingsong Ye, Nanqing Liu, Yaling Liang

机构 * South China University of Technology（华南理工大学） ； Fudan University（复旦大学） ； Yunnan Normal University（云南师范大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出MuSS数据集和电影叙事基准，解决多镜头视频生成中的叙事逻辑、时空对齐和复制粘贴问题，通过改进的标注流程和反复制粘贴指标提升生成质量。

Comments 17 pages, 9 figues

Right Answer, Wrong Heat: Explanation-Aware Evaluation and Thermal-Grounded Feedback for MLLMs on Infrared Images

正确答案，错误依据：面向红外图像多模态大语言模型的感知感知评估与热基础反馈机制

Yongsong Huang, Xiaofeng Liu, Tomo Miyazaki, Yaohou Fan, Shinichiro Omachi

专题命中 安全评测 ：trustworthy(abstract)

AI总结 该研究针对红外图像多模态大语言模型仅以答案准确率评估的问题，提出感知感知评估框架与无需训练的热基础反馈机制，可提升解释热基础度，为可信红外场景理解模型的开发提供了方向。

Comments This manuscript is currently under peer review. Copyright may subsequently be transferred to the publisher, after which the availability of this version may be subject to the publisher's policy

SI-Edit: Toward Sketch-Instruction Guided Local Image Editing with Pixel-Level Precision

SI-Edit：面向草图-指令引导的像素级精度局部图像编辑

Weixin Ye, Wei Wang, Hongguang Zhu, Xuecheng Nie

机构 * Institute of Information Science, Beijing Jiaotong University（北京交通大学信息科学研究所） ； City University of Macau（澳门城市大学） ； Meitu Inc（美图公司） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对基于草图的图像编辑缺乏像素级精度及对应数据集、评估指标的问题，提出SI-Edit框架，构建SI-Data数据集并建立评估指标，实现更可靠的结构控制与像素级局部编辑效果。

Comments accepted by ACM MM 2026

Robust Fault Detection and Classification in Power Systems via Physics-Informed and Data-Driven Learning

基于物理信息与数据驱动学习的电力系统鲁棒故障检测与分类

Biswash Basnet, Varsha Sen

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出结合物理信息与数据驱动学习的智能框架，基于SMOTE平衡数据集训练PINN等模型，实现电力系统故障的鲁棒检测与分类，在噪声及训练数据占比波动下仍保持高准确率，可用于电网实时保护与广域监测控制。

Comments 19 pages, published journal article

Journal ref Journal of Electrical Engineering and Automation 7(3), 241-259 (2025)

MRBench: A Comprehensive Benchmark for Human Motion-Text Retrieval

MRBench：用于人体动作-文本检索的综合基准

Fulong Liu, Liang Xu, Chengqun Yang, Yuhao Zhang, Yichao Yan, Xiaokang Yang

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出综合动作-文本检索基准MRBench，针对现有基准缺陷构建，提出轻量级粒度感知模型，提升混合粒度检索效果，为动作-语言对齐评估提供测试平台。

Assessing Risks of Hydro-Generator Shaft Fatigue from Data Center Load Oscillations

评估数据中心负载振荡对水轮发电机轴疲劳的风险

Kaustav Chatterjee, Meghana Ramesh, Shuchismita Biswas, Brett A. Ross, Antos C. Varghese, Sameer Nekkalapu, Slaven Kincic

专题命中 安全评测 ：safety(abstract)

AI总结 研究大型AI数据中心负载振荡对水轮发电机轴疲劳的风险，基于双质量涡轮发电机轴表示法开发电磁暂态仿真模型，分两阶段评估风险。通过频率扫描等方法发现放大受惯性比和阻尼影响，古德曼安全系数可评估振荡对水轮发电机寿命的影响。

When the Defense Writes the Refusal: Auditing Keyword-Scored Evaluation of Inference-Time Defenses for Multimodal Large Language Models

多模态大语言模型推理时防御方法的比较分析

Bulat Nutfullin, Vladimir Evgrafov, Dmitry Namiot

专题命中 安全评测 ：safety(abstract)

AI总结 本文比较评估了三种推理时防御方法及其组合在InternVL和Qwen-VL系列共8个模型上的效果，发现无单一防御在所有设置中占优，组合防御导致良性查询过度拒绝率达97-100%，而简单安全提示在保持实用性的同时带来适度安全提升。

Comments 15 pages, 3 figures. Conditionally accepted at DAMDID/RCDL 2026; revised after peer review

BRIDGE: Background Routing and Isolated Discrete Gating for Coarse-Mask Local Editing

BRIDGE：背景路由与孤立离散门控用于粗掩膜局部编辑

Peilin Xiong, Honghui Yuan, Junwen Chen, Keiji Yanai

机构 * Department of Informatics, The University of Electro-Communications（信息学系，电通大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 BRIDGE通过背景路由和离散门控技术解决粗掩膜局部编辑中掩膜形状偏差问题，提升编辑区域与背景的稳定性与一致性。

Comments 24 pages, 15 figures

Describe-to-Score: A text-guided framework for image complexity assessment

描述到评分：一种用于图像复杂度评估的文本引导框架

Shipeng Liu, Liang Zhao, Dengfeng Chen, Zhonglin Zhang

机构 * Xi’an University of Architecture and Technology（西安建筑科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究针对现有图像复杂度评估方法无法捕捉高级语义的问题，提出文本引导框架D2S，仅训练阶段引入描述语义正则化，在IC9600基准达SOTA，跨任务也具竞争力。

Comments Accepted by Pattern Recognition

TARGET: Automated Scenario Generation from Traffic Rules for Testing Autonomous Vehicles via Validated LLM-Guided Knowledge Extraction

Yao Deng, Jiaohong Yao, Zhi Tu, Xi Zheng, Mengshi Zhang, Tianyi Zhang

专题命中 安全评测 ：safety(abstract)

Journal ref IEEE Transactions on Software Engineering, Jul. 2025, pp. 1950-1968, vol. 51

Translation Tag Team: Formal Rules and LLMs Translate More Macros Together than Apart

翻译搭档团队：形式化规则与大语言模型协同翻译宏比单独翻译更有效

Brent Pappas, Joseph Zalusky, Zachary Burkett, Paul Gazzillo

专题命中 安全评测 ：safety(abstract)

AI总结 该研究提出形式化翻译器MerC，结合MerC与大语言模型（LLMs）的搭档方法，在宏翻译任务中比单独使用任一技术更优，可降低失败率并提升翻译覆盖率。

Comments 13 pages, 7 figures, 2 tables, 8 listings, conference. To be published in ASE 2026

Cross-Geometry Transferability Assessment of Universal Machine Learning Interatomic Potentials: From Bulk Materials to Atomic Nanowires

通用机器学习原子间势的跨几何可迁移性评估：从块体材料到原子纳米线

Pedro H. M. Zanineli, Bruno Focassio, Gabriel R. Schleder

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究评估通用机器学习原子间势的跨几何可迁移性，构建ZrO₂多构型数据集，测试26个预训练模型，发现零样本预测存在几何依赖型误差，对比不同训练策略，指出适配低配位离子纳米结构需多样目标数据与物理验证。