大模型对齐与安全

Exploiting the Final Component of Generator Architectures for AI-Generated Image Detection

利用生成器架构的最终组件进行AI生成图像检测

Yanzhu Liu, Xiao Liu, Yuexuan Wang, Mondal Soumik

机构 * Institute for Infocomm Research, A*STAR, Singapore（信息与通信研究 institute，A*STAR，新加坡） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出通过生成器最终组件污染真实图像以提高AI生成图像检测的准确率，实验表明其在不同生成器上的泛化能力优异。

Local-Global Prompt Learning via Sparse Optimal Transport

通过稀疏最优传输实现局部-全局提示学习

Deniz Kizaroğlu, Ülku Tuncer Küçüktas, Emre Çakmakyurdu, Alptekin Temizel

专题命中 安全评测 ：alignment(abstract)

AI总结 SOT-GLP通过稀疏最优传输实现局部-全局提示学习，提升少样本分类和分布外检测性能。

Comments 9 pages, 3 figures, 4 tables. Code available at GitHub

Listening with the Eyes: Benchmarking Egocentric Co-Speech Grounding across Space and Time

用眼睛倾听：跨时空的自体视觉共指基准测试

Weijie Zhou, Xuantang Xiong, Zhenlin Hu, Xiaomeng Zhu, Chaoyang Zhao, Honghui Dong, Zhengyou Zhang, Ming Tang, Jinqiao Wang

机构 * Beijing Jiaotong University（北京交通大学） ； Foundation Model Research Center, Institute of Automation, Chinese Academy of Sciences (CASIA)（基础模型研究中心、自动化研究所、中国科学院（CASIA）） ； Tencent Robotics X（腾讯机器人X） ； Department of Computer Science and Engineering, The Hong Kong University of Science and Technology (HKUST)（计算机科学与工程系、香港科学与技术大学（HKUST）） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学深圳学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出EcoG-Bench，通过严格测试语音-手势绑定，揭示多模态接口可能限制时间对齐线索的可观察性。

MedQ-Deg: A Multidimensional Benchmark for Evaluating MLLMs Across Medical Image Quality Degradations

MedQ-Deg：一个多维基准，用于评估医疗图像质量退化下的多模态大语言模型

Jiyao Liu, Junzhi Ning, Chenglong Ma, Wanying Qu, Jianghan Shen, Siqi Luo, Jinjie Wei, Jin Ye, Pengze Li, Tianbin Li, Jiashi Lin, Hongming Shan, Xinzhe Luo, Xiaohong Liu, Lihao Liu, Junjun He, Ningsheng Xu

机构 * Fudan University（复旦大学） ； Shanghai AI Lab（上海人工智能实验室） ； Shanghai Jiaotong University（上海交通大学） ； Imperial College London（伦敦帝国理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 MedQ-Deg是一个多维基准，用于评估医疗图像质量退化下多模态大语言模型的性能，揭示模型在不同退化类型下的表现差异及置信度校准问题。

Comments 29 pages, 11 figures

Multi-Agent Off-World Exploration for Sparse Evidence Discovery via Gaussian Belief Mapping and Dual-Domain Coverage

多智能体非世界探索用于稀疏证据发现的高斯信念映射与双域覆盖

Zhuoran Qiao, Tianxin Hu, Thien-Minh Nguyen, Shenghai Yuan

机构 * National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） ； The University of Queensland（昆士兰大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出基于高斯信念映射和双域覆盖的多智能体路径规划框架，用于非世界稀疏证据发现，通过平衡信息获取与操作安全，提升探索效率和鲁棒性。

From Job Postings to Curriculum Decisions: Using AI to Generate Workforce Intelligence for MSW Program Planning

从职位发布到课程决策：利用AI生成劳动力情报用于MSW课程规划

Barbara S. Hiltz, Bryan G. Victor, Brian E. Perron

专题命中 安全评测 ：alignment(abstract)

AI总结 本文利用AI分析职位发布数据，为MSW课程规划提供劳动力情报，揭示了不同实践领域的能力需求及发展趋势。

SIQA: Toward Reliable Scientific Image Quality Assessment

SIQA：迈向可靠的科学图像质量评估

Wenzhe Li, Liang Chen, Junying Wang, Yijing Guo, Ye Shen, Farong Wen, Chunyi Li, Zicheng Zhang, Guangtao Zhai

机构 * TongJi University（同济大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 SIQA提出了一种多维框架，通过SIQA-U和SIQA-S评估科学图像的科学正确性和感知清晰度，揭示模型在评分一致性与科学理解上的差异。

ROSER: Few-Shot Robotic Sequence Retrieval for Scalable Robot Learning

ROSER：用于可扩展机器人学习的少样本机器人序列检索

Zillur Rahman, Eddison Pham, Alejandro Daniel Noel, Cristian Meo

机构 * University of Nevada, Las Vegas（内华达大学拉斯维加斯分校） ； University of Toronto（多伦多大学） ； LatentWorlds AI 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 ROSER通过少样本检索框架有效解决机器人序列数据稀缺问题，提升机器人学习的数据可用性。

Comments 2026 ICLR DATA-FM Workshop

FontUse: A Data-Centric Approach to Style- and Use-Case-Conditioned In-Image Typography

FontUse: 一种以数据为中心的方法用于风格和使用场景条件下的图像内字体设计

Xia Xin, Yuki Endo, Yoshihiro Kanamori

机构 * University of Tsukuba（茨口大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 FontUse提出了一种以数据为中心的方法，通过构建大规模字体数据集并结合多模态模型，提升文本生成中字体风格和使用场景的控制能力。

Fusion-CAM: Integrating Gradient and Region-Based Class Activation Maps for Robust Visual Explanations

融合-CAM：整合梯度和基于区域的类别激活图以实现稳健的视觉解释

Hajar Dekdegue, Moncef Garouani, Josiane Mothe, Jordan Bernigaud

机构 * IRIT, UMR5505 CNRS Université de Toulouse（IRIT，CNRS，Université de Toulouse） ； INRAE, Centre Occitanie-Toulouse Unité Expérimentale APC（INRAE，Centre Occitanie-Toulouse，Unité Expérimentale APC） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 Fusion-CAM通过整合梯度和基于区域的类别激活图，提供更稳健和判别的视觉解释，优于现有方法。

A Bi-directional Adaptive Framework for Agile UAV Landing

双向自适应框架用于敏捷无人机着陆

Chunhui Zhao, Xirui Kao, Yilin Lu, Yang Lyu

机构 * School of Automation, Northwestern Polytechnical University（自动化学院，西北工业大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出双向自适应框架，通过重新定义车辆与平台的角色，实现敏捷无人机着陆的高效、精确与鲁棒性提升。

Comments This work has been submitted to the IEEE Robotics and Automation Letters (RA-L) for possible publication

Journal ref IEEE Robotics and Automation Letters, 2026

PhysLLM: Harnessing Large Language Models for Cross-Modal Remote Physiological Sensing

PhysLLM：利用大语言模型进行跨模态远程生理传感

Yiping Xie, Bo Zhao, Mingtong Dai, Jian-Ping Zhou, Yue Sun, Tao Tan, Weicheng Xie, Linlin Shen, Zitong Yu

机构 * Shenzhen University（深圳大学） ； Great Bay University（大鹏大学） ； National Engineering Laboratory for Big Data System Computing Technology（大数据系统计算技术国家工程实验室） ； Dongguan Key Laboratory for Intelligence and Information Technology（东莞智能与信息技术重点实验室） ； Guangdong Medical University（广东医科大学） ； Southern Medical University (Dongguan People’s Hospital)（南方医科大学（东莞人民医院）） ； Macao Polytechnic University（澳门理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 PhysLLM通过结合大语言模型与领域特定的rPPG组件，利用跨模态学习提升远程生理传感的准确性和鲁棒性。

Comments Accepted by International Conference on Learning Representations (ICLR) 2026

MistyPilot: An Agentic Fast-Slow Thinking LLM Framework for Misty Social Robots

MistyPilot: 一种面向Misty社交机器人的代理快速-缓慢思考LLM框架

Xiao Wang, Lu Dong, Jingchen Sun, Ifeoma Nwogu, Srirangaraj Setlur, Venu Govindaraju

机构 * State University of New York at Buffalo（纽约州立大学布法罗分校） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 MistyPilot通过代理驱动的LLM框架，实现社交机器人中工具选择、协调及参数配置的高效执行，提升任务效率与情感一致性。

Bloom: Designing for LLM-Augmented Behavior Change Interactions

Bloom：为LLM增强的行为改变交互设计

Matthew Jörke, Defne Genç, Valentin Teutschbein, Shardul Sapkota, Sarah Chung, Paul Schmiedmayer, Maria Ines Campero, Abby C. King, Emma Brunskill, James A. Landay

专题命中 安全评测 ：safety(abstract)

AI总结 Bloom通过整合LLM的健康教练聊天机器人，探索LLM在促进长期健康行为改变中的作用，发现其在心理层面的积极影响优于短期身体活动提升。

TraceGuard: Process-Guided Firewall against Reasoning Backdoors in Large Language Models

TraceGuard: 用于对抗大语言模型推理后门的过程引导防火墙

Zhen Guo, Shanghao Shi, Hao Li, Shamim Yazdani, Ning Zhang, Reza Tourani

专题命中 安全评测 ：alignment(abstract)

AI总结 TraceGuard通过过程引导框架提升大语言模型的推理安全性，有效对抗推理后门。

Comments 20 pages,10 figures,6 tables

(hu)Man vs. Machine: In the Future of Motorsport, can Autonomous Vehicles Compete?

人与机器：在赛车未来中，自动驾驶车辆能竞争吗？

Armand Amaritei, Amber-Lily Blackadder, Sebastian Donnelly, Lora Hernandez, James Vine, Alexander Rast, Matthias Rolf, Andrew Bradley

机构 * Autonomous Driving and Intelligent Transport Group, Oxford Brookes University, UK（自主驾驶与智能交通组，奥克斯伯里大学，英国） ； School of Engineering, Computing & Mathematics, Oxford Brookes University, UK（工程、计算与数学学院，奥克斯伯里大学，英国） ； Artificial Intelligence, Data Analysis and Systems Institute, Oxford Brookes University, UK（人工智能、数据分析与系统研究所，奥克斯伯里大学，英国） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文探讨自动驾驶车辆与人类在赛车未来中的竞争可能性，分析技术性能与挑战，提出未来研究方向。

Beyond Global Similarity: Towards Fine-Grained, Multi-Condition Multimodal Retrieval

超越全局相似性：面向细粒度、多条件多模态检索

Xuan Lu, Kangle Li, Haohang Huang, Rui Meng, Wenjun Zeng, Xiaoyu Shen

机构 * Shanghai Jiao Tong University（上海交通大学） ； Institute of Digital Twin, Eastern Institute of Technology（数字孪生研究院，东部技术研究所） ； Ningbo Key Laboratory of Spatial Intelligence and Digital Derivative（宁波空间智能与数字衍生关键实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 MCMR提出一个多条件多模态检索基准，通过细粒度多模态检索评估模型在复杂查询中的条件感知推理能力。

Comments Accepted by CVPR 2026

Can Unified Generation and Understanding Models Maintain Semantic Equivalence Across Different Output Modalities?

统一的生成与理解模型能否在不同输出模态间保持语义等价性？

Hongbo Jiang, Jie Li, Yunhang Shen, Pingyang Dai, Xing Sun, Haoyu Cao, Liujuan Cao

机构 * Tencent Youtu Lab（腾讯云图实验室） ； Xiamen University（厦门大学） ； Computing Lab, Department of Artificial Intelligence, School of Informatics（计算实验室，人工智能系，信息学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究探讨统一生成与理解模型在不同输出模态间保持语义等价性的能力，发现其在视觉回答任务中存在性能下降问题，原因在于跨模态语义对齐的失效。

Comments Equal contribution by Jie Li

Q-Save: Towards Scoring and Attribution for Generated Video Evaluation

Q-Save：迈向生成视频评估的评分与归因

Xiele Wu, Zicheng Zhang, Mingtao Chen, Yixian Liu, Yiming Liu, Shushi Wang, Zhichao Hu, Yuhong Liu, Guangtao Zhai, Xiaohong Liu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 Q-Save提出一个统一的生成视频评估模型和数据集，通过三阶段训练策略实现质量评分与归因生成，提升AIGV质量预测的准确性和可解释性。

Comments 20 pages, 11 figures

MediX-R1: Open Ended Medical Reinforcement Learning

MediX-R1：开放端医疗强化学习

Sahal Shaji Mullappilly, Mohammed Irfan Kurpath, Omair Mohamed, Mohamed Zidan, Fahad Khan, Salman Khan, Rao Anwer, Hisham Cholakkal

机构 * Mohamed Bin Zayed University of Artificial Intelligence (MBZUAI)（迈赫迈德·本·扎耶德人工智能大学） ； Jubilee Mission Medical College（jubilee mission 医学院） ； Research Institute（研究院） ； JJM Medical College（JJM 医学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 MediX-R1通过综合奖励信号和LLM评估，实现医疗多模态模型的开放端强化学习，提升临床推理可靠性。

WaterVideoQA: ASV-Centric Perception and Rule-Compliant Reasoning via Multi-Modal Agents

WaterVideoQA: 以ASV为中心的感知与符合规则的推理 via 多模态智能体

Runwei Guan, Shaofeng Liang, Ningwei Ouyang, Weichen Fei, Shanliang Yao, Wei Dai, Chenhao Ge, Penglei Sun, Xiaohui Zhu, Tao Huang, Ryan Wen Liu, Hui Xiong

机构 * Thrust of Artificial Intelligence, The Hong Kong University of Science and Technology (Guangzhou)（香港理工大学（广州）人工智能研究所） ； Hubei Key Laboratory of Inland Shipping Technology (Wuhan University of Technology)（湖北内河航运技术重点实验室（武汉理工大学）） ； School of Navigation, Wuhan University of Technology（武汉理工大学航海学院） ； School of Advanced Technology, Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学先进科技学院） ； School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； School of Information Engineering, Yancheng Institute of Technology（盐城职业技术学院信息工程学院） ； School of Engineering, Stanford University（斯坦福大学工程学院） ； Centre for AI and Data Science Innovation and the School of Science and Engineering, James Cook University（詹姆斯库克大学人工智能与数据科学创新中心及科学与工程学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 WaterVideoQA通过多模态智能体系统，实现ASV在复杂水域环境中的感知与规则合规推理，提升自主航行的安全性和精确性。

Comments 11 pages,8 figures

TextPecker: Rewarding Structural Anomaly Quantification for Enhancing Visual Text Rendering

TextPecker: 通过奖励结构异常量化提升视觉文本渲染

Hanshen Zhu, Yuliang Liu, Xuecheng Wu, An-Lan Wang, Hao Feng, Dingkang Yang, Chao Feng, Can Huang, Jingqun Tang, Xiang Bai

机构 * Huazhong University of Science and Technology（华中科技大学） ； ByteDance（字节跳动） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 TextPecker通过结构异常感知强化学习策略提升视觉文本渲染的结构忠实度和语义对齐度。

Comments Accepted by CVPR 2026; Code: https://github.com/CIawevy/TextPecker

AR&D: A Framework for Retrieving and Describing Concepts for Interpreting AudioLLMs

AR&D: 一种用于音频大语言模型解释的检索与描述框架

Townim Faisal Chowdhury, Ta Duc Huy, Siqi Pan, Jeremy Stoddard, Zhibin Liao

机构 * Australian Institute for Machine Learning, University of Adelaide（澳大利亚机器学习研究所，阿德莱德大学） ； Dolby Laboratories（杜比实验室） ； School of Computer and Mathematical Sciences, University of Adelaide, Australia（计算机与数学科学学院，阿德莱德大学，澳大利亚） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 AR&D框架通过稀疏自编码器解构音频大语言模型的多义激活，实现对模型内部特征的可解释性增强，为高风险领域应用提供可靠部署基础。

Comments Accepted at International Conference on Acoustics, Speech, and Signal Processing (ICASSP), 2026

Not Just What's There: Enabling CLIP to Comprehend Negated Visual Descriptions Without Fine-tuning

不只是存在与否：无需微调即可使CLIP理解否定性视觉描述

Junhao Xiao, Zhiyu Wu, Hao Lin, Yi Chen, Yahui Liu, Xiaoran Zhao, Zixu Wang, Zejiang He

专题命中 安全评测 ：alignment(abstract)

AI总结 CLIPGlasses通过双阶段设计提升CLIP对否定性视觉描述的理解能力，无需微调，增强跨领域泛化性能。

MUSE: Harnessing Precise and Diverse Semantics for Few-Shot Whole Slide Image Classification

MUSE: 通过精确和多样的语义提升少样本全滑片图像分类

Jiahao Xu, Sheng Huang, Xin Zhang, Zhixiong Nan, Jiajun Dong, Nankun Mu

机构 * School of Big Data & Software Engineering, Chongqing University（大数据与软件工程学院，重庆大学） ； School of Computer Science & Technology, Chongqing University（计算机科学与技术学院，重庆大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 MUSE通过样本层面的细粒度语义增强和随机多视图生成，提升少样本全滑片图像分类的性能和鲁棒性。

Comments Accepted by CVPR 2026

Ecological mapping with geospatial foundation models

基于地理空间基础模型的生态制图

Craig Mahlasi, Gciniwe S. Baloyi, Zaheed Gaffoor, Levente Klein, Anne Jones, Etienne Vos, Michal Muszynski, Geoffrey Dawson, Campbell Watson

机构 * IBM Research（IBM研究） ； IBM Sustainability Software（IBM可持续性软件） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究通过微调Prithvi-EO-2.0和TerraMind模型，在生态制图任务中展示了优于ResNet基线的性能，强调了数据对齐和高分辨率输入的重要性。

Comments Revised abstract

Do Large Language Models Understand Data Visualization Rules?

大语言模型理解数据可视化规则吗？

Martin Sinnona, Valentin Bonas, Emmanuel Iarussi, Viviana Siless

机构 * Universidad Torcuato Di Tella（托科托迪特拉大学） ； Consejo Nacional de Investigaciones Científicas y Técnicas（国家科学与技术研究院） ； Universidad de Buenos Aires（布宜诺斯艾利斯大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文评估了大语言模型在数据可视化规则检测中的性能，发现其在基本规则上表现良好，但在复杂规则上存在局限。

FineVAU: A Novel Human-Aligned Benchmark for Fine-Grained Video Anomaly Understanding

FineVAU: 一种新的细粒度视频异常理解对齐基准

João Pereira, Vasco Lopes, João Neves, David Semedo

专题命中 安全评测 ：alignment(abstract)

AI总结 FineVAU提出了一种新的视频异常理解基准，通过引入FVScore和FineW3数据集，提升对异常事件的细粒度和领域特定理解，解决现有评估方法与人类感知不一致的问题。

Comments Accepted at AAAI 2026

SusBench: An Online Benchmark for Evaluating Dark Pattern Susceptibility of Computer-Use Agents

SusBench: 一个用于评估计算机使用代理对暗模式易感性的在线基准

Longjie Guo, Chenjie Yuan, Mingyuan Zhong, Robert Wolfe, Ruican Zhong, Yue Xu, Bingbing Wen, Hua Shen, Lucy Lu Wang, Alexis Hiniker

专题命中 安全评测 ：trustworthy(abstract)

AI总结 SusBench通过构建真实暗模式评估CUAs对操纵性界面的易感性，发现人类和代理对预选、误导性措辞和隐藏信息等暗模式特别敏感。

Comments Accepted as a full paper to IUI 2026

Project Hermes: A Model-Agnostic Validation Layer for Wearable Health Prediction Systems

Project Hermes: 一种面向可穿戴健康预测系统的模型无关验证层

Richik Chakraborty

专题命中 安全评测 ：trustworthy(abstract)

AI总结 Project Hermes通过模型无关的验证层，有效降低健康预测系统的假阳性率，提升临床信号的验证准确性。