大模型对齐与安全

OmniSafeBench-MM: A Unified Benchmark and Toolbox for Multimodal Jailbreak Attack-Defense Evaluation

OmniSafeBench-MM：多模态 jailbreak 攻击-防御评估的统一基准和工具箱

Xiaojun Jia, Jie Liao, Qi Guo, Teng Ma, Simeng Qin, Ranjie Duan, Tianlin Li, Yihao Huang, Zhitao Zeng, Dongxian Wu, Yiming Li, Wenqi Ren, Xiaochun Cao, Yang Liu

机构 * Nanyang Technological University, Singapore（南洋理工大学） ； BraneMatrix AI, China（BraneMatrix AI） ； Chongqing University, China（重庆大学） ； Xi’an Jiaotong University, China（西安交通大学） ； Northeastern University, China（东北大学） ； Sun Yat-sen University, China（中山大学） ； Alibaba, China（阿里巴巴） ； National University of Singapore, Singapore（新加坡国立大学） ； ByteDance, China（字节跳动） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)

AI总结 OmniSafeBench-MM提供一个多模态jailbreak攻击-防御评估的统一基准和工具箱，整合13种攻击方法、15种防御策略及广泛数据集，通过三维评估协议深入分析安全与效用。

Beyond Model Jailbreak: Systematic Dissection of the "Ten DeadlySins" in Embodied Intelligence

超越模型劫持：具身智能中的“十大致命罪恶”系统性分析

Yuhang Huang, Junchao Li, Boyang Ma, Xuelong Dai, Minghui Xu, Kaidi Xu, Yue Zhang, Jianping Wang, Xiuzhen Cheng

机构 * Shandong University（山东大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 越狱攻击 ：jailbreak(title)；safety(abstract)

AI总结 本研究首次系统分析了具身智能平台的十大安全漏洞，揭示了跨层安全弱点，提出了构建稳健具身系统的建议。

CoP: Agentic Red-teaming for Large Language Models using Composition of Principles

CoP: 用于大型语言模型的代理式红队测试：原理组合

Chen Xiong, Pin-Yu Chen, Tsung-Yi Ho

机构 * The Chinese University of Hong Kong Sha Tin, Hong Kong（香港中文大学（深圳）） ； IBM Research New York, USA（IBM纽约研究院） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 CoP通过原理组合框架实现LLMs红队测试自动化，发现新型jailbreak提示并显著提升攻击成功率。

VRSA: Jailbreaking Multimodal Large Language Models through Visual Reasoning Sequential Attack

通过视觉推理序列攻击对多模态大语言模型进行劫持

Shiji Zhao, Shukun Xiong, Yao Huang, Yan Jin, Zhenyu Wu, Jiyang Guan, Ranjie Duan, Jialing Tao, Hui Xue, Xingxing Wei

机构 * Alibaba Group（阿里巴巴集团） ； Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)

AI总结 VRSA通过视觉推理序列攻击方法，针对多模态大语言模型的视觉模态进行劫持，提升攻击成功率。