大模型对齐与安全

Certified Multi-Turn Robustness for LLM Safety via Compositional Bounds and Safety Persistence

通过组合边界与安全持久性实现大语言模型安全的多轮认证鲁棒性

Yang Liu, Bin Chong, Wenkai Yang, Shuai Zhang, Yancheng Chen, Feiyu Han, GuoZhen, Cheng Zhang, Huaibing Xie, Changze Lv, Shihan Dou, Pluto Zhou

机构 * Peking University（北京大学） ； Renmin University of China（中国人民大学） ； Tsinghua University（清华大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Tencent Hunyuan（腾讯混元） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 针对LLMs易受多轮越狱攻击的问题，提出MTCR框架，通过状态对抗MDPs等方法实现多轮认证鲁棒性，实验表明其经验安全性能超认证边界。

Trojaning the Alignment: Stealthy Backdoor Attacks against Graph Foundation Models

对齐攻击：针对图基础模型的隐蔽后门攻击

Minhua Lin, Zhicheng Gao, Yilong Wang, Hanqing Lu, Xiang Zhang, Suhang Wang

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； Amazon（亚马逊） 纠错

专题命中 越狱攻击 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文针对带文本属性图的图基础模型，提出STAG隐蔽特洛伊木马攻击框架，协调图触发器生成器与文本软提示实现后门攻击，经多数据集实验验证其有效性与隐蔽性。

Comments Accepted by ICDM 2026

Generating Multi-view Adversarial Examples for Visual Geometry Grounded Transformer

为视觉几何接地Transformer生成多视角对抗样本

Qi Song, Ziyuan Luo, Haoliang Han, Renjie Wan

机构 * Hong Kong Baptist University（香港浸会大学） 纠错

专题命中 越狱攻击 ：alignment(abstract)

AI总结 本研究针对3D基础模型VGGT的安全漏洞，提出MVAP-G多视角对抗扰动生成器，通过跨视角对抗对齐机制生成一致扰动，可无需迭代优化即可显著降低VGGT性能，为3D视觉系统鲁棒性研究提供了新方向。

Comments ECCV 2026