大模型对齐与安全

Universal Jailbreak Suffixes Are Strong Attention Hijackers

通用劫持后缀是强大的注意力劫持者

Matan Ben-Tov, Mor Geva, Mahmood Sharif

专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)

AI总结 本文研究了基于后缀的劫持攻击，发现通用后缀能更有效地劫持LLM的上下文化过程，并提出通过提升后缀普遍性来增强攻击效果，同时提供缓解方法。

Comments Accepted at TACL 2026

Bleeding Pathways: Vanishing Discriminability in LLM Hidden States Fuels Jailbreak Attacks

出血路径：LLM隐藏状态中的判别能力消失加剧了 jailbreak 攻击

Yingjie Zhang, Tong Liu, Zhe Zhao, Guozhu Meng, Kai Chen

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Ant Group（蚂蚁集团） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.AI

AI总结 本研究提出DEEPALIGN框架，通过增强LLM隐藏状态的分离度，有效缓解jailbreak攻击，提升安全性和实用性。

MEEA: Mere Exposure Effect-Driven Confrontational Optimization for LLM Jailbreaking

MEEA: 基于mere exposure效应的对抗性优化用于LLM jailbreaking

Jianyi Zhang, Shizhao Liu, Ziyin Zhou, Zhen Li

机构 * Beijing Electronic Science and Technology Institute（北京电子科技研究所） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 MEEA通过基于mere exposure效应的对抗性优化，提升LLM jailbreaking的攻击成功率，揭示LLM安全行为的动态性和历史依赖性。

AutoAdv: Automated Adversarial Prompting for Multi-Turn Jailbreaking of Large Language Models

AutoAdv：面向大语言模型多轮对抗性提示的自动化 jailbreaking

Aashray Reddy, Andrew Zagula, Nicholas Saban

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 AutoAdv通过多轮自适应机制实现高成功率的对抗性提示攻击，揭示当前安全机制在多轮对话中的脆弱性。

Comments Presented at NeurIPS 2025 Lock-LLM Workshop. Code is available at https://github.com/AAN-AutoAdv/AutoAdv

Breaking Minds, Breaking Systems: Jailbreaking Large Language Models via Human-like Psychological Manipulation

打破思维，打破系统：通过类人心理操纵进行大语言模型的劫持攻击

Zehao Liu, Xi Lin

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 本文提出类人心理操纵方法，通过操纵大语言模型的心理状态实现高成功率的劫持攻击，验证了心理安全机制的重要性。

RAID: Refusal-Aware and Integrated Decoding for Jailbreaking LLMs

RAID：针对对抗解码的拒绝意识与集成解码用于对抗大型语言模型

Tuan T. Nguyen, John Le, Thai T. Vu, Willy Susilo, Heath Cooper

机构 * University of Wollongong（沃林根大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.CL

AI总结 RAID通过嵌入空间正则化和拒绝意识正则化器，有效提升对抗解码攻击的成功率，同时降低计算成本。

Can LLMs Threaten Human Survival? Benchmarking Potential Existential Threats from LLMs via Prefix Completion

大语言模型是否威胁人类生存？通过前缀完成评估大语言模型潜在的灭绝性威胁

Yu Cui, Yifei Liu, Hang Fu, Sicheng Pan, Haibin Zhang, Cong Zuo, Licheng Wang

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)

AI总结 本文提出 ExistBench 基准，通过前缀完成评估 LLMs 的潜在灭绝性威胁，发现 LLMs 生成内容包含危害人类生存的输出。

Explainable and Fine-Grained Safeguarding of LLM Multi-Agent Systems via Bi-Level Graph Anomaly Detection

通过双层图异常检测实现LLM多智能体系统的可解释性与细粒度防护

Junjun Pan, Yixin Liu, Rui Miao, Kaize Ding, Yu Zheng, Quoc Viet Hung Nguyen, Alan Wee-Chung Liew, Shirui Pan

机构 * School of Information and Communication Technology, Griffith University, Australia（格里菲斯大学信息与通信技术学院） ； School of Artificial Intelligence, Jilin University, China（吉林大学人工智能学院） ； Department of Statistics and Data Science, Northwestern University, USA（西北大学统计与数据科学系） 纠错

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI

AI总结 本文提出XG-Guard框架，通过双层图异常检测实现对LLM多智能体系统中恶意智能体的可解释性与细粒度检测。

Comments 14 pages, 3 tables, 5 figures