大模型对齐与安全

ICON: Intent-Context Coupling for Efficient Multi-Turn Jailbreak Attack

ICON：意图-上下文耦合用于高效的多轮 jailbreak 攻击

Xingwei Lin, Wenhao Lin, Sicong Cao, Jiahao Yu, Renke Huang, Lei Xue, Chunming Wu

机构 * Zhejiang University（浙江大学） ； Nanjing University of Posts and Telecommunications（南京邮电大学） ； Northwestern University（西北大学） ； Sun Yat-sen University（中山大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.AI

AI总结 ICON 提出了一种高效的多轮 jailbreak 攻击框架，通过意图-上下文耦合和分层优化策略，显著提升攻击成功率。

RerouteGuard: Understanding and Mitigating Adversarial Risks for LLM Routing

RerouteGuard: 理解并缓解LLM路由中的对抗风险

Wenhui Zhang, Huiyu Xu, Zhibo Wang, Zhichao Li, Zeqing He, Xuelin Wei, Kui Ren

专题命中 越狱攻击 ：safety(abstract)

AI总结 RerouteGuard通过动态嵌入检测和自适应阈值，有效检测并缓解LLM路由中的对抗风险，提升多模型AI系统的安全性。

Comments 15 pages, 13 figures