大模型对齐与安全

DeepContext: Stateful Real-Time Detection of Multi-Turn Adversarial Intent Drift in LLMs

DeepContext: LLMs中多轮对抗意图漂移的有状态实时检测

Justin Albrethsen, Yash Datta, Kunal Kumar, Sharath Rajasekar

机构 * HighFlame 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.AI、cs.LG

AI总结 DeepContext通过递归神经网络实时检测LLM中的多轮对抗意图漂移，实现更高效的安全防护。

Comments 18 Pages, 7 Tables, 1 Figure

Pushing the Frontier of Black-Box LVLM Attacks via Fine-Grained Detail Targeting

通过细粒度细节靶向推动大视觉-语言模型攻击的前沿

Xiaohan Zhao, Zhaoyi Li, Yaxin Luo, Jiacheng Cui, Zhiqiang Shen

专题命中 越狱攻击 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过细粒度细节靶向改进M-Attack，显著提升黑盒攻击效果，成功率达100%

Comments Code at: https://github.com/vila-lab/M-Attack-V2