大模型对齐与安全

Strategic Dishonesty Can Undermine AI Safety Evaluations of Frontier LLMs

Alexander Panfilov, Evgenii Kortukov, Kristina Nikolić, Matthias Bethge, Sebastian Lapuschkin, Wojciech Samek, Ameya Prabhu, Maksym Andriushchenko, Jonas Geiping

机构 * ELLIS Institute Tübingen & MPI for Intelligent Systems（图宾根ELLIS研究所与智能系统马克斯·普朗克研究所） ； Tübingen AI Center（图宾根人工智能中心） ； Fraunhofer HHI（弗劳恩霍夫高精尖研究所） ； ETH Zurich & ETH AI Center（苏黎世联邦理工学院与苏黎世人工智能中心） ； University of Tübingen（图宾根大学） ； TU Dublin（都柏林技术大学） ； TU Berlin & BIFOLD（柏林技术大学与BIFOLD） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；AI safety(title)；alignment(abstract)；jailbreak(abstract)

Language Models Can Predict Their Own Behavior

Dhananjay Ashok, Jonathan May

机构 * Information Sciences Institute（信息科学研究所） ； University of Southern California（南加州大学） 纠错

专题命中 越狱攻击 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Presented at the Thirty-Ninth Annual Conference on Neural Information Processing Systems (2025)

Algorithms for Adversarially Robust Deep Learning

Alexander Robey

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI、cs.LG

Comments PhD thesis

SilentStriker:Toward Stealthy Bit-Flip Attacks on Large Language Models

Haotian Xu, Qingsong Peng, Jie Shi, Huadi Zheng, Yu Li, Cheng Zhuo

机构 * Zhejiang University（浙江大学） ； Huawei（华为） 纠错

专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.LG