大模型对齐与安全

ALMGuard: Safety Shortcuts and Where to Find Them as Guardrails for Audio-Language Models

Weifei Jin, Yuxin Cao, Junjie Su, Minhui Xue, Jie Hao, Ke Xu, Jin Song Dong, Derui Wang

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； National University of Singapore（新加坡国立大学） ； CSIRO’s Data61（CSIRO数据61） ； Responsible AI Research (RAIR) Centre, The University of Adelaide（负责任人工智能研究（RAIR）中心，阿德莱德大学） ； Tsinghua University（清华大学） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；jailbreak(abstract)；分类 cs.LG

Comments Accepted to NeurIPS 2025

LatentBreak: Jailbreaking Large Language Models through Latent Space Feedback

Raffaele Mura, Giorgio Piras, Kamilė Lukošiūtė, Maura Pintor, Amin Karbasi, Battista Biggio

机构 * University of Cagliari（卡利亚里大学） ； Centre for AI Governance（人工智能治理中心） ； Foundation AI – Cisco Systems Inc.（AI基金会——思科系统公司） 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.CL、cs.AI、cs.LG