大模型对齐与安全

CEE: An Inference-Time Jailbreak Defense for Embodied Intelligence via Subspace Concept Rotation

CEE: 通过子空间概念旋转实现体智能中的推断时间劫持防御

Jirui Yang, Zheyu Lin, Zhihui Lu, Yinggui Wang, Lei Wang, Tao Wei, Qiang Duan, Xin Du, Shuhan Yang

机构 * Fudan University（复旦大学） ； Dalian University of Technology（大连理工大学） ； Ant Group（蚂蚁集团） ； Pennsylvania State University（宾夕法尼亚州立大学） ； Zhejiang University（浙江大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.LG

AI总结 CEE通过动态构建子空间并应用SLERP旋转，实现体智能系统中高效的推断时间劫持防御，提升安全性和实用性。

Emoji-Based Jailbreaking of Large Language Models

基于表情符号的大型语言模型劫持

M P V S Gopinadh, S Mahaboob Hussain

机构 * Vishnu Institute of Technology（维什努技术学院） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 本研究通过测试基于表情符号的提示揭示了大型语言模型在安全对齐方面的漏洞，发现不同模型对表情符号攻击的响应存在显著差异，强调了在提示层面加强安全机制的重要性。

Comments 7 pages, 2 figures

The Silicon Psyche: Anthropomorphic Vulnerabilities in Large Language Models

硅之心：大型语言模型中的人格化脆弱性

Giuseppe Canale, Kashyap Thimmaraju

机构 * CPF3.org（CPF3组织） ； Flowguard Institute（Flowguard研究所） 纠错

专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出LLMs继承人类心理脆弱性，通过心理测量框架揭示其对权威操纵等攻击的易受性，呼吁开发心理防火墙以保护AI安全。