大模型对齐与安全

Text-Anchored Semantic Perturbations for Transferable Jailbreak Attacks on Multimodal Large Language Models

面向多模态大语言模型的可迁移越狱攻击的文本锚定语义扰动

Wenyun Li, Guiping Cao, Xiangyuan Lan, Zheng Zhang

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Pengcheng Laboratory（鹏城实验室） ； Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔）） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 本研究针对多模态大语言模型易受越狱攻击的问题，提出TA-SPA黑盒越狱框架，通过文本锚定语义分解与语义保留增强实现可迁移攻击，在商业模型及防御下表现出竞争力，推动表征级安全对齐研究。

Comments Accept by EMNLP 2026 Findings

Breaking the Assumptions: Auditing Input-Side Jailbreak Defenses Against Semantic Attacks

打破假设：针对语义攻击的输入端越狱防御审计

Aaditya Pratap, Harsh Kasyap, Somanath Tripathy

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.AI

AI总结 本文针对本地部署大语言模型的输入端越狱防御开展审计，追溯防御失效的假设根源，在6款14B至35B参数的开源权重模型上，用100条来自40余公开源的越狱提示完成13800条评估记录的测试。

PsychJail: Exploring Psychological Jailbreaks via Multi-Turn Persuasion of LLM Policies

PsychJail：通过对大语言模型策略的多轮说服探索心理越狱

Zeyu Feng, Qingyu Wu, Yuzhe Luo, Hua Cheng

机构 * The Defense Innovation Institute, Academy of Military Sciences（军事科学院国防创新研究院） 纠错

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；red teaming(abstract)；分类 cs.AI

AI总结 本文提出PsychJail框架，利用社会心理学技术构建攻击策略，通过轨迹级强化学习优化，在四个对齐LLM上实现87.3%平均攻击成功率，揭示了不同模型的心理画像指纹，为LLM安全红队提供了新方向。

Towards Automated Cyber Threat Intelligence Elicitation in Underground Forums

面向地下论坛中自动化网络威胁情报的获取

Lorenzo Bossi, Federico Saccani, Francesco Panebianco, Antonio Maci, Stefano Zanero, Stefano Longari, Michele Carminati

专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)

AI总结 本文提出首个基于多智能体大语言模型的主动CTI获取系统DarkBot，其在受控与真实世界实验中均优于基线，可从地下论坛高效获取CTI且安全合规。

Comments 23 pages, 19 figures

Same Payload, Different Channel: Measuring Trust Asymmetry in Tool-Using Language Models

相同载荷，不同通道：测量使用工具的語言模型中的信任不对称性

Mohammed Sameer Syed, Rozhin Yasaei (University of Arizona)

机构 * University of Arizona（亚利桑那大学） 纠错

专题命中 越狱攻击 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出安全不对称分数（SAS），通过匹配恶意载荷仅改变传递上下文，系统测量了语言模型在不同通道（用户消息、工具元数据、工具输出）中对对抗性内容的脆弱性差异，发现代理原生模型在工具描述通道更脆弱，而通用模型相反，且机制研究表明安全相关表示在深层网络非线性编码。

Comments Accepted to EMNLP 2026 (Main Conference)

TEE-X: TEE-aware Acceleration Framework for Large Vision Models at the Edge

TEE-X：面向边缘端大视觉模型的感知可信执行环境加速框架

Kurt M Wilson, Mohaiminul Al Nahian, Abeer Matar A. Almalky, Sadat Shahriyar, Souvik Kundu, Zhishan Guo, Abdullah Al Arafat, Adnan Siraj Rakin

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI

AI总结 该研究提出TEE-X框架，在Arm TrustZone的OP-TEE上验证，可在NVIDIA Jetson AGX Xavier上实现大视觉模型的安全高效边缘推理，兼顾性能与安全性。

Activation Steering for Aligned Open-ended Generation without Sacrificing Coherence

激活引导用于不牺牲连贯性的对齐开放式生成

Niklas Herbster, Martin Zborowski, Alberto Tosato, Gauthier Gidel, Tommaso Tosato

机构 * Tara Research ； Technical University of Munich（慕尼黑工业大学） ； Mila Quebec AI Institute（Mila魁北克人工智能研究所） 纠错

专题命中 越狱攻击 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出激活引导方法，通过在生成过程中持续修正偏差激活，提升大模型的对齐性能，实验表明StTP和StMP在保持连贯性的同时更有效维护通用能力。

$PC^2$: Politically Controversial Content Generation via Jailbreaking Attacks on GPT-based Text-to-Image Models

$PC^2$：通过基于GPT的文本到图像模型的越狱攻击生成政治争议内容

Wonwoo Choi, Minjae Seo, Minkyoo Song, Hwanjo Heo, Seungwon Shin, Myoungsung You

专题命中 越狱攻击 ：safety(abstract)

AI总结 提出首个黑盒政治越狱框架$PC^2$，利用身份保留描述映射和地缘政治远距离翻译绕过安全过滤器，在GPT系列模型上实现高达86%的攻击成功率。

Comments To appear in the 33rd ACM Conference on Computer and Communications Security (CCS 2026)