Do Internal Layers of LLMs Reveal Patterns for Jailbreak Detection?
Dept. of Computer Science and Engineering University of California, Riverside（计算机科学与工程系加州大学河滨分校）
本研究通过分析开源LLM GPT-J和状态空间模型Mamba2的内部隐藏层表示，发现其在响应越狱与良性提示时呈现显著的逐层行为差异，为利用模型内部动态进行稳健的越狱检测防御提供了新方向。
2025-10-09 cs.CL
AJF: Adaptive Jailbreak Framework Based on the Comprehension Ability of Black-Box Large Language Models
本文提出AJF框架，通过分析目标LLM的理解能力，针对不同类型的LLM采用不同的突破策略，实验显示在GPT-4o和GPT-4.1上攻击成功率分别达到98.9%和99.8%。
2026-03-15 cs.CL
Three Minds, One Legend: Jailbreak Large Reasoning Model with Adaptive Stacked Ciphers
Nanyang Technological University（南洋理工大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）；Tsinghua University（清华大学）
针对大型推理模型的安全漏洞，提出SEAL自适应堆叠密码越狱攻击，通过动态调整密码组合覆盖推理过程，在GPT o4-mini上实现80.8%攻击成功率，显著超越现有基线。
2025-05-26 cs.CL
Tricking LLMs into Disobedience: Formalizing, Analyzing, and Detecting Jailbreaks
Carnegie Mellon University（卡内基梅隆大学）；Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）；Mohamed Bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）
针对非专业用户通过操纵提示词越狱 LLMs 导致的安全与违规问题，本文提出越狱的形式化与分类体系，调研现有方法在多模型上的有效性，探讨检测挑战，并发布了 3700 个越狱提示词的模型输出数据集。
2024-03-27 cs.CL
Iterative Prompting with Persuasion Skills in Jailbreaking Large Language Models
National Central University（中央大学）
本研究提出迭代提示技术，结合说服策略逐步优化提示以越狱大语言模型，在GPT-4和ChatGLM上达到90%攻击成功率，优于PAIR和PAP，与GCG和ArtPrompt相当。
2025-03-26 cs.AI cs.CL cs.ET
Jailbreaking for the Average Jane: Choosing Optimal Jailbreaks via Bandit Algorithms for Automatically Enhanced Queries
Centre for Machine Intelligence and Data Science, IIT Bombay（印度理工学院班加罗尔机器智能与数据科学中心）；Department of Computer Science and Engineering, IIT Bombay（印度理工学院班加罗尔计算机科学与工程系）
提出基于多臂老虎机框架的越狱攻击策略，在线学习最优越狱方法，并构建包含11,279个恶意查询的安全基准FrankensteinBench，实验表明对15个开源LLM平均成功率高达97%。
2026-06-26 cs.CL cs.CR cs.LG
Desert Camels and Oil Sheikhs: Arab-Centric Red Teaming of Frontier LLMs
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Khartoum（喀土穆大学）；Universität des Saarlandes（萨尔大学）；University of British Columbia（不列颠哥伦比亚大学）；Invertible AI（可逆人工智能公司）；Vector Institute（向量研究所）
本研究针对前沿大语言模型开展阿拉伯中心红队测试，创建两个数据集评估其对阿拉伯人与西方人的偏见及对越狱提示的安全性，发现多数模型存在对阿拉伯人的负面偏见，部分优化模型更易受攻击，凸显需加强偏见缓解与安全措施。
2024-11-26 cs.CL
Tree of Attacks: Jailbreaking Black-Box LLMs Automatically
Yale University（耶鲁大学）；Robust Intelligence；Google Research（谷歌研究院）
本研究提出带剪枝的攻击树（TAP）黑盒自动化越狱方法，通过攻击者LLM迭代优化提示并剪枝低成功率候选，在仅黑盒访问下以更少查询实现对GPT4-Turbo等主流及带防护LLM超80%的越狱成功率，显著超越现有黑盒方法。
2024-10-31 cs.AI cs.CL cs.CR
Diversity Helps Jailbreak Large Language Models
Columbia University（哥伦比亚大学）；Rutgers University（罗格斯大学）
本文提出利用模型偏离并混淆既有攻击上下文的多样性越狱方法，以更少查询显著提升对 GPT-4、Gemini、Llama 等十款聊天机器人的攻击成功率，并揭示现有安全训练的根本缺陷。
2025-05-11 cs.CL
EasyJailbreak: A Unified Framework for Jailbreaking Large Language Models
School of Computer Science, Fudan University（复旦大学计算机科学学院）；Shanghai AI Laboratory（上海人工智能实验室）；Institute of Modern Languages and Linguistics, Fudan University（复旦大学现代语言与语言学学院）
EasyJailbreak提出统一模块化框架，通过选择器、变异器、约束器和评估器四组件简化LLM越狱攻击构建与评估，支持11种方法，在10个模型上验证平均突破率60%，揭示显著安全漏洞。
2024-03-18 cs.AI cs.CL
Single-pass Detection of Jailbreaking Input in Large Language Models
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对现有大语言模型越狱攻击防护方法计算成本高的问题，提出单次传播检测方法SPD，利用logits信息经单次前向传播即可检测越狱输入，在开源模型及logit访问受限的GPT-3.5、GPT-4上均有效，为高效防护LLM对抗攻击提供新方案。
2025-02-21 cs.AI cs.CL cs.LG
Multilingual Jailbreak Challenges in Large Language Models
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Nanyang Technological University（南洋理工大学）；The Chinese University of Hong Kong（香港中文大学）
该研究揭示LLM存在多语言越狱风险，并提出 Self-Defense 框架自动生成多语言安全微调数据，显著降低ChatGPT的不安全输出。
2024-03-04 cs.CL
Break Me If You Can: Self-Jailbreaking of Aligned LLMs via Lexical Insertion Prompting
Amazon（亚马逊）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；New York University（纽约大学）
本文提出自我越狱方法，通过词性插入提示对齐大语言模型进行攻击，实验表明SLIP在多个模型上实现高攻击成功率，提出SDM防御机制但发现其对自适应攻击策略仍不足。
2026-04-08 cs.CL
Rapid Response: Mitigating LLM Jailbreaks with a Few Examples
Anthropic（Anthropic公司）；New York University（纽约大学）；MATS
本文提出利用少量样本快速响应以缓解 LLM 越狱攻击，开发了 RapidResponseBench 基准，并评估了五种基于越狱增殖的快速响应方法，其中微调输入分类器的最强方法在仅观察一个样本时显著降低了攻击成功率。
2024-11-12 cs.CL
Dialogue Injection Attack: Jailbreaking LLMs through Context Manipulation
Zhejiang University（浙江大学）；National University of Defense Technology（国防科技大学）
本文提出对话注入攻击（DIA），利用历史对话在黑盒条件下越狱大语言模型，并在Llama-3.1和GPT-4o等模型上取得最先进攻击成功率，且能绕过多种防御机制。
2025-03-11 cs.CL
How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to Challenge AI Safety by Humanizing LLMs
Virginia Tech（弗吉尼亚理工大学）；Renmin University of China（中国人民大学）；UC, Davis（加州大学戴维斯分校）；Stanford University（斯坦福大学）
本文提出将大语言模型视为类人沟通者，利用社会科学说服分类法自动生成可解释的说服性对抗提示（PAP）实现越狱，在多个主流模型上攻击成功率超过92%，并揭示现有防御的根本性不足。
2024-01-23 cs.AI cs.CL
TurboFuzzLLM: Turbocharging Mutation-based Fuzzing for Effectively Jailbreaking Large Language Models in Practice
Amazon Web Services, USA（亚马逊网络服务（美国））
本文提出TurboFuzzLLM，一种基于变异的模糊测试方法，通过自动生成有效越狱模板，在主流大语言模型上实现≥95%的攻击成功率，并提升模型对提示攻击的防御能力。
2025-06-04 cs.AI cs.CL cs.CR
Jailbreak Mimicry: Automated Discovery of Narrative-Based Jailbreaks for Large Language Models
University of Athens（雅典大学）
本文提出越狱模仿方法，通过微调Mistral-7B自动生成基于叙事的越狱提示，在多个LLM上实现高攻击成功率，揭示安全对齐漏洞并讨论防御策略。
2025-10-24 cs.AI cs.CL cs.CR
InfoFlood: Jailbreaking Large Language Models with Information Overload
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Intel Labs（英特尔实验室）；Boise State University（博伊西州立大学）
本研究发现大语言模型存在信息过载漏洞，提出无需添加前后缀的InfoFlood越狱攻击方法，经多款主流模型验证其成功率最高达基线3倍，且常用后处理防御无法有效缓解，暴露了传统AI安全防护的薄弱点。
2025-06-13 cs.CL cs.CR
Tempest: Autonomous Multi-Turn Jailbreaking of Large Language Models with Tree Search
Intology AI
提出多轮对抗框架 Tempest，利用树搜索和广度优先策略逐步瓦解 LLM 安全防护，在 JailbreakBench 上对 GPT-3.5-turbo 和 GPT-4 取得极高越狱成功率且查询数少于基线。
2025-05-28 cs.AI cs.CL cs.CR
A Wolf in Sheep's Clothing: Generalized Nested Jailbreak Prompts can Fool Large Language Models Easily
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；Meituan Inc.（美团公司）
本文提出自动化框架 ReNeLLM，通过提示改写与场景嵌套生成越狱提示，在更低时间成本下显著提升攻击成功率，并据此分析防御失效原因与改进策略。
2024-04-07 cs.CL
Playing Language Game with LLMs Leads to Jailbreaking
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
本文基于不匹配泛化提出自然语言游戏和自定义语言游戏两种越狱方法，在多个LLM平台实现高攻击率，并通过实验发现LLMs的安全对齐知识无法跨语言格式泛化，为相关研究开辟新途径。
2024-11-27 cs.AI cs.CL
GUARD: Guideline Upholding Test through Adaptive Role-play and Jailbreak Diagnostics for LLMs
Hong Kong University of Science and Technology（香港理工大学）；Lapis Labs（Lapis实验室）；Capital One
GUARD 通过自适应角色扮演和 Jailbreak 诊断，将指南转化为具体违规问题，验证 LLM 的合规性，经八种 LLM 测试验证有效性。
2026-05-11 cs.AI cs.CL cs.CV
AutoDAN: Generating Stealthy Jailbreak Prompts on Aligned Large Language Models
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；USC（南加州大学）；University of California, Davis（加利福尼亚大学戴维斯分校）
本文提出AutoDAN，一种利用分层遗传算法自动生成隐蔽越狱提示的新型攻击方法，解决了现有技术可扩展性与隐蔽性问题，在跨模型和跨样本攻击中表现卓越并能有效绕过困惑度防御。
2024-03-20 cs.AI cs.CL
Endless Jailbreaks with Bijection Learning
Haize Labs（哈伊兹实验室）
提出双射学习攻击，通过可控随机编码与上下文学习绕过 LLM 安全机制，并揭示模型能力越强、越易被高复杂度双射攻击严重越狱。
2025-05-10 cs.CL
xJailbreak: Representation Space Guided Reinforcement Learning for Interpretable LLM Jailbreaking
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Shenzhen University of Advanced Technology（深圳理工大学）；WUST（武汉科技大学）；HITSZ（哈尔滨工业大学（深圳））；School of Biomedical Engineering, UNSW Sydney（新南威尔士大学悉尼分校生物医学工程学院）
针对黑盒越狱中启发式方法随机性强及RL奖励信号缺乏的问题，提出利用良性/恶意提示词嵌入邻近度引导强化学习优化提示生成，并构建综合评估框架，在多个开源与闭源LLM上实现SOTA越狱效果。
2025-01-30 cs.CL
Exploiting the Index Gradients for Optimization-Based Jailbreaking on Large Language Models
School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院）；Dept. Computing Science, Alberta Machine Intelligence Institute (Amii)（阿尔伯塔大学计算科学系、阿尔伯塔机器智能研究所）；University of Alberta（阿尔伯塔大学）；Tencent（腾讯）
本文提出MAGIC方法，利用索引梯度信息解决GCG优化中的间接效应瓶颈，加速基于优化的大语言模型越狱攻击，在AdvBench上实现1.5倍加速并保持高攻击成功率。
2024-12-16 cs.CL
Does Refusal Training in LLMs Generalize to the Past Tense?
EPFL（洛桑联邦理工学院）
该研究揭示当前LLM拒绝训练存在泛化差距：将有害请求改写为过去时态可成功越狱多数先进模型，通过实验验证该方法有效性，并指出在微调数据中加入过去时态示例可提升防御能力。
2025-04-17 cs.AI cs.CL cs.LG
The Tower of Babel Revisited: Multilingual Jailbreak Prompts on Closed-Source Large Language Models
School of Electrical and Computer Engineering, University of Sydney（电子与计算机工程学院，悉尼大学）；The University of Tokyo, Japan（东京大学，日本）
该研究针对闭源大语言模型的多语言越狱攻击问题，提出集成对抗框架，评估多款前沿闭源模型在中英双语32种攻击下的表现，发现中文提示攻击成功率更高、新型Two-Sides攻击最有效，为跨语言安全防御提供参考。
2025-05-18 cs.AI cs.CL
Mind the Gap: Evaluating Model- and Agentic-Level Vulnerabilities in LLMs with Action Graphs
Holistic AI；University College London（伦敦大学学院）
本文通过动作图评估LLM在模型和代理层面的漏洞，揭示了代理层面特有的风险，并展示了通过动作图改进提示能有效降低代理 jailbreak 成功率。
2026-04-27 cs.CL
RedAgent: Red Teaming Large Language Models with Context-aware Autonomous Language Agent
The State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室）；School of Cyber Science and Technology, Zhejiang University（浙江大学网络科学与技术学院）；Palo Alto Networks（派拓网络）；University of North Texas（北得克萨斯大学）
提出多智能体系统RedAgent，通过建模“越狱策略”并利用上下文反馈自我反思，生成上下文感知的越狱提示词，高效发现黑盒LLM及定制应用的安全漏洞。
2024-07-23 cs.AI cs.CL cs.CR
LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文发现多款主流LLMs会被伪装成社会科学证据的恶意提示诱导，产生更高偏见与毒性，并分析作者、发表场域和对话进程等影响因素。
2025-02-18 cs.CL
Jailbreaking to Jailbreak
Scale AI
本研究提出$J_2$方法，将几乎任何黑盒LLM转变为越狱攻击者，实验证明其能利用自创或人类专家策略有效突破目标模型安全防护，且推理模型表现尤为出色，攻击成功率超越现有算法。
2025-05-29 cs.AI cs.CL
Unleashing the Unseen: Harnessing Benign Datasets for Jailbreaking Large Language Models
Singapore Management University（新加坡管理大学）
研究假设对抗性后缀是主导LLM行为的特征，通过实验证明良性数据集提取的特征可作为对抗性后缀破坏安全对齐，且仅用良性数据微调即可在黑盒下完全消除GPT的安全对齐。
2024-12-19 cs.AI cs.CL cs.CR
Jailbreaking Leaves a Trace: Understanding and Detecting Jailbreak Attacks from Internal Representations of Large Language Models
University of California, Riverside（加州大学河滨分校）
本文提出了一种基于张量的潜在表示框架，通过分析LLM内部表示差异来检测劫持攻击，并在推理阶段主动干扰劫持执行。
2026-02-20 cs.CL cs.CR
StructuralSleight: Automated Jailbreak Attacks on Large Language Models Utilizing Uncommon Text-Organization Structures
Xidian University（西安电子科技大学）；University of Southampton（南安普顿大学）
针对LLM越狱研究忽视提示结构的问题，本文提出StructuralSleight，利用12种UTOS模板、6种混淆方法和三级攻击策略实现自动化越狱，在GPT-4o上成功率达94.62%。
2025-02-18 cs.CL cs.CR
One Model Transfer to All: On Robust Jailbreak Prompts Generation against LLMs
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Wuheng Lab, ByteDance（字节跳动悟恒实验室）；Zhejiang University（浙江大学）
针对防御性LLM，提出ArrAttack方法，利用通用鲁棒性判断模型自动生成可迁移的鲁棒越狱提示，显著优于现有策略，在白盒和黑盒模型中表现优异。
2025-05-23 cs.CL cs.CR
COLD-Attack: Jailbreaking LLMs with Stealthiness and Controllability
University of Illinois at Urbana–Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, San Diego（加利福尼亚大学圣迭戈分校）；Allen Institute for AI（艾伦人工智能研究所）
本文提出COLD-Attack框架，将可控文本生成中的COLD算法用于自动化生成满足流利度、隐蔽性、情感及位置等约束的LLM越狱攻击，并在多种主流模型上验证了其广泛适用性、高成功率和可迁移性。
2024-06-07 cs.AI cs.CL cs.LG
Jailbreaking LLMs with Arabic Transliteration and Arabizi
University of Central Florida（中佛罗里达大学）
该研究揭示阿拉伯语音译和Arabizi形式可绕过GPT-4与Claude 3的安全防护，成功诱发不安全内容，而标准阿拉伯语提示操纵无效，表明多语言形式安全训练存在缺口。
2024-10-03 cs.CL cs.LG
Geneshift: Impact of different scenario shift on Jailbreaking LLM
National University of Singapore（新加坡国立大学）；NUS Graduate School（新加坡国立大学研究生院）；Integrative Sciences and Engineering Programme（整合科学与工程项目）；Institute of Data Science (IDS)（数据科学研究院）；School of Computing（计算机学院）
针对现有越狱攻击在GPT评估中表现差的问题，本文提出基于遗传算法优化场景迁移的黑盒越狱方法GeneShift，在保持隐蔽性的同时将越狱成功率从0%提升至60%。
2025-04-10 cs.AI cs.CL cs.CR
Jailbreaking Commercial Black-Box LLMs with Explicitly Harmful Prompts
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；The Chinese University of Hong Kong（香港中文大学）；Zhejiang Lab（浙江实验室）
本文提出DH-CoT攻击方法，通过整合多种劫持技巧和恶意内容检测框架，有效劫持了包括GPT-5和Claude-4在内的商用大语言模型。
2026-01-07 cs.CL cs.CR
BitBypass: A New Direction in Jailbreaking Aligned Large Language Models with Bitstream Camouflage
SPIES Research Lab, Dept. of CSE, Texas A&M University（SPIES研究实验室，计算机科学与工程系，德克萨斯A&M大学）
BitBypass通过位流伪装技术，提出了一种新的黑盒劫持方法，有效绕过对齐大语言模型的安全机制，展现出更高的隐蔽性和攻击成功率。
2026-03-03 cs.CL cs.CR
Jailbreaking LLMs via Calibration
Department of Computer Science, Peking University, Beijing, China（计算机科学系，北京大学，北京，中国）
通过校准劫持大语言模型，提出一种新的聚合框架，提升攻击成功率并降低劫持成本。
2026-01-31 cs.AI cs.CL cs.CR
Robust Prompt Optimization for Defending Language Models Against Jailbreaking Attacks
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出鲁棒提示优化（RPO）算法，通过将对手纳入防御目标并优化轻量级可迁移后缀，防御LLM越狱攻击，在JailbreakBench上将GPT-4和Llama-2的ASR分别降至6%和0%。
2024-11-08 cs.AI cs.CL cs.CV
Multi-Turn Context Jailbreak Attack on Large Language Models From First Principles
Xidian University（西安电子科技大学）；AI Security Lab（360 AI安全实验室）
针对多轮语义越狱中对话语境利用不足的问题，本文从第一性原理建立理论基础，提出黑盒Context Fusion Attack（CFA），通过关键术语提取、场景构建与恶意术语替换隐藏意图，并在主流LLM和红队数据集上验证其更高攻击成功率与危害性。
2024-08-08 cs.AI cs.CL
Guarding the Guardrails: A Taxonomy-Driven Approach to Jailbreak Detection
Department of Computer, Control and Management Engineering（计算机、控制与管理工程系）
本文提出了一种基于分类的 Jailbreak 检测方法，通过构建分层分类体系，分析攻击类型，评估提示引导效果，并建立新的多轮对抗对话数据集，以提升对 Jailbreak 技术的检测能力。
2026-02-04 cs.AI cs.CL
Siren: A Learning-Based Multi-Turn Attack Framework for Simulating Real-World Human Jailbreak Behaviors
Department of Computing The Hong Kong Polytechnic University Hong Kong SAR, China；Centre for Artificial Intelligence；Robotics Hong Kong Institute of Science \& Innovation Chinese Academy of Sciences Hong Kong SAR, China
针对现有LLM越狱攻击多为单轮或依赖静态模式的问题，提出基于学习的多轮攻击框架Siren，通过MiniMax训练集构建、SFT与DPO训练攻击者、动态交互，在多个模型对中取得高攻击成功率，性能优于单轮基线且接近GPT-4o驱动的多轮基线。
2025-11-12 cs.AI cs.CL cs.CR
Harmful Prompt Laundering: Jailbreaking LLMs with Abductive Styles and Symbolic Encoding
Seoul National University（首尔大学）
提出仅需黑盒访问的越狱技术HaPLa，通过溯因框架与符号编码策略绕过LLMs安全限制，在GPT系列模型上攻击成功率超95%，并揭示了安全调整与保持模型帮助性之间的根本挑战。
2025-09-13 cs.AI cs.CL
UniGuard: Towards Universal Safety Guardrails for Jailbreak Attacks on Multimodal Large Language Models
Georgia Institute of Technology（佐治亚理工学院）
针对多模态大语言模型的越狱攻击，提出UniGuard安全护栏，通过联合单模态与跨模态有害信号训练，在最小计算成本下实现跨多种模态、攻击和模型的泛化防御，同时保持模型原有视觉语言理解能力。
2025-01-31 cs.AI cs.CL cs.LG
OTTER: A Red-Teaming System for Toxicity-Evading Jailbreak Prompt Optimization
National Chengchi University, Taipei, Taiwan（国立中正大学，台北，台湾）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出OTTER系统，通过替换少量令牌解耦表面毒性与对抗意图，在四个GPT模型上将平均攻击成功率从7.0%提升至84.0%，并首次量化分析毒性-绕过关系。
2026-06-23 cs.CL cs.CR
AttentionDefense: Leveraging System Prompt Attention for Explainable Defense Against Novel Jailbreaks
Microsoft（微软）
针对语言模型易受越狱攻击且现有防御多为黑盒难以解释的问题，提出利用小型语言模型的系统提示注意力的AttentionDefense，在现有及新型越狱数据集上检测性能优于或相当现有方法，且计算成本低、可解释。
2025-04-10 cs.AI cs.CL
Effective and Efficient Jailbreaks of Black-Box LLMs with Cross-Behavior Attacks
Independent Researcher（独立研究者）
本文提出了一种高效的黑盒LLM劫持方法，通过跨行为攻击显著提高攻击效率和成功率，同时减少查询次数并展示良好的迁移能力。
2025-12-31 cs.AI cs.CL cs.CR
Jailbreak-Zero: A Path to Pareto Optimal Red Teaming for Large Language Models
Meta Superintelligence Labs（Meta超智能实验室）；Carnegie Mellon University（卡内基梅隆大学）
Jailbreak-Zero通过生成多样化对抗性提示并微调攻击模型，实现了LLM安全评估的帕累托最优，提高了攻击成功率并减少了人工干预需求。
2025-12-18 cs.CL cs.CR cs.LG
CodeChameleon: Personalized Encryption Framework for Jailbreaking Large Language Models
School of Computer Science, Fudan University（复旦大学计算机科学学院）；Institute of Modern Languages and Linguistics, Fudan University（复旦大学现代语言与语言学研究所）
本文提出CodeChameleon框架，通过个性化加密将越狱任务伪装成代码补全以绕过LLM意图安全识别，并在指令中嵌入解密函数保证执行，在7个LLM上取得领先攻击成功率。
2024-02-26 cs.AI cs.CL cs.CR
