The Salami Slicing Threat: Exploiting Cumulative Risks in LLM Systems
切肉威胁:在LLM系统中利用累积风险
机构 * School of Mathematical Sciences, Peking University(北京大学数学科学学院) ; Sun Yat-sen University(中山大学) ; Wuhan University(武汉大学) ; Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院) ; ByteDance(字节跳动) ; Singapore Management University(新加坡管理大学)
AI总结 本文提出Salami Slicing Risk,通过链式低风险输入累积有害意图,以触发高风险行为,提出Salami Attack框架并验证其有效性,同时提出防御策略以缓解多轮 jailbreak 风险。