Thought Purity: A Defense Framework For Chain-of-Thought Attack
思维纯洁性:针对思维链攻击的防御框架
机构 * Huzhou University(湖州大学) ; Zhejiang Key Laboratory of Intelligent Education Technology and Application(浙江智能教育技术与应用重点实验室) ; University of Science and Technology of China(中国科学技术大学) ; Alibaba Group(阿里巴巴集团) ; Zhejiang University of Technology(浙江工业大学)
专题命中 逻辑推理 :chain-of-thought(title,abstract);reasoning(abstract);CoT(abstract);分类 cs.AI、cs.LG
AI总结 本文提出TP框架,通过整合安全数据管道与强化学习,有效防御思维链攻击,同时保持模型在良性任务上的性能。