Thought-Transfer: Indirect Targeted Poisoning Attacks on Chain-of-Thought Reasoning Models
思维转移:链式思维推理模型的间接针对性污染攻击
专题命中 复杂问题求解 :reasoning(title,abstract);chain-of-thought(title,abstract);CoT(abstract);分类 cs.LG
AI总结 本文提出了一种名为思维转移的新型攻击方法,通过操纵不同任务学习的推理痕迹,对链式思维推理模型进行间接针对性污染攻击,成功影响目标任务的输出并提升模型性能。