大模型对齐与安全

LLMs Can Unlearn Refusal with Only 1,000 Benign Samples

LLMs 可通过仅 1000 个无害样本实现拒绝反学习

Yangyang Guo, Ziwei Xu, Si Liu, Zhiming Zheng, Mohan Kankanhalli

专题命中 安全训练 ：alignment(abstract)；safety(abstract)

AI总结 通过仅 1000 个无害样本，研究发现 LLMs 可通过反学习技术降低拒绝响应，揭示安全性对齐可能依赖 token 序列记忆而非推理。