Apple（苹果）

PermaFrost-Attack: Stealth Pretraining Seeding(SPS) for planting Logic Landmines During LLM Training

PermaFrost-Attack： stealth pretraining seeding (spS) 用于在LLM训练期间种植逻辑地雷

Harsh Kumar, Rahul Maity, Tanmay Joshi, Aman Chadha, Vinija Jain, Suranjana Trivedy, Amitava Das

机构 * Manipal University Jaipur（Manipal大学斋普尔） ； NIT, Karnataka（Karnataka理工学院） ； Pragya Lab, BITS Pilani Goa, India（BITS Pilani Goa印度普拉吉亚实验室） ； Apple, USA（美国苹果公司） ； Google, USA（美国谷歌公司） 纠错

AI总结 本文研究了在LLM训练中通过隐蔽预训练播种（SPS）植入逻辑地雷的威胁模型，通过几何诊断方法揭示了潜藏的中毒行为，展示了SPS对基础模型的安全性影响。