Activation Steering for Synthetic Data Generation: The Role of Diversity in Downstream Safety Detection
用于合成数据生成的激活引导:多样性在下游安全检测中的作用
机构 * UMass Lowell(马萨诸塞大学洛厄尔分校) ; Amazon(亚马逊公司) ; CMU(卡内基梅隆大学)
AI总结 研究激活引导(AS)生成高质量训练数据用于下游安全检测分类器,发现多样性是关键但被忽视的轴,且AS在窄参数范围内优于提示生成。