大语言模型中的内在自我修正：通过机制可解释性实现可解释的提示
Explaining Intrinsic Moral Self-Correction with Mechanistic Interpretability
AI总结：
本研究通过机制可解释性揭示大语言模型中内在自我修正的机制，证明提示引导隐藏表示偏移是其核心驱动因素。
摘要：
内在自我修正指的是语言模型通过提示自身调整输出的现象，而无需外部反馈或参数更新。尽管这种方法在各种任务上提高了性能，但其机制仍不清楚。我们显示，内在自我修正通过引导隐藏表示沿可解释的潜在方向运作，这通过对齐分析和激活干预得到了证实。为此，我们通过提示引起的表示偏移来分析内在自我修正。同时，我们通过对比对构建可解释的潜在方向，并通过激活添加验证这些方向的因果效应。评估六个开源大语言模型，我们的结果表明，在文本去毒化和文本中毒化中，提示引起的表示偏移一致与由对比对构建的潜在方向一致。在去毒化中，偏移与非毒化方向一致；在中毒化中，它们与毒化方向一致。这些发现表明，表示引导是内在自我修正的机制驱动因素。我们的分析强调，理解模型内部结构提供了直接分析提示驱动的大语言模型行为机制的途径。
英文摘要：
Intrinsic moral self-correction refers to the phenomenon where a language model refines its ethical judgments or aligns its outputs purely through prompting. While effective across diverse tasks, its mechanism remains unclear. We hypothesize intrinsic moral self-correction functions by steering hidden representations along interpretable latent directions. Evaluating six LLMs across four morality-related tasks, we demonstrate that the representation shifts induced by self-correction prompts align with contrastive steering vectors. This alignment transfers even when the steering vectors are constructed from a disjoint corpus. Notably, when applied via activation addition, these prompt-induced shifts can alter model behavior more effectively than the self-correction prompts and the steering vectors. Our findings suggest representation steering is the mechanistic driver of intrinsic moral self-correction.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
