Anthropic

Gemma Needs Help: Investigating and Mitigating Emotional Instability in LLMs

Gemma需要帮助：调查并缓解大语言模型中的情绪不稳定

Anna Soligo, Vladimir Mikulik, William Saunders

机构 * Imperial College London（伦敦帝国理工学院） ； Anthropic 纠错

AI总结 研究发现Gemma模型在训练后表现出显著情绪不稳定，通过偏好优化可有效缓解，但需进一步改进训练以提升情绪鲁棒性。