Dawn Song

The Landscape of Memorization in LLMs: Mechanisms, Measurement, and Mitigation

LLM记忆景观：机制、测量与缓解

Alexander Xiong, Xuandong Zhao, Aneesh Pappu, Dawn Song

机构 * UC Berkeley（伯克利大学） ； Google DeepMind（谷歌DeepMind） 纠错

AI总结 本文研究了LLM记忆现象的机制、测量方法及缓解策略，探讨了影响记忆的因素和检测技术，并分析了其法律伦理影响及缓解措施。

Scalable Best-of-N Selection for Large Language Models via Self-Certainty

通过自我确定性实现大规模语言模型的可扩展最佳-N选择

Zhewei Kang, Xuandong Zhao, Dawn Song

机构 * UC Berkeley（伯克利大学） 纠错

AI总结 本文提出自我确定性方法，通过利用LLM输出的概率分布，高效提升大规模语言模型的推理能力，适用于多种推理任务和开放性生成场景。

Comments NeurIPS 2025