Extractable Memorization From First Principles
从第一原理出发的可提取记忆
机构 * Yale(耶鲁大学) ; AVERI(AVERI(未提及常见中文名,可直译为“应用价值与伦理研究所”之类,具体需结合实际背景)) ; Stanford(斯坦福大学) ; Google Research(谷歌研究院) ; Google DeepMind(谷歌DeepMind) ; Cornell(康奈尔大学)
AI总结 研究大语言模型可提取记忆的有效性问题,提出通过匹配比较测量训练与非训练序列生成概率来判断记忆,形式化共形测试和普查两种匹配比较方式并揭示问题,完善可提取记忆定义,给出有效声明及现实预算下的生成要求。