Memory Tokens: Large Language Models Can Generate Reversible Sentence Embeddings
记忆令牌:大语言模型可以生成可逆的句子嵌入
机构 * Instituto de Computación, Facultad de Ingeniería, Universidad de la República(计算机研究所,工程学院,乌拉圭共和国大学)
专题命中 长上下文与记忆 :large language model(title,comments);language model(title,comments);LLM(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本研究通过引入记忆令牌,使大语言模型能够生成可逆的句子嵌入,实现对原始文本的精确重建,展示了LLM在记忆检索与文本生成中的新能力。
Comments This paper will be presented at The First Workshop on Large Language Model Memorization (L2M2) at ACL 2025