arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2511.06571cs.CLcs.AIcs.LG
收藏

Rep2Text:从单个LLM标记表示解码完整文本

Rep2Text: Decoding Full Text from a Single LLM Token Representation

New Jersey Institute of Technology(新泽西理工学院);National University of Singapore(国立新加坡大学);Cisco Research(思科研究);Wake Forest University(威克森林大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))

Haiyan Zhao, Zirui He, Yiming Tang, Fan Yang, Ali Payani, Dianbo Liu, Mengnan Du

AI总结:

研究探讨如何从LLM单个最后标记表示恢复原始文本,提出Rep2Text框架,通过可训练适配器将目标模型的最后标记表示映射到解码语言模型的token嵌入空间,实现文本自回归重建,实验显示在16-token序列中约半数token可被恢复且保持语义连贯。

摘要:

大型语言模型(LLMs)在多样任务上取得了显著进展,但其内部机制仍 largely opaque。本文研究了一个根本问题:从LLM的单个最后标记表示能恢复多少原始输入文本?为此,我们提出了Rep2Text,一种从最后标记表示解码文本的新框架。Rep2Text采用可训练适配器,将目标模型的最后标记表示映射到解码语言模型的token嵌入空间,然后自回归地重建输入文本。在各种模型组合(Llama-3.1-8B,Gemma-7B,Mistral-7B-v0.1,Llama-3.2-3B等)的实验中,结果显示,在16-token序列中,平均约一半的token可以从该压缩表示中恢复,同时保持强语义连贯性。进一步分析揭示了信息瓶颈效应:随着序列长度增加,token级恢复下降,而语义信息相对保持良好。我们还发现,在反向任务中,扩展效应不明显。最后,我们的框架在非分布临床数据上展示了鲁棒的泛化能力。

英文摘要:

Large language models represent text as hidden numerical patterns, but what information these representations actually contain remains a mystery. Can we recover the original text from just one of them? In this paper, we introduce Rep2Text, a method designed to answer this question by reconstructing text from a single hidden representation. We find that these representations preserve much more information than we might expect. For short texts of about 16 words, Rep2Text can recover roughly half of the original words while preserving their overall meaning. As the text gets longer, recovering the exact wording becomes harder, but the main ideas can still be recovered. These findings offer a new way to understand what language models store internally and highlight potential privacy risks, as hidden representations may reveal parts of the original input.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑