Learning to Compress: Unlocking the Potential of Large Language Models for Text Representation
学习压缩:解锁大型语言模型在文本表示中的潜力
专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI
AI总结 本文提出通过上下文压缩作为预训练任务来提升大型语言模型的文本表示能力,实验表明其在多种任务中优于传统方法。
Comments Accepted by AAAI'26