On The Role of Pretrained Language Models in General-Purpose Text Embeddings: A Survey
在预训练语言模型中通用文本嵌入的作用:综述
机构 * Institute for Clarity in Documentation(清晰文档研究所) ; Inria Paris-Rocquencourt(巴黎- Rocquencourt 国家信息与自动化研究所) ; Rajiv Gandhi University(拉贾·甘地大学) ; Tsinghua University(清华大学) ; Palmer Research Laboratories(帕勒尔研究实验室) ; Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
AI总结 本文综述了预训练语言模型在通用文本嵌入中的作用,探讨了其架构、核心方法及未来研究方向。
Comments 45 pages, 4 figures, 9 tables