Learning a Single Token to Replace Long System Prompts in LLMs
行为等效标记:用于LLMs长提示的单标记替代
机构 * City University of Hong Kong(香港城市大学) ; Baidu Inc.(百度公司)
AI总结 本文提出了一种轻量级框架,通过学习单个行为等效标记替代长提示,实现提示长度减少3000倍并保持98%的下游性能。
Comments 12 pages, 4 figures
大厂专区
行为等效标记:用于LLMs长提示的单标记替代
机构 * City University of Hong Kong(香港城市大学) ; Baidu Inc.(百度公司)
AI总结 本文提出了一种轻量级框架,通过学习单个行为等效标记替代长提示,实现提示长度减少3000倍并保持98%的下游性能。
Comments 12 pages, 4 figures