Universality and Limitations of Prompt Tuning
UCLA（加州大学洛杉矶分校）；Google（谷歌）
本研究首次从普适近似与局限性两个角度，理论分析软提示调优在Transformer架构中的作用，证明其普适性并揭示有限深度下的记忆限制，给出参数下界并与LoRA对比，且获实证支持。
2023-11-16 cs.CL cs.LG
Exploring Embedding Priors in Prompt-Tuning for Improved Interpretability and Control
New York University（纽约大学）
本文研究了提示调优中嵌入坍缩现象对模型性能的影响，提出嵌入先验以提升可解释性和可控性，并发现不同激活区域的嵌入能有效提升任务表现。
2026-03-09 cs.CL cs.LG
PPT: Pre-trained Prompt Tuning for Few-shot Learning
Tsinghua University（清华大学）；Beijing Academy of Artificial Intelligence（北京智源人工智能研究院）
预训练语言模型（PLM）的测试通过弥合预训练任务和各种下游任务之间的差距，表现出显着的性能。在这些方法中，提示微调冻结PLM，只调整软提示，为大规模PLM适应下游任务提供了一个高效的解决方案。然而，提示微调还有待充分探索。在我们的试点实验中，我们发现，及时调整执行与传统的全模型微调时，下游数据是足够的，而它的表现差得多的少样本学习设置，这可能会阻碍提示微调在实践中的应用。我们将这种低性能归因于初始化软提示的方式。因此，在这项工作中，我们建议通过在预训练阶段添加软提示来预训练提示，以获得更好的初始化。我们将此预训练提示微调框架命名为“PPT”。为了保证PPT的通用性，我们将相似的分类任务制定为统一的任务形式，并为这个统一的任务预训练软提示。大量的实验表明，在全数据和Few-Shot设置下，为下游任务调整预训练的提示可以达到甚至超过全模型微调。我们的方法是有效和高效的，在实践中使用大型PLM。
2022-03-14 cs.CL
PromptIntern: Saving Inference Costs by Internalizing Recurrent Prompt during Large Language Model Fine-tuning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft（微软公司）；Shanghai Jiao Tong University（上海交通大学）
本文提出 PromptIntern 方法，通过在微调阶段将循环提示内化到模型参数中，结合指令模板压缩与渐进式内化策略，在 NL2Code 任务上减少超 90% 输入 token 并大幅降低推理成本。
2024-10-15 cs.AI cs.CL cs.LG
IDPG: An Instance-Dependent Prompt Generation Method
University of Michigan（密歇根大学）；Meta AI；Tsinghua University（清华大学）
提示微调是一种新的、高效的NLP迁移学习范例，它在模型训练阶段的每个输入实例中添加了一个特定于任务的提示。它冻结了预训练的语言模型，只优化了一些特定于任务的提示。在本文中，我们提出了一个条件提示生成方法，为每个输入实例生成提示，称为实例相关提示生成（IDPG）。与使用固定提示符的传统提示微调方法不同，IDPG引入了一个轻量级的可训练组件来基于每个输入句子生成提示符。对十个自然语言理解（NLU）任务的广泛实验表明，所提出的策略始终优于各种提示微调基线，并与其他有效的迁移学习方法（如Compacter）相当，同时调整更少的模型参数。
2022-04-09 cs.CL cs.LG
Hard Prompts Made Interpretable: Sparse Entropy Regularization for Prompt Tuning with RL
Microsoft Research Asia（微软亚洲研究院）；KAIST（韩国科学技术院）
针对RLPrompt产生不自然提示的问题，提出稀疏Tsallis熵正则化过滤低概率词元，在少样本分类、风格迁移和文本反演任务上显著提升提示的自然性和可解释性。
2024-07-20 cs.AI cs.CL cs.LG
LoPT: Low-Rank Prompt Tuning for Parameter Efficient Language Models
Microsoft AI（微软人工智能）
本文提出低秩提示调优LoPT，通过低秩模型优化提示，在保持与全参数提示调优相近效果的同时将可训练参数量减少5倍，并优于需多10-20倍参数的现有方法。
2024-06-27 cs.AI cs.CL cs.ET
D-FROST: Decentralized Federated pRompt-tuning via Optimal tranSporT for Non-IID and Imbalanced Data
University of Florida（佛罗里达大学）；Washington State University（华盛顿州立大学）
本研究针对非独立同分布与不平衡数据场景，提出基于最优传输的去中心化联邦提示调优算法D-FROST，解决异构本地提示索引不对齐问题，通过理论分析与实验验证了其有效性。
2026-09-03 cs.LG
SCULPT: Systematic Tuning of Long Prompts
Microsoft Corporation（微软公司）
SCULPT将长提示优化建模为分层树细化问题，通过Critic-Actor框架进行结构化修改，在保留关键信息的同时提升LLM性能、鲁棒性和可解释性。
2025-07-16 cs.CL cs.LG
Q-Tuning: Queue-based Prompt Tuning for Lifelong Few-shot Language Learning
McMaster University（麦克马斯特大学）；Amazon（亚马逊公司）；The Ohio State University（俄亥俄州立大学）
本文提出Q-tuning方法，通过构建提示队列、自适应知识聚合、PCA驱逐规则及记忆保持正则化，实现预训练语言模型的终身少样本学习，在恒定复杂度下大幅超越现有方法。
2024-04-22 cs.CL
Model ensemble instead of prompt fusion: a sample-specific knowledge transfer method for few-shot prompt tuning
Georgia Institute of Technology（佐治亚理工学院）；Salesforce Research（赛富时研究院）
提示微调方法是在冻结的预训练模型上学习特定于任务的软提示，由于其参数效率而引起了越来越多的兴趣。对于大语言模型和足够的训练数据，提示微调可执行从快速到全模型的调优。然而，在Few-Shot设置中训练样本有限的情况下，提示微调无法匹配全模型微调的性能。在这项工作中，我们专注于提高Few-Shot性能的提示微调通过转移知识的软提示源任务。认识到集成方法在低数据状态下的良好泛化能力，我们首先实验并表明，基于不同来源提示的模型预测的简单集成，优于现有的多提示知识转移方法，例如在Few-Shot设置中的来源提示融合。基于这一观察，我们进一步研究了模型集成，并提出了特定于样本的源模型集成（SESoM）。SESoM学习在集成源模型输出时分别调整每个目标样本的每个源模型的贡献。通过这种方式，SESoM继承了模型集成方法的优越泛化能力，同时捕获每个源提示的样本特定能力。我们使用不同尺度的模型（T5-{base，large，XL}）在不同的8个NLP任务中进行实验，发现SESoM始终优于现有的相同和更大参数尺度的模型。
2023-03-01 cs.CL
PromptKD: Distilling Student-Friendly Knowledge for Generative Language Models via Prompt Tuning
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院（KAIST））；AITRICS
本文提出PromptKD方法，首次在知识蒸馏中利用提示调优，使生成式语言模型能传递对学生友好的知识，在仅添加教师模型0.0007%参数的情况下实现最先进性能，并有效缓解暴露偏差。
2024-09-27 cs.AI cs.CL cs.LG
CrossPT: Exploring Cross-Task Transferability through Multi-Task Prompt Tuning
本文提出 CrossPT 多任务提示微调框架，将目标提示分解为共享源提示与任务私有提示并通过注意力机制组合，在 GLUE 等基准上验证了其在低资源场景下优于传统提示微调的准确率、鲁棒性和参数效率。
2025-09-11 cs.AI cs.CL
SpeechPrompt: An Exploration of Prompt Tuning on Generative Spoken Language Model for Speech Processing Tasks
Amazon Inc.（亚马逊公司）；Meta AI
从自监督学习（SSL）模型学习的语音表示可以有益于各种语音处理任务。然而，使用SSL表示通常需要微调预训练的模型或设计特定于任务的下游模型和损失函数，这会导致大量内存使用和人力劳动。最近，自然语言处理（NLP）中的提示已被发现是利用预训练语言模型（LM）的有效技术。具体来说，即时调优使用固定的预训练模型优化了有限数量的特定于任务的参数;因此，每个任务只需要存储一小部分参数。即时调优通过利用预训练的LM的预测能力来提高计算和内存效率。然而，这样一种范式在言语界却鲜有研究。本文报告了基于生成口语模型（GSLM）的语音处理任务的提示调谐范式的第一次探索。实验结果表明，即时调整技术在语音分类任务中取得了竞争力的性能与更少的可训练参数比微调专门的下游模型。我们进一步研究了具有挑战性的序列生成任务的技术。快速调谐也展示了它的潜力，同时本文也讨论了它的局限性和可能的研究方向。源代码可在https://github.com/ga642381/SpeechPrompt上获得。
2022-07-10 cs.CL cs.LG cs.SD
Multitask Prompt Tuning Enables Parameter-Efficient Transfer Learning
The Ohio State University（俄亥俄州立大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；Massachusetts Institute of Technology（麻省理工学院）
提示微调，其中通过对学习的提示向量进行调节来使基本预训练模型适应每个任务，已经成为一种有前途的方法，用于有效地使大语言模型适应多个下游任务。然而，现有的方法通常从头开始学习软提示向量，并且还不清楚如何在多任务学习设置中利用提示向量来利用丰富的跨任务知识。我们提出了多任务提示微调（MPT），它首先学习一个单一的可转移的提示，从多个任务特定的源提示提取知识。然后，我们学习乘法低秩更新这个共享提示，以有效地适应每个下游目标任务。在23个NLP数据集上进行的大量实验表明，我们提出的方法优于最先进的方法，包括在某些情况下的完整微调基线，尽管只调整了0.035%的任务特定参数。
2023-03-06 cs.CL
Clip-Tuning: Towards Derivative-free Prompt Learning with a Mixture of Rewards
Baidu（百度）
无导数提示学习已经成为提示微调的轻量级替代方案，它只需要模型推理来优化提示。然而，现有的工作并没有充分利用大型预训练语言模型（PLM）的过度参数化的特点。在本文中，我们提出了剪辑调整，一个简单而有效的方法，采用不同的冻结“细化”网络的PLM获得混合奖励，从而推进衍生物自由提示学习。稀疏网络由所有隐藏单元组成，这些隐藏单元在静态辍学策略中幸存下来，其推理预测反映了提示训练样本的部分视图的集合。我们的方法优于以前的无梯度提示学习方法，并在Few-Shot设置下的七个语言理解基准测试中与基于梯度的同行实现了对等。
2022-10-21 cs.CL
SuperPos-Prompt: Enhancing Soft Prompt Tuning of Language Models with Superposition of Multi Token Embeddings
Sharif University of Technology（谢里夫理工大学）；Qatar Computing Research Institute（卡塔尔计算研究所）；Helmholtz Center for Infection Research（亥姆霍兹感染研究中心）
本文提出 SuperPos-Prompt 技术，通过叠加多个预训练词汇嵌入改进软提示学习，在 GLUE/SuperGLUE 上优于残差提示微调并加速收敛，同时发现冻结网络中省略 dropout 可进一步提升性能。
2024-06-07 cs.AI cs.CL
Understanding Prompt Tuning and In-Context Learning via Meta-Learning
Google DeepMind（谷歌DeepMind）
本文以贝叶斯元学习视角分析最优提示，给出提示可行与不可行的判据，并通过 LSTM、Transformer 及 prefix-tuning 实验揭示软前缀的独特机制。
2025-10-17 cs.AI cs.LG stat.ML
Generating Synthetic Datasets for Few-shot Prompt Tuning
Nanyang Technological University（南洋理工大学）
针对少样本提示微调依赖大量标注数据的问题，利用LLM合成任务特定数据，并提出DawGen方法与梯度手术策略训练软提示，显著提升了少样本分类性能。
2024-10-08 cs.AI cs.CL
Toward Human Readable Prompt Tuning: Kubrick's The Shining is a good movie, and a good prompt too?
University of Washington（华盛顿大学）
大语言模型可以在指定所需行为的自然语言提示下以zero-shot方式执行新任务。这种提示通常是手工设计的，但也可以通过基于梯度的方法从标记的数据中学习。然而，是什么因素使提示有效，特别是当提示是自然语言时，还没有充分探索。在本文中，我们调查的共同属性共享有效的提示。首先，我们提出了一个人可读的提示微调方法（F LUENT P ROMPT）的基础上朗之万动力学，结合了流畅性约束，找到一个有效的和流畅的提示的多样性分布。我们的分析表明，有效的提示主题相关的任务域和校准的先验概率的标签词。基于这些发现，我们还提出了一种仅使用未标记数据生成提示的方法，在三个任务中的平均准确率超过强基线7.0%。
2022-12-20 cs.CL
Making Pre-trained Language Models End-to-end Few-shot Learners with Contrastive Prompt Tuning
Alibaba Group（阿里巴巴集团）；Carnegie Mellon University（卡内基梅隆大学）；Peking University（北京大学）
预训练的语言模型（PLM）在IR系统中的各种语言理解任务中取得了显著的性能，这些任务需要基于标记的训练数据的微调过程。对于低资源场景，PLM的基于任务的学习利用提示作为任务指导，并将下游任务转化为掩蔽的语言问题，以进行有效的Few-Shot微调。在大多数现有的方法中，基于机器学习的高性能在很大程度上依赖于手工制作的提示和言语化器，这可能会限制这种方法在现实世界场景中的应用。为了解决这个问题，我们提出CP调整，第一个端到端的对比提示微调框架微调PLM没有任何手工工程的任务特定的提示和言语。它集成了任务不变的连续提示编码技术，具有完全可训练的提示参数。我们进一步提出了成对代价敏感的对比学习过程来优化模型，以实现无动词的类映射，并增强提示的任务不变性。它明确地学习区分不同的类，并通过为简单和困难的情况分配不同的成本来使决策边界更平滑。在IR系统和不同PLM中使用的各种语言理解任务的实验表明，CP调整优于最先进的方法。
2022-04-01 cs.AI cs.CL
PTP: Boosting Stability and Performance of Prompt Tuning with Perturbation-Based Regularizer
University of Maryland（马里兰大学）；HKUST（香港科技大学）
针对现有提示调优训练不稳定的问题，该研究提出基于扰动正则化的PTP算法，通过平滑损失曲面提升稳定性与性能，在SuperGLUE和FewGLUE基准上取得显著提升。
2023-05-03 cs.AI cs.CL
Automatic Summarization of Doctor-Patient Encounter Dialogues Using Large Language Model through Prompt Tuning
University of Florida（佛罗里达大学）；University of Florida Health Cancer Center（佛罗里达大学健康癌症中心）
本研究提出通过提示调优生成式大型语言模型来自动总结医患对话，实验表明GatorTronGPT-20B模型在所有评估指标上表现最佳，且计算成本低。
2026-06-16 cs.CL
Input-Tuning: Adapting Unfamiliar Inputs to Frozen Pretrained Models
Xi’an Jiaotong University（西安交通大学）；Microsoft Research Asia（微软亚洲研究院）；Beihang University（北京航空航天大学）；Microsoft Azure AI（微软Azure人工智能）；Peking University（北京大学）
最近，自动调优范式引起了极大的关注。通过仅使用冻结的预训练语言模型（PLM）来调整连续提示，快速调整朝着部署共享的冻结PLM以服务于众多下游任务迈出了一步。尽管自调优在某些自然语言理解（NLU）任务上表现出良好的性能，但其在自然语言生成（NLG）任务上的有效性仍然未被充分探索。在本文中，我们认为，阻碍NLG任务的快速调整发展的因素之一是不熟悉的输入（即，输入在语言上不同于预训练语料库）。例如，我们的初步探索揭示了一个很大的性能差距时，不熟悉的输入经常出现在NLG任务的微调和微调。这促使我们提出输入调整，微调连续提示和输入表示，导致一个更有效的方式来适应不熟悉的输入冻结PLM。我们提出的输入调整是概念上简单，经验强大。七个NLG任务的实验结果表明，输入调谐是显着的，并始终优于单调谐。此外，在这些任务中的三个任务上，输入调整可以实现与微调相当甚至更好的性能。
2022-03-07 cs.AI cs.CL
Multitask Pre-training of Modular Prompt for Chinese Few-Shot Learning
Fudan University（复旦大学）
针对少样本场景下提示调优效果不佳的问题，提出在38个中文任务上预训练的可组合模块化提示MP2，通过统一为阅读理解任务、选择性激活组合提示，在两种学习范式下均显著优于现有方法，且仅需8个参数即可快速适配下游任务。
2023-05-06 cs.CL
Prefix-Tuning: Optimizing Continuous Prompts for Generation
Stanford University（斯坦福大学）
微调是利用大型预训练语言模型执行下游任务的实际方法。然而，它修改了所有的语言模型参数，因此需要为每个任务存储一个完整的副本。在本文中，我们提出了前缀调整，一个轻量级的替代微调自然语言生成任务，保持语言模型参数冻结，但优化一个小的连续的特定于任务的向量（称为前缀）。前缀调优从提示中获得灵感，允许后续的令牌关注这个前缀，就好像它是“虚拟令牌”一样。我们将前缀调优应用于GPT-2以生成表到文本，并应用于BART以进行摘要。我们发现，通过只学习0.1%的参数，前缀调整在全数据设置中获得了相当的性能，在低数据设置中优于微调，并且更好地外推到训练过程中看不到的主题的示例。
2021-01-01 cs.CL
Bi-Directional Iterative Prompt-Tuning for Event Argument Extraction
Huazhong University of Science and Technology（华中科技大学）
近年来，提示微调在事件论元抽取中引起了越来越多的关注。然而，现有的提示微调方法由于缺乏对实体信息的考虑而没有取得令人满意的性能。在本文中，我们提出了一个双向迭代提示微调方法EAE，EAE任务被视为完形填空风格的任务，充分利用实体信息和预训练的语言模型（PLM）。此外，我们的方法探讨事件的论点相互作用，通过引入上下文实体的论点作用到提示建设。由于模板和动词化器是完形填空提示语中的两个重要组成部分，本文提出利用角色标签语义知识构造语义动词化器，并设计了三种模板用于EAE任务。ACE 2005英语数据集上的实验表明，该方法显着优于同行国家的最先进的方法。我们的代码可在https://github.com/HustMinsLab/BIP上获得。
2022-10-28 cs.CL
IAPT: Instruction-Aware Prompt Tuning for Large Language Models
East China Normal University（华东师范大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Minnesota（明尼苏达大学）；Pingan Technology（平安科技）
本文提出指令感知提示微调方法IAPT，仅用四个软令牌，通过在各Transformer层设置带瓶颈结构的软提示生成器并自动学习特有激活函数，在参数相当下优于基线且在多租户设置中比LoRA更高效。
2024-06-07 cs.CL
Generative Prompt Tuning for Relation Classification
Beijing University of Posts and Telecommunications（北京邮电大学）；Singapore University of Technology and Design（新加坡科技设计大学）
使用提示来探索包含在用于下游任务的预训练语言模型中的知识现在已经成为一个活跃的话题。目前的提示微调方法大多通过添加完形填空式短语并将所有标签映射为固定长度的动词化来将下游任务转换为掩蔽语言建模问题，这对于具有简单标签空间的任务是有效的。然而，当应用于呈现复杂标签空间的关系分类时，香草提示微调方法可能会由于严格的提示限制而难以处理具有任意长度的标签动词化。受预训练生成模型的文本填充任务的启发，可以灵活地预测缺失的跨度，我们提出了一种新的生成提示微调方法，将关系分类重新定义为填充问题，这使我们的方法摆脱了当前基于提示的方法的局限性，从而充分利用了实体和关系类型的丰富语义。此外，我们设计了实体引导的解码和判别关系评分，以在推理过程中有效和高效地生成和对齐关系。在完全监督设置和低资源设置下的广泛实验证明了我们的方法的有效性。
2022-10-22 cs.CL
SpeechPrompt v2: Prompt Tuning for Speech Classification Tasks
National Taiwan University（台湾大学）；Pennsylvania State University（宾夕法尼亚州立大学）；Meta AI
提示调优是一种调整一小组参数的技术，以引导预训练的语言模型（LM）直接为下游任务生成输出。最近，提示调谐已经在自然语言处理（NLP）和语音处理领域证明了其存储和计算效率。这些优点还揭示了作为以统一的方式为多个任务提供预训练LM的候选方法的及时调整。在语音处理方面，SpeechPrompt在一些语音分类任务上表现出了较高的参数效率和竞争力。然而，SpeechPrompt是否能够服务于大量任务还没有答案。在这项工作中，我们提出了SpeechPrompt v2，一个提示调整框架，能够执行各种各样的语音分类任务，涵盖多种语言和韵律相关的任务。实验结果表明，SpeechPrompt v2在统一的框架下，可训练参数小于0.15M，达到了与现有作品相当的性能。
2023-03-01 cs.AI cs.CL cs.LG
Instruction Tuning and CoT Prompting for Contextual Medical QA with LLMs
New York University（纽约大学）；Columbia University（哥伦比亚大学）；University of Michigan（密歇根大学）
本研究针对开源大型语言模型在生物医学问答基准PubMedQA上的性能提升问题，通过对比标准指令提示、思维链提示及QLoRA参数高效指令调优策略，发现思维链提示可提升零样本推理，指令调优显著提高准确率，但思维链提示微调的收益具模型和规模依赖性。
2025-06-13 cs.CL
Dynamic Prompting: A Unified Framework for Prompt Tuning
University of California, Santa Barbara（加州大学圣巴巴拉分校）；NEC Laboratories America（NEC美国实验室）
本文提出统一动态提示微调框架，通过理论分析证明提示位置包围输入可捕获额外语义，并利用轻量级网络动态确定提示因素，在NLP、视觉及视觉-语言任务中显著提升性能。
2023-05-27 cs.AI cs.CL
DDPT: Diffusion-Driven Prompt Tuning for Large Language Model Code Generation
University of Adelaide（阿德莱德大学）
本文提出扩散驱动提示调优方法DDPT，通过从高斯噪声学习生成最优提示嵌入，自动优化LLM代码生成的提示，实验表明其能有效提升提示优化效果。
2025-04-06 cs.AI cs.CL cs.LG
Prompt Tuning for Discriminative Pre-trained Language Models
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；National University of Singapore（新加坡国立大学）；Tencent（腾讯）
最近的工作表明，在刺激预训练的语言模型（PLM）的自然语言处理（NLP）任务的提示微调有前途的结果。然而，据我们所知，现有的工作集中在预训练生成目标令牌，如BERT的自动调整生成PLM。目前还不清楚是否以及如何区分PLM，例如，ELECTRA，可以有效地调谐。在这项工作中，我们提出了DPT，歧视性PLM的第一个提示微调框架，它将NLP任务重新表述为歧视性语言建模问题。文本分类和问答的综合实验表明，与普通的微调相比，DPT的性能显著提高，同时也避免了在全集合和低资源环境下调优大型PLM时出现的不稳定问题。本文的源代码和实验细节可以从https://github.com/thunlp/DPT获得。
2022-05-23 cs.AI cs.CL
Self-Prompt Tuning: Enable Autonomous Role-Playing in LLMs
Nankai University（南开大学）；Lenovo Research（联想研究院）
针对角色扮演提示需人工设计的问题，提出自提示微调方法，构建LIMA-Role数据集微调LLMs，使其能自动生成专家角色提示，在多数NLP基准上性能优于标准指令微调基线。
2024-07-12 cs.CL
Comparative Evaluation of Prompting and Fine-Tuning for Applying Large Language Models to Grid-Structured Geospatial Data
Argonne National Laboratory（阿贡国家实验室）
本文比较了提示与微调两种方法在大型语言模型处理网格地理空间数据上的效果，发现微调更利于结构化时空推理。
2025-05-21 cs.CL cs.ET
Tutorials on Stance Detection using Pre-trained Language Models: Fine-tuning BERT and Prompting Large Language Models
本文介绍两个立场检测教程，分别讲解BERT微调与LLMs提示技术，通过实践代码与评估揭示few-shot ChatGPT和FLAN-T5优于微调BERT的优势。
2023-07-28 cs.AI cs.CL
On Transferability of Prompt Tuning for Natural Language Processing
Tsinghua University（清华大学）；Tencent Inc（腾讯公司）；Institute for AI Industry Research (AIR)（人工智能产业研究院（AIR））
本文系统研究软提示在任务与模型间的可迁移性，证明其可零样本迁移、加速并改善提示调优，并发现激活神经元重叠率是关键指标。
2022-04-27 cs.CL
Instance-wise Prompt Tuning for Pretrained Language Models
Peking University（北京大学）；Alibaba Group（阿里巴巴集团）
快速学习最近在弥合预训练任务和各种下游任务之间的差距方面获得了很大的普及。它冻结了预训练的语言模型（PLM），只为下游任务调整了一些与任务相关的参数（提示），大大降低了调整巨型模型的成本。实现这一点的关键是使用提示中包含的特定于任务的知识查询PLM的想法。本文揭示了现有方法的一个主要局限性，即对任务中所有输入数据的无差别提示忽略了来自输入数据的内在知识，导致次优性能。我们介绍实例明智的提示微调（IPT），第一提示学习范式，注入知识的输入数据实例的提示，从而提供更丰富和更具体的上下文信息的PLM。我们设计了一系列策略来生成实例提示，解决模型质量和成本效率等各种问题。在多个任务和资源设置中，IPT的性能明显优于基于任务的即时学习方法，并且仅用0.5% - 1.5%的调整参数就达到了与传统微调相当的性能。
2022-06-04 cs.AI cs.CL
StablePrompt: Automatic Prompt Tuning using Reinforcement Learning for Large Language Models
KAIST（韩国科学技术院）
针对LLM提示调优中RL的不稳定性，提出StablePrompt框架，通过引入APPO算法和LLM锚定模型自适应调整策略更新，在保持语言能力的同时实现灵活搜索，在多任务上表现优异。
2024-10-10 cs.CL
Learning a Better Initialization for Soft Prompts via Meta-Learning
Columbia University（哥伦比亚大学）
提示微调（PT）是使预训练的语言模型适应下游任务的有效方法。如果没有良好的初始化，则在Few-Shot设置下无法很好地执行提示微调。因此，提出了预训练提示微调（PPT），通过利用预训练数据来初始化提示。我们提出MetaPT（元学习提示微调），以进一步改善PPT的初始化，考虑潜在的结构内的预训练数据。具体来说，我们引入的结构，首先聚类预训练数据到不同的辅助任务与无监督的方法。然后，我们使用这些任务来用Meta学习算法预训练提示。这样的过程可以通过发现这些辅助任务之间的共性来使提示学习更好的初始化。我们评估我们的方法在七个下游任务。我们的MetaPT实现了比最先进的方法更好，更稳定的性能。
2022-05-25 cs.CL
Co$^2$PT: Mitigating Bias in Pre-trained Language Models through Counterfactual Contrastive Prompt Tuning
Texas A&M University（德州农工大学）；George Mason University（乔治梅森大学）
针对预训练语言模型在下游应用中放大社会偏见的问题，提出了一种名为Co$^2$PT的高效去偏方法，通过在下游任务中进行反事实对比提示微调来缓解偏见，实验证明其有效且能适应现有上游去偏模型。
2023-10-19 cs.CL
Optimizing Soft Prompt Tuning via Structural Evolution
School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院）；School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院）；College of Professional and Continuing Education, The Hong Kong Polytechnic University（香港理工大学专业及继续教育学院）；School of Robotics and Advanced Manufacture, Harbin Institute of Technology（哈尔滨工业大学机器人与先进制造学院）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院）
本文提出基于拓扑形态演化的软提示微调优化方法，通过拓扑持久同调量化结构表示，改进模型收敛速度和微调性能，提升可解释性。
2026-02-18 cs.CL
Black-box Prompt Tuning with Subspace Learning
Tsinghua University（清华大学）；Zhongguancun Laboratory（中关村实验室）；Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院（AIR））；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
针对黑盒提示调优因子空间选择次优而跨任务、跨 LLM 通用性不足的问题，本文提出 BSL，通过相似源任务元学习共同提示子空间，并在目标任务中于该子空间内无导数优化提示。
2024-06-17 cs.AI cs.CL
PromptDA: Label-guided Data Augmentation for Prompt-based Few-shot Learners
Illinois Institute of Technology（伊利诺伊理工学院）
大型预训练语言模型（PLM）的最新进展通过特定于任务的微调在自然语言理解（NLU）任务方面取得了令人印象深刻的进展。然而，直接微调PLM严重依赖于足够的标记训练实例，这通常是很难获得的。PLM上的基于数据库的调优已被证明对于各种下游Few-Shot任务是强大的。现有的工作研究Few-Shot自然语言理解任务的基于语义的调整主要集中在派生适当的标签词与动词或生成提示模板，以引出语义从PLM。此外，传统的数据增强策略，如同义词替换，虽然广泛采用在低资源的情况下，只带来边际改进的少样本学习。因此，一个重要的研究问题出现了：如何设计有效的数据增强方法，为基础的Few-Shot调整？为此，考虑到标签语义是必不可少的，在基于标签的调整，我们提出了一种新的标签引导的数据增强的框架BattDA，它利用丰富的标签语义信息的数据增强。在Few-Shot文本分类任务上的大量实验结果表明，该框架通过有效利用标签语义和数据增强进行自然语言理解，具有优异的性能。我们的代码可在https://github.com/canyuchen/PromptDA上获得。
2023-03-22 cs.AI cs.CL
FPT: Feature Prompt Tuning for Few-shot Readability Assessment
Peking University（北京大学）；National Key Laboratory for Multimedia Information Processing（多媒体信息处理国家重点实验室）；School of Software and Microelectronics, Peking University（北京大学软件与微电子学院）；School of Computer Science, Peking University（北京大学计算机学院）
针对少样本可读性评估中传统提示缺乏语言知识、语言特征利用不稳健的问题，提出 FPT 框架，将语言特征注入可训练软提示并用新损失校准类别排序，显著优于现有提示方法、语言特征方法及 gpt-3.5-turbo-16k。
2024-04-10 cs.CL
PromptRad: Knowledge-Enhanced Multi-Label Prompt-Tuning for Low-Resource Radiology Report Labeling
Department of Artificial Intelligence and AI Research Center, Chang Gung University（人工智能系及AI研究中心，长庚大学）；Department of Radiology, Sijhih Cathay General Hospital（放射科，西吉医院）；Department of Medical Imaging and Intervention, Chang Gung Memorial Hospital（医学影像与介入科，长庚纪念医院）；Department of Trauma and Emergency Surgery, Chang Gung Memorial Hospital（创伤与急诊外科，长庚纪念医院）；Department of Computer Science, National Tsing Hua University（计算机科学系，国立清华大学）
本文提出PromptRad，一种基于知识的多标签提示微调方法，用于在低资源环境下进行放射报告标注，通过引入UMLS元词典中的同义词增强类别表示，以更少的标注数据实现优于传统方法的性能。
2026-05-20 cs.AI cs.CL
APrompt4EM: Augmented Prompt Tuning for Generalized Entity Matching
Peking University（北京大学）；China Telecom Research Institute（中国电信研究院）
针对低资源广义实体匹配中的提示设计与信息差距问题，提出融合上下文化软 token 提示调优和 LLM 信息增强的 APrompt4EM，以低成本实现优于中等规模 PLM 方法、媲美微调 LLM 的性能。
2024-05-08 cs.AI cs.CL
Efficient and Effective Prompt Tuning via Prompt Decomposition and Compressed Outer Product
Software College, Northeastern University（东北大学软件学院）；School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院）
针对现有提示调优（PT）方法存在的软提示令牌语义关联缺失、长提示导致成本高的问题，提出LAMP方法，通过提示分解（Truncated SVD降维）和压缩外积增强交互，在多架构多数据集上性能和效率优于SOTA的PT和LoRA方法。
2025-02-16 cs.AI cs.CL
FPT: Improving Prompt Tuning Efficiency via Progressive Training
Tsinghua University（清华大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Jiangsu Collaborative Innovation Center for Language Ability（江苏语言能力协同创新中心）
最近，提示微调（PT）作为一种参数高效的预训练语言模型（PLM）调优方法得到了越来越多的关注。尽管PT大大减少了可调参数的数量，并取得了令人满意的性能，但由于其收敛速度慢，训练效率低下。为了提高PT的培训效率，我们首先对“部分PLM”的即时可转移性进行了一些新的观察，“部分PLM”是通过在深度或宽度上压缩PLM来定义的。我们观察到，软提示学习不同的部分PLM的各种大小是相似的参数空间，这意味着这些软提示可能会被转移部分PLM之间。受这些观察结果的启发，我们提出了快速提示微调（FPT），它首先使用小规模的部分PLM进行PT，然后逐步扩展其深度和宽度，直到完整的模型尺寸。在每次扩展之后，我们回收先前学习的软提示作为放大的部分PLM的初始化，然后继续PT。我们在5个任务上证明了FPT的可行性，并表明FPT可以节省超过30%的训练计算，同时实现相当的性能。
2022-11-13 cs.AI cs.CL
Model Tuning or Prompt Tuning? A Study of Large Language Models for Clinical Concept and Relation Extraction
University of Florida（佛罗里达大学）；University of Florida Health Cancer Center（佛罗里达大学健康癌症中心）；NVIDIA（英伟达）
本研究对比大语言模型的4种训练策略在临床概念与关系抽取任务的表现，验证了软提示的优势及冻结大模型在跨机构迁移、小样本场景的应用潜力。
2023-10-10 cs.AI cs.CL
Exploring Universal Intrinsic Task Subspace via Prompt Tuning
Tsinghua University（清华大学）；Tencent Inc.（腾讯公司）
为什么预训练的语言模型（PLM）可以学习通用表示，并有效地适应表面上差异很大的广泛NLP任务？在这项工作中，我们经验性地发现证据表明，PLM对各种Few-Shot任务的适应性可以重新参数化为在统一的低维内在任务子空间中优化少数自由参数，这可能有助于我们理解为什么PLM可以轻松地适应各种小规模数据的NLP任务。为了找到这样一个子空间，并检查其普适性，我们提出了一个分析管道称为内在提示微调（IPT）。具体来说，我们诉诸最近成功的提示微调和多个NLP任务的软提示分解到相同的低维非线性子空间，然后我们学习适应PLM看不见的数据或任务，只有调整参数在这个子空间。在实验中，我们研究了不同的Few-Shot NLP任务，并惊讶地发现，在一个250维的子空间中，100个任务，通过调整250个自由参数，我们可以恢复97%和83%的完整提示微调性能（使用不同的训练数据）和20个看不见的任务，分别显示了所发现的内在任务子空间的强大泛化能力。IPT除了作为一种分析工具外，还可以进一步帮助我们提高提示微调的稳定性。
2022-11-25 cs.AI cs.CL
Application and Optimization of Large Models Based on Prompt Tuning for Fact-Check-Worthiness Estimation
Communication University of China（中国通信大学）
针对虚假信息问题，本文提出基于提示调优的事实核查价值估计分类方法，通过在大模型上应用提示模板和上下文学习提升判断准确性，实验证明其在公开数据集上超越或匹配了BERT、GPT-3.5和GPT-4等基线方法。
2025-04-25 cs.AI cs.CL
PAFT: Prompt-Agnostic Fine-Tuning
College of Computer Science and Software Engineering, Shenzhen University, China（深圳大学计算机科学与软件工程学院）；Tsinghua Shenzhen International Graduate School, Tsinghua University, China（清华大学深圳国际研究生院）；Guangdong Lab of AI and Digital Economy (SZ), China（广东人工智能与数字经济实验室（深圳））；Hong Kong University of Science and Technology (Guangzhou), China（香港科技大学（广州））；School of Information Technology, Carleton University, Canada（卡尔顿大学信息科技学院）
PAFT通过动态变化训练提示增强LLM对提示措辞的鲁棒性，在未见提示上准确率提升7%，推理速度提升3.2倍，并在多个基准上表现更优。
2025-10-17 cs.AI cs.CL
