Prompt Tuning for Discriminative Pre-trained Language Models
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);National University of Singapore(新加坡国立大学);Tencent(腾讯)
最近的工作表明,在刺激预训练的语言模型(PLM)的自然语言处理(NLP)任务的提示微调有前途的结果。然而,据我们所知,现有的工作集中在预训练生成目标令牌,如BERT的自动调整生成PLM。目前还不清楚是否以及如何区分PLM,例如,ELECTRA,可以有效地调谐。在这项工作中,我们提出了DPT,歧视性PLM的第一个提示微调框架,它将NLP任务重新表述为歧视性语言建模问题。文本分类和问答的综合实验表明,与普通的微调相比,DPT的性能显著提高,同时也避免了在全集合和低资源环境下调优大型PLM时出现的不稳定问题。本文的源代码和实验细节可以从https://github.com/thunlp/DPT获得。
2022-05-23 cs.AI cs.CL
ACCEPT: Adaptive Codebook for Composite and Efficient Prompt Tuning
National Taiwan University(台湾大学);Academia Sinica(中央研究院)
本文提出ACCEPT方法,利用乘积量化让软提示共享可学习码本向量,仅微调0.3%参数即在17项自然语言任务上取得优越性能。
2024-10-18 cs.AI cs.CL
Tutorials on Stance Detection using Pre-trained Language Models: Fine-tuning BERT and Prompting Large Language Models
本文介绍两个立场检测教程,分别讲解BERT微调与LLMs提示技术,通过实践代码与评估揭示few-shot ChatGPT和FLAN-T5优于微调BERT的优势。
2023-07-28 cs.AI cs.CL
DePT: Decomposed Prompt Tuning for Parameter-Efficient Fine-tuning
University College London(伦敦大学学院)
针对提示词微调因增加输入序列长度导致大型语言模型训练推理耗时耗内存的问题,提出DePT方法,将软提示词分解为短提示词与低秩矩阵并使用双学习率优化,在参数量不变下节省开销且性能更优。
2024-02-18 cs.AI cs.CL cs.CV
DDPT: Diffusion-Driven Prompt Tuning for Large Language Model Code Generation
University of Adelaide(阿德莱德大学)
本文提出扩散驱动提示调优方法DDPT,通过从高斯噪声学习生成最优提示嵌入,自动优化LLM代码生成的提示,实验表明其能有效提升提示优化效果。
2025-04-06 cs.AI cs.CL cs.LG
C-TPT: Calibrated Test-Time Prompt Tuning for Vision-Language Models via Text Feature Dispersion
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院(KAIST));University of Illinois at Urbana-Champaign (UIUC)(伊利诺伊大学厄巴纳-香槟分校(UIUC));Imperial College London(伦敦帝国学院)
本文提出C-TPT方法,利用CLIP文本特征离散度与校准误差的关系,在测试时无需标注数据即可优化提示,从而同时提升视觉-语言模型的校准性能。
2024-03-31 cs.AI cs.CL cs.CV
Black-box Prompt Tuning with Subspace Learning
Tsinghua University(清华大学);Zhongguancun Laboratory(中关村实验室);Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院(AIR));Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对黑盒提示调优因子空间选择次优而跨任务、跨 LLM 通用性不足的问题,本文提出 BSL,通过相似源任务元学习共同提示子空间,并在目标任务中于该子空间内无导数优化提示。
2024-06-17 cs.AI cs.CL
APrompt4EM: Augmented Prompt Tuning for Generalized Entity Matching
Peking University(北京大学);China Telecom Research Institute(中国电信研究院)
针对低资源广义实体匹配中的提示设计与信息差距问题,提出融合上下文化软 token 提示调优和 LLM 信息增强的 APrompt4EM,以低成本实现优于中等规模 PLM 方法、媲美微调 LLM 的性能。
2024-05-08 cs.AI cs.CL
Model Tuning or Prompt Tuning? A Study of Large Language Models for Clinical Concept and Relation Extraction
University of Florida(佛罗里达大学);University of Florida Health Cancer Center(佛罗里达大学健康癌症中心);NVIDIA(英伟达)
本研究对比大语言模型的4种训练策略在临床概念与关系抽取任务的表现,验证了软提示的优势及冻结大模型在跨机构迁移、小样本场景的应用潜力。
2023-10-10 cs.AI cs.CL
MPSelectTune: Prompt-type Selection for Fine-tuning improves Concept Unlearning in LLMs
IIT Kharagpur(印度理工学院卡拉格布尔分校);MPI-SWS(马克斯·普朗克软件系统研究所);HPE Labs(慧与实验室)
研究大语言模型中去除有害概念难题,提出对抗方法用联合提示预测主任务和概念任务,MPSelectTune两阶段方法可提升平均遗忘性能,实验显示能提高主任务精度并降低概念精度。
2026-07-07 cs.AI cs.LG
Application and Optimization of Large Models Based on Prompt Tuning for Fact-Check-Worthiness Estimation
Communication University of China(中国通信大学)
针对虚假信息问题,本文提出基于提示调优的事实核查价值估计分类方法,通过在大模型上应用提示模板和上下文学习提升判断准确性,实验证明其在公开数据集上超越或匹配了BERT、GPT-3.5和GPT-4等基线方法。
2025-04-25 cs.AI cs.CL
PAFT: Prompt-Agnostic Fine-Tuning
College of Computer Science and Software Engineering, Shenzhen University, China(深圳大学计算机科学与软件工程学院);Tsinghua Shenzhen International Graduate School, Tsinghua University, China(清华大学深圳国际研究生院);Guangdong Lab of AI and Digital Economy (SZ), China(广东人工智能与数字经济实验室(深圳));Hong Kong University of Science and Technology (Guangzhou), China(香港科技大学(广州));School of Information Technology, Carleton University, Canada(卡尔顿大学信息科技学院)
PAFT通过动态变化训练提示增强LLM对提示措辞的鲁棒性,在未见提示上准确率提升7%,推理速度提升3.2倍,并在多个基准上表现更优。
2025-10-17 cs.AI cs.CL
Fine-tuning vs Prompting, Can Language Models Understand Human Values?
HKUST(香港科技大学)
本文探讨了微调与提示调优在人类价值检测任务中的效果,并验证了预训练知识与RLHF对齐的LLMs在该任务中的能力,展示了初步实验结果。
2024-03-12 cs.AI cs.CL
Multitask Vision-Language Prompt Tuning
University of California Berkeley(加州大学伯克利分校);ByteDance Inc(字节跳动公司)
提示微调以任务特定的学习提示向量为条件,已经成为一种数据高效和参数高效的方法,用于使大型预训练视觉语言模型适应多个下游任务。然而,现有的方法通常考虑从零开始独立地学习每个任务的提示向量,从而无法利用跨不同视觉语言任务的丰富的可共享知识。在本文中,我们提出了多任务视觉语言提示微调(MVLPT),它将跨任务的知识到视觉语言模型的提示微调。具体而言,(i)我们证明了从多个源任务中学习单个可转移提示以初始化每个目标任务的提示的有效性;(ii)我们表明许多目标任务可以从共享提示向量中相互受益,因此可以通过多任务提示微调来共同学习。我们基准建议MVLPT使用三个代表性的提示微调方法,即文本提示微调,视觉提示微调,和统一的视觉语言提示微调。在20个视觉任务的结果表明,所提出的方法优于所有的单任务基线提示微调方法,设置新的国家的最先进的Few-Shot ELEVATER基准和跨任务的泛化基准。为了了解跨任务知识最有效的地方,我们还进行了一项大规模的研究任务的可转移性与20个视觉任务的400个组合的每一个提示微调方法。结果表明,每种提示微调方法的最佳性能MVLPT更倾向于不同的任务组合,并且许多任务可以相互受益,这取决于它们的视觉相似性和标签相似性。代码可在https://github.com/sIncerass/MVLPT上获得。
2022-12-05 cs.CL cs.CV
Matching Tasks to Objectives: Fine-Tuning and Prompt-Tuning Strategies for Encoder-Decoder Pre-trained Language Models
提出MTO框架,通过匹配任务与预训练目标,在少样本和全数据集场景下显著提升编码器-解码器模型的生成与问答性能,性能增益超120%。
2026-06-24 cs.AI cs.CL
Parameter-Efficient Fine-Tuning for Medical Text Summarization: A Comparative Study of Lora, Prompt Tuning, and Full Fine-Tuning
Telecom SudParis, Institut Polytechnique de Paris, France(电信巴黎大学,巴黎理工学院,法国)
本文比较了LoRA、提示微调和全微调在医学摘要任务上的性能,发现LoRA在参数效率和效果上均优于全微调。
2026-03-23 cs.AI cs.CL
MM-Prompt: Cross-Modal Prompt Tuning for Continual Visual Question Answering
Khoury College of Computer Sciences, Northeastern University(东北大学克劳尔计算机科学学院);New Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所模式识别新实验室)
MM-Prompt通过跨模态提示查询与恢复,解决持续视觉问答中的模态不平衡问题,提升准确性与知识保留。
2025-09-11 cs.AI cs.CV cs.LG
Patch-Prompt Aligned Bayesian Prompt Tuning for Vision-Language Models
National Key Laboratory of Radar Signal Processing, Xidian University(西安电子科技大学雷达信号处理国家重点实验室);McCombs School of Business, The University of Texas at Austin(德克萨斯大学奥斯汀分校麦库姆斯商学院)
本文提出Patch-Prompt对齐贝叶斯提示调优方法,通过分层随机提示生成和视觉-语言统计距离正则化,提升视觉-语言模型在少样本识别、泛化及迁移等任务中的表现。
2024-07-01 cs.CL cs.CV cs.LG
Doubly Debiased Test-Time Prompt Tuning for Vision-Language Models
针对视觉-语言模型测试时提示调优存在的优化偏差问题,本文从模型和数据角度分析原因,提出双重去偏方法,通过动态检索增强调制和可靠性感知提示优化模块提升性能,在15个基准数据集上验证了有效性。
2025-11-12 cs.AI cs.CV cs.LG
UNH at CheckThat! 2025: Fine-tuning Vs Prompting in Claim Extraction
University of New Hampshire(新罕布什尔大学)
本研究参与CheckThat!任务2,比较微调与提示方法在社交媒体声明提取中的效果,发现微调FLAN-T5获得最佳METEOR分数,但其他方法可能提取更高质量声明。
2025-09-08 cs.AI cs.CL cs.IR
Unified Vision and Language Prompt Learning
Nanyang Technological University(南洋理工大学);Apple Inc.(苹果公司)
提示微调是一种参数和数据高效的迁移学习范式,它只调优模型输入空间中的少量参数,自从CLIP等大型视觉语言模型出现以来,它已经成为视觉社区的一种趋势。本文系统地研究了两种有代表性的提示微调方法,即文本提示微调和视觉提示微调。一个主要的发现是,没有一个单峰的提示微调方法表现一贯良好:文本提示微调失败的数据与高类内视觉差异,而视觉提示微调不能处理低类间的差异。为了结合这两个世界的最佳效果,我们提出了一种称为统一提示微调(UPT)的简单方法,它本质上是学习一个微小的神经网络来联合优化不同模式的提示。在超过11个视觉数据集上进行的大量实验表明,UPT在少样本学习基准和领域泛化基准上比单峰对应物实现了更好的权衡。将发布代码和模型,以促进未来的研究。
2022-10-13 cs.AI cs.CV
Soft Begging: Modular and Efficient Shielding of LLMs against Prompt Injection and Jailbreaking based on Prompt Tuning
Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI)(德国人工智能研究中心);Centre for European Research in Trusted AI (CERTAIN)(欧洲可信人工智能研究中心);sequire technology GmbH(sequire技术有限公司)
本文提出“软乞求”方法,通过训练软提示抵消被破坏提示的影响,以模块化且高效的方式保护大语言模型免受提示注入和越狱攻击。
2024-07-03 cs.AI cs.CL cs.CR
Prompt Tuning based Adapter for Vision-Language Model Adaption
University at Buffalo(布法罗大学);Duke University(杜克大学)
大型预训练的视觉语言(VL)模型在适应各种下游任务方面表现出了巨大的潜力。然而,由于大量的模型参数,微调整个网络是具有挑战性的。为了解决这个问题,已经提出了诸如提示微调的有效自适应方法。我们探索了使用多任务预训练初始化的提示微调的想法,发现它可以显着提高模型性能。基于我们的研究结果,我们引入了一个新的模型,称为快速适配器,它结合了预先训练的快速调整与一个有效的适应网络。我们的方法在公共11个数据集上的Few-Shot图像分类中击败了最先进的方法,特别是在具有有限数据实例的设置中,例如1个镜头,2个镜头,4个镜头和8个镜头图像。我们提出的方法表明,结合提示微调和参数高效的网络有效的视觉语言模型适应的承诺。该代码可在https://github.com/Jingchensun/prompt_adapter上公开获取。
2023-03-24 cs.AI cs.CV
Generalizable Prompt Tuning for Audio-Language Models via Semantic Expansion
KAIST(韩国科学技术院)
本文提出SEPT框架,通过引入语义扩展损失提升音频-语言模型提示微调的泛化能力,增强嵌入空间语义结构,改进基到新泛化和跨数据集迁移。
2026-04-20 cs.AI cs.SD eess.AS
MuDPT: Multi-modal Deep-symphysis Prompt Tuning for Large Pre-trained Vision-Language Models
College of Computer Science and Technology(计算机科学与技术学院);National University of Defense Technology(国防科技大学)
针对现有单模态提示调优易破坏预训练视觉-语言模型表征对齐、性能次优的问题,提出多模态深度共生提示调优MuDPT,通过模型无关变换网络实现深度分层双向提示融合,在少样本视觉识别和域外泛化任务上性能优于现有最优方法。
2024-07-14 cs.CL cs.CV
Hate Speech Classification In Roman Urdu: A Comparative Study On Parameter Efficient Fine-Tuning And Prompt Engineering
本研究针对低资源的罗马乌尔都语,对比了LLM零样本推理、LoRA的PEFT、混合/人工提示调优、零/少样本提示工程四种仇恨言论分类方法,以确定最有效的技术。
2026-08-25 cs.AI
Visual-Language Prompt Tuning with Knowledge-guided Context Optimization
Institute of Automation, CAS(中国科学院自动化研究所);Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(CAS)(中国科学院大学)
提示微调是一种使用任务相关文本标记使预训练的视觉语言模型(VLM)适应下游任务的有效方法。代表性的合作为基础的工作相结合的学习文本令牌类令牌,以获得特定的文本知识。然而,具体的文本知识是最差的泛化看不见的类,因为它忘记了本质的一般文本知识具有很强的泛化能力。为了解决这个问题,我们引入了一种新的知识引导的上下文优化(KgCoOp),以增强不可见类的可学习提示的泛化能力。KgCoOp的关键见解是,通过减少可学习提示和手工制作提示之间的差异,可以减轻对基本知识的遗忘。特别是,KgCoOp最大限度地减少了由学习提示和手工制作的提示生成的文本嵌入之间的差异。最后,在对比损失上添加KgCoOp可以对可见和不可见任务进行区分性提示。多个基准测试结果表明,该方法是一种有效的提示微调方法,\emph{i.e.,}以更少的训练时间获得了更好的性能。
2023-03-23 cs.CL cs.CV
CGP-Tuning: Structure-Aware Soft Prompt Tuning for Code Vulnerability Detection
School of Computer Science and Engineering, University of New South Wales (UNSW)(新南威尔士大学计算机科学与工程学院);Department of Electrical Engineering and Information Technology, University of Naples Federico II(那不勒斯费德里克二世大学电气工程与信息技术系)
CGP-Tuning提出一种结构感知的代码图增强软提示微调方法,通过类型感知嵌入和高效跨模态对齐模块提升代码漏洞检测性能,并在多个开源代码大模型上取得显著优于现有基线的效果。
2025-07-21 cs.AI cs.SE
Learning What Not to Learn: Adversarial Disentangled Prompt Tuning for Robust Vision-Language Models
Southern University of Science and Technology(南方科技大学);City University of Hong Kong(香港城市大学);Hong Kong University of Science and Technology(香港科技大学)
针对现有对抗性提示调优存在的鲁棒泛化过拟合问题,提出ADAPT框架,通过双提示机制解耦鲁棒与伪鲁棒特征,提升模型对未见类别对抗样本的鲁棒性。
2026-08-19 cs.AI cs.CV
NAP-Tuning: Neural Augmented Prompt Tuning for Adversarially Robust Vision-Language Models
School of Computer Science and Technology, Beijing Jiaotong University(北京交通大学计算机科学与技术学院);Shanghai Key Lab of Intell. Info. Processing, School of CS, Fudan University(复旦大学计算机学院智能信息处理重点实验室);Department of Mathematics and Applications, University of Naples Federico II(那不勒斯费德里克二世大学应用数学系);State Key Laboratory of Advanced Rail Autonomous Operation, Beijing Jiaotong University(北京交通大学先进轨道交通自主运行国家重点实验室)
NAP-Tuning通过神经增强框架提升视觉-语言模型的对抗鲁棒性,实现多模态提示微调和特征净化,显著提升模型在对抗攻击下的性能。
2026-02-01 cs.AI cs.CV
Hard Prompts Made Interpretable: Sparse Entropy Regularization for Prompt Tuning with RL
Microsoft Research Asia(微软亚洲研究院);KAIST(韩国科学技术院)
针对RLPrompt产生不自然提示的问题,提出稀疏Tsallis熵正则化过滤低概率词元,在少样本分类、风格迁移和文本反演任务上显著提升提示的自然性和可解释性。
2024-07-20 cs.AI cs.CL cs.LG
Subgraph-level Universal Prompt Tuning
Korea University(韩国大学);University of Illinois at Chicago(伊利诺伊大学香槟分校)
本文提出子图级通用提示微调方法,通过在子图层面分配提示特征,提升模型在不同预训练策略下的泛化能力,在42/45全场景实验中表现优于传统方法。
2024-02-16 cs.AI cs.CL cs.LG
Fundamental Limits of Prompt Tuning Transformers: Universality, Capacity and Efficiency
Northwestern University(西北大学);National Taiwan University(台湾大学);Fuzhou University(福州大学);UC Berkeley(加州大学伯克利分校)
本文从统计和计算角度揭示单层单头Transformer上提示微调的通用逼近能力、所需token数量的指数下界以及由软提示键查询范数决定的效率相变,为设计高效提示微调方法提供理论基础。
2025-06-05 cs.AI cs.CL cs.LG
SGL-PT: A Strong Graph Learner with Graph Prompt Tuning
Zhejiang University(浙江大学)
针对图预训练与下游任务目标不一致的问题,本文提出 SGL-PT 框架,通过融合生成式与对比式学习的 SGL 预训练任务及无言语化器提示函数统一训练流程,并在无监督和生物数据集上验证其优势。
2023-08-15 cs.AI cs.CL cs.LG
XPrompt: Exploring the Extreme of Prompt Tuning
Beijing Institute of Technology(北京理工大学);Meituan(美团);Meta AI;Sun Yat-Sen University(中山大学)
提示微调学习软提示以调节冻结的预训练语言模型(PLM),从而以参数高效的方式执行下游任务。虽然随着模型规模的增大,提示微调已经逐渐达到了微调的性能水平,但对于中小规模的模型(一般小于11 B参数),提示微调与微调之间仍存在较大的性能差距。在本文中,我们经验表明,训练的提示令牌可能会对下游任务产生负面影响,从而降低其性能。为了弥补这一差距,我们提出了一个新的提示微调模型与eXtremely小规模(XPrompt)下的彩票假说的政权。具体来说,XPrompt通过层次结构化的修剪消除了不同粒度级别的负提示符,从而产生了更具参数效率的提示符,同时具有竞争力的性能。在SuperGLUE任务上进行了全面的实验,广泛的结果表明,XPrompt能够在较小的模型规模上缩小性能差距。
2022-10-10 cs.CL cs.LG
LoPT: Low-Rank Prompt Tuning for Parameter Efficient Language Models
Microsoft AI(微软人工智能)
本文提出低秩提示调优LoPT,通过低秩模型优化提示,在保持与全参数提示调优相近效果的同时将可训练参数量减少5倍,并优于需多10-20倍参数的现有方法。
2024-06-27 cs.AI cs.CL cs.ET
Prompt-Tuning Decision Transformer with Preference Ranking
Shanghai Jiaotong University(上海交通大学);JD Explore Academy(京东探索研究院);Shanghai AI Laboratory(上海人工智能实验室);The University of Sydney(悉尼大学)
提出Prompt-Tuning DT算法,通过轨迹段作为提示并利用黑盒微调与偏好排序函数优化提示,在低数据场景下仅学习0.03%参数即可达到或超越全模型微调性能,为RL智能体特定偏好任务优化提供新方向。
2023-05-16 cs.AI cs.LG
Message Tuning Outshines Graph Prompt Tuning: A Prismatic Space Perspective
University of Science and Technology of China(中国科学技术大学)
本文提出棱镜空间理论(PS-Theory)量化图提示调优的适应能力上限,并引入消息调优(MTG)方法,通过注入可学习消息原型超越该上限,实验验证其优越性。
2026-06-02 cs.AI cs.LG
Evaluating Generalization and Representation Stability in Small LMs via Prompting, Fine-Tuning and Out-of-Distribution Prompts
Boston University, Boston, USA(波士顿大学);Carnegie Mellon University, Pittsburgh, USA(卡内基梅隆大学);Stanford University, Palo Alto, USA(斯坦福大学)
本文比较了小型语言模型在少样本提示和监督微调下的泛化能力与内部表征稳定性,揭示了两者在分布内外的表现差异,为低数据环境下的模型选择提供了实证指导。
2025-06-25 cs.AI cs.LG
Prompt Tuning Strikes Back: Customizing Foundation Models with Low-Rank Prompt Adaptation
Rice University(莱斯大学);UT Austin(德克萨斯大学奥斯汀分校);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
针对传统提示调优性能弱、PEFT方法需服务器存储适配器的问题,提出低秩提示适配LoPA,通过软提示低秩分解兼顾性能与参数效率,在多类任务和不同规模基础模型上验证了效果。
2024-10-31 cs.AI cs.LG
Choice of PEFT Technique in Continual Learning: Prompt Tuning is Not All You Need
AWS(亚马逊云科技);Aleph Alpha(阿莱夫阿尔法)
本文质疑持续学习中默认使用prompt tuning的合理性,发现在Learning to Prompt和S-Prompts中改用LoRA能提升准确率且保持推理速度,强调需通过严格消融实验推动该领域进展。
2024-06-05 cs.AI cs.LG
KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
KnowPrompt通过将关系标签中的潜在知识注入可学习的虚拟类型词和答案词,并结合结构化约束协同优化表示,在标准和低资源场景下有效提升了关系抽取的提示调优性能。
2023-09-18 cs.AI cs.CL cs.IR
InfoPrompt: Information-Theoretic Soft Prompt Tuning for Natural Language Understanding
New York University(纽约大学);Adobe Research(奥多比研究院);Duke University(杜克大学);University of Cambridge(剑桥大学);Shanghai Jiao Tong University(上海交通大学)
本文提出信息论软提示调优框架 InfoPrompt,通过两个互信息损失改善提示初始化与任务信息编码,显著提升少样本自然语言理解的收敛速度、性能和鲁棒性。
2023-06-08 cs.CL cs.LG stat.ML
PromptFix: Few-shot Backdoor Removal via Adversarial Prompt Tuning
School of Information Science & Technology, Pennsylvania State University(宾夕法尼亚州立大学信息科学与技术学院);Department of Computer Science, Stony Brook University(石溪大学计算机科学系)
本文提出PromptFix,一种少样本场景下通过对抗性提示调优移除NLP模型后门的方法,保持模型参数不变,仅用两组软令牌近似并抵消触发词,在多种攻击和领域偏移下验证了有效性。
2024-06-06 cs.CL cs.LG
Universality and Limitations of Prompt Tuning
UCLA(加州大学洛杉矶分校);Google(谷歌)
本研究首次从普适近似与局限性两个角度,理论分析软提示调优在Transformer架构中的作用,证明其普适性并揭示有限深度下的记忆限制,给出参数下界并与LoRA对比,且获实证支持。
2023-11-16 cs.CL cs.LG
À-la-carte Prompt Tuning (APT): Combining Distinct Data Via Composable Prompting
AWS AI Labs(AWS人工智能实验室);UCLA(加州大学洛杉矶分校)
我们介绍了点菜提示微调(APT),一个基于变换的计划,调整提示不同的数据,使他们可以任意组成的推理时间。可以在不同的设备上、在不同的时间、以及在不同的分布或域上隔离地训练各个提示。此外,每个提示仅包含有关其在训练期间暴露的数据子集的信息。在推理过程中,可以根据任意选择的数据源组装模型,我们称之为“点菜式学习”。点菜式学习使得能够构建特定于每个用户的个人访问权和偏好的定制模型。我们可以通过简单地添加或删除相应的提示来添加或删除模型中的信息,而无需从头开始重新训练。我们证明,点菜建立的模型实现的准确性在$5\%$的模型训练的工会各自的来源,具有可比的成本方面的培训和推理时间。对于持续学习基准Split CIFAR-100和CORe 50,我们实现了最先进的性能。
2023-02-15 cs.AI cs.CL cs.CV
Universal Prompt Tuning for Graph Neural Networks
Zhejiang University(浙江大学);FinVolution Group(FinVolution集团)
针对图预训练策略多样导致提示方法不通用的问题,提出作用于输入图特征空间的GPF,可等效任意提示函数,并在全样本与少样本设置下显著优于微调和专门提示方法。
2024-04-10 cs.AI cs.LG
Prompt Tuning with Diffusion for Few-Shot Pre-trained Policy Generalization
Shanghai AI Laboratory(上海人工智能实验室);University of Cambridge(剑桥大学);Sun Yat-sen University(中山大学);Nanyang Technological University(南洋理工大学);Shanghai Jiao Tong University(上海交通大学)
针对预训练强化学习模型提示调优受初始化限制易产生次优解的问题,提出基于条件扩散模型的Prompt Diffuser方法,从随机噪声生成高质量提示,在元强化学习任务中表现优异。
2024-11-02 cs.AI cs.LG
Exploring Embedding Priors in Prompt-Tuning for Improved Interpretability and Control
New York University(纽约大学)
本文研究了提示调优中嵌入坍缩现象对模型性能的影响,提出嵌入先验以提升可解释性和可控性,并发现不同激活区域的嵌入能有效提升任务表现。
2026-03-09 cs.CL cs.LG
Learning and Editing Universal Graph Prompt Tuning via Reinforcement Learning
The University of Hong Kong(香港大学);Beijing Institute of Technology(北京理工大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出LEAP模型,通过强化学习在保留通用图提示理论基础的同时,优化提示选择与编辑,提升图和节点任务的性能。
2025-12-09 cs.LG
IDPG: An Instance-Dependent Prompt Generation Method
University of Michigan(密歇根大学);Meta AI;Tsinghua University(清华大学)
提示微调是一种新的、高效的NLP迁移学习范例,它在模型训练阶段的每个输入实例中添加了一个特定于任务的提示。它冻结了预训练的语言模型,只优化了一些特定于任务的提示。在本文中,我们提出了一个条件提示生成方法,为每个输入实例生成提示,称为实例相关提示生成(IDPG)。与使用固定提示符的传统提示微调方法不同,IDPG引入了一个轻量级的可训练组件来基于每个输入句子生成提示符。对十个自然语言理解(NLU)任务的广泛实验表明,所提出的策略始终优于各种提示微调基线,并与其他有效的迁移学习方法(如Compacter)相当,同时调整更少的模型参数。
2022-04-09 cs.CL cs.LG
SpeechPrompt v2: Prompt Tuning for Speech Classification Tasks
National Taiwan University(台湾大学);Pennsylvania State University(宾夕法尼亚州立大学);Meta AI
提示调优是一种调整一小组参数的技术,以引导预训练的语言模型(LM)直接为下游任务生成输出。最近,提示调谐已经在自然语言处理(NLP)和语音处理领域证明了其存储和计算效率。这些优点还揭示了作为以统一的方式为多个任务提供预训练LM的候选方法的及时调整。在语音处理方面,SpeechPrompt在一些语音分类任务上表现出了较高的参数效率和竞争力。然而,SpeechPrompt是否能够服务于大量任务还没有答案。在这项工作中,我们提出了SpeechPrompt v2,一个提示调整框架,能够执行各种各样的语音分类任务,涵盖多种语言和韵律相关的任务。实验结果表明,SpeechPrompt v2在统一的框架下,可训练参数小于0.15M,达到了与现有作品相当的性能。
2023-03-01 cs.AI cs.CL cs.LG
Adaptive Prompt Tuning: Vision Guided Prompt Tuning with Cross-Attention for Fine-Grained Few-Shot Learning
Faculty of Science and Engineering, University of Groningen(格罗宁根大学科学与工程学院);TNO(荷兰国防技术研究院)
提出基于交叉注意力的自适应提示调优方法,利用视觉输入动态优化CLIP文本提示,提升少样本细粒度分类性能,并集成蒙特卡洛Dropout增强预测可靠性。
2025-01-01 cs.AI cs.CV cs.LG
Parameter-Efficient Prompt Tuning Makes Generalized and Calibrated Neural Text Retrievers
Tsinghua University(清华大学);Meituan-Dianping Group(美团点评集团)
提示微调尝试更新预训练模型中的一些特定于任务的参数。它在语言理解和生成任务上都取得了与微调完整参数集相当的性能。在这项工作中,我们研究了神经文本检索器的提示微调问题。我们引入参数高效的提示微调跨域,跨域和跨主题设置的文本检索。通过广泛的分析,我们表明,该策略可以减轻两个问题-参数效率低下和弱的泛化能力-所面临的微调为基础的检索方法。值得注意的是,它可以显着提高域外zero-shot泛化的检索模型。通过仅更新0.1%的模型参数,提示微调策略可以帮助检索模型实现更好的泛化性能比传统的方法,其中所有参数都更新。最后,为了促进检索者跨主题泛化能力的研究,我们策划并发布了一个学术检索数据集,其中包含87个主题的18 K查询结果对,使其成为迄今为止最大的特定主题检索数据集。
2022-07-14 cs.CL cs.IR cs.LG