LUNE: Efficient LLM Unlearning via LoRA Fine-Tuning with Negative Examples
University of California, Irvine(加州大学伊藤分校);Purdue University Northwest(普渡大学西北分校)
LUNE通过LoRA微调与负例实现高效LLM反学习,有效抑制特定知识,降低计算和内存消耗
2025-12-08 cs.CL cs.LG
On the Efficiency of LoRA Fine-Tuning for Vision-Language-Action Models in Industrial Robotic Manipulation
Technische Hochschule Nürnberg Georg Simon Ohm(纽伦堡乔治·西蒙·欧姆应用技术大学);Siemens AG(西门子股份公司);Fraunhofer Institute for Integrated Circuits (IIS)(弗劳恩霍夫集成电路研究所)
研究工业机器人操作中VLA模型的LoRA微调效率,通过在四个精密装配任务上评估,发现特定LoRA配置不比FFT差,r = 32时性能饱和,均匀分配即可,冻结VLM等会降性能,该方法可减少VRAM且无性能损失。
2026-07-14 cs.LG cs.RO
L4Q: Parameter Efficient Quantization-Aware Fine-Tuning on Large Language Models
Seoul National University(首尔国立大学);Sungkyunkwan University(松江大学)
本文提出 L4Q,将 QAT 与 LoRA 结合并通过内存优化层设计降低训练开销,在 4-bit/3-bit 量化及语言、少样本任务中优于解耦方案。
2025-07-22 cs.CL cs.LG
LoftQ: LoRA-Fine-Tuning-Aware Quantization for Large Language Models
Georgia Tech(佐治亚理工学院);Microsoft Azure(微软Azure)
本文提出LoftQ框架,在量化LLM的同时为LoRA微调寻找合适的低秩初始化,以缩小量化模型与全精度模型的差距,在2位及2/4位混合精度下显著提升下游任务性能。
2023-11-28 cs.AI cs.CL cs.LG
Low-Rank Adaptation Reduces Catastrophic Forgetting in Sequential Transformer Encoder Fine-Tuning: Controlled Empirical Evidence and Frozen-Backbone Representation Probes
本研究通过受控实验发现,低秩适应(LoRA)在序列Transformer编码器微调中显著降低灾难性遗忘,且冻结背骨机制能维持任务间相似性,验证了LoRA在持续学习中的有效性。
2026-03-29 cs.LG
Uncertainty-Aware Gradient Signal-to-Noise Data Selection for Instruction Tuning
Alibaba Cloud Computing(阿里巴巴云 computing);The University of Edinburgh(爱丁堡大学)
GRADFILTERING通过利用GPT-2代理和LoRA集成,提出了一种考虑不确定性的数据选择方法,以提高指令微调的效率和效果。
2026-01-20 cs.AI cs.CL cs.LG
PAT: Pruning-Aware Tuning for Large Language Models
School of Electronic Science and Engineering, Nanjing University(南京大学电子科学与工程学院);University of Arizona(亚利桑那大学);Samsung Electronic Research Centre of China(三星中国电子研究中心);Interdisciplinary Research Center for Future Intelligent Chips, Nanjing University(南京大学未来智能芯片交叉研究中心)
本文提出剪枝感知微调(PAT)范式,通过在Attention和FFN间插入混合稀疏化模块(HSM)并结合Identity Loss,在微调阶段消除冗余并最大程度保留性能,实验证明其优于LoRA且实现显著加速。
2025-01-25 cs.AI cs.CL cs.LG
Fairness-Aware Low-Rank Representation Fine-Tuning
Innovation Lab, Featurespace(Featurespace创新实验室)
针对现有公平感知微调方法需敏感属性标签的局限,提出四种公平感知LoRA策略,实验显示其中两种策略在效用与公平性上优于标准微调,同时也揭示了多公平目标优化的挑战。
2026-08-25 cs.CV cs.LG
Curvature-Aware Safety Restoration In LLMs Fine-Tuning
本研究提出曲率感知对齐恢复方法,通过影响函数和二阶优化,在保持任务性能的同时减少有害输出,提升LLM的安全性和实用性。
2025-11-22 cs.LG
GEM: A Scale-Aware and Distribution-Sensitive Sparse Fine-Tuning Framework for Effective Downstream Adaptation
University of Southern California(美国南加州大学);Inha University(inha大学)
本文提出GEM稀疏微调框架,通过梯度权重比和熵引导掩码实现尺度感知与分布敏感的参数选择,仅更新0.1%参数即可在多个任务上超越全量微调。
2025-08-22 cs.LG
GIFT: Guided Importance-Aware Fine-Tuning for Diffusion Language Models
Institute for Interdisciplinary Information Sciences(交叉信息科学研究院)
本文提出GIFT方法,通过根据熵分配不同重要性权重来优化扩散语言模型的微调,从而在多个基准测试中优于标准SFT。
2026-05-11 cs.CL
Domain-Aware Fine-Tuning of Foundation Models
Bosch Center for AI(博世人工智能中心);University of Tübingen(蒂宾根大学);University of Mannheim(曼海姆大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Bosch Center for Artificial Intelligence(博世人工智能中心)
针对基础模型域偏移下性能研究不足的问题,本文提出名为Domino的域自适应归一化方法,通过微调时引入领域嵌入让模型具备领域感知能力,提升模型对未见领域的零样本域适应效果。
2024-07-10 cs.AI cs.CV cs.LG
AFLoRA: Adaptive Federated Fine-Tuning of Large Language Models with Resource-Aware Low-Rank Adaption
针对联邦微调LLM时客户端资源异构、数据非独立同分布的问题,提出AFLoRA框架,通过解耦更新、秩剪枝和秩感知聚合,实现高效适配并提升模型性能与效率。
2025-08-20 cs.LG
NoRA: Nested Low-Rank Adaptation for Efficient Fine-Tuning Large Models
HKUST(香港科技大学);SEU(东南大学);UESTC(电子科技大学)
提出嵌套低秩自适应方法NoRA,通过SVD双层结构冻结外层权重并利用内层设计,在保持紧凑参数空间的同时实现精确任务适应,在多项任务中优于LoRA及其变体。
2024-08-27 cs.LG
Spectrum-Aware Parameter Efficient Fine-Tuning for Diffusion Models
Rutgers University(罗格斯大学);New York University(纽约大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);UT Arlington(得克萨斯大学阿灵顿分校);Georgia Tech(佐治亚理工学院)
提出面向生成模型的频谱感知适应框架 SODA,通过同时调整预训练权重的奇异值及基向量并利用克罗内克积与 Stiefel 优化器实现正交矩阵的参数高效适应,在文本到图像扩散模型上有效平衡了计算效率与表示容量。
2024-05-31 cs.CV cs.LG
RoSA: Enhancing Parameter-Efficient Fine-Tuning via RoPE-aware Selective Adaptation in Large Language Models
RoSA通过RoPE-aware选择性适应提升大语言模型的参数高效微调效率,结合注意力增强与动态层选择策略,实现更精准的模型适应。
2025-11-21 cs.AI cs.CL
LAARA: Layer-Aware Adaptive Rank Allocation for Parameter-Efficient Fine-Tuning
Indian Institute of Technology, Patna(印度理工学院巴特那分校)
研究针对低秩自适应中各层适应需求不同但现有方法统一分配适配器秩的问题,提出LAARA框架,利用轻量级对角Fisher估计动态分配秩,结合多种机制,实验表明其在少参数情况下性能优于现有方法,为自适应参数高效微调提供基础。
2026-07-23 cs.AI cs.LG
What Would Elsa Do? Freezing Layers During Transformer Fine-Tuning
University of Waterloo(滑铁卢大学)
预训练的基于transformer的语言模型已经在自然语言处理的无数任务中达到了最先进的水平。这些模型具有高度的表现力,至少包含一亿个参数和十几个层。最近的证据表明,只有少数最终层需要进行微调,以实现下游任务的高质量。自然,随后的研究问题是,“我们需要微调最后几层?“在本文中,我们确切地回答了这个问题。我们研究了两个最近的预训练语言模型,BERT和RoBERTa,在文本蕴涵,语义相似性,情感分析和语言可接受性的标准任务。我们改变微调的最终层的数量,然后研究特定任务有效性的变化。我们发现,只有四分之一的最终层需要微调,以实现90%的原始质量。令人惊讶的是,我们还发现微调所有层并不总是有帮助。
2019-11-08 cs.CL
Evidence for Phenotype-Driven Disparities in Freezing of Gait Detection and Approaches to Bias Mitigation
Emory University(埃默里大学);Georgia Institute of Technology(佐治亚理工学院)
本文研究了基于可穿戴设备的FOG检测模型中的偏见问题,发现传统方法效果有限,而迁移学习能有效提升公平性和性能。
2026-10-20 cs.LG eess.SP
LoCA: Location-Aware Cosine Adaptation for Parameter-Efficient Fine-Tuning
University of Electronic Science and Technology of China(电子科技大学);The University of Melbourne(墨尔本大学);Nankai University(南开大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文提出LoCA,一种基于逆离散余弦变换(iDCT)的频域参数高效微调方法,通过动态选择最具信息量的频率分量,在保持计算可行性的同时提升了参数效率并超越了传统低秩方法的表达能力。
2025-04-29 cs.AI cs.LG
On-the-Fly Adaptation to Quantization: Configuration-Aware LoRA for Efficient Fine-Tuning of Quantized LLMs
Southern University of Science and Technology(南方科技大学);The University of Hong Kong(香港大学)
提出CoA-LoRA方法,通过配置感知模型动态调整LoRA适配器以适应任意量化配置,无需重复微调,并设计基于Pareto的配置搜索优化训练集,实现与逐配置微调相当或更优的性能且无额外时间成本。
2026-06-23 cs.AI cs.LG
ReCoLoRA: Spectrum-Aware Recursive Consolidation for Continual LLM Fine-Tuning
研究针对持续语言模型微调中类似LoRA方法新任务覆盖旧任务的问题,提出ReCoLoRA框架,通过特定初始化、选秩及递归合并等操作,在多任务持续GLUE序列实验中,用更少参数取得更好成绩。
2026-07-10 cs.AI cs.CV cs.LG
Sensitivity-Aware Visual Parameter-Efficient Fine-Tuning
The University of Sydney(悉尼大学);Monash University(莫纳什大学)
提出敏感性感知的视觉参数高效微调方案,自适应分配可训练参数到任务重要位置,结合结构化调优提升性能,在多个基准上达到最先进水平。
2023-08-31 cs.AI cs.CV cs.LG
Recipes for Adapting Pre-trained Monolingual and Multilingual Models to Machine Translation
University of Edinburgh(爱丁堡大学);Facebook AI(脸书人工智能研究院)
最近在单语数据的预训练和机器翻译(MT)的微调方面取得了成功,但目前还不清楚如何最好地利用给定MT任务的预训练模型。本文研究了在MT上微调预训练模型时冻结参数和添加新参数的优点和缺点。我们专注于1)微调仅在英语单语数据上训练的模型,BART。2)微调在25种语言的单语数据上训练的模型,mBART。对于BART,我们通过冻结大多数模型参数并添加额外的位置嵌入来获得最佳性能。对于mBART,我们匹配或优于大多数语言对的朴素微调的性能,编码器和大多数解码器被冻结。编码器-解码器注意参数对于微调是最重要的。当我们将自己限制在越南语到英语的域外训练集时,我们看到了微调基线的最大改进。
2022-06-20 cs.CL
On the Loss of Context-awareness in General Instruction Fine-tuning
UCLA(加州大学洛杉矶分校)
本文研究了通用指令微调中上下文感知能力的丧失,发现其源于聊天模板导致的角色偏见,并提出条件指令微调方法有效缓解此问题且不损害通用能力。
2025-02-02 cs.CL cs.LG
CRAFT: Cost-aware Refinement And Front-aware Tuning of Prompts
MBZUAI;Microsoft(微软)
提出CRAFT方法,通过帕累托前沿优化提示的准确性和成本,避免标量化崩溃,在多个基准上实现更广泛的准确-成本权衡。
2026-06-03 cs.CL cs.LG
Global Prompt Cell: A Portable Control Module for Effective Prompt Tuning
Harbin Institute of Technology(哈尔滨工业大学)
针对提示调优中提示嵌入利用策略不足的问题,提出全局提示单元(GPC),在所有编码器层选择性保留提示信息,在SuperGLUE上提升5.8%。
2023-05-13 cs.CL
Compatibility-Aware Dynamic Fine-Tuning for Large Language Models
SKL-IOTSC, CIS, University of Macau(澳门大学科技学院电脑与信息科学系及智慧城市物联网国家重点实验室);Auckland University of Technology(奥克兰理工大学)
提出兼容性感知动态微调(CADFT),通过模型似然度动态调整监督更新,抑制不兼容样本的高方差梯度,提升训练稳定性和泛化能力。
2026-06-11 cs.CL cs.LG
Complexity-aware fine-tuning
Applied AI Institute(应用人工智能研究所)
本文提出一种高效微调方法,通过熵识别复杂数据进行推理,使用小模型分割训练数据并提升大模型性能,数据使用减少81%,准确率优于传统SFT和蒸馏方法。
2026-02-24 cs.CL cs.LG
Refusal Localizes, the Damage Relocates: Safety Layers Under Few-Sample Fine-Tuning
Korea University(高丽大学);Zoom Communications(Zoom 通信公司);Yonsei University Mirae Campus(延世大学未来校区)
研究发现微调攻击可移除大模型拒绝能力,基于定位的修复在攻击变化下失效,需自适应防御检查。
2026-10-02 cs.CL cs.CR cs.LG
Parameter Importance is Not Static: Evolving Parameter Isolation for Supervised Fine-Tuning
Tencent Hunyuan(腾讯文言);Tencent Yuanbao(腾讯元宝);Peking University(北京大学);UESTC;University of New South Wales(新南威尔士大学)
本文提出EPI框架,通过动态调整参数隔离策略,减少训练中的任务干扰和遗忘,提升模型泛化能力。
2026-04-15 cs.CL cs.LG
Offline Exploration-Aware Fine-Tuning for Long-Chain Mathematical Reasoning
NLP Lab, School of Computer Science and Engineering, Northeastern University, Shenyang, China(东北大学计算机科学与工程学院自然语言处理实验室,中国沈阳);Pattern Recognition Center, WeChat AI, Tencent Inc, China(腾讯公司微信人工智能部门模式识别中心,中国)
本文提出OXA微调方法,通过优化两个目标提升数学推理能力,实验显示在六个基准测试中OXA相比传统SFT在Pass@1和Pass@$k$上平均提升6和5分。
2026-03-17 cs.CL cs.LG
SlimFit: Memory-Efficient Fine-Tuning of Transformer-based Models Using Training Dynamics
University of California Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
SlimFit通过动态分析训练动态、运行时层间调度以及量化和剪枝冻结低贡献层,将ViT和BERT等Transformer模型微调的GPU内存占用平均降低2.2倍,且准确率仅下降约0.2%,使原本需多块32GB GPU的微调可在单块GPU上完成。
2023-05-29 cs.CL
CAFL-L: Constraint-Aware Federated Learning with Lagrangian Dual Optimization for On-Device Language Models
Purdue University(普渡大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出CAFL-L,一种基于拉格朗日对偶优化的约束感知联邦学习方法,通过动态调整训练超参数以适应设备级资源约束,在保持模型性能的同时显著降低内存与通信开销,适用于边缘设备部署。
2025-10-10 cs.CL cs.DC cs.LG
CAMFT: Conflict-Aware Mergeable Fine-Tuning for Large Language Models
University of Chinese Academy of Sciences(中国科学院大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
CAMFT提出在微调阶段即考虑可合并性,通过引导任务更新低冲突稀疏坐标,实现高效且兼容的多任务模型合并,实验证明其优于标准微调基线。
2026-09-22 cs.AI cs.CL cs.LG
Unsupervised Speaker Diarization that is Agnostic to Language, Overlap-Aware, and Tuning Free
Spotify(声田)
播客本质上是对话式的,说话者的变化很频繁--需要对说话者进行日志化以便于理解内容。我们提出了一种无监督的技术,不依赖于语言特定的组件的扬声器日记。该算法是语音感知的,不需要关于扬声器数量的信息。我们的方法显示,与Google Cloud Platform解决方案相比,播客数据的纯度分数提高了79%(F分数提高了34%)。
2022-07-25 cs.CL
Language-Aware Token Boosting: LLM Language Confusion Reduction Without Tuning
SCB DataX;Tsinghua University(清华大学);SCBX
提出无需微调的语言混淆减少方法,通过语言感知令牌增强(LATB)和自适应版本(Adaptive-LATB)对目标语言令牌施加扰动,有效提升多语言对齐并保持摘要质量。
2026-06-08 cs.CL
SharpZO: Hybrid Sharpness-Aware Vision Language Model Prompt Tuning via Forward-Only Passes
University of California, Santa Barbara(加州大学圣塔芭芭拉分校);Amazon AGI(亚马逊通用人工智能)
本文提出SharpZO,一种仅用前向传播的混合锐度感知零阶优化方法,通过锐度感知预热和两阶段优化,显著提升视觉语言模型微调的准确性与收敛速度。
2025-10-24 cs.CL cs.CV cs.LG
Lightweight Adapter Tuning for Multilingual Speech Translation
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);LIG(格勒诺布尔信息学实验室);Facebook AI(脸书人工智能);Naver Labs Europe(Naver欧洲实验室)
适配器模块最近被引入作为NLP中微调的有效替代方案。适配器调优包括冻结模型的预训练参数,并在层之间注入轻量级模块,从而仅添加少量特定于任务的可训练参数。在研究多语言神经机器翻译适配器调优的同时,本文提出了多语言语音翻译(ST)适配器的全面分析。从不同的预训练模型开始(在并行数据上训练的多语言ST或在非并行多语言数据上训练的多语言BART(mBART)),我们表明适配器可用于:(a)以参数方面的低额外成本将ST有效地专门化为特定语言对,以及(b)从自动语音识别(ASR)任务和mBART预训练模型转换为多语言ST任务。实验表明,适配器调整提供了与完全微调相竞争的结果,同时参数效率更高。
2021-07-12 cs.CL
Inference-Aware Fine-Tuning for Best-of-N Sampling in Large Language Models
Google DeepMind(谷歌DeepMind);Google Research(谷歌研究院)
本文提出了一种推理感知微调方法,通过改进最佳-N采样策略提升大型语言模型的性能和推理效率。
2025-11-25 cs.AI cs.CL cs.LG
Discourse-Aware Soft Prompting for Text Generation
Facebook AI Research(脸书人工智能研究院)
当前有效的微调方法(例如,适配器、前缀调优等)通过训练神经语言模型的一小部分额外参数,优化了条件文本生成,同时冻结其余参数以提高效率。虽然在某些生成任务上表现出很强的性能,但它们并不能推广到所有的生成任务。我们表明,软提示为基础的条件文本生成可以改善简单而有效的方法,模拟人类书面文本的话语结构建模。我们研究了两种设计选择:第一,我们应用\textit{hierarchical blocking}的前缀参数来模拟人类书面文本的更高层次的话语结构。其次,我们在网络的不同层对前缀参数应用\textit{attention sparsity},并在softmax函数上学习稀疏变换。我们发现,结构化设计的前缀参数产生更多的连贯性,忠实性和相关的代比基线前缀调整的所有生成任务。
2022-05-23 cs.CL cs.LG stat.ML
Beyond Fine-tuning: Few-Sample Sentence Embedding Transfer
Amazon Alexa AI Search(亚马逊Alexa人工智能搜索);Microsoft(微软);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
在小数据集上微调(FT)预训练的句子嵌入模型已被证明具有局限性。在本文中,我们表明,将来自预训练模型的嵌入与来自仅在目标数据上训练的简单句子嵌入模型的嵌入相连接,可以提高FT在少样本任务中的性能。为此,通过冻结嵌入模型权重或端到端地训练分类器和嵌入模型,在组合的嵌入上训练线性分类器。我们对来自NLP任务的七个小数据集进行了评估,并表明我们的端到端训练方法在计算开销可以忽略不计的情况下优于FT。此外,我们还表明,复杂的组合技术,如CCA和KCCA不工作,以及在实践中串联。我们提供理论分析来解释这一经验观察结果。
2020-10-05 cs.CL
FactPEGASUS: Factuality-Aware Pre-training and Fine-tuning for Abstractive Summarization
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
我们提出了FactPEGASUS,一个抽象的摘要模型,解决了预训练和微调期间的真实性问题:(1)我们增强了PEGASUS的句子选择策略(Zhang et al.,(2020)预训练目标是创建既重要又真实的伪摘要;(2)我们引入了三个互补的组件进行微调。校正器去除参考摘要中存在的幻觉,对比器使用对比学习来更好地区分非事实摘要和事实摘要,连接器弥合预训练和微调之间的差距,以更好地传递知识。在三个下游任务上的实验表明,FactPEGASUS大大提高了由多个自动度量和人类评估的真实性。我们的全面分析表明,FactPEGASUS比在zero-shot和Few-Shot设置中使用原始预训练目标更符合事实,比强基线更稳健地保留事实行为,并且不完全依赖于变得更加提取来提高真实性。我们的代码和数据可在以下网址公开获取:https://github.com/meetdavidwan/factpegasus
2022-05-16 cs.AI cs.CL cs.LG
Prefix Propagation: Parameter-Efficient Tuning for Long Sequences
Queen’s University(女王大学)
本文提出前缀传播方法,通过让前缀依赖先前隐藏状态,在参数量减少50%的情况下提升长文档任务的性能,并首次系统研究长序列场景下的参数高效学习。
2023-05-24 cs.CL
LLMs that Understand Processes: Instruction-tuning for Semantics-Aware Process Mining
Faculty of Computer Science(计算机科学系);University of Vienna(维也纳大学);SAP Signavio
本文研究指令微调在语义感知流程挖掘中的应用,通过让大语言模型学习多任务提示-答案对提升泛化能力,实验表明其在流程发现和预测任务上显著提升性能,而异常检测任务效果因模型而异。
2025-08-22 cs.CL
Fine-tuning BERT for Low-Resource Natural Language Understanding via Active Learning
Institute for Applied Artificial Intelligence (IAAI)(应用人工智能研究所(IAAI));Hochschule der Medien Stuttgart(斯图加特媒体大学);Institute for Natural Language Processing (IMS)(自然语言处理研究所(IMS));University of Stuttgart(斯图加特大学)
最近,在下游利用预先训练的基于Transformer的语言模型,任务特定模型已经在自然语言理解任务中取得了先进的技术水平。然而,只有很少的研究探索了这种方法在低资源设置中的适用性,其中训练数据点少于1,000。在这项工作中,我们探索了BERT的微调方法-一个预先训练的基于Transformer的语言模型-通过利用基于池的主动学习来加快训练,同时保持标记新数据的成本不变。我们在GLUE数据集上的实验结果表明,当从未标记数据池中查询时,通过最大化模型的近似知识增益,模型性能具有优势。最后,我们展示并分析了在微调期间冻结语言模型的层以减少可训练参数的数量,使其更适合于低资源设置的好处。
2020-12-04 cs.CL
TRACT: Regression-Aware Fine-tuning Meets Chain-of-Thought Reasoning for LLM-as-a-Judge
NTU GICE(国立台湾大学人工智能研究中心);Google Research(谷歌研究)
针对 LLM 评分忽视数值性质与 CoT 推理的问题,本文提出两阶段 TRACT,用生成的 CoT 监督回归感知微调,并结合 CE 与回归损失,在四个数据集和两个 LLM 上显著提升评判性能。
2025-06-06 cs.CL
Parameter-Efficient Tuning by Manipulating Hidden States of Pretrained Language Models For Classification Tasks
The Chinese University of Hong Kong(香港中文大学);Tencent AI Lab(腾讯人工智能实验室)
参数高效调优旨在通过优化一些引入的参数,同时冻结预训练的语言模型(PLM),为下游任务提取知识。连续提示微调就是其中之一,它通过在输入的嵌入中添加少量可训练向量,以其有效性和高效性而备受关注。这一系列方法可以被说明为对PLM内部的隐藏状态进行非线性变换。然而,一个自然的问题被忽略了:隐藏状态可以直接用于分类而不改变它们吗?在本文中,我们的目的是回答这个问题,提出了一个简单的调整方法,只引入了三个可训练的向量。首先,我们整合所有层隐藏状态使用引入的向量。然后,我们将集成的隐藏状态输入到特定于任务的线性分类器来预测类别。这个方案类似于ELMo利用隐藏状态的方式,除了它们将隐藏状态馈送到基于LSTM的模型。虽然我们提出的调整方案是简单的,它实现了类似的性能与提示微调方法,如P-调整和P-调整v2,验证原始隐藏状态包含有用的信息分类任务。此外,我们的方法在时间和参数数量方面优于提示微调。
2022-04-13 cs.CL
Generative Biomedical Entity Linking via Knowledge Base-Guided Pre-training and Synonyms-Aware Fine-tuning
Tsinghua University(清华大学)
实体是生物医学自然语言理解的核心,由于概念名称的细粒度和多样性,生物医学实体连接(EL)任务仍然具有挑战性。生成式方法在一般域EL中实现了显着的性能,占用内存较少,但需要昂贵的预训练。先前的生物医学EL方法利用来自知识库(KB)的同义词,这对于注入到生成方法中来说并不是微不足道的。在这项工作中,我们使用生成的方法来建模生物医学EL,并提出注入同义词的知识,我们提出知识库引导的预训练,通过构建合成样本的同义词和定义从知识库,并要求模型恢复概念名称。我们还提出了同义词感知的微调来选择概念名称进行训练,并提出了解码器提示和多同义词约束前缀树进行推理。我们的方法在几个生物医学EL任务上取得了最先进的结果,而无需候选人选择,这显示了所提出的预训练和微调策略的有效性。
2022-05-21 cs.CL
HausaNLP at SemEval-2025 Task 2: Entity-Aware Fine-tuning vs. Prompt Engineering in Entity-Aware Machine Translation
HausaNLP(豪萨NLP);Kaduna State University(卡杜纳州立大学);Ahmadu Bello University(艾哈迈杜·贝洛大学);University of the Witwatersrand(金山大学);Northeastern University(东北大学);Imperial College(帝国理工学院);Data Science for Social Impact, University of Pretoria(比勒陀利亚大学社会影响数据科学中心)
本文报告了我们在 SemEval 2025 任务 2 实体感知机器翻译中的研究,通过比较实体感知微调与提示工程方法,处理命名实体翻译挑战,覆盖 10 种目标语言,并分享了实验结果与见解。
2025-03-25 cs.CL
Skill-Aware Data Selection and Fine-Tuning for Data-Efficient Reasoning Distillation
University of Michigan(密歇根大学)
本文提出了一种基于技能的蒸馏框架,通过数据选择和微调提升推理效率,实验证明在数学推理基准上优于随机微调基线。
2026-01-15 cs.CL
Teaching According to Talents! Instruction Tuning LLMs with Competence-Aware Curriculum Learning
Tsinghua University(清华大学);Peng Cheng Laboratory(鹏城实验室);Cornell University(康奈尔大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Guangming Laboratory(光明实验室)
针对当前课程微调方法因依赖静态难度指标导致课程僵化的问题,提出能力感知多视角课程指令微调框架CAMPUS,通过动态选择子课程、能力感知调整进度及多种难度调度,显著提升了LLM指令微调性能。
2025-11-03 cs.AI cs.CL
KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
KnowPrompt通过将关系标签中的潜在知识注入可学习的虚拟类型词和答案词,并结合结构化约束协同优化表示,在标准和低资源场景下有效提升了关系抽取的提示调优性能。
2023-09-18 cs.AI cs.CL cs.IR
MSA at BEA 2025 Shared Task: Disagreement-Aware Instruction Tuning for Multi-Dimensional Evaluation of LLMs as Math Tutors
Faculty of Computer Science, MSA University(计算机科学学院,MSA大学)
本文提出MSA-MathEval系统,采用统一指令微调和感知分歧的集成推理,在BEA 2025共享任务中实现LLM数学辅导多维评估,并在提供指导等维度取得领先排名。
2025-05-24 cs.CL