GradShield: Alignment Preserving Finetuning
University of California, Berkeley（加州大学伯克利分校）；HUMAIN；King Abdulaziz City for Science and Technology（国王阿卜杜勒阿齐兹科学与技术城）；University of Washington, Seattle（华盛顿大学（西雅图））
提出GradShield过滤方法，通过计算微调隐式危害分数并采用自适应阈值，在微调前移除有害数据，保持LLM安全对齐，攻击成功率低于6%。
2026-06-05 cs.CL
Customizing Large Language Model Generation Style using Parameter-Efficient Finetuning
Carnegie Mellon University（卡内基梅隆大学）
本文研究如何用基于低秩适配的PEFT将LLaMA-2定制为十位作者风格，证明其可在词汇、句法和表层特征上对齐目标作者，但内容记忆仍有限。
2024-09-06 cs.CL
Instruction Finetuning for Leaderboard Generation from Empirical AI Research
Leibniz University of Hannover（汉诺威莱布尼茨大学）；TIB（德国科技信息图书馆）
本研究提出用预训练大语言模型的指令微调方法自动从AI论文中提取四元组以生成研究排行榜，使用FLAN-T5模型提升信息抽取效果，为结构化知识表示提供新方案。
2024-08-19 cs.CL
MemLLM: Finetuning LLMs to Use An Explicit Read-Write Memory
Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Microsoft（微软公司）
针对大语言模型依赖参数内存导致的记忆罕见事件、更新知识及防止幻觉等问题，提出MemLLM集成显式读写内存模块，实验证明其提升了模型性能与可解释性，是增强LLM事实性的重要进展。
2025-04-17 cs.CL
OMIND: Framework for Knowledge Grounded Finetuning and Multi-Turn Dialogue Benchmark for Mental Health LLMs
Indian Institute of Technology Bombay（印度理工学院孟买分校）
本文提出OMIND框架，通过结构化知识检索、模型剪枝和人工审核生成高质量多任务SFT数据集，并引入oMind-Chat多轮对话基准，验证了其在核心能力和对话任务上的优越性能。
2026-03-26 cs.CL
For-Value: Efficient Forward-Only Data Valuation for finetuning LLMs and VLMs
University of British Columbia（不列颠哥伦比亚大学）；Vector Institute（向量研究所）；Meta
本文提出For-Value框架，通过前向计算高效评估数据价值，无需反向传播，提升大规模模型训练效率。
2026-04-25 cs.CL
Label Supervised LLaMA Finetuning
Hong Kong Metropolitan University（香港都会大学）；Hong Kong Polytechnic University（香港理工大学）；Shanghai 100me Internet Technology Co., Ltd.（上海一零零米互联网科技有限公司）；Lingnan University（岭南大学）
针对指令微调大语言模型在分类任务上表现不佳的问题，提出标签监督式LLaMA微调方法，通过LoRA利用隐表示做标签预测，在文本分类和NER任务上取得优异性能。
2023-10-02 cs.CL
ApiQ: Finetuning of 2-Bit Quantized Large Language Model
University of Amsterdam（阿姆斯特丹大学）；eBay Inc.（eBay公司）
针对现有内存高效微调方法在不同量化位宽和任务上性能不稳定的问题，提出ApiQ量化框架，同步初始化LoRA组件与量化权重以降低激活误差，在多模型多任务的不同位宽下均实现更优微调效果。
2024-06-21 cs.CL cs.LG
MAPLE: Multilingual Evaluation of Parameter Efficient Finetuning of Large Language Models
Microsoft Research India（微软研究院印度分部）；Indian Institute of Technology Bombay（印度理工学院孟买分校）
本研究通过微调LLama-2-7B和Mistral-7B模型，评估参数高效微调在多语言任务中的效果，发现较高秩和量化值有利于低资源语言，但可能损害英语性能。
2024-07-22 cs.CL
SASFT: Sparse Autoencoder-guided Supervised Finetuning to Mitigate Unexpected Code-Switching in LLMs
Tongyi Lab, Alibaba Group Inc（通义实验室，阿里巴巴集团）
SASFT通过稀疏自编码器引导监督微调，有效减少大语言模型中的意外语言混合，同时保持多语言能力。
2026-02-28 cs.CL
Accurate LoRA-Finetuning Quantization of LLMs via Information Retention
ETH Zürich（苏黎世联邦理工学院）；Beihang University（北京航空航天大学）；Bytedance AI Lab（字节跳动人工智能实验室）
针对现有方法导致量化LLM在LoRA微调中失效的问题，提出IR-QLoRA，通过信息校准量化与信息弹性连接保留信息，在2-4位宽下显著提升LLaMA系列精度，仅增加0.31%时间开销。
2024-05-27 cs.CL cs.LG
From Artificial Needles to Real Haystacks: Improving Retrieval Capabilities in LLMs by Finetuning on Synthetic Data
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对LLMs长上下文检索与推理能力不足的问题，提出在合成数值键值检索数据集上微调模型，显著提升了长上下文检索能力且不损害通用基准表现，有效避免幻觉。
2024-10-14 cs.AI cs.CL cs.LG
RAIN: Your Language Models Can Align Themselves without Finetuning
Peking University（北京大学）；Microsoft Research Asia（微软亚洲研究院）；The University of Sydney（悉尼大学）；University of Waterloo（滑铁卢大学）
针对大语言模型与人类偏好不一致的问题，提出无需微调、无需对齐数据的可回退自归回推理方法RAIN，通过自我评估与回退机制实现模型自我对齐，显著提升模型无害性与真实性。
2023-10-09 cs.CL
Finetuning Language Models to Emit Linguistic Expressions of Uncertainty
Google DeepMind（谷歌DeepMind）
本研究通过监督微调使语言模型生成校准的不确定性语言表达，实验表明该方法在问答任务中有效，尤其适用于单主张答案。
2024-09-18 cs.CL cs.LG
When Scaling Meets LLM Finetuning: The Effect of Data, Model and Finetuning Method
Google DeepMind（谷歌DeepMind）；Google Research（谷歌研究院）
本文系统研究了LLM规模、预训练数据、微调参数与数据等因素对不同微调方法性能的影响，发现微调遵循乘法联合扩展定律，且最优方法高度依赖任务与数据。
2024-02-27 cs.CL cs.LG
Bitune: Leveraging Bidirectional Attention to Improve Decoder-Only LLMs
Fundamental AI Lab University of Technology Nuremberg（基础人工智能实验室 汉诺威技术大学）
针对仅解码器 LLM 单向因果注意力限制表达能力的问题，本文提出 Bitune，在提示处理中引入双向注意力，并在多类任务与微调方式下验证其性能提升和兼容性。
2025-08-28 cs.CL
IgnitionInnovators at "Discharge Me!": Chain-of-Thought Instruction Finetuning Large Language Models for Discharge Summaries
RMIT University（皇家墨尔本理工大学）
本文提出基于LLM的框架解决出院摘要文档记录任务，通过指令微调与思维链提示策略优化文本生成，有效提升了临床信息的结构正确性与忠实度。
2024-07-24 cs.CL
Text2Cypher Across Languages: Evaluating and Finetuning LLMs
Neo4j
该研究针对Text2Cypher任务多语言研究不足的问题，构建英、西、土三语数据集，评估发现基础模型性能随语言从英到土递减，提示翻译影响小，且多语言微调可缩小语言间性能差距，助力构建更包容的查询生成系统。
2025-09-04 cs.CL cs.IR
Safety-Aligned Weights Are Not Enough: Refusal-Teacher-Guided Finetuning Enhances Safety and Downstream Performance under Harmful Finetuning Attacks
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
针对有害微调攻击威胁，该研究提出拒绝教师引导微调框架，将安全FaaS微调范式从安全对齐权重微调转为基础权重在安全教师指导下的微调，可减少有害输出并提升下游任务性能。
2026-08-25 cs.CL
Planted in Pretraining, Swayed by Finetuning: A Case Study on the Origins of Cognitive Biases in LLMs
Technion – Israel Institute of Technology（以色列技术学院）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
本文提出一种两步因果实验方法，通过多次微调和交叉微调分离训练随机性、预训练与微调对LLMs认知偏差的影响，发现偏差主要由预训练塑造，为评估和缓解偏差提供了新视角。
2025-07-12 cs.AI cs.CL cs.LG
MiLoRA: Harnessing Minor Singular Components for Parameter-Efficient LLM Finetuning
Shanghai University of Finance and Economics（上海财经大学）；Southern University of Science and Technology（南方科技大学）；Tsinghua University（清华大学）
提出MiLoRA方法，通过仅更新权重矩阵的次要奇异成分并保持主要成分冻结，在正交子空间中学习以保留预训练知识，在多项推理和指令跟随基准上表现优越。
2025-03-02 cs.CL
Improving Task Diversity in Label Efficient Supervised Finetuning of LLMs
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
针对大语言模型监督微调标注成本高的问题，提出基于任务多样性的逆置信度加权采样策略，性能优于全量训练及现有最优方法，最高可降80%标注成本。
2025-07-29 cs.AI cs.CL
Finetuning Generative Large Language Models with Discrimination Instructions for Knowledge Graph Completion
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；National Institute of Healthcare Data Science, Nanjing University（南京大学国家卫生健康数据科学研究院）
本文提出微调框架DIFT，通过轻量级模型获取候选实体并利用判别指令微调LLM进行选择，结合截断采样和KG嵌入注入，有效避免锚定错误并提升知识图谱补全性能。
2024-07-23 cs.AI cs.CL
Towards Consistent Natural-Language Explanations via Explanation-Consistency Finetuning
Columbia University（哥伦比亚大学）；Microsoft Research（微软研究院）；University of California, Berkeley（加州大学伯克利分校）；NYU（纽约大学）
本文提出 EC-finetuning，通过包含一致解释的合成数据微调 LLM，以提升相关问答示例上的自然语言解释一致性，并在域内和分布外数据集上验证其效果。
2024-01-25 cs.AI cs.CL cs.LG
Enhancing Talent Employment Insights Through Feature Extraction with LLM Finetuning
Georgia Institute of Technology（佐治亚理工学院）
本研究针对非结构化招聘信息的职位特征提取难题，结合语义分块、RAG与微调DistilBERT模型构建提取流程，在120万条招聘数据集上提升了易漏判变量的识别准确率，为劳动力市场分析提供更可靠的洞察基础。
2025-01-13 cs.CL
Detecting Hidden Behaviors in LLMs via Activation-matched Finetuning
Bonn-Aachen International Center for Information Technology, University of Bonn（波恩大学波恩-亚琛国际信息技术中心）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究院）
本研究提出无监督检测方法激活匹配微调，无需预先了解触发器或目标行为，可在不牺牲隐藏行为的情况下，可靠检测大语言模型中的后门等隐藏行为。
2026-09-02 cs.AI cs.CL
Semantic-Enhanced Explainable Finetuning for Open-Domain Dialogues
本文提出将预训练的语言模型与模块化对话范式相结合，用于开放域对话建模。我们的方法，语义增强微调，实例化会话理解，规划和响应生成作为一个语言模型微调任务。在推理中，我们通过分别为每个模块指定采样方法和约束来解开语义和令牌变化。对于训练和评估，我们提出了X-Weibo，这是一个中文多轮开放域对话数据集，具有情感，DA和主题词的自动注释。实验表明，语义增强的微调在非语义和语义指标上优于强基线，提高了人类评估的相关性，一致性和信息性，并对语义变量表现出相当大的可控性。
2022-05-24 cs.CL
The Hallucination Tax of Reinforcement Finetuning
University of Southern California（南加州大学）
本研究提出强化微调存在“幻觉税”副作用，构建SUM不可解数学数据集验证标准RFT会大幅降低模型拒答率，发现加入10%SUM数据可在极小准确率损失下恢复拒答能力并提升泛化性。
2025-05-20 cs.CL
Mitigating Large Language Model Hallucination with Faithful Finetuning
The Chinese University of Hong Kong（香港中文大学）；City University of Hong Kong（香港城市大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
针对大语言模型幻觉问题，本文提出 Faithful Finetuning（F2），通过精心设计的微调损失显式建模忠实问答过程，并在多个常用数据集上显著优于原始模型与基线。
2024-06-17 cs.CL
Randomized Masked Finetuning: An Efficient Way to Mitigate Memorization of PIIs in LLMs
Khoury College of Computer Sciences, Northeastern University, Boston, MA, USA（东北大学科里学院计算机科学学院）
本文提出随机掩码微调方法，有效减少LLM中PII记忆，同时保持模型性能，通过实验验证其在隐私保护和效用之间的平衡。
2026-02-18 cs.CL cs.CR cs.LG
Cross-Lingual Transfer of Debiasing and Detoxification in Multilingual LLMs: An Extensive Investigation
Institute for Logic, Language and Computation, University of Amsterdam（逻辑、语言与计算研究所，阿姆斯特丹大学）；Center for Language and Cognition, University of Groningen（语言与认知中心，格罗宁根大学）
本研究探讨多语言LLM中通过英语微调实现去偏与去毒的跨语言迁移效果，发现DPO能有效降毒且迁移程度可预测，但会牺牲非英语生成能力，凸显了开发语言特定缓解方法的必要性。
2025-06-02 cs.CL
Low-rank finetuning for LLMs: A fairness perspective
University of Virginia（弗吉尼亚大学）；New York University（纽约大学）；Dyania Health（戴尼亚健康公司）；OpenMined（开放智能）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
本文从公平性视角研究大语言模型的低秩微调，发现其在捕捉数据分布偏移时可能不足，从而保留偏见和有害行为，并延伸至序贯决策任务，强调需仔细评估以促进负责任的模型开发。
2024-05-28 cs.AI cs.CL cs.LG
Steering Large Language Models for Machine Translation with Finetuning and In-Context Learning
针对大语言模型机器翻译中少样本提示脆弱及传统微调成本高且削弱上下文学习能力的问题，提出在LoRA微调中结合少样本示例的方法，在10个语言对上既恢复了少样本适应能力又保留了微调优势。
2023-10-20 cs.CL
Predicting Emergent Capabilities by Finetuning
University of California, Berkeley（加州大学伯克利分校）
针对LLM涌现能力难预测的问题，提出涌现预测任务，通过在任务上微调LLM并拟合涌现定律，用小型LLM可准确预测计算量增4倍的模型涌现情况，还展示了两个实际应用案例。
2024-11-25 cs.CL cs.LG
Robo-Instruct: Simulator-Augmented Instruction Alignment For Finetuning Code LLMs
本文提出ROBO-INSTRUCT框架，通过在程序执行期间动态合成任务特定仿真环境并集成LLM辅助的指令后处理，高效微调小型专用代码LLM，使其在机器人任务上超越基线并媲美更大规模专有模型。
2025-10-10 cs.AI cs.CL cs.RO
High Accuracy, Less Talk (HALT): Reliable LLMs through Capability-Aligned Finetuning
University of Oxford（牛津大学）；Anthropic（Anthropic公司）；Meta；University of Washington（华盛顿大学）
HALT通过能力对齐微调提高LLM的响应正确性，使模型在四个领域中正确性提升至87%
2026-02-15 cs.AI cs.CL
Evaluation of Finetuned LLMs in AMR Parsing
本文评估了四种仅解码器LLM在AMR解析上的微调效果，发现直接微调即可达到SOTA水平，其中LLaMA 3.2语义性能最佳，SMATCH F1达0.804。
2025-08-18 cs.AI cs.CL
SELF-GUIDE: Better Task-Specific Instruction Following via Self-Synthetic Finetuning
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）
本文提出 SELF-GUIDE 多阶段自合成微调方法，让学生 LLM 自行生成任务输入-输出对并用于自身微调，在 Natural Instructions V2 上显著提升分类与生成任务表现。
2024-08-12 cs.AI cs.CL
Crossing Linguistic Horizons: Finetuning and Comprehensive Evaluation of Vietnamese Large Language Models
Stanford University（斯坦福大学）；Ho Chi Minh City University of Technology（胡志明市技术大学）；VNU-HCM（胡志明市国家大学）
针对越南语微调LLMs，构建含10任务31指标的综合评估框架，发现微调提升越南语能力，但参数增多带来偏差，数据集质量是关键。
2024-05-26 cs.AI cs.CL
How to Alleviate Catastrophic Forgetting in LLMs Finetuning? Hierarchical Layer-Wise and Element-Wise Regularization
NUDT（中国人民解放军国防科技大学）；CCNU（华中师范大学）
针对LLM领域微调导致的灾难性遗忘，本文提出结合逐元素参数重要性正则化、交叉熵损失与逐层系数的双目标优化方法，在GPT-J和LLaMA-3上实现更好的知识保持与适应能力，并显著降低计算和存储开销。
2025-02-17 cs.AI cs.CL
Towards Better Few-Shot and Finetuning Performance with Forgetful Causal Language Models
UC Berkeley（加州大学伯克利分校）；Google Research（谷歌研究院）
使用下一个标记预测目标训练的大语言模型（LLM），如GPT 3和PaLM，近年来通过在广泛的任务中显示令人印象深刻的zero-shot和Few-Shot能力，彻底改变了自然语言处理。在这项工作中，我们提出了一个简单的技术，显着提高LLM的性能，而不增加计算成本。我们的关键观察是，通过执行下一个标记预测任务，随机选择过去的标记屏蔽，我们可以提高下游语言理解任务的学习表示的质量。我们假设，随机屏蔽过去的令牌防止过度关注最近的令牌，并鼓励注意令牌在遥远的过去。我们发现，我们的方法，遗忘因果掩蔽（FCM），显着提高了Few-Shot和微调性能的PaLM。我们进一步考虑了一个简单的扩展，T-FCM，它引入了双向上下文因果语言模型，而不改变序列顺序，并进一步提高微调性能。
2023-01-31 cs.CL
KnowLA: Enhancing Parameter-efficient Finetuning with Knowledgeable Adaptation
Nanjing University（南京大学）；Tencent AI Lab（腾讯AI实验室）
本文提出知识化适应方法KnowLA，通过在LLM中插入适应层整合知识图谱实体嵌入并与LoRA结合训练，有效提升了参数高效微调效果，无需改变模型参数或输入提示即可激活相关知识回答问题。
2024-03-22 cs.CL cs.LG
3-in-1: 2D Rotary Adaptation for Efficient Finetuning, Efficient Batching and Composability
University of Amsterdam（阿姆斯特丹大学）；eBay Inc.（eBay公司）
本文提出RoAd方法，用二维旋转适配LLM，以少于0.1%参数实现高效微调、批处理及可解释性，兼顾性能与效率。
2024-11-04 cs.AI cs.CL cs.LG
Impact of Co-occurrence on Factual Knowledge of Large Language Models
KAIST（韩国科学技术院）
本文研究大型语言模型因过度依赖预训练语料共现统计而产生事实错误的问题，提出通过去偏数据集微调缓解共现偏差，但该方法对未见过的稀有事实效果有限。
2023-10-12 cs.AI cs.CL cs.LG
Risk-Averse Finetuning of Large Language Models
Amazon Web Services (AWS)（亚马逊网络服务（AWS））；Texas A&M University（德克萨斯农工大学）
针对大语言模型易生成有害内容的问题，提出将风险厌恶原则融入微调，通过优化CVaR训练模型，实验验证该RLHF方法可在保持生成能力的同时有效减少有毒输出，助力构建更安全的在线环境。
2025-01-12 cs.AI cs.CL
CoEvol: Constructing Better Responses for Instruction Finetuning through Multi-Agent Cooperation
University of Macau（澳门大学）；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
本文提出CoEvol多智能体协作框架，通过辩论—建议—编辑—评判迭代流程和两阶段辩论策略改进IFT回复质量，并在MT-Bench与AlpacaEval上验证其有效性。
2024-10-24 cs.AI cs.CL
Polynomial Regression as a Task for Understanding In-context Learning Through Finetuning and Alignment
University of California, Berkeley（加州大学伯克利分校）
本文提出单变量多项式回归作为函数类，以弥补线性回归等简单函数类在结构上的不足，从而在具备上下文学习能力的模型中研究提示与对齐问题，并实现清晰的可视化与理解。
2024-07-27 cs.CL cs.LG
mcdok at SemEval-2026 Task 13: Finetuning LLMs for Detection of Machine-Generated Code
Faculty of Information Technology, Brno University of Technology（布拉格技术学院）；Kempelen Institute of Intelligent Technologies（智能技术研究所）
本文通过微调大语言模型，针对多领域机器生成代码检测问题，提出了改进的mcdok方法，提升了对不同编程语言代码片段的检测能力，但在部分子任务上仍有提升空间。
2026-04-23 cs.AI cs.CL cs.LG
Are You Sure? Challenging LLMs Leads to Performance Drops in The FlipFlop Experiment
Salesforce AI Research（Salesforce AI研究部门）
本文提出FlipFlop实验，通过在第二轮对话中用“你确定吗？”挑战LLM，发现十个LLMs在七个分类任务上平均46%会翻转答案且准确率平均下降17%，并证明合成数据微调可缓解但无法完全消除谄媚行为。
2024-02-21 cs.CL
Learning and Forgetting Unsafe Examples in Large Language Models
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Columbia University（哥伦比亚大学）；Google（谷歌公司）；Stanford University（斯坦福大学）；New York University（纽约大学）
本文研究LLM在含不安全内容的第三方微调数据中的学习与遗忘行为，提出基于遗忘信号强度的ForgetFilter过滤算法，在保证下游任务性能的同时有效抑制不安全内容吸收，优于重放和道德自我纠正策略。
2024-07-03 cs.CL cs.LG
Improving Multilingual Instruction Finetuning via Linguistically Natural and Diverse Datasets
Zoom Video Communications（Zoom视频通讯公司）
针对多语言指令微调数据缺乏自然性与多样性的问题，提出结合英语中心 LLM、单语语料和评分函数构建数据集的方法，显著提升非英语生成与判别任务性能。
2024-07-01 cs.AI cs.CL cs.LG
A Simple "Motivation" Can Enhance Reinforcement Finetuning of Large Reasoning Models
Generative AI Lab, College of Computing and Data Science, Nanyang Technological University, Singapore（生成式人工智能实验室，计算与数据科学学院，南洋理工大学，新加坡）；Tongyi Lab, Alibaba Group（通义实验室，阿里巴巴集团）
本文提出MeRF，通过在强化微调中引入任务动机，提升大模型在复杂任务中的推理性能。
2026-03-09 cs.AI cs.CL
Programming by Backprop: An Instruction is Worth 100 Examples When Finetuning LLMs
FLAIR, University of Oxford（FLAIR，牛津大学）；Cohere & Cohere Labs（Cohere及Cohere实验室）；Anthropic；UCL AI Centre（UCL人工智能中心）；MIT（麻省理工学院）
通过反向传播编程（PBB）使LLMs能从声明性指令中学习程序性知识，提升训练效率并减少对大量示例的依赖。
2026-02-24 cs.AI cs.CL cs.LG
Disambiguation-Centric Finetuning Makes Enterprise Tool-Calling LLMs More Realistic and Less Risky
SAP Labs（SAP实验室）
本文提出DiaFORGE框架，通过三阶段流程提升企业工具调用LLM的准确性和安全性，实验显示其在工具调用成功率上优于GPT-4o和Claude-3.5-Sonnet。
2026-04-11 cs.AI cs.CL cs.LG
