Phased Instruction Fine-Tuning for Large Language Models
Peking University（北京大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出分阶段指令微调（Phased IFT），按 GPT-4 评估的难度递增顺序训练模型，实验证明其显著优于一次性指令微调，为高效增强大语言模型指令遵循能力提供了简单方案。
2024-06-16 cs.AI cs.CL
Are You Sure You're Sure? On the Impact of Instruction Tuning on Confidence and Lexical Diversity
Cohere Labs（Cohere实验室）；Laboratoire Hubert Curien（于贝尔·居里实验室）；Bennett University（班尼特大学）；Western University（西安大略大学）
本文研究指令微调对语言模型置信度与生成理由词汇多样性的影响，发现指令微调虽小幅降低校准度但显著改变置信度，且对理由多样性的影响存在差异，二者是指令微调的不同效应。
2026-09-21 cs.AI cs.CL
Teaching According to Talents! Instruction Tuning LLMs with Competence-Aware Curriculum Learning
Tsinghua University（清华大学）；Peng Cheng Laboratory（鹏城实验室）；Cornell University（康奈尔大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Guangming Laboratory（光明实验室）
针对当前课程微调方法因依赖静态难度指标导致课程僵化的问题，提出能力感知多视角课程指令微调框架CAMPUS，通过动态选择子课程、能力感知调整进度及多种难度调度，显著提升了LLM指令微调性能。
2025-11-03 cs.AI cs.CL
LogiCoT: Logical Chain-of-Thought Instruction-Tuning
Zhejiang University（浙江大学）；Nanyang Technological University（南洋理工大学）；Tencent AI lab（腾讯AI实验室）；Alibaba Group（阿里巴巴集团）；Westlake University（西湖大学）
本文提出LogiCoT数据集，通过收集指令引导GPT-4生成逻辑思维链推理依据，用于指令微调以提升模型在复杂推理任务上的能力，弥补现有自指令微调方法在逻辑推理方面的不足。
2023-10-28 cs.AI cs.CL
Stronger Models are NOT Stronger Teachers for Instruction Tuning
University of Washington（华盛顿大学）
本文挑战“更强模型是更强教师”的假设，通过实验揭示“更大模型的悖论”，并提出兼容性调整奖励（CAR）指标来预测响应生成器在指令微调中的有效性，实验证明其优于现有基线。
2025-02-26 cs.AI cs.CL
SwitchCIT: Switching for Continual Instruction Tuning
Coordinated Science Laboratory（协调科学实验室）；Department of Electrical and Computer Engineering（电气与计算机工程系）；Department of Mathematics（数学系）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出SwitchCIT方法，通过一种将计算路由到参数高效微调模型的切换机制，有效解决大型模型在持续指令微调中的灾难性遗忘问题，并在多任务实验中展现出高效、可扩展和隐私保护等优势。
2024-12-18 cs.AI cs.CL
LuxInstruct: A Cross-Lingual Instruction Tuning Dataset For Luxembourgish
SnT, University of Luxembourg（卢森堡大学SnT学院）；Zortify Labs, Zortify S.A.（Zortify实验室）
针对卢森堡语缺乏高质量指令数据集问题，利用英、法、德对齐数据创建跨语言指令微调数据集，避免机器翻译弊端，提升模型在卢森堡语中的生成能力，为低资源语言发展提供新思路。
2026-07-28 cs.AI cs.CL
A Study of Large Language Models for Patient Information Extraction: Model Architecture, Fine-Tuning Strategy, and Multi-task Instruction Tuning
University of Florida（佛罗里达大学）；Selfii
本研究围绕患者信息抽取任务，考察不同架构大语言模型、参数高效微调算法及多任务指令微调的效果，通过多数据集基准测试验证相关方法的抽取性能与泛化能力。
2025-09-05 cs.AI cs.CL
Zero-shot cross-lingual transfer in instruction tuning of large language models
Naver Labs Europe（Naver欧洲实验室）
本研究系统探讨了大型语言模型指令微调中的零样本跨语言迁移，发现只要在超参数调优中考虑多语言性并使用足够数据，仅用英语训练的模型也能在其他语言中生成正确且全面的响应，但存在事实性低和流畅性错误的问题。
2024-04-22 cs.AI cs.CL
Monolingual or Multilingual Instruction Tuning: Which Makes a Better Alpaca
University of Edinburgh（爱丁堡大学）；University of Helsinki（赫尔辛基大学）；University of Oslo（奥斯陆大学）
该研究针对多语言场景下的大语言模型指令微调策略展开实证分析，对比单语与多语微调效果，发现多语微调性价比更高，可为扩展模型语言支持提供参考。
2024-01-31 cs.AI cs.CL
Towards Robust Instruction Tuning on Multimodal Large Language Models
Singapore University of Technology and Design（新加坡科技设计大学）；Nanyang Technological University（南洋理工大学）
本文提出自动指令增强方法 INSTRAUG，从少量元指令扩展多模态指令数据 30 倍，并在 MULTIINSTRUCT 与 InstructBLIP 上验证其可显著提升 MLLM 的跨任务对齐效果。
2024-06-14 cs.AI cs.CL
An Empirical Study of Instruction-tuning Large Language Models in Chinese
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；APUS AiLMe Lab（APUS AiLMe实验室）
本文对中文指令微调大型语言模型进行了深入实证研究，系统探讨了LLM基座、参数高效方法、指令数据类型等关键要素及思维链数据、人类价值对齐等因素的影响，并发布了与ChatGLM相当的中文LLMs。
2023-10-20 cs.AI cs.CL
DolphCoder: Echo-Locating Code Large Language Models with Diverse and Multi-Objective Instruction Tuning
Beijing University of Posts and Telecommunications（北京邮电大学）；Meituan（美团）
本文提出具备自我评估能力的多样化指令模型DolphCoder，通过学习多样化指令目标并结合代码评估目标来增强代码生成能力，在HumanEval和MBPP基准上表现卓越，并证实增加推理路径多样性与提升代码评估能力均能增强代码生成效果。
2024-02-14 cs.AI cs.CL
Roles of Scaling and Instruction Tuning in Language Perception: Model vs. Human Attention
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；Department of Linguistics and Translation, City University of Hong Kong（香港城市大学语言学及翻译学系）
本文通过对比不同规模LLaMA、Alpaca和Vicuna的自注意力与人类眼跳，发现缩放能提升模型注意力的人类相似性和有效性，而指令微调主要增强指令敏感性，且当前LLMs注意力更接近非母语者，揭示其语言感知仍非最优。
2023-10-29 cs.AI cs.CL
Bridging Writing Manner Gap in Visual Instruction Tuning by Creating LLM-aligned Instructions
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）
该研究针对视觉指令与基础大语言模型间的写作风格差距导致模型能力退化的问题，提出用基础LLM对齐软格式视觉指令的写作风格，生成对齐指令，有效缩小差距并提升基线模型的抗幻觉能力与多基准综合性能。
2025-03-24 cs.AI cs.CL
LinguaLIFT: An Effective Two-stage Instruction Tuning Framework for Low-Resource Language Reasoning
Institute of Computing and Intelligence, Harbin Institute of Technology（哈尔滨工业大学计算与智能学院）；Peng Cheng Laboratory（鹏城实验室）
本文提出两阶段指令微调框架 LinguaLIFT，通过语言对齐层和语码转换微调，仅用英文数据将推理能力迁移至低资源语言，并构建覆盖48种语言的 MMWP 基准，实验表现优于多个基线。
2025-02-17 cs.AI cs.CL
Non-instructional Fine-tuning: Enabling Instruction-Following Capabilities in Pre-trained Language Models without Instruction-Following Data
本文提出用OpenWebText随机文本前半段作指令、GPT-3.5/4-turbo补全作响应的非指令性数据微调预训练LLMs，验证其能获得指令遵循能力，且LLaMA-3-70B-Instruct在Arena Hard上可比肩LLaMA-3.1-70B-Instruct。
2024-08-27 cs.AI cs.CL cs.LG
Multilingual Instruction Tuning With Just a Pinch of Multilinguality
Google Research（谷歌研究院）；Tel Aviv University（特拉维夫大学）
本研究探究多语言大语言模型指令微调中的多语言数据作用，发现少量多语言样本即可显著提升跨语言指令遵循与泛化能力，为高效构建多语言指令微调模型提供新思路。
2024-05-21 cs.AI cs.CL cs.LG
Don't Half-listen: Capturing Key-part Information in Continual Instruction Tuning
School of Cyber Science and Engineering Nanjing University of Science and Technology China（南京理工大学信息科学与工程学院）；Meituan China（美团）；Zhipu.AI China（智谱AI）；Institute of Information Engineering Chinese Academy of Sciences China（中国科学院信息工程研究所）
针对持续指令微调中的灾难性遗忘问题，提出基于关键部分信息增益（KPIG）的方法，通过动态重放数据和优化训练目标捕获任务关键信息，并引入P-score和V-score指标，实验证明在已见和保留任务上性能优越。
2025-05-27 cs.AI cs.CL
Tuning LLMs with Contrastive Alignment Instructions for Machine Translation in Unseen, Low-resource Languages
Apple（苹果公司）；Sony Group Corporation（索尼集团公司）
本文提出对比对齐指令AlignInstruct，通过跨语言判别器增强跨语言监督，微调BLOOMZ模型，在24种未见语言和48个翻译方向上显著提升机器翻译质量，并改善零样本性能。
2024-07-20 cs.AI cs.CL
From Language Modeling to Instruction Following: Understanding the Behavior Shift in LLMs after Instruction Tuning
University of Georgia（佐治亚大学）；Tencent AI Lab（腾讯人工智能实验室）
本文通过局部与全局解释方法对比预训练和指令微调后的大语言模型，揭示指令微调使模型识别指令、增强指令动词注意力并旋转前馈知识以面向用户任务，为理解和优化LLMs提供基础。
2024-04-04 cs.AI cs.CL cs.LG
ClimateChat: Designing Data and Methods for Instruction Tuning LLMs to Answer Climate Change Queries
Tsinghua University（清华大学）
本研究针对气候变化领域高精度指令数据不足的问题，提出自动化构建指令数据的方法，构建ClimateChat-Corpus数据集并微调得到ClimateChat大语言模型，显著提升了气候变化问答任务性能，为领域大模型训练提供参考。
2025-06-12 cs.AI cs.CL
InstructAlign: High-and-Low Resource Language Alignment via Continual Crosslingual Instruction Tuning
Hong Kong University of Science and Technology（香港科技大学）
本文提出InstructAlign框架，通过持续跨语言指令微调使大型语言模型在有限平行数据下学习低资源语言，有效防止灾难性遗忘并保持多任务能力。
2023-10-24 cs.AI cs.CL
Select2Reason: Efficient Instruction-Tuning Data Selection for Long-CoT Reasoning
DataArc Tech Ltd.（DataArc科技有限公司）；Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州））；IDEA Research, International Digital Economy Academy（IDEA研究所，国际数字经济学院）；Hithink RoyalFlush Information Network Co., Ltd（Hithink RoyalFlush信息网络有限公司）
Select2Reason通过高效数据选择提升长链推理性能，实验证明其在多个基准测试中表现优异。
2025-12-23 cs.AI cs.CL
Selective Reflection-Tuning: Student-Selected Data Recycling for LLM Instruction-Tuning
University of Maryland, College Park（马里兰大学学院公园分校）；Adobe Research（奥多比研究院）
本文提出选择性反思调优，通过教师LLM反思改进数据质量、学生LLM选择兼容样本，自动精炼现有指令数据，在Alpaca和WizardLM上训练出顶尖7B和13B模型。
2024-06-07 cs.AI cs.CL cs.LG
Instruction Tuning with GPT-4
Microsoft Research（微软研究院）
本文首次尝试使用GPT-4生成指令跟随数据对LLaMA进行微调，实验表明该方法显著提升了模型在新任务上的零样本性能，并公开了数据与代码库。
2023-04-06 cs.AI cs.CL
MURI: High-Quality Instruction Tuning Datasets for Low-Resource Languages via Reverse Instructions
CIS, LMU Munich（慕尼黑大学CIS学院）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室）；Cohere for AI
本文提出MURI方法，利用反向指令和翻译流水线，无需人工标注即可为200种低资源语言生成超200万指令-输出对，经评估和微调实验验证，有效提升NLU和开放式生成性能。
2024-09-19 cs.AI cs.CL cs.LG
Low-Confidence Gold: Refining Low-Confidence Samples for Efficient Instruction Tuning
Universiti Malaya（马来亚大学）；University of Science and Technology Beijing（北京科技大学）；The Chinese University of Hong Kong（香港中文大学）
本文提出LCG框架，通过聚类和置信度引导选择精炼低置信度样本，提升指令微调效率与性能，实验显示在MT-bench等指标上表现更优。
2026-04-08 cs.AI cs.CL
How Instruction-Tuning Imparts Length Control: A Cross-Lingual Mechanistic Analysis
Università degli Studi di Milano, Department of Computer Science（米兰大学计算机科学系）
该研究针对大语言模型长度控制难题，通过跨语言机制分析发现指令微调通过重构模型后层组件提升长度控制能力，且不同语言下组件贡献模式存在差异。
2025-09-02 cs.AI cs.CL
COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning
Shenzhen Institute of Advanced Technology, CAS（中国科学院深圳先进技术研究院）；M-A-P；Institute of Automation, CAS（中国科学院自动化研究所）；Peking University（北京大学）；University of Science and Technology of China（中国科学技术大学）；HKUST（香港科技大学）；University of Manchester（曼彻斯特大学）；University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）
针对中文指令微调数据集适配性不足的问题，研究团队推出经人工校验的真实场景中文指令微调数据集COIG-CQIA，实验证明其训练的模型性能优异，还为相关数据集设计与数据混合策略提供了参考。
2024-11-02 cs.AI cs.CL
Instruction Following without Instruction Tuning
Stanford University（斯坦福大学）
本文提出隐式指令微调，发现仅在响应上训练或在窄领域数据上训练均可产生指令遵循，并假设对语言模型分布进行简单改变即可实现该能力。
2024-09-21 cs.CL
Active Instruction Tuning: Improving Cross-Task Generalization by Training on Prompt Sensitive Tasks
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本文提出基于提示不确定性的主动指令微调框架，通过模型在扰动提示上的输出分歧识别信息量大的任务进行选择性训练，在NIV2和Self-Instruct数据集上以更少训练任务实现了更好的分布外泛化，并揭示了模糊任务有助于泛化而困难任务无益的规律。
2023-11-01 cs.AI cs.CL
LongForm: Effective Instruction Tuning with Reverse Instructions
Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室）
LongForm通过反向指令从人类语料生成指令数据，构建LongForm-C数据集，以低成本实现有效指令微调，在长文本生成和问答任务上超越更大规模及先前微调模型。
2024-10-03 cs.AI cs.CL cs.LG
A Comparative Analysis of Instruction Fine-Tuning LLMs for Financial Text Classification
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Arizona State University（亚利桑那州立大学）
本研究通过指令微调Mistral-7B、Llama3-8B和Phi3-mini等小型LLM，结合模型合并技术，显著提升了金融文本分类及零样本复杂任务性能。
2024-11-04 cs.AI cs.CL
Towards Automatic Continual Learning: A Self-Adaptive Framework for Continual Instruction Tuning
National Supercomputer Center in Tianjin（国家超级计算天津中心）；School of Science, Tianjin University of Technology and Education（天津职业技术师范大学理学院）
针对现有持续指令调优方法侧重旧知识保留、忽视新知识选择及领域部署难题，提出带代理模型动态过滤的自适应框架，可降本提效并实现自主更新。
2025-03-20 cs.AI cs.CL
Beyond Bilingual Transfer: Multilingual Code-Switching in Instruction Tuning
The University of Tokyo（东京大学）
本研究通过跨四种语言的句子级多语言代码切换指令微调，验证了多语言代码切换能有效提升大语言模型的多语言理解性能，超越了传统双语迁移设置。
2026-05-28 cs.AI cs.CL
Raw Text is All you Need: Knowledge-intensive Multi-turn Instruction Tuning for Large Language Model
Computer School, Beijing Information Science & Technology University（北京信息科技大学计算机学院）；Beihang University（北京航空航天大学）
本文提出 R2S 框架，通过对话逻辑链引导大语言模型从原始文档生成知识密集型多轮对话，构建 G I NSTRUCT 数据集并微调 GLLM，以增强跨领域指令微调效果。
2024-07-03 cs.AI cs.CL
Fine-Tuning on Noisy Instructions: Effects on Generalization and Performance
Department of Computer Science University of Sheffield, UK（计算机科学系 剑桥大学谢菲尔德分校）
本文探究在指令微调数据中引入移除停用词、打乱词序等扰动对大型语言模型（LLMs）的影响，发现其在部分情况下能提升LLMs在MMLU等基准原始及扰动版本上的性能，为增强模型对含噪指令的韧性提供了思路。
2025-11-11 cs.CL
Chain-of-Instructions: Compositional Instruction Tuning on Large Language Models
Amazon（亚马逊公司）
本文提出 chain-of-instructions（CoI）组合式指令及 CoI-tuning，通过让模型逐步完成相互衔接的子任务，提升 LLM 对复杂、未见和长指令链的泛化能力。
2025-01-03 cs.CL
Dual Instruction Tuning with Large Language Models for Mathematical Reasoning
Harbin Institute of Technology（哈尔滨工业大学）
针对LLMs数学推理中CoT生成易出错的问题，提出结合正向中间推理状态预测与反向指令重构的双重指令微调策略，通过多任务微调有效提升了模型在多种数学推理任务上的准确性与泛化能力。
2024-03-27 cs.CL
On the Effect of Instruction Tuning Loss on Generalization
Dept. of Electrical Engineering（电气工程系）；Indian Institute of Technology Delhi（印度理工学院德里）；Media and Data Science Research（媒体与数据科学研究）；Adobe Inc., India（Adobe公司，印度）
本文研究了指令微调中损失函数对提示和响应令牌差异化加权的影响，提出加权指令微调（WIT）方法，发现适度加权提示与响应令牌能显著提升模型的泛化能力、鲁棒性及后续偏好对齐效果。
2025-07-15 cs.AI cs.CL cs.LG
Investigating Multilingual Instruction-Tuning: Do Polyglot Models Demand for Multilingual Instructions?
Lamarr Institute（拉马尔研究所）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）；TU Dresden（德累斯顿工业大学）；FZ Jülich（于利希研究中心）
本研究首次系统探究多语言大语言模型指令微调的语言构成影响，发现平行语料微调可提升跨语言指令遵循能力最高9.9%，且7B多语言模型反例证伪浅层对齐假说，还验证了人工与GPT-4评估的一致性。
2024-10-10 cs.CL
Leveraging Unstructured Text Data for Federated Instruction Tuning of Large Language Models
Shanghai Jiao Tong University（上海交通大学）；Shanghai AI Laboratory（上海人工智能实验室）
针对联邦指令微调要求客户端具备结构化指令数据的不切实际问题，提出FedIT-U2S框架，通过基于检索的少样本生成将非结构化文本转为指令对再微调，拓宽应用场景且在多领域显著提升模型效果。
2024-09-11 cs.AI cs.CL cs.MA
Federated Data-Efficient Instruction Tuning for Large Language Models
Zhejiang University（浙江大学）；National University of Singapore（新加坡国立大学）
提出联邦数据高效指令微调方法FedHDS，通过减少客户端内外数据冗余选取代表性子集，在仅用不到1.5%数据下使未见任务Rouge-L平均提升10.72%，显著提升训练效率。
2025-06-27 cs.AI cs.CL cs.LG
Instruction Tuning for Large Language Models: A Survey
该综述系统梳理了大语言模型指令微调（即监督微调SFT）的相关研究，涵盖方法、数据集构建、模型训练、多领域应用及影响因素，同时分析了现有缺陷并提出未来研究方向。
2025-10-06 cs.AI cs.CL cs.LG
SFTMix: Elevating Language Model Instruction Tuning with Mixup Recipe
Massachusetts Institute of Technology（麻省理工学院）；Zoom Video Communications（Zoom视频通讯）
本文提出SFTMix方法，通过混合不同置信度的数据提升指令微调效果，适用于指令遵循和医疗特定任务，展示了在不同模型和数据集上的广泛适用性。
2026-04-18 cs.AI cs.CL cs.LG
SIFT-50M: A Large-Scale Multilingual Dataset for Speech Instruction Fine-Tuning
Amazon AGI（亚马逊AGI）；Apple Inc.（苹果公司）
该研究构建含5000万样本的多语言语音指令微调数据集SIFT-50M，训练的SIFT-LLM在指令遵循基准上优于现有模型，同时提出EvalSIFT基准支持相关研究。
2025-04-17 cs.AI cs.CL eess.AS
SelfCodeAlign: Self-Alignment for Code Generation
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Northeastern University（东北大学）；University of California, Berkeley（加利福尼亚大学伯克利分校）；ServiceNow Research（ServiceNow研究院）；Hugging Face；Roblox；Cursor AI
本研究提出无需人工标注与蒸馏的代码大模型自对齐流水线SelfCodeAlign，通过自生成任务与沙箱验证构建训练数据，微调后模型在多基准上超越同类最优方法，还催生了高性能开源自对齐代码模型StarCoder2-Instruct。
2024-11-01 cs.CL cs.LG cs.SE
ROSE: A Reward-Oriented Data Selection Framework for LLM Task-Specific Instruction Tuning
Worcester Polytechnic Institute（沃斯特理工学院）；ByteDance Inc.（字节跳动公司）
针对指令微调损失与任务性能不对齐的问题，本文提出 ROSE 框架，利用成对偏好损失和影响函数选择任务相关训练数据，仅用 5% 数据即可媲美全量微调并超越现有方法。
2025-08-29 cs.AI cs.CL cs.LG
What Makes Good Instruction-Tuning Data? An In-Context Learning Perspective
University of Memphis（孟菲斯大学）
本文从上下文学习角度探讨有效指令微调数据的构成，提出基于加权上下文影响（wICI）的数据选择框架，通过实验验证样本难度与上下文影响的负相关性，并展示方法在多种模型和基准上的优越性能。
2026-10-16 cs.CL
Unnatural Instructions: Tuning Language Models with (Almost) No Human Labor
Tel Aviv University（特拉维夫大学）；Meta AI
指令微调使预训练的语言模型能够从推理时间自然语言描述执行新任务。这些方法依赖于以众包数据集或用户交互形式存在的大量人类监督。在这项工作中，我们介绍了不自然的指令：一个创造性和多样化的指令的大型数据集，几乎没有人工劳动。我们收集了64，000个例子，通过提示一个语言模型，其中有三个种子指令示例，并引出第四个。然后，通过提示模型重新表述每个指令来扩展该集合，从而创建总共约240，000个指令、输入和输出的示例。实验表明，尽管包含相当数量的噪声，但在非自然指令上进行的训练与在开源手动管理的数据集上进行的训练的有效性相媲美，在各种基准测试中超过了T0++和Tk-Instruct等模型的性能。这些结果表明，模型生成的数据作为一种具有成本效益的替代众包数据集扩展和多样化的潜力。
2022-12-19 cs.AI cs.CL cs.LG
A Comparative Study between Full-Parameter and LoRA-based Fine-Tuning on Chinese Instruction Data for Instruction Following Large Language Model
Beike Inc.（贝壳公司）
本文以LLaMA为基座，在中文指令数据上对比全参数微调与LoRA微调，分析基座模型、数据规模、可学习参数量和训练成本对性能的影响，为中文大模型训练提供成本与性能权衡参考。
2023-04-18 cs.CL
From Base to Conversational: Japanese Instruction Dataset and Tuning Large Language Models
The University of Tokyo（东京大学）
针对非英语指令微调数据集匮乏的问题，研究构建了日语指令数据集，用LoRA微调多语言模型，验证了日语指令微调的有效性，且小模型也能借此提升下游性能，相关资源已公开。
2023-11-05 cs.CL
The Flan Collection: Designing Data and Methods for Effective Instruction Tuning
Google Research（谷歌研究院）
我们研究了公开可用的指令微调方法的设计决策，并分解了Flan 2022的开发（Chung等人，2022年）。通过对Flan集合的任务和方法进行仔细的消融研究，我们梳理了设计决策的影响，这些决策使Flan-T5在评估设置中的表现优于先前的工作3-17%+。我们发现任务平衡和丰富技术被忽视，但对有效的指令微调至关重要，特别是，混合提示设置（zero-shot，Few-Shot和chain-of-thought）的训练实际上在所有设置中都会产生更强（2%+）的性能。在进一步的实验中，我们表明Flan-T5需要更少的微调来比T5在单个下游任务上收敛得更快更高，从而激励经过微调的模型作为新任务的计算效率更高的起始检查点。最后，为了加速对指令微调的研究，我们在https://github.com/google-research/FLAN/tree/main/flan/v2上公开了Flan 2022数据集、模板和方法的集合。
2023-02-14 cs.AI cs.CL cs.LG
