Federated Data-Efficient Instruction Tuning for Large Language Models
Zhejiang University(浙江大学);National University of Singapore(新加坡国立大学)
提出联邦数据高效指令微调方法FedHDS,通过减少客户端内外数据冗余选取代表性子集,在仅用不到1.5%数据下使未见任务Rouge-L平均提升10.72%,显著提升训练效率。
2025-06-27 cs.AI cs.CL cs.LG
MUFFIN: Curating Multi-Faceted Instructions for Improving Instruction-Following
The Pennsylvania State University(宾夕法尼亚州立大学);The Ohio State University(俄亥俄州立大学);Fudan University(复旦大学);Westlake University(西湖大学);Temple University(天普大学)
MUFFIN通过为每个输入自动扩展多样化的任务来策划指令遵循数据集,在四个零样本基准上显著提升了不同规模LLM的指令遵循能力。
2024-03-15 cs.AI cs.CL
MuSC: Improving Complex Instruction Following with Multi-granularity Self-Contrastive Training
Faculty of Computing, Harbin Institute of Technology(哈尔滨工业大学计算机学院);Nanjing University(南京大学);School of Artificial Intelligence, Beijing University of Posts and Telecommunications(北京邮电大学人工智能学院)
本文提出多粒度自对比训练框架MuSC,通过指令分解重组构建约束感知偏好数据,并执行动态token级监督的偏好优化,在不依赖更强模型的情况下显著提升了LLMs的复杂与通用指令遵循能力。
2025-05-30 cs.AI cs.CL
Improving Multilingual Instruction Finetuning via Linguistically Natural and Diverse Datasets
Zoom Video Communications(Zoom视频通讯公司)
针对多语言指令微调数据缺乏自然性与多样性的问题,提出结合英语中心 LLM、单语语料和评分函数构建数据集的方法,显著提升非英语生成与判别任务性能。
2024-07-01 cs.AI cs.CL cs.LG
Improving the Robustness to Variations of Objects and Instructions with a Neuro-Symbolic Approach for Interactive Instruction Following
The University of Tokyo(东京大学);National Institute of Informatics(国立信息学研究所);Kyoto University(京都大学)
一个交互式的指令遵循任务已被提出作为一个基准,学习映射自然语言指令和第一人称视觉的动作序列,在3D环境中的对象进行交互。我们发现,现有的用于此任务的端到端神经模型往往无法与具有不可见属性的对象进行交互,并且无法遵循各种指令。我们假设这个问题是由神经特征提取对视觉和语言输入的微小变化的高敏感性引起的。为了缓解这个问题,我们提出了一种神经符号的方法,利用高层次的符号特征,这是强大的原始输入的小变化,作为中间表示。我们验证了我们的模型的有效性与ALFRED基准的子任务评估。我们的实验表明,在看不见的环境中,我们的方法在ToggleObject、PickupObject和SliceObject子任务的成功率上分别比端到端神经模型高出9、46和74个点。
2022-11-15 cs.AI cs.CL cs.HC
Improving Text-to-Audio Instruction Following via Fine-Grained Feedback from Audio-Aware Large Language Models
National Taiwan University(国立台湾大学);Amazon(亚马逊)
研究文本到音频指令跟随问题,提出用音频感知大语言模型作细粒度评判器的框架,经验证后用其反馈构建偏好对优化,引入S3Bench基准,实验证明该方法能提升事件完整性、时间排序和指令跟随准确性,且保持音频质量。
2026-07-28 cs.AI cs.CL cs.LG
Improving Natural Language Understanding for LLMs via Large-Scale Instruction Synthesis
Ant Group(蚂蚁集团)
针对NLU领域指令数据短缺且多样性不足的问题,本文提出大规模高质量合成指令语料库Hum,并通过人类与LLMs协作机制丰富指令多样性,实验表明其平均提升六个LLMs的NLU能力3.1%且不损害通用能力。
2025-02-06 cs.AI cs.CL
MulDimIF: A Multi-Dimensional Constraint Framework for Evaluating and Improving Instruction Following in Large Language Models
Fudan University(复旦大学);Lenovo Research(联想研究院);Tencent(腾讯);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Shanghai Key Lab of Intelligent Information Processing(上海智能信息处理重点实验室)
本文提出MulDimIF框架,通过多维约束模式、类别和难度等级,设计可控指令生成流程,生成9106个可验证样本,评估18个LLM模型,发现不同约束设置下性能差异显著,并通过训练提升指令遵循能力而不影响通用性能。
2026-04-15 cs.AI cs.CL
Improving Cross-Task Generalization with Step-by-Step Instructions
Harbin Institute of Technology(哈尔滨工业大学);Huawei Cloud(华为云);Singapore Management University(新加坡管理大学)
针对指令缺乏中间步骤导致跨任务泛化困难的问题,提出自动生成逐步指令辅助模型分解任务,实验证明其能提升不同规模模型的跨任务泛化性能。
2023-05-08 cs.CL
Improving Instruct Models for Free: A Study on Partial Adaptation
Bloomberg(贝莱德);Independent Researcher(独立研究者)
本文研究通过部分适配降低指令微调强度,发现可在多个模型家族和规模上提升少样本上下文学习性能,但会以牺牲部分指令遵循能力为代价,揭示了二者之间的实践权衡。
2025-09-22 cs.AI cs.CL
HIGhER : Improving instruction following with Hindsight Generation for Experience Replay
Université de Lille(里尔大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);DeepMind(深度思考);Google Research(谷歌研究院)
语言创造了世界的紧凑表示,并允许通过组合性描述无限的情况和目标。虽然这些特征可以促进指示,调节或结构化交互式代理行为,但即使在简单的指令遵循场景中,正确地将语言理解和强化学习联系起来仍然是一个开放的问题。这种联合学习问题可以通过专家演示、辅助损失或神经归纳偏差来缓解。在本文中,我们提出了一种正交的方法,称为经验重放(HIGH HER)的后见之明生成扩展后见之明经验重放(HER)的方法,以语言为条件的政策设置。每当智能体没有完成它的指令时,HIGHER就会学习输出一个与智能体轨迹相匹配的新指令,并用积极的奖励重新标记该事件。为了做到这一点,HIGHER通过使用过去的成功轨迹来学习将状态映射到指令中,这消除了需要外部专家干预来重新标记事件的需要,就像在香草HER.We显示了我们的方法在BabyAI环境中的效率,并演示了它如何补充其他指令遵循方法。
2020-12-10 cs.CL cs.LG stat.ML
Selective Reflection-Tuning: Student-Selected Data Recycling for LLM Instruction-Tuning
University of Maryland, College Park(马里兰大学学院公园分校);Adobe Research(奥多比研究院)
本文提出选择性反思调优,通过教师LLM反思改进数据质量、学生LLM选择兼容样本,自动精炼现有指令数据,在Alpaca和WizardLM上训练出顶尖7B和13B模型。
2024-06-07 cs.AI cs.CL cs.LG
Active Instruction Tuning: Improving Cross-Task Generalization by Training on Prompt Sensitive Tasks
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文提出基于提示不确定性的主动指令微调框架,通过模型在扰动提示上的输出分歧识别信息量大的任务进行选择性训练,在NIV2和Self-Instruct数据集上以更少训练任务实现了更好的分布外泛化,并揭示了模糊任务有助于泛化而困难任务无益的规律。
2023-11-01 cs.AI cs.CL
DecIF: Improving Instruction-Following through Meta-Decomposition
Beijing University of Posts and Telecommunications(北京邮电大学);Peking University(北京大学)
针对指令数据依赖外部资源的问题,提出 DecIF 框架,通过元分解自动生成、校验指令与响应,并在多场景实验中证明其优异的指令遵循性能。
2025-06-11 cs.CL
InstructDial: Improving Zero and Few-shot Generalization in Dialogue through Instruction Tuning
Carnegie Mellon University(卡内基梅隆大学)
指令微调是自然语言处理中的一种新兴范式,其中自然语言指令与语言模型一起使用,以在看不见的任务上诱导zero-shot性能。指令已经被证明可以在大型和小型语言模型中对看不见的任务和数据集实现良好的性能。对话是探索指令微调的特别有趣的领域,因为对话系统执行与语言相关的多种任务(例如,自然语言理解和生成、领域特定的交互),但是还没有针对对话相关的任务系统地探索指令微调。我们介绍了指令拨号,一个指令微调框架的对话,其中包括一个存储库的48个不同的对话任务,在一个统一的文本到文本的格式创建从59个公开可用的对话数据集。接下来,我们将探索在不同的对话任务中,在InstructDial上调整的模型的跨任务泛化能力。我们的分析表明,InstructDial在看不见的数据集和任务(如对话评估和意图检测)上实现了良好的zero-shot性能,在Few-Shot设置中甚至具有更好的性能。为了确保模型遵守指令,我们引入了新的元任务。我们建立基准zero-shot和Few-Shot性能的模型训练使用所提出的框架上的多个对话任务。
2022-10-26 cs.CL
MultiInstruct: Improving Multi-Modal Zero-Shot Learning via Instruction Tuning
Virginia Tech(弗吉尼亚理工大学)
本研究提出首个多模态指令微调基准数据集MultiInstruct,基于OFA模型结合迁移学习策略,提升了多模态零样本性能,并设计敏感度指标验证了多任务微调对降低指令变体敏感度的作用。
2023-06-10 cs.CL
MILES: Modular Instruction Memory with Learnable Selection for Self-Improving LLM Reasoning
University of New South Wales(新南威尔士大学)
研究针对LLMs测试时推理问题,提出MILES框架,通过动态扩展内存及正确性优化的内存组合,利用模块化内存单元与可学习选择头实现粗到细检索机制,实验表明该框架在性能、效率及权衡上表现出色。
2026-07-09 cs.CL cs.LG
RuleR: Improving LLM Controllability by Rule-based Data Recycling
University of Maryland(马里兰大学);Stony Brook University(石溪大学)
本文提出 RuleR 数据增强方法,通过按预定义规则改写现有样本回复并追加约束指令来低成本构造 SFT 数据,从而在保持通用指令遵循能力的同时提升 LLM 可控性。
2025-02-15 cs.AI cs.CL cs.LG
Improving Translation Faithfulness of Large Language Models via Augmenting Instructions
Beijing Jiaotong University(北京交通大学);Pattern Recognition Center, WeChat AI, Tencent Inc(腾讯微信AI 模式识别中心);Tencent Inc(腾讯公司);WeChat AI(微信AI);Pattern Recognition Center(模式识别中心);Tencent Inc, China(腾讯公司(中国));Beijing, China(中国北京)
针对大语言模型指令微调中存在的指令遗忘问题,提出SWIE分段加权指令嵌入方法和OVERMISS数据集,有效提升了模型翻译性能与忠实度。
2023-08-24 cs.AI cs.CL
Robin3D: Improving 3D Large Language Model via Robust Instruction Tuning
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Zhejiang University(浙江大学);University of Central Florida(中佛罗里达大学);Illinois Institute of Technology(伊利诺伊理工大学)
针对3DLLM缺乏鲁棒指令数据的问题,本文提出Robin3D,利用RIG引擎构建百万级对抗与多样化指令数据,并通过关系增强投影器和ID特征绑定提升空间理解与定位能力,在多个3D基准上取得显著性能提升。
2025-02-20 cs.AI cs.CL cs.CV
ImpRIF: Stronger Implicit Reasoning Leads to Better Complex Instruction Following
ByteDance China(字节跳动中国);School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);State Key Laboratory of Virtual Reality Technology and Systems, Beihang University(北京航空航天大学虚拟现实技术与系统国家重点实验室)
本文提出ImpRIF方法,通过构建可验证推理图提升大语言模型对隐式推理指令的理解,从而增强复杂指令遵循能力,在五个基准测试中表现优异。
2026-04-20 cs.AI cs.CL
InverseCoder: Self-improving Instruction-Tuned Code LLMs with Inverse-Instruct
Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Baidu Inc.(百度公司);Autodesk Research(欧特克研究院)
本文提出Inverse-Instruct数据增强方法,利用微调后的开源代码LLM为自身训练数据生成指令,扩充数据集以提升模型性能,并在多个基准上验证了其有效性。
2024-12-16 cs.AI cs.CL cs.SE
Safety-Tuned LLaMAs: Lessons From Improving the Safety of Large Language Models that Follow Instructions
Stanford University(斯坦福大学);Bocconi University(博科尼大学)
本文研究指令调优模型的安全性问题,发现仅添加3%安全示例即可显著提升LLaMA等模型的安全性,且不损害其能力,但过度调优会导致拒绝安全提示,揭示了帮助性与安全性的权衡。
2024-03-19 cs.CL
Improving Influence-based Instruction Tuning Data Selection for Balanced Learning of Diverse Capabilities
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
该研究针对基于影响力的指令调优数据选择的任务偏向问题,提出BIDS算法,经实验验证其在小比例数据下可实现更均衡性能且优于现有方法。
2026-08-18 cs.AI cs.CL cs.LG
GrIPS: Gradient-free, Edit-based Instruction Search for Prompting Large Language Models
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出无梯度、基于编辑的提示指令搜索方法 GrIPS,可自动改写人类指令并支持 API 模型调优,在多模型和八类任务上显著提升性能。
2023-04-26 cs.AI cs.CL cs.LG
In-Context Examples Matter: Improving Emotion Recognition in Conversation with Instruction Tuning
Hefei University of Technology(合肥工业大学);Zhengzhou University(郑州大学)
本文提出单阶段上下文指令微调框架InitERC,通过上下文示例学习说话人、上下文与情感的对齐,在三个数据集上显著超越现有基线。
2025-08-16 cs.CL
Evaluating the Zero-shot Robustness of Instruction-tuned Language Models
Northeastern University(东北大学)
本文通过收集80多个任务的319条人工指令评估指令微调LLM的零样本鲁棒性,发现未见过的等价措辞会显著降低并放大性能波动,进而提出优化软提示嵌入以拉近语义等价指令表示的方法,持续提升鲁棒性。
2023-07-09 cs.CL cs.LG
Scaling Towards the Information Boundary of Instruction Sets: The Infinity Instruct Subject Technical Report
BAAI(北京人工智能研究院)
本文提出系统化的指令数据构建框架,构建高质量的Infinity Instruct Subject数据集,提升模型在复杂指令任务上的性能。
2026-02-11 cs.AI cs.CL
ScopeIF: Improving Scope-Aware Precise Instruction-Following in Large Language Models via Graded Reward Modeling
提出ScopeIF框架,通过统一约束分解和分级奖励建模,提升大语言模型在复杂范围感知指令上的精确遵循能力,实验显示优化后的小模型可媲美前沿大模型。
2026-09-29 cs.CL
Improving the Accuracy and Efficiency of Legal Document Tagging with Large Language Models and Instruction Prompts
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
针对法律多标签分类面临的语言复杂、标签依赖及不平衡等挑战,提出Legal-LLM方法,将其重构为结构化生成任务并微调LLM,在两个基准数据集上优于多种基线模型,且在处理标签不平衡等方面有效。
2025-04-12 cs.CL
CASE: Causal Alignment and Structural Enforcement for Improving Chain-of-Thought Faithfulness
研究思维链推理中生成的推理无法忠实支持最终答案的问题,提出CASE框架,通过训练时因果对齐和推理时结构强化,结合构建多种数据集及选择性损失微调、屏蔽注意力等方法,提升CoT忠实度、跨数据集转移能力及平均准确率。
2026-07-22 cs.CL
Extrapolation Merging: Keep Improving With Extrapolation and Merging
School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院)
本文提出外推合并范式,通过外推方法为模型合并提供明确优化方向,在无需额外计算资源和数据的情况下持续提升微调后模型性能,并在七个任务上验证了其有效性。
2025-03-05 cs.AI cs.CL
Nevermind: Instruction Override and Moderation in Large Language Models
Drexel University(德雷塞尔大学)
本研究基准测试了不同规模LLM在冲突情境下的指令遵循能力,发现较大模型表现最佳,但改进指令遵循与安全过滤相矛盾,提出安全措施应外部化。
2024-02-05 cs.AI cs.CL cs.LG
Improving the Robustness of Large Language Models via Consistency Alignment
Shandong University(山东大学);Baidu Inc.(百度公司);Leiden University(莱顿大学)
本文定量定义了大型语言模型因指令微小变化导致响应不一致的问题,提出两阶段训练框架(指令增强监督微调与一致性对齐训练),通过模型自我奖励优化鲁棒性,无需外部人类偏好数据,实验证明其有效性。
2024-03-22 cs.CL
KeyInst: Keyword Instruction for Improving SQL Formulation in Text-to-SQL
Jiangxi University of Finance and Economics(江西财经大学)
针对Text-to-SQL中自然语言与SQL内在差异导致的生成难题,提出KeyInst关键词指令方法,通过两种集成策略引导大模型生成SQL,构建专用基准StrucQL,实验证明其效果显著优于现有提示技术。
2024-10-18 cs.AI cs.CL cs.DB
MIDB: Multilingual Instruction Data Booster for Enhancing Cultural Equality in Multilingual Instruction Synthesis
针对多语言指令合成中因机器翻译缺陷、本地化不足导致的文化不平等问题,提出基于16种语言约36.8k条专家修订示例训练的MIDB,提升数据质量并增强多语言LLMs的指令遵循与文化理解能力。
2025-11-11 cs.CL
LLM-Detector: Improving AI-Generated Chinese Text Detection with Open-Source LLM Instruction Tuning
Macao Polytechnic University(澳门理工大学);Fudan University(复旦大学);Wuhan University(武汉大学)
针对现有AI生成中文文本检测模型域内过拟合、域外及句子级检测效果差的问题,提出基于开源LLM指令微调的LLM-Detector,在两级检测任务上均优于基线且泛化性强、易部署。
2024-02-02 cs.CL
Cookbook: A framework for improving LLM generative abilities via programmatic data generating templates
Stanford University(斯坦福大学)
本研究提出Cookbook程序化数据生成框架,通过Python模板生成非人工/LLM的指令训练数据,可提升单任务准确率最高52.7点,多任务上Mistral-7B微调后在GPT4ALL套件中7B级模型平均最优。
2024-10-07 cs.CL cs.LG
Towards Robust Instruction Tuning on Multimodal Large Language Models
Singapore University of Technology and Design(新加坡科技设计大学);Nanyang Technological University(南洋理工大学)
本文提出自动指令增强方法 INSTRAUG,从少量元指令扩展多模态指令数据 30 倍,并在 MULTIINSTRUCT 与 InstructBLIP 上验证其可显著提升 MLLM 的跨任务对齐效果。
2024-06-14 cs.AI cs.CL
Instruction-Conditioned Exploration for Reinforcement Learning with Self-Distillation to an Unconditioned Policy
University of Southampton(南安普顿大学)
该研究针对LLM强化学习中的探索挑战,提出指令条件探索(ICE)方法,结合非对称RL/SD训练目标,使Qwen3-1.7B数学推理性能提升5.0%且长上下文下仍有效。
2026-08-06 cs.AI cs.CL cs.LG
The CoT Collection: Improving Zero-shot and Few-shot Learning of Language Models via Chain-of-Thought Fine-Tuning
KAIST AI(韩国科学技术院人工智能学院);NAVER AI Lab(NAVER人工智能实验室);University of Washington(华盛顿大学)
该研究提出CoT Collection数据集,通过思维链微调较小语言模型(Flan-T5 3B/11B),在BBH基准和领域任务上显著提升零样本与少样本推理能力,甚至超越ChatGPT。
2023-10-14 cs.AI cs.CL cs.LG
Training with Pseudo-Code for Instruction Following
通过伪代码训练提升LLM指令跟随能力,实现8-21%的提升并在数学和常识推理中取得平均30%的提升。
2026-03-11 cs.AI cs.CL
Instruction Embedding: Latent Representations of Instructions Towards Task Identification
School of Computer Science, Beijing Institute of Technology(北京理工大学计算机学院);Xiaohongshu Inc(小红书科技有限公司)
本文提出指令嵌入概念及基准 IEB,并设计 PIE 方法使表示聚焦任务而非语义,实验证明其在任务识别和下游指令任务中表现优越。
2024-09-29 cs.AI cs.CL
DolphCoder: Echo-Locating Code Large Language Models with Diverse and Multi-Objective Instruction Tuning
Beijing University of Posts and Telecommunications(北京邮电大学);Meituan(美团)
本文提出具备自我评估能力的多样化指令模型DolphCoder,通过学习多样化指令目标并结合代码评估目标来增强代码生成能力,在HumanEval和MBPP基准上表现卓越,并证实增加推理路径多样性与提升代码评估能力均能增强代码生成效果。
2024-02-14 cs.AI cs.CL
Better Instruction-Following Through Minimum Bayes Risk
C3 AI;Carnegie Mellon University(卡内基梅隆大学);Instituto de Telecomunicações(电信研究所);Instituto Superior Técnico(高等技术学院);University of Lisbon(里斯本大学)
本研究探索了最小贝叶斯风险(MBR)解码提升指令遵循LLM性能,并利用直接偏好优化进行自我训练,以保留改进并降低测试时成本。
2025-02-25 cs.AI cs.CL
Instruction-Tuning LLMs for Event Extraction with Annotation Guidelines
George Mason University(乔治·马歇尔大学)
本研究探讨标注指南在指令微调大型语言模型进行事件抽取时的作用,实验表明其在适量训练数据下能提升跨模式泛化和低频事件类型性能。
2025-05-29 cs.CL
Merging Triggers, Breaking Backdoors: Defensive Poisoning for Instruction-Tuned Language Models
Graduate School of Artificial Intelligence, POSTECH, Republic of Korea(POSTECH人工智能研究生院,韩国);Department of Computer Science and Engineering, POSTECH, Republic of Korea(POSTECH计算机科学与工程系,韩国)
本文提出MB-Defense框架,通过防御性中毒和后门中和两个阶段,提升指令微调语言模型对后门攻击的鲁棒性,实验表明其有效降低攻击成功率并保持指令遵循能力。
2026-04-20 cs.AI cs.CL
CrisisSense-LLM: Instruction Fine-Tuned Large Language Model for Multi-label Social Media Text Classification in Disaster Informatics
Texas A&M University(德克萨斯农工大学);Rice University(莱斯大学)
针对灾害社交媒体文本分类中单标签模型的局限,提出指令微调LLM的CrisisSense-LLM方法,实现多标签分类,提升态势感知与应急响应能力。
2025-08-06 cs.AI cs.CL
Adding Instructions during Pretraining: Effective Way of Controlling Toxicity in Language Models
NVIDIA(英伟达)
预训练的大语言模型已经成为解决各种自然语言处理(NLP)任务不可或缺的工具。然而,在现实世界的应用程序中安全地部署它们是具有挑战性的,因为它们会产生有毒内容。为了应对这一挑战,我们提出了两种新的预训练数据增强策略,可以显着降低模型毒性,而不会影响其实用性。我们的两个战略是:(1)MEDA:将原始毒性评分作为元数据添加到预训练样本中,以及(2)INST:将指令添加到指示其毒性的那些样本中。我们的研究结果表明,我们的最佳执行策略(INST)大大降低了毒性概率高达61%,同时保留了五个基准NLP任务的准确性,并将四个偏差检测任务的AUC分数提高了1.3%。我们还通过调整训练样本的数量和模型参数的数量来证明我们的技术的普遍性。
2023-02-14 cs.AI cs.CL
Data Diversity Matters for Robust Instruction Tuning
Georgia Institute of Technology(佐治亚理工学院);Amazon(亚马逊公司)
本文提出质量-多样性指令微调(QDIT)算法,同时控制数据多样性与质量,发现多样性提升可显著增强最差情况指令跟随性能,从而提升稳健性。
2024-11-11 cs.CL cs.LG
IOPO: Empowering LLMs with Complex Instruction Following via Input-Output Preference Optimization
Tongyi Lab, Alibaba Group(通义实验室,阿里巴巴集团)
针对大语言模型复杂指令遵循能力不足及缺乏专用算法的问题,本文提出TRACE基准和IOPO输入-输出偏好优化方法,实验证明其显著优于SFT和DPO。
2025-07-17 cs.AI cs.CL
Improving Conversational Abilities of Quantized Large Language Models via Direct Preference Alignment
Hanyang University(汉阳大学)
针对量化大语言模型对话能力下降的问题,提出量化感知直接偏好优化(QDPO),对齐量化与全精度模型,在多种语言上超越现有技术,提升对话性能。
2024-07-18 cs.CL
SMoLoRA: Exploring and Defying Dual Catastrophic Forgetting in Continual Visual Instruction Tuning
Hefei University of Technology(合肥工业大学);Tsinghua University(清华大学);Academy of Cyber(网络学院)
针对连续视觉指令微调中视觉理解与指令遵循双重灾难性遗忘问题,提出SMoLoRA框架,通过双路由模块实现领域专用适应,并构建新基准,有效缓解遗忘并提升泛化与鲁棒性。
2025-07-01 cs.AI cs.CV
Strategy-Induct: Task-Level Strategy Induction for Instruction Generation
Department of Computer Science and Information Engineering, National Taiwan University, Taiwan(国立台湾大学计算机科学与资讯工程学系);Institute of Information Science, Academia Sinica, Taiwan(台湾“中央研究院”资讯科学研究所);AI Research Center (AINTU), National Taiwan University, Taiwan(国立台湾大学人工智能研究中心)
该研究提出了一种任务级策略诱导方法Strategy-Induct,通过仅使用少量示例问题生成任务指令,无需依赖标注答案,从而在指令生成任务中取得优于现有方法的性能。
2026-05-20 cs.AI cs.CL