Evaluating the Zero-shot Robustness of Instruction-tuned Language Models
Northeastern University(东北大学)
本文通过收集80多个任务的319条人工指令评估指令微调LLM的零样本鲁棒性,发现未见过的等价措辞会显著降低并放大性能波动,进而提出优化软提示嵌入以拉近语义等价指令表示的方法,持续提升鲁棒性。
2023-07-09 cs.CL cs.LG
Merging Triggers, Breaking Backdoors: Defensive Poisoning for Instruction-Tuned Language Models
Graduate School of Artificial Intelligence, POSTECH, Republic of Korea(POSTECH人工智能研究生院,韩国);Department of Computer Science and Engineering, POSTECH, Republic of Korea(POSTECH计算机科学与工程系,韩国)
本文提出MB-Defense框架,通过防御性中毒和后门中和两个阶段,提升指令微调语言模型对后门攻击的鲁棒性,实验表明其有效降低攻击成功率并保持指令遵循能力。
2026-04-20 cs.AI cs.CL
Can Instruction Fine-Tuned Language Models Identify Social Bias through Prompting?
Vector Institute for AI(向量人工智能研究院);McGill University(麦吉尔大学)
该研究评估指令微调语言模型通过零样本提示识别社会偏见的能力,发现Alpaca 7B表现最优(准确率56.7%),扩大模型规模与数据多样性可提升性能,是其偏见缓解框架的首个组成部分。
2023-07-19 cs.AI cs.CL cs.CY
Okapi: Instruction-tuned Large Language Models in Multiple Languages with Reinforcement Learning from Human Feedback
University of Oregon(俄勒冈大学);Adobe Research(奥多比研究院)
针对现有开源大模型多语言指令微调仅依赖SFT的局限,本文提出首个基于RLHF的多语言指令微调系统Okapi,提供26种语言的数据与基准,并验证了RLHF优于SFT。
2023-08-02 cs.CL cs.LG
Optimizing Psychological Counseling with Instruction-Tuned Large Language Models
Shangqiu University(商丘大学)
针对心理健康服务需求增长的问题,本文提出用专业提示对大语言模型进行指令微调的心理咨询优化方法,经专业咨询师反馈优化数据集与多维度评估,模型性能优于基线模型,可提供可扩展的心理支持工具。
2024-06-19 cs.AI cs.CL
Pre-Learning Environment Representations for Data-Efficient Neural Instruction Following
University of California, Berkeley(加州大学伯克利分校)
我们认为学习映射的问题,从自然语言指令的状态转换(行动),在一个数据有效的方式。我们的方法从这样一个想法中得到灵感:将语言与通过前语言观察已经形成的概念联系起来应该更容易。我们增加了一个基线的预防以下的学习者与初始环境学习阶段,使用观察的语言自由状态转换,以诱导一个合适的潜在的行动表示之前,处理预防以下的训练数据。我们表明,映射到预先学习的表示大大提高了系统的表现,其表示是从有限的教学数据单独学习。
2019-07-23 cs.AI cs.CL cs.LG
Instructive Decoding: Instruction-Tuned Large Language Models are Self-Refiner from Noisy Instructions
KAIST AI(韩国科学技术院人工智能学院)
本文提出指导性解码(ID)方法,通过对比原始指令与噪声指令的预测来调整 logits,无需额外参数更新即可显著提升指令微调模型在分布外指令下的性能。
2024-02-17 cs.CL
The Construction of Instruction-tuned LLMs for Finance without Instruction Data Using Continual Pretraining and Model Merging
Preferred Networks, Inc.(Preferred Networks公司)
本文提出将金融领域持续预训练向量与公开指令微调模型的任务向量合并,在无需额外指令数据的情况下高效构建金融指令微调LLMs,并验证了其有效性。
2024-09-30 cs.CL econ.GN q-fin.CP
Unifying Block-wise PTQ and Distillation-based QAT for Progressive Quantization toward 2-bit Instruction-Tuned LLMs
Qualcomm AI Research(高通人工智能研究)
提出 UPQ 框架,统一分块 PTQ 与 Distill-QAT,按 FP16→INT4→INT2 渐进量化指令微调 LLM,在无需专有数据下取得 MMLU 与 IFEval 的 SOTA 表现。
2025-06-10 cs.AI cs.LG
Engagement Intensity as a Learner-Modeling Signal for Adaptive AI Ethics Instruction
University of California, Los Angeles (UCLA)(加州大学洛杉矶分校)
本研究比较了三种学习者特征(使用频率、自评熟悉度、先前AI教育)与AI感知结果的关系,发现使用频率与所有五项结果显著相关,为自适应AI伦理教学提供了简单的入学者建模信号。
2026-06-18 cs.AI cs.CY
DaG LLM ver 1.0: Pioneering Instruction-Tuned Language Modeling for Korean NLP
Seoul National University(首尔大学)
本文提出了专为韩语设计的DaG LLM,通过在13个类别的41个任务上进行指令微调,展现了其在韩语NLP领域的开创性应用。
2023-11-23 cs.CL
Eliciting Instruction-tuned Code Language Models' Capabilities to Utilize Auxiliary Function for Code Generation
POSTECH(浦项科技大学);Yonsei University(延世大学)
本文研究了指令微调代码模型利用辅助函数生成代码的能力,设计了多种融合辅助函数与指令遵循的方法,实验证明该策略使开源模型性能超越了gpt-4o等强大的专有模型。
2024-09-20 cs.AI cs.CL cs.SE
OpinionGPT: Modelling Explicit Biases in Instruction-Tuned LLMs
Humboldt-Universitat zu Berlin(柏林洪堡大学)
本文提出OpinionGPT,一个通过在包含11种偏见(政治、地理、性别、年龄)的语料库上微调LLM,使指令微调模型中的偏见显式化并支持并排比较的网络演示。
2023-09-07 cs.AI cs.CL cs.CY
AMR Parsing with Instruction Fine-tuned Pre-trained Language Models
IBM Research AI(IBM研究院人工智能部门)
本文将指令微调预训练模型 FLAN-T5 应用于 AMR 解析,并结合全量微调与 LoRA,在 AMR2.0、AMR3.0 和 BioAMR 上取得新的 Smatch 最优成绩。
2023-04-24 cs.AI cs.CL
Empowering Cross-lingual Abilities of Instruction-tuned Large Language Models by Translation-following demonstrations
Idiap Research Institute(伊迪亚普研究所);University of Manchester(曼彻斯特大学)
针对大语言模型跨语言能力不均衡问题,提出带翻译跟随示例的CrossAlpaca指令调优模型,通过语义对齐增强非英语能力,在多类基准六种语言上优于单语调优模型。
2023-08-27 cs.AI cs.CL
EXAONE 3.0 7.8B Instruction Tuned Language Model
LG AI Research(LG人工智能研究)
EXAONE 3.0 7.8B 指令微调语言模型在韩语和通用任务中表现优异,通过开源促进专家AI的发展。
2026-01-02 cs.AI cs.CL
Fine-tuned Language Models are Continual Learners
Meta AI;Columbia University(哥伦比亚大学)
最近的大语言模型的工作依赖于直觉,大多数自然语言处理任务可以通过自然语言指令来描述。在这些指令上训练的语言模型在几个标准数据集上显示出强大的zero-shot性能。然而,这些模型尽管令人印象深刻,但在其各自的训练和评估集之外的广泛任务上仍然表现不佳。为了解决这个问题,我们认为模型应该能够不断扩展其知识和能力,而不会忘记以前的技能。尽管持续学习取得了有限的成功,但我们证明了语言模型可以是持续学习者。我们从经验上研究了这种成功的原因,并得出结论,持续学习来自自我监督的预训练。我们得到的模型Continual-T0(CT 0)能够学习各种新任务,同时在以前的任务上仍然保持良好的性能,总共跨越了70个数据集。最后,我们证明了CT 0能够以从未受过训练的方式组合指令,展示了一些组合性。
2022-10-29 cs.CL
Airavata: Introducing Hindi Instruction-tuned LLM
Nilekani Centre at AI4Bharat(AI4Bharat的Nilekani中心);IIIT D&M Kancheepuram(坎奇普兰IIIT D&M);Flipkart;University of Surrey(萨里大学);A * STAR(新加坡科技研究局);IIT Madras(马德拉斯印度理工学院);NICT(日本国立信息通信技术研究所);IBM Research(IBM研究院);Microsoft(微软)
本文发布面向印地语的指令微调大语言模型 Airavata,通过微调 OpenHathi 并公开 IndicInstruct 数据集与评估框架,以推动印度语言大模型研究。
2024-02-26 cs.AI cs.CL
Jailbreak Instruction-Tuned LLMs via end-of-sentence MLP Re-weighting
Peking University(北京大学);School of Science(理学院);Westlake University(西湖大学);Beijing International Center for Mathematical Research(北京国际数学研究中心);Center for Machine Learning Research(机器学习研究中心)
本文研究指令微调LLM的安全机制,发现重新加权句末MLP神经元可破坏模型安全性,并据此提出两种白盒越狱方法,在7个开源LLM上表现稳健,揭示了安全漏洞。
2024-10-14 cs.AI cs.CL
Task-conditioned probing of instruction-tuned multimodal LLMs: Region-specific brain alignment patterns under naturalistic stimuli
Technische Universität Berlin(柏林技术大学);Rice University(Rice 大学);AWS AI Labs, Amazon(Amazon 人工智能实验室);IIT Delhi(德里理工学院);University of Wisconsin - Madison(威斯康星大学麦迪逊分校);Spector Inc(Spector 公司);IIIT-Hyderabad(海得拉巴理工学院);Microsoft(微软)
本研究探讨了指令调制多模态大语言模型在自然主义刺激下的大脑对齐模式,通过比较不同模型在视频和音频任务中的表现,揭示了指令调制对模型表示能力的影响。
2026-05-19 cs.AI cs.CL cs.CV
Log Probabilities Are a Reliable Estimate of Semantic Plausibility in Base and Instruction-Tuned Language Models
Massachusetts Institute of Technology(麻省理工学院);The Hong Kong Polytechnic University(香港理工大学);University of Pisa(比萨大学);Georgia Tech University(佐治亚理工学院)
本文通过单句最小对和上下文场景实验证明,在基础与指令微调语言模型中,对数概率比零样本提示能更可靠地度量语义合理性,且指令微调通常不改变其敏感性。
2024-10-21 cs.AI cs.CL
ECLIPTICA -- A Framework for Switchable LLM Alignment via CITA - Contrastive Instruction-Tuned Alignment
San José State University(圣何塞州立大学);Google(谷歌);Apple(苹果);Pragya Lab, BITS Pilani Goa, India(BITS Pilani Goa 印度分校实验室)
ECLIPTICA通过CITA实现LLM对齐的可切换框架,以高效率提升指令对齐性能。
2026-10-14 cs.AI cs.LG
Compact Prompting in Instruction-tuned LLMs for Joint Argumentative Component Detection
Université Côte d’Azur, I3S, CNRS, Inria(法国埃克塞特大学、I3S研究所、国家科学研究中心、法国国家信息与自动化研究所)
本文提出利用指令调优的LLM和紧凑提示,将论证组件检测重新建模为生成任务,提升从文本中直接识别论证组件的性能。
2026-03-03 cs.AI cs.CL
Multimodal Emotion Recognition by Fusing Video Semantic in MOOC Learning Scenarios
Key Lab of Education Blockchain and Intelligent Technology, Ministry of Education(教育部教育区块链与智能技术重点实验室);Guangxi Key Lab of Multi-Source Information Mining and Security(广西多源信息挖掘与安全重点实验室);School of Computer Science and Engineering, Guangxi Normal University(广西师范大学计算机科学与工程学院);School of Computer Science, University of Birmingham(伯明翰大学计算机科学学院)
针对MOOC场景下现有情绪识别研究忽略教学视频语义影响的问题,提出融合视频语义、眼动与PPG信号的多模态情绪识别方法,显著提升识别性能,为相关研究提供新视角与参考。
2024-04-11 cs.AI cs.MM
INSTRUCTEVAL: Towards Holistic Evaluation of Instruction-Tuned Large Language Models
Singapore University of Technology and Design(新加坡科技设计大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
本研究提出专门面向指令微调大语言模型的综合评估套件INSTRUCTEVAL,从多维度评估模型性能并分析影响因素,发现指令数据质量是性能提升关键,同时指出开源模型的短板与评估必要性,以推动该类模型的发展与认知深化。
2023-06-15 cs.AI cs.CL
From Templates to Natural Language: Generalization Challenges in Instruction-Tuned LLMs for Spatial Reasoning
Computational Linguistics, Department of Linguistics University of Potsdam(乌特雷赫特大学语言学系计算语言学部);German Research Center for Artificial Intelligence (DFKI), Berlin(德国人工智能研究中心(DFKI)柏林)
本文研究指令微调大语言模型在空间定位任务中从合成指令向人类自然语言指令泛化的挑战,发现模型在简单任务上表现良好但在复杂任务上性能显著下降,并通过错误分析揭示了泛化差距。
2025-08-18 cs.CL
Instruction Tuned Models are Quick Learners
Arizona State University(亚利桑那州立大学);Microsoft Research(微软研究院)
本研究验证了指令微调模型的样本效率,发现在单任务与多任务设置下,仅需少量下游训练数据即可达到甚至超越当前最优监督模型性能,同时也指出了部分任务类别受指令微调负面影响的现象。
2023-05-17 cs.CL
BioInstruct: Instruction Tuning of Large Language Models for Biomedical Natural Language Processing
Manning College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校曼宁信息与计算机科学学院);University of Massachusetts Medical School(马萨诸塞大学医学院);Miner School of Computer and Information Sciences, University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校迈纳计算机与信息科学学院);VA Bedford Health Care(贝德福德退伍军人保健中心)
本文构建了包含25,005条指令的BioInstruct数据集,用于对LLaMA系列大语言模型进行LoRA指令微调,在生物医学问答、信息抽取和文本生成任务上分别取得17.3%、5.7%和96%的性能提升,并验证了相关任务间多任务学习的协同效应。
2024-06-06 cs.AI cs.CL
Instruction-tuned Large Language Models for Machine Translation in the Medical Domain
Centre for Translation Studies, University of Vienna(维也纳大学翻译研究中心)
针对大语言模型在医学领域机器翻译表现不佳的问题,研究通过将专业医学词典术语融入指令格式数据集对LLMs进行微调,实验证明指令微调LLMs的翻译性能在自动指标上显著优于基线模型。
2025-07-30 cs.CL
InverseCoder: Self-improving Instruction-Tuned Code LLMs with Inverse-Instruct
Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Baidu Inc.(百度公司);Autodesk Research(欧特克研究院)
本文提出Inverse-Instruct数据增强方法,利用微调后的开源代码LLM为自身训练数据生成指令,扩充数据集以提升模型性能,并在多个基准上验证了其有效性。
2024-12-16 cs.AI cs.CL cs.SE
Jais and Jais-chat: Arabic-Centric Foundation and Instruction-Tuned Open Generative Large Language Models
Inception(Inception(机构名));Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Cerebras Systems(Cerebras系统公司)
本文提出并开源 130 亿参数的 Jais 与 Jais-chat 阿拉伯语中心大模型,基于 GPT-3 仅解码器架构,在阿英及代码语料上训练,显著提升阿拉伯语知识与推理能力。
2023-09-29 cs.AI cs.CL cs.LG
DKL: Decoupled Knowledge Learning for Instruction-Tuned Language Models
IBM(国际商业机器公司);Indian Institute of Technology, Madras(马德拉斯印度理工学院)
本研究提出DKL方法,通过对指令调优语言模型对应的基础大语言模型进行扩展预训练并合并权重,在不损害指令跟随能力的前提下提升RAG准确率,且训练数据需求远低于现有方案。
2026-09-03 cs.AI cs.CL
SLOW: Strategic Logical-inference Open Workspace for Cognitive Adaptation in AI Tutoring
Shanghai Institute of Artificial Intelligence for Education(上海人工智能教育研究院)
SLOW框架通过透明决策工作区实现学习者状态推理与教学决策分离,提升个性化、情感敏感性和清晰度。
2026-03-30 cs.AI
A Comparative Analysis of Instruction Fine-Tuning LLMs for Financial Text Classification
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Arizona State University(亚利桑那州立大学)
本研究通过指令微调Mistral-7B、Llama3-8B和Phi3-mini等小型LLM,结合模型合并技术,显著提升了金融文本分类及零样本复杂任务性能。
2024-11-04 cs.AI cs.CL
Layer by Layer: Uncovering Where Multi-Task Learning Happens in Instruction-Tuned Large Language Models
Institute for Language, Cognition and Computation, University of Edinburgh(爱丁堡大学语言、认知与计算研究所);Nvidia Research(英伟达研究院)
针对指令微调 LLM 在何处保留任务知识的问题,本文用矩阵分析工具比较60余个 NLP 任务的层表征,定位通用表征转向任务表征的位置。
2024-10-25 cs.CL cs.LG
How Reliable Are Automatic Evaluation Methods for Instruction-Tuned LLMs?
Linköping University(林雪平大学)
本文通过元评估并以Pairwise Accuracy替代相关性指标,考察文本重叠与GPT-4评判等自动评估方法,揭示其可靠性高度依赖任务、语言及提示中是否包含参考答案。
2024-10-02 cs.AI cs.CL
Extracting Arguments, Not Just Classifying Them: Instruction-Tuned LLMs for Generative Component Detection
CNRS(法国国家科学研究中心);INRIA(法国国家信息与自动化研究所);I3S(I3S实验室)
本文提出ITFACD,利用指令微调的大语言模型将论元组件检测重构为生成任务,直接从文本识别论元,在标准基准上超越现有系统,展示了生成式方法的潜力。
2026-09-22 cs.AI cs.CL
Wings: Learning Multimodal LLMs without Text-only Forgetting
School of Artificial Intelligence, Nanjing University(南京大学人工智能学院);AI Business, Alibaba Group(阿里巴巴集团AI业务部)
针对多模态大语言模型灾难性遗忘纯文本指令的问题,提出Wings模型,通过构建并行的视觉与文本学习者模块及低秩残差注意力,有效补偿注意力转移,在纯文本与多模态问答任务上均取得优异表现。
2024-06-05 cs.AI cs.CL cs.LG
InstructAlign: High-and-Low Resource Language Alignment via Continual Crosslingual Instruction Tuning
Hong Kong University of Science and Technology(香港科技大学)
本文提出InstructAlign框架,通过持续跨语言指令微调使大型语言模型在有限平行数据下学习低资源语言,有效防止灾难性遗忘并保持多任务能力。
2023-10-24 cs.AI cs.CL
LLMs as Zero-shot Graph Learners: Alignment of GNN Representations with LLM Token Embeddings
Beihang University(北京航空航天大学)
提出TEA-GLM框架,通过预训练GNN使其表示与LLM的token embeddings对齐,并训练线性投影器生成图token embeddings,结合统一指令实现跨数据集和跨任务的零样本图机器学习。
2024-12-19 cs.AI cs.CL cs.LG
RewriteLM: An Instruction-Tuned Large Language Model for Text Rewriting
Google Research(谷歌研究院)
针对LLM在跨句子重写任务中的不足,提出指令调优与强化学习新策略,并构建OpenRewriteEval基准,显著提升重写性能。
2023-12-19 cs.AI cs.CL
Vikhr: The Family of Open-Source Instruction-Tuned Large Language Models for Russian
ITMO University(ITMO大学);HSE University(莫斯科国立高等经济大学);Accenture(Accenture公司);MBZUAI(穆罕默德·本·拉希德智能科学研究院)
本文提出Vikhr,一种专为俄语设计的开源指令调优大型语言模型,通过改进的双语模型和持续预训练提升性能与效率。
2026-06-23 cs.AI cs.CL
Low-Resource Fine-Tuning for Multi-Task Structured Information Extraction with a Billion-Parameter Instruction-Tuned Model
National Tsing Hua University(台湾清华大学);Accton Technology Corporation(智邦科技公司);University of Taipei(台北市立大学)
本研究提出ETLCH,一个基于LLaMA的十亿参数模型,通过低秩适配在少量样本上微调,用于多任务结构化信息抽取,以低计算成本实现稳定准确输出。
2025-09-10 cs.AI cs.CL
The Atomic Instruction Gap: Instruction-Tuned LLMs Struggle with Simple, Self-Contained Directives
Singapore University of Technology and Design(新加坡科技设计大学)
该研究通过在修改后的 MMLU 与 MMLU-Pro 上测试 20 个 IT-LLM,发现选项标签格式会显著影响其执行简单原子指令的表现,揭示现有指令微调的根本不足。
2025-10-20 cs.CL
Instruct-SCTG: Guiding Sequential Controlled Text Generation through Instructions
University of Cambridge(剑桥大学);Monash University(莫纳什大学)
针对大语言模型生成文本难维持类人语篇结构的问题,提出序列式框架Instruct-SCTG,通过自然语言指令逐节生成结构连贯的文本,还提出语篇差异模糊衡量指标,在多数据集上实现最优性能。
2023-12-19 cs.AI cs.CL
RegulaTutor: A Theory-Informed Framework for Long-Term Personalized Learning
The Hong Kong University of Science and Technology(香港科技大学);The Chinese University of Hong Kong(香港中文大学)
RegulaTutor是一种理论驱动的长期个性化辅导框架,结合SRL与CAMM框架,通过PairRoute优化,提升了历史证据准确性等,助力终身个性化教育。
2026-10-12 cs.AI
Text-to-Audio Generation using Instruction-Tuned LLM and Latent Diffusion Model
Singapore University of Technology and Design(新加坡科技设计大学)
本文提出TANGO,利用指令微调LLM Flan-T5作为文本编码器并结合潜在扩散模型,在更小数据集上实现文本到音频生成性能超越AudioLDM。
2023-05-29 cs.AI cs.CL cs.SD
One Token Away from Collapse: The Fragility of Instruction-Tuned Helpfulness
University of Southern California(南加州大学);Intel AI(英特尔人工智能)
研究探讨了指令调制大语言模型在简单约束下的帮助性稳定性,发现其在词汇约束下响应质量显著下降,揭示了指令调制对表面模板的依赖性。
2026-04-27 cs.AI cs.CL
Tuna: Instruction Tuning using Feedback from Large Language Models
Singapore University of Technology and Design(新加坡科技设计大学);Microsoft Research Asia(微软亚洲研究院);Tsinghua University(清华大学)
本文提出Tuna模型,通过概率排序和上下文排序方法对指令微调后的LLM进行微调,以增加生成更好响应的可能性,在多个基准测试中持续提升性能并超越强化学习基线。
2023-10-20 cs.CL cs.LG
Instruction-Tuned Models Locally Produce More Syntactic Overlap -- But Not More Conditional Reuse -- Than Humans Do
University of Oxford(牛津大学)
研究大语言模型是否像人类一样句法趋同,通过替换范式数据在多个模型测量CFG规则复用。发现各模型与前一轮人类话语规则重叠多,指令微调模型有特点,还在词汇和语义相似度上有表现,揭示了模型在句法复用方面与人类的异同。
2026-11-03 cs.CL
Few-Shot Prompting for Extractive Quranic QA with Instruction-Tuned LLMs
Faculty of Computer Science MSA University Giza, Egypt(计算机科学学院 MSA大学 埃及吉扎);Faculty of Computer Science MSA University Egypt(计算机科学学院 MSA大学 埃及)
本文提出使用少样本提示与指令微调LLM进行《古兰经》抽取式问答,结合阿拉伯语提示框架和后处理系统,有效提升了精确度并减少了幻觉,最佳配置达到0.637的pAP10分数。
2025-08-08 cs.CL cs.IR
Building Instruction-Tuning Datasets from Human-Written Instructions with Open-Weight Large Language Models
Department of Computer Science, School of Computing, Institute of Science Tokyo(计算机科学系、计算学院、科学东京研究所);National Institute of Advanced Industrial Science and Technology(国家先进工业科学与技术研究院);Research and Development Center for Large Language Models, NII(大型语言模型研究与开发中心、日本科学振兴会)
本研究通过将人类编写的指令与开放权重LLM生成的回复配对,构建了最先进的指令微调数据集,证明人类指令信号在指令微调中仍具优势,并验证了该方法在日语上的有效性和局限性。
2025-08-14 cs.CL
Instructed to Bias: Instruction-Tuned Language Models Exhibit Emergent Cognitive Bias
Technion – Israel Institute of Technology(以色列理工学院);School of Computer Science and Engineering, The Hebrew University of Jerusalem(耶路撒冷希伯来大学计算机科学与工程学院)
研究揭示指令微调与RLHF会诱发大语言模型出现诱饵效应、确定性效应和信念偏差等认知偏差,为构建更可靠无偏见的语言模型提供依据。
2024-03-31 cs.AI cs.CY cs.LG
Evaluating Instruction-Tuned Large Language Models on Code Comprehension and Generation
Fudan University(复旦大学)
本文在四个代码理解与生成任务上评估了10个开源指令微调LLM,发现其在零样本下极具竞争力,少样本和微调能进一步提升性能,并据此提出了模型选择与权衡的实际建议。
2023-08-02 cs.AI cs.CL