AdaCuRL: Adaptive Curriculum Reinforcement Learning with Invalid Sample Mitigation and Historical Revisiting
针对强化学习训练混合难度样本时的梯度饥饿、策略退化等问题,提出自适应课程强化学习框架AdaCuRL,通过动态难度匹配、历史回顾等机制,在多推理基准上显著提升LLMs和MLLMs性能。
2025-11-12 cs.AI cs.CL cs.LG
New Curriculum, New Chance -- Retrieval Augmented Generation for Lesson Planning in Ugandan Secondary Schools. Prototype Quality Evaluation
Ndejje University(恩德杰大学)
针对乌干达中学因新课程实施导致的优质课程计划短缺问题,研究团队基于检索增强生成技术开发了定制化课程计划生成原型,经评估其生成的中学一年级多学科课程计划质量达75%-80%,优于人类制定的同类计划水平。
2024-08-14 cs.AI cs.CY cs.IR
Teaching According to Talents! Instruction Tuning LLMs with Competence-Aware Curriculum Learning
Tsinghua University(清华大学);Peng Cheng Laboratory(鹏城实验室);Cornell University(康奈尔大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Guangming Laboratory(光明实验室)
针对当前课程微调方法因依赖静态难度指标导致课程僵化的问题,提出能力感知多视角课程指令微调框架CAMPUS,通过动态选择子课程、能力感知调整进度及多种难度调度,显著提升了LLM指令微调性能。
2025-11-03 cs.AI cs.CL
Curry-DPO: Enhancing Alignment using Curriculum Learning & Ranked Preferences
ServiceNow(ServiceNow公司)
Curry-DPO通过课程学习将多偏好对按难度排序用于DPO训练,在多个基准上显著提升对齐性能,最高胜率提升达7.5%。
2024-11-08 cs.AI cs.CL cs.LG
MathMixup: Boosting LLM Mathematical Reasoning with Difficulty-Controllable Data Synthesis and Curriculum Learning
CASIA(中国科学院自动化研究所);ZGCA(浙江大学);UCAS(中国科学技术大学);PKU(北京大学);ByteDance(字节跳动)
MathMixup通过难度可控的数据合成与课程学习策略,提升LLM的数学推理能力,实验显示其在多个基准测试中表现优于现有方法。
2026-01-14 cs.AI cs.LG
Teaching with Lies: Curriculum DPO on Synthetic Negatives for Hallucination Detection
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对大模型幻觉检测难题,提出用合成幻觉作负样本、结合课程学习的DPO方法,训练HaluCheck模型,在困难基准上提升高达24%,零样本下超越更大模型。
2025-05-23 cs.AI cs.CL
Manifold Bandits: Bayesian Curriculum Learning over the Latent Geometry of Large Language Models
University of California, San Diego(加州大学圣迭戈分校)
提出贝叶斯流形课程(BMC)框架,将问题采样建模为流形结构赌博机问题,通过层次任务树和贝叶斯学习引导采样,平衡学习信号、多样性和实用性。
2026-06-19 cs.AI cs.CL cs.LG
Beyond Random Sampling: Efficient Language Model Pretraining via Curriculum Learning
Ecole Polytechnique(巴黎综合理工学院);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出通过课程学习优化语言模型预训练,发现压缩比、词汇多样性和可读性是关键难度指标,显著提升训练效率。
2026-01-28 cs.AI cs.CL
Actor-Curator: Co-adaptive Curriculum Learning via Policy-Improvement Bandits for RL Post-Training
University of Illinois Chicago(伊利诺伊大学香槟分校);Caltech(加州理工学院);RPI(罗切斯特理工学院);MBZUAI(澳门大学人工智能研究院);University of Chicago(芝加哥大学);NEC Laboratories America(NEC美国实验室)
ACTOR-CURATOR通过策略改进带状机实现RL后训练的联合适应课程学习,有效提升训练稳定性和效率。
2026-02-24 cs.AI cs.CL cs.LG
TriQuest:An AI Copilot-Powered Platform for Interdisciplinary Curriculum Design
College of Computer Science and Technology, Huaqiao University(华侨大学计算机科学与技术学院);Faculty of Education, Beijing Normal University(北京师范大学教育学部)
TriQuest是一个AI副驾驶平台,利用大型语言模型和知识图谱,通过人机协作评审,帮助教师高效生成高质量跨学科教案,提升效率并降低设计门槛。
2025-10-23 cs.AI cs.CY
CURE: Curriculum-guided Multi-task Training for Reliable Anatomy Grounded Report Generation
Pontificia Universidad Católica de Chile(智利天主教大学);CENIA;iHEALTH;KAUST(科威特皇家科学与技术局)
提出CURE框架,通过课程学习动态调整多任务训练,提升医学报告生成的视觉接地准确性和事实一致性,无需额外数据。
2026-06-06 cs.AI cs.CL cs.CV
Self-Evolving Curriculum for LLM Reasoning
Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);KAIST(韩国科学技术院);Microsoft Research(微软研究院);ServiceNow AI Research(ServiceNow人工智能研究院)
针对大语言模型RL微调中现有课程方法效果不佳、成本高的问题,提出将课程选择建模为非平稳多臂老虎机的自进化课程方法,可同步学习课程策略,显著提升多领域推理能力与泛化性,实现技能均衡。
2025-10-30 cs.AI cs.LG
Problem-Solving Logic Guided Curriculum In-Context Learning for LLMs Complex Reasoning
School of Artificial Intelligence, Beijing Normal University(人工智能学院,北京师范大学)
本研究提出基于问题解决逻辑的课程化上下文学习方法,通过分析问题解决逻辑选择和排序示例,提升LLM复杂推理能力。
2025-05-30 cs.AI cs.CL
Beyond Repetition: Text Simplification and Curriculum Learning for Data-Constrained Pretraining
Samsung R&D Institute Philippines(三星菲律宾研发中心)
针对数据受限预训练,本文利用原文与 LLM 简化文本的平行语料比较多种复杂度课程,发现加入简化数据整体优于重复暴露,且小模型适合由易到难、大模型适合交错排序。
2025-09-29 cs.AI cs.CL
Anchor-and-Harvest Curriculum: A Fully Unmasked Non-LLM Curriculum for Craftax
Brown University(布朗大学);York University(约克大学);Sun Yat-sen University(中山大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本研究提出无LLM推理的AHC课程,在Craftax-Full任务上实现优于原生PPO-GTrXL的回报,性能接近LLM生成课程。
2026-10-14 cs.AI cs.LG
COGENT: A Curriculum-oriented Framework for Generating Grade-appropriate Educational Content
Nanyang Technological University(南洋理工大学);Institute for Infocomm Research (I 2 R)(信息与通信研究机构);A*STAR
针对生成式AI生成教育内容难匹配课程标准、难适配年级水平等问题,提出面向课程的COGENT框架,融合课程要素、控制可读性并采用好奇导向设计,经多维度评估其生成内容质量比肩或优于人类参考文本,为规模化优质学习资源供给提供可行方案。
2025-06-11 cs.AI cs.CL
Code-Switching Curriculum Learning for Multilingual Transfer in LLMs
KAIST(韩国科学技术院);NAVER Cloud;Sogang University(西江大学);NAVER AI Lab
本文提出语码转换课程学习CSCL,通过token级、句子级语码转换到单语语料的渐进训练提升LLM跨语言迁移,并在多语言、多模型实验中验证其增益与公平性。
2025-06-11 cs.AI cs.CL cs.LG
LearnLens: LLM-Enabled Personalised, Curriculum-Grounded Feedback with Educators in the Loop
King’s College London(伦敦国王学院);AQA
LearnLens是一个模块化LLM系统,通过错误感知评估、课程记忆链生成及教育者参与界面,提供个性化课程对齐反馈,提升科学教育反馈质量与可扩展性。
2025-10-13 cs.AI cs.CL cs.CY
Advancing NLP Models with Strategic Text Augmentation: A Comprehensive Study of Augmentation Methods and Curriculum Strategies
Yildiz Technical University(伊兹迪克技术大学)
本研究全面评估了多种文本增强技术与课程策略在NLP任务中的效果,提出了新颖的Modified Cyclical Curriculum Learning (MCCL)方法,证明其结合特定增强技术能显著提升模型分类性能并优化训练质量与速度的平衡。
2024-02-14 cs.AI cs.CL
TAROT: Test-driven and Capability-adaptive Curriculum Reinforcement Fine-tuning for Code Generation with Large Language Models
Electronics and Telecommunications Research Institute(电信研究所);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);Hugging Face;Ant Group(蚂蚁集团)
TAROT通过测试驱动和能力适应的课程强化微调方法,提升大语言模型生成代码的功能正确性和稳健性。
2026-02-17 cs.CL cs.LG cs.SE
Automated Generation of Curriculum-Aligned Multiple-Choice Questions for Malaysian Secondary Mathematics Using Generative AI
Fakulti Komputeran dan Meta-Teknologi (META), Universiti Pendidikan Sultan Idris(计算机与元技术学院(META),苏丹依德里斯教育大学)
本文提出并比较四种基于GPT-4o的流水线,用于生成马来语初一数学选择题,采用RAG方法显著提升课程对齐与事实准确性,并引入RAG-QA评估技术。
2025-08-06 cs.AI cs.CL
Omni-CLST: Error-aware Curriculum Learning with guided Selective chain-of-Thought for audio question answering
TMCC, College of Computer Science, Nankai University, Tianjin, China(TMCC,计算机科学学院,南开大学,天津,中国);MiLM Plus, Xiaomi Inc.(MiLM Plus,小米公司)
针对音频问答中高质量数据利用不足的问题,本文提出Omni-CLST框架,通过误差感知课程学习和引导式选择性思维链提升推理效率,并在MMAU-mini和MMAR上取得领先性能。
2025-09-18 cs.AI cs.SD eess.AS
Generative Entity Typing with Curriculum Learning
Fudan University(复旦大学);Fudan-Aishu Cognitive Intelligence Joint Research Center(复旦-爱数认知智能联合研究中心)
实体类型化的目的是为给定文本中提到的实体分配类型。传统的基于分类的实体类型化范式存在两个不可克服的缺点:1)无法将实体分配给预定义类型集之外的类型; 2)难以处理Few-Shot和zero-shot情况,即许多长尾类型只有很少甚至没有训练实例。为了克服这些缺点,我们提出了一种新的生成实体类型(GET)的范例:给定一个实体提到的文本,多个类型的实体在文本中扮演的角色生成与预先训练的语言模型(PLM)。然而,PLM倾向于在对实体类型数据集进行微调之后生成粗粒度的类型。此外,我们只有异构的训练数据,其中包括一小部分人工注释的数据和大部分自动生成的低质量数据。为了解决这些问题,我们采用课程学习(CL)训练我们的GET模型上的异构数据,其中的课程可以自我调整与自定进度的学习,根据其理解的类型粒度和数据的异构性。我们在不同语言和下游任务的数据集上进行了大量的实验,证明了我们的GET模型优于最先进的实体类型模型。该代码已在https://github.com/siyuyuan/GET上发布。
2022-10-18 cs.AI cs.CL
Accelerating Training Speed of Tiny Recursive Models with Curriculum Guided Adaptive Recursion
School of Computing and Artificial Intelligence, Southwest Jiaotong University(计算机与人工智能学院,西南交通大学)
CGAR通过课程指导自适应递归方法,提升小型递归模型训练效率,实现加速训练和保持模型质量。
2025-12-26 cs.AI cs.CL cs.LG
Let's Be Self-generated via Step by Step: A Curriculum Learning Approach to Automated Reasoning with Large Language Models
East China Normal University(东华大学);Youtu Lab, Tencent(腾讯优图实验室);Shanghai Normal University(上海师范大学)
针对CoT提示依赖人力或生成质量不足的问题,受课程学习启发提出LBS3提示方法,通过由易到难的代理查询渐进式引导LLMs生成高质量示例解,在多种推理任务中取得SOTA竞争力。
2025-05-30 cs.CL
DARC: Decoupled Asymmetric Reasoning Curriculum for LLM Evolution
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院)
DARC通过解耦的非对称推理课程框架,提升大型语言模型的自我进化能力,实现无需人工标注的性能提升。
2026-01-21 cs.AI cs.CL
TildeOpen LLM: Leveraging Curriculum Learning to Achieve Equitable Language Representation
TildeOpen LLM
本文提出TildeOpen LLM,通过课程学习策略平衡数据分布,提升低资源欧洲语言性能,实现语言公平性。
2026-04-29 cs.AI cs.CL
From Answers to Arguments: Toward Trustworthy Clinical Diagnostic Reasoning with Toulmin-Guided Curriculum Goal-Conditioned Learning
School of Electronic and Electrical Engineering, Shanghai University of Engineering Science(上海工程技术大学电子与电气工程学院);Tencent Youtu Lab(腾讯优图实验室)
本文提出托尔金引导的课程目标条件学习框架,通过逐步训练LLM生成符合托尔金结构的诊断论证,提升临床诊断的透明性和可靠性。
2026-04-19 cs.AI cs.LG
Towards Self-Improvement of LLMs via MCTS: Leveraging Stepwise Knowledge with Curriculum Preference Learning
University of Maryland, College Park(马里兰大学学院公园分校);Tencent AI Lab(腾讯AI实验室)
针对现有MCTS行为蒸馏方法未充分利用轨迹信息的问题,提出含逐步轨迹对构建和课程偏好学习的AlphaLLM-CPL框架,显著提升大语言模型数学推理能力。
2024-10-09 cs.CL cs.LG
CURE-Med: Curriculum-Informed Reinforcement Learning for Multilingual Medical Reasoning
University of Virginia(弗吉尼亚大学);Indian Institute of Technology Patna(印度理工学院帕纳布分校);Indian Institute of Technology Kanpur(印度理工学院坎普尔分校);MBZUAI(中东技术研究所)
本文提出CURE-MED框架,通过课程引导的强化学习提升多语言医学推理的逻辑正确性和语言稳定性,实验表明在13种语言上均优于基线模型,实现了高一致性与高正确率。
2026-04-26 cs.AI cs.CL
Dynamic Data Selection for Curriculum Learning via Ability Estimation
Department of IT, Analytics, and Operations, University of Notre Dame(圣母大学IT、分析与运营系);Department of Computer Science, University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校计算机科学系);College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院)
课程学习方法通常依赖于数学来估计训练样本的难度或模型的能力。在这项工作中,我们建议用学习的难度参数来代替难度计算。我们还提出了动态数据选择课程学习通过能力估计(DDaCLAE),一个策略,探测模型的能力,在每个训练时期选择最好的训练样本在这一点上。我们发现,模型学习困难和/或能力优于基于经验的课程学习模型的GLUE分类任务。
2020-10-30 cs.CL cs.LG
Prompt Curriculum Learning for Efficient LLM Post-Training
Meta Superintelligence Labs(Meta超智能实验室);Cornell University(康奈尔大学);University of Washington(华盛顿大学)
针对大语言模型RL后训练对批处理和提示选择敏感的问题,提出基于价值模型的轻量级提示课程学习算法PCL,可高效识别中等难度提示,实现性能与效率的更优权衡。
2025-10-01 cs.CL cs.LG
Rethinking Normalization Placement for LLMs: Post-Norm under Curriculum Depth Growing
本研究在Qwen3-8B到9层模型的蒸馏任务中发现,课程深度增长下后归一化优于预归一化,二者表现存在数量级差异,证明归一化位置与训练课程是耦合设计选择。
2026-08-14 cs.AI
Bandit Guided Submodular Curriculum for Adaptive Subset Selection
Indian Institute of Technology Bombay(印度理工学院孟买分校)
本文提出ONLINESUBMOD方法,通过多臂老虎机框架和亚模函数优化,实现自适应子集选择,提升课程学习的准确性与效率。
2025-11-28 cs.AI cs.LG
Tailoring the Curriculum: Student-Centered Reasoning Distillation via Dynamic Data-Model Compatibility
University of Tokyo(东京大学);Kyoto University(京都大学);National Institute of Informatics(日本信息处理研究所)
提出数据-模型兼容性(DMC)指标,通过联合考虑数据质量、相对难度和学生能力来评估数据集对推理蒸馏的适用性,并基于DMC动态选择数据以提升蒸馏性能。
2026-05-28 cs.AI
A Psychology-based Unified Dynamic Framework for Curriculum Learning
University of Notre Dame, Department of Computer Science and Engineering(诺丁汉大学计算机科学与工程系);Nankai University, College of Computer Science(南开大学计算机学院);University of Notre Dame, Department of IT, Analytics, and Operations(诺丁汉大学信息技术、分析与运营系);VA Bedford Healthcare System, Center for Health Optimization and Implementation Research(美国退伍军人事务部贝福德医疗系统健康优化与实施研究中心);University of Massachusetts Amherst, Manning College of Information and Computer Sciences(马萨诸塞大学阿姆赫斯特分校曼宁信息与计算机科学学院);University of Massachusetts Lowell, Miner School of Computer and Information Sciences(马萨诸塞大学洛威分校米纳尔计算机与信息科学学院)
本文提出基于心理学的统一动态框架用于课程学习,通过项目反应理论量化训练数据难度并优化数据选择,提升模型训练效率和准确性。
2025-11-25 cs.CL
RuCL: Stratified Rubric-Based Curriculum Learning for Multimodal Large Language Model Reasoning
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团);School of Biomedical Engineering, UNSW Sydney(新南威尔士大学生物医学工程学院)
RuCL通过分层评分标准课程学习提升多模态大语言模型的推理能力,实现7.83%的准确率提升。
2026-03-03 cs.CL
Data Selection Curriculum for Neural Machine Translation
Nanyang Technological University(南洋理工大学);Meta AI
神经机器翻译(NMT)模型通常在连接和随机混洗的异构数据上训练。然而,并非所有的训练数据对模型都同样有用。课程培训旨在以有意义的顺序向NMT模型提供数据。在这项工作中,我们为NMT引入了一个两阶段的课程培训框架,在该框架中,我们对数据子集的基础NMT模型进行了微调,这些数据子集是通过使用预训练方法的确定性评分和考虑新兴NMT模型预测分数的在线评分来选择的。通过对WMT'21中低资源和高资源语言组成的六种语言对进行全面实验,我们已经证明,我们的课程策略始终表现出更好的质量(高达+2.2 BLEU改进)和更快的收敛(更新减少约50%)。
2022-03-25 cs.CL cs.LG
Tailored Teaching with Balanced Difficulty: Elevating Reasoning in Multimodal Chain-of-Thought via Prompt Curriculum
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Hunan Vanguard Group Corporation Co., Ltd.(湖南 Vanguard集团有限公司);Huaneng Information Technology Co., Ltd.(华能信息技术有限公司);Tsinghua University(清华大学);Zhejiang University(浙江大学);PowerChina Huadong Engineering Co., Ltd.(中国电建华东工程有限公司)
本文提出一种基于“均衡难度的定制化教学”原则的提示课程设计框架,通过结合模型感知难度和内在样本复杂性构建难度均衡的采样策略,有效提升了多模态大语言模型在多个基准上的推理性能并减少了随机采样导致的性能差异。
2025-10-13 cs.AI cs.CL cs.MM
From Fragments to Facts: A Curriculum-Driven DPO Approach for Generating Hindi News Veracity Explanations
TCS Research(TCS研究);Department of Computer Science and Engineering, Indian Institute of Technology Patna(印度理工学院帕纳布计算机科学与工程系);Indian Institute of Technology Patna(印度理工学院帕纳布);University of Innsbruck(因斯布鲁克大学)
针对印地语等低资源语言的虚假信息检测,提出一种结合直接偏好优化(DPO)与课程学习的框架,通过引入“实际性”和“精炼度”参数优化解释质量,实验验证了生成连贯、相关解释的有效性。
2026-05-31 cs.CL
Boosting Vulnerability Detection of LLMs via Curriculum Preference Optimization with Synthetic Reasoning Data
Tencent Inc.(腾讯公司);The Chinese University of Hong Kong(香港中文大学);Chinese Academy of Sciences(中国科学院)
针对 LLM 漏洞检测能力不足与高质量推理数据稀缺问题,提出 ReVD 框架,通过正逆向推理数据合成、三元组监督微调和课程在线偏好优化提升漏洞模式理解,并在 PrimeVul、SVEN 上取得新最优结果。
2025-06-09 cs.AI cs.SE
Do LLMs Feel? Teaching Emotion Recognition with Prompts, Retrieval, and Curriculum Learning
本文提出PRC-Emo框架,结合提示工程、示范检索和课程学习,探索LLM在对话中感知情绪的能力,实验表明在IEMOCAP和MELD数据集上达到新的SOTA性能。
2025-11-24 cs.AI
Learning a Multi-Domain Curriculum for Neural Machine Translation
Google Research(谷歌研究院);Google Brain(谷歌大脑)
机器翻译中的大多数数据选择研究集中在改进单个领域。我们一次为多个域执行数据选择。这是通过仔细引入实例级域相关性特征并自动构建训练课程以逐渐集中于多域相关和噪声降低的数据批次来实现的。无论是选择的功能和使用的课程是至关重要的平衡和改善所有领域,包括域外。在大规模的实验中,多领域课程同时达到或超过个人表现,并带来了坚实的收益比无课程培训。
2020-05-02 cs.CL cs.LG
Writing-RL: Advancing Long-form Writing via Adaptive Curriculum Reinforcement Learning
Institute for AI Industry Research (AIR)(人工智能产业研究院);Tsinghua University(清华大学);Dept. of Comp. Sci. & Tech.(计算机科学与技术系);Institute for AI(人工智能研究院);Institute of Intelligent Computing(智能计算研究院);Alibaba Group(阿里巴巴集团)
本文提出Writing-RL框架,通过自适应课程强化学习提升长文本写作能力,克服SFT的局限,实验表明其在长文本生成任务中优于基线模型。
2026-04-19 cs.CL
Curriculum Manager for Source Selection in Multi-Source Domain Adaptation
University of Maryland(马里兰大学);Facebook AI
多源无监督领域自适应的性能在很大程度上取决于从标记源域样本转移的有效性。在本文中,我们提出了一个对抗代理,它可以学习源样本的动态课程,称为源选择课程管理器(CMSS)。课程管理器是一个独立的网络模块,在培训期间不断更新课程,并迭代学习哪些领域或样本最适合与目标对齐。这背后的直觉是迫使课程管理器不断地重新测量潜在域随着时间的推移的可转移性,以对抗性地提高域错误的出错率。CMSS不需要任何领域标签的知识,但它在四个著名的基准测试中的表现明显优于其他方法。我们还提供了可解释的结果,阐明了所提出的方法。
2020-07-02 cs.CV cs.LG eess.IV
Accuracy-based Curriculum Learning in Deep Reinforcement Learning
Sorbonne Université(索邦大学);INRIA(法国国家信息与自动化研究所)
在本文中,我们研究了一种新的形式的自动化课程学习的基础上自适应选择的准确性要求,称为基于准确性的课程学习。使用基于深度确定性策略梯度算法的强化学习代理并解决Reacher环境,我们首先表明,使用随机抽样的各种准确性要求训练的代理比要求始终非常准确时更有效地学习。然后,我们表明,自适应选择的准确性要求,根据当地的能力进步的措施,自动生成一个课程的难度逐步增加,从而导致更好的学习效率比随机抽样。
2018-09-21 cs.AI cs.LG stat.ML
Refining Context-Entangled Content Segmentation via Curriculum Selection and Anti-Curriculum Promotion
Duke University(杜克大学);Adobe(Adobe公司)
提出CurriSeg双阶段学习框架,结合课程学习与反课程学习原理,通过动态数据选择与频谱盲性微调提升上下文纠缠内容分割的鲁棒性和泛化能力。
2026-05-25 cs.CV cs.LG
CES-KD: Curriculum-based Expert Selection for Guided Knowledge Distillation
McGill University(麦吉尔大学)
知识蒸馏(KD)是压缩边缘设备深分类模型的有效工具。然而,KD的性能受到教师和学生网络之间的大容量差距的影响。最近的方法已经求助于KD的多教师助理(TA)设置,其顺序地减小教师模型的大小以相对地弥合这些模型之间的大小差距。本文提出了一种新的技术,称为课程专家选择知识蒸馏(CES-KD),有效地提高能力差距问题下的紧凑型学生的学习。这种技术是建立在这样的假设之上的,即学生网络应该使用分层教学课程来逐步引导,因为它从较低(较高)容量的教师网络中更好、更快地学习简单(硬)数据样本。具体来说,我们的方法是一个渐进的TA为基础的KD技术,选择一个单一的教师,每个输入图像的基础上,课程驱动的分类图像的难度。在这项工作中,我们根据经验验证了我们的假设,并对CIFAR-10、CIFAR-100、CINIC-10和ImageNet数据集进行了严格的实验,并在VGG类模型、ResNets和WideResNets架构上显示出更高的准确性。
2022-09-15 cs.CV cs.LG
Dynamically Composing Domain-Data Selection with Clean-Data Selection by "Co-Curricular Learning" for Neural Machine Translation
Google Research(谷歌研究院)
噪声和域是神经机器翻译数据质量的重要方面。现有的研究分别集中在域数据选择,干净的数据选择,或它们的静态组合,离开它们之间的动态交互没有明确检查。本文介绍了一种“共同课程学习”的方法来组合动态域数据选择与动态干净数据选择,用于跨两种能力的迁移学习。我们应用EM风格的优化程序,以进一步完善“共同课程”。实验结果和两个领域的分析表明,该方法的有效性和数据的性质的联合课程调度。
2019-06-03 cs.CL cs.LG
LIDAR and Position-Aided mmWave Beam Selection with Non-local CNNs and Curriculum Training
EURECOM(欧洲通信系统研究院);University of Surrey(萨里大学);Imperial College London(帝国理工学院)
由于毫米波波束宽度窄和用户移动性高,车辆到基础设施(V2 I)通信中的有效毫米波(mmWave)波束选择是一项关键但具有挑战性的任务。为了减少迭代波束发现过程的搜索开销,来自安装在车辆上的光检测和测距(LIDAR)传感器的上下文信息已经被数据驱动的方法利用以产生有用的辅助信息。在本文中,我们提出了一个轻量级的神经网络(NN)架构以及相应的激光雷达预处理,显着优于以前的作品。我们的解决方案包括多个创新,提高了收敛速度和模型的最终精度。特别是,我们定义了一个新的损失函数的启发知识蒸馏的想法,介绍了利用视线(LOS)/非视线(NLOS)信息的课程训练方法,我们提出了一个非本地注意力模块,以提高性能更具挑战性的NLOS的情况下。在基准数据集上的仿真结果表明,仅利用LIDAR数据和接收机位置,我们的基于NN的波束选择方案可以实现79.9%的吞吐量的穷举波束扫描方法,而无需任何束搜索开销和95%的搜索少至6个波束。在典型的毫米波V2 I场景中,与逆指纹识别和分层波束选择方案相比,我们提出的方法大大减少了实现期望吞吐量所需的束搜索时间。
2021-11-17 cs.IT cs.LG eess.SP
Target Curricula via Selection of Minimum Feature Sets: a Case Study in Boolean Networks
University of Newcastle(纽卡斯尔大学)
我们考虑了在监督多标签分类(MLC)问题上训练布尔模型时引入目标课程的效果。特别是,我们考虑如何在没有先验知识的情况下订购目标,以及如何在使用元分析训练离散非线性模型时执行这样的课程。我们表明,目标之间的层次依赖关系,可以利用执行适当的课程,使用分层损失函数。在已知目标困难的多输出电路推理问题上,用这种损失函数训练的前馈布尔网络(FBN)实现了显着更低的样本外误差,在某些情况下高达$10\%$。这种改进随着损失更加强调目标顺序而增加,并且与容易到困难的课程密切相关。我们还证明了相同的改进三个真实的世界模型和两个基因调控网络(GRN)推理问题。我们提出了一个简单的先验方法,用于确定一个适当的目标顺序和估计布尔MLCs中的目标关系的强度。这些方法使用内在维度作为目标难度的代理,该目标难度使用被称为最小特征集(minFS)问题的组合优化问题的最优解来估计。我们还表明,可以实现相同的泛化增益,而不提供任何知识的目标难度。
2017-11-01 cs.AI cs.LG
Learning a High-quality Robotic Wiping Policy Using Systematic Reward Analysis and Visual-Language Model Based Curriculum
Georgia Institute of Technology(佐治亚理工学院);Electronics and Telecommunications Research Institute(电子通信研究院)
针对自主机器人擦拭任务中深度强化学习需大量奖励工程的问题,通过分析质量关键型擦拭的收敛性提出有界奖励公式,结合基于视觉语言模型的课程改进学习过程,在多条件表面上实现了基线方法无法学到的理想擦拭策略。
2025-02-18 cs.LG cs.RO
TEACH: Temporal Variance-Driven Curriculum for Reinforcement Learning
IIT Kanpur(印度理工学院坎普尔分校)
TEACH提出基于时间方差的课程学习方法,通过动态优先选择高不确定性目标,提升多目标强化学习的样本效率和策略学习效率。
2025-12-28 cs.LG
When Do Curricula Work in Federated Learning?
University of California San Diego(加州大学圣地亚哥分校);Czech Technical University(捷克技术大学);UCF(中佛罗里达大学)
联邦学习的一个经常被引用的公开问题是客户端存在数据异构性。理解联邦学习中准确性急剧下降的一种途径是仔细检查客户端深度模型在不同“难度”数据上的行为,这一点尚未得到解决。在本文中,我们探讨了一个不同的和很少研究的层面的外语:有序学习。具体而言,我们的目标是调查如何有序的学习原则可以有助于减轻外语的异质性影响。我们目前的理论分析和广泛的实证研究的订单跨越三种学习:课程,反课程,随机课程的功效。我们发现,课程学习在很大程度上消除了非IID。有趣的是,客户端之间的数据分布越不同,他们从有序学习中受益越多。我们提供了解释这一现象的分析,特别指出课程培训如何使目标景观逐渐变得不那么凸,这表明在训练过程开始时快速收敛迭代。我们推导出定量结果的收敛凸和非凸的目标建模的课程培训联邦设备作为本地SGD与本地偏置随机梯度。此外,有序学习的启发,我们提出了一种新的客户端选择技术,受益于现实世界中的客户端的差异。我们提出的客户端选择方法与外语学习中的有序学习一起应用时,具有协同效应。
2022-12-24 cs.AI cs.DC cs.LG