Proximal Curriculum with Task Correlations for Deep Reinforcement Learning
Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；The Alan Turing Institute（艾伦·图灵研究所）
本文提出 ProCuRL-Target 课程设计方法，利用任务相关性在上下文多任务强化学习中平衡任务难度与目标分布推进，并通过理论分析和多领域实验验证其加速深度 RL 训练的有效性。
2024-05-03 cs.AI cs.LG
Statistical Measures For Defining Curriculum Scoring Function
Indian Institute of Technology Gandhinagar（印度理工学院甘地纳加尔分校）
课程学习是一种训练策略，它根据训练样本的难度对它们进行排序，并逐渐将它们暴露给学习者以提高网络性能。出于我们的见解，从内隐课程排序，我们首先介绍了一个简单的课程学习策略，使用统计措施，如标准差和熵值评分的难度数据点的真实图像分类任务。我们在多个真实图像数据集上用卷积和全连接神经网络实证地展示了其性能的改进。我们还提出并研究了一个动态的课程学习算法的性能。我们的动态课程算法试图在任何训练步骤中减少网络权重与最佳权重之间的距离，方法是对具有指向最佳权重的梯度的示例进行greenhouse采样。此外，我们使用我们的算法来讨论为什么课程学习是有帮助的。
2021-07-27 cs.LG
Parallelized Reverse Curriculum Generation
National Taiwan University（台湾大学）
对于强化学习（RL），由于稀疏的奖励，智能体掌握需要特定一系列动作的任务是具有挑战性的。为了解决这个问题，反向课程生成（RCG）提供了一个反向扩展的方法，自动生成一个课程的代理学习。更具体地说，随着训练的进行，RCG将初始状态分布从目标的邻域调整到距离。然而，为每次迭代生成的初始状态分布可能是有偏的，从而使策略过拟合或减慢反向扩展速率。在为基于行动者-评论者（AC）的RL算法训练RCG时，AC对之间的紧密耦合可能导致这种较差的泛化和缓慢的收敛。因此，我们提出了一种并行化的方法，同时训练多个AC对，并定期交换他们的批评。实验表明，该方法可以提高RCG的性能和收敛性，它也可以应用到其他AC为基础的RL算法与适应的初始状态分布。
2021-08-04 cs.LG cs.RO
Beyond the Performance Illusion: Structure-Aware Stratified Partitioning and Curriculum Distributionally Robust Optimization for Spatially Correlated Domains
QpiAI India Pvt. Ltd.（QpiAI印度私人有限公司）
针对空间相关数据中随机划分导致的数据泄露和隐藏分层问题，提出结构感知分层划分（SASP）减少时空泄露并保持类别平衡，以及课程分布鲁棒优化（CDRO）稳定训练，提升泛化与校准可靠性。
2026-07-03 cs.AI cs.CV cs.LG
Curriculum Learning as Transport: Understanding Curricula with Wasserstein Geodesics
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）；Harvard University（哈佛大学）
提出基于Wasserstein测地线的传输框架解耦课程学习因素，在合成套件上发现课程效应依赖上下文，从易到难排序提升困难层级表现。
2026-09-09 cs.LG
Cup Curriculum: Curriculum Learning on Model Capacity
University of Bonn（波恩大学）
针对自然语言处理领域缺乏模型容量维度课程学习研究的空白，提出cup curriculum方法，通过先剪枝降容量再恢复权重的两阶段训练形成杯状容量曲线，实验证明其优于早停且抗过拟合能力强。
2023-11-07 cs.LG
A Curriculum-Training-Based Strategy for Distributing Collocation Points during Physics-Informed Neural Network Training
Institute of Informatics（信息学研究所）；Ludwig Maximilians University Munich（慕尼黑路德维希-马克西米利安大学）；NASA Goddard Space Flight Center（美国国家航空航天局戈达德太空飞行中心）
物理信息神经网络（PINN）在其损失函数中通常具有基于物理方程和导数的术语。为了评估这些项，使用配置点的分布对输出解进行采样。然而，基于密度的策略，其中在整个训练期间，域上的搭配点的数量增加，不能很好地扩展到多个空间维度。为了解决这个问题，我们在这里提出了一种基于训练的方法，用于在网络训练期间进行轻量级配置点分布。我们将这种方法应用到PINN中，该PINN从基线MHD模拟中提取的部分样本中恢复完整的二维磁流体动力学（MHD）解决方案。我们发现，课程配置点策略导致了显着减少训练时间，同时提高了重建的解决方案的质量。
2022-11-22 cs.LG physics.plasm-ph
Provable Advantage of Curriculum Learning on Parity Targets with Mixed Inputs
EPFL (École Polytechnique Fédérale de Lausanne)（洛桑联邦理工学院）
本文证明了在混合稀疏与密集输入的数据分布上，课程学习能以更少步数训练2层ReLU网络学习高阶奇偶性，优于在无序样本上训练的更大全连接网络。
2023-06-29 cs.LG stat.ML
Mitigating Position-Shift Failures in Text-Based Modular Arithmetic via Position Curriculum and Template Diversity
Independent Researcher（独立研究者）
通过位置课程和模板多样性提升文本模运算模型对位置偏移和模板分布外的鲁棒性
2026-01-07 cs.CL cs.LG
Curriculum-Adapted Robust Reinforcement Learning for UAV Deconfliction in Adversarial Environments
Faculty of Engineering and Applied Sciences, Cranfield University（工程与应用科学学院，克兰菲尔德大学）
提出一种课程引导的适应框架，通过渐进暴露于梯度对抗观测扰动并对齐时序差分误差分布，提升无人机在GNSS欺骗攻击下的鲁棒性和泛化能力。
2026-10-14 cs.AI cs.LG
Learning from Annotation Uncertainty: Entropy-Aware Curriculum for Speech Emotion Recognition
Center for Robust Speech Systems, The University of Texas at Dallas（德克萨斯大学达拉斯分校鲁棒语音系统中心）
针对语音情感识别中标注者分歧问题，提出基于分布的监督方法，利用WavLM-Base多任务模型在9类情感上减少与人类投票分布的差异，并通过熵分层评估证明分布监督能更好地捕捉感知不确定性。
2026-06-29 cs.LG cs.SD
Boosting Unsupervised Domain Adaptation with Soft Pseudo-label and Curriculum Learning
School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University（上海交通大学电子信息与电气工程学院）；Shanghai Key Laboratory of Digital Media Processing and Transmission（上海市数字媒体处理与传输重点实验室）
无监督领域自适应（UDA）利用来自完全标记的源域的数据，通过数据分布的显式差异最小化或对抗性学习来提高未标记目标域上的分类性能。作为一种增强，类别对齐涉及在适应过程中，通过利用模型预测来加强目标特征区分。然而，在目标域上错误的类别预测所导致的伪标签不准确，以及在源域上过拟合所导致的分布偏差，仍然是未被探索的问题。在本文中，我们提出了一个模型无关的两阶段学习框架，它大大减少了有缺陷的模型预测使用软伪标签策略，并避免过度拟合的源域与课程学习策略。理论上，它成功地降低了目标域上的期望误差的上界的组合风险。在第一阶段，我们训练一个模型，基于分布式的UDA方法获得软语义标签的目标领域具有较高的信心。为了避免源域上的过拟合，在第二阶段，我们提出了一种课程学习策略，自适应地控制两个域的损失之间的权重，使得训练阶段的重点逐渐从源分布转移到目标分布，并提高目标域上的预测置信度。在两个著名的基准数据集上进行的大量实验验证了我们提出的框架在提高排名靠前的UDA算法性能方面的普遍有效性，并证明了其一贯的优越性能。
2021-12-03 cs.CV cs.LG
Curriculum based Dropout Discriminator for Domain Adaptation
Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）
领域自适应对于使用大型标记数据集训练的基于深度学习的网络的广泛使用至关重要。基于对抗性学习的技术已经显示出它们在解决这个问题方面的实用性，它使用了一种确保源和目标分布接近的方法。然而，在这里，我们建议，而不是使用点估计，这将是有用的，如果一个基于分布的估计可以用来弥合这一差距。这可以使用多个分类器或使用传统的集成方法来实现。相比之下，我们建议基于蒙特卡罗丢弃的系综估计足以获得基于分布的估计。具体来说，我们提出了一个基于课程的辍学率，逐渐增加的样本为基础的分布和相应的反向梯度的方差用于对齐源和目标特征表示。详细的结果和全面的烧蚀分析表明，我们的模型优于国家的最先进的结果。
2019-10-19 cs.CV cs.LG stat.ML
Curriculum Sampling: A Two-Phase Curriculum for Efficient Training of Flow Matching
Stanford University（斯坦福大学）
本文提出课程采样，通过两阶段策略提升流匹配模型训练效率，改进FID指标并优化训练步骤。
2026-03-12 cs.CV cs.LG
A Comparative Evaluation of Curriculum Learning with Filtering and Boosting
Brigham Young University（杨百翰大学）
并非数据集中的所有实例都同样有利于推断数据的模型。某些实例（如离群值）不利于推断数据的模型。几种机器学习技术在训练期间以不同的方式处理数据集中的实例，例如课程学习，过滤和提升。然而，不存在用于确定实例对于推断数据的模型有多有益的自动化方法。在本文中，我们提出了一种自动化的方法，根据其被错误分类的可能性（实例硬度）的复杂性，在数据集中的实例排序。该方法的基本假设是，具有被错误分类的高可能性的实例表示数据集中更复杂的概念。对数据集中的实例进行排序允许学习算法专注于最有益的实例而忽略有害的实例。我们比较了课程学习中数据集实例的排序、过滤和提升。我们发现，排序的实例显着提高分类精度和过滤有最大的分类精度的影响。在一组52个数据集上，对实例进行排序将平均准确率从81%提高到84%。
2013-12-17 cs.LG
Understanding Curriculum Learning in Large Language Models via Cross-Difficulty Optimization Dynamics
Fudan University（复旦大学）
本文通过分析不同课程调度的优化动力学，提出衡量跨难度知识迁移的Relative Transfer指标，据此推导TDCS方法，经多推理基准实验证明其性能优于代表性调度策略，为课程学习提供统一优化解释。
2026-08-19 cs.AI cs.LG
Curriculum in Gradient-Based Meta-Reinforcement Learning
Université de Montréal（蒙特利尔大学）；Mila（米拉）；Polytechnique Montréal（蒙特利尔综合理工学院）；CIFAR AI Chair（加拿大高级研究院人工智能主席）
诸如模型不可知元学习（MAML）之类的基于约束的元学习器在监督和强化学习设置中表现出强大的Few-Shot性能。然而，特别是在Meta强化学习（元RL）的情况下，我们可以证明，基于梯度的元学习器是敏感的任务分布。在错误的课程中，代理遭受元过拟合，浅适应和适应不稳定的影响。在这项工作中，我们首先强调了基于梯度的元RL的有趣的失败案例，并表明任务分布可以广泛地影响算法输出，稳定性和性能。为了解决这个问题，我们利用最近关于域随机化的文献中的见解，并提出了Meta主动域随机化（元ADR），它学习基于梯度的元RL的任务课程，类似于ADR对sim 2 real传输的任务。我们表明，这种方法诱导更稳定的政策，对各种模拟运动和导航任务。我们评估了分布内和分布外泛化分布外泛化，发现即使在非结构化任务空间中，学习到的任务分布也大大提高了MAML的适应性能。最后，我们激发了元RL中更好的基准测试的需求，该基准测试将\textit{generalization}优先于单任务自适应性能。
2020-02-19 cs.AI cs.LG stat.ML
Reverse Forward Curriculum Learning for Extreme Sample and Demonstration Efficiency in Reinforcement Learning
University of California, San Diego（加利福尼亚大学圣迭戈分校）
本文提出RFCL方法，通过逐示范反向课程生成初始策略以克服稀疏奖励探索困难，再用前向课程扩展到完整初始状态分布，显著提升示范与样本效率，并解决此前无法完成的高精度控制任务。
2024-05-06 cs.AI cs.LG cs.RO
Loss-aware Curriculum Learning for Heterogeneous Graph Neural Networks
Tsinghua University（清华大学）；Hong Kong University of Science and Technology（香港科技大学）；KongFoo Technology Co., Ltd.（孔府科技有限公司）
本文提出损失感知训练调度方法 LTS，通过按节点质量由易到难组织训练，提升异构图神经网络的鲁棒性与准确率。
2024-02-29 cs.LG
Perseus: Leveraging Common Data Patterns with Curriculum Learning for More Robust Graph Neural Networks
National University of Defense Technology（国防科技大学）
针对图神经网络易受对抗攻击且现有防御方法存在信息丢失或陷入局部最优的问题，提出基于课程学习的防御方法Perseus，通过全局同质性评估边难度并调整学习顺序，引导模型聚焦常见数据模式，显著提升了模型的性能与鲁棒性。
2024-10-16 cs.LG
Cyclical Curriculum Learning
Yildiz Technical University（耶尔德兹理工大学）
人工神经网络（ANN）是受人类学习的启发而产生的。然而，与人类教育不同，经典ANN不使用课程。课程学习（CL）是指人工神经网络的训练过程，其中的例子是在一个有意义的顺序。当使用CL时，训练从数据集的一个子集开始，并在整个训练过程中添加新样本，或者训练从整个数据集开始，并减少使用的样本数量。随着训练数据集大小的这些变化，使用课程，反课程或随机课程方法可以获得比香草方法更好的结果。然而，一个普遍有效的CL方法为各种架构和数据sets.In本文中，我们提出了循环课程学习（CCL），在训练过程中使用的数据大小循环变化，而不是简单地增加或减少。而不是只使用香草的方法或只使用课程的方法，使用这两种方法循环像在CCL提供了更成功的结果。我们在18个不同的数据集和15个图像和文本分类任务的架构上测试了该方法，并获得了比无CL和现有CL方法更成功的结果。我们还从理论上证明了循环应用CL和vanilla而不是仅使用CL或仅使用vanilla方法的错误较少。循环课程的代码可在https://github.com/CyclicalCurriculum/Cyclical-Curriculum上找到。
2022-03-15 cs.AI cs.LG
Learning a Multi-Domain Curriculum for Neural Machine Translation
Google Research（谷歌研究院）；Google Brain（谷歌大脑）
机器翻译中的大多数数据选择研究集中在改进单个领域。我们一次为多个域执行数据选择。这是通过仔细引入实例级域相关性特征并自动构建训练课程以逐渐集中于多域相关和噪声降低的数据批次来实现的。无论是选择的功能和使用的课程是至关重要的平衡和改善所有领域，包括域外。在大规模的实验中，多领域课程同时达到或超过个人表现，并带来了坚实的收益比无课程培训。
2020-05-02 cs.CL cs.LG
Efficient Contrastive Learning via Novel Data Augmentation and Curriculum Learning
School of Computing, KAIST（韩国科学技术院计算机学院）
我们引入了EfficientCL，这是一种高效记忆的持续预训练方法，它采用了具有新数据增强和课程学习的对比学习。对于数据增强，我们依次堆叠两种类型的操作：截断和PCA抖动。当预训练步骤进行时，我们通过增加每个难度步骤的增强程度来应用课程学习。在数据增强完成后，对原始样本和扩充样本的投影嵌入应用对比学习。当在GLUE基准上进行微调时，我们的模型优于基线模型，特别是对于任务级任务。此外，与基线模型相比，这种改进仅需要70%的计算内存。
2021-10-18 cs.CL cs.LG
Dynamic Data Selection for Curriculum Learning via Ability Estimation
Department of IT, Analytics, and Operations, University of Notre Dame（圣母大学IT、分析与运营系）；Department of Computer Science, University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校计算机科学系）；College of Information and Computer Sciences, University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校信息与计算机科学学院）
课程学习方法通常依赖于数学来估计训练样本的难度或模型的能力。在这项工作中，我们建议用学习的难度参数来代替难度计算。我们还提出了动态数据选择课程学习通过能力估计（DDaCLAE），一个策略，探测模型的能力，在每个训练时期选择最好的训练样本在这一点上。我们发现，模型学习困难和/或能力优于基于经验的课程学习模型的GLUE分类任务。
2020-10-30 cs.CL cs.LG
Data Selection Curriculum for Neural Machine Translation
Nanyang Technological University（南洋理工大学）；Meta AI
神经机器翻译（NMT）模型通常在连接和随机混洗的异构数据上训练。然而，并非所有的训练数据对模型都同样有用。课程培训旨在以有意义的顺序向NMT模型提供数据。在这项工作中，我们为NMT引入了一个两阶段的课程培训框架，在该框架中，我们对数据子集的基础NMT模型进行了微调，这些数据子集是通过使用预训练方法的确定性评分和考虑新兴NMT模型预测分数的在线评分来选择的。通过对WMT'21中低资源和高资源语言组成的六种语言对进行全面实验，我们已经证明，我们的课程策略始终表现出更好的质量（高达+2.2 BLEU改进）和更快的收敛（更新减少约50%）。
2022-03-25 cs.CL cs.LG
TPCL: Task Progressive Curriculum Learning for Robust Visual Question Answering
School of Information and Communication Technology（信息与通信技术学院）；Data61, CSIRO Australia（Data61，澳大利亚联邦科学与工业研究组织）；School of Information Systems（信息系统学院）
本文提出TPCL框架，通过渐进式课程学习提升视觉问答在分布偏移、低数据等场景下的鲁棒性，取得SOTA性能。
2026-03-23 cs.CV cs.LG
Self Paced Gaussian Contextual Reinforcement Learning
Department of Electrical and Computer Engineering（电气与计算机工程系）；North Carolina State University（北卡罗来纳州立大学）；Department of Statistics（统计系）
本文提出自适应高斯课程学习方法，通过闭式更新规则减少计算开销，提升高维情境空间下的样本效率和稳定性，实验表明其在连续和部分可观测领域表现优异。
2026-03-24 cs.AI cs.LG
Curriculum Learning for Vision-and-Language Navigation
Fudan University（复旦大学）；Princeton University（普林斯顿大学）
视觉和语言导航（VLN）是一项任务，其中智能体在人类指令下在具体的室内环境中导航。以前的作品忽略了样本难度的分布，我们认为，这可能会降低他们的代理性能。为了解决这个问题，我们提出了一种新的基于知识的VLN任务的训练范式，可以平衡人类的先验知识和智能体对训练样本的学习进度。我们制定了课程设计的原则，并重新安排基准房间到房间（R2R）数据集，使其适合课程培训。实验表明，我们的方法是模型无关的，可以显着提高性能，泛化能力，和当前国家的最先进的导航代理的训练效率，而不增加模型的复杂性。
2021-11-14 cs.AI cs.CL cs.CV
Image Difficulty Curriculum for Generative Adversarial Networks (CuGAN)
University of Bucharest（布加勒斯特大学）；Institute of Mathematics of the Romanian Academy（罗马尼亚科学院数学研究所）；University “Politehnica” of Bucharest（布加勒斯特理工大学）
尽管近年来取得了重大进展，但生成对抗网络（GANs）仍然非常难以训练。在本文中，我们提出了三种新的课程学习策略来训练GANs。所有的策略都是首先根据训练图像的难度分数对训练图像进行排名，这些难度分数是由最先进的图像难度预测器估计的。我们的第一个策略是将图像分成逐渐更难的批次。我们的第二个策略引入了一个新的课程损失函数，考虑到真实图像的难度分数的训练。我们的第三个策略是基于从一个不断发展的分布中进行采样，在初始训练阶段有利于更容易的图像，并逐渐收敛到一个均匀的分布，在这个分布中，样本的可能性是相等的，无论难度如何。我们比较了我们的课程学习策略与经典的培训过程中的两个任务：图像生成和图像翻译。我们的实验表明，所有的策略提供更快的收敛速度和优越的结果。例如，我们在频谱归一化GANs（SNGANs）上应用的最佳课程学习策略在25.0%的案例中欺骗了人类注释者，认为生成的CIFAR类图像是真实的，而使用经典过程训练的SNGANs仅在18.4%的案例中欺骗了注释者。同样，在图像翻译中，人类注释者在40.5%的情况下更喜欢使用课程学习训练的Cycle-consistent GAN（CycleGAN）生成的图像，而在19.8%的情况下，CycleGAN基于经典训练生成的图像，39.7%的情况下被标记为领带。
2019-10-22 cs.CV cs.LG stat.ML
Epi-Curriculum: Episodic Curriculum Learning for Low-Resource Domain Adaptation in Neural Machine Translation
University of South Florida（南佛罗里达大学）；Snap Inc.（Snap公司）
提出Epi-Curriculum方法，结合情节训练框架与去噪课程学习，提升神经机器翻译在低资源领域适应中的鲁棒性与适应性，实验验证其在英德、英罗翻译上的有效性。
2023-09-06 cs.CL cs.LG
HuCurl: Human-induced Curriculum Discovery
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
提出HuCurl课程发现框架，利用标注熵和损失度量样本难度，在课程空间中自动发现有效课程，证明最优课程常为非单调且可跨数据集与模型规模迁移。
2023-07-14 cs.CL cs.LG
High Noise Scheduling is a Must
University of Kentucky（肯塔基大学）；Institute for Biomedical Informatics（生物医学信息学研究所）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
本文针对一致性训练中噪声分布不均衡问题，提出多项式噪声分布并结合预定义Karras噪声与正弦课程，在低深度模型上显著降低FID。
2024-04-09 cs.AI cs.CV cs.LG
Curriculum Generation under Structured Parametric Environments for Robust Navigation Policies
Cornell University（康奈尔大学）
本文针对结构化参数环境提出重参数化课程生成框架，结合分布偏移正则化，在OpenAI Gym的两类连续控制环境中，显著优于多种基线方法，提升了导航策略的鲁棒性。
2026-08-11 cs.LG cs.RO
Learning to Solve Travelling Salesman Problem with Hardness-adaptive Curriculum
Tsinghua University（清华大学）
已经提出了各种神经网络模型来解决组合优化问题，例如旅行商问题（TSP）。现有的基于学习的TSP方法采用简单的设置，即训练和测试数据是独立同分布的。然而，现有的文献未能解决TSP的情况下，训练和测试数据具有不同的分布。具体地说，我们发现不同的训练和测试分布将导致更困难的TSP实例，即，模型得到的解与最优解有较大差距。为了解决这个问题，在这项工作中，我们研究了基于学习的TSP方法时，训练和测试数据具有不同的分布使用自适应硬度，即，TSP实例对于求解器来说有多困难。这个问题是具有挑战性的，因为它是不平凡的（1）定量定义硬度测量;（2）在模型训练时有效地和连续地生成足够硬的TSP实例;（3）充分利用具有不同硬度水平的实例来学习更强大的TSP求解器。为了解决这些挑战，我们首先提出了一个原则性的硬度测量来量化TSP实例的硬度。然后，我们提出了一个硬度自适应生成器来生成不同硬度的实例。我们进一步提出了一个课程学习者充分利用这些实例训练TSP求解器。实验表明，我们的硬度自适应生成器可以生成的实例比现有的方法难十倍，我们提出的方法实现了显着的改进，最先进的模型在最优性差距。
2022-04-07 cs.AI cs.LG
Curriculum Learning with Diversity for Supervised Computer Vision Tasks
University of Bucharest（布加勒斯特大学）；Department of Computer Science（计算机科学系）；Romania（罗马尼亚）
课程学习技术是提高自动模型准确性的一种可行的解决方案，它通过用从易到难的策略取代传统的随机训练。然而，标准的课程方法并不能自动提供改进的结果，而是受到数据分布或拟议模型等多个因素的约束。在本文中，我们介绍了一种新的课程抽样策略，该策略考虑了训练数据的多样性以及输入的难度。我们使用最先进的估计器，根据解决视觉搜索任务所需的人类时间来确定难度。我们认为这种难度度量更适合解决一般问题，因为它不是基于某些任务相关的元素，而是更多地基于每个图像的上下文。我们确保培训过程中的多样性，对较少访问的课程的元素给予更高的优先级。我们在Pascal VOC 2007和Cityscapes数据集上进行目标检测和实例分割实验，超越了随机训练的基线和标准课程方法。我们证明，我们的策略是非常有效的不平衡的数据集，导致更快的收敛速度和更准确的结果，当其他基于矩阵的策略失败。
2020-09-22 cs.AI cs.CV cs.LG
MathMixup: Boosting LLM Mathematical Reasoning with Difficulty-Controllable Data Synthesis and Curriculum Learning
CASIA（中国科学院自动化研究所）；ZGCA（浙江大学）；UCAS（中国科学技术大学）；PKU（北京大学）；ByteDance（字节跳动）
MathMixup通过难度可控的数据合成与课程学习策略，提升LLM的数学推理能力，实验显示其在多个基准测试中表现优于现有方法。
2026-01-14 cs.AI cs.LG
Dynamic curriculum learning via data parameters for noise robust keyword spotting
Apple（苹果公司）
我们提出了通过数据参数进行动态课程学习，以实现噪声鲁棒关键字定位。近来，数据参数学习已经被引入用于图像处理，其中，针对目标类别和实例的权重参数（所谓的数据参数）被引入并且与模型参数一起被优化。数据参数在训练期间缩放logits并控制类和实例的重要性，这使得自动课程学习无需对训练数据进行额外的注释。同样，在本文中，我们提出了使用这种课程学习方法的声学建模，并训练一个声学模型上干净和嘈杂的话语与数据参数。所提出的方法在梯度下降优化中自动学习类和实例的难度，例如由于低语音噪声比（SNR），并执行课程学习。该课程学习导致声学模型的准确性的全面提高。我们评估所提出的方法对关键字定位任务的有效性。实验结果表明，与简单地在多条件数据集上训练的基线模型相比，数据参数的错误拒绝率相对降低了7.7%。
2021-02-18 cs.AI cs.LG cs.SD
Trying AGAIN instead of Trying Longer: Prior Learning for Automatic Curriculum Learning
INRIA（法国国家信息与自动化研究所）；Microsoft Research（微软研究院）
深度RL（DRL）社区的一个主要挑战是训练能够在看不见的情况下进行概括的代理，这通常是通过在各种任务（或环境）上训练他们来实现的。培养多样性的一个强大方法是通过从多维分布中采样任务的参数来程序化地生成任务，特别是能够为每个训练片段提出不同的任务。在实践中，为了获得泛化所需的训练任务的高度多样性，必须使用复杂的过程生成系统。使用这种生成器，很难获得关于实际上可学习的任务子集的先验知识（许多生成的任务可能是不可学习的），它们的相对难度是什么，以及什么是最有效的任务分布排序。在这种情况下，一个典型的解决方案是依赖于某种形式的自动课程学习（ACL）来适应采样分布。当前方法的一个限制是它们需要探索任务空间以检测随着时间的推移的进度小生境，这导致时间损失。此外，我们假设在训练数据中的诱导噪声可能会损害脆性DRL学习器的性能。我们解决这个问题，提出了一个两阶段的ACL方法，其中1）教师算法首先学习训练DRL代理与高探索课程，然后2）从第一次运行中提取学习先验生成一个“专家课程”从头开始重新训练相同的代理。除了展示平均50%的改进，比目前的最先进的，这项工作的目标是给一个新的研究方向，面向完善ACL技术在多个学习者，我们称之为课堂教学的第一个例子。
2020-04-07 cs.AI cs.LG stat.ML
Gradient-Based Data Valuation Improves Curriculum Learning for Game-Theoretic Motion Planning
本文通过梯度基于的数据估值方法改进博弈式运动规划的课程学习，证明其在训练效果上优于元数据启发式方法，通过TracIn评分构建课程，显著降低验证损失，提升规划性能。
2026-04-01 cs.LG cs.SY eess.SY
Curriculum Learning for Deep Generative Models with Clustering
Xiaomi AI Lab（小米人工智能实验室）；Chinese University of Hong Kong（香港中文大学）；Peking University（北京大学）
训练像生成对抗网络（GAN）这样的生成模型对于噪声数据来说是一个挑战。提出了一种新的基于聚类的课程学习算法。课程建设是基于数据点的底层集群的中心性。在训练期间，高中心性的数据点优先被馈送到生成模型中。为了使我们的算法可扩展到大规模数据，设计了活动集，在这个意义上，每一轮的训练只在包含一小部分已经训练过的数据和较低中心度的增量数据的活动子集上进行。此外，本文还从几何学的角度分析了集群课程生成模式的必要性。在猫和人脸数据上的实验验证了我们的算法能够学习最佳生成模型（例如ProGAN），并针对噪声数据的指定质量度量。一个有趣的发现是，最佳集群课程是密切相关的临界点的几何渗流过程中制定的文件。
2019-09-26 cs.CV cs.LG stat.ML
Development and Comparison of Scoring Functions in Curriculum Learning
Yildiz Technical University（耶尔德兹技术大学）
课程学习是将样本以有意义的顺序而不是随机顺序呈现给机器学习模型。课程学习的主要挑战是确定如何对这些样本进行排序。样本的排序由评分函数表示。在这项研究中，使用数据集特征，使用待训练的模型，以及使用另一个模型及其集成版本来比较评分函数。对4幅图像和4个文本数据集进行了实验。在文本数据集的评分函数之间没有发现显著差异，但是与经典模型训练和图像数据集的其他评分函数相比，使用迁移学习创建的评分函数获得了显著改进。这表明，不同的新的评分功能，等待被发现的文本分类任务。
2022-03-15 cs.AI cs.LG
Curriculum Learning for Safety Alignment
Carnegie Mellon University（卡内基梅隆大学）；Simons Institute, UC Berkeley（Simons研究所，伯克利大学）
提出基于课程学习的Staged-Competence框架，通过难度分级的偏好数据和渐进式参考模型更新，提升DPO安全对齐的鲁棒性，在三个模型族上平均降低16%的OOD有害响应率和20%的越狱攻击成功率。
2026-11-03 cs.AI cs.LG
Self-Evolving Curriculum for LLM Reasoning
Mila – Quebec AI Institute（米拉-魁北克人工智能研究所）；KAIST（韩国科学技术院）；Microsoft Research（微软研究院）；ServiceNow AI Research（ServiceNow人工智能研究院）
针对大语言模型RL微调中现有课程方法效果不佳、成本高的问题，提出将课程选择建模为非平稳多臂老虎机的自进化课程方法，可同步学习课程策略，显著提升多领域推理能力与泛化性，实现技能均衡。
2025-10-30 cs.AI cs.LG
Confusion-Aware Transfer Teacher Curriculum Learning Framework: Disentangling Scoring and Pacing Effects
Faculty of Computing, Sri Lanka Institute of Information Technology, Sri Lanka（斯里兰卡信息科技学院计算机学院，斯里兰卡）；Faculty of Engineering, University of Sri Jayewardenepura, Sri Lanka（斯里兰卡贾亚韦达内普拉大学工程学院，斯里兰卡）；Faculty of Engineering, Sri Lanka Institute of Information Technology, Sri Lanka（斯里兰卡信息科技学院工程学院，斯里兰卡）；University of Sheffield, United Kingdom（谢菲尔德大学，英国）；Utrecht University, The Netherlands（乌得勒支大学，荷兰）
提出混淆感知难度评分，通过阶段性子集测试和随机基线解耦课程学习的评分与节奏效应，在CIFAR-10上验证评分可解释性，但全数据下无提升，仅在小数据量下提升数据效率。
2026-06-17 cs.AI cs.LG
Influence-driven Curriculum Learning for Pre-training on Limited Data
Faculty of Computer Science, University of Vienna（维也纳大学计算机科学系）；UniVie Doctoral School Computer Science, University of Vienna（维也纳大学UniVie计算机科学博士学院）；Faculty of Philological and Cultural Studies, University of Vienna（维也纳大学文学与文化研究系）；Khoury College of Computer Sciences, Northeastern University（东北大学Khoury计算机科学学院）
针对传统课程学习在语言模型预训练中成效有限的问题，提出以训练数据影响为难度度量的影响驱动课程学习方法，在基准测试中较随机训练提升超10个百分点，验证了以模型为中心的难度度量对预训练的增益。
2025-09-26 cs.CL cs.LG
Eurekaverse: Environment Curriculum Generation via Large Language Models
University of Pennsylvania（宾夕法尼亚大学）
本文提出Eurekaverse，利用大型语言模型自动生成渐进式环境课程，用于四足机器人跑酷技能训练，并在仿真和现实中验证其优于人工设计的课程。
2024-11-04 cs.AI cs.LG cs.RO
What Makes a Good Curriculum? Disentangling the Effects of Data Ordering on LLM Mathematical Reasoning
Dartmouth College（达特茅斯学院）
本研究通过统一框架分解课程难度为五个维度，实验发现课程策略效果依赖模型与任务，挑战普遍最优课程概念，并提供针对性指导。
2025-10-24 cs.AI cs.LG
Let the Model Decide its Curriculum for Multitask Learning
Arizona State University（亚利桑那州立大学）
现有多任务学习方法中的课程学习策略基于人类感知或通过穷尽地搜索最优布置来将数据集布置在难度层级中。然而，人类对难度的感知可能并不总是与机器解释很好地相关，导致性能差，并且穷举搜索在计算上是昂贵的。为了解决这些问题，我们提出了两类技术，根据通过基于模型的方法计算的难度分数将训练实例安排到学习课程中。这两个类，即数据集级和实例级，在排列粒度上有所不同。通过对12个数据集的全面实验，我们表明实例级和数据集级技术可以产生强有力的表示，因为它们比各自的基线平均性能提高了4.17%和3.15%。此外，我们发现，这种改善大部分来自正确回答困难的情况下，这意味着我们的技术在困难的任务更大的功效。
2022-05-27 cs.CL cs.LG
Curriculum Learning: A Survey
University of Bucharest（布加勒斯特大学）；University of Trento（特伦托大学）
使用课程学习以有意义的顺序训练机器学习模型，从简单的样本到困难的样本，可以提供基于随机数据洗牌的标准训练方法的性能改进，而无需任何额外的计算成本。课程学习策略已经成功地应用于机器学习的所有领域，广泛的任务。然而，必须找到一种方法来排序的样本从容易到困难，以及正确的节奏功能，引入更困难的数据可以限制课程方法的使用。在这项调查中，我们展示了如何在文献中解决这些限制，我们提出了不同的课程学习实例化的各种任务，在机器学习。我们手工建构了一个多视角的课程学习方法分类法，考虑了各种分类标准。我们进一步建立了一个层次树的课程学习方法使用凝聚聚类算法，我们的分类发现的集群连接。最后，我们为未来的工作提供了一些有趣的方向。
2022-04-11 cs.CL cs.CV cs.LG
It Takes Four to Tango: Multiagent Selfplay for Automatic Curriculum Generation
UC Berkeley（加州大学伯克利分校）；UCLA（加州大学洛杉矶分校）
我们有兴趣训练通用的强化学习代理，可以解决各种各样的目标。有效地训练这样的代理需要自动生成目标课程。这是具有挑战性的，因为它需要（a）探索难度增加的目标，同时确保代理（b）以样本有效的方式暴露于不同的目标集合，并且（c）不会灾难性地忘记先前解决的目标。我们提出了课程自我发挥（CuSP），自动目标生成框架，旨在满足这些desiderata凭借一个多人游戏与四个代理。我们扩展了PAIRED中的非对称课程学习（Dennis等人，2020）到一个对称的游戏，仔细平衡两个政策外的学生学习者和两个遗憾最大化的教师之间的合作和竞争。CuSP还引入了熵目标覆盖率，并考虑了学生的非平稳性质，使我们能够自动诱导一个平衡渐进探索与反灾难性剥削的课程。我们证明，我们的方法成功地生成一个有效的课程的目标范围内的控制任务，优于其他方法在zero-shot测试时推广到新的分布外的目标。
2022-02-22 cs.AI cs.LG cs.MA
Curriculum Learning-Guided Progressive Distillation in Large Language Models
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Google Research（谷歌研究）
本文提出CLPD框架，通过结合数据难度与教师强度，改进知识蒸馏方法，实验证明其在推理任务中优于传统方法。
2026-05-11 cs.AI cs.LG
Improved Training with Curriculum GANs
Stanford University（斯坦福大学）
在本文中，我们介绍了课程GANs，这是一种用于训练生成对抗网络的课程学习策略，它在训练过程中增加了生成器的强度，从而使生成器的学习任务逐渐变得更加困难。我们证明，这种策略是获得最先进的图像生成结果的关键。我们还证明了这种策略可能广泛适用于改善其他数据模式的GAN训练。
2018-07-24 cs.AI cs.LG stat.ML
Curriculum generation using Autoencoder based continuous optimization
Hike Ltd（Hike有限公司）
在课程学习的研究中，通过优化训练数据的顺序，在任务上表现出更好的性能。最近的工作集中在使用复杂的强化学习技术来找到最佳的数据排序策略，以最大限度地提高给定网络的学习。在本文中，我们提出了一种简单而有效的技术，基于自动编码过程训练的连续优化。我们称这种新方法为训练序列优化（TSO）。通过通常的编码器-解码器设置，我们尝试学习训练策略的潜在空间连续表示，并在连续表示上使用预测器网络来预测固定网络架构上策略的准确性。性能预测器和编码器使我们能够执行基于梯度的优化，逐步走向潜在的更好的精度排序的训练数据的潜在空间表示。使用CIFAR-100和CIFAR-10数据集，我们生成的最佳课程策略比随机策略的经验增益为2AP，并且比现有的最先进的CL算法有更好的提升。
2022-11-09 cs.AI cs.LG
Token-wise Curriculum Learning for Neural Machine Translation
Georgia Tech（佐治亚理工学院）；Microsoft Research（微软研究院）；Microsoft Dynamics 365 AI（微软 Dynamics 365 AI）
神经机器翻译（NMT）的现有课程学习方法需要在早期训练阶段从训练数据中采样足够量的“容易”样本。对于训练数据量有限的低资源语言，这并不总是可以实现的。为了解决这种限制，我们提出了一种新的令牌明智的课程学习方法，创建足够数量的简单样本。具体而言，该模型在训练的早期阶段从每个目标句子的开头部分学习预测一个简短的子序列，然后随着训练的进行，子序列逐渐扩展。这样一个新的课程设计的灵感来自于翻译错误的累积效应，这使得后面的标记比开始的标记更难预测。大量的实验表明，我们的方法可以始终优于基线5语言对，特别是低资源的语言。将我们的方法与高级方法相结合，进一步提高了高资源语言的性能。
2021-03-20 cs.CL cs.LG
