Improving Generalization in Intent Detection: GRPO with Reward-Based Curriculum Sampling
Platform and Content Group, Tencent(腾讯平台与内容事业群);Faculty of Computing, Harbin Institute of Technology(哈尔滨工业大学计算机学院)
本研究通过GRPO结合基于奖励的课程采样和思维链,提升意图检测对未见意图的泛化能力,实验证明优于监督微调基线。
2025-04-21 cs.CL
Distilling Instruction-following Abilities of Large Language Models with Task-aware Curriculum Planning
School of Computer Science, Fudan University(复旦大学计算机科学学院);Alibaba Cloud Computing(阿里云计算)
本文提出任务感知课程规划蒸馏框架TAPIR,通过oracle LLM筛选困难指令、调整任务分布并逐步提升难度,使小规模学生LLM以更少数据超越更大指令微调模型。
2024-10-03 cs.CL
Learning from Children: Improving Image-Caption Pretraining via Curriculum
Columbia University(哥伦比亚大学);Snap Inc.(Snap公司);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
受儿童语言学习启发,本文提出一种课程学习框架,通过逐步增加每字幕概念数来分阶段对齐图像-字幕对,并在多种预训练设置下优于普通训练方法。
2023-05-30 cs.CL cs.CV
LXPER Index 2.0: Improving Text Readability Assessment Model for L2 English Students in Korea
University of Pennsylvania(宾夕法尼亚大学);LXPER, Inc.(LXPER公司)
在自然语言处理领域,专门针对外语课程中的文本开发文本可读性评估模型一直没有得到太多的关注。因此,大多数发达国家的模型显示L2英语文本的准确性极低,甚至没有多少作为一个公平的比较。在本文中,我们探讨了一个文本可读性评估模式,为第二语言的英语学习者在韩国。据此,我们改进和扩充了韩国英语教学课程文本语料库(CoKEC-text)。每个文本都标有其目标等级。我们训练我们的模型与CoKEC-text和显着提高准确性的可读性评估文本在韩国的英语教学课程。
2020-12-11 cs.CL cs.LG
Severity-Aware Curriculum Learning with Multi-Model Response Selection for Medical Text Generation
Faculty of Computer Science(计算机科学学院);MSA University(MSA大学);Giza, Egypt(埃及吉扎)
提出一种结合课程学习策略和相关性响应选择的多模型框架,通过三阶段课程训练和五个大语言模型独立训练,在MAQA数据集上实现医疗文本生成性能提升。
2026-07-14 cs.AI cs.CL
Improving the Robustness of DistilHuBERT to Unseen Noisy Conditions via Data Augmentation, Curriculum Learning, and Multi-Task Enhancement
Institut National de la Recherche Scientifique(国家科学研究院);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
自监督语音表示学习的目的是从语音信号中提取有意义的因素,这些因素以后可以在不同的下游任务中使用,例如语音和/或情感识别。然而,现有的模型,如HuBERT,可能相当大,因此可能不适合边缘语音应用。此外,实际应用通常涉及被噪声和房间混响破坏的语音,因此模型需要提供对这些环境因素鲁棒的表示。在这项研究中,我们建立了所谓的DistilHuBERT模型,该模型将HuBERT提取到其原始大小的一小部分,并进行了三次修改,即:(i)用噪声和混响增加训练数据,而学生模型需要从教师模型中提取干净的表示;(ii)采用课程学习的方法,在模型列车时增加噪音水平,从而有助于收敛和创建更稳健的表示;以及(iii)引入多任务学习方法,其中模型还与蒸馏任务一起重建干净波形,因此也充当增强步骤以确保对表示的附加环境鲁棒性。三个SUPERB任务的实验表明,所提出的方法不仅相对于原始的DistilHuBERT的优势,但也对原始的HuBERT,从而显示了所提出的方法的优势,为“在野生”边缘语音应用。
2022-11-12 cs.CL cs.SD eess.AS
Improving Lean4 Autoformalization via Cycle Consistency Fine-tuning
Stanford University(斯坦福大学)
本文通过循环一致性奖励改进Lean4自动形式化,RL在未见数据和PutnamBench上表现优于SFT,且对交叉熵损失影响小。
2026-03-25 cs.CL
TAROT: Test-driven and Capability-adaptive Curriculum Reinforcement Fine-tuning for Code Generation with Large Language Models
Electronics and Telecommunications Research Institute(电信研究所);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);Hugging Face;Ant Group(蚂蚁集团)
TAROT通过测试驱动和能力适应的课程强化微调方法,提升大语言模型生成代码的功能正确性和稳健性。
2026-02-17 cs.CL cs.LG cs.SE
Approaches for Improving the Performance of Fake News Detection in Bangla: Imbalance Handling and Model Stacking
American International University-Bangladesh(孟加拉国美国国际大学)
不平衡的数据集可能会导致对假新闻检测的偏见。在这项工作中,我们提出了几种解决孟加拉国假新闻检测不平衡问题的策略,并对所提出的方法进行了比较评估。此外,我们提出了一种技术,即使在数据集是不平衡的,以提高性能。我们将我们提出的方法应用于BanFakeNews,这是一个为检测孟加拉国假新闻而开发的数据集,包含5万个实例,但存在明显的偏差,其中97%的实例占大多数。我们使用数据操作技术(如SMOTE)获得了93.1%的F1分数,使用无数据操作方法(如Stacked Generalization)获得了79.1%的F1分数。如果没有实现这些技术,基线模型的F1分数将为67.6%。我们认为这项工作是为在孟加拉国发现假新闻铺平道路的重要一步。通过实施这些策略,可以消除不平衡数据集的障碍,提高性能。
2022-03-22 cs.CL cs.LG
Unlocking the Unsolvable: Teacher-Guided Curriculum for Data-Efficient RLVR
Amazon(亚马逊)
本研究提出教师引导的课程学习,利用更强模型的推理轨迹解锁RLVR中不可解问题的训练价值,仅用128个问题达到16倍数据效率,并推出单调前沿课程(MFC)进一步提升性能。
2026-09-15 cs.CL
Curriculum Learning for Cross-Lingual Data-to-Text Generation With Noisy Data
Sentisum(森蒂萨姆);Microsoft(微软);IIIT Hyderabad(印度理工学院海得拉巴分校)
本文针对含噪数据的跨语言数据到文本生成问题,提出使用对齐分数准则和退火调度进行课程学习,显著提升了多语言的BLEU分数及生成内容的忠实度与覆盖率。
2024-12-18 cs.CL
LyriCAR: A Difficulty-Aware Curriculum Reinforcement Learning Framework For Controllable Lyric Translation
School of Informatics, Xiamen University(厦门大学信息学院);School of Journalism and Communication, Xiamen University(厦门大学新闻传播学院);School of Film, Xiamen University(厦门大学电影学院);Xiamen Key Laboratory of Intelligent Storage and Computing, Xiamen University(厦门大学智能存储与计算重点实验室);Institute of Artificial Intelligence, Xiamen University(厦门大学人工智能研究院)
针对歌词翻译中多音乐约束平衡难题,提出无监督的LyriCAR框架,利用难度感知课程与自适应策略,在英中任务上取得最优结果,并减少近40%训练步骤。
2025-10-22 cs.AI cs.CL cs.LG
Manifold Bandits: Bayesian Curriculum Learning over the Latent Geometry of Large Language Models
University of California, San Diego(加州大学圣迭戈分校)
提出贝叶斯流形课程(BMC)框架,将问题采样建模为流形结构赌博机问题,通过层次任务树和贝叶斯学习引导采样,平衡学习信号、多样性和实用性。
2026-06-19 cs.AI cs.CL cs.LG
Simple and Effective Curriculum Pointer-Generator Networks for Reading Comprehension over Long Narratives
Nanyang Technological University(南洋理工大学);Singapore Management University(新加坡管理大学);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Mila, Polytechnique Montréal(蒙特利尔大学理工学院 Mila);Microsoft Research, Montréal(微软研究院(蒙特利尔));Facebook(脸书);Amazon AI(亚马逊人工智能)
本文解决了阅读理解的问题,在长期的叙述文件很容易跨越数千个令牌。我们提出了一个基于课程学习(CL)的指针生成器框架,用于对大型文档进行阅读/采样,从而基于交替上下文难度的概念实现神经模型的多样化训练。这可以被解释为训练期间的域随机化和/或生成预训练的一种形式。为此,指针生成器的使用软化了在上下文中获得答案的要求,使我们能够构建用于学习的各种训练样本。此外,我们提出了一个新的内省对齐层(IAL),其中的原因分解对齐使用基于块的自我注意。我们在NarrativeQA阅读理解基准测试上评估了我们提出的方法,实现了最先进的性能,通过BLEU-4上的$51\%$相对改进和Rouge-L上的$17\%$相对改进来改进现有基线。广泛消融证实了我们提出的IAL和CL组件的有效性。
2019-05-26 cs.AI cs.CL cs.IR
Curriculum-Guided Layer Scaling for Language Model Pretraining
Stanford University(斯坦福大学)
受人类认知发展启发,提出课程引导层缩放框架,通过渐进式层堆叠使数据难度与模型增长同步,在不同参数规模预训练并分层数据,提升模型泛化及零样本性能。
2026-08-04 cs.CL
VCRL: Variance-based Curriculum Reinforcement Learning for Large Language Models
Alibaba Cloud Computing(阿里云计算)
提出VCRL框架,利用rollout组奖励方差动态调整训练样本难度,实现课程强化学习,在数学推理任务上超越现有基线。
2025-09-24 cs.CL cs.LG
Building High-accuracy Multilingual ASR with Gated Language Experts and Curriculum Training
Microsoft(微软公司)
本文提出门控语言专家与课程训练方法,在不依赖推理阶段LID输入的情况下增强多语言Transformer Transducer,在双语任务中相对词错误率降低12.5%,并可扩展至多语言模型。
2023-07-07 cs.CL eess.AS
Training Dynamics for Curriculum Learning: A Study on Monolingual and Cross-lingual NLU
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
课程学习(Curriculum Learning,CL)是一种通过对样本进行排序来训练模型的技术,其目的是加速收敛和提高泛化能力。当前用于自然语言理解(NLU)任务的方法使用CL来通常通过面向对象或任务不可知的困难来提高分布中数据的性能。在这项工作中,相反,我们通过利用训练动态作为难度指标,即,统计数据,这些统计数据在训练期间测量特定任务数据实例上的模型行为,并基于这些统计数据提出对现有CL编译器的修改。与现有的工作不同,我们专注于在分布(ID),分布外(OOD)以及zero-shot(ZS)跨语言迁移数据集上评估模型。我们在几个NLU任务中表明,具有训练动态的CL可以在zero-shot跨语言迁移和OOD设置上产生更好的性能,在某些情况下可以提高8.5%。总的来说,实验表明,与其他难度指标相比,训练动态可以导致更好的模型性能,更平滑的训练,同时平均快20%。此外,通过分析,我们揭示了特定于任务的指标与与任务不可知的指标之间的相关性。
2022-11-24 cs.CL
Empower Nested Boolean Logic via Self-Supervised Curriculum Learning
Shanghai Jiao Tong University(上海交通大学);Soochow University(苏州大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
本文针对语言模型在多重嵌套布尔逻辑上表现不佳的问题,提出了自监督学习方法CLR,通过逐步增加数据中的嵌套逻辑链难度进行课程式训练,显著提升了模型在长距离复杂逻辑上的泛化能力,并促进了一般逻辑任务的性能。
2023-12-31 cs.CL
From Imitation to Discrimination: Toward A Generalized Curriculum Advantage Mechanism Enhancing Cross-Domain Reasoning Tasks
\equalcontrib(1号机构)
CAPO是一种基于优势信号的自适应课程机制,通过引导模仿学习和引入负信号提升跨领域推理任务的泛化能力。
2025-12-15 cs.CL
Reinforced Curriculum Learning on Pre-trained Neural Machine Translation Models
University of Alberta(阿尔伯塔大学);Tencent(腾讯)
神经机器翻译(NMT)的竞争性能严重依赖于大量的训练数据。然而,获得高质量的翻译对需要专业知识,而且成本高昂。因此,如何最好地利用具有不同质量和特征的样本的给定数据集成为NMT中一个重要但尚未充分研究的问题。课程学习方法已经被引入到NMT中,以通过规定数据输入顺序来优化模型的性能,该方法基于诸如噪声和难度水平的评估的数学方法。然而,现有的方法需要从头开始训练,而在实践中,大多数NMT模型已经在大数据上进行了预训练。此外,作为经验主义者,它们不能很好地概括。在本文中,我们的目标是学习一门课程,通过从原始训练集中重新选择有影响力的数据样本来改进预训练的NMT模型,并将此任务表示为强化学习问题。具体而言,我们提出了一个基于确定性Actor-Critic的数据选择框架,其中评论家网络预测由于特定样本而导致的模型性能的预期变化,在多个翻译数据集上的实验表明,当原始批量训练达到其最佳水平时,我们的方法可以进一步提高NMT的性能。天花板,而不使用额外的新的训练数据,并显着优于几个强基线方法。
2020-04-13 cs.CL cs.LG