CURV: Enhancing Chart Understanding Through Curriculum Visual Grounded Reasoning
针对多模态大语言模型视觉接地与推理不足的问题，提出CURV课程学习框架，结合CCQA数据集，在图表问答任务中实现显著性能提升并具备良好泛化性。
2026-08-05 cs.AI cs.CL cs.CV
DiSCTT: Consensus-Guided Self-Curriculum for Efficient Test-Time Adaptation in Reasoning
DiSCTT通过动态分配测试时优化策略，提升推理模型在异质问题上的适应效率与稳定性。
2026-03-05 cs.CL
Curriculum-Guided Layer Scaling for Language Model Pretraining
Stanford University（斯坦福大学）
受人类认知发展启发，提出课程引导层缩放框架，通过渐进式层堆叠使数据难度与模型增长同步，在不同参数规模预训练并分层数据，提升模型泛化及零样本性能。
2026-08-04 cs.CL
RuCL: Stratified Rubric-Based Curriculum Learning for Multimodal Large Language Model Reasoning
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；University of Chinese Academy of Sciences（中国科学院大学）；Alibaba Group（阿里巴巴集团）；School of Biomedical Engineering, UNSW Sydney（新南威尔士大学生物医学工程学院）
RuCL通过分层评分标准课程学习提升多模态大语言模型的推理能力，实现7.83%的准确率提升。
2026-03-03 cs.CL
Curriculum-style Data Augmentation for LLM-based Metaphor Detection
College of Computer Science and Technology, Harbin Engineering University（哈尔滨工程大学计算机科学与技术学院）；Deakin University（迪肯大学）
针对LLM隐喻检测成本高及数据稀缺问题，提出微调开源LLM并结合课程式数据增强（CDA）方法，通过区分难易样本进行渐进式训练，在降低推理成本的同时实现了最先进的性能。
2025-03-02 cs.CL
From Imitation to Discrimination: Toward A Generalized Curriculum Advantage Mechanism Enhancing Cross-Domain Reasoning Tasks
\equalcontrib（1号机构）
CAPO是一种基于优势信号的自适应课程机制，通过引导模仿学习和引入负信号提升跨领域推理任务的泛化能力。
2025-12-15 cs.CL
Large Language Models in K-12 Education: Alignment with State Curriculum Standards and Student Personas
Department of Computer Engineering（计算机工程系）；Brown University（布朗大学）；Data Science Institute（数据科学研究院）
本研究开发基于LLM的流程评估不同LLM与美国各州历史课程标准的对齐程度，并通过控制用户角色实验分析模型对地理、年级、性别和种族的敏感性，发现模型能调整历史主题呈现但可能源于州政治倾向，且对年级适应良好而对种族性别敏感性低，揭示了LLM与课程标准错位对学生学习的潜在风险。
2026-06-03 cs.CL
What do Language Models Learn and When? The Implicit Curriculum Hypothesis
Language Technologies Institute, Carnegie Mellon University（卡内基梅隆大学语言技术研究所）；Department of Computer Science, Data Science and AI Institute, Johns Hopkins University（约翰霍普金斯大学计算机科学系、数据科学与人工智能研究所）；Khoury College of Computer Science, Northeastern University（东北大学Khoury计算机科学学院）；Department of Computer Science, University of Southern California（南加州大学计算机科学系）
研究通过设计简单可组合任务，发现模型技能以可组合顺序出现，且在不同模型间一致，表明预训练过程具有结构性。
2026-04-09 cs.CL
Avoiding Overthinking and Underthinking: Curriculum-Aware Budget Scheduling for LLMs
University of Malaya（马来大学）
本文提出BCAE框架，通过预算感知课程调度和截断感知密集奖励机制，优化LLM的推理质量和token效率，实验表明在多种数学推理基准上表现优异。
2026-03-29 cs.CL
LearnLens: LLM-Enabled Personalised, Curriculum-Grounded Feedback with Educators in the Loop
King’s College London（伦敦国王学院）；AQA
LearnLens是一个模块化LLM系统，通过错误感知评估、课程记忆链生成及教育者参与界面，提供个性化课程对齐反馈，提升科学教育反馈质量与可扩展性。
2025-10-13 cs.AI cs.CL cs.CY
Can LLMs Reason with Rules? Logic Scaffolding for Stress-Testing and Improving LLMs
Fudan University（复旦大学）；University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Southern California（南加州大学）
本研究针对大语言模型推理规则掌握不足的问题，提出逻辑脚手架框架并构建规则库ULogic，发现LLMs在复杂规则上与人类有差距，经规则蒸馏的推理引擎可有效提升其逻辑推理能力。
2024-06-21 cs.CL
From Amateur to Master: Infusing Knowledge into LLMs via Automated Curriculum Learning
Cerebras Systems（Cerebras系统）
大语言模型（LLM）擅长一般任务，但在经济学和心理学等专业领域表现不佳，这些领域需要深入的原则性理解。为了解决这个问题，我们引入了ACER（自动化课程增强方案），将通才模型转换为领域专家，而不会牺牲其广泛的功能。宏碁首先综合了一个全面的，教科书式的课程，通过生成一个主题的目录，然后创建问题-答案（QA）对指导布卢姆的分类。这确保了系统的主题覆盖和逐步增加的难度。由此产生的合成语料库用于持续的预训练与交错的课程表，调整学习内容和认知维度。使用Llama 3.2（1B和3B）的实验显示，在专门的MMLU子集中有显著的增益。在具有挑战性的领域，如微观经济学，在基线斗争，宏碁提高准确性5个百分点。在所有目标领域，我们观察到3个百分点的宏观平均改善。值得注意的是，ACER不仅可以防止灾难性遗忘，还可以促进积极的跨领域知识转移，将非目标领域的绩效提高0.7分。除了MMLU之外，ACER还将ARC和GPQA等知识密集型基准测试的性能提升了2个绝对点以上，同时在一般推理任务上保持稳定的性能。我们的研究结果表明，ACER提供了一个可扩展的和有效的配方关闭关键领域的差距在LLM。
2025-10-30 cs.AI cs.CL
VCRL: Variance-based Curriculum Reinforcement Learning for Large Language Models
Alibaba Cloud Computing（阿里云计算）
提出VCRL框架，利用rollout组奖励方差动态调整训练样本难度，实现课程强化学习，在数学推理任务上超越现有基线。
2025-09-24 cs.CL cs.LG
DUMP: Automated Distribution-Level Curriculum Learning for RL-based LLM Post-training
Rutgers University（罗杰斯大学）；Adobe Inc.（Adobe公司）
针对LLM后训练中数据分布异质性导致的调度挑战，提出基于分布级可学习性与UCB原则的自动化课程学习框架DUMP，利用策略优势动态调整采样概率，显著提升了收敛速度与最终性能。
2025-10-11 cs.CL cs.LG
SLR: Automated Synthesis for Scalable Logical Reasoning
TU Darmstadt（图宾根大学）；DFKI（德意志联邦防务学院）；Meta FAIR；CERTAIN, Germany（德国CERTAIN）；Lab1141；MPI-Inf（马克斯·普朗克研究所）
SLR通过可扩展逻辑推理系统自动化生成指令提示、验证程序和潜在真实规则，创建SLR-Bench基准测试，展示LLM在逻辑推理中的表现及课程学习提升效果。
2026-05-11 cs.AI cs.CL cs.LG
Does the Order of Training Samples Matter? Improving Neural Data-to-Text Generation with Curriculum Learning
Saarland University（萨尔大学）
数据到文本生成的最新进展主要采用神经端到端系统的形式。已经致力于通过在称为课程学习的过程中改变训练样本的顺序来改进文本生成系统。过去的研究表明，序列到序列学习课程学习有助于提高性能和收敛速度。在这项工作中，我们深入研究了围绕由结构化数据和文本对组成的训练样本的相同想法，在每次更新时，课程框架都会根据模型的能力选择训练样本。具体来说，我们用各种难度指标进行了实验，并提出了一个软编辑距离指标来对训练样本进行排名。我们的基准测试显示出更快的收敛速度，训练时间减少了38.7%，性能提高了4.84 BLEU。
2021-02-06 cs.CL
Aligning with Logic: Measuring, Evaluating and Improving Logical Preference Consistency in Large Language Models
University of Cambridge（剑桥大学）；Monash University（莫纳什大学）
本研究针对LLMs判断不一致问题，提出基于传递性等三个属性的逻辑偏好一致性评估框架，引入REPAIR技术提升一致性并保持人类偏好对齐，实验证明该框架可反映鲁棒性且改进后算法性能更好。
2025-02-09 cs.AI cs.CL cs.LO
Infi-MMR: Curriculum-based Unlocking Multimodal Reasoning via Phased Reinforcement Learning in Multimodal Small Language Models
The Hong Kong Polytechnic University（香港理工大学）；Zhejiang University（浙江大学）；University of Electronic Science and Technology of China（电子科技大学）；Reallm Labs（Reallm 实验室）；Amazon（亚马逊）；The Hong Kong University of Science and Technology（香港理工大学）
针对多模态小语言模型推理能力弱、数据稀缺及推理易错问题，提出Infi-MMR框架，通过三阶段课程强化学习，显著提升多模态数学与通用推理能力。
2025-06-23 cs.AI cs.CL
DARC: Decoupled Asymmetric Reasoning Curriculum for LLM Evolution
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院）
DARC通过解耦的非对称推理课程框架，提升大型语言模型的自我进化能力，实现无需人工标注的性能提升。
2026-01-21 cs.AI cs.CL
Manifold Bandits: Bayesian Curriculum Learning over the Latent Geometry of Large Language Models
University of California, San Diego（加州大学圣迭戈分校）
提出贝叶斯流形课程（BMC）框架，将问题采样建模为流形结构赌博机问题，通过层次任务树和贝叶斯学习引导采样，平衡学习信号、多样性和实用性。
2026-06-19 cs.AI cs.CL cs.LG
Towards Self-Improvement of LLMs via MCTS: Leveraging Stepwise Knowledge with Curriculum Preference Learning
University of Maryland, College Park（马里兰大学学院公园分校）；Tencent AI Lab（腾讯AI实验室）
针对现有MCTS行为蒸馏方法未充分利用轨迹信息的问题，提出含逐步轨迹对构建和课程偏好学习的AlphaLLM-CPL框架，显著提升大语言模型数学推理能力。
2024-10-09 cs.CL cs.LG
ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization
POSTECH（浦项科技大学）；KAIST（韩国科学技术院）；Microsoft（微软）
ActiveSaddler提出将框架优化中的训练课程建模为非平稳老虎机，动态构建失败模式目标并自适应平衡探索与利用，在GAIA2和Terminal-Bench 2.0上显著提升测试Pass@1。
2026-10-02 cs.AI cs.CL cs.LG
TAROT: Test-driven and Capability-adaptive Curriculum Reinforcement Fine-tuning for Code Generation with Large Language Models
Electronics and Telecommunications Research Institute（电信研究所）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）；Hugging Face；Ant Group（蚂蚁集团）
TAROT通过测试驱动和能力适应的课程强化微调方法，提升大语言模型生成代码的功能正确性和稳健性。
2026-02-17 cs.CL cs.LG cs.SE
From Reasoning Chains to Verifiable Subproblems: Curriculum Reinforcement Learning Enables Credit Assignment for LLM Reasoning
LeapLab, Tsinghua University（清华大学 LeapLab）；Qiuzhen College, Tsinghua University（清华大学 旗正学院）
该研究提出SCRL框架，通过从参考推理链中生成可验证子问题，解决LLM推理中信用分配问题，提升了在数学推理任务中的性能。
2026-05-21 cs.AI cs.CL cs.LG
Multi-Stage Evolutionary Model Merging with Meta Data Driven Curriculum Learning for Sentiment-Specialized Large Language Modeling
Shiga University（滋贺大学）；Kansai University（关西大学）；RIKEN Center for AIP（理化学研究所AIP中心）；Japan Safety Society Research Center（日本安全社会研究中心）
本文提出MEM-MCL模型，通过元数据驱动课程学习和进化算法提升大语言模型在情感分析中的准确性和多任务处理能力。
2026-01-11 cs.AI cs.CL
Logical Phase Transitions: Understanding Collapse in LLM Logical Reasoning
Huazhong University of Science and Technology（华中科技大学）
研究通过控制逻辑复杂性分析大语言模型的逻辑推理性能，发现逻辑相变现象，提出神经符号课程调优框架以提升高复杂度下的推理能力。
2026-04-15 cs.AI cs.CL cs.LO
Exploring the MIT Mathematics and EECS Curriculum Using Large Language Models
本研究构建了包含4,550道题解的MIT数学与EECS课程数据集，评估发现GPT-4在提示工程下对非图像题解决率达100%，并利用GPT-4自动评分和低维嵌入分析课程先修关系，揭示了语言模型改进相关教育的潜力。
2023-06-24 cs.AI cs.CL cs.LG
Automatic Curriculum Expert Iteration for Reliable LLM Reasoning
National University of Singapore（新加坡国立大学）；Salesforce AI Research（Salesforce人工智能研究院）
针对大语言模型推理中的幻觉与惰性问题，提出自动课程专家迭代方法Auto-CEI，通过专家迭代修正推理路径、课程机制调整奖励，平衡作答主动性与保守性，在多类推理任务上实现更优的能力对齐效果。
2025-03-20 cs.AI cs.CL cs.LG
VL-Cogito: Progressive Curriculum Reinforcement Learning for Advanced Multimodal Reasoning
DAMO Academy, Alibaba Group（达摩院，阿里巴巴集团）；Hupan Lab（虎盘实验室）；Fudan University（复旦大学）
针对多模态推理任务中现有模型性能不稳定的问题，提出基于PCuRL框架的VL-Cogito模型，通过在线难度软加权和动态长度奖励机制提升推理能力，在多类主流多模态基准上性能持平或超越现有推理模型。
2025-07-31 cs.AI cs.CL cs.CV
LogicAsker: Evaluating and Improving the Logical Reasoning Ability of Large Language Models
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯AI实验室）
针对大语言模型逻辑推理能力难以直接评估的问题，提出基于命题与谓词逻辑原子技能的LogicAsker评估增强方法，发现模型推理缺陷并构建数据将GPT-4o推理能力最高提升5%，相关资源已公开。
2024-10-08 cs.AI cs.CL cs.LO
Code-Switching Curriculum Learning for Multilingual Transfer in LLMs
KAIST（韩国科学技术院）；NAVER Cloud；Sogang University（西江大学）；NAVER AI Lab
本文提出语码转换课程学习CSCL，通过token级、句子级语码转换到单语语料的渐进训练提升LLM跨语言迁移，并在多语言、多模型实验中验证其增益与公平性。
2025-06-11 cs.AI cs.CL cs.LG
Improving Sentence-Level Relation Extraction through Curriculum Learning
Konkuk University（建国大学）
句子级关系抽取主要是对句子中两个实体之间的关系进行分类。摘要级关系抽取语料库通常包含模型难以推断的数据或噪声数据。在本文中，我们提出了一个基于课程学习的关系抽取模型，该模型根据难度拆分数据并利用它们进行学习。在具有代表性的层次关系抽取数据集TACRED和Re-TACRED上的实验中，该方法分别获得了75.0%和91.4%的F1分数，这是最先进的性能。
2021-08-04 cs.AI cs.CL
LogicGuard: Improving Embodied LLM agents through Temporal Logic based Critics
Department of Mechanical Engineering, University of California at Santa Barbara（加州大学圣芭芭拉分校机械工程系）；Department of Electrical and Computer Engineering, Michigan State University（密歇根州立大学电气与计算机工程系）
LogicGuard 提出一种模块化演员-评论家架构，利用 LLM 评论家通过线性时序逻辑生成约束来引导 LLM 演员，从而在长时程规划任务中提升具身智能体的可靠性、效率与安全性。
2025-09-23 cs.AI cs.CL cs.LG
Improving Generalization in Intent Detection: GRPO with Reward-Based Curriculum Sampling
Platform and Content Group, Tencent（腾讯平台与内容事业群）；Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）
本研究通过GRPO结合基于奖励的课程采样和思维链，提升意图检测对未见意图的泛化能力，实验证明优于监督微调基线。
2025-04-21 cs.CL
Learning a Multi-Domain Curriculum for Neural Machine Translation
Google Research（谷歌研究院）；Google Brain（谷歌大脑）
机器翻译中的大多数数据选择研究集中在改进单个领域。我们一次为多个域执行数据选择。这是通过仔细引入实例级域相关性特征并自动构建训练课程以逐渐集中于多域相关和噪声降低的数据批次来实现的。无论是选择的功能和使用的课程是至关重要的平衡和改善所有领域，包括域外。在大规模的实验中，多领域课程同时达到或超过个人表现，并带来了坚实的收益比无课程培训。
2020-05-02 cs.CL cs.LG
Improving Imbalanced Text Classification with Dynamic Curriculum Learning
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）
预训练语言模型的最新进展提高了文本分类任务的性能。然而，很少有人关注的优先级调度策略的样本在训练过程中。人类获取知识是从简单到复杂的概念逐步进行的，同一材料的难度在不同的学习阶段也会有很大差异。受此启发，本文提出了一种新的基于语言特征和模型容量的自学习动态课程学习（SPDCL）方法。同时，而不是使用静态的课程学习在现有的研究中，我们的SPDCL可以重新排序和重新采样训练数据的难度标准与自适应的从容易到困难的步伐。在多个分类任务上的大量实验表明了SPDCL策略的有效性，特别是对于不平衡数据集。
2022-10-25 cs.AI cs.CL
Improving Lean4 Autoformalization via Cycle Consistency Fine-tuning
Stanford University（斯坦福大学）
本文通过循环一致性奖励改进Lean4自动形式化，RL在未见数据和PutnamBench上表现优于SFT，且对交叉熵损失影响小。
2026-03-25 cs.CL
Learning from Children: Improving Image-Caption Pretraining via Curriculum
Columbia University（哥伦比亚大学）；Snap Inc.（Snap公司）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
受儿童语言学习启发，本文提出一种课程学习框架，通过逐步增加每字幕概念数来分阶段对齐图像-字幕对，并在多种预训练设置下优于普通训练方法。
2023-05-30 cs.CL cs.CV
LXPER Index 2.0: Improving Text Readability Assessment Model for L2 English Students in Korea
University of Pennsylvania（宾夕法尼亚大学）；LXPER, Inc.（LXPER公司）
在自然语言处理领域，专门针对外语课程中的文本开发文本可读性评估模型一直没有得到太多的关注。因此，大多数发达国家的模型显示L2英语文本的准确性极低，甚至没有多少作为一个公平的比较。在本文中，我们探讨了一个文本可读性评估模式，为第二语言的英语学习者在韩国。据此，我们改进和扩充了韩国英语教学课程文本语料库（CoKEC-text）。每个文本都标有其目标等级。我们训练我们的模型与CoKEC-text和显着提高准确性的可读性评估文本在韩国的英语教学课程。
2020-12-11 cs.CL cs.LG
Improving Logical-Level Natural Language Generation with Topic-Conditioned Data Augmentation and Logical Form Generation
Tokyo Institute of Technology（东京工业大学）；University of Electronic Science and Technology of China（电子科技大学）
逻辑自然语言生成，即，由于生成的低保真度，生成可以由结构化表逻辑地包含的文本描述一直是一个挑战。\citet{chen2020logic2text}通过对中间逻辑程序进行注释来控制生成内容和语义，提出了将表感知逻辑形式的任务转化为文本生成（Logic 2 text）的方法。然而，尽管现实世界中有大量的表实例，但与文本描述配对的逻辑形式需要昂贵的人工注释工作，这限制了神经模型的性能。为了缓解这一问题，我们提出了主题条件数据增强（TopicDA），它利用GPT-2直接从表中生成不成对的逻辑形式和文本描述。我们进一步介绍了逻辑表单生成（LG），这是Logic 2 text的一个双重任务，需要根据表的文本描述生成有效的逻辑表单。我们还提出了一种半监督学习方法，联合训练一个Logic 2 text和LG模型的标记和增强数据。这两种模型通过反向翻译提供额外的监督信号，从而相互受益。在Logic 2 text数据集和LG任务上的实验结果表明，我们的方法可以有效地利用增强的数据，并大大优于监督基线。
2021-12-12 cs.CL
Graph Algorithms for Improving Type-Logical Proof Search
CNRS（法国国家科学研究中心）；INRIA Futurs（法国国家信息与自动化研究所未来分部）
证明网（Proof nets）是类型逻辑语法中各种证明的图论表示。尽管在图论中有这个基础，但对于使用图论算法进行类型逻辑证明搜索的关注相对较少。在本文中，我们将着眼于几种方法，其中标准的图论算法可以用来限制搜索空间。特别是，我们将提供一个O（n4）算法，用于在证明搜索的任何阶段选择最佳公理链接，以及一个O（kn3）算法，用于选择k个最佳证明候选人。
2008-05-15 cs.CL
Improving the Robustness of DistilHuBERT to Unseen Noisy Conditions via Data Augmentation, Curriculum Learning, and Multi-Task Enhancement
Institut National de la Recherche Scientifique（国家科学研究院）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
自监督语音表示学习的目的是从语音信号中提取有意义的因素，这些因素以后可以在不同的下游任务中使用，例如语音和/或情感识别。然而，现有的模型，如HuBERT，可能相当大，因此可能不适合边缘语音应用。此外，实际应用通常涉及被噪声和房间混响破坏的语音，因此模型需要提供对这些环境因素鲁棒的表示。在这项研究中，我们建立了所谓的DistilHuBERT模型，该模型将HuBERT提取到其原始大小的一小部分，并进行了三次修改，即：（i）用噪声和混响增加训练数据，而学生模型需要从教师模型中提取干净的表示;（ii）采用课程学习的方法，在模型列车时增加噪音水平，从而有助于收敛和创建更稳健的表示;以及（iii）引入多任务学习方法，其中模型还与蒸馏任务一起重建干净波形，因此也充当增强步骤以确保对表示的附加环境鲁棒性。三个SUPERB任务的实验表明，所提出的方法不仅相对于原始的DistilHuBERT的优势，但也对原始的HuBERT，从而显示了所提出的方法的优势，为“在野生”边缘语音应用。
2022-11-12 cs.CL cs.SD eess.AS
LogicPro: Improving Complex Logical Reasoning via Program-Guided Learning
Wangxuan Institute of Computer Technology, Peking University（北京大学信息科学技术研究院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Meituan Group（美团集团）；Institute of Trustworthy Embodied AI, Fudan University（复旦大学可信具身人工智能研究院）
本研究提出LogicPro程序引导的逻辑推理数据合成方法，借助算法题与程序解生成带标准答案和推理过程的54万条数据，有效提升多个模型在多项推理基准上的表现。
2025-09-05 cs.CL
Severity-Aware Curriculum Learning with Multi-Model Response Selection for Medical Text Generation
Faculty of Computer Science（计算机科学学院）；MSA University（MSA大学）；Giza, Egypt（埃及吉扎）
提出一种结合课程学习策略和相关性响应选择的多模型框架，通过三阶段课程训练和五个大语言模型独立训练，在MAQA数据集上实现医疗文本生成性能提升。
2026-07-14 cs.AI cs.CL
LyriCAR: A Difficulty-Aware Curriculum Reinforcement Learning Framework For Controllable Lyric Translation
School of Informatics, Xiamen University（厦门大学信息学院）；School of Journalism and Communication, Xiamen University（厦门大学新闻传播学院）；School of Film, Xiamen University（厦门大学电影学院）；Xiamen Key Laboratory of Intelligent Storage and Computing, Xiamen University（厦门大学智能存储与计算重点实验室）；Institute of Artificial Intelligence, Xiamen University（厦门大学人工智能研究院）
针对歌词翻译中多音乐约束平衡难题，提出无监督的LyriCAR框架，利用难度感知课程与自适应策略，在英中任务上取得最优结果，并减少近40%训练步骤。
2025-10-22 cs.AI cs.CL cs.LG
Simple and Effective Curriculum Pointer-Generator Networks for Reading Comprehension over Long Narratives
Nanyang Technological University（南洋理工大学）；Singapore Management University（新加坡管理大学）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Mila, Polytechnique Montréal（蒙特利尔大学理工学院 Mila）；Microsoft Research, Montréal（微软研究院（蒙特利尔））；Facebook（脸书）；Amazon AI（亚马逊人工智能）
本文解决了阅读理解的问题，在长期的叙述文件很容易跨越数千个令牌。我们提出了一个基于课程学习（CL）的指针生成器框架，用于对大型文档进行阅读/采样，从而基于交替上下文难度的概念实现神经模型的多样化训练。这可以被解释为训练期间的域随机化和/或生成预训练的一种形式。为此，指针生成器的使用软化了在上下文中获得答案的要求，使我们能够构建用于学习的各种训练样本。此外，我们提出了一个新的内省对齐层（IAL），其中的原因分解对齐使用基于块的自我注意。我们在NarrativeQA阅读理解基准测试上评估了我们提出的方法，实现了最先进的性能，通过BLEU-4上的$51\%$相对改进和Rouge-L上的$17\%$相对改进来改进现有基线。广泛消融证实了我们提出的IAL和CL组件的有效性。
2019-05-26 cs.AI cs.CL cs.IR
Beyond Seen Data: Improving KBQA Generalization Through Schema-Guided Logical Form Generation
The University of Melbourne（墨尔本大学）
针对KBQA面对未见知识库元素泛化能力差的问题，提出SG-KBQA模型，通过注入模式上下文增强实体检索和逻辑形式生成，在多个基准上超越现有模型。
2025-09-10 cs.AI cs.CL
Derivation Prompting: A Logic-Based Method for Improving Retrieval-Augmented Generation
Instituto de Computación, Facultad de Ingeniería, Universidad de la República（计算研究所，工程学院，乌拉圭共和国大学）
本文提出推导提示方法，通过系统应用预定义规则从初始假设推导结论，以提高检索增强生成中生成过程的可控性和准确性。
2026-05-13 cs.AI cs.CL
Overthinking Reduction with Decoupled Rewards and Curriculum Data Scheduling
本文提出DECS框架，通过解耦的token级奖励机制和新的课程批量调度策略，有效减少推理token数量，同时保持或提升性能，解决过度思考问题。
2026-03-16 cs.AI cs.CL
A Novel Cartography-Based Curriculum Learning Method Applied on RoNLI: The First Romanian Natural Language Inference Corpus
University of Bucharest（布加勒斯特大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文提出首个罗马尼亚语自然语言推理语料库RoNLI，并通过基于数据制图的课程学习方法提升最佳模型性能，为罗马尼亚语NLI任务建立了竞争性基线。
2024-10-18 cs.AI cs.CL cs.LG
Temp-R1: A Unified Autonomous Agent for Complex Temporal KGQA via Reverse Curriculum Reinforcement Learning
Zhejiang University（浙江大学）；Ant Group（蚂蚁集团）；ZJU-Ant Group Joint Lab of Knowledge Graph（浙江大学-蚂蚁集团知识图谱联合实验室）
本文提出Temp-R1，首个通过强化学习训练的时间知识图谱问答自主代理，通过扩展动作空间和反向课程学习提升复杂问题的推理能力，在MultiTQ和TimelineKGQA上取得最佳性能。
2026-04-21 cs.AI cs.CL cs.LG
ViStruct: Visual Structural Knowledge Extraction via Curriculum Guided Code-Vision Representation
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Northwestern University（西北大学）
提出ViStruct训练框架，利用编程语言结构表示视觉信息并结合课程学习，提升视觉语言模型对多粒度视觉结构知识的抽取与理解能力。
2023-11-22 cs.CL cs.CV cs.LG
Improving Coherence and Consistency in Neural Sequence Models with Dual-System, Neuro-Symbolic Reasoning
MIT（麻省理工学院）；DeepMind；NYU（纽约大学）；Facebook AI Research（Facebook人工智能研究院）
人类推理通常可以理解为两个系统之间的相互作用：直觉和联想（“系统1”）和深思熟虑和逻辑（“系统2”）。神经序列模型-在执行复杂的结构化任务方面越来越成功-展示了系统1的优势和失败模式：它们速度快，可以从数据中学习模式，但通常不一致和不连贯。在这项工作中，我们寻求一种轻量级的，无需训练的方法，通过添加System 2启发的逻辑推理来改进现有的System 1类序列模型。我们探讨了这个主题的几种变化，其中候选人的神经序列模型的逻辑一致性检查的符号推理模块，它可以接受或拒绝的代。我们的方法使用神经推理在神经系统1和逻辑系统2之间进行调解。结果表明，该方法可以提高基于神经的故事生成的一致性和准确性。
2021-12-15 cs.AI cs.CL cs.LG
