Enhancing Math Learning in an LMS Using AI-Driven Question Recommendations
本文利用Llama-3.2-11B-Vision-Instruct生成数学问题嵌入,比较余弦相似度、SOM和GMM三种推荐方法,发现适度多样性可提升用户满意度与学习效果。
2025-04-18 cs.AI cs.CY cs.IR
SBI-RAG: Enhancing Math Word Problem Solving for Students through Schema-Based Instruction and Retrieval-Augmented Generation
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
本文提出结合大语言模型的SBI-RAG框架,利用schemas引导逐步推理生成解答,在GSM8K数据集上评估表明其增强了推理清晰度与结构化解题过程,为学生提供教育益处。
2024-11-10 cs.AI cs.IR cs.LG
Brain-Inspired Two-Stage Approach: Enhancing Mathematical Reasoning by Imitating Human Thought Processes
School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);Shanghai Innovation Center for Processor Technologies(上海处理器技术创新中心);School of Information Science and Technology, University of Science and Technology of China(中国科学技术大学信息科学与技术学院)
提出脑启发两阶段方法 Brain,由额叶模型制定计划、顶叶模型生成并执行代码,从而增强多步数学推理,并在 Code LLaMA 7B 基线上达到 SOTA。
2024-02-23 cs.AI cs.CL cs.LG
Learning by Applying: A General Framework for Mathematical Reasoning via Enhancing Explicit Knowledge Learning
University of Science and Technology of China(中国科学技术大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
数学推理是通用人工智能的关键能力之一,它要求机器从解决问题中掌握数学逻辑和知识。然而,就在推理过程中学习和应用的知识而言,现有的方法并不透明(因此不可解释)。在本文中,我们提出了一个通用的学习应用(LeAp)框架,以增强现有的模型(骨干)在一个原则性的方式通过显式知识学习。在LeAp中,我们在一个新的问题-知识-表达范式中进行知识学习,知识编码器从问题数据中获取知识,知识解码器将知识应用于表达推理。学习到的数学知识,包括词-词关系和词-算子关系,形成了一个显性的知识图谱,将知识的“学”与“用”有机地连接起来。此外,对于问题的解决,我们设计了一个语义增强模块和推理增强模块,应用知识,以提高问题的理解和符号推理能力的任何骨干,分别。从理论上证明了LeAp自主学习机制的优越性。在三个真实数据集上的实验表明,LeAp提高了所有骨干的性能,学习准确的知识,并实现了更可解释的推理过程。
2023-02-11 cs.AI cs.CL cs.LG
Enhancing Mathematical Problem Solving in LLMs through Execution-Driven Reasoning Augmentation
North Carolina State University(北卡罗来纳州立大学)
本研究提出IIPC方法,通过迭代优化程序推理链并结合执行反馈,提升大语言模型的数学问题解决能力。
2026-02-08 cs.AI cs.LG cs.MA
Enhancing Transformer Representations of Symbolic ODE Expressions
University of Southampton(南安普顿大学)
本研究探索树位置嵌入与对比学习增强Transformer对符号ODE表达式的结构化表示,提升学习性能并支持数学交换性质。
2026-09-22 cs.AI cs.LG
Self-Evolved Preference Optimization for Enhancing Mathematical Reasoning in Small Language Models
Microsoft Research, India(微软研究院(印度));IIT Delhi, India(印度德里理工学院)
本文提出自进化数据生成流水线SPHERE,通过自我生成、自我纠正和多样性诱导三个阶段迭代优化推理链,显著提升小型语言模型的数学推理能力,并在多个数学基准上达到或超越GPT-4o。
2025-03-04 cs.AI cs.CL cs.LG
CoRE: Enhancing Metacognition with Label-free Self-evaluation in LRMs
HKUST(香港科技大学)
针对大型推理模型过度思考导致低效的问题,提出CoRE和CoRE-Eval框架,利用潜空间隐藏状态进行无标签自我评估,检测冗余推理的周期性波动并提前终止,在多个数学基准上减少推理长度并提升准确率。
2025-07-08 cs.LG
Enhancing Talk Moves Analysis in Mathematics Tutoring through Classroom Teaching Discourse
School of Computer Science, University of Oklahoma(俄克拉荷马大学计算机科学学院);Institute of Cognitive Science, University of Colorado Boulder(科罗拉多大学博尔德分校认知科学研究所)
本研究提出紧凑数据集SAGA22,利用课堂数据预训练及上下文与说话者信息,提升数学辅导中对话动作分析的模型性能。
2024-12-18 cs.AI cs.CL cs.HC
CAMA: Enhancing Mathematical Reasoning in Large Language Models with Causal Knowledge
Huawei Noah’s Ark Lab France(华为诺亚实验室(法国));Guangdong University of Technology Peng Cheng Laboratory(广东工业大学鹏城实验室);Huawei Noah’s Ark Lab China(华为诺亚实验室(中国))
CAMA通过构建数学因果图并结合因果知识,提升大语言模型在数学推理任务中的性能。
2025-11-28 cs.AI cs.LG
Assessing the Impact of Prompting Methods on ChatGPT's Mathematical Capabilities
University of California, Santa Cruz(加利福尼亚大学圣克鲁兹分校)
本文评估了简单、角色和对话式三种提示方法对 ChatGPT-3.5 数学推理能力的影响,发现这些方法均未能持续提升基线表现,部分方法甚至导致性能下降,表明提示策略不一定能跨领域泛化。
2024-02-20 cs.AI cs.CL cs.LG
Safe: Enhancing Mathematical Reasoning in Large Language Models via Retrospective Step-aware Formal Verification
School of Computer Science, National Key Laboratory for Multimedia Information Processing, PKU-Anker LLM Lab, Peking University(计算机学院、多媒体信息处理国家重点实验室、PKU-Anker LLM实验室、北京大学);Huawei Noah’s Ark Lab(华为诺亚实验室);The Hong Kong University of Science and Technology(香港科技大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出回顾式逐步形式化验证框架Safe,利用Lean 4对LLM数学推理的每一步进行形式化证明以识别幻觉,并构建FormalStep基准,显著提升推理性能与可验证性。
2025-06-05 cs.AI cs.CL cs.LG
Multi-Layer GRPO: Enhancing Reasoning and Self-Correction in Large Language Models
Shenzhen Jinzheng Youzhi Technology(深圳金政智科技)
本文提出多层GRPO(MGRPO),通过第二层GRPO对第一层生成的初始响应进行错误识别与纠正,以隐式过程级监督缓解奖励消失问题,并在数学推理基准上显著超越标准GRPO。
2025-06-05 cs.LG
DISPO: Enhancing Training Efficiency and Stability in Reinforcement Learning for Large Language Model Mathematical Reasoning
Cornell University(康奈尔大学);Amazon AGI(亚马逊人工智能实验室)
DISPO通过分离正确与错误响应的重要性采样权重裁剪,实现训练效率与稳定性的平衡,提升大型语言模型在数学推理任务中的性能。
2026-02-01 cs.AI cs.CL cs.LG
Enhancing Delta Compression in LLMs via SVD-based Quantization Error Minimization
Shanghai University of Finance(上海财经大学);Tsinghua University(清华大学);Fudan University(复旦大学);Southern University of Science(南方科技大学)
PrinMix通过基于SVD的量化误差最小化方法,提升LLM中delta压缩的效率与性能。
2026-02-15 cs.AI cs.CL cs.LG
Enhancing Multi-Step Reasoning Abilities of Language Models through Direct Q-Function Optimization
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);ByteDance(字节跳动);Oregon State University(俄勒冈州立大学)
针对现有强化学习方法在语言模型多步推理任务中存在的计算资源消耗大或性能不足问题,提出基于MDP构建和SAC框架的DQO方法,在GSM8K和MATH数据集上优于现有方法,为语言模型对齐提供了高效的离线强化学习方案。
2025-02-11 cs.AI cs.CL cs.LG
Generative Adversarial Reasoner: Enhancing LLM Reasoning with Adversarial Reinforcement Learning
Johns Hopkins University(约翰霍普金斯大学)
本文提出生成对抗推理器,通过对抗性强化学习联合训练LLM推理器和判别器,提升推理质量与准确性。
2026-03-25 cs.AI cs.CL cs.LG
MM-Verify: Enhancing Multimodal Reasoning with Chain-of-Thought Verification
University of Chinese Academy of Sciences(中国科学院大学);Peking University(北京大学);Baichuan Inc.(百川智能)
针对多模态领域缺乏强验证器的问题,本文提出MM-Verifier和MM-Reasoner,通过两步式验证数据合成与高效MMCOT数据合成方法生成微调数据,两者结合在MathVista等基准上表现优异,甚至超过GPT-4o。
2025-02-19 cs.CL cs.CV cs.LG
Enhancing Uncertainty Communication in Time Series Predictions: Insights and Recommendations
Institute for Software Technology, DLR(德国航空航天中心软件技术研究所);Faculty of Computer Science, University of Magdeburg(马格德堡大学计算机学院)
本研究探讨了用户在不同不确定性折线图变体下对时间序列预测概率不确定性的估计,分析了个体特征与用户指标的影响,旨在提升预测可视化沟通与数据仪表板设计。
2024-08-22 cs.HC cs.LG
Fill in the Blank: Exploring and Enhancing LLM Capabilities for Backward Reasoning in Math Word Problems
Indian Institute of Technology Delhi(印度德里理工学院);IBM Research AI(IBM研究院人工智能部门)
本文研究 LLM 在数学应用题中的逆向推理短板,改造三个基准并提出 Rephrase、PAL-Tools、Check your Work 及贝叶斯集成方法,显著提升缺失信息补全准确率。
2024-07-08 cs.AI cs.CL cs.LG
Enhancing the analysis of murine neonatal ultrasonic vocalizations: Development, evaluation, and application of different mathematical models
Center for Industrial Mathematics, University of Bremen(不来梅大学工业数学中心);Institute of Human Genetics, University of Heidelberg(海德堡大学人类遗传学研究所);Interdisciplinary Neurobehavioral Core, University of Heidelberg(海德堡大学跨学科神经行为核心);Institute of Electrodynamics and Microelectronics, University of Bremen(不来梅大学电动力学与微电子学研究所)
本文首次系统评估多种神经网络用于小鼠新生期超声发声分类,并结合高精度检测算法构建了全自动及半自动分析流程,为自闭症样行为小鼠的 USV 差异识别提供了可靠工具。
2024-10-01 cs.LG cs.SD eess.AS
GRPO-VPS: Enhancing Group Relative Policy Optimization with Verifiable Process Supervision for Effective Reasoning
Tsinghua University(清华大学);Shenzhen University(深圳大学);Huawei Noah’s Ark Lab(华为诺亚实验室)
本文提出GRPO-VPS,通过在推理轨迹中探测模型对正确答案的信心,改进GRPO的轨迹级反馈,实现更精准高效的策略更新,实验显示在数学和通用领域任务中均取得显著提升。
2026-04-22 cs.AI cs.LG
AAPO: Enhancing the Reasoning Capabilities of LLMs with Advantage Margin
College of Computer Science and Artificial Intelligence, Fudan University(复旦大学计算机科学与人工智能学院);Frontier Research Department, Baidu Inc.(百度公司前沿研究部)
AAPO通过引入基于边际的估计方案优化交叉熵损失,有效解决传统分组相对优势估计方法的训练效率问题,在数学推理基准上表现出色。
2026-04-14 cs.CL cs.LG
Scaf-GRPO: Scaffolded Group Relative Policy Optimization for Enhancing LLM Reasoning
The Hong Kong University of Science and Technology(香港科技大学);The Chinese University of Hong Kong(香港中文大学);The University of Hong Kong(香港大学)
Scaf-GRPO通过渐进式训练框架,在模型学习停滞时提供分层提示,有效提升大语言模型的数学推理能力。
2026-02-28 cs.AI cs.CL cs.LG
Enhancing LLM Reasoning via Critique Models with Test-Time and Training-Time Supervision
Fudan University(复旦大学);Meituan(美团)
本文提出将推理模型与批判模型分离的双角色范式,通过AutoMathCritique框架构建步骤级反馈数据集,在测试时和训练时用批判监督提升大语言模型的数学推理能力与自我改进效果。
2024-11-25 cs.AI cs.CL cs.LG
Enhancing Reasoning Capabilities of Small Language Models with Blueprints and Prompt Template Search
Microsoft(微软)
提出结合LLM生成蓝图与提示模板搜索的框架,在不训练、不扩模的情况下提升SLM在GSM8K、MBPP和BBH上的推理表现。
2025-06-10 cs.AI cs.LG
The Reasoning Trap: How Enhancing LLM Reasoning Amplifies Tool Hallucination
The Pennsylvania State University(宾夕法尼亚州立大学);Nanjing University of Science and Technology(南京理工大学);Independent Researcher(独立研究者)
研究探讨增强LLM推理能力是否导致工具幻觉增加,通过SimpleToolHalluBench验证因果关系,发现推理增强与幻觉成正比,且不受过拟合影响,揭示需新的训练目标平衡能力和可靠性。
2026-04-17 cs.AI cs.LG
CVPO: Enhancing LLM Reinforcement Learning Reasoning via Value-Variance Adaptation and Dynamic Curriculum Learning
针对LLM强化学习推理中反馈精度不足与问题难度漂移问题,提出CVPO方法,通过值方差自适应与动态课程学习优化,在数学任务上性能优于VAPO等基线。
2026-08-05 cs.AI cs.CL cs.LG
CuDIP: Enhancing Theorem Proving in LLMs via Curriculum Learning-based Direct Preference Optimization
East China Normal University(华东师范大学);Henan University(河南大学)
本文提出CuDIP方法,将直接偏好优化与课程学习结合用于形式化定理证明,利用LLM构建偏好数据减少人工标注,在MiniF2F和ProofNet上验证有效性。
2025-02-25 cs.AI cs.LG
Enhancing Reasoning Capabilities in SLMs with Reward Guided Dataset Distillation
Shreyansh Padarha(独立研究者)
本文提出AdvDistill框架,通过奖励引导的数据集蒸馏利用教师模型多次生成及规则验证器奖励作为权重训练学生模型,显著提升小型语言模型在数学和复杂推理任务上的性能。
2025-06-25 cs.AI cs.CL cs.LG
Enhancing Reasoning through Process Supervision with Monte Carlo Tree Search
AI Lab, Giant Network(巨量引擎AI实验室)
本文提出利用蒙特卡洛树搜索让LLM自生成过程监督数据,通过加权对数似然迭代训练,在数学推理任务上显著提升性能并展现跨数据集迁移能力。
2025-01-02 cs.AI cs.CL cs.LG
Enhancing Neural Theorem Proving through Data Augmentation and Dynamic Sampling Method
National Institute of Science Education and Research(国家教育与科学研究院);Homi Bhabha National Institute(霍米·巴巴国家研究所)
本文提出DS-Prover动态采样方法,通过根据剩余时间调整策略数量优化证明搜索,并分解多前提策略增强训练数据,在MiniF2F和ProofNet上取得显著性能提升。
2024-02-15 cs.AI cs.LG cs.LO
Automated Feedback in Math Education: A Comparative Analysis of LLMs for Open-Ended Responses
Worcester Polytechnic Institute(伍斯特理工学院);Carnegie Mellon University(卡内基梅隆大学)
本研究比较了Llama、SBERT-Canberra和GPT4三种大语言模型在数学教育中对开放式问题提供自动化评分与反馈的效果,发现微调模型与零样本方法各有优势,为个性化学习系统的发展提供了参考。
2024-10-29 cs.AI cs.CY cs.LG
Enhancing Reasoning Capabilities of LLMs via Principled Synthetic Logic Corpus
Advanced AI Innovation Center, Hitachi(日立高级人工智能创新中心);The University of Sheffield(谢菲尔德大学)
针对LLM推理能力不足的问题,本文提出附加逻辑训练(ALT)方法,并基于符号逻辑理论构建了高质量多步演绎合成语料库FLD×2。实验表明,该方法显著提升了LLaMA-3.1-70B等先进模型在逻辑、数学、编程及BBH基准上的表现。
2024-12-23 cs.AI cs.LG cs.LO
Enhancing Numerical Prediction in LLMs via Smooth MMD Alignment
College of Computer Science, Sichuan University, Chengdu, China(四川大学计算机学院,成都,中国)
针对LLM在数值预测任务中精度不足的问题,提出平滑最大均值差异(SMMD)方法,通过数值令牌的距离核和图平滑对齐预测分布,在数学推理等任务中显著提升准确率。
2026-06-29 cs.AI cs.CE cs.CL