A Verifier-Guided Explainable Reasoning Framework with Gold-Anchored QLoRA, Task-Aware Mixture-of-Experts, and Group-Relative RLVR
University of Information Technology (UIT)(信息科技大学);Ho Chi Minh City University of Technology (HCMUT)(胡志明市理工大学);Vietnam National University, Ho Chi Minh City(越南国家大学胡志明市分校);University of Economics Ho Chi Minh City (UEH)(胡志明市经济大学)
该研究针对教育问答的可解释推理问题,提出含QLoRA、混合专家、RLVR的验证器引导框架,在438个示例上提升了推理深度与可解释性,补充了答案可靠性。
2026-09-07 cs.AI cs.CL cs.LG
SpecVLM: Enhancing Speculative Decoding of Video LLMs via Verifier-Guided Token Pruning
The State Key Laboratory of Blockchain and Data Security(区块链与数据安全国家重点实验室);Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security(杭州高新技术区(滨江)区块链与数据安全研究院);Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算机系);School of Computer Science, Beijing University of Posts and Telecommunications(北京邮电大学计算机学院)
本文提出无需训练的 SpecVLM 框架,通过验证器注意力引导与空间均匀的两阶段视频 token 剪枝增强 Vid-LLM 推测解码,在保持精度下最高剪枝 90% token,并取得显著解码加速。
2025-08-28 cs.AI cs.CL cs.CV
CoRefine: Confidence-Guided Self-Refinement for Adaptive Test-Time Compute
AstraZeneca(阿斯利康);Google DeepMind(谷歌DeepMind)
CoRefine通过置信度引导的自修正方法,在减少计算开销的同时提升推理准确性,适用于需要适应性测试时计算的场景。
2026-02-09 cs.AI cs.CL
Don't Get Lost in the Trees: Streamlining LLM Reasoning by Overcoming Tree Search Exploration Pitfalls
Tencent AI Lab(腾讯AI实验室)
针对验证器引导的LLM树搜索推理存在的过度探索与探索不足问题,提出即插即用的FETCH框架,通过语义聚类合并状态、优化验证器降方差并集成,在多数据集上提升了推理准确率与计算效率。
2025-03-22 cs.CL
Project Aletheia: Verifier-Guided Distillation of Backtracking for Small Language Models
Wake Technical Community College(韦克技术社区学院);Cornell University(康奈尔大学);Algoverse
项目Aletheia通过指导验证的蒸馏方法,使小型语言模型能够通过回溯和冲突检测提升其在约束满足问题上的表现。
2026-01-14 cs.CL
RL Tango: Reinforcing Generator and Verifier Together for Language Reasoning
MIT(麻省理工学院);MIT-IBM Watson AI Lab(麻省理工-IBM沃森人工智能实验室)
针对LLM推理中固定验证器易受奖励黑客攻击和泛化差的问题,提出Tango框架,通过RL交错训练生成器与生成式过程级验证器,两者相互强化,在多个基准上达到最先进性能。
2025-10-23 cs.AI cs.CL cs.LG
A Training-Free Regeneration Paradigm: Contrastive Reflection Memory Guided Self-Verification and Self-Improvement
Department of Electrical and Computer Engineering, McGill University(麦吉尔大学电气与计算机工程系);Department of Mechanical, Industrial and Aerospace Engineering, Concordia University(Concordia大学机械、工业与航空航天工程系)
本文提出一种无需训练的再生范式,利用离线整理的对比反思记忆提供纠正指导,通过从头再生突破错误推理,提升大语言模型输出准确性。
2026-03-20 cs.CL
VISA: Agentic Self-Evolving Data Synthesis for Multimodal Instruction Following
vivo AI Lab(vivo AI实验室)
VISA是一种智能体式自进化数据合成框架,通过自进化循环优化多模态指令合成,在MM-IFEval等基准上提升了多模态指令遵循性能。
2026-08-28 cs.CL
AutoVerifier: Residual-Guided Non-Parametric Optimization for Reference-Based Answer Verification
University of Science and Technology of China(中国科学技术大学);Beihang University(北京航空航天大学)
针对基于参考的答案验证中答案等价性依赖问题与评分标准的隐含偏置问题,提出残差引导的非参数优化方法AutoVerifier,从验证错误中学习偏置并经重放验证后升级规则,在四个基准上大幅超越现有最优验证器。
2026-08-27 cs.CL
GRACE: Discriminator-Guided Chain-of-Thought Reasoning
University of Michigan(密歇根大学);LG AI Research(LG人工智能研究);University of Illinois at Chicago(伊利诺伊大学香槟分校)
GRACE通过引入判别器引导链式推理,有效提升多步推理任务中答案的准确性和中间推理的正确性。
2026-01-03 cs.AI cs.CL
Cross-Lingual Legal QA for Vietnamese Labour Law: Retrieval, Translation, and Verifier-Guided Correction
VinUniversity(维新大学);Lancaster University(兰卡斯特大学);Cardiff University(卡迪夫大学)
针对越南劳动法的跨语言法律问答,构建双语评估套件,提出验证器引导的流水线,发现密集检索优于稀疏检索,验证器修正提升引用保留,但自动诊断与人类判断不完全一致。
2026-09-24 cs.CL
VerIPO: Cultivating Long Reasoning in Video-LLMs via Verifier-Gudied Iterative Policy Optimization
Harbin Institute of Technology, Shenzhen, China(哈尔滨工业大学(深圳));Alibaba International Group(阿里巴巴国际集团);Division of AMC and Department of ECE, HKUST(HKUST电子工程系与AMC division)
针对视频大语言模型强化微调中数据瓶颈与长思维链质量不稳定的问题,提出验证器引导的迭代策略优化方法VerIPO,通过GRPO-验证器-DPO循环构建高质量对比数据,实现更快更优的推理链优化,超越现有强模型。
2025-05-25 cs.CL cs.CV
AG-CoT: Verified Algorithmic Traces for LLM Program Synthesis on Clifford Circuits
针对科学代码生成中程序可能计算错误的问题,提出AG-CoT方法,用验证器检查的算法轨迹监督LLM合成Clifford电路,显著提升状态等价准确率,并证明精确验证的必要性。
2026-09-29 cs.CL cs.LG quant-ph
When and What to Ask: AskBench and Rubric-Guided RLVR for LLM Clarification
University of Illinois Chicago(伊利诺伊大学香槟分校)
本文研究如何评估和改进LLM在缺乏关键信息或包含误导信息时的澄清能力,提出AskBench交互基准和基于规则的强化学习与验证器(RLVR)方法,提升准确性和交互效率。
2026-04-20 cs.CL cs.LG
TagPR: Tag-Guided Process Supervision for Personalization Reasoning in Large Language Models
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院);Meituan(美团);Wuhan University(武汉大学)
针对LLM个性化推理不足,提出TagPR框架,通过语义标注推理链、SFT与多阶段RL及PRMU复合奖励实现用户逻辑对齐,并在LaMP等数据集上取得SOTA。
2026-09-30 cs.CL
Refining Over Resampling: Test-Time Self-Correction for LLM Reasoning
University of Oklahoma(俄克拉荷马大学);Stanford University(斯坦福大学);Universitat Pompeu Fabra(庞培法布拉大学);Air University(空军大学)
本文提出无验证器的广度-深度优化框架,通过迭代自我批判与校正优化采样的 LLM 推理轨迹,在多个数学推理数据集及多款开放权重模型上,较基线方法实现了推理准确率的显著提升。
2026-08-07 cs.AI cs.CL
Detecting Inconsistencies in Model Specifications with LLM-as-Verifier Reasoning
University of Virginia(弗吉尼亚大学);University of Pennsylvania(宾夕法尼亚大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对模型规范中的不一致性问题,提出VeriSpec方法,通过保留自然语言并使用LLM作为验证器直接审计规范文本,在OpenAI模型规范上验证了五个不一致性,精确度最高且成本最低。
2026-10-02 cs.AI cs.CL cs.SE
Reasoning Towards Fairness: Mitigating Bias in Language Models through Reasoning-Guided Fine-Tuning
Virginia Tech(弗吉尼亚理工大学)
本文研究推理能力与模型公平性的关系,提出 ReGiFT 方法,通过将先进模型的推理轨迹注入弱推理模型,在不使用公平性特定监督的情况下有效降低刻板印象偏见并超越先进推理模型。
2025-06-05 cs.AI cs.CL cs.LG
ELAD: Explanation-Guided Large Language Models Active Distillation
Emory University(埃默里大学)
本文提出ELAD框架,通过解释引导的主动学习策略优化样本选择与标注成本,并利用教师模型修正学生推理缺陷,从而显著提升大语言模型知识蒸馏效率。
2024-02-20 cs.AI cs.CL
FindTheFlaws: Annotated Errors for Detecting Flawed Reasoning and Scalable Oversight Research
Modulo Research(莫杜洛研究所);Vector Research(矢量研究所);Princeton University(普林斯顿大学);Impact Academy(因帕克特学院)
针对AI监督可扩展性评估中缺乏标注错误数据的问题,提出FindTheFlaws数据集,涵盖五个领域,并评估前沿模型批评能力,为可扩展监督实验提供支持。
2025-03-29 cs.AI cs.CL
References Improve LLM Alignment in Non-Verifiable Domains
Yale University(耶鲁大学);Meta;Scale AI;Salesforce Research(Salesforce 研究);Nanyang Technological University(南洋理工大学)
本研究提出参考引导的LLM评估器,通过增强LLM对齐的评估器和自我改进,显著提升了非可验证领域中LLM的性能。
2026-02-18 cs.AI cs.CL cs.LG
Guided by Gut: Efficient Test-Time Scaling with Reinforced Intrinsic Confidence
University of Alberta(阿尔伯塔大学);University of Toronto(多伦多大学)
本文提出直觉引导(GG)框架,利用内在置信度和步骤新颖性进行轻量级树搜索,通过强化学习提升置信度可靠性,使小模型在数学推理中达到大模型水平,同时大幅降低计算和内存成本。
2025-05-23 cs.AI cs.CL
SCOUT: Synergizing Reasoning and Tool-Use for Computer-Use Safety
Columbia University(哥伦比亚大学)
SCOUT是一个两阶段智能体安全验证器,通过推理密集的规则生成与工具密集的证据收集协同,提升计算机操作智能体的安全检测性能,并在多个基准上取得领先结果。
2026-09-30 cs.AI cs.CL cs.SE
Enhancing Reasoning Capabilities in SLMs with Reward Guided Dataset Distillation
Shreyansh Padarha(独立研究者)
本文提出AdvDistill框架,通过奖励引导的数据集蒸馏利用教师模型多次生成及规则验证器奖励作为权重训练学生模型,显著提升小型语言模型在数学和复杂推理任务上的性能。
2025-06-25 cs.AI cs.CL cs.LG
Bolzano: From Expert-Guided Proof Search to Automated Open-Problem Solving
Computer Science Institute, Charles University(查尔斯大学计算机科学研究所);Institute of Formal and Applied Linguistics, Charles University(查尔斯大学形式与应用语言学研究所);Department of Applied Mathematics, Charles University(查尔斯大学应用数学系);Institute of Mathematics, Czech Academy of Sciences(捷克科学院数学研究所)
本文介绍多智能体开源系统Bolzano,通过并行证明智能体和验证智能体,在无人工指导下解决了约3800个开放问题中的约200个,并在STOC 2026论文中确认回答了四个问题。
2026-10-12 cs.AI cs.CL
Adaptive Multi-Expert Reasoning via Difficulty-Aware Routing and Uncertainty-Guided Aggregation
Faculty of Computer Science October University for Modern Science \& Arts Giza, Egypt
本文提出AMR框架,通过动态适应策略提升数学推理鲁棒性,利用难度感知路由和不确定性引导聚合在GSM8K数据集上取得75.28%准确率。
2026-04-11 cs.CL cs.LG
The Lighthouse of Language: Enhancing LLM Agents via Critique-Guided Improvement
Fudan University(复旦大学);Tencent Hunyuan(腾讯文言)
本文提出批评引导改进(CGI)双智能体框架,通过批评者生成细粒度反馈指导行动者探索,在三个交互环境中显著超越基线,小批评者模型反馈质量超GPT-4,行动者达最先进性能。
2025-10-24 cs.AI cs.CL
Magellan: Guided MCTS for Latent Space Exploration and Novelty Generation
Independent Researcher(独立研究者)
针对大语言模型难生成创新想法、现有搜索类方法依赖不可靠自评估的问题,提出Magellan框架,通过分层引导的MCTS探索潜在概念空间,在科学创意生成任务上表现优于ReAct、ToT等基线。
2025-11-17 cs.AI cs.CL
Process Reward Models That Think
University of Michigan(密歇根大学);Mila;LG AI Research(LG人工智能研究);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Equal supervision(共同监督)
ThinkPRM通过生成长CoT验证链实现高效过程奖励模型,以更少的监督标签在多个基准测试中超越现有方法。
2025-12-08 cs.AI cs.CL cs.LG
DCGC: Draft-Conditioned Global Correction for Complex Reasoning with Masked Diffusion Models
Seoul National University(首尔大学)
DCGC是结合SFT与动态双CFG机制的MDM框架,用于修正LLMs推理错误,在多推理基准中优于现有方法,可作为无验证器的全局修正模块。
2026-10-15 cs.AI cs.CL
Correct Is Not Enough: Training Reasoning Planners with Executor-Grounded Rewards
D 4 Lab(D4实验室);Independent Researcher(独立研究者)
本文提出TraceLift框架,通过执行器导向的奖励提升推理质量,利用rubric-based Reasoning Reward Model评估推理轨迹的可靠性与有效性。
2026-06-08 cs.AI cs.CL
Keep Policy Gradient in Charge: Sibling-Guided Credit Distillation for Long-Horizon Tool-Use Agents
Amazon Web Services(亚马逊云服务)
针对长程工具使用强化学习中轨迹级优势信号稀疏的问题,提出兄弟引导信用蒸馏(SGCD),通过动态采样成功与失败轨迹、外部LLM对比生成逐步信用参考,实现密集信用分配,在AppWorld和τ³-airline任务上显著提升性能。
2026-07-15 cs.AI cs.CL cs.LG
SafeInferCom: Safe Inference-Time Compute via Verifier-Guided Mid-Generation Intervention for Robotic Task Planning
University of Notre Dame(圣母大学);Washington State University(华盛顿州立大学)
针对大型推理语言模型用于机器人任务规划时的推理可靠性与计算浪费问题,提出SafeInferCom框架,通过验证器引导的生成中干预提升规划成功率、加速错误修正并减少token使用,经多模型、多领域及真实机械臂验证有效。
2026-10-09 cs.AI cs.CL cs.LO
PRIME: A Process-Outcome Alignment Benchmark for Verifiable Reasoning in Mathematics and Engineering
University of Science and Technology of China(中国科学技术大学);StepFun(阶跃星辰);Tsinghua University(清华大学)
PRIME是一个用于数学和工程中可验证推理的过程-结果对齐基准,通过评估验证器在推导过程中的准确性,提升了强化学习中可验证奖励的训练效果。
2026-02-12 cs.CL
GeneralThinker: Domain-General Reasoning through Likelihood-Guided Answer-Conditioned Optimization
Yonsei University(延世大学)
提出GeneralThinker框架,利用答案似然进行密集监督和细粒度信用分配,无需领域特定验证器,在数学、STEM和通用推理等11个基准上取得最佳平均性能。
2026-05-27 cs.CL
Adaptive Test-Time Reasoning via Reward-Guided Dual-Phase Search
Michigan State University(密歇根州立大学);Amazon(亚马逊);Pennsylvania State University(宾夕法尼亚州立大学)
针对大语言模型基于树的推理搜索方法效率不足的问题,提出将推理拆分为规划与执行的双阶段测试时搜索框架,搭配分阶段奖励模型与动态预算分配机制,在基准任务上实现准确率提升与冗余计算减少。
2025-09-29 cs.AI cs.CL cs.LG
Tree-OPO: Off-policy Monte Carlo Tree-Guided Advantage Optimization for Multistep Reasoning
Technical University of Munich(慕尼黑工业大学);Huawei R&D Munich(华为慕尼黑研发中心);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
Tree-OPO通过引入分阶段优势估计框架,利用MCTS生成轨迹优化策略学习,提升数学推理任务的准确性与样本效率。
2025-12-21 cs.AI cs.CL cs.LG
Generating Natural Language Proofs with Verifier-Guided Search
Princeton University(普林斯顿大学)
基于自然语言的推理是自然语言处理中的一个具有挑战性的问题。在这项工作中,我们专注于证明生成:给定一个假设和一组支持事实,模型生成一个证明树,指示如何从支持事实中导出假设。与一次性生成整个证明相比,逐步生成可以更好地利用组合性并推广到更长的证明,但在现实世界的数据上取得了有限的成功。现有的逐步方法很难生成逻辑上有效且与假设相关的证明步骤。相反,他们倾向于在假设的情况下产生无效步骤的幻觉。在本文中,我们提出了一种新的逐步的方法,NLProofS(自然语言证明搜索),学习生成相关的步骤条件的假设。在我们方法的核心,我们训练一个独立的验证者来检查证明步骤的有效性,以防止幻觉。而不是生成步骤greatly,我们搜索的证明最大化的全球证明分数判断的验证。NLProofS在EntailmentBank和RuleTaker上实现了最先进的性能。具体来说,它将EntailmentBank的干扰设置中预测证明的正确性从27.7%提高到33.3%,证明了NLProofS在生成具有挑战性的人类创作证明方面的有效性。
2022-10-21 cs.CL cs.LG cs.LO
QACHECK: A Demonstration System for Question-Guided Multi-Hop Fact-Checking
MBZUAI(穆罕默德·本·扎耶德人工智能大学);University of California, Santa Barbara(加州大学圣巴巴拉分校);National University of Singapore(新加坡国立大学)
QACHECK系统通过生成关键问题引导多跳推理,实现透明可解释的事实核查,包含五个模块,输出详细报告和证据来源。
2023-10-11 cs.CL
Self-Critique Guided Iterative Reasoning for Multi-hop Question Answering
Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室)
提出SiGIR,通过自批评反馈引导迭代推理,结合问题分解与自我评估,在多跳问答数据集上超越SOTA 8.6%。
2025-05-25 cs.CL
Can Language Models Learn to Reject Their Own Bad Reasoning Steps?
Georgia Institute of Technology(佐治亚理工学院);Purdue University(普渡大学)
本文提出自步拒绝(SSR)方法,通过训练轻量级LoRA接受门使语言模型无需外部验证器即可拒绝自身不良推理步骤,在三个推理模型和五个数学推理基准上将宏平均准确率提升5.4-10.1个百分点。
2026-10-06 cs.CL