HIPIF: Hierarchical Planning and Information Folding for Long-Horizon LLM Agent Learning
Meituan(美团);University of Chinese Academy of Sciences(中国科学院大学)
提出层次化规划与信息折叠方法,通过子目标分解和历史折叠减少长上下文干扰,结合层次化反思和子目标过程奖励,提升LLM在多轮长视界任务中的表现。
2026-06-09 cs.AI
GlobalRAG: Enhancing Global Reasoning in Multi-hop Question Answering via Reinforcement Learning
GlobalRAG通过强化学习框架提升多跳问答的全局推理能力,引入规划质量奖励和子目标完成奖励,结合渐进权重退火策略,有效解决多步推理中的全局规划和执行不一致问题。
2026-03-16 cs.AI cs.CL
PreAct-Nav: Agentic Reasoning Before Action for Urban Navigation
Shanghai Jiao Tong University(上海交通大学);Beihang University(北京航空航天大学);The Hong Kong University of Science and Technology(香港科技大学);Tsinghua University(清华大学);University of Cambridge(剑桥大学);Intelligent Game and Decision Lab (IGDL)(智能博弈与决策实验室)
PreAct-Nav提出了一种智能体导航框架,通过记忆模块和预测性世界沙盒,在行动前进行推理,将远期目标转化为中期子目标,从而提升城市导航中的行动选择,尤其在长路线和转弯多的路线上效果显著。
2026-10-06 cs.AI cs.RO
Goal-Oriented Reasoning for RAG-based Memory in Conversational Agentic LLM Systems
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究所)
本文提出Goal-Mem框架,通过目标导向的推理提升RAG记忆在复杂任务中的表现,尤其在多跳推理和隐含推理中效果显著。
2026-06-07 cs.AI
Multi-Level Compositional Reasoning for Interactive Instruction Following
Yonsei University(延世大学)
提出MCR-Agent,通过三层级策略将复合指令分解为子目标,分别处理导航与交互,在未见集效率指标上超越现有方法2.03%。
2024-03-13 cs.AI cs.RO
Chain-of-Goals Hierarchical Policy for Long-Horizon Offline Goal-Conditioned RL
Department of Electrical and Computer Engineering, Seoul National University, Seoul, South Korea(首尔国立大学电气与计算机工程系);Department of Automotive Engineering, Ajou University, Gyeonggi-do, South Korea(全州大学汽车工程系)
提出 Chain-of-Goals 分层策略 (CoGHP),通过自回归生成潜在子目标序列,利用 MLP-Mixer 统一架构建模层次决策,在长视界任务中优于离线基线方法。
2026-06-23 cs.AI cs.LG
Selecting Attributes for Sport Forecasting using Formal Concept Analysis
Universidad de Huelva(韦尔瓦大学);Universidad de Sevilla(塞维利亚大学)
为了解决复杂系统,将模式识别应用于它们的演化可以发挥关键作用,以了解它们的动态。需要全球模式来检测新出现的概念和趋势,其中一些具有定性性质。形式概念分析(FCA)是一种从定性数据中发现和提取知识的理论。它提供了使用蕴涵基(和关联规则)进行推理的工具。蕴涵和关联规则是有用的推理先前选定的属性,提供了一个形式化的基础,逻辑推理。在本文中,我们分析了如何应用FCA推理,以提高体育博彩的信心,通过检测时间的数据。并将其应用于建立一个基于知识的置信推理系统。
2011-08-04 cs.AI
SCOPE: Language Models as One-Time Teacher for Hierarchical Planning in Text Environments
Skyfall
SCOPE通过一次性利用LLM生成的子目标预训练轻量级模型,实现高效文本环境分层规划,比ADaPT方法在成功率和推理效率上更优。
2025-12-10 cs.AI cs.CL
ReAcTree: Hierarchical LLM Agent Trees with Control Flow for Long-Horizon Task Planning
ETRI & UST(ETRI与UST);UST
ReAcTree通过分层代理树和控制流实现复杂任务规划,显著提升长周期任务的完成效率和成功率。
2026-02-10 cs.AI
Learning Abstract Visual Reasoning via Task Decomposition: A Case Study in Raven Progressive Matrices
Institute of Computing Science Poznan University of Te/nology Piotrowo 2, 60-965 Poznań, Poland e-mail
本研究针对RPM抽象视觉推理难题,提出基于transformer的深度学习架构,通过任务分解预测物体属性与排列并并置结果选答,结合多种输入解析与掩码训练策略,性能超SOTA且可抗基准偏差。
2024-03-07 cs.AI cs.CV cs.LG
RxBrain: Embodied Cognition Foundation Model with Joint Language-Visual Reasoning and Imagination
研究提出具身认知基础模型RxBrain,采用统一多模态架构,通过构建自动管道训练,引入RxBrain-Bench评估,能保持具身理解和生成能力,扩展到连续机器人动作生成,为具身认知基础模型发展奠定基础。
2026-07-17 cs.AI cs.RO
Bourbaki: Self-Generated and Goal-Conditioned MDPs for Theorem Proving
Huawei Noah’s Ark Lab(华为诺亚实验室);Imperial College London(伦敦帝国学院);Huawei Lagrange Center(华为拉格朗日中心);UCL Centre for AI(大学学院人工智能中心)
本文提出自生成目标条件MDP框架,通过让智能体基于证明状态生成并追求子目标,结合MCTS搜索与多个7B模型集成,在PutnamBench上以Bourbaki(7B)解决26个问题,取得该规模模型的新SOTA。
2025-07-03 cs.AI cs.LG
ReCAP: Recursive Context-Aware Reasoning and Planning for Large Language Model Agents
Department of Computer Science, Stanford University(斯坦福大学计算机科学系);Stanford Institute for Human-Centered AI(斯坦福大学人本人工智能研究所);MIT Media Lab(麻省理工学院媒体实验室)
针对大语言模型长程任务中序列提示易漂移、分层提示开销高的问题,提出带共享上下文的ReCAP分层框架,通过三项核心机制提升子目标对齐与成功率,在Robotouille基准上获显著增益。
2025-10-27 cs.AI
A Subgoal-driven Framework for Improving Long-Horizon LLM Agents
Google DeepMind(谷歌DeepMind)
本文提出子目标分解规划框架和MiRA强化学习框架,通过实时规划和密集奖励信号提升LLM在长周期任务中的表现,成功率达到43.0%。
2026-03-20 cs.AI cs.LG cs.MA
MI-Distillation: Selecting from Model-Interpolated Instruct-Reasoning Data Spectrum for Chain-of-Thought Distillation
The Key Laboratory of Brain-Machine Intelligence Technology, Ministry of Education(教育部脑机智能技术重点实验室)
本研究提出MI-Distillation框架,通过模型插值构建指令推理数据频谱,引入SeqLSS选择合适轨迹,在推理基准上显著提升了小模型的思维链蒸馏效果。
2026-09-01 cs.AI cs.CL
The Signal is in the Steps: Local Scoring for Reasoning Data Selection
Virginia Tech(弗吉尼亚理工大学)
本文提出局部平均对数概率(LALP)方法,通过局部步骤评分提升推理数据选择效果,适用于多教师池训练和预训练阶段选择最佳教师。
2026-04-14 cs.AI cs.LG
Selecting Diverse SFT Traces Improves Post-RL Generalization
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Google(谷歌公司)
研究提出基于规则指纹选择多样化推理路线的SFT数据,显著提升后RL泛化能力,在多个基准上验证了有效性。
2026-09-29 cs.AI cs.LG
Motion Reasoning for Goal-Based Imitation Learning
Stanford University(斯坦福大学);NVIDIA(英伟达);UIUC(伊利诺伊大学厄巴纳-香槟分校);University of Toronto(多伦多大学);University of Washington(华盛顿大学)
我们解决了基于目标的模仿学习,其目的是从第三人称视频演示中输出符号目标。这使机器人能够计划执行,并在完全不同的环境中重现相同的目标。关键的挑战是,视频演示的目标往往是模糊的语义动作的水平。人类示威者可能会无意中通过他们的行动实现示威中的某些子目标。我们的主要贡献是提出了一个运动推理框架,结合任务和运动规划,以消除歧义的真实意图的演示视频演示。这使我们能够有力地认识到以前基于行动的方法无法消除的目标。我们评估我们的方法,通过收集一个数据集的96个视频演示在一个模拟厨房环境。我们表明,我们的运动推理起着重要的作用,在认识到实际目标的演示,并提高了20%以上的成功率。我们进一步表明,通过使用从视频演示自动推断的目标,我们的机器人能够在真实的厨房环境中再现相同的任务。
2019-11-13 cs.AI cs.CV cs.RO
TwoStep: Multi-agent Task Planning using Classical Planners and Large Language Models
University of Southern California(南加州大学)
本研究提出TwoStep方法,结合经典规划器与LLM,通过LLM进行多智能体目标分解,实现比直接求解多智能体PDDL更快的规划时间,同时减少执行步骤并保证执行成功,效果接近人类专家分解。
2025-03-25 cs.AI cs.CL cs.MA
Scoring, Reasoning, and Selecting the Best! Ensembling Large Language Models via a Peer-Review Process
Beihang University, Beijing, China(北京航空航天大学);Zhongguancun Laboratory, Beijing, China(中关村实验室);Beijing University of Posts and Telecommunications(北京邮电大学);Hong Kong University of Science and Technology(香港科学与技术大学);Xi'an Jiaotong University, Xi'an, China(西安交通大学);Tsinghua University, Beijing, China(清华大学);Singapore University of Technology and Design(新加坡科技设计大学)
本文提出LLM-PeerReview方法,通过同行评审机制集成多个大型语言模型,提升响应质量。实验显示其在多个数据集上优于Smoothie-Global,适用于事实性问答、数学推理等任务。
2026-09-01 cs.AI cs.CL
Combinatorial Reasoning: Selecting Reasons in Generative AI Pipelines via Combinatorial Optimization
Icosa Computing Inc.(伊科萨计算公司);NASA ARC(美国国家航空航天局艾姆斯研究中心);USRA Research Institute for Advanced Computer Science (RIACS)(美国大学空间研究协会高级计算机科学研究所);Hewlett Packard Labs(惠普实验室);DataStax(DataStax公司)
本文提出完全自动化的组合推理框架 CR,将 LLM 流水线采样的理由建模为 QUBO 问题并选择子集构建思维链提示,实验表明组合优化可增强生成式 AI 推理。
2024-06-19 cs.AI cs.CL cs.ET
Deep Hidden Cognition Facilitates Reliable Chain-of-Thought Reasoning
Zijun Chen, Wenbo Hu, Richang Hong Corresponding Author(对应作者)
本文提出利用模型内在真实性编码提升CoT推理的可靠性,通过置信度预测器和束搜索优化推理路径,显著提高数学、符号和常识推理任务的准确性和可靠性。
2025-11-25 cs.AI
Online Difficulty Filtering for Reasoning Oriented Reinforcement Learning
NAVER Cloud(NAVER云);KAIST AI(韩国科学技术院人工智能研究所);TwelveLabs
本研究提出一种面向推理导向强化学习的在线难度过滤方法,通过理论分析和实验验证,证明平衡过滤能提升学习效率和样本效率。
2026-01-25 cs.AI cs.CL
Rational Inverse Reasoning: Few-Shot Imitation by Inferring Intent through Planning
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
研究人类能从少量示范学习新操作任务,而现代机器人模仿学习需大量示范且适应性差的差距。提出理性逆推理,将少样本模仿视为对潜在解释程序的推理,通过视觉语言模型和分层规划器迭代优化候选集,在少样本设置中表现优于基线。
2026-07-07 cs.AI cs.RO
Scaling up Multi-Turn Off-Policy RL and Multi-Agent Tree Search for LLM Step-Provers
Carnegie Mellon University(卡内基梅隆大学);Peking University(北京大学)
本文提出BFS-Prover-V2系统,通过多轮离线强化学习框架和规划器增强的多智能体树搜索,分别解决训练时和推理时的扩展问题,在MiniF2F和ProofNet基准上取得最先进结果。
2025-10-09 cs.AI
ViKiNG: Vision-Based Kilometer-Scale Navigation with Geographic Hints
UC Berkeley(加州大学伯克利分校)
机器人导航已经被视为一个3D重建和规划问题,以及一个端到端的学习问题。然而,远程导航需要关于局部可通行性的规划与推理,以及能够利用关于全球地理的一般知识,其形式为路线图、GPS或提供重要线索的其他辅助信息。在这项工作中,我们提出了一种方法,集成了学习和规划,并可以利用边信息,如示意性路线图,卫星地图和GPS坐标作为规划启发式,而不依赖于他们是准确的。我们的方法,ViKiNG,结合了一个本地可通行性模型,它着眼于机器人的当前摄像头观察和一个潜在的子目标,以推断子目标可以多么容易地达到,以及一个启发式模型,它着眼于开销地图的提示,并试图评估这些子目标的适当性,以达到目标。启发式规划器使用这些模型来确定到达最终目的地的最佳航路点。我们的方法不进行显式的几何重建,只利用环境的拓扑表示。尽管在其训练数据集中从未见过超过80米的轨迹,但ViKiNG可以利用其基于图像的学习控制器和目标导向启发式算法,在以前看不见的环境中导航到3公里外的目标,并表现出复杂的行为,例如探测潜在路径和在发现不可行时回溯。ViKiNG对不可靠的地图和GPS也是鲁棒的,因为底层控制器最终基于以自我为中心的图像观察做出决策,仅使用地图作为规划工具。有关我们实验的视频,请查看我们的项目页面https://sites.google.com/view/viking-release。
2023-01-10 cs.AI cs.LG cs.RO
Compositional Foundation Models for Hierarchical Planning
MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
本文提出组合基础模型HiP,联合语言、视频扩散和逆动力学模型,通过迭代优化实现长时程任务的分层规划与视觉-运动控制。
2023-09-21 cs.AI cs.LG cs.RO
STRIDE: A Systematic Framework for Selecting AI Modalities -- Agentic AI, AI Assistants, or LLM Calls
IBM Research – Almaden(IBM阿尔马登研究实验室);IBM Research – Yorktown(IBM约克镇研究实验室);IBM Research – India(IBM印度研究实验室)
STRIDE提供了一种系统框架,帮助选择AI模态,通过评估任务动态性决定是否使用自主代理,提升效率并降低成本。
2025-12-01 cs.AI cs.LG
ReasoningGuard: Safeguarding Large Reasoning Models with Inference-time Safety Aha Moments
Fudan University(复旦大学);Shanghai University of Electric Power(上海电力大学);East China University of Science and Technology(东华大学)
针对大型推理模型在推理中后期易生成有害内容的问题,提出推理时安全防护方法ReasoningGuard,利用注意力机制触发安全反思并采用缩放采样选择最优路径,以极低额外成本抵御三类越狱攻击,优于七种现有防护。
2025-08-06 cs.AI cs.CL
UniT: Unified Multimodal Chain-of-Thought Test-time Scaling
Stanford University(斯坦福大学);Meta Superintelligence Labs(Meta超级智能实验室);Nanyang Technological University(南洋理工大学)
提出UniT框架,通过多轮推理、验证和细化实现统一多模态模型的测试时扩展,实验表明短推理轨迹可泛化到长链,顺序思维链比并行采样更高效。
2026-06-16 cs.AI cs.CV cs.LG
Search on the Replay Buffer: Bridging Planning and Reinforcement Learning
CMU(卡内基梅隆大学);Google Brain(谷歌大脑);UC Berkeley(加州大学伯克利分校)
控制学习的历史一直是两大类算法之间令人兴奋的来回:规划和强化学习。规划算法可以有效地在长时间范围内进行推理,但假设可以访问本地策略和无冲突路径上的距离度量。强化学习擅长学习政策和状态的相对值,但无法进行长期规划。尽管每种方法在各个领域都取得了成功,但需要在有限反馈和高维观察的情况下进行长期推理的任务对于规划和强化学习算法仍然极具挑战性。令人沮丧的是,这类任务可能是最有用的,因为它们设计简单(人类只需要提供一个示例目标状态),并且避免了奖励塑造,这可能会使智能体偏向于寻找次优解决方案。我们引入了一种通用的控制算法,该算法结合了规划和强化学习的优势,以有效地解决这些任务。我们的目标是将达到一个遥远目标状态的任务分解为一系列更容易的任务,每个任务对应于达到一个子目标。规划算法可以自动找到这些航路点,但前提是提供适当的环境抽象-即由节点和边组成的图。我们的主要观点是,这个图可以通过强化学习来构建,其中目标条件价值函数提供边缘权重,节点被视为重放缓冲区中以前看到的观察结果。通过在回放缓冲区中使用图搜索,我们可以自动生成此子目标序列,即使在基于图像的环境中也是如此。我们的算法,搜索重放缓冲区(SoRB),使代理解决稀疏奖励任务超过100步,并概括大大优于标准RL算法。
2019-06-12 cs.AI cs.LG cs.RO
REWIND: Uncertainty-Guided Trajectory Repair for Test-Time Reasoning
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));University of Edinburgh(爱丁堡大学);Huawei(华为)
该研究针对推理早期错误限制后续推理的问题,提出无训练的REWIND控制器,通过熵动态实现针对性后缀重生成,在多模型多基准测试中性能优于所有基线。
2026-10-15 cs.AI cs.CL
Reasoning Planning for Language Models
The Chinese University of Hong Kong(香港中文大学)
针对语言模型推理方法选择的挑战,该研究通过理论分析推导聚合方法准确率边界,提出EPIC框架学习共享表示空间,平衡准确率与计算成本,在数学推理任务中提升性能并降低开销。
2025-11-10 cs.AI cs.CL cs.LG
The Landscape of Emerging AI Agent Architectures for Reasoning, Planning, and Tool Calling: A Survey
Neudesic, an IBM Company(Neudesic,IBM旗下公司);IBM;Microsoft(微软)
该综述梳理了具备推理、规划、工具调用能力的新兴AI智能体架构进展,分析单/多智能体架构的设计模式与差异,阐明现有能力局限并提出未来设计的关键考量方向。
2024-04-17 cs.AI cs.CL
Deep Hierarchical Planning from Pixels
UC Berkeley(加州大学伯克利分校);Google Research(谷歌研究院);University of Toronto(多伦多大学);Covariant(协变机器人公司)
智能代理需要选择长序列的动作来解决复杂的任务。虽然人类很容易将任务分解为子目标,并通过数百万个肌肉命令来实现它们,但当前的人工智能仅限于数百个决策的任务,尽管有大量的计算预算。分层强化学习的研究旨在克服这一限制,但已被证明是具有挑战性的,目前的方法依赖于手动指定的目标空间或子任务,并且不存在通用的解决方案。我们介绍导演,一个实用的方法,学习层次结构的行为直接从像素内的潜在空间的学习世界模型规划。高级策略通过选择潜在目标来最大化任务和探索奖励,低级策略学习实现目标。尽管在潜在空间中操作,但决策是可解释的,因为世界模型可以将目标解码为图像以进行可视化。Director在具有稀疏奖励的任务上优于探索方法,包括从以自我为中心的相机和本体感受中使用四足机器人进行3D迷宫遍历,而无需访问先前工作所使用的全局位置或自上而下视图。Director还可以在各种环境中学习成功的行为,包括视觉控制,Atari游戏和DMLab级别。
2022-06-08 cs.AI cs.LG cs.RO