Pareto-NRPA: A Novel Monte-Carlo Search Algorithm for Multi-Objective Optimization
LAMSADE, Paris Dauphine - PSL University, Paris, France(巴黎-法兰西综合理工大学巴黎-达菲校区)
本文提出Pareto-NRPA算法,将NRPA扩展至多目标优化,通过并发探索与非支配前沿维护提升解的多样性与收敛性,在受限空间上显著优于现有进化算法。
2025-11-02 cs.AI cs.NE
Nested-ReFT: Efficient Reinforcement Learning for Large Language Model Fine-Tuning via Off-Policy Rollouts
Mila - Québec AI Institute, Canada(魁北克人工智能研究所);Huawei Noah's Ark Lab (Montreal Research Center), Canada(华为诺亚实验室(蒙特利尔研究中心));Canada CIFAR AI Chair(加拿大CIFAR人工智能主席)
研究针对大语言模型在数学推理等领域的高级推理难题,提出Nested-ReFT框架,利用离策略展开及动态层跳过降低训练推理成本,经理论与实证分析验证其有效性,还探索偏差缓解变体以维持性能。
2026-07-14 cs.AI cs.CL cs.LG
Federated Nested Learning: Collaborative Training of Self-Referential Memories for Test-Time Adaptation
Nanyang Technological University(南洋理工大学);Jimei University(集美大学);Shanghai Jiao Tong University(上海交通大学);Xiamen University(厦门大学)
本文提出FedNL框架,通过嵌套优化系统实现协作学习优化规则,提升非独立同分布数据下的推理与检索性能,保持恒定推理内存。
2026-05-08 cs.AI cs.LG
Refutation of Spectral Graph Theory Conjectures with Monte Carlo Search
LAMSADE(LAMSADE实验室);Université Paris Dauphine - PSL(巴黎多芬大学-PSL大学);CNRS(法国国家科学研究中心)
我们演示了如何蒙特卡罗搜索(MCS)算法,即嵌套蒙特卡罗搜索(NMCS)和嵌套推出策略自适应(NRPA),可以用来构建图形,并找到反例谱图理论在几分钟内。
2022-08-03 cs.AI math.CO
ReLoRA: Knowledge-Reusing Adaptation for Fast Rollout of Evolving LLM Services
School of Computer Science and Technology, University of Science and Technology of China(计算机科学与技术学院,中国科学技术大学);Suzhou Institute for Advanced Research, University of Science and Technology of China(苏州先进研究院,中国科学技术大学)
针对基础模型频繁更新导致已有LoRA适配器失效的问题,提出ReLoRA框架,通过贝叶斯优化初始化与调度正则化微调,实现知识复用与快速重新适配,降低计算开销并提升性能。
2026-05-23 cs.AI cs.LG
Nested Graph Pseudo-Label Refinement for Noisy Label Domain Adaptation Learning
针对图域适应中源标签噪声问题,提出NeGPR框架,通过双分支预训练、嵌套伪标签精炼和噪声感知正则化,在严重噪声下准确率提升达12.7%。
2025-09-08 cs.AI cs.LG
VISTA: Verifier-Informed Student-to-Teacher Adaptation for On-Policy Self-Distillation
University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室)
VISTA 复用标准 OPSD 的 rollout 与损失函数,通过结果验证的 rollout 将教师适配学生分布,在多基准数据集上提升了不同规模 Qwen3 模型的 Avg@12。
2026-08-31 cs.AI cs.CL cs.LG
LLM-as-a-Tutor: Policy-Aware Prompt Adaptation for Non-Verifiable RL
KAIST(韩国科学技术院);Upstage;University of Toronto(多伦多大学);Carnegie Mellon University(卡内基梅隆大学);NVIDIA(英伟达)
针对不可验证强化学习中训练提示静态导致的问题,提出LLM-as-a-Tutor框架,让大语言模型从评判扩展为导师,通过对比策略展开检测无挑战性提示并添加约束,提升性能。
2026-08-11 cs.AI
Monte Carlo Graph Coloring
Université Paris-Dauphine(巴黎多芬大学);PSL University(巴黎文理大学);CNRS(法国国家科学研究中心);LAMSADE(决策实验室)
本文针对图着色问题中精确方法难以处理大规模实例的局限,提出将NMCS和NRPA等蒙特卡洛搜索算法高效应用于图着色,并与现有方法进行了对比评估。
2025-04-04 cs.AI
CoAdapt-GUI: Joint Workflow Context and Policy Adaptation for Unseen GUI Applications
Li Gu(李谷(音译))
CoAdapt-GUI框架通过联合适配工作流上下文与策略,在有限交互预算无目标演示的未知GUI应用场景下,将AndroidWorld泛化性能提至45.0%、AndroidWorld Plus提至52.9%,优于仅策略TTA基线。
2026-08-13 cs.AI
OptPO: Optimal Rollout Allocation for Test-time Policy Optimization
Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算机系);Department of Computer Science, Sichuan University(四川大学计算机学院)
OptPO通过自适应分配推理预算,结合贝叶斯序列概率比率检验实现测试时间策略优化,减少回放开销并提高准确性。
2025-12-02 cs.AI cs.CL cs.LG
PAST: Privileged Adaptation from Complete Student Trajectories for On-Policy Self-Distillation
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Sun Yat-sen University(中山大学)
PAST将完整学生轨迹作为OPSD教师的额外特权信息,通过前向KL蒸馏等方法优化教师,在三个数学推理基准上使Avg@12宏观平均值较Vanilla OPSD提升5.6个百分点。
2026-08-11 cs.AI cs.LG
WAM-OPD: Sharpening World Action Models via On-Policy Distillation
University of Science and Technology of China(中国科学技术大学)
针对预训练世界动作模型,提出WAM-OPD在线策略蒸馏方法,利用前缀加权轨迹重放避免环境交互,提升目标任务性能且保持通用技能。
2026-09-29 cs.AI cs.RO
The Montparnasse Algorithm for RNA Design
Tristan Cazenave
提出基于广义嵌套滚动策略适应的蒙特卡洛搜索框架Montparnasse,结合问题特定先验和字典序多准则评估,在Eterna100基准上比现有最优方法DesiRNA快三倍以上,并在血红蛋白α信使RNA二级结构优化中优于LinearDesign。
2026-05-25 cs.AI q-bio.BM
OmniTacTune: Policy-Agnostic Real-World RL for Tactile Residual Adaptation of Visual Policies
University of Maryland, College Park(马里兰大学帕克分校);Georgia Institute of Technology(佐治亚理工学院)
研究针对视觉策略在接触丰富操作中不足的问题,提出OmniTacTune管道,通过残余校正让触觉反馈适应预训练视觉策略,经两阶段设计,实验证明其能跨任务等泛化,有效提升策略成功率。
2026-07-07 cs.AI cs.RO
MANGA: Method Agnostic Neural-policy Generalization and Adaptation
Preferred Networks, Inc.(优选网络公司);University of Toronto(多伦多大学)
在本文中,我们的目标是在不同的动态参数和电机噪声变化的多个环境中传输策略的问题,通过引入一个框架,该框架将策略学习和系统辨识的过程。在存在电机噪声的情况下,将学习到的策略有效地转移到动态配置发生变化的未知环境中对于在现实世界中操作机器人非常重要,我们的工作是在这个方向上的一个新尝试。我们介绍MANGA:方法不可知神经策略泛化和自适应,训练动态条件策略,并有效地学习估计环境中给定的非策略状态转换推出的环境的动态参数。我们的方案与所使用的训练方法的类型无关-可以使用强化学习(RL)和模仿学习(IL)策略。我们证明了我们的方法的有效性,通过实验与四个不同的MuJoCo代理商和以前提出的传输基线进行比较。
2019-11-19 cs.AI cs.LG cs.RO
BORA: Bridging Offline Reinforcement Learning and Online Residual Adaptation for Real-World Dexterous VLA Models
Shanghai Jiao Tong University(上海交通大学);CASIA(中国科学院自动化研究所);Shanghai AI Laboratory(上海人工智能实验室);USTC(中国科学技术大学)
提出BORA框架,通过离线构建动作条件价值引导的评论家,并结合在线冻结VLA基础、引入人类在环的分块残差适应机制,解决灵巧操作中高维探索导致的时间不一致、样本低效和硬件风险问题,在五个真实灵巧任务上平均成功率提升33%。
2026-10-02 cs.AI cs.RO
DC-Ada: Reward-Only Decentralized Sensor Adaptation for Heterogeneous Multi-Robot Teams
Department of Computer Science, Al-Baha University(阿尔巴大学计算机科学系)
DC-Ada通过冻结预训练共享策略并适应紧凑的机器人观测转换,解决异构多机器人团队中传感器差异导致的性能下降问题,展示了在不同任务和指标下的有效性。
2026-04-29 cs.AI cs.MA cs.RO
From Failures to Learnable Worlds: Policy-Conditioned Environment Generation for Navigation Agents
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
该研究提出WEDGE框架,利用预训练导航智能体的失效模式生成针对性训练环境,在ProcTHOR等数据集上的实验显示,该框架可提升不同导航智能体的适应性能。
2026-10-15 cs.AI cs.CV cs.RO
Monkey Business: Reinforcement learning meets neighborhood search for Virtual Network Embedding
Telecom SudParis(南巴黎电信学院);Davidson consulting(戴维森咨询公司)
在这篇文章中,我们考虑了5G网络切片的虚拟网络嵌入(VNE)问题。这个问题需要在底层虚拟化物理网络上分配多个虚拟网络(VN),同时最大化资源利用率、放置的VN的最大数量和网络运营商的利益等。我们解决了切片随时间到达的问题的在线版本。启发嵌套推出政策适应(NRPA)算法,一个著名的蒙特卡罗树搜索(MCTS),学习如何随着时间的推移进行良好的模拟的变体,我们提出了一个新的算法,我们称之为邻域增强的政策适应(NEPA)。我们的算法的关键特征是观察NRPA不能利用在状态树的一个分支中获得的知识用于另一个开始不同的分支。NEPA通过将NRPA与邻域搜索相结合来学习,以一种节俭的方式只改进有希望的解决方案,同时保持低运行时间。我们称这种技术为猴子生意,因为它归结为从一个有趣的树枝跳到另一个,类似于猴子从一棵树跳到另一棵树,而不是每次都下来。与其他最先进的算法相比,NEPA在接受率和收入成本比方面取得了更好的结果,无论是在真实的还是合成的拓扑结构上。
2022-02-28 cs.AI cs.NI