Scalable, Decentralized Multi-Agent Reinforcement Learning Methods Inspired by Stigmergy and Ant Colonies
University of California, Berkeley（加州大学伯克利分校）
支持多智能体学习算法来处理复杂的协调和控制任务一直是正在进行的研究的长期挑战。已经提出了许多方法来帮助减少非平稳性和不可伸缩性的影响。在这项工作中，我们研究了一种新的方法来分散多智能体学习和规划，试图解决这两个挑战。特别是，这种方法的灵感来自于蚁群的凝聚力，协调性和行为。因此，这些算法被设计为自然可扩展到具有众多代理的系统。虽然不能保证最优性，但该方法旨在在实践中工作良好，并且在存在的药剂数量下比其他药剂的功效更好。该方法结合了单智能体RL和蚁群启发的分散，stigmergic算法的多智能体路径规划和环境修改。具体来说，我们将此算法应用于代理必须导航到目标位置的设置中，学习将矩形框推入孔中以产生新的可遍历路径。结果表明，虽然这种方法在这个特定的环境中产生有前途的成功，它可能不容易推广到其他人。该算法的设计是值得注意的是可扩展到许多代理，但由于其相对简单，基于规则的方法是有限的，在其性能。此外，RL训练的策略的可组合性受到质疑，虽然策略在其训练环境中是成功的，但将训练的策略应用于更大规模的多代理框架会导致不可预测的行为。
2021-05-08 cs.AI cs.LG cs.MA
Scalable agent alignment via reward modeling: a research direction
DeepMind（深度思维）；Mila（米拉研究所）
将强化学习算法应用于现实问题的一个障碍是缺乏合适的奖励函数。设计这样的奖励函数是困难的，部分原因是用户对任务目标只有隐含的理解。这就产生了代理对齐的问题：我们如何创建代理的行为，根据用户的意图？我们概述了一个高层次的研究方向，以解决围绕奖励建模的代理对齐问题：从与用户的交互中学习奖励函数，并使用强化学习优化学习的奖励函数。我们讨论了将奖励建模扩展到复杂和一般领域时所面临的关键挑战，减轻这些挑战的具体方法，以及在所产生的代理中建立信任的方法。
2018-11-19 cs.AI cs.LG cs.NE
Scalable Multi-Agent Reinforcement Learning for Networked Systems with Average Reward
Caltech（加州理工学院）；Tsinghua University（清华大学）；Harvard University（哈佛大学）
人们早就认识到，多智能体强化学习（MARL）面临着重大的可扩展性问题，因为状态和动作空间的大小在智能体数量上呈指数级增长。在本文中，我们确定了一个丰富的网络MARL问题的模型表现出一个本地的依赖结构，使其能够以可扩展的方式解决。具体来说，我们提出了一个可扩展的演员-评论家（SAC）的方法，可以学习一个接近最优的本地化策略，以优化平均奖励与复杂性缩放的状态-动作空间大小的本地社区，而不是整个网络。我们的结果围绕着识别和利用指数衰减属性，确保代理对彼此的影响在其图形距离中以指数方式快速衰减。
2020-06-11 cs.AI cs.LG cs.MA
Agent-Temporal Credit Assignment for Optimal Policy Preservation in Sparse Multi-Agent Reinforcement Learning
Tata Consultancy Services（塔塔咨询服务公司）；Birla Institute of Technology and Science, Goa（果阿贝拉理工学院）；University of Edinburgh（爱丁堡大学）；University of Manchester（曼彻斯特大学）；Indian Institute of Technology, Bombay（印度理工学院孟买分校）
针对稀疏奖励下多智能体长周期任务的信用分配难题，提出TAR$^2$方法在时间与智能体维度重新分配奖励，理论证明其不改变最优策略，实验显示能稳定加速学习且性能优于传统方法。
2024-12-19 cs.AI cs.GT cs.LG
Parameter Sharing with Network Pruning for Scalable Multi-Agent Deep Reinforcement Learning
KAIST（韩国科学技术院）
处理可扩展性问题是多智能体强化学习（MARL）算法应用于通常涉及大量智能体的现实问题的基本问题之一。为此，多个代理之间的参数共享已被广泛使用，因为它通过减少参数数量和提高样本效率来减少训练时间。然而，使用相同的参数跨代理限制了联合政策的代表性能力，因此，性能可能会下降，在多代理任务，需要不同的行为为不同的代理。在本文中，我们提出了一个简单的方法，采用结构化修剪的深度神经网络，以增加联合政策的代表性能力，而不引入额外的参数。我们评估所提出的方法在几个基准任务，数值结果表明，所提出的方法显着优于其他参数共享方法。
2023-03-02 cs.AI cs.MA
High Performance Simulation for Scalable Multi-Agent Reinforcement Learning
Improbable（英普若博（ Improbable ））
多智能体强化学习实验和开源训练环境通常规模有限，支持数十个或有时多达数百个交互代理。在本文中，我们演示了时尚，高性能代理模型（ABM）框架的使用。Vogue作为一个多智能体训练环境，支持数千到数万个交互智能体，同时通过在GPU上运行环境和强化学习（RL）智能体来保持高训练吞吐量。高性能的多智能体环境，在这种规模有可能使学习的强大和灵活的政策，用于ABM和模拟复杂的系统。我们展示了两个新开发的，大规模的多智能体训练环境的训练性能。此外，我们表明，这些环境可以训练共享RL政策的时间尺度分钟和小时。
2022-07-08 cs.LG cs.MA cs.PF
Locality Matters: A Scalable Value Decomposition Approach for Cooperative Multi-Agent Reinforcement Learning
Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Nvidia Research（英伟达研究院）；Technion Institute of Technology（以色列理工学院）
协作多智能体强化学习（MARL）面临着显着的可扩展性问题，由于状态和动作空间是指数大的代理的数量。随着环境规模的增长，有效的信用分配变得越来越困难，并经常导致不可行的学习时间。尽管如此，在许多现实环境中，仍然存在简化的底层动态，可以用于更具可扩展性的解决方案。在这项工作中，我们有效地利用这种局部结构，同时保持全球合作。我们提出了一种新的，基于值的多代理算法称为LOMAQ，它采用了本地奖励的集中式训练分散执行范式。此外，我们提供了一个直接的奖励分解方法，找到这些局部奖励时，只有一个全球性的信号提供。我们根据经验测试了我们的方法，表明与其他方法相比，它具有很好的扩展性，显着提高了性能和收敛速度。
2021-09-22 cs.AI cs.LG cs.MA
Scalable Neighborhood-Based Multi-Agent Actor-Critic
Department of Computer Science, ETH Zürich（苏黎世联邦理工学院计算机科学系）
本文提出MADDPG-K，通过限制每个智能体的 critic 仅依赖k个最近的智能体，解决传统集中式批评者方法的计算限制，实现更高效的训练和扩展性。
2026-04-20 cs.AI cs.LG
Scalable Anytime Planning for Multi-Agent MDPs
Stanford University（斯坦福大学）；Microsoft（微软）
我们提出了一个可扩展的树搜索规划算法的大型多智能体顺序决策问题，需要动态协作。代理团队需要在许多领域协调决策，但由于联合行动空间随代理数量的指数增长，幼稚的方法会失败。我们规避这种复杂性，通过一个随时随地的方法，使我们能够交易计算近似质量，并动态协调行动。我们的算法包括三个要素：在线规划与蒙特卡罗树搜索（MCTS），因子表示的本地代理与协调图的相互作用，和迭代最大加联合行动选择的方法。我们评估我们的方法在基准SysAdmin域与静态协调图，并实现可比的性能与低得多的计算成本比我们的MCTS基线。我们还介绍了一个多无人机交付域与动态，即，状态相关的协调图，并展示了我们的方法如何扩展到这个领域的大问题，是其他MCTS方法难以解决。我们在https://github.com/JuliaPOMDP/FactoredValueMCTS.jl上提供了我们算法的开源实现。
2021-01-12 cs.AI cs.MA
Nocturne: a scalable driving benchmark for bringing multi-agent learning one step closer to the real world
Meta AI；UC Berkeley（加州大学伯克利分校）；École des Ponts ParisTech（巴黎桥路学院）；Univeristy of Oxford（牛津大学）
我们介绍了Nocturne，一个新的2D驾驶模拟器，用于调查部分可观测性下的多智能体协调。Nocturne的重点是在现实世界的多智能体环境中研究推理和心理理论，而无需计算机视觉和图像特征提取的计算开销。在这个模拟器中的代理只观察场景的遮挡视图，模仿人类的视觉感知约束。与现有的基准测试不同，Nocturne使用高效的交叉方法在C++后端计算一组矢量化的可见特征，允许模拟器以每秒超过2000步的速度运行。使用开源的轨迹和地图数据，我们构建了一个模拟器来加载和重放来自真实世界驾驶数据的任意轨迹和场景。使用这个环境，我们基准的协调学习和模仿学习代理，并证明代理是相当远的人类水平的协调能力，并偏离专家轨迹显着。
2023-02-02 cs.AI cs.LG cs.MA
LiteResearcher: A Scalable Agentic RL Training Framework for Deep Research Agent
Zhejiang University（浙江大学）；Simplex AI；The Hong Kong Polytechnic University（香港理工大学）
LiteResearcher通过构建轻量虚拟世界提升代理强化学习的可扩展性，使小规模搜索代理在GAIA和Xbench等基准上取得state-of-the-art结果。
2026-07-28 cs.AI
Heterogeneous Multi-Agent Reinforcement Learning for Zero-Shot Scalable Collaboration
Tsinghua University（清华大学）
本文提出SHPPO框架，通过隐变量网络和异构层为参数共享PPO引入个体间与时间异构性，在SMAC和GRF中实现零样本可扩展协作并提升性能。
2024-10-02 cs.AI cs.LG cs.MA
Scalable Reinforcement Learning Policies for Multi-Agent Control
University of Pennsylvania（宾夕法尼亚大学）
我们开发了一个多智能体强化学习（MARL）方法来学习可扩展的目标跟踪控制策略。我们的方法可以处理任意数量的追求者和目标，我们显示的任务组成的1000个追求者跟踪1000个目标的结果。我们使用一个分散的，部分可观察的马尔可夫决策过程框架模型的追求者作为代理接收部分观察（范围和轴承）的目标，使用固定的，未知的政策。使用注意力机制来参数化代理的价值函数;该机制允许我们处理任意数量的目标。熵正则化的政策外RL方法用于训练一个随机的政策，我们讨论它如何使追求者之间的对冲行为，导致一个弱形式的合作，尽管完全分散控制执行。我们进一步开发了一个掩蔽启发式算法，允许在较小的问题上进行训练，很少有追求者目标，并且可以在更大的问题上执行。彻底的模拟实验，消融研究，并比较最先进的算法进行研究的方法和性能的鲁棒性，以不同数量的代理和目标的可扩展性。
2021-11-10 cs.LG cs.MA
Agyn: An Open-Source Platform for AI Agents with Scalable On-Demand Execution, Agent Definition as a Code, and Zero-Trust Access
Agyn, Inc.（Agyn公司）；Mila AI e-Lab
提出Agyn开源平台，通过信号驱动的有状态无服务器运行时、Terraform代理定义和零信任安全模型，解决AI代理在生产中的隔离、治理和扩展问题。
2026-05-31 cs.AI
Scalable spectral representations for multi-agent reinforcement learning in network MDPs
Harvard University（哈佛大学）；Google Brain（谷歌大脑）；Georgia Tech（佐治亚理工学院）
针对网络 MDPs 全局状态-动作空间指数增长的学习挑战，利用网络动力学指数衰减特性推导出可扩展的谱局部表示，设计了连续状态-动作 MDPs 的可扩展算法框架并证明了其收敛性，实验验证了其优于通用函数逼近方法。
2024-11-18 cs.LG cs.MA cs.SY
Scaling Up Multiagent Reinforcement Learning for Robotic Systems: Learn an Adaptive Sparse Communication Graph
Massachusetts Institute of Technology（麻省理工学院）
多智能体系统中多智能体强化学习（MARL）的复杂性随着智能体数量的增加呈指数增长。这种可扩展性问题阻碍了MARL在大规模多智能体系统中的应用。然而，MARL中一个经常被忽视的关键特性是代理之间的交互非常稀疏。在不利用这种稀疏结构的情况下，现有的作品聚合来自所有代理的信息，因此具有很高的样本复杂度。为了解决这个问题，我们提出了一个自适应稀疏注意力机制通过推广稀疏诱导激活函数。然后基于这种新的注意力机制，用图神经网络学习MARL中的稀疏通信图。通过这种稀疏性结构，代理可以通过只选择性地关注最重要的代理来以有效和高效的方式进行通信，从而减少了MARL问题的规模，并且几乎没有最优性妥协。比较结果表明，我们的算法可以学习到一个可解释的稀疏结构，并优于以前的作品，涉及一个大规模的多智能体系统的应用程序的显着保证金。
2020-03-03 cs.LG cs.MA
A Scalable Trust Discovery Architecture for the Internet of Agents
China Internet Network Information Center（中国互联网络信息中心）；Alibaba Cloud Intelligence Group（阿里云智能集团）；National Engineering Laboratory of Internet Domain Name Management Technology（互联网域名管理技术国家工程实验室）；Computer Network Information Center, Chinese Academy of Sciences（中国科学院计算机网络信息中心）
针对智能体互联网中注册、身份信任与能力发现缺失的问题，提出分层分布式信任发现架构，实现可扩展注册与解析，实验验证其低延迟和高吞吐性能。
2026-09-18 cs.AI cs.CR
OpenClaw and Ollama in Agentic AI: Toward Fully Autonomous and Scalable AI Agent Systems
University of the Peloponnese（伯罗奔尼撒大学）；Cornell University（康奈尔大学）
该研究提出智能体AI的分层架构，分析OpenClaw与Ollama组成的全栈系统，验证系统集成可提升智能体能力，指出相关挑战并提供路线图，所有资源公开以支持研究。
2026-08-03 cs.AI
Governance by Design: Architecting Agentic AI for Organizational Learning and Scalable Autonomy
ESSEC Business School（ESSEC商学院）；Accenture Research（埃森哲研究）
本文探讨了智能体AI在组织学习和可扩展自主性中的设计与治理问题，通过案例研究展示了如何通过具体的架构和工作安排实现有效的治理，并总结了七条指导原则。
2026-04-17 cs.AI cs.CY cs.MA
Beyond Static Evaluation: Building Simulation Environments for Scalable Agentic Reinforcement Learning
Uber AI Solutions（优步人工智能解决方案）
研究针对大语言模型成为自主智能体后传统静态评估失效的问题，引入AgenticAI-Supervisor平台，通过API和UI驱动构建强化学习环境，运用可验证执行结果、多维奖励塑造及严格验证测试，以客户支持智能体案例展示核心能力及未来工作重点。
2026-07-08 cs.AI
Rethinking the Role of Dynamic Sparse Training for Scalable Deep Reinforcement Learning
Nanyang Technical University（南阳技术大学）；Mila - Quebec AI Institute（魁北克AI研究所）；Université de Montréal（蒙特利尔大学）；University of Oxford（牛津大学）；The AGH University of Krakow（克拉科夫AGH大学）
本文重新思考动态稀疏训练在可扩展深度强化学习中的作用，发现其提供模块特定益处并补充架构改进，进而提出模块特定训练（MST）框架，在不修改算法的情况下显著提升多种RL算法的可扩展性。
2025-10-14 cs.LG
Scalable Reinforcement Learning for Multi-Agent Networked Systems
Carnegie Mellon University（卡内基梅隆大学）；California Institute of Technology（加州理工学院）；Harvard University（哈佛大学）
我们研究强化学习（RL）的设置与代理网络的状态和动作相互作用的本地方式，其目标是找到本地化的政策，使（折扣）的全球奖励最大化。在这种情况下，一个根本的挑战是，状态动作空间的大小在代理的数量呈指数级扩展，使问题难以处理的大型网络。在本文中，我们提出了一个可扩展的演员评论（SAC）框架，利用网络结构，并找到一个本地化的政策，这是一个$O(ρ^κ)$ -近似的一个固定点的目标，一些$ρ\in(0,1)$，与复杂性的规模与当地的状态动作空间大小的最大$κ$跳邻居的网络。我们举例说明我们的模型和方法，从无线通信，流行病和交通。
2021-11-01 cs.AI cs.LG math.OC
ClawGym: A Scalable Framework for Building Effective Claw Agents
Gaoling School of Artificial Intelligence（人工智能学院）；Renmin University of China（中国人民大学）；IQuest Research（IQuest研究）；Beihang University（北航）
本文提出ClawGym框架，用于构建Claw式个人代理的全生命周期，通过合成可验证训练数据和强化学习方法提升代理效能。
2026-05-16 cs.AI cs.CL cs.LG
Action-Factored Multi-Agent Reinforcement Learning for Scalable Quantum Device Tuning
University of Oxford（牛津大学）
针对量子器件调谐中参数串扰致学习不稳定问题，提出用在线学习动作空间分解表示的方法，框架QADAPT借此高效学习共享策略，实现零样本泛化及收敛步骤数恒定，为大规模量子处理器快速校准提供可扩展途径。
2026-07-13 cond-mat.mes-hall cs.LG
Zero Shot Coordination for Sparse Reward Tasks with Diverse Reward Shapings
Department of Computer Science（计算机科学系）；University of Maryland, College Park（马里兰大学学院公园分校）
本文提出了一种基于随机奖励塑造的多智能体强化学习方法，通过4种算法选择策略训练多个方法，提升在Overcooked环境中的稀疏奖励表现，改进率达62.2%-119.2%。
2026-11-04 cs.LG
Measuring AI agent autonomy: Towards a scalable approach with code inspection
University of Oxford（牛津大学）；Microsoft（微软公司）；Centre for the Governance of AI（AI治理中心）
针对现有AI智能体自主性评估依赖运行时评估、成本与风险较高的问题，提出一种基于代码审查的可扩展评估方法，可依据影响性与监督性分类体系为编排代码评分，并在AutoGen框架及应用中得到验证。
2025-02-21 cs.AI
Value-Based Deep Multi-Agent Reinforcement Learning with Dynamic Sparse Training
Tsinghua University（清华大学）；Central South University（中南大学）
本文提出MAST框架，通过动态稀疏训练、Soft Mellowmax算子、混合TD-($λ$)和双重复放缓冲区，在多个基准上首次实现基于价值的MARL训练与推理FLOPs减少高达20倍且性能下降不足3%。
2024-09-28 cs.LG
Read Less, Solve More: Token-Efficient Sparse Reading of External Content for AI Agents
针对智能体过度阅读导致的成本高、证据稀释问题，提出无需训练的SparseRead阅读层，可减少92.9%令牌量、89.0%耗时，且在多模型、多场景下保持或提升任务质量，可移植性强。
2026-11-10 cs.AI
Experimental Evidence that Empowerment May Drive Exploration in Sparse-Reward Environments
Swarthmore College（斯沃斯莫尔学院）；Araya Inc.（Araya公司）
强化学习（RL）在外部奖励稀疏的环境中通常是不成功的。一个可能的对策是赋予RL代理一个内在的奖励功能，或“内在动机”，它根据当前传感器状态的某些特征奖励代理。基于授权原则的内在奖励函数分配与代理对其自己的传感器的控制量成比例的奖励。我们实现了一个变化，最近提出的内在动机的代理，我们称之为“好奇”的代理，授权启发代理。前者利用传感器状态编码与变分自编码器，而后者预测下一个传感器状态通过变分信息瓶颈。我们比较了这两个代理的性能，在四个稀疏的奖励网格世界的优势演员-评论家基线。授权代理人和它好奇的竞争者似乎都从他们的内在奖励中获得了类似的好处。这为授权可以用来推动探索的猜想提供了一些实验支持。
2021-07-14 cs.AI
Control Plane as a Tool: A Scalable Design Pattern for Agentic AI Systems
针对智能体 AI 系统在大规模工具编排与架构上的不足，本文提出“Control Plane as a Tool”可复用设计模式，以单一工具接口封装模块化路由，提升扩展性、安全性与可扩展性。
2025-05-11 cs.AI
AMAGO: Scalable In-Context Reinforcement Learning for Adaptive Agents
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；NVIDIA Research（英伟达研究院）
本研究提出可扩展的上下文强化学习智能体AMAGO，通过重新设计离策略上下文方法实现长序列Transformer的并行端到端训练，在元RL、长期记忆及目标条件开放世界任务中表现优异。
2024-02-01 cs.LG
Credit Assignment and Efficient Exploration based on Influence Scope in Multi-agent Reinforcement Learning
Utrecht University（乌特勒支大学）
针对多智能体强化学习稀疏奖励场景下的信用分配与探索难题，提出ISA算法，通过计算智能体影响范围分配信用并划定探索空间，实验表明其性能优于现有基线。
2026-08-04 cs.LG
Learning to Bid Long-Term: Multi-Agent Reinforcement Learning with Long-Term and Sparse Reward in Repeated Auction Games
Huawei Technology（华为技术）；Hasso Plattner Institute（哈索·普拉特纳研究院）
我们提出了一种多智能体分布式强化学习算法，该算法在潜在冲突的短期奖励和稀疏、延迟的长期奖励之间进行平衡，并在动态环境中使用部分信息进行学习。我们比较了不同的长期奖励，以激励算法最大化个人收益和整体社会福利。我们在两个模拟拍卖游戏中测试了该算法，并证明：1）我们的算法优于两个基准算法在直接竞争，成本社会福利，和2）我们的算法的积极的竞争行为可以指导与长期奖励信号，以最大限度地提高个人收益和整体社会福利。
2022-04-05 cs.GT cs.LG
Memoria: A Scalable Agentic Memory Framework for Personalized Conversational AI
BlackRock, Inc.（黑石公司）
Memoria通过结合动态摘要和加权知识图，为LLM提供持久记忆，实现对话连贯性和个性化，适用于需要适应性用户体验的行业应用。
2025-12-14 cs.AI cs.CL
Steerability via constraints: a substrate for scalable oversight of coding agents
Télécom SudParis（南巴黎电信学院）
提出通过访问控制、网络策略和工具强制编码规范等传统工程管理方法约束编码智能体，以降低人类监督成本并提升安全性；实验表明约束基板使后门检测召回率从54.5%提升至90.9%。
2026-07-03 cs.AI cs.CR cs.SE
Molt: A Scalable PyTorch-Native Training Framework for Agentic Reinforcement Learning
NVIDIA（英伟达）
研究针对智能体强化学习中算法修改成本高的问题，提出原生 PyTorch 训练框架 Molt，其代码简洁，智能体是普通程序，通过异步循环训练策略，在全异步协议下性能与先进堆栈相当，且开源提供资源。
2026-09-24 cs.CL cs.DC cs.LG
Sparse Mean Field Load Balancing in Large Localized Queueing Systems
本研究利用稀疏平均场理论，将有界度图中的多智能体负载均衡问题简化为单智能体问题，为稀疏连接排队网络提出了一种低通信开销的近最优可扩展负载均衡框架。
2024-03-22 cs.DC cs.LG cs.NI
InfiniteWeb: Scalable Web Environment Synthesis for GUI Agent Training
Peking University（北京大学）；Nanjing University（南京大学）；Microsoft Research Asia（微软亚洲研究院）
提出InfiniteWeb系统，通过统一规范、任务驱动测试和多样化种子设计自动生成功能完备的Web环境，解决GUI智能体训练数据稀缺问题，在OSWorld和Online-Mind2Web上取得显著性能提升。
2026-07-01 cs.AI cs.CL cs.CV
Persistent And Scalable JADE: A Cloud based InMemory Multi-agent Framework
多智能体系统通常在持久性和可扩展性方面受到限制。此问题在代理状态频繁更改的应用程序中更为普遍。这使得现有方法的可用性降低，因为它们增加了代理的复杂性，并且可伸缩性降低。本研究提出了一种新的记忆体主体持久化框架。两个原型已经实现，一个使用所提出的解决方案，另一个使用已建立的代理持久化环境。实验结果证实，所提出的框架是更可扩展的比现有的方法，同时提供了类似的持久化水平。这些发现将有助于未来的实时多智能体系统在动态云环境中变得可扩展和持久。
2020-09-16 cs.AI cs.MA
Scalable Training of Artificial Neural Networks with Adaptive Sparse Connectivity inspired by Network Science
Eindhoven University of Technology（埃因霍温理工大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Derby（德比大学）
通过深度学习在各个领域的成功，人工神经网络目前是最常用的人工智能方法之一。从生物神经网络的网络特性（例如稀疏性、无标度性）中获得灵感，我们认为（与一般实践相反）人工神经网络也不应该具有完全连接的层。在这里，我们提出了人工神经网络的稀疏进化训练，在学习过程中，将两个连续神经元层的初始稀疏拓扑（Erdens-Rényi随机图）进化为无标度拓扑的算法。我们的方法取代人工神经网络全连接层与稀疏的训练前，减少了二次参数的数量，而不降低精度。我们在15个数据集上证明了我们对限制玻尔兹曼机，多层感知器和卷积神经网络的无监督和监督学习的要求。我们的方法有可能使人工神经网络的规模超过目前的可能。
2018-06-20 cs.AI cs.LG cs.NE
Adaptive multi-resolution Gaussian processes: Scalable exact inference with naturally data-sparse covariance matrices
Institute of Applied Physics and Computational Mathematics（北京应用物理与计算数学研究所）
提出自适应多分辨率高斯过程框架，利用自然数据稀疏协方差矩阵实现精确推断，训练成本O(n log²n)，预测成本O(log^d n)，兼顾可扩展性与模型保真度。
2026-09-28 cs.AI cs.LG stat.ML
Partitioning sparse deep neural networks for scalable training and inference
University of Warwick（华威大学）
最先进的深度神经网络（DNN）具有显著的计算和数据管理要求。训练数据和模型的大小都在持续增加。稀疏化和修剪方法被证明是有效的，在DNN中删除大部分连接。由此产生的稀疏网络提出了独特的挑战，以进一步提高深度学习中训练和推理的计算效率。用于训练稀疏DNN的随机梯度下降（SGD）算法中的前馈（推断）和反向传播步骤都涉及连续的稀疏矩阵向量乘法（SpMV）。我们首先介绍了一个分布式内存并行SpMV为基础的SGD算法的解决方案，以提高其可扩展性。并行化方法是基于权值矩阵的逐行划分，权值矩阵表示连续层之间的神经元连接。然后，我们提出了一种新的超图模型划分权重矩阵，以减少总的通信量，并确保处理器之间的计算负载平衡。在稀疏DNN上进行的实验表明，所提出的解决方案是高效和可扩展的。通过利用所提出的矩阵划分方案，我们的解决方案的性能进一步显着提高。
2021-04-23 cs.AI cs.DC cs.LG
Scalable Safe Multi-Agent Reinforcement Learning for Multi-Agent System
Department of Automation, Shanghai Jiao Tong University（上海交通大学自动化系）
针对多智能体系统在安全性和可扩展性上的挑战，提出SS-MARL框架，通过多层消息传递网络聚合局部观测与通信，并结合局部观测下的受限联合策略优化方法，显著提升了大规模智能体场景下的安全性与可扩展性。
2025-04-01 cs.AI cs.MA
Fast and Scalable Learning of Sparse Changes in High-Dimensional Gaussian Graphical Model Structure
University of Virginia（弗吉尼亚大学）
我们专注于两个$p$维高斯图模型（GGM）的依赖结构的变化估计的问题。以前的研究稀疏变化估计GGM涉及昂贵和困难的非光滑优化。我们提出了一种新的方法DIFFEE，用于在高维情况下通过基本估计器估计DIFFerential网络。通过一个更快的封闭式解决方案来解决EEE，使其能够在大规模环境中工作。我们进行了严格的统计分析表明，令人惊讶的是，ESTEE实现了相同的渐近收敛速度的国家的最先进的估计，更难以计算。我们在多个合成数据集和一个关于大脑连接的真实数据上的实验结果显示，与基线相比，性能有了很大的提高，并且具有显著的计算优势。
2018-05-23 cs.AI cs.LG stat.ML
Symphony: A Decentralized Multi-Agent Framework for Scalable Collective Intelligence
Gradient；The Chinese University of Hong Kong（香港中文大学）；Department of Computer Science and Computer Engineering, Waseda University（计算机科学与工程系，早稻田大学）
Symphony提出去中心化多智能体框架，通过去中心化账本、Beacon选择协议和基于CoT的加权投票，使消费级GPU上的轻量级LLM实现低开销、可扩展且容错的协调，并在推理基准上超越现有基线。
2025-08-27 cs.AI cs.CL cs.LG
Hierarchical Decentralized Multi-Agent Coordination with Privacy-Preserving Knowledge Sharing: Extending AgentNet for Scalable Autonomous Systems
AgentNet++通过分层去中心化框架和隐私保护技术，提升多智能体系统的可扩展性和隐私保障，实现更高的任务完成率和更低的通信开销。
2026-10-06 cs.AI cs.MA
CCL: Collaborative Curriculum Learning for Sparse-Reward Multi-Agent Reinforcement Learning via Co-evolutionary Task Evolution
Homesite Group Inc.（Homesite集团）；Chewy Inc.（Chewy公司）；University of Science and Technology Beijing（北京科技大学）；Yunnan University of Finance and Economics（云南财经大学）；Yunnan University（云南大学）；The Australian National University（澳大利亚国立大学）
针对多智能体稀疏奖励导致的学习欠佳问题，提出CCL课程学习框架，通过任务细化、变分进化子任务生成及智能体—环境协同进化提升性能，并在五个协作任务中验证其优势。
2025-05-08 cs.AI cs.MA
AutoMARS: Automatic and Scalable Multi-Agent Large Language Model Framework for Supply Chain Risk Assessment
Georgia Institute of Technology（佐治亚理工学院）；IMT Mines Albi（阿尔比矿业电信学院）
研究针对供应链风险评估需求，提出AutoMARS多智能体大语言模型框架，可自动规划任务、协调智能体与工具，支持跨地点可扩展风险比较，实现结构化可解释的风险评估，助力供应链地点选择。
2026-10-14 cs.AI
Next-Gen CAPTCHAs: Leveraging the Cognitive Gap for Scalable and Diverse GUI-Agent Defense
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）；MetaAgentX；University College London（伦敦大学学院）
提出Next-Gen CAPTCHAs框架，通过利用人机在交互感知、记忆、决策和行动上的认知差距，设计动态任务以区分生物用户与AI智能体，实现可扩展的防御。
2026-06-23 cs.AI cs.CL cs.LG
Distributed Policy Iteration for Scalable Approximation of Cooperative Multi-Agent Policies
LMU Munich（慕尼黑大学）；MaibornWolff（迈博尔夫公司）
多智能体系统（MAS）中的决策是一个巨大的挑战，由于巨大的状态和联合行动空间以及不确定性，使得集中控制通常是不可行的。分散控制提供了更好的可扩展性和鲁棒性，但需要机制来协调联合任务并避免冲突。传统的协作MAS分散策略学习方法存在非平稳性和缺乏信用分配的问题，在复杂环境中会导致不稳定和不协调的行为。在本文中，我们提出了强紧急政策近似（STEP），一个可扩展的方法来学习强分散的政策合作MAS的分布式变体的政策迭代。为此，我们使用函数逼近来学习分散式多智能体规划算法的行动建议。STEP将分散式多智能体规划与集中式学习相结合，只需要分布式黑盒优化的生成模型。我们的实验评估STEP在两个具有挑战性的和随机的领域与大的状态和联合行动空间，并表明，STEP是能够学习更强的政策比标准的多智能体强化学习算法，结合多智能体开环规划与集中函数逼近。学习的策略可以重新集成到多代理规划过程中，以进一步提高性能。
2019-01-25 cs.AI cs.MA
GraphDC: A Divide-and-Conquer Multi-Agent System for Scalable Graph Algorithm Reasoning
Department of Computer Science, Virginia Tech（弗吉尼亚理工大学计算机科学系）
GraphDC通过分而治之的多智能体框架提升图算法推理效率，通过分解图并分配子任务给专用智能体，结合主智能体整合结果，提升大规模图处理的性能和鲁棒性。
2026-04-18 cs.AI cs.MA
SKILL.state: Scalable Long-Horizon Agent Skills
Google LLC（谷歌公司）；Purdue University（普渡大学）
针对现有智能体运行时的长程延迟与上下文污染问题，提出SKILL.state架构，用显式可变执行状态替代追加式对话历史，提升任务准确率并降低令牌消耗。
2026-09-03 cs.AI cs.MA
Population-Scalable Multi-Agent World Modeling across Scene Geometries
Shanghai Jiao Tong University（上海交通大学）
针对多智能体世界模型的种群可扩展性问题，提出无需重训练即可扩展至任意智能体数量的Khora模型，通过解耦世界状态演化与渲染实现跨视图一致性，验证了泛化性并构建了实时交互系统。
2026-11-06 cs.AI cs.CV cs.LG
SALSA-CLRS: A Sparse and Scalable Benchmark for Algorithmic Reasoning
ETH Zurich（苏黎世联邦理工学院）
本文提出 SALSA-CLRS，通过引入稀疏图表示和分布式算法扩展 CLRS 基准，解决了原基准内存需求大、难以扩展的问题，并进行了实证评估。
2023-11-20 cs.AI cs.LG
