Nonovershooting Cooperative Output Regulation for Linear Multi-Agent Systems
University of Melbourne(墨尔本大学);University of Newcastle(纽卡斯尔大学)
本文提出分布式动态输出反馈方法,解决线性多智能体系统的协同输出调节问题,并确保所有智能体在暂态响应中无超调跟踪参考信号。
2018-05-07 cs.SY eess.SY math.DS
Option-Critic in Cooperative Multi-agent Systems
McGill University(麦吉尔大学);Mila;Université de Montréal(蒙特利尔大学);DeepMind
在本文中,我们研究学习时间抽象的合作多智能体系统,使用的选项框架(萨顿等,1999年)。首先,我们解决的分散POMDP的多智能体系统所代表的规划问题,通过引入一个\emph{common information approach}。我们使用\emph{common beliefs}和广播的概念来解决一个等价的集中式POMDP问题。然后,我们提出了分布式期权评价(DOC)算法,它使用集中式期权评价和分散式期权内改进。我们从理论上分析了DOC的渐近收敛性,并建立了一个新的多智能体环境,以证明其有效性。我们的实验经验表明,DOC执行竞争力对基线和规模的代理商的数量。
2020-03-19 cs.AI cs.MA cs.SY
Explicit Agent-Level Optimal Cooperative Controllers for Dynamically Decoupled Systems with Output Feedback
针对动态解耦智能体网络,提出显式状态空间公式的联合最优协作控制器,实现最小智能体级实现并阐明图结构作用。
2019-09-16 cs.SY eess.SY math.OC
Steering the distribution of agents in mean-field and cooperative games
Iowa State University(爱荷华州立大学);University of California, Irvine(加州大学尔湾分校);Università di Padova(帕多瓦大学)
本文研究如何通过终端成本引导弱相互作用动态系统达到指定终端分布,结合最优运输理论扩展方法。
2017-12-10 cs.SY eess.SY math.OC
Cooperative Nearest-Neighbor Control of Multi-Agent Systems: Consensus and Formation Control Problems
针对智能体仅能实现有限控制点的多智能体系统,提出结合最近邻控制与经典控制律的方法,在图连通等假设下实现一致性与编队控制的实际镇定,给出收敛界并通过仿真验证。
2023-05-31 cs.SY eess.SY math.OC
Exponentially Converging Distributed Gradient Descent with Intermittent Communication via Hybrid Methods
我们提出了一个混合系统框架多代理优化,代理执行计算在连续的时间和离散的时间进行通信。优化算法是并行坐标下降的混合版本。代理实现一个采样和保持策略,其中梯度在通信时间计算,并在通信之间的流期间保持恒定。建立了这些混合动力学下的最大解的完备性。在光滑性和强凸性的假设下,我们证明了该系统指数收敛于目标函数的极小值。仿真结果说明了这种收敛速度。
2021-09-30 math.OC
Approximate Linear Programming for Decentralized Policy Iteration in Cooperative Multi-agent Markov Decision Processes
Indian Institute of Science(印度科学学院);Indian Institute of Technology Madras(印度马德拉斯理工学院)
本文针对合作多智能体MDP中动作空间指数增长和精确值函数计算昂贵的问题,提出基于近似线性规划和函数逼近的去中心化策略迭代算法,覆盖有限与无限时域折扣情形,并给出理论保证和优于现有方法的实验效果。
2024-04-29 cs.LG cs.MA math.OC
A Strong Duality Result for Constrained POMDPs with Multiple Cooperative Agents
本文针对多代理非对称信息的分散约束POMDP,利用扩展的Sion极大极小定理和测度弱收敛,在可数观测、有限动作、有界成本条件下证明了无限时域折扣成本的强对偶性。
2025-04-26 cs.SY eess.SY math.OC
Trust-based Rate-Tunable Control Barrier Functions for Non-Cooperative Multi-Agent Systems
University of Michigan(密歇根大学);Sensia LLC(Sensia有限责任公司)
为了在多智能体系统中有效和鲁棒地完成任务,智能体必须能够区分合作智能体和非合作智能体,即,不合作和敌对的代理人。捕获安全和协作的任务描述通常可以编码为控制屏障功能(CBF)。在这项工作中,我们首先开发了一个信任度量,每个代理使用它来形成自己的信念如何合作的其他代理。该度量用于调整CBF允许系统轨迹接近安全区域边界的速率。然后,基于所提出的信任的概念,我们提出了一个速率可调CBF框架,导致不太保守的性能相比,一个身份不可知的实现,其中合作和非合作代理人被视为类似。最后,在存在非合作的代理,我们展示了我们的控制算法的异构多代理系统通过模拟的应用。
2022-04-09 cs.RO math.OC
Zeroth-Order Feedback Optimization for Cooperative Multi-Agent Systems
研究了一类多智能体协作最优化问题,其中每个智能体与一个局部行动向量和一个局部代价相关联,目标是协同寻找使局部代价平均值最小的联合行动方案.这样的问题出现在许多应用中,如分布式路由控制,风力发电场的操作,等等。在许多这些问题中,梯度信息可能不容易获得,和代理可能只观察他们的行动所产生的本地成本作为反馈,以确定他们的新的行动。在本文中,我们提出了一个零阶反馈优化方案,我们考虑的问题,并提供明确的复杂性界限的凸和非凸设置无噪声和噪声的本地成本观测。我们还简要讨论了知识的影响,局部函数依赖的代理之间。分布式路由控制的数值例子证明了算法的性能。
2021-02-23 cs.MA math.OC
Cooperative Robust Output Regulation Problem for Discrete-Time Linear Time-Delay Multi-Agent Systems
本文利用分布式内模方法研究了具有通信时滞和输入时滞的离散线性多智能体系统的合作鲁棒输出调节问题。首先,我们介绍了分布式内模离散时间多智能体系统的通信和输入延迟。然后,我们定义了所谓的辅助系统和辅助增广系统。最后,我们解决了我们的问题,在一些标准的假设下,如果分布式状态反馈控制或分布式输出反馈控制解决了辅助系统的鲁棒输出调节问题,那么相同的控制律法解决了合作的鲁棒输出调节问题的原始多智能体系统。
2017-05-13 math.OC
Graphon Mean-Field Control for Cooperative Multi-Agent Reinforcement Learning
本文提出图论均值场控制框架,用于近似具有非均匀相互作用的协作多智能体强化学习,证明其近似顺序为$\mathcal{O}(\frac{1}{\sqrt{N}})$,并展示其在可扩展性上的优势。
2026-03-02 cs.MA math.OC
Privacy-Preserving Decentralized Multi-Agent Cooperative Optimization -- Paradigm Design and Privacy Analysis
大规模的多智能体协作控制问题实质上享有的可扩展性,自适应性和分散优化的灵活性。然而,由于代理和系统操作员之间的强制性迭代通信,分散式架构容易受到恶意攻击和隐私泄露。目前的研究解决隐私保护的代理和系统操作员在合作分散优化与强耦合的目标函数和约束仍然是原始的。为了填补这一空白,本文提出了一种新的隐私保护分散优化范式的基础上Paillier密码系统。所提出的范例实现了理想的正确性和安全性,以及抵御来自一系列对手的攻击。通过数值模拟和真实物理平台验证了该方法的有效性和效率。
2021-03-03 math.OC
Event-Triggered Cooperative Robust Practical Output Regulation for a Class of Linear Multi-Agent Systems
研究了一类线性最小相位多智能体系统的事件触发合作鲁棒实用输出调节问题。基于分布式内模方法,我们首先将问题转化为定义良好的增广系统的合作鲁棒实用镇定问题。然后,设计了分布式事件触发的输出反馈控制律和分布式输出事件触发机制来镇定增广系统,从而得到了原对象的合作鲁棒实用输出调节问题的可解性。我们的分布式控制律可以直接实现在一个数字平台上提供的分布式触发机制,可以监测连续时间的输出信息从相邻的代理。最后,我们通过一个例子来说明我们的设计。
2017-06-06 math.OC
Certainty Equivalence, Separation Principle, and Cooperative Output Regulation of Multi-Agent Systems by Distributed Observer Approach
线性多智能体系统的合作输出调节问题在文献[20,21]中用分布式观测器方法进行了研究。从那时起,已经提出了几个变种和扩展,分布式观测器的技术也被应用到这样的问题,形成,会合,群集等,在本章中,我们将首先提出一个更一般的制定合作输出调节问题的线性多智能体系统,包括一些现有版本的合作输出调节问题的特殊情况。然后,我们将描述一个更一般的分布式观察器。最后,我们将更明确地利用分离原理和确定性等价原理来简化主要结果的证明。
2015-08-18 math.OC
Cooperative Global Robust Stabilization for a Class of Nonlinear Multi-Agent Systems and its Application
研究了一类非线性多智能体系统的合作全局鲁棒镇定问题。该问题的出发点是在切换网络是无向的且某些非线性函数满足一定的增长条件下,研究了一类具有统一相对度的标准型非线性多智能体系统的全局鲁棒输出调节问题.首先,我们使用多个李雅普诺夫函数方法和平均停留时间的方法解决的稳定问题。然后,我们将这一结果应用于有向切换网络下具有单位相对度的标准型非线性系统的合作全局鲁棒输出调节问题,去掉了切换网络是无向的和某些非线性函数满足一定增长条件的条件。
2015-08-19 math.OC
Generative Thermal Design Through Boundary Representation and Multi-Agent Cooperative Environment
University of Waterloo(滑铁卢大学)
生成式设计作为一种可行的设计空间探索方法在设计界得到了广泛的应用。热设计比机械或空气动力学设计更复杂,因为附加的对流扩散方程及其相关的边界相互作用。我们提出了一种生成式热设计,使用协作多智能体深度强化学习和流体和固体域的连续几何表示。建议的框架包括一个预先训练的神经网络代理模型作为一个环境来预测生成的几何形状的传热和压降。采用复合Bezier曲线参数化设计空间,解决多翅片形状优化问题.我们表明,我们的多智能体框架可以学习的政策,设计策略使用多目标奖励,而不需要形状推导或可微的目标函数。
2022-08-16 cs.LG math.GT math.OC
On optimal partitions, individual values and cooperative games: Will a wiser agent always produce a higer value?
我们认为,几个代理(如专家)之间的资源(如消费者)的最佳分区,给定效用函数(“智慧”)的代理和他们的能力。这个问题是两个测度空间之间的最优输运(Monge-Kantorovich)的一个变体,其中一个度量是离散的(容量),运输成本是代理人的智慧。我们专注于最佳分区下的每个代理的个人价值,并表明,反直觉,这个值可能会减少,如果代理的智慧增加。独立于其他代理商,将给出个体值递增的充分和必要条件。这些条件的尖锐性也进行了讨论。基于上述考虑,我们定义了一个基于最优划分的合作对策,并研究了该对策存在核心的条件,保证了大联盟的稳定性。
2016-04-06 math.OC
Achieving Social Optimum in Non-convex Cooperative Aggregative Games: A Distributed Stochastic Annealing Approach
本文设计了一种求解非凸合作聚集对策的分布式随机退火算法,该算法的费用函数不仅依赖于Agent自身的决策变量,而且依赖于Agent决策变量之和。为了寻求合作聚集博弈的社会最优解,提出了一种分布式随机退火算法,其中局部费用函数是非凸的,Agent之间的通信拓扑是时变的。进一步分析了该算法对社会最优解的弱收敛性。 算例验证了算法的有效性.
2022-04-02 math.OC
Internal Model Approach to Cooperative Robust Output Regulation for Linear Uncertain Time-Delay Multi-Agent Systems
本文利用分布式内模方法研究了具有通信时滞和输入时滞的线性不确定多智能体系统的合作鲁棒输出调节问题。该问题包括具有时滞的线性多智能体系统的领导-跟随一致性问题作为特例。首先将内模设计方法推广到同时具有通信时延和输入时延的系统。然后,在一组标准假设下,我们通过状态反馈控制和输出反馈控制得到了问题的解。与已有的结果相比,本文的结果适用于一般的不确定线性多智能体系统,适应了大类领导信号,同时实现了渐近跟踪和干扰抑制.
2015-08-18 math.OC
Comparison of Centralized and Decentralized Approaches in Cooperative Coverage Problems with Energy-Constrained Agents
Louisiana State University(路易斯安那州立大学);University of Science and Technology Beijing(北京科技大学);Boston University(波士顿大学)
考虑了能量受限的多智能体覆盖问题。本文的目的是比较集中式和分散式方法之间的覆盖性能。为此,一个接近最优的集中式覆盖控制方法下的能量耗尽和充满约束。最佳覆盖形成对应于覆盖性能最大化的代理的位置。最优充电队形对应于代理的位置,其中一个代理固定在充电站,其余代理最大化覆盖性能。我们通过在最佳覆盖形成和最佳充电形成之间切换来控制该合作多智能体系统的行为。最后,在覆盖范围的位置,充电时间和代理轨迹的最佳停留时间被确定,以便在给定的时间间隔内最大限度地覆盖。特别是,我们的控制器保证在任何时候最多有一个代理离开团队进行能量补充。
2020-08-26 cs.RO math.OC
The Cooperative Output Regulation Problem of Discrete-Time Linear Multi-Agent Systems by the Adaptive Distributed Observer
在本文中,我们首先提出了一个自适应分布式观测器的离散时间领导系统。这种自适应分布式观测器不仅可以为每个跟随者提供对领导者信号的估计,而且还可以提供对领导者系统矩阵的估计。然后,基于矩阵S的估计,我们设计了一种离散自适应算法来计算与每个跟随器相关联的调节器方程的解,并获得估计的前馈控制增益。最后,利用自适应分布式观测器,通过状态反馈和输出反馈自适应分布式控制律,解决了离散线性多智能体系统的协作输出调节问题.
2017-03-30 math.OC
Exit Time Risk-Sensitive Control for Systems of Cooperative Agents
我们研究序列,参数化的代理人的数量,许多代理退出时间随机控制问题的风险敏感的费用结构。我们确定了一个充分的特征假设,在此假设下,每个这样的控制问题对应于一个风险中性的随机控制问题的附加成本,并顺序的风险中性的随机控制问题的单纯形,其中的具体信息,每个代理的状态可以被丢弃。我们还证明了,在一些额外的假设下,该序列的值函数收敛到一个确定性控制问题的值函数,它可以用于设计近最优控制的原始问题,当代理的数量是足够大的。
2018-08-22 math.OC math.PR
Cooperative output regulation for a network of parabolic systems with varying parameters
本文研究了具有不同动态的多智能体网络的合作输出调节问题,该网络由抛物型偏微分方程描述,参数为空间和时间变化的。首先,设计一个网络控制器,实现有限维参考模型的输出同步,并将同步所需的全局参考模型的状态传递给抛物型智能体。后者可能会受到局部干扰作用域内,所有的边界和反并置输出控制。通过设计抛物型智能体的局部输出反馈调节器,解决了协作输出调节问题。这就需要解决时变调节器方程和空间和时变系数抛物系统的干扰观测器的设计。为此,提供了一个系统的反推方法,它表明,合作的输出调节与指数收敛,确保所产生的多智能体系统。本文的结果被应用到一个异构网络的四个抛物型代理的合作输出调节存在局部干扰。
2020-10-21 math.OC
Cooperative Output Regulation of Discrete-Time Linear Time-Delay Multi-agent Systems
本文利用分布式观测器方法研究了离散线性时滞多智能体系统的合作输出调节问题。与连续时间线性时滞多智能体系统的相同问题相比,该问题具有两个新的特点。首先,在存在时滞的情况下,离散时间线性系的调节器方程不同于连续时间线性系的调节器方程。其次,在通信图连通的标准假设下,任何连续时间线性领导系统的分布式观测器总是存在的。然而,对于离散时间系统,情况并非如此,分布式观测器的行为要复杂得多。因此,我们将首先研究离散分布观测器的存在性,然后提出分布式动态输出反馈控制律的问题的可解性。
2015-12-14 math.OC
Two-Facet Scalable Cooperative Optimization of Multi-Agent Systems in The Networked Environment
协同优化通过大规模网络连接的大量代理带来了前所未有的可扩展性挑战。本文研究了在耦合网络诱导约束和局部约束下的耦合目标函数优化问题。现有优化范式的可扩展性受到代理总体规模或网络维度的限制。作为一个根本性的改进,本文首次构建了一个两方面的可扩展分散优化框架。为此,我们首先开发了一个系统的网络降维技术,虚拟集群的代理和降低网络诱导的约束的维数,然后构成一个新的收缩原始多对偶次梯度(SPMDS)算法的基础上降维网络。严格的最优性和收敛性分析所提出的分散优化框架。基于SPMDS的优化框架是免费的代理到代理的通信,不需要额外的聚合器的代理集群。通过对电动汽车充电控制问题和交通拥堵控制问题的仿真,与基准方法进行了比较,验证了所提方法的有效性。
2020-10-10 math.OC