Consensus-ADMM for General Quadratically Constrained Quadratic Programming
非凸二次约束二次规划(QCQP)问题在信号处理、机器学习和无线通信中有着广泛的应用,尽管一般的QCQP是NP难的,并且一些有趣的特殊情况也是NP难的。本文提出了一种新的通用QCQP算法。该问题首先被重新表述为共识优化形式,其中的交替方向法的乘法器(ADMM)可以应用。重新制定是这样一种方式,每个子问题是一个QCQP只有一个约束(QCQP-1),这是有效地解决(非)凸性无关。核心组件经过精心设计,使整个算法更具可扩展性,包括求解QCQP-1的有效方法,内存高效实现,并行/分布式实现和智能初始化。该算法,然后在两个应用程序中进行测试:多播波束形成和相位检索。结果表明优于现有技术的方法的性能。
2016-07-07 math.OC
Randomized Consensus with Attractive and Repulsive Links
ACCESS Linnaeus Centre, School of Electrical Engineering, Royal Institute of Technology(林奈中心电气工程学院,皇家理工学院)
研究随机共识算法在具有吸引和排斥链接的图上的收敛性,通过概率分析探讨排斥链接对共识行为的影响。
2013-09-09 cs.MA cs.SY eess.SY
Stochastic Programming with Primal-Dual Dynamics: A Mean-Field Game Approach
本研究针对容量网路设计之随机规划问题,探讨原始-对偶动力学。它被证明是可以实现共识的\textit{here and now}变量,代表网络的能力。主要贡献是一个启发式的方法,涉及制定的问题作为一个平均场游戏。平均场博弈中的每个代理都可以控制自己的原始对偶动态,并根据通信拓扑与相邻代理寻求共识。我们得到了关于平均场平衡存在的理论结果。此外,我们证明了共识动力学收敛,使代理同意各自的微网络的能力。最后,我们强调如何控制和状态的处罚影响的动力学代理的平均场游戏。
2020-09-10 math.OC
Distributed Random Convex Programming via Constraints Consensus
本文讨论随机凸规划的分布式求解方法。RCP是具有(通常很大)N个随机提取约束的凸优化问题;它们出现在几个应用领域,特别是在不确定性不确定决策的背景下,参见[2],[3]。我们在这里考虑一种设置,其中随机约束(场景)的实例不是由单个集中式处理单元保存,而是分布在网络的不同节点之间。每个节点只“看到”约束的一个小子集,并且可以与邻居通信。目标是使所有节点收敛到与集中式RCP问题相同的解。为此,我们开发了两种分布式算法,它们是约束一致性算法的变体[4],[5]:积极约束一致性(ACC)算法和顶点约束一致性(VCC)算法。我们表明,ACC算法计算的整体最优解在有限的时间内,几乎肯定有界的通信在每次迭代。而VCC算法是专门为特殊情况下,其中的约束函数也是凸w.r.t.不确定的参数,它计算的解决方案,在一定数量的迭代由通信图的直径。我们进一步设计了一个变种的VCC算法,即量化顶点约束共识(qVCC),以应付处理器之间的通信带宽有界的情况下。我们讨论了几个应用所提出的分布式技术,包括估计,分类和随机模型预测控制,我们提出了一个数值分析的性能所提出的方法。作为一个补充的数值结果,我们表明,使用ACC算法的场景解决方案的并行计算显着优于其集中等效。
2012-07-26 math.OC
Parallel and Flexible Dynamic Programming via the Randomized Mini-Batch Operator
Bellman算子是动态规划的基础。另一种方法是高斯-赛德尔算子,它的计算与贝尔曼算子不同,贝尔曼算子一次处理所有状态,每次更新一个状态,同时将中间结果纳入计算。基于Gauss-Seidel算子的DP方法的可证明更好的收敛速度是以固有的顺序性为代价的,这阻止了现代多核系统的开发。在这项工作中,我们提出了一个新的操作动态规划,即随机小批量操作,其目的是实现之间的权衡更好的收敛速度的方法的基础上的高斯-Seidel算子和Bellman算子提供的并行化能力。在引入新算子后,进行了理论分析,以验证其基本性质。这样的属性允许人们在主要的动态规划方案中成功地部署新的操作符,例如值迭代和修改的策略迭代。我们比较的DP算法的收敛性的基础上,新的运营商与其早期的同行,发光的算法优势的新配方和批量参数的影响的收敛性。最后,新引入的运营商进行了广泛的数值评估。根据理论推导,数值结果表明,所提出的运营商的竞争力的性能和其优越的灵活性,这使得一个适应不同的结构的MDP和硬件设置的迭代的效率。
2021-10-06 math.OC
Distributed Computing for Huge-Scale Linear Programming
本研究提出一种基于全局一致性和增广拉格朗日的分布式算法,用于求解大规模线性规划,通过块坐标高斯-赛德尔、近端方法和ADMM更新变量,并证明其收敛性及O(1/k^1/2)速率。
2025-08-06 math.OC
Randomized Block Proximal Methods for Distributed Stochastic Big-Data Optimization
本文提出了一类新的求解有向图上随机大数据凸优化问题的分布式算法。在所述的设置中,决策变量的维数可以非常高,并且目标函数可以是非光滑的。一般算法包括两个主要步骤:共识步骤和对优化变量的单个块的更新,然后将其广播给邻居。三个特殊的情况下,所提出的方法,涉及特定的问题结构,然后提出。在一般情况下,证明了随机行随机阵上动态一致性算法的收敛性。然后,证明了该算法在期望值内收敛到最优费用。当使用递减(局部)步长时实现精确收敛,而当使用恒定步长时实现近似收敛。的收敛速度被证明是次线性的,并提供了一个明确的速度的情况下,恒定的步长。最后,该算法进行了测试的分布式分类问题,首先在合成数据,然后,在一个真正的,高维的,文本数据集。
2020-10-04 math.OC
Fast randomized entropically regularized semidefinite programming
我们开发了一个实用的方法,半定规划(SDP),包括冯诺依曼熵,或适当的变体,作为一个正规化项。特别是,我们解决了对偶的正则化程序,演示了如何精心选择的随机跟踪估计可以用来有效地估计对偶梯度。我们还介绍了专门的优化方法,常见的SDP,特别是SDP与对角约束和确定的极端特征向量的跨度上的光谱投影仪的问题。我们验证了我们的方法在这些问题上的应用组合优化和谱嵌入。
2023-03-21 cs.NA math.NA math.OC
Randomized Linear Programming Solves the Discounted Markov Decision Problem In Nearly-Linear (Sometimes Sublinear) Running Time
提出了一种新的随机线性规划算法来逼近折扣马尔可夫判定问题的最优策略。该算法利用价值-策略对偶和二叉树数据结构,自适应地对状态-动作-状态转换进行采样,并进行指数化的原始-对偶更新。我们发现,它发现了一个$ε$最优的政策,在最坏的情况下,使用接近线性的运行时间。当马尔可夫决策过程是遍历的,且以某些特殊的数据格式指定时,该算法利用运行时间对状态-动作对的总数是线性的,而对输入大小是次线性的,找到一个$ε$ -最优策略.这些结果为求解随机动态规划提供了一个新的场所和复杂性基准。
2017-09-13 cs.DS math.OC
Randomized Progressive Hedging methods for Multi-stage Stochastic Programming
渐进式套期保值是一种求解多阶段随机优化问题的常用分解算法。该算法的计算瓶颈是每次迭代都必须求解所有场景子问题。在本文中,我们介绍了随机版本的渐进对冲算法能够产生新的迭代,只要一个单一的场景子问题得到解决。基于渐进式套期保值和单调算子之间的关系,我们利用最近的随机不动点方法的结果来推导和分析所提出的方法。最后,我们发布了相应的代码作为一个易于使用的Julia工具箱和报告计算实验显示的实际利益的随机算法,特别是在并行上下文中。在整个论文中,我们特别注意陈述,强调主要思想,避免额外的技术细节,以使随机方法在运筹学界的广泛受众。
2020-09-25 cs.DC math.OC
Paving the Way for Consensus: Convergence of Block Gossip Algorithms
Gossip协议是分布式计算中解决平均一致性问题的常用方法。我们证明了新的收敛保证各种这样的协议,包括路径,集团,和同步成对的八卦。这些都是通过利用这些协议和块随机Kaczmarz方法解决线性系之间的连接。此外,我们扩展现有的块随机Kaczmarz的收敛结果,允许更一般的选择块,秩亏系统,并提供更严格的收敛速度保证。我们进一步将这种分析应用于不一致的共识模型,并获得类似的保证。这些方法提供了一个广泛的实证分析各种合成网络。
2021-10-27 cs.DC cs.MA cs.SY
Randomized Block Coordinate DC Programming
Umeå University(于默奥大学);Technical University of Munich(慕尼黑工业大学)
本文提出了一种随机块坐标DC编程方法,通过扩展差分凸算法,实现了具有可分离结构问题的非渐近收敛性分析,并引入了基于EM算法的随机块坐标方法。
2025-11-27 math.OC math.ST stat.TH
Distributed Computing for Huge-Scale Aggregative Convex Programming
Indian Institute of Technology Madras(印度马德拉斯理工学院)
本文提出了一种用于大规模聚合凸规划的分布式计算算法,通过一致性块和松弛变量处理约束,并利用多种优化方法实现收敛,收敛速率为O(1/k^{1/2})。
2026-07-30 math.OC
Randomized Constraints Consensus for Distributed Robust Mixed-Integer Programming
在本文中,我们考虑一个网络的处理器,旨在合作解决混合整数凸规划的不确定性。每个节点只知道一个共同的费用函数和它的局部不确定约束集。我们提出了一个随机的,分布式算法工作在异步,不可靠和定向通信。该算法是基于本地计算和通信范式。在每个通信回合,节点执行两个更新:(i)验证,其中它们以随机方式检查候选最佳点的鲁棒可行性,以及(ii)优化步骤,其中它们与邻居交换其候选基础(定义解的最小约束集)并本地解决最优化问题。作为主要的结果,我们表明,处理器可以停止算法后,有限数量的通信轮(无论是因为验证已成功的足够数量的轮或因为一个给定的阈值已达到),使候选人最优解是一致的。共同的解决方案被证明是-具有高置信度-可行的,因此,除了具有任意小的概率测度的子集的不确定性的整个集合的最佳。我们使用两个例子:一个随机的,不确定的混合整数线性规划和无线传感器网络中的分布式定位所提出的分布式算法的有效性。分布式算法在多核平台上实现,其中节点异步通信。
2019-07-09 cs.DC cs.SY eess.SY
A matheuristic approach for the $b$-coloring problem using integer programming and a multi-start multi-greedy randomized metaheuristic
给定一个图$G=(V,E)$,$b$ -着色问题是给$V$中的每个顶点赋予一种颜色,使得邻顶点接收不同的颜色,每个颜色都有一个$b$ -顶点,并且颜色的数量最大化.一个$b$ -顶点是一个顶点相邻的顶点着色的所有使用的颜色,但自己的。已知$b$ -着色问题是NP-困难的,并且其最优解确定$G$的$b$ -色数,记为$χ_b(G)$。本文提出了一个整数规划公式和一个非常有效的多贪婪随机启发式,可以用于多开始元启发式。此外,提出了一种数学方法相结合的多开始多贪婪随机元启发式与MIP(混合整数规划)为基础的局部搜索过程中使用的整数规划制定。计算实验表明,所提出的多开始元启发式算法在生成高质量的解决方案方面非常有效,同时数学方法成功地改善了其中的几个结果。此外,计算结果表明,多开始元启发式优于一个国家的最先进的混合进化元启发式的一个子集的大型实例,以前在文献中考虑。这项工作的另一个贡献是建议的基准实例集,其中包括新生成的实例以及其他文献中的经典图问题,其目的是标准化计算比较的方法为$b$着色问题在未来的工作。
2021-02-19 cs.DM math.OC
Speeding up Linear Programming using Randomized Linear Algebra
线性规划(LP)是一种非常有用的工具,已成功应用于解决广泛领域的各种问题,包括运筹学,工程学,经济学,甚至更抽象的数学领域,如组合学。它也被用于许多机器学习应用,如$\ell_1$正则化支持向量机,基追踪,非负矩阵分解等。内点方法(IPM)是理论和实践中最流行的方法之一。其潜在的复杂性主要是在每次迭代时求解线性方程组的成本。在本文中,我们考虑\emph{infeasible} IPM的特殊情况下,变量的数量远远大于约束的数量。使用随机线性代数的工具,我们提出了一种预处理技术,当与共轭梯度迭代求解器相结合时,可证明保证不可行的IPM算法(适当修改以考虑近似求解器所产生的误差)收敛到一个可行的近似最优解,而不会增加其迭代复杂性。我们的实证评估验证了我们的理论结果在现实世界和合成数据。
2020-03-18 cs.DS math.OC
On the mean square error of randomized averaging algorithms
Politecnico di Torino(都灵理工大学);Université catholique de Louvain(天主教鲁汶大学)
本文针对保持“平均”的随机离散时间一致性系统,给出了共识值与初始平均值的均方偏差上界,并应用于稀疏或弱相关交互系统,证明偏差随网络规模增大而趋于零且衰减速度不低于规模倒数。
2013-04-18 cs.SI cs.SY eess.SY
Distributed Randomized Block Stochastic Gradient Tracking Method
我们考虑网络上的分布式优化,其中每个代理与一个光滑和强凸的局部目标函数。我们假设代理商只能获得其目标函数的梯度的无偏估计。受大数据应用的启发,我们的目标在于当解空间的维数可能很大时解决这个问题,因此,局部梯度映射的计算可能变得昂贵。我们开发了一个随机块坐标最近开发的分布式随机梯度跟踪(DSGT)方法的变体。我们分别在一个最优性度量和一个一致违反度量下得到了阶$1/k$和$1/k^2$的非渐近收敛速度。重要的是,虽然块坐标方案已经研究了分布式最优化问题之前,所提出的算法似乎是第一个随机块坐标梯度跟踪方法,配备了上述收敛速度声明。我们验证了所提出的方法的性能MNIST和不同的网络设置下的合成数据集。
2021-10-13 math.OC
Convergence Rates of Average-Reward Multi-agent Reinforcement Learning via Randomized Linear Programming
在基于平均成本准则的表格式多智能体强化学习中,一组智能体顺序地与环境交互并观察局部激励。我们专注于的情况下,全球奖励是一个地方的奖励,联合政策因式分解成代理的边际,和完整的状态可观性。到目前为止,几乎没有全局最优性保证存在,即使是这个简单的设置,因为大多数结果产生收敛到平稳的参数化政策在大/可能连续的空间。为了巩固MARL的基础,我们建立在线性规划(LP)的重新制定,随机原始对偶方法产生一个无模型的方法来实现\emph{optimal sample complexity}在集中的情况下。我们开发多代理扩展,代理解决他们的本地鞍点问题,然后执行本地加权平均。我们建立的样本复杂性,以获得近全球最优解匹配紧依赖于状态和动作空间的基数,并表现出经典的缩放相对于网络按照多智能体优化。实验证实了这些结果在实践中。
2021-10-22 math.OC stat.ML
Gossip consensus algorithms via quantized communication
Center for Control, Dynamical Systems and Computation, University of California, Santa Barbara(加州大学圣塔芭芭拉分校控制、动力系统与计算中心)
针对数字链路网络中的平均共识问题,提出基于成对八卦通信与更新的算法,并分析其收敛性以解决量化器选择与状态信息使用问题。
2009-09-14 cs.SY eess.SY math.OC
Generalized Geometric Programming for Rate Allocation in Consensus
分布式平均(英语:Distributed average),或分布式平均共识(英语:Distributed average consensus),是一种计算分散在网络节点中的数据样本均值的常用方法。通过与邻居迭代地交换消息,网络的节点可以收敛到其初始状态的样本均值的一致性。在实际场景中,这些消息受到带宽和功率约束,这促使设计有损压缩策略。很少有现有的工作考虑的角度来看,约束优化,这提供了一个原则性的方法,设计的有损压缩计划的速率分配问题,允许放宽某些假设,并提供性能保证。我们表明,高斯分布的初始状态与熵编码的标量量化和矢量量化的编码率分布平均可以通过广义几何规划进行优化。在没有来自过去状态的边信息的情况下,该方法找到在有限运行时间内实现目标均方误差所需的最小化聚合编码速率的节点和迭代上的速率分配。我们的速率分配相比,通过数值模拟的一些现有技术。结果激励边信息通过差分或预测编码,以提高率失真性能的结合。
2017-10-25 cs.IT math.IT math.OC
Revisiting Randomized Gossip Algorithms: General Framework, Convergence Rates and Novel Block and Accelerated Protocols
University of Edinburgh(爱丁堡大学);KAUST(卡塔尔科技大学);MIPT(莫斯科国立信息安全研究学院)
本文提出了一种新的随机广播算法分析和设计框架,用于解决平均共识问题。通过将经典随机迭代方法应用于特殊系统来解释网络结构,展示了其去中心化特性。该框架恢复了多种已知的广播算法作为特殊情况,并允许开发具有证明更快变体的方法。我们还提出了新的块和第一个可证明加速的随机广播协议,以及双随机广播算法。
2019-06-03 cs.DC cs.LG cs.MA
Randomized dynamic programming principle and Feynman-Kac representation for optimal control of McKean-Vlasov dynamics
我们分析了一个随机最优控制问题,其中状态过程遵循McKean-Vlasov动力学,扩散系数可以退化。我们证明了它的值函数V可由一类正倒向随机微分方程的非线性Feynman-Kac表示来表示,其中正倒向过程是自治的.我们利用这种概率表示来严格证明V的动态规划原理(DPP)。我们获得的Feynman-Kac表示在获得我们的主要结果时具有超越其中介作用的重要作用:实际上,它在发展V的概率数值方案时是有用的。DPP在获得作为非线性偏微分方程的解的值函数的特征方面是重要的(所谓的Hamilton-Jacobi-Belman方程),在这种情况下,在Wasserstein测度空间上。我们应该注意到,求解这些方程的通常方法是通过庞特里亚金最大值原理,这需要一些凸性假设。以前也有使用动态规划方法的尝试,但是这些工作事先假定控制是马尔可夫反馈型的,这有助于仅根据状态过程的分布来编写问题(并且控制问题变成确定性问题)。在本文中,我们将考虑开环控制,并在这种最一般的情况下推导出动态规划原理。为了获得Feynman-Kac表示和随机动态规划原理,我们实现了所谓的随机化方法,该方法包括制定一个新的McKean-Vlasov控制问题,以弱形式表示,在一个家庭的等价概率测度的上确界。本文的主要结果之一是证明后一个控制问题具有相同的价值函数V的原始控制问题。
2016-11-14 math.OC math.PR
Asynchronous Distributed Optimization using a Randomized Alternating Direction Method of Multipliers
考虑一组网络代理赋予私人成本函数,并寻求找到一个共识的最小化的总成本。介绍了一类新的随机异步分布优化方法。该方法将标准的交替方向乘法器(ADMM)推广到异步设置,其中网络的隔离组件以不协调的方式被激活。该算法依赖于引入随机高斯-赛德尔迭代的道格拉斯-Rachford运营商寻找两个单调运营商的总和的零。收敛到所寻求的极小提供温和的连接条件下。数值结果支持我们的主张。
2013-03-12 cs.DC math.OC
Convergence Rate Estimates for Consensus over Random Graphs
具有随机交互的多智能体协调算法已经在多智能体系统文献中的各种设置中使用。在某些情况下,这些算法可以是随机的设计,如在一个八卦类算法,并在其他情况下,他们是随机的,由于外部因素,如在间歇性通信的情况下。针对这两种情况,我们提出了新的收敛速度估计的共识问题解决随机图。已建立的结果提供了渐近收敛,在这种情况下,我们提供了两种形式的收敛速率的估计。首先,我们估计二次李雅普诺夫函数随着时间的推移而减少,以限制代理人的分歧衰减的速度,其次,我们限制了距离协议点至少给定距离的概率。这两种估计都依赖于(近似地)计算随机图的拉普拉斯算子的期望矩阵指数的特征值,我们明确地根据网络的大小和边缘概率来计算,而不假设它们之间存在任何关系。仿真结果提供支持的理论发展。
2017-03-21 math.OC
Randomized Gossiping with Effective Resistance Weights: Performance Guarantees and Applications
将加权无向图中一对节点之间的有效电阻定义为单位电流从一个节点注入另一个节点引出时所产生的电位差,将边的权值视为边的电导值。有效电阻是许多应用中感兴趣的关键量,例如,求解线性系、马尔可夫链和连续时间平均网络。我们认为有效电阻(ER)的背景下,设计随机八卦方法的共识问题,其目的是计算平均值的节点值在一个分布式的方式,通过迭代计算随机选择的邻居之间的加权平均值。我们发现,采用ER权重提高了平均时间对应于传统的选择统一的权重-改善的量取决于网络结构。我们通过数值实验来说明这些结果。我们还提出了一个应用程序的ER八卦的分布式优化:我们数值验证,使用ER八卦的EXTRA和DPGA-W方法提高了他们的实际性能的通信效率。
2021-10-16 math.OC
Discounted Continuous-time Markov Decision Processes with Unbounded Rates: the Dynamic Programming Approach
本文研究Borel状态空间和行动空间中的无约束折扣连续时间马氏决策过程。在某些条件下施加的原语,允许无界的过渡率和无界(从上面和下面)的成本率,我们显示的规律性的控制过程,这确保了底层模型被很好地定义。然后,我们开发的动态规划的方法,显示贝尔曼方程满足(由最优值)。最后,在一定的紧连续性条件下,我们得到了一类随机历史依赖策略中确定性平稳最优策略的存在性。
2011-03-01 math.OC
A New Perspective on Randomized Gossip Algorithms
在这篇短文中,我们提出了一种新的方法来设计和分析随机八卦算法,可用于解决平均共识问题。我们展示了如何随机块Kaczmarz(RBK)方法-一种解决线性系统的方法-作为八卦算法时,应用到一个特殊的系统编码的底层网络。著名的成对流言算法是一个特例。随后,我们揭示了一个隐藏的对偶随机八卦算法,与对偶迭代过程保持一组数字连接到边缘,而不是网络的节点。我们证明了RBK在块的大小上获得了超线性的加速比,并通过实验证明了这种效果。
2016-10-15 cs.DC cs.IT math.IT
Maximum Cuts and Fractional Cut Covers: A Computational Study of a Randomized Semidefinite Programming Approach
University of Waterloo(滑铁卢大学);Institute of Mathematics, Statistics, and Computer Science, University of São Paulo(圣保罗大学数学、统计和计算机科学学院);Center for Mathematics, Computing and Cognition, Federal University of the ABC Region(ABC地区联邦大学数学、计算与认知中心)
本文研究一种同时近似最大割和加权分数割覆盖问题的对偶框架,通过半定规划松弛和随机超平面技术实现近 optimality 证明,达到 Goemans 和 Williamson 的 0.878 约束比。
2026-04-19 cs.DM math.OC
A Consensus-ADMM Approach for Strategic Generation Investment in Electricity Markets
本文研究了电力市场中战略(定价者)发电商的多阶段发电投资问题。这个问题暴露于不同的不确定性来源,包括短期运营(例如,竞争对手的提供策略)和长期宏观(例如,需求增长)的不确定性。将该问题转化为一个随机双层最优化问题,并最终转化为一个计算量有限的大规模随机混合整数线性规划(MILP)问题。为了应付计算问题,我们提出了一个共识版本的交替方向法的乘数(ADMM),分解的原始问题的短期和长期的情况。虽然ADMM的收敛到全局解一般不能保证MILP问题,我们引入了两个界限的最优解,允许的解决方案的质量评估迭代。我们的数值结果表明,有一个权衡计算时间和解决方案的质量。
2018-10-30 math.OC
Corporative Stochastic Approximation with Random Constraint Sampling for Semi-Infinite Programming
提出了求解半无限规划(SIP)问题的合作随机逼近(CSA)型算法,其中割生成问题是不精确求解的。首先,我们提供一般的误差界不精确CSA。然后,我们提出了两个具体的随机约束抽样方案,近似解决切割生成问题。当目标和约束函数一般是凸的,我们表明,我们的随机CSA算法实现了$\mathcal{O}(1/\sqrt{N})$收敛速率的预期(在最优性差距以及SIP约束违反)。当目标函数和约束函数都是强凸函数时,该速率可以改进为$\mathcal{O}(1/N)$。
2018-12-21 math.OC
A convex programming approach for discrete-time Markov decision processes under the expected total reward criterion
在这项工作中,我们研究了离散时间马尔可夫决策过程(MDPs)的约束下与Borel状态和行动空间,所有的性能函数具有相同形式的期望总回报(ETR)标准在无限的时间范围内。我们的目标之一是提出一个凸规划制定这种类型的MDPs。它将表明,约束控制问题和相关的凸规划的值相吻合,如果存在一个最优解的凸规划,那么存在一个固定的随机化的政策,这是最佳的MDP。它还将表明,在约束控制问题的框架中,在一组随机化的政策的预期总回报的上确界是等于在一组固定的随机化的政策的预期总回报的上确界。我们考虑标准的假设,如所谓的连续紧性条件和斯莱特型条件。我们的假设是相当薄弱的情况下,尚未在文献中得到解决。一个例子来说明我们的结果相对于那些文献。
2019-05-09 math.OC math.PR
Linear programming approach to optimal impulse control problems with functional constraints
本文考虑由流产生的动力系统的最优脉冲控制问题。性能标准是无限时间范围内的总成本。除了要最小化的主要性能之外,对于类似类型的性能泛函存在多个约束。在一组自然的紧连续性条件下,建立了一个线性规划方法,证明了一个平稳的最优控制策略的存在性.这是通过使用马尔可夫决策过程的工具来完成的。
2020-10-24 math.OC
Symmetrizing quantum dynamics beyond gossip-type algorithms
针对量子领域的平均共识问题,提出两种基于准局域制备对称纯态混合态的耗散工程改进方法,性能优于现有gossip型算法,可分别用于制备纯Dicke态和实现更强的单次测量共识,且均支持随机化与反馈实现。
2016-03-15 math.OC quant-ph
Randomized Nyström Preconditioned Interior Point-Proximal Method of Multipliers
针对可分凸二次规划问题,提出结合随机Nyström预处理共轭梯度法的无矩阵正则化内点求解器Nys-IP-PMM,证明其收敛性,实验显示其运行时间优于现有同类方法。
2025-01-14 math.OC
Adaptive Consensus: A network pruning approach for decentralized optimization
针对分布式优化中通信瓶颈问题,提出自适应随机通信高效框架,通过跟踪不一致误差并选择关键边减少通信,给出AC与AC-GT算法,具备理论收敛保证且实验验证有效。
2023-09-06 math.OC stat.ML
Provably Accelerated Randomized Gossip Algorithms
The University of Edinburgh, UK(爱丁堡大学);Facebook AI Research, Montreal(脸书人工智能研究);KAUST, KSA(王国立科技大学)
本文提出了一种可证明加速的随机传话算法,用于解决平均一致性问题。该算法受到最近开发的加速随机Kaczmarz方法的启发,该方法是解决线性系统问题的流行方法。在每次传话迭代中,网络中的所有节点都会更新它们的值,但只有成对的节点交换私有信息。还展示了在流行无线传感器网络上的数值实验,展示了我们协议的优势。
2018-10-31 cs.DC cs.LG cs.MA
Average-Consensus Algorithms in a Deterministic Framework
The University of British Columbia(不列颠哥伦比亚大学)
针对有限规模多节点网络中的平均一致性问题,提出四种分布式算法,给出实现平均一致性的充要通信条件,并分析资源成本。
2011-06-15 cs.DC cs.SY eess.SY
A Cutting-plane Method for Semidefinite Programming with Potential Applications on Noisy Quantum Devices
本文提出基于随机割平面法的半定规划求解方法,利用特征求解器的量子加速优化凸优化问题,并在SDPLIB基准上验证其有效性与对噪声的鲁棒性。
2021-10-07 math.OC quant-ph
Consensus Control for Linear Systems with Optimal Energy Cost
在本文中,我们设计了一个最优能量成本控制器的线性系渐近一致给定的图的拓扑结构。控制器仅依赖于代理的相关信息。由于找到这样的控制器的控制增益是困难的,我们专注于寻找一个最优控制器中的一个经典的家庭的控制器,这是基于代数Riccati方程(ARE),并保证渐近一致。通过分析,我们发现能量成本是有界的一个区间,因此我们最小化的上界。为了做到这一点,有两类变量需要优化:控制增益和图的边权重,因此从两个角度进行设计。通过在ARE中选择$Q=0$获得次优控制增益。允许负的边权,并将问题表示为半定规划(SDP)问题。具有负边权重意味着允许代理之间的“竞争”。此设置背后的动机是获得更好的系统性能。我们从优化的角度给出了一个不同的证明,并证明了当图是完全的且具有相等的边权时,控制能量成本最低。此外,还给出了负最优边权重实现存在的两个充分条件。
2017-10-25 math.OC
Randomized Branch Methods with Inexact Subproblems for Bouligand Stationarity in Linear and Quadratic Programs with Complementarity Constraints
Southern University of Science and Technology(南方科技大学);Institute of Computational Mathematics and Scientific/Engineering Computing, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院计算数学与科学工程计算研究所);University of Chinese Academy of Sciences(中国科学院大学);National Center for Applied Mathematics Shenzhen(深圳应用数学国家研究中心)
针对带互补约束的线性和二次规划,提出随机分支方法,利用线性规划子问题求解B-平稳点,实验验证了其在大规模系统上的有效性与竞争性性能。
2026-09-29 math.OC
An Empirical Dynamic Programming Algorithm for Continuous MDPs
提出了一种基于随机函数逼近的马尔可夫决策过程经验值迭代算法。“经验”的性质来自于每次迭代都是根据下一个状态的模拟所提供的样本经验地进行的。这使得Bellman算子成为随机算子。将参数化函数空间和再生核希尔伯特空间(RKHS)分别用于函数逼近的参数化和非参数化方法与EVI相结合。这两个函数空间都具有通用函数逼近性质。基函数是随机选取的。收敛性分析是使用随机算子框架与随机优势理论的技术。有限时间样本复杂性界推导出这两个通用的近似动态规划算法。数值实验证明了该方法的通用性和有效性。
2019-04-23 math.OC
A Randomized Nonmonotone Block Proximal Gradient Method for a Class of Structured Nonlinear Programming
Simon Fraser University(西蒙弗雷泽大学);Microsoft Research(微软研究院)
我们提出了一个随机非单调块邻近梯度(RNBPG)方法,用于最小化光滑(可能非凸)函数和块可分(可能非凸非光滑)函数之和。在每次迭代中,该方法根据任何规定的概率分布随机选取一个块,并通常解决几个相关的邻近子问题,通常具有封闭形式的解决方案,直到目标值取得一定的进展。与通常的随机块坐标下降法[23,20]相比,我们的方法具有非单调的味道,并使用可变步长,可以部分利用目标函数的光滑分量的局部曲率信息。我们证明了该方法解序列的任何聚点都是问题的一个稳定点{ \it almost surely},并且该方法能够以很高的概率找到一个近似的稳定点.我们还建立了一个次线性的收敛速率的方法在最小期望平方范数的某些邻近梯度的迭代。当所考虑的问题是凸的,我们证明了RNBPG产生的期望目标值收敛到问题的最优值。在一些假设下,我们进一步建立了一个次线性和线性收敛速率的期望目标值产生的单调版本的RNBPG。最后,我们进行了一些初步的实验,以测试性能的RNBPG上的$\ell_1$正则化最小二乘问题和机器学习中的对偶SVM问题。计算结果表明,我们的方法大大优于随机块坐标{ \it下降}方法与固定或可变步长。
2015-03-21 cs.LG cs.NA math.NA
A Privacy Preserving Randomized Gossip Algorithm via Controlled Noise Insertion
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Google(谷歌公司);University of Edinburgh(爱丁堡大学);Moscow Institute of Physics and Technology(莫斯科物理技术学院);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
本文提出一种通过受控噪声插入的随机Gossip算法,在解决平均一致性问题的同时保护节点初始私有值,并给出了迭代复杂度界限及广泛的数值实验验证。
2019-01-27 cs.DC cs.LG cs.MA
Distributed Randomized Algorithms for the PageRank Computation
Tokyo Institute of Technology(东京工业大学);CNR-IEIIT, Politecnico di Torino(意大利都灵理工大学国家研究委员会信息与通信技术研究所)
针对PageRank计算问题,提出了几种分布式随机算法,通过局部通信实现渐近均方收敛到真实PageRank值,并讨论了与多智能体一致性问题的紧密联系。
2012-03-29 cs.SY eess.SY math.OC
Almost sure convergence of a randomized algorithm for relative localization in sensor networks
Politecnico di Torino(都灵理工大学);CNR-IEIIT, Politecnico di Torino(意大利国家研究委员会-信息与电气工程学院研究所,都灵理工大学);Tokyo Institute of Technology(东京工业大学)
针对传感器网络相对定位问题,提出一种基于输入驱动共识动力学和成对gossip通信更新的随机化算法,证明状态时间平均几乎必然收敛到最小二乘解,且无需公共时钟,实现完全分布式异步计算。
2013-03-12 cs.SY eess.SY math.OC
Mix-CALADIN: A Distributed Algorithm for Consensus Mixed-Integer Optimization
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));KTH Royal Institute of Technology(瑞典皇家理工学院);The Hong Kong University of Science and Technology(香港科技大学)
本文提出一种处理混合整数优化问题的分布式算法,特别针对布尔变量,通过改进CALADIN框架实现收敛性保证。
2026-04-16 cs.SY eess.SY math.OC
Computational bounds on randomized algorithms for online bin stretching
本文针对在线箱子拉伸问题,提出用线性规划和博弈论构造随机算法并计算其性能下界,所提随机算法优于已知最佳确定性算法。
2024-05-29 cs.GT math.OC
Privacy-preserving Incremental ADMM for Decentralized Consensus Optimization
乘法器的交替方向法(ADMM)最近被认为是大规模机器学习模型的有前途的优化器。然而,有很少的结果研究ADMM从通信成本方面,特别是结合隐私保护,这是分布式学习的关键。通过求解分散网络上的一致性最优化问题,研究了ADMM的通信效率和隐私保护。由于步行算法可以减少通信负载,我们首先提出了增量ADMM(I-ADMM)的基础上的步行算法,其更新顺序遵循一个哈密顿圈。然而,I-ADMM不能保证隐私的代理对外部窃听者,即使随机初始化应用。为了保护代理的隐私,我们提出了两个隐私保护的增量ADMM算法,即,PI-ADMM 1和PI-ADMM 2,其中分别采用对步长和原始变量的扰动。通过理论分析,证明了PI-ADMM 1算法的收敛性和隐私保护性,并通过数值实验进一步验证了算法的有效性。此外,仿真结果表明,提出的PI-ADMM 1和PI-ADMM 2算法是通信效率与国家的最先进的方法相比。
2020-03-24 cs.DC math.OC
A Semidefinite Programming Method for Integer Convex Quadratic Minimization
考虑整数格${\bf Z}^n$上凸二次函数极小化的NP-困难问题。我们提出了一个简单的半定规划(SDP)松弛获得的最优值的问题的一个非平凡的下界。通过解释的解决方案的SDP松弛概率,我们得到了一个随机算法找到良好的次优解,从而上界的最优值。该方法的有效性示出了各种大小的数值问题的实例。
2017-03-10 cs.DS math.OC
Efficient Network Reconfiguration by Randomized Switching
针对加权无向图上NP难的组合网络重构问题,提出随机切换算法,通过设计配置分布使拥塞集中于最优值,利用广义自和谐特性结合条件梯度法求解,性能远超商用MISOCP求解器。
2025-10-28 cs.SY eess.SY math.OC
Scalable Semidefinite Programming
半定规划(SDP)是一个强大的凸优化框架,在数据科学应用中具有惊人的潜力。本文提出了一种可证明正确的随机算法,用于解决大型弱约束SDP问题,节省了存储和运算成本。数值实验表明,该方法是有效的一系列应用,包括松弛的MaxCut,抽象相位检索,和二次分配。该算法在笔记本电脑上运行,可以处理矩阵变量超过$10^{14}$条目的SDP实例。
2021-03-25 math.CO math.OC
A Linear Programming Approach to Estimate the Core in Cooperative Games
针对可转移效用合作博弈核的计算难题,提出一种基于随机线性规划采样极点的核逼近算法,分析了其收敛性与复杂度,仿真验证其具备可扩展性且核重构精度高。
2025-10-02 cs.GT math.OC
Nonlinear Set Membership Filter with State Estimation Constraints via Consensus-ADMM
本文研究了带有未知但有界噪声的非线性动态系统的状态估计问题。集员过滤器(SMF)是一种流行的算法来解决这个问题。在集员设置中,我们研究了状态估计需要由线性或非线性等式约束的滤波器问题。提出了一种基于一致交替方向法的非线性动态系统SMF算法。针对非线性的困难,采用半无限规划(SIP)方法将非线性系统转化为线性系统,而不是将非线性系统线性化,从而得到更精确的估计椭球。针对SIP问题的求解,提出了一种ADMM算法来处理状态估计约束,该算法的每次迭代都能有效求解。最后,通过典型算例验证了该滤波器的有效性.
2022-11-09 math.OC stat.ME