Model-free stochastic linear quadratic control for discrete-time systems with multiplicative and additive noises via semidefinite programming
College of Electrical Engineering and Automation, Shandong University of Science and Technology(山东科技大学电气工程学院);School of Mathematics and Statistics, Shandong University of Technology(山东理工大学数学与统计学院);College of New Energy, China University of Petroleum (East China)(中国石油大学(华东)新能源学院)
本文提出了一种基于半正定规划的无模型随机线性二次控制方法,通过理论分析和实验验证,实现了非迭代、样本高效且无需超参数调优的最优控制增益估计。
2025-12-24 math.OC
On the Value of Linear Quadratic Zero-sum Difference Games with Multiplicative Randomness: Existence and Achievability
针对MIMO衰落导致乘性随机性并破坏闭环能控性的多控制器—多攻击者LQ零和差分博弈,本文给出博弈值存在的充要条件、可验证充分条件及达到该值的闭式鞍点策略。
2025-02-17 math.OC
Policy iteration using Q-functions: Linear dynamics with multiplicative noise
本文提出了一种新的无模型和完全数据驱动的政策迭代计划的二次调节的线性动态状态和输入的乘性噪声。该实现类似于马尔可夫决策过程的最小二乘时间差分格式,通过求解工具变量的最小二乘问题来估计Q函数。通过数值实验将该方案与基于模型的系统辨识方案和自然策略梯度进行了比较。
2022-12-02 math.OC
A fast algorithm for quadratic resource allocation problems with nested constraints
研究了变量和套上具有上下约束的二次资源分配问题及其变形。这个问题出现在许多应用中,特别是智能电网的分散式能量管理(DEM)中的电池调度。我们提出了一个算法,这个问题,运行在$O(n \log n)$的时间,并在现有的算法相比,这个问题,实现这个时间复杂性,使用相对简单,易于实现的子程序和数据结构。这使得我们的算法非常有吸引力的现实生活中的适应和实施。数值比较我们的算法与电池调度的子程序在现有的工具DEM研究表明,我们的算法显着减少了DEM系统的整体执行时间,特别是当电池预计将完全充满或空多次在最佳时间表。此外,模拟数据的计算实验表明,我们的算法优于目前最有效的算法超过一个数量级。特别是,我们的算法是能够解决所有考虑的情况下,多达一百万个变量在小于17秒的个人电脑上。
2020-09-08 math.OC
Input-Output Performance of Linear-Quadratic Saddle-Point Algorithms with Application to Distributed Resource Allocation Problems
鞍点或原始-对偶方法作为一种系统化的设计分布式算法来解决凸优化问题的技术,最近吸引了新的兴趣。当在线实现流数据或作为动态反馈控制器时,这些算法会受到干扰和噪声的影响;收敛速度提供不完整的性能信息,量化输入输出性能变得更加重要。我们分析了应用于线性约束二次规划的连续时间鞍点方法的输入输出性能,在相关的输入输出配置下提供了鞍点H2范数的显式表达式。然后,我们继续得到类似的结果,正则化和增广版本的鞍点算法。我们观察到一些相当特殊的效果-适度的正则化显着提高了瞬态性能,而增强并不一定提供改进。然后,我们提出了一个分布式的双重版本的算法,克服了一些增强所施加的性能限制。最后,我们将我们的研究结果应用到资源分配问题,比较各种集中式和分布式鞍点实现的输入输出性能,并表明分布式算法可能会执行以及他们的集中式同行。
2018-11-07 math.OC
Numeraire-invariant quadratic hedging and mean--variance portfolio allocation
本文在不含无风险资产的半鞅市场中建立计价单位变换下的二次对冲等价性,利用斜投影给出最优策略显式表达式,并简化了纯投资问题有效前沿的计算。
2025-07-07 math.OC q-fin.PM
Reinforcement Learning for Stochastic LQ Control of Discrete-Time Systems with Multiplicative Noises
针对带乘性噪声离散时间系统的无限时间随机LQ控制问题,提出基于Bellman动态规划的强化学习在线迭代算法,避免直接求解代数Riccati方程,仅用短区间状态轨迹简化计算,数值示例验证了其有效性。
2023-11-21 math.OC
Frequency Theorem for discrete time stochastic system with multiplicative noise
University of Dar Es Salaam(达累斯萨拉姆大学);Curtin University(科廷大学)
针对无限时域乘性噪声离散时间线性随机系统,提出最优控制存在的充要条件为频域矩阵不等式,并证明最优控制可通过求解依赖于李雅普诺夫方程解的确定性线性二次型问题得到。
2011-08-01 cs.SY eess.SY math.OC
Distributed Multi-resource Allocation with Little Communication Overhead
我们提出了一个分布式算法来解决一个特殊的分布式多资源分配问题,没有直接的智能体通信。我们这样做是通过扩展最近推出的加法增加乘法减少(AIMD)算法,它只使用很少的系统和代理之间的通信。也就是说,每当所分配的资源之一超过容量时,控制单元就向代理广播一比特信号。然后,代理以概率的方式对该信号做出响应。在该算法中,每个代理不知道其他代理的资源分配。我们还提出了一个版本的AIMD算法的多个二进制资源(例如,停车位)。二进制资源是不可分割的单位需求资源,每个代理要么分配一个单位的资源,要么不分配。在实证结果中,我们观察到,在这两种情况下,平均分配随着时间的推移收敛到最优分配。
2017-11-06 cs.DC math.OC
Data-Driven Long-Term Asset Allocation with Tsallis Entropy Regularization
针对不确定性下的动态资产配置,本文提出Tsallis熵正则化策略迭代及数据驱动Q函数估计算法,并给出收敛保证。
2025-09-27 math.OC
Online Resource Allocation for Reusable Resources
研究了模型不确定性条件下可复用资源分配的一般模型。客户的非齐性总体顺序地到达决策者(DM)的平台。在观察客户的类型时,DM选择分配决策,这导致获得奖励和占用资源。每个资源单元被占用一个随机的持续时间,并且该单元在使用持续时间之后可用于另一个分配。我们的模型捕获了许多应用程序,涉及准入控制和分类规划。DM的目标是同时最大化多种类型的回报,同时满足资源约束和不确定的客户的到来过程。我们开发了一个接近最优的算法,实现最优预期回报的$(1-ε)$分数,其中的误差参数$ε$衰减为零的资源容量单位和地平线的长度增长。该算法以一种新颖的方式迭代地应用乘法权重更新算法,该算法平衡了获得的奖励量、占用的资源和使用持续时间之间的权衡。
2022-12-06 math.OC
Optimal Resource Scheduling and Allocation under Allowable Over-Scheduling
研究了在允许超调度条件下的最优调度和资源分配问题。制定一个优化问题的过度调度是嵌入式的,我们推导出一个最优解,可以通过一个新的加法增加乘法减少(AIMD)算法来实现。在描述了AIMD的调度机制作为一个开关系统,我们显示收敛的计划,基于联合谱半径的对称矩阵,并提出了两种方法来拟合最佳AIMD调谐的最优解。最后,我们通过一个说明性的例子展示了整体的最优设计策略。
2022-03-31 cs.DC cs.SY eess.SY
Efficient Simulation Budget Allocation for Subset Selection Using Regression Metamodels
本研究考虑从有限集中选择最佳子集的排序与选择(R&S)问题。给定总的模拟预算约束,我们的目标是最大限度地正确选择前m个设计的概率。为了提高选择效率,我们将跨域的信息纳入回归元模型。在本研究中,我们假设每个设计的平均性能近似为二次型。为了更好地拟合该模型,我们将解空间划分为相邻的分区,使得在每个分区内可以满足二次假设。利用大偏差理论,提出了一种分区情况下的近似最优仿真预算分配规则。数值实验表明,该方法可以显著提高模拟效率。
2019-04-24 math.OC stat.ME
Reinforcement Learning-Based Optimal Control for Multiplicative-Noise Systems with Input Delay
研究了具有输入时滞且部分系统动态未知的乘性噪声系统基于强化学习的最优控制问题。为了解决一个变种的Riccati-ZXL方程,这是一个对应的标准Riccati方程,并确定最优控制器,我们首先开发了一个必要和充分的稳定条件的形式几个李雅普诺夫型方程,一个并行的经典李雅普诺夫理论。在此基础上,我们给出了一种求解变形式Riccati-ZXL方程的离线收敛算法。根据收敛算法,我们提出了一种基于RL的最优控制设计方法,用于求解部分未知系统动态的线性二次型调节问题。最后,通过一个算例对算法进行了验证.
2023-01-07 math.OC
Policy Iteration for Multiplicative Noise Output Feedback Control
提出了一种求解乘性噪声线性二次输出反馈设计问题的策略迭代算法。该算法求解一类线性动态控制策略下部分可观测马尔可夫决策过程(POMDP)的估计和控制的耦合Riccati方程组。我们在数值实验中显示出更快的收敛速度比值迭代算法,以前唯一已知的算法解决这类问题。结果表明,在更一般的POMDPs的政策优化算法,包括潜在的开发新的近似数据驱动的方法时,模型参数不可用的未来研究方向。
2022-03-31 cs.SY eess.SY math.OC
Optimal control of discrete-time linear fractional order systems with multiplicative noise
研究了一类离散线性分式系统在乘性独立随机扰动作用下的有限时域线性二次型(LQ)最优控制问题。基于动态规划技术,提出了两种求解该问题的方法。第一个似乎是新的,并使用线性,扩展状态模型的LFS。将LQ最优控制问题归结为随机线性系的一个类似问题,并通过求解Riccati方程得到其解。第二种方法利用最优性原理,直接利用分数阶系统给出了计算最优控制和费用的算法。如所期望的,在这两种情况下,最优控制是状态中的线性函数,并且可以由计算机程序计算。两个数值算例证明了每种方法的有效性。
2016-06-30 math.OC
From Oja's Algorithm to the Multiplicative Weights Update Method with Applications
Technion - Israel Institute of Technology(以色列理工学院)
本文提出新观察,证明 Oja 算法在共享特征向量的对称矩阵序列上的遗憾值可直接由乘法权重更新方法的遗憾值界定,并探讨了其在单位球面上二次型优化的应用。
2023-10-24 cs.LG math.OC
Optimal Covariance Steering for Continuous-Time Linear Stochastic Systems With Multiplicative Noise
本文研究了加性噪声和乘性噪声共同作用下连续线性随机系统的有限时域最优协方差控制问题。噪声可以是连续的,也可以包含跳跃。加性噪声不依赖于状态或控制,而乘性噪声具有与当前状态成比例的幅度。在状态和控制中,假设成本都是二次的。首先,在温和的假设下,建立状态协方差的可控性。然后,提供用于操纵协方差的最优控制。最后证明了最优控制的存在唯一性。在这个过程中,我们提供了一个结果的独立利益的最大区间的存在性矩阵里卡蒂微分方程的解决方案。
2023-01-27 cs.SY eess.SY math.OC
Leader-Follower Mean Field LQG Games with Multiplicative Noise
本文提出了一种具有乘性噪声的领导者-追随者均场LQG游戏的开环和反馈解方法,通过均场近似和矩阵极大原理,得出了最优控制策略和成本的显式表达式。
2025-12-03 math.OC
The Convergence of Finite-Averaging of AIMD for Distributed Heterogeneous Resource Allocations
本文针对分布式异构资源分配问题,分析了基于随机化AIMD算法、仅需与中央智能体少量通信的分布式方案,通过有限窗口时间平均和位置依赖概率马尔可夫链建模,证明了时间平均分配向量收敛到唯一不变测度且具有遍历性。
2020-01-24 cs.SY eess.SY math.OC
Optimal Local and Remote Controls of Multiple Systems with Multiplicative Noises and Unreliable Uplink Channels
研究了由多个子系统组成的网络控制系统(NCS)的最优本地和远程线性二次(LQ)控制问题,其中每个子系统由一个带有本地控制器和一个远程控制器的一般乘性噪声随机系统描述.由于上行通道不可靠,远程控制器只能访问所有子系统的不可靠状态信息,而从远程控制器到本地控制器的下行通道是完美的。这种系统的LQ控制问题的困难来自于本地控制器和远程控制器的不同信息结构。通过发展Pontyagin最大值原理,导出了基于一组前向和向后差分方程(G-FBSDEs)解的可解性充要条件.此外,通过提出一种新的解耦方法和引入新的耦合Riccati方程(CRE),得到了具有丢包的乘性噪声网络控制系统的最优控制策略,验证了分离原理的有效性。本文对非对称信息结构下的最优控制问题作了重要的贡献。
2020-07-30 math.OC
Equity Allocation and Portfolio Selection in Insurance: A simplified Portfolio Model
研究了二次离散时间概率模型在再保险中的最优投资组合问题.对于承保水平的正值,累积结果的期望值在其方差和年度ROE的约束下被优化。证明了唯一解的存在性,并给出了一个拉格朗日形式。提出了一种求解欧拉-拉格朗日方程的有效方法。讨论了乘子的近似确定。此基本模型是更完整模型的重要构建块。
1999-07-22 math.OC math.PR
On a reduction for a class of resource allocation problems
在资源分配问题(RAP)中,目标是将给定数量的资源分配给一组活动,同时使分配成本最小化,并可能满足对活动子集的分配约束。RAP及其扩展的大多数解决方案都允许每个活动有自己的费用函数。然而,在许多应用中,目标函数的结构通常对于每个活动是相同的,并且费用函数之间的差异在于不同的参数选择,例如,倍增因素。在这篇文章中,我们介绍了一类新的目标函数,捕获的目标发生在研究的应用程序。这些目标的特征在于取决于两个输入参数的费用函数的共享结构。我们表明,给定两个输入参数,存在一个解决方案的RAP是最佳的共享结构的任何选择。因此,这个问题减少到二次RAP,使得大量的解决方案和算法的后一个问题。我们显示了我们的减少结果的影响,在几个应用程序中,特别是,我们提高了最好的已知的最坏情况下的复杂性界的两个重要问题,在船舶路由和处理器调度从$O(n^2)$到$O(n \log n)$。
2020-08-26 math.OC
Communication-efficient Distributed Multi-resource Allocation
Concordia University(康考迪亚大学);University College Dublin(都柏林大学学院);University of Passau(帕绍大学)
本文提出了一种无需直接通信的分布式多资源分配算法,通过扩展一种新的加性增加乘性减少(AIMD)算法,实现高效的资源分配,实验结果表明平均分配逐渐收敛到最优解。
2018-07-28 cs.SY eess.SY math.OC
Covariance Steering with Optimal Risk Allocation
本文将线性随机系统在机会约束下的最优协方差控制问题推广到最优风险分配问题。以往的工作都假设一个统一的风险分配铸造的最优控制问题作为一个半定规划(SDP),它可以有效地解决使用标准的SDP求解器。我们采用迭代风险分配(IRA)的形式主义,它使用两个阶段的方法来解决最优的风险分配问题的协方差导向。IRA的上层优化风险,这被证明是一个凸问题,而下层优化控制器与新的约束。这是迭代完成的,以便找到实现最低总成本的最佳风险分配。所提出的框架的解决方案,往往最大限度地提高终端协方差,同时仍然满足机会约束,从而导致保守的解决方案比以前的方法。我们还引入了两种新的凸松弛法来近似二次机会约束的二阶锥约束。最后,我们展示了航天器交会问题的方法,并比较结果。
2021-04-12 math.OC
Learning-based primal-dual optimal control of discrete-time stochastic systems with multiplicative noise
本文从原始-对偶视角研究乘性噪声随机线性二次调节器问题,通过非凸优化和强对偶性推导出基于KKT条件的模型与无模型算法,为强化学习提供理论基础并验证其有效性。
2025-06-03 math.OC
Derandomized Distributed Multi-resource Allocation with Little Communication Overhead
CIISE, Concordia University(康考迪亚大学)
本文研究了互联网连接设备中多个共享资源分配的分布式优化问题,提出了一种去随机化的随机加性增加和乘性减少(AIMD)算法变体,通过每个资源与系统之间的一个比特反馈信号实现,无需设备间通信,并且不依赖参与设备的数量。每个互联网连接设备具有严格凸、二阶连续可导且递增的私有成本函数,实验证明多个共享资源的长期平均分配收敛到最优分配,系统达到最小社会成本,且所提去随机化AIMD算法比随机AIMD算法收敛更快,两者提供近似相同的解。
2018-12-21 cs.DC cs.MA cs.SY
Inverse reinforcement learning for indefinite mean-field social optimization with multiplicative noise
School of Control Science and Engineering, Shandong University(山东大学控制科学与工程学院);Department of Applied Mathematics, The Hong Kong Polytechnic University(香港理工大学应用数学系)
针对带有乘性噪声和不定代价权重的线性二次平均场社会优化问题,提出基于模型和无模型的逆强化学习算法,通过专家演示恢复未知社会代价权重,数值模拟验证了方法有效性。
2026-08-10 math.OC
Spectral Sparsification and Regret Minimization Beyond Matrix Multiplicative Updates
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Boston University(波士顿大学)
在本文中,我们提供了一个新的构造的线性大小的谱稀疏的Batson,Spielman和Srivastava [BSS 14]。虽然以前的构造需要$Ω(n^4)$运行时间[BSS 14,Zou 12],但我们的稀疏化例程可以在几乎二次的运行时间$O(n^{2+\varepsilon})$中实现。我们工作的基本概念新颖性是利用稀疏化和密度矩阵上的遗憾最小化问题之间的强连接。已知这种连接通过应用矩阵乘法权重更新(MWU)[CHS11,Vis14]提供了Spielman和Srivastava [SS11]随机稀疏因子的解释。在本文中,我们解释了矩阵MWU如何自然地出现,作为一个例子,跟随正规化领导者框架和推广这种方法,以产生更大的一类更新。这个新类使我们能够加速线性大小的谱稀疏器的构建,并对Batson,Spielman和Srivastava [BSS 14]背后的动机提供新的见解。
2015-06-16 cs.DS cs.LG math.OC
Multi-resource allocation for federated settings: A non-homogeneous Markov chain model
在联合设置中,代理与中央代理或服务器协调以解决最优化问题,其中代理彼此不共享它们的信息。Wirth和他的合著者在最近的一篇论文中描述了如何以简单的方式修改基本的加法-增加乘法-减少(AIMD)算法,以解决一类针对单个共享资源的联邦设置的最优化问题,而无需代理间通信。AIMD算法是目前在实践中部署的最成功的分布式资源分配算法之一。它最为人所知的是作为互联网的骨干,在其他应用领域也得到了广泛的探索。我们将单资源算法扩展到智能城市,共享经济和许多其他应用中出现的多个异构共享资源。我们的主要结果表明,平均分配的最优值的收敛性。我们将系统建模为具有位置依赖概率的非齐次马尔可夫链。此外,仿真结果证明了算法的有效性,并突出我们的分析的主要特点。
2021-05-24 cs.AI cs.SY eess.SY
Robust Learning-Based Control via Bootstrapped Multiplicative Noise
University of Texas at Dallas(德克萨斯大学达拉斯分校)
尽管在自适应控制和强化学习方面进行了数十年的研究和最近的进展,但仍然缺乏对设计控制器的基本理解,这些控制器对由有限噪声数据估计的模型产生的固有非渐近不确定性提供鲁棒性。我们提出了一种鲁棒自适应控制算法,明确地将这种非渐近不确定性的控制设计。该算法有三个组成部分:(1)一个最小二乘标称模型估计;(2)一个自举响应方法,量化的非渐近方差的标称模型估计;和(3)一个非传统的鲁棒控制设计方法,使用最优线性二次型调节器(LQR)与乘性噪声。所提出的方法的一个主要优点是,系统辨识和鲁棒控制设计过程都使用随机不确定性表示,使实际固有的统计估计不确定性直接对准的不确定性的鲁棒控制器的设计。我们通过数值实验表明,所提出的鲁棒自适应控制器可以显着优于确定性等价控制器的预期后悔和后悔风险的措施。
2021-08-11 cs.LG cs.SY eess.SY
Linear-quadratic stochastic delayed control and deep learning resolution
本文考虑一类具有时滞控制的随机控制问题,其控制类型为dX t = $α$ t--d(bdt + $σ$ dW t).我们提供了一个新的表征的解决方案的一组Riccati偏微分方程。在直接表示为视界T与量d(b/ $σ$)2之间的关系的充分条件下获得存在唯一性。此外,设计了一个深度学习方案,并用于说明延迟对具有执行延迟的Markowitz投资组合分配问题的影响。
2021-02-24 math.OC math.PR q-fin.CP
Parallel Network Flow Allocation in Repeated Routing Games via LQR Optimal Control
在这篇文章中,我们研究了平行网络上的重复路由博弈问题,每条边上的仿射延迟函数。我们铸造的游戏设置在一个LQR控制理论框架,利用罗森塔尔潜在的制定。我们使用控制技术来分析游戏动态的收敛与特定的情况下,借给自己的最优控制。设计了合适的动力学参数,保证了流量守恒。我们使用多参数二次规划方法(显式MPC)为一般最优控制设置提供了算法解决方案。最后,我们用数值方法说明了系统参数变化对解的影响。
2021-12-30 cs.GT cs.SY eess.SY
Multiplicative Noise Removal Using Variable Splitting and Constrained Optimization
通过对数变换、变量分裂和增广拉格朗日框架,提出MIDAL算法,有效去除乘性噪声并取得速度和去噪性能的领先结果。
2010-03-16 cs.NA math.NA math.OC
Covariance Steering of Discrete-Time Markov Jump Linear Systems with Multiplicative Noise
Daniel Guggenheim School of Aerospace, Georgia Institute of Technology(佐治亚理工学院丹尼尔·古根海姆航空学院)
本文研究了具有状态和控制依赖乘性噪声的离散时间马尔可夫跳跃线性系统(MJLS)的有限时间协方差引导问题,通过引入提升状态公式和SDP重构,提出了一种松弛方法,并通过金融应用实验验证了结果。
2026-04-21 cs.SY eess.SY math.OC
Nonlinear Control Allocation: A Learning Based Approach
Centers of Excellence in Science and Applied Technologies(科学与应用技术卓越中心);Toronto Metropolitan University(多伦多都会大学);Institute of Space Technology(空间技术研究院)
本文提出一种基于人工神经网络的非线性控制分配方法,通过学习控制效能映射的逆来替代在线优化,并给出闭环稳定性条件,以降低过驱动飞机的计算资源需求。
2024-03-27 cs.AI cs.SY eess.SY
Learning robust control for LQR systems with multiplicative noise via policy gradient
Control, Optimization, and Networks lab, UT Dallas(控制、优化与网络实验室,UT Dallas);Delft Center for Systems and Control, TU Delft(代尔夫特系统与控制中心,TU Delft)
本文研究了具有乘性噪声的LQR系统,通过策略梯度方法实现鲁棒控制,证明了在非凸成本函数下策略梯度算法的全局收敛性。
2020-05-01 cs.LG cs.SY eess.SY
Indices of quadratic programs over reproducing kernel Hilbert spaces for fun and profit
本文从抽象视角研究再生核Hilbert空间上的二次规划,通过最大值原理解释投资组合理论中的稀疏性,发现最优分布的支撑集位于特定边界交集内,并利用该方法解决迷宫问题。
2024-12-24 math.CV math.FA math.OC