The shooting algorithm for partially control-affine problems with application to an SIRS epidemiological model
在这篇文章中,我们提出了一个射击算法的部分仿射最优控制问题,这是,系统中的控制出现线性和非线性的动态。由于射击系统通常具有比未知数更多的方程,因此该算法依赖于高斯-牛顿方法。因此,如果打靶函数的导数是单射的且在最优解处是Lipschitz连续的,则收敛是局部二次的。我们提供了一个收敛性的证明所提出的算法使用最近开发的二阶充分条件弱最优性的部分仿射问题。我们通过解决一个最优治疗-疫苗接种流行病学问题来说明该算法的适用性。
2021-03-10 math.OC
A preconditioned Forward-Backward method for partially separable SemiDefinite Programs
我们提出了半分散和分布式算法,设计通过一个预处理的向前向后操作分裂,解决大规模的,可分解的半定规划(SDP)。我们利用弦聚集稀疏模式假设的原始SDP,以获得一组相互耦合的SDPs上定义的半正定(PSD)锥的降维。我们表明,所提出的算法收敛到原来的SDP通过合理的计算成本迭代的解决方案。最后,我们比较了这两个算法的性能与其他文献中。
2019-11-17 cs.MA math.OC
Solving ill-posed inverse problems using iterative deep neural networks
KTH - Royal Institute of Technology(瑞典皇家理工学院);Elekta AB(医科达公司)
本文提出了一种部分学习方法,利用深度学习和经典正则化理论解决非线性反问题,通过卷积网络学习梯度组件,提升重建速度和PSNR性能。
2017-05-22 cs.AI cs.NA math.FA
Improved analysis of algorithms based on supporting halfspaces and quadratic programming for the convex intersection and feasibility problems
本文对文献[1]中基于支撑半空间和二次规划的凸集交算法进行了多方面的改进。首先,我们给出的条件,使更小的二次规划(QP)和近似投影所产生的部分解决的QP是足够的多项超线性收敛的非光滑问题。其次,我们确定额外的正则性,我们称之为二阶支撑超平面属性(SOSH),它给出了多项平方收敛。第三,我们证明了这些快速收敛的结果进行凸不等式问题。第四,我们表明,不可行性,可以检测到在许多操作。最后,我们解释了如何使用Goldfarb和Idnani的对偶有效集QP算法,通过部分求解QP来获得有用的迭代,克服了我们算法中求解大QP的问题。
2014-06-16 math.OC
Variable Splitting Methods for Constrained State Estimation in Partially Observed Markov Processes
在本文中,我们提出了一类有效的,准确的,和一般的方法来解决状态估计问题的等式和不等式约束。该方法是基于变量分裂和部分观测马尔可夫过程的最新发展。我们首先提出了基于变量分裂的广义框架,然后开发有效的方法来解决框架中出现的状态估计子问题。这些子问题的解决方案可以通过利用模型的马尔可夫结构来有效地进行,这在所谓的贝叶斯过滤和平滑方法中是经典的。数值实验表明,我们的方法优于传统的最优化方法的计算成本以及估计性能。
2020-07-17 cs.IT math.IT math.OC
Risk-Sensitive Partially Observable Markov Decision Processes as Fully Observable Multivariate Utility Optimization problems
当风险由一个效用函数建模,且状态空间和观测空间都是有限的时,我们给出了一个求解风险敏感部分可观测马尔可夫决策过程的新算法.该算法是基于这样的观察,即用于指数效用函数的测量的改变和随后的信息空间的引入实际上可以扩展为指数的和,如果引入跟踪对应于每个指数的“预期累积成本”的额外的向量参数。由于每一个增函数都可以用有限区间内的指数和来近似,因此该方法基本上可以应用于任何效用函数,其复杂性取决于指数的数量。
2022-07-17 math.OC
Optimal control for parameter estimation in partially observed hypoelliptic stochastic differential equations
在部分观测框架下研究了随机微分方程的参数估计问题。我们的目标是设计一种方法,椭圆和hypoelliptical的SDES,后者的特点是退化扩散系数。这一特征经常导致基于Euler Maruyama离散化方案的对比度估计器的失败,并显着削弱了用于重建未观测状态的经典随机滤波方法。所有这些问题使得亚椭圆方程的估计问题难以解决。为了克服这一点,我们构造了一个定义良好的费用函数,无论椭圆性质的SDES。我们还通过考虑控制理论的观点来绕过过滤步骤。未观测状态的估计,解决确定性最优控制问题,使用数值方法,不需要强假设的扩散系数条件。对不同的部分观测亚椭圆方程组进行了数值模拟,结果表明,该方法不仅能得到精确的估计,而且与其他方法相比,大大降低了计算量。
2021-08-12 math.OC stat.ME
Computational Techniques for Reachability Analysis of Partially Observable Discrete Time Stochastic Hybrid Systems
混合系统的可达性分析已被用作一种安全验证工具,以离线评估系统的状态是否能够在给定的时间范围内保持在指定的安全区域内。虽然它已被应用于随机混合系统,很少的工作已经做了同样重要的问题,不完整或噪声测量的状态下的可达性。此外,目前还没有计算方法或部分可观测离散时间随机混合系统的可达性分析的结果。我们提供了解决这个问题的第一个数值结果,利用现有的文献连续状态部分可观测马尔可夫决策过程(POMDPs)。我们首先证明了可达性问题(与乘法费用结构)的值函数是分段线性和凸的,就像离散状态POMDPs与添加剂费用函数。由于这些属性,我们能够扩展现有的基于点的值迭代技术的可达性问题,证明其适用于基准温度调节问题。
2014-04-23 math.OC
Solving Singular Control Problems in Mathematical Biology, Using PASA
在本文中,我们将演示如何使用一个非线性多面体约束优化求解器称为多面体有效集算法(PASA)解决一般的奇异控制问题。我们提出了离散化的一般最优控制问题,涉及到使用的梯度的拉格朗日计算梯度的成本功能,使PASA可以应用的方法。当一个数值解包含类似于“抖动”的工件时,控制沿着奇异区域剧烈振荡的现象,我们推荐一种正则化奇异控制问题的方法,该方法通过向成本泛函添加一个项来测量控制的全变差的标量倍数,其中标量被视为调整参数。然后,我们展示了PASA的性能上的三个奇异控制问题,引起不同的应用数学生物学。我们还提供了一些关于我们在确定调优参数的适当大小时使用的算法的说明。
2020-10-14 math.OC
Robust knapsack ordering for a partially-informed newsvendor with budget constraint
研究了预算受限且需求信息仅限于范围、均值和均值绝对偏差的多品种报童问题。我们考虑了一个极大极小模型,通过最小化最坏情况下的需求分布的预期超龄和未成年成本来确定订单数量。由此产生的最优化问题可以通过一种方法来解决,这种方法让人想起解决连续背包问题的贪婪算法,即按照边际值的顺序购买物品。与直接求解模型相比,该方法具有较低的计算复杂性,并导致一个简单的策略,即(i)基于项目对总成本的边际影响对项目进行排序,以及(ii)根据该排序确定订单数量,直到预算被花费。
2023-01-05 math.OC math.PR
Convergence in Distribution of Randomized Algorithms: The Case of Partially Separable Optimization
本文用马尔可夫链理论分析部分分块可分优化中的分块随机算法,刻画马尔可夫算子正则性、分布收敛速率及高阶矩,并在随机分块 forward-backward 与 Douglas-Rachford 算法上验证。
2023-10-31 math.OC math.PR
A Warm Start Method for Solving Chance Constrained Optimal Control Problems
提出了一种有效求解复杂机会约束最优控制问题的热启动方法。热启动方法解决了机会约束最优控制问题的计算挑战,使用有偏的核密度估计和Legendre-Gauss-Radau配置与$hp$自适应网格细化方法。为了解决计算的挑战,热启动方法提高了机会约束最优控制问题的起点,以及通过网格细化迭代循环的效率。改进是通过调整核密度估计器的参数,以及实现作为解决方案过程的一部分的内核开关。此外,偏置核密度估计器的样本的样本个数被设置为通过一系列网格细化迭代而递增。因此,热启动方法是调整参数、内核切换和样本量增量增加的组合。这种热启动方法成功地应用于解决两个具有挑战性的机会约束最优控制问题的计算效率的方式,使用有偏核密度估计和Legendre-Gauss-Radau配置。
2020-07-20 math.OC
An efficient numerical algorithm for solving data driven feedback control problems
本文的目的是数值求解一类随机最优控制问题,其中状态过程由一个伊藤型随机微分方程控制,控制过程同时进入漂移和扩散,并且是部分可观测的.根据已有的观测资料确定了反馈形式的最优控制。我们把这种类型的控制问题称为数据驱动的反馈控制。我们引入的计算框架来解决这类问题的目的是找到最优控制的最佳估计作为给定观测信息的条件期望。为了使我们的方法在提供及时的反馈控制系统的数据是可行的,我们开发了一个有效的随机最优化算法来实现我们的计算框架。
2020-06-04 math.OC
Wait-Less Offline Tuning and Re-solving for Online Decision Making
Department of Management Science \& Engineering, Stanford University;Institute for Computational;Mathematical Engineering, Stanford University;Department of Computer Science, Stanford University;Chinese University of Hong Kong (Shen Zhen);Hong Kong University of Science
提出一种结合LP与一阶方法优势的OLP算法,通过周期性重解LP子问题并并行运行一阶方法平滑资源消耗,在保证低遗憾的同时实现高效的无等待在线决策。
2025-11-02 cs.LG math.OC stat.ML
An efficient mixed-integer linear programming formulation for solving influence diagrams
Aalto University(阿尔托大学);Technical University of Denmark(丹麦技术大学);Federal University of São Carlos(圣卡洛斯联邦大学)
本文提出了一种高效的混合整数线性规划方法,用于解决无法转化为部分可观测马尔可夫决策过程的影响图问题,并展示了其在计算效率上的优势。
2026-11-13 math.OC
Logarithmic Regret Bound in Partially Observable Linear Dynamical Systems
California Institute of Technology(加州理工学院)
研究部分可观测线性动力系统的系统辨识与自适应控制问题。自适应和闭环系统辨识是一个具有挑战性的问题,由于相关性引入数据汇集。在本文中,我们提出了第一个模型估计方法与有限时间保证的开放和闭环系统辨识。部署这种估计方法,我们提出了自适应控制在线学习(AdaptOn),一个有效的强化学习算法,自适应学习系统动态,并不断更新其控制器通过在线学习步骤。AdaptOn通过与环境的交互偶尔解决线性回归问题来估计模型动态。使用策略重新参数化和估计模型,AdaptOn构造反事实损失函数,用于通过在线梯度下降更新控制器。随着时间的推移,AdaptOn会改进其模型估计,并获得更准确的梯度更新,以改进控制器。我们发现,AdaptOn实现了$\text{polylog}\left(T\right)$的遗憾上限,代理-环境交互的$T$时间步长后。据我们所知,AdaptOn是第一个算法,实现$\text{polylog}\left(T\right)$遗憾的未知部分可观测线性动态系统的自适应控制,其中包括线性二次高斯(LQG)控制。
2020-06-24 cs.LG math.OC stat.ML
Review of Parameter Tuning Methods for Nature-Inspired Algorithms
Middlesex University London(伦敦密德萨斯大学);Middlesex University Dubai(迪拜密德萨斯大学)
本文综述自然启发式算法的参数调优方法,强调参数设置对算法性能与鲁棒性的关键影响,回顾主要调优技术,并指出开放问题与未来研究方向。
2023-08-30 cs.AI cs.NE math.OC
Taming Hyperparameter Tuning in Continuous Normalizing Flows Using the JKO Scheme
Colorado School of Mines(科罗拉多矿业学院);University of California, Los Angeles(加州大学洛杉矶分校)
归一化流(NF)是将所选概率分布转换为正态分布的映射。这种流是机器学习和数据科学中用于数据生成和密度估计的常用技术。使用NF获得的密度估计需要一个变量变换公式,该公式涉及NF变换的雅可比行列式的计算。为了可追踪地计算这个行列式,连续归一化流(CNF)使用神经常微分方程估计映射及其雅可比行列式。最优输运(OT)理论已被成功地用于帮助寻找CNF,通过将它们公式化为OT问题,并将用于强制执行标准正态分布的软惩罚作为目标度量。基于OT的CNF的缺点是添加了超参数$α$,其控制软惩罚的强度并且需要显著的调谐。我们提出了JKO-Flow,一种无需调整$α$即可求解基于OT的CNF的算法。这是通过将OT CNF框架集成到Wasserstein梯度流框架中来实现的,也称为JKO方案。代替调整$α$,我们重复地解决固定的$α$的最优化问题,有效地执行具有时间步长$α$的JKO更新。因此,我们得到了一个“分而治之”的算法,通过反复解决简单的问题,而不是解决一个潜在的更难的问题与大$α$。
2022-11-30 cs.LG math.OC
A Framework for Self-Tuning Optimization Algorithm
任何算法的性能将在很大程度上取决于其算法相关参数的设置。最佳设置应允许算法实现最佳性能以解决一系列最优化问题。然而,这样的参数调整本身是一个棘手的最优化问题。在本文中,我们提出了一个自调整算法的框架,使一个算法被调整可以用来调整算法本身。使用萤火虫算法作为一个例子,我们表明,这个框架工作得很好。还发现,不同的参数可能具有不同的灵敏度,因此需要不同程度的调谐。具有高灵敏度的参数需要微调以实现最优。
2013-12-19 cs.DS math.OC nlin.AO
Chance Constraint Tuning for Optimal Power Flow
在本文中,我们考虑一个机会约束的最优潮流问题的制定,以处理可再生能源发电和负荷变化所造成的不确定性。我们提出了一种调整方法,迭代之间解决近似的重新制定的最优化问题和使用后验样本为基础的评估,以完善重新制定。我们的方法是适用于单一和联合机会约束,不依赖于任何分布假设的不确定性。在IEEE 24节点系统的案例研究中,我们证明了我们的方法是计算效率和强制执行机会约束,而不会过度保守。
2020-05-27 math.OC
A Partially Derivative-Free Proximal Method for Composite Multiobjective Optimization in the Hölder Setting
Federal University of Piauí(皮奥伊联邦大学);Federal Institute of Education, Science and Technology of Goiás(戈亚斯联邦教育科学与技术学院);Institute of Mathematics, Statistics and Scientific Computing - UNICAMP(坎皮纳斯州立大学数学、统计与科学计算研究所)
本文提出了一种在Hölder设定下求解复合多目标优化问题的半无导数近方法,证明其在特定迭代次数内收敛到弱近似帕累托点,并通过实验验证其有效性。
2026-01-27 math.OC
An $O(N)$ Algorithm for Solving the Smallest Enclosing Sphere Problem in the Presence of Degeneracies
针对现有最小包围球求解算法难以处理三维空间退化点、现有改进方案存在不足的问题,本文提出一种保持$O(N)$复杂度的混合算法,结合鲁棒预处理与高效核心计算,经理论和实验验证可有效应对退化、保证效率。
2024-12-13 cs.CG math.OC
Is RL fine-tuning harder than regression? A PDE learning approach for diffusion models
Department of Statistical Sciences, University of Toronto(统计科学系,多伦多大学)
该研究针对扩散过程微调的最优控制策略学习问题,通过求解基于HJB方程的变分不等式提出新算法,证明了相应统计速率,证实扩散模型微调可通过监督回归实现且速率优于通用强化学习。
2025-09-02 cs.LG math.OC math.PR