Two-Stage Distributionally Robust Optimization: Intuitive Understanding and Algorithm Development from the Primal Perspective
本文从原始视角研究两阶段分布鲁棒优化，提出通用快速分解算法及其变体，给出理论分析，并通过设施选址问题数值实验证明其显著优于现有方法，可处理此前无法解决的实际实例。
2024-12-30 math.OC math.PR
The Degenerate Variable Metric Proximal Point Algorithm and Adaptive Stepsizes for Primal-Dual Douglas-Rachford
本文将退化预条件邻近点法与变预条件的思想相结合，得到退化变度量邻近点法。将证明由此产生的迭代的弱收敛性。从退化变尺度邻近点法的角度出发，在已有的邻近点法结果的基础上，给出了一种变预条件的原始-对偶Douglas-Rachford方法，并证明了其弱收敛性.在此之后，我们推导出一个启发式如何选择这些不同的预条件，以提高收敛速度的方法。
2023-02-25 math.OC
Foundations of gauge and perspective duality
我们重新审视规范对偶的基础，并证明它可以用现代的方法来解释对偶的基础上的扰动框架。因此，我们把规范对偶和Fenchel-Rockafellar对偶平等的基础上，包括解释规范对偶变量的灵敏度措施，并显示如何恢复原始的解决方案，从那些规范对偶。这个有利的观点允许直接证明规范对偶的Fenchel-Rockafellar对偶的最优解正是由最优值重新标度的原始解。我们扩展规范对偶框架的设置中的功能组件是一般的非负凸函数，包括问题与分段线性二次函数和约束所产生的广义线性模型回归。
2018-06-18 math.OC
A continuous perspective on the inertial corrected primal-dual proximal splitting
本文从连续视角重新诠释IC-PDPS算法，将其重建为半隐式欧拉格式，导出两个等价的二阶ODE模型，并用Lyapunov函数分析拉格朗日间隙的收敛性。
2024-05-23 cs.NA math.NA math.OC
Primal-dual splittings as fixed point iterations in the range of linear operators
本文研究实希尔伯特空间中带临界预条件的复合单调包含的松弛原始对偶法。我们的方法是基于新的结果上的渐近行为的Krasnosel'ski \u-Mann（KM）迭代定义的单调自伴线性算子的范围内。这些结果推广了以逼近不动点为目标的经典KM迭代的收敛性。我们证明了带有临界预条件子的松弛原始对偶法在具有非平凡核的特定单调自伴线性算子的值域内定义了KM迭代。然后，我们推导出我们的不动点的方法，原始-对偶迭代的范围内的线性算子的阴影弱收敛到这个向量子空间中的某个点，从我们得到的解决方案。这将（Condat 2013定理3.3）推广到包含临界预条件子的无限维松弛原始-对偶单调包含。道格拉斯-Rachford分裂（DRS）被解释为一个特殊的情况下，原始对偶法的步长是关键的，我们恢复经典的结果从这个新的角度来看。在全变差重建中，我们实现了带有临界预条件的松弛原始对偶法，并说明了它的灵活性和有效性。
2021-08-11 math.OC
Primal-dual proximal bundle and conditional gradient methods for convex problems
本文提出原始-对偶近端束方法求解凸非光滑复合优化与鞍点问题，建立迭代复杂度，发现与条件梯度的对偶性，并验证其优于次梯度方法。
2025-09-25 math.OC
Accelerating Distributed Optimization: A Primal-Dual Perspective on Local Steps
Argonne National Laboratory（阿贡国家实验室）；Wayne State University（韦恩州立大学）
在分布式机器学习中，跨具有不同数据分布的多个代理的有效训练提出了重大挑战。即使使用集中式协调器，实现最佳通信复杂性的当前算法通常需要大的小批量或在梯度复杂性上妥协。在这项工作中，我们解决了强凸，凸和非凸目标的集中和分散设置。我们首先证明了一个基本的原始-对偶方法，（加速）梯度上升多随机梯度下降（GA-MSGD），适用于分布式优化的拉格朗日固有地包含本地更新，因为运行随机梯度下降的原始变量的内部循环不需要间智能体通信。值得注意的是，对于强凸目标，（加速）GA-MSGD在通信轮次中实现线性收敛，尽管拉格朗日仅在对偶变量中是线性的。这是由于对偶变量被限制在耦合矩阵的跨度上的结构性质，使得对偶问题是强凹的。当与Catalyst框架集成时，我们的方法在各种设置中实现了接近最佳的通信复杂性，而不需要小批量。
2024-08-11 cs.DC cs.LG math.OC
How a Small Amount of Data Sharing Benefits Distributed Optimization and Learning : The Upside of Data Heterogeneity
本文分析少量数据共享对分布式原始及原始-对偶优化的影响，证明数据异质性可加速后者，并提出仅共享1%数据即可显著提升收敛的元算法。
2025-05-16 math.OC
Stochastic Primal-Dual Q-Learning
本文提出随机原始-对偶 Q 学习算法，通过线性规划与对偶视角结合 Q 函数估计，在时变状态-动作分布下次线性收敛到平稳分布时仍保证收敛速率，并实验验证其离策略学习能力。
2025-07-18 math.OC
Empirical Risk Minimization with Shuffled SGD: A Primal-Dual Perspective and Improved Bounds
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对洗牌SGD理论界过于悲观的问题，从原始-对偶视角分析线性预测器的经验风险最小化，提出依赖数据矩阵的细粒度复杂度界，预测收敛速度更快且实验验证更紧。
2024-02-07 cs.LG math.OC
Learning-based primal-dual optimal control of discrete-time stochastic systems with multiplicative noise
本文从原始-对偶视角研究乘性噪声随机线性二次调节器问题，通过非凸优化和强对偶性推导出基于KKT条件的模型与无模型算法，为强化学习提供理论基础并验证其有效性。
2025-06-03 math.OC
A Primal-Dual Algorithmic Framework for Constrained Convex Minimization
我们提出了一个原始-对偶算法框架，以获得一个典型的约束凸优化问题的近似解，并严格表征常见的结构假设如何影响数值效率。我们的主要分析技术提供了一个新的视角Nesterov的过度差距技术在一个结构化的方式，并将其与平滑和原始对偶方法。例如，通过选择一个对偶平滑策略和一个中心点，我们的框架包括分解算法，增广拉格朗日以及交替方向法的乘数方法作为其特殊情况下，并提供最佳的收敛速度的原始目标残差以及原始可行性间隙的迭代。
2015-03-03 math.OC stat.ML
DC-based Security Constraints Formulation: A Perspective of Primal-Dual Interior Point Method
直流网络安全约束在电力系统最优潮流、安全约束经济调度和安全约束机组组合等问题中得到了广泛的研究。线性移位因子，即，功率传输分布因子（PTDF）被广泛应用于取代直流潮流约束。然而，PTDF矩阵是非常密集的，使得它难以解决安全约束最优化问题。本文从稀疏结构的角度分析研究了基于PTDF的安全约束的计算效率问题。此外，提出了一种矩阵变换方法，用于在IPM迭代过程中恢复线性系的稀疏性。结果表明，该变换方法等价于求解以纯电压角表示的原始最优化问题，保留了稀疏结构，但引入了与母线总数的一到两倍成比例的附加变量和约束。常规的B- $θ$公式也是所提出的变换的变体。数值研究表明，稀疏性而不是变量和约束的大小是影响凸二次问题（QP）求解速度的关键因素，即，OPF和SCED问题。相比之下，稀疏性是不太可取的，当解决混合整数问题（MIP），如SCUC问题，其中重新优化技术是显着更重要的，对偶单纯形法，而不是IPM通常采用。
2023-03-03 cs.SY eess.SY math.OC
An exponentially stable discrete-time primal-dual algorithm for distributed constrained optimization
本文通过融合Arrow-Hurwicz-Uzawa原始-对偶梯度法与Wang-Elia方法，提出一种分布式约束优化算法，并利用时间尺度分离、Lyapunov理论和小增益原理证明其半全局指数稳定性与线性收敛性。
2025-03-09 math.OC
Dual certificates of primal cone membership
North Carolina State University（北卡罗来纳州立大学）
本文提出了一种易于验证的原锥成员资格证书，利用对偶锥中的向量，通过自伴随屏障函数，使内点算法能计算精确解。
2026-03-25 math.OC
A primal--dual interior-point method for nonsymmetric conic optimization with conjugate-free scaling
Nankai University（南开大学）；Suzhou University of Science and Technology（苏州科技大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）
该研究提出基于无共轭缩放的原始-对偶内点法，将其嵌入齐次自对偶预测-校正框架，改进了迭代复杂度界，在特定锥优化问题上性能与专用求解器QICS相当。
2026-08-11 math.OC
On the improved conditions for some primal-dual algorithms
在$\mathbb{R}^n$上的具有可微$f$和线性算子$\mathbf{A}: \mathbb{R}^n\rightarrow \mathbb{R}^m$的$f(\mathbf{x})+g(\mathbf{x})+h(\mathbf{A}\mathbf{x})$的凸极小化在文献中已经得到了很好的研究。考虑到问题的原始-对偶最优性，从不同的角度提出了许多算法，如单调算子方案和不动点理论。本文从一个基本算法入手，揭示了AFBA、PD 3 O、Chambolle-Pock等算法之间的联系。然后，我们证明了它的收敛性与线性算子的放松的假设下，并刻画了一般的原始和对偶步长的约束。结果改进了AFBA的步长上界，并指出Chambolle-Pock作为基算法在$f=0$时的特例，可以将对偶迭代的步长提高到已证明的步长的$4/3$.
2022-01-01 cs.NA math.NA math.OC
Implicit Primal-Dual Interior-Point Methods for Quadratic Programming
Department of Aeronautics and Astronautics, Massachusetts Institute of Technology（麻省理工学院航空航天系）
本文提出了一种隐式对偶内点法求解二次规划的新方法，通过引入辅助变量和重构映射，使互补性条件隐式满足，从而解决内点法中因ill-conditioning导致的精度问题。
2026-04-01 cs.RO math.OC
Homogeneous Self-Dual Embedding via Perspective Functions
该研究推广了齐次自对偶嵌入模型，用于最小化两个下半连续凸函数之和，用单一不等式表示。通过Douglas-Rachford算法求解，利用问题结构高效实现，恢复了求解二次锥规划的方法，在特定凸优化问题上验证了通用性和有效性。
2026-07-27 math.OC
Two-stage and Lagrangian Dual Decision Rules for Multistage Adaptive Robust Optimization
针对多阶段自适应鲁棒优化问题，提出基于两类随机规划决策规则的原始与对偶界求解框架，无需强假设且支持整数追索变量，实验验证其最优性间隙显著小于现有方法。
2024-09-17 math.OC
A Perturbation Framework for Convex Minimization and Monotone Inclusion Problems with Nonlinear Compositions
本文提出基于Rockafellar扰动理论的框架，用于求解带非线性复合的凸最小化与单调包含问题，在Hilbert空间导出首个完全分裂的块迭代原始-对偶近端算法。
2023-06-22 math.OC
Duality Perspective on Nonlinear Eigenproblems
本文从对偶视角研究非线性本征问题，通过Fenchel共轭建立对偶形式，分析逆幂方法在p-齐次函数下的收敛性，并验证p-Laplace的数值实验。
2025-11-26 cs.NA math.AP math.NA
Exploration from a Primal-Dual Lens: Value-Incentivized Actor-Critic Methods for Sample-Efficient Online RL
CMU Carnegie Mellon University（卡内基梅隆大学）；Georgia Institute of Technology（佐治亚理工学院）；Meta Fundamental AI Research, Meta（Meta基础人工智能研究）；CMU（卡内基梅隆大学）
本文从原始-对偶优化视角解释乐观原则，提出价值激励Actor-Critic（VAC）方法，通过优化单一目标集成探索与利用，在线性MDPs下实现近乎最优的遗憾保证。
2025-06-27 cs.LG math.OC
A new perspective in linear Cauchy Elasticity: variational minimum principles for statics, dynamics, and heterogeneous materials
Carnegie Mellon University（卡内基梅隆大学）
针对无存储能量函数的线性弹性动力学，提出一种变分最小原理，通过变量变换到对偶场，得到退化椭圆欧拉-拉格朗日系统，并讨论唯一性和退化椭圆性的影响。
2026-11-03 math.AP math.OC physics.class-ph
An Adaptive Penalty Method for Inequality Constrained Minimization Problems
原始-对偶有效集方法被认为是惩罚公式序列的极限。使用这个角度来看，我们提出了一个惩罚的方法，自适应地成为有效集的方法，作为残差的减少。自适应罚方法（APM）结合了两种方法的主要优点，即罚方法易于实现和有效集方法固有的不等式约束的精确施加。该方案可以被认为是一个拟牛顿法，其中雅可比矩阵近似使用罚参数。这个空间变化的参数在每次迭代中通过求解辅助问题来选择。
2022-01-07 math.OC
Convergence of the Augmented Decomposition Algorithm
本文研究了文献[32]中提出的求解线性约束下多块可分凸极小化问题的增广分解算法（ADA）的收敛性。在存在鞍点的假设下，证明了精确ADA的整体收敛速度为o（1/k）.我们考虑了不精确增广分解算法（iADA），并通过从原始和对偶两个角度给出与扰动相关的极大单调算子T的稳定性结果，在一些温和的假设下建立了全局和局部收敛结果.这一结果意味着不精确ADA的局部线性收敛的许多应用，如套索，全变差重建，交换问题和许多其他问题的统计，机器学习和工程与l1正则化。
2018-08-24 math.OC
Smooth Dynamics for Distributed Constrained Optimization with Heterogeneous Delays
本文从被动性的角度研究了Agent间通信时延下的分布式约束最优化问题。首先，我们提出了一个求解一般凸目标函数的分布式约束优化问题的连续时间算法。通过相位超前补偿保证了系统在一般凸性下的渐近稳定性。不等式约束的处理采用投影自由广义拉格朗日，其原始对偶梯度动力学保持被动性和光滑性，使应用的LaSalle的不变原理中存在的延迟。然后，我们将散射变换到所提出的算法，以提高对未知和异构通信延迟的鲁棒性。最后，一个匹配问题的数值例子来说明结果。
2020-02-28 math.OC
An outer approximation algorithm for multi-objective mixed-integer linear and non-linear programming
本文给出了任意多目标混合整数线性规划问题的一次外逼近算法。该算法也适用于某些类别的非线性规划问题。它产生非支配的极值点以及这些点的凸包的小平面。该算法依赖于一个解决单目标加权和问题的预言机，我们证明了所需的预言机调用次数是多项式的非支配极值点的凸包的情况下，多目标混合整数规划（MOMILP）的方面。因此，对于加权和问题在多项式时间内可解的MOMILP问题，可以用递增多项式延迟来计算面。该算法从实用角度出发，从非支配极值点的有效下界集出发，通过迭代改进，可用于多目标分枝定界算法，即使在收敛前中断，也能在任何阶段提供有效的下界集。此外，预言机产生Pareto最优解，这使得算法在多目标分支定界环境中从原始侧也具有吸引力。最后，预言机也可以与原始问题的任何松弛调用，并且所获得的点和面仍然提供有效的下界集。一组基准实例从文献和新的非线性多目标实例的计算研究。
2022-05-02 math.OC
Duality of optimization problems with gauge functions
最近，Yamanaka和Yamashita提出了所谓的正齐次最优化问题，其中包括许多重要的问题，如绝对值和规范优化。他们给出了该问题的对偶形式的封闭形式，并证明了弱对偶性和在一定条件下与拉格朗日对偶的等价性。在这项工作中，我们专注于一个特殊的正齐次最优化问题，其目标函数和约束由一些规范和线性函数。我们不仅证明了弱对偶性，而且证明了强对偶性。我们还研究了与该问题相关的最优性条件最优性条件。此外，我们给出了从对偶方程的Karush-Kuhn-Tucker点恢复原解的充分条件。最后，我们讨论了如何通过考虑所谓的透视函数将上述结果推广到一般的凸优化问题。
2020-12-25 math.OC
Conic optimization with spectral functions on Euclidean Jordan algebras
欧几里德若当代数上的谱函数经常出现在凸模型中。尽管原始-对偶锥内点求解器取得了成功，但很少有直接支持谱锥的工作，即从epigraphs和谱函数的角度定义的适当的非对称锥。我们提出了简单的光谱锥的grammically齐性障碍，我们得到有效的，数值稳定的程序来评估障碍神谕，如逆Hessian算子。对于两个有用的类的谱锥-根行列式锥和矩阵单调衍生锥-我们表明，障碍是自和谐的，接近最佳的参数。我们在我们的开源求解器Hypatia中实现了这些圆锥体和神谕，并为四个应用问题编写了简单，自然的公式。我们的计算基准表明，Hypatia往往解决自然配方更有效地比先进的求解器，如MOSEK 9解决等效的扩展配方只使用这些求解器支持的圆锥体。
2021-11-02 math.OC
On the Relationship Between CoCoA and ADMM for Distributed Empirical Risk Minimization
Department of Industrial & Systems Engineering, University of Wisconsin–Madison（工业与系统工程系，威斯康星大学麦迪逊分校）
本文从统一原始-对偶视角揭示CoCoA与ADMM两类分布式ERM算法的内在联系，证明岭正则化下CoCoA等价于特定近端ADMM方案，并给出ADMM型方法的统一收敛分析和早停准则。
2026-06-28 cs.LG math.OC stat.ML
Gradient Tracking: A Unified Approach to Smooth Distributed Optimization
本文研究了有向图上的经典分布式最优化问题，其中目标函数是光滑局部函数之和。受我们早期工作中提出的隐式跟踪机制的启发，我们从纯原始的角度开发了一个统一的算法框架，即，UGT本质上是一种广义梯度跟踪方法，可以统一现有的大多数定步长分布式优化算法。证明了当全局目标函数是强凸的时，两种变形的UGT都能线性收敛。最后，通过数值实验对UGT的性能进行了评估。
2022-02-20 cs.SY eess.SY math.OC
One-Shot Safety Alignment for Large Language Models via Optimal Dualization
University of Pennsylvania（宾夕法尼亚大学）
本文提出通过最优对偶化将带约束的RLHF安全对齐转化为等价无约束问题，预优化具有闭式解的光滑凸对偶函数，从而避免原始-对偶迭代，并据此设计了MoCAN和PeCAN两种高效稳定的一次性安全对齐算法。
2024-11-22 cs.AI cs.CL cs.LG
Annealed Sinkhorn with Momentum: Certified Unregularized Optimal Transport in Linear Memory
MIT（麻省理工学院）；HEC Paris（巴黎高等商学院）
本文提出带动量的退火Sinkhorn（BDRS）方法，用于无正则化离散最优传输，在线性内存中实现原始-对偶认证，并在颜色转移任务中显著加速和降低对偶间隙。
2026-09-29 cs.LG math.OC
Data-Driven Two-Stage Distributionally Robust Dispatch of Multi-Energy Microgrid
本文针对多能源微电网供需不确定性，提出基于Wasserstein模糊集的数据驱动两阶段分布鲁棒调度方法，并开发高效分解算法以降低计算负担，数值实验验证了其有效性与计算优势。
2025-04-13 cs.SY eess.SY math.OC
Perturbation Duality for Robust and Distributionally Robust Optimization: Short and General Proofs
Naval Postgraduate School（海军研究生院）；University of Minnesota（明尼苏达大学）；University of Southern California（南加州大学）
本文利用扰动对偶性统一推导鲁棒和分布鲁棒优化的对偶公式，解决了一个关于分布鲁棒对偶性的开放猜想，并简化了鲁棒对偶性的证明。
2026-08-07 math.OC
Differentially Private Decentralized Optimization with Relay Communication
该研究提出隐私泄露频率指标揭示通信与隐私泄露的关联，设计基于算子分裂和中继通信的DP-RECAL差分隐私去中心化算法，在凸问题下证明收敛性，实验验证其隐私性能、通信复杂度更优且可抵御经典梯度泄露攻击。
2024-12-13 cs.CR math.OC
Distributed Constraint-coupled Resource Allocation: Anytime Feasibility and Violation Robustness
本文针对带耦合约束的实时分布式资源分配问题，结合原始-对偶方法与控制障碍函数设计DanyRA算法，保障全时刻约束可行，引入虚拟队列提升干扰下的违规鲁棒性，还扩展至等式约束场景并证明线性收敛性。
2025-08-04 cs.SY eess.SY math.OC
Gradient-adjusted underdamped Langevin dynamics for sampling
本文提出 GAUL 随机微分方程，将优化中的原始-对偶与 Hessian 驱动阻尼同随机扰动结合，证明其目标平稳性，并在高斯与非高斯采样中展现更快收敛。
2024-10-26 cs.NA math.NA math.OC
A Fast Scale-Invariant Algorithm for Non-negative Least Squares with Non-negative Data
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of Washington（华盛顿大学）
非负（线性）最小二乘问题是一类在统计学习中得到充分研究的基本问题，其求解器已在机器学习社区中使用的许多标准编程语言中实现。现有的现成的求解器在这些问题中的非负约束视为一个障碍，相比无约束最小二乘，执行额外的努力来解决它。然而，在许多典型的应用程序中，数据本身也是非负的，我们表明，在这种情况下，非负性使问题更容易。特别是，虽然甲骨文的复杂性无约束最小二乘问题的数据矩阵常数（通常是谱范数）和这些问题的解决加性误差的规模，我们表明，非负数据的非负最小二乘问题是可解的乘法误差和复杂性，是独立于任何矩阵常数。我们介绍的算法是加速的，并基于原始-对偶的观点。我们进一步展示了如何可证明地获得线性收敛使用自适应重新启动与我们的方法，并通过数值实验证明其有效性的大规模数据。
2022-03-08 cs.LG math.OC stat.ML
Duality and Stability in Complex Multiagent State-Dependent Network Dynamics
尽管传统的多智能体网络系统的稳定性分析与弱耦合的状态网络动态显着的进展，大多数现有的结果有缺点，在解决多智能体系统与高度耦合的状态网络动态。受这种动力学的众多应用的启发，在我们以前的工作中[1]，我们开创了一个新的方向，使用顺序优化框架进行此类系统的稳定性分析。在此基础上，在本文中，我们扩展了我们的结果，提供了另一个角度多智能体网络动力学从对偶的角度来看，这使我们能够查看网络结构的对偶变量的约束非线性规划。利用这一思想，我们表明，耦合状态网络多智能体动力学的演变可以被视为一个静态约束优化/鞍点问题的原始对偶算法的迭代。这一观点将状态依赖网络动力学的李雅普诺夫稳定性与常用的优化技术如块协调下降、镜像下降、牛顿法和次梯度法联系起来。因此，我们开发了一个系统的框架，用于分析的李雅普诺夫稳定性的状态依赖网络动力学的技术，从非线性优化。最后，我们通过社会科学的数值模拟来支持我们的理论结果。
2020-07-19 cs.MA cs.SY eess.SY
A First Order Method for Linear Programming Parameterized by Circuit Imbalance
本文提出了一种用于LP优化的一阶方法，其收敛率多项式依赖于约束矩阵的回路不平衡测度且对数依赖于其他向量，相比以往方法提供了更强的收敛保证，并在完全幺模矩阵上实现多项式时间算法。
2024-03-27 cs.DS math.OC
A Unified Framework for Gradient Aggregation in Multi-Objective Optimization
Cheriton School of Computer Science（切尔顿计算机科学学院）；University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）；The Chinese University of Hong Kong（香港中文大学）
提出一个统一框架，通过充分对齐条件建立梯度聚合方法的收敛率，并引入基于CVaR的capped MGDA算法，在对抗联邦学习中验证鲁棒性。
2026-05-28 cs.AI cs.LG math.OC
Online Stochastic Optimization with Wasserstein Based Non-stationarity
New York University（纽约大学）
我们考虑一个一般的在线随机优化问题，多个预算约束在有限的时间段内的地平线。在每个时间段内，揭示了一个奖励函数和多个成本函数，决策者需要从凸和紧凑的行动集中指定一个行动，以收集奖励并消耗预算。每个成本函数对应于一个预算的消耗。在每个周期中，奖励和成本函数都是从一个未知的分布中得出的，这个分布在时间上是非平稳的。决策者的目标是在预算约束下最大化累积报酬。该公式涵盖了广泛的应用，包括在线线性规划和网络收入管理等。在本文中，我们考虑两种设置：（i）数据驱动的设置，其中真实分布是未知的，但先验估计（可能不准确）是可用的;（ii）无信息的设置，其中真实分布是完全未知的。我们提出了一个统一的Wasserstein距离为基础的措施，以量化的不准确性的先验估计设置（i）和非平稳的系统设置（ii）。我们表明，建议的措施导致一个次线性遗憾在这两种设置的可达性的充分必要条件。对于设置（i），我们提出了一个新的算法，它采取了原始-对偶的角度来看，并集成到一个在线的梯度下降过程中的对偶空间的潜在分布的先验信息。该算法也自然延伸到无信息的设置（ii）。在这两种情况下，我们证明了相应的算法实现了最优顺序的遗憾。在数值实验中，我们演示了如何将所提出的算法自然地与重新求解技术相结合，以进一步提高经验性能。
2022-07-25 cs.LG math.OC
