Improving Dynamic Regret in Distributed Online Mirror Descent Using Primal and Dual Information
我们考虑分布式在线优化的问题，一组学习者通过动态通信图连接。学习器的目标是以分布式的方式跟踪时变损失函数之和的全局最小值。我们提出了一种新的算法，称为分布式在线镜像下降与多个平均决策和梯度共识（DOMD-MADGC），这是基于镜像下降，但结合了多个共识平均迭代局部梯度以及局部决策。其关键思想是允许局部学习器收集足够量的全局信息，这使它们能够更准确地近似时变全局损失，从而使它们能够随着时间的推移密切跟踪动态全局最小值。我们证明了DOMD-MADGC的动态后悔是由路径长度上界的，路径长度定义为连续最小值之间的累积距离。由此产生的界限改善现有的分布式在线算法的界限，并消除了显式依赖$T$。
2021-12-07 cs.DC math.OC
Improving Primal Heuristics for Mixed Integer Programming Problems based on Problem Reduction: A Learning-based Approach
本文提出了一种基于双层预测的约简分支（BP-RB）框架来加速求解混合整数规划（MIP）问题的高质量可行解的过程。图卷积网络（GCN）被用来预测二进制变量的值。之后，通过以预测概率为条件的贪婪方法将二进制变量的子集固定到预测值。通过探索逻辑结果，提出了一种基于学习的问题约简方法，大大减少了变量和约束的大小。对于约简子MIP问题，第二层GCN框架被用来更新对剩余二进制变量值的预测，并确定用于分支以生成分支定界（B&B）树的变量的选择。数值算例表明，我们的BP-RB框架加快了原始启发式，并找到高质量的可行解。
2022-09-27 cs.SY eess.SY math.OC
Huge-Scale Assortment Optimization with Customer Choice: A Parallel Primal-Dual Approach
The Institute of Statistical Mathematics（统计数学研究所）；The University of Tokyo（东京大学）；Institute of Operations Research and Analytics, National University of Singapore（新加坡国立大学运筹与分析研究院）；Department of Industrial Systems Engineering and Management, National University of Singapore（新加坡国立大学工业系统工程与管理系）；ZOZO Next, Inc.（ZOZO Next公司）
本文提出了一种并行对偶法 SPFOM，用于解决大规模 assortment 优化问题，通过高效算法提升计算效率和实际应用效果。
2026-02-25 math.OC
Improving critical buildings energy resilience via shared autonomous electric vehicles -- A sequential optimization framework
Ecole Centrale Pekin, Beihang University（北京航空航天大学）；Université Paris-Saclay, CentraleSupélec（巴黎萨克雷大学，中央理工-高等电力学院）；EM Normandie Business School（法国诺曼底高等商学院）
本文提出一种序列优化框架，评估共享自动驾驶电动车通过V2B服务提升关键建筑能源韧性潜力，考虑乘客接驳、车辆调度及电池充放电，分析停电场景下的应急供电能力。
2026-03-13 math.OC
Distributed Regularized Primal-Dual Method: Convergence Analysis and Trade-offs
研究了可分目标函数全局不等式约束分布式优化问题的确定性和随机原始-对偶次梯度算法。在这两种算法中，拉格朗日乘子的范数通过用二次正则化项增广相应的拉格朗日函数来控制。具体来说，我们表明，当每个算法的步长满足一定的限制，拉格朗日乘子的范数是上界的表达式，是成反比的正则化参数。我们使用这个结果来计算拉格朗日函数的次梯度的上界。对于确定性算法，我们证明了达到最优目标值的收敛速度。在随机最优化的情况下，我们同样证明了收敛速度的期望和高概率，使用有界鞅差的方法。对于这两种算法，我们证明了一个权衡之间的收敛速度和约束违反的衰减速率，在这个意义上说，提高收敛速度减缓约束违反的衰减速率，反之亦然。我们证明了我们提出的算法的收敛性数值分布回归铰链和逻辑损失函数在不同的图形结构。
2017-06-19 math.OC
Finding optimal solutions for vehicle routing problem with pickup and delivery services with time windows: A dynamic programming approach based on state-space-time network representations
按需运输系统和共乘服务的优化涉及到解决一类具有时间窗的复杂车辆路径问题（VRPPDTW）。本文首先提出了一个新的时间离散化的多商品网络流模型的VRPPDTW的车辆运载状态的集成的时空运输网络，使联合优化的车辆到车辆的分配和转弯的路线在拥挤的运输网络。我们的三维状态空间-时间网络结构是能够全面列举可能的运输状态在任何给定的时间沿车辆时空路径，并进一步允许向前动态规划解决算法来解决单车辆VRPPDTW问题。通过利用拉格朗日松弛方法，原始多车辆路径问题被分解为一系列的单车辆路径子问题，与拉格朗日乘子的个人乘客请求被更新的子梯度算法。我们进一步讨论了一些搜索空间减少策略和测试我们的算法，通过一个专门的程序在C++中，中型和大型的交通网络，即芝加哥素描和凤凰城区域网络。
2016-04-11 cs.DS math.OC
Fast Multi-Agent Temporal-Difference Learning via Homotopy Stochastic Primal-Dual Optimization
University of Southern California（南加州大学）；Princeton University（普林斯顿大学）；Northwestern University（西北大学）
我们研究了多智能体强化学习中的策略评估问题，其中一组智能体具有联合观察的状态和私有的本地动作和奖励，通过连接的无向网络上的本地计算和通信来协作学习给定策略的值函数。这个问题出现在各种大规模的多智能体系统，包括电网，智能交通系统，无线传感器网络和多智能体机器人。当状态-动作空间维数较大时，采用线性函数逼近的时间差分学习方法得到了广泛的应用。在本文中，我们开发了一种新的分布式时间差学习算法，并量化其有限时间性能。我们的算法结合了分布式随机原始对偶方法与同伦为基础的方法，以适应性地调整学习率，以尽量减少均方投影贝尔曼误差从一个因果的政策轨迹采取新鲜的在线样本。我们明确地考虑到马尔可夫性质的采样和改善最著名的有限时间误差界从$O(1/\sqrt{T})$到~ $O(1/T)$，其中$T$是迭代的总次数。
2021-11-04 cs.LG cs.MA math.OC
Improving the distance reduction step in the von Neumann algorithm
一种已知的用于找到圆锥问题的可行解的一阶方法是自适应冯诺依曼算法。我们改进的距离减少的步骤，通过投影到凸包上的先前生成的点使用原始活动集二次规划（QP）算法。当QP尽可能大时，收敛理论得到了改进。对于R^2中的问题，我们用上图和次微分的单调性来分析我们的算法。从逻辑上讲，投影到的集合越大，每次迭代的性能就越好，这在我们的数值实验中确实可以看到。
2014-08-14 math.OC
A Primal Decomposition Algorithm for the Two-dimensional Bin Packing Problem
二维装箱问题要求将一组矩形物品装入一组最小的较大矩形箱中。物品的包装必须使其边缘平行于箱子的边界，不能旋转，也不能重叠。这个问题很有趣，因为它模拟了许多现实世界的应用程序，包括生产，仓库管理和运输。不幸的是，这是非常困难的，自20世纪90年代以来，尽管有许多尝试，但只有40个项目的实例都没有被证明是最优的。在本文中，我们解决了这个问题的组合Benders分解，是基于一个简单的模型，其中的二维项目和箱子只是表示其面积，和不可行的包装是通过指数许多没有好的削减。基本的分解方案是相当天真的，但我们丰富了一些预处理技术，有效的不等式，下界方法，并增强算法，以产生最强的可能削减。由此产生的算法表现得非常好的基准集的实例，平均改善以前的算法从文献和解决第一次开放的实例。
2019-09-15 cs.DS math.CO math.OC
How a Small Amount of Data Sharing Benefits Distributed Optimization and Learning : The Upside of Data Heterogeneity
本文分析少量数据共享对分布式原始及原始-对偶优化的影响，证明数据异质性可加速后者，并提出仅共享1%数据即可显著提升收敛的元算法。
2025-05-16 math.OC
Dual potentials for capacity constrained optimal transport
具有容量约束的最优运输是公知的最优运输问题的变体，其涉及将一个概率密度$f \in L^1(\mathbb{R}^m)$运输到另一个概率密度$g \in L^1(\mathbb{R}^n)$上，以便在遵守容量约束$0\le h \le \bar h\in L^\infty(\mathbb{R}^{m+n})$的同时优化成本函数$c \in L^1(\mathbb{R}^{m+n})$。Levin首先建立了该问题的线性规划对偶定理。在本文中，我们证明了温和的假设下，对给定的数据，存在一对$L^1$ -函数优化的对偶问题。使用这些函数，这可以被看作是拉格朗日乘子的边际约束$f$和$g$，我们的解决方案$h$的原始问题的特征。我们期望这些潜力在任何进一步的$h$分析中发挥关键作用。此外，从Levin对偶出发，我们导出了无约束最优输运的经典Kantorovich对偶.与我们的同伴论文（arXiv：1309.3022）中得到的结果相结合，这相当于康托洛维奇对偶性的一个新的初等证明。
2014-03-03 math.OC
Efficient primal-dual algorithm for imaging applications with matrix stacking, applied to DBT image reconstruction
The University of Chicago（芝加哥大学）
本文提出了一种简化步长参数选择的高效对偶算法，用于解决包含多个线性变换的优化问题，应用于乳腺断层摄影图像重建，提升了重建体积的定量精度和深度分辨率。
2026-04-24 math.OC physics.med-ph
A primal--dual interior-point method for nonsymmetric conic optimization with conjugate-free scaling
Nankai University（南开大学）；Suzhou University of Science and Technology（苏州科技大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）
该研究提出基于无共轭缩放的原始-对偶内点法，将其嵌入齐次自对偶预测-校正框架，改进了迭代复杂度界，在特定锥优化问题上性能与专用求解器QICS相当。
2026-08-11 math.OC
Random extrapolation for primal-dual coordinate descent
EPFL（洛桑联邦理工学院）；Télécom Paris（巴黎电信学院）；Institut Polytechnique de Paris（巴黎综合理工学院）
我们引入了一种随机外推的原始-对偶坐标下降法，该方法适应于数据矩阵的稀疏性和目标函数的有利结构。我们的方法只更新原始和对偶变量的一个子集与稀疏的数据，它使用大的步长与密集的数据，保留的好处，为每种情况下设计的具体方法。除了适应稀疏性，我们的方法达到快速收敛的保证在有利的情况下\textit{without any modifications}。特别地，我们证明了度量次正则下的线性收敛性，它适用于强凸-强凹问题和分段线性二次函数。在一般的凸-凹情形下，我们证明了序列的几乎必然收敛和原始-对偶间隙和目标值的最佳次线性收敛速度。数值证据证明了我们的方法在稀疏和密集环境中的最先进的经验性能，匹配和改进了现有的方法。
2020-07-13 cs.LG math.OC stat.ML
Learning Primal Heuristics for Mixed Integer Programs
RMIT University（皇家墨尔本理工大学）；Monash University（莫纳什大学）
提出了一种基于机器学习技术的混合规划原始启发式算法。混合规划是求解组合优化问题的一种通用方法。在求解器内部，原始算法在寻找良好的可行解方面发挥着至关重要的作用，使人们能够从分支定界算法（B&B）的一开始就缩小二元差距，通过积极修剪B&B树来大大提高其性能。在本文中，我们调查是否有效的原始算法可以通过机器学习自动学习。我们提出了一种新的方法来表示的优化问题作为一个图形，并训练一个图卷积网络解决问题的实例与已知的最佳解决方案。这反过来又可以预测类似类型的未知问题实例的最佳解决方案中决策变量的值。然后，利用一种新的配置的B&B方法，概率分支与引导深度优先搜索（PB-DFS）的方法，旨在快速找到（近）最优的解决方案的预测变量的解决方案。实验结果表明，这种新的启发式可以找到更好的原始解决方案在更早的阶段的求解过程中，相比其他国家的最先进的原始启发式。
2021-07-02 cs.AI cs.LG math.OC
Infeasibility detection with primal-dual hybrid gradient for large-scale linear programming
我们研究了使用Chambolle和Pock（2011）的原始-对偶混合梯度法（PDHG）检测大规模线性规划问题的不可行性问题。关于PDHG的文献大多集中在假设手头的问题是可行的设置。当问题不可行时，算法的迭代不收敛。在这种情况下，我们表明，迭代发散在一个控制的速度朝着一个定义良好的射线。这条射线的方向被称为无穷大位移矢量$v$。我们的工作的第一个贡献是证明这个向量恢复原始和对偶不可行性证书，只要它们存在。基于这一事实，我们提出了一种简单的方法来提取近似不可行证书PDHG的迭代。我们研究了三种不同的序列收敛到无穷大位移向量：迭代的差异，归一化迭代，和归一化平均。所有这些都很容易计算，因此该方法适用于大规模的问题。我们的第二个贡献是为这些序列建立紧收敛速度。我们证明了归一化的迭代和归一化的平均达到$O(1/k)$的收敛速度，提高了$O(1/\sqrt{k})$的已知速度。这个速率是一般的，并且适用于非扩张算子的任何不动点迭代。因此，它是独立感兴趣的结果，因为它涵盖了广泛的算法家族，包括例如ADMM，并且可以应用于线性规划之外的设置，例如二次和半定规划。进一步，在线性规划的情况下，我们表明，在非退化的假设下，PDHG的迭代识别的活动集的辅助可行问题在有限时间内，这确保迭代的差异表现出最终线性收敛的无穷大位移向量。
2021-02-09 math.OC
Input-to-State Stability Framework for Fully Distributed Primal-Dual Dynamics for Quadratic GNEPs Without Multiplier Consensus
University of Minnesota（明尼苏达大学）
针对二次广义纳什均衡问题，提出无需乘子共识的全分布式原始-对偶动力学，利用输入-状态稳定性框架在充分条件下证明收敛，减少通信并提升隐私。
2026-09-22 cs.AI cs.GT cs.LG
Large-scale optimization with the primal-dual column generation method
University of Edinburgh（爱丁堡大学）；Universidad del Desarrollo（发展大学）
本文研究了对偶-原问题列生成方法在解决大规模凸优化问题中的表现，通过数据挖掘、不确定决策和电信网络等应用，验证了该方法在迭代次数和计算时间上的竞争力。
2015-02-16 cs.LG cs.NA math.NA
Resource-Adaptive Primal-Dual Learning for One-Warehouse Multi-Store Systems with Censored Demand
School of Management, Fudan University（复旦大学管理学院）
针对带删失需求的单仓库多门店系统，提出资源自适应原始对偶学习框架，获对数级预期悔值，优于现有策略，且经数值实验验证性能良好。
2026-08-17 cs.LG math.OC
Two-stage and Lagrangian Dual Decision Rules for Multistage Adaptive Robust Optimization
针对多阶段自适应鲁棒优化问题，提出基于两类随机规划决策规则的原始与对偶界求解框架，无需强假设且支持整数追索变量，实验验证其最优性间隙显著小于现有方法。
2024-09-17 math.OC
DualBi: A dual bisection algorithm for non-convex problems with a scalar complicating constraint
本文提出DualBi对偶二分算法，通过迭代更新标量对偶变量求解具有标量复杂约束的非凸优化问题，并应用于多智能体MILPs实现去中心化求解，仿真验证其优于现有对偶方法。
2024-10-04 math.OC
Improving and benchmarking of algorithms for decision making with lower previsions
极大性、区间优势和E-可容许性是在严重不确定性下使用较低预测进行决策的三个著名准则。提出了一种新的求最大赌博的快速算法。我们将其性能与现有算法进行了比较，其中一个由Troffaes和Hable（2014）提出，另一个由Jansen，Augustin和Schollmeyer（2017）提出。要做到这一点，我们开发了一种新的方法来生成随机判定问题的最大和区间占主导地位的赌博预先指定的比率。基于早期的工作，我们提出了有效的方法来找到这些算法中的共同可行的起点。然后，我们利用这些可行的起始点开发早期停止的原始-对偶内点方法的标准，进一步提高效率。我们发现原始-对偶内点方法效果最好。我们还研究了使用区间优势，以消除非最大赌博。这可以使问题更小，我们观察到，这有利于詹森等人。的算法，但也许令人惊讶的是，不是其他两个算法。我们发现，我们的算法，不使用区间优势，优于所有其他算法在所有情况下，在我们的基准测试。
2019-06-28 cs.DS math.OC stat.CO
A Primal-Dual-Assisted Penalty Approach to Bilevel Optimization with Coupled Constraints
Rensselaer Polytechnic Institute（伦斯勒理工学院）；King Juan Carlos University（胡安卡洛斯国王大学）
本文针对带耦合约束的双层优化问题提出了一种完全一阶算法 BLOCC，建立了严格的收敛理论，并在 SVM 超参数选择和交通网络规划中验证了其有效性。
2024-08-26 cs.LG math.OC stat.ML
Optimal Nonergodic Primal-Dual Complexity of Efficient Inexact Parameter-Free Augmented Lagrangian Methods
University of Waterloo（滑铁卢大学）
针对线性约束凸复合问题，提出三种保留标准AL子问题结构的非精确无参数增广拉格朗日方法，达到凸设定下最优$\fancyscript{O}(ε^{-1})$非遍历原-对偶复杂度，强凸下接近最优，实验较PAL方法提速5至50倍。
2026-08-11 math.OC
Primal-Dual iLQR
Apple（苹果公司）；Polytechnique Montréal（蒙特利尔理工学院）
本文提出原始-对偶 iLQR 算法，将 SQP 与增广拉格朗日原始-对偶评价函数结合，利用 LQR 求解牛顿-KKT 系统，实现全局收敛且高度可并行化的非线性离散时间最优控制求解。
2024-07-01 cs.RO math.OC
A Variance-Reduced Stochastic Accelerated Primal Dual Algorithm
Rutgers Business School（罗格斯商学院）；Penn State University（宾夕法尼亚州立大学）
在这项工作中，我们考虑强凸强凹（SCSC）鞍点（SP）问题$\min_{x\in\mathbb{R}^{d_x}}\max_{y\in\mathbb{R}^{d_y}}f(x,y)$，其中$f$是$L$-光滑的，$f(.,y)$是$μ$-强凸的每个$y$，和$f(x,.)$是$μ$-强凹的每个$x$。在机器学习中，在稳健的经验风险最小化（ERM）的背景下，例如$\textit{distributionally robust}$ ERM，经常出现这样的问题，其中使用小批量数据点来估计部分梯度。假设我们可以访问无偏随机一阶预言，我们认为Zhang等人[2021]最近针对SCSC SP问题引入的随机加速原始对偶（SAPD）算法是一种针对梯度噪声的鲁棒方法。特别地，当动量参数被设置为零时，SAPD恢复众所周知的随机梯度下降上升（SGDA）作为特殊情况，并且当动量参数被适当地调谐时，即，将$κ\triangleq L/μ$依赖性从SGDA的$κ^2$改善为$κ$。我们提出了有效的方差减少战略SAPD的基础上Richardson-Romberg外推，并表明我们的方法在实践中和理论上提高SAPD。
2022-02-19 cs.LG math.OC
Development of a method for solving structural optimization problems
在实践中，优化任务具有某种结构，允许为每个问题开发具有更快收敛速度的新算法。利用优化任务的结构，我们可以为以下最优化问题提出具有更乐观收敛速度的算法：具有Holder连续梯度的函数、函数的叠加（最小-最大问题）、运输问题、选举模型聚类。在这项工作中，我们提出了统一的梯度型方法到一个方法使用一个特殊的概念不精确的模型，并开发了一系列的方法，可以解决广义最优化问题语句，并使用其结构与所提出的概念不精确模型的援助。我们构造了求解相对光滑问题的梯度法、原-对偶自适应梯度法和快速梯度法以及支持函数不精确模型的随机非自适应梯度法。此外，不精确模型的概念得到了最优化问题的不同实例的支持。
2020-08-30 math.OC
Improving the Randomization Step in Feasibility Pump
可行性泵（FP）是求解混合整数线性规划（MILP）的一种成功的原始启发式算法。该算法由三个主要组成部分：舍入分数的解决方案，一个混合整数，投影不可行的解决方案的LP松弛，和一个随机化步骤时使用的算法失速。虽然已经提出了对原始可行性泵的许多概括和改进，但它们主要集中在舍入和投影步骤上。我们开始对可行性泵中的随机化步骤进行更深入的研究。为此，我们提出了一个新的随机化步骤的基础上的WalkSAT算法求解SAT实例。首先，我们提供了理论分析，显示了该随机化步骤的潜力;据我们所知，这是第一次对可行性泵或其变体的运行时间进行理论分析。此外，我们还进行计算实验，将所提出的修改到一个国家的最先进的可行性泵代码，加强了新的随机化步骤的实用价值。
2016-09-26 math.OC
Multi-Timescale Primal Dual Hybrid Gradient with Application to Distributed Optimization
Operations Research Center, MIT（麻省理工学院运筹学研究中心）；Department of Electrical Engineering and Computer Science, MIT（麻省理工学院电气工程与计算机科学系）
本文提出多时间尺度PDHG方法及其加速变体，通过混合Bregman散度和多时间尺度外推实现不同对偶块的任意更新率收敛，提升异构优化和通信成本下的效率。
2026-04-02 cs.LG math.OC
A Self-Organizing Extreme-Point Tabu-Search Algorithm for Fixed Charge Network Problems with Extensions
我们提出了一个新的自组织算法的固定收费网络流问题的基础上，鬼图像（GI）过程中提出的Glover（1994年）和适应固定收费运输问题的Glover，Amini和Kochenberger（2005年）。我们的自组织GI算法迭代地修改了一个理想化的代表性的问题体现在一个参数的鬼图像，使所有的步骤进行与原始网络流算法上的参数GI。计算测试进行了广泛的一组基准问题，其中包括以前最大的一组在文献中，比较我们的算法，以前提出的最好的方法固定收费运输问题，虽然我们的算法是不是专门为这一类。我们还提供了额外的更一般的固定收费网络流问题与Cplex 12.8的比较，以证明新的自组织GI算法是有效的大型问题的情况下，找到解决方案与统计等效的目标值至少快700倍。目前的GI/TS实现产生的有吸引力的结果提供了一个显着的进步，我们的能力，有效地解决固定成本的网络问题，并邀请其用于更大的实例，从各种应用领域。
2020-07-13 cs.DM math.OC
Perturbed Proximal Gradient ADMM for Nonconvex Composite Optimization
PPG-ADMM通过引入扰动机制解决非凸复合优化问题，实现子线性收敛并提供更强的最优性保证。
2026-01-05 math.OC
Geometry of vectorial martingale optimal transportations and duality
本文提出面向多资产期权定价与对冲的VMOT问题，证明其无限维线性规划的对偶最优解存在，并据此揭示原最优传输的几何及极端条件相关性结构。
2023-04-23 math.AP math.OC math.PR
Optimizing Accessibility and Maximum Travel Times in Transit Networks: The Hub Covering Location Problem
Universidad de Cádiz（加的斯大学）；Universidad Andres Bello（安德斯·贝略大学）；Center for Advanced Transportation, Logistics, and Economic Competitiveness (CATLEC)（先进交通、物流与经济竞争力中心）
提出集成公交系统设计优化模型，通过限制短途出行时间和长途网络时间，确保用户可达性与系统效率，并给出混合整数线性规划与数学启发式算法。
2026-06-26 math.OC
Improving ADMMs for Solving Doubly Nonnegative Programs through Dual Factorization
乘子的交替方向法是处理大规模半定规划问题的一种常用方法。在本文中，我们专注于解决双非负规划（DNN），这是半定规划的矩阵变量的元素被约束为非负的。从文献中已经提出的两个算法的圆锥规划，我们引入了两个新的ADMM采用的对偶变量的因式分解。众所周知，一阶方法不适合于计算高精度的最优解，然而中等精度的最优解往往足以得到原最优目标函数值的高质量下界。我们提出的方法来获得这样的界限，通过扰动的双重目标函数值或通过构建一个双重可行解从一个双重近似最优解。这两个过程都可以在我们的ADMM中用作后处理阶段。DNN的放松的独立集问题的数值结果。它们显示了使用对偶变量的因式分解的影响，以便在ADMM的迭代内改进朝向最优解的进展。这减少了迭代次数以及将DNN求解到给定精度的CPU时间。实验还表明，在计算成本较低的后处理中，即使DNN仅以中等精度求解，我们也可以计算接近最优值的边界。这使得ADMM也适用于分支定界算法。
2020-07-09 math.OC
Causal-Informed Hybrid Online Adaptive Optimization for Ad Load Personalization in Large-Scale Social Networks
Meta
本文提出CTR CBO框架，结合对偶方法与贝叶斯优化，利用因果机器学习模型提升广告负载个性化效果。
2026-02-03 cs.SI math.OC
Improving and benchmarking of algorithms for $Γ$-maximin, $Γ$-maximax and interval dominance
$Γ$ -maximin、$Γ$ -maximax和区间优势是在严重不确定性情况下，当概率分布只能部分确定时进行决策的常见决策准则。人们可以通过求解线性规划序列来应用这三个准则。在这项研究中，我们提出了新的算法，这些标准和现有的标准算法的性能进行比较。具体来说，我们使用有效的方法，在以前的工作的基础上，找到这些算法的共同的初始可行点。利用这些初始可行点，我们开发早期停止标准，以确定赌博是否是$Γ$ -maximin，$Γ$ -maximax或区间显性。我们观察到，原始-对偶内点方法从这些改进中受益匪浅。在我们的模拟中，我们发现，我们提出的算法优于标准算法时，较低的预测域的大小是小于或等于决策和结果的大小。然而，我们提出的算法不优于标准算法的情况下，较低的预测域的大小是远远大于的大小的决定和结果。
2021-03-23 math.OC stat.CO
A dual algorithm for a class of augmented convex models
凸优化模型发现有趣的应用，特别是在信号/图像处理和压缩传感。研究了一类受强凸函数扰动的增广凸模型，提出了一种对偶梯度算法。该算法包括线性化Bregman算法和奇异值阈值算法作为特例。基于邻近算子的基本性质，我们给出了一个简洁的方法来建立原始和对偶序列的收敛性，改进了现有文献中的结果。
2013-08-29 cs.IT math.IT math.OC
Stochastic optimal transport with free end time
考虑了具有一般漂移依赖和自由终止时间的两个指定概率分布（源和目标）之间的随机运输问题。首先，为了建立一个对偶原理，我们将原问题的两个等价公式相关联，以保证其关于源和目标分布的凸性和下半连续性。给出了一个等价的欧拉形式，其对偶变分原理由Hamilton-Jacobi-Bellman型变分不等式给出.在漂移的依赖是有界的情况下，正则性结果的最小化的欧拉问题，然后使我们能够证明达到相应的对偶问题。我们还解决实现时的漂移组件的成本定义拉格朗日$L$是超线性$L \approx |u|^p$与$1<p<2$，在这种情况下，设置是让人想起我们的方法-在以前的工作-确定性控制运输问题的自由结束时间。最后，我们解决的标准下，最佳的漂移和停时是唯一的，即严格的凸性的漂移组件和时间的单调性的拉格朗日。
2019-09-11 math.AP math.OC
Probability Distributions on Partially Ordered Sets and Network Interdiction Games
本文提出了以下问题：是否存在一个概率分布的子集的有限偏序集（偏序集），使一组约束，涉及边际概率的偏序集的元素和最大链是满意的？我们提出了一个组合算法，积极解决这个问题。在最大链概率是其元素的仿射函数的特殊情况下，该算法可以在多项式时间内实现。这个问题的存在性是相关的均衡特性的一般战略阻断游戏的容量限制流网络。这个博弈涉及一个路由实体，它通过网络发送它的流，同时面临路径运输成本，以及一个拦截器，它同时拦截一个或多个边，同时面临边拦截成本。利用我们的存在性结果偏序集和严格互补松弛线性规划，我们表明，这个游戏的纳什均衡可以充分描述使用原始和对偶解决方案的最小成本的流通问题。我们的分析提供了一个新的表征的关键组成部分的阻断游戏。它还导致了一个多项式时间的平衡计算方法。
2020-08-26 cs.GT math.OC
One-Shot Safety Alignment for Large Language Models via Optimal Dualization
University of Pennsylvania（宾夕法尼亚大学）
本文提出通过最优对偶化将带约束的RLHF安全对齐转化为等价无约束问题，预优化具有闭式解的光滑凸对偶函数，从而避免原始-对偶迭代，并据此设计了MoCAN和PeCAN两种高效稳定的一次性安全对齐算法。
2024-11-22 cs.AI cs.CL cs.LG
A Direct $\tilde{O}(1/ε)$ Iteration Parallel Algorithm for Optimal Transport
Stanford University（斯坦福大学）
最佳运输，或计算两个分布之间的瓦瑟斯坦或“地球移动者”距离，是一个基本的原始，出现在许多学习和统计设置。我们给出了一个算法，解决了这个问题的可加$ε$与$\tilde{O}(1/ε)$并行深度，和$\tilde{O}\left(n^2/ε\right)$工作。除非在一个长期存在的算法开放问题上取得突破，否则这对于一阶方法来说是最优的。布朗谢等Quanrud等人的'18，Quanrud '19通过减少到正线性规划和矩阵缩放获得了类似的运行时间。然而，这些基于约简的算法使用复杂的子程序，由于需要求解器进行二阶迭代（矩阵缩放）或非并行化（正LP），这些子程序可能被认为是不切实际的。最快的实用算法在时间上运行$\tilde{O}(\min(n^2 / ε^2, n^{2.5} / ε))$（Dvurechensky et. 18，Lin et. 19）。我们提供了一个并行的，一阶的，$\tilde{O}(1/ε)$迭代算法，没有更好的依赖于尺寸，并提供初步的实验证据表明，我们的算法可以享受改善的实际性能。我们通过原始-对偶超梯度方法获得此运行时间，其动机是最近对最大流的理论改进（Sherman '17）。
2019-06-03 cs.DS cs.LG math.OC
