Techniques for Gradient Based Bilevel Optimization with Nonsmooth Lower Level Problems
我们提出的技术近似双层最优化问题与非光滑的低级别的问题，可以有一个非唯一的解决方案。为此，我们用一个迭代算法，保证收敛到一个极小的问题的较低级别的最小化问题的极小化的表达。使用合适的非线性邻近距离函数，这种迭代算法的更新映射可以是可微的，尽管最小化问题是非光滑的。
2016-04-26 math.OC
An implementable proximal-type method for computing critical points to minimization problems with a nonsmooth and nonconvex constraint
本文提出一种可实现的近端型方法，用于求解含非光滑非凸目标及约束的优化问题，通过有限凸模型逐点最小值构建非凸模型，在统一框架下计算满足必要最优性条件的模型临界点。
2024-09-25 math.OC
The inverse problem of positive autoconvolution
研究用非负信号自卷积最优逼近给定非负信号的反问题，以I-散度为准则，提出基于提升技术的交替最小化迭代算法，并证明其极限点为Kuhn-Tucker点且收敛迅速。
2021-11-29 math.OC
$\ell_0$ Minimization for Wavelet Frame Based Image Restoration
Simon Fraser University（西蒙弗雷泽大学）；The University of Arizona（亚利桑那大学）
紧小波框架理论在过去的二十年里得到了广泛的研究，目前被广泛应用于图像复原和其他图像处理和分析问题。基于小波框架的模型，包括平衡方法和基于分析的方法的成功，是由于他们的能力，稀疏逼近分段光滑函数，如图像。受平衡方法和基于分析的方法的启发，我们将提出一个基于小波帧的$\ell_0$最小化模型，其中帧系数的$\ell_0$“范数”被惩罚。我们采用惩罚分解（PD）方法来解决所提出的优化问题。数值实验结果表明，该模型在恢复图像的清晰度和保持图像的平滑度方面，与基于分析的方法和平衡方法相比，具有更好的图像质量。还将提供PD方法的一些收敛性分析。
2011-10-28 cs.CV math.FA math.OC
On the Complexity of Approximating Multimarginal Optimal Transport
University of California, Berkeley（加州大学伯克利分校）；University of Texas, Austin（德克萨斯大学奥斯汀分校）；ENSAE（法国国立统计与经济管理学院）；Google Brain（谷歌大脑）
我们研究的复杂性近似的多边缘最优运输（MOT）距离，一个推广的经典的最优运输距离，在这里考虑$m$离散概率分布支持每个$n$支持点。首先，我们表明，标准的线性规划（LP）表示的MOT问题是不是一个最小成本流问题时$m \geq 3$。这个否定的结果意味着一些组合算法，例如，网络单纯形法，不适合近似的MOT问题，而最坏情况下的复杂性界的确定性的邻居点算法仍然是一个数量的$\tilde{O}(n^{3m})$。然后，我们提出了两个简单的和\textit{deterministic}算法近似MOT问题。第一个算法，我们称之为\textit{multimarginal Sinkhorn}算法，是一个可证明有效的多边缘推广的Sinkhorn算法。我们表明，它实现了$\tilde{O}(m^3n^m\varepsilon^{-2})$的公差$\varepsilon \in (0, 1)$的复杂性界。这为近似MOT问题提供了第一个\textit{near-linear time}复杂度界限保证，并且当$m = 2$时，与经典OT设置中Sinkhorn算法的最佳已知复杂度界限相匹配。第二种算法，我们称之为\textit{accelerated multimarginal Sinkhorn}算法，通过引入估计序列来实现加速，并且复杂度界为$\tilde{O}(m^3n^{m+1/3}\varepsi…
2022-02-22 cs.DS cs.LG math.OC
Mean squared error minimization for inverse moment problems
我们考虑的问题，逼近未知密度$u\in L^2(Ω,λ)$的措施$μ$上的$Ω\subset\R^n$，绝对连续的一些给定的参考措施$λ$，从唯一的知识，许多时刻的$μ$。给定$d\in\N$和阶矩$d$，我们提供了一个多项式$p_d$，它最小化在最多$d$的次数的所有多项式$p$上的均方误差$\int (u-p)^2dλ$。如果没有额外的要求，则可以将$p_d$作为线性系统的解来获得。另外，如果$p_d$用关于$λ$正交的多项式的基来表示，则其系数向量就是给定矩的向量，并且不需要计算。此外，$L^2(Ω,λ)$中的$p_d\to u$为$d\to\infty$。通常，即使$u$是非负的，也不能保证$p_d$的非负性。然而，有了这个额外的非负性要求，人们得到类似的结果，但计算$p_d\geq0$，使$\int (u-p)^2dλ$最小化，现在需要解决一个适当的半定规划。我们已经测试了一些应用所产生的几何对象的重建和非线性微分方程的解的近似的方法。在所有情况下，我们的结果是显着优于最大熵技术估计$u$。
2012-08-31 math.OC
Approximating Multiple Robust Optimization Solutions in One Pass via Proximal Point Methods
本文提出一种基于近端点方法的程序，可一次性逼近多个Pareto有效鲁棒解，将计算需求从N×T降至2×T，并在鲁棒线性优化问题中证明了其精确性或高概率近似保证。
2024-10-03 math.OC
Structured Discrete Shape Approximation: Theoretical Complexity and Practical Algorithm
我们考虑的问题，近似的二维形状轮廓（或曲线段）使用离散装配系统，允许建立基于有限的节点和边缘类型的边缘长度和方向的限制集的几何结构。我们表明，已经决定这种近似问题的可行性是NP难的，即使是非常简单的设置仍然是棘手的。然后，我们设计了一个算法框架，结合形状采样与确切的基数最小化，以获得良好的近似使用几个组件。作为一个特定的应用程序和展示的例子，我们讨论近似形状轮廓使用经典的Zometool建设工具包，并提供有前途的计算结果，表明我们的算法是能够获得良好的形状表示在合理的时间内，尽管问题的一般棘手。最后，我们展望了可能的扩展所开发的方法，特别是关于3D形状近似任务的文件。
2021-02-01 cs.CG math.OC
$L^1$-optimality conditions for circular restricted three-body problems
研究了圆形限制三体问题中航天器平动的L1极小化问题。利用庞特里亚金最大值原理，导出了系统存在bang-bang控制和奇异控制的必要条件.奇异极值是详细的，根据Marchal在参考文献[14]和Zelikin等人在参考文献[15]中开发的理论，重新调用富勒现象的存在。[12，13]。文献[22]已解决了具有固定端点的L1极小化问题的充分最优性条件。本文通过构造一个参数化的极值族，不仅对端点不动的情形，而且对端点位于光滑子流形上的情形，建立了一些二阶充分条件.此外，还给出了最优性条件的数值实现方法.最后，将地-月-航天器系统近似为CRTBP，采用打靶法和Caillau等人的延拓法相结合的方法，计算了航天器平移运动的L1最小化轨迹。[4，5]，并利用本文建立的二阶最优性条件检验了计算轨迹的局部最优性。
2015-12-13 math.OC
Convergence Theorems for Hierarchical Fixed Point Problems and Variational Inequalities
本文讨论近似非扩张映象的分层不动点问题解的一种改进的迭代投影逼近法。在一定的映射和参数近似假设下，给出了该方法的强收敛定理。作为一种特殊情况，这种投影方法解决了一些二次极小化问题。应该注意的是，所提出的方法可以被视为Wang等人[15]，Wanget. [14][15][16][17][18][19]
2014-03-14 math.FA math.OC
$\ell_p$-sphere covering and approximating nuclear $p$-norm
该研究提出$\u2113_p$-球面覆盖的击中集工具包，得到矩阵核$p$-范数的首个$\Omega(1)$近似多项式算法，并进一步构建张量核$p$-范数的近似算法，匹配其对偶范数的最优近似界。
2024-07-11 math.OC
Fast Minimization of Expected Logarithmic Loss via Stochastic Dual Averaging
National Taiwan University（台湾大学）；National Center for Theoretical Sciences（国家理论科学中心）；Hon Hai (Foxconn) Quantum Computing Centre（鸿海（富士康）量子计算中心）
针对不满足光滑性的期望对数损失最小化问题，提出带对数屏障的B样本随机对偶平均算法，在泊松逆问题上达到现有最优复杂度，在量子态层析任务中显著提升现有方法的时间复杂度，且实验表现更优。
2024-03-11 cs.LG math.OC quant-ph
Optimal Control of ensembles of dynamical systems
本文针对仿射控制系统集合的最优控制问题，通过$\Gamma$-收敛用有限子集合逼近无限集合，推导出极大值原理，并提出基于梯度投影和庞特里亚金原理的数值算法，在二维线性系统上验证了有效性。
2023-01-23 math.OC
H2-optimal approximation of MIMO linear dynamical systems
考虑了用一个次数小得多的多输入多输出（MIMO）$p\times m$有理传递函数$H(s)$逼近一个次数高的多输入多输出（MIMO）$p\times m$有理传递函数$H(s)$的问题，使得逼近误差的${\cal H}_2$范数最小.我们通过切向插值条件刻画了逼近误差的${\cal H}_2$范数的稳定点，并将这些结果推广到离散时间情形。我们分析是否合理的假设，低阶模型总是可以近似任意接近只施加一阶插值条件。最后，为了说明最小化问题的复杂性，我们分析了一个简单情况下的近似误差的${\cal H}_2$范数。
2008-07-30 math.DS math.OC
Approximation Theory, Computing, and Deep Learning on the Wasserstein Space
TUM Institute for Advanced Studies（慕尼黑工业大学高等研究院）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Universität Wien（维也纳大学）
针对无限维概率空间上Sobolev光滑函数的数值逼近难题，提出三种基于机器学习的Wasserstein空间函数逼近方法，给出泛化误差界，实现了远快于传统方法的求值速度与更优的图像数据集测试误差。
2024-10-10 cs.LG math.FA math.OC
Stochastic set-valued optimization and its application to robust learning
Department of Mechanical and Materials Engineering, University of Cincinnati（机械与材料工程系，辛辛那提大学）；Department of Industrial and Systems Engineering, Lehigh University（工业与系统工程系，莱恩大学）
本文提出随机多值优化框架，用于鲁棒机器学习。通过将决策变量映射为目标值集合，引入超箱集并转化为多目标优化问题，结合子量化分位数和超量化分位数改进鲁棒性，提升模型在分布偏移下的稳定性与准确性。
2026-03-18 cs.LG math.OC
On the local and global minimizers of the smooth stress function in Euclidean Distance Matrix problems
本文研究欧氏距离矩阵精确恢复中四次光滑应力函数的非凸优化，证明 n≤d+1 时二阶驻点均为全局极小点，并构造或数值验证局部非全局极小点的存在。
2025-07-25 math.OC
Approximation of shape optimization problems with non-smooth PDE constraints
本文针对由非光滑PDE控制的形状优化问题，利用泛函变分参数化方法将其转化为函数空间中的控制问题，并通过本质稠密性性质用凸的非光滑分布最优控制问题逼近原问题，为后续建立最优性系统提供了理论基础。
2025-02-07 math.OC
Complete hierarchies of efficient approximations to problems in entanglement theory
本文从凸优化的角度研究了纠缠理论中的几个问题。这一系列问题包括：（A）判定一个状态是否是多方纠缠的，（B）纠缠见证者相对于纯乘积态的期望值的最小化，（C）量化纯多方纠缠的纠缠几何度量的密切相关的评估，（D）基于二阶矩和线性熵准则的证据检验状态是否多方纠缠，以及（E）评估量子信道的最大输出纯度的实例。我们证明这些问题可以被表述为某些优化问题：采用三次或更少次多项式的多项式约束问题。然后，我们将最近建立的半定松弛理论中的已知方法应用于所表述的优化问题。通过这种结构，我们到达一个层次的有效可解的近似的解决方案，近似的精确解，如所需的，在一种方式，是渐近完成。例如，这导致了一个新的层次结构，有效地判定多粒子纠缠的充分标准，使得每个纠缠态都必须在层次结构的某个步骤中被检测到。最后，我们提出了数值例子来证明这种方法的实际可达性。
2004-12-21 cond-mat.other math.OC quant-ph
