Optimization of conditional convex risk measures
条件凸风险测度的优化问题是动态投资组合理论中的一个核心问题,但由于条件凸风险测度既不是随机严格凸的,也不是随机强制的,因此在以往的文献中尚未对其进行系统的研究。本文的目的是给出这一问题存在唯一性的一些基本结果,特别是对条件单调均值-方差和条件熵风险测度的结果是完整和深入的。作为本文工作的基础,本文首先对随机泛函分析进行了简要的介绍,包括其产生的历史背景和一些重要进展。本文进一步综述了随机凸分析及其在条件凸风险测度中的应用的最新进展。最后,在此基础上,我们建立了条件单调均值-方差最优化问题有解的一个简洁的充分必要条件。利用最近发展起来的$L^0$ --凸紧性理论,证明了当收益率的条件均值给定且收益率落在随机闭球内时,条件熵风险测度的最优化问题的存在性.此外,还解决了相关的唯一性问题。
2019-10-23 math.OC
Looking for appropriate qualification conditions for subdifferential formulae and dual representations for convex risk measures
利用凸优化中的共轭对偶理论,给出凸风险测度的次微分公式和对偶表示,是一个富有成效的思想。在本文中,我们强调了在这一领域的不同的问题配方的背景下,资格条件所发挥的突出作用。我们不仅证明了经典的广义优度点定理,而且还证明了最近引入的一个由拟相对内部构造的定理。
2010-05-14 math.OC
The Landscape of Non-convex Empirical Risk with Degenerate Population Risk
Colorado School of Mines(科罗拉多矿业学院)
经验风险的景观已经在一系列机器学习问题中得到了广泛的研究,包括低秩矩阵分解,矩阵传感,矩阵补全和相位检索。在这项工作中,我们关注的情况下,相应的人口风险是一个退化的非凸损失函数,即,人口风险的Hessian可以有零特征值。我们不直接分析非凸的经验风险,而是首先研究相应的人口风险的景观,这通常更容易表征,然后在经验风险的景观和它的人口风险之间建立联系。特别地,我们建立了经验风险与总体风险的临界点之间的对应关系,而不需要强Morse假设,这在现有文献中是必需的,但在退化情景中是不满足的。我们还将该理论应用于矩阵传感和相位检索,以演示如何从相应的人口风险中推断经验风险的景观。
2019-12-03 cs.IT cs.LG math.IT
Algorithms and software for projections onto intersections of convex and non-convex sets with applications to inverse problems
我们提出了算法和软件计算投影到多个凸和非凸约束集的交集。称为SetIntersectionProjection的软件包用于物理参数估计和图像处理中逆问题的正则化。主要的设计准则是使用多个集合,这允许我们使用多个先验知识来解决逆问题。我们的算法优于众所周知的Dykstra的算法时,个别集是不容易的项目,因为我们利用约束集之间的相似性。其他的设计选择,使软件快速和实用,包括最近开发的自动选择方法的辅助算法参数,细粒度和粗粒度的并行性,和一个多级加速计划。我们提供的实施细节和例子,显示如何软件可以用来正则化反问题。结果表明,我们受益于所有可用的先验信息,并不限于一个或两个正则化,因为算法,计算,或超参数选择问题。
2019-03-07 cs.MS math.OC
Risk-Sensitive Model Predictive Control for Interaction-Aware Planning -- A Sequential Convexification Algorithm
本文针对人机交互场景中具有决策依赖分布的随机系统,提出一种风险敏感模型预测控制的序列凸化算法,通过推导目标函数与碰撞避免惩罚项的凸上界,将非凸最优控制问题转化为一系列凸问题高效求解,并在机器人导航仿真中验证了其有效性与计算优势。
2025-05-30 cs.SY eess.SY math.OC
PSAHARA Utility Family: Modeling Non-monotone Risk Aversion and Convex Compensation in Incomplete Markets
本研究结合对冲基金凸薪酬与非单调风险厌恶理论,提出PSAHARA效用族建模,通过凹化技术推导不完全市场下的显式最优控制,经分析与实证验证其投资组合具高风险偏好、高收益与高波动特征。
2024-11-02 math.OC q-fin.MF
Exact Instance Compression for Convex Empirical Risk Minimization via Color Refinement
Program for Research in Mathematics, Engineering, and Science (PRIMES-USA)(数学、工程与科学研究计划(PRIMES-USA));Massachusetts Institute of Technology(麻省理工学院)
本文提出了一种基于颜色细化的无损压缩框架,用于高效解决凸经验风险最小化问题,适用于多种可微凸优化模型。
2026-01-31 cs.LG math.OC
Subdifferentials of Convex Operators Valued in the Space of Integrable Functions with Application to Risk-Averse Optimization
本文研究取值于Lc_p空间的凸算子及其与单调凸泛函复合的次微分,提出基于局部性质的新工具,并应用于带部分信息和随机占优约束的风险规避随机优化问题,导出新的次微分最优性条件。
2025-11-07 math.FA math.OC
Trade-off preservation in inverse multi-objective convex optimization
本文提出了一种新的多目标凸优化的逆优化方法,该方法允许输入解可能不是Pareto最优的,并确定一个权向量,该权向量产生一个Pareto最优解,该最优解近似于输入解,并保留了决策者的意图。并展示了它与最小化最优性差距的关系。我们的逆模型保持了传统的逆凸模型的复杂性。我们提出了一个线性近似的模型和一个连续的线性规划算法,权衡保存和计算效率之间的平衡,并表明我们的模型包括许多现有的模型从文献。我们使用前列腺癌放射治疗的临床数据证明了所提出的方法。
2017-06-21 math.OC
Convergence analysis of sampling-based decomposition methods for risk-averse multistage stochastic convex programs
考虑一类基于抽样的分解方法来求解风险规避的多阶段随机凸规划。我们证明了一个公式的计算所需的削减建立外部线性化的追索功能。该公式可用于求解凸非线性问题的随机对偶动态规划的有效实现。当相对完全补偿假设成立时,我们证明了这些分解方法的几乎必然收敛。我们还证明了这些算法的几乎必然收敛时,不满足相对完整的追索权假设的风险厌恶的多级随机线性规划。首先进行分析,假设基本的随机过程是阶段间独立的和离散的,在每个阶段具有可能实现的有限集。然后,我们指出了两种方法,扩展的方法和收敛性分析的情况下,当过程是级间依赖。
2016-09-09 math.OC
Convex Risk Bounded Continuous-Time Trajectory Planning in Uncertain Nonconvex Environments
MIT(麻省理工学院)
在本文中,我们解决的轨迹规划问题,在不确定的非凸静态和动态环境中,包含概率位置,大小和几何形状的障碍物。为了解决这个问题,我们提供了一个风险有界的轨迹规划方法,寻找连续时间的轨迹,保证有界的风险在规划时间范围内。风险被定义为与不确定障碍物发生碰撞的概率。现有的方法来解决风险有界的轨迹规划问题要么是有限的高斯不确定性和凸障碍或依赖于基于采样的方法,需要不确定性样本和时间离散化。为了解决风险有界的轨迹规划问题,我们利用风险轮廓的概念,将风险有界的规划问题转化为一个确定性的优化问题。风险等值线是不确定环境中具有有界风险的所有点的集合。所得到的确定性优化,在一般情况下,非线性和非凸时变优化。我们提供了基于平方和优化的凸方法来有效地解决所得到的非凸时变优化问题,并获得连续时间的风险有界的轨迹,而无需时间离散化。所提供的方法处理任意概率不确定性,非凸和非线性,静态和动态的障碍,并适用于在线轨迹规划问题。
2021-06-10 cs.RO cs.SY eess.SY
Risk-Sensitive Model Predictive Control
我们提出了一个启发式的政策和性能界的风险敏感凸随机控制,推广线性指数二次调节器(LEQR)理论。我们的启发式策略扩展了标准的风险中性模型预测控制(MPC);然而,我们的策略并没有忽略不确定的噪声项,而是假设这些噪声项的结果取决于风险规避参数,是有利的还是不利的。在寻求风险的情况下,这个修改的规划问题是凸的。在风险厌恶的情况下,它需要最小化的凸函数,这是(近似)使用凹凸过程的差异。在这两种情况下,我们得到的最优成本的下界作为解决规划问题的副产品。我们给出了一个控制电池为不确定负载供电的数值例子,并表明我们的策略降低了非常糟糕的结果的风险(与标准的确定性等效控制相比),对平均性能的影响可以忽略不计。
2022-05-27 math.OC
Tractable Evaluation of Stein's Unbiased Risk Estimate with Convex Regularizers
针对带凸正则项的估计器中Stein无偏风险估计现有通用方法无法适配大规模问题的局限,提出可处理宽类估计器且适用于大规模问题的SURE评估方法。
2023-10-05 math.OC math.ST stat.CO
An overview of optimal control optimization problems driven by non-convexity measures
最近,文献动态一致的风险措施,扩大了风险敏感的业绩评价的选择。一个运行的例子包括累积前景理论和条件方差风险。它们中的大多数可以一般地解释为给定随机变量的非线性变换。非凸性蕴含着许多数学难题和挑战。综述了非凸测度驱动的动态规划最优控制最优化问题的研究进展。
2020-12-11 math.OC
Convex risk minimization via proximal splitting methods
Chemnitz University of Technology(开姆尼茨工业大学)
本文探讨了近端对偶分裂方法在投资组合优化中的应用,重点在于计算效用函数的近端点,以及通过条件风险值的对偶表示进行风险量化。
2013-04-29 cs.NA math.NA math.OC
Equal Risk Pricing and Hedging of Financial Derivatives with Convex Risk Measures
在本文中,我们考虑了等风险定价和套期保值问题,其中期权的公平价格是使合同双方面临相同风险水平的价格。第一次集中在风险的情况下,根据凸风险度量,我们建立的问题减少到独立解决的作家和买方的套期保值问题,初始资本为零。通过进一步施加的风险措施分解的方式,满足马尔可夫性质,我们提供了动态规划方程,可以用来解决对冲问题的情况下,欧洲和美国的选择。我们所有的结果是一般性的,足以适应的情况下,风险是衡量根据最坏情况下的风险措施,通常是在强大的优化。我们的数值研究说明了等风险定价方案的优势,只占一方,定价基于二次对冲(即$ε$ -套利定价),或定价基于一个固定的等价鞅测度(即Black-Scholes定价)。特别是,数值结果证实,当采用一个相等的风险价格的作家和买方最终被暴露在风险是更相似的,平均小于他们会遇到的其他方法。
2020-09-16 math.OC q-fin.PR
Expert-Guided Inverse Optimization for Convex Constraint Inference
针对传统逆优化多聚焦线性目标函数推断的局限,提出专家引导的凸约束推断逆优化模型,从专家标注的历史解中学习凸可行域参数,通过变分不等式简化求解,在乳腺癌数据上可推断临床标准以生成高接受率的治疗方案。
2024-10-09 math.OC
Optimizing distortion riskmetrics with distributional uncertainty
具有分布不确定性的失真风险度量的优化在金融和运筹学中有着广泛的应用。失真风险度量包括许多常用的风险度量和偏差度量,它们不一定是单调或凸的。我们的主要发现之一是一个统一的结果,使我们能够转换一个优化的非凸失真riskmetric与分布的不确定性,凸的,导致很大的易处理性。统一等价结果的充分条件是集中闭性的新概念,其变体也被证明是等价所必需的。我们的研究结果包括许多特殊情况下,以及在优化文献中研究,包括但不限于优化概率,风险价值,预期不足,雅里的双重效用,失真风险措施之间的差异,在各种形式的分布不确定性。我们说明我们的理论结果,通过应用程序的投资组合优化,矩约束下的优化,偏好鲁棒优化。
2022-02-23 math.OC math.PR q-fin.RM
On Convex Duality in Linear Inverse Problems
Indian Institute of Technology Bombay(印度理工学院孟买分校)
在这篇文章中,我们详细讨论了机器学习中所谓的不适定线性逆问题(LIP),这几乎已经成为近年来的经典。LIP的基本任务是从其相对较少的随机线性测量中恢复整个信号/数据。这样的问题出现在各种设置与应用范围从医疗图像处理,推荐系统等,我们提供了一个博览会的凸对偶的线性逆问题,并获得一个新的和等价的凹凸最小最大的重新制定,从而产生简单的上升-下降型算法来解决LIP。此外,这样的重新制定是至关重要的,在开发方法来解决几乎肯定的恢复约束的字典学习问题。
2020-01-08 cs.LG eess.SP math.OC
Optimal Methods for Convex Risk Averse Distributed Optimization
Georgia Institute of Technology(佐治亚理工学院)
研究了网络上凸风险厌恶优化问题的通信复杂性。该问题是风险中性有限和分布式最优化问题的推广,其重要性源于在不确定环境中处理风险的需要。对于文献中的算法,在解决风险规避和风险中性问题的通信复杂性方面存在差距。我们提出了两个分布式算法,即分布式风险规避优化(DRAO)方法和分布式风险规避优化滑动(DRAO-S)方法,以缩小差距。具体而言,DRAO方法通过假设某个鞍点子问题可以在服务器节点中容易地求解来实现最优通信复杂度。DRAO-S方法通过引入一个新的鞍点滑动子程序消除了强假设,该子程序只需要在模糊度集$P$上的投影。我们观察到由DRAO-S执行的$P$ -投影的数量是最佳的。此外,我们开发了匹配的较低的复杂度界限,以显示两个DRAO和DRAO-S的通信复杂度是可以改进的。数值实验表明,令人鼓舞的DRAO-S方法的经验性能。
2023-03-07 cs.DC cs.LG math.OC
Risk Assessment of Stealthy Attacks on Uncertain Control Systems
本文针对不确定控制系统中的隐蔽数据注入攻击,提出基于输出到输出增益和最大期望损失的风险评估方法,并利用场景优化与耗散系统理论将问题转化为可解的凸半定规划,同时给出风险有界条件,最后通过水轮机电力系统仿真验证。
2022-02-20 cs.SY eess.SY math.OC
Convex Risk Bounded Continuous-Time Trajectory Planning and Tube Design in Uncertain Nonconvex Environments
MIT, Computer Science;Artificial Intelligence Laboratory. These authors contributed equally to the paper.
针对含概率障碍物的不确定非凸动静环境,本文利用风险等值线将规划转化为确定性优化,并通过平方和凸优化实现无时间离散化的连续时间风险有界轨迹及最大安全管设计。
2023-06-04 cs.AI cs.RO math.OC
An optimal transport foundation for a class of dynamically consistent risk measures
University of Konstanz(康斯坦茨大学);University of Waterloo(滑铁卢大学)
本文研究了一种通过允许转移律的分布不确定性来稳健化时间齐次马尔可夫参考模型的一类动态一致风险测度,提出了一种基于最优传输的动态风险测度框架,并通过凸共轭得到显式公式。
2026-05-20 math.OC math.PR q-fin.MF
Lifted Polymatroid Inequalities for Mean-Risk Optimization with Indicator Variables
研究了均值-风险优化中一类带指示变量的混合0-1锥二次最优化问题。指标变量通常用于模拟非凸性,如固定费用或基数约束。由于二元约束,该问题可归结为一个次模函数极小化问题,通过提升二元变量上的多拟阵不等式,得到了三类强凸有效不等式.计算实验表明,在加强凸松弛的不等式的有效性,从而提高了固定费用和基数约束的平均风险问题的解决时间显着。
2018-08-25 math.OC
A convexity preserving nonconvex regularization for inverse problems under non-Gaussian noise
该研究针对非高斯噪声下的线性回归逆问题,提出带非凸正则项的保凸模型,给出凸性与极小值存在的充分条件,设计收敛到全局最优的近端分裂算法,并在同步削波修复与去噪场景验证了非凸增强凸稀疏正则化器的有效性。
2025-09-03 math.OC
Convex regularization of discrete-valued inverse problems
这项工作涉及线性逆问题的分布参数是已知的先验只采取从一个给定的离散集的值。这个性质可以在Tikhonov正则化中借助适当的凸但不可微的正则化项来推广。这允许应用标准方法来显示在Bregman距离中的适定性和收敛速度。使用正则化项的特定性质,可以证明收敛(尽管没有速率)实际上逐点保持。此外,所得到的Tikhonov功能可以有效地使用半光滑牛顿法。数值例子说明了正则化项和数值解的性质。
2017-07-26 math.OC
Linear Inverse Problems with Norm and Sparsity Constraints
我们描述了两个非传统的线性回归算法,称为GAME和CLASH。这些方法的突出特点是,他们利用凸$\ell_1$ -球和非凸$\ell_0$ -稀疏约束稀疏恢复联合。为了建立GAME和CLASH的理论近似保证,我们涵盖了从博弈论、凸优化和组合优化等一系列有趣的主题。我们说明,这些方法导致改进的理论保证和经验性能超越凸和非凸求解器。
2015-07-20 cs.IT math.IT math.OC
Solving an inverse elliptic coefficient problem by convex non-linear semidefinite programming
在医学成像和非破坏性材料测试中的一些应用导致椭圆系数反问题,其中椭圆PDE中的未知系数函数将从其解的部分知识确定。这通常是一个高度非线性的不适定反问题,对于这种问题,数值方法很难得到唯一的可重构结果、稳定性估计和整体收敛。本说明的目的是指出反系数问题和半定规划之间的新联系,这可能有助于解决这些挑战。我们证明了具有多个测量的椭圆Robin传输逆问题可以等价地改写为一个唯一可解的凸非线性半定最优化问题。这允许显式地估计实现所需分辨率所需的测量的数量,以导出噪声数据的误差估计,并克服通常出现在用于逆系数问题的基于优化的方法中的局部最小值的问题。
2021-05-24 cs.NA math.AP math.NA
On the relations of stochastic convex optimization problems with empirical risk minimization problems on $p$-norm balls
在本文中,我们考虑机器学习应用中出现的凸随机最优化问题(例如,风险最小化)和数理统计(例如,极大似然估计)。有两种主要方法来解决这类问题,即随机逼近方法(在线方法)和样本平均逼近方法,也称为蒙特卡罗方法(离线方法)。在离线方法中,该问题被其经验对应问题(经验风险最小化问题)所取代。自然的问题是如何定义问题的样本量,即,应该对多少实现进行采样,以便经验问题的相当精确的解是具有期望精度的原始问题的解。这个问题是现代机器学习和优化中的主要问题之一。在过去的十年中,在这些领域取得了许多重大进展,解决凸随机最优化问题的欧几里德球(或整个空间)。在这项工作中,我们是基于这些进展和研究的情况下,任意球的$\ell_p$ -规范。我们还探讨了这个问题的参数$p$如何影响的估计所需的数量的条款作为一个函数的经验风险。
2022-03-02 math.OC
Learning Risk Preferences from Investment Portfolios Using Inverse Optimization
The Vanguard Group(先锋集团);Amazon(亚马逊)
现代投资组合理论(MPT)的基本原理是基于与业绩相关的投资组合风险的量化。虽然MPT对投资界产生了巨大的影响,并促进了被动投资的成功和普及,但它在现实世界的应用中仍然存在不足。其中一个主要的挑战是,投资者可以承受的风险水平,即\emph{risk-preference},是一个主观的选择,与决策中的心理学和行为科学密切相关。本文提出了一种新的方法来衡量风险偏好,从现有的投资组合使用逆优化的均值-方差投资组合配置框架。我们的方法允许学习者使用同时观察到的投资组合和市场价格数据来持续估计实时风险偏好。我们展示了我们的方法,包括20年的资产定价和10年的共同基金投资组合持有的真实市场数据。此外,量化的风险偏好参数进行了验证,目前在该领域应用的两个众所周知的风险度量。所提出的方法可以在自动化/个性化投资组合管理方面带来实用和富有成效的创新,例如机器人咨询,以增强财务顾问在长期投资期限内的决策智能。
2021-02-12 cs.LG math.OC q-fin.PM
A Proximal Decomposition Method for Solving Convex Variational Inverse Problems
UPMC Université Paris 06(巴黎第六大学);Laboratoire Jacques-Louis Lions – UMR 7598(雅克-路易·利翁斯实验室);Université Paris-Est(巴黎东大学);Institut Gaspard Monge and UMR CNRS 8049(加斯帕尔·蒙日研究所)
提出一种用于Hilbert空间中多个凸函数和最小化问题的近端分解算法,可处理任意数量的非光滑函数,并证明其收敛性,在信号与图像处理中展示数值应用。
2009-06-23 cs.NA math.NA math.OC
A Mosco sufficient condition for intrinsic stability of non-unique convex Empirical Risk Minimization
Hassan 1st University of Settat(哈桑第一大学)
本文提出一个Mosco充分条件,用于保证非唯一凸经验风险最小化问题的内在稳定性,并通过二次增长特性获得显式偏差界。
2026-01-25 cs.LG math.FA math.OC
Approximating Properties of Metric and Generalized Metric Projections in Uniformly Convex and Uniformly Smooth Banach Spaces
本文对一致凸、一致光滑巴拿赫空间中的度量投影、广义投影和广义度量投影的一些逼近性质进行了比较研究。证明了度量投影的逆像是闭的凸锥,但不一定是凸的。相反,广义投影的逆像是闭合的凸锥。此外,广义度量投影的逆像既不是凸集,也不是圆锥。我们还证明了从一个点到它在一个凸集上的投影的距离是一个弱下连续的函数。我们提供了说明性的例子,以突出不同的行为的三个投影在巴拿赫空间。
2023-03-07 math.OC
Universal Convexification via Risk-Aversion
University of Washington(华盛顿大学)
本文提出了一种通用凸化框架,分析了凸化问题相对于非凸问题的次优性和收敛性,并展示了在监督学习和离散时间动力系统中的应用。
2014-06-03 cs.LG cs.SY eess.SY
Efficiency Loss in a Cournot Oligopoly with Convex Market Demand
我们考虑一个古诺寡头垄断模型,其中多个供应商(寡头)通过选择数量进行竞争。我们比较了在古诺均衡达到的社会福利的最大可能的情况下,逆市场需求函数是凸的。我们建立了一个下界的古诺均衡的效率的标量参数,从反需求函数,即反需求函数的斜率古诺均衡之间的古诺均衡和社会最优之间的反需求函数的平均斜率的比率。此外,对于单一的,垄断的,利润最大化的供应商,或多个供应商谁串通,以最大限度地提高他们的总利润的情况下,我们建立了一个类似的,但更严格的下界的效率,由此产生的输出。我们的研究结果提供了非平凡的社会福利损失的经济学文献中出现的几个凸逆需求函数的定量界限。
2012-03-29 math.DS math.OC
Zeroth-Order Methods for Convex-Concave Minmax Problems: Applications to Decision-Dependent Risk Minimization
University of California, Berkeley(加州大学伯克利分校);University of Washington, Seattle(西雅图华盛顿大学)
最小最大优化正在成为一个关键的框架,用于分析问题的鲁棒性,以战略和对抗性生成的数据。提出了一种基于随机重排的无梯度乐观梯度下降-上升算法,用于求解具有有限和结构的凹凸极大极小问题。证明了该算法具有与求解凸极小化问题的零阶算法相同的收敛速度。我们进一步专门的算法来解决分布鲁棒性,决策相关的学习问题,梯度信息是不容易获得的。通过说明性的模拟,我们观察到,我们提出的方法学习的模型,同时对敌对的分布变化和战略决策的数据源,并优于现有的方法从战略分类文献。
2022-02-19 cs.LG math.OC
An Accelerated Proximal Coordinate Gradient Method and its Application to Regularized Empirical Risk Minimization
考虑两个凸函数之和的最小化问题:一个是光滑的,由梯度预言机给出,另一个是在坐标块上可分的,在每个块上有一个简单的已知结构.我们发展了一个加速的随机邻近坐标梯度(APCG)方法来最小化这样的凸复合函数。对于强凸函数,我们的方法实现了更快的线性收敛速率比现有的随机邻近坐标梯度法。没有强凸性,我们的方法享有加速的次线性收敛速度。我们展示了如何应用APCG方法来解决正则化经验风险最小化(ERM)问题,并设计有效的实现,避免全维向量运算。对于病态的ERM问题,我们的方法获得了改进的收敛速度比最先进的随机双坐标上升(SDCA)方法。
2014-07-04 math.OC
A Stochastic Subgradient Method for Distributionally Robust Non-Convex Learning
Rutgers Business School(罗格斯商学院)
我们认为,在统计学习中出现的随机最优化问题,鲁棒性是相对于底层数据分布的不确定性的分布鲁棒制定。我们的配方建立在风险厌恶的优化技术和一致的风险措施的理论。它使用半偏差风险来量化不确定性,使我们能够计算出对人口数据分布扰动具有鲁棒性的解决方案。我们考虑了一个大的家庭的损失函数,可以是非凸的和非光滑的,并开发了一个有效的随机次梯度方法。我们证明了它收敛于一个满足最优性条件的点。据我们所知,这是第一个方法,严格的收敛保证的背景下,非凸非光滑分布鲁棒随机最优化。我们的方法可以实现任何所需的鲁棒性水平,与人口风险最小化相比,几乎没有额外的计算成本。我们还说明了我们的算法在凸和非凸监督学习问题中产生的真实数据集上的性能。
2021-06-08 cs.LG math.OC math.ST
Solving Inverse Problem for Multi-armed Bandits via Convex Optimization
University of Freiburg(弗莱堡大学)
针对多臂老虎机逆问题非凸的难点,提出基于变量变换松弛的两步顺序启发式凸优化方法,该方法比局部优化更稳健且比Monte Carlo方法运行更快,并基于CVXPY实现以便非专业用户直接应用。
2025-06-26 cs.CE cs.LG math.OC
Unsafe Probabilities and Risk Contours for Stochastic Processes using Convex Optimization
ETH Zürich(苏黎世联邦理工学院);Univ. Grenoble Alpes, CNRS, Grenoble INP (Institute of Engineering Univ. Grenoble Alpes), GIPSA-lab(格勒诺布尔阿尔卑斯大学、法国国家科学研究中心、格勒诺布尔国立理工学院(格勒诺布尔阿尔卑斯大学工程学院)、GIPSA实验室);LAAS-CNRS, Université de Toulouse, CNRS(图卢兹大学、法国国家科学研究中心 LAAS 实验室);Czech Technical University in Prague(捷克布拉格理工大学);Northeastern University(东北大学)
本文提出算法计算随机过程轨迹相对于危险集的不安全概率最大值,通过将不安全概率估计问题转化为无限维线性规划的对偶对,结合概率认证安全屏障证书生成风险轮廓,用Semidefinite程序将无限维线性规划截断为有限维。
2026-03-27 cs.SY eess.SY math.OC
A Note on Convex Relaxations for the Inverse Eigenvalue Problem
仿射逆本征值问题是指在仿射空间中用一组规定的本征值确定一个实对称矩阵。由于其在应用中的普遍性,在文献中已经广泛研究了该问题的各种实例。以前的算法解决方案是典型的非凸几何学,并经常在一个具体情况下的方式为特定的结构仿射空间。在这个简短的说明中,我们描述了一个一般家庭的凸松弛的问题,通过重新制定它作为一个问题的可行性检查系统的多项式方程,然后利用工具,从优化文献中获得半定规划松弛。我们的多项式方程组可以看作是0/1组合最优化问题的多项式重构的矩阵模拟,其中半定松弛已经被广泛研究。我们用数字说明了我们的方法的实用程序,从各种应用程序中得出的程式化的例子。
2019-11-06 math.OC
Logarithmic convexity of evolution equations and application to inverse problems
本文综述演化方程对数凸性方法,给出解析半群下的显式估计,应用于Ornstein-Uhlenbeck方程及分数阶时间演化方程,并讨论对称与非对称情形及开放问题。
2025-06-24 math.AP math.OC
A Novel Learnable Gradient Descent Type Algorithm for Non-convex Non-smooth Inverse Problems
University of Florida(佛罗里达大学);Georgia State University(佐治亚州立大学)
求解非凸反问题的优化算法近年来引起了人们的极大兴趣。然而,现有的方法要求非凸正则化是光滑的或简单的,以确保收敛。在本文中,我们提出了一种新的梯度下降型算法,利用剩余学习的思想和Nesterov的平滑技术,解决反问题的一般非凸和非光滑正则化证明收敛。此外,我们开发了一个神经网络架构,模拟该算法学习的非线性稀疏变换自适应从训练数据,这也继承了收敛,以适应一般的非凸结构,这种学习的转换。数值结果表明,所提出的网络优于国家的最先进的方法在各种不同的图像重建问题的效率和精度。
2020-03-24 cs.CV math.OC
A Simple Analysis for Exp-concave Empirical Minimization with Arbitrary Convex Regularizer
The University of Iowa(爱荷华大学);Nanjing University(南京大学)
在本文中,我们提出了一个简单的分析{ \bf快速率}与{\bf经验最小化}的{\it高概率}的{\it随机复合优化}在有限维有界凸集上的指数凹损失函数和任意凸正则化。据我们所知,这一结果是同类中的第一个。作为一个副产品,我们可以直接获得具有和不具有任何凸正则化的指数凹经验风险最小化的{ \it high probability}的快速速率,这不仅推广了经验风险最小化的现有结果,而且为分析具有和不具有{ \it any}凸正则化的指数凹经验风险最小化提供了一个统一的框架.我们的证明非常简单,只利用有限维有界集的覆盖数和随机向量的集中不等式。
2017-09-09 cs.LG math.OC stat.ML
Private (Stochastic) Non-Convex Optimization Revisited: Second-Order Stationary Points and Excess Risks
Google Research(谷歌研究院);University of Washington(华盛顿大学)
我们考虑的问题,最小化的非凸目标,同时保持隐私的例子中的训练数据。在以前的方差减少算法SpiderBoost的基础上,我们引入了一个新的框架,利用两种不同的梯度预言。第一种预言机可以估计一个点的梯度,第二种预言机,精度较低,成本较低,可以估计两点之间的梯度差。SpiderBoost定期使用第一种,每隔几步使用一次,而我们的框架建议在总漂移变大时使用第一个预言,否则依赖于第二个预言。这种新的框架确保梯度估计始终保持准确,从而提高了找到二阶稳定点的速度。此外,我们解决了一个更具挑战性的任务,找到一个非凸目标的全局最小值使用指数机制。我们的研究结果表明,正则化的指数机制可以密切匹配以前的经验和人口的风险界限,而不需要平滑假设的算法与多项式运行时间。此外,通过忽略运行时间的考虑,我们表明,指数机制可以实现一个很好的人口风险界,并提供一个几乎匹配的下限。
2023-02-20 cs.CR cs.LG math.OC
Inverse Reinforcement Learning via Convex Optimization
Department of Computer Science and IMBIT//BrainLinks-BrainTools(计算机科学系和IMBIT//BrainLinks-BrainTools);University of Freiburg(弗赖堡大学)
本文研究了逆强化学习问题,通过重新表述Ng和Russel提出的凸公式(CIRL),利用CVXPY直接求解,并扩展至基于轨迹数据的场景,引入超参数自动选择,使用户无需凸优化背景即可应用。
2025-06-26 cs.CE cs.LG math.OC
Risk reversal for least squares estimators under nested convex constraints
Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学博德研究所)
本文研究了在嵌套凸约束下最小二乘估计器的风险反转现象,揭示了在高噪声环境下收紧约束可能反而导致统计性能下降。
2026-07-28 cs.LG math.OC math.ST
Convex Chance-Constrained Stochastic Control under Uncertain Specifications with Application to Learning-Based Hybrid Powertrain Control
Toyota Central R&D Labs., Inc.(丰田中央研发实验室);Graduate School of Informatics, Kyoto University(京都大学信息科学研究生院)
本文提出了一种严格凸机会约束随机控制方法,用于处理控制规范中的不确定性,并通过混合动力传动系统验证了其有效性。
2026-10-14 cs.LG cs.SY eess.SY
On the required number of electrodes for uniqueness and convex reformulation in an inverse coefficient problem
本文研究逆 Robin 传输问题中腐蚀系数的重构,提出数值可验证准则以确定保证唯一性所需的电极数量与位置,并通过凸优化重构实现全局收敛算法。
2025-03-11 cs.NA math.AP math.NA