An Ensemble Learning Framework for Model Fitting and Evaluation in Inverse Linear Optimization
我们开发了一个广义逆优化框架,用于拟合给定多个观测决策的单个线性最优化问题的成本向量。这种设置的动机是集成学习,其中从基本学习者建立共识可以产生更好的预测。我们统一在一个单一的框架下的逆优化文献中的几个模型,并推导出无约束和精确解的方法。我们扩展了一个良好的拟合度量先前介绍的问题与一个单一的观察到的决定,这个新的设置,并证明了几个重要的属性。最后,我们展示了我们的框架,在一个新的逆优化驱动的自动化放射治疗治疗计划的过程。这里,逆最优化模型利用来自不同机器学习模型的剂量预测的集合来构建优于基线方法的共识治疗计划。共识计划在用于计划评价的竞争性临床标准之间产生更好的权衡。
2020-06-05 math.OC
Inverse Optimization Without Inverse Optimization: Direct Solution Prediction with Transformer Models
Tepper School of Business, Carnegie Mellon University(卡内基梅隆大学泰珀商学院)
本文提出基于Transformer模型的直接解预测方法,用于解决具有未知组件的组合优化问题,通过约束推理模块整合已知约束,生成结构相似且满足约束的解,展现出在复杂问题中优于LSTM和逆向优化的性能。
2026-02-05 math.OC
Quantile Inverse Optimization: Improving Stability in Inverse Linear Programming
逆线性规划(LP)由于其生成高效优化公式的潜力而受到越来越多的关注,所述优化公式可以紧密地复制复杂系统的行为。然而,从现有的逆LP方法逆推断的参数和相应的正解可能对输入数据中的噪声、误差和不确定性高度敏感,限制了其在数据驱动设置中的适用性。我们介绍了逆LP的逆和前向稳定性的概念,并提出了一种新的逆LP方法,确定了一组目标函数是稳定的数据不完善和产生的解决方案接近的相关子集的数据。我们制定的逆模型作为一个混合整数规划,并阐明其连接到双团问题,我们利用开发有效的prostitics。我们还展示了如何将这种方法用于在线学习。我们数值评估所提出的方法的稳定性,并证明其在饮食建议和转运应用程序的实际用途。
2020-07-04 math.OC
A Hybrid Inverse Optimization-Stochastic Programming Framework for Network Protection
灾害管理是一个复杂的问题,需要先进的建模方法。我们提出了利用一种混合方法,包括逆优化参数化的费用函数的道路网络的交通平衡问题,并采用一个修改版本的范和刘(2010)的两阶段随机模型,使保护决策使用从逆优化获得的信息。我们使用两种类型的费用函数的交通平衡问题的框架,并表明,准确的参数化的费用函数可以改变我们的实验中的大多数支出的保护决策。
2021-10-01 math.OC
Group Symmetry Enables Faster Optimization in Inverse Problems
该研究首次证明具有群对称结构的线性逆问题可通过设计利用该结构的梯度优化器实现更快收敛,证实了适用于CT/MRI/PET、压缩感知及图像处理等对称结构逆问题的结构自适应优化算法的存在。
2025-05-20 math.OC
Deep Inverse Optimization
Concordia University(康考迪亚大学)
给定由优化过程生成的一组观测,逆优化的目标是确定该过程的可能参数。我们将逆优化视为深度学习的一种形式。我们的方法称为深度逆优化,是展开迭代优化过程,然后使用反向传播来学习生成观测值的参数。我们证明,通过内点算法的反向传播,我们可以学习的系数确定成本向量和约束,独立或联合,为非参数和参数线性规划,从一个或多个观察。通过这种方法,逆优化可以利用来自深度学习的概念和算法。
2018-12-03 cs.LG math.OC stat.ML
Optimizing edge weights in the inverse eigenvector centrality problem
University of Milano-Bicocca(米兰比可卡大学);University of Catania(卡塔尼亚大学)
本文提出了一种优化方法,用于在有向图中根据给定的节点中心性分布确定边权重,通过不同策略比较加权网络结构的灵活性和应用潜力。
2026-02-12 cs.SI math.OC
Inverse optimization for the recovery of constraint parameters
大多数逆最优化模型都将目标函数中的未指定参数代入,以使所观察到的解对于具有固定可行集的给定最优化问题是最优的。我们提出了两种方法来估算未指定的左手边约束系数,除了成本向量为一个给定的线性最优化问题。第一种方法确定的参数最小化的对偶差距,而第二个最小扰动的先验估计的未指定的参数,以满足强对偶性,如果有可能满足的最优性条件。我们将这两种方法应用于一般的线性最优化问题。我们还使用它们来估算区间和基数约束不确定性下的鲁棒线性最优化问题的不确定性集的未指定参数。我们提出的每个逆最优化模型是非凸的,但我们表明,可以得到一个全局最优解,无论是在封闭的形式或通过解决线性或凸优化问题的线性数。
2019-07-18 math.OC
A-optimal encoding weights for nonlinear inverse problems, with applications to the Helmholtz inverse problem
使用多个实验解决由偏微分方程控制的反问题的计算成本随着实验的数量线性增加。最近提出的方法,以减少这种成本,只使用少量的随机线性组合的所有实验来解决反问题。这种方法适用于PDE解线性依赖于模拟实验的右侧函数的反问题。由于这种方法本质上是随机的,因此所获得的重建的质量可能会变化,特别是当仅使用少量组合时。我们开发了一个贝叶斯公式的定义和计算的编码权重,导致参数重建的不确定性最小。我们称这些权重为A-最优编码权重。我们的框架适用于逆问题的偏微分方程是非线性的反演参数场。我们制定的问题,在无限维,并遵循优化,然后离散化的方法,特别注意离散化和数值方法的选择,以实现独立的参数离散化的计算成本。我们详细阐述了亥姆霍兹逆问题的方法,并推导出用于寻找A最优编码权重的最优化问题目标函数梯度的基于伴随的表达式。所提出的方法对于实时监控应用是潜在的有吸引力的,在实时监控应用中,人们可以投入精力离线计算最佳权重,以便以后随着时间的推移以初始成本的一小部分重复地解决逆问题。
2017-02-27 math.OC stat.CO
Conformal Inverse Optimization
本文提出共形逆优化方法,通过构建未知参数的不确定性集合并求解鲁棒优化模型,克服传统逆优化点估计在决策规定中质量低且不符合人类直觉的问题,并提供可证明的解质量保证。
2024-05-16 math.OC
Inverse Optimization: Closed-form Solutions, Geometry and Goodness of fit
在经典的逆线性最优化中,假设给定的解是最优的候选。实际数据是不完美的,而且有噪声,所以不能保证这个假设得到满足。受回归分析的启发,本文提出了一个统一的线性最优化费用函数估计框架,包括一个通用的逆最优化模型和一个相应的拟合优度度量。虽然我们的逆最优化模型是非凸的,我们推导出一个封闭形式的解决方案,并提出了几何直观。我们的拟合优度度量,$ρ$,互补系数,具有类似的属性,从回归$R^2$,是拟凸的输入数据,导致直观的几何解释。虽然$ρ$是可计算的多项式时间,我们推导出一个下界,具有相同的属性,是紧的几个重要的模型变化,甚至更容易计算。我们展示了我们的模型估计和评估框架在生产计划和癌症治疗中的应用。
2017-06-22 math.OC
A numerical method for an inverse optimization problem through the generalized method of lines
本文用广义直线法求解了一个反问题。本文考虑了具有标准Dirichlet边界条件的区域上的Laplace方程。此外,我们指定的第三个非齐次纽曼型边界条件的外部边界,并考虑的问题,找到最佳形状的内部边界,使所有规定的边界条件得到满足。这里提出的新颖之处是应用直线法作为工具来计算这样的逆最优化问题的解。
2019-07-04 math.OC
Inverse Optimization with Noisy Data
逆优化是指基于最优解的知识来推断最优化问题的未知参数。本文考虑了在凸优化问题的最优解的度量被噪声破坏的情况下的逆优化问题。首先,我们提供了一个配方的逆优化,并证明它是NP难的。与现有的方法相比,我们表明,我们的配方产生的参数估计是统计上一致的。我们的方法涉及到结合一个新的基于对偶的二层程序的重新制定的正则化计划,平滑的配方中的不连续性。利用上图收敛理论,我们证明了正则化参数可以被调整,以逼近原逆最优化问题的任意精度,我们使用证明我们的一致性结果。接下来,我们提出了两个解决方案的算法的基础上,我们的对偶为基础的配方。第一个是枚举算法,适用于设置的参数空间的维数是适度的,第二个是一个半参数的方法,结合非参数统计与修改后的版本,我们的配方。这些数值算法被证明是为了保持基本配方的统计一致性。最后,使用合成数据和真实数据,我们证明了我们的方法与现有的分析相比具有竞争力。
2017-12-22 math.OC
A Fenchel-Young Loss Approach to Data-Driven Inverse Optimization
Tsinghua University(清华大学)
本文提出一种基于Fenchel-Young损失的数据驱动反优化方法,通过高效梯度优化提升参数估计精度、决策误差和计算速度。
2026-05-11 math.OC stat.ML
A Bilevel Optimization Method for Inverse Mean-Field Games
本文提出一种双层优化框架解决逆平均场博弈问题,在前向问题中保持目标函数凸性与约束线性,首次建立未知障碍物下的可辨识性,并采用交替梯度算法实现收敛求解。
2024-01-10 math.OC
Optimality-Based Clustering: An Inverse Optimization Approach
我们提出了一种新的聚类方法,称为基于优化的聚类,聚类数据点的基础上,他们潜在的决策偏好。我们假设每个数据点是由决策者生成的决策,该决策者(近似地)解决优化问题,并通过识别每个聚类的最优化问题的公共目标函数来聚类数据点,使得最坏情况下的最优性误差最小化。我们提出了三种不同的聚类模型,并在饮食推荐应用程序中进行了测试。
2021-11-21 math.OC
Gap-gradient methods for solving generalized mixed integer inverse optimization: an application to political gerrymandering
针对广义混合整数逆优化,论文提出可有限时间精确求解的改进次梯度方法及图粗化集成启发式算法,显著缩短求解时间,并用于定量识别选区不公正划分。
2024-06-12 math.OC
On inverse optimal control via polynomial optimization
我们考虑一类控制系统,其中的微分方程,状态和控制系统由多项式描述。给定一组轨迹和一类拉格朗日量,我们有兴趣找到一类拉格朗日量,这些轨迹是最优的。为了模拟这个反问题,我们使用一个放松版本的汉密尔顿-雅可比-贝尔曼最优性条件,在以前的工作在这方面的连续性。然后,我们提供了一个通用的数值方案的基础上多项式优化和积极性的证明,并说明了一些学术例子的概念。
2017-03-21 math.OC
Trade-off preservation in inverse multi-objective convex optimization
本文提出了一种新的多目标凸优化的逆优化方法,该方法允许输入解可能不是Pareto最优的,并确定一个权向量,该权向量产生一个Pareto最优解,该最优解近似于输入解,并保留了决策者的意图。并展示了它与最小化最优性差距的关系。我们的逆模型保持了传统的逆凸模型的复杂性。我们提出了一个线性近似的模型和一个连续的线性规划算法,权衡保存和计算效率之间的平衡,并表明我们的模型包括许多现有的模型从文献。我们使用前列腺癌放射治疗的临床数据证明了所提出的方法。
2017-06-21 math.OC
An Inexact Spingarn's Partial Inverse Method with Applications to Operator Splitting and Composite Optimization
我们提出并研究了Spingarn部分逆方法的不精确版本的迭代复杂性。它的复杂性分析是通过查看它的框架中的混合近端外梯度(HPE)方法,其中逐点遍历迭代复杂性已建立最近由蒙泰罗和Svaiter。作为应用,我们提出并分析了一个不精确算子分裂算法的迭代复杂性--它推广了原Spingarn分裂方法--和一个多项复合凸优化的并行向前向后算法。
2016-10-30 math.OC
Inverse Learning: Solving Partially Known Models Using Inverse Optimization
我们考虑的问题学习的最优解的部分已知的线性最优化问题和恢复其潜在的费用函数的一组过去的决策和可行集是已知的。我们开发了一个新的框架,表示为逆学习,扩展了逆优化文献(1)学习的基础问题的最优解,(2)集成额外的信息约束及其重要性,(3)控制之间的平衡模仿过去的行为和达到新的目标和规则的学习解决方案。我们提出逆学习作为一个最优化问题,映射到一个单一的最优解与最小的扰动,因此,不仅恢复丢失的成本向量,但也提供了一个最优解的同时。该框架提供了一个重要的权衡在恢复线性最优化问题方面的见解保持观察到的行为和约束条件的已知的可行集在最优。我们提出了一系列的混合整数线性规划模型来捕捉这种权衡的影响,并验证它使用一个二维的例子。然后,我们证明了该框架的适用性,高血压和前驱糖尿病患者的人群的饮食建议问题。目标是平衡饮食限制,以实现必要的营养目标,并鼓励用户坚持饮食的饮食习惯。结果表明,我们的模型推荐的每日食物摄入量保留了原始数据趋势,同时根据权衡为患者和供应商提供了一系列选择。
2023-01-06 math.OC
Expert-Guided Inverse Optimization for Convex Constraint Inference
针对传统逆优化多聚焦线性目标函数推断的局限,提出专家引导的凸约束推断逆优化模型,从专家标注的历史解中学习凸可行域参数,通过变分不等式简化求解,在乳腺癌数据上可推断临床标准以生成高接受率的治疗方案。
2024-10-09 math.OC
Data-driven Inverse Optimization with Imperfect Information
在数据驱动的逆优化中,观测器的目标是学习根据外生信号解决参数最优化问题的代理的偏好。因此,观察者寻求代理的目标函数,最好地解释了历史序列的信号和相应的最佳行动。在这里,我们专注于观察员有不完善的信息,也就是说,代理的真正的目标函数不包含在搜索空间的候选目标,代理遭受有限理性或实施错误,或所观察到的信号响应对被损坏的测量噪声的情况。我们将这个逆最优化问题形式化为一个分布式鲁棒程序,该程序最小化{ \em预测}决策({ \em,即},由特定候选目标暗示的决策)不同于代理对随机信号的{ \em actual}响应。我们表明,我们的框架提供了严格的样本外保证不同的损失函数用于测量预测误差和新兴的逆最优化问题可以完全重新制定(或安全地近似)易处理的凸规划时,使用一个新的次优损失函数。我们通过大量的数值试验表明,所提出的分布鲁棒逆优化方法往往比最先进的方法获得更好的样本外性能。
2017-07-22 math.OC
Uncertainty Quantification in Data-Driven Inverse Optimization via Bayesian Inference
University of Toronto(多伦多大学);Brigham Young University(杨百翰大学);Queen’s University(女王大学)
提出层次贝叶斯框架,通过马尔可夫链蒙特卡洛算法估计未知参数的后验分布,构建可信区域并证明后验一致性,实现数据驱动逆优化中的参数不确定性量化。
2026-05-24 math.OC
Linear conic optimization for inverse optimal control
本文在非线性最优控制的背景下,讨论了基于矩阵的拉格朗日辨识逆问题。基于线性规划中的占用测度和互补性,给出了反问题的一般形式。在这方面使用占领措施从理论、数字和统计的角度提供了几个方面的解释。我们提出了一个近似程序,强有力的理论保证。最后,通过实例说明了该方法的实用性。
2020-02-21 math.OC
Variable-Sized Uncertainty and Inverse Problems in Robust Optimization
在鲁棒优化中,一般的目标是找到一个在一组可能的参数结果(所谓的不确定性集)上表现良好的解决方案。在本文中,我们假设不确定性的大小是不固定的,而是旨在找到一组鲁棒的解决方案,涵盖所有可能的不确定性集的结果。我们将这些问题称为具有可变大小不确定性的鲁棒优化问题。我们讨论了如何构造最小可能的极小极大鲁棒解集,并给出了它们的大小的界。这种观点的一个特殊情况是分析不确定性集合的标称解不再是鲁棒解,这相当于逆鲁棒最优化问题。我们认为这个问题的最小-最大遗憾的目标和目前的混合整数线性规划配方,可以应用于构建合适的不确定性集。变尺寸的不确定性和反问题的结果与实验数据进一步支持。
2016-06-23 math.OC
Null controllability and inverse source problem for stochastic Grushin equation with boundary degeneracy and singularity
本文研究了一类具有边界退化和奇异性的随机Grushin方程的零能控性和源反问题。构造了两个特殊的权函数,利用加权恒等式方法建立了具有奇异位势的随机Grushin算子的Carleman估计.一类是带奇异权函数的倒向随机Grushin方程。然后我们应用它证明了随机Grushin方程对任何$T$和任何退化$γ>0$的零能控性,当我们的控制域接触退化线$\{x=0\}$。为了研究同时确定两类源的反源问题,我们证明了具有正则权函数的正向随机Grushin方程的另一Carleman估计。基于Carleman估计,我们得到了源反问题的唯一性。
2020-01-07 math.OC
On the penalization by the perimeter in shape optimization applied to Dirichlet inverse obstacle problem
针对椭圆算子 Dirichlet 反障碍问题,本文比较形状优化中一致 ε-锥性质的隐式正则化与周长惩罚正则化,证明后者可提升最小化过程的稳定性。
2024-04-04 math.OC
Derivative-free stochastic bilevel optimization for inverse problems
针对逆问题需同时学习模型与正则化参数的需求,提出基于无导数方法的随机双层优化方案,下层为依赖观测样本的凸非光滑变分重建问题,上层为正则化参数学习任务,经复杂度分析及数值实验验证其计算效率与泛化性能。
2024-11-27 math.OC
You Are What You Eat: A Preference-Aware Inverse Optimization Approach
新兴的精准营养领域的一个关键挑战是提供饮食建议,这些建议既反映了不同患者群体的饮食偏好(通常是未知的),也反映了人类专家指定的已知饮食限制。出于这一挑战,我们开发了一种偏好感知的约束推理方法,其中最优化问题的目标函数不是预先指定的,并且可以在各个部分中有所不同。在现有的方法中,来自机器学习的聚类模型并不自然地适合于恢复约束最优化问题,而约束推理模型(诸如逆优化)并不明确地解决给定数据集中的非同质性。通过利用集群和逆优化技术的优势,我们开发了一种新的方法,恢复跨集群的约束优化过程的效用函数,同时提供最佳的饮食建议作为集群代表。使用患者每日食物摄入量的数据集,我们展示了我们的方法如何分别在遵守饮食指南和分区观察方面推广独立聚类和逆优化方法。该方法通过结合患者偏好和专家对更健康饮食的建议来提供饮食建议,从而在患者划分和每个聚类的营养建议方面实现结构性改进。我们的方法的一个吸引人的特点是它能够考虑不可行的,但翔实的意见,为一组给定的饮食限制。由此产生的建议对应于更广泛的饮食选择,即使它们限制了不健康的选择。
2022-12-10 math.OC
An Outer-approximation Guided Optimization Approach for Constrained Neural Network Inverse Problems
ExxonMobil Research and Engineering(埃克森美孚研究与工程公司)
讨论了一种外逼近引导的线性单元修正约束神经网络反问题的最优化方法。约束神经网络逆问题指的是一个最优化问题,用于找到给定训练神经网络的最佳输入值集合,以便在输入值存在约束的情况下产生预定义的期望输出。分析了具有修正激活单元的神经网络反问题的最优解的特点,并利用其特点提出了一种外逼近算法。所提出的外近似引导优化包括原始和对偶阶段。原始阶段将邻近曲率与邻近外近似相结合以加快该过程。对偶阶段识别并利用局部凸区域的结构来提高收敛到局部最优解的能力。最后通过计算实验验证了该算法相对于投影梯度法的优越性。
2020-02-24 cs.LG math.OC
Online estimation of the inverse of the Hessian for stochastic optimization with application to universal stochastic Newton algorithms
本文提出用Robbins-Monro过程在线递归估计Hessian逆矩阵,以降低二阶随机优化的计算复杂度,并据此发展通用随机牛顿方法,扩展了二阶算法的应用范围。
2025-03-10 math.OC stat.ML
Inverse-Optimization-Based Uncertainty Set for Robust Linear Optimization
本文针对目标系数不确定的鲁棒线性优化问题,利用逆优化技术从已知约束参数与最优解数据中构造多面体形式的不确定性集合,并证明其可等价转化为线性优化问题,实验显示该方法在性能稳定性上优于经典逆优化。
2023-12-01 math.OC
Optimization Under Uncertainty Using the Generalized Inverse Distribution Function
提出了一种基于广义逆分布函数(GIDF)的不确定性鲁棒优化框架。与依赖于使用统计矩作为定义优化过程的目标的确定性属性的更经典的方法相比,逆累积分布函数允许使用概率域中可用的所有可能的信息。此外,使用基于分位数的方法自然会导致多目标方法,该方法允许基于设计者定义的风险/机会标准对候选设计进行后验选择。最后,由于GIDF的分辨率而导致的目标估计误差将被证明是可量化的
2014-07-17 cs.NE math.OC
Efficient Learning of Decision-Making Models: A Penalty Block Coordinate Descent Algorithm for Data-Driven Inverse Optimization
University of Minnesota(明尼苏达大学)
决策问题通常被表述为最优化问题,然后求解这些问题以做出最优决策。在这项工作中,我们考虑的逆问题,我们使用先验决策数据,以揭示基本的决策过程中的数学最优化模型的形式。这种统计学习问题被称为数据驱动的逆优化。我们专注于问题的基本决策过程建模为一个凸优化问题的参数是未知的。我们制定的逆最优化问题作为一个双层规划,并提出了一个有效的块坐标下降为基础的算法来解决大型问题的例子。合成数据集上的数值实验表明,我们的方法相比,标准的商业求解器的计算优势。此外,通过两个现实的案例研究,我们考虑估计风险偏好和学习局部约束参数的代理在多人纳什讨价还价游戏中,突出了所提出的方法的现实世界的效用。
2022-12-23 cs.GT cs.LG math.OC
On the inverse power index problem
加权投票博弈经常被用于决策。每个投票人都有一个权重,如果支持投票人的权重总和超过配额,则接受提案。研究的一个方向是有效计算所谓的权力指数,衡量选民的影响力。我们处理逆问题:给定一个影响力向量和一个权力指数,确定一个加权投票博弈,使得投票者之间的影响力分布尽可能接近给定的目标值。我们提出了确切的算法和计算结果的Shapley-Shubik和(归一化)Banzhaf功率指数。
2012-11-27 cs.GT math.OC
Multilevel Optimization for Inverse Problems
反问题出现在工程中的各种参数识别任务中。这些问题在实践中是具有挑战性的,因为它们需要重复评估计算昂贵的前向模型。我们介绍了一个统一的框架,多级优化,可以应用到广泛的优化为基础的求解器。我们的框架可证明降低了与评估来自各种物理模型的昂贵的前向映射相关的计算成本。为了证明我们的分析的多功能性,我们讨论了它的影响,包括多级(加速,随机)梯度下降,多级集合卡尔曼反演和多级Langevin采样器的各种方法。我们还提供了数值实验来验证我们的理论发现。
2022-04-28 cs.NA math.NA math.OC
Direct solution of the inverse optimization problem of load sharing between muscles
针对肌肉骨骼系统生物力学中的超静定肌肉载荷分配问题,提出了一种基于线性约束最优化问题的解构造可分离的齐次代价函数的方法,该代价函数包含该费用函数。该构造利用了Schroeder函数方程的柯尼希斯解。
2006-11-16 math.OC q-bio.TO
Inverse Multiobjective Optimization Through Online Learning
Amazon(亚马逊);University of Pittsburgh(匹兹堡大学)
我们研究的问题,学习的目标函数或约束的多目标决策模型的基础上,一组顺序到达的决定。特别是,这些决策可能不准确,可能带有测量噪声,或者是决策者有限理性的结果。在本文中,我们提出了一个通用的在线学习框架来处理这个学习问题,使用逆多目标优化。更准确地说,我们开发了两个在线学习算法与隐式更新规则,可以处理噪声数据。数值结果表明,这两种算法都能很好地学习参数,并且对噪声具有很好的鲁棒性。
2022-12-24 cs.LG math.OC
A non-parametric shape optimization approach for solving inverse problems in directed self-assembly of block copolymers
在这项工作中,我们考虑的逆问题,找到引导图案的形状,导致所需的自组装形态的嵌段共聚物熔体。具体而言,我们使用自洽场论建模聚合物自组装,并在非参数设置中导出所需和实际形态之间的失配对引导图案形状中的任意扰动的灵敏度。所获得的灵敏度用于优化的限制图案形状,使得期望的和实际的形态之间的失配最小化。所提出的算法的效率和鲁棒性证明了一些例子模板垂直互连访问。
2021-12-17 cond-mat.soft math.OC
Performance Comparison of Design Optimization and Deep Learning-based Inverse Design
Sookmyung Women’s University(淑明女子大学);Korea Advanced Institute of Science and Technology(韩国科学技术院);Narnia Labs(纳尼亚实验室)
针对工程设计领域,本文通过多场景基准问题对比传统设计优化与基于深度学习的逆向设计的性能,提出后者的应用指导原则以提升其实用性。
2023-08-23 cs.LG math.OC
On the Complexity of Inverse Mixed Integer Linear Optimization
本文研究逆 MILP 的计算复杂性,证明其原始界验证为 coNP 完全、最优值验证为 D^P 完全,并通过割平面算法揭示逆问题、正向问题与分离问题的等价性。
2021-11-18 cs.CC math.OC
Inverse Graphical Method for Global Optimization and Application to Design Centering Problem
考虑在数值域上求目标函数的最优值的问题。这类问题在实际工程任务中经常出现。现在,几乎所有解决此类问题的通用方法都是基于用户提供的例程来计算某些点的目标值。我们研究了另一种方法,称为逆依赖于一些程序来估计点的集合,而不是具有由指定常数限定的目标值。特别是,我们提出了一个逆优化算法来自平分的目标范围。在寻求证明的全局最优解固有地需要许多计算的情况下,以及在估计过程中利用某种相干性的问题中,逆方案比常规方案有效得多。这样一个问题,即设计中心的一个例子,研究比较的方法。
2019-09-12 cs.NA math.NA math.OC
Generalized Inverse Optimization through Online Learning
University of Pittsburgh(匹兹堡大学);Duke University(杜克大学)
逆优化是一种强大的学习偏好和限制的范例,可以根据一组外部信号和相应的决策对来解释决策者的行为。然而,大多数逆优化算法是专门设计在批量设置,其中所有的数据是预先可用的。因此,很少在适合于实时应用的在线设置中使用这些方法。在本文中,我们提出了一个通用的框架,通过在线学习逆优化。具体来说,我们开发了一个在线学习算法,使用隐式更新规则,可以处理噪声数据。此外,在额外的规律性假设的数据和模型,我们证明了我们的算法收敛速度为$\mathcal{O}(1/\sqrt{T})$,是统计上一致的。在我们的实验中,我们表明,在线学习方法可以学习的参数具有很高的精度,是非常强大的噪声,并实现了显着提高计算效率的批处理学习方法。
2018-11-02 cs.LG math.OC stat.ML
Inverse Optimization of Convex Risk Functions
凸风险函数的理论现在已经很好地建立起来,作为识别应用于风险厌恶最优化问题的风险函数族的基础。尽管其理论上的吸引力,凸风险函数的实施仍然是困难的,因为很少有关于如何选择凸风险函数的指导,使它也很好地代表自己的风险偏好。在本文中,我们通过逆优化的镜头来解决这个问题。具体而言,给定的解决方案数据,从一些(向前)风险厌恶的最优化问题,我们开发了一个逆优化框架,生成一个风险函数,使解决方案的最佳正向问题。该框架结合了凸风险函数的众所周知的属性,即单调性,凸性,平移不变性和定律不变性,作为候选风险函数的一般信息,以及来自个体的反馈,其中包括风险函数的初始估计和随机损失之间的成对比较,作为更具体的信息。我们的框架是特别新颖的,不像经典的逆优化,没有参数假设的风险函数,即它是非参数的。我们展示了如何得到的逆最优化问题可以重新表述为凸规划,是多项式可解的,如果相应的正问题是多项式可解的。我们举例说明了在投资组合选择问题中的估算风险函数,并使用实际数据证明了它们的实用价值。
2022-07-19 math.OC q-fin.CP q-fin.MF
Global optimization via inverse distance weighting and radial basis functions
IMT School for Advanced Studies Lucca(卢卡IMT高等研究院)
全局优化问题的目标函数是昂贵的评估,可以有效地解决递归拟合代理函数的函数样本和最小化的采集函数,以产生新的样本。获取步骤在寻找新的优化向量(其中代理是最小的)(利用代理)和寻找可行空间的尚未被访问并且可能包含目标函数的更好值的区域(探索可行空间)之间进行权衡。本文提出了一种新的全局优化算法,使用反距离加权(IDW)和径向基函数(RBF)的组合来构建捕获函数。可以很容易地考虑到容易评估的任意约束。与贝叶斯优化相比,所提出的算法,我们称之为GLIS(使用逆距离加权和替代径向基函数的GLObal最小值),具有竞争力和计算量更轻,正如我们在一组基准全局优化和超参数调整问题中所示。GLIS的MATLAB和Python实现可在\url{http://cse.lab.imtlucca.it/~bemporad/glis}上获得。
2020-01-09 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Inverse Multiobjective Optimization
Amazon(亚马逊);University of Pittsburgh(匹兹堡大学)
逆多目标优化提供了一个通用的框架,为无监督学习任务的推断参数的多目标决策问题(ESTA),根据一组观察到的决定,从人类专家。然而,这个框架的性能关键依赖于一个准确的决策,足够的高质量的决策,和一个参数空间,包含足够的信息的决策的可用性。为了避免假设条件、数据和参数空间的不确定性,本文研究了逆多目标优化的分布鲁棒方法。具体来说,我们利用Wasserstein度量来构建一个以这些决策的经验分布为中心的球。然后,我们制定了Wasserstein分布鲁棒逆多目标最优化问题(WRO-IMOP),最大限度地减少了最坏情况下的预期损失函数,其中最坏的情况下采取了所有的分布在Wasserstein球。我们证明了WRO-IMOP估计的超额风险具有次线性收敛速率。此外,我们提出了半无限的WRO IMOP的重新制定和开发的切割平面算法,收敛到一个近似解在有限的迭代。最后,我们证明了我们的方法的有效性的合成多目标二次规划和现实世界的投资组合最优化问题。
2020-09-30 cs.LG math.OC stat.ML
Scalable Kernel Inverse Optimization
Delft University of Technology(代尔夫特理工大学);Delft Center for Systems and Control(代尔夫特系统与控制中心)
该研究将逆优化的目标函数假设类扩展至RKHS,提出KIO模型并设计SSO算法解决可扩展性问题,在MuJoCo基准的从演示学习任务中验证了模型泛化能力与算法有效性。
2024-10-31 cs.LG cs.SY eess.SY
AI Driven Laser Parameter Search: Inverse Design of Photonic Surfaces using Greedy Surrogate-based Optimization
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);National Renewable Energy Laboratory(国家可再生能源实验室);University of California at Berkeley(加州大学伯克利分校)
本文提出一种基于随机森林和贪心预测探索策略的代理优化方法,用于光子表面激光制造参数的逆向设计,并在多个基准上验证了其优于其他优化算法的性能。
2024-06-20 cs.CE cs.LG math.OC
Inverse Mixed-Integer Programming: Learning Constraints then Objective Functions
NEC Corporation(日本电通株式会社)
本文提出了一种两阶段方法,用于从数据中同时学习混合整数规划问题的目标函数和约束,通过先学习约束再估计目标函数权重,提升逆优化的准确性与鲁棒性。
2026-10-06 cs.AI cs.LG math.OC