A geometric way to build strong mixed-integer programming formulations
我们给出了一个显式的几何方法来建立混合整数规划（MIP）公式的联合多面体。该结构简单地描述了在r维线性空间的生成超平面。所得到的MIP制定是理想的，并使用了r个整数变量和2 x（#的跨越超平面）一般不等式约束。我们使用这个结果，以获得新的不连续的分段线性函数和结构中出现的机器人和电力系统问题的几何尺寸的理想MIP配方。
2019-10-09 math.OC
Optimizing Objective Functions from Trained ReLU Neural Networks via Sampling
Massachusetts Institute of Technology（麻省理工学院）
本文介绍了可扩展的基于采样的算法，这些算法使用ReLU激活来优化经过训练的神经网络。我们首先提出了一种迭代算法，该算法利用ReLU神经网络的分段线性结构，通过采样将初始混合整数最优化问题（MIP）简化为多个易于求解的线性最优化问题（LP）。随后，我们通过在每次迭代计算的LP解的邻域周围搜索来扩展这种方法。该方案使我们能够设计第二个增强算法，将初始MIP问题减少到更小的，更复杂的解决MIP。我们分析显示的方法的收敛性，我们提供了一个样本的复杂性保证。我们还验证了我们的算法的性能进行比较，对国家的最先进的基于MIP的方法。最后，我们计算如何采样算法可以有效地用于热启动MIP为基础的方法。
2022-06-06 cs.LG math.OC stat.ML
Learning Discontinuous Piecewise Affine Fitting Functions using Mixed Integer Programming for Segmentation and Denoising
分段仿射函数广泛用于逼近非线性和不连续函数。然而，大多数（如果不是全部）现有模型仅处理拟合连续函数。在本文中，我们研究了将不连续分段仿射函数拟合到位于正交网格中的给定数据的问题，其中对分区没有限制（即，其几何形状可以是非凸的）。当数据对应于图像时，这对于分割和去噪是有用的。我们提出了一种新的混合规划（MIP）制定分段仿射拟合问题，其中二进制变量确定断点的位置。为了获得一致的分区（即图像分割），我们在公式中包括多切割约束。由于所产生的问题是$\mathcal{NP}$ -硬，两种技术被引入到改善计算。一个是添加刻面定义的不平等的制定和其他提供初始整数解使用一个特殊的启发式算法。我们对一些合成图像以及真实深度图像进行了大量的实验，结果证明了我们的模型的可行性。
2020-01-28 math.OC
Embedding Formulations and Complexity for Unions of Polyhedra
众所周知，选择一个好的混合整数规划（MIP）公式对于使用最先进的求解器的有效解决方案至关重要。虽然构建良好公式的最佳做法和准则比比皆是，但很少有系统的构建导致最佳可能的公式。我们引入嵌入配方和复杂性作为一个新的MIP配方范例，系统地构建配方的析取约束，是最佳的大小。更具体地说，它们在所有仅使用0-1个辅助变量的公式中产生最小可能的理想公式（即LP松弛具有积分极值点的公式）。我们使用的范例来表征最佳配方的SOS 2约束和某些分段线性函数的两个变量。我们还表明，由此产生的配方可以提供一个显着的计算优势，所有已知的配方分段线性函数。
2017-05-21 math.OC
Fast and Exact Least Absolute Deviations Line Fitting via Piecewise Affine Lower-Bounding
Institute of Digital Engineering and the Faculty of Applied Natural Sciences and Humanities, Technische Hochschule Würzburg-Schweinfurt（数字工程研究所和应用自然科学与人文学院，图宾根-施维林技术大学）
PALB方法通过分段仿射下界实现快速且精确的LAD直线拟合，优于现有LP和IRLS方法。
2025-12-22 cs.LG math.OC stat.ML
B$^3$-PWL: GPU-Batched Branch-and-Bound for Piecewise-Linear Optimization with SOS2 Constraints
Johns Hopkins University（约翰斯·霍普金斯大学）；University of North Carolina, Chapel Hill（北卡罗来纳大学教堂山分校）；City University of Hong Kong（香港城市大学）；The Hong Kong Institute of AI for Science（香港人工智能科学研究所）
本文提出以GPU为中心的B³-PWL框架，通过批处理LP松弛子问题等技术，在PWL优化问题上实现了相对于cuOpt的9.25倍几何平均加速，性能优于多款CPU求解器。
2026-09-01 cs.DC math.OC
A Unified Algorithm for Penalized Convolution Smoothed Quantile Regression
惩罚分位数回归（QR）被广泛用于研究高维数据异质性下响应变量与预测变量之间的关系。与惩罚最小二乘法相比，由于惩罚QR的不可微分段线性损失函数，缺乏可扩展的拟合算法。为了克服平滑性的不足，最近提出的卷积型平滑方法带来了一个有趣的权衡统计精度和计算效率的标准和惩罚分位数回归。在本文中，我们提出了一个统一的算法来拟合惩罚卷积平滑分位数回归与各种常用的凸惩罚，伴随着R语言包征服可从综合R档案网络。我们进行了广泛的数值研究，以证明所提出的算法在统计和计算方面优于现有的方法的性能。我们通过在世界幸福数据上拟合融合的套索加性QR模型来进一步验证所提出的算法。
2022-05-05 stat.CO stat.ME
Data-driven approximation of control invariant set for linear system based on convex piecewise linear fitting
控制不变集是保证安全控制的关键，本文采用数据驱动的方法重新研究了线性离散系统控制不变集的计算问题。具体地说，线性MPC的收敛轨迹上的样本点被记录，其中的凸包制定的线性系的控制不变集。为了近似多个样本点的凸包，已经提出了凸分段线性（PWL）拟合框架，其产生具有预定义复杂度的多面体近似。对于凸PWL拟合问题，提出了一种下降算法，保证收敛到局部最优值。该策略在高维控制不变集的计算中具有灵活性，且计算复杂度可预先定义。仿真结果表明，该方法能够以较高的精度和较低的计算代价计算出近似的控制不变集。
2022-11-23 cs.SY eess.SY math.OC
Fast Non-Parametric Learning to Accelerate Mixed-Integer Programming for Online Hybrid Model Predictive Control
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
当今快速的线性代数和数值优化工具已经将模型预测控制（MPC）的前沿推向了高度非线性和混合系统的有效控制。混合MPC领域已经证明可以计算精确的最优控制规律，例如，在分段仿射（PWA）系统模型下，采用混合整数规划（MIP）方法求解。尽管有优雅的理论，在线求解混合MPC仍然是遥不可及的许多应用。我们的目标是通过结合混合MPC（一种简单而有效的学习算法）的几何见解和MIP热启动技术来加速MIP。在近似显式MPC的工作线之后，所提出的学习控制算法LNMS以很小的成本获得了MIP的计算优势，并且对于从业者来说是直接实现的。
2020-05-07 cs.LG cs.SY eess.SY
Statistical methods for estimating ecological breakpoints and prediction intervals
生态变量之间的关系通常通过拟合经过因变量条件均值的统计模型来获得。例如，非参数黄土和参数分段线性回归模型，通过给定的预测响应变量的条件平均值，用于分析简单到复杂的变量之间的关系。我们使用黄土和自举置信区间主观识别的数量和潜在的生态断点的位置在一个二元关系，和分段线性回归模型（PLRM）定量估计断点的位置和相关的精度。我们还使用分段线性分位数回归模型（PQRM）估计断点位置和精度，该模型拟合响应变量的条件分布的分位数（给定预测因子），并在估计关系和断点方面提供更丰富的信息。我们比较了PQRM相对于PLRM估计的断点的精度。我们比较了精度的方法，使用两个例子，从生态文献怀疑表现出多个断点：有关鱼类生物完整性指数（湿地的鱼类群落的“健康”指数）的人类活动在湿地附近流域的数量;和有关蓝藻的生物量在加拿大湖泊的总磷浓度。两个数据集均检测到统计学显著的断点，以明显不同的斜率划分三个线段的边界。我们建议分段线性分位数回归作为表征双变量环境关系的有效手段，其中点的散布代表自然环境变化而不是测量误差。
2019-08-19 stat.AP
Clash of MINLP Relaxations: Piecewise Linear vs. Global Parabolic
University of Technology Nuremberg（纽伦堡工业大学）
本文提出一种迭代方法改进全局抛物线松弛，解决小容忍度和宽函数域下的计算问题，并与分段线性松弛在一般MINLP实例上进行运行时间比较，结果显示抛物线松弛在紧致容忍度下表现更优。
2026-03-17 math.OC
Global Optimization of Gaussian Process Acquisition Functions Using a Piecewise-Linear Kernel Approximation
Imperial College London（帝国理工学院伦敦分校）；The Ohio State University（俄亥俄州立大学）
本文提出基于混合整数规划的分段线性核混合整数二次规划方法，用于解决高斯过程获取函数的全局优化问题，通过理论分析和实验验证了该方法在不确定性基础上的获取函数优化效果。
2026-04-21 cs.LG math.OC
Strong mixed-integer programming formulations for trained neural networks
我们提出了强混合整数规划（MIP）配方的高维分段线性函数，对应于训练的神经网络。这些公式可用于许多重要任务，例如验证图像分类网络对对抗性输入的鲁棒性，或解决目标函数是机器学习模型的判定问题。我们提出了一个通用的框架，这可能是独立的利益，提供了一种方法来构建尖锐的或理想的配方，最大的d仿射函数在任意多面体输入域。我们应用这一结果来推导一些最流行的非线性操作（例如ReLU和max pooling）的MIP公式，这些操作比文献中的其他方法严格更强。我们在计算上证实了这一点，表明我们的配方能够在图像分类网络的验证任务的解决时间上提供实质性的改进。
2020-01-21 math.OC
High Dimensional Three-Periods Locally Ideal MIP Formulations for the UC Problem
火电机组组合问题通常可以归结为一个混合整数二次规划问题，特别是对于大规模的火电机组组合问题，其求解效率很低。更紧密的特征减少了搜索空间，因此，作为一个自然的结果，显着减少了计算负担。在文献中，许多收紧的单一单位与部分约束的配方报道，没有介绍他们是如何推导出来的。在本文中，一个系统的方法来制定严格的配方。其思想是在高维空间中引入更多的新变量来捕获单个单元在三个周期内的所有状态，然后利用这些状态变量系统地推导出UC中约束子集的三个周期的局部理想表达式。同时，利用这些新的状态变量的线性相关关系，保持了所得到的公式的紧凑性。基于这种方法，我们提出了两个更紧密的模型，即3 P-HD和3 P-HD-Pr。所提出的模型和其他四个国家的最先进的模型进行了测试，在51个实例，包括42个现实的实例和9个8单元为基础的实例，在24小时的调度期内，系统范围从10到1080发电机组。仿真结果表明，我们提出的MIQP UC公式是最紧密的，可以最有效地解决。采用分段逼近技术对二次型运营费用函数进行逼近后，六个UC MIQP公式可近似为六个相应的混合整数线性规划（MILP）公式。我们的实验表明，所提出的3 P-HD和3 P-HD-Pr MILP配方在紧密性和溶解时间方面也表现得最好。
2020-05-12 math.OC
Multi-Attribute Utility Preference Robust Optimization: A Continuous Piecewise Linear Approximation Approach
在本文中，我们考虑一个多属性决策问题，决策者（DM）的目标是最大化的预期效用的结果，但真正的效用函数，捕捉DM的风险偏好是模糊的。我们提出了一个最大最小多属性效用偏好鲁棒优化（UPRO）模型，其中最优决策是基于最坏情况下的效用函数在一个模糊的一组合理的效用函数构造使用部分可用的信息，如DM的具体偏好之间的一些彩票。具体来说，我们考虑一个UPRO模型与两个属性，其中DM的风险态度是多元风险厌恶和模糊集定义的线性系的不等式表示的DM的效用函数的Lebesgue-Stieltjes（LS）积分。为了解决最大极小问题，我们提出了一个显式分段线性逼近（EPLA）计划来近似DM的真实未知效用，使内部最小化问题减少到一个线性规划，我们解决了近似的最大极小问题的导数自由（Dfree）的方法。此外，通过引入二元变量来确定报酬函数在单形族中的位置，提出了UPRO近似的隐式分段线性逼近（IPLA）表示，并使用Dfree方法求解.这种IPLA技术促使我们重新制定近似UPRO作为一个单一的混合整数规划（MIP）和扩展的易处理性的近似UPRO的多属性的情况下。此外，我们将该模型扩展到期望效用约束的期望效用最大化问题，其中最坏情况下的效用函数的目标和约束同时考虑。最后，我们报告了所提出的模型的性能的数值结果。
2023-03-29 math.OC
A Refined Algorithm for Curve Fitting by Segmented Straight Lines
我们考虑通过具有少量断点的连续、分段线性逼近来对一元函数进行最小二乘逼近。这个问题是特别考虑贝尔曼谁提出了一个近似算法的基础上动态规划。许多次优方法已经被提出，但到目前为止，唯一的精确方法诉诸于超多项式复杂性增长的混合整数规划。本文提出了一种基于混合值函数的动态规划算法。实现的时间复杂度似乎是多项式。
2018-06-28 math.OC
Compact mixed-integer programming relaxations in quadratic optimization
我们提出了一种技术，为非凸二次最优化问题产生有效的对偶界。该方法利用雅罗茨基的一元二次函数的优雅的分段线性逼近，使用混合整数规划（MIP）制定这个（简单的）近似。值得注意的是，在这个公式中使用的约束，二进制变量和辅助连续变量的数量在近似误差中呈几何增长。结合对角扰动技术将不可分的二次函数转化为可分的二次函数，我们提出了一种求解非凸二次最优化问题的混合整数凸二次松弛算法。我们研究的强度（或清晰度），我们的制定和其近似的紧密性。此外，我们表明，我们的配方表示通过格雷码的可行点。我们关闭与二次目标和/或约束问题的计算结果，表明我们提出的方法i）全面优于现有的MIP松弛从文献中，和ii）在硬的情况下产生更好的界限比精确的求解器在固定的时间预算。
2021-03-27 math.OC
On the Minimum Number of Linear Pieces Required to Approximate Nonlinear Functions under an Accuracy Constraint
Trier University（特里尔大学）；Université de Toulouse, INP, LAAS-CNRS（图卢兹大学，国立高等理工学院，法国国家科学研究中心实验室）
本文研究走廊拟合问题，即在给定误差界限下用最少分段线性函数逼近非线性函数，提出基于定义域离散化的四种松弛方法，给出R^2实例的新上界和首个下界，解决超三分之一文献实例。
2026-09-25 math.OC
A Mixed Integer Linear Programming Method for Dynamic Economic Dispatch with Valve Point Effect
本文提出了一种混合整数线性规划（MILP）方法来求解计及阀点效应的动态经济调度（DED-VPE）。基于分段线性化技术，非凸和非光滑的发电成本被转化为一个线性下近似，这是优于二次的，得到一个MILP形式的DED-VPE。当段参数设置适当时，MILP公式可以直接有效地由混合整数规划（MIP）求解器求解。因此，可以保证MILP公式在预设容差内的全局最优解。仿真结果表明，所提出的MILP公式可以在合理的时间内解决可靠的解决方案。
2017-02-16 math.OC
Method of Moments for Estimation of Noisy Curves
The University of Chicago（芝加哥大学）；Biohub（生物枢纽研究所）
针对高噪声高斯点云下高维分段线性曲线恢复问题，本文证明恢复的样本复杂度上下界均为$σ^6$量级，提出基于三阶矩张量拟合搭配精细初始化的恢复方法，经数值实验验证有效且代码开源。
2025-11-17 math.OC math.ST stat.TH
