SPO-VCS: An End-to-End Smart Predict-then-Optimize Framework with Alternating Differentiation Method for Relocation Problems in Large-Scale Vehicle Crowd Sensing
Civil and Environmental Engineering, The Hong Kong Polytechnic University(香港理工大学土木与环境工程学院)
SPO-VCS通过整合优化与预测,提出一种端到端智能预测-优化框架,采用交替微分方法解决大规模车辆crowdsensing中的relocation问题,提升智能交通系统应用潜力。
2025-11-27 cs.LG math.OC
Divide and Learn: A Divide and Conquer Approach for Predict+Optimize
University of Melbourne(墨尔本大学);Delft University of Technology(代尔夫特理工大学);RMIT University(皇家墨尔本理工大学);Monash University(莫纳什大学)
预测+优化问题将问题系数的机器学习与使用预测系数的组合优化问题相结合。虽然这个问题可以在两个单独的阶段解决,但最好直接最小化优化损失。然而,这需要通过一个离散的,不可微的组合函数来区分。大多数现有的方法使用某种形式的替代梯度。Demirovicet等人展示了如何直接表达优化问题的损失,将预测系数表示为分段线性函数。然而,他们的方法仅限于动态规划公式的优化问题。在这项工作中,我们提出了一种新型的分而治之算法来解决没有这种限制的优化问题,并使用优化损失来预测其系数。我们还介绍了这种方法的一个较好的版本,它以较少的计算量获得了类似的结果。我们比较了我们的方法与其他方法的预测+优化问题,并显示我们可以成功地解决一些困难的组合问题比其他预测+优化方法。
2020-12-04 cs.AI cs.LG math.OC
AI-Driven Multi-Hop Relay Selection for Smart Urban NR-V2X Networks via Learning-to-Optimize Graph Neural Networks
研究智能城市NR-V2X网络中多跳中继选择问题,提出基于图神经网络的学习优化框架,将车辆通信状态建模为属性图,通过离线MILP预言机监督、边缘感知图同构网络近似决策,实验证明该方法能在降低执行时间的同时实现与MILP相当的连接性。
2026-07-24 cs.AI cs.LG cs.NI
Grid-SiPhyR: An end-to-end learning to optimize framework for combinatorial problems in power systems
Massachusetts Institute of Technology(麻省理工学院)
本文提出物理信息学习优化框架SiPhyR,通过可微物理信息舍入方法解决组合优化问题,并在电网动态重构中验证其能实现安全约束下快速在线决策。
2023-05-24 cs.LG cs.SY eess.SY
Benchmarking PtO and PnO Methods in the Predictive Combinatorial Optimization Regime
Shanghai Jiao Tong University(上海交通大学);Massachusetts Institute of Technology(麻省理工学院);Finvolution Group(Finvolution集团)
本文构建统一模块化基准框架,在8个问题上系统评测11种PtO/PnO方法,发现PnO在7个基准上优于PtO但无万能设计,为预测性组合优化研究提供基准与快速原型支持。
2024-11-20 cs.AI cs.LG math.OC
Learning for Robust Combinatorial Optimization: Algorithm and Application
UC Riverside(加州大学河滨分校);University of Virginia(弗吉尼亚大学)
学习优化(L2 O)最近已经成为一种很有前途的方法来解决优化问题,通过利用强大的预测能力的神经网络,并提供较低的运行时复杂性比传统的求解器。虽然L2 O已被应用于各种问题,但一类关键但具有挑战性的问题-以极大极小优化形式的鲁棒组合优化-在很大程度上仍然未被探索。除了决策空间呈指数增长外,鲁棒组合优化的一个关键挑战在于内部优化问题,该问题通常是非凸的,并且与外部优化纠缠在一起。在本文中,我们研究了鲁棒组合优化,并提出了一种新的学习为基础的优化,称为LRCO(学习鲁棒组合优化),快速输出一个强大的解决方案,在不确定的情况下。LRCO利用了一对基于学习的优化器--一个用于最小化器,另一个用于最大化器--它们使用各自的目标函数作为损失,并且可以在不需要标签的情况下训练问题实例。为了评估LRCO的性能,我们对车辆边缘计算中的任务卸载问题进行了模拟。我们的研究结果表明,LRCO可以大大降低最坏情况下的成本,提高鲁棒性,同时具有非常低的运行时复杂度。
2021-12-20 cs.LG eess.SP math.OC
Training Greedy Policy for Proposal Batch Selection in Expensive Multi-Objective Combinatorial Optimization
Seoul National University(首尔大学);Neural Processing Research Center(神经处理研究中心);New York University(纽约大学);Genentech(基因泰克公司)
针对昂贵多目标组合优化中批次采集得分优化难、现有贪心方法无法并行的问题,提出一种可并行训练的贪心策略式子集选择算法,在红色荧光蛋白设计任务中以更少查询达到基线性能。
2024-06-21 cs.AI cs.LG
Particle Swarm Optimized Federated Learning For Industrial IoT and Smart City Services
University of Nebraska at Kearney(内布拉斯加大学卡尼分校);Hamad Bin Khalifa University(哈马德·本·哈利法大学);Information Technology University(信息技术大学)
关于联邦学习(FL)的大部分研究都集中在分析全局优化、隐私和通信上,而对在边缘设备上执行有效的本地训练和推理的关键问题的关注有限。在边缘设备上成功有效地进行训练和推理的主要挑战之一是仔细选择参数以构建本地机器学习(ML)模型。为此,我们提出了一种基于粒子群优化(PSO)的技术来优化FL环境中局部ML模型的超参数设置。我们使用两个案例研究评估我们提出的技术的性能。首先,我们考虑智能城市服务,并使用实验性交通数据集进行交通预测作为此设置的代理。其次,我们考虑工业物联网(IIoT)服务,并使用实时遥测数据集来预测机器由于组件故障而很快发生故障的概率。我们的实验表明,PSO提供了一个有效的方法来调整超参数的深度长短期记忆(LSTM)模型相比,网格搜索方法。我们的实验表明,客户端-服务器通信轮的数量,以探索景观的配置,以找到接近最优的参数大大减少(大约由两个数量级,只需要2%-4%的回合相比,最先进的非基于PSO的方法)。我们还证明,利用所提出的基于PSO的技术来找到FL和集中式学习模型的接近最优的配置不会对模型的准确性产生不利影响。
2020-09-05 cs.LG cs.NE stat.ML
Moco: A Learnable Meta Optimizer for Combinatorial Optimization
Institute of Computer Science, University of Hildesheim(计算机科学研究所,希尔德斯海姆大学)
针对组合优化问题推理时难以基于已构造解优化的局限,提出完全可学习的元优化器Moco,通过热图引导的轻量构造流程与状态特征驱动的参数更新实现优化,在TSP和MIS上性能优于同类热图方法。
2025-09-04 cs.LG
MOCA-HESP: Meta High-dimensional Bayesian Optimization for Combinatorial and Mixed Spaces via Hyper-ellipsoid Partitioning
RMIT University, Australia(皇家墨尔本理工大学);Chongqing University, China(重庆大学)
针对组合与混合域高维贝叶斯优化的挑战,本文提出元算法MOCA-HESP,结合超椭球划分与自适应编码器选择,可整合现有优化器,实验显示其在合成及真实基准上优于基线。
2025-08-25 cs.LG stat.ML
Learning to Optimize Variational Quantum Circuits to Solve Combinatorial Problems
Illinois Institute of Technology(伊利诺伊理工学院);Clemson University(克莱姆森大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Argonne National Laboratory(阿贡国家实验室)
量子计算是一种计算范式,有可能在各种问题上优于经典方法。最近提出的量子近似优化算法(QAOA)被认为是近期内证明量子优势的主要候选算法之一。QAOA是一种近似求解组合优化问题的变分混合量子经典算法。对于给定的问题实例,QAOA获得的解的质量取决于用于优化变分参数的经典优化器的性能。在本文中,我们制定的问题,找到最佳QAOA参数作为一个学习任务,其中从解决训练实例中获得的知识可以利用找到高质量的解决方案,看不见的测试实例。为此,我们开发了两种基于机器学习的方法。我们的第一种方法采用强化学习(RL)框架来学习策略网络以优化QAOA电路。我们的第二种方法采用核密度估计(KDE)技术来学习最佳QAOA参数的生成模型。在这两种方法中,训练过程都是在可以在经典计算机上模拟的小问题实例上执行的;然而,学习的RL策略和生成模型可以用于有效地解决更大的问题。使用IBM Qiskit Aer量子电路模拟器进行的大量模拟表明,与其他常用的现成优化器相比,我们提出的基于RL和KDE的方法将最优性差距降低了30.15倍。
2019-11-25 cs.LG quant-ph stat.ML
Risk-Aware Algorithms for Combinatorial Semi-Bandits
Indian Institute of Science(印度科学理工学院)
本文研究了半强盗反馈下的随机组合多臂强盗问题。虽然已经做了大量的工作,优化线性以及一些一般的奖励函数的预期奖励的算法,我们研究的问题,其中的目标是风险意识的一个变体。更具体地说,我们考虑的问题,最大化的条件风险价值(CVaR),风险度量,只考虑最坏情况下的回报。我们提出了新的算法,最大限度地提高CVaR的奖励从超级武器的组合强盗高斯和有界的手臂奖励的两种情况下。我们进一步分析这些算法,并提供遗憾的界限。我们相信,我们的研究结果提供了第一个理论见解组合半强盗问题的风险意识的情况下。
2021-12-02 cs.AI cs.LG
DFF: Decision-Focused Fine-tuning for Smarter Predict-then-Optimize with Limited Data
Tongji University(同济大学);City University of Hong Kong(香港城市大学);Didi Chuxing(滴滴出行)
针对决策聚焦学习(DFL)在有限数据下预测偏离物理意义、非微分/黑箱模型无法梯度调整的问题,提出DFF框架,通过偏差校正模块嵌入DFL,约束模型接近原始预测模型,理论保证偏差上界,实验验证其提升决策性能且适应性强。
2025-04-13 cs.LG
Gumbel-softmax Optimization: A Simple General Framework for Combinatorial Optimization Problems on Graphs
Beijing Normal University(北京师范大学)
现实生活中的许多问题都可以转化为图上的组合优化问题,即寻找一个最佳的节点状态配置或网络结构,使设计的目标函数在一定的约束条件下达到最优。然而,这些问题是臭名昭著的,因为他们的困难解决,其中大多数是NP-难或NP-完全。虽然传统的通用方法如模拟退火算法(SA)、遗传算法(GA)等已经被设计用于解决这些难题,但在实际应用中,其精度和时间消耗都不能令人满意。在这项工作中,我们提出了一个简单,快速,通用的算法框架,称为Gumbel-softmax优化(GSO)的COP。通过引入机器学习领域发展起来的Gumbel-softmax技术,我们可以直接用梯度下降算法对目标函数进行优化,而不考虑变量的离散性。我们测试我们的算法在四个不同的问题,包括谢灵顿-柯克帕特里克(SK)模型,最大独立集(MIS)问题,模块化优化,和结构优化问题。与传统方法相比,可以以更少的时间获得高质量的解决方案。
2019-09-16 cs.DM cs.LG stat.ML
A Bi-Level Framework for Learning to Solve Combinatorial Optimization on Graphs
Shanghai Jiao Tong University(上海交通大学);Ant Group(蚂蚁集团)
组合优化是一个长期存在的具有挑战性的研究课题,其特点是NP难。传统上,这类问题近似求解的启发式算法,通常是快速的,但可能会牺牲解决方案的质量。目前,面向组合优化的机器学习(MLCO)已成为一个热门的研究课题,但现有的大多数MLCO方法都是通过直接学习端到端的解来进行单级优化,难以扩展,并且由于CO的高复杂性,大多受到ML模型容量的限制。其中,开发了具有上层学习方法的双层框架以优化图(例如,添加、删除或修改图中的边),该上层学习方法与在优化图上求解的下层启发式算法融合。这种双层方法简化了对原始硬CO的学习,并且可以有效地减轻对模型容量的需求。在有向无环图调度、图编辑距离和汉密尔顿循环问题等几个流行的协同优化问题上的实验和结果表明,它比手动设计的启发式算法和单级学习方法更有效。
2021-10-25 cs.LG math.CO
Reinforcement-Learning-Based Variational Quantum Circuits Optimization for Combinatorial Problems
Illinois Institute of Technology(伊利诺伊理工学院);Clemson University(克莱姆森大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Argonne National Laboratory(阿贡国家实验室)
量子计算利用基本的量子现象,如状态叠加和纠缠来执行计算。量子近似优化算法(QAOA)可以说是领先的量子算法之一,可以在短期内超越经典的最先进的方法。QAOA是一种混合量子经典算法,它将参数化量子态演化与经典优化程序相结合,以近似解决组合问题。在量子计算机的固定调用预算内通过QAOA获得的解决方案的质量取决于用于优化变分参数的经典优化例程的性能。在这项工作中,我们提出了一种基于强化学习(RL)的方法来训练一个策略网络,可以用来快速找到高质量的变分参数看不见的组合问题的实例。RL代理在可以在经典计算机上模拟的小问题实例上进行训练,但学习的RL策略是可推广的,可以用于有效地解决更大的实例。使用IBM Qiskit Aer量子电路模拟器进行的大量模拟表明,与其他测试的现成优化器相比,我们经过训练的RL策略可以将最优性差距降低8.61倍。
2019-11-11 cs.LG quant-ph stat.ML