PyXAB -- A Python Library for $\mathcal{X}$-Armed Bandit and Online Blackbox Optimization Algorithms
Purdue University(普渡大学)
我们介绍了一个用于$\mathcal{X}$的Python开源库PyXAB-武装强盗和在线黑盒优化。PyXAB包含了超过10个$\mathcal{X}$武装的强盗算法的实现,如HOO,StoSOO,HCT,以及最近的作品RIGHT和VHCT。PyXAB还提供了最常用的合成目标来评估不同算法的性能以及参数空间上分层分区的各种选择。PyXAB的在线文档包括清晰的安装说明、简单的示例、详细的功能描述和API的完整参考。PyXAB在MIT许可下发布,以鼓励学术和工业使用。该库可以直接从PyPI安装,其源代码可以在https://github.com/WilliamLwj/PyXAB上获得
2023-03-07 cs.AI cs.LG cs.SE
DRO: A Python Library for Distributionally Robust Optimization in Machine Learning
本文介绍了dro,一个兼容scikit-learn和PyTorch的开源Python库,支持79种分布鲁棒优化方法,并通过向量化与优化近似技术实现10倍至1000倍以上的运行加速。
2026-11-03 cs.LG cs.MS cs.NA
tensorflow-riemopt: A Library for Optimization on Riemannian Manifolds
Microsoft(微软)
tensorflow-riemopt是一个用于在流形上进行优化的Python库,支持TensorFlow中的几何机器学习应用。
2025-12-17 cs.CG cs.LG cs.MS
Deep Graph Library Optimizations for Intel(R) x86 Architecture
Intel Corporation(英特尔公司)
深度图库(DGL)被设计为一种工具,通过支持图形的核心抽象,包括流行的图神经网络(GNN),实现从图中进行结构学习。DGL包含CPU和GPU的所有核心图形操作的实现。在本文中,我们特别关注CPU实现,并使用最新版本的DGL(0.4.3)在一组GNN应用程序中进行性能分析,优化和结果。在7个应用程序中,我们实现了比基准CPU实现快11.5倍-13倍的速度。
2020-07-13 cs.DC cs.LG
No-Regret Bayesian Optimization with Finite-Library Input-Warped Kernels
AI Sweden(瑞典人工智能研究院)
本文提出FLIWBO方法,可从有限库选输入扭曲,在 mild 假设下保收敛保证,在多基准测试中优于GP-UCB,能修复几何不匹配、逃脱陷阱,在高代价MAS设计中可行。
2026-09-04 cs.LG math.OC stat.ML
Benchmark Assessment for DeepSpeed Optimization Library
深度学习(DL)模型由于其性能和处理大型数据集的能力而广泛用于机器学习,同时产生高精度和性能指标。这样的数据集的大小和DL模型的复杂性导致这样的模型是复杂的,消耗大量的资源和时间来训练。许多最近的库和应用程序被引入来处理DL复杂性和效率问题。在本文中,我们评估了一个例子,微软DeepSpeed库通过分类任务。DeepSpeed公开源报告了LeNet架构上的分类性能指标。我们通过在几种现代神经网络架构上评估库来扩展这一点,包括卷积神经网络(CNN)和视觉Transformer(ViT)。结果表明,DeepSpeed虽然可以在某些情况下做出改进,但对其他情况没有影响或产生负面影响。
2022-02-12 cs.LG
BackboneLearn: A Library for Scaling Mixed-Integer Optimization-Based Machine Learning
HEC Paris(巴黎高等商学院)
BackboneLearn是一个开源Python框架,通过backbone算法高效扩展高维混合整数优化问题,在可解释监督和无监督学习中比精确方法更快、比启发式方法更准。
2023-11-22 cs.LG math.OC stat.ML
QuadraLib: A Performant Quadratic Neural Network Library for Architecture Optimization and Design Exploration
George Mason University(乔治梅森大学);University at Buffalo(布法罗大学)
深度神经网络(DNN)的巨大成功是由多个复杂的DNN库高度促进的。相反,尽管一些工作已经证明二次深度神经元网络(QDNN)比一阶DNN显示出更好的非线性和学习能力,但它们的神经元设计从理论性能到实际部署都存在一定的缺陷。在本文中,我们首先提出了一种新的QDNN神经元架构设计,并进一步开发了QDNN库QuadraLib,为QDNN提供架构优化和设计探索。大量的实验表明,我们的设计具有良好的性能,在多个学习任务的预测精度和计算消耗。
2022-04-01 cs.CV cs.LG
ensmallen: a flexible C++ library for efficient function optimization
Delhi Technological University(德里理工大学);RelationalAI(RelationalAI公司);Free University of Berlin(柏林自由大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织数据61研究所);University of Queensland(昆士兰大学)
我们提出了ensmallen,一个快速,灵活的C++库的数学优化的任意用户提供的功能,它可以应用于许多机器学习问题。支持几种类型的优化,包括可微,可分离,约束和分类目标函数。该库提供了许多预构建的优化器(包括SGD和拟牛顿优化器的许多变体)以及用于实现新优化器和目标函数的灵活框架。实现一个新的优化器只需要一个方法,而一个新的目标函数通常需要一个或两个C++函数。这可以帮助快速实现和原型化新的机器学习算法。由于使用C++模板元编程,ensmallen能够支持编译器优化,提供快速运行时。经验比较表明,ensmallen能够优于其他优化框架(如Julia和SciPy),有时甚至可以大幅提高。该库在BSD许可证下分发,并准备在生产环境中使用。
2018-12-10 cs.LG cs.MS math.OC
Sparse identification of nonlinear dynamics with library optimization mechanism: Recursive long-term prediction perspective
Kyushu University(九州大学);Hokkaido University(北海道大学);ISUZU Advanced Engineering Center, Ltd.(五十铃先进工程中心有限公司);Tokyo City University(东京都市大学)
本文提出 SINDy-LOM 方法,通过库优化机制提升非线性动力学识别的长期预测可靠性与模型简洁性。
2026-02-02 cs.LG math.DS
POLO: a POLicy-based Optimization library
KTH Royal Institute of Technology(KTH皇家理工学院)
我们提出POLO -一个C++库的大规模并行优化研究,强调易用性,灵活性和效率的算法设计。它使用多重继承和模板编程将算法分解为基本策略并促进代码重用。由于算法和执行策略之间的明确分离,它为研究人员提供了一个简单而强大的平台,用于原型设计,在不同的并行计算架构和硬件平台上评估它们,并生成紧凑而高效的生产代码。包括C-API,用于高级语言的定制和数据加载。POLO使用户能够无缝地从串行迁移到多线程共享内存和多节点分布式内存执行器。我们演示了如何POLO允许用户实现国家的最先进的异步并行优化算法在短短几行代码和报告实验结果从共享和分布式内存计算架构。我们在https://github.com/pologrp上提供了POLO和POLO.jl,后者是用Julia语言编写的POLO的包装器,使用的是MIT许可证。
2018-10-08 cs.DC cs.LG cs.SE
Cooper: A Library for Constrained Optimization in Deep Learning
Mila(米拉研究所);Université de Montréal(蒙特利尔大学)
Cooper 是一个开源库,通过实现多种基于拉格朗日的一阶更新方案,将约束优化算法与 PyTorch 的自动微分及深度学习架构无缝结合,适用于深度学习及一般非凸连续约束优化问题。
2025-04-01 cs.LG cs.MS
pyribs: A Bare-Bones Python Library for Quality Diversity Optimization
University of Southern California(南加州大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出 pyribs 库,基于高度模块化的概念框架实现质量多样性优化,使用户能够灵活组合算法、探索新变体,并通过友好 API 降低使用门槛。
2023-04-15 cs.LG cs.NE cs.SE
PLiNIO: A User-Friendly Library of Gradient-based Methods for Complexity-aware DNN Optimization
Politecnico di Torino(都灵理工大学)
本研究提出开源库PLiNIO,在统一易用界面下集成轻量级梯度驱动的DNN设计自动化技术,经边缘任务实验验证,其组合优化方案在准确率-模型尺寸权衡上帕累托优于基准,最高可减94.34%内存且准确率降不足1%。
2023-07-18 cs.LG
optimizn: a Python Library for Developing Customized Optimization Algorithms
本文提出 Python 库 optimizn,基于模拟退火和分支定界等通用范式支持快速开发定制组合优化算法,并通过持续训练机制逐步提升解的质量。
2025-07-02 cs.LG math.OC
TorchOpt: An Efficient Library for Differentiable Optimization
University of Edinburgh(爱丁堡大学);University College London(伦敦大学学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Institute for AI, Peking University(北京大学人工智能研究院)
近年来,各种可微优化算法蓬勃发展。这些算法表现出不同的执行模式,并且它们的执行需要超出单个CPU和GPU的大量计算资源。然而,现有的可微分优化库不能支持高效的算法开发和多CPU/GPU执行,使得可微分优化算法的开发通常繁琐且昂贵。本文介绍了TorchOpt,一个基于PyTorch的高效可微优化库。TorchOpt提供了一个统一的和富有表现力的可微优化编程抽象。这种抽象允许用户有效地声明和分析各种显式梯度、隐式梯度和零阶梯度的可微优化程序。TorchOpt还提供了一个高性能的分布式执行运行时。该运行时可以在CPU/GPU上完全并行化计算密集型微分操作(例如张量树展平),并自动将计算分发到分布式设备。实验结果表明,TorchOpt在8 GPU服务器上实现了$5.2\times$训练时间的加速。TorchOpt可在https://github.com/metaopt/torchopt/上获得。
2022-11-13 cs.AI cs.DC cs.LG
Submodlib: A Submodular Optimization Library
Indian Institute of Technology Bombay(印度理工学院孟买分校);University of Texas at Dallas(德克萨斯大学达拉斯分校)
次模函数是一类特殊的集合函数,它自然地模拟了代表性,多样性,覆盖等概念,并且已经被证明在计算上非常有效。过去的许多工作都应用子模块优化来寻找各种情况下的最优子集。一些示例包括用于高效人工消耗的数据汇总,找到有效的较小的训练数据子集以减少模型开发时间(训练,超参数调整),找到未标记数据的有效子集以降低标记成本,最近的一项工作也利用子模函数提出了子模信息测度,这些测度在解决引导子集问题中非常有用选择和引导总结。在这项工作中,我们提出了Submodlib,这是一个开源的,易于使用的,高效的和可扩展的Python库,用于子模块优化与C++优化引擎。Submodlib在总结、数据子集选择、超参数调整、高效训练等方面都有应用。通过丰富的API,它在使用方式上提供了很大的灵活性。Submodlib的源代码可以在https://github.com/decile-team/submodlib上找到。
2022-02-23 cs.IR cs.LG
Ecole: A Library for Learning Inside MILP Solvers
École Polytechnique de Montréal(蒙特利尔理工学院);Mila, Quebec Artificial Intelligence Institute(Mila 魁北克人工智能研究所)
在本文中,我们描述了Ecole(可扩展的组合优化学习环境),一个库,以方便集成机器学习的组合优化求解器。它揭示了在求解过程中必须执行的序列决策过程。这意味着,Ecole不是试图直接预测组合优化问题的解决方案,而是允许机器学习与最先进的混合整数线性规划求解器合作,作为一种可控算法。Ecole提供了一系列计算效率高、易于使用的学习环境,这些环境也易于扩展以定义新的培训任务。文档和代码可以在https://www.ecole.ai上找到。
2021-04-06 cs.LG math.OC
Spyx: A Library for Just-In-Time Compiled Optimization of Spiking Neural Networks
University of Cambridge(剑桥大学);University of Sussex(萨塞克斯大学)
针对脉冲神经网络难以利用现代加速器并行能力的问题,本文提出基于 JAX 的轻量级库 Spyx,通过 vRAM 数据预暂存和全面 JIT 编译实现统一底层执行,从而在 GPU/TPU 上提升训练性能与灵活性。
2024-02-29 cs.LG cs.NE
LibMOON: A Gradient-based MultiObjective OptimizatioN Library in PyTorch
CityUHK(香港城市大学);HKBU(香港浸会大学);UIUC(伊利诺伊大学厄巴纳-香槟分校)
针对现有 MOPs 基准库依赖零阶进化算法且无法扩展至大规模模型的问题,本文提出首个支持最先进基于梯度方法的多目标优化库 LibMOON,提供公平基准并开源。
2024-10-11 cs.LG cs.MS math.OC
Theseus: A Library for Differentiable Nonlinear Optimization
Meta AI;Reality Labs Research(现实实验室研究院)
Theseus是一个高效的应用程序不可知的开源库,用于基于PyTorch的可微非线性最小二乘(DNLS)优化,为机器人和视觉中的端到端结构化学习提供了一个通用框架。现有的DNLS实现是特定于应用的,并且并不总是包含许多对效率重要的成分。Theseus是应用不可知的,正如我们用几个使用相同的底层可微组件构建的示例应用所示,例如二阶优化器,标准成本函数和李群。为了提高效率,Theseus集成了对稀疏求解器、自动矢量化、GPU加速和梯度计算的支持,以及隐式微分和直接损失最小化。我们在一组应用程序中进行了广泛的性能评估,证明了当这些功能被合并时,显着的效率提高和更好的可扩展性。项目页面:https://sites.google.com/view/theseus-ai
2023-01-18 cs.CV cs.LG cs.RO
BayesOpt: A Library for Bayesian optimization with Robotics Applications
Centro Universitario de la Defensa(国防大学中心)
本文件有两个目的。一方面,我们提出了贝叶斯优化的一般框架,并将其与主动学习和贝叶斯数值分析中的一些相关领域进行了比较。另一方面,贝叶斯优化和相关问题(土匪,序贯实验设计)是高度依赖于所选择的代理模型。然而,在文献中没有明确的标准。因此,我们提出了一个快速,灵活的工具箱,允许测试和组合不同的模型和标准,很少的努力。它包含了大多数最先进的贡献、算法和模型。它的速度也消除了贝叶斯优化方法只适用于“昂贵函数”的部分耻辱。该软件是免费的,它可以在许多操作系统和计算机语言中使用。
2013-09-03 cs.AI cs.LG cs.MS
LibAUC: A Deep Learning Library for X-Risk Optimization
University of Iowa(爱荷华大学);Nanjing University(南京大学);Google Research(谷歌研究院);Texas A&M University(德州农工大学)
本文提出开源深度学习库 LibAUC,通过受控采样与动态小批量损失的 DXO 流水线解决 X-risk 优化收敛难题,并在 CID、LTR 和 CLR 任务上验证其性能优势。
2023-06-05 cs.AI cs.LG math.OC
Toward an ImageNet Library of Functions for Global Optimization Benchmarking
Migal Institute(米加尔研究所);Tel-Hai College(特尔海学院)
黑盒优化(BBO)问题的搜索景观特征的知识提供了有价值的信息,鉴于算法选择和/或配置问题。探索性景观分析(ELA)模型在确定预定义的人类衍生特征和促进投资组合选择者应对这些挑战方面取得了成功。与ELA方法不同,目前的研究提出将识别问题转化为图像识别问题,具有检测无概念,机器驱动的景观特征的潜力。为此,我们引入了Landscape Images的概念,它使我们能够为每个基准函数生成图像实例,然后将分类挑战定位在不同的广义函数数据集上。我们将其作为一个有监督的多类图像识别问题,并应用基本的人工神经网络模型来解决它。我们的方法的有效性在无噪声BBOB和IOHprofiler基准测试套件上进行了数值验证。这种明显的成功学习是BBO问题的自动特征提取和局部结构推导的又一步。通过使用这种定义的景观图像,并利用现有的图像识别算法的能力,我们预见到一个类似于ImageNet的函数库的建设,训练依赖于机器驱动的功能的广义检测器。
2022-06-27 cs.AI cs.CV cs.LG
Betty: An Automatic Differentiation Library for Multilevel Optimization
Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);UCSD(加州大学圣地亚哥分校);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
基于约束的多级优化(MLO)作为研究众多问题的框架而受到关注,从超参数优化和元学习到神经结构搜索和强化学习。然而,MLO中的梯度是通过链式法则组成最佳响应雅可比矩阵而获得的,众所周知,它很难实现,并且是内存/计算密集型的。我们通过引入Betty(一个用于大规模MLO的软件库),迈出了缩小这一差距的第一步。在其核心,我们为MLO设计了一个新的Bronlow图,它允许我们(1)为MLO开发有效的自动微分,将计算复杂性从O(d^3)降低到O(d^2),(2)结合系统支持,如混合精度和数据并行训练的可扩展性,以及(3)便于实现任意复杂度的MLO程序,同时允许用于不同算法和系统设计选择的模块化接口。我们的经验表明,贝蒂可以用来实现一系列的MLO程序,同时也观察到高达11%的测试精度增加,14%的GPU内存使用量减少,和20%的训练壁时间减少比现有的实现多个基准。我们还展示了Betty能够将MLO扩展到具有数亿参数的模型。我们在https://github.com/leopard-ai/betty上开源代码。
2023-03-15 cs.AI cs.LG math.OC
Fast Cell Library Characterization for Design Technology Co-Optimization Based on Graph Neural Networks
Shanghai Jiao Tong University(上海交通大学)
本文提出基于图神经网络的机器学习模型,实现快速准确的单元库表征,在512个未见角点及百万级数据上预测误差≤0.95%,加速100倍,并进一步提出驱动强度插值方法提升中小规模设计PPA约1-3%。
2024-03-19 cs.LG
PyKEEN 1.0: A Python Library for Training and Evaluating Knowledge Graph Embeddings
Smart Data Analytics Group, University of Bonn & Fraunhofer IAIS(波恩大学智能数据分析组与弗劳恩霍夫智能分析与信息系统研究所);Ludwig-Maximilians-Universität München(慕尼黑大学);Enveda Therapeutics;Technical University of Denmark(丹麦技术大学);Ludwig-Maximilians-Universität München & Siemens AG(慕尼黑大学与西门子股份公司)
近年来,知识图谱嵌入(KGE)受到了广泛的关注,并开发了几个软件库用于训练和评估KGE。虽然每个库都满足特定的需求,但我们在社区的努力下重新设计和重新实现了PyKEEN,这是第一个KGE库之一。PyKEEN 1.0使用户能够基于广泛的交互模型、训练方法、损失函数来构建知识图谱嵌入模型(KGEM),并允许对逆关系进行显式建模。此外,还实现了自动内存优化,以最佳地利用所提供的硬件,并通过集成Optuna提供了广泛的超参数优化(HPO)功能。
2020-07-30 cs.AI cs.LG stat.ML
HyperNOs: Automated and Parallel Library for Neural Operators Research
Department of Mathematics, University of Pavia(数学系,帕维亚大学)
HyperNOs是一个用于神经算子研究的自动化并行库,通过超参数优化和多种功能实现高效探索和先进结果。
2025-03-23 cs.LG cs.NA math.NA
Target-Aware Bandit Allocation for Scalable Surrogate Optimization in Chemical Space
提出BOBa框架,通过多臂Bandit自适应分配计算资源到动作空间分区,消除全库代理推理瓶颈,在真实合成库上实现可调节的筛选性能与推理成本权衡。
2026-06-26 cs.LG
AutoPPA: Automated Circuit PPA Optimization via Contrastive Code-based Rule Library Learning
State Key Lab of Processors, Institute of Computing Technology, Chinese Academy of Sciences, Beijing, China(中国科学院计算技术研究所处理器重点实验室,北京,中国);University of Chinese Academy of Sciences, Beijing, China(中国科学院大学,北京,中国);University of Science and Technology of China, Hefei, China(中国科学技术大学,合肥,中国);Institute of AI for Industries, Chinese Academy of Sciences, Nanjing, China(中国科学院工业人工智能研究所,南京,中国)
本文提出AutoPPA框架,通过对比生成的代码对自动生成优化规则,提升RTL设计中PPA优化效率,实验表明优于手动优化和现有方法SymRTLO和RTLRewriter。
2026-04-28 cs.AR cs.LG
TensorLayer: A Versatile Library for Efficient Deep Learning Development
Imperial College London(帝国理工学院)
深度学习在计算机视觉、自然语言处理和多媒体等领域取得了重大进展。开发深度学习系统是艰巨而复杂的,因为它涉及到构建神经网络架构,管理训练/训练模型,调整优化过程,预处理和组织数据等。TensorLayer是一个多功能的Python库,旨在帮助研究人员和工程师高效地开发深度学习系统。它为神经网络、模型和数据管理以及并行工作流机制提供了丰富的抽象。在提高效率的同时,TensorLayer还保持了性能和可扩展性。TensorLayer于2016年9月在GitHub上发布,帮助学术界和工业界人士开发深度学习的实际应用。
2017-08-03 cs.DC cs.LG stat.ML
Reinforcement Learning Optimization for Large-Scale Learning: An Efficient and User-Friendly Scaling Library
本文提出高效可扩展的 RL 训练库 ROLL,通过单控制器、并行策略、rollout 调度及自动设备映射等模块,兼顾大规模训练、灵活开发与快速实验。
2025-06-06 cs.DC cs.LG
Pareto Optimization to Accelerate Multi-Objective Virtual Screening
Department of Chemical Engineering, MIT, Cambridge, MA 02139
本文提出帕累托优化加速多目标虚拟筛选,在三个案例中优于标量化,仅探索8%的400万分子库即获取全部帕累托前沿分子,降低筛选成本。
2023-10-16 cs.LG q-bio.QM
Anomalib: A Deep Learning Library for Anomaly Detection
Intel(英特尔)
本文介绍了anomalib,一个新的库,用于无监督的异常检测和定位。考虑到可重复性和模块化,这个开源库提供了文献中的算法和一套工具,通过即插即用的方法设计自定义异常检测算法。Anomalib包括最先进的异常检测算法,在基准测试中达到最高性能,并且可以现成使用。此外,该库还提供了用于设计定制算法的组件,这些算法可以针对特定需求进行定制。其他工具,包括实验跟踪器,可视化器和超参数优化器,使设计和实现异常检测模型变得简单。该库还支持OpenVINO模型优化和量化,以实现实时部署。总的来说,anomalib是一个广泛的库,用于设计、实现和部署从数据到边缘的无监督异常检测模型。
2022-02-16 cs.CV cs.LG
Deep Graph Library: A Graph-Centric, Highly-Performant Package for Graph Neural Networks
AWS Shanghai AI Lab(AWS上海人工智能实验室);New York University(纽约大学);Amazon Web Services(亚马逊云科技);NYU Shanghai(上海纽约大学)
推进新兴的深度图学习领域的研究需要新的工具来支持图上的张量计算。在本文中,我们介绍了深度图库(DGL)的设计原理和实现。DGL将GNN的计算模式提炼为几个适用于广泛并行化的广义稀疏张量运算。通过提倡图作为中央编程抽象,DGL可以透明地执行优化。通过谨慎地采用与框架无关的设计,DGL允许用户轻松地跨多个深度学习框架移植和利用现有组件。我们的评估表明,在各种基准测试中,DGL在速度和内存消耗方面明显优于其他流行的面向GNN的框架,并且对于小规模工作负载的开销很小。
2020-08-25 cs.LG stat.ML
PolyScientist: Automatic Loop Transformations Combined with Microkernels for Optimization of Deep Learning Primitives
Intel Labs(英特尔实验室);IIT Hyderabad(印度理工学院海得拉巴分校)
深度学习训练和推理的核心是计算密集型原语,例如形成深度神经网络构建块的卷积。研究人员采取了两种不同的方法来创建深度学习内核的高性能实现,即1)以英特尔MKL-DNN为例的CPU库开发,2)以TensorFlow XLA编译器为代表的自动编译。这两种方法都有各自的缺点:即使定制的库可以提供非常好的性能,但库的开发成本和时间可能很高。内核的自动编译是有吸引力的,但在实践中,到目前为止,自动生成的实现在性能上落后于专家编码的内核几个数量级。在本文中,我们开发了一种混合解决方案来开发深度学习内核,实现了两全其美:专家编码的微内核用于内核的最内层循环,我们使用先进的多面体技术来自动调整外部循环的性能。我们设计了一种新的基于多面体模型的数据重用算法来优化内核的外循环。通过对一类重要的深度学习原语(即卷积)进行实验评估,我们证明了我们开发的方法可达到与英特尔MKL-DNN(一种手工编码的深度学习库)相同的性能水平。
2020-02-06 cs.LG cs.PL
skfolio: Portfolio Optimization in Python
Ipazia SpA(Ipazia 股份公司);Orion Finance;SKFolio Labs(SKFolio 实验室)
skfolio是一个开源Python库,与scikit-learn集成,提供统一框架和先进工具,用于投资组合优化和风险管理,促进量化金融的可复现性。
2025-07-08 cs.LG q-fin.PM
PyEPO: A PyTorch-based End-to-End Predict-then-Optimize Library for Linear and Integer Programming
Department of Mechanical and Industrial Engineering, University of Toronto(机械与工业工程系,多伦多大学)
PyEPO是一种基于PyTorch的端到端预测-然后优化库,用于线性和整数规划,提供用户友好的接口和先进的算法,通过实验比较不同方法并讨论未来研究的启示。
2026-04-17 cs.LG math.OC
Mixture-Models: a one-stop Python Library for Model-based Clustering using various Mixture Models
School of Computing(计算机学院);National University of Singapore(新加坡国立大学)
Mixture-Models是一个开源Python库,通过自动微分工具利用一阶/二阶优化例程拟合GMM及其变体,支持高维数据扩展,提供BIC等评估工具,并通过大规模模拟确定了最佳优化方法。
2024-02-08 cs.LG stat.CO
Flexible numerical optimization with ensmallen
RelationalAI;Free University of Berlin(柏林自由大学);Collabora;Birla Institute of Technology and Science, Pilani(比拉理工学院);The University of Texas at Arlington(德克萨斯大学阿灵顿分校);Epsilon;Data61 / CSIRO(Data61 / 澳大利亚联邦科学与工业研究组织);Griffith University(格里菲斯大学)
本文介绍 ensmallen 数值优化库,其提供快速灵活的 C++ 框架,支持多种优化器和目标函数,通过模板元编程实现零开销回调与自动推断,性能优于 Julia 和 SciPy。
2023-11-15 cs.LG cs.MS cs.SE
SODAs: Sparse Optimization for the Discovery of Differential and Algebraic Equations
Department of Engineering Sciences and Applied Mathematics, Northwestern University(工程科学与应用数学系,西北大学);Department of Physics and Astronomy, Northwestern University(物理与天文学系,西北大学)
SODAs通过稀疏优化方法,以显式形式识别微分代数方程,提升对具有未知约束和时间尺度的动态系统的建模能力。
2026-02-26 cs.LG math.DS physics.comp-ph
Flexible Differentiable Optimization via Model Transformations
Zuse Institute Berlin(柏林祖斯研究所);PSR(PSR公司);PUC-Rio(里约热内卢天主教大学);Massachusetts Institute of Technology(麻省理工学院);Columbia University(哥伦比亚大学)
本文介绍了Julia库DiffOpt.jl,通过模型转换实现对优化问题解的微分,支持前向和反向微分模式,将约束优化与端到端可微编程连接,适用于超参数优化、反向传播和敏感性分析等多种场景。
2023-07-31 cs.LG cs.MS math.OC
Fast Semisupervised Unmixing Using Nonconvex Optimization
Technische Universität Berlin(柏林工业大学);Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所);Univ. Grenoble Alpes(格勒诺布尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);Data Science Experts(数据科学专家公司)
本文提出基于非凸优化的半监督解混新模型,结合ASC约束与稀疏先验或凸性约束,并通过ADMM高效求解,在模拟数据和Cuprite数据集上验证了凸性约束的优越性及FaSUn和SUnS算法的高效性。
2024-09-30 cs.CV cs.LG eess.IV