The trace norm constrained matrix-variate Gaussian process for multitask bipartite ranking
University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们提出了一种新的多任务二分排序的层次模型。该方法结合了矩阵变量高斯过程与生成模型的任务明智的二分排名。此外，我们采用了一种新的迹约束变分推理方法，对后验矩阵变量高斯过程施加低秩结构。由此产生的后验协方差函数推导出封闭的形式，后验均值函数是一个矩阵变量回归与一个新的谱弹性网络正则化的解决方案。此外，我们证明了迹约束矩阵变量高斯过程的变分推断与二分排序模型的最大似然参数估计相结合是联合凸的。我们的激励应用程序是候选疾病基因的优先级。这项任务的目标是帮助识别人类基因和疾病之间的未观察到的关联，使用一小部分观察到的关联，以及由基因-基因相互作用网络和疾病本体引起的内核。我们的实验结果说明了所提出的模型在现实世界的数据集上的性能。此外，我们发现，与基线模型相比，由此产生的低秩解决方案提高了训练和测试的计算可扩展性。
2013-02-11 cs.LG stat.ML
Constrained Bayesian Optimization under Bivariate Gaussian Process with Application to Cure Process Optimization
针对约束贝叶斯优化中目标与约束函数独立性假设不成立的问题，提出利用二元高斯过程刻画二者依赖关系并开发约束期望改进获取函数，在固化过程优化中验证了其有效性。
2025-05-30 stat.AP stat.CO stat.ML
Linearly constrained Gaussian processes
我们考虑高斯过程中的协方差函数的修改，以正确地考虑已知的线性约束。通过将目标函数建模为基础函数的变换，约束被明确地并入模型中，使得它们保证被任何抽取的样本或做出的预测所满足。我们还提出了一个建设性的过程中设计的变换算子，并说明模拟和真实数据的例子的结果。
2017-09-19 stat.ML
Intrinsic Gaussian processes on complex constrained domains
Plymouth University（普利茅斯大学）；The University of Notre Dame（圣母大学）；The University of Sheffield（谢菲尔德大学）；Duke University（杜克大学）
我们提出了一类内在的高斯过程（在GP）的插值，回归和分类流形上的主要重点复杂的约束域或不规则形状的空间产生的子集或R，R2，R3及以上的子流形。例如，in-GP可以适应作为欧几里得空间的复杂子集而产生的空间域。在GP尊重潜在的复杂的边界或内部条件，以及内在的几何空间。所提出的方法的关键新颖性是利用热内核和布朗运动的流形上的过渡密度之间的关系，用于构建和近似有效的和计算上可行的协方差内核。这使得在GP实际应用中的很大的一般性，而现有的方法用于平滑约束域仅限于简单的特殊情况。通过模拟研究和数据实例说明了GP方法的广泛实用性。
2018-01-03 cs.LG stat.ML
Networked Online Learning for Control of Safety-Critical Resource-Constrained Systems based on Gaussian Processes
Technical University of Munich（慕尼黑工业大学）
在未知环境中运行的安全关键技术系统需要能够快速调整其行为，这可以通过从运行期间生成的数据流在线推断模型来实现控制。基于高斯过程的学习特别适合于安全关键型应用，因为它确保了有界的预测误差。虽然存在用于在线推理的计算上有效的近似，但是这些方法缺乏对预测误差的保证并且具有高存储器要求，并且因此不适用于具有严格存储器约束的安全关键系统。在这项工作中，我们提出了一种新的基于高斯过程回归的网络在线学习方法，它通过在云中采用远程数据管理来解决本地资源有限的问题。我们的方法形式上保证了一个有界的跟踪误差与高概率，这是用来识别最相关的数据，以实现一定的控制性能。我们进一步提出了一个有效的本地系统和云之间的数据传输方案，考虑到传输信道的带宽限制和时间延迟。仿真结果表明了该方法的有效性。
2022-02-23 cs.LG cs.SY eess.SY
Energetic Variational Gaussian Process Regression for Computer Experiments
本文提出基于能量变分推断的高斯过程回归方法，推导参数后验分布并引入收缩估计实现均值函数变量选择，通过三个基准示例验证其有效性。
2024-04-01 stat.ME
GP CC-OPF: Gaussian Process based optimization tool for Chance-Constrained Optimal Power Flow
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；The Institute for Artificial Intelligence Research and Development of Serbia（塞尔维亚人工智能研发研究所）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
基于高斯过程（GP）的机会约束最优潮流（CC-OPF）是为解决现代电网经济调度（ED）问题而开发的开源Python代码。近年来，大量的可再生能源接入电网，导致电网波动较大，从而给电网运行带来了很多不确定性。这一事实使得传统的基于模型的CC-OPF问题的非凸和计算复杂的解决。开发的工具提出了一种新的数据驱动的方法，基于GP回归模型解决CC-OPF问题的复杂性和准确性之间的权衡。所提出的方法和开发的软件可以帮助系统运营商有效地执行ED优化存在较大的不确定性在电网中。
2023-02-16 cs.LG stat.ML
Mode-Shape Expansion Using Physics-Constrained Gaussian Process Regression
California Geological Survey（加州地质调查局）；The B. John Garrick Institute for the Risk Sciences, University of California, Los Angeles（加州大学洛杉矶分校B.约翰·加里克风险科学研究所）
针对稀疏传感器数据重构全场结构模态振型的问题，提出一种物理约束单输出高斯过程框架，通过质量正交惩罚耦合独立模态核，实现更准确可靠的振型扩展。
2026-05-21 cs.NA math.NA stat.ML
Gaussian Process Regression constrained by Boundary Value Problems
Sandia National Laboratories（桑迪亚国家实验室）
我们开发了一个框架，高斯过程回归约束的边值问题。该框架可以应用于推断一个适定的边值问题的解决方案与一个已知的二阶微分算子和边界条件，但只有分散的观测源项。在回归中也可以使用解的分散观测值。该框架结合了协同克里金与高斯过程的线性变换，并使用了由边界值问题的特征函数中的谱展开给出的核。因此，它受益于协方差矩阵的降秩属性。我们证明，所得到的框架产生更准确和稳定的解决方案的推理相比，物理知情的高斯过程回归没有边界条件的约束。
2020-12-22 cs.LG cs.NA math.NA
A Constrained Matrix-Variate Gaussian Process for Transposable Data
University of Texas at Austin（德克萨斯大学奥斯汀分校）
可转置数据表示两组实体之间的交互，并且通常表示为包含已知交互值的矩阵。附加的边信息可以包括特定于对应于这种矩阵的行和/或列的实体的特征向量。进一步的信息也可以以沿着相同模式（轴）的实体之间的交互或层次的形式可用。我们提出了一种新的方法来建模转座数据与丢失的相互作用，提供额外的边信息。的相互作用被建模为噪声观测从一个潜在的噪声自由矩阵生成的矩阵变量高斯过程。使用边信息的行和列协方差的构造提供了用于指定数据中的行和列相关性的先验知识的灵活机制。此外，使用这种与边信息组合的先验能够预测训练数据中未观察到的新行和列。在这项工作中，我们结合矩阵变量高斯过程模型与低秩约束。约束高斯过程的方法被施加到一个小的一组观察到的关联以及由基因-基因相互作用网络和疾病本体引起的先验协方差的基因和疾病之间的隐藏关联的预测。所提出的方法也适用于推荐系统的数据，其中涉及预测项目的用户评级使用已知的协会以及先前的协方差引起的社交网络。我们目前的实验结果，突出了性能的约束矩阵变量高斯过程相比，在每个领域的最先进的方法。
2014-04-27 cs.LG stat.ML
Determination of Particle-Size Distributions from Light-Scattering Measurement Using Constrained Gaussian Process Regression
Aalto University, Department of Electrical Engineering and Automation (EEA)（阿alto大学电子工程与自动化学院）；Aalto University, Department of Electrical Engineering（阿alto大学电子工程学院）
本文提出约束高斯过程回归方法，通过归一化约束和谱展开低秩表示，从光散射测量中稳健、高效地估计粒径分布，解决不适定逆问题。
2025-07-04 cs.LG physics.optics stat.ME
Gaussian Mixture Models with Component Means Constrained in Pre-selected Subspaces
IBM Almaden Research Center（IBM阿尔马登研究中心）；The Pennsylvania State University（宾夕法尼亚州立大学）
本文研究了一个分量均值约束在一个预先选定的子空间中的高斯混合模型。分类和聚类的应用进行了探讨。EM型估计算法的推导。我们证明了包含具有公共协方差阵的GMM的分量均值的子空间也包含密度和类均值的模。这促使我们通过对核密度和类均值的模式应用加权主成分分析来找到子空间。为了避免核带宽难以确定的困难，我们从基于带宽序列的核密度中获得多个子空间。对每个子空间约束下的GMM进行估计，并选择产生极大似然的模型。一个降维属性被证明在意义上的分类或聚类的信息。在真实数据集和模拟数据集上进行了实验，研究了几种确定子空间的方法，并与降秩混合判别分析（MDA）进行了比较。我们的新方法与简单的技术，跨越子空间，只有类的手段往往优于降秩MDA时，子空间维数很低，使它特别吸引人的可视化。
2015-08-26 cs.LG stat.ML
A Survey of Constrained Gaussian Process Regression: Approaches and Implementation Challenges
Sandia National Laboratories（桑迪亚国家实验室）
高斯过程回归是一种流行的贝叶斯框架，用于昂贵数据源的替代建模。作为科学机器学习更广泛努力的一部分，许多最近的工作已经在高斯过程回归中纳入了物理约束或其他先验信息，以补充有限的数据并规范模型的行为。我们提供了一个概述和调查的几类高斯过程的约束，包括积极性或边界约束，单调性和凸性约束，微分方程约束提供的线性偏微分方程，边界条件约束。我们比较了每种方法背后的策略以及实施中的差异，最后讨论了限制带来的计算挑战。
2021-01-06 cs.LG math.ST stat.ML
Efficient Bayesian shape-restricted function estimation with constrained Gaussian process priors
本文重新审视贝叶斯形状限制推理的问题，在最近开发的近似高斯过程，承认一个等价的制定的形状约束的基础系数。我们提出了一种策略，以有效地从所产生的约束后采样吸收的可能性和使用循环嵌入技术的约束的平滑松弛，从无约束的修改前。我们还特别注意减轻由更新高斯过程的协方差核内的超参数引起的计算复杂性。所开发的算法被证明是准确和高效的模拟和真实数据的例子。
2019-02-13 stat.ME
MAGI-X: Manifold-Constrained Gaussian Process Inference for Unknown System Dynamics
Georgia Institute of Technology（佐治亚理工学院）
常微分方程常用来描述动力系统的动力学特性，但在许多复杂的科学应用中，即使有领域专家的帮助，也很难以封闭形式给出常微分方程。我们提出了一种快速准确的数据驱动方法MAGI-X，以非参数的方式从观测数据中学习未知动态，而不需要任何领域知识。与现有的方法主要依赖于昂贵的数值积分不同，MAGI-X利用神经网络强大的函数逼近器，在MAnifold约束的高斯过程推理（MAGI）框架内学习未知的非线性动力学，完全避免了数值积分。与三个实际例子的最先进的方法相比，MAGI-X在拟合和预测方面都达到了有竞争力的精度，而只需要一小部分的计算时间。此外，MAGI-X为部分观测系统的推断提供了实用的解决方案，这是以前的方法无法处理的。
2021-10-19 cs.LG stat.CO stat.ME
A General $\mathcal{O}(n^2)$ Hyper-Parameter Optimization for Gaussian Process Regression with Cross-Validation and Non-linearly Constrained ADMM
Shenzhen Research Institute of Big Data（深圳大数据研究院）
超参数优化是机器学习中高斯过程的核心问题。使用极大似然（ML）估计和梯度下降（GD）的基准方法由于其$O(n^3)$复杂性而不适用于处理大数据。许多复杂的全局或局部近似模型，如稀疏GP，分布式GP，已被提出来解决这样的复杂性问题。在本文中，我们提出了两个新的和通用的GP超参数训练计划（GPCV-ADMM）的替代ML与交叉验证（CV）作为拟合准则和替代GD与非线性约束交替方向的乘法器（ADMM）作为优化方法。所提出的方案是$O(n^2)$复杂性的任何协方差阵没有特殊的结构。我们进行各种实验的基础上合成和真实的数据集，其中所提出的计划表现出优异的性能，在收敛性，超参数估计精度，计算时间与传统的ML为基础的例程在GPML工具箱。
2019-06-07 cs.LG stat.ML
FGM optimization in complex domains using Gaussian process regression based profile generation algorithm
Department of Mechanical Engineering, Indian Institute of Technology Ropar, Rupnagar-140001, Punjab, India（机械工程系，印度理工学院罗帕尔分校）
针对任意形状域功能梯度材料设计难题，提出基于高斯过程回归的体积分数轮廓生成算法，结合改进遗传算法构建优化框架，通过热弹性算例验证了方法有效性。
2025-11-15 cs.LG physics.comp-ph
Inference of dynamic systems from noisy and sparse data via manifold-constrained Gaussian processes
利用噪声和稀疏数据对由常微分方程表示的非线性动态系统模型进行参数估计是许多领域中的重要课题。我们提出了一个快速和准确的方法，MAGI（MAnifold-constrained高斯过程推断），为这项任务。MAGI在时间序列数据上使用高斯过程模型，明确地以高斯过程的导数必须满足ODE系统的流形约束为条件。通过这样做，我们完全绕过了数值积分的需要，并实现了大量节省计算时间。MAGI还适用于对未观察到的系统组件进行推理，这在实际实验中经常发生。MAGI与现有的方法不同，因为我们在贝叶斯框架下提供了一个原则性的统计结构，该框架通过流形约束结合了ODE系统。我们证明了MAGI的准确性和速度使用基于物理实验的现实例子。
2021-02-22 math.DS stat.ME
Sparse Gaussian Process Based On Hat Basis Functions
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
高斯过程是最流行的非参数贝叶斯回归建模方法之一。它完全由其均值和协方差函数协方差函数决定。它的线性特性使得解决预测问题相对简单。虽然高斯过程在许多领域得到了成功的应用，但它仍然不足以处理满足不等式约束的物理系统。近年来，所谓的约束高斯过程已经解决了这个问题。本文推广了约束高斯过程的核心思想。根据训练或测试数据的范围，我们重新定义了约束高斯过程中提到的帽基函数。基于帽子基函数，我们提出了一种新的稀疏高斯过程方法来解决无约束回归问题。类似于精确高斯过程和完全独立训练条件近似的高斯过程，我们的方法在开源数据集或解析函数上获得了令人满意的近似结果。在性能方面，所提出的方法降低了整体的计算复杂度从$O(n^{3})$计算在精确的高斯过程的$O(nm^{2})$与$m$帽子基函数和$n$训练数据点。
2020-06-15 cs.LG stat.ML
A hybrid data driven-physics constrained Gaussian process regression framework with deep kernel for uncertainty quantification
The Chinese University of Hong Kong（香港中文大学）
针对传统高斯过程回归依赖大量数据的问题，提出融合深度核的数据驱动-物理约束混合GPR框架，通过Boltzmann-Gibbs分布编码物理约束、深度神经网络构成协方差函数，在少量标注数据的高维UQ任务中实现良好精度与不确定性传递效果。
2022-11-10 cs.LG
Marginally Constrained Nonparametric Bayesian Inference through Gaussian Processes
非参数贝叶斯模型通常用作复杂数据的灵活和强大的模型。很多时候，统计学家可能对感兴趣的数据分布有额外的信息信念，例如，它的均值或子集分量，不是非参数先验的一部分，甚至与非参数先验不相容。一个重要的挑战是将这种部分先验信念纳入非参数贝叶斯模型。在本文中，我们的动机设置从业者有额外的分布信息的一个子集的坐标的观测建模。我们的方法将这个问题与条件密度模型联系起来。我们的主要思想是一种新的约束贝叶斯模型，基于一个扰动的参数分布与变换高斯过程之前的扰动函数。我们还开发了相应的后验抽样方法的基础上的数据增强。我们说明了我们提出的约束非参数贝叶斯模型在各种现实世界的情况下，包括建模环境和地震数据的有效性。
2022-11-05 stat.CO stat.ME
PDE-constrained Gaussian process surrogate modeling with uncertain data locations
University of Twente（特文特大学）；Lund University（隆德大学）
本文提出一种贝叶斯方法，将不确定输入数据的变异性集成到高斯过程回归中，通过贝叶斯推断估计输入后验分布并边缘化以改进函数和偏微分方程代理建模，数值实验表明其能显著降低预测不确定性。
2024-12-30 cs.CE cs.LG stat.ML
Efficient methods for Gaussian Markov random fields under sparse linear constraints
线性约束高斯马尔可夫随机场（GMRF）的推理和模拟方法在约束数量很大时计算量很大。在某些情况下，例如对于固有GMRF，它们甚至可能是不可行的。我们提出了一类新的方法来克服这些挑战，在常见的情况下稀疏的约束，其中一个有大量的约束，每个只涉及几个元素。我们的方法依赖于一个基础上的转换成块的约束与非约束子空间，我们表明，该方法大大优于现有的替代方案的计算成本。通过将所提出的方法与高斯随机场的随机偏微分方程方法相结合，我们还展示了如何在GMRF设置中制定具有线性约束的高斯过程回归以降低计算成本。这在两个具有模拟数据的应用中说明。
2021-06-03 stat.CO stat.ME stat.ML
MAGI: A Package for Inference of Dynamic Systems from Noisy and Sparse Data via Manifold-constrained Gaussian Processes
MAGI是一个贝叶斯框架下的软件包，利用流形约束高斯过程从噪声稀疏数据中推断非线性常微分方程动态系统的未知参数，并处理未观测组件，支持R、MATLAB和Python。
2023-10-16 stat.CO
Physics-constrained Gaussian Processes for Predicting Shockwave Hugoniot Curves
Johns Hopkins University（约翰斯·霍普金斯大学）；Purdue University（普渡大学）
本文提出了一种基于物理约束的高斯过程回归框架，利用少量冲击波模拟数据预测受冲击材料状态及其不确定性沿赫荣尼特曲线的演变，通过约束Rankine-Hugoniot跃变条件构建热力学一致的协方差函数，从而在少量可解释超参数上进行优化，识别从领先弹性波到滞后塑性及相变波的转变。
2026-06-04 cs.CE physics.comp-ph stat.ML
Manifold-constrained Gaussian process inference for time-varying parameters in dynamic systems
在生物医学研究和其他科学领域中，对动态系统建模时，常微分方程（ODE）中的参数识别是一项重要且具有挑战性的任务，特别是在存在时变参数的情况下。本文提出了一种快速、准确的时变MAnifold-constrained高斯过程推断方法TVMAGI（Time-Varying MAnifold-constrained Gaussian process Inference），利用噪声和稀疏观测数据同时估计常微分方程中的时常数和时变参数。TVMAGI在系统元件的时间序列以及时变参数上施加高斯过程模型，并限制导数过程以满足ODE条件。因此，TVMAGI完全绕过数值积分，并实现了计算时间的大幅节省。通过将ODE结构通过多种约束，TVMAGI享有贝叶斯范式下的原则性统计结构，这进一步使其能够处理系统与缺失数据或未观察到的组件。高斯过程先验也解决了常微分方程中时变参数的可辨识性问题。与现有的方法不同，TVMAGI可以应用于一般的非线性系统，而无需特定的结构假设。三个仿真例子，包括一个传染病房室模型，以说明我们的方法的鲁棒性和效率相比，数值积分和贝叶斯滤波方法。
2022-02-28 stat.ME
Infinite-dimensional spherical-radial decomposition for probabilistic functions, with application to constrained optimal control and Gaussian process regression
Courant Institute School of Mathematics, Computing and Data Science（Courant学院数学、计算与数据科学系）
本文提出hiSRD方法，通过结合子空间SRD与蒙特卡罗方法，实现无限维概率函数估计，用于解决机会约束优化和高斯过程回归中的问题。
2026-03-20 cs.LG cs.NA math.NA
Monotonic Gaussian process for physics-constrained machine learning with materials science applications
Sandia National Laboratories（桑迪亚国家实验室）
物理约束机器学习是物理学领域机器学习的一个重要研究课题。将物理约束纳入机器学习方法的最显著优点之一是，最终模型需要的训练数据显著减少。通过将物理规则纳入机器学习公式本身，预测预计在物理上是合理的。高斯过程（GP）可能是小数据集机器学习中最常见的方法之一。在本文中，我们研究的可能性，约束GP制定与单调性在三个不同的材料数据集，其中使用一个实验和两个计算数据集。单调GP与常规GP进行比较，观察到后验方差显著降低。单调GP在内插机制中是严格单调的，但在外插机制中，随着超出训练数据集，单调效应开始逐渐消失。与常规GP相比，在GP上强加单调性的精度成本很小。单调GP可能在数据稀缺且有噪声的应用中最有用，并且单调性得到强有力的物理证据的支持。
2022-09-06 cond-mat.mtrl-sci cs.LG stat.AP
Inference for Delay Differential Equations Using Manifold-Constrained Gaussian Processes
针对含时间延迟的动态系统参数推断难题，提出流形约束高斯过程扩展方法，结合贝叶斯框架与线性插值方案，通过仿真和真实COVID-19数据验证了有效性。
2024-06-21 stat.ME
Manifold-Constrained Gaussian Processes for Inference of Mixed-effects Ordinary Differential Equations with Application to Pharmacokinetics
本文提出了一种在贝叶斯框架下扩展的流形约束高斯过程方法，用于推断混合效应常微分方程模型，解决了药代动力学建模中受试者层面不确定性量化缺失的问题，并在模拟和HIV联合治疗真实数据中验证了其快速准确的推断能力。
2025-06-27 stat.ME
HardCoRe-NAS: Hard Constrained diffeRentiable Neural Architecture Search
Alibaba Group（阿里巴巴集团）
神经网络的实际使用通常需要遵守对延迟、能量和存储器等的多个约束。找到拟合网络的一种流行方法是通过约束神经结构搜索（NAS），然而，以前的方法只能柔和地执行约束。因此，所得到的网络不完全遵守资源约束，其准确性受到损害。在这项工作中，我们解决了这个问题，通过引入硬约束可出租NAS（HardCore-NAS），这是基于一个准确的制定预期的资源需求和可扩展的搜索方法，满足整个搜索的硬约束。我们的实验表明，HardCore-NAS生成国家的最先进的架构，超越其他NAS方法，同时严格满足硬资源约束，无需任何调整。
2021-02-23 cs.AI cs.CV cs.LG
Foundations of Safe Online Reinforcement Learning in the Linear Quadratic Regulator: $\sqrt{T}$-Regret
Department of Statistics, Harvard University（哈佛大学统计系）
本文研究未知动态的一维线性系统安全约束强化学习问题，提出了首个实现$\tilde{O}_T(\sqrt{T})$遗憾的安全算法，并引入截断线性控制器基准，证明了其最优控制器的连续性及受约束时更快的非线性学习速率。
2025-04-25 cs.LG cs.SY eess.SY
Latent Safety-Constrained Policy Approach for Safe Offline Reinforcement Learning
Iowa State University（爱荷华州立大学）
本文提出了一种潜在安全约束策略方法，通过条件变分自动编码器和受约束奖励-回报最大化框架，实现了安全离线强化学习中的安全性和奖励优化的平衡。
2025-06-05 cs.LG stat.ML
Constrained Reweighting of Distributions: an Optimal Transport Approach
Texas A&M University（德克萨斯A&M大学）
本文提出一种基于最大熵原理和最优传输的通用框架，通过非参数分布约束对经验分布进行灵活重加权，并在投资组合配置、复杂调查半参数推断和算法公平性三个应用中验证了其有效性。
2024-01-16 cs.LG stat.ML
CaTs and DAGs: Integrating Directed Acyclic Graphs with Transformers for Causally Constrained Predictions
Kivira Health（Kivira健康公司）；The Sense Innovation and Research Center, CHUV, Lausanne, Switzerland（The Sense创新与研究中心，CHUV，洛桑，瑞士）；Centre for Vision, Speech and Signal Processing, University of Surrey, U.K.（视觉、语音和信号处理中心，萨里大学，英国）；Institute of Psychology, University of Lausanne, Switzerland（心理学研究所，洛桑大学，瑞士）；EPFL, Switzerland（瑞士联邦理工学院）
本文提出因果变换器（CaTs），通过整合有向无环图与变换器，实现因果受限预测，提升模型的鲁棒性、可靠性和可解释性。
2026-01-27 cs.LG stat.ML
Incentivizing Safer Actions in Policy Optimization for Constrained Reinforcement Learning
Indian Institute of Technology Kharagpur（印度理工学院克拉格浦尔分校）；Synopsys（Synopsys公司）
针对约束强化学习中策略优化在约束边界附近不稳定的问题，提出带自适应激励和增量惩罚的IP3O算法，在基准上优于现有安全RL算法，并提供最坏情况误差的理论保证。
2025-09-11 cs.AI cs.LG
Action-Constrained Imitation Learning
National Yang Ming Chiao Tung University, Hsinchu, Taiwan（National Yang Ming Chiao Tung University）；University of Illinois at Urbana-Champaign, Illinois, United States（University of Illinois at Urbana-Champaign）；National Taiwan University, Taipei, Taiwan（National Taiwan University）
针对动作约束模仿学习（ACIL）中专家与模仿者占有率测度不匹配问题，提出DTWIL方法，通过基于动态时间规整的模型预测控制生成替代数据集，提升机器人控制任务性能与样本效率。
2025-08-20 cs.LG cs.RO
Provably Convergent Primal-Dual DPO for Constrained LLM Alignment
SUTD ESD（新加坡科技设计大学电子与计算机工程系）；UIUC ECE（伊利诺伊大学厄巴纳-香槟分校电子与计算机工程系）
本文提出了一种可证明收敛的约束LLM对齐方法，通过改进的DPO技术减少训练模型数量和内存消耗，同时保证约束条件和优化性能。
2026-02-12 cs.LG
ConSequence: Synthesizing Logically Constrained Sequences for Electronic Health Record Generation
Medisyn Inc.（Medisyn公司）；GE Healthcare（GE医疗）
ConSequence通过规则化时间聚合与前件评估模块，高效整合领域知识到序列生成中，确保逻辑约束满足，在电子健康记录生成中实现零违规、困惑度降低5%且速度损失小于13%。
2023-12-20 cs.AI cs.CL cs.LG
Efficient Gauss-Newton-Krylov momentum conservation constrained PDE-LDDMM using the band-limited vector field parameterization
Aragon Institute on Engineering Research（阿拉贡工程研究所）；University of Zaragoza（萨拉戈萨大学）
在偏微分方程约束的大变形非纯度量映射框架下提出的一类非刚性配准方法是一类特别有趣的物理意义非纯配准方法。PDE约束LDDMM方法被配制成约束变分问题，其中不同的物理模型施加使用相关的偏微分方程作为硬约束。非精确Newton-Krylov优化在此框架下表现出优异的数值精度和极快的收敛速度。然而，非定常速度场的Galerkin表示不能提供适当的测地线路径。在以前的工作中，我们提出了一种方法的PDE约束LDDMM参数化的初始速度场的空间下的EPDiff方程。该方法在PDE约束的LDDMM框架下提供了测地线，并表现出与基准PDE约束的LDDMM和EPDiff-LDDMM方法相竞争的性能。然而，这种方法的主要缺点是偏微分方程约束LDDMM方法固有的大内存负载和相对于基准方法的计算时间增加。在这项工作中，我们优化的计算复杂性的方法使用带限向量场参数化关闭循环与我们以前的作品。
2018-07-27 cs.LG math.OC stat.ML
Including Node Textual Metadata in Laplacian-constrained Gaussian Graphical Models
French National Research Agency (ANR)（法国国家科研署）
本文提出在拉普拉斯约束高斯图模型中融合节点文本元数据，以提升图聚类性能。
2026-02-17 cs.LG eess.SP stat.ML
Interaction-Aware Gaussian Weighting for Clustered Federated Learning
Polytechnic University of Turin（都灵理工大学）；Istituto Nazionale di Fisica Nucleare (INFN)（国家核物理研究所）；Vector Institute（向量研究所）
本文提出了一种新颖的聚簇联邦学习方法FedGWC，通过高斯奖励机制建模客户端交互，并引入Wasserstein Adjusted Score指标评估聚簇内聚性，有效应对数据异构性与类别不平衡问题，显著提升了聚类质量与分类准确率。
2025-05-01 cs.LG
A constrained L1 minimization approach for estimating multiple Sparse Gaussian or Nonparanormal Graphical Models
University of Virginia（弗吉尼亚大学）
从聚合数据中识别特定于上下文的实体网络是一项重要的任务，经常出现在生物信息学和神经成像中。在计算上，这个任务可以被公式化为联合估计多个不同的，但相关的，稀疏的无向图形模型（UGM）从聚合样本在几个上下文中。之前的联合UGM研究主要集中在稀疏高斯图形模型（sGGM）上，并且无法直接识别特定于上下文的边缘模式。因此，我们提出了一种新的方法，SIMULE（检测共享和单个部分的MULtiple图解释）通过约束L1最小化学习多UGM。SIMULE自动推断每个上下文唯一的特定边缘模式和所有上下文之间保留的共享交互。通过L1约束公式，该问题被转换为多个独立的子任务的线性规划，可以有效地并行求解。除了高斯数据之外，SIMULE还可以处理多元非超常数据，这些数据极大地放松了许多现实世界应用程序不遵循的正态性假设。我们提供了一个新的理论证明，SIMULE实现了一致的结果，在速率O（log（Kp）/ n_{tot}）。在多个合成数据集和两个生物医学数据集上，SIMULE显示出比最先进的多sGGM和单UGM基线有显着改善。
2017-09-18 cs.AI cs.LG stat.ML
Learning End-to-End Codes for the BPSK-constrained Gaussian Wiretap Channel
Rutgers University（罗格斯大学）；Chalmers University of Technology（查尔姆斯理工大学）
假设通信方配备有深度神经网络（DNN），并且通过二进制相移键控（BPSK）调制方案进行通信，则以端到端的方式针对高斯窃听信道学习长度码。目标是通过DNN找到代码，DNN允许一对发送器和接收器在存在旨在解码秘密消息的对手的情况下可靠和安全地通信。遵循信息理论保密原则，利用称为MINE（互信息神经估计）的深度学习工具根据互信息评估安全性。系统性能评估不同的DNN架构，设计基于现有的安全编码方案，在发射机。数值结果表明，合法的各方确实可以建立一个安全的传输，在这种设置的学习代码几乎达到边界上的含糊区域的点。
2020-03-23 cs.CR cs.LG stat.ML
RCCDA: Adaptive Model Updates in the Presence of Concept Drift under a Constrained Resource Budget
Purdue University（普渡大学）；IBM Research（IBM研究院）
RCCDA提出了一种在受约束资源预算下应对概念漂移的自适应模型更新策略，通过优化ML训练动态并保证资源约束，提升推理准确性。
2026-01-15 cs.AI cs.LG
Deep Conditional Gaussian Mixture Model for Constrained Clustering
ETH Zürich（苏黎世联邦理工学院）；University Children’s Hospital Regensburg (KUNO)（雷根斯堡大学儿童医院（KUNO））；University of Regensburg（雷根斯堡大学）
约束聚类在机器学习领域得到了极大的关注，因为它可以利用越来越多的部分标记数据的先验信息。根据深度生成模型的最新进展，我们提出了一种新的约束聚类框架，该框架直观，可解释，并且可以在随机梯度变分推理的框架中有效地训练。通过明确地整合领域知识的概率关系的形式，我们提出的模型（DC-GMM）揭示了潜在的分布数据的条件上事先聚类的偏好，表示为成对的约束。这些约束通过指示哪些样本应该或不应该属于同一聚类来引导聚类过程朝向数据的期望分区。我们提供了大量的实验来证明，DC-GMM显示出优越的聚类性能和鲁棒性相比，国家的最先进的深度约束聚类方法在广泛的数据集。我们进一步证明了我们的方法在两个具有挑战性的现实世界中的应用程序的有用性。
2022-02-01 cs.LG
Gaussian Rate-Distortion-Perception Coding and Entropy-Constrained Scalar Quantization
本文研究高斯率-失真-感知函数的已知界，证明其非退化性，给出Wasserstein-2距离下的改进下界，并揭示这些界在弱感知约束下通常不紧。
2024-09-04 cs.IT cs.LG math.IT
COGNOS: Universal Enhancement for Time Series Anomaly Detection via Constrained Gaussian-Noise Optimization and Smoothing
School of Information Science and Technology, Beijing University of Technology, China（信息科学与技术学院，北京理工大学，中国）；Beijing Key Laboratory of Computational Intelligence and Intelligent System, Beijing University of Technology, China（北京计算智能与智能系统重点实验室，北京理工大学，中国）
本文提出COGNOS框架，通过约束高斯噪声优化与平滑解决时间序列异常检测中MSE损失导致的统计缺陷，提升检测可靠性。
2026-09-29 cs.AI cs.LG
Constrained Gaussian Wasserstein Optimal Transport with Commutative Covariance Matrices
本文研究在速率、维度和信道三种约束下的Gaussian Wasserstein最优传输问题，并在源与重建变量的协方差矩阵可交换时，推导出最小可实现均方误差的显式结果。
2025-03-05 cs.IT cs.LG math.IT
Splats under Pressure: Exploring Performance-Energy Trade-offs in Real-Time 3D Gaussian Splatting under Constrained GPU Budgets
National University of Singapore（新加坡国立大学）；Telecom Paris（巴黎电信学院）
研究在受约束的GPU预算下实时3D高斯溅射的性能-能耗权衡，通过模拟不同GPU性能层级，分析帧率、运行时间和能耗等指标。
2026-04-08 cs.GR cs.LG
Output-Constrained Lossy Source Coding With Application to Rate-Distortion-Perception Theory
本文分析了有限公共随机性下输出受限有损信源编码的失真率函数，在平方误差测度及高斯分布下求得显式表达式，并据此部分刻画了二次高斯率-失真-感知编码的信息论极限。
2024-03-21 cs.IT cs.LG math.IT
Constrained optimization of sensor placement for nuclear digital twins
University of Washington（华盛顿大学）；Idaho National Laboratory（爱达荷国家实验室）
针对核反应堆空间限制导致传感器部署困难的问题，提出一种将约束纳入优化框架的数据驱动贪心算法，在高维网格上优化传感器位置以最小化噪声测量下的重建误差，并在OPTI-TWIST原型胶囊中验证了其能有效降低温度重建误差并建立数字孪生通信基础。
2024-02-16 cs.LG math.OC
