Manifold Alignment-Based Multi-Fidelity Reduced-Order Modeling Applied to Structural Analysis
Georgia Institute of Technology(佐治亚理工学院)
这项工作提出了一个最近开发的参数,非侵入性,和多保真度降阶建模方法的高维位移和应力场所产生的几何结构的分析,在不同的离散化和结构拓扑结构的大小。所提出的方法利用流形对齐融合不一致的场输出从高,低,通过将其解单独投影到公共子空间上来进行保真度模拟。该方法的有效性证明了两个多保真度的情况下,涉及基准机翼几何结构分析。结果表明,使用不兼容的网格或相关但不同的拓扑结构的结构模拟的输出,很容易组合成一个单一的预测模型,从而消除了额外的数据预处理的需要。与单保真度模型相比,新的多保真度降阶模型以较低的计算成本实现了相对较高的预测精度。
2022-06-14 cs.LG
Multi-fidelity Batch Active Learning for Gaussian Process Classifiers
Mechanical Engineering, Stanford University(斯坦福大学机械工程系);University College London(伦敦大学学院)
本文提出BPMI算法,利用一阶泰勒展开近似互信息,实现多保真高斯过程分类器的批量主动学习,在合成与真实案例中均以固定预算获得更高预测精度。
2025-10-09 cs.CE cs.LG physics.comp-ph
General multi-fidelity surrogate models: Framework and active learning strategies for efficient rare event simulation
Johns Hopkins University(约翰斯·霍普金斯大学);Idaho National Laboratory(爱达荷国家实验室)
使用高保真计算模型来估计复杂现实世界系统的故障概率通常是昂贵的,特别是当概率很小时。利用低保真模型可以使这一过程更加可行,但合并来自多个低保真和高保真模型的信息会带来一些挑战。本文提出了一种鲁棒的多保真度代理建模策略,在该策略中,多保真度代理使用主动学习策略,使用在飞行模型充分性评估集的子集仿真框架内进行有效的可靠性分析组装。通过首先对每个低保真度模型应用高斯过程校正并基于模型的局部预测精度和成本分配模型概率来组装多保真度代理。基于模型平均和确定性/随机性模型选择,提出了三种策略将这些个体代理融合到一个整体代理模型中。这些战略还规定了哪些模型评估是必要的。没有对低保真模型之间的关系做出任何假设,而高保真模型被认为是最准确和计算成本最高的模型。通过两个分析和两个数值的案例研究,包括一个案例研究评估的故障概率的三结构各向同性涂层(TRISO)核燃料,该算法被证明是高度准确的,同时大大减少了高保真模型调用的数量(因此计算成本)。
2022-12-07 cs.LG math.PR math.ST
Diffusion-Generative Multi-Fidelity Learning for Physical Simulation
Kahlert School of Computing, University of Utah(犹他大学卡勒特计算学院)
针对物理仿真中数值求解成本高的问题,提出基于SDE的扩散生成式多保真学习方法DGMF,通过条件得分模型控制生成,统一离散与连续保真建模,在典型应用中表现优异。
2023-11-09 cs.LG
MF-LAL: Drug Compound Generation Using Multi-Fidelity Latent Space Active Learning
Department of Computer Science and Engineering(计算机科学与工程系);Department of Chemistry and Biochemistry(化学与生物化学系);Skaggs School of Pharmacy and Pharmaceutical Sciences(斯卡格斯药学与药学科学学校)
本文提出MF-LAL框架,通过主动学习联合训练生成模型与多保真度代理模型,融合不同成本和准确性的活性预言机,在两种疾病相关蛋白上使结合自由能分数平均提升约50%。
2025-06-09 cs.LG q-bio.QM
LFaB: Low fidelity as Bias for Active Learning in the chemical configuration space
LFaB通过最小化模型偏差而非方差,显著降低量子化学应用中的训练数据消耗。
2025-11-25 cs.AI cs.LG physics.chem-ph
Multi-fidelity Hierarchical Neural Processes
University of California, San Diego(加州大学圣地亚哥分校);Northeastern University(东北大学)
科学和工程领域广泛使用计算机模拟。这些模拟通常在多个复杂级别上运行,以平衡准确性和效率。多保真度代理建模通过融合不同的仿真输出来降低计算成本。从低保真度模拟器生成的廉价数据可以与昂贵的高保真模拟器生成的有限的高质量数据相结合。现有的基于高斯过程的方法依赖于核函数的强假设,并且难以扩展到高维设置。我们提出了多保真度层次神经过程(MF-HNP),一个统一的神经隐变量模型的多保真度代理建模。MF-HNP继承了神经过程的灵活性和可扩展性。潜变量将不同保真度水平之间的相关性从观测值转换到潜空间。在给定潜在状态的情况下,跨概率的预测是有条件独立的。它有助于缓解现有方法中的错误传播问题。MF-HNP是足够灵活的处理非嵌套的高维数据在不同的保真度水平与不同的输入和输出尺寸。我们评估了流行病学和气候建模任务的MF-HNP,在准确性和不确定性估计方面实现了有竞争力的性能。与仅具有低维(< 10)任务的深度高斯过程相比,我们的方法在加速高维复杂模拟(流行病学建模超过7000,气候建模超过45000)方面表现出了很大的潜力。
2022-06-10 cs.LG
Active Learning with Bayesian Multi-Fidelity Laplace Neural Operators for Oscillatory Parametric PDEs
Purdue University(普渡大学);Sandia National Laboratories(桑迪亚国家实验室)
针对参数动力系统代理建模中高保真数据获取昂贵的问题,提出贝叶斯多保真度拉普拉斯神经算子,利用不确定性引导主动学习高效获取高保真轨迹,在多个振荡系统上优于随机采样和MF-DeepONet。
2026-09-15 cs.LG cs.NA math.NA
MICRO: Multi-Fidelity Active Search for Severe Error Discovery
Institute of Neuroinformatics, University of Zurich and ETH Zurich(苏黎世大学和苏黎世联邦理工学院神经信息学研究所);ETH AI Center(苏黎世联邦理工学院人工智能中心);Department of Computational Linguistics, University of Zurich(苏黎世大学计算语言学系)
MICRO提出多保真度主动搜索框架,联合建模评分与损失,通过聚类和滚动优化预算分配,在WMT20上显著提升严重错误发现数量。
2026-09-23 cs.CL cs.LG
Optimization-Embedded Active Multi-Fidelity Surrogate Learning for Multi-Condition Airfoil Shape Optimization
本文提出一种嵌入优化的主动多保真度代理学习方法,用于多条件机翼形状优化,通过低保真度模型和高保真度模拟的结合,减少计算流体力学成本并保持RANS精度。
2026-07-09 cs.LG cs.NE math.OC
Multi-Fidelity High-Order Gaussian Processes for Physical Simulation
University of Utah(犹他大学)
物理仿真的关键任务是求解离散域上的偏微分方程,这是一个代价高昂的问题。特别是,高保真解决方案比低保真解决方案昂贵得多。为了降低成本,我们考虑新的高斯过程(GP)模型,利用不同的精度的模拟例子来预测高维PDE解决方案的输出。现有的GP方法要么不能扩展到高维输出,要么缺乏有效的策略来集成多保真度的例子。为了解决这些问题,我们提出了多保真度高阶高斯过程(MFHoGP),它可以捕获输出之间和精度之间的复杂相关性,以增强解估计,并扩展到大量的输出。基于一种新的非线性coregionalization模型,MFHoGP传播基地在所有的异质性融合信息,并放置一个深矩阵GP优先于基权重捕捉跨异质性的(非线性)关系。为了提高推理的效率和质量,我们使用基分解来大大减少模型参数,分层矩阵高斯后验来捕获后验依赖性并简化计算。我们的随机变分学习算法成功地处理了数百万个输出,而无需额外的稀疏近似。我们展示了我们的方法在几个典型应用中的优势。
2020-06-08 cs.LG physics.comp-ph stat.ML
An Active Learning Framework for Constructing High-fidelity Mobility Maps
University of Michigan(密歇根大学);U.S. Army CCDC Ground Vehicle Systems Center(美国陆军作战能力发展司令部地面车辆系统中心)
在给定地形上提供最大可实现速度的移动地图对于越野环境中自主地面车辆的路径规划至关重要。虽然基于物理的模拟在创建下一代高保真移动地图方面发挥着核心作用,但它们既繁琐又昂贵。例如,一个典型的模拟可能需要几个星期才能在超级计算机上运行,每个地图需要数千个这样的模拟。美国陆军CCDC地面车辆系统中心最近的工作表明,经过训练的机器学习分类器可以大大提高这一过程的效率。然而,决定哪些模拟运行,以有效地训练分类器仍然是一个悬而未决的问题。根据PAC学习理论,可以被分类器分离的数据期望需要$\mathcal{O}(1/ε)$随机选择的点(模拟)来训练误差小于$ε$的分类器。在本文中,建立在现有的算法,我们引入了一个主动学习范式,大大减少了训练一个机器学习分类器所需的模拟的数量,而不牺牲准确性。实验结果表明,我们的采样算法可以训练一个神经网络,具有更高的准确性,使用不到一半的模拟数量相比,随机采样。
2020-03-07 cs.LG stat.ML
Multi-fidelity regression using artificial neural networks: efficient approximation of parameter-dependent output quantities
University of Twente(特文特大学);Politecnico di Milano(米兰理工大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
高精度的数值或物理实验通常是耗时或昂贵的。当时间或预算限制禁止生成额外数据时,可用样本的数量可能太有限,无法提供令人满意的模型结果。多保真度方法通过合并来自其他来源的信息来处理这些问题,这些信息与高保真数据理想地良好相关,但可以以较低的成本获得。通过利用不同数据集之间的相关性,与仅基于少量高保真数据的模型相比,多保真度方法通常会产生更好的泛化能力。在这项工作中,我们提出了使用人工神经网络应用于多保真度回归问题。通过阐述一些现有的方法,我们提出了新的神经网络架构的多保真度回归。引入的模型进行了比较,对传统的多保真度计划,协同克里格。一系列的人工基准来衡量所分析的模型的性能。结果表明,交叉验证与贝叶斯优化相结合,始终导致神经网络模型的性能优于协同克里金方案。此外,我们展示了多保真度回归的工程问题的应用。考虑了压力波在具有参数化形状和频率的声喇叭中的传播,并利用多保真度模型近似了反射强度指数。分别采用有限元模型和缩减基模型作为高保真度和低保真度。结果表明,多保真度神经网络返回的输出,实现了可比的精度从昂贵的,全阶模型,只使用很少的全阶评估结合大量的不准确,但便宜的评估降阶模型。
2021-02-26 cs.LG cs.NA math.NA
Active Learning for Approximation of Expensive Functions with Normal Distributed Output Uncertainty
Ghent University(根特大学)
当近似黑盒函数时,通过关注具有非线性响应的区域的主动学习进行采样往往会提高精度。我们提出了之前针对确定性响应引入的FLOLA-Voronoi方法,并从理论上推导出输出不确定性的影响。该算法自动将更多的重点放在探索上,为模型提供更多的信息。
2016-08-18 cs.LG stat.ML
Bayesian Active Learning for Structured Output Design
RIKEN AIP(理化学研究所人工智能研究中心);Nagoya Institute of Technology(名古屋工业大学);Nagoya University(名古屋大学);AIST(产业技术综合研究所)
在本文中,我们提出了一种主动学习方法的反问题,旨在找到一个输入,实现所需的结构化输出。所提出的方法提供了新的采集功能,最大限度地减少所需的结构化输出和预测的高斯过程模型之间的误差,通过有效地将多个输出之间的相关性的基础多值黑盒输出功能。通过对两个综合形状搜索问题和实际数据的处理,验证了该方法的有效性。在实际数据实验中,解决了碳化硅(SiC)晶体生长建模中实现所需晶体生长速率的输入参数搜索这一材料信息学问题。
2019-11-09 cs.LG stat.ML
Conditional deep surrogate models for stochastic, high-dimensional, and multi-fidelity systems
University of Pennsylvania(宾夕法尼亚大学)
我们提出了一种概率深度学习方法,可以为随机系统构建预测数据驱动的代理。利用隐式分布的变分推断的最新进展,我们提出了一个统计推断框架,该框架能够在成对的输入-输出观测上进行代理模型的端到端训练,这些观测可能是随机的,源于可变保真度的不同信息源,或者被复杂的噪声过程破坏。由此产生的代理可以容纳高维输入和输出,并能够返回具有量化不确定性的预测。我们的方法的有效性证明了通过一系列的规范研究,包括回归噪声数据,随机过程的多保真度建模,在高维动力系统中的不确定性传播。
2019-01-15 cs.LG stat.ML
Residual Multi-Fidelity Neural Network Computing
University of New Mexico(新墨西哥大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);RWTH Aachen University(亚琛工业大学)
本文研究多保真度神经网络代理模型构建问题,提出基于ReLU网络误差复杂度估计的非线性残差框架,通过训练两个协同网络学习残差并生成合成高保真数据,显著降低了小容差预测下的计算成本。
2024-12-20 cs.LG cs.NA math.NA
Deep Intrinsic Coregionalization Multi-Output Gaussian Process Surrogate with Active Learning
本文提出深度内在共区域化多输出高斯过程代理模型deepICMGP,通过分层共区域化结构建模多输出间的非线性依赖,并结合主动学习优化序贯设计,在多输出系统模拟实验中表现优异。
2025-08-22 cs.LG stat.ML
Safe Active Learning for Multi-Output Gaussian Processes
Bosch Center for Artificial Intelligence(博世人工智能中心)
多输出回归问题是科学和工程中经常遇到的问题。特别是,多输出高斯过程已经成为一个有前途的工具,这些复杂的系统建模,因为它们可以利用固有的相关性,并提供可靠的不确定性估计。然而,在许多应用中,获取数据是昂贵的,并且可能会出现安全问题(例如机器人,工程)。提出了一种安全的多输出高斯过程回归的主动学习方法。该方法查询最具信息性的数据或输出,同时考虑回归量和安全约束之间的相关性。我们证明了我们的方法的有效性,通过提供理论分析,并通过模拟数据集和现实世界的工程数据集上展示的实证结果。在所有数据集上,与竞争对手相比,我们的方法显示出更好的收敛性。
2022-03-28 cs.LG stat.ML
Improved active output selection strategy for noisy environments
Mercedes-Benz AG(梅赛德斯-奔驰股份公司);Institute of Automotive Technology Dresden(德累斯顿汽车技术研究所)
利用测试设计的主动学习方法可以减少基于模型的校准所需的测试台时间。本文提出了一种改进的主动输出选择策略。这是在相同输入维度中学习多个模型的任务,适合校准任务的需要。与现有的策略相比,我们考虑到噪声估计,这是固有的高斯过程。三个不同的玩具的例子,该方法进行了验证。在每个示例中,与现有最佳策略相比的性能相同或更好。在最好的情况下,与所有其他主动或被动策略相比,新策略至少需要减少10%的测量。进一步的努力将评估该战略在现实世界中的应用。此外,将实现更复杂的主动学习策略的查询放置。
2021-01-10 cs.LG stat.ML
Deep Multi-fidelity Gaussian Processes
我们开发了一个新的多保真度框架,远远超出了肯尼迪和奥哈根(2000年)的经典AR(1)协同克里金方案。我们的方法可以处理一般不连续的系统之间的互相关与不同程度的保真度。多保真度高斯过程(AR(1)协同克里金)和深度神经网络的组合使我们能够构建一种不受不连续性影响的方法。我们证明了新技术的有效性,使用标准的基准问题,旨在类似于复杂的高,低保真度代码的输出。
2016-04-26 cs.LG stat.ML
On transfer learning of neural networks using bi-fidelity data for uncertainty propagation
University of Colorado, Boulder(科罗拉多大学博尔德分校);University of California, Riverside(加利福尼亚大学河滨分校);National Renewable Energy Laboratory(国家可再生能源实验室)
由于它们的高度表达性,神经网络最近已经被用作用于将工程系统的输入映射到感兴趣的输出的代理模型。一旦被训练,神经网络在计算上是廉价的,以评估和消除在不确定性量化应用中对计算上昂贵的模型的重复评估的需要。然而,考虑到神经网络,特别是深度神经网络的高度参数化构造,精确训练通常需要大量的仿真数据,而这些仿真数据在计算昂贵的系统的情况下可能是不可用的。在本文中,为了缓解不确定性传播的这个问题,我们探索了迁移学习技术的应用,使用从高保真和低保真模型生成的训练数据。在训练过程中,我们探索了两种耦合这两个数据集的策略,即标准迁移学习和双保真度加权学习。在前一种方法中,基于低保真度数据训练将输入映射到感兴趣的输出的神经网络模型。然后,高保真度数据被用于调整低保真度网络的上层的参数,或者训练更简单的神经网络以将低保真度网络的输出映射到高保真度模型的输出。在后一种方法中,整个低保真网络参数使用通过用小型高保真数据集训练的高斯过程模型生成的数据来更新。参数更新是通过随机梯度下降的一个变种,学习率由高斯过程模型。使用三个数值示例,我们说明了这些双保真度迁移学习方法的实用性,其中我们专注于通过迁移学习在标准训练方法上实现的准确性提高。
2020-02-11 cs.LG stat.CO stat.ML
Spectrally Consistent UNet for High Fidelity Image Transformations
University of Warwick(华威大学);University of the West of England(西英格兰大学)
卷积神经网络(CNN)是目前用于许多成像任务的事实上的模型,因为它们具有很高的学习能力和架构质量。无处不在的UNet架构提供了一个有效的和多规模的解决方案,结合本地和全球信息。尽管UNet架构取得了成功,但使用上采样层可能会导致伪影。在这项工作中,提出了一种方法,用于评估的结构偏差的UNets和这些对输出的影响,在傅立叶域的影响的特点。提出了一种新的上采样模块,基于引导图像滤波器的新用途,其在UNet架构中使用时提供频谱一致的输出,形成引导UNet(GUNet)。GUNet架构的应用和评估,例如应用程序的逆色调映射/动态范围扩展和colourisation从灰度图像,并显示提供更高保真度的输出。
2020-09-29 cs.GR cs.LG eess.IV
Active Learning for Regression with Aggregated Outputs
NTT Communication Science Laboratories(NTT通信科学实验室)
由于隐私保护或数据收集的困难,我们无法观察每个实例的单独输出,但我们可以观察在一些现实世界应用程序中对多个实例进行汇总的聚合输出。为了降低这种聚合数据的回归模型训练的标记成本,我们提出了一种主动学习方法,该方法顺序选择要标记的集合,以提高具有较少标记集合的预测性能。对于选择度量,该方法使用互信息,通过观察聚合输出来量化模型参数的不确定性的减少。利用贝叶斯线性基函数对给定输入的输出进行建模,包括近似高斯过程和神经网络,我们可以有效地计算封闭形式的互信息。通过使用不同数据集的实验,我们证明了所提出的方法比现有方法具有更少的标记集,实现了更好的预测性能。
2022-10-04 cs.AI cs.LG stat.ML
GAR: Generalized Autoregression for Multi-Fidelity Fusion
Beihang University(北京航空航天大学);Rockchip Electronics Co., Ltd(瑞芯微电子股份有限公司)
在许多科学研究和工程应用中,需要对复杂系统进行反复仿真,通常采用代理来快速估计整个系统。为了降低生成训练示例的昂贵成本,将低保真度(快速但不准确)和高保真度(缓慢但准确)模拟的结果结合起来已经成为一种很有前途的方法。尽管多保真度融合技术发展迅速,但大多数现有方法都需要特定的数据结构,并且不能很好地扩展到高维输出。为了解决这些问题,我们推广了经典的自回归(AR),这是广泛使用的,由于其简单性,鲁棒性,准确性和易处理性,并提出广义自回归(GAR)使用张量公式和潜在的功能。GAR可以处理任意维的输出和任意的多保真度数据结构,满足复杂问题的多保真度融合需求;它具有完全易处理的似然性和后验,不需要近似推理,并且可以很好地扩展到高维问题。此外,我们证明了autokrigeability定理的基础上GAR在多保真度的情况下,并开发CIGAR,一个简化的GAR与精确的预测平均精度与计算减少了一个因素的d 3,其中d是输出的维数。实证评估包括许多典型的偏微分方程和真实的科学例子,并表明所提出的方法始终优于SOTA方法,具有很大的利润率(RMSE提高高达6倍),只有一对夫妇的高保真训练样本。
2023-01-13 cs.AI cs.LG physics.comp-ph
Near-Optimal Active Learning of Multi-Output Gaussian Processes
National University of Singapore(新加坡国立大学)
研究了多输出高斯过程模型的主动学习问题。与现有的工作相比,我们的主动学习问题不仅涉及选择要观察的信息量最大的采样位置,而且还涉及选择每个选定位置处的测量类型,以最小化预测不确定性(即,后验联合熵)。不幸的是,这样的熵准则在优化时在候选采样位置和所选观测的数量上的比例很差。为了解决这个问题,我们首先利用稀疏MOGP模型的共同结构,推导出一种新的主动学习标准。然后,我们利用我们的新标准,设计一个多项式时间近似算法,保证了一个常数因子近似的最佳的一组选定的意见,实现了一个宽松的形式的子模块属性。在真实数据集上的实验结果表明,该方法在MOGP和单输出GP模型的主动学习方面优于现有算法。
2015-11-24 cs.AI cs.LG stat.ML
Semi-Supervised Active Learning with Temporal Output Discrepancy
Baidu Research(百度研究院);Austin Peay State University(奥斯汀佩伊州立大学);Styling AI
虽然深度学习在广泛的任务中取得了成功,但它高度依赖于大量注释数据的收集,这是昂贵且耗时的。为了降低数据标注的成本,已经提出了主动学习来交互式地查询oracle以标注未标记数据集中的一小部分信息样本。受损失较高的样本通常比损失较低的样本对模型的信息量更大这一事实的启发,在本文中,我们提出了一种新的深度主动学习方法,当未标记的样本被认为包含高损失时,该方法会查询Oracle的数据注释。我们的方法的核心是一个测量时间输出离散(TOD),估计样本损失通过评估模型在不同的优化步骤给出的输出的差异。我们的理论研究表明,TOD下限的累积样本损失,因此它可以用来选择信息的未标记的样本。在此基础上,进一步提出了一种有效的无标记数据采样策略和一种无监督学习准则,通过引入无标记数据来提高模型性能。由于TOD的简单性,我们的主动学习方法是有效的,灵活的,任务不可知的。大量的实验结果表明,我们的方法取得了优于国家的最先进的主动学习方法的图像分类和语义分割任务的性能。
2021-07-29 cs.CV cs.LG
mfEGRA: Multifidelity Efficient Global Reliability Analysis through Active Learning for Failure Boundary Location
Massachusetts Institute of Technology(麻省理工学院);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出多保真主动学习方法 mfEGRA,通过多保真高斯过程代理模型和两阶段自适应采样准则定位失效边界,在多个测试问题上相比单保真 EGRA 显著降低可靠性分析计算成本。
2021-09-23 cs.LG physics.data-an stat.CO
Temporal Output Discrepancy for Loss Estimation-based Active Learning
Big Data Laboratory, Baidu Research(百度研究院大数据实验室);AWS AI Lab, Amazon(亚马逊AWS人工智能实验室)
虽然深度学习在广泛的任务中取得了成功,但它高度依赖于大量注释数据的收集,这是昂贵且耗时的。为了降低数据标注的成本,已经提出了主动学习来交互式地查询oracle以标注未标记数据集中的一小部分信息样本。受损失较高的样本通常比损失较低的样本对模型的信息量更大这一事实的启发,在本文中,我们提出了一种新的深度主动学习方法,当未标记的样本被认为包含高损失时,该方法会查询Oracle的数据注释。我们的方法的核心是一个测量时间输出离散(TOD),估计样本损失通过评估模型在不同的优化步骤给出的输出的差异。我们的理论研究表明,TOD下限的累积样本损失,因此它可以用来选择信息的未标记的样本。在此基础上,我们进一步提出了一种有效的无标记数据采样策略和一种无监督的主动学习学习准则。由于TOD的简单性,我们的方法是有效的,灵活的,任务不可知的。大量的实验结果表明,我们的方法取得了优于国家的最先进的主动学习方法的图像分类和语义分割任务的性能。此外,我们表明,TOD可以用来选择潜在的最高的测试精度从候选模型池的最佳模型。
2022-12-20 cs.CV cs.LG
A Principled Method for the Creation of Synthetic Multi-fidelity Data Sets
IBM Research Europe(IBM欧洲研究院)
多保真度和多输出优化算法在计算设计的许多领域都有积极的兴趣,因为它们允许更便宜的计算代理智能地用于帮助实验搜索高性能物种。这些算法的特征涉及通常使用分析函数或现有多保真度数据集的基准。然而,分析功能往往不代表相关的问题,而预先存在的数据集不允许系统的调查的影响,较低的保真度代理的特点。为了弥合这一差距,我们提出了一种方法,系统地生成合成的原始数据来自预先存在的数据集。这使得建设的基准都是实际的优化问题的代表,同时也允许系统的调查的影响较低的保真度代理。
2022-08-26 cs.LG stat.ML
Active Learning with Multifidelity Modeling for Efficient Rare Event Simulation
Idaho National Laboratory(爱达荷国家实验室);Johns Hopkins University(约翰斯·霍普金斯大学)
虽然多保真度建模提供了一种具有成本效益的方法来进行不确定性量化计算昂贵的模型,更大的效率可以通过自适应地决定所需的高保真度(HF)模拟的数量,这取决于问题的类型和复杂性,以及所需的精度的结果。我们提出了一个框架,主动学习与多保真度建模强调稀有事件的有效估计。我们的框架通过将低保真(LF)预测与HF推断的校正融合,过滤校正的LF预测以决定是否调用高保真模型,并为增强后续准确性,在每次HF模型调用后调整LF预测的校正。该框架没有对LF模型类型或其与HF模型的相关性做出任何假设。此外,为了提高鲁棒性时,估计较小的故障概率,我们建议使用动态主动学习功能,决定何时调用HF模型。我们证明了我们的框架,使用几个学术案例研究和两个有限元(FE)模型的案例研究:估计Navier-Stokes速度使用斯托克斯近似和估计应力的横向各向同性模型进行位移通过一个粗网格各向同性模型。在这些案例研究中,所提出的框架不仅准确地估计了故障概率,而且与蒙特卡罗或标准方差缩减方法相比,它只需要调用HF模型的一小部分。
2021-06-25 cs.LG stat.AP stat.ML
Active Tabular Augmentation via Policy-Guided Diffusion Inpainting
Technical University of Munich(慕尼黑技术大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
本文提出TAP方法,结合扩散修复与轻量策略,提升表格增强的实用性和安全性,在数据稀缺情况下提升分类准确率和回归性能。
2026-05-11 cs.AI cs.LG
Subspace-Distance-Enabled Active Learning for Efficient Data-Driven Model Reduction of Parametric Dynamical Systems
针对无控制方程的高保真动力系统反复求解问题,提出基于子空间距离的主动学习框架(SDE-AL),利用POD子空间距离引导挑选关键参数样本,动态构建降阶模型,有效提升了参数化物理模型的计算效率。
2025-06-25 cs.CE cs.LG cs.NA
Residual Gaussian Process: A Tractable Nonparametric Bayesian Emulator for Multi-fidelity Simulations
Beijing University of Aeronautics and Astronautics(北京航空航天大学);University of Utah(犹他大学);Chongqing University(重庆大学);Beihang University(北京航空航天大学)
多保真度建模中的挑战涉及准确性、不确定性估计和高维性。引入了一种新的添加剂结构,其中最高保真度的解决方案被写为最低保真度的解决方案和在连续的保真度水平的解决方案之间的残差的总和,与高斯过程先验放置在低保真度的解决方案和每个残差。由此产生的模型配备了一个封闭形式的解决方案的预测后,使其适用于先进的,高维的任务,需要不确定性估计。它的优点表现在单变量基准和三个具有挑战性的多变量问题。它示出了如何可以使用主动学习来增强模型,特别是在有限的计算预算。此外,在单变量的情况下,平均预测的误差界。
2021-04-08 cs.CE cs.LG stat.AP
Projection-based multifidelity linear regression for data-scarce applications
Santa Fe Institute(圣塔菲研究所)
本文提出基于投影的多保真度线性回归方法,通过低保真度数据增强和线性修正提升高维输出下的回归精度,实验证明在数据有限时能显著提高预测准确性。
2026-08-18 cs.CE cs.LG stat.ML
LASER: Learning Active Sensing for Continuum Field Reconstruction
MoE Key Lab of Artificial Intelligence, AI Institute, School of Computer Science, Shanghai Jiao Tong University(人工智能MOE重点实验室、人工智能研究院、计算机科学学院、上海交通大学)
提出LASER框架,将主动感知建模为部分可观测马尔可夫决策过程,利用连续场潜在世界模型和强化学习策略在潜在想象空间中模拟感知场景,实现稀疏约束下的高保真重建。
2026-05-27 cs.AI cs.CE cs.LG
Accelerated wind farm yaw and layout optimisation with multi-fidelity deep transfer learning wake models
Imperial College London(帝国理工学院);EPFL(洛桑联邦理工学院);ECMWF(欧洲中期天气预报中心)
风电场建模已成为一个迅速增长的兴趣领域,开发了许多基于分析和计算的方法,以扩大风电场效率的边际并最大限度地提高发电量。在这项工作中,我们提出了新的ML框架WakeNet,它可以在很宽的偏航角,风速和湍流强度(TI)范围内再现轮毂高度处的广义2D涡轮机尾流速度场,与使用最先进的风电场建模软件FLORIS计算的解决方案相比,平均精度为99.8%。由于为网络训练目的生成足够的高保真数据可能是成本高昂的,因此还研究了多保真度迁移学习的效用。具体而言,对在低保真度高斯尾流模型上预训练的网络进行微调,以便获得中保真度卷曲尾流模型的准确尾流结果。WakeNet在各种尾流转向控制和布局优化场景中的鲁棒性和整体性能已经通过功率增益热图进行了验证,通过直接使用FLORIS进行优化获得了至少90%的功率。我们还证明,当利用卷曲模型时,WakeNet能够提供与FLORIS相似的功率增益,快两个数量级(例如,每个优化案例10分钟vs 36小时)。在高保真CFD数据集上训练时,wakeNet的尾流评估时间预计相似,从而进一步增加计算时间增益。这些有希望的结果表明,广义尾流建模与ML工具可以是足够准确的,有助于主动偏航和布局优化,同时产生现实的优化配置的一小部分的计算成本,从而使其可行的执行实时主动偏航控制以及鲁棒优化下的不确定性。
2023-03-28 cs.CE cs.LG physics.ao-ph
Multi-fidelity power flow solver
Florida State University(佛罗里达州立大学);Idaho National Laboratory(爱达荷国家实验室)
我们提出了一个多保真度神经网络(MFNN)量身定制的快速高维电网潮流模拟和事故分析与稀缺的高保真事故数据。该模型包括两个网络-第一个训练的DC近似作为低保真数据,并耦合到一个高保真神经网络训练的低和高保真潮流数据。每个网络的特征在于潜在模块,该潜在模块通过离散网格拓扑向量来参数化模型以用于泛化(例如,具有$k$断开或意外情况(如果有的话)的$n$电力线,并且目标高保真输出是线性和非线性函数的加权和。我们测试了14和118总线测试用例的模型,并评估其性能的基础上的$n-k$潮流预测精度不平衡的意外事故数据和高到低的保真度的样本比。本文提出的结果表明MFNN的潜力和限制,高达两个数量级更快,更准确的潮流解决方案比DC近似。
2022-05-26 cs.LG cs.SY eess.SY
Bayesian learning of orthogonal embeddings for multi-fidelity Gaussian Processes
General Electric Research(通用电气研究中心)
我们提出了一个贝叶斯方法来确定最佳的转换,映射模型输入点的低维潜变量。“投影”映射由正交归一化矩阵组成,该正交归一化矩阵被认为是先验未知的,并且需要以可用的训练数据为条件与GP参数联合推断。建议的贝叶斯推断方案依赖于一个两步迭代算法,分别从GP参数和投影矩阵的边缘后验样本,都使用马尔可夫链蒙特卡罗(MCMC)采样。为了考虑正交投影矩阵的正交性约束,采用了适合于流形上概率测度的测地线蒙特卡罗抽样算法.我们将所提出的框架扩展到使用GP的多保真度模型,包括一起训练多个输出的场景。我们验证了我们的框架上的三个合成问题与一个已知的低维子空间。我们提出的框架的好处,说明了计算上具有挑战性的三维空气动力学优化的最后一级叶片的工业燃气轮机,在那里我们研究了85维翼型形状参数化对两个输出量的影响,特别是对空气动力学效率和反应的程度。
2020-08-05 cs.LG stat.CO stat.ML
Resource Aware Multifidelity Active Learning for Efficient Optimization
United Technologies Research Centre Ireland, Ltd(联合技术研究中心(爱尔兰)有限公司);Gran Sasso Science Institute(格兰索科学研究所);University College Cork(科克大学学院)
传统的黑盒优化方法需要大量的评估,这可能是耗时的,不切实际的,并且对于依赖于精确表示和昂贵模型来评估的许多工程应用来说通常是不可行的。贝叶斯优化(BO)方法通过沿着搜索路径渐进地(主动地)学习目标函数的代理模型来搜索全局最优。贝叶斯优化可以通过多保真度方法来加速,该方法利用目标函数的多个黑盒近似,这些黑盒近似可以在计算上更便宜地进行评估,但仍然为搜索任务提供相关信息。并行和分布式计算体系结构的可用性提供了进一步的计算益处,其最佳使用是主动学习背景下的开放机会。本文介绍了资源感知主动学习(RAAL)策略,一个多保真度贝叶斯方案,以加速优化的黑盒功能。在每个优化步骤中,RAAL过程计算最佳样本位置和相关保真度源的集合,其最大化在目标函数的并行/分布式评估期间获取的信息增益,同时考虑有限的计算预算。该计划被证明为各种基准的问题和结果进行了讨论,为单保真度和多保真度设置。特别是我们观察到,RAAL策略在每次迭代时最佳地播种多个点,从而大大加快了优化任务的速度。
2020-07-09 cs.LG physics.data-an stat.ML
A Physics-Guided Bi-Fidelity Fourier-Featured Operator Learning Framework for Predicting Time Evolution of Drag and Lift Coefficients
Purdue University(普渡大学)
针对高保真流场系数预测计算成本高的问题,提出物理引导双保真度傅里叶特征DeepONet框架,结合两类数据优势,用少量高保真数据实现升阻系数时间演化的高精度预测,性能优于纯数据驱动方法。
2023-11-07 cs.LG cs.NA math.NA
Assessing the Frontier: Active Learning, Model Accuracy, and Multi-objective Materials Discovery and Optimization
Stanford University(斯坦福大学);Citrine Informatics
发现新材料可以大大加快迭代机器学习-通知候选人的建议-主动学习。但是,模型质量的标准\emph{global-scope error}指标不能预测发现性能,并且可能会产生误导。我们引入了\emph{Pareto shell-scope error}的概念,以帮助判断提出材料候选模型的适用性。此外,通过合成的情况下,热电数据集,我们探讨采集功能保真度和主动学习性能之间的关系。结果表明,新的诊断工具,以及新的见解收购功能的设计。
2020-01-27 cs.LG stat.ME stat.ML
Towards High-Fidelity Gaussian Splatting with Queried-Convolution Neural Networks
本文提出查询卷积(Qonvolutions)改进高斯散射,通过结合查询与邻域特性提升重建保真度,在真实场景中实现优于Zip-NeRF的NVS效果,并提升多种回归任务性能。
2026-03-15 cs.CV cs.GR cs.LG