Optimizing Photonic Nanostructures via Multi-fidelity Gaussian Processes
California Institute of Technology(加州理工学院);Northrop Grumman Corporation(诺斯罗普·格鲁曼公司)
我们采用数值方法结合有限差分时域(FDTD)模拟,以优化传输性能的等离子体反射镜彩色滤光片使用一个多目标的品质因数在一个五维参数空间,利用新的多保真度高斯过程的方法。我们将这些结果与传统的无导数全局搜索算法,如(单保真度)高斯过程优化方案,和粒子群优化-一种在纳米光子学界常用的方法,这是在Lumerical商业光子学软件中实现的。我们展示了几个预先收集的真实世界的数据集上的各种数值优化方法的性能,并表明,通过适当地权衡昂贵的信息源与廉价的模拟,可以更有效地优化传输性能与固定的预算。
2018-11-15 cs.LG stat.ML
Multi-fidelity classification using Gaussian processes: accelerating the prediction of large-scale computational models
Pontificia Universidad Católica de Chile(智利天主教大学);University of Pennsylvania(宾夕法尼亚大学);Stanford University(斯坦福大学)
机器学习技术通常依赖于大型数据集来创建准确的分类器。然而,在有些情况下,数据稀缺,获取成本高昂。这是依赖于最先进的计算模型的研究的情况,这些模型通常需要几天的时间才能运行,从而阻碍了机器学习工具的潜力。在这项工作中,我们提出了一种新的分类器,利用较低的保真度模型和廉价的近似预测昂贵的计算机模拟的二进制输出。我们假设一个自回归模型之间的不同水平的保真度与高斯过程先验。我们采用完全贝叶斯处理的超参数和使用马尔可夫链蒙特卡罗采样器。我们利用分类器的概率性质来实现主动学习策略。我们还引入了一个稀疏近似,以提高多保真度分类器处理大数据集的能力。我们用合成数据测试了这些多保真度分类器与单保真度分类器的对比,结果显示,对于90%的目标准确度,计算成本的中位数降低了23%。在心脏电生理学的应用中,多保真度分类器实现了99.6%的F1分数,精确度和召回率的调和平均值,而单保真度分类器在使用50个样本进行训练时为74.1%。在一般情况下,我们的研究结果表明,多保真度分类器在所有情况下的准确性优于单保真度对应。我们设想,这种新工具将使研究人员能够研究分类问题,否则将是昂贵的。源代码可在www.example.com上获得。
2019-05-09 cs.LG stat.ML
A General Framework for Multi-fidelity Bayesian Optimization with Gaussian Processes
California Institute of Technology(加州理工学院)
当我们面对多个相互依赖的信息源时,如何有效地收集信息来优化未知函数?例如,当优化机器人系统时,智能地权衡计算机模拟和真实机器人测试可以导致显著的节省。现有的方法,如多保真度GP-UCB或基于熵搜索的方法,要么对不同属性之间的相互作用进行简单的假设,要么使用缺乏理论保证的简单的算法。在本文中,我们研究了多个输出之间的复杂结构依赖的多保真度贝叶斯优化,并提出了MF-MI-Greedy,一个原则性的算法框架来解决这个问题。特别是,我们使用加性高斯过程的基础上共享的潜在结构与目标函数不同的并行性建模。然后,我们使用成本敏感的互信息增益有效的贝叶斯全局优化。我们提出了一个简单的概念,后悔,其中包括成本的不同qualities,并证明MF-MI-Greedy实现低后悔。我们证明了我们的算法在合成和真实世界的数据集上的强大的经验性能。
2018-11-02 cs.LG stat.ML
Federated Gaussian Process: Convergence, Automatic Personalization and Multi-fidelity Modeling
University of Michigan(密歇根大学);Industrial and Operations Engineering(工业与工程)
本文提出联邦高斯过程回归框架FGPR,通过平均聚合与随机梯度下降联合学习全局GP先验,实现自动个性化,并证明其收敛性及在多保真度隐私建模中的有效性。
2021-11-28 cs.LG stat.ML
Multi-Fidelity High-Order Gaussian Processes for Physical Simulation
University of Utah(犹他大学)
物理仿真的关键任务是求解离散域上的偏微分方程,这是一个代价高昂的问题。特别是,高保真解决方案比低保真解决方案昂贵得多。为了降低成本,我们考虑新的高斯过程(GP)模型,利用不同的精度的模拟例子来预测高维PDE解决方案的输出。现有的GP方法要么不能扩展到高维输出,要么缺乏有效的策略来集成多保真度的例子。为了解决这些问题,我们提出了多保真度高阶高斯过程(MFHoGP),它可以捕获输出之间和精度之间的复杂相关性,以增强解估计,并扩展到大量的输出。基于一种新的非线性coregionalization模型,MFHoGP传播基地在所有的异质性融合信息,并放置一个深矩阵GP优先于基权重捕捉跨异质性的(非线性)关系。为了提高推理的效率和质量,我们使用基分解来大大减少模型参数,分层矩阵高斯后验来捕获后验依赖性并简化计算。我们的随机变分学习算法成功地处理了数百万个输出,而无需额外的稀疏近似。我们展示了我们的方法在几个典型应用中的优势。
2020-06-08 cs.LG physics.comp-ph stat.ML
Multi-fidelity Gaussian process surrogate modeling for regression problems in physics
School of Computation, Information and Technology, Technische Universität München(慕尼黑工业大学计算、信息与技术学院);Institute of System Dynamics and Control, German Aerospace Center (DLR)(德国航空航天中心系统动力学与控制研究所)
本文比较并扩展了用于物理回归的多保真度Gaussian process代理建模方法,通过引入结构化核改进延迟项方法,并证明多保真度方法在相同计算成本下通常具有更小的预测误差。
2024-07-29 cs.LG physics.data-an stat.ML
Multi-Fidelity Gaussian Process based Empirical Potential Development for Si:H Nanowires
Purdue University(普渡大学);Xiamen University of Technology(厦门理工学院)
在材料建模中,使用经验势的计算速度比第一原理计算快,但结果不如第一原理计算准确。第一原理计算是准确的,但速度慢,计算起来非常昂贵。本文首先采用适用于Tersoff经验势的第一性原理计算方法计算了H-H结合能和H $_2$ -H $_2$相互作用能。第二,估计H-H参数。通过对H-H参数的拟合,得到了材料的力学性能。最后,结合低保真度经验势数据和高保真度第一性原理计算数据,采用多保真度高斯过程回归方法预测了H-H结合能和H $_2$ -H $_2$相互作用能.数值结果证明了经验势的准确性。
2020-05-11 cs.LG physics.comp-ph stat.ML
Conditional Deep Gaussian Processes: multi-fidelity kernel learning
Rutgers University(罗格斯大学);Institute for Advanced Study(普林斯顿高等研究院)
深度高斯过程(DGPs)被提出作为一个表达贝叶斯模型能够数学接地估计的不确定性。DPG的表现力不仅来自于其组成特征,还来自于其在层次结构中的分布传播。最近,文献[1]指出DGP的层次结构非常适合于多保真度回归建模,其中一个模型提供了高精度的稀疏观测值和大量的低保真度观测值。我们提出了条件DGP模型,其中潜在的GP直接支持的固定的较低的保真度数据。然后利用文献[2]中的矩匹配方法,用一个GP来逼近条件DGP的边缘先验。所获得的有效核是较低保真度数据的隐函数,体现了层次结构内分布传播所带来的表现力。通过优化近似边缘似然来学习超参数。合成和高维数据的实验显示出与其他多保真度回归方法,变分推理和多输出GP相当的性能。我们得出结论,在低保真度数据和分层DGP结构的情况下,有效内核对真函数的归纳偏差进行编码,从而允许[3,4]中讨论的组合自由度。
2021-10-01 cond-mat.dis-nn cs.LG stat.ML
Multi-fidelity Gaussian Process for Biomanufacturing Process Modeling with Small Data
The University of Melbourne(墨尔本大学);CSL Innovation(CSL创新公司)
在生物制造中,开发一个精确的模型来模拟生物过程的复杂动力学是一个重要而具有挑战性的任务。这部分是由于与生物过程相关的不确定性、高数据采集成本以及缺乏数据可用性来学习生物过程中的复杂关系。为了应对这些挑战,我们建议使用统计机器学习方法,多保真度高斯过程,在生物制造过程建模。高斯过程回归是一种基于概率论的成熟技术,它可以自然地考虑数据集中通过高斯噪声的不确定性,而多保真度技术可以利用具有不同保真度水平的多个信息源,因此适用于小数据的生物过程建模。我们应用多保真度高斯过程来解决生物制造中的两个重要问题,即生物反应器规模扩大和跨细胞系的知识转移,并在真实世界的数据集上证明了其有效性。
2022-11-26 cs.AI cs.LG
Linking Gaussian Process regression with data-driven manifold embeddings for nonlinear data fusion
Johns Hopkins University(约翰斯·霍普金斯大学);Brown University(布朗大学)
在使用高斯过程回归的统计建模中,已经表明,与仅基于少数高保真数据的预测相比,将(少数)高保真数据与(许多)低保真数据组合可以提高预测精度。这种用于多保真度数据的信息融合技术通常将高保真度模型$f_h(t)$作为两个变量$(t,y)$的函数来逼近,然后使用$f_l(t)$作为$y$数据。更一般地说,高保真度模型可以写成几个变量$(t,y_1,y_2....)$的函数;低保真度模型$f_l$和它的一些衍生物可以代替这些变量。在本文中,我们将探讨多保真度信息融合的数学算法,使用这种方法来提高只有少数几个训练数据点的高保真度函数的表示。鉴于$f_h$可能不是一个简单的功能-有时甚至不是一个功能-的$f_l$,我们证明,使用额外的功能$t$,如衍生物或移位的$f_l$,可以大大提高近似的$f_h$通过高斯过程。我们还指出了一个连接与“嵌入”技术的拓扑结构和动力系统。
2018-12-16 cs.LG physics.comp-ph stat.ML
Multi-fidelity Gaussian Process Bandit Optimisation
Carnegie Mellon University(卡内基梅隆大学);Arizona State University(亚利桑那州立大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
在许多科学和工程应用中,我们的任务是最大化一个昂贵的评估黑盒功能$f$。此问题的传统设置仅假设此单个功能的可用性。然而,在许多情况下,可以获得对$f$的廉价近似。例如,机器人昂贵的真实世界行为可以通过廉价的计算机模拟来近似。我们可以使用这些近似,以消除低功能值区域便宜,并使用昂贵的评估$f$在一个小的,但有前途的区域,并迅速确定最佳。我们正式这个任务作为一个\emph{multi-fidelity}强盗问题,目标函数和它的近似采样从一个高斯过程。我们开发MF-GP-UCB,一种新的方法的基础上的置信上限技术。在我们的理论分析中,我们证明了它恰恰表现出上述行为,并实现更好的后悔比策略,忽略多保真度信息。经验上,MF-GP-UCB在几个合成和真实实验上优于这种朴素策略和其他多保真度方法。
2019-03-15 cs.AI cs.LG stat.ML
Multifidelity-Augmented Gaussian Process Inputs for Surrogate Modeling from Scarce Data
School of Aerospace Engineering, Georgia Institute of Technology, Atlanta, GA(航空航天工程学院,佐治亚理工学院,亚特兰大,GA);School of Computational Science & Engineering, Georgia Institute of Technology, Atlanta, GA(计算科学与工程学院,佐治亚理工学院,亚特兰大,GA);Air Force Research Lab, Wright-Patterson AFB, Dayton, Ohio(空军研究实验室,威格伍德-帕特森空军基地,代顿,俄亥俄)
提出一种多保真度训练方法,利用低保真数据定义额外特征增强输入空间,结合协同克里金和自回归估计器优势,在稀缺数据下提高预测精度并降低计算成本。
2026-06-25 cs.LG stat.ML
Safe Real-Time Optimization using Multi-Fidelity Gaussian Processes
University College London(伦敦大学学院);Imperial College London(帝国理工学院)
提出了一类新的实时的【形】优化方案,以克服不确定过程的系统-模型失配。这项工作的新颖之处在于在贝叶斯优化框架内集成无导数优化方案和多保真度高斯过程。该方案使用两个高斯过程的随机系统,一个模拟(已知)的过程模型,另一个,通过测量的真实系统。以这种方式,可以经由模型获得低保真度样本,而通过系统的测量获得高保真度样本。该框架以非参数方式捕获系统的行为,同时通过采集功能驱动探索。使用高斯过程表示系统的好处是能够实时的【形】执行不确定性量化,并允许以高置信度满足机会约束。这导致在一个实际的方法,说明在数值案例研究,包括半批光生物反应器优化问题。
2021-11-10 cs.LG math.OC
Residual Gaussian Process: A Tractable Nonparametric Bayesian Emulator for Multi-fidelity Simulations
Beijing University of Aeronautics and Astronautics(北京航空航天大学);University of Utah(犹他大学);Chongqing University(重庆大学);Beihang University(北京航空航天大学)
多保真度建模中的挑战涉及准确性、不确定性估计和高维性。引入了一种新的添加剂结构,其中最高保真度的解决方案被写为最低保真度的解决方案和在连续的保真度水平的解决方案之间的残差的总和,与高斯过程先验放置在低保真度的解决方案和每个残差。由此产生的模型配备了一个封闭形式的解决方案的预测后,使其适用于先进的,高维的任务,需要不确定性估计。它的优点表现在单变量基准和三个具有挑战性的多变量问题。它示出了如何可以使用主动学习来增强模型,特别是在有限的计算预算。此外,在单变量的情况下,平均预测的误差界。
2021-04-08 cs.CE cs.LG stat.AP
A Unified Hierarchical Multi-Task Multi-Fidelity Framework for Data-Efficient Surrogate Modeling in Manufacturing
Department of Mechanical Science and Engineering, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校机械科学与工程系);Department of Mechanical Engineering, University of Michigan(密歇根大学机械工程系)
本文提出一种统一的分层多任务多保真框架,通过联合学习任务间相似性和保真依赖数据特征,提升制造中代理建模的预测精度。
2026-03-10 cs.LG stat.ME stat.ML
Sparse discovery of differential equations based on multi-fidelity Gaussian process
ShanghaiTech University(上海科技大学);Chongqing University(重庆大学)
针对含噪、稀疏及多保真度数据下的微分方程识别难题,提出基于GPR与MFGP的不确定性量化方法,以稳健恢复方程并通过数值实验验证有效性。
2024-01-22 cs.LG cs.NA math.NA
Adaptation of Engineering Wake Models using Gaussian Process Regression and High-Fidelity Simulation Data
Norwegian University of Science and Technology(挪威科技大学);Delft University of Technology(代尔夫特理工大学)
本文研究了一个九机风电场偏航控制输入的优化问题。采用高保真仿真器SOWFA对风电场进行仿真。优化是用基于高斯过程的修改器自适应方案进行的。修改器自适应校正工厂和模型之间的不匹配,并有助于收敛到实际的计划最优值。在案例研究中,修改器自适应方法与贝叶斯优化方法进行了比较。此外,还讨论了两种不同协方差函数在高斯过程回归中的应用。有关的数据准备和应用的方法的实际建议。结果表明,无论是修改器的适应和贝叶斯优化方法可以提高整体较小的偏航失调相比,高斯尾流模型的功率生产。
2020-03-30 cs.LG cs.SY eess.SY
Multi-fidelity Hierarchical Neural Processes
University of California, San Diego(加州大学圣地亚哥分校);Northeastern University(东北大学)
科学和工程领域广泛使用计算机模拟。这些模拟通常在多个复杂级别上运行,以平衡准确性和效率。多保真度代理建模通过融合不同的仿真输出来降低计算成本。从低保真度模拟器生成的廉价数据可以与昂贵的高保真模拟器生成的有限的高质量数据相结合。现有的基于高斯过程的方法依赖于核函数的强假设,并且难以扩展到高维设置。我们提出了多保真度层次神经过程(MF-HNP),一个统一的神经隐变量模型的多保真度代理建模。MF-HNP继承了神经过程的灵活性和可扩展性。潜变量将不同保真度水平之间的相关性从观测值转换到潜空间。在给定潜在状态的情况下,跨概率的预测是有条件独立的。它有助于缓解现有方法中的错误传播问题。MF-HNP是足够灵活的处理非嵌套的高维数据在不同的保真度水平与不同的输入和输出尺寸。我们评估了流行病学和气候建模任务的MF-HNP,在准确性和不确定性估计方面实现了有竞争力的性能。与仅具有低维(< 10)任务的深度高斯过程相比,我们的方法在加速高维复杂模拟(流行病学建模超过7000,气候建模超过45000)方面表现出了很大的潜力。
2022-06-10 cs.LG
Deep Gaussian Process-based Multi-fidelity Bayesian Optimization for Simulated Chemical Reactors
Imperial College London(帝国理工学院)
3D打印等新的制造技术最近使以前不可行的化学反应器设计成为可能。优化下一代化学反应器的几何结构对于理解底层物理并确保反应器在现实世界中的可行性非常重要。这个优化问题是计算昂贵的,非线性的,和衍生的自由,使其具有挑战性的解决。在这项工作中,我们应用深度高斯过程(DGPs)在贝叶斯优化设置中模拟多保真度盘管反应器模拟。通过应用多保真度贝叶斯优化方法,反应器几何结构的搜索空间通过不同保真度的模拟,根据预测的不确定性和模拟成本,最大限度地利用计算预算选择的汞齐进行探索。DGP的使用提供了一个端到端的模型,五个离散的网格并行,使更少的计算工作,以获得良好的解决方案,在优化过程中。这五个参数的模拟准确性是根据从3D打印反应堆配置获得的实验数据确定的,从而提供了对适当超参数的见解。我们希望这项工作提供了有趣的洞察实际使用的DGP为基础的多保真度贝叶斯优化工程发现。
2022-10-31 cs.CE cs.LG
Multi-fidelity Batch Active Learning for Gaussian Process Classifiers
Mechanical Engineering, Stanford University(斯坦福大学机械工程系);University College London(伦敦大学学院)
本文提出BPMI算法,利用一阶泰勒展开近似互信息,实现多保真高斯过程分类器的批量主动学习,在合成与真实案例中均以固定预算获得更高预测精度。
2025-10-09 cs.CE cs.LG physics.comp-ph
Fast characterization of inducible regions of atrial fibrillation models with multi-fidelity Gaussian process classification
Università della Svizzera italiana(提契诺大学);University of Pennsylvania(宾夕法尼亚大学);Pontificia Universidad Católica de Chile(智利天主教大学)
房颤的计算模型已成功地用于预测最佳消融部位。评估消融模式效果的关键步骤是从不同的、可能随机的位置对模型进行起搏,以确定是否可以在心房中诱发心律失常。在这项工作中,我们建议使用多保真度高斯过程分类黎曼流形上有效地确定在心房的心律失常是可诱导的区域。我们建立了一个概率分类器,直接在心房表面上操作。我们利用低分辨率模型来探索心房表面,并与高分辨率模型无缝结合来识别感应区域。当使用40个样本进行训练时,我们的多保真度分类器显示出平衡的准确性,比用作基线房颤模型的最近邻分类器高10%,并且在存在房颤消融的情况下高9%。我们希望这项新技术将允许更快和更精确的心房颤动计算模型的临床应用。
2021-12-16 cs.LG q-bio.TO
GaussianVAE: Adaptive Learning Dynamics of 3D Gaussians for High-Fidelity Super-Resolution
Huawei Canada(华为加拿大)
针对 3DGS 受限于训练分辨率的问题,本文提出 GaussianVAE,利用轻量生成模型与 Hessian 辅助采样自适应细化 3D 高斯,实现实时、高保真的超分辨率重建。
2025-06-09 cs.AI cs.CV cs.GR
Bayesian Emulation of Multi-fidelity Earth System Modelling Using Hierarchical Gaussian Processes
University of Exeter(埃克塞特大学);University of Greenwich(格林威治大学);Chinese Academy of Sciences(中国科学院)
本文比较四种基于高斯过程的多保真仿真方法,在海啸和JULES模拟中评估性能,发现无单一方法普遍最优,选择需依保真度关系、高保真数据量和精度需求而定。
2026-09-09 stat.AP stat.ME
Multi-fidelity Gaussian process regression for noisy outputs and non-nested experimental designs: decoupled versus joint likelihood optimization
Université Paris-Saclay(巴黎萨克雷大学);CEA(法国原子能和替代能源委员会);Service d’Études Mécaniques et Thermiques(机械与热力学研究服务部);CMAP(数学与应用数学中心);CNRS(法国国家科学研究中心);École polytechnique(巴黎综合理工学院);Institut Polytechnique de Paris(巴黎理工学院);CEA, DAM, DIF(法国原子能和替代能源委员会,国防应用管理部,国防创新部)
本文研究了在高保真和低保真数据存在噪声和非嵌套情况下的递归自回归多保真度高斯过程回归方法,提出了一种基于期望最大化算法的解耦优化策略,并与经典非递归方法进行了比较,展示了递归方法在训练时间和预测精度上的优势。
2026-11-09 stat.AP
Multi-fidelity data fusion for the approximation of scalar functions with low intrinsic dimensionality through active subspaces
高斯过程用于贝叶斯设置中的非参数回归。他们推广了线性回归,将输入嵌入到无限维再生核希尔伯特空间内的潜在流形中。我们可以用低保真度模型的观察来增加输入,以学习更具表达力的潜在流形,从而提高模型的准确性。这可以通过一系列高斯过程递归地实现,并具有越来越高的保真度。我们希望将这些多保真度模型实现扩展到受高维输入空间影响但具有低内在维度的案例研究。在这种情况下,物理支持或纯数值低阶模型仍然受到维数灾难的影响时,查询响应。当提供模型的梯度信息时,可以利用活动子空间的存在来设计低保真度响应表面,从而实现高斯过程多保真度回归,而不需要执行新的模拟。这在数据稀缺的情况下特别有用。在这项工作中,我们提出了一个多保真度的方法,涉及积极的子空间,我们测试它在两个不同的高维基准。
2020-10-16 cs.NA math.NA stat.ML
Conglomerate Multi-Fidelity Gaussian Process Modeling, with Application to Heavy-Ion Collisions
针对不同组件由不同保真度参数控制的聚合模拟器,本文提出 CONFIG 高斯过程模型,利用非平稳协方差捕捉数值收敛先验,并在数值实验及重离子碰撞相关夸克-胶子等离子体演化中提升预测性能。
2023-09-28 stat.ME
Expedited Multi-Target Search with Guaranteed Performance via Multi-fidelity Gaussian Processes
Michigan State University(密歇根州立大学)
我们考虑一个场景,其中配备有向下的摄像头的自动驾驶车辆在3D环境中运行,并负责在环境的2D地板上搜索未知数量的固定目标。关键的挑战是最大限度地减少搜索时间,同时确保高检测精度。我们使用多保真度高斯过程,系统地描述了在不同的高度从地板上的传感信息的传感场建模。基于感知模型,我们设计了一种称为加速多目标搜索(EMTS)的新算法,该算法(i)解决了覆盖率-准确度的权衡:在离地板较远的位置处采样提供了较宽的视场但较不精确的测量,(ii)在规定的精确度内计算地板的占用图并从搜索空间中快速消除未占用区域,以及(iii)有效地行进以收集用于目标检测的所需样本。我们严格地分析了算法,并建立正式的目标检测精度和预期的检测时间的保证。我们使用模拟的多目标搜索场景来说明该算法。
2020-05-18 cs.RO cs.SY eess.SY
Large Scale Variable Fidelity Surrogate Modeling
工程师们广泛使用高斯过程回归框架来构建代理模型,旨在替代计算昂贵的物理模型,同时探索设计空间。由于高斯过程的特性,我们可以在构建代理模型时使用高保真度函数(物理现象的昂贵且准确的表示)和低保真度函数(相同物理现象的廉价且粗略的近似)生成的样本。然而,如果样本大小大于几千个点,则高斯过程回归的计算成本在学习的情况下和在预测计算的情况下都变得过高。我们提出了两种方法来规避这种计算负担:一种方法是基于样本协方差阵的Nyström近似,另一种方法是基于一个智能使用的黑盒,可以评估一个低保真度的功能在飞行中的任何一点的设计空间。我们使用一些人工和真实的问题,包括旋转盘形状的工程优化,研究所提出的方法的性能。
2017-07-12 stat.AP stat.ME stat.ML
Gaussian process modeling for stochastic multi-fidelity simulators, with application to fire safety
为了评估在火灾情况下疏散建筑物的可能性,标准方法包括使用有限差分法模拟火灾的传播,并考虑火灾的随机行为,使得模拟的结果是不确定的。网格精细度调整了数值模型的质量和计算成本。根据网格的精细程度,一次模拟可以持续几分钟到几周。在这篇文章中,我们专注于预测火灾模拟器在细网格的行为,使用更便宜的结果,在粗网格。在计算机实验设计和分析的文献中,这样的问题被称为多保真度预测。我们的贡献是将Picheny和Ginsbourger(2013)和Tuo等人(2014)提出的贝叶斯多保真度模型扩展到随机模拟器的情况。
2016-05-09 stat.AP stat.ME
A graphical multi-fidelity Gaussian process model, with application to emulation of heavy-ion collisions
本文提出图形化多保真高斯过程模型GMGP,将科学依赖的DAG结构嵌入高斯过程框架,支持递归后验计算与实验设计,并通过数值实验和重离子碰撞仿真验证其优势。
2024-02-27 stat.ME
Fixed-budget optimal designs for multi-fidelity computer experiments
本工作研究多保真度计算机实验的固定预算最优设计,基于自回归高斯过程模型与多层逼近提出具有解析形式的近似最优嵌套设计,并从理论上与数值上证明其达到同等预测精度时计算成本远低于单保真度设计。
2024-05-31 stat.ME
Bi-fidelity Modeling of Uncertain and Partially Unknown Systems using DeepONets
University of Colorado(科罗拉多大学);National Renewable Energy Laboratory(国家可再生能源实验室)
大规模复杂物理系统建模的最新进展已经将研究重点转向数据驱动技术。然而,通过模拟复杂系统生成数据集可能需要大量的计算资源。同样,获取实验数据集也很困难。对于这些系统,通常计算成本低廉,但通常不准确,可以使用称为低保真模型的模型。在本文中,我们提出了一种用于复杂物理系统的双保真度建模方法,在该方法中,我们使用深度算子网络(DeepONet)(一种适用于近似非线性算子的神经网络架构),在存在来自真实系统响应的小训练数据集的情况下,对真实系统响应和低保真度响应之间的差异进行建模。我们应用的方法模型系统,具有参数的不确定性和部分未知。三个数值例子被用来显示所提出的方法建模不确定和部分未知的复杂物理系统的有效性。
2022-08-18 cs.LG stat.ML
Bifidelity data-assisted neural networks in nonintrusive reduced-order modeling
University of Iowa(爱荷华大学)
本文提出了一种新的非侵入性的缩减基方法,当廉价的低保真模型和昂贵的高保真模型。该方法依靠适当的正交分解(POD)来产生高保真度的约简基和一个浅层多层感知器来学习高保真度的约简系数。与其他方法相比,该方法的一个显著特点是将从低保真度数据中提取的特征作为输入特征,这种方法不仅提高了神经网络的预测能力,而且使高保真仿真与在线阶段解耦。由于它的非侵入性,它适用于一般的参数化问题。我们也提供了几个数值例子来说明所提出的方法的有效性和性能。
2019-02-05 cs.LG stat.ML
A Bi-fidelity DeepONet Approach for Modeling Uncertain and Degrading Hysteretic Systems
Northern Arizona University(北亚利桑那大学);University of Notre Dame(圣母大学)
针对参数不确定的退化迟滞系统,本文提出以未退化模型作为低保真数据训练 DeepONet,并学习其与真实响应的差异,从而显著提升预测精度。
2023-04-25 cs.LG stat.ML
Multi-fidelity Fourier Neural Operator for Fast Modeling of Large-Scale Geological Carbon Storage
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
针对大规模地质碳储存中高保真训练数据获取成本高的问题,提出多保真度傅里叶神经算子模型,利用网格不变特性实现跨离散化数据集的迁移学习,在大幅降低数据生成成本的同时保持高精度的压力场和CO2羽流迁移预测。
2024-01-09 cs.LG stat.ML
Context-aware surrogate modeling for balancing approximation and sampling costs in multi-fidelity importance sampling and Bayesian inverse problems
New York University(纽约大学)
多保真度方法利用低成本的代理模型来加速计算,并偶尔求助于昂贵的高保真模型来建立准确性保证。由于替代模型和高保真模型一起使用,因此替代模型的不良预测可以通过频繁求助于高保真模型来补偿。因此,在投资计算资源以提高代理模型的准确性与简单地更频繁地求助于昂贵的高保真模型之间存在权衡;然而,这种权衡被传统建模方法所忽略,传统建模方法构建的代理模型旨在取代高保真模型,而不是与高保真模型一起使用。这项工作认为,多保真度的重要性采样和理论和计算权衡增加替代模型的保真度,以构建更准确的偏置密度和样本的数量,需要从高保真模型,以补偿穷人的偏置密度。数值例子表明,这样的上下文感知的代理模型的多保真度的重要性采样具有较低的保真度比通常被设置为传统的模型约简中的容限,导致运行时加速高达一个数量级的数量级在所提出的例子。
2021-09-12 cs.LG cs.NA math.NA
Uncertainty-aware multi-fidelity surrogate modeling with noisy data
针对含噪多保真数据,本文提出不确定性感知的代理建模框架,可估计无噪声高保真模型并给出置信与预测区间,且在合成案例和风力涡轮机应用中验证有效。
2024-10-29 stat.CO stat.ME stat.ML
Hybrid modeling: Applications in real-time diagnosis
降阶模型能够准确地抽象出高保真度模型并实现更快的仿真,对于基于模型的实时诊断应用至关重要。在本文中,我们概述了一种新的混合建模方法,该方法将机器学习启发的模型和基于物理的模型相结合,从高保真模型生成降阶模型。我们正在使用这种模型进行实时诊断应用。具体来说,我们已经开发了机器学习启发的表示来生成降阶组件模型,这些模型部分地保留了原始高保真组件模型的物理解释。为了确保在训练降阶模型时学习算法的准确性,可扩展性和数值稳定性,我们使用具有自动微分功能的优化平台。训练数据通过模拟高保真模型生成。我们展示了我们的方法在铁路道岔系统的故障诊断的背景下。三个新的模型抽象的复杂性是两个数量级小于高保真模型的复杂性,无论是在方程的数量和模拟时间。数值实验和结果证明了所提出的混合建模方法的有效性。
2020-03-04 cs.LG eess.SP math.DS