Proximal Residual Flows for Bayesian Inverse Problems
TU Berlin(柏林工业大学);Institute of Mathematics(数学研究所)
本文提出一种名为近端残差流的归一化流新架构,利用近端神经网络作为平均算子的特性确保残差块可逆性,并将其扩展为条件近端残差流,用于贝叶斯逆问题中的后验重建。
2022-11-30 cs.LG
Amortized Bayesian Inference of GISAXS Data with Normalizing Flows
Helmholtz-Zentrum Dresden-Rossendorf(亥姆霍兹德累斯顿罗森多夫研究中心);European XFEL(欧洲X射线自由电子激光器);University of Siegen(锡根大学);Forschungszentrum Jülich(于利希研究中心)
掠入射小角X射线散射(GISAXS)是一种现代成像技术,用于材料研究,以研究纳米材料。成像对象的参数的重建施加了不适定的逆问题,当仅平面内GISAXS信号可用时,该逆问题进一步复杂化。传统上使用的推理算法,如近似贝叶斯计算(ABC)依赖于计算昂贵的散射模拟软件,渲染分析非常耗时。我们提出了一个基于模拟的框架,它结合了变分自动编码器和归一化流来估计其GISAXS数据的对象参数的后验分布。我们将推理管道应用于实验数据,并证明我们的方法在产生与ABC一致的结果的同时,将推理成本降低了几个数量级。
2022-10-04 cs.AI cs.LG
MIRRA: Fast, High-Fidelity Molecular Generation with Chemistry-Informed Discrete Flow Matching
Courant Institute of Mathematical Sciences, New York University(纽约大学柯朗数学科学研究所);Tandon School of Engineering, New York University(纽约大学坦登工程学院);Department of Physics, New York University(纽约大学物理系)
MIRRA是一种离散流匹配生成器,通过化学先验优化采样,在ZINC250k等数据集上显著降低分布误差、提升生成速度,聚合物测试集上也实现了更高的周期性有效性。
2026-10-14 cs.LG physics.chem-ph physics.comp-ph
Latent Bayesian Optimization via Autoregressive Normalizing Flows
Department of Computer Science and Engineering, Korea University(韩国大学计算机科学与工程系);School of Computing, KAIST(韩国科学技术院计算机科学学院)
针对潜在贝叶斯优化中的价值差异问题,提出基于归一化流的NF-BO方法,通过SeqFlow自回归流消除重构差距,并采用动态探索概率采样策略,在分子生成任务上显著优于现有方法。
2025-04-21 cs.AI cs.LG
Bayesian Inverse Problems Meet Flow Matching: Efficient and Flexible Inference via Transformers
Skolkovo Institute of Science and Technology(斯克洛夫学院科学与技术研究所);Sberbank(储蓄银行);AI4S Center(AI4S中心);Artificial Intelligence Research Institute(人工智能研究 institute)
针对传统采样方法求解贝叶斯逆问题成本高的问题,提出融合条件流匹配与Transformer的框架,直接学习条件概率轨迹,在三类任务上实现低至1.5%的参数恢复误差,CPU上推断速度最高提升2000倍。
2025-05-16 cs.AI cs.LG
Bayesian Flow Networks for Offline Trajectory Planning
Norwegian University of Science and Technology(挪威科技大学)
该研究提出基于贝叶斯流网络(BFNs)的BFN-RL框架,可在单一概率公式内建模离散与连续轨迹空间,经实验验证其能在两类状态空间生成有效轨迹,为离线轨迹规划提供通用生成基础。
2026-08-27 cs.AI cs.LG
Physics Informed Machine Learning for Chemistry Tabulation
University at Buffalo(布法罗大学)
湍流燃烧系统的建模需要对底层化学和湍流流动进行建模。同时求解这两个系统在计算上是不允许的。相反,考虑到两个子系统演化的尺度差异,这两个子系统通常单独(重新)求解。流行的方法,如小火焰生成的流形(FGM)使用两步策略,其中控制反应动力学被预先计算并映射到低维流形,其特征在于一些反应进程变量(模型简化),然后在运行时“查找”流形,以通过流动系统估计高维系统状态。虽然现有的工作集中在这两个步骤独立,在这项工作中,我们表明,联合学习的进度变量和查找模型,可以产生更准确的结果。我们建立在基础配方和实施ChemTab,包括动态生成的热化学状态变量(低维动态源项)。我们讨论了实现这种深度神经网络架构的挑战,并通过实验证明了它的优越性能。
2022-11-06 cs.CE cs.LG physics.chem-ph
ChemTab: A Physics Guided Chemistry Modeling Framework
University at Buffalo(布法罗大学)
湍流燃烧系统的建模需要对底层化学和湍流流动进行建模。同时求解这两个系统在计算上是不允许的。相反,考虑到两个子系统演化的尺度差异,这两个子系统通常单独(重新)求解。流行的方法,如小火焰生成的流形(FGM)使用两步策略,其中控制反应动力学被预先计算并映射到低维流形,其特征在于一些反应进度变量(模型简化),然后在运行期间“查找”流形,以通过流动系统估计高维系统状态。虽然现有的工作集中在这两个步骤独立,我们表明,联合学习的进度变量和查找模型,可以产生更准确的结果。我们提出了一种深度神经网络架构,称为ChemTab,定制的联合学习任务,并通过实验证明其优于现有的最先进的方法。
2022-02-20 cs.CE cs.LG
Non-autoregressive electron flow generation for reaction prediction
反应预测是计算化学中的一个基本问题。现有的方法通常通过顺序地对令牌或图形编辑进行采样来生成化学反应,以先前生成的输出为条件。这些自回归生成方法强加了任意的输出顺序,并防止在推理过程中的并行解码。我们设计了一种新的解码器,避免了这种顺序生成和预测的反应在一个非自回归的方式。受物理化学见解的启发,我们将分子图中的边缘编辑表示为电子流,然后可以并行预测。为了捕捉反应的不确定性,我们引入潜变量来生成多模态输出。在之前的工作之后,我们在USPTO MIT数据集上评估了我们的模型。我们的模型实现了一个数量级的低推理延迟,具有最先进的前1精度和Top-K采样的可比性能。
2021-02-05 cs.LG physics.chem-ph
You say Normalizing Flows I see Bayesian Networks
University of Liège(列日大学)
规范化流已经成为一个重要的深度神经网络家族,用于对复杂的概率分布进行建模。在本文中,我们将其耦合和自回归变换层作为概率图模型进行了重新审视,并表明它们可以简化为贝叶斯网络,每个节点具有预定义的拓扑结构和可学习的密度。从这个新的角度来看,我们提供了三个结果。首先,我们证明了在一个规范化流中堆叠多个变换放松了独立性假设,并使模型分布纠缠在一起。其次,我们表明,一个根本性的飞跃的能力出现时,仿射流的深度超过3个转换层。第三,我们证明了非普适性的仿射正规化流,无论其深度。
2020-06-03 cs.LG stat.ML
ChemKANs for Combustion Chemistry Modeling and Acceleration
Department of Mechanical Engineering, Massachusetts Institute of Technology, 77 Massachusetts Ave, Cambridge, MA 02139, United States.(机械工程系,麻省理工学院)
针对燃烧化学建模与加速面临的ODE系统规模大、时间尺度分离等挑战,提出ChemKANs框架,结合化学知识增强KAN-ODE,实现模型推断鲁棒性与模拟加速(氢燃烧案例加速2倍)。
2025-08-25 cs.LG physics.chem-ph
Multiplicative Normalizing Flows for Variational Bayesian Neural Networks
University of Amsterdam(阿姆斯特丹大学);TNO Intelligent Imaging(荷兰应用科学研究组织智能成像);Canadian Institute For Advanced Research (CIFAR)(加拿大高级研究院)
我们重新解释神经网络中的乘性噪声作为辅助随机变量,增加贝叶斯神经网络的变分设置中的近似后验。我们表明,通过这种解释,它是有效的和简单的,以提高近似采用规范化流,同时仍然允许局部重新参数化和一个听话的下限。在实验中,我们表明,这种新的近似,我们可以显着改善经典的贝叶斯神经网络的平均场的预测精度以及预测的不确定性。
2017-06-12 cs.LG stat.ML
Bayesian Flow Networks
NNAISENSE
本文提出贝叶斯流网络(BFNs),通过贝叶斯推断迭代更新独立分布与神经网络输出的相互依赖分布,无需前向过程即可实现生成建模,在图像和语言建模任务中取得有竞争力或领先的性能。
2025-03-11 cs.AI cs.LG
Bayesian Flow Networks in Continual Learning
IDEAS NCBR(IDEAS国家计算智能研究中心);Jagiellonian University(雅盖隆大学);Warsaw University of Technology(华沙理工大学);Autonomous University of Barcelona(巴塞罗那自治大学)
本文探究贝叶斯流网络(BFN)在持续学习中的适用性,通过实验验证其在非平稳数据上的生成能力。
2023-10-18 cs.CV cs.LG stat.ML
Bayesian Filtering in Physical Systems via Test-time Trained Flow Matching
Westlake University(西湖大学);Zhejiang University(浙江大学)
本文提出信念流滤波器(BFF),通过测试时梯度下降更新流匹配模型权重以跟踪后验演化,绕过粒子表示和高斯假设的限制,在多个物理系统基准上取得最优性能。
2026-09-22 cs.AI cs.LG stat.ML
Traffic Flow Prediction via Variational Bayesian Inference-based Encoder-Decoder Framework
Beijing Technology and Business University(北京工商大学);National Engineering Laboratory for Agri-Product Quality Traceability(农产品质量安全追溯技术国家工程实验室)
准确的交通流预测是掌握交通状况、制定出行计划的前提,是智能交通研究的热点。交通流的速度会受到道路状况、天气、节假日等因素的影响,而且采集交通流信息的传感器会受到光照、采集时间、遮挡等环境因素的干扰,因此,实际交通系统中的交通流是复杂的、不确定的,难以准确预测。提出了一种基于变分贝叶斯推理的深度编码器-解码器预测框架。将变分推理与门控递归单元(GRU)相结合构建贝叶斯神经网络,作为编码器-解码器框架的深层神经网络单元,挖掘交通流的内在动力学特性。然后,变分推理引入到多头注意力机制,以避免噪声引起的预测精度恶化。该模型在广州城市交通流数据集上取得了较好的预测性能,尤其是在长期预测时。
2022-12-14 cs.IR cs.LG
Bayesian Learning via Neural Schrödinger-Föllmer Flows
Cambridge University(剑桥大学);University of Potsdam(波茨坦大学);University Of Bath(巴斯大学)
在这项工作中,我们探索了一个新的框架,近似贝叶斯推断在大型数据集的基础上随机控制(即薛定谔桥)。我们提倡随机控制作为一个有限的时间和低方差替代流行的稳态方法,如随机梯度Langevin动力学(SGLD)。此外,我们讨论和适应这个框架的现有理论保证,并建立连接到现有的VI例程在基于PDE的模型。
2022-10-25 cs.LG stat.ML
BoFire: Bayesian Optimization Framework Intended for Real Experiments
Evonik Operations GmbH(赢创运营有限公司);Boehringer Ingelheim Pharma GmbH & Co. KG(勃林格殷格翰制药有限责任公司);Heidelberg University(海德堡大学);Imperial College London(伦敦帝国学院);Chemovator GmbH(凯莫瓦托有限公司);BASF SE(巴斯夫股份公司)
本文提出开源 Python 框架 BoFire,将贝叶斯优化与实验设计结合,通过高可配置性和 JSON 序列化支持化学研发及自主实验室的工业落地。
2024-08-09 cs.LG math.OC stat.ML
Full-Atom Peptide Design via Riemannian-Euclidean Bayesian Flow Networks
针对现有肽设计扩散/流匹配模型的离散-连续更新失配、侧链扭转角单峰假设缺陷,提出全原子肽设计贝叶斯流网络PepBFN,通过连续参数建模、多峰分布适配与黎曼流建模实现更优的肽生成效果。
2025-11-19 cs.LG
Accelerated Sequential Flow Matching: A Bayesian Filtering Perspective
Georgia Institute of Technology(佐治亚理工学院)
本文提出基于贝叶斯过滤的序列贝叶斯流匹配框架,通过学习概率流在时间步间传输后验分布,实现高效采样,提升实时流处理中的推断效率。
2026-05-13 cs.LG
SIReN-VAE: Leveraging Flows and Amortized Inference for Bayesian Networks
Stellenbosch University(斯泰伦博斯大学);National Institute for Theoretical and Computational Sciences(国家理论与计算科学研究所)
变分自编码器的初始工作假设具有简单分布的独立潜变量。随后的工作探索了合并更复杂的分布和依赖结构:包括编码器网络中的规范化流允许潜变量非线性地纠缠,为近似后验创建更丰富的分布类别,并且堆叠潜变量层允许为生成模型指定更复杂的先验。这项工作探讨将任意依赖结构,指定的贝叶斯网络,到VAE。这是通过用图形残差流扩展先验和推理网络来实现的-残差流通过掩蔽流的残差块的权重矩阵来编码条件独立性。我们比较了我们的模型在几个合成数据集上的性能,并展示了它在数据稀疏环境中的潜力。
2022-04-23 cs.LG stat.ML
Bayesian inference of mean velocity fields and turbulence models from flow MRI
University of Cambridge(剑桥大学)
该研究提出一种贝叶斯逆RANS方法,通过血流MRI数据联合重建时均流场并学习湍流模型参数,成功应用于FDA喷嘴湍流射流,避免过拟合,且适用于可微的任意湍流模型。
2024-12-15 cs.LG math.OC physics.flu-dyn
Adapting Neural Posterior Estimators for Simulation-Based Inference in Agent-Based Models
本文提出在基于代理模型的贝叶斯推断中使用测试时间训练归一化流的方法,通过对抗分布偏移提升参数推断的实时调整能力。
2026-10-27 cs.LG cs.MA
Model-Informed Flows for Bayesian Inference
Manning College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文揭示VIP与满秩高斯可精确表示为带平移项和先验输入的前向自回归流,并据此提出模型信息流MIF架构,在层次与非层次基准上实现更优后验近似。
2025-11-04 cs.LG stat.ML
Uncertainty quantification of molecular property prediction using Bayesian neural network models
KAIST(韩国科学技术院);Seoul National University(首尔国立大学);KAIST Institute for Artificial Intelligence(韩国科学技术院人工智能研究所)
在化学领域,深度神经网络模型越来越多地用于各种应用,如分子性质预测、新型分子设计和规划化学反应。尽管最先进的模型和算法的使用迅速增加,但深度神经网络模型在实际应用中的预测效果往往很差,因为模型性能高度依赖于训练数据的质量。在分子分析领域,数据大多来自复杂的化学实验或近似的数学方程,数据的质量可能受到质疑,本文将贝叶斯神经网络用于分子性质预测,量化预测的不确定性。我们估计模型驱动和数据驱动的不确定性,证明了有用的不确定性量化作为质量检查和置信度指标与三个实验。我们的研究结果表明,不确定性量化是必要的,更可靠的分子应用和贝叶斯神经网络模型可以是一个实用的方法。
2018-11-19 cs.LG physics.chem-ph stat.ML
Nonlinear Bayesian Doppler Tomography for Simultaneous Reconstruction of Flow and Temperature
本文提出非线性贝叶斯断层框架,通过线积分光谱同时重建发射率、离子温度和流速,采用非线性高斯过程断层成像结合拉普拉斯近似,稳定低发射率区域的流速重建,适用于RT-1装置的相干光谱成像测量。
2026-03-16 cs.LG physics.plasm-ph
Bayesian inference via sparse Hamiltonian flows
University of British Columbia(不列颠哥伦比亚大学)
贝叶斯核心集是数据的一个小的加权子集,在贝叶斯推断期间替换完整的数据集,目的是降低计算成本。虽然过去的工作经验表明,经常存在一个低推理误差的核心集,有效地构建这样的核心集仍然是一个挑战。当前的方法往往速度很慢,需要在核心集构建后进行二次推理步骤,并且不提供数据边缘证据的界限。在这项工作中,我们介绍了一种新的方法-稀疏哈密顿流-解决所有这三个挑战。该方法首先对数据进行均匀子采样,然后优化由核心集权重参数化的哈密顿流,并包括周期性动量准刷新步骤。理论结果表明,该方法能够指数压缩的数据集在一个代表性的模型,和准刷新步骤减少库尔贝克-莱布勒散度的目标。真实的和合成的实验表明,稀疏哈密顿流提供准确的后验近似显着减少运行时间相比,竞争的动态系统为基础的推理方法。
2023-01-12 cs.LG stat.CO stat.ML
Deterministic Langevin Monte Carlo with Normalizing Flows for Bayesian Inference
Tsinghua University(清华大学);University of California(加利福尼亚大学);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
我们提出了一个通用的贝叶斯推断算法昂贵的可能性,取代随机项的朗之万方程与确定性的密度梯度项。粒子密度是从当前的粒子位置使用归一化流(NF),这是可微的,并在高维具有良好的泛化性能进行评估。我们利用NF预处理和基于NF的Metropolis-Hastings更新来加快收敛速度。我们在各种例子中表明,该方法是有竞争力的最先进的采样方法。
2022-10-13 cond-mat.stat-mech cs.LG physics.data-an
Normalizing Flow Regression for Bayesian Inference with Offline Likelihood Evaluations
University of Helsinki(赫尔辛基大学);Washington University in St. Louis(圣路易斯华盛顿大学)
针对计算成本高昂的似然评估下的贝叶斯推理挑战,提出归一化流回归(NFR)离线推理方法,通过对数密度评估回归直接生成可处理后验近似,在合成基准和实际应用中表现优异。
2025-04-15 cs.LG stat.ML
Normalizing Flows for Hierarchical Bayesian Analysis: A Gravitational Wave Population Study
University of Amsterdam(阿姆斯特丹大学);Flatiron Institute(熨斗研究所);Princeton University(普林斯顿大学)
我们建议参数化人口分布的引力波人口建模框架(层次贝叶斯分析)与规范化流程。我们首先证明了这种方法的优点说明性实验,然后分析了最新的LIGO/Virgo数据发布的四个参数:初级质量,次级质量,红移,和有效自旋。我们的研究结果表明,尽管小而臭名昭著的噪声数据集,后验预测分布(假设在流动的参数先验)所观察到的引力波人口恢复结构,同意与强大的以前的现象学建模结果,同时不太容易受到不太灵活的模型引入的偏见。因此,该方法形成了一个有前途的灵活,可靠的替代人口推断分布,即使数据是高度嘈杂的。
2022-12-29 astro-ph.HE astro-ph.IM cs.LG
Fully Automatic Brain Tumor Segmentation using a Normalized Gaussian Bayesian Classifier and 3D Fluid Vector Flow
University of Alberta(阿尔伯塔大学)
从磁共振图像(MRI)分割脑肿瘤是测量肿瘤对治疗的反应的重要任务。然而,自动分割非常具有挑战性。提出了一种基于归一化高斯贝叶斯分类和新的三维流体矢量流(FVF)算法的脑肿瘤自动分割方法。在我们的方法中,归一化高斯混合模型(NGMM)的建议,并用于健康的脑组织建模。利用高斯贝叶斯分类器从测试脑MR图像中获取高斯贝叶斯脑图(GBBM)。进一步处理GBBM以初始化3D FVF算法,该算法分割脑肿瘤。该算法有两个主要贡献。首先,我们提出了一个NGMM模型健康的大脑。其次,我们将我们的2D FVF算法扩展到3D空间,并将其用于脑肿瘤分割。所提出的方法是在一个公开的数据集上进行验证。
2019-05-01 cs.CV cs.LG cs.MM
Batch Bayesian Optimization via Particle Gradient Flows
Imperial College London(伦敦帝国理工学院);University of Manchester(曼彻斯特大学);University of Edinburgh(爱丁堡大学);Alan Turing Institute(艾伦·图灵研究所)
贝叶斯优化(BO)方法试图找到目标函数的全局最优解,这些目标函数只能作为黑盒或评估成本很高。这样的方法为目标函数构建代理模型,通过贝叶斯推断量化该代理中的不确定性。通过在每个步骤最大化采集函数来顺序地确定客观评估。然而,由于采集函数的非凸性,特别是在每一步都选择多个点的批量贝叶斯优化的情况下,这个辅助优化问题可能是非常不容易解决的。在这项工作中,我们重新制定一批BO作为一个优化问题的空间上的概率测度。我们构造了一个新的捕获函数的基础上多点的期望改进,这是凸的空间上的概率测度。解决这一“内部”优化问题的实际方案自然会出现梯度流的目标函数。我们证明了这种新方法在不同基准函数上的有效性,并与最先进的批处理BO方法进行比较。
2023-01-09 cs.LG stat.ML
Variational Bayesian Flow Network for Graph Generation
School of Computer Science, Wuhan University, Wuhan, China(武汉大学计算机学院);Department of Computing, Macquarie University, Sydney, Australia(麦觉奎大学计算系);Griffith University, Gold Coast, Australia(格里菲斯大学);Wuhan University Shenzhen Research Institute, Shenzhen, China(武汉大学深圳研究院)
变分贝叶斯流网络通过结构化精度和线性系统求解,实现节点与边的耦合生成,提升图生成的保真度和多样性。
2026-09-24 cs.LG
Bayesian Structure Learning with Generative Flow Networks
Mila(米拉研究所);Université de Montréal(蒙特利尔大学);Technical University of Munich(慕尼黑工业大学);KTH Stockholm(斯德哥尔摩KTH皇家理工学院)
在贝叶斯结构学习中,我们感兴趣的是从数据中推断贝叶斯网络的有向无环图(DAG)结构上的分布。定义这样的分布是非常具有挑战性的,由于组合大的样本空间,并且通常需要基于MCMC的近似。最近,一类新的概率模型,称为生成流网络(GFlowNets),已被引入作为离散和复合对象(如图)的生成建模的一般框架。在这项工作中,我们建议使用GFlowNet作为MCMC的替代方案,用于近似贝叶斯网络结构上的后验分布,给定观测数据集。从这个近似分布生成样本DAG被视为顺序决策问题,其中基于学习的转移概率,一次构造一个边。通过对模拟数据和真实数据的评估,我们表明,我们的方法,称为DAG-GFlowNet,提供了一个准确的近似后验的DAG,它优于基于MCMC或变分推理的其他方法相比。
2022-06-28 cs.LG stat.ML
Efficient Bayesian Sampling Using Normalizing Flows to Assist Markov Chain Monte Carlo Methods
Flatiron Institute(熨斗研究所);Center for Data Science, New York University(纽约大学数据科学中心);Stanford University(斯坦福大学);Courant Institute, New York University(纽约大学柯朗研究所)
规范化流可以生成复杂的目标分布,因此在贝叶斯统计的许多应用中显示出希望,作为MCMC的替代或补充。由于事先没有来自目标后验分布的数据集可用,因此通常使用仅需要来自基础分布的样本的反向Kullback-Leibler(KL)发散来训练流程。当后验复杂且难以用未经训练的归一化流进行采样时,该策略可能表现不佳。在这里,我们探索了一种独特的训练策略,使用直接库尔贝克-莱布勒散度作为损失,其中来自后验的样本通过以下方式生成:(i)在后验上使用归一化流来辅助局部MCMC算法以加速其混合速率,以及(ii)使用以这种方式生成的数据来训练流。该方法只需要有限数量的\textit{a~priori}输入后验,并可用于估计模型验证所需的证据,我们举例说明。
2021-07-16 cs.LG physics.data-an stat.ML
Flow Matching for Fast Posterior Sampling in Bayesian Inverse Problems
本文提出用条件流匹配替代MCMC进行贝叶斯逆问题后验采样,实现摊销快速推断,并给出可计算的精度估计及渐近精确的混合采样器,在数值示例中验证了效果。
2026-10-30 cs.LG cs.NA math.NA
Flow-based Bayesian filtering for high-dimensional nonlinear stochastic dynamical systems
School of Mathematical Sciences, Tongji University(同济大学数学科学学院);Department of Mathematics, Shanghai Normal University(上海师范大学数学系)
针对高维非线性随机动力系统的贝叶斯滤波问题,提出基于流的贝叶斯滤波器(FBF),利用归一化流构建具有高斯滤波分布的潜在线性状态空间模型,实现高效数据驱动的滤波。
2025-03-05 cs.LG cs.NA math.NA
Ensembling geophysical models with Bayesian Neural Networks
University of Cambridge(剑桥大学);Lancaster University(兰卡斯特大学);British Antarctic Survey(英国南极调查局)
地球物理模型的集合提高了投影精度并表达了不确定性。我们开发了一种新的数据驱动的集成策略,使用贝叶斯神经网络,推断时空变化的模型权重和偏差,同时考虑异方差的不确定性的观察相结合的地球物理模型。这产生了更准确和不确定性感知的预测,而不会牺牲可解释性。应用于15个化学气候模型的集成总柱臭氧的预测,我们发现贝叶斯神经网络集成(BayNNE)优于现有的集成方法,实现了49.4%的时间外推的RMSE减少,和67.4%的RMSE减少极地数据空隙,相比加权平均值。不确定性也得到了很好的表征,我们的外推验证数据集中90.6%的数据点在2个标准差内,98.5%在3个标准差内。
2020-10-07 cs.LG physics.geo-ph stat.AP
Learning Informative Prior with Infinite-Dimensional Continuous Normalizing Flow for Bayesian Inverse Problem
Academy of Mathematics and Systems Sciences, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
本文针对无穷维贝叶斯推理问题,提出基于无穷维连续归一化流的先验模型,结合训练与采样算法,在三类逆问题上验证了算法有效性。
2026-09-24 cs.LG cs.NA math.NA
Convolutional neural networks as an alternative to Bayesian retrievals
Kapteyn Astronomical Institute, University of Groningen(格罗宁根大学卡普坦天文研究所);Netherlands Space Research Institute (SRON)(荷兰空间研究所(SRON));Centre for Exoplanet Science, University of Edinburgh(爱丁堡大学系外行星科学中心);School of GeoSciences, University of Edinburgh(爱丁堡大学地球科学学院)
目前正在用贝叶斯检索技术分析系外行星观测。由于所使用的模型的计算负荷,需要在模型复杂性和计算时间之间进行折衷。分析来自未来设施的数据,将需要更复杂的模型,这将增加检索的计算量,促使寻找更快的方法来解释系外行星观测。我们的目标是将系外行星传输光谱的机器学习检索与嵌套采样进行比较,并了解机器学习是否可以像贝叶斯检索一样可靠,同时可以更快地获得统计上显著的光谱样本。我们生成网格的合成透射光谱和相应的行星和大气参数,一个使用自由化学模型,另一个使用平衡化学模型。每个网格随后被重新分组以模拟HST/WFC 3和JWST/NIRSpec观测,总共产生四个数据集。卷积神经网络(CNN)用每个数据集进行训练。我们使用嵌套采样和机器学习对模型类型和仪器的每种组合的1,000个模拟观测值进行检索。我们还使用这两种方法来执行检索真实的WFC 3透射光谱。最后,我们测试了机器学习和嵌套采样对我们模型中不正确假设的鲁棒性。CNN在参数的预测值和真实值之间达到较低的决定系数。嵌套采样低估了约8%检索的不确定性,而CNN则正确估计了它们。对于真实的WFC 3观测结果,嵌套采样和机器学习在$2σ$内一致,约86%的光谱。当使用不正确的假设进行检索时,嵌套抽样低估了约12%至约41%的不确定性,而对于CNN,这总是低于约10%。
2022-03-03 astro-ph.EP astro-ph.IM cs.LG
Population-Aware Physics-Informed Neural Particle Flow for Robust Spacecraft Bayesian Navigation
Iowa State University(爱荷华州立大学)
提出群体感知的物理信息神经粒子流(PA-PINPF),通过群体编码器增强粒子更新,在贝叶斯后验传输中优于标准方法。
2026-08-12 cs.LG
Conditional Flow Matching for Bayesian Posterior Inference
University of Chicago, Booth School of Business(芝加哥大学布斯商学院)
本文提出一种基于流匹配的生成多变量后验采样器,通过动态块三角速度场实现后验推断,无需Likelihood评估,且能高效生成贝叶斯可信集。
2026-04-01 cs.LG stat.ML
Sequential Bayesian Design for Efficient Surrogate Construction in the Inversion of Darcy Flows
School of Mathematics and Statistics(数学与统计学学院);Central South University(中南大学);Institute of Mathematics(数学研究所);Henan Academy of Sciences(河南省科学院)
针对Darcy流PDE反演中正演求解昂贵、全局代理构建成本高的问题,提出SBD-LAS,用序贯贝叶斯设计构建聚焦似然高概率区的局部精确代理并加速计算。
2025-07-23 cs.LG stat.ML
Accelerated Bayesian parameter estimation and model selection for gravitational waves with normalizing flows
Mullard Space Science Laboratory(穆拉德空间科学实验室);University College London(伦敦大学学院);Utrecht University(乌得勒支大学);Nikhef(荷兰国家亚原子物理研究所);Center for Computational Astrophysics(计算天体物理中心);Flatiron Institute(弗拉蒂伦研究所);Johns Hopkins University(约翰斯·霍普金斯大学);Alan Turing Institute(阿兰·图灵研究所)
本研究提出结合Jim归一化流增强MCMC采样器与学习型调和均值估计器的加速流水线,实现引力波贝叶斯参数估计与模型选择,在单GPU上达到16核CPU传统方法的精度,计算速度最高提升15倍,且代码开源可复现。
2024-10-31 astro-ph.HE astro-ph.IM cs.LG
Joint Bayesian Inference of Graphical Structure and Parameters with a Single Generative Flow Network
本文提出名为JSP-GFN的方法,用单个生成流网络联合推断贝叶斯网络的图结构与参数,该方法在模拟和真实数据上的表现优于现有方法,可准确近似联合后验分布。
2026-08-31 cs.LG stat.ML
Conditional Wasserstein Distances with Applications in Bayesian OT Flow Matching
Technical University of Berlin(柏林技术大学)
本文提出条件Wasserstein距离,推导其理论性质与流常微分方程,并通过松弛该距离扩展OT流匹配方法,用于求解贝叶斯逆问题,在逆问题和类别条件图像生成中验证了数值优势。
2025-08-27 cs.LG math.OC
Symmetry-Aware Bayesian Flow Networks for Crystal Generation
Institute of Theoretical Informatics, Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院理论信息学研究所);Institute of Nanotechnology, Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院纳米技术研究所)
针对传统晶体材料发现效率低的问题,提出SymmBFN对称感知贝叶斯流网络,准确复现实验晶体空间群分布,生成稳定结构速度至少是次优方法的50倍,还能实现性质调控生成,为加速晶体材料发现提供有效工具。
2025-02-14 cond-mat.mtrl-sci cs.LG
Bayesian Gaussian Process ODEs via Double Normalizing Flows
South China University of Technology(南方科技大学);Tsinghua University(清华大学);Xiamen University(厦门大学);Columbia University(哥伦比亚大学)
针对标准GPODE表示复杂场景能力受限的问题,提出利用双重归一化流重参数化ODE向量场并优化后验推断,显著提升了模型准确性与不确定性估计能力。
2025-08-07 cs.LG stat.ML
Emulating compact binary population synthesis simulations with uncertainty quantification and model comparison using Bayesian normalizing flows
Center for Interdisciplinary Exploration and Research in Astrophysics(跨学科天体物理探索与研究中心);Northwestern University(西北大学);The NSF-Simons AI Institute for the Sky (NSF-Simons SkAI)(NSF-模拟斯诺人工智能天空研究所)
本研究提出基于贝叶斯归一化流的紧致双星族合成模拟方法,可量化并边缘化模拟不确定性,在双黑洞族模拟中验证了效果,可应用于引力波星表推断与特征预测场景。
2025-09-03 astro-ph.HE cs.LG gr-qc
A Bayesian Multiscale Deep Learning Framework for Flows in Random Media
University of Notre Dame(圣母大学)
由多尺度偏微分方程(PDE)控制的复杂系统的细尺度模拟计算量很大,已经开发了各种多尺度方法来解决这些问题。此外,它是具有挑战性的开发精确的代理和不确定性量化模型的随机多尺度偏微分方程使用有限的训练数据的高维问题。在这项工作中,为了解决这些挑战,我们引入了一种新的混合深度学习和多尺度方法,用于训练数据有限的随机多尺度偏微分方程。为了演示的目的,我们专注于多孔介质流动问题。我们使用图像到图像的监督深度学习模型来学习输入渗透率场和多尺度基函数之间的映射。我们引入贝叶斯方法,这个混合框架,使我们能够执行不确定性量化和传播任务。这种混合方法的性能进行了评估与不同的固有维数的渗透率场。数值结果表明,混合网络可以有效地预测高维输入。
2021-06-22 cs.LG physics.comp-ph
Probabilistic Bayesian optimal experimental design using conditional normalizing flows
Georgia Institute of Technology(佐治亚理工学院)
针对高维二元贝叶斯最优实验设计的计算与非凸难题,提出联合训练条件归一化流并以Bernoulli分布概率优化设计的方法,并在高维MRI采集任务中验证。
2024-02-28 cs.CV cs.LG
Constraining the Reionization History using Bayesian Normalizing Flows
Romanian Institute of Science and Technology(罗马尼亚科学技术研究院)
下一代21厘米巡天为宇宙结构形成的早期阶段打开了一扇新窗口,并提供了关于再电离时代(EoR)的新见解。然而,21厘米信号的非高斯性质以及这些调查产生的大量数据将需要更先进的技术,能够有效地提取必要的信息来约束宇宙的再电离历史。在本文中,我们提出了使用贝叶斯神经网络(BNNs)预测后验分布的四个天体物理学和宇宙学参数。除了实现最先进的预测性能,所提出的方法提供了准确的估计参数的不确定性和推断它们之间的相关性。此外,我们证明了归一化流(NF)与BNN相结合的优势,能够模拟更复杂的输出分布,从而捕获关键信息作为天体物理和宇宙学数据集的参数条件密度分布中的非高斯性。最后,我们提出了一种新的校准方法,在训练后使用归一化流来产生可靠的预测,并且我们证明了这种方法在计算成本和预测性能方面的优势。
2020-05-14 astro-ph.CO cs.LG
Neural Galerkin Normalizing Flows for Bayesian Inference of Diffusions with Inaccessible Boundaries
CSQI École Polytechnique Fédérale de Lausanne(CSQI瑞士联邦理工学院)
提出一种新的归一化流架构,通过神经Galerkin框架求解Fokker-Planck方程,学习扩散过程在两次观测之间的转移密度函数,从而高效实现贝叶斯推断。
2026-06-03 cs.LG stat.ML
Improving Bayesian inference in PTA data analysis: importance nested sampling with Normalizing Flows
INAF(意大利国家天体物理研究所)
本文提出在 Enterprise 框架中集成基于 normalizing flow 的 i-nessai 嵌套采样器,用于 PTA 数据的贝叶斯推断,在保证后验与证据准确性的同时,将运行时间最多缩短三个数量级。
2025-11-03 astro-ph.CO astro-ph.HE astro-ph.IM