Solving Bayesian Inverse Problems via Variational Autoencoders
Oden Institute for Computational Engineering and Sciences(奥登计算工程与科学研究所);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
近年来,机器学习领域在追求模拟真实世界数据生成过程方面取得了惊人的进展。这种成功的一个显著例子是变分自动编码器(VAE)。在这项工作中,随着视角的微小转变,我们利用和适应VAE用于不同的目的:科学逆问题中的不确定性量化。我们介绍UQ-VAE:一种灵活的、自适应的、混合数据/模型通知的框架,用于训练神经网络,该神经网络能够对表示感兴趣的未知参数的后验分布进行快速建模。具体来说,从基于发散的变分推断,我们的框架是派生的,使得大多数的信息通常存在于科学的逆问题是充分利用在训练过程中。此外,该框架包括一个可调节的超参数,允许选择后验模型和目标分布之间的距离概念。这在控制优化如何指导后验模型的学习方面引入了更多的灵活性。此外,该框架具有固有的自适应优化属性,通过学习后验不确定性而出现。
2021-12-28 cs.LG eess.IV stat.ML
Meta Learning as Bayes Risk Minimization
Preferred Networks, Inc.(优选网络公司)
元学习是一系列使用一组相互关联的任务来学习模型的方法,该模型可以从可能较小的上下文数据集中快速学习新的查询任务。在这项研究中,我们使用概率框架来形式化两个任务相关的意义,并将元学习问题重新构建为贝叶斯风险最小化(BRM)问题。在我们的公式中,BRM最优解由预测分布给出,该预测分布是根据以上下文数据集为条件的任务特定潜变量的后验分布计算的,这证明了神经过程的哲学。然而,神经过程中的后验分布违反了后验分布随上下文数据集变化的方式。为了解决这个问题,我们提出了一种新的高斯近似的后验分布,推广后的线性高斯模型。与神经过程不同,我们对后验分布的近似以与真实后验分布相同的速率收敛到最大似然估计。我们还展示了我们的方法在基准数据集上的竞争力。
2020-06-02 cs.LG stat.ML
Robust posterior inference when statistically emulating forward simulations
University of Auckland(奥克兰大学)
科学分析通常依赖于缓慢但准确的正向模型,用于以已知模型参数为条件的可观测数据。虽然存在各种模拟方案来近似这些缓慢的计算,但这些方法只有在近似被很好地理解和控制时才是安全的。本次研讨会提交审查和更新以前发表的方法,已被用于宇宙学模拟,(1)训练仿真器,同时估计后验概率与MCMC和(2)明确传播仿真误差到模型参数的后验概率的错误。我们演示了如何将这些技术应用于快速估计后验分布的$Λ$ CDM宇宙学模型的参数,同时也衡量的仿真器近似的鲁棒性。
2020-04-24 astro-ph.CO astro-ph.IM cs.LG
GRAPE: Gradient Refinement and Progress-Aware Exploitation for Query-Efficient High-Dimensional Bayesian Optimization
School of Artificial Intelligence(人工智能学院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对高维黑箱函数优化的查询效率问题,提出GRAPE两阶段框架,经理论与实验验证,在黑箱对抗攻击和大语言模型提示优化任务中表现优于基线方法。
2026-08-27 cs.AI cs.LG stat.ML
The good, the bad, and the ugly: Bayesian model selection produces spurious posterior probabilities for phylogenetic trees
贝叶斯方法在分析大型数据集时会产生虚假的高后验概率,但这种过度自信的确切原因尚不清楚。一般来说,贝叶斯选择错误指定的模型的性能知之甚少,即使这是很大的科学兴趣,因为模型在真实的数据分析中从来都不是真的。在这里,我们描述了贝叶斯模型选择的渐近行为,并表明当竞争模型同样错误时,贝叶斯模型选择在大型数据集中表现出令人惊讶的极化行为,全力支持一个模型,同时拒绝其他模型。如果一个模型比另一个模型的错误稍小,那么当数据量增加时,错误较少的模型最终会获胜,但该方法可能在变得可靠之前变得过于自信。我们认为,这种极端的行为可能是进化树的虚假高后验概率的一个主要因素。我们的研究结果的哲学意义的贝叶斯模型选择的应用,以评估相反的科学假设还有待探讨,在类似的情况下,非贝叶斯方法的行为。
2018-10-12 math.ST q-bio.PE stat.TH
Generalized Posteriors in Approximate Bayesian Computation
复杂模拟器已经成为许多科学学科中无处不在的工具,为自然和社会现象提供高保真、隐式的概率模型。不幸的是,它们通常缺乏常规统计分析所需的易处理性。近似贝叶斯计算(ABC)已经成为基于模拟的推理中的关键方法,其中真实模型的似然性和后验是使用来自模拟器的样本来近似的。在本文中,我们绘制ABC和广义贝叶斯推断(GBI)之间的联系。首先,我们将ABC中的接受/拒绝步骤重新解释为隐式定义的错误模型。然后,我们认为,这些隐式误差模型将不可避免地被错误指定。虽然ABC后验通常被视为近似标准贝叶斯后验的必要之恶,但这允许我们将ABC重新解释为潜在的鲁棒化策略。这使我们建议在ABC中使用GBI,这是我们根据经验探索的一个用例。
2021-02-23 stat.CO stat.ME stat.ML
Accelerating Posterior Inference from Pulsar Light Curves via Learned Latent Representations and Local Simulator-Guided Optimization
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Florida State University(佛罗里达州立大学);New Mexico State University(新墨西哥州立大学);NASA Goddard Space Flight Center(美国宇航局戈达德太空飞行中心)
本研究通过学习的潜在表示和局部模拟器引导优化,显著提升了脉冲星光变曲线后验推断的效率,将推断时间缩短至传统方法的1/20。
2026-02-16 astro-ph.HE stat.ML
Tractable Uncertainty for Structure Learning
University of Oxford(牛津大学)
贝叶斯结构学习允许人们捕获负责生成给定数据的因果有向无环图(DAG)上的不确定性。在这项工作中,我们提出了结构学习(TRUST)的可处理不确定性,这是一个近似后验推理的框架,它依赖于概率电路作为我们后验信念的表示。与基于样本的后验近似相比,我们的表示可以捕获更丰富的DAG空间,同时还能够通过一系列有用的推理查询来追溯不确定性。我们的经验表明,概率电路可以被用作结构学习方法的增强表示,从而提高推断结构的质量和后验不确定性。条件查询应答的实验结果进一步证明了TRUST的表示能力的实际效用。
2022-07-01 cs.AI cs.LG stat.ML
Sampling-Based Accuracy Testing of Posterior Estimators for General Inference
Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);CIELA Institute(CIELA研究所);Flatiron Institute Center for Computational Mathematics(弗拉蒂龙研究所计算数学中心)
本文提出 TARP 覆盖率测试,通过随机点与采样估计生成式后验估计器的覆盖概率,无需后验评估,可在高维空间中识别现有方法无法发现的不准确推断。
2023-06-02 astro-ph.IM cs.LG stat.ME
TabMGP: Martingale Posterior with TabPFN
Monash University(莫纳什大学);University of Hong Kong(香港大学);University College London(伦敦大学学院)
提出TabMGP方法,利用TabPFN作为预测规则构建马氏后验,为表格数据提供具有近名义覆盖率的可信集,优于手工MGP构造和标准贝叶斯基线。
2026-05-28 stat.CO stat.ME stat.ML
Posterior Inference in Latent Space for Scalable Constrained Black-box Optimization
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
本文将约束黑盒优化转化为后验推断问题,在生成模型的潜在空间中进行推断,通过训练流模型和扩散模型提升候选点搜索效率,实验证明在合成和现实任务中性能优越。
2026-05-07 cs.LG stat.ML
Incorporating Expert Prior Knowledge into Experimental Design via Posterior Sampling
National University of Singapore(新加坡国立大学);Deakin University(迪肯大学);University of Oxford(牛津大学)
科学实验通常由于复杂的实验准备和处理而昂贵。因此,试验设计涉及的任务是通过使用尽可能少的实验来找到最佳的实验输入,从而产生期望的输出。实验者往往可以获得关于全局最优解的位置的知识。然而,他们不知道如何利用这些知识来加速试验设计。在本文中,我们采用了试验设计的贝叶斯优化技术,因为贝叶斯优化已经建立了自己作为一个有效的工具,优化昂贵的黑箱功能。同样,如何将专家关于全局最优解的先验知识结合到贝叶斯优化过程中是未知的。为了解决这个问题,我们表示专家知识的全局最优通过放置一个先验分布,然后我们推导出其后验分布。通过对全局最优解的后验分布进行后验抽样,提出了一种有效的贝叶斯优化方法。我们从理论上分析了算法的收敛性,并讨论了引入专家先验知识的鲁棒性。我们通过优化合成函数和调整分类器的超参数以及合成短聚合物纤维的真实实验来评估我们的算法的效率。结果清楚地表明了我们所提出的方法的优点。
2020-02-26 cs.LG stat.ML
Neural Clustering Processes
Columbia University(哥伦比亚大学);Google(谷歌)
概率聚类模型(或等价地,混合模型)是无数统计模型中的基本构建块,并且涉及离散空间上的潜在随机变量。对于这些模型,后验推理方法可能不准确和/或非常慢。在这项工作中,我们介绍了使用来自聚类数据集的任何生成模型的标记样本训练的深度网络架构。在测试时,网络为任意大小的任何新数据集生成聚类标签的近似后验样本。我们开发了两种互补的方法来完成这项任务,每个数据集需要O(N)或O(K)的网络前向传递,其中N是数据集大小,K是聚类数。与以前的方法不同,我们的方法从一个定义良好的后验样本中抽取所有数据点的标签,并且可以学习非参数贝叶斯后验,因为它们不限制混合成分的数量。作为一个科学应用,我们提出了一种新的方法,神经尖峰分选高密度多电极阵列。
2020-06-23 cs.LG stat.ML
Posterior Sampling with Denoising Oracles via Tilted Transport
Courant Institute of Mathematical Sciences, New York University(纽约大学柯朗数学科学研究所);Center for Data Science, New York University(纽约大学数据科学中心);Flatiron Institute(弗莱堡研究所)
本文提出倾斜传输技术,利用去噪预言机和对数似然的二次结构将线性逆问题的后验采样转化为更易采样的强对数凹后验,并验证了其在高维模型上的有效性。
2024-06-30 cs.LG math.PR stat.CO
HNPE: Leveraging Global Parameters for Neural Posterior Estimation
Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会);Université Paris-Saclay(巴黎萨克雷大学);University of Liège(列日大学)
根据实验观察推断随机模型的参数是科学方法的核心。一个特别具有挑战性的设置是当模型是强不确定的时,即当不同的参数集产生相同的观测值时。这在许多实际情况下都会出现,例如在推断无线电源的距离和功率时(源是近而弱还是远而强?)或者当估计放大器增益和电生理学实验的潜在大脑活动时。在这项工作中,我们提出了分层神经后验估计(HNPE),一种新的方法,用于破解这种不确定性,通过利用额外的信息所传达的一组辅助观测共享全局参数。我们的方法扩展了基于模拟的推理(SBI)的基础上规范化流贝叶斯分层模型的最新发展。我们定量验证我们的建议,一个激励的例子服从分析解决方案,然后将其应用到反转一个众所周知的非线性模型从计算神经科学,使用模拟和真实的EEG数据。
2021-11-09 cs.LG q-bio.QM stat.ML
Causal Preference Elicitation
University of California, Berkeley(加州大学伯克利分校)
提出一种贝叶斯框架,通过主动查询局部边关系来集中有向无环图的后验分布,实现专家参与的因果发现。
2026-06-02 cs.AI cs.LG stat.ME
Active Sequential Posterior Estimation for Sample-Efficient Simulation-Based Inference
Google Research(谷歌研究院);HEC Montréal(蒙特利尔高等商学院)
针对基于模拟的推断存在样本需求大、难扩展至高维场景的问题,提出主动序贯神经后验估计方法,通过主动学习评估参数效用,以低开销提升样本效率,在交通等高维场景及SBI基准上均优于现有方法。
2024-12-07 cs.LG stat.ML
Generalized Bayesian Inference for Scientific Simulators via Amortized Cost Estimation
Tübingen AI Center(图宾根人工智能中心);Machine Learning in Science, Excellence Cluster Machine Learning, University of Tübingen(图宾根大学机器学习卓越集群科学机器学习系);Department Empirical Inference, Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所经验推断系)
本文提出摊还代价估计ACE,用神经网络学习参数模拟与观测间的期望代价并结合MCMC,实现误设科学模拟器的稳健、免重复模拟广义贝叶斯推断。
2023-11-02 cs.LG stat.ML
Posterior Inference with Diffusion Models for High-dimensional Black-box Optimization
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
本文提出DiBO框架,通过扩散模型捕捉数据分布并结合深度集成进行不确定性量化,将候选选择转化为后验推断问题,在高维黑盒优化中有效平衡探索与利用,并在合成与真实任务上超越现有方法。
2025-07-03 cs.LG stat.ML
Learning an Astronomical Catalog of the Visible Universe through Scalable Bayesian Inference
University of California, Berkeley(加州大学伯克利分校);Intel Corporation(英特尔公司);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
Celeste是一个用于推断天文目录的程序,可获得最先进的科学结果。到目前为止,Celeste已经被扩展到最多数百兆字节的天文图像:贝叶斯后验推理在计算上是出了名的苛刻。在本文中,我们报告了一个可扩展的,并行版本的Celeste,适合从现代大规模天文数据集的学习目录。我们的算法创新包括贝叶斯后验推理的快速数值优化例程和将天文优化问题分解为子问题的统计有效方案。我们的可扩展实现完全是用Julia编写的,Julia是一种新的高级动态规划语言,专为科学和数值计算而设计。我们使用朱莉娅的高层次结构的共享和分布式内存并行,并证明有效的负载均衡和高效的扩展高达8192至强核心的NERSC科里超级计算机。
2016-11-10 astro-ph.IM cs.DC cs.LG
A Bayesian Approach to Restricted Latent Class Models for Scientifically-Structured Clustering of Multivariate Binary Outcomes
在本文中,我们提出了一个总体框架,结合不同质量的证据,以估计潜在的二进制潜变量的存在下施加的限制,以尊重科学的背景。由此产生的算法聚类的多元二进制数据的方式部分由先验知识指导。主要模型假设是1)受试者属于由未观察到的二元状态定义的类别,例如流行病学中病原体的真实存在或不存在,或医学中抗体的真实存在或不存在,或心理学中正确回答测试问题的“能力”,2)二元设计矩阵$Γ$指定每个类别中的相关特征,以及3)给定潜在类,测量是独立的,但是可以具有不同的错误率。条件,确保参数可识别性的似然函数进行了讨论,并通知设计一种新的后验推理算法,同时估计集群的数量,设计矩阵$Γ$,和模型参数。在有限的样本和维度,我们提出了先验假设,使后验分布的集群的数量和模式的潜在状态往往集中在较小的值和稀疏的模式,分别。该模型很容易扩展到研究中,一些科目的潜在类是已知的或重要的先验知识的差分测量精度是从外部来源。所述方法用蛋白质数据的分析来说明,以检测代表硬皮病患者中的自身抗体类的簇。
2018-08-24 stat.ME
The Statistical Accuracy of Neural Posterior and Likelihood Estimation
Monash University(莫纳什大学);Queensland University of Technology(昆士兰科技大学)
本文首次从理论上研究神经后验估计和神经似然估计的统计准确性,证明其与ABC和BSL具有相似保证且计算成本更低,并通过实例验证。
2024-11-18 cs.LG math.ST stat.CO
Beyond Accuracy: Evaluating Posterior Fidelity of Diffusion Inverse Solvers
Department of Statistics, University of Michigan(密歇根大学统计学系);Department of EECS, University of Michigan(密歇根大学电子工程与计算机科学系);Department of Statistics, Rutgers University(罗格斯大学统计学系)
本文研究了扩散逆求解器的后验保真度,提出了一种无需真实后验的评估指标,通过模拟和实际问题验证了其有效性,揭示了高重建精度不必然意味着更好的后验一致性。
2026-05-11 cs.LG stat.CO
Robust Neural Posterior Estimation and Statistical Model Criticism
Bristol University(布里斯托大学);Improbable(Improbable公司);Durham University(杜伦大学)
计算机模拟已被证明是理解跨学科复杂现象的宝贵工具。然而,模拟器用于建模和预测目的的效用往往受到低数据质量以及模型保真度的实际限制的限制。为了规避这些困难,我们认为,建模者必须把模拟器作为真实数据生成过程的理想化表示,因此应该深思熟虑地考虑模型错误指定的风险。在这项工作中,我们重新审视神经后验估计(NPE),一类算法,使黑盒参数推断仿真模型,并考虑模拟现实差距的影响。虽然最近的工作已经证明了这些方法的可靠性能,分析已经使用模拟器模型本身生成的合成数据进行,因此只解决了指定的情况。在本文中,我们发现,相比之下,当天真地使用NPE时,错误指定的存在会导致不可靠的推理。作为一种补救措施,我们认为,原则性的科学调查与模拟器应纳入模型的批评组件,以促进可解释的识别错误和强大的推理组件,以适应“错误但有用的”模型。我们提出了鲁棒神经后验估计(RNPE),NPE的扩展,同时实现这两个目标,通过明确建模模拟和观测数据之间的差异。我们评估了一系列人为错误指定的例子的方法,并发现RNPE在整个任务中表现良好,而天真地使用NPE会导致误导和不稳定的后验。
2022-10-12 cs.LG stat.ME stat.ML
Group equivariant neural posterior estimation
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Max Planck Institute for Gravitational Physics(马克斯·普朗克引力物理研究所);University of Tübingen(图宾根大学)
本文提出群等变神经后验估计(GNPE),通过自洽标准化数据姿态将等变性纳入神经后验估计,用于引力波双黑洞参数推断,在达到最先进精度的同时将推断时间缩短三个数量级。
2023-05-30 astro-ph.IM cs.LG gr-qc
Bayesian Testing of Scientific Expectations Under Exponential Random Graph Models
本文针对指数随机图模型中传统p值检验的局限性,提出基于贝叶斯因子和后验概率的检验方法,并在R包BFpack中实现,用于直接检验带等式或顺序约束的多重科学假设。
2023-11-30 stat.AP stat.ME
Bayesian Linear Programming under Learned Uncertainty: Posterior Feasibility Guarantees, Scenario Certification, and Applications
Visva-Bharati University(维斯瓦-巴拉蒂大学);S. N. Bose National Centre for Basic Sciences(S.N. 玻色基础科学国家中心)
本文提出了一种贝叶斯线性规划框架,通过后验不确定性建模和鲁棒化策略,提升决策的安全性和可解释性,适用于不确定性下的优化问题。
2026-03-06 math.OC stat.OT
Robust Bayesian Modeling of Counts with Zero inflation and Outliers: Theoretical Robustness and Efficient Computation
针对零膨胀与大型异常值导致标准计数模型后验失真的问题,提出基于重标度 beta 分布的稳健贝叶斯框架,配合定制 Gibbs 采样实现高效计算与理论后验稳健性。
2024-05-08 stat.ME
Variational Prior Replacement in Bayesian Inference and Inversion
针对贝叶斯推理中先验信息变更需重算、成本高昂的问题,提出变分先验替换(VPR)方法,可在不重算原推理的情况下替换后验中的先验信息,经二维地震全波形反演验证,精度与独立重算相当且计算效率大幅提升。
2024-09-15 math-ph math.MP physics.geo-ph
An ILUES-based adaptive Gaussian process method for multimodal Bayesian inverse problems
University of Houston(休斯顿大学);ShanghaiTech University(上海科技大学);California State University, Fullerton(加州州立大学富勒顿分校)
本文提出基于ILUES的自适应高斯过程方法,用于解决多模态贝叶斯反问题中的高效采样问题。
2026-02-14 physics.comp-ph stat.CO
Non-parametric targeted Bayesian estimation of class proportions in unlabeled data
我们引入了一种新的贝叶斯估计的类比例在未标记的数据集,基于有针对性的学习框架。我们的程序需要事先说明(并输出后验)仅用于推理的目标,而不是先验当科学问题可以由低维参数泛函表征时,关注这样的先验分布和后验分布更符合贝叶斯主观主义,相比之下,专注于整个数据分布。我们证明了Bernstein-von Mises型的结果,我们提出的贝叶斯过程,这保证了后验分布收敛到一个有效的,渐近线性估计的分布。特别是,后验是高斯的,双重鲁棒性,和有效的限制,在唯一的假设下,某些滋扰参数估计在缓慢的速度。我们进行数值研究,说明该方法的频率属性。我们还举例说明了它们在激励应用中的用途,以估计来源不明的栓塞性中风的比例,这些中风是由隐匿性心脏来源或大动脉粥样硬化病变引起的。虽然我们关注的是未标记数据集中案例比例的激励示例,但该过程是通用的,可以适用于估计非参数模型中的任何路径可微参数。
2019-11-22 stat.ME
Empirical Bayes Transductive Meta-Learning with Synthetic Gradients
École des Ponts ParisTech(巴黎桥路学院);Amazon(亚马逊);Swiss Data Science Center(瑞士数据科学中心);University of Cambridge(剑桥大学)
我们提出了一种元学习方法,通过利用未标记的查询集和支持集,为每个任务生成一个更强大的模型,从多个任务中学习。为了开发我们的框架,我们重新审视了多任务学习的经验贝叶斯公式。经验贝叶斯的边际对数似然的证据下界分解为每个任务的查询集上的变分后验和真实后验之间的局部KL分歧之和。我们得到了一个新的摊销变分推理耦合所有的变分后验通过一个元模型,它由一个合成梯度网络和一个初始化网络。每个变分后验都是从合成梯度下降中得到的,以近似查询集上的真实后验,尽管我们无法获得真实梯度。我们在Mini-ImageNet和CIFAR-FS基准测试中对情节式Few-Shot分类的结果优于以前的最先进方法。此外,我们进行了两个零样本学习实验,以进一步探索合成梯度的潜力。
2020-04-27 cs.LG stat.ML
Large Scale Variational Inference and Experimental Design for Sparse Generalized Linear Models
通过最大化稀疏线性模型(SLM)的后验分布,可以解决低层计算机视觉和图像处理中的许多问题,如去噪、反卷积、层析重建或超分辨率等。我们展示了如何高阶贝叶斯决策问题,如优化磁共振扫描仪中的图像采集,可以通过查询SLM后验协方差来解决,与密度的模式无关。我们提出了一个可扩展的算法框架,SLM后验在全,高分辨率的图像可以近似为第一次,解决变分优化问题,这是凸当后验模式发现是凸的。这些方法通过贝叶斯试验设计成功地驱动了用于真实世界磁共振成像的采样轨迹的优化,这在以前没有尝试过。我们的方法提供了新的见解稀疏重建和近似贝叶斯推断之间的相似性和差异,并具有重要意义的压缩感知现实世界的图像。
2010-08-12 stat.ML
GeoQ: Geometry-Aware Conditional Quantile Error Estimation for Scientific Surrogate Models
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
本研究提出GeoQ框架,用于科学代理模型的非侵入式误差估计,经多类任务验证,其几何感知条件分位数建模可实现感知有效性的误差估计。
2026-08-25 cs.LG stat.ML
Calibrating Semantic Uncertainty from Observable Language-Model Probabilities
Artificial Intelligence Finance Institute (AIFI)(人工智能金融研究所);Quiota LLC(Quiota公司)
研究如何从语言模型概率校准语义不确定性,引入语义映射方法,经测试该方法在处理专业市场文本和模拟时,语言衍生概率表现良好,能恢复后验且稳定,语义映射将问题转化为可测试统计问题并产生可审计后验估计。
2026-08-05 cs.CL math.ST stat.ME
Trustworthy scientific inference with generative models
Carnegie Mellon University(卡内基梅隆大学);Istituto Nazionale di Fisica Nucleare (INFN)(意大利国家核物理研究所);University of Toronto(多伦多大学)
FreB通过提供可解释的诊断和有效性保证,实现可信的科学推断,尤其在直接似然评估不可行的领域。
2026-01-14 astro-ph.IM cs.LG stat.AP
Likelihood-free MCMC with Amortized Approximate Ratio Estimators
University of Liège(列日大学);University of Vienna(维也纳大学)
在依赖复杂计算机模拟的科学领域,具有难以处理的可能性的后验推理正成为越来越常见的任务。通常,这些正演模型不承认易处理的密度,迫使从业者使用近似。这项工作介绍了一种新的方法来解决棘手的可能性和边际模型。我们通过学习一个灵活的摊销估计量来实现这一点,该估计量近似于似然证据比。我们证明了学习的比率估计器可以嵌入MCMC采样器中,以近似马尔可夫链中连续状态之间的似然比,使我们能够从难以处理的后验中提取样本。提出了提高数值稳定性和测量近似质量的技术。我们的方法的准确性证明了各种基准对完善的技术。在物理学中的科学应用表明了它的适用性。
2020-06-26 cs.LG stat.ML
ABCDP: Approximate Bayesian Computation with Differential Privacy
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Tübingen(图宾根大学);Google Research(谷歌研究院)
我们开发了一种新的近似贝叶斯计算(ABC)框架,ABCDP,产生差异私人(DP)和近似后验样本。我们的框架利用稀疏向量技术(SVT),广泛研究的差分隐私文献。SVT仅在满足条件(感兴趣的量是否高于/低于阈值)时才产生隐私成本。如果在重复查询过程中稀疏地满足条件,SVT可以大大减少累积的隐私损失,而不像通常的情况下,每个查询都会导致隐私损失。在ABC中,感兴趣的数量是观察数据和模拟数据之间的距离,只有当距离低于阈值时,我们才将相应的先验样本作为后验样本。因此,将SVT应用于ABC是将ABC算法转换为具有最小修改的隐私保护变体的有机方式,但产生具有高隐私级别的后验样本。我们从理论上分析了为隐私而添加的噪声与后验样本的准确性之间的相互作用。
2021-02-08 cs.LG stat.ML
Lightweight posterior construction for gravitational-wave catalogs with the Kolmogorov-Arnold network
本文提出基于Kolmogorov-Arnold网络的轻量级后验构造方法,通过可学习样条函数提升模型效率与可解释性,实现引力波目录的高效处理与存储。
2025-11-19 astro-ph.HE gr-qc stat.AP