Sparse Bayesian Generative Modeling for Compressive Sensing
TUM School of Computation, Information and Technology(慕尼黑工业大学计算、信息与技术学院);Technical University of Munich(慕尼黑工业大学)
本文提出一种新型正则化生成先验解决压缩感知线性逆问题,结合稀疏贝叶斯学习与生成模型适应性,支持少样本学习、免优化求解及不确定性量化,并经理论与实验验证。
2024-11-14 cs.LG eess.IV stat.ML
Bayesian Renewables Scenario Generation via Deep Generative Networks
University of Washington(华盛顿大学)
我们提出了一种通过实现贝叶斯生成对抗网络~(Bayesian GAN)来使用贝叶斯概率生成可再生场景的方法,贝叶斯生成对抗网络是基于两个互连的深度神经网络的生成对抗网络的变体。通过使用贝叶斯公式,可以构建和训练生成器以生成捕获数据中不同突出模式的场景,从而更好地多样性和更准确地表示底层物理过程。与通常难以缩放或采样的传统统计模型相比,该方法是无模型的,并且可以非常有效地生成样本。为了验证,我们使用风和太阳能的时间序列数据从NREL集成数据集训练贝叶斯GAN。我们证明,该方法能够生成具有不同方差和平均值的风场景集群,并且即使历史数据故意混合,也能够同时区分和生成风和太阳能场景。
2018-02-02 cs.LG math.OC stat.ML
Bayesian Conditional Generative Adverserial Networks
The University of Adelaide(阿德莱德大学);Queensland University of Technology(昆士兰科技大学);CMU(卡内基梅隆大学)
传统的GANs使用确定性生成器函数(通常是神经网络)将随机噪声输入$z$转换为采样器试图区分的样本$\mathbf{x}$。我们提出了一种新的GAN,称为贝叶斯条件生成对抗网络(BC-GAN),它使用随机生成器函数将确定性输入$y'$转换为样本$\mathbf{x}$。我们的BC-GANs将传统的GANs扩展到贝叶斯框架,并自然地处理无监督学习,监督学习和半监督学习问题。实验表明,所提出的BC-GANs优于最先进的。
2017-06-17 cs.AI cs.LG stat.ML
Bayesian Inversion Of Generative Models For Geologic Storage Of Carbon Dioxide
Total(道达尔)
碳捕获和储存(CCS)可以帮助大气脱碳,以限制全球气温的进一步上升。利用无监督学习的框架用于生成一系列地下地质体,以调查长期储存二氧化碳的潜在地点。生成对抗网络用于创建地质体,另一个神经网络用于对经过训练的生成器的后验分布进行采样,以稀疏采样的物理测量为条件。这些生成模型通过贝叶斯反演进一步调节历史动态流体流量数据,以提高注入的二氧化碳的储存容量的预测的分辨率。
2020-01-08 cs.LG stat.ML
The Bayesian Case Model: A Generative Approach for Case-Based Reasoning and Prototype Classification
Massachusetts Institute of Technology(麻省理工学院)
我们提出了贝叶斯案例模型(Bayesian Case Model,简称CBR),它是贝叶斯案例推理(Bayesian Case-Based Reasoning,简称CBR)和原型分类与聚类的一个通用框架。它将CBR的直观力量引入贝叶斯生成框架。通过对聚类标签、原型和重要特征进行联合推理,该算法学习原型,即最能代表数据集中聚类的“精华”观察。与此同时,ESTA通过学习子空间来追求稀疏性,子空间是在原型表征中起重要作用的特征集。原型和子空间表示在保持分类准确性的同时在可解释性方面提供了定量优势。人类受试者实验证实,与现有技术给出的解释相比,当使用由ESTA产生的解释时,参与者的理解在统计学上显著改善。
2015-03-03 cs.LG stat.ML
Generative Posterior Networks for Approximately Bayesian Epistemic Uncertainty Estimation
Carnegie Mellon University(卡内基梅隆大学);Bosch Center for Artificial Intelligence(博世人工智能中心);Amazon Alexa AI(亚马逊Alexa AI)
提出生成式后验网络(GPNs),利用未标记数据通过正则化网络趋向先验样本来直接近似贝叶斯后验,从而在高维问题中提升认知不确定性估计和可扩展性。
2023-12-29 cs.LG stat.ML
Bayesian Cycle-Consistent Generative Adversarial Networks via Marginalizing Latent Sampling
School of Electrical Information and Communication Engineering, Huazhong University of Science & Technology(华中科技大学电子信息与通信学院);Microsoft AI & Research(微软人工智能与研究);Machine Learning Department, Carnegie Mellon University(卡内基梅隆大学机器学习系)
基于生成对抗网络(GANs)的最新技术,如周期一致性GANs,能够通过生成器和判别器之间的最小-最大优化游戏,学习从未配对数据集构建的不同域之间的映射。然而,它仍然具有挑战性,以稳定的训练过程,从而循环模型陷入模式坍塌伴随着成功的训练。为了解决这个问题,我们提出了一种新的贝叶斯循环模型和一个综合的域间映射循环框架。该方法以贝叶斯GAN为理论基础,通过对潜在变量进行采样,探索循环模型的全后验,并利用最大后验概率(MAP)估计对模型进行优化。因此,我们将其命名为Bayesian CycleGAN。此外,原始的CycleGAN无法产生多样化的结果。但贝叶斯框架通过替换推理过程中的限制性潜变量来使生成的图像多样化是可行的。我们在多个基准数据集上评估了所提出的贝叶斯CycleGAN,包括Cityscapes,Maps和Monet 2 photo。该方法将Cityscapes语义分割任务的每像素精度在原始框架内提高了15%,在所提出的集成框架内提高了20%,表现出更好的弹性不平衡对抗。Monet 2 Photo风格转移的多样化结果也证明了其优于原始循环模型。我们在https://github.com/ranery/Bayesian-CycleGAN中提供了所有实验的代码。
2020-08-16 cs.CV cs.LG stat.ML
Generative Modeling with Bayesian Sample Inference
School of Computation, Information;Technology \& Munich Data Science Institute, Technical University of Munich
本文提出一种基于贝叶斯采样推断的生成模型,通过迭代高斯后验推断提升样本质量,并在ImageNet32上优于BFNs和变分扩散模型。
2026-08-17 cs.LG stat.ML
The Informed Sampler: A Discriminative Approach to Bayesian Inference in Generative Computer Vision Models
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Microsoft Research Cambridge(微软研究院剑桥实验室)
计算机视觉是困难的,因为在照明,形状和纹理的大的可变性;此外,图像信号是非加性的,由于闭塞。生成模型承诺通过准确地将图像形成过程建模为具有先前信念的潜变量的函数来解释这种可变性。贝叶斯后验推理原则上可以解释观察结果。虽然直观上很吸引人,但由于后验推理的困难,计算机视觉的生成模型在很大程度上未能实现这一承诺。因此,社区倾向于有效的歧视性做法。我们仍然相信生成模型在计算机视觉中的有用性,但认为我们需要利用现有的判别式甚至启发式计算机视觉方法。我们实现这一想法的原则性的方式与“知情的采样器”,并在仔细的实验中证明它具有挑战性的生成模型,其中包含渲染程序作为其组件。我们专注于倒置现有的图形渲染引擎的问题,一种方法,可以被理解为“逆图形”。知情的采样器,使用简单的判别建议的基础上现有的计算机视觉技术,实现了显着的改进的推理。
2015-03-07 cs.CV cs.LG stat.ML
Bayesian ECG reconstruction using denoising diffusion generative models
本文提出用健康心电图数据训练的去噪扩散生成模型(DDGM)进行贝叶斯心电图重建,实现逼真心电信号生成,并应用于QTc计算、噪声抑制、缺失导联恢复和异常识别等临床任务。
2023-12-18 cs.LG eess.SP stat.ML
Generative Bayesian Optimization: Generative Models as Acquisition Functions
CSIRO’s Data61(CSIRO的数据61)
本文提出利用生成模型作为批量贝叶斯优化的候选解采样器,通过直接优化偏好信号生成高效的获取函数,适用于高维和组合优化问题。
2026-05-14 cs.LG stat.ML
Posterior Mean Matching: Generative Modeling through Online Bayesian Inference
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);University of Michigan(密歇根大学);Columbia University(哥伦比亚大学)
本文提出基于贝叶斯推断的生成式建模新方法PMM,利用共轭分布对和在线贝叶斯推断迭代细化目标分布,在语言建模和图像生成任务中表现出与现有模型相媲美的性能。
2024-12-19 cs.AI cs.LG stat.ML
Bayesian Structure Learning with Generative Flow Networks
Mila(米拉研究所);Université de Montréal(蒙特利尔大学);Technical University of Munich(慕尼黑工业大学);KTH Stockholm(斯德哥尔摩KTH皇家理工学院)
在贝叶斯结构学习中,我们感兴趣的是从数据中推断贝叶斯网络的有向无环图(DAG)结构上的分布。定义这样的分布是非常具有挑战性的,由于组合大的样本空间,并且通常需要基于MCMC的近似。最近,一类新的概率模型,称为生成流网络(GFlowNets),已被引入作为离散和复合对象(如图)的生成建模的一般框架。在这项工作中,我们建议使用GFlowNet作为MCMC的替代方案,用于近似贝叶斯网络结构上的后验分布,给定观测数据集。从这个近似分布生成样本DAG被视为顺序决策问题,其中基于学习的转移概率,一次构造一个边。通过对模拟数据和真实数据的评估,我们表明,我们的方法,称为DAG-GFlowNet,提供了一个准确的近似后验的DAG,它优于基于MCMC或变分推理的其他方法相比。
2022-06-28 cs.LG stat.ML
Bayesian Optimization on Large Graphs via a Graph Convolutional Generative Model: Application in Cardiac Model Personalization
Rochester Institute of Technology(罗切斯特理工学院);Dalhousie University(达尔豪斯大学)
心脏模型的个性化涉及在心脏的非欧几里德几何模型上空间变化的器官组织特性的优化。为了表示高维(HD)未知的组织属性,大多数现有的作品依赖于低维(LD)的几何模型的分区。虽然这利用了心脏的几何形状,但它的表现力有限,无法允许足够小的分区进行有效的优化。最近,变分自动编码器(VAE)被用作一个更具表现力的生成模型,以嵌入到LD潜在空间的HD优化。然而,它的欧几里得性质忽略了心脏中丰富的几何信息。在本文中,我们提出了一种新的图卷积VAE,允许非欧数据的生成建模,并利用它将大型图的贝叶斯优化嵌入到一个小的潜在空间中。这种方法通过引入一种表达性生成模型来弥合以前作品的差距,该模型能够将底层几何结构的空间邻近性和层次组合性的知识结合起来。它还允许在不同的几何形状之间传输学习到的特征,这在常规VAE中是不可能的。我们证明了这些好处,所提出的方法在心脏电生理模型中估计组织兴奋性的合成和真实数据实验。
2020-05-18 cs.CV cs.LG eess.IV
A Generative Bayesian Model for Aggregating Experts' Probabilities
Stanford University(斯坦福大学)
为了改进预测,决策者通常将各种来源给出的概率结合起来,例如人类专家和机器学习分类器。当几乎没有训练数据可用时,可以通过合并关于被预测的事件和关于专家的显著属性的先验知识来改进聚合。为此,我们开发了一个生成贝叶斯聚集模型的概率分类。该模型包括一个事件特定的先验,个别专家的偏见,校准,准确性的措施,和专家之间的依赖性的措施。而不是需要绝对的措施,我们表明,聚合可以表示在专家之间的相对准确性。该模型的结果在一个加权对数意见池(LogOps),满足一致性标准,如外部贝叶斯属性。我们推导出独立的和可交换的专家的解析解。实证检验表明,该模型的使用,比较其准确性与其他聚合方法。
2012-07-11 cs.LG stat.ML
Bayesian Semisupervised Learning with Deep Generative Models
基于神经网络的具有判别成分的生成模型是一种强有力的半监督学习方法。然而,这些技术a)不能在模型的判别分量的估计中考虑模型不确定性,以及b)缺乏在标签生成过程中捕获复杂随机模式的灵活性。为了避免这些问题,我们首先建议使用具有随机输入的判别分量以增加噪声灵活性。我们展示了如何一个有效的吉布斯抽样程序可以边缘化的随机输入时,推断在这个模型中丢失的标签。在此之后,我们扩展的判别组件是完全贝叶斯和产生的不确定性估计其参数值。这为半监督贝叶斯主动学习打开了大门。
2017-06-29 stat.ML
Generative models and Bayesian inversion using Laplace approximation
Physikalisch-Technische Bundesanstalt(德国联邦物理技术研究院)
解决逆问题的贝叶斯方法依赖于先验的选择。这一关键因素允许以概率方式制定专家知识或物理约束,并对推理的成功起着重要作用。最近,贝叶斯逆问题的解决使用生成模型作为高信息先验。生成模型是机器学习中的一种流行工具,用于生成属性与给定数据库的属性非常相似的数据。通常,生成的数据分布嵌入在低维流形中。对于逆问题,在反映所寻求的解决方案的属性的数据库上训练生成模型,例如磁共振(MR)成像中人脑中组织的典型结构。推理是在生成模型确定的低维流形上进行的,大大降低了反问题的维数。然而,这一过程产生了一个后验,承认没有勒贝格密度在实际变量和达到的准确性可以在很大程度上取决于生成模型的质量。对于线性高斯模型,我们探索了一种替代的贝叶斯推断的基础上概率生成模型,这是在原来的高维空间。一个拉普拉斯近似解析推导所需的先验概率密度函数诱导的生成模型。由此产生的推理的性质进行了研究。具体来说,我们证明,派生的贝叶斯估计是一致的,相反,采用低维流形的生成模型的方法。MNIST数据集被用来构建数值实验,证实了我们的理论研究结果。
2022-11-07 cs.LG math.ST stat.ML
Conditional Generative Models are Provably Robust: Pointwise Guarantees for Bayesian Inverse Problems
Humboldt-Universität zu Berlin(柏林洪堡大学);Technische Universität Berlin(柏林工业大学)
本文首次证明适当学习的条件生成模型在贝叶斯反问题中对单个观测值的扰动具有可证明的鲁棒性。
2024-07-19 cs.LG math.ST stat.TH
ODE$^2$VAE: Deep generative second order ODEs with Bayesian neural networks
Aalto University(阿尔托大学)
提出了一种高维序列数据的隐二阶常微分方程变分自动编码器(ODE $^2$ VAE)。利用深度生成模型的进步,ODE $^2$ VAE可以同时学习高维轨迹的嵌入并推断任意复杂的连续时间潜在动态。我们的模型显式地将潜在空间分解为动量和位置分量,并解决了二阶常微分方程系统,这是在基于递归神经网络(RNN)的时间序列模型和最近提出的黑盒常微分方程技术。为了考虑不确定性,我们提出了由深度贝叶斯神经网络参数化的概率潜在ODE动力学。我们展示了我们的方法上的运动捕捉,图像旋转和弹跳球数据集。我们在长期运动预测和插补任务中实现了最先进的性能。
2019-10-24 cs.LG stat.ML
A Generative Model for Generic Light Field Reconstruction
University of Siegen(锡根大学)
最近,深度生成模型在训练数据分布建模方面取得了令人印象深刻的进展。在这项工作中,我们首次提出了一个生成模型的4D光场补丁使用变分自动编码器来捕捉光场补丁的数据分布。我们开发了一个生成模型的光场的中心视图为条件,并将其作为一个能量最小化框架,以解决不同的光场重建任务之前。虽然纯基于学习的方法确实在此类问题的每个实例上都取得了出色的结果,但它们的适用性仅限于它们所训练的特定观察模型。相反,我们训练的光场生成模型可以作为先验纳入任何基于模型的优化方法,因此可以扩展到各种重建任务,包括光场视图合成,空间-角度超分辨率和从编码投影重建。我们提出的方法表现出良好的重建效果,其性能接近端到端训练网络,同时在合成和真实场景上都优于传统的基于模型的方法。此外,我们表明,我们的方法使可靠的光场恢复,尽管在输入的失真。
2020-06-17 cs.CV eess.IV
Plug-and-Play split Gibbs sampler: embedding deep generative priors in Bayesian inference
IRIT/INP-ENSEEIHT(图卢兹信息学研究所/国立图卢兹综合理工学院-ENSEEIHT);University of Toulouse(图卢兹大学);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);University of Lille(里尔大学)
提出一种结合变量分裂与深度生成先验的随机 PnP-SGS 后验采样算法,无需显式先验即可提供贝叶斯估计及置信区间,并在图像处理任务中验证有效性。
2023-04-21 cs.CV cs.LG stat.ML
Generative Bayesian Filtering for State Estimation
Northwestern University(西北大学)
研究动态系统状态估计问题,提出生成式贝叶斯滤波框架GBF,用预训练条件生成模型取代简单观测模型,经贝叶斯预测-更新递归及转化,实验证明其提升了状态估计的准确性与鲁棒性。
2026-07-24 cs.LG stat.ML
Variational Bayesian Weighted Complex Network Reconstruction
Xi’an Jiaotong University(西安交通大学);Henan University(河南大学)
复杂网络重构是当前许多领域的研究热点。目前,最流行的数据驱动重建框架是基于lasso的。然而,它被发现,在噪声的存在下,套索失去了加权网络的效率。本文建立了一个新的框架来处理这个问题。其核心思想是采用一系列的线性回归问题来建模网络节点之间的关系,然后使用一个有效的变分贝叶斯算法来推断未知系数。对合成数据和真实数据进行的数值实验表明,新方法在重建精度和运行速度方面均优于lasso。
2020-02-29 cs.LG cs.SI stat.AP
Bayesian Inference with Generative Adversarial Network Priors
University of Southern California(南加州大学)
贝叶斯推断被广泛地用于从相关场的测量中推断和量化感兴趣场中的不确定性,当两者通过物理模型相关联时。尽管有许多应用,贝叶斯推断面临的挑战时,推断领域,具有大尺寸的离散表示,和/或具有先验分布,是难以表示数学。在本文中,我们考虑使用生成对抗网络(GANs)来应对这些挑战。GAN是一种深度神经网络,具有学习给定字段的多个样本所隐含的分布的能力。一旦在这些样本上训练,GAN的生成器组件将低维潜在向量的iid分量映射到感兴趣场的分布的近似值。在这项工作中,我们演示了如何将这种近似分布作为贝叶斯更新的先验,以及它如何解决与表征复杂的先验分布和推断字段的大维度相关的挑战。我们证明了这种方法的有效性,通过将其应用到从噪声测量的温度在以后的时间在热传导问题的初始温度场的推断和量化的不确定性的问题。
2019-07-22 cs.LG eess.IV physics.comp-ph
A Fully Bayesian Infinite Generative Model for Dynamic Texture Segmentation
Sharif University of Technology(谢里夫理工大学);City University of Hong Kong(香港城市大学)
生成式动态纹理模型(GDTM)被广泛用于视频序列的动态纹理(DT)分割。GDTM将DT表示为一组线性动态系统(LDS)。这些模型的一个主要限制是自动选择适当数量的DT。Dirichlet过程混合模型是近年来出现的非参数贝叶斯统计的基石,是解决这一问题的一个乐观的候选者。在此动机下,以解决上述缺点,我们提出了一种新的非参数完全贝叶斯方法DT分割,制定的基础上,一个联合的DSPER和GDTM建设。这种相互作用使得算法能够适当地克服自动分割的问题。我们推导出变分贝叶斯期望最大化(VBEM)推断所提出的模型。此外,在E-步骤的推理,我们应用Rauch-Tung-Striebel平滑(RTSS)算法的变分贝叶斯LDSS。最后,对不同的视频序列进行了实验。实验结果表明,该算法在效率和准确性上明显优于以往的方法。
2019-01-13 cs.GR cs.LG stat.ML
On PAC-Bayesian reconstruction guarantees for VAEs
University of Oxford(牛津大学);University College London(伦敦大学学院);Inria(法国国家信息与自动化研究所)
尽管它的广泛使用和经验的成功,理论上的理解和研究的行为和性能的变分自编码器(VAE)只是在过去的几年中才出现。我们通过分析VAE对看不见的测试数据的重建能力,利用PAC贝叶斯理论的参数,为最近的工作做出贡献。我们提供的理论重建误差的泛化范围,并提供VAE目标的正则化效果的见解。我们说明了我们的理论结果与支持经典基准数据集上的实验。
2022-02-23 cs.CV cs.LG math.ST
Solution of Physics-based Bayesian Inverse Problems with Deep Generative Priors
University of Southern California(南加州大学);Stanford University(斯坦福大学)
逆问题在自然界中无处不在,几乎出现在所有科学和工程领域,从地球物理学和气候科学到天体物理学和生物力学。解决反问题的核心挑战之一是解决其不适定性。贝叶斯推断提供了一个原则性的方法来克服这一点,制定了一个统计框架的逆问题。然而,它是具有挑战性的应用时,推断具有离散表示的大尺寸(所谓的“灾难的维度”)和/或当先验信息仅在先前获得的解决方案的形式可用的字段。在这项工作中,我们提出了一种新的方法,使用深度生成模型进行高效准确的贝叶斯反演。具体来说,我们演示了如何使用生成对抗网络(GAN)学习的近似分布作为贝叶斯更新的先验,并在GAN的低维潜在空间中重新制定由此产生的推理问题,从而有效地解决大规模贝叶斯逆问题。我们的统计框架保留了基础物理,并被证明可以产生准确的结果,具有可靠的不确定性估计,即使在缺乏有关基础噪声模型的信息的情况下,这对许多现有方法来说是一个重大挑战。我们证明了所提出的方法对各种反问题,其中包括合成以及实验观察到的数据的有效性。
2022-07-25 cs.LG stat.ML
Joint Bayesian Inference of Graphical Structure and Parameters with a Single Generative Flow Network
本文提出名为JSP-GFN的方法,用单个生成流网络联合推断贝叶斯网络的图结构与参数,该方法在模拟和真实数据上的表现优于现有方法,可准确近似联合后验分布。
2026-08-31 cs.LG stat.ML
BayesNDE: Bayesian Generative Modeling for Neural Density Estimation
Yale University(耶鲁大学)
BayesNDE提出基于贝叶斯生成建模的神经密度估计方法,无需可逆网络,通过样本特定后验构建自适应提议并利用桥接采样估计密度,在合成和真实数据集上提升了密度估计与异常检测性能。
2026-10-01 cs.AI cs.LG stat.ME
Generative Bayesian Hyperparameter Tuning
Department of Statistics(统计系);INSPER;Chicago Booth(芝加哥布斯商学院);University of Chicago(芝加哥大学);Volgenau School of Engineering(沃尔格瑙工程学院);George Mason University(乔治梅森大学)
本文提出了一种生成性贝叶斯超参数调优方法,结合优化近似和传输映射技术,实现快速超参数评估与不确定性量化。
2025-12-23 stat.CO stat.ML
Approximate Bayesian Image Interpretation using Generative Probabilistic Graphics Programs
MIT(麻省理工学院);Siberian Federal University(西伯利亚联邦大学)
计算机视觉作为计算机图形学的贝叶斯逆问题的想法有着悠久的历史和吸引人的优雅,但它已被证明难以直接实现。相反,大多数视觉任务是通过复杂的自下而上的处理管道来完成的。在这里,我们表明,它是可以编写简短,简单的概率图形程序,定义灵活的生成模型,并自动反转它们来解释现实世界的图像。生成概率图形程序包括一个随机场景生成器,基于图形软件的渲染器,连接渲染器的输出和数据的随机似然模型,以及调整渲染器的保真度和似然模型的容限的潜变量。计算机图形学的表示和算法最初是为了产生高质量的图像而设计的,现在被用作高度近似和随机生成模型的确定性支柱。该公式结合了概率编程、计算机图形学和近似贝叶斯计算,并且仅依赖于通用的自动推理技术。我们描述两个应用程序:读取退化和不利模糊的字母数字字符序列,并从车载摄像机图像推断3D道路模型。我们提出的每一个概率图形程序都依赖于不到20行的概率代码,并支持对模糊的真实世界图像进行准确的近似贝叶斯推断。
2013-06-29 cs.AI cs.CV stat.ML
Bayesian Generative Adversarial Networks via Gaussian Approximation for Tabular Data Synthesis
Department of Social Statistics, The University of Manchester(社会统计系,曼彻斯特大学);Alliance Manchester Business School, The University of Manchester(曼彻斯特商业联盟学院,曼彻斯特大学)
本文提出GACTGAN,通过高斯近似技术在CTGAN中整合贝叶斯后验近似,以更高效地生成表格数据,提升数据结构和统计信息的保真度并降低隐私风险。
2026-02-25 cs.LG stat.ML
Generative Bayesian Filtering and Parameter Learning
Booth School of Business, University of Chicago(芝加哥大学布斯商学院);Department of Statistics, University of Chicago(芝加哥大学统计系)
本文提出生成式贝叶斯滤波(GBF)框架,将生成式贝叶斯计算扩展到动态状态空间模型,并引入生成式-Gibbs采样器进行参数学习,在不可处理密度场景下显著优于现有免似然方法。
2025-11-06 stat.CO stat.ME stat.ML
Score-Based Generative Models for PET Image Reconstruction
University College London(伦敦大学学院);University of Bremen(不来梅大学);The Chinese University of Hong Kong(香港中文大学)
本文针对PET图像重建中的泊松噪声和宽动态范围问题,提出适用于2D和3D的基于分数的生成模型适配方法,并通过仿真实验验证其在无病灶及含病灶数据上的鲁棒性和重建潜力。
2024-01-23 cs.AI cs.CV cs.LG
A Bayesian Non-parametric Approach to Generative Models: Integrating Variational Autoencoder and Generative Adversarial Networks using Wasserstein and Maximum Mean Discrepancy
Department of Statistics and Actuarial Science University of Hong Kong(统计与精算科学系香港大学)
本文提出一种基于贝叶斯非参数框架的生成模型,整合VAE、GAN及CGAN,采用Wasserstein距离和最大均值差异损失,以解决过拟合和噪声样本问题,提升训练稳定性并生成高质量多样样本。
2025-06-22 cs.LG stat.AP stat.CO
Sparse-Group Bayesian Feature Selection Using Expectation Propagation for Signal Recovery and Network Reconstruction
Max Planck Institute for Molecular Genetics(马克斯·普朗克分子遗传学研究所)
我们提出了一种贝叶斯方法的特征选择中存在的分组信息之间和组内水平的稀疏性。而不是使用随机算法的参数推断,我们采用期望传播,这是一个确定性和快速的算法。在存在分组信息的情况下,用于特征选择的可用方法具有许多简短的描述:一方面,Lasso方法虽然快速,但低估了回归系数,并且没有很好地利用分组信息,另一方面,贝叶斯方法虽然在参数估计中准确,但通常依赖于随机且缓慢的吉布斯抽样过程来恢复参数,使得它们例如对于基因网络重建是不可行的。我们的方法的贝叶斯稀疏组框架与期望传播,使我们不仅能够恢复准确的参数估计信号恢复问题,但也使得有可能将此贝叶斯框架的大规模网络重建问题。所提出的方法是通用的,但在应用方面,我们专注于基因调控网络。我们的模拟和实验数据表明,该方法构成了一个很好的选择网络重建的正确选择的功能,预测新的数据和合理的计算时间的数量。
2018-09-25 cs.LG stat.CO stat.ML
Generative Bayesian Computation for Maximum Expected Utility
提出一种基于分位数的无密度生成式贝叶斯计算方法,利用深度分位数神经估计器直接计算最大期望效用,并在最优投资组合配置问题中验证了其有效性。
2024-08-28 stat.CO stat.ML
Bayesian Inference with Nonlinear Generative Models: Comments on Secure Learning
Friedrich-Alexander Universität (FAU) Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学(FAU));École Polytech(巴黎综合理工学院)
与经典的线性模型不同,非线性生成模型在统计学习的文献中很少被讨论。这项工作旨在引起人们对这些模型及其保密潜力的关注。为此,我们调用副本的方法来获得的渐近归一化交叉熵的逆概率问题,其生成模型是由高斯随机场与通用协方差函数。我们的推导进一步证明了贝叶斯估计的渐近统计解耦,并指定了一个给定的非线性模型的解耦设置。副本解决方案描述了严格的非线性模型建立了一个全有或全无的相变:存在一个临界负载,在该负载下,最佳贝叶斯推理从完美学习变为不相关学习。基于这一发现,我们设计了一个新的安全编码方案,实现了窃听信道的保密容量。这个有趣的结果意味着严格的非线性生成模型是完全安全的,而无需任何安全编码。我们证明后一种说法通过分析一个说明性的模型,完全安全和可靠的推理。
2022-07-13 cs.CR cs.IT cs.LG
Error Analysis of Bayesian Inverse Problems with Generative Priors
Bamdad Hosseini University of Washington(Bamdad Hosseini 罗斯大学)
本文基于生成先验分析贝叶斯反问题的误差,通过定量误差界和数值实验验证了生成模型在反问题中的有效性。
2026-03-10 cs.LG cs.NA math.NA
Bayesian Computation in Deep Learning
Imperial College London(伦敦帝国学院);Purdue University(普渡大学)
本章综述SG-MCMC与VI两类近似贝叶斯计算方法,介绍其在贝叶斯神经网络和深度生成模型中的后验推理挑战及解决方案。
2025-10-19 cs.LG stat.ML
Generative Quantile Bayesian Prediction
Stanford University(斯坦福大学);University of Chicago(芝加哥大学);George Mason University(乔治梅森大学)
提出生成式分位数贝叶斯预测(GQBP),通过直接学习预测分位数解决大规模预测问题,并与共形预测等方法对比,展示了在正态-正态学习和因果推断中的应用。
2025-10-18 stat.CO stat.ME
Bayesian Rain Field Reconstruction using Commercial Microwave Links and Diffusion Model Priors
School of Electrical and Computer Engineering, Tel Aviv University, Tel Aviv, Israel(电气与计算机工程学院,特拉维夫大学,特拉维夫,以色列)
提出将雨场重建视为贝叶斯逆问题,利用扩散模型作为高保真空间先验,通过无需训练的后验采样方法(如即插即用、序贯蒙特卡洛和副本交换)实现优于传统方法的性能。
2026-05-28 cs.LG stat.AP stat.ML
Bayesian methods and Markov chain Monte Carlo algorithms for curve reconstruction and point cloud data analysis
University of Tennessee(田纳西大学)
本文针对点云数据量大、含噪声及缺失信息,现有重建无不确定性量化的问题,提出全贝叶斯框架与适配的MCMC采样器,经合成及LiDAR数据实验,实现精确曲线重建与不确定性量化。
2026-08-28 cs.LG stat.ML
Bathymetry Reconstruction by Bayesian Inference
Hamburg University of Technology(汉堡工业大学);University of Hamburg(汉堡大学)
本文提出基于贝叶斯推断的方法,利用水位点测量数据重建水深,通过合成数据测试性能并应用于波浪池实际水深重建,相比共轭优化方法,提高了重建精度并量化了不确定性。
2026-04-09 cs.CE cs.NA math.NA
BAM! Bayesian Anything Model: a foundation model for generative computational imaging
Université Paris Cité(巴黎西岱大学);CNRS(法国国家科学研究中心);Heriot-Watt University(赫瑞-瓦特大学);Maxwell Institute for Mathematical Sciences(麦克斯韦数学科学研究所)
提出BAM,一种轻量级物理感知基础模型,通过条件流映射实现少步后验采样,仅36M参数,在多个线性逆问题基准上以3步超越专用模型和零样本方法,降低计算成本。
2026-10-01 cs.CV stat.ML
Bayesian sparse reconstruction: a brute-force approach to astronomical imaging and machine learning
我们提出了一个原则性的贝叶斯信号重建框架,其中信号由基函数建模,基函数的数量(和形式,如果需要的话)由数据本身确定。这种方法是基于传统的稀疏重建和正则化技术的贝叶斯解释,其中稀疏性是通过先验贝叶斯模型选择。我们证明了我们的方法的噪声1-和2维信号,包括天文图像。此外,通过使用乘积空间方法,基函数的数量和类型可以被视为整数参数,其后验分布直接采样。我们表明,数量级的增加,计算效率是可能的,从这种技术相比,分别计算贝叶斯证据,进一步的计算收益是可能的,使用它与动态嵌套抽样相结合。我们的方法也可以很容易地应用于神经网络,它允许网络架构由数据确定的原则贝叶斯的方式,通过处理节点和隐藏层的数量作为参数。
2018-11-25 astro-ph.IM stat.ME stat.ML
Preconditioned One-Step Generative Modeling for Bayesian Inverse Problems in Function Spaces
Division of Mathematical Sciences, School of Physical and Mathematical Sciences, Nanyang Technological University(数学科学学院,物理与数学科学学院,南洋理工大学)
提出一种基于一步生成传输的机器学习算法,使用先验对齐的高斯随机场作为源,通过神经算子逼近后验分布,高效求解函数空间中的贝叶斯逆问题。
2026-05-30 cs.LG cs.NA math.NA
An unsupervised bayesian approach for the joint reconstruction and classification of cutaneous reflectance confocal microscopy images
本文研究了一种新的贝叶斯算法,用于反射共焦显微镜(RCM)图像的联合重建和分类,并将其应用于人体皮肤雀斑的识别。所提出的贝叶斯方法利用乘性散斑噪声的分布影响这些图像的真实反射率和适当的先验未知的模型参数。提出了一种马尔可夫链蒙特卡罗(MCMC)算法,在根据图像的反射率分布对图像进行分类的同时,联合估计模型参数和图像的真实反射率。准确地说,Metropolis-whitin-Gibbs采样器进行了研究,以采样与RCM图像相关的贝叶斯模型的后验分布,并建立其参数的估计,包括指示每个RCM图像的类的标签。所得到的算法被应用到合成数据和包含健康和雀斑患者的临床研究的真实图像。
2017-03-04 stat.ML
Generative Filtering for Recursive Bayesian Inference with Streaming Data
针对流式递归贝叶斯更新中滤波样本退化的问题,本文提出 Generative Filtering,以并行更新兼顾效率与非退化性,并给出收敛速率、充分统计量条件及模拟与生态数据验证。
2024-12-06 stat.CO
Robust and Guided Bayesian Reconstruction of Single-Photon 3D Lidar Data: Application to Multispectral and Underwater Imaging
当使用多个波长时,或者当在高噪声环境(例如,通过遮光剂成像)。本文提出了一种分层贝叶斯算法的多光谱单光子激光雷达数据在这样的环境中的鲁棒重建。该算法利用多尺度信息来提供稳健的深度和反射率估计及其不确定性,以帮助决策。所提出的基于权重的策略允许使用可用的引导信息,该信息可以通过使用最先进的基于学习的算法来获得。所提出的贝叶斯模型及其估计算法的合成和真实图像上进行了验证,显示竞争力的结果相比,国家的最先进的算法的质量的推断和计算复杂性。
2021-03-18 eess.IV stat.AP
Comparing Nonparametric Bayesian Tree Priors for Clonal Reconstruction of Tumors
University of Toronto(多伦多大学)
统计机器学习方法,特别是非参数贝叶斯方法,已经变得越来越流行,以推断肿瘤的克隆群体结构。在这里,我们描述了treeCRP,中国餐馆过程(CRP),一个流行的建设中使用的非参数混合模型的扩展,以推断癌细胞的人口中所代表的主要亚克隆谱系的遗传和基因型。我们还提出了新的分裂合并更新量身定制的亚克隆重建问题,提高混合时间的马尔可夫链。与PhyloSub中使用的树结构棒断裂之前相比,我们使用treeCRP与我们新的拆分-合并程序展示了优越的混合和运行时间。我们还表明,给定相同数量的样本,TSSB和treeCRP具有相似的恢复肿瘤亚克隆结构的能力。
2014-08-11 cs.LG q-bio.PE stat.ML
Generative Bayesian Inference with GANs
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Chicago(芝加哥大学)
本文提出了一种基于GANs的贝叶斯推断方法,通过对抗性优化直接目标后验,并结合数据驱动提议和变分贝叶斯进行后处理,实验证明其在模拟数据中表现优异。
2026-02-16 stat.CO stat.ME stat.ML
High-dimensional Bayesian Optimization of Personalized Cardiac Model Parameters via an Embedded Generative Model
Rochester Institute of Technology(罗切斯特理工学院);Dalhousie University(达尔豪斯大学)
以模型参数的形式估计患者特异性组织特性对于个性化生理模型是重要的。然而,这些组织特性在整个基础解剖模型中是空间变化的,在有限的测量数据的存在下提出了高维(HD)优化的重大挑战。减少参数空间的维度的常见解决方案是显式地将解剖网格划分为固定的少量段或多尺度层次结构。这种基于解剖结构的参数空间缩减对参数估计提出了基本瓶颈,导致分辨率太低而不能反映组织异质性的解决方案,或者维度太高而不能在可行的计算内可靠地估计的解决方案。在本文中,我们提出了一个新的概念,嵌入一个生成变分自动编码器(VAE)到目标函数的贝叶斯优化,提供了一个隐式低维(LD)搜索空间,代表生成代码的HD空间变化的组织属性。此外,关于生成代码的VAE编码的知识被进一步用于指导搜索空间的探索。所提出的方法适用于估计组织兴奋性的心脏电生理模型。合成和真实数据实验表明,它能够提高参数估计的精度,效率提高10倍以上。
2020-05-15 cs.LG math.OC stat.ML
An AI-powered Bayesian Generative Modeling Approach for Arbitrary Conditional Inference
Department of Biostatistics, Yale University(耶鲁大学生物统计学系);Department of Statistics, Stanford University(斯坦福大学统计学系)
本文提出了一种基于人工智能的贝叶斯生成建模方法,用于解决任意条件推断问题,通过统一框架实现灵活的条件预测和不确定性量化。
2026-03-10 cs.AI cs.LG stat.CO