Scalable Nonparametric Sampling from Multimodal Posteriors with the Posterior Bootstrap
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所)
越来越复杂的数据集对贝叶斯推断提出了许多挑战。基于马尔可夫链蒙特卡罗的传统后验采样可能计算量太大,本质上是串行的,并且后验模式之间的混合很差。此外,所有模型都是错误指定的,这使人们对传统贝叶斯更新的有效性产生了疑问。我们提出了一个可扩展的贝叶斯非参数学习例程,使后验采样通过适当的随机目标函数的优化。一个Dirichlet过程之前的未知数据分布帐户的模型误指定,并承认一个非常并行的后验自举算法,从非参数后验分布产生独立和准确的样本。我们的方法是特别善于通过随机重新启动机制从多峰后验分布采样。我们证明了我们的方法在高斯混合模型和稀疏逻辑斯谛回归的例子。
2019-08-25 cs.LG stat.ME stat.ML
Efficient Approximate Posterior Sampling with Annealed Langevin Monte Carlo
Chandra Family Department of Electrical and Computer Engineering, The University of Texas at Austin(德克萨斯大学奥斯汀分校电气与计算机工程系)
本文提出了一种在多项式时间内高效近似后验采样的方法,结合KL散度和Fisher散度,确保样本同时符合测量和先验。
2025-12-08 cs.AI cs.LG stat.ML
Split Gibbs Discrete Diffusion Posterior Sampling
California Institute of Technology(加州理工学院);New York University(纽约大学);OpenAI
提出基于分裂吉布斯采样的离散扩散后验采样算法SGDD,支持奖励引导生成与逆问题求解,在多项基准上取得SOTA性能及30%图像修复提升。
2025-11-01 cs.CV cs.LG
Enhancing Diffusion Posterior Sampling for Inverse Problems by Integrating Crafted Measurements
University at Buffalo(布法罗大学);Adobe Research(Adobe研究);The Pennsylvania State University(宾夕法尼亚州立大学);Fujian Normal University(福建师范大学)
针对扩散后验采样中过早引入高频信息导致误差增大的问题,提出 DPS-CM 方法,通过集成精心设计的带噪测量来形成后验估计,有效缓解了与扩散先验的不一致,显著提升多种逆问题的求解能力。
2025-06-27 cs.AI cs.CV cs.LG
Learning to Optimize Via Posterior Sampling
Stanford University(斯坦福大学)
本文考虑使用一个简单的后验抽样算法,以平衡探索和开发学习优化行动时,如在多臂土匪问题。该算法,也被称为汤普森采样,提供了显着的优势,流行的置信上限(UCB)的方法,并可以应用于有限或无限的行动空间和复杂的关系之间的行动奖励的问题。我们做了两个理论贡献。第一个建立后验采样和UCB算法之间的连接。这一结果使我们能够将UCB算法的后悔界限转换为贝叶斯后悔界限。我们的第二个理论贡献是贝叶斯后悔约束后验抽样,适用广泛,可以专门用于许多模型类。这个界限依赖于一个新的概念,我们称之为逃避者维度,它衡量了行动奖励之间的依赖程度。相比UCB算法贝叶斯遗憾界特定的模型类,我们的一般界匹配最好的线性模型,并比最好的广义线性模型。此外,我们的分析提供了深入了解后验采样的性能优势,这是突出通过模拟结果表明,性能超过最近提出的UCB算法。
2014-02-03 cs.LG
An Empirical Evaluation of Posterior Sampling for Constrained Reinforcement Learning
Eindhoven University of Technology(埃因霍温理工大学);Jheronimus Academy of Data Science(赫罗尼姆斯数据科学学院);University of Jyväskylä(于韦斯屈莱大学);Tilburg University(蒂尔堡大学)
研究了约束强化学习中有效探索的后验抽样方法。替代现有的算法,我们提出了两个简单的算法,更有效的统计,更简单的实现和计算成本更低。第一种算法是基于CMDP的线性公式,第二种算法利用CMDP的鞍点公式。我们的实证结果表明,尽管它的简单性,后验采样达到最先进的性能,在某些情况下,显着优于乐观算法。
2022-09-08 cs.LG
Why is Posterior Sampling Better than Optimism for Reinforcement Learning?
Stanford University(斯坦福大学);Deepmind
计算结果表明,后验采样强化学习(PSRL)显着优于乐观驱动的算法,如UCRL 2。我们提供了深入了解这种性能提升的程度和驱动它的现象。我们利用这种洞察力,建立一个$\tilde{O}(H\sqrt{SAT})$贝叶斯期望遗憾界PSRL在有限地平线情节马尔可夫决策过程中,其中$H$是地平线,$S$是状态的数量,$A$是行动的数量和$T$是经过的时间。这改进了任何强化学习算法的$\tilde{O}(H S \sqrt{AT})$的最佳前界。
2017-06-13 cs.AI cs.LG stat.ML
Myopic Bayesian Design of Experiments via Posterior Sampling and Probabilistic Programming
Carnegie Mellon University(卡内基梅隆大学);U-Mass, Amherst(马萨诸塞大学阿默斯特分校)
我们设计了一个新的近视策略的顺序实验设计(DOE)的问题,其中的目标是收集数据,以满足一定的问题的具体目标。我们的方法,近视后验采样(MPS),是受经典的后验(汤普森)采样算法的启发,多武装匪徒,并利用概率规划和近似贝叶斯推断的灵活性,以解决广泛的问题。从经验上讲,这种通用策略在各种DOE任务中与更专业的方法竞争,更重要的是,能够解决现有方法似乎不适用的复杂DOE目标。在理论方面,我们利用自适应子模块化和强化学习的思想来推导MPS实现次线性后悔的条件。
2018-05-25 cs.AI cs.LG stat.ML
Rényi Differential Privacy Mechanisms for Posterior Sampling
University of California, San Diego(加利福尼亚大学圣迭戈分校)
使用最近提出的隐私Rényi差分隐私(RDP)的定义,我们重新审视固有的隐私释放一个单一的样本从后验分布。我们利用先验分布的影响来减轻单个数据点的影响。特别是,我们专注于从指数族和特定的广义线性模型,如逻辑回归的采样。我们提出了新的RDP机制,以及提供一个新的RDP分析现有的方法,以增加价值的RDP框架。每种方法都能够实现任意的RDP隐私保证,我们提供了实验结果,他们的功效。
2017-10-02 cs.AI cs.CR cs.LG
Online Posterior Sampling with a Diffusion Prior
Adobe Research(Adobe研究院);Amazon(亚马逊公司);AWS AI Labs(AWS人工智能实验室)
本文提出了一种基于扩散模型先验的近似后验采样算法,用于基于上下文的老虎机问题,以提高复杂分布建模能力。
2026-02-16 cs.LG stat.ML
Noise, Denoise, Correct: MCMC Posterior Sampling with Diffusion Priors in Three Steps
PhysicsX
针对非线性不可微逆问题,提出扩散华尔兹MCMC方法,用SDEdit加噪去噪作提议并经MH校正实现精确后验采样,在Navier-Stokes任务上优于基线。
2026-10-08 cs.LG
Parallel-tempered Stochastic Gradient Hamiltonian Monte Carlo for Approximate Multimodal Posterior Sampling
American International Group, Inc.(美国国际集团)
我们提出了一个新的采样器,集成了协议的并行回火与Nosé-Hoover(NH)动力学。该方法可以有效地从复杂的后验分布与多个孤立的模式,在随机梯度产生的噪声存在下提取代表性的样本。它可能有助于在遇到复杂的多模态后验和小批量梯度的大型数据集上进行深度贝叶斯学习。
2018-12-07 cs.LG stat.ML
Solving Linear Inverse Problems Provably via Posterior Sampling with Latent Diffusion Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
提出首个利用预训练潜在扩散模型求解线性逆问题的框架,通过理论分析证明了线性模型设置下的样本恢复,并在多种任务上超越现有后验采样算法。
2023-07-02 cs.AI cs.LG stat.ML
Provable diffusion-based posterior sampling for linear inverse problems via DDIM
该研究针对线性逆问题,提出\pddim算法,通过对标准DDIM更新进行轻量级逐坐标修改并纳入测量模型,沿测量算子奇异方向分别采样。此算法收敛到贝叶斯后验,在图像恢复任务中性能优于现有方法,实现高效且具后验一致性。
2026-07-22 cs.AI cs.LG stat.ML
Diffusion Posterior Sampling is Computationally Intractable
UT Austin(德克萨斯大学);UC Berkeley(加州大学伯克利分校)
本文基于密码学中单向函数存在的假设,证明扩散模型后验采样在计算上不可行,并表明指数时间拒绝采样在更强假设下本质上最优。
2025-11-09 cs.AI cs.LG math.ST
Accelerating Approximate Thompson Sampling with Underdamped Langevin Monte Carlo
Purdue University(普渡大学);Morgan Stanley(摩根士丹利)
近似汤普森采样与朗之万蒙特卡罗扩大了其范围从高斯后验采样,包括更一般的光滑后验。然而,它仍然遇到的高维问题时,要求高精度的可扩展性问题。为了解决这个问题,我们提出了一个近似的汤普森采样策略,利用欠阻尼朗之万蒙特卡罗,后者是去到主力的高维后验的模拟。基于标准光滑性和对数正态性条件,我们研究了使用特定势函数的加速后验集中和采样。该设计将实现对数遗憾的样本复杂度从$\mathcal{\tilde O}(d)$提高到$\mathcal{\tilde O}(\sqrt{d})$。我们的算法的可扩展性和鲁棒性也通过高维强盗问题的合成实验进行了经验验证。
2024-06-21 cs.AI cs.LG stat.ML
Posterior Sampling for Large Scale Reinforcement Learning
Adobe Research(奥多比研究院);Netflix(网飞)
我们提出了一个实用的非情节PSRL算法,不像最近的国家的最先进的PSRL算法使用一个确定性的,独立于模型的情节切换时间表。我们的算法称为确定性调度PSRL(DS-PSRL)是有效的时间,样本,和空间复杂度。我们证明了一个贝叶斯遗憾界下温和的假设。我们的结果更普遍地适用于多参数和连续状态作用问题。我们比较我们的算法与国家的最先进的PSRL算法的标准离散和连续问题的文献。最后,我们展示了我们的算法的假设如何满足一个明智的参数化的一大类问题,在顺序的建议。
2018-10-22 cs.AI cs.LG
Dueling Posterior Sampling for Preference-Based Reinforcement Learning
California Institute of Technology(加州理工学院);Tsinghua University(清华大学)
在基于偏好的强化学习(RL)中,智能体与环境交互,同时接收偏好而不是绝对反馈。虽然基于偏好的强化学习的研究活动越来越多,但允许易于处理的理论分析的正式框架的设计仍然是一个开放的挑战。基于RL中基于偏好的强盗学习和后验采样的思想,我们提出了DUELING POSTERIOR SAMPLING(DPS),它采用基于偏好的后验采样来学习系统动态和控制偏好反馈的潜在效用函数。由于偏好反馈提供的轨迹,而不是个人的状态-动作对,我们开发了一个贝叶斯方法的信用分配问题,翻译偏好的状态-动作奖励模型的后验分布。本文利用贝叶斯线性回归信用分配模型证明了DPS的渐近贝叶斯无遗憾率。据我们所知,这是基于偏好的强化学习的第一个遗憾保证。我们还讨论了其他信用分配模型的证明方法的可能途径。最后,我们评估的方法经验,显示竞争力的表现对现有的基线。
2020-06-29 cs.AI cs.LG stat.ML
POEM: Out-of-Distribution Detection with Posterior Sampling
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
对于部署在开放世界中的机器学习模型,分发外(OOD)检测是必不可少的。最近,在训练过程中使用辅助离群值数据集(也称为离群值暴露)已经显示出有希望的性能。由于潜在OOD数据的样本空间可能非常大,因此采样信息离群值至关重要。在这项工作中,我们提出了一种新的基于后验采样的离群数据挖掘框架,POEM,它有利于有效地利用离群数据,并促进学习ID和OOD数据之间的紧凑决策边界,以提高检测。我们表明,POEM建立国家的最先进的性能,共同的基准。与目前使用贪婪采样策略的最佳方法相比,POEM在CIFAR-10和CIFAR-100上的相对性能分别提高了42.0%和24.2%(FPR 95)。我们进一步提供了理论见解的有效性POEM OOD检测。
2022-06-28 cs.AI cs.CV cs.LG
Diffusion Posterior Sampling for General Noisy Inverse Problems
KAIST(韩国科学技术院);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
针对现有扩散逆问题求解器多聚焦无噪简单线性场景的局限,提出扩散后验采样方法,融合扩散采样与流形约束梯度,可高效处理通用含噪(非)线性逆问题,适配多种噪声类型。
2024-05-20 cs.AI cs.CV cs.LG
A Stabilized Path-Space Approach to Diffusion-Based Posterior Sampling
Oden Institute for Computational Engineering and Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校奥登计算工程与科学研究所);Mitsubishi Electric Research Laboratories (MERL)(三菱电机研究实验室);Department of Biomedical Engineering, The University of Texas at Austin(德克萨斯大学奥斯汀分校生物医学工程系);Mitsubishi Electric Research Laboratories(三菱电机研究实验室)
提出一种稳定的路径空间框架,通过随机最优控制与信任域优化,实现非线性逆问题中准确且鲁棒的后验采样。
2026-06-12 cs.LG math.OC
Solving Diffusion Inverse Problems with Restart Posterior Sampling
Purdue University(普渡大学)
RePS通过重启后验抽样高效解决线性和非线性逆问题,避免反向传播,提升收敛速度和重建质量。
2025-11-24 cs.AI cs.LG stat.ML
Amortized Posterior Sampling with Diffusion Prior Distillation
Caltech(加州理工学院);EverEx;KAIST(韩国科学技术院)
提出摊销后验采样(APS),通过训练条件流模型最小化与扩散模型隐式定义的后验分布的散度,实现单次神经函数评估的高效后验采样,无需配对数据且适用于欧氏与非欧氏域,在计算效率上显著优于现有方法。
2025-07-11 cs.CV cs.LG
The Gaussian Latent Machine: Efficient Prior and Posterior Sampling for Inverse Problems
Institute of Visual Computing, Graz University of Technology(视觉计算研究所,格拉茨技术大学)
本文提出高斯潜在机,通过统一和泛化现有采样算法,实现高效逆问题采样,适用于多种贝叶斯成像先验和后验分布。
2026-04-15 cs.CV cs.LG eess.IV
Posterior sampling by source-space MCMC via prior-based few-step transport maps
Nanyang Technological University(南洋理工大学);University of Helsinki(赫尔辛基大学)
提出源空间广义贝叶斯推断框架,利用少步iMF传输映射表示隐式先验,在高斯源空间采样,并给出误差界,实验验证其准确高效及文本引导能力。
2026-10-02 cs.AI cs.LG stat.ML
Incentivized Exploration via Filtered Posterior Sampling
Stanford University(斯坦福大学);Microsoft Research(微软研究院);Netflix(奈飞)
本文提出将后验采样作为激励式探索的通用算法方案,并将其扩展到私有智能体类型、信息性推荐和相关贝叶斯先验等更一般设置,统一了已有结果。
2024-02-20 cs.LG econ.TH
FlowDPS: Flow-Driven Posterior Sampling for Inverse Problems
KAIST(韩国科学技术院);Kim Jaechul Graduate School of AI, KAIST(韩国科学技术院金在哲人工智能研究生院)
本文提出 FlowDPS,将扩散逆求解器扩展到流匹配框架,通过流版 Tweedie 公式分解 ODE 并结合似然梯度与随机噪声实现后验采样,在四个线性逆问题上无需额外训练即超越现有方法。
2025-03-11 cs.AI cs.CV cs.LG
Instance-Optimal Compressed Sensing via Posterior Sampling
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们从一个已知的先验分布提取的信号的压缩感知的测量复杂性的特征,即使当支持的先验是整个空间(而不是,说,稀疏向量)。我们表明,高斯测量和\emph{any}先验分布的信号,后验抽样估计达到近最佳的恢复保证。此外,只要分布估计(例如,从可逆生成模型)接近Wasserstein距离的真实分布。我们使用Langevin动力学实现了深度生成先验的后验采样估计器,并根据经验发现它比MAP产生更多样的准确估计。
2021-06-21 cs.IT cs.LG math.IT
Exploiting Causal Graph Priors with Posterior Sampling for Reinforcement Learning
Technion(以色列理工学院);ETH Zurich(苏黎世联邦理工学院);Politecnico di Milano(米兰理工大学);ETH AI Center(苏黎世联邦理工学院人工智能中心)
本文提出 C-PSRL 方法,以部分因果图作为先验,通过分层贝叶斯同时学习完整因果图和因子化动态参数,显著提升了无信息先验下后验采样的样本效率。
2024-04-08 cs.LG
Differential Privacy of Gaussian Process Posterior Sampling
School of Mathematics, University of Bristol(布里斯托大学数学学院)
研究高斯过程后验样本路径的隐私性,通过Rényi-DP界分离后验均值与协方差泄露,揭示有效岭正则化的关键作用,并验证成员推断攻击与正则化的依赖关系。
2026-09-15 cs.CR cs.LG stat.ML
Generative diffusion posterior sampling for informative likelihoods
Division of Statistics and Machine Learning(统计与机器学习系)
本文提出一种新的扩散后验SMC采样器,通过构建与扩散模型相关的观测路径来提升异常值和高信息量似然条件下的采样统计效率。
2025-08-22 cs.LG cs.SY eess.SY
Q-learning with Posterior Sampling
Columbia University(哥伦比亚大学)
针对后验采样在强化学习中理论分析困难的问题,提出基于Q值高斯后验探索的PSQL算法,证明其在表格型回合制MDP下的遗憾界接近已知下界,为后验采样结合强化学习算法提供了新的技术思路。
2025-10-28 cs.LG
Bayesian Optimal Control of Smoothly Parameterized Systems: The Lazy Posterior Sampling Algorithm
Queensland University of Technology(昆士兰科技大学);University of Alberta(阿尔伯塔大学)
研究了一类光滑参数化马尔可夫决策问题的贝叶斯最优控制。由于计算的最优控制是计算昂贵的,我们设计了一个算法,权衡性能的计算效率。该算法是一个懒惰的后验抽样方法,保持分布的未知参数。该算法仅在分布的方差充分减小时才改变其策略。重要的是,我们分析了算法,并显示了性能与计算权衡的精确性质。最后,我们在一个Web服务器控件应用程序上展示了该方法的有效性。
2014-06-16 cs.LG stat.ML
Latent Annealed Posterior Sampling with a Variance-Preserving Local Gaussian Approximation for Sparsely Observed Random Fields
School of Statistics and Mathematics, Yunnan University of Finance and Economics(云南财经大学统计与数学学院)
针对稀疏观测随机场后验推断的两大挑战,本文提出带方差保持桥的潜在退火后验采样(LAPS)方法,实验表明其在后验准确性、不确定性校准与计算效率间实现了良好权衡。
2026-11-17 cs.LG stat.ML
Evaluating the Posterior Sampling Ability of Plug&Play Diffusion Methods in Sparse-View CT
ONERA, Univ. Paris Saclay(法国航空航天实验室、巴黎萨克雷大学);IMS (Univ. Bordeaux – CNRS – BINP)(波尔多大学、法国国家科学研究中心、核物理与粒子物理研究所联合组成的信息处理与系统研究所)
针对稀疏视角CT导致的多模态后验问题,本文提出两项后验评估属性,定量比较三种PnP扩散方法,发现投影数减少时其近似后验均偏离真实后验。
2025-03-18 cs.AI cs.CV cs.LG
Recovery Guarantees for Posterior Sampling of One-Bit Compressed Sensing
University of Electronic Science and Technology of China(电子科技大学)
该研究针对带先验的噪声1比特压缩感知,证明后验采样的恢复上界与下界几乎匹配,通过带扩散先验的即插即用算法实现后验采样,在FFHQ、ImageNet数据集上验证了方法有效性。
2026-10-14 cs.IT cs.LG math.IT
Divide-and-Conquer Posterior Sampling for Denoising Diffusion Priors
Ecole polytechnique(巴黎综合理工学院);KTH Royal Institute of Technology(皇家理工学院);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
针对去噪扩散模型先验下后验分布难以采样的问题,提出分治后验采样框架,利用模型内在结构构建中间后验序列引导采样,在无需重训练的情况下显著降低近似误差并提升准确性。
2024-11-11 cs.LG stat.ML
On Sampling from the Gibbs Distribution with Random Maximum A-Posteriori Perturbations
University of Haifa(海法大学);TTI Chicago(丰田工业大学芝加哥分校);MIT(麻省理工学院)
在本文中,我们描述了如何MAP推理可以用来有效地从吉布斯分布采样。具体来说,我们提供了通过引入低维扰动和解决相应的MAP分配从吉布斯分布绘制近似或无偏样本的方法。我们的方法也导致了新的方法来获得分区函数的下界。我们的经验表明,我们的方法在典型的“高信号-高耦合”制度优于。该设置导致参差不齐的能源景观,这对于采样和/或下限的替代方法是具有挑战性的。
2013-09-29 cs.LG
Efficient MCMC Sampling for Bayesian Matrix Factorization by Breaking Posterior Symmetries
University of Michigan(密歇根大学)
贝叶斯低秩矩阵分解技术已成为关系数据分析和矩阵补全的重要工具。标准的方法是在因子矩阵的列或行上分配零均值高斯先验以创建共轭系统。这种先验的选择导致简单的实现;然而,它也会导致后验分布的对称性,这会严重降低马尔可夫链蒙特卡罗(MCMC)采样方法的效率。在本文中,我们提出了一个简单的修改先验选择,可证明打破这些对称性,并保持/提高精度。具体来说,我们提供的条件,高斯先验均值和协方差必须满足,使后验不表现出不变性,产生采样困难。例如,我们表明,使用非零线性独立的先验均值显着降低了MCMC样本的自相关性,也可以导致较低的重建误差。
2020-11-10 cs.LG stat.ML
D-Flow SGLD: Source-Space Posterior Sampling for Scientific Inverse Problems with Flow Matching
Sibley School of Mechanical and Aerospace Engineering, Cornell University(科尼尔大学机械与航空航天工程学院);Department of Aerospace and Mechanical Engineering, University of Notre Dame(诺丁汉大学航空航天与机械工程系)
D-Flow SGLD是一种基于流匹配的源空间后验采样方法,通过可微源推断与预条件随机梯度兰格-多夫动态相结合,实现科学反问题中高效且保真的后验采样。
2026-02-25 cs.LG
Posterior Sampling with Denoising Oracles via Tilted Transport
Courant Institute of Mathematical Sciences, New York University(纽约大学柯朗数学科学研究所);Center for Data Science, New York University(纽约大学数据科学中心);Flatiron Institute(弗莱堡研究所)
本文提出倾斜传输技术,利用去噪预言机和对数似然的二次结构将线性逆问题的后验采样转化为更易采样的强对数凹后验,并验证了其在高维模型上的有效性。
2024-06-30 cs.LG math.PR stat.CO
Learning to Replace MCMC in Split-Gibbs Diffusion Posterior Sampling via Deep Unfolding
Weizmann Institute of Science(魏茨曼科学研究所);Northeastern University(东北大学)
提出用深度展开网络替换分裂吉布斯采样中的MCMC步骤,通过ODE扩散实现高斯去噪更新,在非线性相位恢复中实现更低成本的扩散后验采样。
2026-09-28 cs.LG eess.SP stat.ML
Efficient Exploration in Average-Reward Constrained Reinforcement Learning: Achieving Near-Optimal Regret With Posterior Sampling
Eindhoven University of Technology(埃因霍温理工大学);Jheronimus Academy of Data Science(赫罗尼姆斯数据科学学院);University of Jyväskylä(于韦斯屈莱大学)
针对无限时域无折扣设置下的约束马尔可夫决策过程(CMDP),提出一种基于后验采样的算法,实现了近似最优的贝叶斯遗憾界并在实验中优于现有方法。
2024-05-29 cs.LG
Geometry-Correct Diffusion Posterior Sampling with Denoiser-Pullback Curvature Guidance and Manifold-Aligned Damping
Department of Electrical and Computer Engineering, Inha University, Incheon, 22212, South Korea(电气与计算机工程系,Inha大学,Incheon,22212,韩国)
提出一种基于去噪器回拉曲率引导和流形对齐阻尼的几何校正扩散后验采样方法,通过每噪声水平的阻尼高斯-牛顿校正替代标量引导,实现稳定高效的后验采样。
2026-05-27 cs.AI cs.CV cs.LG
Posterior Sampling by Combining Diffusion Models with Annealed Langevin Dynamics
UT Austin(得克萨斯大学);Microsoft Research(微软研究院)
针对后验采样的计算难题,聚焦对数凹分布$p(x)$,提出结合扩散模型与退火朗之万动力学的方法,仅需得分误差$L^4$界即可在多项式时间内实现条件采样,解决朗之万动力学对得分估计误差敏感的问题。
2025-11-18 cs.AI cs.DS cs.LG
Provably Efficient Exploration in Constrained Reinforcement Learning:Posterior Sampling Is All You Need
Eindhoven University of Technology(埃因霍温理工大学);Jheronimus Academy of Data Science(杰罗尼默斯数据科学学院);Tilburg University(蒂尔堡大学)
针对无限视野无折扣通信型 CMDP,提出基于后验采样的探索算法,获得接近最优的贝叶斯遗憾界,并在实验中优于现有约束强化学习方法。
2023-09-27 cs.LG
Sensing Cox Processes via Posterior Sampling and Positive Bases
ETH Zürich(苏黎世联邦理工学院)
我们研究了Cox点过程的自适应感知,Cox点过程是一个广泛使用的空间统计模型。我们介绍三个任务:最大化捕获的事件,搜索强度函数的最大值,并学习强度函数的水平集。我们从截断高斯过程的样本,表示在一个专门构造的积极的基础上的强度函数建模。在此基础上,强度函数的正性约束具有简单的形式。我们展示了如何一个最小的描述积极的基础上,可以适应协方差内核,非平稳性,并从以前的作品连接到共同的积极的基础。我们的自适应传感算法使用朗之万动力学,并基于后采样(\textsc{Cox-Thompson})和前两个后采样(\textsc{Top2})原则。对于后者,样本之间的差异可作为不确定性的替代。我们演示的方法使用的例子,从环境监测和犯罪率建模,并将其与经典的贝叶斯实验设计方法。
2022-03-29 cs.LG stat.ML
Fast and Robust Diffusion Posterior Sampling for MR Image Reconstruction Using the Preconditioned Unadjusted Langevin Algorithm
Institute of Biomedical Imaging, Graz University of Technology, Graz, Austria;Department of Radiology, Boston Children's Hospital, Harvard Medical School, Boston, USA;Chandra Family Department of Electrical Engineering, University of Texas at Austin, USA;Department of Diagnostic Medicine, Dell Medical School, University of Texas at Austin, USA
针对MR图像重建中扩散后验采样速度慢和参数调优问题,提出基于预条件未调整朗之万算法的精确似然方法,实现快速收敛且无需调参的鲁棒采样。
2026-04-21 cs.CV cs.LG math.PR
Wide Bayesian neural networks have a simple weight posterior: theory and accelerated sampling
University of Cambridge(剑桥大学);Google Research(谷歌研究院)
我们介绍reprorisation,一个数据相关的reparameterisation,将贝叶斯神经网络(BNN)后的分布,其库尔贝克-莱布勒散度的BNN前消失层宽度的增长。的reprorisation映射直接作用于参数,其分析的简单性补充了已知的神经网络高斯过程(NNGP)的行为,广泛的BNN在函数空间。利用repriorisation,我们开发了一个马尔可夫链蒙特卡罗(MCMC)后验采样算法,混合更快更广泛的BNN。这与MCMC在高维中通常较差的性能形成对比。我们观察到高达50倍的有效样本量相对于没有重新参数化的完全连接和剩余网络。在所有宽度上都实现了改进,重新参数化和标准BNN之间的裕度随着层宽度的增加而增加。
2022-06-15 cs.LG stat.ML
Variational Rejection Sampling
Stanford University(斯坦福大学);Vicarious;University of Alberta(阿尔伯塔大学)
当近似后验距离真实后验很远时,由于梯度估计的高方差,使用随机变分推断学习潜变量模型具有挑战性。我们提出了一种新的拒绝抽样步骤,丢弃样本的变分后,这是分配低似然模型。我们的方法提供了一个任意精确的近似真实的后,额外的计算为代价。使用一个新的梯度估计所产生的未规范化的建议分布,我们实现了3.71 nats和0.21 nats的平均改进,分别超过最先进的单样本和多样本的替代方案,用于估计边缘对数似然使用S形信念网络的MNIST数据集。
2018-04-05 cs.AI cs.LG cs.NE
Plug-and-Play Posterior Sampling under Mismatched Measurement and Prior Models
Department of Electrical & Systems Engineering, Washington University in St. Louis, USA(华盛顿大学圣路易斯分校电气与系统工程系);Computer Science Department, ENS, PSL University, 75005, France(巴黎高等师范学院计算机科学系);MAP5, CNRS, Université Paris Cité, 75006, France(巴黎城市大学MAP5研究所);Department of Computer Science & Engineering, Washington University in St. Louis, USA(华盛顿大学圣路易斯分校计算机科学与工程系)
针对即插即用未调整朗之万算法(PnP-ULA)在测量模型与去噪先验不匹配时缺乏理论分析的问题,本文提出posterior-L2伪度量来量化不匹配后验分布下的显式误差界限,并通过高斯混合模型采样和图像去模糊等实验验证了该理论。
2025-03-10 cs.LG stat.ML
Online Learning for Stochastic Shortest Path Model via Posterior Sampling
University of Southern California(南加州大学)
研究了随机最短路径问题的在线强化学习问题,该问题被建模为一个具有吸收状态的未知MDP。我们提出了PSRL-SSP,一个简单的后验采样为基础的强化学习算法的SSP问题。该算法在历元中运行。在每个历元的开始,从未知模型动态的后验分布中抽取样本,并且在该历元期间遵循关于所抽取样本的最优策略。如果当前历元中对目标状态的访问次数超过前一历元,或者对任何状态-动作对的访问次数加倍,则历元完成。我们建立了$O(B_\star S\sqrt{AK})$的贝叶斯后悔界,其中$B_\star$是最优策略的期望成本的上界,$S$是状态空间的大小,$A$是动作空间的大小,$K$是发作次数。该算法只需要先验分布的知识,没有超参数调整。它是第一个这样的后采样算法,并在数值上优于以前提出的基于优化的算法。
2021-06-09 cs.LG
Enhancing Transfer Learning with Flexible Nonparametric Posterior Sampling
The University of Hong Kong(香港大学);KAIST AI(韩国科学技术院人工智能);AITRICS(AITRICS公司)
针对迁移学习中上下游数据分布偏移导致现有先验策略效果受限的问题,提出采用非参数先验的NPTL后验采样方法,经实验验证其BMA性能优于其他基准。
2024-03-12 cs.LG
When, why, and how do diffusion posterior samplers fail? A finite-sample lens
Georgia Institute of Technology(佐治亚理工学院)
本文从有限样本视角分析扩散后验采样器中似然近似误差导致后验分布偏差的原因,发现中间时间步的后验扩散估计不准确会导致模式加权错误和幻觉,并提出一种与近似类型无关的诊断方法。
2026-05-28 cs.LG