Conditional Monte Carlo revisited
条件蒙特卡罗是指从随机向量X的条件分布中采样,给定函数T(X)的值T(X)= t。经典的条件蒙特卡罗方法被设计用于通过从由某些加权方案获得的无条件分布中采样来估计X的函数的条件期望。其基本组成部分是使用重要性抽样和变量的变化。在本文中,我们重新制定的问题,通过引入一个人工参数模型,表示条件分布的X给定T(X)=t在这个新的模型。其关键是用分布来提供人工模型的参数。该方法说明了几个例子,这是特别选择来说明条件采样的情况下,这种采样是不简单的。仿真研究和实际数据的拟合优度检验的应用。
2020-10-14 math.ST stat.ME stat.TH
Bayesian Conditional Monte Carlo Algorithms for Sequential Single and Multi-Object filtering
贝叶斯滤波的目的是从一个观察到的过程中顺序跟踪一个隐藏的过程。特别是,序贯蒙特卡罗(SMC)技术传播的时间加权的轨迹,表示的后验概率密度函数(pdf)的隐藏过程给定的可用的意见。另一方面,条件蒙特卡罗(CMC)是一种方差缩减技术,它用给定另一个变量的条件期望来代替感兴趣时刻的估计量。在本文中,我们表明,一些适应,可以利用SMC算法的时间递归性质,以提出自然的时间CMC估计的一些点估计的隐藏过程,这优于相关的粗蒙特卡罗(MC)估计无论样本数。我们接下来表明,我们的贝叶斯CMC估计可以准确地计算,或有效地近似,在一些隐藏的马尔可夫链(HMC)模型,在一些跳跃马尔可夫状态空间系统(JMSS),以及在多目标滤波。最后通过仿真验证了算法的有效性。
2012-10-18 stat.CO
Sampling from Conditional Distributions of Simplified Vines
本文提出基于哈密顿蒙特卡洛的MCMC方法,实现对任意简化藤copula条件分布的高效采样,并通过模拟和玉米性状数据验证其准确性。
2025-05-23 stat.CO stat.ME
Subspace Langevin Monte Carlo
Brandeis University(布兰迪大学)
针对高维分布采样的计算挑战,提出子空间朗之万蒙特卡洛方法,通过投影到子采样特征块推广现有方法,兼具适应性与效率,建立了误差保证并通过实验验证了其在病态分布采样中的有效性。
2025-05-19 cs.LG stat.ML
Markov Chain Monte Carlo sampling for conditional tests: A link between permutation tests and algebraic statistics
我们考虑非负离散指数族的条件检验。我们开发了两个马尔可夫链蒙特卡罗(MCMC)算法,使我们能够从条件空间采样,并进行近似测试。第一种算法是基于Sturmfels描述的MCMC采样。第二MCMC采样包括在一个更有效的算法,利用条件空间的最佳分区到轨道的排列。因此,我们建立了一个标准的置换和代数统计为基础的采样之间的联系。通过模拟研究,我们比较了精确的累积分布函数(cdf)与近似cdf,这是由两个MCMC抽样和标准排列抽样得到的。我们的结论是MCMC采样利用的条件空间到排列轨道的分区给出了一个估计的cdf,在$H_0$,这是更可靠的,收敛到确切的cdf与最少的步骤。这种采样技术也可以用来建立一个近似的精确cdf时,其精确计算是计算上不可行的。
2017-07-26 stat.CO
Conditional Multilevel Monte Carlo Simulation of Groundwater Flow in the Culebra Dolomite at the Waste Isolation Pilot Plant (WIPP) Site
我们扩展了多级蒙特卡罗(MLMC)方法模拟地下水在多孔介质中的流动,将直接测量的介质属性。对新墨西哥州东南部的废物隔离试验厂(WIPP)处置库进行了数值模拟,以测试条件MLMC技术的性能。WIPP场地的对数transmittance被建模为条件随机场,它在少数几个位置上服从精确的场值。条件随机场是通过(Dietrich和Newsam,1996)中的修改的循环嵌入方法生成的。我们还研究了伴随着对立变量的条件MLMC的组合的影响。感兴趣的主要量是放射性核素从处置库中心行进到场址边界的时间。数值例子来证明的成本效益的多级方法相比,标准的蒙特卡罗(MC)模拟。
2014-02-21 stat.AP stat.CO
Replica Conditional Sequential Monte Carlo
本文提出了一种马尔可夫链蒙特卡罗(MCMC)方法来对非线性非高斯状态空间模型进行状态推断。解决该问题的当前最先进的方法依赖于粒子MCMC技术及其变体,例如迭代条件序贯蒙特卡罗(cSMC)方案,其在MCMC内使用序贯蒙特卡罗(SMC)类型提议。标准SMC提议的缺陷在于,当整个观测序列可用时,它们仅使用直到时间$t$的观测来提议时间$t$处的状态。可以使用基于前瞻技术的更复杂的SMC,但它们可能难以付诸实践。我们在这里提出副本cSMC,我们建立SMC建议,一个副本使用来自整个观察序列的信息,通过调节其他副本的状态。这种方法很容易并行化,我们证明了其出色的经验性能相比,标准的迭代cSMC计划在固定的计算复杂度。
2019-05-13 stat.CO
Stability of Conditional Sequential Monte Carlo
粒子吉布斯(PG)采样器是一种马尔可夫链蒙特卡罗(MCMC)算法,它使用相互作用的粒子系统来执行吉布斯步骤。每一步Gibbs都是模拟一个粒子系统,它依赖于一个条件序贯蒙特卡罗(cSMC)方法来创建粒子系统。我们提出了一种新的解释cSMC算法作为一个扰动的序贯蒙特卡罗(SMC)方法,并适用于伸缩分解SMC算法\cite{delmoral2004}的分析得出的预期采样路径从cSMC和MCMC算法的目标分布之间的距离的界限。这可以用来得到一致的遍历性结果。特别是,我们可以证明,cSMC的混合率可以保持恒定的线性增加粒子的数量与观察的数量。基于我们的分解,我们还证明了cSMC算法的中心极限定理,这不能使用\cite{Andrieu2013}和\cite{Lindsten2014}的方法。
2018-06-18 stat.CO
Minimum Risk Equivariant Estimation of the Parameters of the General Half-Normal Distribution by Means of a Monte Carlo Method to Approximate Conditional Expectations
本文研究一般半正态分布的参数估计问题。也就是说,研究了参数的最小风险等变(MRE)估计量的确定问题.仿真研究实现了极大似然估计和无偏估计量,这些估计的行为进行比较。一个自然的蒙特卡罗方法来计算条件期望被用来近似MRE估计的位置参数,因为它的表达式涉及两个条件期望不容易计算。所使用的蒙特卡罗方法是合理的贝西科维奇定理的措施微分,并已略有修改,以解决一种“灾难的维数”的问题出现在这个参数的估计。这种方法在过去几年中一直被隐含地用于ABC(近似贝叶斯计算)方法。
2015-04-04 stat.ME
A Monte Carlo Method to Approximate Conditional Expectations based on a Theorem of Besicovitch: Application to Equivariant Estimation of the Parameters of the General Half-Normal Distribution
一个自然的蒙特卡罗方法来近似条件期望的概率框架是合理的启发贝西科维奇覆盖定理微分措施的一般结果。当密度不可用或不容易计算时,该方法特别有用。该方法是通过一些例子来说明,也可以用于统计设置,以近似的条件期望给定的充分统计量,例如。事实上,它被应用于评估一般半正态分布的位置参数的最小风险同变估计(MRE),因为该估计是根据位置和尺度参数的已知值的条件期望来描述的。为了完备性,给出了尺度参数的最小风险同变估计的显式表达式。据我们所知,这些估计还没有在文献中给出。仿真研究实现了这些估计的行为与极大似然和无偏估计量。
2013-06-05 stat.CO
Modified Cholesky Riemann Manifold Hamiltonian Monte Carlo: Exploiting Sparsity for Fast Sampling of High-dimensional Targets
黎曼流形哈密顿蒙特卡罗(RMHMC)有可能产生高质量的马尔可夫链蒙特卡罗输出,即使是非常具有挑战性的目标分布。为此,一个对称正定的缩放矩阵RMHMC,它来自,通过修改的Cholesky分解,从潜在的不确定的负Hessian的目标对数密度提出。该方法是能够利用稀疏的Hessian,源于条件独立建模假设,从而承认快速实施RMHMC,即使是高维目标分布。此外,该方法可以利用对数凹条件目标密度,经常遇到贝叶斯分层模型,更快的采样和更直接的调整。所提出的方法相比,一些具有挑战性的目标的替代品,并说明了应用状态空间模型的真实数据。
2017-05-16 stat.CO stat.ME
Conditional sequential Monte Carlo in high dimensions
Andrieu、Doucet和Holenstein(2010)的迭代条件序贯蒙特卡罗(i-CSMC)算法是一种MCMC方法,用于在具有挑战性的时间序列模型中,例如在非线性或非高斯状态空间模型中,从$T$潜在状态的联合后验分布中进行有效采样。它也是粒子吉布斯采样器的主要成分,该采样器推断出潜在状态旁边的未知模型参数。在这项工作中,我们首先证明了i-CSMC算法的状态,$D$的维度的灾难:它打破了,除非样本(“粒子”),$N$,提出的算法与$D$呈指数增长的数量。然后,我们提出了一种新的“本地”版本的算法,提出粒子使用高斯随机行走移动,适当缩放与$D$。我们证明了这种迭代随机行走条件序贯蒙特卡罗(i-RW-CSMC)算法避免了维数灾难:对于任意$N$,其接受率和期望平方跳跃距离收敛到非平凡极限为$D \to \infty$。如果$T = N = 1$,我们提出的算法减少到一个大都市-黑斯廷斯或巴克的算法与高斯随机行走移动,我们恢复众所周知的缩放限制等算法。
2021-08-23 stat.CO
Projected Latent Markov Chain Monte Carlo: Conditional Sampling of Normalizing Flows
Department of Electrical and Computer Engineering(电气与计算机工程系);Duke University(杜克大学)
我们介绍了投影隐马尔可夫链蒙特卡罗(PL-MCMC),一种从归一化流学习的高维条件分布中采样的技术。我们证明了一个大都会黑斯廷斯实施PL-MCMC渐近样本从与规范化流的确切条件分布。作为一种条件采样方法,PL-MCMC支持蒙特卡洛期望最大化(MC-EM)训练,从不完整的数据中规范化流。通过对各种数据集的缺失数据任务应用规范化流的实验测试,我们证明了PL-MCMC对规范化流的条件采样的有效性。
2021-02-26 cs.LG stat.ML
Maximum conditional entropy Hamiltonian Monte Carlo sampler
哈密顿蒙特卡罗(HMC)采样器的性能主要取决于总积分时间和数值积分步长等算法参数。当HMC采样器的质量矩阵被适配时,参数调整是特别具有挑战性的。在这项工作中,我们提出了一个基于Kolmogorov-Sinai熵(KSE)的设计标准来优化这些算法参数,这可以避免一些潜在的问题,在经常使用的跳跃距离为基础的措施。对于近高斯分布,我们能够推导出最佳的算法参数相对于KSE标准解析。作为一个副产品,KSE准则也提供了一个理论上的理由,需要调整HMC采样器的质量矩阵。在此基础上,我们提出了一种自适应HMC算法,并通过数值例子验证了该算法的性能。
2020-05-17 stat.CO
Sensitivity estimation of conditional value at risk using randomized quasi-Monte Carlo
条件风险价值(CVaR)是一种常用的投资组合风险度量方法。CVaR的灵敏度分析在风险管理和基于梯度的优化算法中具有重要的应用价值。本文利用随机拟蒙特卡罗方法(RQMC)研究了CVaR灵敏度的微扰分析估计。我们首先证明了基于RQMC的估计量在非常温和的条件下是强相合的。在一定的技术条件下,在CVaR敏感性估计中使用$d$维点的RQMC对任意小的$ε>0$产生$O(n^{-1/2-1/(4d-2)+ε})$的平均差错率.数值结果表明,在所有情况下,RQMC方法都优于蒙特卡罗方法。如所建立的理论差错率所预测的,普通RQMC的增益随着尺寸$d$的增加而恶化。
2020-09-21 cs.NA math.NA stat.CO
Particle rejuvenation of Rao-Blackwellized Sequential Monte Carlo smoothers for Conditionally Linear and Gaussian models
本文主要研究条件线性和高斯状态空间中光滑分布的序贯蒙特卡罗近似。为了减少平滑器的蒙特卡罗方差,在这些模型中通常使用Rao-Blackwellization:粒子近似用于对隐藏状态的序列进行采样,而高斯状态使用卡尔曼滤波器/平滑器的变体根据状态和观测的序列进行显式积分。第一次成功的尝试,使用Rao-Blackwellization平滑扩展的Bryson-Frazier平滑高斯线性状态空间模型,使用广义的两个过滤器公式与卡尔曼滤波器/平滑。最近,一个向前向后分解的平滑分布模仿的Rauch-Tung-Striebel平滑的制度结合向后卡尔曼更新已经推出。本文研究了在所有这些算法中引入额外的再生步骤的好处,以在每个时刻对向前和向后粒子的新政权进行采样。这定义了平滑分布的基于粒子的近似,其支持不限于前向或后向滤波器中采样的粒子集。这些程序适用于商品市场,这是使用两个因素模型的基础上,现货价格和原油数据的便利收益率。
2017-07-05 stat.AP stat.ME
Integral geometry for Markov chain Monte Carlo: overcoming the curse of search-subspace dimensionality
我们介绍了一种方法,使用Cauchy-Crofton公式和一个新的曲率公式从积分几何中重新加权的Metropolis-within-Gibbs算法的采样概率,以提高其收敛速度。我们考虑的算法,从概率密度采样条件的流形$\mathcal{M}$。我们的方法利用算法的各向同性随机搜索方向子空间的对称性来分析平均由搜索子空间相对于其相交的流形$\mathcal{M}$的方向引起的相交体积的方差。这种变化可以随着搜索子空间的维度呈指数增长,大大减慢了算法。消除这种差异使我们能够使用比其他可能的搜索子空间大大于许多倍的搜索子空间,使我们能够对低维搜索子空间不太可能相交的非常罕见的事件进行采样。为了扩展这种方法的事件是罕见的原因以外的其他支持$\mathcal{M}$具有较低的维度,我们制定并证明了一个新的定理,利用曲率形式的Chern-Gauss-Bonnet定理重新加权采样概率的积分几何。另外,我们还应用我们的定理得到了实代数流形体积的新的理论界。最后,我们证明了我们的方法的计算有效性和加速通过数值应用到随机矩阵理论中的条件随机Airy算子采样问题。
2015-03-12 math.DG math.PR math.ST
A unified performance analysis of likelihood-informed subspace methods
似然信息子空间(LIS)方法为贝叶斯推断中高维概率分布的降维提供了一条可行的途径。LIS识别一个内在的低维线性子空间,其中目标分布与一些易处理的参考分布差异最大。可以使用对数似然函数的梯度的Gram矩阵的前导特征向量来识别这样的子空间。然后,通过各种形式的似然函数的边缘化来逼近原始的高维目标分布,其中逼近的似然函数只在固有的低维子空间上具有支持度。这种近似使得能够设计推理算法,其可以随着问题的表观维度次线性地缩放。直觉上,近似的准确性,从而推断算法的性能,受到三个因素的影响--在确定子空间的维数截断误差,在估计Gram矩阵的蒙特卡罗误差,以及在构造边缘化的蒙特卡罗误差。这项工作建立了一个统一的框架来分析这三个因素中的每一个及其相互作用。在温和的技术假设下,我们建立了一系列现有的降维技术的基础上LIS的原则的误差界。我们的误差范围也提供了有用的见解,这些方法的准确性。此外,我们分析了LIS与采样方法,如马尔可夫链蒙特卡罗(MCMC)和序贯蒙特卡罗(SMC)的集成。我们还证明了我们的分析的适用性与高斯先验的线性逆问题,这表明,所有的估计可以是维数无关的,如果先验协方差是一个迹类算子。
2021-10-21 math.ST stat.CO stat.TH
Precision Annealing Monte Carlo Methods for Statistical Data Assimilation: Metropolis-Hastings Procedures
统计数据同化(SDA)是将来自野外或实验室观测的信息转移到用户选择的产生这些观测的动力系统模型。数据是有噪声的,模型有误差;信息传递解决了以观测值为条件的模型状态的条件概率分布的性质。SDA中感兴趣的量是模型状态的函数的条件期望值,并且这些需要高维积分的近似评估。我们引入了一个条件概率分布,并使用退火拉普拉斯方法来确定的条件概率分布的最大值。当进入拉普拉斯方法时,退火方法缓慢地增加模型的精度项。在本文中,我们扩展的想法精密退火(PA)的蒙特卡罗计算的条件期望值使用Metropolis-Hastings方法。
2019-01-14 physics.data-an physics.geo-ph stat.CO
Parameter estimation in Conditional Sequential Monte Carlo algorithms through Particle Learning
University of Oslo(奥斯陆大学)
本研究提出结合参数学习与祖先采样的p(参数)-CSMC算法,在分支过程模型的合成与真实数据应用中,相比标准粒子吉布斯采样,混合速度更快、自相关性更低,参数估计性能显著提升。
2026-08-31 stat.ME
Pre-integration via Active Subspaces
预积分是条件蒙特卡罗方法向拟蒙特卡罗方法和随机拟蒙特卡罗方法的推广。它可以减少而不是增加蒙特卡罗的方差。对于拟蒙特卡罗方法,它可以带来改进的规则性的被积函数与潜在的大大提高的精度。预积分通常通过将$d$输入变量之一积分到函数中来完成。在高斯积分的常见情况下,也可以对变量的任何线性组合进行预积分。我们建议这样做,我们选择在一个积极的子空间分解的第一个特征向量是预集成的线性组合。我们发现,在数值例子中,这种主动子空间预集成策略是有竞争力的预集成的第一个变量的主成分构造的亚洲选项,其中主成分是已知的是非常有效的。它优于其他预集成方法对一些篮子选项,没有很好地建立默认。我们从理论上证明,就像在蒙特卡罗中一样,当使用加扰净积分时,预积分可以减少但不会增加方差。我们发现,在一个积极的子空间分解的领导特征向量是密切相关的向量,最大化一个不太容易处理的标准使用Sobol'指数找到最重要的线性组合的高斯变量。它们优化了涉及梯度的类似期望。我们表明,Sobol指数标准的领导特征向量是不变的方式,一个选择其余的$d-1$特征向量与高斯向量的采样。
2022-02-06 cs.NA math.NA math.ST
Improved multifidelity Monte Carlo estimators based on normalizing flows and dimensionality reduction techniques
针对参数化不同的昂贵模型不确定性传播问题,提出用归一化流与活动子空间、自编码器构建共享高斯子空间,以增强低保真模型相关性并降低多保真蒙特卡洛估计方差。
2024-06-14 stat.ME
Reducing Subspace Models for Large-Scale Covariance Regression
我们开发了一个包络模型联合均值和协方差回归在大$p$,小$n$设置。与现有的包络方法相比,通过合并协方差结构的估计来提高均值估计,我们专注于通过合并均值水平差异的信息来识别协方差异质性。我们使用蒙特卡罗期望最大化算法来识别一个低维子空间,该子空间解释了作为协变量的函数的均值和协方差的差异,然后使用MCMC来估计推断的低维子空间上的后验不确定性。我们证明了我们的模型的效用,激励应用程序上的代谢组学老化。我们还提供了R代码,可用于开发和测试响应包络模型的其他概括。
2020-10-01 stat.ME
Resampling in conditional SMC algorithms
Newcastle University(纽卡斯尔大学);University of Warwick(华威大学);University of Bristol(布里斯托大学)
本文提出一个统一框架,用于实现条件序贯蒙特卡洛(CSMC)算法中的有效重采样,涵盖多种重采样方案及其条件版本,无需随机排列祖先索引。
2026-06-25 stat.CO
How many inner simulations to compute conditional expectations with least-square Monte Carlo?
本研究针对最小二乘蒙特卡洛计算条件期望,确定了每个X样本应模拟的Y样本数K的最优值及估计方法,并指出当Y采样成本相对X较小时计算增益显著。
2023-05-15 math.PR math.ST q-fin.CP
Conditional Normalizing Flow Surrogate for Monte Carlo Prediction of Radiative Properties in Nanoparticle-Embedded Layers
Aalto University(阿尔托大学)
本文提出基于条件归一化流的概率代理模型,以蒙特卡洛与Mie理论数据训练,用于预测纳米颗粒散射介质的反射率、吸收率和透射率,兼具高精度与可靠不确定性量化能力。
2025-08-27 cs.LG physics.optics stat.ML
Quasi-Monte Carlo-Based Conditional Malliavin Method for Continuous-Time Asian Option Greeks
虽然离散时间亚式期权希腊族的计算方法很多,但连续时间亚式期权希腊族的计算方法却很少。本文在多维Malliavin演算中发展了一个分部积分法公式,并应用它得到了多资产情形下连续时间亚式期权的Greeks公式.我们将Malliavin方法与拟蒙特卡罗方法相结合来计算模拟中的希腊人。讨论了由Malliavin导数得到的连续时间亚式期权Greeks的模拟估计的渐近收敛.我们建议使用条件拟蒙特卡罗方法来平滑Malliavin希腊人,并表明,条件期望的计算分析是可行的许多类型的亚式期权。我们证明了新的估计希腊人有良好的光滑性。例如,对于二元亚式期权,亚式看涨期权和升出亚式看涨期权,我们的估计是无限次可微的。我们采用梯度主成分分析方法作为模拟中的降维技术。数值实验表明,所提出的方法,特别是对于具有不连续支付函数的亚式期权的效率大大提高。
2022-03-26 cs.NA math.NA math.PR
Adaptive Dimension Reduction to Accelerate Infinite-Dimensional Geometric Markov Chain Monte Carlo
贝叶斯逆问题高度依赖于高效和有效的推理方法来进行不确定性量化。直接定义在函数空间上的无限维MCMC算法,在物理模型的细化下是鲁棒的。这类算法的最新发展已经开始纳入几何后通知的数据,使他们能够探索复杂的概率结构。然而,所需的几何量通常是昂贵的,以获得在高维度。另一方面,在该设置中的未知参数空间的大部分几何信息集中在\emph{intrinsic}有限维子空间中。为了减轻计算强度并扩大无限维几何MCMC($\infty$ -GMC)的应用范围,我们将几何信息算法应用于内在子空间以探测其复杂结构,并将更简单的方法如预处理Crank-Nicolson(pCN)应用于其几何平坦的互补子空间。在这项工作中,我们利用降维技术来加速原始的$\infty$ -GMC算法。更具体地说,(先验或后验)协方差算子的部分谱分解用于识别一定数量的主特征方向作为固有子空间的基础。维度无关算法、几何信息和降维的组合产生更有效的实现\emph{(adaptive) dimension-reduced infinite-dimensional geometric MCMC}。通过少量的计算开销,我们可以实现超过70倍的速度相比,pCN使用模拟椭圆反问题和反问题,涉及湍流燃烧。提出了一些误差界比较各种MCMC建议,以预测所提出的降维算法的渐近行为。
2019-03-19 stat.CO
Sequential Monte Carlo Samplers for capital allocation under copula-dependent risk models
在本文中,我们假设一个多变量风险模型已经开发的投资组合和它的资本作为一个齐次风险度量。因此,欧拉(或梯度)原理指出,要分配给投资组合每个组成部分的资本必须作为一个以罕见事件为条件的预期来计算,这在实践中可能具有挑战性。我们利用投资组合风险中的Copula依赖性,设计了一个基于序贯蒙特卡罗采样器的边际条件期望估计,并通过一系列计算实例说明了其有效性.
2015-02-17 q-fin.RM stat.AP stat.CO
Markov chain Monte Carlo for computing rare-event probabilities for a heavy-tailed random walk
本文提出了一种基于马尔可夫链蒙特卡罗(MCMC)算法的计算罕见事件概率的方法。给定稀有事件发生的基本过程的条件分布以稀有事件的概率作为其归一化常数。利用MCMC方法模拟了一个马尔可夫链,将该条件分布作为其不变分布,并从其轨迹中提取了关于归一化常数的信息。该算法被描述在充分的一般性和应用的问题计算的概率,一个重尾随机游动超过一个高阈值。构造了倒概率的一个无偏估计,其归一化方差渐近为零。该算法被扩展到随机和其性能的数值说明,并与现有的重要性抽样算法。
2012-11-09 math.PR stat.CO
Markov chain Monte Carlo test of toric homogeneous Markov chains
马尔可夫链模型用于各种领域,例如行为科学或计量经济学。虽然模型的拟合优度通常通过大样本近似来评估,但如果样本量不大,则最好使用条件检验。研究了复曲面齐次马尔可夫链模型的条件检验的马尔可夫基,该模型是通常齐次马尔可夫链模型的包络指数族。我们给出了以下情况下的马尔可夫基的完整描述:i)两个状态,任意长度,ii)任意有限状态空间和长度为3。一般情况仍然是一种推测。我们还提出了一个数值例子的条件测试的基础上,我们的马尔可夫基础。
2010-08-04 math.ST stat.TH
Markov chain Monte Carlo tests for designed experiments
我们考虑离散响应变量设计实验中因子效应的条件精确检验。类似于列联表的分析,当大样本近似较差且条件样本空间的枚举不可行时,可以使用马尔可夫链蒙特卡罗方法进行精确检验。对于每次运行具有单个观察的设计实验,我们制定对数线性或逻辑模型,并考虑在适当的样本空间上的连接马尔可夫链。特别是,我们研究了部分析因设计与$2^{p-q}$运行,注意对应的模型$2^{p-q}$列联表。
2006-11-15 math.ST stat.TH
Conditional Inference in Pre-trained Variational Autoencoders via Cross-coding
University of Toronto(多伦多大学);Vector Institute(向量研究所);University of Massachusetts(马萨诸塞大学)
变分自动编码器(VAE)是一种流行的生成模型,但其中条件推理可能具有挑战性。如果分解成查询和证据变量是固定的,条件VAE提供了一个有吸引力的解决方案。为了支持任意查询,通常简化为马尔可夫链蒙特卡罗采样方法,该方法可能遭受长混合时间。在本文中,我们提出了一个想法,我们术语交叉编码近似分布的潜在变量的条件后,证据分配给一些子集的变量。这允许生成查询样本,而无需重新训练完整的VAE。我们通过实验评估了交叉编码的三种变化,表明(i)它们可以快速优化证据和查询的不同分解,(ii)它们在定量和定性上优于哈密顿蒙特卡罗。
2018-10-03 cs.CV cs.LG stat.ML
RaSE: Random Subspace Ensemble Classification
Columbia University(哥伦比亚大学);New York University(纽约大学)
我们提出了一个灵活的集成分类框架,随机子空间包围(RaSE),稀疏分类。在RaSE算法中,我们聚集了许多弱学习者,其中每个弱学习者都是在从随机子空间集合中最优选择的子空间中训练的基本分类器。为了进行子空间选择,我们提出了一个新的标准,比率信息准则(RIC),基于加权库尔贝克-莱布勒散度。理论分析包括RaSE分类器的风险和Monte-Carlo方差,建立了RIC的筛选一致性和弱一致性,并给出了RaSE分类器错分率的上界。此外,我们表明,在一个高维的框架中,随机子空间的数量需要非常大,以保证子空间覆盖信号被选中。因此,我们提出了RaSE算法的一个迭代版本,并证明了在某些特定条件下,通过迭代找到一个期望的子空间所需的生成随机子空间的数量较少.各种模型和真实数据应用下的一系列模拟证明了RaSE分类器及其迭代版本在低误分类率和准确特征排名方面的有效性和鲁棒性。RaSE算法在CRAN上的R包RaSEn中实现。
2021-05-29 cs.LG math.ST stat.CO
Sequential Monte Carlo pricing of American-style options under stochastic volatility models
本文介绍了一种新的方法来定价美式期权的基础投资的随机波动率(SV)模型。该方法不需要观察挥发过程。相反,它利用了这样一个事实,即在相应的动态规划问题中的最优决策函数可以表示为波动率的条件分布的函数,给定的观测数据。通过构建统计汇总这些条件分布的信息,可以获得高质量的近似解。虽然所需的条件分布一般是棘手的,他们可以任意精确地近似使用顺序蒙特卡罗计划。与许多蒙特卡罗方案一样,其缺点是潜在的计算量大。我们提出了两种变体的算法,一个密切相关的著名的最小二乘蒙特卡罗算法的Longstaff和施瓦茨[金融研究评论14(2001)113-147],和其他解决同样的问题,使用“蛮力”网格化的方法。我们使用马尔可夫链蒙特卡罗(MCMC)方法估计了三个股票的说明性SV模型。我们还证明了我们的算法的使用,估计后验分布的市场价格的波动性风险的三个股票。
2012-07-25 q-fin.CP q-fin.PR stat.AP
Learning Active Subspaces for Effective and Scalable Uncertainty Quantification in Deep Neural Networks
Brookhaven National Laboratory(布鲁克海文国家实验室)
提出构建神经网络参数低维主动子空间的新方案,通过识别对输出影响最大的参数方向,结合蒙特卡洛采样或变分推断实现有效且可扩展的贝叶斯推断,为回归任务提供可靠的预测和不确定性估计。
2023-09-06 cs.LG stat.ME stat.ML
Interacting Particle Markov Chain Monte Carlo
我们介绍了相互作用粒子马尔可夫链蒙特卡罗(iPMCMC),PMCMC方法的基础上的标准和条件序贯蒙特卡罗采样器的相互作用池。与相关方法一样,iPMCMC是扩展空间上的马尔可夫链蒙特卡罗采样器。我们目前的实证结果表明,显着改善的混合率相对于两个非相互作用的PMCMC采样器,和一个单一的PMCMC采样器具有相同的内存和计算预算。iPMCMC方法的另一个优点是它适用于分布式和多核架构。
2017-04-12 stat.CO stat.ML
Monte Carlo Algorithm for Least Dependent Non-Negative Mixture Decomposition
我们提出了一种模拟退火算法(称为SNICA的“随机非负独立分量分析”)的非负系数的非负源的线性混合物的盲分解。的去混合是基于大都市型蒙特卡洛搜索最少的依赖组件,与恢复组件之间的互信息作为成本函数和它们的非负性作为硬约束。基本移动是二维子空间中的剪切和三维子空间中的旋转。该算法适合于分解概率密度峰值为零的信号,这是分析光谱和多元曲线分辨率中的典型情况。该方法在大样本混合物和实验数据上的分解性能优于传统的基于主成分分析(MILCA,FastICA,RADICAL)和化学计量学技术(SIMPLISMA,ALS,BTEM)的盲源分离方法。SNICA,MILCA和MI估计器的源代码可以在http://www.fz-juelich.de/nic/cs/software上免费获得
2006-01-20 cond-mat.stat-mech cs.IT math.IT
Realized Tail-Risk Conditional Autoregressive Expectile Models: Accurate and Stable Forecasting Performance
Graduate School of Economics, The University of Tokyo(东京大学经济学研究科);Faculty of Economics, The University of Tokyo(东京大学经济学部)
提出RTCARE模型联合预测VaR与ES,将已实现尾部指标纳入条件期望分位数方程,经MCMC估计参数,实证显示其预测性能优且结果稳定。
2026-10-12 econ.EM q-fin.RM stat.AP
Active Subspaces in Infinite Dimension
Public Health Sciences Division Fred Hutchinson Cancer Center(公共健康科学分会弗雷德 Hutchinson 癌症中心);Department of Mathematics and Statistics University of Massachusetts Amherst(数学与统计学系马萨诸塞大学阿默斯特分校)
本文把活跃子空间降维方法推广到希尔伯特空间上的实值泛函,定义相应算子,证明性质可推广,提出蒙特卡洛程序并用于可视化及改进复杂问题的建模优化。
2025-10-13 cs.LG stat.ML
Accelerating MCMC with active subspaces
Colorado School of Mines(科罗拉多矿业学院);Stanford University(斯坦福大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出通过主动子空间降低维度以加速MCMC,减少高维空间探索的计算负担,并在两个例子中验证了该方法的有效性。
2016-07-02 cs.NA math.NA stat.CO
Monte Carlo testing: non-asymptotic guarantees without joint exchangeability
University of Chicago(芝加哥大学);Carnegie Mellon University(卡内基梅隆大学)
研究假设检验中蒙特卡罗检验问题,针对常见计算程序不足,给出有限样本保证。条件是观测数据和副本在给定潜在变量下条件独立同分布,对任意统计量和副本数成立,解释有限样本振荡行为,还为其他推断问题提供见解。
2026-07-28 math.ST stat.ME stat.TH
Sequential Monte Carlo as Approximate Sampling: bounds, adaptive resampling via $\infty$-ESS, and an application to Particle Gibbs
序贯蒙特卡罗(SMC)算法最初是为估计状态空间模型中的棘手条件期望而设计的,但现在通常用于在通用贝叶斯推理的上下文中生成近似样本。特别是,SMC算法经常被用作子程序内较大的蒙特卡罗计划,在这种情况下,放在SMC的要求是不同的:控制的均方误差是不够的-一个需要控制的发散直接从目标分布。为了实现这一目标,我们引入了条件自适应恢复粒子滤波器,建立在Gordon,Salmond和Smith(1993),Andrieu,Doucet和Holenstein(2010)以及Whiteley,Lee和Heine(2016)的工作基础上。通过控制有效样本量的新概念,$\infty$ -ESS,我们建立了由此产生的SMC采样算法的效率,提供了Andrieu,Lee和Vihola(2013)工作的自适应恢复扩展。我们应用我们的研究结果,以达到新的发散范围SMC采样器的自适应rescue以及自适应rescue版本的粒子吉布斯算法具有相同的几何遍历保证其非自适应对应。
2017-04-10 math.ST stat.CO stat.TH
A probabilistic framework for approximating functions in active subspaces
Technical University Munich (TUM)(慕尼黑工业大学)
本文提出一个全面的概率框架,用于在主动子空间中计算近似函数。该方法通过在非主导方向上对目标高维函数f进行积分,利用合适的条件密度函数进行近似,从而将问题降维。通过扩展Constantine等人(2014, 2016)的结果,本文提出了一个完全概率框架,并通过一个简单的数值例子进行了验证。
2019-04-07 cs.NA math.NA math.PR
Quantifying uncertain system outputs via the multi-level Monte Carlo method -- distribution and robustness measures
本文研究利用多层蒙特卡洛方法估计复杂随机微分模型输出的分布、分位数及条件风险价值,提出新型可计算误差估计器并结合延续型自适应算法优化MLMC层级,数值实验验证了其高效性与稳健性。
2023-05-22 cs.NA math.NA math.PR
Multilevel and Sequential Monte Carlo for Training-Free Diffusion Guidance
Department of Statistical Science, Duke University, Durham, North Carolina(杜克大学统计科学系)
本文提出基于多级与顺序蒙特卡洛的无训练引导方法,在CIFAR-10和ImageNet上实现了更高效准确的类条件生成。
2026-11-10 cs.LG stat.ML
Testing conditional independence via Rosenblatt transforms
本文提出了两个随机变量在含有未知有限维参数的单指标下条件独立性的新检验。测试采用Rosenblatt变换,并被证明是分布免费的,同时保留计算方便。从Monte Carlo模拟的一些结果,并进行了讨论。
2009-11-19 math.ST stat.TH
Evaluating Aleatoric Uncertainty via Conditional Generative Models
Columbia University(哥伦比亚大学)
随机不确定性量化寻求随机响应的分布知识,这对于机器学习应用中的可靠性分析和鲁棒性改进是重要的。以往任意不确定性估计的研究主要是针对封闭形式的条件密度或方差,这需要对数据的分布或维数有很强的限制。为了克服这些限制,我们研究了任意不确定性估计的条件生成模型。我们引入了两个度量来衡量适合这些模型的两个条件分布之间的差异。这两个指标都可以通过条件生成模型的蒙特卡罗模拟轻松且无偏差地计算,从而促进其评估和训练。我们数值演示了我们的指标如何提供正确的测量条件分布的差异,并可用于训练条件模型对现有的基准竞争。
2022-06-09 cs.LG stat.ML
Fast Monte Carlo Markov chains for Bayesian shrinkage models with random effects
当使用一般线性混合模型执行贝叶斯数据分析时,所得的后验密度几乎总是难以解析的。然而,如果使用适当的条件共轭先验,则存在一个简单的两块吉布斯采样器,该采样器在几乎所有实际设置中都是几何遍历的,包括$p > n$的情况(Abrahamsen和Hobert,2017)。不幸的是,$β$的(条件共轭)多元正态先验在$p \gg n$的高维环境中表现不佳。在本文中,我们考虑一种替代模型,其中多元正态先验被Griffin和Brown(2010)开发的正态-gamma收缩先验所取代。这一变化导致了更为复杂的后验密度,我们开发了一个简单的MCMC算法来探索它,该算法具有确定性和随机扫描组件,比更明显的三步Gibbs采样器更容易分析。事实上,我们证明了新算法是几何遍历在大多数实际设置。
2017-11-18 math.ST stat.TH
Parallel Markov Chain Monte Carlo for the Indian Buffet Process
基于Indian Buffet Process的模型是发现数据集内潜在特征的一种优雅方式,但在此类模型中进行推理可能会很慢。使用马尔可夫链蒙特卡罗推断潜在特征依赖于未折叠表示,这导致不良混合,或者依赖于折叠表示,这导致计算复杂性的二次增加。现有的分布式推理尝试在推理过程中引入了额外的近似。在本文中,我们提出了一种新的算法来执行渐近精确的并行马尔可夫链蒙特卡罗推理的印度巴菲特过程模型。我们利用的事实,即功能是有条件的独立下的β-伯努利过程。由于这种条件独立性,我们可以将特征划分为两部分:一部分只包含无限多个实例化特征,另一部分包含无限多个未实例化特征。对于有限划分,并行推理是简单的给定的实例化的功能。但是对于无穷大的尾部,执行未折叠的MCMC会导致混合效果不佳,因此我们将特征折叠出来。由此产生的混合采样器,而平行,产生样本渐近从真正的后验。
2017-03-09 stat.ML
A Metropolized adaptive subspace algorithm for high-dimensional Bayesian variable selection
提出了一种简单有效的自适应马尔可夫链蒙特卡罗(MCMC)方法--Metropolized Adaptive Subspace(MAdaSub)算法,用于贝叶斯变量选择中的高维后验模型分布采样. MAdaSub算法基于独立的Metropolis-Hastings采样器,其中解释变量的个体建议概率在每次迭代后使用贝叶斯自适应学习的形式进行更新,以最终收敛到各自协变量的后验包含概率的方式。我们证明了算法的遍历性,并提出了一个并行版本的MAdaSub的适应计划的建议概率的基础上,从多个链的信息组合。该算法的有效性通过各种模拟和真实数据的例子,包括一个高维问题,超过20,000协变量证明。
2022-07-07 stat.CO stat.ME