Approximate Shapley value estimation using sampling without replacement and variance estimation via the new Symmetric bootstrap and the Doubled half bootstrap
本文提出改进KernelSHAP算法,通过无重复抽样和新自助法提升Shapley值估算精度。
2026-01-13 stat.ME
Sampling errors of quantile estimations from finite samples of data
经验关系推导出的预期抽样误差的分位数估计使用蒙特卡罗实验中经常遇到的两个频率分布在气候科学。发现的关系表示为比例因子乘以平均值的标准误误差;这些提供了一个快速工具来估计给定有限样本量的分位数的不确定性。
2016-10-11 physics.ao-ph stat.ME
Exact Simulation of Multivariate Diffusions and Bridges
Stanford University(斯坦福大学)
该研究针对系数有界的多元扩散过程及桥过程,提出了首个有限期望成本的通用精确采样算法,结合随机参数化展开与有限加权图,实现了极小极大最优采样。
2026-10-09 math.PR stat.CO
Progressive Distillation for Fast Sampling of Diffusion Models
Google Research(谷歌研究院)
扩散模型最近在生成建模方面表现出了很大的希望,在感知质量和密度估计方面优于GANs和自回归模型。剩下的缺点是它们的采样时间很慢:生成高质量的样本需要数百或数千个模型评估。在这里,我们做了两个贡献,以帮助消除这个缺点:首先,我们提出了新的参数化的扩散模型,提供了更高的稳定性时,使用几个采样步骤。其次,我们提出了一种方法来提取一个训练的确定性扩散采样器,使用许多步骤,到一个新的扩散模型,需要一半的采样步骤。然后,我们继续逐步将此蒸馏过程应用于我们的模型,每次所需的采样步骤数量减半。在CIFAR-10、ImageNet和LSUN等标准图像生成基准测试中,我们从最先进的采样器开始,最多可执行8192步,并且能够在不损失太多感知质量的情况下提取到仅需4步的模型;例如,在CIFAR-10上通过4步实现FID 3.0。最后,我们表明,完整的渐进蒸馏过程并不需要更多的时间比它需要训练的原始模型,从而代表了一个有效的解决方案,生成建模使用扩散在训练和测试时间。
2022-06-07 cs.AI cs.LG stat.ML
Interval Estimation of Bounded Variable Means via Inverse Sampling
在本文中,我们发展了有界随机变量均值的区间估计方法,该方法基于一个连续的过程,使得抽样一直持续到样本和不小于一个给定的阈值。
2008-03-07 math.PR math.ST stat.ME
Optimal Sampling for Estimation of Fractional Brownian Motion
本文在非马尔可夫框架下研究采样次数受限时分数布朗运动估计的最优采样问题,提出确定性方案和水平触发方案,并通过最小化累计平方误差失真证明最优策略依赖于过程的相关性结构。
2023-04-16 math.PR math.ST stat.ME
Estimation of ergodic square-root diffusion under high-frequency sampling
研究了高频采样下平方根扩散过程中参数$θ$的高斯拟似然估计。与Overbeck和Rydén(1998)在低频采样下的研究不同,高频数据提供了非常简单的渐近协方差阵的形式。通过易于计算的初步对比函数,一个实用的两阶段的方式,而无需数值优化,制定不仅进行渐近有效的估计的漂移参数,但也高精度估计的扩散参数。最后给出了仿真实验来说明结果。
2022-06-23 math.PR math.ST stat.TH
New algorithms for sampling and diffusion models
本研究受扩散生成模型逆扩散过程启发,基于随机微分方程提出新型采样与扩散生成模型算法,推导显式收敛速率与无维粒子近似收敛结果,实验验证有效,且采样无需目标分布密度正则性假设,还可应用于优化问题。
2024-07-10 math.OC math.PR math.ST
On sampling from a log-concave density using kinetic Langevin diffusions
ENSAE-CREST(法国国家统计与经济管理学院-应用经济科学研究中心)
朗之万扩散过程及其离散化常用于从目标密度采样。最方便的框架来评估这样一个抽样方案的质量对应于光滑和强对数凹密度定义在$\mathbb R^p$。目前的工作集中在这个框架和研究的动力学朗之万扩散的离散化的基础上的Monte Carlo算法的行为。我们首先证明几何混合动力学朗之万扩散的混合率,这是在过阻尼制度,最佳的条件数的依赖性。然后,我们使用这个结果获得改进的保证,使用动力学朗之万蒙特卡罗方法的采样时,采样的质量是由Wasserstein距离测量。我们还考虑了目标分布的对数密度的Hessian函数是Lipschitz连续的情况。在这种情况下,我们引入了一个新的离散化的动力学朗之万扩散,并证明这导致大幅改善的上界测量Wasserstein距离的采样误差。
2018-12-26 cs.LG math.PR math.ST
Non-asymptotic performance analysis of importance sampling schemes for small noise diffusions
在本说明中,我们开发了一个prelimit分析的性能指标的重要性抽样计划有关的小噪声扩散过程。在重要性抽样中,任何测度变化的表现都是由它的二阶矩来表征的。对于一个给定的变化的措施,我们的特点是相应的估计的二阶矩作为解决方案的偏微分方程,我们分析通过一个完整的渐近展开相对于噪声的大小,并获得一个精确的声明,其准确性。二阶矩衰减率的主要修正项求解了一个可以显式求解的输运方程。我们得到的渐近展开识别的来源,但渐近最优的重要性抽样方案可能表现不佳,并允许更准确的竞争重要性抽样方案之间的比较。
2014-07-29 math.OC math.PR math.ST
Convergence of Reflected Langevin Diffusion for Constrained Sampling
本文研究了反射拉格朗日扩散在约束采样中的收敛性,通过惩罚随机微分方程和时间离散化方案,证明了其在Wasserstein-2距离下的收敛性及多项式速率。
2026-01-21 math.PR math.ST stat.TH
Stochastic Transport Maps in Diffusion Models and Sampling
本研究提出基于扩散过程的随机传输映射理论框架,证明相关SDE解的存在唯一性,并构建统一方法以推广扩散生成模型,分析粒子近似收敛性,为高维生成与采样提供新工具。
2025-03-26 math.PR math.ST stat.TH
M-estimation in multistage sampling procedures
多阶段(设计的)程序,通过将采样预算适当地划分为多个阶段,并且基于从先前阶段获得的关于参数的信息来设计特定阶段的采样,从精确推断的角度来看通常是有利的。我们开发了一个通用的框架,在多阶段设置的M-估计和应用经验过程技术开发极限定理,描述大样本行为的M-估计。应用到改变点估计,逆保序回归,分类和模式估计提供:它通常是看到的多级程序加重的M-估计的效率,通过加速收敛速度,相对于一个阶段的程序。一步一步的过程诱导跨阶段的依赖性,并使这些问题的分析复杂化,我们通过仔细的条件参数来解决这些问题。
2014-01-07 math.ST stat.ME stat.TH
Effect of sampling on the estimation of drift parameter of continuous time AR(1) processes
研究了随机抽样对连续时间AR(1)过程漂移参数估计的影响。考虑了基于随机观测时间点的漂移的自然分布自由矩估计。研究了连续样本间最小间隔约束对漂移估计的影响。
2013-07-25 math.ST stat.TH
On Bayesian Estimation of Densities and Sampling Distributions: the Posterior Predictive Distribution as the Bayes Estimator
本文给出了两个突出的贝叶斯估计问题的最优性结果:平方全变差函数的抽样分布估计和$L^1$ -平方损失函数的密度估计.后验预测分布为这些问题提供了解决方案。文中给出了一些例子,并讨论了分布函数的贝叶斯估计问题。证明了密度估计的相合性。
2021-08-21 math.ST stat.TH
Posterior Sampling in High Dimension via Diffusion Processes
本文研究基于扩散过程和变分方法的高维后验采样算法,通过欧拉离散化及消息传递近似后验期望,在稀疏回归和低秩矩阵估计中实现了恒定信噪比下的精度保证。
2024-08-23 math.ST stat.TH
Importance sampling for Sobol' indices estimation
ONERA/DTIS, Université de Toulouse(法国国家航空航天研究院DTIS,图卢兹大学);Fédération ENAC ISAE-SUPAERO ONERA, Université de Toulouse(ENAC ISAE-SUPAERO ONERA联盟,图卢兹大学)
本文提出了一种重要性采样方法,用于高效估计Sobol'指数,并通过反向采样支持分布敏感性分析。
2026-03-01 math.ST stat.TH
Sampling conditioned diffusions via Pathspace Projected Monte Carlo
Tobias Grafke
提出路径空间投影蒙特卡洛算法,用于在一般约束下采样随机微分方程,通过流形采样方案有效处理多种约束并展示于多个物理场景。
2025-06-17 cs.LG math.PR math.ST
Sampling from mixture distributions based on regime-switching diffusions
本文提出用状态依赖切换率的随机微分方程从有限混合分布采样,证明常步长 Euler 格式在弱意义和遍历极限下一阶收敛,并用数值实验验证。
2025-04-08 cs.NA math.NA math.PR
Incidence weighting estimation under bipartite incidence graph sampling
二部关联图抽样为估计的目的提供了许多抽样情况的统一表示,包括现有的非常规抽样方法,如间接,网络或自适应整群抽样,这些方法最初并不被描述为图问题。我们开发了一个大类的线性估计的样本二部关联图的边缘的基础上,设计无偏性的一般条件。这个类包含经典的Horvitz-Thompson估计量作为特例,以及非常规抽样文献中的其他无偏估计量,这些估计量可以追溯到Birnbaum和Sirken(1965)。我们的推广允许设计其他无偏估计,从而提供了一个潜在的应用程序中的效率增益。文中给出了自适应整群抽样、截线抽样和模拟图的例子。
2020-04-08 math.ST stat.TH
Asymptotic Moments Matching to Uniformly Minimum Variance Unbiased Estimation under Ewens Sampling Formula
Ewens抽样公式是与正整数的随机划分有关的分布。在本研究中,我们研究了分布下参数估计的非存在解问题。在此基础上,利用Ewens抽样公式,得到了一致最小方差无偏估计量的一阶矩和二阶矩匹配估计量。蒙特卡洛模拟研究进行评估的效率所产生的估计。
2021-05-24 math.ST stat.TH
Efficient estimation in the accelerated failure time model under cross sectional sampling
考虑在加速失效时间模型中,当数据通过横截面抽样获得时,回归参数的估计。它表明,它是可能的正则性下的模型,以构建一个有效的估计未知的欧氏回归参数,如果协变量向量的分布是已知的,也如果它是未知的消失的意思。
2003-05-16 math.ST stat.TH
Probability Estimation with Truncated Inverse Binomial Sampling
本文给出了截尾逆二项抽样的一般理论。在该理论中,固定尺寸抽样和逆二项抽样作为特殊情况被容纳。特别是,经典的霍夫-霍夫丁界是该理论的直接结果。此外,我们提出了一种严格而有效的概率估计方法,这是一个自适应蒙特卡罗估计方法的截断逆二项抽样的基础上。我们提出的方法的概率估计可以是数量级更有效的文献和广泛使用的软件中的现有方法相比。
2019-08-19 cs.SY eess.SY math.ST
Sampling from multi-modal distributions with polynomial query complexity in fixed dimension via reverse diffusion
CREST, ENSAE Institut Polytechnique de Paris(CREST,ENSAE 巴黎高等理工学院)
本文提出一种固定维度下基于反向扩散的多模态分布采样算法,通过自归一化蒙特卡洛估计得分函数,实现多项式查询复杂度,避免亚稳态且无需模态先验知识。
2025-10-23 cs.LG math.ST stat.CO
Query Lower Bounds for Diffusion Sampling
UT Austin(德克萨斯大学奥斯汀分校)
本文研究了扩散采样中查询次数的下限,证明了在多维分布下,任何采样算法需要至少O(√d)次适应性查询,解释了多尺度噪声调度的必要性。
2026-09-30 cs.AI cs.DS cs.LG
Diffusion Posterior Sampling is Computationally Intractable
UT Austin(德克萨斯大学);UC Berkeley(加州大学伯克利分校)
本文基于密码学中单向函数存在的假设,证明扩散模型后验采样在计算上不可行,并表明指数时间拒绝采样在更强假设下本质上最优。
2025-11-09 cs.AI cs.LG math.ST
Faster Diffusion Sampling with Randomized Midpoints: Sequential and Parallel
UT Austin(德克萨斯大学奥斯汀分校);Princeton University(普林斯顿大学);Harvard SEAS(哈佛大学工程与应用科学学院)
受对数凹采样随机化中点方法启发,提出一种新的扩散采样方案,在全变差距离下实现了最佳的维度依赖性,并首次为扩散模型并行采样提供了可证明保证。
2024-10-17 cs.DS cs.LG math.ST