Sample-Efficient Multiple Testing with Adaptive Data Collection
University of Pennsylvania(宾夕法尼亚大学)
本文提出基于e值的后验采样程序,在自适应多重检验中控制错误发现率并保证嵌套拒绝集,通过理论界和实验验证其样本高效性。
2026-09-23 stat.ME
Rejection sampling from shape-constrained distributions in sublinear time
MIT(麻省理工学院)
我们考虑的任务,从一个目标分布,已知的归一化,在一个有限的字母表生成精确的样本。该任务的经典算法是拒绝采样,尽管它已在实践中使用了几十年,但令人惊讶的是,对其基本局限性的研究却很少。在这项工作中,我们研究了查询的复杂性拒绝抽样在一个极大极小的框架,各类离散分布。我们的研究结果提供了新的算法采样的复杂度与字母表的大小呈次线性关系。当应用于对抗土匪,我们表明,略有修改的Exp3算法减少了每次迭代的复杂度从$\mathcal O(K)$到$\mathcal O(\log^2 K)$,其中$K$是武器的数量。
2021-05-29 cs.LG math.ST stat.ML
TabNAS: Rejection Sampling for Neural Architecture Search on Tabular Datasets
Google Research(谷歌研究院);Stanford University(斯坦福大学)
给定机器学习问题的最佳神经架构取决于许多因素:不仅数据集的复杂性和结构,而且还取决于资源约束,包括延迟,计算,能耗等。以前的NAS算法设计的图像搜索空间将资源约束直接到强化学习(RL)的奖励。然而,对于表格数据集上的NAS,此协议通常会发现次优架构。本文开发了TabNAS,这是一种新的更有效的方法,可以使用RL控制器来处理表格NAS中的资源约束,该控制器的灵感来自拒绝采样的思想。TabNAS会立即丢弃任何违反资源约束的架构,而无需对该架构进行培训或学习。TabNAS对RL策略梯度更新使用基于蒙特卡罗的校正,以解决此额外筛选步骤。在多个表格数据集上的结果证明了TabNAS相对于以前的奖励整形方法的优越性:它找到了更好的遵守约束的模型。
2022-10-20 cs.LG stat.ML
The Sample Complexity of Approximate Rejection Sampling with Applications to Smoothed Online Learning
MIT(麻省理工学院)
本文刻画了在有界 f-散度条件下近似拒绝采样的最优样本复杂度,并将其应用于放宽对手约束的平滑在线学习场景,同时比较了重要性采样与拒绝采样的效果。
2024-02-23 cs.LG stat.ML
Refined $α$-Divergence Variational Inference via Rejection Sampling
IIT Kanpur(印度理工学院坎普尔分校);Google Research(谷歌研究院)
我们提出了一种近似推理方法,基于Rényi $α$ -发散变分推理(RDVI)和拒绝抽样(RS)的协同组合。RDVI基于真实分布$p(x)$和变分近似$q(x)$之间的Rényi $α$ -散度$D_α(p||q)$的最小化; RS使用提议$p(x) = \tilde{p}(x)/Z_{p}$,s.t. $Mq(x) \geq \tilde{p}(x), \forall x$。我们的推理方法是基于一个重要的观察,即$D_\infty(p||q)$等于$\log M(θ)$,其中$M(θ)$是给定建议$q_θ(x)$的RS常数的最佳值。这使我们能够开发一个\emph{two-stage}混合推理算法。阶段1执行RDVI以通过最小化$D_α(p||q)$的估计器来学习$q_θ$,并且使用学习的$q_θ$来找到(近似)最佳$\tilde{M}(θ)$。阶段2使用常数$\tilde{M}(θ)$执行RS以改进近似分布$q_θ$并获得基于样本的近似。我们证明,这两个阶段的方法,使我们能够学习更准确的近似相比,RDVI的目标分布。我们证明了我们的方法的有效性,通过几个实验合成和真实的数据集。
2019-10-29 cs.LG stat.ML
Reparameterized Variational Rejection Sampling
Generate Biomedicines(生成生物医药公司);Google Research(谷歌研究院)
本文改进 Variational Rejection Sampling,通过低方差重参数化梯度估计器优化提议分布,提出 RVRS,在连续及局部潜变量模型的黑箱推断中兼顾计算成本与后验近似质量。
2023-09-26 cs.LG stat.CO stat.ML
Variational Rejection Sampling
Stanford University(斯坦福大学);Vicarious;University of Alberta(阿尔伯塔大学)
当近似后验距离真实后验很远时,由于梯度估计的高方差,使用随机变分推断学习潜变量模型具有挑战性。我们提出了一种新的拒绝抽样步骤,丢弃样本的变分后,这是分配低似然模型。我们的方法提供了一个任意精确的近似真实的后,额外的计算为代价。使用一个新的梯度估计所产生的未规范化的建议分布,我们实现了3.71 nats和0.21 nats的平均改进,分别超过最先进的单样本和多样本的替代方案,用于估计边缘对数似然使用S形信念网络的MNIST数据集。
2018-04-05 cs.AI cs.LG cs.NE
Query-Efficient Rejection Sampling for Parallel Masked Diffusion
University of California, Los Angeles(加州大学洛杉矶分校)
针对掩码扩散模型并行采样忽略token相关性的问题,提出单增量拒绝采样器SIRS,通过单次查询估计对数接受概率并结合Rao-Blackwell化减少截断,降低了查询成本且界定了KL散度。
2026-10-16 cs.LG math.PR stat.ML
Reparameterization Gradients through Acceptance-Rejection Sampling Algorithms
使用重新参数化技巧的变分推断使复杂概率模型中的大规模近似贝叶斯推断成为可能,利用随机最优化来回避棘手的期望。当我们可以通过在分布固定的辅助随机变量上应用可微确定性函数来模拟随机变量时,重新参数化技巧是适用的。对于许多感兴趣的分布(如伽玛或狄利克雷),随机变量的模拟依赖于接受-拒绝抽样。由接受-拒绝步骤引入的不连续性意味着标准的重新参数化技巧不适用。我们提出了一种新的方法,即使变量是接受-拒绝抽样算法的输出,也可以利用重新参数化梯度。我们的方法可以在更大的一类变分分布上进行重新参数化。在真实和合成数据的几项研究中,我们表明梯度估计的方差显着低于其他最先进的方法。这使得随机梯度变分推断收敛更快。
2020-02-12 stat.ME stat.ML
Sample-Rank: Weak Multi-Objective Recommendations Using Rejection Sampling
Swiggy(Swiggy公司)
在线食品订购市场是一个多利益相关者的系统,其中的建议会影响系统中每个参与者的体验和成长。在这种情况下,推荐系统必须封装不同利益相关者的目标和约束,以便找到推荐项目的实用性。针对该问题的基于约束优化的方法通常涉及复杂的公式,并且在涉及数百万实体的生产设置中具有高计算复杂性。简化和松弛技术(例如,标量化)有助于但会引入次优性,并且由于需要大量的调优而可能非常耗时。在本文中,我们介绍了一种方法,涉及多目标采样,然后对用户相关性进行排名(Sample-Rank),以推动市场的多目标(MO)目标的建议。该方法的新颖之处在于,它减少了MO推荐问题,从一个期望的多目标分布采样,然后使用它来建立一个生产友好的学习排名(LTR)模型。在离线实验中,我们表明,我们能够偏向于MO标准的建议与可接受的权衡指标,如AUC和NDCG。我们还展示了一个大规模在线A/B实验的结果,与基线排名方法相比,这种方法在统计学上显著提高了2.64%的平均每单收入(RPO)(目标#1),而转化率(CR)(目标#2)没有下降,同时保持了平均最后一英里的水平(目标#3)。这种方法还显著减少了MO设置中的模型开发和部署时间,并允许对更多目标和其他类型的LTR模型进行简单的扩展。
2020-08-24 cs.LG stat.ML
Uniform Race: Parameter-Free Approximate Rejection Sampling
Pohang University of Science and Technology(浦项科技大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
针对近似拒绝采样需预设阈值的局限,提出无参数算法均匀竞赛(UR),通过重要性权重除以均匀随机变量选取最大分数样本,在任意预算下同时达到所有阈值的最优误差界,且优于现有基线,并在LLM数学推理任务中验证有效性。
2026-11-05 cs.LG stat.ML
Importance Corrected Neural JKO Sampling
University College London(伦敦大学学院)
本文提出将连续正则化流与基于重要性权重的拒绝-重采样步骤相结合以从未归一化密度采样,通过交替局部与非局部步骤克服多峰分布的收敛问题,在多种测试分布上显著优于现有技术。
2025-08-13 cs.LG math.PR stat.ML
A Minimalist Approach to LLM Reasoning: from Rejection Sampling to Reinforce
Salesforce AI Research(Salesforce AI研究院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究从类reinforce视角分析GRPO的有效性来源,发现仅用正样本训练的RAFT基线性能可与GRPO、PPO媲美,进而提出同时过滤全错和全对样本的Reinforce-Rej算法,提升了KL效率与稳定性,为LLM后训练提供了轻量方案与研究指导。
2025-06-12 cs.AI cs.CL cs.LG
Alternating Diffusion for Proximal Sampling with Zeroth Order Queries
Graduate School of Information Science and Technology, The University of Tokyo(东京大学信息科学与技术研究生院);Institute of High Performance Computing, Agency for Science, Technology and Research(科技研究局高性能计算研究所);Centre for Frontier AI Research, Agency for Science, Technology and Research(科技研究局前沿人工智能研究中心);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院)
本文提出一种仅利用零阶信息的近端采样器,通过直接模拟动力学而非拒绝采样,将中间粒子分布视为高斯混合分布,从而获得蒙特卡洛分数估计器,在等周条件下继承指数收敛性,并通过并行计算实现快速收敛。
2026-03-20 cs.LG stat.ML
ParaDRAM: A Cross-Language Toolbox for Parallel High-Performance Delayed-Rejection Adaptive Metropolis Markov Chain Monte Carlo Simulations
我们推出了ParaDRAM,这是一款高性能并行延迟拒绝自适应大都会马尔可夫链蒙特卡罗软件,用于科学推理中遇到的数学目标函数的优化、采样和集成。ParaDRAM目前可以从几种流行的程序设计语言访问,包括C/C++,Fortran,MATLAB,Python,并且是ParaMonte开源项目的一部分,具有以下主要设计目标:1.蒙特卡洛模拟的全自动化,2。核心库与尽可能多的程序设计语言的互操作性,从而提供跨所有程序设计语言的统一应用程序编程接口和蒙特卡罗模拟环境,3.高性能4.从个人笔记本电脑到超级计算机的模拟的并行性和可扩展性,5。对外部库的依赖几乎为零,6.模拟的完全确定性再现性,7.仿真结果的自动综合报告和后处理。我们提出并讨论了几种新的技术,在ParaDRAM中实现自动和动态地确保良好的混合和减少适应所产生的伪马尔可夫链从ParaDRAM。我们还讨论了一个有效的数据存储方法中使用的ParaDRAM,减少了平均内存和存储要求的算法,简单的模拟问题的一个因素为4,一个数量级和更多的采样复杂的高维数学目标函数的实现。最后,我们讨论了ParaDRAM的设计目标如何帮助用户在各种计算平台上轻松有效地解决各种机器学习和科学推理问题。
2020-08-21 astro-ph.IM cs.CE physics.data-an