Implicit Variational Rejection Sampling
RIKEN iTHEMS;RIKEN AIP;South China University of Technology(华南理工大学);Xiamen University(厦门大学);Columbia University(哥伦比亚大学)
提出隐式变分拒绝采样(IVRS),结合隐式分布与拒绝采样,通过神经网络构建提议分布并用判别器估计密度比来改进后验近似,引入IR-ELBO作为质量度量,实验优于传统变分推断。
2026-06-15 cs.LG
Rejection sampling from shape-constrained distributions in sublinear time
MIT(麻省理工学院)
我们考虑的任务,从一个目标分布,已知的归一化,在一个有限的字母表生成精确的样本。该任务的经典算法是拒绝采样,尽管它已在实践中使用了几十年,但令人惊讶的是,对其基本局限性的研究却很少。在这项工作中,我们研究了查询的复杂性拒绝抽样在一个极大极小的框架,各类离散分布。我们的研究结果提供了新的算法采样的复杂度与字母表的大小呈次线性关系。当应用于对抗土匪,我们表明,略有修改的Exp3算法减少了每次迭代的复杂度从$\mathcal O(K)$到$\mathcal O(\log^2 K)$,其中$K$是武器的数量。
2021-05-29 cs.LG math.ST stat.ML
Discriminator Rejection Sampling
UC Berkeley(加州大学伯克利分校);Google Brain(谷歌大脑)
我们提出了一种拒绝抽样方案,使用GAN的采样近似校正GAN生成器分布中的误差。我们表明,在相当严格的假设下,这将使我们能够准确地恢复数据分布。然后,我们研究这些严格的假设打破,并设计一个实用的算法-称为鉴别器拒绝抽样(DRS)-可用于真实的数据集。最后,我们证明了DRS对高斯混合模型和SAGAN模型的有效性,这是开发这项工作时图像生成任务的最新技术。在ImageNet上,我们训练了一个改进的基线,将Inception Score从52.52提高到62.36,并将Frechet Inception Distance从18.65降低到14.79。然后,我们使用DRS来进一步改善这个基线,将Inception Score提高到76.08,FID提高到13.75。
2019-02-26 cs.LG stat.ML
Delayed rejection Hamiltonian Monte Carlo for sampling multiscale distributions
Flatiron Institute(熨斗研究所)
针对多尺度分布中 HMC 步长受高曲率区域限制的问题,提出几何递减步长的延迟拒绝 HMC,并扩展重试概率机制,最高带来五倍采样效率提升。
2021-10-01 cs.LG stat.ML
Flipping Against All Odds: Reducing LLM Coin Flip Bias via Verbalized Rejection Sampling
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));The Chinese University of Hong Kong(香港中文大学)
针对大语言模型难以生成符合概率分布的真实样本的问题,提出言语化拒绝采样方法,通过自然语言适配经典拒绝采样机制,在无需访问模型内部的情况下大幅降低采样偏差,验证了经典概率工具嵌入LLM工作流的有效性。
2025-06-11 cs.CL cs.LG
Channel Simulation and Distributed Compression with Ensemble Rejection Sampling
Department of Electrical and Computer Engineering, University of Toronto(电气与计算机工程系,多伦多大学)
本文提出基于集成拒绝采样的信道模拟与分布式匹配方案,实现近最优编码速率,并首次在拒绝采样家族中达到接近泊松匹配引理的匹配概率,通过分布式压缩实验验证有效性。
2025-10-07 cs.IT cs.LG math.IT
Variational Rejection Sampling
Stanford University(斯坦福大学);Vicarious;University of Alberta(阿尔伯塔大学)
当近似后验距离真实后验很远时,由于梯度估计的高方差,使用随机变分推断学习潜变量模型具有挑战性。我们提出了一种新的拒绝抽样步骤,丢弃样本的变分后,这是分配低似然模型。我们的方法提供了一个任意精确的近似真实的后,额外的计算为代价。使用一个新的梯度估计所产生的未规范化的建议分布,我们实现了3.71 nats和0.21 nats的平均改进,分别超过最先进的单样本和多样本的替代方案,用于估计边缘对数似然使用S形信念网络的MNIST数据集。
2018-04-05 cs.AI cs.LG cs.NE
Reparameterized Variational Rejection Sampling
Generate Biomedicines(生成生物医药公司);Google Research(谷歌研究院)
本文改进 Variational Rejection Sampling,通过低方差重参数化梯度估计器优化提议分布,提出 RVRS,在连续及局部潜变量模型的黑箱推断中兼顾计算成本与后验近似质量。
2023-09-26 cs.LG stat.CO stat.ML
Ada-RS: Adaptive Rejection Sampling for Selective Thinking
PayPal AI
Ada-RS通过自适应拒绝采样提升LLMs在延迟敏感场景下的推理效率与准确性。
2026-02-23 cs.AI cs.LG
Constrained Adaptive Rejection Sampling
University of California, Berkeley(加州大学伯克利分校)
提出约束自适应拒绝采样(CARS),通过自适应剪枝无效前缀来提高拒绝采样的样本效率,同时保持无分布扭曲,在程序模糊测试和分子生成等任务中优于现有方法。
2026-06-02 cs.AI cs.CL cs.LG
TabNAS: Rejection Sampling for Neural Architecture Search on Tabular Datasets
Google Research(谷歌研究院);Stanford University(斯坦福大学)
给定机器学习问题的最佳神经架构取决于许多因素:不仅数据集的复杂性和结构,而且还取决于资源约束,包括延迟,计算,能耗等。以前的NAS算法设计的图像搜索空间将资源约束直接到强化学习(RL)的奖励。然而,对于表格数据集上的NAS,此协议通常会发现次优架构。本文开发了TabNAS,这是一种新的更有效的方法,可以使用RL控制器来处理表格NAS中的资源约束,该控制器的灵感来自拒绝采样的思想。TabNAS会立即丢弃任何违反资源约束的架构,而无需对该架构进行培训或学习。TabNAS对RL策略梯度更新使用基于蒙特卡罗的校正,以解决此额外筛选步骤。在多个表格数据集上的结果证明了TabNAS相对于以前的奖励整形方法的优越性:它找到了更好的遵守约束的模型。
2022-10-20 cs.LG stat.ML
Query-Efficient Rejection Sampling for Parallel Masked Diffusion
University of California, Los Angeles(加州大学洛杉矶分校)
针对掩码扩散模型并行采样忽略token相关性的问题,提出单增量拒绝采样器SIRS,通过单次查询估计对数接受概率并结合Rao-Blackwell化减少截断,降低了查询成本且界定了KL散度。
2026-10-16 cs.LG math.PR stat.ML
A New Rejection Sampling Approach to $k$-$\mathtt{means}$++ With Improved Trade-Offs
Indian Institute of Technology Delhi(印度理工学院德里分校)
本文提出基于拒绝采样的新方法加速 $k$-means++,在保持 $O(\log k)$ 期望竞争力的同时显著降低计算代价,并给出改进的代价与质量权衡,通过实验验证了其有效性。
2025-02-04 cs.DS cs.LG
The Sample Complexity of Approximate Rejection Sampling with Applications to Smoothed Online Learning
MIT(麻省理工学院)
本文刻画了在有界 f-散度条件下近似拒绝采样的最优样本复杂度,并将其应用于放宽对手约束的平滑在线学习场景,同时比较了重要性采样与拒绝采样的效果。
2024-02-23 cs.LG stat.ML
Refined $α$-Divergence Variational Inference via Rejection Sampling
IIT Kanpur(印度理工学院坎普尔分校);Google Research(谷歌研究院)
我们提出了一种近似推理方法,基于Rényi $α$ -发散变分推理(RDVI)和拒绝抽样(RS)的协同组合。RDVI基于真实分布$p(x)$和变分近似$q(x)$之间的Rényi $α$ -散度$D_α(p||q)$的最小化; RS使用提议$p(x) = \tilde{p}(x)/Z_{p}$,s.t. $Mq(x) \geq \tilde{p}(x), \forall x$。我们的推理方法是基于一个重要的观察,即$D_\infty(p||q)$等于$\log M(θ)$,其中$M(θ)$是给定建议$q_θ(x)$的RS常数的最佳值。这使我们能够开发一个\emph{two-stage}混合推理算法。阶段1执行RDVI以通过最小化$D_α(p||q)$的估计器来学习$q_θ$,并且使用学习的$q_θ$来找到(近似)最佳$\tilde{M}(θ)$。阶段2使用常数$\tilde{M}(θ)$执行RS以改进近似分布$q_θ$并获得基于样本的近似。我们证明,这两个阶段的方法,使我们能够学习更准确的近似相比,RDVI的目标分布。我们证明了我们的方法的有效性,通过几个实验合成和真实的数据集。
2019-10-29 cs.LG stat.ML
Cascaded Learned Bloom Filter for Optimizing Model-Filter Size Balance and Fast Rejection
The University of Tokyo(东京大学)
本文提出级联学习型布隆过滤器(CLBF),通过动态规划优化器平衡模型与过滤器尺寸,在真实数据集上较分区LBF内存降17%、拒斥时间缩65倍。
2026-08-25 cs.CC cs.DS cs.LG
Building Reliable Long-Form Generation via Hallucination Rejection Sampling
Georgia Institute of Technology(佐治亚理工学院);University of California, Berkeley(加州大学伯克利分校);University of Cambridge(剑桥大学);DeepMind(深度思维)
提出分段幻觉拒绝采样框架SHARS,利用任意幻觉检测器在生成过程中拒绝并重采样幻觉片段,以缓解长文本生成中的幻觉累积问题,提升事实一致性。
2026-06-02 cs.AI cs.CL cs.LG
Breaking Entropy Bounds: Accelerating RL Training via MTP with Rejection Sampling
Qwen Team, Alibaba Inc(阿里巴巴集团 Qwen 团队)
针对强化学习训练中多令牌预测接受率因熵波动而下降的问题,提出Bebop方法,采用概率拒绝采样和端到端TV损失优化,实现高达95%接受率和1.8倍加速。
2026-06-11 cs.CL cs.LG
Beyond Importance Sampling: Rejection-Gated Policy Optimization
本文提出拒绝门策略优化方法,通过引入可微的接受门替代重要性采样比,统一了TRPO、PPO和REINFORCE的策略梯度,并证明其在重要性采样比重尾时能保证有限梯度方差。
2026-04-16 cs.AI cs.LG
Rejection Sampling IMLE: Designing Priors for Better Few-Shot Image Synthesis
Simon Fraser University(西蒙弗雷泽大学)
针对少样本图像合成中隐码对应不足导致测试性能次优的问题,提出 RS-IMLE 方法通过改变训练先验分布,在九个数据集上显著提升了图像生成质量。
2024-09-26 cs.CV cs.LG
RCT Rejection Sampling for Causal Estimation Evaluation
Williams College(威廉姆斯学院);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);University of Michigan(密歇根大学)
针对高维协变量场景下因果估计方法实证评估困难的问题,提出RCT拒绝采样算法,构建带混杂的观测数据集并保证因果识别成立,结合公开的真实RCT数据验证有效性,助力因果估计的实证评估。
2024-01-31 cs.AI cs.CL cs.LG
RS-DPO: A Hybrid Rejection Sampling and Direct Preference Optimization Method for Alignment of Large Language Models
Amazon(亚马逊公司)
本文提出RS-DPO方法,通过将拒绝采样与直接偏好优化相结合,从监督微调策略模型采样对比样本并进行偏好对齐,从而在有限资源下提升大语言模型对齐效果并优于RS、PPO和DPO。
2024-03-30 cs.AI cs.CL cs.CV
Exhaustive Neural Importance Sampling applied to Monte Carlo event generation
Aplicaciones en Informática Avanzada (AIA)(高级信息应用公司);University of Geneva(日内瓦大学)
为中微子振荡实验提供精确的中微子-核截面模型,需要同时描述多个自由度和精确计算以模拟核响应。完整模型的详细计算使得Monte Carlo生成器缓慢且不实用。我们提出了穷举神经重要性采样(ENIS),一种基于规范化流的方法,自动有效地找到一个合适的建议密度拒绝采样,并讨论了这种技术如何解决拒绝算法的常见问题。
2020-07-21 cs.LG hep-ex
The Relationship Between Agnostic Selective Classification Active Learning and the Disagreement Coefficient
Technion – Israel Institute of Technology(以色列理工学院)
选择性分类器(f,g)包括分类函数f和二元选择函数g,二元选择函数g确定分类器是放弃预测还是使用f来预测。分类器被称为逐点竞争,如果它对每个点的分类与事后的最佳分类器(来自同一类)相同,无论何时它都不弃权。这种分类器的质量通过其拒绝质量来量化,拒绝质量被定义为它拒绝的点的概率质量。如果拒绝质量从上面由O(1/m)界定,则实现“快速”拒绝率,其中m是用于训练分类器的标记示例的数量(并且O隐藏对数因子)。逐点竞争选择(PCS)分类器与基于不一致的主动学习密切相关,并且已知在可实现的情况下,已知PCS算法(称为一致选择策略)的快速拒绝率等价于公知CAL主动算法的指数加速。我们专注于不可知论的设置,其中有一个已知的算法称为LESS,学习PCS分类器,并在强假设下实现快速拒绝率(取决于Hanneke的分歧系数)。我们提出了一种改进的PCS学习算法称为ILESS,我们显示了一个快速的速度(取决于Hanneke的不一致系数),没有任何假设。我们的拒绝界平滑地插入可实现的和不可知的设置。本文的主要结果是以下三个实体之间的等价性:(一)任何PCS学习算法(如ILESS)的快速拒绝率的存在;(二)Hanneke的分歧系数的多对数界;(三)一个新的基于分歧的主动学习者称为ActiveiLESS的指数加速。
2017-03-30 cs.LG
The OS* Algorithm: a Joint Approach to Exact Optimization and Sampling
Xerox Research Centre Europe(施乐欧洲研究中心);University of Amsterdam(阿姆斯特丹大学)
目前大多数高维分布的采样算法都是基于MCMC技术,并且在某种意义上说,它们只是渐近有效的。另一方面,拒绝采样产生有效的样本,但在高维空间中速度慢得不切实际。我们提出的OS* 算法是一种统一的方法,精确的优化和采样,基于功能上界的增量细化,它结合了自适应拒绝采样和A* 优化搜索的思想。我们表明,选择的细化可以在一种方式,确保在高维空间中的易处理性,我们提出了第一个实验在两个不同的设置:推理高阶Hynomial和大型离散图形模型。
2012-07-03 cs.AI cs.CL cs.LG
A Minimalist Approach to LLM Reasoning: from Rejection Sampling to Reinforce
Salesforce AI Research(Salesforce AI研究院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究从类reinforce视角分析GRPO的有效性来源,发现仅用正样本训练的RAFT基线性能可与GRPO、PPO媲美,进而提出同时过滤全错和全对样本的Reinforce-Rej算法,提升了KL效率与稳定性,为LLM后训练提供了轻量方案与研究指导。
2025-06-12 cs.AI cs.CL cs.LG
Sample-Rank: Weak Multi-Objective Recommendations Using Rejection Sampling
Swiggy(Swiggy公司)
在线食品订购市场是一个多利益相关者的系统,其中的建议会影响系统中每个参与者的体验和成长。在这种情况下,推荐系统必须封装不同利益相关者的目标和约束,以便找到推荐项目的实用性。针对该问题的基于约束优化的方法通常涉及复杂的公式,并且在涉及数百万实体的生产设置中具有高计算复杂性。简化和松弛技术(例如,标量化)有助于但会引入次优性,并且由于需要大量的调优而可能非常耗时。在本文中,我们介绍了一种方法,涉及多目标采样,然后对用户相关性进行排名(Sample-Rank),以推动市场的多目标(MO)目标的建议。该方法的新颖之处在于,它减少了MO推荐问题,从一个期望的多目标分布采样,然后使用它来建立一个生产友好的学习排名(LTR)模型。在离线实验中,我们表明,我们能够偏向于MO标准的建议与可接受的权衡指标,如AUC和NDCG。我们还展示了一个大规模在线A/B实验的结果,与基线排名方法相比,这种方法在统计学上显著提高了2.64%的平均每单收入(RPO)(目标#1),而转化率(CR)(目标#2)没有下降,同时保持了平均最后一英里的水平(目标#3)。这种方法还显著减少了MO设置中的模型开发和部署时间,并允许对更多目标和其他类型的LTR模型进行简单的扩展。
2020-08-24 cs.LG stat.ML
Post-Rejection Follow-up Sampling: Measuring Outcomes of Rejected Decisions in Algorithmic DEX Trading
Independent Researcher(独立研究者)
提出拒绝后跟踪采样(PRFS)方法,通过独立跟踪子系统采样被拒绝代币的价格和流动性,以评估过滤器精度,数据集包含2997个拒绝事件的67000条观测记录。
2026-10-14 cs.LG q-fin.CP q-fin.ST
Let AI Entertain You: Increasing User Engagement with Generative AI and Rejection Sampling
Nextdoor(邻门)
针对生成式AI内容难以提升用户参与度的问题,提出利用用户反馈和拒绝采样技术的通用框架,在邮件主题行生成中实现会话数+1%和周活跃用户+0.4%的提升。
2023-12-16 cs.AI cs.HC cs.LG
Importance Corrected Neural JKO Sampling
University College London(伦敦大学学院)
本文提出将连续正则化流与基于重要性权重的拒绝-重采样步骤相结合以从未归一化密度采样,通过交替局部与非局部步骤克服多峰分布的收敛问题,在多种测试分布上显著优于现有技术。
2025-08-13 cs.LG math.PR stat.ML
Optimizing Chain-of-Thought Reasoners via Gradient Variance Minimization in Rejection Sampling and RL
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Salesforce AI Research(Salesforce人工智能研究)
本文提出 GVM-RAFT 动态样本分配策略,通过监测提示接受率与梯度范数最小化随机梯度方差,在数学推理上较 RAFT 实现 2-4 倍加速和准确率提升,并可推广至 GRPO 等强化学习算法。
2025-05-05 cs.AI cs.CL cs.LG
Uniform Race: Parameter-Free Approximate Rejection Sampling
Pohang University of Science and Technology(浦项科技大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
针对近似拒绝采样需预设阈值的局限,提出无参数算法均匀竞赛(UR),通过重要性权重除以均匀随机变量选取最大分数样本,在任意预算下同时达到所有阈值的最优误差界,且优于现有基线,并在LLM数学推理任务中验证有效性。
2026-11-05 cs.LG stat.ML
Learnable Chernoff Baselines for Inference-Time Alignment
Ohio State University(俄亥俄州立大学)
本文提出可学习的Chernoff基线,通过高效采样实现生成模型的推理时间对齐,减少计算成本并提升对齐效果。
2026-11-10 cs.AI cs.LG
Fast Controlled Generation from Language Models with Adaptive Weighted Rejection Sampling
MIT(麻省理工学院);ETH Zürich(苏黎世联邦理工学院);McGill(麦吉尔大学);Canada CIFAR AI Chair(加拿大 CIFAR 人工智能主席);Mila(蒙特利尔人工智能研究院);Johns Hopkins(约翰霍普金斯大学);Yale(耶鲁大学);CHI FRO
本文提出自适应加权拒绝采样算法,通过大幅减少约束评估次数并生成无偏重要性权重估计,解决了局部约束解码中计算开销大和全局分布扭曲的问题,在多个任务上优于现有基线并提升运行效率。
2025-08-18 cs.AI cs.CL cs.LG
Deep Sets and event-level maximum-likelihood estimation for fast pile-up jet rejection at the ATLAS High Level Trigger
Southern Methodist University(南方 Methodist 大学)
本文提出DIPz模型,通过深度集合架构实现喷注来源位置回归,结合最大似然乘积判别器提升堆叠喷注拒绝效率。
2026-11-05 cs.LG hep-ex
Scalable Sampling for Nonsymmetric Determinantal Point Processes
Yale University(耶鲁大学);Criteo AI Lab(Criteo人工智能实验室);Google Research(谷歌研究院);Facebook AI Research(脸书人工智能研究院)
$M$项集合上的决定点过程(DPP)是一个模型,由对称核矩阵参数化,为这些项的每个子集分配概率。最近的研究表明,去除核对称约束,产生非对称DPP(NDPP),可以为机器学习应用带来显着的预测性能增益。然而,现有的工作留下了开放的问题,可扩展的NDPP采样。只有一种已知的基于Cholesky分解的DPP采样算法也可以直接应用于NDPP。不幸的是,它的运行时在$M$中是立方的,因此不能扩展到大型项集合。在这项工作中,我们首先注意到,该算法可以转化为一个线性时间与低秩结构的内核。此外,我们开发了一个可扩展的次线性时间拒绝采样算法,通过构建一个新的建议分布。此外,我们表明,施加一定的结构约束的NDPP内核使我们能够绑定的拒绝率的方式,只依赖于内核的秩。在我们的实验中,我们比较了所有这些采样器在各种现实任务中的速度。
2022-04-19 cs.LG stat.ML
Adaptive randomized pivoting and volume sampling
University of California Berkeley(加州大学伯克利分校);Caltech(加州理工学院)
本文将自适应随机 pivoting 算法与体积采样分布及线性回归主动学习算法联系起来,提出新的分析和更高效的实现方法。
2026-04-03 cs.DS cs.LG cs.NA
Alternating Diffusion for Proximal Sampling with Zeroth Order Queries
Graduate School of Information Science and Technology, The University of Tokyo(东京大学信息科学与技术研究生院);Institute of High Performance Computing, Agency for Science, Technology and Research(科技研究局高性能计算研究所);Centre for Frontier AI Research, Agency for Science, Technology and Research(科技研究局前沿人工智能研究中心);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院)
本文提出一种仅利用零阶信息的近端采样器,通过直接模拟动力学而非拒绝采样,将中间粒子分布视为高斯混合分布,从而获得蒙特卡洛分数估计器,在等周条件下继承指数收敛性,并通过并行计算实现快速收敛。
2026-03-20 cs.LG stat.ML
On the Query Complexity of Verifier-Assisted Language Generation
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research NYC(微软研究院纽约)
本文建立数学框架研究验证器辅助受约束语言生成的查询复杂度,证明验证器访问可将棘手问题转化为可处理问题,并提出带回溯的逐令牌拒绝采样方法,在效率、准确性和多样性上优于基线。
2025-06-06 cs.CL cs.LG
The query complexity of sampling from strongly log-concave distributions in one dimension
MIT(麻省理工学院)
我们建立了$Ω(\log\logκ)$的第一个紧下界的查询复杂度的抽样从一类强对数凹和对数光滑分布的条件数$κ$在一维。而现有的保证MCMC为基础的算法规模多项式在$κ$,我们引入了一种新的算法,拒绝采样,关闭这个双指数差距的基础上。
2021-06-09 cs.LG math.ST stat.TH