Boosted GFlowNets: Improving Exploration via Sequential Learning
本文提出增强型GFlowNets，通过顺序训练多个模型，补偿已捕捉的奖励，提升探索效率和样本多样性。
2026-03-14 cs.LG stat.ML
Relative Trajectory Balance is equivalent to Trust-PCL
Mila – Quebec AI Institute（魁北克AI研究所）；Entalpic；McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Google DeepMind（谷歌DeepMind）
本研究确立了生成流网络中的相对轨迹平衡（RTB）与带KL正则化的离策略强化学习方法Trust-PCL的等价性，将RTB纳入KL正则化强化学习理论体系，并通过示例验证了两类方法性能相当。
2025-09-01 cs.LG
Towards Understanding and Improving GFlowNet Training
Genentech（基因泰克公司）；Prescient Design, Genentech（基因泰克Prescient Design部门）；Recursion Pharmaceuticals（Recursion制药公司）；New York University（纽约大学）
本文针对GFlowNet训练问题，提出高效评估策略及三种改进方法（优先回放、相对边流参数化、引导轨迹平衡目标），显著提升生化设计任务的样本效率。
2023-05-11 cs.LG
Improved Exploration in GFlownets via Enhanced Epistemic Neural Networks
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对GFlowNets训练中最优轨迹识别难的问题，提出融合认知神经网络（ENN）的ENN-GFN-Enhanced算法，通过更优的不确定性量化提升探索效率，在多类任务中验证了有效性与效率。
2025-10-22 cs.AI cs.LG
Unifying Generative Models with GFlowNets and Beyond
Mila – Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Facebook AI Research (Meta AI)（脸书人工智能研究院（元人工智能））；CIFAR（加拿大高等研究院）
有许多用于深度生成建模的框架，每个框架通常都有自己特定的训练算法和推理方法。在这里，我们展示了现有的深度生成模型和最近引入的GFlowNet框架之间的联系，GFlowNet框架是一种将采样视为决策过程的概率推理机。这种分析揭示了它们的重叠特征，并通过马尔可夫轨迹学习的镜头提供了一个统一的观点。我们的框架提供了一种统一训练和推理算法的方法，并提供了一种在许多生成模型上统一的方法。除此之外，我们还提供了一个实用的和经过实验验证的配方，用于从GFlowNet的角度改进生成建模。
2023-01-31 cs.AI cs.LG stat.ML
Improving Generative Flow Networks with Path Regularization
University of Texas, Austin（德克萨斯大学奥斯汀分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；FPT Software AI Center（FPT软件人工智能中心）
生成流网络（GFlowNets）是最近提出的用于学习随机策略的模型，该随机策略通过具有与给定奖励函数成比例的概率的动作序列来生成组合对象。GFlowNets的核心问题是提高其探索和泛化能力。在这项工作中，我们提出了一种新的路径正则化方法的基础上，最优传输理论的GFlowNets的底层结构上的先验约束。先验被设计成帮助GFlowNets更好地发现目标分布的潜在结构或增强其在主动学习背景下探索环境的能力。路径正则化通过最大化两个前向策略之间的最优传输距离来控制GFlowNets中的流，以生成更多样和新颖的候选项，或者通过最小化最优传输距离来提高泛化能力。此外，我们通过在特定情况下找到其封闭形式的解决方案和一个有意义的上限，可以作为一个近似值，以最小化正则化项，从而获得一个有效的实现的正则化。我们经验证明了我们的路径正则化在广泛的任务上的优势，包括合成超网格环境建模，离散概率建模和生物序列设计。
2022-09-29 cs.LG stat.ML
Learning Energy Decompositions for Partial Inference of GFlowNets
POSTECH（浦项科技大学）；KAIST（韩国科学技术院）
针对GFlowNet部分推断中中间能量评估成本高、易产生误导信号的问题，提出能量分解学习方法LED-GFN，将能量分解为可学习势函数并重参数化流函数，在五类生成任务上验证了优越性。
2023-10-05 cs.LG
Generative Flow Networks: a Markov Chain Perspective
Université de Montréal（蒙特利尔大学）；Mila – Quebec AI Institute（米拉-魁北克人工智能研究所）
本文从马尔可夫链视角形式化生成流网络（GFlowNets），将其统一视为循环马尔可夫链，并与MCMC方法进行理论对比，揭示两者异同。
2023-07-04 cs.LG
Bayes Adaptive Monte Carlo Tree Search for Offline Model-based Reinforcement Learning
The University of Hong Kong（香港大学）；Tsinghua University（清华大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出贝叶斯自适应蒙特卡洛树搜索算法，用于提升离线模型驱动强化学习的性能，显著优于现有方法。
2026-01-27 cs.AI cs.LG
Goal directed molecule generation using Monte Carlo Tree Search
IIT Madras（马德拉斯印度理工学院）
生物化学中的一个具有挑战性和重要性的任务是产生具有所需性质的新分子。新分子的产生仍然是一个挑战，因为分子空间很难导航，所产生的分子应该遵守化学价的规则。通过这项工作，我们提出了一种新的方法，我们称之为unitMCTS，进行分子生成的单元变化的分子在每一步使用蒙特卡罗树搜索。我们表明，这种方法优于最近发表的基准分子优化任务，如量子电动力学和惩罚logP的技术。我们还证明了这种方法在改善分子性质的同时与起始分子相似的有用性。考虑到不涉及学习，我们的方法可以在更短的时间内找到所需的分子。
2020-12-11 cs.AI cs.LG
Improving multivariate Horner schemes with Monte Carlo tree search
Nikhef（荷兰国家亚原子物理研究所）；Tilburg University（蒂尔堡大学）
优化多项式求值的代价是计算机科学中的经典问题。对于一个变量的多项式，霍纳的方法提供了一个产生计算效率高的形式的方案。对于多元多项式，可以推广霍纳的方法，但这在变量的顺序上留下了自由。传统上，使用贪婪方案，如最常见的变量优先。这个简单的教科书算法给出了非常有效的结果。事实证明，找到更好的算法是困难的。在试图改进贪婪方案时，我们已经实现了蒙特卡罗树搜索，这是人工智能领域的一种最近的搜索方法。这会产生更好的霍纳方案，并降低计算多项式的成本，有时高达两倍。
2012-07-30 cs.AI cs.SC math-ph
Information-Geometric Forward Policy Training in GFlowNets
University of Nottingham（诺丁汉大学）
本研究基于GFlowNets的信息几何构建前向策略训练，推导轨迹Fisher分解，提出三种计算场景及图模型替代方案，经实证验证其可实现结构感知的前向策略训练。
2026-08-05 cs.LG stat.ML
Adaptive Parallel Monte Carlo Tree Search for Efficient Test-time Compute Scaling
School of Computing, Korea Advanced Institute of Science and Technology（韩国科学技术院计算学院）
本文提出负早退和自适应提升机制，通过优化MCTS执行效率，降低端到端延迟并提升吞吐量，同时保持推理准确性。
2026-04-01 cs.AI
Improving Monte Carlo Tree Search for Symbolic Regression
Center for Machine Learning Research, Peking University, Beijing, China（北京大学机器学习研究中心）；Beijing International Center for Mathematical Research, Center for Machine Learning Research, Peking University, Beijing, China（北京国际数学研究中心）；Huawei Technologies Ltd., Beijing, China（华为技术有限公司）；Department of Mathematical Sciences, Tsinghua University, Beijing, China（清华大学数学科学系）
本文提出改进的蒙特卡洛树搜索框架用于符号回归，通过极端赌博机分配策略和进化启发的状态跳跃动作，提升搜索效率与鲁棒性，在恢复率和帕累托前沿上达到先进水平。
2025-09-24 cs.LG
RollPlace: Improving Macro Placement via Monte Carlo Rollout Search
Harbin Institute of Technology（哈尔滨工业大学）
RollPlace提出两阶段宏布局优化框架，结合机器学习与启发式初始布局，通过蒙特卡洛树搜索和推出机制改进布局，在ISPD 2005及19个基准上超越现有方法。
2026-10-06 cs.AI
Improving Hearthstone AI by Combining MCTS and Supervised Learning Algorithms
Silver Bullet Labs；Institute of Informatics, University of Warsaw（华沙大学信息学研究所）；eSensei
我们研究了监督预测模型对人工智能体的强度和效率的影响，这些人工智能体使用蒙特卡罗树搜索（MCTS）算法来玩流行的视频游戏《炉石传说：魔兽英雄》。我们概述了MCTS的自定义实现，它非常适合具有部分隐藏信息和随机效果的游戏。我们还描述了实验，我们设计来量化我们的炉石代理的决策性能。我们表明，即使是简单的神经网络可以训练和成功地用于游戏状态的评估。此外，我们证明，通过提供一个指导的游戏状态搜索启发式，有可能大大提高胜率，并在同一时间减少所需的计算。
2018-08-14 cs.AI cs.LG
Improving Performance Insensitivity of Large-scale Multiobjective Optimization via Monte Carlo Tree Search
Xiamen University（厦门大学）；Oklahoma State University（俄克拉荷马州立大学）
本文提出基于蒙特卡洛树搜索的进化算法LMMOCTS，通过采样决策变量构造并筛选优质节点，在提升大规模多目标优化性能的同时降低多次运行的性能波动，并设计两个敏感性指标验证其有效性。
2023-04-14 cs.AI cs.NE
Improving Actor-Critic Reinforcement Learning via Hamiltonian Monte Carlo Method
Georgia Institute of Technology（佐治亚理工学院）
行动者-评论家RL广泛用于各种机器人控制任务。通过从变分推理（VI）的角度观察行动者-评论者强化学习，策略网络被训练以获得给定最优性标准的行动的近似后验。然而，在实践中，行动者-批评者强化学习可能会产生次优的政策估计，由于摊销差距和不充分的探索。在这项工作中，受到先前在VI中使用Hamilton Monte Carlo（HMC）的启发，我们提出将行动者-批评者RL的策略网络与HMC集成，称为{ \it Hamilton Policy}。因此，我们建议根据HMC从基本策略中进化动作，我们提出的方法有很多好处。首先，HMC可以改善政策分布，以更好地逼近后验，从而减少摊销缺口。其次，HMC还可以将探索更多地引导到Q值较高的作用空间区域，提高了探索效率。此外，而不是直接应用HMC到RL，我们提出了一个新的蛙跳算子来模拟哈密顿动力学。最后，在安全强化学习问题中，我们发现所提出的方法不仅可以提高所获得的回报，而且还可以通过丢弃潜在的不安全行为来减少安全约束违反。通过对连续控制基线（包括MuJoCo和PyBullet Roboschool）进行全面的实证实验，我们证明了所提出的方法是对以前的演员-评论家方法的数据高效且易于实现的改进。
2022-01-02 cs.LG stat.ML
Planning-Augmented Sampling with Early Guidance for High-Reward Discovery
University of Science（科学大学）；Shanghai AI Laboratory, Shanghai, China（上海人工智能实验室）
本文提出一种规划增强的采样框架，通过结合蒙特卡洛树搜索和可控软贪婪机制，提升高回报发现的速度和样本质量，同时保持多样性。
2026-02-01 cs.AI cs.LG
Learning and Improving Backgammon Strategy
CBCL
提出结合在线与离线方法的双陆棋价值函数学习策略，利用并行超级计算机和Monte-Carlo Rollouts技术，在短时间内达到或超越当前顶级人类和计算机玩家的水平。
2025-04-03 cs.AI cs.LG cs.NE
VariBASed: Variational Bayes-Adaptive Sequential Monte-Carlo Planning for Deep Reinforcement Learning
Trent AI Ltd（Trent AI有限公司）；Delft University of Technology（代尔夫特理工大学）
本文提出VariBASeD方法，通过融合变分信念学习、序列蒙特卡洛规划和元强化学习，提升深度强化学习中探索与利用的效率。
2026-02-21 cs.LG
Array-Based Monte Carlo Tree Search
California Institute of Technology（加利福尼亚理工学院）
本文提出经典UCT算法的基于数组的实现，在保留原算法逻辑的同时避免分支预测，提升流水线处理器上的性能，并使随搜索深度的扩展性最高提升2.8倍。
2025-08-27 cs.AI cs.SY eess.SY
Structured Monte Carlo Sampling for Nonisotropic Distributions via Determinantal Point Processes
Google Brain Robotics（谷歌大脑机器人）；UC Berkeley（加州大学伯克利分校）；Columbia University（哥伦比亚大学）
我们提出了一类新的结构化方法的蒙特卡罗（MC）抽样，称为DPPMC，设计用于高维各向异性分布的样本相关，以减少方差的估计，通过行列式点过程。我们成功地应用DPPMCs的引导演化策略（GES）的RL，CMA-ES技术和信任域算法的黑箱优化，提高国家的最先进的在所有这些设置中所产生的非各向同性分布的问题。特别是，我们发现DPPMCs大大提高了现有的演化策略算法的勘探配置文件。我们进一步证实了我们的结果，分析高斯混合内核的随机特征图估计。我们提供了我们的经验结果的理论依据，显示各向同性分布的DPPMCs和结构正交MC方法之间的连接。
2019-05-29 cs.LG stat.ML
Improving Automated Driving through POMDP Planning with Human Internal States
Stanford University（斯坦福大学）
这项工作研究的假设，部分可观察马尔可夫决策过程（POMDP）规划与人类驾驶员的内部状态，可以显着提高安全性和效率，在自动高速公路驾驶。我们在一个模拟场景中评估了这一假设，在这个场景中，自动驾驶汽车必须安全地连续进行三次车道变换。通过观测加宽部分可观测蒙特卡罗规划（POMCPOW）算法得到了POMDP的近似解。这种方法优于过度自信和保守的MDP基线，并匹配或优于QMDP。相对于MDP基准，POMCPOW通常将不安全情况的发生率降低一半或将成功率提高50%。
2022-06-09 cs.AI cs.RO
Trust-Region Twisted Policy Improvement
Delft University of Technology（代尔夫特理工大学）
针对MCTS并行扩展困难，提出信赖域扭曲SMC（TRT-SMC）规划器，通过约束采样与终止处理改进数据生成，提升策略和价值估计，在离散与连续域中优于基线方法。
2025-07-08 cs.LG
Improving Reasoning for Diffusion Language Models via Group Diffusion Policy Optimization
Georgia Institute of Technology（佐治亚理工学院）；ML Research, Morgan Stanley（摩根士丹利机器学习研究部）
本文提出GDPO算法，通过减少ELBO估计的方差提升扩散语言模型的推理能力，实验证明其在多个基准上优于现有方法。
2026-02-11 cs.LG stat.ML
QuasiMoTTo: Quasi-Monte Carlo Test-Time Scaling
Stanford University（斯坦福大学）
提出QuasiMoTTo方法，利用准蒙特卡洛相关采样替代独立同分布采样，在推理和强化学习中减少冗余，以更少样本达到相同性能。
2026-07-02 cs.CL cs.LG
Diffusion Generative Flow Samplers: Improving learning signals through partial trajectory optimization
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；FAIR, Meta AI（Meta AI FAIR实验室）；McGill University（麦吉尔大学）
针对高维密度采样中需完整轨迹计算、学习信号仅在终止时刻存在导致信用分配迟缓的问题，提出扩散生成流采样器DGFS，借助流函数将学习分解为短轨迹片段并利用中间信号，实验证明其归一化常数估计更准确。
2024-03-09 cs.AI cs.LG stat.CO
Improving Predictive Uncertainty Estimation using Dropout -- Hamiltonian Monte Carlo
German Research Center for Artificial Intelligence（德国人工智能研究中心）
估计预测不确定性对于从图像分类到自动驾驶系统的许多计算机视觉任务至关重要。Hamilton Monte Carlo（HMC）是一种用于执行贝叶斯推断的抽样方法。另一方面，Dropout正则化已经被提出作为一种近似模型平均技术，其倾向于改善大规模模型（例如深度神经网络）中的泛化。虽然HMC为大多数标准贝叶斯模型提供了收敛保证，但它不处理由Dropout正则化产生的离散参数。在本文中，我们提出了一个强大的方法来改善预测的不确定性分类问题，基于辍学和汉密尔顿蒙特卡洛。尽管Dropout引入了一个不光滑的能量函数，但没有这样的收敛保证，由此产生的哈密顿量的离散化证明了经验上的成功。所提出的方法可以有效地估计预测精度，并提供更好的推广困难的测试例子。
2019-07-02 cs.LG stat.ML
Improving Constrained Language Generation via Self-Distilled Twisted Sequential Monte Carlo
Seoul National University（首尔国立大学）；Korea Advanced Institute of Science and Technology（韩国科学技术院）
本文通过自蒸馏扭曲序列蒙特卡洛方法改进约束语言生成，提升生成质量。
2025-11-25 cs.LG stat.ML
From Monte Carlo to Las Vegas: Improving Restricted Boltzmann Machine Training Through Stopping Sets
Toyota Technological Institute at Chicago（芝加哥丰田理工学院）；Purdue University（普渡大学）
我们提出了一个拉斯维加斯变换的马尔可夫链蒙特卡罗（MCMC）估计的限制玻尔兹曼机（RBM）。我们表示我们的方法马尔可夫链拉斯维加斯（MCLV）。MCLV提供统计保证，以换取随机运行时间。MCLV使用从训练数据构建的停止集，并且具有最大马尔可夫链步骤数K（称为MCLV-K）。我们提出了RBM的MCLV-K梯度估计器（LVS-K），并探讨了LVS-K和对比发散（CD-K）之间的对应关系和差异，LVS-K在MNIST数据集上显著优于CD-K训练RBM，表明MCLV是学习生成模型的一个有前途的方向。
2017-11-22 cs.LG stat.ML
Improving Lossless Compression Rates via Monte Carlo Bits-Back Coding
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Facebook AI Research（脸书人工智能研究院）；University College London（伦敦大学学院）；University of Oxford（牛津大学）
潜变量模型已成功地应用于无损压缩的比特回退编码算法。然而，比特返回遭受比特率的增加等于近似后验和真实后验之间的KL发散。在本文中，我们将展示如何消除这一差距渐近派生比特回编码算法从更严格的变分界限。其关键思想是利用扩展的空间表示的蒙特卡罗估计的边际似然。天真地应用，我们的计划将需要更多的初始位比标准的位回编码器，但我们展示了如何大大减少这种额外的成本与耦合的潜在空间。当可以利用并行架构时，我们的编码器可以实现比比特回退更好的速率，而几乎没有额外的成本。我们证明了改进的无损压缩率在各种设置，特别是在分布或顺序数据压缩。
2021-06-15 cs.AI cs.IT cs.LG
GFlowOut: Dropout with Generative Flow Networks
Mila Quebec AI Institute（米拉魁北克人工智能研究所）；Broad Institute of MIT and Harvard（麻省理工学院-哈佛大学博德研究所）；University of Montreal（蒙特利尔大学）；McGill University（麦吉尔大学）；Lelapa AI（莱拉帕人工智能公司）；National University of Singapore（新加坡国立大学）；Google DeepMind（谷歌DeepMind）；Technical University of Munich（慕尼黑工业大学）
本文提出GFlowOut方法，利用生成流网络（GFlowNets）学习dropout掩码的后验分布，以解决传统变分推断在多模态后验和样本相关性利用上的挑战，提升模型对分布外数据的泛化能力及下游任务的不确定性估计性能。
2023-06-24 cs.AI cs.LG
Improving Robustness of AlphaZero Algorithms to Test-Time Environment Changes
Department of Intelligent Systems, TU Delft, The Netherlands（代尔夫特理工大学智能系统系，荷兰）；Department of Computer Science, KU Leuven, Belgium（鲁文大学计算机科学系，比利时）
针对AlphaZero默认测试环境不变导致适用性受限的问题，本文分析其在变化测试环境中的部署问题，提出对标准框架进行简单组合修改，可在低规划预算下显著提升性能，并公开了代码。
2025-10-29 cs.AI cs.LG
FlowPipe: LLM-Enhanced Conditional Generative Flow Networks for Data Preparation Pipeline Construction
Ocean University of China（中国海洋大学）；University of Arizona（亚利桑那大学）；University of Science and Technology Beijing（北京科技大学）；Northeastern University（东北大学）
提出FlowPipe框架，利用条件生成流网络（C-GFlowNets）和LLM语义调制，解决数据准备流水线自动构建中的组合优化和稀疏搜索问题，在74个数据集上平均准确率提升11.96%，训练收敛速度提升12.5倍。
2026-06-25 cs.AI cs.LG
Improving Value-based Process Verifier via Structural Prior Injection
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））
通过注入结构先验改进基于价值的过程验证器，提升其性能并减少误差。
2026-01-27 cs.AI cs.CL cs.LG
Improving the Diversity of LLM Outputs without a Trade-off
提出DAST方法，通过重排token顺序结合算术采样，在不改变分布且开销极小的情况下提高LLM输出多样性，并显著提升ProtoQA任务性能。
2026-09-29 cs.AI cs.CL cs.LG
Improving Sampling from Generative Autoencoders with Markov Chains
Imperial College London（帝国理工学院）
我们专注于生成式自动编码器，例如变分或对抗式自动编码器，它们与推理模型一起共同学习生成模型。生成式自动编码器是那些被训练成对由推理模型学习的潜在分布柔和地实施先验的自动编码器。我们将推理模型映射到观察样本的分布称为学习的潜在分布，它可能与先验不一致。我们制定了一个马尔可夫链蒙特卡罗（MCMC）采样过程，相当于迭代解码和编码，这使我们能够从学习的潜在分布中采样。由于生成模型从学习的潜在分布而不是先验学习映射，因此我们可以使用MCMC来提高从生成模型提取的样本的质量，特别是当学习的潜在分布远离先验时。使用MCMC采样，我们能够揭示使用或不使用去噪标准训练的生成式自动编码器之间以前看不见的差异。
2017-01-12 cs.AI cs.LG stat.ML
Monte Carlo EM for Deep Time Series Anomaly Detection
AWS AI Labs（AWS 人工智能实验室）；Technical University of Munich（慕尼黑工业大学）
时间序列数据经常被离群值或其他类型的异常所破坏。识别异常点本身可以是一个目标（异常检测），也可以是提高其他时间序列任务（例如预测）性能的一种手段。最近基于深度学习的异常检测和预测方法通常假设训练数据中的异常比例小到足以忽略，并将未标记的数据视为来自标称数据分布。我们提出了一个简单而有效的技术，用于增强现有的时间序列模型，使他们明确占异常的训练数据。通过增加训练数据与潜在的异常指标变量，其分布推断，同时使用Monte Carlo EM训练底层模型，我们的方法同时推断异常点，同时提高模型性能的标称数据。我们证明了该方法的有效性，结合它与一个简单的前馈预测模型。我们调查如何异常的训练集影响训练的预测模型，这是常用的时间序列异常检测，并表明我们的方法提高了训练的模型。
2021-12-29 cs.LG stat.ML
Optimal Convergence Rate of Hamiltonian Monte Carlo for Strongly Logconcave Distributions
Georgia Tech（佐治亚理工学院）
研究了从与$e^{-f}$成比例的强对数凹密度采样的Hamilton Monte Carlo（HMC）问题，其中$f:\mathbb{R}^d \to \mathbb{R}$是$μ$ -强凸的，$L$ -光滑的（条件数是$κ= L/μ$）.我们发现，理想的HMC的弛豫时间（逆的谱隙）是$O(κ)$，改善了以前的最佳界的$O(κ^{1.5})$，我们补充这一点与一个例子中的弛豫时间是$Ω(κ)$。当使用接近最优的ODE求解器实现时，HMC使用每步的$\widetilde{O}((κd)^{0.5} \varepsilon^{-1})$梯度评估和$\widetilde{O}((κd)^{1.5}\varepsilon^{-1})$总时间返回$2$ -Wasserstein距离中的$\varepsilon$近似点。
2019-05-07 cs.DS cs.LG stat.ML
Natural evolution strategies and variational Monte Carlo
University of Michigan（密歇根大学）；EPFL（洛桑联邦理工学院）；Flatiron Institute（弗莱提伦研究所）
量子自然进化策略的概念被引入，它提供了一个几何合成的一些已知的量子/经典算法进行经典的黑箱优化。Gomes等人最近的工作。[2019]在这种情况下，从教学角度回顾了使用神经量子态的启发式组合优化，强调了与自然进化策略的联系。算法框架的说明近似组合优化问题，并发现一个系统的战略，以提高近似比。特别是它被发现，自然进化策略可以实现近似比竞争力与广泛使用的启发式算法的最大切割，在增加计算时间的代价。
2020-11-20 cond-mat.dis-nn cs.LG quant-ph
Parametric Learning and Monte Carlo Optimization
Ames Research Center（艾姆斯研究中心）；Stanford（斯坦福大学）
本文揭示并探讨了参数化积分的蒙特卡罗优化（MCO），参数化机器学习（PL）和基于“黑盒”或“Oracle”的优化（BO）之间的密切关系。我们做了四个贡献。首先，我们证明了MCO是数学上相同的PL问题的一个广泛的类。这个身份潜在地为所有广泛适用的PL技术提供了一个新的应用领域：MCO。其次，我们引入即时抽样，一个新版本的概率集体（PC）算法的黑盒优化。立即采样将原始BO问题转换为MCO问题。因此，通过结合这前两个贡献，我们可以将所有PL技术应用于BO。在我们的第三个贡献中，我们通过证明交叉验证和装袋改进了即时采样来验证这种改进BO的方法。最后，传统的MC和MCO程序忽略了样本点定位和被积函数的相关值之间的关系;仅考虑在这些位置的被积函数的值。我们证明，可以利用PL技术的样本位置信息，例如通过形成一个适合的样本位置的相关值的被积函数。这提供了应用PL技术来改进MCO的附加方式。
2007-04-10 cs.LG
Improving few-shot learning-based protein engineering with evolutionary sampling
EpiCRISPR Biotechnologies（EpiCRISPR生物技术公司）
本文提出一种结合半监督迁移学习与进化蒙特卡洛马尔可夫链采样的少样本蛋白质设计方法，在小型偏斜数据集上构建适应度景观并高效探索，实验筛选基因激活因子的命中率显著优于现有方法。
2023-05-26 cs.LG q-bio.QM
Improving Gibbs Sampler Scan Quality with DoGS
Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
Dobrushin的成对影响矩阵长期以来一直被用作限制吉布斯抽样收敛速度的分析工具。在这项工作中，我们使用Dobrushin影响的基础上，一个实用的工具，以证明和有效地提高离散吉布斯采样器的质量。我们的Dobrushin优化吉布斯采样器（DoGS）为给定的采样预算和感兴趣的变量子集提供定制的变量选择顺序，全变差距离到平稳性的明确界限，以及标准系统和均匀随机扫描吉布斯采样器的可证明的改进。在我们的联合图像分割和对象识别，马尔可夫链蒙特卡罗极大似然估计，和伊辛模型推理的实验中，DoGS始终提供更高质量的推理与显着更小的采样预算比标准吉布斯采样器。
2017-07-18 cs.LG math.PR stat.ME
Uncertainty-Aware Genomic Classification of Alzheimer's Disease: A Transformer-Based Ensemble Approach with Monte Carlo Dropout
Indiana University School of Medicine（印第安纳大学医学院）
本文提出TrUE-Net，将保留SNP序列结构的Transformer与随机森林集成，并利用蒙特卡洛Dropout估计不确定性，通过剔除高不确定样本显著提升阿尔茨海默病基因组分类的准确率与F1。
2025-05-31 cs.LG q-bio.GN
Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo sampling
Amazon Music ML（亚马逊音乐机器学习部门）
Plackett-Luce（PL）模型在学习排名（LTR）中无处不在，因为它提供了一个有用且直观的概率模型来对排名列表进行采样。反事实离线评估和优化排名指标是在生产中使用LTR方法的关键。当采用PL模型作为排名策略时，这两个任务都需要计算模型的期望值。这些通常是近似通过蒙特卡洛（MC）抽样，因为组合缩放的项目数量进行排名，使他们的分析计算棘手。尽管最近在通过Gumbel top-k技巧提高采样过程的计算效率方面取得了进展，但MC估计可能会受到高方差的影响。我们开发了一种新的方法，以产生更多的样本有效的期望在PL模型的估计相结合的Gumbel top-k技巧与准蒙特卡罗（QMC）抽样，一个行之有效的技术减少方差。我们从理论上和经验上使用来自亚马逊音乐和雅虎学习排名挑战的真实推荐数据来说明我们的发现。
2022-05-12 cs.IR cs.LG stat.CO
Quasi-Monte Carlo Feature Maps for Shift-Invariant Kernels
IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；Google Research（谷歌研究院）；Stanford University（斯坦福大学）；International Computer Science Institute（国际计算机科学研究所）；University of California at Berkeley（加州大学伯克利分校）
本文提出用准蒙特卡洛方法改进随机傅里叶特征映射，以加速大规模数据集上核方法的训练和测试速度，通过低差异序列减少积分误差。
2015-08-09 cs.LG cs.NA math.NA
