This paper describes an algorithm for selecting parameter values (e.g. temperature values) at which to measure equilibrium properties with Parallel Tempering Monte Carlo simulation. Simple approaches to choosing parameter values can lead to poor equilibration of the simulation, especially for Ising spin systems that undergo $1^st$-order phase transitions. However, starting from an initial set of parameter values, the careful, iterative respacing of these values based on results with the previous set of values greatly improves equilibration. Example spin systems presented here appear in the context of Quantum Monte Carlo.
开发有效的MCMC算法是贝叶斯推断中必不可少的。在并行回火中,多个相互作用的MCMC链运行以更有效地探索状态空间并提高性能。多个链通过局部移动独立地前进,并且性能增强步骤是交换移动,其中链暂停以在彼此之间交换它们的当前样本。为了加速独立的本地移动,它们可以在多个处理器上同时执行。然后遇到另一个问题:根据MCMC实现和推理问题,局部移动可能需要不同的随机时间才能完成。也可能存在基础设施引起的变化,例如在云计算中出现的相同处理器上的竞争作业。在交换发生之前,所有的链都必须完成它们所参与的局部移动,以避免引入潜在的实质性偏差(命题2.1)。为了解决多处理器并行回火中随机变化的本地移动完成时间的问题,我们采用Murray et al.(2016)的Anytime蒙特卡罗框架:我们对并行本地移动施加实时截止日期,并在这些截止日期执行交换,而没有任何处理器空闲。我们展示了我们的方法,在实时截止日期的交流不会引入偏见,并导致显着的性能增强,在天真的方法,闲置,直到每个处理器的本地移动完成。该方法,然后应用在ABC设置,任何时候ABC并行回火算法推导出的Lotka-Volterra捕食模型的参数估计的困难任务,并观察到类似的效率提高。
Adaptive Importance Tempering: A flexible approach to improve computational efficiency of Metropolis Coupled Markov Chain Monte Carlo algorithms on binary spaces
University of Toronto(多伦多大学);Fujitsu Limited(富士通有限公司);DXR Laboratory Inc.(DXR实验室有限公司)
Bouncy particle sampler with infinite exchanging parallel tempering
Center for Mathematics and Data Science, Gunma University(数学与数据科学中心,gunma大学);Graduate School of Science and Engineering, Ibaraki University(科学与工程研究生院,ibaraki大学)
Accelerated Parallel Tempering via Neural Transports
University of Oxford(牛津大学);University of Cambridge(剑桥大学);Cornell University(康奈尔大学);Xaira Therapeutics;National University of Singapore(新加坡国立大学);University of British Columbia(不列颠哥伦比亚大学)
Department of Computer Science, Aalto University, Finland(阿姆斯特丹大学计算机科学系,芬兰);Department of Engineering, University of Cambridge, United Kingdom(剑桥大学工程系,英国);Department of Empirical Inference, Max Planck Institute for Intelligent Systems, Tübingen, Germany(智能系统研究所经验推断系,德国)