Yangbo He, Jinzhu Jia, Bin Yu
This supplementary material includes three parts: some preliminary results, four examples, an experiment, three new algorithms, and all proofs of the results in the paper "Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs".
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
继续探索
Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs
图形模型是一种流行的统计工具，用于表示相关或因果的复杂系统。统计等价的因果或有向图模型被称为属于马尔可夫等价类。描述和理解这些类的空间是非常有趣的。然而，与目前已知的算法，在这样的类的采样是唯一可行的图形与少于约20个顶点。在本文中，我们设计可逆的不可约马尔可夫链的马尔可夫等价类的空间，提出了一个完美的运营商，确定的马尔可夫链的转移。本文提出的马尔可夫链的平稳分布具有封闭形式，易于计算。具体来说，我们构造了一个具体的完美集稀疏马尔可夫等价类的运营商通过引入适当的条件，对每个可能的运营商。给出了有效生成马尔可夫链的算法及其加速版本，并研究了具有数千个顶点的稀疏有向无环图（DAG）的马尔可夫等价类的性质.我们通过实验发现，在大多数稀疏DAG的马尔可夫等价类中，（1）大多数边是有向的，（2）大多数无向子图是小的，（3）这些无向子图的数量随着顶点的数量近似线性地增长。本文包含补充arXiv：1303.0632，http://dx.doi.org/10.1214/13-AOS1125SUPP
Approximate Counting of Graphical Models Via MCMC Revisited
在Peña（2007）中，MCMC抽样被应用于近似计算最多20个节点的基本图（EG）与有向无环图（DAG）的比率。在本文中，我们将这项工作从20个节点扩展到31个节点。我们还通过计算连接的EG与连接的DAG、连接的EG与EG以及连接的DAG与DAG的近似比率来扩展这项工作。此外，我们证明了后者的比例是渐近1。我们还讨论了这些结果的影响，从数据中学习DAG。
Minimal I-MAP MCMC for Scalable Structure Discovery in Causal DAG Models
从数据中学习贝叶斯网络（BN）可以用于决策或发现因果关系。然而，传统的方法往往在现代应用中失败，这表现出更多的观察变量比数据点。由此产生的关于底层网络的不确定性以及结合先验信息的愿望推荐贝叶斯方法来学习BN，但是BN的高度组合结构对推理提出了惊人的挑战。目前最先进的方法，如顺序MCMC比以前的方法更快，但防止使用许多自然的结构先验，仍然有运行时间指数的最大程度的真正有向无环图（DAG）的BN。我们在这里提出了一个替代后验近似的基础上观察，如果我们将经验条件独立性测试，我们可以专注于一个高概率的DAG与每个订单的顶点。我们表明，我们的方法允许在先前的规范所需的灵活性，消除时间依赖的最大程度，并产生可证明良好的后验近似;此外，我们表明，它实现了优越的精度，可扩展性，和采样器混合在几个数据集。
An efficient simulation-based methodology is proposed for the rolling window estimation of state space models, called particle rolling Markov chain Monte Carlo (MCMC) with double block sampling. In our method, which is based on Sequential Monte Carlo (SMC), particles are sequentially updated to approximate the posterior distribution for each window by learning new information and discarding old information from observations. Th particles are refreshed with an MCMC algorithm when the importance weights degenerate. To avoid degeneracy, which is crucial for reducing the computation time, we intro…
Restricted Search Space Graph MCMC via Birth-Death Processes
本文提出一种灵活的转维MCMC采样器，通过动态调整搜索空间减少近似误差，分析了受限搜索空间MCMC方法的总变差距离界，探讨了近似误差的可忽略性区域。
Stop the Sampler! Classifier-Based Adaptive Stopping for Sampling Kernels
提出将MCMC轨迹终止作为可学习组件，利用非循环生成流网络训练状态依赖分类器，在保证详细平衡条件下自适应停止采样，显著缩短轨迹长度并改善模式覆盖与混合。
Partition MCMC for inference on acyclic digraphs
无环有向图是贝叶斯网络的底层表示，贝叶斯网络是一类广泛使用的概率图模型。从数据中学习底层图是了解域的结构属性的一种方式。结构学习形成了统计图形模型的推理挑战之一。MCMC方法，特别是结构MCMC，从给定数据的后验分布中采样图形，可能是贝叶斯模型平均的唯一可行选择。评分模块化和对每个节点的父节点数量的限制允许将图分组为更大的集合，这些集合可以作为一个整体进行评分，以提高链的收敛性。当前利用分组的算法的例子是有偏序MCMC，其作用于置换三角矩阵的替代空间，以及非遍历边缘反转移动。在这里，我们提出了一种新的算法，它采用的基本组合结构的DAG定义一个新的分组。因此，与结构MCMC相比，收敛性得到了改善，同时仍然保留了产生无偏样本的特性。最后，该方法可以与边缘反转移动相结合，以进一步改善采样器。
Structure Learning with Adaptive Random Neighborhood Informed MCMC
本文提出PARNI-DAG采样器，结合自适应随机邻域提议和基于骨架图的预调优，实现观测数据下DAG结构的高效全贝叶斯后验采样，在高维高相关场景中具有更好的混合性能和准确性。
Proximal Markov Chain Monte Carlo is a novel construct that lies at the intersection of Bayesian computation and convex optimization, which helped popularize the use of nondifferentiable priors in Bayesian statistics. Existing formulations of proximal MCMC, however, require hyperparameters and regularization parameters to be prespecified. In this work, we extend the paradigm of proximal MCMC through introducing a novel new class of nondifferentiable priors called epigraph priors. As a proof of concept, we place trend filtering, which was originally a nonparametric regression problem, in a para…
Posterior-based proposals for speeding up Markov chain Monte Carlo
马尔可夫链蒙特卡罗（MCMC）是一种广泛应用于复杂系统模型的贝叶斯推断方法。然而，由于所谓的混合不良，在具有许多潜在变量的模型中，性能通常不令人满意，需要开发特定于应用程序的实现。本文介绍了“基于后验的建议”（PBPs），一种新型的MCMC更新适用于一个巨大的类的统计模型（其条件依赖结构表示的有向无环图）。PBPs在参数和潜在变量空间中生成大的联合更新，同时保持良好的接受率（通常为33%）。对其他方法（从标准吉布斯/随机游动更新到最先进的哈密顿和粒子MCMC方法）进行了评估，用于广泛变化的模型类型：基于个体的疾病诊断测试数据模型，金融随机波动模型，统计遗传学中使用的混合模型和生态学中使用的种群模型。虽然不同的方法在不同的情况下工作得更好或更差，但发现PBPs要么接近最快，要么比次佳方法快得多（高达10倍）。因此，PBPs代表了一种额外的通用技术，可以有效地应用于各种各样的环境。
Zero Variance Markov Chain Monte Carlo for Bayesian Estimators
兴趣在于通过马尔可夫链蒙特卡罗（MCMC）模拟来评估函数关于可能未归一化的概率分布的期望值。基于物理学文献中引入的零方差原理，提出了MCMC估计的通用方差缩减技术。零方差估计量的渐近无偏的条件。在正则条件下证明了一个中心极限定理。的潜在的想法是说明与实际应用的概率，logit和Gesthet-Bayesian模型。对于所有这些模型，证明了零方差估计量的中心极限定理和无偏性（见在线提供的补充材料）。
Electrochemical impedance spectroscopy (EIS) is a widely used tool for characterization of fuel cells and other electrochemical conversion systems. When applied to the on-line monitoring in the context of in-field applications, the disturbances, drifts and sensor noise may cause severe distortions in the evaluated spectra, especially in the low-frequency part. Failure to ignore the random effects can result in misinterpreted spectra and, consequently, in misleading diagnostic reasoning. This fact has not been often addressed in the research so far. In this paper, we propose an approach to the …
Order-based Structure Learning without Score Equivalence
提出经验贝叶斯基于排序的DAG结构学习MCMC方法及自顶向下初始化算法，证明高维选择一致性，并在模拟和单细胞数据中验证其优势。
Partial Order MCMC for Structure Discovery in Bayesian Networks
提出了一种新的估计贝叶斯网络结构特征后验概率的马尔可夫链蒙特卡罗方法。该方法从节点上的偏序的后验分布中抽取样本;对于每个采样的偏序，精确计算感兴趣的条件概率。我们给出的分析和实证结果表明，新方法的优越性相比，以前的方法，样本无论是有向无环图或线性订单的节点。
Gridding and Parameter Expansion for Scalable Latent Gaussian Models of Spatial Multivariate Data
本文提出网格化与参数扩展方法，改进基于稀疏DAG的可扩展空间高斯过程MCMC算法，提升ESS/s，并在合成数据与G-LiHT林业数据上验证有效性。
Parallel MCMC Algorithms: Theoretical Foundations, Algorithm Design, Case Studies
本文为并行MCMC算法建立测度论基础，推导多提议接受准则，提出多提议pCN算法，并通过并行化与贝叶斯反演案例验证其高效性。
In Bayesian structure learning, we are interested in inferring a distribution over the directed acyclic graph (DAG) structure of Bayesian networks, from data. Defining such a distribution is very challenging, due to the combinatorially large sample space, and approximations based on MCMC are often required. Recently, a novel class of probabilistic models, called Generative Flow Networks (GFlowNets), have been introduced as a general framework for generative modeling of discrete and composite objects, such as graphs. In this work, we propose to use a GFlowNet as an alternative to MCMC for appro…
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈
发表机构由 AI 从论文文本抽取，如发现错误，欢迎反馈修正建议。