Additive Tree-Structured Conditional Parameter Spaces in Bayesian Optimization: A Novel Covariance Function and a Fast Implementation
KU Leuven(鲁汶大学)
贝叶斯优化(BO)是一种样本有效的全局优化算法的黑箱函数,这是昂贵的评估。现有的文献中基于模型的优化在条件参数空间通常是建立在树。本文将可加性假设推广到树结构函数,提出了可加性树结构协方差函数,提高了样本效率,具有更广泛的适用性和更大的灵活性。此外,通过结合参数空间的结构信息和BO循环中的可加性假设,我们开发了一种并行算法来优化采集函数,这种优化可以在低维空间中进行。我们展示了我们的方法上的优化基准函数,神经网络压缩问题,修剪预训练的VGG16和ResNet50模型,以及搜索激活函数的ResNet20。实验结果表明,我们的方法在条件参数优化方面明显优于现有技术,包括SMAC,TPE和Jenatton等人(2017)。
2020-10-06 cs.LG stat.ML
Bayesian Conditional Generative Adverserial Networks
The University of Adelaide(阿德莱德大学);Queensland University of Technology(昆士兰科技大学);CMU(卡内基梅隆大学)
传统的GANs使用确定性生成器函数(通常是神经网络)将随机噪声输入$z$转换为采样器试图区分的样本$\mathbf{x}$。我们提出了一种新的GAN,称为贝叶斯条件生成对抗网络(BC-GAN),它使用随机生成器函数将确定性输入$y'$转换为样本$\mathbf{x}$。我们的BC-GANs将传统的GANs扩展到贝叶斯框架,并自然地处理无监督学习,监督学习和半监督学习问题。实验表明,所提出的BC-GANs优于最先进的。
2017-06-17 cs.AI cs.LG stat.ML
Conditional Bayesian Quadrature
University College London(伦敦大学学院);Gatsby Computational Neuroscience Unit(盖茨比计算神经科学中心)
针对采样与被积函数评估成本高的场景,提出基于概率数值框架的条件贝叶斯求积方法,整合被积函数先验平滑性等信息,可量化不确定性、提升收敛速度,且经理论与多领域任务实证验证。
2024-06-24 cs.LG stat.CO stat.ML
Conditions Under Which Conditional Independence and Scoring Methods Lead to Identical Selection of Bayesian Network Models
City University, London(伦敦城市大学)
在处理从数据推断贝叶斯网络结构的任务的论文中,经常提到有两种不同的方法:(i)在测试边缘的存在或其他情况时应用条件独立性测试;(ii)使用评分度量搜索模型空间。在这里,我认为,对于完整的数据和一个给定的节点排序这种分工是一个神话,通过显示,交叉熵方法检查条件独立性是数学上相同的方法的基础上区分模型的整体拟合优度对数得分。
2013-01-10 cs.AI cs.LG stat.ML
Conditional Flow Matching for Bayesian Posterior Inference
University of Chicago, Booth School of Business(芝加哥大学布斯商学院)
本文提出一种基于流匹配的生成多变量后验采样器,通过动态块三角速度场实现后验推断,无需Likelihood评估,且能高效生成贝叶斯可信集。
2026-04-01 cs.LG stat.ML
Bayesian Conditional Density Filtering
Duke University(杜克大学);UC Santa Cruz(加州大学圣克鲁兹分校)
我们提出了一个有效的在线贝叶斯推断的条件密度过滤(C-DF)算法。C-DF使MCMC抽样适应在线设置,从近似值到条件后验分布进行抽样,该后验分布通过在新数据到达时传播替代条件充分统计量(数据和参数估计的函数)获得。这些量消除了同时存储或处理整个数据集的需要,并提供了许多理想的功能。通常,这些包括减少内存需求和运行时间,改进混合,以及最先进的参数推断和预测。这些改进是通过几个说明性的例子,包括高维压缩回归的应用程序。最后,我们证明了C-DF样本渐近收敛到目标后验分布的采样进行和更多的数据到达。
2015-09-22 cs.LG stat.CO stat.ML
Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy
University of Texas at Austin(德克萨斯大学奥斯汀分校)
贝叶斯加法回归树近年来由于其将机器学习技术与原则性不确定性量化相结合的能力而受到越来越多的关注。然而,用于拟合BART模型的贝叶斯后拟合算法将其应用限制在一小类存在条件共轭的模型上。在这篇文章中,我们通过引入一个非常简单的、无调整参数的、可逆跳马尔可夫链蒙特卡罗算法,大大扩展了BART对任意\emph{generalized BART}模型的适用范围。我们的算法只需要用户能够计算的可能性和(可选)其梯度和费舍尔信息。潜在的应用是非常广泛的,我们考虑的例子在生存分析,结构异方差回归,伽玛形状回归。
2022-02-20 cs.LG stat.ME stat.ML
Raiders of the Lost Architecture: Kernels for Bayesian Optimization in Conditional Parameter Spaces
在实际的贝叶斯优化中,我们必须经常搜索具有不同数量参数的结构。例如,我们可能希望搜索具有未知层数的神经网络架构。为了关联针对不同架构收集的性能数据,我们为条件参数空间定义了一个新的内核,该内核显式地包含有关给定结构中哪些参数相关的信息。我们表明,该内核提高了模型的质量和贝叶斯优化结果比几个简单的基线内核。
2014-09-14 stat.ML
Approximate Bayesian Class-Conditional Models under Continuous Representation Shift
School of Informatics(信息学院);University of Edinburgh(爱丁堡大学)
针对在线持续学习中表征漂移导致分类器失配的问题,提出经验贝叶斯方法 DeepCCG,通过类条件高斯后验一步适配并选择最小化 KL 散度的记忆子集。
2024-05-07 cs.LG stat.ML
Bayesian Deconditional Kernel Mean Embeddings
University of Sydney(悉尼大学);CSIRO(澳大利亚联邦科学与工业研究组织);NVIDIA(英伟达)
条件核均值嵌入形成了一个有吸引力的非参数框架来表示函数的条件均值,描述了许多复杂模型的观测过程。然而,恢复的原始基础功能的利益,其条件平均值被观察到是一个具有挑战性的推理任务。我们正式deconciliar内核意味着嵌入作为这个逆问题的解决方案,并表明,它可以自然地被视为一个非参数贝叶斯规则。关键的是,我们引入了任务转换高斯过程的概念,并建立deconciliar内核的手段作为其后验预测的意思。这种联系为去卷积核均值嵌入提供了贝叶斯解释和不确定性估计,解释了它们的正则化超参数,并揭示了核超参数学习的边际似然性。这些启示进一步实现了实际应用,如无似然推理和学习大数据的稀疏表示。
2019-06-01 cs.LG stat.ML
A Bayesian nonparametric test for conditional independence
本文介绍了一种贝叶斯非参数方法,用于量化数据集中的相对证据,以支持两个变量在第三个变量条件下的依赖或独立。该方法使用Polya树先验空间的条件概率密度,占不确定性的形式的基本分布的非参数的方式。贝叶斯观点提供了条件依赖性或独立性的固有对称概率测度,这是在因果发现中特别有利的特征,并且在这种类型的现有程序中没有采用。
2020-07-16 stat.CO stat.ME stat.ML
Improving Bayesian Optimization via Training-Aware Conditional Diffusion Models
National University of Singapore(新加坡国立大学);Georgia Institute of Technology(佐治亚理工学院)
提出利用条件扩散模型高效近似最优解分布,并开发贝叶斯优化固有的训练策略和基于扩散的模态搜索采集函数,理论保证次优性,实验优于标准基线。
2026-06-07 cs.LG stat.ML
Bayesian test of significance for conditional independence: The multinomial model
条件独立性检验(CI test)作为衡量模型变量间关系的重要指标,近年来在机器学习和计算智能领域受到了广泛关注。在概率图形模型(PGM)领域-包括贝叶斯网络(BN)模型-CI测试对于从数据中学习PGM结构的任务尤为重要。在本文中,我们提出了完整的贝叶斯显著性检验(FBST)的离散数据集的条件独立性的测试。FBST是一个功能强大的贝叶斯精确假设检验,作为频率论显著性检验(其特征是计算\emph{p-value})的替代方法。
2013-06-16 stat.CO stat.ML
The Bayes Estimator of a Conditional Density: Consistency
在贝叶斯框架下,我们证明了条件密度的最优估计是相容的。
2022-06-24 math.ST stat.TH
Conditional neural control variates for variance reduction in Bayesian inverse problems
Department of Computer Science University of Central Florida(计算机科学系佛罗里达中央大学);Department of Physics and Maryland Center for Fundamental Physics University of Maryland College Park(物理系马里兰根本物理中心马里兰大学学院公园分校)
提出条件神经控制变量方法,利用联合模型-数据样本学习摊销控制变量,通过Stein恒等式和分层耦合层架构,显著降低贝叶斯逆问题中蒙特卡洛估计的方差。
2026-06-23 cs.LG stat.ML
Fast $ε$-free Inference of Simulation Models with Bayesian Conditional Density Estimation
University of Edinburgh(爱丁堡大学)
许多统计模型可以向前模拟,但具有难以处理的可能性。近似贝叶斯计算(ABC)的方法来推断这些模型的属性从数据。传统上,这些方法通过在观测数据周围的$ε$球内调节数据来近似后验参数,这仅在极限$ε\!\rightarrow\!0$中是正确的。然后,蒙特卡罗方法可以从近似后验中抽取样本,以近似预测或参数的误差条。这些算法作为$ε\!\rightarrow\!0$严重减慢,并且在实践中从比后验更广泛的分布中抽取样本。提出了一种基于贝叶斯条件密度估计的无似然推理方法。基于有限的仿真数据的初步推断用于指导以后的仿真。在某些情况下,学习整个真实后验分布的准确参数表示需要比蒙特卡罗ABC方法从近似后验产生单个样本所需的模型模拟更少。
2018-04-02 cs.LG stat.CO stat.ML
Efficient Neural Network Approaches for Conditional Optimal Transport with Applications in Bayesian Inference
SIAM Journal on Scientific Computing(SIAM科学计算杂志);Office of Naval Research(海军办公室);US Department of Energy, Office of Advanced Scientific Computing Research(美国能源部高级科学计算研究办公室);M2dt MMICC center(M2dt MMICC中心);Office of Advanced Scientific Computing Research(高级科学计算研究办公室);Air Force Office of Scientific Research(空军科学办公室);Department of Defense Vannevar Bush Faculty Fellowship(国防部门范纳瓦尔·布什教职员工 fellowship)
本文提出两种神经网络方法求解条件最优传输问题,支持贝叶斯推断中的条件采样与密度估计,静态法高效,动态法灵活,并在基准和逆问题上验证了优越性。
2025-04-24 cs.LG stat.ML
An AI-powered Bayesian Generative Modeling Approach for Arbitrary Conditional Inference
Department of Biostatistics, Yale University(耶鲁大学生物统计学系);Department of Statistics, Stanford University(斯坦福大学统计学系)
本文提出了一种基于人工智能的贝叶斯生成建模方法,用于解决任意条件推断问题,通过统一框架实现灵活的条件预测和不确定性量化。
2026-03-10 cs.AI cs.LG stat.CO
Conditional Hierarchical Bayesian Tucker Decomposition for Genetic Data Analysis
Engineering Sciences and Applied Mathematics(应用数学与工程科学);Industrial Engineering and Management Sciences(工业工程与管理科学);Preventive Medicine (Health and Biomedical Informatics)(预防医学(健康与生物医学信息学))
提出条件分层贝叶斯 Tucker 分解,将 LDA 扩展至多维稀疏遗传计数数据,以识别癌症与孤独症的共同风险因素,并取得优于基线的主题一致性。
2025-08-29 cs.LG stat.ME stat.ML
Bayesian Discrete Conditional Transformation Models
我们提出了一种新的贝叶斯模型框架的离散序数和计数数据的基础上的条件转换的响应。条件变换函数是从数据中结合先验选择的参考分布来估计的。对于计数响应,由此产生的转换模型是新颖的,在这个意义上,它是一个贝叶斯完全参数但分布自由的方法,可以额外考虑额外的零与添加剂的转换功能规范。对于有序分类响应,我们的累积链接转换模型允许包含线性和非线性协变量效应,这些效应还可以是分类特异性的,从而产生(非)比例优势或风险模型等,具体取决于参考分布的选择。推理是由一个通用的模块化马尔可夫链蒙特卡罗算法,其中多元高斯先验执行特定的属性,如平滑的功能效果。为了说明贝叶斯离散条件转换模型的多功能性,应用程序的专利引用计数在存在多余的零和治疗森林健康类别的离散部分比例优势模型。
2022-05-17 stat.ME stat.ML
Conditional Generative Models are Provably Robust: Pointwise Guarantees for Bayesian Inverse Problems
Humboldt-Universität zu Berlin(柏林洪堡大学);Technische Universität Berlin(柏林工业大学)
本文首次证明适当学习的条件生成模型在贝叶斯反问题中对单个观测值的扰动具有可证明的鲁棒性。
2024-07-19 cs.LG math.ST stat.TH
An Expectation Conditional Maximization approach for Gaussian graphical models
贝叶斯图模型是理解许多变量之间依赖关系的有用工具,特别是在具有外部先验信息的情况下。在高维环境中,可能的图的空间变得巨大,使得即使是最先进的贝叶斯随机搜索在计算上也不可行。我们提出了一个确定性的替代估计高斯和高斯copula图形模型使用期望条件最大化(ECM)算法,扩展EM方法从贝叶斯变量选择图形模型估计。我们表明,ECM方法可以快速后验探索下的混合先验序列,并可以将多个信息源。
2019-02-06 stat.ML
Conditional score-based diffusion models for Bayesian inference in infinite dimensions
University of Basel(巴塞尔大学);Rice University(莱斯大学);Ecole Polytechnique, IP Paris(巴黎综合理工学院);University of California Irvine(加州大学尔湾分校)
本文提出基于摊销条件得分扩散模型的无穷维贝叶斯线性逆问题后验采样方法,证明条件去噪估计器可推广到无穷维,并揭示条件得分在小时间下发散的关键问题,实现大规模且离散化不变的贝叶斯推断。
2023-10-27 cs.LG math.AP math.PR
Conditional Wasserstein Distances with Applications in Bayesian OT Flow Matching
Technical University of Berlin(柏林技术大学)
本文提出条件Wasserstein距离,推导其理论性质与流常微分方程,并通过松弛该距离扩展OT流匹配方法,用于求解贝叶斯逆问题,在逆问题和类别条件图像生成中验证了数值优势。
2025-08-27 cs.LG math.OC
Optimal Bayesian Estimation of a Regression Curve, a Conditional Density and a Conditional Distribution
本文从贝叶斯的观点讨论了几个相关的估计问题,并在考虑某些自然损失函数的情况下得到了每个估计的最优估计。也就是说,我们感兴趣的是估计回归曲线。同时,考虑了条件分布函数、条件密度甚至条件分布本身的估计问题。所有这些问题都在一个足够一般的框架中提出,以涵盖连续和离散,单变量和多变量,参数和非参数的情况下,而不需要使用特定的先验分布。所考虑的损失函数自然来自于二次误差损失函数,该损失函数通常用于估计未知参数的实函数。上述贝叶斯估计的基石是后验预测分布。最后给出了一些例子来说明这些结果。
2021-10-26 math.ST stat.TH
Objective Bayes, conditional inference and the signed root likelihood ratio statistic
分析了符号根似然比统计量的贝叶斯性质。一阶概率匹配的条件是通过检查贝叶斯后验和频率统计的手段。二阶匹配条件所示,从匹配的贝叶斯后验和频率方差的均值调整版本的签署根统计。推导并讨论了从属统计量模型中条件概率匹配的条件。
2015-03-19 math.ST stat.TH
Verifiable Regularity Criterion for Conditional Expectation Operators and Conditional Mean Embeddings with Applications to Nonparametric Regression, Bayesian Inverse Problems, and Koopman Operators
Technische Universität Ilmenau(伊尔梅瑙工业大学);Freie Universität Berlin(柏林自由大学);Chemnitz University of Technology(开姆尼茨工业大学)
该研究提出了条件期望算子与条件均值嵌入的可验证正则性准则,验证其在三类场景下的适用性,为相关领域提供了统一分析框架。
2026-08-07 cs.LG cs.NA math.DS
Instrumental Variable Bayesian Model Averaging via Conditional Bayes Factors
我们发展了一种方法来执行两阶段线性回归系统的模型平均值受到内消。我们的方法扩展了现有的吉布斯采样器的工具变量,将模型的不确定性的组成部分。在这种情况下,模型概率的直接评估是棘手的。我们表明,通过嵌套模型移动内的吉布斯采样器,模型比较可以通过条件贝叶斯因子,导致简单的计算。这个新的吉布斯采样器只是比原来的算法稍微多一点,并没有表现出混合困难的证据。最后,我们研究了两种不同的建模挑战:将不确定性纳入宏观经济增长的决定因素,并通过对零售价格的批发来估计需求函数。
2012-03-19 stat.AP stat.ME
Optimal compromise between incompatible conditional probability distributions, with application to Objective Bayesian Kriging
模型通常是通过条件分布而不是联合分布来定义的,但是很难检查条件分布是否兼容,即是否存在生成它们的联合概率分布。当它们兼容时,可以使用吉布斯采样器从该联合分布中采样。当它们不是时,仍然可以应用吉布斯采样算法,从而产生“伪吉布斯采样器”。我们证明了它的平稳概率分布是条件分布之间的最佳折衷,在这个意义上说,它最大限度地减少了它们之间的均方失配和自己的条件分布。这使我们能够进行客观贝叶斯分析的相关参数的克里格模型,通过使用单变量条件杰弗里斯规则后验分布,而不是广泛使用的多元杰弗里斯规则后验。这种策略使得全贝叶斯过程易于处理。数值算例表明,该方法在预测区间覆盖方面具有接近最优的频率论性能。
2018-12-17 math.ST stat.TH
Uncertain Bayesian Networks: Learning from Incomplete Data
Univ. of Michigan(密歇根大学);US Army DEVCOM ARL(美国陆军作战能力发展司令部陆军研究实验室);Univ. of Brescia(布雷西亚大学)
在历史数据有限的情况下,贝叶斯网络节点的条件概率是不确定的,可以通过经验估计得到。二阶估计方法为估计概率和量化这些估计中的不确定性提供了一个框架。我们将这些情况称为不确定或二阶贝叶斯网络。当这些数据完整时,即,对于每个实例化观察所有变量值,已知条件概率是狄利克雷分布的。本文改进了当前处理不确定贝叶斯网络的最新方法,使它们能够学习其参数的分布,即,条件概率,数据不完整。我们广泛地评估各种方法来学习后验的参数,通过所需的和经验得出的各种查询的置信区间的强度。
2022-08-08 cs.AI cs.LG stat.ML
Conditional Independence in Max-linear Bayesian Networks
受极值理论的启发,最近引入了最大线性贝叶斯网络,并将其作为线性结构方程模型的替代方案进行研究。然而,对于max-线性系,贝叶斯网络的经典独立性结果远未穷尽有效的条件独立性陈述。我们使用热带线性代数推导出一个紧凑的表示的条件分布的部分观察,并利用这一点,以获得一个完整的描述所有的条件独立关系。在特定于上下文的情况下,条件独立相对于条件变量的特定值进行查询,我们引入了源DAG的概念来揭示有效的条件独立关系。在上下文无关的情况下,我们通过修改分离的概念,$\ast$分离,结合热带特征值条件的条件独立性。我们还介绍了影响图的概念,它描述了极端事件如何通过网络确定性传播,我们给出了这样的影响图的完整表征。我们的分析打开了几个有趣的问题,条件独立和热带几何。
2020-09-06 math.PR math.ST stat.TH
Bayesian Conditional Transformation Models
统计回归方法的最新发展从纯均值回归转向分布回归模型。其中一个重要的链是条件转换模型(CTM)。CTM直接通过将转换函数应用于响应,以一组协变量为条件,朝向简单对数凹参考分布,推断整个条件分布。因此,CTM不仅允许方差、峰度或偏度,而且允许完整的条件分布依赖于解释变量。我们提出了一个贝叶斯概念的条件转换模型(BCTM)专注于精确观察到的连续响应,但也将扩展到随机删失和离散响应。而不是依赖于伯恩斯坦多项式,已被认为是在基于似然的CTM,我们实现了基于样条的参数化的单调效应,补充平滑先验。此外,我们能够受益于贝叶斯范式通过容易获得的可信区间和其他数量,而不依赖于大样本近似。模拟研究表明,我们的方法对它的似然性为基础的同行,但也贝叶斯添加剂模型的位置,规模和形状和贝叶斯分位数回归的竞争力。两个应用程序说明了多功能性的BCTM的问题,涉及现实世界的数据,再次包括与各种类型的竞争对手的比较。
2022-05-21 stat.ME
Relations Between the Conditional Normalized Maximum Likelihood Distributions and the Latent Information Priors
我们揭示了条件归一化最大似然(CNML)分布和贝叶斯预测密度的基础上的潜在信息先验(LIPs)之间的关系。特别地,CNML 3,这是一种类型的CNML分布,进行了研究。预测密度的贝叶斯投影,这是一个信息投影的预测密度的贝叶斯预测密度的集合,被认为是。我们证明了CNML 3的Bayes投影散度与条件互信息之和是渐近常数。这一结果意味着CNML 3的贝叶斯投影(BPCNML 3)与基于LIP的贝叶斯预测密度渐近相同。此外,在一些更强的假设下,我们证明了BPCNML 3与基于LIP的贝叶斯预测密度完全一致。
2014-12-25 math.ST stat.TH
Bayesian Inverse Problems with Conditional Sinkhorn Generative Adversarial Networks in Least Volume Latent Spaces
University of Maryland(马里兰大学);General Electric Vernova Advanced Research(通用电气维诺瓦先进研究院)
本文提出一种基于最小体积降维的潜条件Sinkhorn生成对抗网络框架,用于高效训练并解决高维非线性贝叶斯逆问题,在ODE参数反演和地下水流高维水力传导率反演中验证了其有效性。
2024-05-22 cs.LG
CGAN-EB: A Non-parametric Empirical Bayes Method for Crash Hotspot Identification Using Conditional Generative Adversarial Networks: A Simulated Crash Data Study
University of Waterloo(滑铁卢大学)
在本文中,提出了一种新的非参数经验贝叶斯方法,称为CGAN-EB,用于近似交通位置(例如,路段),其受益于深度神经网络的建模优势,并在仿真研究中将其性能与基于负二项模型(NB-EB)的传统方法进行了比较。NB-EB使用负二项模型来模拟碰撞数据,这是实践中最常用的方法。为了在所提出的CGAN-EB中对碰撞数据进行建模,使用了条件生成对抗网络,这是一种功能强大的基于深度神经网络的方法,可以对任何类型的分布进行建模。设计并进行了大量的模拟实验,以评估CGAN-EB在不同条件下的性能,并将其与NB-EB进行比较。结果表明,CGAN-EB表现以及NB-EB的条件下,有利于NB-EB模型(即数据符合NB模型的假设),并优于NB-EB在实验中经常遇到的条件下,在实践中,特别是低样本均值,当碰撞频率不遵循对数线性关系与协变量。
2021-12-13 cs.LG
Generalized Bayes in Conditional Moment Restriction Models
本文针对条件矩约束模型提出广义准贝叶斯框架,推导高斯过程先验收缩率与后验的Bernstein-von Mises定理条件,证明最优加权可信集的精确渐近覆盖率,经生产函数估计与模拟验证性能优于常用方法。
2025-10-01 econ.EM math.ST stat.TH
CGAN-EB: A Non-parametric Empirical Bayes Method for Crash Hotspot Identification Using Conditional Generative Adversarial Networks: A Real-world Crash Data Study
University of Waterloo(滑铁卢大学)
基于负二项分布(NB)等参数统计模型的经验贝叶斯(EB)方法已被广泛应用于道路网安全筛选过程中的站点排序。本文是作者先前研究的延续,提出了一种基于条件生成对抗网络(CGAN)的碰撞频率数据建模的新的非参数EB方法,并在几个模拟碰撞数据集上进行了评估。与参数方法不同,在拟议的CGAN-EB中,不需要预先指定因变量和自变量之间的潜在关系,并且它们能够对任何类型的分布进行建模。所提出的方法现在被应用于从2012年到2017年在华盛顿州的路段收集的真实世界的数据集。CGAN-EB在模型拟合、预测性能和网络筛选结果方面的性能与传统方法(NB-EB)作为基准进行了比较。实验结果表明,CGAN-EB方法在预测能力和热点识别测试方面优于NB-EB方法。
2021-12-16 cs.LG
Dynamic Bayesian Multinets
University of Washington(华盛顿大学)
在这项工作中,引入动态贝叶斯multitudes马尔可夫链状态在时间t确定条件独立的随机变量之间的模式躺在一个本地时间窗口周围的t。它示出了如何信息理论的标准函数可以用来诱导稀疏,歧视,类条件网络结构,产生最佳近似的类后验概率,因此是有用的分类任务。使用一个新的结构学习启发式,由此产生的模型进行测试的中等词汇孤立词语音识别任务。它表明,这些歧视性结构的动态贝叶斯multitons,在最大似然设置使用EM训练时,可以优于HALTH和其他动态贝叶斯网络具有类似数量的参数。
2013-01-16 cs.AI cs.LG stat.ML
A note on conditional densities, Bayes' rule, and recent criticisms of Bayesian inference
University of Oxford(牛津大学)
本文澄清了条件密度在贝叶斯推断中的应用,指出直接条件于零概率事件不成立,而是先条件于随机变量再代入观测值。作者反驳了近期对贝叶斯推断的批评,指出其例子存在数学错误且偏离贝叶斯框架。
2026-10-22 stat.ME
Bayesian index of superiority and the p-value of the conditional test for Poisson parameters
我们考虑从贝叶斯的角度比较两个泊松参数的问题。Kawasaki和Miyaoka(2012 b)提出了贝叶斯指数$P(λ_1 < λ_2 | X_1,X_2)$,并使用超几何级数表示。本文在一定条件下,给出了贝氏指数的其它四种表示形式,它们分别是β分布、$F$分布、二项分布和负二项分布的累积分布函数。接下来,我们研究贝叶斯指数和$p$ -值的条件检验与零假设$H_0: λ_1 \geq λ_2 $与备择假设$H_1: λ_1<λ_2 $之间的关系。此外,我们研究了$P(λ_1/λ_2 <c | X_1, X_2)$和条件检验的$p$ -值之间的广义关系,该条件检验采用零假设$H_0: λ_1/λ_2 \geq c$与替代假设$H_1: λ_1/λ_2 < c$。我们说明了实用的贝叶斯指数使用真实数据的分析。我们的研究结果表明,贝叶斯指数在流行病学和临床试验中可能是有用的。
2016-06-04 stat.ME
Conditional Injective Flows for Bayesian Imaging
University of Basel(巴塞尔大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Sharif University of Technology(谢里夫理工大学);Rice University(莱斯大学)
提出C-Trumpets条件单射流,通过低维潜在空间和架构创新降低内存与计算开销,在多种成像任务中优于常规条件流模型,支持快速点估计与不确定性量化。
2023-04-03 cs.LG
Bayesian Nonparametric Conditional Copula Estimation of Twin Data
一些关于双胞胎遗传力的研究旨在了解环境和遗传因素对特定性状的不同贡献。结合全国优秀双胞胎研究,我们的目的是正确分析社会经济地位对双胞胎认知能力关系的影响。我们的方法是基于条件Copula,这使我们能够模拟协变量驱动的主要变量之间的依赖强度的影响。我们提出了一个灵活的贝叶斯非参数方法估计的条件copula,它可以模拟任何条件copula密度。我们的方法扩展了Wu et al(2015)的工作,通过在无限混合模型中引入协变量的依赖性。我们的研究结果表明,环境因素在社会经济地位较低的家庭中更有影响力。
2017-07-03 stat.AP stat.ME
Are Bayesian networks typically faithful?
VU Amsterdam(阿姆斯特丹自由大学);Korteweg-de Vries Institute for Mathematics, University of Amsterdam(阿姆斯特丹大学科特维格-德弗里斯数学研究所)
研究证明贝叶斯网络在特定条件下忠实性构成开放密集集,扩展了线性高斯和离散网络的结果,并表明基于约束的因果发现算法在典型网络集上一致。
2026-09-09 math.PR math.ST stat.ML
Transformers as Neural Augmentors: Class Conditional Sentence Generation via Variational Bayes
Yildiz Technical University(耶尔德兹理工大学)
自然语言处理任务的数据增强方法是近年来研究的热点,但其局限性较大,难以捕捉句子层次上的多样性。此外,并不总是能够对监督任务执行数据增强。为了解决这些问题,我们提出了一种神经数据增强方法,这是一个组合的条件变分自编码器和编码器-解码器Transformer模型。在对输入语句进行编码和解码的同时,我们的模型捕捉了输入语言的句法和语义表示及其类条件。根据过去几年在预训练语言模型上的发展,我们在几个基准上对我们的模型进行训练和评估,以加强下游任务。我们将我们的方法与3种不同的增强技术进行比较。所提出的结果表明,我们的模型增加了当前模型的性能相比,其他数据增强技术与少量的计算能力。
2022-05-19 cs.CL cs.LG
Scalable Bayesian nonparametric regression via a Plackett-Luce model for conditional ranks
我们提出了一种新的贝叶斯非参数回归模型的协变量X和连续的,真正的响应变量Y。该模型根据Y和X的边缘分布以及调整条件分布F(y)的随机排序的回归函数进行参数化|x)。通过采用近似的复合似然方法,我们表明,由此产生的后验推理可以解耦的模型的单独组件。该过程可以扩展到非常大的数据集,并允许使用来自贝叶斯非参数密度估计和Plackett-Luce排名估计的标准现有软件。作为一个例子,我们展示了我们的方法在美国人口普查数据集上的应用,该数据集有超过130万个数据点和100多个协变量。
2015-06-24 stat.ME
Bayesian Conditional Tensor Factorizations for High-Dimensional Classification
在许多应用领域中,收集分类响应和高维分类预测因子的数据,目标是在对重要预测因子进行推断的同时构建用于分类的简约模型。在基因组学等环境中,预测因子之间可能存在复杂的相互作用。通过使用一个精心构造的塔克分解,我们定义了一个模型,可以描述任何条件概率,同时促进变量的选择和建模的高阶相互作用。贝叶斯方法之后,我们提出了一个马尔可夫链蒙特卡罗算法的后验计算容纳不确定性的预测要包括在内。在近稀疏假设下,后验分布的条件概率实现接近参数率的收缩,即使在超高维设置。使用模拟的例子和生物医学应用程序的方法进行说明。
2013-01-21 stat.ME
Bayesian parameter estimation using conditional variational autoencoders for gravitational-wave astronomy
University of Glasgow(格拉斯哥大学)
引力波(GW)探测现在是司空见惯的,随着全球GW探测器网络灵敏度的提高,我们每年将观测到$\mathcal{O}(100)$ s的瞬态GW事件。目前用于估计其源参数的方法采用最佳敏感但计算成本高的贝叶斯推断方法,其中典型的分析需要6小时至5天。对于双星中子星和中子星黑洞系统,预计在1秒至1分钟的时间尺度上会立即产生对应的电磁(EM)特征,目前用于提醒EM后续观察者的最快方法可以在$\mathcal{O}(1)$分钟内提供对有限范围的关键源参数的估计。在这里,我们表明,一个条件变分自动编码器预先训练的二进制黑洞信号可以返回贝叶斯后验概率估计。对于给定的先验参数空间,训练过程仅需要执行一次,并且所得的经训练的机器然后可以比现有技术更快地生成描述后验分布$\sim 6$数量级的样本。
2021-12-14 astro-ph.IM cs.LG gr-qc
Where Bayes tweaks Gauss: Conditionally Gaussian priors for stable multi-dipole estimation
我们提出了一个非常简单但功能强大的推广先前描述的模型和算法估计多个偶极子从磁/脑电图数据。具体而言,推广包括在一组条件线性/高斯变量的标准差上引入对数均匀超先验。我们使用数值模拟和实验数据集表明,近似的后验分布保持非常稳定的超参数的值范围很广,几乎消除了对超参数的依赖。
2020-06-07 q-bio.QM stat.AP stat.ME
Sample size re-estimation in Phase 2 Dose-Finding: Conditional power vs. Bayesian predictive power
当真实处理效应存在较大不确定性时,在临床试验中通常计划进行揭盲样本量重新估计(SSR)。对于II期剂量探索研究中的概念验证(Proof-of-Concept,缩写为CET),可以采用对比检验来利用所有治疗组的信息。在这篇文章中,我们提出了两个阶段的SSR设计,使用频率论的条件功率和贝叶斯后验预测功率的单对比和多对比测试。贝叶斯SSR可以在广泛的先验设置下实现,以结合不同的先验知识。考虑到自适应性,本文对最终分析的所有第一类错误都进行了严格的保护。模拟研究表明,非盲SSR在多臂试验中的优势。
2022-11-10 stat.AP stat.ME
Bayesian Conditional Cointegration
University College London(伦敦大学学院)
协整是时间序列研究的一个重要课题,它描述了两个序列之间的关系,其中线性组合是平稳的。经典的协整检验是基于一个两阶段的过程,首先用普通最小二乘法估计序列之间的线性关系。随后对残差进行单位根检验。这种经典方法的一个众所周知的缺陷是,它可能导致关于协整存在的错误结论。作为一种替代方案,我们提出了一个框架,估计是否存在协整使用贝叶斯推理,这是经验上优于经典的方法。最后,我们应用我们的技术来建立分段协整模型,其中协整可能只存在有限的时间。与以前的方法相比,我们的模型对可能的协整部分的数量没有限制。
2012-06-27 cs.CE cs.LG stat.ME
Dynamic Bayesian Networks with Conditional Dynamics in Edge Addition and Deletion
本文提出一种动态贝叶斯网络框架,通过两种条件动态分别建模边的添加删除与选择,克服了混合网络和结构先验方法的局限,并利用MCMC估计模型结构与参数,在投资组合选择中验证了有效性。
2025-05-07 stat.AP stat.CO stat.ME
Bayesian inverse regression for dimension reduction with small datasets
我们考虑监督的降维问题,即确定一个低维投影的预测$\-x$,可以保持$\-x$和响应变量$y$之间的统计关系。我们遵循切片逆回归(SIR)和切片平均方差估计(SAVE)类型方法的思想,即使用条件分布$π(\-x|y)$的统计信息来识别降维(DR)空间。特别是,我们专注于计算这个条件分布的任务,而不切片的数据。我们提出了一个贝叶斯框架来计算条件分布,其中似然函数是使用高斯过程回归模型获得的。条件分布$π(\-x|y)$然后可以通过蒙特卡罗采样直接计算。然后,我们可以通过考虑后验分布的样本的某些矩函数(例如,一阶矩或二阶矩)来执行DR。数值算例表明,该方法对小数据问题特别有效。
2019-10-29 stat.CO stat.ML
Bayesian estimation for conditional probabilities associated to directed acyclic graphs: study of hospitalization of severe influenza cases
本文提出基于Dirichlet-多项分布贝叶斯推断与模拟技术的有向无环图概率估计框架,用于建模重症流感住院患者的转移路径,以量化不确定性并优化医院资源规划与临床决策。
2025-04-08 stat.AP
Probabilistic Bayesian optimal experimental design using conditional normalizing flows
Georgia Institute of Technology(佐治亚理工学院)
针对高维二元贝叶斯最优实验设计的计算与非凸难题,提出联合训练条件归一化流并以Bernoulli分布概率优化设计的方法,并在高维MRI采集任务中验证。
2024-02-28 cs.CV cs.LG