Differentially Private Bayesian Inference for Gaussian Copula Correlations
Washington University in Saint Louis(华盛顿大学圣路易斯分校);Duke University(杜克大学)
本文提出基于差分隐私的高斯Copula相关性贝叶斯推断方法,通过噪声添加和复合似然估计实现隐私保护下的相关性估计。
2026-07-28 stat.ME
Approximate Bayesian Conditional Copulas
Copula模型是描述多元随机变量复杂相依结构的灵活工具。根据Sklar定理(Sklar,1959),任何d维绝对连续密度都可以唯一地表示为边缘分布和Copula函数的乘积,Copula函数捕获了向量分量之间的依赖结构。在实际数据应用中,分析的兴趣往往在于依赖关系的特定泛函,这些泛函将依赖关系的各个方面量化为一些数值。一个广泛的文献存在这样的泛函,但扩展到包括协变量仍然是有限的。这主要是由于缺乏无偏估计量的copula函数,特别是当一个没有足够的信息来选择copula模型。计算方法和算法的最新进展允许在存在复杂的似然函数的情况下进行推断,特别是在贝叶斯方法中,其方法尽管是计算密集型的,但使我们能够更好地评估估计的不确定性。在这项工作中,我们提出了几个贝叶斯方法来近似的后验分布的泛函的依赖,使用非参数模型,避免了选择的Copula函数。这些方法进行了比较,在模拟研究和两个现实的应用,从土木工程和天体物理学。
2021-03-04 stat.ME
Approximate Bayesian inference in semiparametric copula models
我们描述了一个简单的方法进行推断的功能的多元分布。该方法是基于Copula表示的多变量分布,它是基于近似贝叶斯蒙特卡罗算法,其中建议的值的功能的利益加权的经验似然的属性。当与工作模型相关联的“真”似然函数太昂贵而无法评估时,或者当工作模型仅部分指定时,该方法特别有用。
2017-07-16 stat.CO stat.ME
Variational Bayes Estimation of Discrete-Margined Copula Models with Application to Time Series
我们提出了一个新的变分贝叶斯估计高维copula离散,或离散和连续的组合,利润。该方法是基于一个易于处理的增强后变分近似,是比以前的似然为基础的方法更快。我们用它来估计单变量和多变量马尔可夫顺序和混合时间序列的可绘制的藤连接。这些具有维度$rT$,其中$T$是观测的数量,$r$是序列的数量,并且难以使用先前的方法进行估计。葡萄藤对连接被仔细地选择以允许异方差性,这是大多数有序时间序列数据的特征。当与灵活的裕度结合使用时,所产生的时间序列模型还考虑到有序数据的其他共同特征,如零通货膨胀、多模式和分散不足或过度。使用六个例子系列,我们说明了时间序列Copula模型的灵活性,以及高达792个维度和60个参数的Copula的变分贝叶斯估计的有效性。这远远超过了Copula模型的规模和复杂性,可以使用以前的方法估计离散数据。
2018-07-20 econ.EM stat.ME stat.ML
Flexible Variational Bayes based on a Copula of a Mixture
本文提出一种基于混合 Copula 的灵活变分贝叶斯近似方法,结合提升、自然梯度和方差缩减技术,能够有效逼近多峰、偏态和重尾后验分布,并成功应用于贝叶斯深度前馈神经网络回归模型。
2023-08-12 stat.CO stat.ME
Regression and Dimension Reduction for Multivariate Mixed-Type Data via Semiparametric Gaussian Copula
Texas A&M University(德克萨斯农工大学);Johns Hopkins Bloomberg School of Public Health(约翰霍普金斯布隆伯格公共卫生学院)
本文提出基于半参数高斯协同体的回归、主成分分析和主成分回归方法,用于处理多元混合类型数据,通过建立新的桥梁结果和高效算法,实现对缺失数据的预测与填补,应用于研究5年死亡率与61项衰弱相关指标的关系。
2026-03-17 stat.AP stat.ME
Bayesian estimation of a bivariate copula using the Jeffreys prior
具有连续边界的二元分布可以通过Copula及其边缘分布唯一分解。我们考虑估计Copula函数的问题,并采用贝叶斯方法。在Copula函数空间上,我们构造了一个由双随机阵参数化的有限维逼近子空间。这里的一个主要问题是选择一个先验分布的空间的双随机阵也被称为伯克霍夫多面体。本文的主要贡献是推导了一个简单的Jeffreys先验公式,并证明了它是正确的。在文献中已知,对于像这里处理的复杂问题,上述结果是难以获得的。然后通过马尔可夫链蒙特卡罗方法对Jeffreys先验的贝叶斯估计进行数值评估。进行了较为广泛的模拟实验。在许多情况下,结果有利于贝叶斯估计超过频率估计,如标准核估计和Deheuvels估计的均方误差。
2012-07-03 math.ST stat.CO stat.ME
Estimating Non-Simplified Vine Copulas Using Penalized Splines
藤蔓copula(或pair-copula构造)已成为高维依赖建模的重要工具。通常,所谓的简化葡萄树Copula模型估计,其中二元条件Copula近似为二元无条件Copula。我们提出了第一个非参数估计的非简化葡萄树copula,允许不同的条件copula使用惩罚层次B样条。在整个葡萄树Copula中,我们在每个边缘测试简化假设,建立数据驱动的非简化葡萄树Copula估计。为了克服维数灾难,我们用第一个主成分作为条件变元的条件copula来近似具有多个条件变元的条件copula。一个广泛的模拟研究进行,显示了显着改善的样本外库尔贝克-莱布勒散度,如果原假设的一个简化的葡萄Copula可以被拒绝。我们将我们的方法应用于著名的铀数据,并提出了一个分类的眼状态数据集,展示了潜在的好处,可以实现条件Copula建模时。
2016-12-14 stat.ME
Bayesian Copula Density Deconvolution for Zero-Inflated Data in Nutritional Epidemiology
不同膳食成分长期平均摄入量的边际密度和联合密度的估计是营养流行病学中的一个重要问题。由于这些变量不能直接测量,数据通常收集的形式,24小时召回的摄入量,这表明显着的模式的条件异方差。显著加剧了挑战,召回的间歇性消费的饮食成分也包括确切的零。从观测到的受测量误差污染的代用指标中估计潜在长时间摄入量的密度的问题则是具有零膨胀数据的密度的反卷积问题。我们提出了一个贝叶斯半参数的解决方案的问题,建立在一个新的层次隐变量框架,将问题转化为一个只涉及连续代理。至关重要的是,以适应问题的重要方面,然后,我们设计了一个基于Copula的方法来建模所涉及的联合分布,采用不同的建模策略的边缘不同的饮食成分。我们设计了有效的马尔可夫链蒙特卡罗算法进行后验推理,并通过仿真实验说明了所提出的方法的有效性。应用于我们的激励营养流行病学问题,相比其他方法,我们的方法提供了更现实的估计消费模式的消费模式的流行性消费的饮食成分。
2019-12-11 stat.ME
Regularization and Variable Selection with Copula Prior
在这项工作中,我们表明,在特定的选择的copula,套索,弹性网,和$g$先验是特殊情况下的“copula先验”,正则化和变量选择方法。我们提出了高斯copula先验的lasso和t-copula先验的lasso。“回归、分类和大型时间序列数据的模拟研究和现实数据表明,”copula先验“往往优于套索和弹性网,同时具有相当的稀疏性。此外,copula先验鼓励分组效应。在copula先验下,强相关的预测变量倾向于集体进入或退出模型。“copula先验”是一种通用的方法,可以用来定义新的先验分布。Copula在贝叶斯方法的先验分布建模中的应用尚未得到太多探索。我们提出了基于重采样的优化过程来处理大数据与copula先验。
2018-03-13 stat.ME
Bayesian Inference in Cumulative Distribution Fields
构造Copula函数的一种方法是乘法。假设累积分布函数(CDF)的乘积也是CDF,对这种乘积的调整将导致Copula模型,如Liebscher(J Mult Analysis,2008)所讨论的那样。通过CDF的产品参数化模型具有一些优点,无论是从Copula的角度来看(例如,它对于任何维度都是明确定义的)和来自一般的多变量分析(例如,它提供了可以容易地从参数读出小尺寸边缘分布的模型)。独立地,Huang和Frey(J Mach Learn Res,2011)展示了某些稀疏图形模型和CDF产品之间的联系,以及用于计算此类模型的似然函数的消息传递(动态编程)方案。这种方案允许用基于似然性的方法来估计模型。我们讨论和演示MCMC方法估计这样的模型在贝叶斯上下文中,其应用Copula建模,以及如何消息传递可以大大简化。重要的是,我们的消息传递的观点开辟了扩大这种方法的可能性,因为即使是动态编程也不是一个可扩展的解决方案,用于计算许多模型中的似然函数。
2015-11-09 stat.ME stat.ML
Gaussian Process Single Index Models for Conditional Copulas
参数条件Copula模型允许Copula参数根据未知的校准函数随一组协变量而变化。基于单指数模型(SIM)的光滑校准函数集,通过稀疏高斯过程(GP)先验分布,提出了二元条件Copula校准函数的灵活贝叶斯推断.通过从全后验分布进行马尔可夫链蒙特卡罗采样,联合完成来自边缘分布和校准函数的参数估计。一个新的条件交叉验证伪边际(CCVML)标准,以执行copula选择,并修改使用基于置换的程序来评估数据支持的简化假设。估计方法和模型选择标准的性能进行了研究,通过一系列的模拟使用正确的和错误指定的模型与克莱顿,弗兰克和高斯copula和涉及红葡萄酒的功能的数值应用。
2017-05-25 stat.ME
Gaussian Process Vine Copulas for Multivariate Dependence
Copula允许学习边缘分布独立于多元依赖结构(copula),多元依赖结构将它们连接到一个密度函数中。藤因子分解通过构造条件二元copula的层次结构来简化高维copula的学习。然而,为了简化推理,通常假设这些条件二元Copula中的每一个都独立于其条件变量。在本文中,我们放松了这一假设,发现潜在的功能,指定的形状的条件Copula给定其条件变量我们学习这些功能的贝叶斯方法的基础上稀疏高斯过程的期望传播可扩展的,近似的推理。在真实世界数据集上的实验表明,当对所有条件依赖进行建模时,我们可以更好地估计数据的底层copula。
2013-02-16 stat.ME stat.ML
BayesTime: Bayesian Functional Principal Components for Sparse Longitudinal Data
对非线性时间轨迹进行建模在许多应用领域中具有根本意义,例如在纵向微生物组分析中。许多现有的方法侧重于估计平均轨迹,但它也往往是有价值的,以评估个别科目的时间模式。稀疏主成分分析(SFPCA)作为一个有用的工具,用于评估个人的变化,在非线性轨迹,但其应用到实际数据往往需要仔细的模型选择标准和诊断工具。在这里,我们提出了一种贝叶斯方法SFPCA,它允许用户使用有效的留一交叉验证(LOO)与帕累托平滑重要性抽样(PSIS)的模型选择,并利用PSIS-LOO的形状参数估计和后验预测检查的图形模型诊断。因此,这种贝叶斯实现使得SFPCA能够谨慎地应用于广泛的纵向数据应用。
2020-12-01 stat.ME
An automatic robust Bayesian approach to principal component regression
主成分回归使用主成分作为回归量。它在具有高维协变量的预测设置中特别有用。现有的文献处理贝叶斯方法是相对稀疏的。我们引入了一种贝叶斯方法,该方法对因变量和协变量中的离群值都具有鲁棒性。离群值可以被认为是与一般趋势不一致的观测值。所提出的方法自动惩罚这些观察结果,使其对后验的影响逐渐消失,因为它们越来越远离总趋势,对应于贝叶斯统计中称为整体鲁棒性的概念。因此,产生的预测与大部分数据一致。该方法还利用主成分的几何形状来有效地识别那些重要的主成分。根据模型平均机制,合并从所产生的模型中获得的各个预测,以考虑模型的不确定性。该方法进行评估的真实数据和相比,其非鲁棒贝叶斯对应,传统的频率论方法,和一个常用的强大的频率论方法。提供了使整个统计程序自动化的详细准则。所有必需的代码都可用,请参见ArXiv:1711.06341。
2020-01-25 stat.ME
Bayesian estimation of covariate assisted principal regression for brain functional connectivity
本文提出CAP回归的贝叶斯重新表述,通过将协方差矩阵映射至切空间利用欧几里得几何进行后验推断,在统一框架内实现参数联合估计与不确定性量化,并应用于脑功能连接性分析。
2024-08-29 stat.ME
Multiple imputation for continuous variables using a Bayesian principal component analysis
提出了一种基于主成分分析(PCA)的多重插补方法来处理不完全连续数据。为了反映从一个插补到下一个插补的参数的不确定性,我们使用PCA模型的贝叶斯处理。使用模拟研究和真实数据集,该方法相比,两个经典的方法:多重插补联合建模和完全条件建模的基础上。与其他方法相反,该方法可以很容易地用于数据集的个人数量小于变量的数量,当变量是高度相关的。此外,它提供了感兴趣的量的无偏点估计,例如期望、回归系数或相关系数,具有较小的均方误差。此外,为感兴趣的量建立的置信区间的宽度通常较小,同时确保有效覆盖。
2015-08-19 stat.ME
Semiparametric Localized Principal Stratification Analysis with Continuous Strata
针对连续中间变量下主因果效应不可识别且非规则的难题,本文提出基于copula主得分模型识别因果效应,并构建局部泛函替代物的双重稳健估计量,在理论上实现极小极大最优性与半参数有效性。
2025-01-29 stat.ME
Bayesian Functional Principal Components Analysis via Variational Message Passing
函数型主成分分析是一种常用的函数型数据推理工具。标准方法依赖于平滑协方差表面的特征分解,以提取代表主要变化模式的正交函数。这种方法可能是一个计算密集型的过程,特别是在存在大型数据集的不规则观测。在本文中,我们开发了一种贝叶斯方法,其目的是直接确定Karhunen-Loève分解,而无需平滑和估计协方差曲面。更具体地说,我们开发了一个变分贝叶斯算法通过信息传递的因素图,这是更常见的称为变分信息传递。消息传递算法是划分层次统计模型中推理所需的代数和编码的强大工具。最近,有很多的重点制定变分推断算法的消息传递框架,因为它消除了需要重新推导近似后验密度函数,如果有一个变化的模型。相反,模型更改是通过更改因子图中的特定计算单元(称为片段)来处理的。我们扩展的概念变的消息传递功能的主成分分析。实际上,这是第一篇通过变分消息传递来解决函数式数据模型的文章。我们的方法引入了两个新的片段,是必要的贝叶斯函数主成分分析。我们提出的计算细节,一组模拟评估的准确性和速度,并应用到美国的温度数据。
2021-04-01 stat.ME
Fast Bayesian Functional Principal Components Analysis
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出FAST方法,通过贝叶斯框架实现函数主成分分析,采用正交样条基底投影、参数扩展方案高效采样及采样过程中特征值排序,提升稳定性与性能。
2025-10-09 stat.ME
Robust Bayesian Functional Principal Component Analysis
本文提出鲁棒贝叶斯函数型主成分分析方法,利用偏椭圆分布建模函数型数据,采用退火序贯蒙特卡洛推断,在离群值场景下优于现有方法,并能有效识别环境与生物数据中的离群观测。
2025-04-14 stat.ME
Copula Active Subspaces I: A Score-Covariance Method for Reduced-Order Non-Gaussian Density Estimation
Colorado State University(科罗拉多州立大学)
提出 Copula 活动子空间方法,通过 copula 得分协方差矩阵的特征分解实现非高斯噪声密度的降阶表示,在贝叶斯推断中显著降低 KL 散度。
2026-10-05 stat.CO stat.ME stat.ML
Spike and slab Bayesian sparse principal component analysis
本文提出参数扩展坐标上升变分推断算法PX-CAVI,结合尖峰与厚板先验解决贝叶斯稀疏主成分分析中的正交性约束问题,并通过数值模拟和肺癌基因表达数据验证其优于现有SPCA方法。
2023-08-06 stat.ME stat.ML
Sufficient conditions for proper posteriors in fully-Bayesian Functional PCA
Johns Hopkins University(约翰斯·霍普金斯大学)
本文研究全贝叶斯函数主成分分析中主成分作为无限维参数的充分条件,通过正交样条基底投影证明主成分正交性等价于样条系数正交性,并展示如何通过积分二阶导数惩罚诱导平滑参数,最终证明无需额外条件即可保证后验分布正确性。
2026-04-28 math.ST stat.ME stat.TH