Smoothing and adaptation of shifted Pólya Tree ensembles
最近,S. Arlot和R.研究者已经证明,随机森林模型在估计$α-$ Hölder函数$α\leq2$时优于单树模型。这支持了树估计的集合比单树估计更平滑的想法。另一方面,基于贝叶斯树的方法的大多数正最优性结果假设$α\leq1$。自然地,人们想知道森林估计的贝叶斯对应物在更平滑的类上是否是最优的,就像在$α\leq 2$的频率估计中观察到的那样。我们详细讨论了密度估计的问题,并从经典的(截断)Pólya树贝叶斯nonparametrics建设的合奏估计。由此产生的贝叶斯森林估计,导致最佳的后验收缩率,对数项,为Hellinger和$L^1$距离概率密度函数$[0;1)$任意Hölder正则性$α>0$。这改善了以前的结果,为建设相关的Pólya树之前,其最优性只证明了在案件$α\leq 1$。此外,我们引入了一个自适应版本的这个新的先验的意义上说,它不需要的知识$α$被定义和达到最优。
2021-09-15 math.ST stat.TH
Multivariate Bayesian function estimation
本文研究了以紧致黎曼流形为区域的多元非参数回归问题的贝叶斯方法。就后者而言,流形的基本几何形状在多元非参数回归函数上诱导了某些对称性。贝叶斯方法,然后允许一个将层次贝叶斯方法直接到谱结构,从而提供了一个自适应的多变量贝叶斯函数估计。也可以扩散掉一些先验信息,其中极限情况是流形上的平滑样条。这与光滑样条解在多元非参数回归问题中获得极小极大收敛速率的结果一起,为Bayes估计提供了良好的频率论性质。天文学的应用也包括在内。
2006-03-06 math.ST stat.TH
Unity Smoothing for Handling Inconsistent Evidence in Bayesian Networks and Unity Propagation for Faster Inference
Aalborg University(奥尔堡大学);University of Copenhagen(哥本哈根大学)
我们提出统一平滑(US)处理贝叶斯网络模型和新的看不见的观察之间的不一致。我们表明,预测精度,使用连接树算法与美国是拉普拉斯平滑。此外,在利用数据结构的稀疏性的应用中,US在存储器使用方面优于拉普拉斯平滑。此外,我们详细介绍了如何避免冗余的计算,否则必须执行的消息传递计划中的连接树算法,我们称之为统一传播(UP)。实验结果表明,它总是更快地利用UP上的Lauritzen-Spigelhalter消息传递计划的联合树算法。
2022-01-21 cs.LG stat.CO
Optimal Bayesian Smoothing of Functional Observations over a Large Graph
在现代环境中,某些类型的数据是以高分辨率观察的,基本上是连续的。这样的数据单元最好描述为在函数空间中取值。携带观察结果的主题单元可能在它们之间具有内在关系,并且最好由大型图的节点来描述。通常认为这些函数观测中的潜在信号在图上平滑地变化是明智的,因为相邻节点具有相似的潜在信号。这种定性信息允许在相邻节点上借用强度,从而导致更准确的推断。在本文中,我们考虑一个模型与高斯函数的观察,并采用贝叶斯方法来平滑的节点图。我们的特点是极大极小估计率的规律性的信号和它们的变化跨节点量化的图形拉普拉斯算子。我们表明,一个适当的前构造的图形拉普拉斯算子可以达到极大极小界,而使用的混合物前,极大极小率的对数因子可以同时达到所有可能的值的功能和图形的光滑。我们还表明,在固定的平滑设置,一个最佳大小的可信区域具有任意高的频率覆盖。仿真实验表明,该方法的性能优于潜在的竞争方法,如随机森林。该方法也适用于在美国北卡罗来纳州的几个气象站测量的每日温度的数据集。
2021-07-19 math.ST stat.ME stat.TH
Posterior Concentration Rates for Bayesian Penalized Splines
尽管贝叶斯惩罚样条函数在实际中得到了广泛的应用,但其渐近性质至今尚未得到研究。我们关闭这个差距,并研究后验浓度率贝叶斯惩罚样条在高斯非参数回归模型。该方法的一个关键特征是平滑方差的超先验,这允许在实践中进行自适应平滑,但由于它破坏了共轭性并排除了后验矩的解析表达式,因此使理论分析变得相当复杂。为了得到我们的理论结果,我们依赖于几个新的概念,包括一个仔细定义的适当版本的部分不适当的惩罚样条之前,以及一个创新的样条估计,项目的意见到第一个Demmler-Reinsch基础的基础函数。我们的研究结果表明,后验浓度在接近最优的速度,可以实现如果超先验的平滑方差之间的过度平滑和欠平滑,这可以满足例如由威布尔超先验形状参数1/2之间的平衡。我们补充我们的理论结果与实证证据表明在实践中的超先验的适应性。
2022-03-23 math.ST stat.ME stat.TH
Direct Sampling of Bayesian Thin-Plate Splines for Spatial Smoothing
径向基函数是一种常用的数学工具,用于从一组数据点构造光滑的插值函数。基于薄板样条径向基函数的空间先验可以很容易地实现,从而产生可以直接使用蒙特卡罗积分进行采样的后验,避免了蒙特卡罗马尔可夫链(MCMC)采样方案的计算负担和潜在的低效率。证明了先验和抽样方案的推导。
2019-06-13 stat.CO stat.ME
Gaussian Approximation of General Nonparametric Posterior Distributions
在一般的贝叶斯非参数模型中,我们证明了后验分布可以用高斯过程渐近逼近。我们的结果适用于包含高斯和非高斯回归的非参数指数族,也适用于有效(root-n)和无效(non-root-n)估计。我们的一般近似定理不依赖于后验共轭,并且可以在具有平滑样条解释的一类高斯过程先验中得到验证[59,44]。特别是,限制后验措施成为先验自由下的贝叶斯版本的“下平滑”条件。最后,我们应用我们的近似定理来研究贝叶斯过程的渐近频率论性质,如可信区域和可信区间。
2017-10-31 math.ST stat.TH
Anisotropic multidimensional smoothing using Bayesian tensor product P-splines
我们介绍了一个高效的全贝叶斯方法各向异性多维平滑。在这种情况下的主要挑战是平滑参数的马尔可夫链蒙特卡罗更新,因为它们的完整条件后验包含一个初看起来很难处理的伪行列式。因此,大多数现有的实现仅对于二维张量积平滑的估计在计算上是可行的,然而,这对于许多应用来说过于限制。在本文中,我们打破这一障碍,并推导出封闭形式的对数伪行列式及其一阶和二阶偏导数的表达式。这些表达式对于任意维数都是有效的,并且非常有效地进行评估,这使我们能够建立一个有效的MCMC采样器,并对平滑参数进行自适应Metropolis-Hastings更新。我们研究了不同的先验平滑参数,并讨论了低维效应,如一维主效应和二维相互作用的有效推导。我们表明,建议的方法优于以前的建议,在文献中的准确性,可扩展性和计算成本,并证明其适用性考虑说明温度数据的例子,从时空统计。
2022-11-29 stat.CO stat.ME
Bayesian Smoothing and Feature Selection Using variational Automatic Relevance Determination
本研究提出面向高维稀疏加性回归的变分自动相关性确定(VARD)方法,可独立评估特征平滑度并判定其贡献类型,配套高效坐标下降算法,经模拟与真实数据验证,其变量选择性能优于现有同类方法。
2024-10-31 stat.ME
Fast Gibbs sampling for the local and global trend Bayesian exponential smoothing model
针对局部与全局趋势贝叶斯指数平滑模型依赖 NUTS 导致拟合过慢的问题,本文改进模型并提出定制 Gibbs 采样器,在 M3 上保持或提升精度且速度显著加快。
2024-06-29 cs.LG stat.CO stat.ML
Smoothing and mean-covariance estimation of functional data with a Bayesian hierarchical model
Functional data, with basic observational units being functions (e.g., curves, surfaces) varying over a continuum, are frequently encountered in various applications. While many statistical tools have been developed for functional data analysis, the issue of smoothing all functional observations simultaneously is less studied. Existing methods often focus on smoothing each individual function separately, at the risk of removing important systematic patterns common across functions. We propose a nonparametric Bayesian approach to smooth all functional observations simultaneously and nonparametr…
2015-07-07 stat.ME
Efficient Parameter Estimation for Bayesian Network Classifiers using Hierarchical Linear Smoothing
Faculty of Information Technology Monash University(信息技术学院莫纳什大学)
提出一种基于对数线性回归的分层线性平滑参数估计方法,使贝叶斯网络分类器在分类数据上性能优于HDP平滑且速度快数个数量级,保持与随机森林相媲美的竞争力。
2025-05-29 cs.LG stat.ML
Addressing Phase Discrepancies in Functional Data: A Bayesian Approach for Accurate Alignment and Smoothing
针对函数数据相位差异及曲线变异性导致的对齐难题,提出带灵活平滑组件与组结构参数的贝叶斯对齐模型,经膝关节屈曲数据集验证,在高变异性和复杂组结构下平滑与对齐性能优异。
2025-06-17 stat.AP stat.ME
Bayesian change-plane regression
Yale School of Public Health(耶鲁公共卫生学院)
本文提出一种贝叶斯框架,通过可解释的线性阈值规则识别子群体,解决传统最大似然推断中阈值边界非正则问题,通过概率闸门工作似然进行推断,并探讨了平滑尺度趋近于零时的三角数组权衡。
2026-07-22 math.ST stat.ME stat.TH
Fast and Locally Adaptive Bayesian Quantile Smoothing using Calibrated Variational Approximations
提出一种贝叶斯分位数趋势滤波方法,利用收缩先验和校准变分近似实现局部自适应的非平稳分位数趋势快速推断,计算效率优于Gibbs采样器且结果稳定。
2023-10-20 stat.ME
Anatomically informed Bayesian spatial priors for fMRI analysis
现有的贝叶斯空间先验的功能性磁共振成像(fMRI)数据对应于静态各向同性平滑滤波器,可能过度平滑解剖边界。我们提出了两个解剖学上知情的贝叶斯空间模型的功能磁共振成像数据与局部平滑的基础上,从T1加权的解剖图像估计的张量场在每个体素。我们表明,我们的解剖学上知情的贝叶斯空间模型的结果在后验概率地图,遵循解剖结构。
2019-10-18 eess.IV q-bio.NC stat.ME
Gradient Profile Estimation Using Exponential Cubic Spline Smoothing in a Bayesian Framework
获得可靠的剖面梯度对于许多物理系统来说至关重要。在大多数情况下,由于噪声,梯度的估计可能不准确。通常的做法是首先估计底层系统,然后通过取随后的解析导数来计算剖面梯度。基础系统通常通过使用其他技术拟合或平滑数据来估计。对一个估计函数求随后的解析导数可能是不适定的。随着系统中噪声的增加,病态性变得更糟。结果,梯度估计中产生的不确定性增加。在本文中,一种方法来估计离散噪声数据的轮廓梯度的理论框架。该方法在贝叶斯框架内开发。在不同的随机噪声水平的合成数据进行了全面的数值试验。所提出的方法的准确性进行了量化。我们的研究结果表明,所提出的梯度轮廓估计方法优于国家的最先进的方法。
2019-12-09 physics.data-an stat.ME
Calibration of Computational Models with Categorical Parameters and Correlated Outputs via Bayesian Smoothing Spline ANOVA
在没有数据的地区,使用复杂的计算机模型来预测结果已经变得司空见惯。通常,这些模型需要使用一些实验数据进行校准和验证,这些数据通常由多个相关结果组成。此外,一些模型参数在本质上可以是分类的,诸如指向系统的一些物理特性的替代模型(或子模型)的指针变量。在这里,我们提出了一个通用的方法,在这种情况下,一个模拟器的计算要求很高的模型和一个差异项从模型到现实的贝叶斯平滑样条(BSS)方差分析框架内表示校准。与传统的高斯过程相比,BSS-ANOVA框架具有几个优点,包括易于处理分类输入和相关输出,以及提高计算效率。最后,这个框架,然后应用到激励其设计的问题;一个鼓泡流化床,它被用作吸收器中的CO2捕获系统的计算流体动力学模型的校准。
2014-06-17 stat.ME
Efficient Particle Smoothing for Bayesian Inference in Dynamic Survival Models
本文提出了一种有效的分段指数风险(PEH)模型的贝叶斯推断,它允许协变量对生存时间的影响随时间而变化。建议的推理方法是基于粒子平滑(PS)算法,取决于三个粒子滤波器。利用后验分布的拉普拉斯近似和线性贝叶斯理论,设计了适合于生存数据和PEH模型性质的粒子滤波器的有效建议(重要性)分布。该算法被应用到模拟和真实数据,结果表明,它产生一个有效的样本量,这是两个数量级以上的国家的最先进的MCMC采样器为相同的计算时间,并在高维和相对较大的数据规模良好。
2020-03-31 stat.CO
Non-Stationary Multi-layered Gaussian Priors for Bayesian Inversion
在这篇文章中,我们研究了多层高斯先验的贝叶斯反问题。我们首先描述的条件高斯层的随机偏微分方程的系统。我们使用有限维Galerkin方法建立计算推理方法。我们表明,所提出的近似具有收敛的概率属性的原始多层模型的解决方案。然后,我们进行贝叶斯推理使用预处理的曲柄-尼科尔森算法,修改工作与多层高斯场。我们通过信号反卷积和计算机X射线层析成像问题的数值实验表明,所提出的方法可以同时提供平滑和边缘保护。
2020-06-28 math.ST stat.TH
Temporal Parallelization of Bayesian Smoothers
本文提出了贝叶斯平滑的时间并行化算法。我们定义的元素和运营商提出这些问题的解决方案,所有前缀和操作,有效的并行扫描算法。我们提出了一般贝叶斯滤波和平滑方程的时间并行化,并将其专门用于线性/高斯模型。所提出的算法的优点是,它们降低了标准平滑算法的线性复杂度相对于时间对数。
2020-02-20 cs.DC math.DS stat.CO
Bayesian smoothing of dipoles in Magneto-/Electro-encephalography
本文提出一种基于粒子滤波的动态估计多偶极子状态的新方法,通过蒙特卡洛算法近似平滑分布,提升源定位准确性,尤其在癫痫患者源建模中具有重要意义。
2016-02-12 cs.NA math.NA stat.AP
Bayesian Adaptive Tensor Smoothing for Multiway Demographic Counts
International Institute for Applied Systems Analysis (IIASA)(国际应用系统分析研究所)
本文提出了一种贝叶斯矩阵分解模型,用于跨年龄和时间的人口分析,通过低维因素分解实现对复杂人口过程的准确建模与预测。
2026-10-16 stat.AP stat.ME
Smoothing Graphons for Modelling Exchangeable Relational Data
University of Technology Sydney(悉尼科技大学);University of New South Wales(新南威尔士大学);Fudan University(复旦大学)
可交换关系数据的建模可以用\textit{graphon theory}来描述。大多数用于可交换关系数据建模的贝叶斯方法都可以通过利用不同形式的图子来归因于这个框架。然而,现有的贝叶斯方法所采用的图子要么是分段常数函数,这是不够灵活的关系数据的准确建模,或者是复杂的连续函数,这会产生沉重的计算成本的推断。在这项工作中,我们引入了一个平滑过程,分段常数图子形成{ \em平滑图子},它允许连续的强度值描述的关系,但没有不切实际地增加计算成本。特别是,我们专注于贝叶斯随机块模型(SBM),并演示如何适应分段常数SBM图子的平滑版本。我们首先提出了集成平滑图子(ISG),它引入一个平滑参数的SBM图子产生连续的关系强度值。然后,我们开发了潜在特征平滑图子(LFSG),它通过引入辅助隐藏标签来分解ISG强度的计算并实现有效的推理,从而改进了ISG。在真实数据集上的实验结果验证了将平滑策略应用于随机块模型的优势,表明平滑图子可以在不增加计算复杂度的情况下大大提高AUC和链接预测精度。
2020-02-25 cs.LG stat.ML
Bayesian Estimation of Variance under Fine Stratification via Mean-Variance Smoothing
Florida International University(佛罗里达国际大学);Keio University(庆应义塾大学)
本文提出了一种基于惩罚样条的非参数方法,用于细分层调查中无偏估计方差,通过均值-方差平滑提升估计精度。
2026-03-03 stat.AP stat.CO stat.ME
Error Bounds for a Kernel-Based Constrained Optimal Smoothing Approximation
本文为再生核希尔伯特空间中约束最优平滑问题的分段线性逼近建立了误差界,以网格大小、核正则性及到约束集的距离为函数,并允许非等距非稠密节点,通过数值实验验证了理论结果。
2025-06-23 math.ST stat.TH
Ensemble transport smoothing. Part I: Unified framework
本文从测度传输视角提出一个基于非线性传输映射的通用集合平滑框架,解决了传统平滑方法在非高斯设置下的不一致或计算成本过高问题,并证明标准Kalman型平滑算法为其特例。
2023-11-22 stat.CO stat.ME stat.ML
Robust Bayesian Filtering and Smoothing Using Student's t Distribution
Linköping University(林雪平大学);Cambridge University(剑桥大学);Middle East Technical University(中东理工大学)
本文提出基于学生t分布的鲁棒滤波与平滑算法,以应对厚尾过程和测量噪声,改进卡尔曼滤波在非高斯环境下的性能。
2017-03-07 cs.SY eess.SY stat.CO
Smoothing and filtering with a class of outer measures
被认为是一个广义的不确定性表示的过滤和平滑。在这里,不确定性表示使用一类外部措施。它示出了如何表示的不确定性可以传播使用外测量型版本的马尔可夫内核和广义贝叶斯更新方程。这导致了一个系统的广义平滑和过滤方程的积分被替换为supremums和概率密度函数被替换为正函数的上确界等于一。有趣的是,这些方程保留了经典贝叶斯过滤框架中的大部分结构。它还表明,卡尔曼滤波器的递归可以恢复从较弱的假设,对相应的隐马尔可夫模型的可用信息。
2018-04-20 stat.ME
General Design Bayesian Generalized Linear Mixed Models
线性混合模型能够处理回归类型分析中的一系列异常复杂的问题。它们最常见的用途是在纵向数据分析中解释受试者内相关性。它们也是平滑空间计数数据的标准工具。然而,当完全通用时,混合模型也可以处理样条类型的平滑和近似克里金。这允许非参数回归模型(例如,加法模型和变系数模型)在混合模型框架内处理。关键是允许随机效应设计矩阵具有通用结构;因此我们的标签通用设计。对于连续响应数据,特别是当合理假设响应的高斯性时,计算现在已经相当成熟,并得到R、SAS和S-PLUS软件包的支持。这不是二进制和计数响应的情况下,需要广义线性混合模型(GLVM),但阻碍了棘手的多元积分的存在。我们已知的软件支持GLMM的特殊情况(例如,SAS中的PROC NLMIXED或R中的glmmML)或依赖于有时粗糙的拉普拉斯型积分近似(例如,R中SAS宏编译器mix或glmmPQL)。本文讨论一般设计广义线性混合模型的拟合问题。采用贝叶斯方法,并使用马尔可夫链蒙特卡罗(MCMC)进行估计和推理。在这种一般化的设置中,MCMC需要从非标准分布中采样。在这篇文章中,我们证明了MCMC软件包WinBUGS有利于健全的一般设计贝叶斯广义线性混合模型在实践中的拟合。
2006-06-20 math.ST stat.TH
Optimally adaptive Bayesian spectral density estimation for stationary and nonstationary processes
本文改进了现有的估计平稳和非平稳时间序列的谱密度的方法,假定一个高斯过程的先验。通过使用平滑样条协方差结构优化适当的特征分解,我们的方法更适合于简单和复杂的周期结构的数据模型。我们进一步证明了这种最佳特征分解的效用,通过研究其他协方差函数的平滑样条的性能。我们表明,最佳特征分解提供了一个材料的改进,而其他协方差函数检查没有,所有的表现比较好的平滑样条。在我们的计算研究中,我们引入了新的验证指标的谱密度估计,灵感来自物理科学。我们在广泛的模拟研究中验证了我们的模型,并利用真实数据展示了卓越的性能。
2022-05-31 physics.data-an stat.ME stat.ML
Nonparametric Bayesian testing for monotonicity
本文从非参数贝叶斯的角度研究了函数单调性的检验问题。构造了两个新的检验族。第一个使用约束平滑样条,连同一个层次的随机过程之前,明确控制的先验概率的单调性。第二个使用回归样条,连同两个建议的先验的回归系数。有限样本性能的测试,通过模拟,以改善现有的频率论和贝叶斯方法。本文还研究了高斯模型中比较单调与非单调回归函数的贝叶斯因子的渐近性质。我们的结果显着扩展了目前可用的,主要集中在确定参数线性模型的尺寸。
2014-06-01 math.ST stat.ME stat.TH
Bayesian Regression of Piecewise Constant Functions
我们推导出一个精确和有效的贝叶斯回归算法的分段常数函数的未知段数,边界位置和水平。它适用于任何噪声和段级先验,例如可以处理离群值的Cauchy。我们得到简单,但很好的估计段内方差。我们还提出了贝叶斯回归曲线作为平滑数据而不模糊边界的更好方法。贝叶斯方法还允许直接确定证据、断裂概率和误差估计,这对于模型选择以及显著性和稳健性研究非常有用。我们讨论了合成和现实世界的例子的性能。将讨论许多可能的扩展。
2006-06-13 cs.LG math.PR math.ST
Smoothing for age-period-cohort models: a comparison between splines and random process
本研究揭示了APC模型平滑处理中频率学派惩罚样条法与贝叶斯学派随机过程法的理论关联,通过模拟与真实数据验证二者样本内预测相近,指出贝叶斯随机过程因更完整捕捉不确定性在样本外预测中更具优势。
2023-12-15 stat.ME
Rao-Blackwellized Particle Smoothing as Message Passing
本文从因子图的角度研究了条件线性高斯状态空间模型的固定滞后平滑问题。更具体地说,在制定贝叶斯平滑的任意状态空间模型的前向-后向消息通过一个因子图,我们专注于上述类别的模型,并推导出一种新的Rao-Blackwellized粒子smoother为it. Then,我们展示了如何我们的技术可以修改,以估计点质量近似的所谓的联合平滑分布。最后,我们的平滑算法的估计精度和计算要求进行了分析,为一个特定的状态空间模型。
2017-05-22 stat.CO
Bayesian hierarchical weighting adjustment and survey inference
我们结合贝叶斯预测和加权推理作为一个统一的方法来调查推理。贝叶斯分析的一般原则意味着,调查结果的模型应取决于影响纳入概率的所有变量。我们将加权变量的框架下的多级回归和后分层,作为一个副产品生成基于模型的权重平滑后。我们研究了深层的相互作用,并引入了结构化的先验分布的平滑和稳定的估计。计算通过Stan完成,并在开源R包“rstanarm”中实现,可供公众使用。仿真研究表明,基于模型的预测和加权推理优于经典加权。我们将该建议应用于纽约幸福纵向研究。新方法产生强大的权重,并提高有限人口推断的效率,特别是对人口的子集。
2020-06-23 stat.AP stat.CO stat.ME
Functional Horseshoe Smoothing for Functional Trend Estimation
Graduate School of Economics, The University of Tokyo(东京大学经济学研究科);Center for Spatial Information Science, The University of Tokyo(东京大学空间信息科学中心)
由于仪器和计算机的发展,功能性观察越来越受欢迎。然而,有效的方法,灵活地估计潜在的趋势与有效的不确定性量化的一系列功能数据(如功能时间序列)仍然是稀缺的。在这项工作中,我们开发了一个局部自适应平滑方法,称为功能马蹄平滑,通过引入收缩之前的一般顺序的差异的功能变量。这使我们能够通过充分利用收缩能力来捕捉突然变化,并通过贝叶斯推断来评估不确定性。完全贝叶斯框架允许通过后验预测损失来选择基函数的数量。我们提供的理论性质的模型,支持收缩能力。此外,通过利用功能数据的性质,该方法能够处理异构观测数据,而无需数据增强。仿真研究和实际数据分析表明,该方法具有良好的性能。
2022-09-21 stat.CO stat.ME
Cauchy difference priors for edge-preserving Bayesian inversion with an application to X-ray tomography
研究了保边贝叶斯统计逆问题的柯西分布差分先验。与众所周知的全变差先验相反,一维柯西先验在离散极限下也是非高斯先验。柯西先验具有独立同分布的增量。一维柯西随机游动和一维高斯随机游动是Lévy $α$ -稳定随机游动的特例,分别具有$α=1$和$α=2$。这两种随机游动都可以写成封闭形式,并且作为先验,它们提供平滑和边缘保持特性。我们还简要讨论了连续和离散的Lévy $α$ -稳定的随机游动,并推广到二维先验的方法。我们将所开发的算法应用于一维反卷积和二维X射线层析成像问题。我们用单分量Metropolis-Hastings方法计算条件均值估计,用Gauss-Newton型最优化方法计算最大后验估计。我们比较建议的层析重建方法过滤反投影估计和条件均值估计与高斯和全变差先验。
2016-03-19 math.ST stat.TH
Matrix-free Penalized Spline Smoothing with Multiple Covariates
本文研究了惩罚样条的高维光顺方法及其数值计算。如果在三个或更多协变量上进行平滑,则经典张量积样条基在其维度上爆炸,从而使估计达到其数值极限。Siebenborn和Wagner(2019)最近的一种方法通过提出无矩阵计算来规避存储成本高的实现,该方法允许平滑多个协变量。我们在这里扩展他们的方法,通过链接惩罚平滑和贝叶斯公式作为混合模型,它提供了一个矩阵的平滑参数的计算,以避免使用高计算交叉验证。此外,我们将展示如何将这些想法扩展到广义回归模型。扩展的方法适用于遥感卫星数据与空间平滑相结合。
2021-01-15 stat.CO stat.ME
Posterior consistency and convergence rates for Bayesian inversion with hypoelliptic operators
研究了正向映射为线性亚椭圆伪微分算子,测量误差为加性高斯白噪声时反问题的贝叶斯方法。未知高斯随机变量$U(x,ω)$的测量模型是\begin{eqnarray*} M(y,ω) = A(U(x,ω) )+ δ\hspace{.2mm}\mathcal{E}(y,ω), \end{eqnarray*},其中$A$是多次平滑线性次椭圆算子,$δ>0$是噪声幅度。$U$的协方差算子$C_U$是$2r$次光滑、自伴、单射和椭圆型伪微分算子。如果$\mathcal{E}$在$L^2$中取值,则在高斯情况下,求解条件均值(和最大后验概率)估计与求解最小化问题\begin{eqnarray*} T_δ(M) = \text{argmin}_{u\in H^r} \big\{\|A u-m\|_{L^2}^2+ δ^2\|C_U^{-1/2}u\|_{L^2}^2 \big\}. \end{eqnarray*}相关。然而,高斯白噪声不在$L^2$中取值,而是在$s>0$足够大的$H^{-s}$中取值。上述方法的修改,以解决逆问题,覆盖的情况下,高斯白测量噪声。此外,在适当的函数空间中,利用微局部分析证明了条件均值估计作为$δ\rightarrow 0$收敛于正确解。研究了置信域的收缩问题。
2016-05-24 math.FA math.PR math.ST
Low-Rank Filtering and Smoothing for Sequential Deep Learning
本文提出一种贝叶斯框架,通过低秩滤波与平滑方法,实现神经网络在任务序列中的知识保留与适应性平衡,提升模型效率与隐私保护能力。
2025-12-19 cs.LG stat.ML
Bayesian Distributed Lag Models
分布滞后模型(DLMs)表达了时间索引响应和解释变量对之间的累积和延迟相关性。在实际应用中,DLMs的用户检查一系列滞后协变量的估计影响,以评估依赖模式。最近的许多方法学工作都试图开发灵活的参数化,以平滑相关的滞后参数,避免过拟合。然而,本文发现,一些广泛使用的DLMs引入偏差的估计滞后的影响,是敏感的最大滞后,这是典型的选择提前模型拟合。模拟结果表明,偏差和误指定显着减少广义的平滑模型,允许不同的惩罚的滞后影响估计。所得到的模型被证明具有更少的有效参数和更低的偏差,为用户提供信心,估计是强大的先验模型选择。
2018-01-20 stat.AP
Hybrid Bayesian Smoothing on Surfaces
针对传统高斯过程难以捕捉空间场突变的问题,提出融合非高斯过程的混合贝叶斯平滑模型,结合重尾先验与高效吉布斯采样器,在气候敏感性场模拟中表现更优。
2024-10-28 stat.ME
Amortized Bayesian Disease Mapping and Boundary Detection on Heterogeneous Spatial Graphs
University of California, Los Angeles(加州大学洛杉矶分校)
针对异质空间图谱,提出协变量感知的贝叶斯边界模型与摊销后验近似,实现疾病制图与边界检测,并在多区域数据上验证其有效性与可重用性。
2026-09-28 stat.AP stat.ME
Locally adaptive smoothing with Markov random fields and shrinkage priors
我们提出了一个局部自适应非参数曲线拟合方法,在一个完全贝叶斯框架内操作。该方法使用收缩先验来诱导潜在趋势函数中k阶差异的稀疏性,从而提供局部自适应和全局控制的组合。使用收缩先验的法线表示的尺度混合,我们使我们的方法和k阶高斯马尔可夫随机场平滑之间的明确连接。我们称之为收缩先验马尔可夫随机场(SPMRF)的过程。我们使用哈密顿蒙特卡罗来近似模型参数的后验分布,因为这种方法在我们的模型所表现出的高维和强参数相关性的存在下提供了优越的性能。我们使用模拟数据比较了三种先验公式的性能,发现马蹄先验提供了偏差和精度之间的最佳折衷。我们将SPMRF模型应用于两个经常用于测试非参数方法的基准数据示例。我们发现,这种方法是足够灵活,以适应各种数据生成模型,并提供了自适应特性和计算的易处理性,使其成为一个有用的除了贝叶斯非参数工具箱。
2017-02-09 stat.ME
Improving the INLA approach for approximate Bayesian inference for latent Gaussian models
本文引入了一种新的基于Copula的广义线性混合模型修正方法,并将其应用于潜在高斯模型的近似贝叶斯推断的集成嵌套拉普拉斯近似(INLA)方法中.虽然INLA通常非常准确,但一些(相当极端)GLP-A病例(例如,二项式或泊松数据)被认为是有问题的。当模型中的平滑程度或“借用强度”非常低时,可能会出现不准确,因此我们开发了一种修正方法,旨在扩大INLA的适用范围。我们的新校正已被实现为R-INLA包的一部分,只增加了微不足道的计算成本。对真实数据和模拟数据的实证分析表明,该方法效果良好。
2015-12-15 math.ST stat.CO stat.ME
Bayesian Graph Neural Networks with Adaptive Connection Sampling
Texas A&M University(德克萨斯A&M大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们提出了一个统一的框架,自适应连接采样的图神经网络(GNNs),概括了现有的随机正则化方法训练GNNs。所提出的框架不仅消除了深度GNN的过度平滑和过度拟合趋势,而且还可以在使用GNN的图分析任务中进行不确定性学习。与现有随机正则化方法中使用固定采样率或手动调整它们作为模型超参数不同,我们的自适应连接采样可以与GNN模型参数以全局和局部方式联合训练。使用自适应连接采样的GNN训练在数学上等价于训练贝叶斯GNN的有效近似。在基准数据集上进行消融研究的实验结果验证了自适应学习给定图训练数据的采样率是提高GNNs在半监督节点分类中性能的关键,不易于过平滑和过拟合,具有更强大的预测能力。
2020-06-30 cs.LG stat.ML
Bayesian Inference and Learning in Gaussian Process State-Space Models with Particle MCMC
University of Cambridge(剑桥大学);Uppsala University(乌普萨拉大学)
本文提出一种全贝叶斯方法,用于非线性非参数状态空间模型中的推断与学习,通过高斯过程先验建模状态转移动态,并利用粒子MCMC进行高效推断。
2013-12-17 cs.LG cs.SY eess.SY
Efficient Bayesian estimation and use of cut posterior in semiparametric hidden Markov models
本文研究了具有有限状态空间和非参数发射分布的隐马尔可夫模型的估计问题。给出了转移阵的有效估计,并推导出半参数Bernstein-von Mises结果.在此基础上,我们提出了一个模块化的方法,使用切割后联合估计的转移阵和发射密度。我们推导出这种方法的收缩率的一般定理。然后,我们将展示如何将这一结果可以应用于获得收缩率的结果,在我们的设置中的发射密度,一个关键的中间步骤是一个反演不等式有关$L^1$之间的距离的边缘密度之间的$L^1$距离的排放量。最后给出了平滑概率的压缩结果,避免了常用的样本分裂方法。仿真证明了理论和易于实现。
2023-03-08 math.ST stat.ME stat.TH
Mapping Subnational Vulnerability to Inadequate Micronutrient Intake using a Bayesian Small Area Estimation Framework
University of Oxford(牛津大学);World Food Programme(世界粮食计划署);Duke University(杜克大学);London School of Hygiene & Tropical Medicine(伦敦卫生与热带医学院)
本文通过贝叶斯小区域估计方法,利用家庭消费和支出调查数据,评估地方性微量营养素摄入不足的分布,提升地方营养干预的精准性。
2026-08-27 stat.AP
Efficient Bayesian hierarchical functional data analysis with basis function approximations using Gaussian-Wishart processes
Functional data are defined as realizations of random functions (mostly smooth functions) varying over a continuum, which are usually collected with measurement errors on discretized grids. In order to accurately smooth noisy functional observations and deal with the issue of high-dimensional observation grids, we propose a novel Bayesian method based on the Bayesian hierarchical model with a Gaussian-Wishart process prior and basis function representations. We first derive an induced model for the basis-function coefficients of the functional data, and then use this model to conduct posterior…
2016-12-12 stat.ME
Asymptotics and finite sample bounds for prediction and smoothing in Wright-Fisher hidden Markov models
Duke University(杜克大学);University of Torino(都灵大学);New York University Abu Dhabi(阿布扎比纽约大学)
本研究针对Wright-Fisher隐马尔可夫模型,证明预测与平滑分布在重复抽样下收敛于群体转移律和桥律,并给出有限样本界及渐近分布,适用于古DNA等时间序列数据。
2026-10-28 math.PR math.ST q-bio.PE
Fully Bayesian Estimation Under Informative Sampling
贝叶斯估计是越来越流行的执行基于模型的推理,以支持决策。这些数据通常是从信息抽样设计下的调查中收集的,其中受试者入选概率被设计为与感兴趣的响应变量相关。从边际包含概率构造的采样权重通常用于形成指数化的伪似然,该伪似然由于易于估计而调整用于对样本进行估计的总体似然。我们提出了一种替代调整的基础上,贝叶斯规则的建设,同时进行加权平滑和估计的人口模型参数在一个完全贝叶斯建设。我们制定的条件,已知的边际和成对包含概率,定义一类的抽样设计,其中$L_{1}$一致性的联合后验是有保证的。我们比较了两种方法在合成数据上的性能,这表明我们的完全贝叶斯方法可以更好地估计后验不确定性,而无需校准采样权重的归一化。我们证明了我们的方法的应用程序有关的国家健康和营养检查调查探索咖啡因消费和收缩压之间的关系。
2018-07-12 math.ST stat.ME stat.TH
Locally Adaptive Spatial Quantile Smoothing: Application to Monitoring Crime Density in Tokyo
本文提出一种贝叶斯分位数趋势滤波方法,通过引入图差异的收缩先验和影子先验实现局部自适应,用于估计图上的非平稳分位数趋势,并成功应用于东京2013至2017年的犯罪数据以分析空间趋势的潜在异质性。
2023-10-23 stat.ME