Nonlinear association structures in flexible Bayesian additive joint models
纵向和生存数据的联合模型已成为纵向生物标志物和事件过程之间的关联建模的重要工具。在现有的共享随机效应模型中,标记物和对数风险之间的关联被假设为线性,该假设通常未被检查。我们提出了一个扩展的框架,灵活的添加剂联合模型,允许估计的非线性,协变量的具体关联,利用贝叶斯P-样条。我们的联合模型估计在贝叶斯框架中使用结构化的添加剂预测的所有模型组件,允许在纵向子模型,生存子模型及其关联的平滑非线性,时变和随机效应条款的规格有很大的灵活性。捕捉真正的线性和非线性关联的能力进行了评估,并在广泛研究的罕见致命性肝病原发性胆汁性肝硬化的生物医学数据上进行了说明。所有方法都在R软件包bamlss中实现,以方便这种柔性关节模型在实际中的应用。
2017-10-23 stat.ME
Penalty parameter selection and asymmetry corrections to Laplace approximations in Bayesian P-splines models
本文提出改进的LPS方法,通过将潜空间二分以分别处理潜变量和未惩罚参数,结合非高斯不对称近似与Laplace近似,在保持无采样快速计算的同时显著提升了后验估计精度。
2022-10-04 stat.ME
Model selection-based estimation for generalized additive models using mixtures of g-priors: Towards systematization
本文研究广义可加模型的贝叶斯模型选择估计,通过Laplace近似扩展至指数分布族,发现g-先验混合比单位信息先验更有效,且基于模型选择的方法优于其他贝叶斯方法。
2024-08-30 stat.ME
Covariance estimation for derivatives of functional data using an additive penalty in P-splines
University of Galway(高威大学);Université Laval(拉瓦尔大学);University of Limerick(利默里克大学)
本文提出了一种结合快速协方差估计算法与P-splines加性惩罚的方法,用于估计功能数据导数协方差,扩展至多变量情况并应用于人类运动数据。
2026-02-23 stat.ME
Bayesian Nonparametric Instrumental Variable Regression Approach to Quantile Inference
本研究扩展了贝叶斯非参数工具变量回归模型,以确定协变量对响应变量条件分位数的结构效应。误差分布是使用二元正态分布的Dirichlet混合物非参数建模的。均值函数包括以加法方式使用样条函数表示的协变量的平滑效应。第二阶段误差的条件方差也使用样条函数建模,使得它随协变量平滑地变化。因此,所提出的模型允许相当大的灵活性,在形状的分位数函数,同时校正的内消效应。该模型的后验推理是基于马尔可夫链蒙特卡罗方法,不需要大都会黑斯廷斯更新。使用模拟和真实的数据在日本的死亡率在两次世界大战期间的方法进行了演示。
2016-08-29 stat.ME
A Semi-parametric Technique for the Quantitative Analysis of Dynamic Contrast-enhanced MR Images Based on Bayesian P-splines
动态对比增强磁共振成像(DCE-MRI)是检测癌组织中细微动态变化的重要工具。DCE-MRI的定量分析通常涉及动脉输入函数(AIF)与造影剂浓度的非线性药代动力学模型的卷积。动力学模型的参数具有生物学意义,但非线性模型的优化具有显著的计算问题。在实践中,优化算法的收敛性得不到保证,并且模型拟合的准确性可能受到损害。为了克服这个问题,本文提出了一种半参数惩罚样条平滑方法,其中AIF与一组B样条卷积,以产生一个设计矩阵,使用局部自适应平滑参数的基础上贝叶斯惩罚样条模型(P样条)。它已被证明,动力学参数估计,可以从得到的反卷积响应函数,这也包括对比度增强的发病。该方法的详细验证,无论是模拟和体内数据,提供。
2008-01-26 physics.med-ph stat.AP stat.ME
Flexible Bayesian additive joint models with an application to type 1 diabetes research
纵向和时间-事件数据的联合建模是越来越受欢迎的重要工具,用于深入了解生物标志物和事件过程之间的关联。我们开发了一个通用框架的灵活添加剂联合模型,允许规格的各种影响,如平滑的非线性,时变和随机效应,在纵向和生存的部分模型。我们的扩展是出于波动的疾病特异性标志物之间的关系的调查,在这种情况下,自身抗体,和自身免疫性疾病1型糖尿病的进展。通过使用贝叶斯P样条,我们特别能够捕获高度非线性的受试者特异性标记物轨迹以及标记物与事件过程之间的时变关联,从而对疾病进展有新的见解。该模型是在贝叶斯框架内估计的,并在R-包bamlss中实现。
2017-01-20 stat.AP stat.ME
A robust spline approach in partially linear additive models
本文针对部分线性可加模型在异常数据下估计不可靠的问题,提出结合B-样条与稳健线性回归的稳健估计方法,并证明其一致性、收敛速度及渐近正态性,通过模拟和实证验证了其有限样本优势。
2023-08-04 stat.ME
Component Selection in the Additive Regression Model
与线性回归模型中的变量选择类似,在流行的可加性回归模型中选择显著性成分是非常有趣的。然而,这些分量是未知的独立变量的光滑函数,是不可观测的。因此,需要某种近似。在本文中,我们提出了一种惩罚回归样条近似和组变量选择的组合,称为拉索型样条方法(LSM),来处理这个组件选择问题,在每个组中的强相关变量的发散数量。结果表明,所提出的方法可以同时选择有效分量和估计非参数加性函数分量,同时具有最优的收敛速度。为了使LSM在计算中稳定,并能够适应其估计的分量函数的光滑程度,加权幂样条基和投影加权幂样条基的建议。他们的表现是通过模拟研究,在两个设置独立的预测和相关的预测,分别,并出现优于竞争的方法的性能。将该方法推广到实际数据的部分线性回归模型分析,得到了可靠的结果。
2010-12-30 stat.ME
Multivariate Lévy Adaptive B-Spline Regression
Sookmyung Women’s University(淑明女子大学);Seoul National University(首尔国立大学)
本研究提出MLABS模型,通过贝叶斯非参数方法捕捉多变量函数的非线性等特征,开发适配的MCMC算法,经模拟与真实数据验证,其预测性能优且计算成本低。
2026-10-15 stat.CO stat.ME
Ideal Bayesian Spatial Adaptation
许多现实生活中的应用涉及估计曲线,表现出复杂的形状,包括跳跃或变化的频率振荡。已经设计出可以适应未知函数的局部变化复杂度的实用方法(例如,可变结样条、稀疏小波重建、核方法或树/森林)。然而,绝大多数现有的渐近极大极小理论都是基于齐次光滑性假设的。针对白噪声和非参数回归中广泛使用的贝叶斯机器学习技术,我们在上确界损失下,针对局部Holderian函数,提供了新的局部自适应后验集中率结果。特别是,我们表明,流行的尖峰和板坯先验和贝叶斯CART是均匀的局部自适应。此外,我们提出了一类新的排斥分区先验,涉及到可变结样条和准确率自适应。对于不确定性量化,我们构造了局部自适应置信带,其宽度取决于局部光滑性,并在局部自相似性下实现均匀的渐近覆盖。为了说明空间自适应不是自动的,我们提供了下界结果,表明流行的分层高斯过程先验达不到空间自适应。
2021-05-26 math.ST stat.TH
Posterior Contraction of Lévy Adaptive B-spline Regression in Besov Spaces
Department of Statistics, Seoul National University(首尔国立大学统计系);Department of Statistics, Sookmyung Women’s University(淑明女子大学统计系)
本文研究了Lévy自适应B样条回归模型在Besov空间中的后验收缩性质,证明了该模型在非参数回归框架中能够以接近最优的速率收敛到真实函数,同时自动适应未知的光滑度。
2026-05-19 cs.LG stat.ML
Spatial Heterogeneous Additive Partial Linear Model: A Joint Approach of Bivariate Spline and Forest Lasso
本文针对空间加性部分线性模型,提出结合双变量样条与森林套索融合惩罚的聚类方法,用于识别空间异质模式,在估计与计算效率上优于现有方法,并应用于美国地表温度与气温关系的空间分析。
2024-05-04 stat.ME
Additive interaction modelling using I-priors
针对带交互项的加性回归模型估计与选择难题,研究将I-prior方法扩展至多协变量场景,提出交互模型简约设定,既简化参数估计又支持基于边际似然的模型选择。
2023-06-13 math.ST stat.ME stat.ML
Monotone Splines Lasso
本文研究高维数据的非参数可加回归模型中的变量选择和估计问题。近年来,人们提出了几种方法来建模非线性关系时,协变量的数量超过了观察的数量,通过使用样条基函数和组惩罚。响应的非线性{ \it单调}效应在许多情况下起着核心作用,特别是在医学和生物学中。我们构造单调样条套索(MS-套索)选择变量和估计的影响,使用单调样条(I-样条)。模型中的可加性分量由其I样条基函数展开表示,分量选择变为选择I样条基函数展开中的系数组。我们使用一个最近的程序,称为合作套索,选择符号相干组,即选择组的非负或非正系数。这导致选择对响应具有非线性单调递增或递减效应的重要协变量。我们还介绍了一个自适应版本的MS-套索,大大减少了偏见和假阳性选择的数量。我们比较了MS-套索和自适应MS-套索与其他现有的方法,在高维变量选择模拟和说明的方法在两个相关的基因组数据集。结果表明,自适应MS-lasso方法在估计和选择两方面均优于其他方法,可推荐用于高维单调回归。
2013-10-04 stat.ME
Bayesian Additive Adaptive Basis Tensor Product Models for Modeling High Dimensional Surfaces: An application to high-throughput toxicity testing
许多现代数据集都是从复杂的高维表面采样的。诸如张量积样条或高斯过程之类的方法有效/非常适合于表征二维或三维的表面,但在表示更高维的表面时可能会遇到困难。受高通量毒性测试的启发,其中观察到的剂量-响应曲线是由化学品的结构特性定义的表面的横截面,开发了一种模型来表征该表面以预测未经测试的化学品的剂量-响应。这篇手稿提出了一种新的方法,将多维表面建模为学习的基函数的总和,这些基函数形成为低维函数的张量积,这些函数本身可以通过从数据中学习的基扩展来表示。描述了该模型,提出了一种吉布斯抽样算法,并在模拟研究以及从美国环保局的ToxCast高通量毒性测试平台的数据进行了研究。
2017-06-15 stat.ML
Statistical Inference for Generalized Additive Partially Linear Model
广义可加模型(GAM)是一种强有力的工具,已经得到了很好的研究。这个模型类有助于识别加性回归结构。通过现有的测试程序,可以识别回归结构,甚至尖锐,如果一些组件功能有参数形式。广义加性部分线性模型(GAPLM)结合了参数和非参数两种模型,具有GLM的简单性和GAM的灵活性。我们使用混合样条-后拟合核估计方法,它结合了样条和核方法的最佳特性,使快速,有效和可靠的估计在阿尔法混合条件下。此外,给出了独立条件下检验总体趋势的同步置信走廊和参数的经验似然置信区域。得到了渐近性质,仿真结果支持理论性质。对于应用程序,我们使用GAPLM来提高$19610$德国公司的默认预测的准确率。本文的quantlet可在https://github.com上获得。
2020-09-10 stat.ME
Splines 'n Lines: Rest-frame galaxy spectral energy distributions via Bayesian functional data analysis
本文提出Splines 'n Lines分层贝叶斯模型,将星系SED表示为B样条连续谱与谱线特征的随机叠加,并在SDSS DR17的678,239条星系SED上验证了其去噪、插值、外推及缺失谱线预测能力。
2023-10-30 astro-ph.IM stat.AP
The Knowledge Gradient Policy Using A Sparse Additive Belief Model
Princeton University(普林斯顿大学)
本文提出一种用于高维稀疏信念函数的序贯学习策略,结合贝叶斯R&S与频率学学习,通过B-样条基扩展和非参数加性模型实现稀疏线性模型参数估计。
2015-03-18 cs.IT cs.SY eess.SY
Spatio-temporal adaptive penalized splines with application to Neuroscience
这里分析的数据来自研究行为猴子视觉皮层神经元活动的实验。我们考虑一个时空自适应惩罚样条(P样条)的方法建模的视觉神经元的放电率。据我们所知,这是第一次尝试在统计文献中的局部自适应平滑三维。估计基于重叠惩罚分离(SOP)算法,该算法提供了我们所期望的稳定性和速度。
2016-12-30 stat.ME
Sparse Model Identification and Learning for Ultra-high-dimensional Additive Partially Linear Models
可加部分线性模型(APLM)结合了非参数回归的灵活性和回归模型的简约性,已被广泛应用于多元非参数回归中,以缓解“维数灾难”。在实践中提出的一个自然问题是选择非参数部分的结构,也就是说,是否连续的协变量进入线性或非参数形式的模型。在本文中,我们提出了一个全面的框架,同时稀疏模型识别和学习的超高维APLM的线性和非参数组件可能大于样本量。我们提出了一种快速有效的两阶段程序。在第一阶段,我们将非参数函数分解为线性部分和非线性部分。采用常数样条基逼近非线性函数,并提出了一种三重罚函数法,利用自适应群LASSO选择非零分量。在第二阶段,我们使用高阶多项式样条重新拟合数据与选定的协变量,并应用样条回拟合局部线性平滑,以获得渐近正态的估计。该程序被证明是一致的模型结构识别。它可以正确有效地识别零、线性和非线性分量。可以对线性系数和非参数函数进行推断。我们进行模拟研究,以评估该方法的性能,并将所提出的方法应用到一个数据集上的茎尖分生组织(SAM)的玉米基因型进行说明。
2018-11-01 stat.ME
Spatio-temporal model via Locally Adaptive Regression Splines
Washington University in St. Louis(华盛顿大学圣路易斯分校);University of California, Los Angeles(加州大学洛杉矶分校);University of California, San Diego(加州大学圣迭戈分校)
本文研究了在存在时空依赖数据时非参数回归函数的估计,提出了一种基于局部自适应回归样条的估计方法,并展示了其在单变量和多变量情况下的最优性。
2026-06-26 stat.ME stat.ML
Multidimensional Adaptive Penalised Splines with Application to Neurons' Activity Studies
P样条模型在统计学和应用研究中得到了广泛的应用。P-样条的一个可能的缺点是,它们假设协变量效应在整个域上的平滑过渡。然而,在一些实际应用中,它是可取的,需要适应局部光滑的数据,自适应P样条已被建议。然而,自适应P样条模型所提供的额外的灵活性是以高计算负担为代价的,特别是在多维环境中。此外,据我们所知,文献缺乏建议的自适应P-样条在两个以上的维度。出于分析从研究视觉皮层中神经元活动的实验中获得的数据的需要,这项工作提出了一种新的局部自适应各向异性P样条模型,分为两个(例如,空间(Space)和时间(Time)。估计基于最近提出的SOP(重叠精度矩阵分离)方法,该方法提供了我们所期望的速度。该建议的实际性能进行评估,通过模拟,并与替代方法的比较报告。除了时空分析的数据,激发这项工作,我们还讨论了在两个维度上的工人缺勤的应用程序。
2020-12-01 stat.AP stat.CO stat.ME
Estimating Associations Between Cumulative Exposure and Health via Generalized Distributed Lag Non-Linear Models using Penalized Splines
针对现有ACE-DLNM仅适用于连续结局、难适配大数据集的局限,提出结合惩罚样条的广义ACE-DLNM及高效估计策略,经仿真和加拿大污染与住院数据验证,其推断更稳定且保留可解释性。
2025-05-21 stat.ME
Robust Variable Selection in High-dimensional Nonparametric Additive Model
本文针对高维非参数可加模型提出一种基于非凹惩罚、B样条和密度幂散度损失的稳健变量选择方法,在次威布尔假设下证明其达到最优收敛速率,并通过模拟和真实数据验证其有效性。
2025-05-06 stat.ME
Robust Fitting for Generalized Additive Models for Location, Scale and Shape
广义位置、尺度和形状广义可加模型(GAMLSS)估计和平滑参数选择的有效性依赖于似然函数的正确设定。已知偏离这种假设会误导任何基于可能性的推断,并可能阻碍旨在确保非线性效应的某种程度的平滑性的惩罚方案。我们提出了一种通用的方法来实现鲁棒性拟合GAMLSS通过限制低对数似然值的观测值的贡献。鲁棒的平滑参数的选择可以通过最小化信息标准,自然产生的鲁棒的可能性或通过扩展的Fellner-Schall方法进行。后者允许自动平滑参数选择,并且在具有多个平滑参数的应用中特别有利。我们还提出了一种新的中值降权比例准则,以解决调整非线性效应模型的鲁棒估计的挑战。这使得一个公平的比较与现有的稳健估计的特殊情况下,广义可加模型,我们的估计竞争有利。我们的建议的整体良好的性能说明了进一步的模拟在GAMLSS设置和应用程序的功能磁共振脑成像使用双变量平滑样条。
2019-11-12 stat.ME
Adaptive piecewise polynomial estimation via trend filtering
我们研究趋势滤波,这是Kim等人最近提出的用于非参数回归的工具[SIAM Rev. 51(2009)339-360]。趋势滤波估计被定义为惩罚最小二乘准则的最小值,其中惩罚项对输入点上的绝对$k$阶离散导数求和。也许并不奇怪,趋势滤波估计似乎具有$k$次样条函数的结构,具有自适应选择的节点(我们在这里说“出现”,因为趋势滤波估计实际上不是连续域上的函数,并且仅在输入的离散集上定义)。这让人想起与其他也产生自适应样条的非参数回归工具的比较;特别是,我们将趋势滤波与平滑样条进行比较,平滑样条对输入点上的平方导数之和进行惩罚,并与局部自适应回归样条进行比较[Ann. Statist. 25(1997)387-413],其惩罚$k$阶导数的全变差。经验上,我们发现,趋势滤波估计适应当地水平的平滑比平滑样条,而且,他们表现出显着的相似性,局部自适应回归样条。我们还提供了这些实证研究结果的理论支持,最值得注意的是,我们证明了(与正确选择的调整参数)的趋势滤波估计收敛到真正的底层功能的最小最大速率的功能,其$k$ th衍生物是有界变化。这是通过趋势滤波和局部自适应回归样条的渐近配对来完成的,这已经被证明以最小最大速率收敛[Ann. Statist. 25(1997)387-413]。这个论点的核心是一个新的结果,将两个套索问题的拟合值联系在一起,这两个套索问题共享相同的结果向量,但具有不同的预测…
2014-03-21 math.ST stat.ME stat.ML
Method: Using generalized additive models in the livestock animal sciences
本文介绍广义加性模型(GAMs)在畜牧动物科学中的应用,通过三个示例展示其优于参数模型、支持分层建模和统计推断,是一种灵活实用的统计方法。
2025-10-27 stat.AP stat.ME
Detecting Nonlinear Causality in Multivariate Time Series with Sparse Additive Models
提出了一种利用稀疏加性模型(SpAM)检测多维离散时间序列中非线性因果关系的非参数方法。我们发现,当输入到SpAM是一个$β$混合时间序列,该模型可以拟合的线性组合的一组B-样条基,然后解决一组套索型优化问题的非凸正则化的每个未知函数。理论上,我们刻画了所提出的稀疏估计在函数估计和模型选择中的预言统计性质。数值上,我们提出了一个有效的路径迭代收缩阈值算法(PISTA),驯服的非凸性,并保证线性收敛到所需的稀疏估计的高概率。
2018-04-26 cs.LG stat.ME stat.ML
Functional Additive Mixed Models
我们提出了一个广泛的框架,为相关的功能性反应的加性回归模型,允许多个部分嵌套或交叉的功能随机效应与灵活的相关性结构,例如,空间、时间或纵向功能数据。此外,我们的框架包括线性和非线性效应的功能和标量协变量,可能会发生变化,顺利指数的功能反应。它可以容纳密集或稀疏观察到的功能反应和预测,可以观察到额外的错误,包括基于样条和功能的主成分为基础的条款。在这个框架中的估计和推理是基于标准的添加剂混合模型,使我们能够利用建立的方法和强大的,灵活的算法。我们在pffr()函数中提供了易于使用的开源软件,用于R包退款。仿真结果表明,该方法可靠地恢复相关效应,处理小样本量以及也可扩展到更大的数据集。空间和纵向观察功能数据的应用程序展示了我们的方法在建模和结果的可解释性的灵活性。
2013-11-25 stat.AP stat.ME
Inference and local influence diagnostics for unit-Lindley additive partially linear models
Gazi University(加齐大学);Universidade de São Paulo(圣保罗大学)
提出单位Lindley加性部分线性模型,结合单参数分布与加性部分线性结构,通过惩罚似然估计和B样条平滑,并利用局部影响方法进行稳健性诊断。
2026-06-24 stat.CO stat.ME
Active-set algorithms based statistical inference for shape-restricted generalized additive Cox regression models
近年来,形状限制推论在统计和计量经济学文献中得到广泛的应用,以放松回归分析中的线性或二次协变量效应。典型的形状限制协变量效应包括单调递增、递减、凸性或非凸性。本文将形状限制推断引入到著名的Cox回归模型(SR-Cox)中,其中协变量响应被建模为形状限制的可加函数。SR-Cox回归使用样条基扩展和数据驱动的节点选择来近似形状限制函数。将负对数似然函数的最小化问题转化为一个凸优化问题,并采用有效集优化算法求解。该算法的特点是能自动消除多余节点。当协变量效应包括具有未知形式和线性项的凸项或凹项的组合时,最有趣的发现是SR-Cox产生准确的线性协变量效应估计,如果形式确实已知,则其与最大偏似然估计相当。我们的结论是,凹或凸SR-Cox模型可以显着提高非线性协变量响应恢复和模型拟合优度。
2021-07-02 stat.ME stat.ML
Efficient Poisson Subsampling for the Partially Linear Additive Cox Model
Nankai University(南开大学);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学);Changchun University of Technology(长春工业大学);Liaoning University(辽宁大学);University of Connecticut(康涅狄格大学);Tianjin University(天津大学)
针对大规模生存数据分析的计算存储挑战,提出用于部分线性可加Cox模型的高效泊松子采样方法,经模拟与淋巴瘤数据集验证,可实现大规模场景下的高效准确统计推断。
2026-08-21 stat.CO stat.ME