Estimation and variable selection for generalized additive partial linear models
研究了广义可加部分线性模型，提出了利用多项式样条光滑估计非参数函数，并推导了线性参数的拟似然估计.我们建立了参数分量估计的渐近正态性。该过程避免了求解大型系统的方程，在基于核的程序，从而导致在计算简单性的增益。我们进一步开发了一类变量选择程序的线性参数，采用非凹惩罚拟似然，这是一个渐近预言性质。蒙特卡罗模拟和实证的例子进行说明。
2011-12-12 math.ST stat.TH
Cluster-Based Generalized Additive Models Informed by Random Fourier Features
Department of Mathematics and Mathematical Statistics, Umeå University（数学与统计学系，乌梅大学）；Department of Statistics, The Pennsylvania State University（统计系，宾夕法尼亚州立大学）
本文提出了一种结合响应引导的谱表示学习与局部加性建模的可解释回归框架，用于处理异质数据。通过随机傅里叶特征回归模型构建谱特征图，并利用主成分分析压缩以获得低维潜在嵌入，随后通过高斯混合模型发现软区域，在每个区域中使用聚类特定的广义加性模型捕捉非线性协变量效应，最终通过软混合这些局部加性模型实现对非线性和异质结构的灵活建模，同时保持可解释性。
2026-05-19 cs.LG stat.ML
Inference for generalized additive mixed models via penalized marginal likelihood
针对广义加性混合模型中拉普拉斯近似在平滑参数估计上精度不足的问题，提出一种基于惩罚边际似然的新估计策略，以获得具有正确统计性质的估计。
2025-04-14 stat.ME
Doubly-nonparametric generalized additive models
对流行的广义可加模型框架进行了扩展，使均值曲线和响应分布都是非参数的。该方法被证明是一个灵活而简约的数据分析工具，在其本身的权利，以及作为一个有用的工具，在经典的广义可加模型框架的模型选择和诊断。通过各种模拟设置和方法的两个数据分析的例子来说明该方法的样本性能进行检查。
2017-09-15 stat.ME
Generalized Additive Models for Pair-Copula Constructions
对Copula构造是使用二元Copula作为构建块的灵活依赖模型。在本文中，我们使用广义可加模型来扩展它们，允许协变量的影响。借用传统的单变量背景下的想法，我们让每个配对copula参数直接依赖于协变量的参数，半参数或非参数的方式。本文提出了一种序贯估计方法，并通过模拟研究了四种主要汇率的日内收益率之间的时变相关结构。一个R包、一个再现本文中结果的脚本和其他模拟结果作为补充材料提供。
2017-08-15 stat.ME
Semiparametric Bayesian Information Criterion for Model Selection in Ultra-high Dimensional Additive Models
对于参数个数不同的线性模型，最近的研究表明，改进的贝叶斯信息准则（BIC）可以一致地识别真实模型。然而，在许多情况下，几乎没有理由证明协变量的效应实际上是线性的。因此，一个半参数模型，如添加剂模型研究这里，是一个可行的替代。我们证明了BIC型标准的一致性的理论结果可以扩展到这个更具挑战性的情况下，与维度发散指数快速与样本量。此外，在我们的理论研究中，噪声假设是放松的。这些努力显着扩大了适用性的标准，更一般的一类模型。
2011-07-25 stat.ME
Statistical Inference for Generalized Additive Partially Linear Model
广义可加模型（GAM）是一种强有力的工具，已经得到了很好的研究。这个模型类有助于识别加性回归结构。通过现有的测试程序，可以识别回归结构，甚至尖锐，如果一些组件功能有参数形式。广义加性部分线性模型（GAPLM）结合了参数和非参数两种模型，具有GLM的简单性和GAM的灵活性。我们使用混合样条-后拟合核估计方法，它结合了样条和核方法的最佳特性，使快速，有效和可靠的估计在阿尔法混合条件下。此外，给出了独立条件下检验总体趋势的同步置信走廊和参数的经验似然置信区域。得到了渐近性质，仿真结果支持理论性质。对于应用程序，我们使用GAPLM来提高$19610$德国公司的默认预测的准确率。本文的quantlet可在https://github.com上获得。
2020-09-10 stat.ME
Discrete Responses in Bivariate Generalized Additive Models
介绍了一个分析惩罚多元广义线性模型中二分和有序多分响应的概念框架。建议的结构允许一个相当灵活的预测规范，通过包括非参数和空间协变量的影响，和随机模型组件的分布与copulae的单变量边际的特征。还提供了一个二元系统的二分结果的高斯边缘的特定情况下的分析推导，并随后说明了该框架通过估计艾滋病毒在赞比亚的流行率使用2007年人口与健康调查数据集。
2015-08-06 stat.ME
Bayesian Generalized Additive Model Selection Including a Fast Variational Option
本文提出贝叶斯广义加性模型选择方法，利用组 LASSO 先验和辅助变量实现 MCMC 与快速平均场变分推断，并提供 R 包支持大规模数据应用。
2023-09-28 stat.ME
A note on Bayesian R-squared for generalized additive mixed models
本文提出一种贝叶斯框架，将广义加性混合模型的后验预测方差分解为已解释与未解释部分，从而严格定义贝叶斯R²，并引入部分贝叶斯R²量化各模型项的贡献。
2024-10-17 stat.ME
Nonparametric Screening for Additive Quantile Regression in Ultra-high Dimension
针对超高维非参数可加分位数回归中边缘筛选易漏选或误选协变量的问题，提出一种条件非参数分位数筛选程序，能以高概率准确识别所有相关协变量。
2024-04-24 stat.ME
Bayesian views of generalized additive modelling
本文从贝叶斯视角阐释广义加性模型（GAMs），强调其与频率论平滑的联系及在生态学中的应用，重点讨论项/模型选择与不确定性估计。
2025-01-07 stat.ME
Generalized Functional Additive Mixed Models
我们提出了一个全面的框架，用于非高斯功能性响应的加性回归模型，允许多个（部分）嵌套或交叉功能性随机效应，具有灵活的相关结构，例如，空间、时间或纵向功能数据，以及功能和标量协变量的线性和非线性效应，这些协变量可能在功能反应指数上平滑变化。我们的实现处理任何指数族分布以及许多其他像Beta或缩放的非中心$t$分布的功能响应。发展的动机和评价上的应用程序，以大规模的纵向饲养记录的猪。在广泛的模拟研究以及复制的两个以前发表的模拟研究广义功能混合模型的结果表明，我们的建议的良好性能。该方法在有良好文档记录的开源软件中的R包“refund”中的“pffr（）”函数中实现。
2016-05-06 stat.ME
On Bayesian Generalized Additive Models
广义可加模型（GAM）提供了一种将参数和非参数（函数逼近）技术融合在一起的方法，使它们成为适用于许多建模问题的灵活工具。例如，GAM可用于为标准线性回归模型引入灵活性，以表示现象的“几乎线性”行为。在物理模型中也经常出现对GAM的需求，其中理论给出的模型是现实的近似，并且人们希望将系数表示为函数而不是常数。在本文中，我们将讨论GAM从贝叶斯的角度来看，侧重于线性加性模型，其中最终的模型可以制定为一个线性高斯系统。我们讨论高斯过程（GPs）和本地基函数的方法来描述GAM中的未知函数，并为他们指定先验分布，包括空间变化的平滑技术。GAM与单变量和多变量函数进行了讨论。超参数估计技术，以减轻GAM模型相关的调整问题。本文中讨论的所有示例的实现都是可用的。
2023-03-05 stat.ME
Model selection-based estimation for generalized additive models using mixtures of g-priors: Towards systematization
本文研究广义可加模型的贝叶斯模型选择估计，通过Laplace近似扩展至指数分布族，发现g-先验混合比单位信息先验更有效，且基于模型选择的方法优于其他贝叶斯方法。
2024-08-30 stat.ME
Laplace approximation for fast Bayesian inference in generalized additive models based on penalized regression splines
广义可加模型（GAM）是一种成熟的统计工具，用于对协变量与假设具有指数族条件分布的响应之间的复杂非线性关系进行建模。在这篇文章中，P-样条和拉普拉斯近似耦合的灵活和快速的近似贝叶斯推断的GAM。建议的拉普拉斯-P-样条模型有助于开发一种新的方法来探索后验惩罚空间，通过考虑一个确定性的基于网格的策略或马尔可夫链采样器，根据预测中的平滑加法项的数量。我们的方法的优点是依赖于封闭形式的分析表达式的梯度和Hessian的近似后验惩罚向量，这使得能够构建准确的后验逐点和可信的集合估计的潜在字段变量在一个相对较低的计算预算，即使是大量的光滑的附加组件。基于简单的高斯近似的条件潜在字段后验，建议的方法具有良好的统计特性。通过不同的模拟场景，拉普拉斯P样条模型的性能得到证实，并在两个真实数据集上说明了该方法。
2020-03-16 stat.ME
Robust Fitting for Generalized Additive Models for Location, Scale and Shape
广义位置、尺度和形状广义可加模型（GAMLSS）估计和平滑参数选择的有效性依赖于似然函数的正确设定。已知偏离这种假设会误导任何基于可能性的推断，并可能阻碍旨在确保非线性效应的某种程度的平滑性的惩罚方案。我们提出了一种通用的方法来实现鲁棒性拟合GAMLSS通过限制低对数似然值的观测值的贡献。鲁棒的平滑参数的选择可以通过最小化信息标准，自然产生的鲁棒的可能性或通过扩展的Fellner-Schall方法进行。后者允许自动平滑参数选择，并且在具有多个平滑参数的应用中特别有利。我们还提出了一种新的中值降权比例准则，以解决调整非线性效应模型的鲁棒估计的挑战。这使得一个公平的比较与现有的稳健估计的特殊情况下，广义可加模型，我们的估计竞争有利。我们的建议的整体良好的性能说明了进一步的模拟在GAMLSS设置和应用程序的功能磁共振脑成像使用双变量平滑样条。
2019-11-12 stat.ME
Efficient Estimation of COM-Poisson Regression and Generalized Additive Model
Conway-Maxwell-Poisson（CMP）或COM-Poison回归是计数数据的流行模型，因为它能够捕获分散度不足和过度分散。然而，CMP回归在处理复杂的非线性关系时受到限制。随着当今计数数据的广泛可用性，特别是由于人类和社会行为的数据收集不断增加，需要能够捕获复杂非线性关系的计数数据模型。一个有用的方法是添加剂模型;但是，一直没有CMP分布的添加剂模型实现。为了填补这一空白，我们首先提出了一个灵活的估计框架CMP回归的基础上迭代重加权最小二乘（IRLS），然后扩展此模型，允许添加剂成分使用惩罚样条方法。由于CMP分布属于指数分布族，因此在一定的正则条件下，IRLS的收敛性是有保证的。此外，还已知与基于梯度的方法相比，IRLS提供更小的标准误。我们通过广泛的模拟研究和使用来自华盛顿特区自行车共享系统的真实数据来说明这种方法的有用性。
2020-04-24 stat.ME
Reluctant generalized additive modeling
稀疏广义可加模型（GAM）是稀疏广义线性模型的扩展，它允许模型的预测值随输入变量非线性变化。这使数据分析师能够构建更准确的模型，特别是当线性假设已知是现实的差近似时。受不情愿交互建模（Yu et al. 2019）的启发，我们提出了一种多阶段算法，称为$\textit{reluctant generalized additive modeling (RGAM)}$，可以大规模拟合稀疏广义可加模型。它遵循的原则是，如果其他条件相同，人们应该选择线性特征而不是非线性特征。与现有的稀疏GAM方法不同，RGAM可以很容易地扩展到二进制，计数和生存数据。我们证明了该方法的有效性，真实和模拟的例子。
2020-01-13 stat.ME stat.ML
Efficient First-Order Methods for Estimating Generalized Additive Index Models
针对广义可加指标模型（GAIM）的序贯估计计算效率低的问题，提出基于基展开的梯度下降和变分不等式算法，实现同时估计，并证明收敛到稳定点，数值实验显示优于经典方法。
2026-05-27 stat.ME
Markov-switching generalized additive models
我们考虑马尔可夫切换回归模型，即时间序列回归分析的模型，其中协变量和响应之间的函数关系受到由不可观测的马尔可夫链控制的状态切换。建立在强大的隐马尔可夫模型的机械和惩罚的B-样条经常用于回归分析的方法，我们开发了一个框架，非参数估计的功能形式的协变量的影响，在这样的回归模型，假设一个附加结构的预测。由此产生的一类马尔可夫切换广义可加模型是非常灵活的，并包含作为特殊情况下，常见的参数马尔可夫切换回归模型，也广义可加和广义线性模型。最大惩罚似然法的可行性，通过模拟证明，并进一步说明了在西班牙的能源价格如何取决于欧元/美元汇率的建模。
2015-05-10 stat.CO stat.ME
Generalized Multivariate Functional Additive Mixed Models for Location, Scale, and Shape
提出广义多元函数加性混合模型框架，通过潜在高斯过程和函数主成分建模多层混合类型多元函数数据的条件分布，并在R包中实现，验证了其在交通数据上的有效性。
2024-07-30 stat.ME
Modeling positive and unlabeled data with a generalized additive density ratio model
University of Waterloo（滑铁卢大学）；University of Michigan（密歇根大学）
本文针对正样本与无标签数据学习问题，提出广义加性密度比模型，在保持可辨识性的同时允许非线性平滑效应，并给出拟合算法与理论支持，在基准实验中较经典指数倾斜方法取得明显增益。
2026-09-28 stat.ME
Statistical Inference for Ordinal Predictors in Generalized Linear and Additive Models with Application to Bronchopulmonary Dysplasia
离散但有序的协变量在应用统计学中非常常见，并且已经提出了一些正则化拟合程序来正确处理统计建模中的有序预测变量。在这项研究中，我们将展示如何二次处罚相邻的哑系数的有序预测在文献中提出的广义可加模型的框架中，使统计推断工具，以及有序预测。出于新生儿医学的应用程序，我们讨论是否得到的结果时，构建置信区间和检验显着性的光滑项在广义可加模型是有用的有序预测/处罚。
2021-08-24 stat.AP stat.ME
Non-Homogeneous Markov-Switching Generalized Additive Models for Location, Scale, and Shape
Bielefeld University（比勒费尔德大学）
本文提出非齐次马尔可夫切换广义加性模型，通过协变量影响状态转换概率，提升对市场动态的分析能力。
2026-01-07 stat.ME
Adaptive Step-Length Selection in Gradient Boosting for Generalized Additive Models for Location, Scale and Shape
基于模型的提升算法的调整主要依赖于迭代次数，而步长固定在预定义值。对于具有多个预测因子的复杂模型，例如用于位置、尺度和形状的广义可加模型（GAMLSS），预测因子的不平衡更新（其中一些分布参数比其他分布参数更新得更频繁）可能是一个问题，该问题阻止了在有限数量的提升迭代内适当地拟合某些子模型。我们提出了一种方法，使用自适应步长（ASL）的确定在一个非周期性的增强算法，以防止这种不平衡。此外，对于高斯分布的重要特殊情况下，我们讨论的ASL的性质，并推导出半解析形式的ASL，避免了手动选择的搜索区间和数值优化，以找到最佳的步长，从而提高计算效率。我们表现出竞争力的行为相比，惩罚极大似然和提升与固定步长的GAMLSS模型在两个模拟和两个应用程序，特别是对于大方差和/或更多的变量比观察的情况下，所提出的方法。此外，ASL的思想也适用于具有多个预测因子的其他模型，如零膨胀计数模型，并在更简单的特殊情况下（高斯）加性模型中为步长的合理默认值的选择提供了见解。
2021-02-18 stat.ME
Multifold Cross-Validation Model Averaging for Generalized Additive Partial Linear Models
广义加性部分线性模型（GAPLM）是一种用于模型解释和预测的新模型。然而，对于GAPLM，在非参数部分的协变量和平滑程度往往是很难确定在实践中。为了解决这个模型选择的不确定性问题，我们开发了一个计算上可行的模型平均（MA）程序。模型权重是数据驱动的，并基于多重交叉验证（CV）（而不是留一法）进行选择，以节省计算。当所有的候选模型被误指定，我们表明，建议的MA估计GAPLM是渐近最优的意义上实现最低可能的Kullback-Leibler损失。在候选模型集包含至少一个正确模型的另一种情况下，多重CV选择的权重将渐近集中在正确模型上。作为一个副产品，我们提出了一个可变的重要性措施来量化的重要性的预测GAPLM的MA权重的基础上。它被证明是能够渐近地识别真实模型中的变量。此外，当候选模型的数量非常大时，提供了模型筛选方法。数值实验表明，所提出的MA方法优于一些现有的模型平均和选择方法。
2022-12-05 stat.ME
evgam: An R package for Generalized Additive Extreme Value Models
本文介绍了R软件包evgam。该软件包提供了拟合极值分布的函数。这些分布包括广义极值分布和广义帕累托分布。前者也可以通过点过程表示来拟合。evgam通过非对称拉普拉斯分布支持分位数回归，这对于估计高阈值非常有用，有时用于区分极端值和非极端值。evgam的主要作用是使极值分布参数具有广义可加模型的形式，可以用Laplace方法进行客观估计。给出了适合各种规格的各种分布的说明性例子。这些包括美国科罗拉多州部分地区的日降水量累积，用于说明空间模型，以及美国科罗拉多州柯林斯堡的日最高温度，用于说明时间模型。
2020-11-08 stat.CO stat.ME
Generalized Bayesian Additive Regression Trees for Restricted Mean Survival Time Inference
本文提出面向个体RMST预测的广义贝叶斯加性树框架，利用IPCW损失处理信息删失，并通过模拟和乳腺癌多站点队列验证其性能。
2024-02-27 stat.ME
Sparse Model Identification and Learning for Ultra-high-dimensional Additive Partially Linear Models
可加部分线性模型（APLM）结合了非参数回归的灵活性和回归模型的简约性，已被广泛应用于多元非参数回归中，以缓解“维数灾难”。在实践中提出的一个自然问题是选择非参数部分的结构，也就是说，是否连续的协变量进入线性或非参数形式的模型。在本文中，我们提出了一个全面的框架，同时稀疏模型识别和学习的超高维APLM的线性和非参数组件可能大于样本量。我们提出了一种快速有效的两阶段程序。在第一阶段，我们将非参数函数分解为线性部分和非线性部分。采用常数样条基逼近非线性函数，并提出了一种三重罚函数法，利用自适应群LASSO选择非零分量。在第二阶段，我们使用高阶多项式样条重新拟合数据与选定的协变量，并应用样条回拟合局部线性平滑，以获得渐近正态的估计。该程序被证明是一致的模型结构识别。它可以正确有效地识别零、线性和非线性分量。可以对线性系数和非参数函数进行推断。我们进行模拟研究，以评估该方法的性能，并将所提出的方法应用到一个数据集上的茎尖分生组织（SAM）的玉米基因型进行说明。
2018-11-01 stat.ME
Projection Predictive Inference for Generalized Linear and Additive Multilevel Models
投影预测推理是一种决策理论贝叶斯方法，它将模型估计与决策相结合。给定先前构建的包括数据中存在的所有变量的参考模型，投影预测推理将其后验投影到变量子集的约束空间上。然后通过顺序添加相关变量来进行变量选择，直到预测性能令人满意。以前，投影预测推理已被证明只有广义线性模型（GLM）和高斯过程（GP），它表现出优越的性能，竞争变量的选择程序。在这项工作中，我们扩展了投影预测推理，以支持广义线性多水平模型（GLP-S）和广义加性多水平模型（GAMM）的变量和结构选择。我们的模拟和真实世界的实验表明，我们的方法可以大大降低所需的模型复杂度，达到参考预测性能，并实现良好的频率特性。
2020-10-14 stat.CO stat.ME
Scalable visualisation methods for modern Generalized Additive Models
在过去的二十年里，计算资源的增长使得处理广义可加模型（GAM）成为可能，而这些模型以前对于严肃的应用来说过于昂贵。然而，模型复杂性的增长并没有与模型开发和结果呈现的改进可视化相匹配。受电力负荷预测中的工业应用的启发，我们确定了缺乏用于GAM的现代可视化工具的领域特别严重，并且我们通过提出一组可视化工具来解决现有方法的缺点，所述可视化工具a）对于交互式使用足够快，b）利用GAM的添加剂结构，c）可扩展到大数据集，d）可与广泛的响应分布结合使用。本工作中提出的所有新的可视化方法都由mgcViz R包实现，该包可以在Comprehensive R Archive Network上找到。
2019-05-09 stat.AP stat.ME
Fast stable direct fitting and smoothness selection for Generalized Additive Models
用于惩罚似然GAM拟合的现有计算高效方法在工作线性模型（或工作混合模型）上采用迭代平滑选择。这样的计划无法收敛的一个不可忽略的比例的模型，失败是特别频繁的并发性的存在。如果通过优化“整个模型”标准来进行平滑度选择，这些问题就消失了，但是直到现在，尝试这样做的尝试都采用了基于有限差分的优化方案，这些方案在计算上是低效的，并且可能遭受错误收敛。本文提出了第一个计算效率高的直接GAM平滑选择方法。它是高度稳定的，但通过仔细的结构实现的计算效率，导致在模拟中，以较低的平均计算时间比工作模型平滑选择的基础上的计划。该方法也为广义可加混合模型的拟合提供了一种可靠的方法。
2007-09-25 stat.CO stat.ME
Extrapolation of extreme covariates in generalized additive regression using extreme-value theory
INRAE（法国国家农业食品环境研究院）；University of Geneva（日内瓦大学）；Univ Brest, CNRS UMR 6205, Laboratoire de Mathématiques de Bretagne Atlantique（布雷斯特大学、法国国家科学研究中心第6205联合研究单位、布列塔尼大西洋数学实验室）
研究在协变量外推时提升广义加性模型预测性能的方法，将GAMs与多元极值理论渐近模型结合，考虑二元及连续响应，以欧洲野火应用为例探索新方法对预测的改善。
2026-09-15 stat.ME
AutoGFI: Streamlined Generalized Fiducial Inference for Modern Inference Problems in Models with Additive Errors
本文提出AutoGFI，一种简化广义信念推断（GFI）的变体，通过仅需拟合例程降低应用门槛，并在张量回归、矩阵补全和网络内聚回归等复杂问题中展现竞争力，推动GFI在实际领域的应用。
2024-12-25 stat.ME
Small area estimation under unit-level generalized additive models for location, scale and shape
提出SAE-GAMLSS模型用于估计家庭经济指标，释放指数族假设并允许分布参数依赖协变量，模拟显示其优于EBLUP，实证揭示了意大利南北差异不适用于外国人。
2023-09-12 stat.AP stat.ME
A note on basis dimension selection in generalized additive modelling
提出了两种新的方法，用于检查使用惩罚回归平滑器时的基函数的维数。第一种方法是充分的基础尺寸的基础上的残差方差的估计计算的差分残差是邻居根据平滑协变量的测试。第二种方法是基于模型残差相对于模型协变量的平滑估计自由度。与基于平滑性选择准则的基维选择算法（GCV、AIC、REML）相比，上述过程对于作为模型检查的一部分的常规使用来说是足够计算有效的。
2016-02-22 stat.ME stat.OT
Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy
University of Texas at Austin（德克萨斯大学奥斯汀分校）
贝叶斯加法回归树近年来由于其将机器学习技术与原则性不确定性量化相结合的能力而受到越来越多的关注。然而，用于拟合BART模型的贝叶斯后拟合算法将其应用限制在一小类存在条件共轭的模型上。在这篇文章中，我们通过引入一个非常简单的、无调整参数的、可逆跳马尔可夫链蒙特卡罗算法，大大扩展了BART对任意\emph{generalized BART}模型的适用范围。我们的算法只需要用户能够计算的可能性和（可选）其梯度和费舍尔信息。潜在的应用是非常广泛的，我们考虑的例子在生存分析，结构异方差回归，伽玛形状回归。
2022-02-20 cs.LG stat.ME stat.ML
Modelling phenology using ordered categorical generalized additive models
本文提出使用R包mgcv对有序分类数据进行广义加性建模的灵活方法，解决生态物候数据分析中因忽略数据自然结构而导致的错误推断问题。
2025-08-11 q-bio.QM stat.ME
Generalized Sparse Additive Models
我们提出了一个统一的框架来估计和分析高维广义可加模型。该框架定义了一大类惩罚回归估计，包括许多现有的方法。这一类的一个有效的计算算法，很容易扩展到数千个观察和功能。在弱相容条件下证明了这类问题的极大极小最优收敛界。此外，我们的收敛速度时，这种兼容性条件不满足的特点。最后，我们还表明，在我们的框架中，结构和稀疏性惩罚的最佳惩罚参数是相互关联的，允许交叉验证仅在单个调整参数上进行。我们补充我们的理论结果与实证研究比较，在这个框架内的一些现有的方法。
2019-03-11 math.ST stat.ME stat.ML
Gradient boosting in Markov-switching generalized additive models for location, scale and shape
提出了一类新的灵活的潜在状态时间序列回归模型，我们称之为马尔可夫切换广义可加模型的位置，规模和形状。与传统的马尔可夫切换回归模型相比，所提出的方法允许我们对响应分布的不同状态相关参数进行建模-不仅是平均值，而且是方差，偏度和峰度参数-作为给定解释变量的潜在平滑函数。此外，可以为响应指定的可能分布集不限于指数族，还包括各种Box-Cox变换、零膨胀和混合分布。我们提出了一种基于期望最大化算法的估计方法，其中我们使用梯度提升框架来防止过拟合，同时执行变量选择。所提出的方法的可行性进行了评估，在模拟实验中，并说明在一个真实的数据设置，在那里我们模拟的条件分布的每日平均价格的能源在西班牙随着时间的推移。
2018-05-17 stat.CO stat.ME
Nonparametric Independence Screening in Sparse Ultra-High Dimensional Additive Models
Fan和Lv（2008）提出了一种通过相关学习进行变量筛选的方法来降低稀疏超高维模型的维数。即使真实模型是线性的，边际回归也可能是高度非线性的。为了解决这个问题，我们进一步将相关学习扩展到边缘非参数学习。我们的非参数独立性筛选被称为NIS，是确定独立性筛选的一个特定成员。提出了几个密切相关的变量筛选程序。在非参数可加模型下，证明了在一些温和的技术条件下，所提出的独立筛选方法具有一定的筛选性质。在何种程度上可以减少独立筛选的维度也明确量化。作为一种方法的扩展，迭代非参数独立筛选（INIS）也被提出来提高有限样本拟合稀疏可加模型的性能。仿真结果和实际数据分析表明，该方法适用于中等样本量和大维数的情况，性能优于竞争方法。
2011-01-18 math.ST stat.CO stat.ME
Longitudinal modeling of age-dependent latent traits with generalized additive latent and mixed models
我们提出了广义加性潜伏和混合模型（GALASTIC）的聚类数据的响应和潜变量依赖于观测变量顺利分析。提出了一种可扩展的极大似然估计算法，利用拉普拉斯近似，稀疏矩阵计算，自动微分。混合响应类型、异方差性和交叉随机效应自然被纳入框架。开发的模型的动机是在认知神经科学中的应用，并提出了两个案例研究。首先，我们展示了GALASTIC如何共同模拟情节记忆，工作记忆和速度/执行功能的复杂寿命轨迹，分别由加利福尼亚语言学习测试（CVLT），数字广度测试和Stroop测试测量。接下来，我们研究了社会经济地位对大脑结构的影响，使用教育和收入数据以及通过磁共振成像估计的海马体积。通过将半参数估计与潜在变量建模相结合，GALASTIC可以更真实地表示大脑和认知在整个生命周期中的变化，同时从测量项目中估计潜在特征。模拟实验表明，即使在中等样本量的情况下，模型估计值也是准确的。
2023-02-02 stat.AP stat.ME
A novel generalized additive scalar-on-function regression model for partially observed multidimensional functional data: An application to air quality classification
提出一种广义可加函数回归模型，无需插补即可处理部分观测的多维函数数据，并通过模拟研究和印度Dimapur空气污染分类应用验证了其有效性和准确性。
2025-10-30 stat.AP stat.ME
Generalized Criterion for Identifiability of Additive Noise Models Using Majorization
针对加性噪声DAG的因果辨识问题，提出基于条件方差约束的广义可辨识性准则，并用协方差Cholesky因子对角元的弱优超化学习线性SEM拓扑序。
2024-04-08 stat.ME stat.ML
Bayesian Functional Generalized Additive Models with Sparsely Observed Covariates
McLean等人（2013）最近提出了函数广义可加模型（FGAM），作为常见函数线性模型（FLM）的更灵活的替代方案，用于回归函数协变量的标量。在本文中，我们开发了一个贝叶斯版本的FGAM的高斯误差的情况下，单位链接功能。我们的方法允许函数协变量被稀疏地观察和测量，而McLean et al.（2013）的估计过程要求它们在规则网格上被无噪声地观察。我们认为这两个蒙特卡罗和变分贝叶斯方法拟合FGAM稀疏观测协变量。由于模型后验分布和全条件分布的复杂形式，标准蒙特卡罗和变分贝叶斯算法不能使用。我们使用的策略来处理更新的参数没有封闭形式的完整条件应该是独立的兴趣应用贝叶斯统计学家与非共轭模型。我们的数值研究表明，我们的算法的好处，首先使用标准技术恢复完整的轨迹，然后拟合一个功能回归模型的两步方法。在一个真实的数据分析中，我们的方法被应用到预测在网上拍卖网站eBay上拍卖的物品的收盘价。
2017-05-26 stat.CO stat.ME
neuralGAM: An R Package for Fitting Generalized Additive Neural Networks
Galician Research and Development Center in Advanced Telecommunications (Gradiant)（加利西亚先进电信研究与发展中心（Gradiant））；Galician Centre for Mathematical Research and Technology (CITMAga)（加利西亚数学研究与技术中心（CITMAga））；Universidade de Vigo, Department of Statistics and O.R. & SiDOR Group（维戈大学统计与运筹学系及SiDOR小组）
neuralGAM是用于拟合广义加性神经网络的R包，可构建兼具高准确性与可解释性的深度学习模型，其灵活性不受神经网络架构限制，且通过合成与真实数据示例验证了使用方法。
2026-08-11 cs.LG stat.CO stat.ME
Active-set algorithms based statistical inference for shape-restricted generalized additive Cox regression models
近年来，形状限制推论在统计和计量经济学文献中得到广泛的应用，以放松回归分析中的线性或二次协变量效应。典型的形状限制协变量效应包括单调递增、递减、凸性或非凸性。本文将形状限制推断引入到著名的Cox回归模型（SR-Cox）中，其中协变量响应被建模为形状限制的可加函数。SR-Cox回归使用样条基扩展和数据驱动的节点选择来近似形状限制函数。将负对数似然函数的最小化问题转化为一个凸优化问题，并采用有效集优化算法求解。该算法的特点是能自动消除多余节点。当协变量效应包括具有未知形式和线性项的凸项或凹项的组合时，最有趣的发现是SR-Cox产生准确的线性协变量效应估计，如果形式确实已知，则其与最大偏似然估计相当。我们的结论是，凹或凸SR-Cox模型可以显着提高非线性协变量响应恢复和模型拟合优度。
2021-07-02 stat.ME stat.ML
Fast Automatic Smoothing for Generalized Additive Models
Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
多重广义可加模型（GAM）是一种分布回归，其中概率分布的参数通过平滑函数依赖于预测器，通过$L_2$正则化选择平滑度。多个GAM允许通过在分布的任何或所有参数中并入解释性信息来进行更精细的统计推断。由于其非线性，灵活性和可解释性，GAM被广泛使用，但可靠和快速的自动平滑方法在大型数据集仍然缺乏，尽管最近的进展。我们开发了一个通用的方法，自动学习的最佳程度的$L_2$正则化多个GAM使用经验贝叶斯方法。平滑函数被惩罚不同的量，其通过近似期望最大化算法通过最大化边际似然来同时学习，该近似拉普拉斯近似在E步处涉及双拉普拉斯近似，并导致有效的M步。实证分析表明，所得到的算法是数值稳定的，比现有的方法更快，达到了最先进的精度。为了说明，我们将其应用到极值数据分析中的一个重要而具有挑战性的问题。
2018-09-25 cs.LG stat.CO stat.ME
A Generalized Additive Partial-Mastery Cognitive Diagnosis Model
Department of Statistics, LSE（伦敦政治经济学院统计学系）
本文提出广义加性部分掌握认知诊断模型，通过非参数单调函数混合来放松传统模型的参数假设，提升模型适应性和解释性。
2026-04-15 stat.CO stat.ME
