Model selection criteria for regression models with splines and the automatic localization of knots

非凹惩罚样条

Nonconcave Penalized Spline

回归样条是非参数回归中的一种有用工具。然而，找到最佳的节点位置是一个已知的困难的问题。在本文中，我们介绍了非凹惩罚回归样条。该方法不仅能产生具有最佳收敛速度的光滑样条，而且能同时自适应地选择最优节点。它对原始节点的数量不敏感。仿真结果表明，该方法具有较好的性能。研究了非凹回归样条函数中光滑参数即惩罚参数的选取问题。

带有模型复杂度先验设定的自适应贝叶斯多元样条节点推断

Adaptive Bayesian Multivariate Spline Knot Inference with Prior Specifications on Model Complexity

针对多元样条回归中节点推断的难题，提出考虑模型空间复杂度的全贝叶斯新方法，采用可逆跳转MCMC采样，在节点推断、流形去噪及含跳跃间断点的函数拟合中表现优异。

Variational Full Bayes Lasso: Knots Selection in Regression Splines

We develop a fully automatic Bayesian Lasso via variational inference. This is a scalable procedure for approximating the posterior distribution. Special attention is driven to the knot selection in regression spline. In order to carry through our proposal, a full automatic variational Bayesian Lasso, a Jefferey's prior is proposed for the hyperparameters and a decision theoretical approach is introduced to decide if a knot is selected or not. Extensive simulation studies were developed to ensure the effectiveness of the proposed algorithms. The performance of the algorithms were also tested i…

样条分位数回归与三次和线性平滑样条

Spline Quantile Regression with Cubic and Linear Smoothing Splines

本文提出了一种基于样条的分位数回归方法，通过引入三次和线性平滑样条，改进了回归系数的平滑估计，展示了其在实际数据中的应用价值。

fkbma：一个使用自由节点 B 样条和贝叶斯模型平均检测适配变量的 R 包

fkbma: An R Package for Detecting Tailoring Variables with Free-Knot B-Splines and Bayesian Model Averaging

本文介绍 R 包 fkbma，利用自由节点 B 样条与贝叶斯模型平均识别治疗适配变量，并通过模拟和真实数据验证其应用价值。

自由节点样条估计下函数型数据分析的粗糙度正则化

Roughness regularization for functional data analysis with free knots spline estimation

本文针对函数型数据分析中曲线形状多变带来的逼近难题，提出一种带双惩罚项的自由节点样条估计方法，并通过模拟与真实数据上的聚类对比验证其有效性。

Adaptive spline fitting with particle swarm optimization

In fitting data with a spline, finding the optimal placement of knots can significantly improve the quality of the fit. However, the challenging high-dimensional and non-convex optimization problem associated with completely free knot placement has been a major roadblock in using this approach. We present a method that uses particle swarm optimization (PSO) combined with model selection to address this challenge. The problem of overfitting due to knot clustering that accompanies free knot placement is mitigated in this method by explicit regularization, resulting in a significantly improved pe…

高效的贝叶斯多元曲面回归

Efficient Bayesian Multivariate Surface Regression

在统计文献中，选择加性样条模型中固定节点位置的方法已经相当成熟。虽然这些方法中的大多数原则上可直接扩展到非加性表面模型，但由于维数灾难，特别是当存在多个协变量时，它们在该设置中不太可能成功。我们提出了一个多元高斯响应的回归模型，它结合了添加剂样条和交互式样条，以及一个高效的MCMC算法，共同更新所有的结的位置。我们使用收缩先验来避免过拟合，对于模型的添加剂和表面部分使用不同的估计收缩因子，并且对于不同的响应变量使用不同的收缩参数。这使得模型能够以一种简约的方式适应数据不同部分的不同程度的非线性。模拟数据和应用程序，以坚定的杠杆数据表明，该方法是计算效率高，并允许自由估计结的位置可以提供一个显着的改善样本外的预测性能。

Bayesian model selection in additive partial linear models via locally adaptive splines

We provide a flexible framework for selecting among a class of additive partial linear models that allows both linear and nonlinear additive components. In practice, it is challenging to determine which additive components should be excluded from the model while simultaneously determining whether nonzero additive components should be represented as linear or non-linear components in the final model. In this paper, we propose a Bayesian model selection method that is facilitated by a carefully specified class of models, including the choice of a prior distribution and the nonparametric model us…

零膨胀模型的样条回归

Spline regression for zero-inflated models

当经典的广义线性模型方法由于零计数的高结果和连续协变量的非线性影响而过于严格时，我们提出了计数数据的回归模型。零膨胀被应用于考虑多余零的存在，并为零和非零分量提供单独的链接函数。协变量中的非线性由基于B样条的样条函数捕获。我们的算法依赖于极大似然估计，并允许自适应框约束结，从而提高了样条拟合的良好性，并允许检测灵敏度变化点。仿真研究证实了该算法的数值稳定性来推断这样的模型。AIC准则被证明是服务以及模型选择，特别是如果非线性是弱的，使BIC往往过于简单化的模型。我们将引入的模型与儿童牙齿健康的真实数据相匹配，将龋齿计数与所谓的身体质量指数（BMI）和其他社会经济因素联系起来。这揭示了一个令人困惑的非单调的影响，体重指数对龋齿计数，这是尚未解释的临床专家。

基于贝叶斯样条的隐马尔可夫模型及其在活动测量数据和睡眠分析中的应用

Bayesian spline-based hidden Markov models with applications to actimetry data and sleep analysis

本文提出基于 B-spline 发射分布的贝叶斯 HMM 框架，利用跨维 MCMC 与边际似然同时估计结点配置和状态数，并通过模拟、鲨鱼活动及人类睡眠昼夜节律分析验证其灵活性与优势。

贝叶斯单调变量误差模型及其在病原体药敏试验中的应用

Bayesian monotonic errors-in-variables models with applications to pathogen susceptibility testing

药物稀释法（MIC）和纸片扩散法（DIA）是医院和诊所用于确定未知病原体对各种抗生素敏感性的两种最常见的抗菌药物敏感性测定法。由于通常仅使用一种测定法，因此重要的是两种测定法给出相似的结果。DIA测定与MIC测定的校准通常使用误差率界限法进行，该方法选择使两种测定之间观察到的差异最小化的DIA断点。2000年，Craig提出了一种基于模型的方法，该方法专门对每个检测试剂盒的测量误差和舍入过程、潜在的病原体分布以及两个检测试剂盒之间的真实单调关系进行建模。然后，通过重点匹配正确分类（敏感、不确定和抗性）的概率来校准这两种测定。这种方法导致更高的精度和准确度估计DIA断点。在本文中，我们通过引入贝叶斯四参数逻辑模型（扩展Craig的原始三参数模型）以及贝叶斯非参数样条模型来描述两种检测之间的关系，从而扩展了基于模型的方法的灵活性。我们提出了两种方法来处理样条节点的选择，考虑许多等距节点，但限制过拟合通过一个随机游动事先和治疗的数量和位置的节点作为额外的未知参数。我们证明了这两种方法，通过一系列的模拟研究和应用的方法，两个真实的数据集。

基于辅助变量的贝叶斯曲线拟合

On Bayesian Curve Fitting Via Auxiliary Variables

本文重新讨论Smith和Kohn（1996）中提出的用于拟合节点数未知的P阶样条回归模型的辅助变量法。我们引入修改，允许节点的位置是随机的，我们进一步考虑扩展的方法来处理模型与非高斯误差。我们提供了一个新的算法，MCMC抽样这样的模型。模拟数据的例子是用来比较我们的方法与现有的性能。最后，我们与一些变点问题建立了联系，并展示了如何将它们重新参数化为变量选择设置。