The Impact of Model Assumptions in Scalar-on-Image Regression
复杂的统计模型，如标量图像回归，往往需要强有力的假设，以克服不可识别的问题。虽然在理论上，人们很好地理解模型假设可以强烈影响结果，但在实践中，这似乎被低估或淡化。本文系统地概述了标量图像回归的主要方法，特别关注它们的假设。我们对假设进行分类，并制定措施以量化满足这些假设的程度。模型假设的影响和所提出的措施的实际使用说明在模拟研究和神经影像数据的应用。结果表明，不同的假设确实会导致相当不同的估计与类似的预测能力，提出了他们的可解释性的问题。我们给出了建议，在实践中，新的措施和模拟使用假设系数图像和观测数据的基础上，建模和解释决策。
2018-04-18 stat.ME
Bayesian Inference for Consistent Predictions in Overparameterized Nonlinear Regression
The University of Tokyo（东京大学）
本文在贝叶斯框架下引入考虑数据谱结构的自适应先验，证明广义线性与单神经元非线性回归的后验收缩及预测一致性，并通过模拟和真实数据验证其准确预测与不确定性估计能力。
2024-06-15 cs.LG stat.ME stat.ML
Birnbaum-Saunders nonlinear regression models
本文首次介绍了一类新的Birnbaum-Saunders非线性回归模型，它在寿命数据分析中具有潜在的应用价值。该类推广了Rieck和Nedelman [1991，A log-线性模型for the Birnbaum-Saunders distribution，Technometrics，33，51-60]描述的回归模型。我们讨论了模型参数的极大似然估计，并给出了这些估计的二阶偏差的封闭表达式。我们的公式很容易计算为普通的线性回归，然后用来定义偏差校正的最大似然估计。一些模拟结果表明，偏差校正方案产生几乎无偏估计，而不增加的均方误差。我们也给出了一个应用程序的一个真正的疲劳数据集。
2009-04-24 stat.ME
Indirect multivariate response linear regression
我们提出了一类新的估计的多元响应线性回归系数矩阵，利用假设的响应和预测有一个联合的多元正态分布。这使得我们能够通过对逆回归的参数进行收缩估计，或者通过给定响应的预测因子的条件分布来间接估计回归系数矩阵。我们建立了一个收敛速度界估计在我们的类，我们研究了两个例子。第一示例估计器利用逆回归的系数矩阵是稀疏的假设。第二示例估计器利用逆回归的系数矩阵是秩亏的假设。这些估计不需要流行的假设，即前向回归系数矩阵是稀疏的或具有小的Frobenius范数。使用模拟研究，我们表明，我们的例子估计优于一些数据生成模型的相关竞争对手。
2015-07-16 stat.ME
Group-bound: confidence intervals for groups of variables in sparse high-dimensional regression without assumptions on the design
在不对设计矩阵进行严格或无法验证的假设的情况下，为高维回归中的单个变量提供置信区间通常具有挑战性。我们在这里表明，一个“组界”的置信区间可以推导出没有任何假设的设计矩阵。个别变量的回归系数的下限可以通过线性规划导出。该想法还可以自然地推广到变量组，其中我们可以推导出一组联合效应的单侧置信区间。虽然个别变量的置信区间是由问题的性质往往很宽，它被证明是可以检测到的贡献组的高度相关的预测变量，即使没有变量单独显示出显着的效果。检测变量组的影响所需的假设被证明是弱于最弱的已知假设，以检测单个变量的影响。
2014-06-11 stat.ME
Stochastic tree ensembles for regularized nonlinear regression
City University of Hong Kong（香港城市大学）；Arizona State University（亚利桑那州立大学）
本文提出了一种新的随机树集成方法，用于非线性回归，我们称之为XBART，简称加速贝叶斯加性回归树。通过将贝叶斯建模的正则化和随机搜索策略与递归分区方法的计算效率技术相结合，新方法获得了最先进的性能：在许多设置中，它比广泛使用的XGBoost算法更快，更准确。通过仔细的模拟研究，我们证明了我们的新方法提供了平均函数的精确逐点估计，并且比流行的替代方案（如BART，XGBoost和神经网络（使用Keras））更快。我们还证明了一些基本的理论结果，包括单树版本的模型的一致性和平稳性的马尔可夫链产生的集成版本。此外，我们表明，初始化标准贝叶斯加性回归树马尔可夫链蒙特卡罗（MCMC）在XBART拟合树大大提高了可信区间覆盖率，减少总运行时间。
2021-06-03 cs.LG stat.ME stat.ML
Robust Numerical Methods for Nonlinear Regression
本文提出一种逐步程序，用于为非线性回归模型指定参数化、初始值、诊断及先验等细节，从而构建数值稳健的拟合算法，并通过疲劳数据示例验证。
2024-03-19 stat.CO stat.ME
Nonlinear Generalized Ridge Regression
提出一种两阶段非线性广义岭回归方法，先用样条将各预测变量与结果间的非线性关系线性化，再以最小化正态理论下MSE风险的广义岭回归预测，并与广义加性模型对比。
2023-09-29 stat.ME
Kernel partial least squares regression for functional nonlinear models
函数回归在函数数据分析中非常重要，通常假设标量响应与函数预测值之间存在线性关系。然而，线性假设在实际中可能不成立，这使得线性模型的方法无效。为了获得更多的灵活性，我们专注于功能的非线性模型，旨在开发新的方法，不需要严格的约束的非线性结构。受机器学习中核方法思想的启发，提出了一种用于泛函非线性模型的核泛函偏最小二乘（KFPLS）方法。创新的算法工作在预测的标量响应，并伴随着R包KFPLS的实施。仿真研究表明，所提出的方法的有效性，对各种类型的非线性模型。此外，实际应用也表明了所提出的KFPLS方法的优越性。
2023-01-15 stat.ME
Nonlinear Regression Analysis
本文介绍非线性回归的理论与统计推断方法，涵盖最小二乘、极大似然、Wald置信区域及处理方差异质性的技术，并通过模拟数据示例说明其性质。
2024-02-08 stat.CO stat.ME
Bayesian Nonlinear Tensor Regression with Functional Fused Elastic Net Prior
本文提出非线性贝叶斯张量加性回归模型，并设计函数融合弹性网先验，以同时建模非线性与空间平滑性、检测边界跳跃并识别活跃区域，模拟和人脸数据验证了其灵活性与可解释性。
2023-02-16 stat.ME
Variable selection for nonlinear Cox regression model via deep learning
Biogen（百健）
研究非线性Cox回归模型的变量选择问题。在生存分析中，一个主要目标是识别与发生关注事件的风险相关的协变量。Cox比例风险模型在生存分析中广泛用于研究生存时间和协变量之间的关系，该模型假设协变量对风险函数具有对数线性效应。然而，这种线性假设在实践中可能并不满足。为了提取具有代表性的特征子集，已经提出了各种变量选择方法用于线性Cox模型下的生存数据。然而，很少有文献对非线性Cox模型的变量选择。为了打破这一差距，我们将最近开发的基于深度学习的变量选择模型LassoNet扩展到生存数据。仿真结果验证了该方法的有效性和可行性。最后，我们应用所提出的方法来分析弥漫性大B细胞淋巴瘤的真实数据集。
2022-11-17 cs.LG stat.ME stat.ML
Assumption Lean Regression
针对传统回归模型普遍误设的问题，本文提出将模型视为真实响应曲面近似的假设精简回归框架，实现渐近无偏估计与有效推断，并推广至回归泛函。
2018-06-26 stat.ME
Naïve regression requires weaker assumptions than factor models to adjust for multiple cause confounding
Stanford University（斯坦福大学）；Hoover Institution（胡佛研究所）；Wharton School, University of Pennsylvania（宾夕法尼亚大学沃顿商学院）；Princeton University（普林斯顿大学）
在多种治疗的观察环境中，使用因子模型调整共享的、未观察到的混杂因素$\mathbf{Z}$的经验做法$\mathbf{A}$在遗传学、网络、医学和政治等领域广泛存在。Wang和Blei（2019，WB）将这些程序形式化，并开发了“反倒计时器”，这是一种因果推断方法，使用$\mathbf{A}$的因子模型估计“替代混杂因素”$\hat{\mathbf{Z}}$，然后通过对$\mathbf{A}$部分的结局$\mathbf{Y}$进行回归，同时对$\hat{\mathbf{Z}}$进行调整，来估计处理效应。WB声称，当不存在单因混杂因素时，反因素是无偏倚的，并且$\hat{\mathbf{Z}}$是“精确定位的”。“我们澄清，精确定位需要每个混淆因素影响无限多个治疗。我们证明在这些假设下，一个朴素的半参数回归的$\mathbf{Y}$对$\mathbf{A}$是渐近无偏的。因此，嵌套该回归的去卷积变量也是渐近无偏的，但是使用$\hat{\mathbf{Z}}$和原因子集的变量需要进一步的不可检验的假设。我们用可用的数据重复了每一个去倒峰分析，发现它不能始终如一地优于朴素回归。在实践中，解构者在WB的案例研究中对电影收入做出了令人难以置信的估计：估计表明漫画作家斯坦·李的客串演出贡献了155亿美元，这是漫威电影收入的大部分。我们的结论是，这两种方法都不是在现实世界中的应用仔细的研究设计的…
2020-07-24 cs.LG stat.ME stat.ML
Recycled Least Squares Estimation in Nonlinear Regression
本文考虑了非线性回归模型参数估计的一种修正方案。我们提供了一个估计过程，通过随机加权，相关的参数估计，以构建各种估计的抽样分布的相合估计。我们建立了渐近正态性的重采样估计，并证明了回收方法的适用性，在一个小的模拟研究和通过例子。
2018-12-14 math.ST stat.AP stat.ME
Densely connected neural networks for nonlinear regression
School of Mathematical and Statistical Sciences, Clemson University（克莱姆森大学数学与统计科学学院）；Faculty of Engineering, Monash University（莫纳什大学工程学院）；Faculty of Information Technology, Monash University（莫纳什大学信息技术学院）；Institute of Atmospheric Physics, Chinese Academy of Sciences（中国科学院大气物理研究所）
密集连接卷积网络（DenseNet）在图像处理中表现良好。然而，对于回归任务，卷积DenseNet可能会丢失来自独立输入特征的基本信息。为了解决这个问题，我们提出了一种新的DenseNet回归模型，其中卷积和池化层被完全连接的层取代，并且保留了原始的连接快捷方式以重用该功能。为了研究深度和输入尺寸的影响，所提出的模型进行了仔细的验证，通过广泛的数值模拟。结果给出了最佳深度（19），并建议有限的输入尺寸（低于200）。与支持向量回归、决策树回归和残差回归等基线模型相比，最优深度模型的性能最好。最后，将DenseNet回归应用于相对湿度的预测，结果显示与观测值的相关性很高（0.91），这表明我们的模型可以促进环境数据分析。
2021-07-29 cs.LG physics.ao-ph physics.data-an
Semiparametric Mixture Regression with Unspecified Error Distributions
在混合线性回归模型的拟合中，传统的方法是采用正态假设来建立误差模型，然后用极大似然估计来估计回归参数。如果违反了正常假设，则此程序无效。为了放松误差分布的正态假设，从而降低建模偏差，我们提出了具有未知误差分布的半参数混合线性回归模型。在比已有结果更弱的条件下，我们建立了一个更一般的可辨识性结果，构造了一类新的估计量，并建立了它们的渐近性质。这些渐近结果也适用于许多现有的半参数混合回归估计的渐近性质仍然未知，由于在获得它们的固有困难。利用模拟研究，我们证明了所提出的估计的优越性超过极大似然估计时，违反了正常的错误假设和可比性时，错误是正常的。对2017年新收集的马传染性贫血病毒数据进行分析，以说明新估计量的有效性。
2018-11-02 stat.ME
A Stochastic EM Algorithm with Sampling-Importance Resampling for Missing Data in Regression with Nonlinear Predictors
UCLA Department of Statistics & Data Science（加州大学洛杉矶分校统计与数据科学系）
针对非线性预测变量回归中的缺失数据问题，提出基于采样重要性重采样的随机EM算法（SIR-StEM），仅需似然成比例即可处理任意非线性变换，模拟显示低偏差且覆盖率接近名义水平。
2026-09-22 stat.ME
Nonlinear Granger Causality using Kernel Ridge Regression
本文提出名为 mlcausality 的新型算法及 Python 库，利用灵活插件架构识别非线性 Granger 因果关系。在采用径向基函数核岭回归时，该方法在模拟数据上取得了具竞争力的 AUC 分数、更精细的 p 值及更高准确率，且计算时间比现有算法缩短了一个数量级。
2023-09-10 cs.LG econ.EM stat.ME
Hypothesis Testing in Nonlinear Function on Scalar Regression with Application to Child Growth Study
提出了一种基于核机器的非线性标量函数回归模型的假设检验方法。我们的研究是由新生儿表观遗传学研究（NEST）的动机，其中感兴趣的问题是是否在9个差异甲基化区域（DMR）的任何一个预先指定的有毒金属或甲基化组与儿童生长相关。我们把儿童的生长轨迹作为功能反应，并使用非线性函数联合建模有毒金属测量。我们使用一个核机器的方法来模拟未知的功能和转换的假设没有影响到一个适当的方差分量测试。我们证明了我们提出的方法，使用模拟研究，并将其应用于分析NEST数据。
2021-06-30 stat.AP stat.ME
On Nonparametric Inference in the Regression Discontinuity Design
本文研究了非参数检验在回归不连续设计中的有效性问题。感兴趣的原假设是，在所谓的锐设计中，阈值处的平均处理效应等于预定值。我们首先表明，在大多数文献中使用的假设下，对于\emph{any}测试的权力对任何替代品是有界的大小。这一结果意味着，在这些假设下，任何具有非平凡功效的检验都会表现出尺寸失真。接下来，我们提供了一个充分加强的标准假设下，我们表明，在文献中的一个新的测试可以控制限制大小。
2016-11-15 stat.ME
Prediction Measures in Nonlinear Beta Regression Models
非线性模型经常被应用于基于经济和技术因素来确定对给定住宅单元的最佳供应天然气，或者用于拟合生物化学和药物测定非线性数据。本文提出了一类非线性beta回归模型的PRESS统计量和预测系数，即$P^2$统计量.我们的目标是同时使用预测系数和拟合优度作为模型选择标准的方案。在这个意义上，我们介绍了非线性下的贝塔回归模型的使用的模型选择标准的基础上强大的伪$R^2$统计。提供了基于预测的模型选择标准$P^2$和伪$R^2$统计的有限样本行为的蒙特卡罗模拟结果。三个应用程序的实际数据。线性应用涉及巴西圣保罗家庭使用的天然气分配。面对过高或过低估计瓦斯分布的经济风险，构造预测界限已成为必要，选择最佳预测和拟合模型构造最佳预测界限是首次应用的目的。此外，所提出的两个非线性应用还强调了考虑竞争模型的预测优度和拟合优度的重要性。
2017-05-22 stat.ME
Nonlinear quantile mixed models
在回归应用中，观测值之间存在的非线性和相关性不仅在最小二乘回归等传统设置中带来了计算挑战，而且（尤其是）在目标函数为非光滑时（如分位数回归）也带来了计算挑战。在本文中，我们开发的非线性条件分位数函数的建模和估计的方法时，数据聚集在两个水平的嵌套设计。这项工作代表了Geraci和Bottai的线性分位数混合模型的扩展（2014，统计和计算）。我们开发了一种新的算法，这是一个混合的平滑算法的分位数回归和二阶拉普拉斯近似的非线性混合模型。为了评估所提出的方法，我们提出了一个模拟研究和两个应用程序，一个在药代动力学和一个相关的农业生长曲线建模。
2019-06-07 stat.ME
Bayesian Variable Selection in Multivariate Nonlinear Regression with Graph Structures
高斯图模型（GGM）是使用精度矩阵进行依赖结构概率探索的成熟工具。我们开发了一种贝叶斯方法，将协变量信息在这个GGM设置在一个非线性看似无关的回归框架。我们提出了一个联合预测器和图选择模型，并开发了一个有效的折叠吉布斯采样算法来搜索联合模型空间。此外，我们研究了它的理论变量选择性质。我们证明了我们的方法对各种模拟数据，最后从TCPA项目的真实数据集。
2021-07-31 math.ST stat.ME stat.TH
A Double Regression Method for Graphical Modeling of High-dimensional Nonlinear and Non-Gaussian Data
图模型作为一种在大量随机变量之间推断条件独立关系的工具，在统计学中已经研究了很长时间。现有的图形建模工作主要集中在数据为高斯分布或混合分布以及变量线性相关的情况下。本文提出了一种在高维非线性和非高斯背景下学习图模型的双重回归方法，并证明了该方法在较弱的条件下是相容的.所提出的方法通过执行一系列非参数条件独立性检验。每个测试的条件集通过双回归过程减少，其中可以采用无模型确定独立性筛选过程或稀疏深度神经网络。数值结果表明，该方法对高维非线性和非高斯数据具有良好的效果。
2022-12-08 stat.CO stat.ME
Tree-based Regression for Interval-valued Data
近年来，区间数据的回归方法得到了越来越多的研究。由于大多数现有的工作集中在线性模型，它是重要的是要注意，在实践中的许多问题是非线性的性质，因此开发的非线性回归工具的区间值数据是至关重要的。本文提出了一种基于树的区间数据回归方法，该方法适用于线性和非线性问题。与线性回归模型通常需要额外的约束来确保预测区间长度的正性不同，所提出的方法以非参数的方式估计回归函数，因此预测长度在没有任何约束的情况下自然是正的。进行模拟研究，比较我们的方法流行现有的回归模型的区间值数据下的线性和非线性设置。最后，通过一个实际数据的例子，我们应用我们的方法来分析道琼斯工业平均指数及其成分股的价格区间数据。
2022-01-09 stat.CO stat.ME
Nonlinear Regression with Residuals: Causal Estimation with Time-varying Treatments and Covariates
针对时变处理与协变量下标准回归调整因果估计不一致的问题，提出带共线性调整的回归估计量，属于参数化g-formula，将带残差回归拓展至多种非线性模型，估计一致且易实现。
2024-03-10 stat.CO stat.ME
Optimal designs for nonlinear regression models with respect to non-informative priors
在非线性回归模型中，费舍尔信息依赖于模型的参数。因此，最大化信息矩阵的某些功能的最优设计不能直接实现，但需要一些关于未知参数的初步知识。贝叶斯最优性准则为这个问题提供了一个有吸引力的解决方案。这些标准敏感地依赖于模型参数的先验分布的合理规范，这可能不是在所有应用中都可用的。本文研究了无信息先验分布下的贝叶斯最优性准则。特别是，我们研究了Jeffreys和Berger-Bernardo先验，其相应的最优性准则不一定是凹的。几个例子进行了研究，最优设计相对于新的标准进行计算和比较贝叶斯最优设计的基础上统一和功能统一的先验。
2013-11-04 stat.ME
Nonlinear function-on-function regression by RKHS
提出了一个非线性函数对函数回归模型，其中协变量和响应都是随机函数。非线性回归分两步进行：首先构建Hilbert空间以容纳功能协变量和功能响应，然后为协变量构建第二层Hilbert空间以捕获非线性。第二层空间被假定为再生核希尔伯特空间，其由$X$的第一层希尔伯特空间的内积确定的正定核生成-这种结构被称为嵌套希尔伯特空间。我们开发的估计程序来实现所提出的方法，它允许在不同的时间点观察不同的主题的功能数据。此外，我们建立了我们的估计的收敛速度，以及在Hilbert空间中的预测响应的弱收敛。数值研究，包括模拟和数据应用进行调查我们的估计在有限样本的性能。
2022-07-17 math.ST stat.ME stat.TH
Relaxing the Assumption of Strongly Non-Informative Linkage Error in Secondary Regression Analysis of Linked Files
针对多源记录关联数据中的错误关联与漏链问题，本文扩展基于双成分混合模型的回归框架，放宽强非信息性关联假设，并通过模拟和案例研究验证其有效性。
2025-10-20 stat.ME
Total robustness in Bayesian Nonlinear Regression
University of Warwick（华威大学）；University College London（伦敦大学学院）
本文提出首个针对非线性回归中协变量测量误差、模型误设和误差分布误设的总稳健性贝叶斯非参数学习框架，通过联合狄利克雷过程先验和后验伪样本实现推断校准，建立泛化界并证明在非退化测量误差下的收敛性与一致性。
2026-03-24 stat.ME stat.ML
Global simulation envelopes for diagnostic plots in regression models
残差图通常用于询问回归模型的假设，但解释它们需要了解当假设得到满足时预期会有多大的抽样变异。在本文中，我们建议在残差图上构建围绕数据（或围绕拟合数据的趋势）的全局包络，利用最新的进展，通过模拟构建围绕函数的全局包络。虽然所提出的工具主要是作为一个图形化的援助，他们可以被解释为模型假设的正式测试，这使得他们的属性通过模拟实验的研究。我们考虑了三种模型情景--拟合线性模型、广义线性模型或广义线性混合模型--并探讨了围绕分位数-分位数图上的数据或围绕残差与拟合图或尺度-位置图上的趋势线构建的全局模拟包络检验的功效。在检测违反分布和线性假设方面，全球包络测试优于常用的假设测试。可免费获得的\texttt{R}软件（\texttt{ecostats::plotenvelope}）可将这些工具应用于具有\texttt{simulate}、\texttt{residuals}和\texttt{predict}函数方法的任何拟合模型。
2022-10-24 stat.ME
Iterative Estimation of Solutions to Noisy Nonlinear Operator Equations in Nonparametric Instrumental Regression
University of Göttingen（哥廷根大学）；UCL（天主教鲁汶大学）；University Mannheim（曼海姆大学）；Universite de Toulouse（图卢兹大学）
本文提出一种正则化牛顿型迭代方法，用于解决噪声积分核下的非线性积分方程，特别强调在工具回归模型中使用更强的独立性假设，以正确估计非参数回归函数。
2013-07-25 cs.NA math.NA math.ST
First derivatives at the optimum analysis (\textit{fdao}): An approach to estimate the uncertainty in nonlinear regression involving stochastically independent variables
优化分析的一个重要问题是当参数如$ \{θ_j\}_{j=1,\, \dots \,,k }$，确定一个函数$ y=f(x\given\{θ_j\}) $，必须从一组可观测量$ \{ x_i,y_i\}_{i=1,\, \dots \,,m} $中估计出来时。其中$ \{x_i\} $是假设为无不确定性的自变量。众所周知，如果$ y=f(x\givenθ_j) $是$ \{θ_{j=1,\, \dots \,,k} \}.$的线性组合，则解析解是可能的。这里提出，如果参数是\textit{stochastically independent}，则可以从最优的导数$ \tfrac{\partial f(x \given \{θ_j\})}{\partial θ_j} $来确定不是\textit{linearly independent}的参数的不确定性。
2021-06-21 stat.ME
Simultaneous Sieve Inference for Time-Inhomogeneous Nonlinear Time Series Regression
本文研究了一般局部平稳时间序列的非时齐非线性时间序列回归问题。一方面，我们提出了时变回归函数的筛分非参数估计，它可以达到最小-最大最优速率。另一方面，我们发展了一个统一的同时推理理论，可以用来进行结构和精确形式的功能测试。我们提出的统计是强大的，即使在当地弱的替代品。我们还提出了一个乘法器自举程序的实际实施。我们的方法和理论不需要对回归函数进行任何结构假设，并且我们还允许函数在无界域中得到支持。我们还建立了无界区域上二维函数的筛逼近论和高维局部平稳时间序列的仿射型和二次型的高斯逼近结果，这些结果是独立的.数值模拟和一个真实的财务数据分析提供了支持我们的结果。
2021-12-16 math.ST stat.ME stat.TH
Regression and Causality
干预的因果效应（治疗/暴露）对结果的影响可以通过以下方式进行估计：i）指定关于数据生成过程的知识; ii）评估在给定指定知识的情况下可以在什么假设下识别目标量，例如因果比值比（并且给定测量数据）;以及然后，iii）使用适当的统计估计技术来估计期望的感兴趣参数。由于回归是统计分析的基石，似乎很明显要问：使用估计的回归参数进行因果效应估计是否合适？事实证明，使用回归进行效果估计是可能的，但通常需要比竞争方法更多的假设。这份手稿提供了一个全面的总结，需要确定和估计的因果参数使用回归的假设，同样重要的是，讨论了统计实践的影响。
2021-03-04 math.ST stat.ME stat.TH
Thinking inside the bounds: Improved error distributions for indifference point data analysis and simulation via beta regression using common discounting functions
本文提出非线性 beta 回归模型以改进无差异点数据分析与模拟，自动捕捉非恒定方差、遵循数据自然边界，并通过尺度-位置-截断技巧处理零一值，且贴现率估计与标准非线性回归高度一致。
2024-06-06 stat.ME
Detection of nonlinearity, discontinuity and interactions in generalized regression models
本文针对广义回归模型中连续协变量线性假定过强的问题，提出一种基于树结构统一框架的检测算法，用于识别非线性、不连续性和交互作用并指导函数形式选择，通过模拟研究和慢性肾脏病数据验证其有效性。
2023-10-31 stat.ME
The Local Randomization Framework for Regression Discontinuity Designs: A Review and Some Extensions
回归不连续设计（RDD）是经济学和统计学中常见的准实验。用于分析RDD的最流行的方法利用基于连续性的假设和局部多项式回归，但最近的工作已经开发了基于局部随机化的替代假设。局部随机化框架通过将假设放置在截止点附近的分配机制上来避免建模假设。然而，大多数工作都集中在完全随机分配机制，这意味着倾向得分是相等的所有单位附近的截止。在我们对局部随机化框架的审查中，我们扩展了框架以允许任何分配机制，使得倾向得分可能不同。我们概述了随机化测试，可用于选择一个窗口周围的截止点，其中一个特定的分配机制是最合理的，以及估计因果关系的方法后，窗口和分配机制的选择。我们运用我们的方法来模糊RDD评估在意大利的大学辍学率的经济援助的影响。我们发现，在一个单一的RDD中设定不同的分配机制可以提供更细致的敏感性分析，以及更精确的因果关系的推断。
2019-11-05 stat.ME
Generalized Reduced-Rank Regression with Homogeneity Pursuit
本文在广义线性模型下统一研究同质性、低秩和稀疏性假设，提出正则化极大似然估计方法，证明统计一致性，并通过模拟和树种数据验证其有效性。
2025-01-25 stat.ME
Exploring the validity of the complete case analysis for regression models with a right-censored covariate
该研究针对含随机右删失协变量的回归模型，梳理了保证完整病例分析估计一致的各类假设，证明其单向层级关系并得到单一充分假设，通过模拟和亨廷顿病实例验证了方法性能与应用，厘清了实践中的困惑。
2023-03-28 stat.ME
Assessing the Impact of Model Assumptions in Network Meta-Regression: A Simulation Study
University of Freiburg（弗赖堡大学）；Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
该模拟研究评估网络Meta回归中模型假设影响，比较标准无交互NMA模型与四种NMR参数化，发现存在效应修饰时标准NMA模型高估效果，不同NMR模型在不同网络结构等下有不同表现，合理匹配可减少偏差，支持可靠医学决策。
2026-07-21 stat.ME
Robust inference for geographic regression discontinuity designs: assessing the impact of police precincts
研究利用地理断点回归设计估计纽约市警察辖区对逮捕率的局部处理效应，提出一种基于重采样且在更弱假设下稳健的检验方法，适用于数值与点过程数据。
2025-06-29 stat.AP stat.ME
Bayesian Model Selection for Misspecified Models in Linear Regression
虽然贝叶斯信息准则（BIC）和赤池信息准则（AIC）是线性回归中模型选择的强大工具，但它们建立在不同的先验假设上，因此适用于不同的数据生成场景。我们表明，在有限维的情况下，他们各自的假设可以统一在一个增广的模型加噪声空间，并在这个空间中构建一个先验继承了AIC和BIC的有益特性。这使我们能够调整BIC，使其对信噪比较低的错误指定模型具有鲁棒性。
2017-12-14 stat.ME
Valid Post-selection Inference in Assumption-lean Linear Regression
基于数据驱动选择的估计量有效统计推断的构造近年来受到了广泛关注。Berk等人（2013）可能是第一个在任意协变量/变量选择下为具有固定协变量的高斯同方差线性回归提供有效推断的工作。该设置是不现实的，Bachoc et al.（2016）通过放松分布假设进行了扩展。上述工作的一个主要缺点是有效置信区域的构造是计算密集的。本文首先证明了后选择推理等价于同时推理，然后构造了计算简单的有效后选择置信区域。我们的构造是基于确定性不等式和适用于独立以及相关的随机变量，而不需要正确的分布假设。最后，我们比较了我们的置信区域与现有的体积，并表明在非随机协变量，我们的区域要小得多。
2018-06-11 math.ST stat.ME stat.TH
The M-estimator in a multi-phase random nonlinear model
本文研究了在未知时刻具有多个变点的非线性回归模型的M-估计。多阶段随机设计回归模型在每个变点处不连续，具有任意误差$ε$。在已知跳数的情况下，研究了突变点位置和回归参数的M-估计。这些估计是相容的，回归参数估计的分布是高斯分布。每个变点的估计量以速率$n^{-1}$收敛到独立复合Poisson过程的最小极小值。这些结果对一大类误差分布都是有效的。
2008-09-22 math.PR math.ST stat.ME
Semiparametric copula-based quantile regression for semicontinuous outcomes with application to healthcare data
Department of Mathematics and Statistics, University of Windsor（温莎大学数学与统计系）
本文提出了一种半参数化copula基础的两阶段分位数回归框架，用于分析具有零点质量和连续正部分的半连续结果，通过copula条件分布链接发生和幅度过程，展示非线性依赖和协变量效应的灵活性，且在非线性依赖和显著零膨胀情况下优于logistic/线性回归。
2026-03-14 stat.ME
Bayesian Quantile Deep Echo State Networks for Nonlinear Time Series
University of California, Santa Cruz（加州大学圣克鲁兹分校）
针对高维非线性时间序列的贝叶斯分位数回归难题，提出基于深度回声状态网络固定特征的Q-DESN模型，采用多种似然与先验，并通过MCMC或变分推断实现，实验证明其能提升有限网格分位数评分。
2026-09-17 stat.ME
Using relative weight analysis with residualization to detect relevant nonlinear interaction effects in ordinary and logistic regressions
相对权重分析是检测模型中的一个变量或交互作用是否相关的经典工具。在这项研究中，我们专注于使用限制三次样条构造非线性相互作用的相对权重。我们的目标是提供一个可访问的方法来分析一个多变量模型，并确定一个子集与最具代表性的变量集。此外，我们开发了一个程序，同时处理控制，固定，自由和相互作用项的剩余重量分析。交互作用相对于其主效应适当地残差化，以在模型中保持其真实效应。我们使用两个模拟的例子来测试这种方法。
2021-08-27 stat.CO stat.ME
Softplus Regressions and Convex Polytopes
为了构造灵活的非线性预测分布，本文介绍了一个家庭的softplus函数为基础的回归模型，卷积，堆叠，或结合这两种操作通过卷积可数无限堆叠Γ分布，其规模取决于协变量。广义逻辑斯谛回归使用单个超平面将协变量空间划分为两半，softplus回归使用多个超平面来构建一个有限空间，该有限空间与由多个半空间的交集或多个凸多面体的并集定义的单个凸多面体相关，以将一个类与另一个类分开。引入伽马过程以支持可数无限（堆叠）协变量依赖的Γ分布的卷积。对于贝叶斯推断，使用经由新颖的数据增强和边缘化技术导出的吉布斯抽样来对高度复杂的非线性预测分布进行去卷积和/或去混合。实例结果表明，softplus回归提供灵活的非线性决策边界，实现分类精度相媲美的内核支持向量机，同时需要显着减少计算的样本预测。
2016-08-23 stat.ME stat.ML
State-domain Change Point Detection for Nonlinear Time Series Regression
时间序列中的变化点检测已经引起了人们的极大兴趣，但是现有的大多数结果都集中在检测时域中的变化点。本文研究非线性时间序列在状态域中存在潜在变点的情况。我们应用密度加权反对称核函数的状态域，因此提出了一个非参数的程序来测试存在的变化点。当变点的存在是肯定的，我们进一步介绍了一个算法来估计的变点的数量和它们的位置。给出了所提出的检测和估计过程的理论结果，并使用一个真实的数据集来说明我们的方法。
2021-11-19 eess.SP math.ST stat.ME
Simultaneous Sieve Estimation and Inference for Time-Varying Nonlinear Time Series Regression
本文研究局部平稳时间序列的时变非线性回归，提出具有一致收敛性的筛非参数估计量，发展了统一的同时推断理论及乘子自助法，并开发了R包SIMle辅助实现。
2025-06-29 math.ST stat.ME stat.TH
Assumption-lean Inference for Network-linked Data
针对网络关联回归中潜特征使经典假设难成立的问题，提出联合可交换回归阵列的弱假设线性回归框架，建立相关表示与推断性质，用偏差校正估计量改进稀疏条件下的推断，并通过模拟和真实数据验证。
2025-09-30 math.ST stat.ME stat.TH
Cubature-based uncertainty estimation for nonlinear regression models
针对非线性回归模型参数校准后的不确定性问题，提出基于稀疏网格求积公式的回归结果方差计算方法，求积点数量接近理论最小值，经基准对比验证后应用于NRTL模型的预测不确定性估算。
2024-09-13 cs.NA math.NA stat.ME
