A simulation study comparing statistical approaches for estimating extreme quantile regression with an application to forecasting of fire risk
本研究通过模拟框架比较了多种极值分位数回归估计方法在火灾风险预测中的表现，发现最高气温与火灾频率正相关，并提出混合策略以提升极端事件预测的准确性与可解释性。
2025-06-29 stat.ME
A Geometric View on Constrained M-Estimators
本文研究了约束M-估计的估计误差，给出了由约束集的高斯宽度决定的期望估计误差的上界。考虑了真参数在约束集的边界上（匹配约束）和真参数严格在约束集中（失配约束）的两种情况。对于这两种情况，我们得到了新的通用估计误差界的广义线性模型与典型的链接功能。我们的误差界的不匹配的约束条件下，是最小最大最优的样本量的依赖，高斯线性回归的套索。
2015-06-26 math.ST stat.TH
Asymptotic Expansion of Risk for a Regression Model with respect to $α$-Divergence with an Application to the Sample Size Problem -- Complete Version
对于一个回归模型，我们考虑了极大似然估计关于$α$ -发散的风险，其中包括Kullback-Leibler发散、Hellinger距离和$χ^2$发散的特殊情况.风险相对于样本量$n$的渐近展开给出了$n^{-2}$阶。我们感兴趣的是风险收敛速度（到零）是如何受到回归模型的误差项分布和标准化解释变量的联合矩的大小的影响。除了一般结果（由Mathematica程序给出）外，我们还考虑了三种具体的误差项分布：正态分布、t分布和斜正态分布。我们使用m.l.e.的（近似）风险。作为回归模型估计难度的度量。特别是将近似的风险值与二项分布的风险值进行比较，可以为估计回归模型所需的样本量给出一定的标准。
2017-09-09 math.ST stat.TH
Asymptotic properties in the Probit-Zero-inflated Binomial regression model
零膨胀回归模型近年来得到了广泛的应用，并被证明在建模具有许多零的数据时是有用的。零膨胀二项分布（ZIB）回归模型是普通二项分布的推广，它考虑了零的过剩。在比较的概率单位模型的逻辑模型，许多作者认为，在大多数情况下，涉及二进制响应选择一个配方在其他几乎没有理论依据。Logit模型被认为在计算上更简单，但它基于一个更严格的误差独立性假设，尽管许多其他概括也处理了这个假设。相比之下，概率单位模型假设随机误差服从多元正态分布。这个假设使得概率单位模型具有吸引力，因为正态分布提供了许多其他分布的良好近似。本文给出了两个分量都具有概率单位连接函数的零膨胀二项回归模型参数的极大似然估计方法。我们建立了估计量的相合性和渐近正态性。
2021-05-02 math.ST stat.TH
Deconvolution with Unknown Error Distribution Interpreted as Blind Isotonic Regression
反褶积是一个基于噪声观测值估计随机变量分布的统计逆问题。尽管对这一主题进行了广泛的研究，但未知噪声分布的反卷积仍然是一个众所周知的难题。我们提出了一个基于矩阵的集体反卷积的观点，作为一个特殊情况下，包含重复测量的设置。作为主要结果，我们描述了一个简单的算法，部分利用矩阵结构来解决反卷积问题，并提供了非渐近误差分析的算法。我们表明，该算法实现了最小最大最优速率的反卷积在一个限制的意义。我们还注意到集体反卷积和所谓的统计序列化作为副产品或我们的矩阵观点之间的联系。我们推测，这种联系表明，集体反卷积，以及与重复测量的反卷积，本质上比通常的反卷积的一个单一的分布。
2020-04-02 math.ST stat.TH
Model-free Study of Ordinary Least Squares Linear Regression
普通最小二乘（OLS）线性回归是数据分析中最基本的统计技术之一。在主流文献和统计教育中，对线性回归的研究通常局限于协变量固定、误差为均值零且方差与（固定）协变量无关的情况。尽管早在20世纪60年代，OLS就在错误规范下进行了研究，但其含义尚未赶上主流文献和应用科学。本文是一个统一的观点，使各种影响的错误规范站出来的尝试。
2018-09-27 math.ST stat.TH
Assessing and Comparing Fixed-Target Forecasts of Arctic Sea Ice: Glide Charts for Feature-Engineered Linear Regression and Machine Learning Models
本研究用glide charts评估北极海冰固定目标预测，对比了特征工程线性回归（FELR）、朴素纯趋势基准及更复杂的特征工程机器学习（FEML）模型，发现存在月度差异的可预测性阈值，且FEML在拐点月份1-3个月提前量预测上显著优于FELR。
2023-06-08 econ.EM stat.AP
Comparing dominance of tennis' big three via multiple-output Bayesian quantile regression models
网球在其历史上有无数伟大的男子网球运动员，我们经常对讨论谁是有史以来最伟大的球员感兴趣。虽然我们不试图在这里回答这个问题，但我们深入研究了一些关键的统计数据，这些数据与目前拥有最多大满贯冠军的男性球员对对手的统治力有关：德约科维奇，费德勒和纳达尔，按字母顺序排列。在这里，我们考虑了他们在每场比赛中的上场时间和相对分数，作为对其他球员的统治力的衡量标准。我们考虑了重要的协变量，如表面，输赢，比赛类型以及他们的对手是否是世界排名前20位的球员，以创建一个更完整的比较他们的表现。我们考虑了多输出响应变量的贝叶斯分位数回归模型，以考虑分钟和相对点之间的依赖关系。这种方法很有说服力，因为我们不需要为响应变量的联合概率分布选择概率分布。我们的研究结果与纳达尔在红土球场的优势，费德勒在草地球场的优势和德约科维奇在硬地球场的优势的共同直觉一致，因为他们在这些表面上的成功;虽然纳达尔在红土球场的统治地位是独一无二的。费德勒在获胜的比赛中表现出了他在球场上花费的时间上的优势，而德约科维奇在考虑相对得分的维度时占据了优势。虽然分钟可以直接与比赛风格联系起来，但相对积分维度可以更直接地表达对对手的不同优势水平，其中德约科维奇似乎是这项分析的整体领导者。
2021-11-10 stat.AP
MM Algorithms for Statistical Estimation in Quantile Regression
本文针对线性分位数回归的统计估计问题构建并测试易于编码的 MM 算法，并通过模拟比较与多组真实数据应用验证其有效性。
2025-02-17 stat.AP stat.CO stat.ME
Goodness-of-fit tests for parametric regression models with circular response
本文提出了一种用于评估具有圆形响应和$\mathbb{R}^d$值协变量的参数回归模型的检验方法，并分析了独立和空间相关数据。检验统计量基于比较（非平滑或平滑）参数圆形估计量和非参数圆形估计量的圆形距离。适当设计的引导程序校准测试在实践中也提出。有限样本性能的测试在不同的情况下，独立和空间相关的样本，通过模拟分析。
2020-08-31 stat.ME
Reliable Prediction Intervals for Local Linear Regression
IFSTTAR-COSYS-LIVIC（法国国家运输与安全研究所-车辆-基础设施-驾驶员交互实验室）
本文介绍了两种估计局部线性最小二乘回归可靠预测区间的方法，即有界振荡预测区间（BOPI）。提出了一种新的区间预测模型比较方法--等效高斯标准差（EGSD）。实验结果比较BOPI与其他方法使用覆盖概率，平均区间大小和引入EGSD措施。在考虑的基准回归数据集上，结果通常有利于BOPI。它还报告了验证BOPI方法可靠性的模拟研究。
2016-07-12 cs.LG stat.ME
A goodness-of-fit test for regression models with spatially correlated errors
针对空间相关误差下的参数回归模型评估问题，提出基于$L_2$距离的拟合优度检验，推导渐近性质并设计bootstrap校准程序，通过模拟和真实数据验证了性能与适用性。
2024-02-01 stat.ME
Rayleigh Regression Model for Ground Type Detection in SAR Imagery
这封信提出了一个非负信号的回归模型。提出的回归估计的结构，其中包括一组回归和链接函数的瑞利分布信号的平均值。对于所提出的模型，我们提出：（i）~参数估计;（ii）~大数据记录结果;和（iii）~检测技术。在这封信中，我们提出了封闭形式的表达式的得分向量和费舍尔信息矩阵。提出的模型提交广泛的蒙特卡罗模拟和测量数据。蒙特卡罗模拟被用来评估极大似然估计的性能。此外，一个应用程序进行比较所提出的模型与高斯，伽玛，威布尔为基础的回归模型在SAR图像的检测结果。
2022-07-23 eess.IV eess.SP physics.data-an
Multivariate Log-Contrast Regression with Sub-Compositional Predictors: Testing the Association Between Preterm Infants' Gut Microbiome and Neurobehavioral Outcomes
所谓的肠-脑轴刺激了对微生物组的广泛研究。一个重点是评估某些临床结果与肠道微生物的相对丰度之间的关联，其可以呈现为符合细菌分类层次的亚组成数据。受一项用于识别早产儿肠道微生物组中影响其后期神经行为结果的微生物的研究的启发，我们制定了一种约束综合多视图回归，其中神经行为评分形成多变量响应，子组成微生物组数据形成多视图特征矩阵，并且对其相应子系数矩阵的一组线性约束确保符合单纯形几何。为了实现子组成/视图的联合选择和推断，我们假设所有子系数矩阵可能是低秩的，即，这些结果通过来自不同分类群的不同的潜在亚组成因子组与微生物组相关联。我们提出了一个规模化的复合核范数惩罚模型估计的方法，并通过去偏置来评估不同观点的重要性，开发了一个假设检验程序。仿真研究证实了所提出的程序的有效性。在早产儿研究中，鉴定出的微生物大多与现有研究和生物学理解一致。我们的方法支持压力的早期生活经历通过调节肠-脑轴来影响肠道微生物组。
2020-05-31 stat.AP stat.ME
Consistency of cross validation for comparing regression procedures
交叉验证（CV）的理论发展主要集中在从有限维模型列表中选择一个（例如，线性回归中的子集或顺序选择）或选择平滑参数（例如，内核平滑的带宽）。然而，很少有人知道交叉验证的一致性时，适用于参数和非参数方法之间的比较，或在非参数方法。我们表明，在某些条件下，与一个适当的选择数据分裂比，交叉验证是一致的，在这个意义上选择更好的程序与概率接近1。我们的研究结果揭示了交叉验证的有趣行为。当比较以相同非参数率收敛的两个模型（程序）时，与参数情况相反，结果表明CV中用于评价的数据比例不需要在大小上占主导地位。此外，它甚至可以比用于估计的比例更小，而不影响一致性属性。
2008-03-20 math.ST stat.TH
Differential Equation-Constrained Exponential-Type Local Polynomial Regression Under Model Misspecification
The University of British Columbia Okanagan（不列颠哥伦比亚大学奥肯那根分校）
研究模型误设问题，提出受微分方程约束的回归框架，利用局部多项式回归技术，聚焦局部指数增长模型，通过模拟研究比较不同估计量在两种误设场景下的表现，评估模型稳健性。
2026-07-29 stat.CO stat.ME
Deep Distribution Regression
North Carolina State University（北卡罗来纳州立大学）；University of Melbourne（墨尔本大学）
由于其灵活性和预测性能，基于机器学习的回归方法已成为预测建模和预测的重要工具。然而，大多数方法侧重于估计目标量的条件均值或特定分位数，而不提供完整的条件分布，其中包含可能对决策至关重要的不确定性信息。在这篇文章中，我们通过将条件分布估计问题转化为约束多类分类问题，提供了一种通用的解决方案，其中使用了深度神经网络等工具。我们提出了一种新型的联合二进制交叉熵损失函数来实现这一目标。我们证明了它的性能在各种模拟研究相比，国家的最先进的竞争方法。此外，我们的方法在概率太阳能预测问题中显示出更高的精度。
2019-03-14 cs.LG stat.ME stat.ML
Wavelet regression and additive models for irregularly spaced data
University of Washington（华盛顿大学）
提出了一种基于小波基函数的非参数回归新方法。我们的提案$\texttt{waveMesh}$可应用于非等间距数据，其样本量不一定是2的幂。我们开发了一个有效的近似梯度下降算法计算的估计，并建立自适应极小极大收敛速度。我们的方法的主要吸引力是，它自然地扩展到潜在的大量协变量的加性和稀疏加性模型。证明了稀疏可加模型在弱相容条件下的极小极大最优收敛速度。当我们有少量协变量时，相容性条件成立。此外，我们建立收敛速度时，条件不满足。我们补充我们的理论结果与实证研究比较$\texttt{waveMesh}$现有的方法。
2019-03-11 cs.LG stat.ML
Machine-Learning-Assisted Comparison of Regression Functions
针对回归函数比较这一经典统计问题受维数灾难限制的痛点，提出基于核的条件均值依赖广义概念，构建两种结合机器学习的灵活检验方法，在高低维场景下均有效且假设条件更弱，经数值研究验证了效能。
2025-10-28 econ.EM stat.ME stat.ML
Variable Importance in Generalized Linear Models -- A Unifying View Using Shapley Values
Universität Basel（巴塞尔大学）
本文提出基于Kullback-Leibler散度的伪R平方，用于广义线性模型中变量重要性的统一分析。
2026-01-02 stat.ME
Comparing regularisation paths of (conjugate) gradient estimators in ridge regression
Institute of Mathematics, Humboldt-Universität zu Berlin（柏林洪堡大学数学研究所）；Department of Statistics and Operations Research, University of Vienna（维也纳大学统计与运筹学系）
本文比较了岭回归中共轭梯度估计器与梯度流的正则化路径，揭示了共轭梯度迭代在预测误差上的统计特性及其与梯度流的相似性。
2026-01-29 math.ST stat.ML stat.TH
Optimal designs for comparing regression curves -- dependence within and between groups
我们考虑的问题，设计实验的比较两个回归曲线描述的预测和两组之间的反应，其中组内和组间的数据可能是依赖的关系。为了得到有效的设计，我们使用随机分析的结果，以确定相应的连续时间模型中的最佳线性无偏估计（BLUE）。它表明，在一般情况下，同时估计使用的数据从两组产生更精确的结果比估计的参数分别在两个组。利用同时估计的BLUE，通过最小化连续时间模型的最优解与其离散逼近之间的均方误差，构造了有限样本量下的有效线性估计量.最后，通过最小化两个回归函数之差的同时置信带的最大宽度来确定最优设计点。新方法的优点说明了通过模拟研究，其中它表明，使用的最优设计产生比均匀设计的应用程序的置信带大幅收窄。
2021-01-14 math.ST stat.ME stat.TH
Comparing Scale Parameter Estimators for Gaussian Process Interpolation with the Brownian Motion Prior: Leave-One-Out Cross Validation and Maximum Likelihood
本文从理论上比较了高斯过程回归中留一交叉验证与最大似然估计在布朗运动核尺度参数估计上的表现，证明交叉验证对更广泛的真实函数具有渐近良好校准的置信区间，并提出适应性更强的内部交叉验证方法。
2025-08-21 math.ST stat.TH
Integrative Multi-View Reduced-Rank Regression: Bridging Group-Sparse and Low-Rank Models
在科学和工程的各个领域中，已经常规地收集多视图数据。一个普遍的问题是研究多变量响应和多视图预测器集之间的预测关联，所有这些都可以是高维的。很可能只有少数视图与预测相关，并且每个相关视图内的预测因子共同而不是稀疏地对预测做出贡献。我们投下熟悉的多元回归框架下的这个新问题，并提出了一个综合降秩回归（iRRR），其中每个视图都有自己的低秩系数矩阵。因此，以监督的方式从每个视图中提取潜在特征。对于模型估计，我们提出了一种凸复合核范数惩罚方法，该方法通过交替方向乘子法实现了一种有效的算法。扩展到非高斯和不完整的数据进行了讨论。在理论上，我们在一个限制的特征值条件下得到了iRRR的非渐近预言界。我们的结果恢复了iRRR的几个特殊情况下，包括Lasso，组Lasso和核范数惩罚回归的预言界。因此，iRRR无缝地桥接了组稀疏和低秩方法，并且可以在多视图学习的现实设置下实现更快的收敛速度。模拟研究和应用程序中的纵向研究老化进一步展示了所提出的方法的有效性。
2018-07-26 math.ST stat.ME stat.ML
Identifying shifts between two regression curves
本文研究了两个凸（凹）回归函数在两个样本中的响应和协变量之间的关系是否因水平和/或垂直轴的移动而不同的问题。我们考虑一个非参数的情况下，假设只有光滑的回归函数。一个图形工具的基础上的衍生物的回归函数及其逆提出了回答这个问题，并研究了几个例子。我们还正式提出了相应的假设，并开发了一个统计检验这个问题。在原假设和局部替换下，研究了相应检验统计量的渐近性质。与大多数关于比较形状不变模型的文献相反，这需要独立的数据，该过程适用于依赖和非平稳数据。我们还通过一个小的模拟研究和一个真实数据的例子说明了新的测试的有限样本性质。
2019-08-12 math.ST stat.TH
