Functional Regression with Nonstationarity and Error Contamination: Application to the Economic Impact of Climate Change
本文针对存在非平稳动态与误差污染的函数型回归模型,提出基于自协方差的估计与推断方法,并将其应用于评估气候变化的全球经济影响。
2025-10-01 econ.EM stat.ME
The shooting S-estimator for robust regression
针对最小二乘法对异常值不稳健及传统S-estimation降权完整观测导致信息丢失的问题,提出shooting S-estimator,结合坐标下降算法与简单S-regression,在丧失回归等变性代价下实现对逐分量污染的稳健性。
2015-06-03 stat.ME
Robust Nonparametric Regression under Huber's $ε$-contamination Model
Carnegie Mellon University(卡内基梅隆大学)
考虑Huber的$ε$ -污染模型下的非参数回归问题,其中观测值的$ε$部分受到任意对抗性噪声的影响.我们首先表明,一个简单的本地binning中位数步骤可以有效地消除对手的噪声,这个中位数估计是最小最大最优的绝对常数的Hölder函数类的平滑参数小于或等于1。此外,当底层函数具有较高的平滑度时,我们表明使用局部分箱中值作为预处理步骤来去除对抗性噪声,然后我们可以在中值之上应用任何非参数估计。特别是,我们展示了本地中值装箱,然后核平滑和本地多项式回归实现极小极大的Hölder和Sobolev类与任意平滑参数。我们的主要证明技术是对手噪声和随机噪声的解耦分析,这可以潜在地应用于其他鲁棒估计问题。我们也提供了数值结果来验证我们所提出的方法的有效性。
2018-05-26 cs.DS cs.LG math.ST
Robust Dual-Regularized Variable Selection under Outlier Contamination
Case Western Reserve University(凯斯西储大学);University of North Dakota(北达科他大学);CNRS UMR 6205, Univ Bretagne Sud(法国国家科学研究中心联合研究实验室第6205号,南布列塔尼大学)
针对外点污染下单指标模型的变量选择问题,提出两阶段稀疏中位数梯度外积(smOPG)方法,结合中位数回归与局部加权实现鲁棒性,模拟与实证均优于现有方法。
2026-09-21 stat.CO stat.ME stat.ML
Wrapped Gaussian Process Functional Regression Model for Batch Data on Riemannian Manifolds
本文针对黎曼流形上的批量函数型数据,提出一种同时估计均值与协方差结构的包裹高斯过程并发回归模型,以刻画流形值响应与欧氏协变量间的非线性关系,并在模拟与真实数据上验证了其有效性。
2024-09-05 stat.ME
Robust Extrinsic Regression Analysis for Manifold Valued Data
近年来,由于流形在科学和工程的各个领域中的重要作用,对流形上的数据分析的需求越来越大。在文献中的流形值数据分析到现在为止,然而,只有少数的工作已经进行了有关的鲁棒性估计对噪声,离群值,和其他来源的扰动。在这方面,我们引入了一种新的外在框架,用于以稳健的方式分析流形值数据。首先,通过扩展几何中值的概念,我们提出了一个新的鲁棒流形上的位置参数,所谓的外中值。通过将条件外中值引入经典的局部多项式回归方法,提出了一种稳健的外回归方法。我们提出了Weiszfeld的算法实现所提出的方法。我们的方法对现有的方法的良好表现,通过仿真研究说明。
2021-01-28 stat.ME
Robust nonparametric regression based on deep ReLU neural networks
本文提出基于$\ell$-估计的深度ReLU神经网络稳健非参数回归方法,通过估计条件分布抵御污染和异常值,并在Hölder光滑性及复合结构假设下取得极小极大最优速率且规避维度灾难。
2023-10-31 stat.ME
Robust functional regression model for marginal mean and subject-specific inferences
我们引入灵活的强大的功能回归模型,使用各种重尾过程,包括学生$t$过程。我们提出了有效的算法,在估计参数的边际平均值推断和预测条件的手段,以及内插和外推的主题特定的推断。我们开发的自助预测区间的条件均值曲线。数值研究表明,该模型提供了强大的分析,对数据污染或分布误指定,和建议的预测区间保持名义置信水平。一个真实的数据应用程序作为一个说明性的例子。
2017-05-16 stat.ME
Confidence Intervals for Linear Models with Arbitrary Noise Contamination
University of Chicago(芝加哥大学);Yale University(耶鲁大学)
本文研究了在Huber污染模型下线性回归置信区间构造问题,提出了一种无需先验知识的算法,通过Z估计框架和预处理步骤构建置信区间,具有均匀覆盖性和最优长度。
2026-04-02 math.ST stat.ME stat.TH
Multivariate distance matrix regression for a manifold-valued response variable
在本文中,我们提出了使用测地距离结合多元距离矩阵回归,称为几何MDMR,作为一个强大的第一步分析方法,流形值数据。流形值数据越来越频繁地出现在从地震分析到大脑模式分析的文献中。考虑这些数据的结构会增加分析的复杂性,但可以根据数据获得更多可解释的结果。为了测试几何MDMR,我们开发了一种方法来模拟功能连接矩阵的fMRI数据进行模拟研究,这表明我们的方法优于目前的标准,在fMRI分析。
2022-02-11 stat.ME
Posterior Robustness with Milder Conditions: Contamination Models Revisited
本文重新审视污染模型,给出后验稳健性更温和的充分条件,并证明 Student-t 误差分布也能实现后验稳健性。
2024-04-03 math.ST stat.ME stat.TH
Manifold Regression
Department of Statistics, Purdue University(普渡大学统计系)
本文针对非一一输入-输出关系提出流形回归框架,采用正则化轮廓优化学习潜在流形,实现集合值预测,兼具理论支撑与稳定性能,拓展了传统预测学习的适用范围。
2026-10-09 stat.ME
A New Robust Regression Method Based on Minimization of Geodesic Distances on a Probabilistic Manifold: Application to Power Laws
在用于导出发生在各种科学学科中的标度律的回归分析中,通常应用标准回归方法,其中普通最小二乘(OLS)是最流行的。在许多情况下,OLS的基本假设没有得到满足,并提出了其他几种方法。然而,大多数技术仅解决了OLS的部分缺点。我们在这里讨论一个新的和更一般的回归方法,我们称之为测地线最小二乘回归(GLS)。该方法是基于概率流形上的Rao测地距离的最小化。对于幂律的情况,我们证明了在数据和回归模型都存在显着不确定性的情况下,该方法对合成数据的鲁棒性。然后,我们表现出良好的性能的方法在磁约束聚变的标度律的应用。
2015-09-22 stat.ME
Extrinsic Gaussian processes for regression and classification on manifolds
高斯过程(GP)被广泛用于从回归到分类到空间过程的应用中的未知函数或曲面的建模。虽然有越来越多的文献的应用程序,方法,理论和算法相关的全球定位系统,绝大多数的文献集中在输入域对应于欧几里德空间的情况下。然而,特别是近年来随着复杂数据的收集越来越多,通常情况下,输入域不具有这样简单的形式。例如,输入被限制在非欧几里德流形上是很常见的,这种情况形成了本文的动机。特别是,我们提出了一个通用的外在框架GP流形上建模,这依赖于嵌入到一个欧氏空间的流形,然后构建外在的内核GP的图像。这些外部高斯过程(eGP)被用作贝叶斯推断中未知函数的先验分布。我们的方法是简单和一般的,我们表明,eGP继承优良的理论性质,从GP模型在欧氏空间。我们认为我们的模型的回归和分类问题的预测躺在一个大类的流形,包括领域,平面形状空间,空间的正定矩阵,和格拉斯曼。我们的模型可以很容易地被生物科学的从业者用于各种回归和分类问题,如疾病诊断或检测。我们的工作也有可能在空间统计学的影响,当空间位置是在球体或其他几何空间。
2017-06-27 stat.ME
Climate change analysis from LRD manifold functional regression
针对高云底大气压力预测向下太阳辐射通量球面图的问题,提出强相关函数数据下的非线性函数回归模型,结合潜在线性函数回归与加性长记忆流形误差项,实现GLS估计,扩展纯空间分析至时空场景并验证性能。
2025-02-14 stat.ME
Regression with genuinely functional errors-in-covariates
测量误差对协变量的污染是多元回归中的一个经典问题,众所周知,如果不考虑这种污染,可能会导致参数估计量的实质性偏差。这种对统计推断的影响的性质和程度也被理解为主要取决于所讨论的测量误差的具体分布特性。在处理函数协变量时,测量误差迄今为止一直被建模为观测网格上的加性白噪声。这样的设置隐含地假设误差纯粹在离散采样阶段出现,否则模型只能在弱(随机微分方程)意义上看待,白噪声不是二阶过程。偏离这个简单的分布设置可能会对推理产生严重的后果,类似于多变量的情况,当前的方法论将崩溃。本文考虑了允许加性测量误差为有效随机过程的情形。我们提出了一种新的估计的斜率参数在一个功能性的线性模型,标量以及功能性的反应,在这个一般的测量误差规格的存在。建议的估计的灵感来自多元回归校准方法,但取决于最近的进展矩阵完成方法的功能数据,以处理非平凡(和未知)的误差协方差结构。所提出的估计量的渐近性质。我们使用模拟来探测所提出的斜率估计器的性能,并观察到它大大改善了基于错误观测的谱截断估计器,即,忽略测量误差。我们还研究了步态周期中髋关节和膝关节角度曲线的真实数据集上的估计量的行为。
2017-12-12 stat.ME
Ultrahigh-dimensional Robust and Efficient Sparse Regression using Non-Concave Penalized Density Power Divergence
我们提出了一种基于非凹惩罚密度功率发散损失函数的稀疏回归方法,该方法在非常高维的情况下对无穷小污染具有鲁棒性。现有的稀疏鲁棒回归方法都是基于$\ell_1$ -惩罚的,其理论性质还没有得到很好的研究。相比之下,我们使用一个通用类的折叠凹罚,确保稀疏恢复和一致的估计回归系数。我们提出了一个交替算法的凹凸过程的基础上获得我们的估计,并证明其鲁棒性使用影响函数分析。在一定的固定设计矩阵和罚函数条件下,证明了该估计在超高维情形下具有大样本预言性质。通过仿真研究证明了我们所提出的参数估计和预测方法的性能和有效性。
2020-07-28 stat.ME
Multivariate Intrinsic Local Polynomial Regression on Isometric Riemannian Manifolds: Applications to Positive Definite Data
本文提出等距黎曼流形上的多变量内蕴局部多项式回归方法,推导欧几里得拉回度量下的闭合解与渐近性质,在对称正定流形实验中验证其性能优势,并实现内蕴Rie-SNE可视化方法。
2023-05-02 stat.ME
Nonparametric Regression with Measurement Error in Banach Spaces
University of Mississippi Medical Center(密西西比大学医学中心);Millsaps College(米尔斯普斯学院)
本文提出一个不依赖内积结构的统一框架,用于Banach空间值预测变量的非参数回归,处理测量误差,建立大样本理论,并扩展至误差变量和部分污染模型。
2026-09-15 math.ST stat.ME stat.TH
BSNMani: Bayesian Scalar-on-network Regression with Manifold Learning
本文提出 BSNMani 贝叶斯标量对网络回归框架,通过网络流形学习和联合预测建模提取脑连接特征并关联临床表型,结合 MALA 与 Gibbs 抽样完成后验推断,在模拟和 MDD 静息态 fMRI 数据中验证了预测与解释能力。
2024-10-03 stat.ME
Robust and Sparse Generalized Linear Models for High-Dimensional Data via Maximum Mean Discrepancy
Institute of Supply Chain Analytics and International Business College, Dongbei University of Finance and Economics(东北财经大学供应链分析研究所与国际商学院);Department of Mathematics and Statistics, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校数学与统计系)
针对高维数据中的异常值和重尾噪声,提出基于最大均值差异(MMD)的惩罚广义线性模型,通过ℓ1惩罚和ADMM算法实现鲁棒估计与变量选择,在模拟中优于传统方法。
2026-06-05 stat.ME
Random Forest regression for manifold-valued responses
越来越多的生物医学和计算机视觉应用需要对复杂数据(例如图像和形状)进行预测建模。预测这些物体的主要挑战在于它们不符合欧几里得几何的假设。相反,它们占据了非线性空间,也就是流形,其中难以定义诸如坐标、向量和期望值之类的概念。在这项工作中,我们构建了一个非参数的预测方法的流形值的对象,基于距离修改的随机森林算法。我们的方法是通用的,可以应用在响应空间是一个定义良好的流形的情况下,而且当这样的知识是不可用的。模型拟合和预测阶段只需要为观察到的响应定义一个合适的距离函数。我们使用模拟验证我们的方法,并将其应用于一系列说明性的图像完成应用程序,展示了优越的预测性能,与各种既定的回归方法相比。
2017-02-15 stat.ME stat.ML
Skeleton Regression: A Graph-Based Approach to Estimation with Manifold Structure
本文提出了一种新的回归框架,用于处理具有噪声的低维流形上的大规模复杂数据,通过构建图结构并应用非参数回归技术来估计回归函数。
2026-03-14 cs.LG stat.ME stat.ML
Robust spatial scalar-on-function regression: A Fisher-consistent redescending M-estimation approach
Yildiz Technical University(耶尔德兹理工大学);Marmara University(马尔马拉大学);Macquarie University(麦考瑞大学)
本文提出一种稳健的空间标量-函数回归估计方法,通过稳健的函数主成分分析和偏修正的M估计方程,解决传统方法对垂直异常值和空间依赖性不稳定的问题。
2026-05-01 stat.AP stat.ME
Vector Quantile Regression on Manifolds
Sapienza, University of Rome(罗马第一大学(萨皮恩扎大学));Technion(以色列理工学院);Sibylla(西比拉(机构名))
本文利用最优传输和c-凹函数,将向量分位数回归推广到流形上,定义了条件向量分位数函数,支持分位数估计、回归及置信集计算,并通过实验验证了方法的有效性。
2024-02-07 cs.LG stat.ME
Unified Heat Kernel Regression for Diffusion, Kernel Smoothing and Wavelets on Manifolds and Its Application to Mandible Growth Modeling in CT Images
University of Wisconsin, Madison(威斯康星大学麦迪逊分校);National University of Singapore(新加坡国立大学);Seoul National University(首尔大学)
我们提出了一种新的核回归框架平滑标量表面数据使用Laplace-Beltrami特征函数。从特征函数构造的热核开始,我们将一个新的二元核回归框架表述为以热核为权重的加权特征函数展开。新的核回归在数学上等价于各向同性热扩散,核平滑和最近流行的扩散小波。与许多以前的偏微分方程为基础的方法,涉及扩散,我们的方法表示扩散解析的解决方案,减少数值不准确性和收敛速度慢。数值实现验证了一个单位球使用球谐函数。作为一个例子,我们已经应用该方法在表征的局部生长模式的下颌骨表面从0岁至20岁之间的受试者的CT图像中获得的位移向量的长度相对于模板表面回归。
2015-02-17 cs.CV stat.ME
Robust Geodesic Regression
Seoul National University(首尔大学)
研究了黎曼流形上数据的稳健回归问题。测地线回归是将线性回归推广到具有流形值因变量和一个或多个实值自变量的设置。现有的测地线回归工作使用平方和误差来找到解决方案,但在经典的欧几里德的情况下,最小二乘法是高度敏感的离群值。在本文中,我们使用M-型估计,包括$L_1$,Huber和Tukey双权估计,进行稳健测地回归,并描述如何计算后两者的调整参数。我们还表明,在紧凑的对称空间,所有的M型估计是极大似然估计,并认为整体的优越性的$L_1$估计的$L_2$和Huber估计的高维流形和Tukey biwight估计紧凑的高维流形。数值例子的结果,包括真实的神经影像数据的分析,证明了所提出的方法有前途的经验性质。
2022-01-25 cs.LG stat.ME stat.ML
Wasserstein F-tests for Fréchet regression on Bures-Wasserstein manifolds
本文针对Bures-Wasserstein流形上的Fréchet回归问题,提出Wasserstein F检验方法,推导了估计量收敛速率与检验统计量渐近性质,通过模拟和单细胞基因表达数据验证了方法有效性。
2024-09-15 stat.ME stat.ML
Sparse Reduced-Rank Regression for Simultaneous Rank and Variable Selection via Manifold Optimization
The University of Electro-Communications(电气通信大学)
针对高真实秩下降秩回归系数估计失效的问题,提出基于稀疏正则化与流形优化的同时秩与变量选择算法,实现准确估计并验证有效性。
2019-11-01 cs.LG stat.ME stat.ML
Harmonic Map Regression: Rate-Optimal Nonparametric Estimation on Manifolds with Topological Recovery
University at Buffalo(布法罗大学)
本文提出调和映射回归方法,通过狄利克雷能量惩罚实现流形上非参数估计,揭示拓扑恢复现象,推导出Sobolev阶s的最小最大速率,并在多个流形上验证理论有效性。
2026-04-10 math.ST stat.ME stat.TH
Robust Density Power Divergence Estimates for Panel Data Models
面板数据回归模型已成为社会科学、行为科学、环境科学和计量经济学等不同研究领域中应用最广泛的统计方法之一。然而,传统的基于最小二乘的技术经常被用于面板数据模型,容易受到数据污染或离群观测的不利影响,这可能导致有偏的和低效的估计和误导性的统计推断。在这项研究中,我们提出了一个最小密度功率发散估计程序面板数据回归模型与随机效应,以实现对离群值的鲁棒性。稳健性,以及所提出的估计的渐近性质,严格建立。所提出的方法的有限样本特性进行了研究,通过广泛的模拟研究和应用在阿曼的气候数据。我们的研究结果表明,所提出的估计表现出改善的性能比一些传统的和强大的方法存在的数据污染。
2021-08-05 math.ST stat.ME stat.TH
Robust estimation for functional logistic regression models
针对函数型逻辑回归中传统似然方法易受异常误分类点影响的问题,提出稳健估计方法,证明相合性与预测收敛速度,并通过模拟和真实数据验证其抗污染稳定性。
2023-08-15 math.ST stat.ME stat.TH
Quantiles and Quantile Regression on Riemannian Manifolds: a measure-transportation-based approach
本文针对无边界紧黎曼流形提出基于最优传输数据驱动排序的分位数、分布函数、秩和符号定义,建立一致收敛性与分布无关性等理论性质,并重点研究方向型或环面型多重输出的分位数回归,通过大量模拟验证其有效性。
2024-10-21 math.GT math.ST stat.ME
Robust Variable Selection and Estimation Via Adaptive Elastic Net S-Estimators for Linear Regression
针对高维回归中重尾误差和异常值问题,提出自适应PENSE稳健正则化估计量,实现同时变量选择与系数估计,具备Oracle性质,在污染和干净样本中均表现优异。
2021-07-20 stat.ME stat.ML
Adaptive Influence Diagnostics in High-Dimensional Regression
提出自适应库克距离(ACD)用于高维单指标模型中的有影响观测诊断,通过稀疏局部线性梯度调节杠杆效应,在模拟和实际数据中减少了掩蔽和淹没,提升了变量选择的稳定性与可解释性。
2025-10-17 stat.AP stat.CO stat.ME
Robust adaptive Lasso in high-dimensional logistic regression
针对高维惩罚Logistic回归中似然损失对数据污染敏感的问题,提出基于密度幂散度损失与自适应加权LASSO的稳健估计量,推导了其稳健性与渐近性质,并在癌症分类真实数据中验证了其基因选择与分类的准确性和稳健性。
2023-04-07 math.ST stat.ME stat.TH
Riemannian Simultaneous Inference for Tangent Vector Field Regression
Nanyang Technological University(南洋理工大学);Shanghai University of Finance and Economics(上海财经大学)
针对黎曼流形上的切向量场回归,提出基于平行移动和体积校正的核估计器,推导其渐近性质并构建联合置信管,模拟与风数据验证了方法的有效性。
2026-09-24 cs.LG stat.ME stat.ML