On the Inconsistency of Kernel Ridgeless Regression in Fixed Dimensions
University of California, San Diego(加州大学圣地亚哥分校)
本文证明固定维度下平移不变核机器不具备良性过拟合性质,并通过泛化误差分解揭示了带宽选择的权衡关系。
2023-04-12 cs.LG
Dynamic Regret for Strongly Adaptive Methods and Optimality of Online KRR
University of California, Santa Barbara(加州大学圣巴巴拉分校);Amazon Research(亚马逊研究院)
我们考虑非平稳在线凸优化的框架,学习者试图控制其动态后悔对任意序列的比较。当损失函数是强凸或指数凹,我们证明,强自适应(SA)算法可以被看作是一个原则性的方式来控制动态遗憾的路径变化$V_T$的比较器序列。具体来说,我们发现SA算法享受$\tilde O(\sqrt{TV_T} \vee \log T)$和$\tilde O(\sqrt{dTV_T} \vee d\log T)$动态遗憾强凸和指数凹损失分别没有先验知识的$V_T$。的多功能性的原则性的方法进一步证明了新的结果,在设置学习对有界线性预测和在线回归高斯内核。在相关的设置下,论文的第二部分解决了Zhdanov和Kalnishkan(2010)提出的一个悬而未决的问题,该问题涉及具有平方误差损失的在线内核回归。我们得到了一个新的下界,一定的惩罚遗憾,建立了近极大极小最优的在线核岭回归(KRR)。我们的下界可以被看作是对Vovk(2001)中有限维在线线性回归下界的RKHS扩展。
2021-11-22 cs.LG stat.ML
Ridge regression with adaptive additive rectangles and other piecewise functional templates
Politecnico di Milano(米兰理工大学)
提出了一种基于$L_{2}$的泛函线性回归模型惩罚算法,该算法通过限制基展开将系数函数收缩到数据驱动的形状模板$γ$,并将其约束为一类分段函数.特别是,我们专注于$γ$可以表示为相对于回归误差自适应定位的$q$矩形的总和的情况。由于寻找分段函数的最佳节点位置的问题是非凸的,所提出的参数化允许减少全局优化方案中的变量的数量,从而导致在近似合适的模板和解决凸脊状问题之间交替的拟合算法。我们的方法的预测能力和可解释性显示在多个模拟和两个现实世界的案例研究。
2020-11-02 cs.LG stat.ME stat.ML
Prevalidated ridge regression is a highly-efficient drop-in replacement for logistic regression for high-dimensional data
Monash University(莫纳什大学)
提出预验证岭回归模型,利用留一交叉验证误差缩放系数,在分类误差和对数损失上匹配逻辑回归,同时计算效率更高且超参数更少。
2025-04-03 cs.LG stat.ML
Learning Curves of Stochastic Gradient Descent in Kernel Regression
Peking University(北京大学)
本文分析了核回归中单遍SGD在模型错误指定条件下的超额风险曲线,发现其通过指数衰减步长克服了饱和现象,在多数尺度下达到min-max最优速率,并首次证明该方案优于迭代平均方法。
2025-05-28 cs.LG stat.ML
Smoothly Adaptively Centered Ridge Estimator
Politecnico di Milano(米兰理工大学)
针对具有光滑函数协变量的线性模型,提出了一种基于非零中心岭的惩罚框架(SACR),其中惩罚中心以监督的方式进行最优重新加权,从普通岭解开始作为初始中心函数.特别是,我们引入了一个凸公式,共同估计模型的系数和权重函数,粗糙度惩罚的centerfunction和约束的权重,以恢复一个可能的平滑和/或稀疏的解决方案。这允许非迭代和连续变量选择机制,因为权重函数可以使初始中心膨胀或收缩,以便将惩罚目标对准合适的中心,目的是减少非零系数上的不希望的收缩,而不是均匀地收缩整个系数函数。作为我们的方法的可解释性和预测能力的经验证据,我们提供了一个模拟研究和两个现实世界的光谱应用与分类和回归。
2020-10-31 cs.LG stat.ME stat.ML
Multi-task Highly Adaptive Lasso
Harvard University(哈佛大学);University of California at Berkeley(加州大学伯克利分校);University of California at San Francisco(加州大学旧金山分校);Preva Group(Preva集团)
我们提出了一种新的,完全非参数的多任务学习方法,多任务高度自适应套索(MT-HAL)。MT-HAL同时学习对通用模型重要的特征、样本和任务关联,同时在类似任务之间施加共享的稀疏结构。给定多个任务,我们的方法会自动找到一个稀疏的共享结构。所提出的MTL算法获得了强大的无量纲收敛速度的$o_p(n^{-1/4})$或更好。我们发现,MT-HAL优于基于稀疏的MTL竞争对手在广泛的模拟研究,包括设置与非线性和线性关系,不同水平的稀疏性和任务相关性,以及不同数量的协变量和样本量。
2023-01-27 cs.LG stat.ME stat.ML
Adaptive Distributed Kernel Ridge Regression: A Feasible Distributed Learning Scheme for Data Silos
Xi’an Jiaotong University(西安交通大学);University of Sydney(悉尼大学)
本文提出自适应分布式核岭回归(AdaDKRR)方案,兼顾参数自主性、隐私与合作必要性,理论证明其性能近似全局最优且优于现有方案,有效应对数据孤岛问题。
2023-09-08 cs.LG stat.ML
Pack only the essentials: Adaptive dictionary learning for kernel ridge regression
SequeL team, INRIA Lille - Nord Europe(SequeL团队,INRIA里尔-北欧)
本文提出SQUEAK算法,通过使用未归一化的RLS实现更高效的核岭回归近似,减少空间复杂度并简化计算过程。
2026-04-24 cs.LG stat.ML
Kernel Learning with Adversarial Features: Numerical Efficiency and Adaptive Regularization
Uppsala University(乌普萨拉大学);PSL Research University / INRIA(巴黎-萨克雷研究大学 / INRIA)
本文提出在再生核希尔伯特空间中将对抗扰动从输入转移到特征空间,实现内层最大化精确求解,并基于迭代核岭回归提出高效优化算法,同时提供泛化界并扩展到多核学习,在干净与对抗环境下均表现良好。
2025-10-23 cs.CR cs.LG math.OC
Boosting Ridge Regression for High Dimensional Data Classification
Data Science Research Center, Department of Computer Science, Chiang Mai University(清迈大学计算机科学系数据科学研究中心);Chiang Mai University(清迈大学)
岭回归是一种成熟的回归估计,可以方便地适用于分类问题。一个令人信服的原因可能是岭回归发出一个封闭形式的解决方案,从而促进了训练阶段。然而,在高维问题的情况下,涉及反转正则化协方差矩阵的封闭形式的解决方案是相当昂贵的计算。这种操作的高计算要求也使得构造岭回归系综的难度增加。在本文中,我们考虑学习岭回归器的集成,其中每个回归器在其自己的随机投影子空间中进行训练。随后通过自适应提升方法组合子空间回归量。基于五个高维分类问题的实验证明了所提出的方法在学习时间方面的有效性,并且在某些情况下可以观察到改进的预测性能。
2020-03-25 cs.LG stat.ML
Reframing preprocessing selection as model-internal calibration in near-infrared spectroscopy: A large-scale benchmark of operator-adaptive PLS and Ridge models
CIRAD, UMR AGAP Institut(CIRAD,AGAP研究院);UMR AGAP Institut, Univ Montpellier, CIRAD, INRAE, Institut Agro(AGAP研究院,蒙彼利埃大学,CIRAD,INRAE,农业研究院);Laboratoire Cogitamus(Cogitamus实验室)
本文研究了在近红外光谱学中,将预处理选择重新定义为模型内部校准的方法,通过大规模基准测试比较运算符自适应PLS和岭模型的性能和效率。
2026-06-03 cs.LG eess.SP stat.ML
Uniform Generalization, Concentration, and Adaptive Learning
KAUST(阿卜杜拉国王科技大学)
任何学习算法的一个基本目标都是降低过拟合的风险。在数学上,这要求学习算法享有小的泛化风险,其在期望或概率中定义。这两种类型的概括在文献中常用。例如,期望中的泛化已被用于分析算法,如岭回归和SGD,而概率中的泛化则用于VC理论等。最近,第三个概念的推广已被研究,称为一致推广,这要求推广风险消失的期望一致所有有界的参数损失。事实上,一致推广等价于信息论稳定性约束,并且它恢复了学习理论中的经典结果。它可以在各种设置下实现,例如样本压缩方案、有限假设空间、有限域和差分隐私。然而,统一泛化和集中之间的关系仍然未知。在本文中,我们回答这个问题,证明,而在期望的推广并不意味着在概率的推广,在期望的统一推广意味着浓度。我们建立了一个链式规则的一致推广风险的组成的假设,并使用它来获得一个大的偏差界。最后,我们证明了该界是紧的。
2016-10-03 cs.IT cs.LG math.IT
Oversampling Divide-and-conquer for Response-skewed Kernel Ridge Regression
Tsinghua University(清华大学);The University of Arizona(亚利桑那大学)
分而治之的方法已被广泛用于估计大规模核岭回归估计。不幸的是,当响应变量高度倾斜时,分而治之核岭回归(dacKRR)可能会忽略代表性不足的区域,并导致不可接受的结果。我们结合了一种新的响应自适应分区策略与过采样技术协同克服的限制。通过所提出的新算法,我们分配一些仔细识别的信息观测到多个节点(本地处理器)。虽然过采样技术已被广泛用于解决离散标签偏度,但将其扩展到dacKRR设置并非易事。我们就如何在dacKRR设置下有效地对观测值进行过采样提供了理论和实践指导。此外,我们还证明了在较弱的条件下,该估计比经典的dacKRR估计具有更小的风险。我们的理论研究结果支持模拟和真实数据分析。
2021-11-10 cs.LG stat.ML
Structure-Adaptive Estimation of Heterogeneous Treatment Effects with Kernel Methods
Columbia IEOR(哥伦比亚大学工业工程与运筹学系)
本文提出了一种基于核岭回归的最优算法,用于在结构简单的情况下估计CATE,并通过模型选择步骤实现对未知正则性的适应。
2026-11-10 math.ST stat.ME stat.ML
Causal Discovery in Equal Variance Linear Gaussian DAGs via SURE-Tuned Ridge Regression
University of Southern California(南加州大学)
针对因果发现中连续优化方法难以适配样本有限、计算有限场景的问题,提出SURE-Ridge方法,在小样本下结构汉明距离最低且所有样本量下运行时间最短。
2026-08-19 cs.LG eess.SP stat.ML
Efficient Hyperparameter Tuning for Large Scale Kernel Ridge Regression
Università degli Studi di Genova(热那亚大学);Massachusetts Institute of Technology(麻省理工学院);Istituto Italiano di Tecnologia(意大利理工学院)
核方法为非参数学习提供了一种原则性的方法。虽然它们的基本实现对大型问题的扩展性很差,但最近的进展表明近似求解器可以有效地处理大规模数据集。这些解决方案的缺点是没有考虑超参数调优,而是留给用户来执行。超参数在实践中至关重要,缺乏自动调优会极大地阻碍效率和可用性。在本文中,我们致力于填补这一空白,重点是基于Nyström近似的核岭回归。在回顾和对比了一些超参数调整策略后,我们提出了一种基于数据依赖惩罚的复杂性正则化准则,并讨论了其有效的优化。然后,我们进行了仔细和广泛的实证评估,突出不同的调整策略的优点和缺点。我们的分析表明,所提出的方法的好处,因此,我们将在一个库中的大规模的内核方法,以获得自适应调整的解决方案。
2022-01-17 cs.LG stat.ML
Online Forgetting Process for Linear Regression Models
Purdue University(普渡大学)
针对欧盟“被遗忘权”法规下的数据删除问题,本文提出在线遗忘算法FIFD-OLS与FIFD-Adaptive Ridge,后者通过在线正则化有效抵消删除不确定性,并在理论上给出遗憾上界,实验证明其优于固定正则化的岭回归。
2020-12-03 cs.LG stat.ML
PANDA: AdaPtive Noisy Data Augmentation for Regularization of Undirected Graphical Models
University of Notre Dame(圣母大学)
我们提出了一种自适应噪声增强(PANDA)技术来正则化无向图模型的估计和构造。PANDA迭代优化目标函数,给出噪声增强数据,直到收敛,以实现模型参数的正则化。增强噪声可以设计成各种正则化效果的图估计,如桥(包括套索和脊)、弹性网、自适应套索、SCAD惩罚等,还可以实现群套索和融合脊。我们研究了噪声增强损失函数的尾界,并建立了噪声增强损失函数及其最小值几乎必然分别收敛于预期的惩罚损失函数及其最小值。在广义线性模型中,利用PANDA方法得到了正则化参数的渐近分布,并在此基础上进行了参数的推断和变量选择.我们在模拟研究中显示了PANDA在构建不同类型的图方面的非劣性能,并将PANDA应用于自闭症谱系障碍数据构建混合节点图。我们还表明,通过PANDA正则化参数估计的渐近分布的基础上的推理实现名义或接近名义的覆盖率,是更有效的,相比一些现有的后选择程序。在计算上,PANDA可以很容易地在实现GLM的软件中编程,而无需采用复杂的优化技术。
2019-05-21 cs.LG stat.ML
Learning Analysis of Kernel Ridgeless Regression with Asymmetric Kernel Learning
KU Leuven(鲁汶大学);Shanghai Jiao Tong University(上海交通大学);Fudan University(复旦大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本文提出基于局部自适应带宽RBF核的核岭回归无正则化方法,证明其优化等价于RKHS积分空间的$\ell_0$正则化问题,并利用$l_q$-范数分析推导学习速率,揭示了其大容量逼近与稀疏性保证泛化的机制。
2024-06-03 cs.LG stat.ML
Fast marginal likelihood estimation of penalties for group-adaptive elastic net
如今,临床研究通常使用组学数据(如基因表达)来预测临床结果或选择标记物。此外,所谓的协数据通常是可用的,提供关于协变量的补充信息,如来自先前发表的研究或对应于通路的基因组的p值。弹性网惩罚被广泛用于预测和协变量选择。组自适应弹性网惩罚从协数据中学习,通过比其他组更少地惩罚重要的协变量组来改进预测和协变量选择。然而,现有的方法在计算上是昂贵的。在这里,我们提出了一个快速的方法,用于广义线性模型的组自适应弹性网处罚的边际似然估计。我们首先推导出一个低维表示的泰勒近似的边际似然和其一阶导数组自适应岭处罚,有效地估计这些处罚。然后利用线性预测量的渐近正态性证明了弹性网模型的边际似然可以很好地近似于岭模型的边际似然。然后利用方差函数将脊组罚函数转化为弹性网组罚函数。该方法允许重叠组和未惩罚的变量。我们展示了基于模型的模拟研究和癌症基因组学的应用程序的方法。该方法通过从协数据中学习,大大减少了计算时间,并优于或匹配其他方法。
2021-01-11 stat.ME stat.ML
Adaptive Norm-Based Regularization for Neural Networks
Department of Statistics, Lund University(统计系,隆德大学)
本文提出两种自适应范数正则化策略,通过引入输入特征协方差结构改进传统岭和Lasso惩罚,提升高维数据下的预测性能和复杂度控制。
2026-04-30 cs.LG stat.AP stat.ML
Kernel Ridge Regression Inference
Society of Fellows and Department of Economics, Harvard University(哈佛大学费尔 fellows 社会与经济学系);Department of Economics, U.C. San Diego(圣地亚哥大学经济学系)
研究核岭回归的推断问题,构建有效精确且收缩率接近极小极大率的置信集,采用反对称乘数的自助程序,用于开发关于学生匹配效应的检验。
2026-07-23 cs.LG math.ST stat.ML
Decentralized Kernel Ridge Regression Based on Data-Dependent Random Feature
Shanghai Jiao Tong University(上海交通大学);KU Leuven(鲁汶大学)
提出一种追求决策函数一致性的分布式核岭回归算法,允许各节点使用数据依赖的随机特征,在保持通信成本不变的情况下,在六个真实数据集上平均回归精度提升25.5%。
2024-09-20 cs.DC cs.LG stat.ML
Sparse Regression and Adaptive Feature Generation for the Discovery of Dynamical Systems
我们研究了稀疏回归方法的性能,并提出了新的技术,从数据中提取动力系统的控制方程。我们首先看一下Brunton等人提出的从数据中学习可解释方程形式的通用方法,然后为此目的进行LASSO。然后,我们提出了一个新的算法,使用的对偶LASSO优化更高的精度和稳定性。在第二部分中,我们提出了一种新的算法,学习候选函数库在一个完全的数据驱动的方式来提取动力系统的控制方程。这是通过正交多项式空间上的顺序阈值岭回归(STRidge)来实现的。以Lorenz 63系统和二次Lorenz系统为例,说明了这三种方法的性能。
2019-03-21 cs.LG stat.ML
Locally Adaptive and Differentiable Regression
The University of Utah(犹他大学);The University of Kentucky(肯塔基大学)
针对过参数化模型忽视连续性与可微性的问题,提出基于局部模型加权平均的全局连续可微回归框架,混合核岭与多项式回归实现更快收敛和更优性能。
2023-10-13 cs.LG stat.ML
Partition-Based Functional Ridge Regression for High-Dimensional Data
Quaid-i-Azam University(奎达-伊-阿扎姆大学);Lund University(隆德大学)
本文提出基于分区的功能岭回归方法,通过分解系数函数并实施差异化的岭惩罚,提升高维功能回归的稳定性与可解释性。
2026-03-11 math.ST stat.ME stat.ML
Transfer Learning of CATE with Kernel Ridge Regression
Columbia University(哥伦比亚大学);Purdue University(普渡大学);Peking University Health Science Center(北京大学医学部);Beijing International Center for Mathematical Research, Peking University(北京大学北京国际数学研究中心)
该研究针对CATE迁移学习中重叠不足问题,提出基于KRR的重叠自适应方法,经理论推导和数值实验证实其在有限样本下效率更高、适应性更强,且在真实数据集上表现优越。
2026-08-04 cs.LG stat.ME stat.ML
STARK denoises spatial transcriptomics images via adaptive regularization
Department of Mathematics, University of British Columbia(数学系,不列颠哥伦比亚大学);Department of Computer Science, University of British Columbia(计算机科学系,不列颠哥伦比亚大学);Department of Mathematics and Mathematical Statistics, Umeå University(数学与统计学系,乌梅大学);Premium Research Institute for Human Metaverse Medicine (WPI-PRIMe), The University of Osaka(人类元宇宙医学研究学院(WPI-PRIMe),大阪大学)
STARK通过自适应正则化和核方法有效去噪空间转录组图像,提升低测序深度下的细胞身份识别和基因表达插值能力。
2025-12-10 cs.LG math.OC math.ST
Linear Convergence of the Subspace Constrained Mean Shift Algorithm: From Euclidean to Directional Data
本文证明了子空间约束均值漂移算法的线性收敛性,并将其推广到方向数据,建立了方向数据密度脊的稳定性定理。
2022-01-19 math.OC math.ST stat.ME
ecpc: An R-package for generic co-data models for high-dimensional prediction
高维预测考虑的是变量多于样本的数据。一般的研究目标是找到最好的预测或选择变量。通过利用共同数据形式的先验信息,提供不是关于样本而是关于变量的补充数据,可以改进结果。我们考虑自适应岭惩罚广义线性和Cox模型,其中变量特定的岭惩罚适应于协数据,以给予先验更重要的变量更多的权重。R-package ecpc最初容纳了各种可能的多个协数据源,包括分类协数据,即变量组和连续协数据。然而,连续的协数据是通过自适应离散化处理的,这可能会导致建模效率低下和信息丢失。在这里,我们提出了一个扩展的方法和通用的协同数据模型的软件,特别是连续的协同数据。在此基础上建立了一个经典的线性回归模型,对协数据的先验方差权重进行回归。协数据变量,然后估计经验贝叶斯矩估计。将估计过程置于经典回归框架中后,扩展到广义加性和形状约束的协数据模型是简单的。此外,我们展示了如何脊罚款可能转化为弹性网罚款与R-包挤压。在模拟研究中,我们首先比较了不同的协数据模型的连续协数据从扩展到原来的方法。其次,我们比较了变量选择方法与其他变量选择方法的性能。此外,我们演示了整个文件中的几个例子中使用的包。
2022-05-16 stat.ME stat.ML
GRASP: Grouped Regression with Adaptive Shrinkage Priors
Department of Data Science and AI, Monash University(墨尔本大学数据科学与人工智能系);Department for Information Systems, University of Haifa(海法大学信息系)
GRASP提出基于NBP先验的简单贝叶斯分组回归框架,直接控制尾部实现自适应稀疏性,并量化组内收缩相关性,实证显示鲁棒性。
2025-06-22 cs.LG stat.ME stat.ML
Smoothness Adaptive Hypothesis Transfer Learning
The Pennsylvania State University(宾夕法尼亚州立大学);Amazon Science(亚马逊科学)
本文提出平滑度自适应迁移学习(SATL),在两阶段核岭回归中采用高斯核自适应未知平滑度,证明其达到极小极大最优收敛速率并优于非迁移学习。
2024-02-22 cs.LG stat.ME stat.ML
Training Neural Networks as Learning Data-adaptive Kernels: Provable Representation and Approximation Benefits
University of Chicago(芝加哥大学)
考虑一下这个问题:给定从具有$f_*(x) = \mathbf{E}[\mathbf{y} | \mathbf{x} = x]$的总体中提取的数据对$(\mathbf{x}, \mathbf{y})$,指定一个神经网络模型,并随时间对权重运行梯度流,直到达到任何平稳性。$f_t$,即神经网络在时间$t$计算的函数,在近似和表示方面与$f_*$有什么关系?神经网络的自适应表示与经典非参数文献中预先指定的固定基表示相比,有哪些可证明的好处?我们回答了上述问题,通过动态再生核希尔伯特空间(RKHS)的方法索引的神经网络的训练过程。首先,我们证明了当达到任何局部平稳性时,梯度流学习自适应RKHS表示,并同时将全局最小二乘投影到自适应RKHS上。其次,我们证明了RKHS是数据自适应和特定于任务的,残差$f_*$位于一个子空间,这是潜在的比RKHS的正交补小得多。该结果形式化了神经网络的表示和逼近优点。最后,我们证明了梯度流计算的神经网络函数在正则化消失的极限下收敛于具有自适应核的核无岭回归。自适应核的观点为研究神经网络的逼近、表示、推广和优化等优点提供了新的视角。
2019-07-23 cs.LG math.ST stat.ML
Targeted Highly Adaptive Lasso Minimum Loss Estimation of Target Functions
University College London(伦敦大学学院);University of California, Berkeley(加州大学伯克利分校)
提出靶向高度自适应套索估计非路径可微函数参数,如连续暴露的剂量反应曲线。通过投影构建近似,用套索步替代MLE靶向步,证明其渐近正态分布及收敛率,模拟显示其性能优于HAL插件估计器。
2026-07-07 stat.ME stat.ML
Robust inference on the average treatment effect using the outcome highly adaptive lasso
治疗对结果的平均效应的许多估计值需要估计倾向得分、结果回归或两者。利用诸如半参数回归或机器学习之类的灵活技术来估计这些量通常是有益的。然而,这些回归的最佳估计不一定导致平均处理效应的最佳估计,特别是在具有强工具变量的设置中。最近的一项提案通过结果自适应套索解决了这些问题,这是一种用于估计倾向得分的惩罚回归技术,旨在最大限度地减少工具变量对处理效应估计值的影响。然而,这种方法的一个明显的局限性是,它的应用仅限于参数模型。我们提出了一个更灵活的替代方案,我们称之为高度适应性套索的结果。我们讨论了这种估计的大样本理论,并提出了封闭形式的置信区间的基础上提出的估计。我们通过模拟表明,我们的方法提供了几个流行的方法的好处。
2019-05-13 stat.CO stat.ME stat.ML
Nonparametric inverse probability weighted estimators based on the highly adaptive lasso
逆概率加权估计量是估计因果效应的最古老且可能最常用的一类程序。通过加权机制调整选择偏差,这些程序通过构建一个伪群体来估计感兴趣的影响,其中选择偏差被消除。尽管它们易于使用,这些估计需要正确的规范的加权机制的模型,是已知的效率低下,并遭受灾难的维度。我们提出了一类非参数逆概率加权估计,其中的加权机制估计通过欠平滑的高度自适应套索,一个非参数回归函数证明收敛在$n^{-1/3}$率的真正的加权机制。我们证明了我们的估计是渐近线性的,方差收敛到非参数有效界。与双稳健估计不同,我们的方法既不需要推导有效的影响函数,也不需要指定条件结果模型。我们的理论发展具有广泛的影响,在大型统计模型和各种问题设置的有效的逆概率加权估计的建设。我们评估我们的估计在模拟研究中的实际表现,并证明使用我们提出的方法与数据从一个大规模的流行病学研究。
2021-07-03 math.ST stat.ME stat.ML
Nonparametric Testing under Random Projection
非参数推理的一个共同挑战是当数据量很大时其高计算复杂性。在本文中,我们开发了计算效率的非参数检验采用随机投影策略。在特定的核岭回归设置,一个简单的基于距离的检验统计量的建议。值得注意的是,我们推导出的最小数量的随机预测,这是足以实现测试的最优性方面的极大极小率。进一步建立了一种不需要规则性先验知识的自适应测试方法。一个技术贡献是建立经验核特征值的尾和的范围的上界。仿真和实际数据分析进行支持我们的理论。
2018-02-17 math.ST stat.ME stat.ML