Local independence feature screening for nonparametric and semiparametric models by marginal empirical likelihood
我们考虑一个独立的功能筛选技术，以确定解释变量，本地有助于在高维回归分析的响应变量。在不需要底层数据模型的特定参数形式的情况下，我们的方法可以适应广泛的非参数和半参数模型家族。为了检测解释变量的局部贡献，我们的方法结合边际非参数回归在局部构造经验似然。由于我们的方法实际上不需要估计，因此在单指数模型等情况下是有利的，即使是边际模型的规范和识别也是一个问题。通过自动将非参数回归的变化水平，并直接评估的强度，数据证据支持本地的贡献，从每个解释变量，我们的方法提供了一个独特的视角来解决功能筛选问题。理论分析表明，该方法可以处理数据维数随样本量呈指数增长的情况。通过大量的理论说明和数值例子，我们证明了局部独立筛选方法的有效性。
2016-03-30 math.ST stat.TH
Nonparametric Independence Screening in Sparse Ultra-High Dimensional Additive Models
Fan和Lv（2008）提出了一种通过相关学习进行变量筛选的方法来降低稀疏超高维模型的维数。即使真实模型是线性的，边际回归也可能是高度非线性的。为了解决这个问题，我们进一步将相关学习扩展到边缘非参数学习。我们的非参数独立性筛选被称为NIS，是确定独立性筛选的一个特定成员。提出了几个密切相关的变量筛选程序。在非参数可加模型下，证明了在一些温和的技术条件下，所提出的独立筛选方法具有一定的筛选性质。在何种程度上可以减少独立筛选的维度也明确量化。作为一种方法的扩展，迭代非参数独立筛选（INIS）也被提出来提高有限样本拟合稀疏可加模型的性能。仿真结果和实际数据分析表明，该方法适用于中等样本量和大维数的情况，性能优于竞争方法。
2011-01-18 math.ST stat.CO stat.ME
Sure independence screening in generalized linear models with NP-dimensionality
超高维变量选择在当代科学发现和统计研究中发挥着越来越重要的作用。Fan和Lv [J. R. stat. Soc. Ser. B Stat.美沙酮70（2008）849 - 911]提出了通过对边际相关性进行排序的独立筛选框架。他们表明，在具有高斯协变量和响应的线性模型的背景下，相关性排序程序具有一定的独立筛选特性。在本文中，我们提出了一个更一般的版本的独立学习排序的最大边际似然估计或最大边际似然本身在广义线性模型。我们证明了所提出的方法，与Fan和Lv [J. R. stat. Soc. Ser. B Stat.美沙酮70（2008）849 - 911]作为非常特殊的情况，也具有假选择率为零的确定筛选性质。独立学习具有确定筛选的条件出奇地简单。这证明了这种简单方法在宽光谱中的适用性。我们明确量化的程度，可以减少独立筛选，这取决于协变量和真实参数的协方差阵的相互作用的维度。仿真研究被用来说明所提出的方法的效用。此外，我们建立了一个指数不等式的拟极大似然估计，这是有用的高维统计学习。
2012-11-13 math.ST stat.ME stat.ML
A Robust Partial Correlation-based Screening Approach
作为一种计算速度快、工作效率高的工具，确定独立筛选法在求解高维问题中受到了广泛的关注。本文从无模型的角度出发，提出了两种同时考虑异方差、离群值、重尾分布、连续或离散响应以及混杂效应的稳健可靠性筛选方法。首先，我们只使用两个随机指标定义一个鲁棒的相关性度量，并使用该相关性引入筛选器。其次，我们提出了一个强大的部分相关性为基础的筛选方法时，暴露变量。为了消除暴露对响应和每个协变量的混杂效应，我们使用具有某些指定损失函数的非参数回归。更具体地，形成了鲁棒的基于相关性的筛选方法（RC-SIS）和鲁棒的基于部分相关性的筛选框架（RPC-SIS），该框架包括两个具体的筛选器：RPC-SIS（L2）和RPC-SIS（L1）。第三，在一定的正则条件下，我们建立了响应变量可以是连续或离散的RC-SIS的筛选性质，以及RPC-SIS（L2）和RPC-SIS（L1）的筛选性质。我们的方法本质上是非参数的，并且对于响应和协变量都表现得很稳健。最后，进行了广泛的仿真研究和两个应用程序来证明我们所提出的方法的优越性。
2021-07-24 math.ST stat.ME stat.TH
High-dimensional Ordinary Least-squares Projection for Screening Variables
当预测变量$p$的数量远远超过观测变量$n$的数量时，变量选择在统计应用中是一个具有挑战性的问题。在这种超高维度的环境中，引入了确定独立筛选（SIS）程序，通过以压倒性的概率保留真实模型来显着降低维度，然后进行精细的第二阶段分析。然而，上述确定筛选属性强烈依赖于模型中的重要变量与响应具有大的边际相关性的假设，这在现实中很少成立。为了克服这一点，我们提出了一种新的和简单的筛选技术称为高维普通最小二乘投影（HOLP）。我们证明了HOLP具有可靠的筛选性质，在没有强相关性假设的情况下给出了一致的变量选择，并且具有较低的计算复杂度。本文还讨论了一种脊型HOLP方法。仿真研究表明，HOLP执行竞争力相比，许多其他边缘相关的方法。一个哺乳动物眼病数据的应用说明了HOLP的吸引力。
2015-06-05 math.ST stat.ME stat.ML
ExSIS: Extended Sure Independence Screening for Ultrahigh-dimensional Linear Models
在超高维线性模型中，统计推断在计算上是禁止的。基于相关性的变量筛选可以用来克服这一挑战，在这种筛选中，在统计推断之前，利用边际相关性从模型中去除不相关的变量。基于相关性的变量筛选的先前工作要么对线性模型施加统计先验，要么假设特定的筛选后推断方法。本文首先将基于相关性的变量筛选分析扩展到任意线性模型和筛选后推理技术。特别是，（i）它表明，一个条件-被称为筛选条件-是足够的成功的相关性为基础的筛选线性模型，和（ii）它提供了见解的依赖边际相关性为基础的筛选不同的问题参数。数值实验证实，这些见解不仅仅是分析的文物，相反，它们反映了与基于边际相关性的变量筛选相关的挑战。其次，本文明确推导出任意（随机或确定性）线性模型的筛选条件，并在此过程中，它建立了-在适当的条件下-有可能减少一个超高维，任意线性模型的尺寸几乎样本量，即使活动变量的数量几乎与样本量成线性比例。第三，它专门的筛选条件，以亚高斯线性模型和对比的最终结果，现有的文献。这种专业化正式验证了本文的主要结果概括了现有的基于相关性的筛选。
2020-07-04 cs.IT math.IT math.ST
Conditional Mean Independence, Global Sensitivity Analysis, and Variable Screening Using nearest neighbor Graphs
Boston University（波士顿大学）；University of Pennsylvania（宾夕法尼亚大学）
研究如何用条件均值函数解释响应，基于最近邻图提出该测度的一致估计量，给出收敛速度，用于条件均值独立性检验及无模型变量筛选，还讨论了交互效应测量的扩展。
2026-09-16 math.ST stat.ME stat.TH
Nonparametric Screening under Conditional Strictly Convex Loss for Ultrahigh Dimensional Sparse Data
确定筛选技术已被认为是一个强有力的工具来处理多维变量选择问题，其中维度p和样本量n可以满足NP维度log p=O（n^a），其中a>0（Fan & Lv 2008）。本文件旨在同时解决“普遍性”和“有效性”的肯定筛选程序。对于“普适性”，我们从损失函数的角度发展了非参数筛选方法的一般和统一的框架。考虑一个损失函数来度量响应变量和协变量的基础非参数函数的散度。提出了一类新的损失函数，称为条件严格凸损失，它包含但不限于单参数指数族的负对数似然损失、二元分类的指数损失和分位数回归损失.在这类损失函数中建立了可靠的筛选性和模型选择的规模控制。在"有效性”方面，我们重点研究了条件严格凸损失下的拟合优度非参数筛选（Goffins）方法。有趣的是，我们可以实现更好的收敛概率包含真实的模型相比，相关文献。我们所提出的方法的优越性能已进一步证明了广泛的模拟研究和一些真正的科学数据的例子。
2019-12-03 math.ST stat.ME stat.TH
Quantile-adaptive model-free variable screening for high-dimensional heterogeneous data
我们引入了一个分位数自适应框架，用于高维异构数据的非线性变量筛选。这个框架有两个显著的特点：（1）它允许活动变量的集合在分位数之间变化，从而使其更灵活地适应异质性;（2）它是无模型的，避免了在高维空间中指定统计模型的困难任务。我们的非线性独立性筛选程序采用样条逼近在感兴趣的分位数水平上对边际效应进行建模。在分位数函数的适当条件下，不需要任何矩的存在，新的程序被证明在超高维享受一定的屏蔽性质。此外，分位数自适应框架可以自然地处理生存分析中出现的删失数据。我们证明了当响应变量服从随机右删失时，确定筛选性质仍然有效。数值研究证实了所提出的方法对各种半参数模型的良好性能，以及从异方差数据中提取特定分位数信息的有效性。
2013-12-11 math.ST stat.TH
Variable screening with multiple studies
技术的进步产生了丰富的高维数据，允许整合多个相关研究。基于边缘相关的变量筛选方法由于其巨大的计算优势，已经成为流行的正则化方法的变量选择的有前途的替代方案。然而，迄今为止，所有这些筛选方法都仅限于单个研究。在本文中，我们考虑了一个一般框架的变量筛选与多个相关的研究，并进一步提出了一个新的两步筛选程序使用自归一化估计的高维回归分析在这个框架中。与一步法和基于秩的确定独立筛选（SIS）方法相比，我们的方法大大减少了假阴性错误，同时保持了较低的假阳性率。理论上，我们表明，我们的程序具有一定的筛选性能与较弱的信号强度的假设，并允许功能的数量以指数速度增长的样本量。此外，我们放松了常用的正态性假设，并允许亚高斯分布。模拟和一个真正的转录组应用程序说明了我们的方法相比，基于排名的SIS方法的优势。
2017-10-11 math.ST stat.ME stat.TH
Grouped feature screening for ultrahigh-dimensional classification via Gini distance correlation
本文提出基于基尼距离相关的超高维分类特征筛选方法，可处理单特征和分组特征筛选，具备无模型、确定独立筛选和排序一致性等性质，并能应对响应类别数发散的情形。
2023-04-17 math.ST stat.ME stat.TH
A model-free Screening procedure
本文提出了一种无模型的变量筛选方法，通过建立Berry-Esseen型不等式来保证理论保证，并通过模拟和实际数据验证其有效性。
2025-12-08 math.ST stat.TH
Best subset selection is robust against design dependence
最佳子集选择（BSS）被广泛认为是高维变量选择的圣杯。然而，BSS的NP难性在很大程度上限制了它的实际应用，也在一定程度上阻碍了它的理论发展，特别是在当前的大数据时代。本文研究了盲源分离算法在目标稀疏度大于或等于真实稀疏度时的变量选择性质。我们的主要信息是，BSS是强大的设计依赖性方面实现模型的一致性和一定的筛选，更重要的是，这种鲁棒性可以传播到计算有形的近最佳子集。具体来说，我们引入了一个可识别的边际条件，是免费的限制特征值，并表明这是充分的，几乎是必要的BSS，以准确地恢复真实的模型。这个条件的放松版本也足以使BSS实现确定的屏蔽属性。此外，考虑到优化误差，我们发现，所有建立的统计性质的确切的最佳子集结转到任何近最佳子集的残差平方和是足够接近的最好的。特别地，两阶段完全校正迭代硬阈值（IHT）算法可以证明在对数步长内找到稀疏的确定筛选子集;在该集合内的另一轮精确BSS可以恢复真实模型。仿真研究和实际数据的例子表明，IHT产生较低的错误发现率和较高的真阳性率的竞争方法，包括LASSO，SCAD和确定独立筛选（SIS），特别是在高度相关的设计。
2021-08-26 math.ST stat.ME stat.TH
Robust rank correlation based screening
独立性筛选是一种变量选择方法，其使用排序标准来选择显著变量，特别是对于具有非多项式维度的统计模型或“大p，小n”范式，当p可以与样本量n的指数一样大时。本文提出了一种鲁棒的秩相关筛选（RRCS）方法来处理超高维数据。新方法基于响应变量和预测变量之间的Kendall τ相关系数，而不是现有方法的Pearson相关系数。与现有的独立筛选方法相比，新方法具有四个可取的特点。首先，确定的独立性筛选属性可以保持只有在预测变量的二阶矩的存在下，而不是指数尾或相似性，即使当预测变量的数量增长一样快的指数的样本量。其次，它可以用来处理半参数模型，如转换回归模型和单指标模型在单调约束下的链接函数，而不涉及非参数估计，即使在模型中的非参数函数。第三，该程序可以在很大程度上用于对抗观测值中的离群值和影响点。最后，使用指示函数的秩相关筛选大大简化了理论推导，由于所得的统计量的有界性，与以前的研究相比，变量筛选。与现有的方法进行了比较，并进行了仿真分析的一个实际数据的例子。
2012-10-17 math.ST stat.ME stat.TH
Copula-based Partial Correlation Screening: a Joint and Robust Approach
三维特征的筛选可能会遇到复杂的问题，如离群观察，异方差或重尾分布，多重共线性和混杂效应。标准的基于相关性的边际筛选方法可能是这些问题的弱解。我们贡献了一个新的强大的联合筛选，以防止离群值和分布误指定的响应变量和协变量，并考虑到外部变量在筛选步骤。具体来说，我们介绍了一个基于Copula的偏相关（CPC）筛选。我们发现，估计CPC的经验过程弱收敛到一个高斯过程，并建立一定的筛选性能CPC筛选器在非常温和的技术条件下，我们不需要任何时刻的条件，弱于现有的替代文献。此外，从理论的角度来看，我们的方法允许条件变量的发散数量。广泛的模拟研究和两个数据的应用，以说明我们的建议。
2018-12-23 math.ST stat.TH
Ultra-high-dimensional spot support screening in continuous-time regression
Department of Statistics and Data Science, School of Economics, Jinan University（暨南大学经济学院统计与数据科学系）
针对高频连续时间回归的超高维点支撑筛选问题，提出带路径Lepski自适应的部分残差点迭代筛选方法，通过理论推导与实验验证实现确定性筛选。
2026-10-27 math.ST stat.ME stat.TH
Consistent complete independence test in high dimensions based on Chatterjee correlation coefficient
针对高维数据完全独立性检验问题，基于Chatterjee系数提出二次检验、极值检验及功率增强检验，建立大样本性质，提升稀疏备择假设下的检验功效，经合成与真实数据验证性能。
2024-09-16 math.ST stat.TH
Optimal model averaging forecasting in high-dimensional survival analysis
本文考虑了生存反应变量的超高维预测问题。我们提出了一个两步模型平均程序，以提高生存反应变量的真实条件均值的预测精度。第一步是构造一类候选模型，每个模型都具有低维协变量。为此，开发了一种特征筛选程序，通过边际BuckleyCJames指数分离活性和非活性预测因子，并将具有相似指数大小的协变量分组在一起，形成具有生存反应变量的回归模型。该筛选方法能在协变量相关删失下筛选出有效的预测因子，在较弱的正则条件下具有一定的筛选一致性。第二步是找到最佳的模型权重平均通过适应删除一个交叉验证标准，没有标准的约束，权重总和为1。理论结果表明，删除一交叉验证准则实现了最低可能的预测损失渐近。数值研究表明，所提出的变量筛选和模型平均程序优于现有的方法的性能。
2022-11-24 math.ST stat.ME stat.TH
The empirical copula process in high dimensions: Stute's representation and applications
本文在高维（维度随样本量指数增长）情形下研究经验Copula过程，证明其低维边缘可由标准经验过程低维边缘泛函近似，将结果应用于高维成对独立性检验，实现了更广模型的第一类错误控制及自助法临界值的家族wise错误率强控制。
2025-09-24 math.ST stat.TH
A Generalized Adaptive Joint Learning Framework for High-Dimensional Time-Varying Models
School of Statistics and Data Science, Capital University of Economics and Business（首都经济贸易大学统计与数据科学学院）；Wisdom Lake Academy of Pharmacy, Xi’an Jiaotong-Liverpool University（西交利物浦大学智慧药学学院）
本文提出了一种高维时变模型的通用自适应联合学习框架，通过两阶段筛选和细化程序，结合自适应分组惩罚与确信筛选原理，实现变量选择与突变点检测，确保在超高维情况下具有Oracle性质。
2026-01-27 math.ST stat.CO stat.ME
UPS delivers optimal phase diagram in high-dimensional variable selection
考虑线性模型$Y=Xβ+z$、$z\sim N(0,I_n)$。这里是$X=X_{n,p}$，其中$p$和$n$都很大，但$p>n$。我们将$X$的行建模为i.i.d.。来自$N(0,\frac{1}{n}Ω)$的样本，其中$Ω$是$p\times p$相关矩阵，其对我们来说是未知的，但可能是稀疏的。矢量$β$也是未知的，但有相对较少的非零坐标，我们感兴趣的是识别这些非零。我们提出了单变量惩罚筛选（UPS）的变量选择。这是一个筛选和清理方法，我们用单变量阈值筛选，并用惩罚的MLE清理。它有两个重要的性质：可靠的屏蔽和屏蔽后可分离。这些性质使我们能够减少原来的回归问题，许多小规模的回归问题，可以分别拟合。该UPS在理论和计算上都是有效的。
2012-05-28 math.ST stat.TH
On the support recovery of marginal regression
在高维回归中支持恢复的主要方法，如Lasso，已经得到了很好的研究，并且它们在相关设计背景下的局限性已经用精确的不相干条件表征。在这项工作中，我们提出了一个类似的处理选择一致性边际回归（MR），计算效率的家庭与连接到决策树的方法。基于边际回归的选择也被称为协变量筛选或独立筛选，是应用工作中的一种流行方法，特别是在超高维环境中。我们确定的基本因素-我们表示为\emph{MR incoherence} -影响MR的支持恢复性能。我们接近完整的表征提供了一个更细致入微和乐观的MR相比，以前的作品。为了巩固我们的结果，我们为领先的特征选择方法提供了广泛的结果分类，将Lasso，OMP，SIS和MR的行为联系起来。我们还为我们的分析的有趣概括奠定了基础，例如，涉及非线性特征选择方法和更一般的回归框架，例如一般的加法模型。
2019-03-22 math.ST stat.TH
Cluster-Based Dimensionality Reduction by Nonparametric Distributional Screening
针对带聚类划分的高维数据，提出基于多样本Kolmogorov-Smirnov统计量的非参数筛选方法，保留可解释的判别性坐标，并建立理论保证与一致性准则。
2026-09-09 math.ST stat.AP stat.ME
Stab-GKnock: Controlled variable selection for partially linear models using generalized knockoffs
本文首次将fixed-X knockoff扩展至部分线性模型，提出Stab-GKnock方法，通过选择概率作为特征重要性得分实现FDR控制，并引入两阶段方法解决高维问题。
2023-11-27 math.ST stat.ME stat.TH
A Fast Screening Approach for High-dimensional Outcomes and High-dimensional Predictors
School of Pharmacy, University of North Carolina, Chapel Hill（北卡罗来纳大学药学院）；Maryland Psychiatric Research Center, School of Medicine, University of Maryland（马里兰大学医学院精神病研究中心）
提出图独立双筛选（GIDS）框架，同时降低响应变量和预测变量的维度，以解决高维交叉模态分析中的计算负担和可解释性问题。
2026-06-02 cs.LG math.ST stat.ME
