New improvements in the use of dependence measures for sensitivity analysis and screening
物理现象通常由数值模拟器模拟。这种代码可以作为输入大量的不确定性参数,它是重要的,以确定它们的影响,通过一个整体的敏感性分析(GSA)。然而,这些代码可能是耗时的,这阻止了基于经典Sobol指数的GSA,需要太多的模拟。由于输入的数量非常重要,因此这一点尤其重要。为了解决这个问题,我们考虑了最近的进展,依赖措施,专注于距离相关性和希尔伯特-施密特独立准则(HSIC)。我们的目标是研究这些指标,并将其用于筛选目的。数值试验揭示了相关性测度与经典Sobol指数之间的一些差异,并初步回答了“什么样的敏感性指数对什么样的情况?””是衍生的。然后,提出了两种方法来使用的依赖措施的筛选目的。第一个直接使用这些指数与独立性测试;渐近测试和他们的频谱扩展存在,并详细说明。为了在小样本情况下获得更高的精度,我们提出了一种基于自举抽样的非渐近版本。第二种方法是基于关联两个模拟的线性模型,其将它们的输出差异解释为它们的输入差异的加权和。由此,提出了一种自举方法来选择有影响的输入。我们还提出了一个启发式的方法来校准的HSIC Lasso方法。数值实验进行,并显示这些方法的筛选时,许多输入是没有影响力的潜力。
2014-12-03 math.ST stat.ME stat.TH
BOLT-SSI: A Statistical Approach to Screening Interaction Effects for Ultra-High Dimensional Data
在各种应用中,检测预测因子对响应变量的交互作用是至关重要的一步。在本文中,我们首先提出了一个简单的方法,确保筛选相互作用(SSI)。尽管其计算复杂度为$O(p^2n)$,但SSI对于中等维度的问题(例如,$p=10^3\sim10^4$),没有遗传假设。到超高维问题(例如,$p = 10^6$)的基础上,基于离散化相关的布尔表示和运算以及离散变量列联表,提出了一种快速算法BOLT-SSI。建立了SSI和BOLT-SSI的统计理论,保证了其可靠的筛选性能。SSI和BOLT-SSI的性能进行了全面的模拟和真实的案例研究。数值结果表明,SSI和BOLT-SSI往往可以优于他们的竞争对手在计算效率和统计精度。所提出的方法可以应用于完全检测与超过30万个预测因子的相互作用。基于这项研究,我们认为有必要重新思考统计准确性和计算效率之间的关系。我们已经表明,统计方法的计算性能往往可以大大提高,通过探索计算架构的优势与可容忍的统计精度损失。
2020-12-15 stat.ME
Distributed variable screening for generalized linear models
针对高维大规模广义线性模型,提出基于稀疏受限代理似然估计的分布式变量筛选方法,考虑协变量联合效应,证明确定筛选性质并通过模拟和真实数据验证有效性。
2024-05-08 stat.ME
Penalized linear regression with high-dimensional pairwise screening
在变量选择中,现有的筛选方法大多注重边际效应,忽略了协变量之间的相关性。为了提高选择的性能,我们在协变量中加入成对效应进行筛选和惩罚。我们通过研究独立协变量之间的最大绝对成对样本相关性的渐近分布来实现这一点。该理论的新颖之处在于收敛是相对于维数$p$而言的,并且相对于样本量$n$而言是均匀的。此外,我们得到了一个上限的最大成对R平方时,回归到两个不同的协变量的响应。基于这些极端值的结果,我们提出了一个筛选程序,以检测协变量对潜在的相关性和相关的响应。我们进一步结合成对筛选和确定独立筛选,并开发了一个新的正则化变量选择过程。数值研究表明,我们的方法是非常有竞争力的预测精度和变量选择精度。
2019-02-08 stat.ME
Nonparametric Independence Screening in Sparse Ultra-High Dimensional Additive Models
Fan和Lv(2008)提出了一种通过相关学习进行变量筛选的方法来降低稀疏超高维模型的维数。即使真实模型是线性的,边际回归也可能是高度非线性的。为了解决这个问题,我们进一步将相关学习扩展到边缘非参数学习。我们的非参数独立性筛选被称为NIS,是确定独立性筛选的一个特定成员。提出了几个密切相关的变量筛选程序。在非参数可加模型下,证明了在一些温和的技术条件下,所提出的独立筛选方法具有一定的筛选性质。在何种程度上可以减少独立筛选的维度也明确量化。作为一种方法的扩展,迭代非参数独立筛选(INIS)也被提出来提高有限样本拟合稀疏可加模型的性能。仿真结果和实际数据分析表明,该方法适用于中等样本量和大维数的情况,性能优于竞争方法。
2011-01-18 math.ST stat.CO stat.ME
Model-Free, Monotone Invariant and Computationally Efficient Feature Screening with Data-adaptive Threshold
一般来说,超高维的特征筛选有两个基本步骤。第一步是测量和排序响应和协变量之间的边际相关性,第二步是确定阈值。我们开发了一个新的筛选程序,称为SIT-BY程序,具有吸引力的统计特性,在这两个步骤。通过在测量和排序阶段采用切片独立估计,我们提出的方法不需要模型假设,保持单调变换不变,并实现几乎线性的计算复杂度。受错误发现率(FDR)控制程序的启发,我们从检验统计量的渐近正态性中提供了一个数据自适应阈值。在适当的条件下,我们证明了我们的程序可以渐近控制FDR,同时保持一定的筛选属性。我们通过广泛的模拟和全基因组数据集的应用程序,我们提出的程序的有限样本性能。
2022-07-27 stat.ME stat.OT
Model-Free Sure Screening via Maximum Correlation
我们考虑的问题,筛选功能在一个超高维设置。使用最大相关性,我们开发了一种新的程序称为MC-SIS的功能筛选,并表明MC-SIS具有一定的屏幕属性,而不施加模型或分布假设的响应和预测变量。因此,MC-SIS是一个无模型的确定独立性筛选方法,与其他一些现有的基于模型的确定独立性筛选方法在文献中。仿真实例和实际数据应用证明了MC-SIS的性能,并与其他现有的确定性筛选方法进行了比较。结果表明,MC-SIS优于这些方法时,他们的模型假设被违反,并保持竞争力时,模型假设成立。
2015-11-06 stat.ME
High-dimensional Ordinary Least-squares Projection for Screening Variables
当预测变量$p$的数量远远超过观测变量$n$的数量时,变量选择在统计应用中是一个具有挑战性的问题。在这种超高维度的环境中,引入了确定独立筛选(SIS)程序,通过以压倒性的概率保留真实模型来显着降低维度,然后进行精细的第二阶段分析。然而,上述确定筛选属性强烈依赖于模型中的重要变量与响应具有大的边际相关性的假设,这在现实中很少成立。为了克服这一点,我们提出了一种新的和简单的筛选技术称为高维普通最小二乘投影(HOLP)。我们证明了HOLP具有可靠的筛选性质,在没有强相关性假设的情况下给出了一致的变量选择,并且具有较低的计算复杂度。本文还讨论了一种脊型HOLP方法。仿真研究表明,HOLP执行竞争力相比,许多其他边缘相关的方法。一个哺乳动物眼病数据的应用说明了HOLP的吸引力。
2015-06-05 math.ST stat.ME stat.ML
Strong Sure Screening of Ultra-high Dimensional Data with Interaction Effects
超高维数据集在生物信息学、医学成像和社交网络分析等领域变得越来越普遍。对这些数据的独立筛选通常用于分析这些数据。然而,很少有方法存在筛选预测因子之间的相互作用。此外,当应用于对响应表现出强交互作用但弱边缘作用的数据集时,现存的交互筛选方法被证明是高度不准确的。我们提出了一个新的相互作用的筛选程序的基础上,联合累积量是不受这种限制。在一系列合理的条件下,我们证明了我们的相互作用筛选程序具有强的确定筛选性质。四个模拟被用来调查我们的方法相对于其他两个相互作用的筛选方法的性能。我们还应用两阶段分析的一个真实的数据的例子,首先采用我们提出的方法,然后进一步检查使用多因素降维选定的协变量的子集。
2020-10-14 stat.ME
Sure independence screening for covariate-dependent extreme value index estimation
Faculty of Data Science, Shiga University(滋贺大学数据科学学院);School of Information and Data Science, Nagasaki University(长崎大学信息数据科学学院)
研究高维协变量下协变量相关极值指数估计问题,提出基于核条件Pickands估计器构建边际效用排序协变量的确定独立性筛选方法,建立确定筛选性质,模拟和实际应用验证了方法有效性。
2026-08-11 stat.ME
Strong Sure Screening of Ultra-high Dimensional Categorical Data
超高维特征空间的特征筛选在预测因子指数超过观测值的数据集分析中起着至关重要的作用。这样的数据集在生物信息学、医学成像和社交网络分析等领域变得越来越普遍。通常,这些数据集都有分类响应和分类协变量,但现存的功能筛选文献很少考虑这样的数据类型。我们提出了一个新的筛选程序植根于Cochran-Armitage趋势检验。我们的方法特别适用于响应和预测变量都是分类的数据。在一组合理的条件下,我们证明了我们的筛选程序具有强的确定筛选性质,推广了Fan和Lv的开创性结果。一系列的四个模拟被用来研究我们的方法相对于其他三种筛选方法的性能。我们还应用了一个两阶段的迭代方法的一个真实的数据的例子,首先采用我们提出的方法,然后进一步筛选选定的协变量使用套索,自适应套索和弹性网正则化的一个子集。
2018-01-30 stat.ME
Doubly Robust Sure Screening for Elliptical Copula Regression Model
回归分析一直是统计学研究的热点。我们提出了一种非常灵活的半参数回归模型--椭圆Copula回归(ECR)模型,它涵盖了一大类线性和非线性回归模型,如可加性回归模型、单指标模型等。此外,ECR模型还能捕捉到变量之间的厚尾性和尾部相关性,因此在计量经济学和金融学等领域有着广泛的应用。本文主要研究超高维环境下ECR模型的特征筛选问题。针对ECR模型提出了一种双重稳健的可靠性筛选方法,其中包含两种类型的相关系数:Kendall-tau相关和典型相关.理论分析表明,该方法具有一定的筛选性能,在概率趋于1的情况下,筛选过程选择出所有重要变量,并将维度大大减少到相对于样本量的中等大小。通过数值计算表明,该方法优于现有的确定独立的筛选方法,可以安全地替代现有的方法。最后,将该方法应用于一个基因表达真实数据集,以显示其经验有用性。
2018-08-26 stat.ME
A Robust Partial Correlation-based Screening Approach
作为一种计算速度快、工作效率高的工具,确定独立筛选法在求解高维问题中受到了广泛的关注。本文从无模型的角度出发,提出了两种同时考虑异方差、离群值、重尾分布、连续或离散响应以及混杂效应的稳健可靠性筛选方法。首先,我们只使用两个随机指标定义一个鲁棒的相关性度量,并使用该相关性引入筛选器。其次,我们提出了一个强大的部分相关性为基础的筛选方法时,暴露变量。为了消除暴露对响应和每个协变量的混杂效应,我们使用具有某些指定损失函数的非参数回归。更具体地,形成了鲁棒的基于相关性的筛选方法(RC-SIS)和鲁棒的基于部分相关性的筛选框架(RPC-SIS),该框架包括两个具体的筛选器:RPC-SIS(L2)和RPC-SIS(L1)。第三,在一定的正则条件下,我们建立了响应变量可以是连续或离散的RC-SIS的筛选性质,以及RPC-SIS(L2)和RPC-SIS(L1)的筛选性质。我们的方法本质上是非参数的,并且对于响应和协变量都表现得很稳健。最后,进行了广泛的仿真研究和两个应用程序来证明我们所提出的方法的优越性。
2021-07-24 math.ST stat.ME stat.TH
Sure Screening for Transelliptical Graphical Models
我们提出了一个确定的筛选方法,用于恢复高维环境中的transelliptical图形模型的结构。我们估计的部分相关图阈值的样本相关阵使用肯德尔的tau统计量获得的估计的元素。在一个简单的假设之间的关系的相关性和部分相关图,我们表明,以高概率,估计的边缘集包含真正的边缘集,估计的边缘集的大小是受控的。我们开发了一个阈值,允许控制预期的假阳性率。在模拟和股票数据集上,我们表明,transelliptical图形肯定筛选执行相当有竞争力的计算要求更高的技术,图形估计。
2022-09-23 stat.AP stat.CO stat.ME
Sure screening for estimating equations in ultra-high dimensions
随着高通量实验产生的可能预测因子的数量不断增加,需要快速筛选出不重要的协变量的方法。基于模型的筛选方法已被提出并在理论上得到证明,但仅适用于少数特定模型。最近也研究了无模型筛选方法,但检测重要协变量的能力较低。在本文中,我们提出了EESCreen,筛选过程,可以使用任何模型,可以使用估计方程拟合,并提供统一的结果,其有限样本筛选性能。EESCreen因此概括了许多最近提出的基于模型和无模型的筛选程序。我们还提出了iEEScreen,EEScreen的迭代版本,并表明它是密切相关的最近研究的提升方法估计方程。我们通过模拟两个不同的估计方程,EEScreen和iEEScreen是有用的和灵活的筛选程序,并证明我们的方法对多发性骨髓瘤研究的数据。
2012-05-30 stat.ME
Conditional Mean Independence, Global Sensitivity Analysis, and Variable Screening Using nearest neighbor Graphs
Boston University(波士顿大学);University of Pennsylvania(宾夕法尼亚大学)
研究如何用条件均值函数解释响应,基于最近邻图提出该测度的一致估计量,给出收敛速度,用于条件均值独立性检验及无模型变量筛选,还讨论了交互效应测量的扩展。
2026-09-16 math.ST stat.ME stat.TH
Feature Screening via Distance Correlation Learning
本文讨论了多维数据分析中的特征筛选问题,多维数据分析在不同的科学领域中变得越来越重要。本文提出了一种基于距离相关的可靠独立性筛选方法(DC-SIS)。DC-SIS可以像Fan和Lv(2008)提出的基于Pearson相关性(SIS,简称)的确定独立性筛选过程一样容易实现。而DC-SIS可以显著改善SIS。Fan和Lv(2008)基于线性模型建立了SIS的确定筛选属性,但在包括线性模型在内的更一般的设置下,确定筛选属性对于DC-SIS是有效的。此外,DC-SIS的实现不需要模型规范(例如,线性模型或广义线性模型)。这在三维数据分析中是一个非常吸引人的性质。此外,DC-SIS可以直接用于筛选分组预测变量和多变量响应变量。我们建立了DC-SIS的可靠屏蔽特性,并进行了模拟来检验其有限样本性能。数值比较表明,DC-SIS在各种模型中的性能都要优于SIS。我们还说明了DC-SIS通过一个真实的数据的例子。
2012-06-01 stat.ME
Nonparametric Independence Screening via Favored Smoothing Bandwidth
提出了一种适用于超高维数据的灵活的非参数回归方法。作为第一步,我们提出了一个快速筛选方法的基础上的边缘局部常数回归的青睐平滑带宽。然后,一个迭代程序开发恢复重要的协变量和回归函数。从理论上证明了基于偏好平滑带宽的筛选具有模型选择一致性。仿真研究以及实际数据分析表明,新的程序的竞争力的性能。
2017-11-28 stat.AP stat.CO stat.ME
Robust and Scalable Sure Screening of Fixed effects in Ultrahigh-dimensional Linear Mixed Models
Indian Statistical Institute(印度统计研究所);University of Oslo(奥斯陆大学)
针对超高维线性混合模型,提出基于最小密度功率散度的鲁棒筛选方法DPD-SISP,通过代理变换解耦随机效应,实现固定效应变量的确定筛选,并保证指数级高概率的筛选性质。
2026-06-29 stat.CO stat.ME
Aggregated Sure Independence Screening for Variable Selection with Interaction Structures
本文提出聚合确定独立筛选方法,以解决 $p\gg n$ 下交互项变量选择中强层次约束和候选规模过大带来的计算难题,并可与任意交互项变量选择方法结合。
2024-07-04 stat.ME
Grouped feature screening for ultrahigh-dimensional classification via Gini distance correlation
本文提出基于基尼距离相关的超高维分类特征筛选方法,可处理单特征和分组特征筛选,具备无模型、确定独立筛选和排序一致性等性质,并能应对响应类别数发散的情形。
2023-04-17 math.ST stat.ME stat.TH
Greedy Forward Regression for Variable Screening
确定独立筛选(SIS)和前向回归(FR)是两种在超高维环境下流行的具有可靠筛选特性的变量筛选方法。这两种方法都是经典的变量筛选方法,最近在高维数据分析的新视角下引起了更多的关注。我们考虑一种新的和简单的筛选方法,在每一步的前向回归,结合多个预测变量的决定,将基于相同的标准。如果只执行一个步骤,它实际上会减少到SIS。因此,它可以被看作是FR和SIS的推广和统一。更重要的是,它保留了一定的筛选性质,在每一步中具有与FR相似的计算复杂度,但它可以在更少的步骤中发现相关的协变量。因此,它大大减少了FR的计算负担,同时保留了后者优于SIS的优点。此外,我们表明,它可以找到所有的真实变量,如果所采取的步骤的数量是正确的模型大小相同,即使使用原始FR。广泛的模拟研究和应用程序的两个真实数据的例子证明了所提出的方法的优良性能。
2015-11-03 stat.ME
U-Processes, U-Quantile Processes and Generalized Linear Statistics of Dependent Data
广义线性统计量是一个统一的类,包含U-统计量,U-分位数,L-统计量以及修剪和winsorized U-统计量。例如,许多常用的规模估计属于这一类。GL-统计量仅在独立性下被研究过,本文给出了强混合或L^1近历元依赖于绝对正则过程的序列的GL-统计量的渐近理论。为此,我们证明了经验U-过程的一个几乎必然近似高斯过程。借助于广义Bahadur表示,得出这样的强不变原理对经验U-分位数过程也成立,从而对GL-统计量也成立.作为直接的推论,我们获得了U-过程、U-分位数过程和GL-统计量的中心极限定理和重对数定律。
2011-08-18 math.PR math.ST stat.TH
Best subset selection is robust against design dependence
最佳子集选择(BSS)被广泛认为是高维变量选择的圣杯。然而,BSS的NP难性在很大程度上限制了它的实际应用,也在一定程度上阻碍了它的理论发展,特别是在当前的大数据时代。本文研究了盲源分离算法在目标稀疏度大于或等于真实稀疏度时的变量选择性质。我们的主要信息是,BSS是强大的设计依赖性方面实现模型的一致性和一定的筛选,更重要的是,这种鲁棒性可以传播到计算有形的近最佳子集。具体来说,我们引入了一个可识别的边际条件,是免费的限制特征值,并表明这是充分的,几乎是必要的BSS,以准确地恢复真实的模型。这个条件的放松版本也足以使BSS实现确定的屏蔽属性。此外,考虑到优化误差,我们发现,所有建立的统计性质的确切的最佳子集结转到任何近最佳子集的残差平方和是足够接近的最好的。特别地,两阶段完全校正迭代硬阈值(IHT)算法可以证明在对数步长内找到稀疏的确定筛选子集;在该集合内的另一轮精确BSS可以恢复真实模型。仿真研究和实际数据的例子表明,IHT产生较低的错误发现率和较高的真阳性率的竞争方法,包括LASSO,SCAD和确定独立筛选(SIS),特别是在高度相关的设计。
2021-08-26 math.ST stat.ME stat.TH
Multicollinearity-agnostic feature screening for non-Euclidean responses: a factor adjusted approach
Tsinghua University(清华大学);Beijing Normal University(北京师范大学);Shanghai University of Finance and Economics(上海财经大学)
针对高维非欧几里得响应中多重共线性导致边际筛选失效的问题,提出因子调整的Fréchet确信独立筛选方法,通过公共因子与特异成分分离,保证筛选性质并验证有效性。
2026-09-15 stat.ME
Prediction of treatment outcome for autism from structure of the brain based on sure independence screening
自闭症谱系障碍(ASD)是一种复杂的神经发育障碍,行为治疗干预已显示出对ASD幼儿的希望。然而,在了解每种治疗方法的效果方面进展有限。在这个项目中,我们的目标是检测治疗后大脑的结构变化,并选择与治疗结果相关的结构特征。建立接受特定治疗的患者的大型数据库的困难和医学图像分析问题的高维性是这项工作的挑战。为了选择预测特征并建立准确的模型,我们使用了确定独立筛选(SIS)方法。SIS是一种理论和经验验证的超高维一般线性模型的方法,它通过迭代特征选择来实现预测精度和正确的特征选择。与逐步特征选择方法相比,SIS在每次迭代中去除多个特征,计算效率高。与其他线性模型如弹性网络回归、支持向量回归(SVR)和偏最小二乘回归(PSLR)相比,SIS具有更高的精度。我们在各种实验中验证了SIS的优越性能:首先,我们从FreeSurfer中提取大脑结构特征,包括皮质厚度,表面积,平均曲率和皮质体积。接下来,我们根据结构特征预测不同的治疗结果。我们表明,SIS在所有任务中实现了预测和测量之间的最高相关性。此外,我们报告SIS选择的区域作为ASD的生物标志物。
2019-02-26 q-bio.NC stat.ME
Ultrahigh Dimensional Feature Selection via Kernel Canonical Correlation Analysis
高维变量选择是基因组学等许多科学领域的一个重要问题。本文提出了一种基于核典型相关分析的可靠独立特征筛选方法(KCCA-SIS)。KCCA- SIS易于实现和应用.与Fan和Lv [2008]提出的基于Pearson相关性(SIS)的确定独立性筛选方法相比,KCCA-SIS可以处理变量间的非线性依赖关系。与Li等人[2012]提出的基于距离相关性的确定独立性筛选方法(简称DC-SIS)相比,KCCA-SIS具有无标度、无分布性,并且基于高斯核的普适特性(Micchelli等人[2006])具有更好的近似结果。KCCA-SIS比SIS和DC-SIS更通用,因为SIS和DC-SIS对应于特定的内核选择。与Balasubramanian等人[2013]开发的Hilbert Schmidt独立性准则-Sure独立性筛选(sup-HSIC-SIS,简称)的上确界相比,KCCA-SIS是无标度的,消除了特征和响应变量的边缘变化。KCCA-SIS的应用不需要对响应变量和预测变量之间的模型假设,可用于多维数据分析。与DC-SIS和sup-HSIC-SIS类似,KCCA-SIS也可以直接用于筛选分组预测因子和多变量响应变量。通过仿真研究表明,KCCA-SIS具有一定的筛选性能,并具有较好的性能。我们应用KCCA-SIS研究人类大脑发育时空基因表达数据集中的自闭症基因,并获得了更好的结果相比,其他现有的…
2016-06-02 stat.ME
A note on marginal correlation based screening
独立性筛选方法如双样本$t$检验和基于边际相关性的排序是在多维数据集中变量选择中最广泛使用的技术。在这个简短的说明中,简单的例子被用来证明潜在的问题与独立性筛选方法在相关的预测。此外,一个例子被认为是所有重要的变量是相互独立的,除了一个重要的变量是独立的不重要的变量。此外,从全基因组关联研究的一个真实数据的例子是用来说明边际相关筛选相比,另一种筛选方法的性能较差。
2020-11-16 stat.ME
Model-free screening procedure for ultrahigh-dimensional survival data based on Hilbert-Schmidt independence criterion
如何选取对感兴趣事件有显著影响的活动变量是超高维数据统计分析中一个非常重要且有意义的问题。可靠的独立筛选程序已被证明是一种有效的方法,以减少数据的维数从一个大规模到一个相对温和的规模。对于删失生存数据,现有的筛选方法主要采用卡普兰-迈耶估计量来处理删失,对于删失率较高的场景可能效果不佳。在这篇文章中,我们提出了一个无模型筛选程序的基础上希尔伯特-施密特独立准则(HSIC)。该方法避免了从大量协变量中指定实际模型的复杂性。与现有的筛选程序相比,这种新方法有几个优点。首先,它不涉及卡普兰-迈耶估计量,因此它的性能是更强大的情况下,与沉重的删失率。其次,HSIC的经验估计非常简单,因为它只依赖于Gram矩阵乘积的迹。此外,所提出的方法不需要任何复杂的数值优化,因此相应的计算非常简单和快速。最后,采用核方法的所提出的过程实质上更能抵抗离群值。大量的仿真研究表明,所提出的方法具有良好的性能比现有的方法。作为一个例子,我们应用所提出的方法来分析弥漫性大B细胞淋巴瘤(DLBCL)的数据和卵巢癌的数据。
2023-03-27 stat.ME
Robust variable screening for regression using factor profiling
可靠独立筛选是一种用于超高维回归分析中变量选择的快速方法。不幸的是,它的性能大大恶化的预测之间的依赖性增加。为了解决这个问题,因子轮廓确定独立筛选(FPSIS)模型的预测变量的相关结构,假设它可以表示为几个潜在的因素。然后可以通过将数据投影到这些因子所跨越的子空间的正交补上来分析相关性。然而,这两种方法都不能处理数据中存在的离群值。因此,我们提出了一个强大的筛选方法,它使用最小二乘法来估计潜在的因素和因素轮廓变量。然后,通过使用回归MM估计量对因子轮廓变量进行变量筛选。研究了模型中不同类型的异常值及其在变量筛选中的作用。仿真研究和实际数据分析表明,所提出的鲁棒方法在干净数据上具有良好的性能,在污染数据上优于两种非鲁棒方法。
2018-11-14 stat.ME
Nonparametric independence screening and structure identification for ultra-high dimensional longitudinal data
超高维纵向数据越来越普遍,其分析在理论和方法上都具有挑战性。我们提供了一个新的自动程序来寻找一个稀疏的半变系数模型,这是广泛接受的纵向数据分析。我们所提出的方法首先减少协变量的数量,以一个中等的顺序,通过采用筛选程序,然后确定使用组SCAD估计,这是随后完善的科目内的相关性占的变化和常数系数。筛选过程是基于工作独立性和B样条边缘模型。在较弱的条件下,比文献中,我们表明,只有不相关的变量将被筛选出的概率高,所选择的变量的数量可以有界的一个温和的顺序。这允许随后的结构识别步骤的期望的稀疏性和预言属性。注意,现有的方法需要某种迭代筛选来实现这一点,因此它们需要大量的计算工作,并且不能保证一致性。改进的半变系数模型采用剖面最小二乘、局部线性平滑和非参数协方差估计,是半参数有效的。我们还提出了实现所提出的方法的方法,并选择调谐参数。一个广泛的模拟研究总结,以证明其有限样本的性能和酵母细胞周期的数据进行了分析。
2014-09-23 stat.ME
Ultrahigh dimensional variable selection: beyond the linear model
高维空间中的变量选择是当代科学发现和决策中的许多问题的特征。许多常用的技术基于独立筛选;示例包括相关性排名(Fan和Lv,2008)或在高维分类中使用双样本t检验的特征选择(Tibshirani等人,2003年)。在线性模型的背景下,Fan和Lv(2008)表明,这种简单的相关性排名在某些条件下具有确定的独立筛选属性,并且当特征与响应变量稍微不相关但共同相关时,需要对其进行修订,称为迭代确定独立筛选(ISIS)。在本文中,我们扩展ISIS,没有明确的定义的残差,一般的伪似然框架,其中包括广义线性模型作为一个特殊情况。即使在最小二乘设置中,新方法也通过允许在迭代过程中删除变量来改进ISIS。我们的技术使我们能够在高维分类中选择重要的特征,而通常使用的双样本t-方法失败了。在特征筛选阶段引入了一种新的技术来降低错误发现率。几个模拟和两个真实数据的例子来说明的方法。
2008-12-17 stat.ME stat.ML
High-dimensional variable selection for Cox's proportional hazards model
高维空间中的变量选择问题从多个学科的前沿向当代统计问题提出了挑战。最近的技术进步使得通过生物成像技术收集大量的协变量信息(如微阵列、蛋白质组学和SNP数据)成为可能,同时在临床研究中观察患者的生存信息。因此,同样的挑战适用于生存分析,以了解基因组学信息和关于生存时间的临床信息之间的关联。在这项工作中,我们将确定筛选程序Fan和Lv(2008)扩展到Cox比例风险模型,并提供了迭代版本。数值模拟研究表明,令人鼓舞的性能相比,与其他技术,如LASSO所提出的方法。这证明了迭代确定独立筛选方案的实用性和通用性。
2010-05-19 stat.ME stat.ML
A Generalized Adaptive Joint Learning Framework for High-Dimensional Time-Varying Models
School of Statistics and Data Science, Capital University of Economics and Business(首都经济贸易大学统计与数据科学学院);Wisdom Lake Academy of Pharmacy, Xi’an Jiaotong-Liverpool University(西交利物浦大学智慧药学学院)
本文提出了一种高维时变模型的通用自适应联合学习框架,通过两阶段筛选和细化程序,结合自适应分组惩罚与确信筛选原理,实现变量选择与突变点检测,确保在超高维情况下具有Oracle性质。
2026-01-27 math.ST stat.CO stat.ME
Feature screening for multi-response linear models by empirical likelihood
提出了一种基于经验似然的多响应多维线性模型特征筛选方法。通过一个多元矩条件,经验似然诱导排序统计量可以利用响应之间的联合效应,从而导致一个更好的性能比单独考虑响应的方法。更重要的是,通过使用经验似然,新方法适应随机误差的条件方差的异质性。该方法具有一定的筛选性能,模型尺寸控制在合理的范围内。此外,新的筛选方法也被扩展到一个条件版本,使它能够恢复隐藏的预测,很容易错过的无条件的方法。并给出了相应的理论性质。最后,数值研究和实际数据分析,以说明所提出的方法的有效性。
2022-06-04 stat.ME
Marginal and Interactive Feature Screening of Ultra-high Dimensional Feature Spaces with Multivariate Response
当特征数量以指数方式超过样本数量时,特征筛选在降低特征空间的维度和基于这些数据开发模型方面起着关键作用。虽然大多数现存的特征筛选方法仅适用于具有单变量响应的数据,但我们提出了一种新的方法(GenCorr),该方法允许多变量响应。这种方法使我们能够更恰当地将多个响应建模为一个单元,而不是不相关的实体,这有助于对嵌入在多个响应的协方差结构中的复杂性状进行更稳健的分析。GenCorr框架允许筛选边缘和交互功能。结果表明,GenCorr算法具有较强的可靠性筛选能力.在边际的情况下,我们研究了优越的数值性能的GenCorr相比,目前的两种方法,通过各种各样的经验模拟多变量边际筛选。我们还提出了几个模拟检查GenCorr的性能在多变量交互筛选。最终的真实数据分析表明,我们的方法对GWAS数据的性能。
2019-11-16 stat.ME
Cluster-Based Dimensionality Reduction by Nonparametric Distributional Screening
针对带聚类划分的高维数据,提出基于多样本Kolmogorov-Smirnov统计量的非参数筛选方法,保留可解释的判别性坐标,并建立理论保证与一致性准则。
2026-09-09 math.ST stat.AP stat.ME
Screening methods for linear errors-in-variables models in high dimensions
微阵列研究,为了确定与感兴趣的结果相关的基因,通常产生噪声测量的大量基因表达特征,从少数受试者。分析这种高维数据的一种常见方法是使用线性变量误差模型;然而,目前用于拟合这种模型的方法在计算上是昂贵的。在本文中,我们提出了两个有效的筛选程序,即校正惩罚边际筛选和校正肯定独立筛选,以减少最终模型建立的变量的数量。这两种筛选程序都是基于拟合校正的边际回归模型,该模型将结果分别与每个受污染的协变量相关联,即使具有大量特征也可以有效地计算。在温和的条件下,我们表明这些程序可以实现筛选一致性并大大减少特征数量,即使协变量数量随着样本量呈指数级增长也是如此。此外,如果真正的协变量是弱相关的,校正惩罚边缘筛选可以实现全变量选择的一致性。通过模拟研究和挪威妇女的骨密度的基因表达数据的分析,我们证明了这两个新的筛选程序估计的线性误差变量模型计算可扩展的高维设置,并提高有限样本估计和选择性能相比,不采用筛选阶段的估计。
2021-04-20 stat.ME
A Fast Screening Approach for High-dimensional Outcomes and High-dimensional Predictors
School of Pharmacy, University of North Carolina, Chapel Hill(北卡罗来纳大学药学院);Maryland Psychiatric Research Center, School of Medicine, University of Maryland(马里兰大学医学院精神病研究中心)
提出图独立双筛选(GIDS)框架,同时降低响应变量和预测变量的维度,以解决高维交叉模态分析中的计算负担和可解释性问题。
2026-06-02 cs.LG math.ST stat.ME
Stab-GKnock: Controlled variable selection for partially linear models using generalized knockoffs
本文首次将fixed-X knockoff扩展至部分线性模型,提出Stab-GKnock方法,通过选择概率作为特征重要性得分实现FDR控制,并引入两阶段方法解决高维问题。
2023-11-27 math.ST stat.ME stat.TH
Forward Regression via Gram-Schmidt Orthogonalization for Ultra-High Dimensional Linear Models
School of Management, Zhejiang University(浙江大学管理学院);Perelman School of Medicine, University of Pennsylvania(宾夕法尼亚大学佩雷尔曼医学院);Booth School of Business, University of Chicago(芝加哥大学布斯商学院)
本文提出基于Gram-Schmidt正交化的前向回归方法,用于高维线性模型中的变量筛选,通过递归更新减少重复投影成本,避免交叉验证,提升计算效率与稳定性。
2026-03-19 econ.EM stat.ME
Structured Screen-and-Select for Ultra-High-Dimensional Variable Selection
The University of Texas at El Paso(德克萨斯大学埃尔帕索分校)
针对超高维变量选择中边际筛选可能遗漏弱信号活跃预测因子的问题,提出结构化筛选与选择(S3VS)迭代框架,结合结果筛选与相关局部集,在多种模型下实现,模拟和卵巢癌数据表明其可改善变量恢复或预测。
2026-09-22 stat.ME