High-dimensional Ordinary Least-squares Projection for Screening Variables
当预测变量$p$的数量远远超过观测变量$n$的数量时，变量选择在统计应用中是一个具有挑战性的问题。在这种超高维度的环境中，引入了确定独立筛选（SIS）程序，通过以压倒性的概率保留真实模型来显着降低维度，然后进行精细的第二阶段分析。然而，上述确定筛选属性强烈依赖于模型中的重要变量与响应具有大的边际相关性的假设，这在现实中很少成立。为了克服这一点，我们提出了一种新的和简单的筛选技术称为高维普通最小二乘投影（HOLP）。我们证明了HOLP具有可靠的筛选性质，在没有强相关性假设的情况下给出了一致的变量选择，并且具有较低的计算复杂度。本文还讨论了一种脊型HOLP方法。仿真研究表明，HOLP执行竞争力相比，许多其他边缘相关的方法。一个哺乳动物眼病数据的应用说明了HOLP的吸引力。
2015-06-05 math.ST stat.ME stat.ML
Conditional variable screening via ordinary least squares projection
本文提出了一种新的线性模型变量筛选方法--普通最小二乘投影条件筛选法。COLP算法可以利用某些主动预报因子的先验知识，消除其系数对其余预报因子估计的不利影响，从而显著提高筛选精度。我们证明了其在合理的假设下，一定的筛选属性，并证明其实用程序中的白血病数据集。此外，基于条件方法，我们引入了一种迭代算法称为通过普通最小二乘投影（FOLP）的前向筛选，它不仅可以更有效地利用先验信息，而且在没有先验知识的情况下，使用数据驱动的条件集也有很好的性能。进行了广泛的仿真研究，以证明这两种方法的能力。
2020-02-04 math.ST stat.TH
ExSIS: Extended Sure Independence Screening for Ultrahigh-dimensional Linear Models
在超高维线性模型中，统计推断在计算上是禁止的。基于相关性的变量筛选可以用来克服这一挑战，在这种筛选中，在统计推断之前，利用边际相关性从模型中去除不相关的变量。基于相关性的变量筛选的先前工作要么对线性模型施加统计先验，要么假设特定的筛选后推断方法。本文首先将基于相关性的变量筛选分析扩展到任意线性模型和筛选后推理技术。特别是，（i）它表明，一个条件-被称为筛选条件-是足够的成功的相关性为基础的筛选线性模型，和（ii）它提供了见解的依赖边际相关性为基础的筛选不同的问题参数。数值实验证实，这些见解不仅仅是分析的文物，相反，它们反映了与基于边际相关性的变量筛选相关的挑战。其次，本文明确推导出任意（随机或确定性）线性模型的筛选条件，并在此过程中，它建立了-在适当的条件下-有可能减少一个超高维，任意线性模型的尺寸几乎样本量，即使活动变量的数量几乎与样本量成线性比例。第三，它专门的筛选条件，以亚高斯线性模型和对比的最终结果，现有的文献。这种专业化正式验证了本文的主要结果概括了现有的基于相关性的筛选。
2020-07-04 cs.IT math.IT math.ST
Variable screening with multiple studies
技术的进步产生了丰富的高维数据，允许整合多个相关研究。基于边缘相关的变量筛选方法由于其巨大的计算优势，已经成为流行的正则化方法的变量选择的有前途的替代方案。然而，迄今为止，所有这些筛选方法都仅限于单个研究。在本文中，我们考虑了一个一般框架的变量筛选与多个相关的研究，并进一步提出了一个新的两步筛选程序使用自归一化估计的高维回归分析在这个框架中。与一步法和基于秩的确定独立筛选（SIS）方法相比，我们的方法大大减少了假阴性错误，同时保持了较低的假阳性率。理论上，我们表明，我们的程序具有一定的筛选性能与较弱的信号强度的假设，并允许功能的数量以指数速度增长的样本量。此外，我们放松了常用的正态性假设，并允许亚高斯分布。模拟和一个真正的转录组应用程序说明了我们的方法相比，基于排名的SIS方法的优势。
2017-10-11 math.ST stat.ME stat.TH
Conditional Sure Independence Screening
在变量数量巨大的情况下，独立筛选是为“大数据”选择变量的一个有力方法。常用的独立性筛选方法是基于边际相关性或边际相关性的变化，在许多应用中，研究者往往有一些先验知识，即某组变量与响应相关。在这种情况下，对其他预测因子的相对重要性的自然评估是在已知变量集存在的情况下各个预测因子的条件贡献。这导致了条件确定独立筛选（CSIS）。条件反射有助于降低变量选择过程中的假阳性率和假阴性率。本文在广义线性模型的背景下提出并研究了CSIS。对于超高维统计问题，我们给出了确定筛选是可能的条件，并导出了所选变量个数的上界。我们还阐明了CSIS产生模型选择一致性的情况下。此外，我们提供了两种数据驱动的方法来选择条件筛选的阈值参数。该程序的效用说明了模拟研究和分析两个真实的数据集。
2012-10-31 math.ST stat.TH
Nonparametric Independence Screening in Sparse Ultra-High Dimensional Varying Coefficient Models
变系数模型是一种重要的非参数统计模型，它允许我们研究协变量的影响如何随暴露变量而变化。当协变量的数量很大时，变量选择的问题就来了。本文提出并研究了用于筛选超高维稀疏变系数模型中变量的边缘非参数筛选方法。建议的非参数独立性筛选（NIS）选择的变量排名的非参数边际贡献的每个协变量给定的暴露变量的措施。当维数为非多项式阶时，在一定的技术条件下，建立了确定的独立筛选性质，并对NIS的降维进行了量化。为了提高算法的实用性和有限样本性能，提出了两种数据驱动的迭代NIS方法：条件置换法和贪婪法，分别得到了条件INIS和贪婪INIS。仿真研究和实际数据应用进一步说明了所提出的方法的有效性和灵活性。
2013-03-03 math.ST stat.TH
Quantile-adaptive model-free variable screening for high-dimensional heterogeneous data
我们引入了一个分位数自适应框架，用于高维异构数据的非线性变量筛选。这个框架有两个显著的特点：（1）它允许活动变量的集合在分位数之间变化，从而使其更灵活地适应异质性;（2）它是无模型的，避免了在高维空间中指定统计模型的困难任务。我们的非线性独立性筛选程序采用样条逼近在感兴趣的分位数水平上对边际效应进行建模。在分位数函数的适当条件下，不需要任何矩的存在，新的程序被证明在超高维享受一定的屏蔽性质。此外，分位数自适应框架可以自然地处理生存分析中出现的删失数据。我们证明了当响应变量服从随机右删失时，确定筛选性质仍然有效。数值研究证实了所提出的方法对各种半参数模型的良好性能，以及从异方差数据中提取特定分位数信息的有效性。
2013-12-11 math.ST stat.TH
On Variable Screening in Multiple Nonparametric Regression Model
本文研究了多元非参数回归模型中的变量筛选问题。所提出的方法是基于这样一个事实，即回归函数相对于无关变量的偏导数应该是可以忽略的。所提出的方法的统计特性进行了研究，在这两种情况下：（i）当误差项的方差是已知的，和（ii）当误差项的方差是未知的。此外，我们建立了我们所提出的方法的实用性，用于与经济学，金融学和其他科学等跨学科科学相关的各种模拟和真实数据。
2021-01-16 math.ST stat.ME stat.TH
A model-free Screening procedure
本文提出了一种无模型的变量筛选方法，通过建立Berry-Esseen型不等式来保证理论保证，并通过模拟和实际数据验证其有效性。
2025-12-08 math.ST stat.TH
Sequential Correct Screening and Post-Screening Inference
针对统计学中选择前m个最大总体参数变量的基础问题，本文提出序贯正确筛选（SCS）方法实现随时有效的变量筛选，并开发控制错误覆盖率的筛选后推断（PSI）程序，通过理论与实验验证其性能。
2025-08-20 math.ST stat.ME stat.TH
Optimality of Graphlet Screening in High Dimensional Variable Selection
考虑一个线性回归模型，其中设计矩阵X具有n行和p列。我们假设（a）p比n大得多，（b）系数向量beta在只有一小部分坐标为非零的意义上是稀疏的，以及（c）格拉姆矩阵G = X ′ X在每行具有相对较少的大坐标（G的对角线被归一化为1）的意义上是稀疏的。G的稀疏性自然地导致了所谓的强依赖图（GOSD）的稀疏性。我们发现一个有趣的信号稀疏性和图形稀疏性之间的相互作用，这确保了在一个广泛的背景下，一组真正的信号分解成许多不同的小尺寸组件的GOSD，不同的组件是断开的。我们提出了Graphlet筛选（GS）作为一种新的变量选择方法，这是一个两阶段的筛选和清洁方法。GS的关键方法创新是使用GOSD来指导筛选和清洗。与计算成本为p^m的m变量蛮力筛选相比，GS在筛选中仅具有p的计算成本（高达一些多log（p）因子）。我们通过极大极小汉明距离来衡量任何变量选择过程的性能。我们表明，在一个非常广泛的类的情况下，GS实现了最佳的收敛速率的汉明距离。有些令人惊讶的是，众所周知的程序子集选择和套索是速率非最佳的，即使在非常简单的设置，甚至当他们的调谐参数是理想的设置。
2014-06-13 math.ST stat.ME stat.ML
A Model-free Variable Screening Method Based on Leverage Score
随着信息技术的快速发展，在生物学、化学和社会科学等各个科学领域都收集了大量的数据集。通常通过统计学习或模型拟合从这些数据中提取有用或有意义的信息。在大规模数据集中，样本量和预测因子的数量都可能很大，在这种情况下，传统方法面临计算挑战。最近，一个创新的和有效的抽样方案的基础上杠杆得分通过奇异值分解已被提出来选择行的设计矩阵作为替代的全部数据在线性回归。类似地，变量筛选可以被视为选择设计矩阵的行。然而，按照这种思路进行有效的变量选择仍然是难以捉摸的。在这篇文章中，我们弥合这一差距，提出了一个加权杠杆变量筛选方法，利用左，右奇异向量的设计矩阵。我们从理论上和经验表明，使用我们的方法选择的预测可以始终包括真正的预测不仅为线性模型，但也为复杂的一般指数模型。大量的仿真研究表明，加权杠杆筛选方法是高度计算效率和有效的。我们还证明了它在使用空间转录组数据识别癌症相关基因方面的成功。
2021-09-21 math.ST stat.ME stat.TH
Copula-based Partial Correlation Screening: a Joint and Robust Approach
三维特征的筛选可能会遇到复杂的问题，如离群观察，异方差或重尾分布，多重共线性和混杂效应。标准的基于相关性的边际筛选方法可能是这些问题的弱解。我们贡献了一个新的强大的联合筛选，以防止离群值和分布误指定的响应变量和协变量，并考虑到外部变量在筛选步骤。具体来说，我们介绍了一个基于Copula的偏相关（CPC）筛选。我们发现，估计CPC的经验过程弱收敛到一个高斯过程，并建立一定的筛选性能CPC筛选器在非常温和的技术条件下，我们不需要任何时刻的条件，弱于现有的替代文献。此外，从理论的角度来看，我们的方法允许条件变量的发散数量。广泛的模拟研究和两个数据的应用，以说明我们的建议。
2018-12-23 math.ST stat.TH
Robust rank correlation based screening
独立性筛选是一种变量选择方法，其使用排序标准来选择显著变量，特别是对于具有非多项式维度的统计模型或“大p，小n”范式，当p可以与样本量n的指数一样大时。本文提出了一种鲁棒的秩相关筛选（RRCS）方法来处理超高维数据。新方法基于响应变量和预测变量之间的Kendall τ相关系数，而不是现有方法的Pearson相关系数。与现有的独立筛选方法相比，新方法具有四个可取的特点。首先，确定的独立性筛选属性可以保持只有在预测变量的二阶矩的存在下，而不是指数尾或相似性，即使当预测变量的数量增长一样快的指数的样本量。其次，它可以用来处理半参数模型，如转换回归模型和单指标模型在单调约束下的链接函数，而不涉及非参数估计，即使在模型中的非参数函数。第三，该程序可以在很大程度上用于对抗观测值中的离群值和影响点。最后，使用指示函数的秩相关筛选大大简化了理论推导，由于所得的统计量的有界性，与以前的研究相比，变量筛选。与现有的方法进行了比较，并进行了仿真分析的一个实际数据的例子。
2012-10-17 math.ST stat.ME stat.TH
Conditional nonparametric variable screening by neural factor regression
针对高维协变量的条件变量筛选问题，提出基于神经网络非参数回归的检验方法，通过平滑偏导估计实现渐近正态与一致性，经模拟和真实应用验证有效。
2024-08-20 econ.EM math.ST stat.TH
Nonparametric Independence Screening in Sparse Ultra-High Dimensional Additive Models
Fan和Lv（2008）提出了一种通过相关学习进行变量筛选的方法来降低稀疏超高维模型的维数。即使真实模型是线性的，边际回归也可能是高度非线性的。为了解决这个问题，我们进一步将相关学习扩展到边缘非参数学习。我们的非参数独立性筛选被称为NIS，是确定独立性筛选的一个特定成员。提出了几个密切相关的变量筛选程序。在非参数可加模型下，证明了在一些温和的技术条件下，所提出的独立筛选方法具有一定的筛选性质。在何种程度上可以减少独立筛选的维度也明确量化。作为一种方法的扩展，迭代非参数独立筛选（INIS）也被提出来提高有限样本拟合稀疏可加模型的性能。仿真结果和实际数据分析表明，该方法适用于中等样本量和大维数的情况，性能优于竞争方法。
2011-01-18 math.ST stat.CO stat.ME
Variable screening based on Gaussian Centered L-moments
大数据的一个重要挑战是识别重要变量。在本文中，我们提出了发现非标准单变量边缘分布的变量的方法。传统的基于矩的汇总统计量可以很好地用于该目的，但它们对离群值的敏感性可能导致基于少数离群值而不是分布形状（如双峰）的选择。为了解决这种类型的非鲁棒性，我们考虑L-矩。然而，在实践中使用这些具有限制，因为它们在高斯分布处不取零值，而边缘分布的形状最自然地与高斯分布进行比较。作为一种补救措施，我们提出了高斯中心的L-矩，共享的L-矩的优点，但在高斯分布为零。高斯中心L-矩优于其他常规矩的优势在理论和实践方面都得到了体现，例如它们在癌症遗传学数据中筛选重要基因的性能。
2019-08-29 math.ST stat.CO stat.ME
Local independence feature screening for nonparametric and semiparametric models by marginal empirical likelihood
我们考虑一个独立的功能筛选技术，以确定解释变量，本地有助于在高维回归分析的响应变量。在不需要底层数据模型的特定参数形式的情况下，我们的方法可以适应广泛的非参数和半参数模型家族。为了检测解释变量的局部贡献，我们的方法结合边际非参数回归在局部构造经验似然。由于我们的方法实际上不需要估计，因此在单指数模型等情况下是有利的，即使是边际模型的规范和识别也是一个问题。通过自动将非参数回归的变化水平，并直接评估的强度，数据证据支持本地的贡献，从每个解释变量，我们的方法提供了一个独特的视角来解决功能筛选问题。理论分析表明，该方法可以处理数据维数随样本量呈指数增长的情况。通过大量的理论说明和数值例子，我们证明了局部独立筛选方法的有效性。
2016-03-30 math.ST stat.TH
Robust Sure Independence Screening for Non-polynomial dimensional Generalized Linear Models
研究了非多项式阶的超高维广义线性模型的变量筛选问题。由于流行的SIS方法是非常不稳定的污染和噪声的存在下，我们讨论了一个新的强大的筛选过程的基础上的边缘回归系数的最小密度功率发散估计（MDPDE）。我们提出的筛选程序在纯数据和污染数据的情况下表现良好。我们提供了一个理论上的动机使用边际MDPDE变量筛选人口以及样本方面，特别是，我们证明了边际MDPDE是一致的，导致我们提出的算法的一定的筛选性能。最后，我们提出了一个适当的MDPDE为基础的扩展，强大的条件筛选GLM随着其肯定的筛选属性的推导。我们提出的方法说明了通过广泛的数值研究，以及一个有趣的实际数据的应用。
2022-11-12 math.ST stat.ME stat.TH
Phase Transitions in Genome-wide Association Studies and Categorical Variable Screenings
受全基因组关联筛选研究（GWAS）的启发，我们研究了检验统计量具有近似χ 2分布的分类变量的高维边缘筛选。我们在高维卡方模型的特征四个新的相变，并推导出必要的和足够的统计程序，同时控制错误发现（在家庭明智的差错率或错误发现率）和错过检测（在家庭明智的非发现率或错误的非发现率）在大尺寸的信号大小。值得注意的是，自由度的χ 2分布不影响在所有四个相变的边界。几个众所周知的程序，以达到这些界限。在高斯位置模型下，还发现了两个新的相变。然后，我们阐明了关联检验中信号大小的性质，通过描述其与边际频率、比值比和$2\times2$列联表中样本量的关系。这使我们能够说明在全基因组关联研究（GWAS）的相变现象的一个有趣的表现。我们还表明，也许令人惊讶的是，给定的总样本量，平衡设计在这样的关联研究很少提供最佳的功率检测罕见的遗传变异的影响。
2022-06-03 math.ST stat.ME stat.TH
Conditional Mean Independence, Global Sensitivity Analysis, and Variable Screening Using nearest neighbor Graphs
Boston University（波士顿大学）；University of Pennsylvania（宾夕法尼亚大学）
研究如何用条件均值函数解释响应，基于最近邻图提出该测度的一致估计量，给出收敛速度，用于条件均值独立性检验及无模型变量筛选，还讨论了交互效应测量的扩展。
2026-09-16 math.ST stat.ME stat.TH
Marginal empirical likelihood and sure independence feature screening
我们研究了边际经验似然方法的情况下，当变量的数量与样本量呈指数增长。边际经验似然比作为感兴趣的参数的函数进行了系统的检查，我们发现，边际经验似然比评估为零，可以用来区分是否解释变量是有助于响应变量或没有。基于这一发现，我们提出了一个统一的线性模型和广义线性模型的特征筛选过程。不同于大多数现有的特征筛选方法，依赖于一些边际估计的幅度来识别真实信号，所提出的筛选方法是能够进一步纳入这样的估计的不确定性的水平。这样的优点继承了经验似然方法的自学生化属性，并扩展了现有特征筛选方法的见解。此外，我们表明，我们的筛选方法是限制较少的分布假设，并可以方便地适用于广泛的场景，如使用一般矩条件指定的模型。我们的理论结果和大量的数值模拟和数据分析的例子证明了边际经验似然方法的优点。
2013-11-06 math.ST stat.TH
Screening and metamodeling of computer experiments with functional outputs. Application to thermal-hydraulic computations
为了执行不确定性，灵敏度或优化分析的标量变量计算的CPU时间昂贵的计算机代码，一个广泛接受的方法是首先确定最有影响力的不确定输入（通过筛选技术），然后在替换CPU时间昂贵的模型由CPU廉价的数学函数，称为元模型。本文将这种方法扩展到功能输出的情况下，例如当模型输出变量是曲线。筛选方法基于输出曲线的方差分析和主成分分析。函数元建模包括曲线分类步骤、降维步骤和经典元建模步骤。一个工业核反应堆应用（处理加压热冲击分析中的不确定性）说明了所有这些步骤。
2011-11-03 math.ST stat.TH
Grouped feature screening for ultrahigh-dimensional classification via Gini distance correlation
本文提出基于基尼距离相关的超高维分类特征筛选方法，可处理单特征和分组特征筛选，具备无模型、确定独立筛选和排序一致性等性质，并能应对响应类别数发散的情形。
2023-04-17 math.ST stat.ME stat.TH
Better subset regression
为了寻找高维线性回归模型的有效筛选方法，研究了模型拟合与筛选性能之间的关系。在稀疏性假设下，我们证明了包含真实子模型的子集总是产生较小的残差平方和（即，具有更好的模型拟合）比在一般渐近设置中不具有的所有模型拟合。这表明，对于筛选重要变量，我们可以遵循“更好的拟合，更好的筛选”规则，即，选择一个具有更好模型拟合的“更好”子集。为了寻求这样一个更好的子集，我们考虑与最佳子集回归相关的优化问题。提出了一种搜索最佳子集的期望最大化算法--正交子集筛选法及其加速算法。虽然这两种算法不能保证它们产生的子集是最好的，但它们的单调性使得它们产生的子集比常用的筛选方法产生的初始子集具有更好的模型拟合性，从而使它们具有更好的渐近筛选性能。仿真结果表明，我们的方法是非常有竞争力的高维变量筛选，即使是有限的样本量。
2013-03-19 math.ST stat.CO stat.ME
On Exact Feature Screening in Ultrahigh-dimensional Binary Classification
针对超高维二分类问题，提出基于能量距离的无模型特征筛选方法，能高概率保留相关特征并识别边际不可检测的变量对，构建一致分类器，数值实验证明其优于现有方法。
2023-05-18 math.ST stat.ME stat.TH
High-dimensional variable selection
本文探讨了这样一个问题：在高维模型中进行变量选择时，可以给出什么样的统计保证？特别是，我们看看的差错率和权力的一些多阶段回归方法。在第一阶段，我们拟合一组候选模型。在第二阶段，我们通过交叉验证选择一个模型。在第三阶段，我们使用假设检验来消除一些变量。我们称前两个阶段为“筛选”，最后一个阶段为“清洗”。“我们考虑了三种筛选方法：套索、边缘回归和向前逐步回归。我们的方法在一定条件下给出了一致的变量选择。
2009-08-20 math.ST stat.ML stat.TH
A Fast Screening Approach for High-dimensional Outcomes and High-dimensional Predictors
School of Pharmacy, University of North Carolina, Chapel Hill（北卡罗来纳大学药学院）；Maryland Psychiatric Research Center, School of Medicine, University of Maryland（马里兰大学医学院精神病研究中心）
提出图独立双筛选（GIDS）框架，同时降低响应变量和预测变量的维度，以解决高维交叉模态分析中的计算负担和可解释性问题。
2026-06-02 cs.LG math.ST stat.ME
Optimal model averaging forecasting in high-dimensional survival analysis
本文考虑了生存反应变量的超高维预测问题。我们提出了一个两步模型平均程序，以提高生存反应变量的真实条件均值的预测精度。第一步是构造一类候选模型，每个模型都具有低维协变量。为此，开发了一种特征筛选程序，通过边际BuckleyCJames指数分离活性和非活性预测因子，并将具有相似指数大小的协变量分组在一起，形成具有生存反应变量的回归模型。该筛选方法能在协变量相关删失下筛选出有效的预测因子，在较弱的正则条件下具有一定的筛选一致性。第二步是找到最佳的模型权重平均通过适应删除一个交叉验证标准，没有标准的约束，权重总和为1。理论结果表明，删除一交叉验证准则实现了最低可能的预测损失渐近。数值研究表明，所提出的变量筛选和模型平均程序优于现有的方法的性能。
2022-11-24 math.ST stat.ME stat.TH
Nonparametric Screening under Conditional Strictly Convex Loss for Ultrahigh Dimensional Sparse Data
确定筛选技术已被认为是一个强有力的工具来处理多维变量选择问题，其中维度p和样本量n可以满足NP维度log p=O（n^a），其中a>0（Fan & Lv 2008）。本文件旨在同时解决“普遍性”和“有效性”的肯定筛选程序。对于“普适性”，我们从损失函数的角度发展了非参数筛选方法的一般和统一的框架。考虑一个损失函数来度量响应变量和协变量的基础非参数函数的散度。提出了一类新的损失函数，称为条件严格凸损失，它包含但不限于单参数指数族的负对数似然损失、二元分类的指数损失和分位数回归损失.在这类损失函数中建立了可靠的筛选性和模型选择的规模控制。在"有效性”方面，我们重点研究了条件严格凸损失下的拟合优度非参数筛选（Goffins）方法。有趣的是，我们可以实现更好的收敛概率包含真实的模型相比，相关文献。我们所提出的方法的优越性能已进一步证明了广泛的模拟研究和一些真正的科学数据的例子。
2019-12-03 math.ST stat.ME stat.TH
Sure Independence Screening for Ultra-High Dimensional Feature Space
变量选择在高维统计建模中起着重要的作用，高维统计建模广泛存在于各个领域，是各种科学发现的关键。对于大规模或维数$p$的问题，估计精度和计算成本是两个首要的问题。在最近的一篇论文中，Candes和Tao（2007）提出了使用$L_1$正则化的Dantzig选择器，并表明它在对数因子$\log p$下实现了理想的风险。当维数过高时，由于因子$\log p$可能很大，他们的一致测不准原理可能失效，他们的创新过程和显著结果受到挑战。出于这些考虑，我们引入了确定性筛选的概念，并提出了一种基于相关学习的确定性筛选方法，称为确定性独立筛选（SIS），以降低从高到中等规模的样本量以下的维度。在一个相当一般的渐近框架中，相关学习被证明对指数增长的维数具有一定的筛选性质。作为一种方法的扩展，迭代SIS（ISIS）也被提出来提高其有限样本性能。随着维度从高样本量精确地减少到低于样本量，变量选择可以在速度和准确性上得到改善，然后可以通过成熟的方法（如SCAD、Dantzig选择器、Lasso或自适应Lasso）来完成。这些惩罚最小二乘方法的连接也阐明。
2008-08-27 math.ST stat.TH
High-dimensional variable selection with heterogeneous signals: A precise asymptotic perspective
本文研究异质微弱信号下高维稀疏回归的精确支撑恢复，证明BSS可达信息论最优阈值而边际筛选会失效，并提出计算高效且具模型一致性的两阶段ETS框架。
2023-07-17 math.ST stat.TH
Variable Selection Consistency of Gaussian Process Regression
贝叶斯非参数回归下的重标高斯过程先验提供了平滑自适应函数估计与近极小极大最优差错率。这种方法的分层扩展，配备了随机变量选择，也适应于未知的内在尺寸的稀疏真正的回归函数。但目前还不清楚这种扩展是否提供了变量选择的一致性，即，如果重要变量的真实子集可以从数据中一致地学习。它在这里示出，变量的一致性确实可以实现与这样的模型，至少当真正的回归函数具有有限的平滑度，以引起一个多项式更大的惩罚列入假阳性预测。我们的结果涵盖了高维渐近设置的预测维度是允许增长的样本量。证明利用施瓦茨理论建立错误选择的后验概率渐近消失。一个必要的和具有挑战性的技术发展涉及提供尖锐的上限和下界小球概率在所有重新缩放水平的高斯过程之前，一个结果，可能是独立的利益。
2020-12-12 math.ST stat.ME stat.TH
Bayesian Variable Selection Under High-dimensional Settings With Grouped Covariates
针对高维分组协变量回归，提出扩展g先验的贝叶斯变量选择方法，并设计GSIS筛选与GiVSA搜索算法，理论证明一致性并验证性能。
2023-09-03 math.ST stat.ME stat.TH
Nonparametric regression on hidden phi-mixing variables: identifiability and consistency of a pseudo-likelihood based estimation procedure
本文概述了一个新的非参数估计过程的不可观测φ-混合过程。假设关于平稳隐藏状态（Xk）的唯一信息由过程（Yk）给出，其中Yk是f（Xk）的噪声观测。本文介绍了一种利用长度为b的观测值块来估计函数f和隐态分布的极大伪似然方法。在特殊情况下，b=1和b=2的模型的可辨识性进行了研究。建立了f的估计量和隐状态的分布的一致性，因为观测的数量增长到无穷大。
2015-08-26 math.ST stat.TH
HASOD: A Hybrid Adaptive Screening-Optimization Design for High-Dimensional Industrial Experiments
AIMS Institute（AIMS学院）
本文提出HASOD方法，通过三阶段流程同时解决因子筛选与响应面优化问题，实现高维工业实验中的高准确率因子识别和预测性能提升。
2026-04-25 math.ST stat.ME stat.TH
GLMMLasso: An Algorithm for High-Dimensional Generalized Linear Mixed Models Using L1-Penalization
本文提出了一个高维广义线性混合模型的L1惩罚拟合算法。广义线性混合模型（GLMM）可以看作是聚类观测的广义线性模型的扩展。这种Lasso型的GLP-S方法应主要用作变量筛选方法，以减少样本量以下的变量数量。然后，我们建议改装的极大似然的基础上选定的变量。这是一种有效的纠正，以克服因变量筛选程序而产生的问题，这些问题在GLP 4中更为严重。我们说明了我们的算法的性能模拟以及真实数据的例子。补充材料可在线获得，该算法在R包glmmixedlasso中实现。
2012-11-20 math.ST stat.CO stat.TH
Strong consistency of an estimator by the truncated singular value decomposition for an errors-in-variables regression model with collinearity
Hosei University（法政大学）
本文通过截断奇异值分解证明了在存在共线性的情况下，误差在变量回归模型中估计器的强一致性，扩展了总最小二乘法的理论。
2023-11-29 cs.NA math.NA math.ST
