Pre-screening breast cancer with machine learning and deep learning
Royal Netherlands Academy of Arts and Sciences（荷兰皇家艺术与科学院）；Netherlands Interdisciplinary Demographic Institute (NIDI)（荷兰跨学科人口研究所）；University of Groningen（格罗宁根大学）；University College London（伦敦大学学院）
我们认为，深度学习可以通过分析患者的人口统计学和人体测量学信息，以及从常规血液样本中获得的生物标志物和从荟萃分析和国际数据库中获得的相对风险来进行癌症的预筛选。我们将特征选择算法应用于116名女性的数据库，其中包括52名健康女性和64名诊断为乳腺癌的女性，以确定癌症的最佳预筛选预测因子。我们利用最佳预测器来执行k倍蒙特卡罗交叉验证实验，将深度学习与传统的机器学习算法进行比较。我们的研究结果表明，具有使用特征选择微调的输入层架构的深度学习模型可以有效区分患有癌症和没有癌症的患者。此外，与机器学习相比，深度学习的预测不确定性最低。这些研究结果表明，应用于癌症预筛查的深度学习算法为基于图像的筛查方法提供了无辐射，非侵入性和负担得起的补充。深度学习算法在癌症预筛查中的应用为识别可能需要基于成像的筛查的个体提供了机会，可以鼓励自我检查，并减少与癌症筛查中的假阳性相关的心理外部性。深度学习算法在筛查和预筛查中的整合将最终导致恶性肿瘤的早期检测，减少与癌症治疗相关的医疗和社会负担。
2023-02-05 cs.LG stat.ML
A Multimodal Data-driven Framework for Anxiety Screening
Hefei University of Technology（合肥工业大学）；Nanyang Technological University（南洋理工大学）
早期筛查焦虑和适当的干预措施对于减少患者自我伤害和自杀的发生率至关重要。由于医疗资源有限，过度依赖医生专业知识和专业设备的传统方法无法同时满足高精度和模型可解释性的需求。多模态数据可以为焦虑筛查提供更客观的证据，提高模型的准确性。多模态数据中的大量噪声和数据的不平衡性使得模型容易过拟合。然而，这是一个不可微的问题时，高维和多模态特征组合被用作模型输入，并纳入模型训练。这导致现有的基于机器学习和深度学习的焦虑筛查方法不适用。因此，我们提出了一个多模态数据驱动的焦虑筛查框架，即MMD-AS，并对通过智能手机收集的200多名海员的健康数据进行了实验。提出的框架的特征提取，降维，特征选择，和焦虑推理联合训练，以提高模型的性能。在特征选择阶段，采用基于改进的Fireworks算法的特征选择方法，解决特征组合的不可微性问题，去除冗余特征，寻找理想的特征子集。实验结果表明，我们的框架优于比较方法。
2023-03-16 cs.LG
An Efficient Framework for Automated Screening of Clinically Significant Macular Edema
The University of Auckland（奥克兰大学）
本研究提出了一种自动筛查临床显著性黄斑水肿（CSME）的新方法，并解决了与此类筛查相关的两个主要挑战，即，渗出液分割和不平衡数据集。所提出的方法通过将预训练的深度神经网络与元启发式特征选择相结合来取代传统的基于渗出液分割的特征提取。一个特征空间过采样技术被用来克服偏斜数据集的影响和筛选是由一个k-NN为基础的分类器完成。每个数据处理步骤的作用（例如，类平衡、特征选择）以及将感兴趣区域限制为中央凹对分类性能的影响进行了批判性分析。最后讨论了接收机工作特性曲线上工作点的选择和意义。本研究的结果令人信服地证明，通过遵循这些机器学习的基本实践，基于基本k-NN的分类器可以有效地完成CSME筛选。
2020-01-20 cs.CV cs.LG cs.NE
OPDiv: Optimal Selection of Top-K High-Scoring, Diverse Compounds
Deep MedChem
OPDiv 通过整数优化在虚拟筛选中平衡评分与多样性，实现 top-k 高评分多样化化合物的最优选择，并提供公平基准。
2026-09-25 cs.LG
Machine learning approach for early detection of autism by combining questionnaire and home video screening
Stanford University（斯坦福大学）；Cognoa Inc.（Cognoa公司）
现有的早期检测自闭症的筛查工具昂贵，繁琐，耗时，有时预测价值不足。在这项工作中，我们将机器学习（ML）应用于从数千名有自闭症谱系障碍风险的儿童中获得的金标准临床数据，以创建一种低成本，快速，易于应用的自闭症筛查工具，其性能与大多数广泛使用的标准化工具一样好或更好。这种新工具将两种筛选方法结合到一个评估中，一种是基于简短的结构化家长报告问卷，另一种是基于对儿童简短的半结构化家庭视频中的关键行为进行标记。为了克服训练数据的稀缺性、稀疏性和不平衡性，我们采用了创造性的特征选择、特征工程和新颖的特征编码技术。我们允许在适当的情况下进行不确定的测定，以便在确定时提高筛选准确性。我们在162名儿童的临床研究样本中证明了标准筛查工具的显着准确性提高。
2017-03-15 cs.CY cs.LG
Accelerating Psychometric Screening Tests With Bayesian Active Differential Selection
Washington University in St. Louis（圣路易斯华盛顿大学）；SigOpt（SigOpt公司）
经典的心理测量函数估计方法要么需要过多的测量，要么只产生目标心理测量函数的低分辨率近似。在本文中，我们提出了一种新的解决方案，用于快速筛选给定患者的心理测量功能估计的变化。我们使用贝叶斯主动模型选择来执行自动纯音听力图测试，目标是快速发现当前听力图是否与以前的听力图不同。我们验证我们的方法使用听力数据从国家职业安全与健康研究所NIOSH。初步结果表明，用几个音调，我们可以检测到患者的听力功能是否在两个测试会话之间发生了变化，并且具有很高的置信度。
2020-02-04 cs.LG stat.ML
Independent screening for single-index hazard rate models with ultra-high dimensional features
在特征比观测值多得多的数据集中，基于所有单变量回归模型的独立筛选导致计算上方便的变量选择方法。最近的努力表明，在广义线性模型的情况下，独立筛选可能足以以高概率捕获所有相关特征，即使在超高维度下也是如此。目前还不清楚当反应是右删失生存时间时，是否可以达到这种形式上的确定筛选特性。我们提出了一个计算上非常有效的独立筛选方法的生存数据，可以被视为自然的生存相关筛选。我们状态的条件下，该方法承认一定的筛选性质在一般类的单指标风险率模型的超高维功能。还描述了一种迭代变体，其将筛选与惩罚回归相结合，以处理更复杂的特征协方差结构。通过模拟研究和通过应用到一个真正的基因表达数据集的方法进行评估。
2011-08-11 stat.ML
Nonparametric Variable Screening with Optimal Decision Stumps
Princeton University（普林斯顿大学）
决策树及其集成具有丰富的诊断工具集，用于在预测模型中对变量进行排名和筛选。尽管基于树的变量重要性度量方法得到了广泛的应用，但确定它们的理论性质一直是一个挑战，因此在很大程度上尚未探索。为了解决理论和实践之间的差距，我们得出有限样本的性能保证变量选择非参数模型使用单级CART决策树（决策树桩）。在变量筛选文献中的标准操作假设下，我们发现每个变量和环境维度的边际信号强度可以分别比最先进的非参数变量选择方法弱得多和高得多。此外，与试图通过截断基扩展直接估计每个边缘投影的先前边缘筛选方法不同，这里使用的拟合模型是一个简单的、简约的决策树桩，从而消除了调整基项数量的需要。因此，令人惊讶的是，即使决策树对于估计目的是高度不准确的，它们仍然可以用于执行一致的模型选择。
2020-12-11 cs.LG stat.ML
Exact Post Model Selection Inference for Marginal Screening
我们开发了一个框架后模型选择推理，通过边缘筛选，在线性回归。在这个框架的核心是一个结果，其特征在于响应$y$的线性函数的精确分布，条件是选择模型（"选择条件”框架）。这使我们能够为解释选择过程的回归系数构建有效的置信区间和假设检验。在最近的工作在高维统计，我们的结果是准确的（非渐近），不需要特征值的假设上的设计矩阵$X$。此外，与线性回归的成本相比，边缘回归、构造置信区间和假设检验的计算成本可以忽略不计，从而使得我们的方法特别适合于极大的数据集。虽然我们专注于边缘筛选来说明选择框架的条件的适用性，这个框架是更广泛的适用。我们将展示如何将所提出的框架应用于其他几个选择程序，包括正交匹配追求，非负最小二乘，边缘筛选+套索。
2014-02-28 cs.LG math.ST stat.ME
Improving Screening Processes via Calibrated Subset Selection
Cornell University（康奈尔大学）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
许多选择过程，例如在搜索引擎中寻找有资格进行医学试验的患者或检索管道，由多个阶段组成，其中初始筛选阶段将资源集中在最有希望的候选人的短名单上。在本文中，我们研究了什么保证筛选分类器可以提供，独立于它是否是手动构建或训练。我们发现，目前的解决方案不享有分布免费的理论保证-我们表明，在一般情况下，即使是一个完美的校准分类器，总是存在特定的候选人池，其入围名单是次优的。然后，我们开发了一种无分布的筛选算法-称为校准子集选择（CSS）-给定任何分类器和一定量的校准数据，找到接近最优的候选人短名单，其中包含期望数量的合格候选人。此外，我们表明，CSS的一个变体，校准一个给定的分类器多次跨特定的群体可以创建候选名单与可证明的多样性保证。美国人口普查调查数据的实验验证了我们的理论结果，并表明，我们的算法提供的入围名单优于几个竞争性基线提供的。
2022-06-13 cs.CY cs.LG stat.ML
Ridge partial correlation screening for ultrahigh-dimensional data
针对超高维线性回归变量选择计算成本高的问题，提出基于样本岭偏相关绝对值排序的简单筛选方法，结合岭正则化估计与偏方差，在弱假设下实现确定筛选，且表现具竞争力并附带公开软件。
2025-04-27 stat.ME stat.ML
Interaction Pursuit with Feature Screening and Selection
了解特征如何相互作用在许多科学发现和当代应用中至关重要。然而，即使对于中等数量的协变量，相互作用识别也变得具有挑战性。在本文中，我们提出了一个有效的和灵活的程序，称为相互作用的追求（IP），在超高维度的相互作用识别。该方法首先通过一种新的特征筛选方法将交互作用和主效应的数量减少到中等规模，然后使用正则化方法在减少的特征空间中选择重要的交互作用和主效应。与现有方法相比，我们的方法将交互作用与主效应分开筛选，因此可以更有效地筛选交互作用。在一个较一般的框架下，我们证明了对于交互作用和主效应，该方法在筛选时具有确定的筛选性质，在选择时具有预言不等式.我们的方法和理论结果支持几个模拟和真实数据的例子。
2016-05-28 stat.ME stat.ML
Sparse Identification for Automatic Large-Scale Screening: A Constraint-Aware Framework with Ultra Fast Decoding Algorithm
Zhejiang University（浙江大学）
针对大流行早期大规模筛查中现有分组检测方法在硬约束下计算复杂或精度不足的问题，本文提出LoSc框架，其基于逻辑运算的超快解码算法仅需O(klogn)次检测即可识别全部阳性，并纳入稀释与样本使用约束，兼具理论保证与高效可扩展性。
2026-09-21 cs.LG eess.SP stat.ML
Nonparametric Independence Screening in Sparse Ultra-High Dimensional Additive Models
Fan和Lv（2008）提出了一种通过相关学习进行变量筛选的方法来降低稀疏超高维模型的维数。即使真实模型是线性的，边际回归也可能是高度非线性的。为了解决这个问题，我们进一步将相关学习扩展到边缘非参数学习。我们的非参数独立性筛选被称为NIS，是确定独立性筛选的一个特定成员。提出了几个密切相关的变量筛选程序。在非参数可加模型下，证明了在一些温和的技术条件下，所提出的独立筛选方法具有一定的筛选性质。在何种程度上可以减少独立筛选的维度也明确量化。作为一种方法的扩展，迭代非参数独立筛选（INIS）也被提出来提高有限样本拟合稀疏可加模型的性能。仿真结果和实际数据分析表明，该方法适用于中等样本量和大维数的情况，性能优于竞争方法。
2011-01-18 math.ST stat.CO stat.ME
Factor selection in screening experiments by aggregation over random models
筛选实验用于从大量潜在的重要因素中筛选出少量真正重要的因素。Gauss-Dantzig方法（GDS）通常是筛选实验的首选分析方法。仅考虑主效应模型可能会导致错误的结论，但包括交互作用项，即使仅限于双因素交互作用，也会显着增加模型项的数量，并对GDS分析提出挑战。我们提出了一种新的分析方法，称为高斯-丹齐格随机模型聚合（GDS-ARM），它执行GDS分析的多个模型，其中只包括一些随机选择的相互作用。然后汇总这些不同分析的结果，以确定重要因素。我们讨论了所提出的方法，建议选择的调整参数，并研究其性能的真实和模拟数据。
2022-05-26 stat.AP stat.CO stat.ME
ExSIS: Extended Sure Independence Screening for Ultrahigh-dimensional Linear Models
在超高维线性模型中，统计推断在计算上是禁止的。基于相关性的变量筛选可以用来克服这一挑战，在这种筛选中，在统计推断之前，利用边际相关性从模型中去除不相关的变量。基于相关性的变量筛选的先前工作要么对线性模型施加统计先验，要么假设特定的筛选后推断方法。本文首先将基于相关性的变量筛选分析扩展到任意线性模型和筛选后推理技术。特别是，（i）它表明，一个条件-被称为筛选条件-是足够的成功的相关性为基础的筛选线性模型，和（ii）它提供了见解的依赖边际相关性为基础的筛选不同的问题参数。数值实验证实，这些见解不仅仅是分析的文物，相反，它们反映了与基于边际相关性的变量筛选相关的挑战。其次，本文明确推导出任意（随机或确定性）线性模型的筛选条件，并在此过程中，它建立了-在适当的条件下-有可能减少一个超高维，任意线性模型的尺寸几乎样本量，即使活动变量的数量几乎与样本量成线性比例。第三，它专门的筛选条件，以亚高斯线性模型和对比的最终结果，现有的文献。这种专业化正式验证了本文的主要结果概括了现有的基于相关性的筛选。
2020-07-04 cs.IT math.IT math.ST
Ultra-high Dimensional Multiple Output Learning With Simultaneous Orthogonal Matching Pursuit: A Sure Screening Approach
我们提出了一个新的应用程序的同时正交匹配追踪（S-OMP）过程中的稀疏变量选择超高维多任务回归问题。在\cite{fan08sis}中引入的变量筛选是一种有效且高度可扩展的方法，用于从所有变量的集合中删除许多不相关的变量，同时保留所有相关变量。S-OMP可以应用于具有数十万个变量的问题，并且一旦变量的数量减少到可管理的大小，则可以使用计算要求更高的程序来识别每个回归输出的相关变量。据我们所知，这是第一次尝试利用多个输出的相关性来执行相关变量的快速筛选。作为我们的主要理论贡献，我们证明，渐近，S-OMP是保证减少超高数量的变量，低于样本量，而不会失去真正的相关变量。我们还提供了正式的证据表明，修改后的贝叶斯信息准则（BIC）可以用来有效地确定在S-OMP的迭代次数。我们进一步提供经验证据的好处，变量选择使用多个回归输出联合，而不是单独执行变量选择每个输出。S-OMP的有限样本性能证明了广泛的模拟研究，并在遗传关联映射问题。$Keywords$自适应套索;贪婪前向回归;正交匹配追踪;多输出回归;多任务学习;同时正交匹配追踪;确定筛选;变量选择
2010-12-17 stat.ML
Optimality of Graphlet Screening in High Dimensional Variable Selection
考虑一个线性回归模型，其中设计矩阵X具有n行和p列。我们假设（a）p比n大得多，（b）系数向量beta在只有一小部分坐标为非零的意义上是稀疏的，以及（c）格拉姆矩阵G = X ′ X在每行具有相对较少的大坐标（G的对角线被归一化为1）的意义上是稀疏的。G的稀疏性自然地导致了所谓的强依赖图（GOSD）的稀疏性。我们发现一个有趣的信号稀疏性和图形稀疏性之间的相互作用，这确保了在一个广泛的背景下，一组真正的信号分解成许多不同的小尺寸组件的GOSD，不同的组件是断开的。我们提出了Graphlet筛选（GS）作为一种新的变量选择方法，这是一个两阶段的筛选和清洁方法。GS的关键方法创新是使用GOSD来指导筛选和清洗。与计算成本为p^m的m变量蛮力筛选相比，GS在筛选中仅具有p的计算成本（高达一些多log（p）因子）。我们通过极大极小汉明距离来衡量任何变量选择过程的性能。我们表明，在一个非常广泛的类的情况下，GS实现了最佳的收敛速率的汉明距离。有些令人惊讶的是，众所周知的程序子集选择和套索是速率非最佳的，即使在非常简单的设置，甚至当他们的调谐参数是理想的设置。
2014-06-13 math.ST stat.ME stat.ML
Safe Screening Rules for Group SLOPE
University of Pittsburgh, Pittsburgh, PA 15260, United States（匹兹堡大学）；Georgia Institute of Technology, Atlanta, GA 30332, United States（佐治亚理工学院）；The College of William and Mary, Williamsburg, VA 23185, United States（威廉与玛丽学院）
针对 Group SLOPE 因块不可分离分组效应导致的高计算与内存成本，提出可识别零系数非活跃组的安全筛选规则，兼容批处理与随机求解器并保持结果和精度不变。
2025-06-11 cs.LG stat.ML
Combined l_1 and greedy l_0 penalized least squares for linear model selection
我们介绍了一个计算有效的算法，包括三个步骤的线性模型选择：筛选-排序-选择（SOS）。预测因子的筛选是基于阈值Lasso，即l_1惩罚最小二乘。然后使用最小二乘法（LS）拟合筛选的预测因子，并根据其t统计量进行排序。最后，利用贪婪广义信息准则（GIC）在由序诱导的嵌套族中选择l_0惩罚LS的模型。我们给出了SOS算法的每一步的错误概率的非渐近上界的罚款。然后，我们得到了不同的（n，p）的情况下，需要筛选一致性的Lasso的条件下的选择一致性。对于传统的设置（n >p），我们给出了排序-选择算法的错误概率的Sanov型界。其令人惊讶的结果是，贪婪GIC的选择误差是渐近不大于穷举GIC。我们还获得了新的界限上的预测和估计误差的Lasso的并行证明的算法在实践中使用的正式版本。
2013-10-22 stat.ML
False Discovery Rate Control for Gaussian Graphical Models via Neighborhood Screening
本文提出一种无需调参的逐节点变量选择图学习方法，通过邻域融合控制高斯图模型边选择的错误发现率，并在多种图拓扑实验中显著优于现有方法。
2024-01-18 cs.LG stat.ML
Innovated interaction screening for high-dimensional nonlinear classification
本文研究了高维环境下的交互筛选和非线性分类问题。我们提出了一个两步的程序，IIS-SQDA，其中在第一步中，提出了一个创新的互动筛选（IIS）的基础上，转换原始$p$维特征向量的方法，并在第二步中提出了稀疏二次判别分析（SQDA），进一步选择重要的相互作用和主效应，同时进行分类。我们的IIS方法通过仅检查$p$特征而不是所有顺序为$O(p^2)$的双向交互来筛选重要的交互。理论分析表明，在$p$随样本量呈指数增长的高维背景下，该方法在交互作用选择中具有一定的筛选性能.在选择和分类步骤中，我们建立了一个关于QDA估计系数向量的稀疏不等式，并证明了我们的方法的分类误差可以由预言分类误差加上一些较小的阶项的上界。广泛的模拟研究和真实数据分析表明，我们的建议在交互选择和高维分类方面与现有方法相比具有优势。
2015-06-03 stat.ML
Ultrahigh dimensional variable selection: beyond the linear model
高维空间中的变量选择是当代科学发现和决策中的许多问题的特征。许多常用的技术基于独立筛选;示例包括相关性排名（Fan和Lv，2008）或在高维分类中使用双样本t检验的特征选择（Tibshirani等人，2003年）。在线性模型的背景下，Fan和Lv（2008）表明，这种简单的相关性排名在某些条件下具有确定的独立筛选属性，并且当特征与响应变量稍微不相关但共同相关时，需要对其进行修订，称为迭代确定独立筛选（ISIS）。在本文中，我们扩展ISIS，没有明确的定义的残差，一般的伪似然框架，其中包括广义线性模型作为一个特殊情况。即使在最小二乘设置中，新方法也通过允许在迭代过程中删除变量来改进ISIS。我们的技术使我们能够在高维分类中选择重要的特征，而通常使用的双样本t-方法失败了。在特征筛选阶段引入了一种新的技术来降低错误发现率。几个模拟和两个真实数据的例子来说明的方法。
2008-12-17 stat.ME stat.ML
Covariance-Insured Screening
University of Michigan（密歇根大学）；Michigan State University（密歇根州立大学）；Southwestern University of Finance and Economics（西南财经大学）
现代生物技术已经产生了大量的高通量数据，预测因子的数量远远大于样本量。为了识别更多新的生物标志物并了解生物学机制，在超高维预测因子中检测与结果弱相关的信号至关重要。然而，现有的筛选方法，通常忽略相关性信息，很可能错过这些微弱的信号。通过将功能间的依赖性，我们提出了一个协方差保险筛选方法，以确定预测，联合信息，但只有轻微的弱相关的结果。该方法的有效性通过广泛的模拟和真实数据研究来检查，以选择与癌症发病相关的潜在遗传因素。
2018-05-17 cs.LG stat.ML
High-Dimensional Screening Using Multiple Grouping of Variables
筛选是在给定n个噪声观测的情况下，在未知p维向量β* 中找到非零项集合的超集的问题。当然，我们希望这个超集尽可能小。我们提出了一个新的筛选框架，我们称之为多变量筛选（MuG），该框架对变量进行分组，在组上执行变量选择，并多次重复此过程以估计包含β* 中非零条目的集合序列。筛选是通过取所有这些估计集的交集来完成的。MuG框架可以与任何基于组的变量选择算法结合使用。在高维设置中，其中p >> n，我们证明了当MuG与组Lasso估计一起使用时，可以在不使用任何调谐参数的情况下一致地进行筛选。我们的数值模拟清楚地显示了在实践中使用MuG框架的优点。
2013-12-02 cs.IT math.IT stat.ML
High-dimensional Ordinary Least-squares Projection for Screening Variables
当预测变量$p$的数量远远超过观测变量$n$的数量时，变量选择在统计应用中是一个具有挑战性的问题。在这种超高维度的环境中，引入了确定独立筛选（SIS）程序，通过以压倒性的概率保留真实模型来显着降低维度，然后进行精细的第二阶段分析。然而，上述确定筛选属性强烈依赖于模型中的重要变量与响应具有大的边际相关性的假设，这在现实中很少成立。为了克服这一点，我们提出了一种新的和简单的筛选技术称为高维普通最小二乘投影（HOLP）。我们证明了HOLP具有可靠的筛选性质，在没有强相关性假设的情况下给出了一致的变量选择，并且具有较低的计算复杂度。本文还讨论了一种脊型HOLP方法。仿真研究表明，HOLP执行竞争力相比，许多其他边缘相关的方法。一个哺乳动物眼病数据的应用说明了HOLP的吸引力。
2015-06-05 math.ST stat.ME stat.ML
Hit Selection Using SSMD-Based Machine Learning Performance Metrics in High-Throughput Screening Assays
University of Kentucky（肯塔基大学）
本研究针对高通量筛选的单次重复数据稀疏问题，提出基于SSMD的框架推导分类性能指标，验证其在丙型肝炎病毒siRNA筛选中可得到等效命中集，连接HTS统计与机器学习评估理论。
2026-08-11 cs.AI q-bio.QM stat.AP
High-dimensional variable selection for Cox's proportional hazards model
高维空间中的变量选择问题从多个学科的前沿向当代统计问题提出了挑战。最近的技术进步使得通过生物成像技术收集大量的协变量信息（如微阵列、蛋白质组学和SNP数据）成为可能，同时在临床研究中观察患者的生存信息。因此，同样的挑战适用于生存分析，以了解基因组学信息和关于生存时间的临床信息之间的关联。在这项工作中，我们将确定筛选程序Fan和Lv（2008）扩展到Cox比例风险模型，并提供了迭代版本。数值模拟研究表明，令人鼓舞的性能相比，与其他技术，如LASSO所提出的方法。这证明了迭代确定独立筛选方案的实用性和通用性。
2010-05-19 stat.ME stat.ML
High-dimensional variable selection
本文探讨了这样一个问题：在高维模型中进行变量选择时，可以给出什么样的统计保证？特别是，我们看看的差错率和权力的一些多阶段回归方法。在第一阶段，我们拟合一组候选模型。在第二阶段，我们通过交叉验证选择一个模型。在第三阶段，我们使用假设检验来消除一些变量。我们称前两个阶段为“筛选”，最后一个阶段为“清洗”。“我们考虑了三种筛选方法：套索、边缘回归和向前逐步回归。我们的方法在一定条件下给出了一致的变量选择。
2009-08-20 math.ST stat.ML stat.TH
Nonparametric Independence Screening via Favored Smoothing Bandwidth
提出了一种适用于超高维数据的灵活的非参数回归方法。作为第一步，我们提出了一个快速筛选方法的基础上的边缘局部常数回归的青睐平滑带宽。然后，一个迭代程序开发恢复重要的协变量和回归函数。从理论上证明了基于偏好平滑带宽的筛选具有模型选择一致性。仿真研究以及实际数据分析表明，新的程序的竞争力的性能。
2017-11-28 stat.AP stat.CO stat.ME
RaSE: A Variable Screening Framework via Random Subspace Ensembles
变量筛选方法在超高维环境下的降维中已被证明是有效的。大多数现有的筛选方法的目的是排名的预测，根据他们的个人贡献的反应。因此，可能会遗漏与响应略微独立但共同依赖的变量。在这项工作中，我们提出了一个新的变量筛选框架，随机子空间Entrance（RaSE），它的工作原理是通过评估随机子空间的质量，可能会覆盖多个预测。这个新的筛选框架可以很自然地与任何子空间评价标准相结合，从而产生一系列筛选方法。该框架能够识别没有边际效应或高阶相互作用效应的信号。它具有一定的屏蔽性和秩的一致性。我们还开发了具有理论支持的RaSE筛选的迭代版本。大量的仿真研究和实际数据分析表明了新的筛选框架的有效性。
2021-05-29 stat.ME stat.ML
Model-free Feature Screening and FDR Control with Knockoff Features
提出了一种无模型、数据自适应的超高维数据集特征筛选方法。所提出的方法是基于投影相关性，测量两个随机向量之间的依赖性。这种基于投影相关性的方法不需要指定回归模型，并且适用于存在重尾误差和多变量响应的数据。它在弱假设条件下同时具有确定屏蔽性和秩一致性。此外，提出了一个两步的方法来控制错误发现率（FDR）的特征筛选与敲除功能的帮助。可以表明，如果预先指定的FDR级别$α$大于或等于$1/s$，则所提出的两步方法享有确定的筛选和FDR控制，其中$s$是有效特征的数量。各种数值实验和实际数据的应用证明了所提出的方法的优越的经验性能。
2021-02-13 stat.ME stat.ML
