Unsupervised Feature Selection with Adaptive Structure Learning
Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）
特征选择的问题在过去的十年中引起了相当大的兴趣。传统的无监督方法选择能够忠实地保持数据内在结构的特征，其中内在结构是利用数据的所有输入特征来估计的。然而，当不去除冗余和噪声特征时，估计的内在结构是不可靠/不准确的。因此，我们面临着一个两难的境地：一个需要数据的真实结构来识别信息特征，一个需要信息特征来准确地估计数据的真实结构。为了解决这个问题，我们提出了一个统一的学习框架，同时进行结构学习和特征选择。该方法从特征选择的结果中自适应地学习数据结构，并重新选择信息特征以保持数据的精细结构。通过利用这两个基本任务之间的相互作用，我们能够捕获准确的结构并选择更多信息的特征。在许多基准数据集上的实验结果表明，该方法优于许多最先进的无监督特征选择方法。
2015-04-03 cs.LG
Joint Adaptive Graph and Structured Sparsity Regularization for Unsupervised Feature Selection
HuaQiao University（华侨大学）；Fuzhou University（福州大学）
特征选择是数据采掘和机器学习中一个重要的数据预处理过程，它可以在不降低模型性能的前提下降低特征维数。由于获取带注释的数据在许多情况下是费力的，甚至是不可行的，无监督的特征选择在现实中更实用。虽然已经提出了许多无监督的特征选择方法，但这些方法都是独立地选择特征，因此不能保证选择的特征组是最优的。此外，必须仔细调整所选特征的数量以获得满意的结果。为了解决这些问题，本文提出了一种联合自适应图和结构稀疏正则化无监督特征选择（JASFS）方法.该方法在流形学习中引入一个关于变换矩阵的$l_{2,0}$范数正则化项用于特征选择，在学习模型中引入一个图正则化项用于自适应地学习数据的局部几何结构.通过对该优化问题的计算复杂性分析，设计了一种简单有效的迭代算法。优化完成后，将分组选择最优特征子集，并自动确定所选特征的数量。八个基准测试的实验结果表明，该方法的有效性和效率相比，一些国家的最先进的方法。
2022-04-07 cs.LG
Global and Local Structure Preserving Sparse Subspace Learning: An Iterative Approach to Unsupervised Feature Selection
University of Electronic Science and Technology of China（电子科技大学）；University of Alberta（阿尔伯塔大学）；University of Waterloo（滑铁卢大学）
由于我们的目标是减轻高维灾难，子空间学习变得越来越流行。现有的方法使用的是关于数据的全局或局部结构的信息，很少有研究同时关注全局和局部结构，因为它们都包含重要的信息。本文提出了一种全局和局部结构保持的稀疏子空间学习（GLoSS）模型，用于无监督特征选择。该模型可以同时实现特征选择和子空间学习。此外，我们开发了一个贪心算法来建立一个通用的组合模型，并使用基于加速块坐标下降的迭代策略来解决GLoSS问题。给出了该迭代算法的全序列收敛性分析。在真实数据集上进行了大量的实验，以显示所提出的方法优于几种最先进的无监督特征选择方法。
2015-10-19 cs.LG
Multi-view Unsupervised Feature Selection by Cross-diffused Matrix Alignment
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
在大数据时代，多视角的高维数据变得越来越普遍。特征选择是缓解多视图学习中维数灾难的有效方法。在本文中，我们研究了无监督特征选择的多视图数据，类标签通常是昂贵的获得。传统的特征选择方法大多是针对单视图数据设计的，不能充分利用多视图数据中的丰富信息。现有的多视图特征选择方法通常是基于噪声聚类标签，这可能无法从多视图数据中保留足够的信息。为了更好地利用多视图信息，我们提出了一种方法，CDMA-FS，通过交叉扩散矩阵上执行对齐来选择每个视图的特征。我们将其表述为一个约束优化问题，并使用基于拟牛顿的方法求解。在四个真实世界数据集上的实验结果表明，该方法在多视图环境下比现有方法更有效。
2017-05-02 cs.LG
Incremental Unsupervised Feature Selection for Dynamic Incomplete Multi-view Data
Southwestern University of Finance and Economics（西南财经大学）；JD Intelligent Cities Research（京东智能城市研究院）；Minnan Normal University（闽南师范大学）；FernUniversität in Hagen（哈根函授大学）；Southwest Jiaotong University（西南交通大学）
多视图无监督特征选择已被证明是有效的，以减少多视图的高维未标记数据的维数。前面的方法假设所有视图都是完整的。然而，在实际应用中，多视图数据往往是不完整的，即，这些方法在实际应用中往往会遗漏一些实例的视图，从而导致方法的失败。此外，当数据以流的形式到达时，这些现有的方法将遭受高存储成本和昂贵的计算时间的问题。为了解决这些问题，我们提出了一个增量不完整的多视图无监督特征选择方法（I $^2$ MUFS）不完整的多视图流数据。通过联合考虑不同视图之间的一致性和互补性信息，$^2$ MUFS将无监督特征选择嵌入到一个扩展的加权非负矩阵分解模型中，该模型可以学习一致性聚类指示矩阵并使用自适应视图权重融合不同的潜在特征矩阵。此外，我们引入增量学习机制来开发一种替代的迭代算法，其中特征选择矩阵是增量更新的，而不是从头开始重新计算整个更新的数据。通过与现有的几种方法进行比较，验证了该方法的有效性。实验结果表明，该方法的有效性和效率的聚类指标和计算成本。
2022-12-30 cs.LG
Worse than Random: The Importance of a Baseline for Unsupervised Feature Selection -- Extended Version
University of Southern Denmark（丹麦南部大学）；New Jersey Institute of Technology（新泽西理工学院）；Oratio Technologies（Oratio技术公司）
提出使用随机特征选择作为基线，实证表明许多现有无监督特征选择方法在性能和效率上均不如随机选择，强调新方法开发中必须以此基线确保改进。
2026-10-30 cs.AI cs.LG
Objective-Induced Bias and Search Dynamics in Multiobjective Unsupervised Feature Selection
LIACS, Leiden University（莱顿大学LIACS）；LUMC, Leiden University（莱顿大学LUMC）
本研究探讨了多目标无监督特征选择中评价目标对搜索动态和Pareto前沿质量的影响，发现基于轮廓系数的评价目标倾向于产生低基数的平凡解，而提出的PCA损失目标能生成测试准确度与监督优化相似的紧凑子集。
2026-06-29 cs.LG
Beyond Correlation: Causal Multi-View Unsupervised Feature Selection Learning
Joint Laboratory of Data Science and Business Intelligence, School of Statistics and Data Science, Southwestern University of Finance and Economics（数据科学与商务智能联合实验室，统计与数据科学学院，西南财经大学）；College of Information Science and Engineering, Ocean University of China（信息科学与工程学院，中国海洋大学）；School of Computing and Artificial Intelligence, Southwest Jiaotong University（计算与人工智能学院，西南交通大学）
针对现有多视图无监督特征选择方法因忽略混杂因子导致的虚假相关性易选出无关特征的问题，本文提出CAUSA方法，通过因果正则化缓解虚假相关性，实验验证其性能优于现有最优方法。
2025-11-18 cs.LG
Unsupervised feature selection via self-paced learning and low-redundant regularization
Southwest Jiaotong University（西南交通大学）；National Engineering Laboratory of Integrated Transportation Big Data Application Technology（综合交通运输大数据应用技术国家工程实验室）
由于大量未标记数据的出现，无监督特征选择越来越受到人们的关注。需要考虑样本的分布以及使用更有效顺序的样本训练学习方法的潜在效果，以提高方法的鲁棒性。考虑到样本的训练顺序，自步调学习是一种有效的方法。在本研究中，提出一种结合自步调学习与子空间学习架构的无监督特征选择方法。此外，局部流形结构保持和冗余的特征是由两个正则项约束。$L_{2,1/2}$ -范数应用于投影矩阵，其目的是保留鉴别特征并进一步减轻数据中的噪声的影响。然后，提出了一种求解优化问题的迭代法。理论和实验证明了该方法的收敛性。所提出的方法进行了比较与其他国家的最先进的算法在9个真实世界的数据集。实验结果表明，该方法可以提高聚类方法的性能，优于其他比较算法。
2021-12-14 cs.LG
Unsupervised Feature Selection Through Group Discovery
针对现有无监督特征选择方法孤立评估特征或依赖预定义组的局限，提出端到端可微分框架GroupFS，可联合发现潜在特征组并选择信息性组，在9个基准测试中聚类性能优于现有方法。
2025-11-12 cs.LG
Scalable unsupervised feature selection via weight stability
School of Computer Science and Electronic Engineering, University of Essex, Wivenhoe, UK（埃塞克斯大学计算机科学与电子工程学院，英国威文豪）
本文提出了一种基于Minkowski加权k-均值的无监督特征选择方法，通过聚合不同Minkowski指数下的特征权重来识别稳定且信息丰富的特征，从而提升聚类性能。
2026-06-24 cs.LG
Unsupervised Feature Selection Algorithm Based on Graph Filtering and Self-representation
Shanxi University（山西大学）；Sichuan University（四川大学）；Anhui University（安徽大学）
针对现有无监督特征选择方法未考虑数据高阶邻域信息、难捕捉数据内在结构的问题，提出结合图滤波与自表示的算法，通过高阶图滤波、l2,1范数约束及迭代求解提升特征选择效果，经仿真验证有效。
2024-11-01 cs.LG
CONDEN-FI: Consistency and Diversity Learning-based Multi-View Unsupervised Feature and In-stance Co-Selection
Joint Laboratory of Data Science and Business Intelligence, School of Statistics, Southwestern University of Finance and Economics（西南财经大学统计学院数据科学与商务智能联合实验室）；University of Kansas（堪萨斯大学）；School of Computing and Artificial Intelligence, Southwest Jiaotong University（西南交通大学计算机与人工智能学院）
针对多视图无监督共选择中特征与实例选择割裂、忽略视图一致性的问题，提出CONDEN-FI方法，通过双空间重构学习视图一致与特有表征，结合视图共识相似图提升实例多样性，实验验证其优于现有最优方法。
2024-12-09 cs.LG
Multi-modal Differentiable Unsupervised Feature Selection
Yale University（耶鲁大学）；Bar-Ilan University（巴伊兰大学）；Hebrew University of Jerusalem（希伯来大学）
多模态高通量生物数据提供了巨大的科学机遇和重大的计算挑战。在多模态测量中，每个样品都由两组或多组传感器同时观察。在这样的设置中，在两种模态中的许多观察到的变量通常是讨厌的，并且不携带关于感兴趣的现象的信息。在这里，我们提出了一个多模态无监督特征选择框架：识别信息变量的基础上耦合高维测量。我们的方法旨在识别与两种类型的潜在低维结构相关的特征：（i）管理两种模态中的观测的共享结构和（ii）仅出现在一种模态中的差分结构。为此，我们提出了两个基于拉普拉斯算子的评分算子。我们将分数与可微门相结合，这些可微门掩盖了滋扰特征，并提高了由图拉普拉斯算子捕获的结构的准确性。使用合成和真实的数据集，包括扩展的单细胞多组学的生物学应用程序，说明了新方案的性能。
2023-03-16 cs.LG
AutoEncoder Inspired Unsupervised Feature Selection
Peking University（北京大学）
在计算机视觉和机器学习任务等许多领域，高维数据给计算和分析带来了困难。特征选择是从观测到的特征中选择一个子集，是一种广泛使用的提高高维数据机器学习模型性能和有效性的方法。在本文中，我们提出了一种新的自动编码器特征选择（AEFS）的无监督特征选择结合自动编码器回归和组套索任务。与传统的特征选择方法相比，AEFS能够挖掘特征间的线性和非线性信息，从而选择出最重要的特征，比传统的自表示方法在无监督特征选择中只采用线性假设的情况下更加灵活。在基准数据集上的实验结果表明，该方法优于现有方法。
2018-04-09 cs.LG stat.ML
C$^{2}$IMUFS: Complementary and Consensus Learning-based Incomplete Multi-view Unsupervised Feature Selection
Southwestern University of Finance and Economics（西南财经大学）；JD Intelligent Cities Research（京东智能城市研究院）；JD Intelligent Cities Business Unit（京东智能城市事业部）；University of Central Florida（中佛罗里达大学）；Southwest Jiaotong University（西南交通大学）
多视图无监督特征选择（MUFS）已被证明是一种有效的技术，以减少多视图未标记数据的维数。现有的方法假设所有的视图都是完整的。然而，多视图数据通常是不完整的，即，部分实例是在某些视图上给出的，而不是在所有视图上。此外，学习完全相似图，作为一个重要的有前途的技术，在现有的MUFS方法，无法实现由于丢失的意见。针对上述问题，提出了一种基于互补一致性学习的不完全多视图无监督特征选择方法（C $^{2}$ IMUFS）.具体地说，C $^{2}$ IMUFS集成了特征选择到一个扩展的加权非负矩阵分解模型，配备了自适应学习的视图权重和稀疏$\ell_{2,p}$ -范数，它可以提供更好的适应性和灵活性。通过对不同视图中的多个相似矩阵进行稀疏线性组合，提出了一种互补的学习引导相似矩阵重构模型，以获得每个视图中的完整相似图。此外，C $^{2}$ IMUFS学习跨不同视图的一致性聚类指示矩阵，并将其嵌入到谱图项中以保留局部几何结构。在真实数据集上的综合实验结果证明了C $^{2}$ IMUFS与现有方法相比的有效性。
2022-08-20 cs.LG
Fractal Autoencoders for Feature Selection
University of Kentucky（肯塔基大学）
特征选择通过识别信息量最大的特征的子集来降低数据的维度。在本文中，我们提出了一个创新的框架，无监督的特征选择，称为分形自动编码器（FAE）。它训练一个神经网络来精确定位信息特征，用于全局可表示性的探索和局部多样性的挖掘。在架构上，FAE通过添加一对一评分层和一个小型子神经网络以无监督方式进行特征选择来扩展自动编码器。有了这样一个简洁的架构，FAE实现国家的最先进的性能，广泛的实验结果，14个数据集，包括非常高维的数据，已经证明了FAE的优越性比现有的当代方法的无监督特征选择。特别是，FAE在基因表达数据探索方面表现出实质性的优势，与广泛使用的L1000界标基因相比，减少了约$15$ \%的测量成本。此外，我们表明，FAE框架是很容易扩展的应用程序。
2022-01-04 cs.LG
Fairness-Aware Unsupervised Feature Selection
Tsinghua University（清华大学）；Brandeis University（布兰迪斯大学）；University of Virginia（弗吉尼亚大学）
特征选择是一种普遍的数据预处理范例，用于各种学习任务。由于获取监督信息的代价昂贵，无监督特征选择近年来引起了人们的极大兴趣。然而，现有的无监督特征选择算法没有公平性考虑，并且通过选择与受保护属性（诸如性别、种族和民族）过度关联的特征而遭受放大歧视的高风险。在本文中，我们做了初步的调查公平意识的无监督特征选择问题，并开发了一个原则性的框架，利用内核对齐找到一个子集的高质量的功能，可以最好地保留在原始特征空间中的信息，同时最低限度地与受保护的属性相关。具体而言，不同于主流的处理中去偏置方法，我们提出的框架可以被视为一个模型无关的去偏置策略，消除偏见和歧视之前，下游学习算法参与。多个真实数据集上的实验结果表明，我们的框架实现了效用最大化和公平性促进之间的良好权衡。
2021-06-04 cs.AI cs.LG
TRUST-FS: Tensorized Reliable Unsupervised Multi-View Feature Selection for Incomplete Data
Joint Laboratory of Data Science and Business Intelligence, School of Statistics and Data Science, Southwestern University of Finance and Economics（数据科学与商务智能联合实验室，统计与数据科学学院，西南财经大学）；Insitute for Carbon Neutrality, Tsinghua University（碳中和研究院，清华大学）；Department of Electrical Engineering and Computer Science, University of Kansas（电气工程与计算机科学系，堪萨斯大学）；JD Intelligent Cities Research and JD Intelligent Cities Business Unit（京东智能城市研究部和京东智能城市业务部）；School of Computing and Artificial Intelligence, Southwest Jiaotong University（计算与人工智能学院，西南交通大学）
针对不完整多视图数据中缺失变量等挑战，提出TRUST-FS方法，通过统一张量分解框架同时实现特征选择、缺失变量插补和视图权重学习，并利用主观逻辑构建可靠相似图，性能优于现有先进方法。
2025-11-11 cs.LG
Unsupervised feature selection using Bayesian Tucker decomposition
Department of Physics, Chuo University（筑波大学物理系）；Graduate School of Social Data Science, Hitotsubashi University（早稻田大学社会数据科学研究生院）
本文提出贝叶斯塔克分解（BTuD）用于无监督特征选择，通过高阶正交迭代实现，适用于多种数据集，展示了其在基因表达等领域的应用潜力。
2026-04-18 cs.LG stat.ML
Block Model Guided Unsupervised Feature Selection
University of California, Davis（加利福尼亚大学戴维斯分校）
特征选择是数据挖掘的一个核心领域，最近的创新是图驱动的无监督特征选择的链接数据。在此设置中，我们有一个数据集$\mathbf{Y}$，该数据集由每个具有$m$特征的$n$实例和相应的$n$节点图（其邻接矩阵为$\mathbf{A}$）组成，该节点图具有指示两个实例相似的边。在属性网络上进行无监督特征选择的现有努力已经探索了通过求解$f$来直接重新生成链接，使得$f(\mathbf{y}_i,\mathbf{y}_j) \approx \mathbf{A}_{i,j}$或在$\mathbf{A}$中找到社区结构并使用$\mathbf{Y}$中的特征来预测这些社区。然而，图形驱动的无监督特征选择仍然是一个研究不足的领域，探索更复杂的指导。在这里，我们采取了新的方法，首先在图上建立一个块模型，然后使用块模型进行特征选择。也就是说，我们发现$\mathbf{F}\mathbf{M}\mathbf{F}^T \approx \mathbf{A}$，然后找到一个子集的功能$\mathcal{S}$，诱导另一个图，以保持$\mathbf{F}$和$\mathbf{M}$。我们称我们的方法块模型引导无监督特征选择（BMGUFS）。实验结果表明，我们的方法优于国家的最先进的几个现实世界的公共数据集上找到高质量的特征聚类。
2020-07-05 cs.LG stat.ML
Distance Rank Score: Unsupervised filter method for feature selection on imbalanced dataset
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Univ. Savoie Mont Blanc（萨瓦大学）；CNRS（法国国家科学研究中心）；Optimistik
本文提出一种基于斯皮尔曼秩相关的无监督过滤特征选择方法，通过观测距离与特征距离的秩相关性避免方差法在不平衡多类数据上的缺陷，并在多个聚类任务中验证其有效性。
2023-05-31 cs.LG stat.ML
Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature Selection
Air Force Engineering University（空军工程大学）；Northwestern Polytechnical University（西北工业大学）
在数据采掘领域，如何处理高维数据是一个不可避免的问题。无监督特征选择由于不依赖于标签而受到越来越多的关注。基于谱的无监督方法的性能取决于构造的相似性矩阵的质量，该矩阵用于描述数据的内在结构。然而，现实世界中的数据包含大量的噪声样本和特征，使得由原始数据构造的相似度矩阵不能完全可靠。更糟糕的是，随着样本数量的增加，相似度矩阵的大小迅速膨胀，使得计算成本显著增加。受主成分分析的启发，我们提出了一种简单有效的无监督特征选择方法，通过结合重建误差和$l_{2,p}$ -范数正则化。投影矩阵用于特征选择，通过在稀疏约束下最小化重建误差来学习。然后，我们提出了一个有效的优化算法来解决所提出的无监督模型，并从理论上分析了算法的收敛性和计算复杂性。最后，在真实数据集上的实验证明了该方法的有效性。
2020-12-29 cs.LG stat.ML
Unsupervised Feature Selection based on Adaptive Similarity Learning and Subspace Clustering
University of Tehran（德黑兰大学）；Amirkabir University of Technology（阿米尔卡比尔理工大学）
特征选择方法对提高数据的可读性和降低学习算法的复杂度具有重要作用。近年来，由于在大数据集上的标记任务繁重，基于无监督观点的特征选择问题得到了各种各样的研究。本文提出了一种基于子空间聚类的无监督特征选择新方法，通过对样本间低维子空间的表示学习来保持样本间的相似性。一个自我表达的模型是采用隐式学习的聚类相似性的自适应方式。该方法不仅通过子空间聚类来保持样本的相似性，而且还基于正则化回归模型来捕获判别信息。在基准数据集上的实验结果表明，与现有的方法相比，我们的方法的有效性与所提出的方法的收敛性分析。
2019-12-10 cs.LG stat.ML
K-means Derived Unsupervised Feature Selection using Improved ADMM
School of Data Science, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）数据科学学院）；Shenzhen Research Institute of Big Data（深圳大数据研究院）
本文提出K-means UFS方法，直接利用K-means目标进行无监督特征选择，并设计改进的ADMM求解NP难优化问题，实验证明其在聚类特征选择上优于现有基线方法。
2024-11-19 cs.AI cs.LG stat.ML
Unsupervised Feature Selection via Robust Autoencoder and Adaptive Graph Learning
Department of Sociology University of California, Davis, California, USA（加州大学戴维斯分校社会学系）
本文提出RAEUFS模型，通过深度自编码器学习非线性特征表示并提高对异常值的鲁棒性，实验表明其在清洁和异常值污染数据中均优于现有方法。
2026-03-19 cs.LG stat.ML
Unsupervised Hypergraph Feature Selection via a Novel Point-Weighting Framework and Low-Rank Representation
Amirkabir University of Technology（阿米尔卡比尔理工大学）
特征选择方法被广泛用于解决“维数灾难”问题。许多提出的特征选择框架，平等地对待所有的数据点，忽略了它们不同的表示能力和重要性。在本文中，我们提出了一个无监督的超图特征选择方法，通过一个新的点加权框架和低秩表示，捕捉不同的数据点的重要性。我们引入了一种新的低复杂度的软超图来建模数据。然后，我们制定的特征选择作为一个优化问题，以保持局部关系，也是全球的数据结构。我们的全局结构保存方法有助于该框架克服无监督学习中数据标签不可用的问题。所提出的特征选择方法根据数据点在定义数据结构和表示能力方面的重要性来处理不同的数据点。此外，由于特征选择方法对噪声和离群值的鲁棒性是非常重要的，我们在我们的模型中采用低秩表示。此外，我们提供了一个有效的算法来解决所提出的优化问题。所提出的算法的计算成本低于许多国家的最先进的方法，这是非常重要的特征选择任务。我们在不同的基准数据集上进行了各种评估方法的综合实验。这些实验表明，显着的改善，与国家的最先进的特征选择方法相比。
2018-10-03 cs.LG stat.ML
Unsupervised Feature Selection Based on Space Filling Concept
University of Lausanne（洛桑大学）
本文讨论了无监督特征选择问题的一个新的措施的适应。所提出的措施是基于空间填充的概念，被称为覆盖措施。该方法被用于判断一个实验空间填充设计的质量。在目前的工作中，覆盖率的措施是适应于选择最小的信息子集的变量，通过减少数据中的冗余。本文提出了一个简单的类比来应用这一措施。它是实现在一个过滤器算法的无监督特征选择问题。该滤波算法对高维数据具有较强的鲁棒性，且无需额外参数即可实现。此外，它是测试与模拟数据和现实世界的案例研究，包括环境数据和高光谱图像。最后，用随机森林算法对结果进行了评价。
2017-06-27 cs.LG stat.ME stat.ML
Adaptive Collaborative Similarity Learning for Unsupervised Multi-view Feature Selection
Shandong Normal University（山东师范大学）；Shandong University（山东大学）；University of Electronic Science and Technology of China（电子科技大学）；National University of Singapore（新加坡国立大学）
本文研究了无监督多视图特征选择的研究问题。传统的解决方案首先简单地将多个预先构建的视图特定相似性结构组合成协作相似性结构，然后执行后续的特征选择。这两个过程是分开和独立的。协作相似性结构在特征选择期间保持固定。此外，简单的无向视图组合可能不利地降低用于特征选择的最终相似性结构的可靠性，因为视图特定的相似性结构通常涉及噪声和外围条目。为了缓解这些问题，我们提出了一个自适应的协作相似性学习（ACSL）的多视图特征选择。我们建议动态学习的合作相似性结构，并进一步将其与最终的特征选择到一个统一的框架。此外，通过合理的排序约束，自适应地学习出一个理想的协同相似结构，并给出合适的相似度组合权重和理想的邻域分配，这两点都有利于特征选择.一个有效的解决方案，保证证明的收敛性，推导出迭代解决制定的优化问题。实验证明了该方法的优越性。
2019-04-25 cs.IR cs.LG
Unsupervised learning with GLRM feature selection reveals novel traumatic brain injury phenotypes
Perelman School of Medicine（佩雷尔曼医学院）；University of Pennsylvania（宾夕法尼亚大学）
基线损伤分类对创伤性脑损伤（TBI）的研究和治疗具有重要意义。目前的分类主要是基于损伤的评分，不足以捕捉损伤的异质性。在这项工作中，我们应用无监督聚类来识别新的TBI表型。我们的方法使用一个广义低秩模型（GLRM）模型的特征选择在一个类似于包装方法的过程。由此产生的聚类揭示了四种新的TBI表型，具有不同的特征，并与90天的功能和认知状态相关。
2018-11-30 cs.LG q-bio.QM stat.ML
Differentiable Unsupervised Feature Selection based on a Gated Laplacian
Yale University（耶鲁大学）；Technion（以色列理工学院）；Hebrew University（希伯来大学）
科学观测可能由大量的变量（特征）组成。在无监督学习中，识别有意义特征的子集通常被忽略，尽管它有可能解开隐藏在周围空间中的清晰模式。在本文中，我们提出了一种无监督的特征选择的方法，我们证明了它的使用任务的聚类。我们提出了一个可微的损失函数，结合拉普拉斯得分，有利于低频功能，与门控机制的特征选择。我们改进了拉普拉斯得分，将其替换为在特征子集上计算的门控变量。该子集是使用伯努利变量的连续近似来获得的，伯努利变量的参数被训练以门控整个特征空间。我们从数学上激发了所提出的方法，并证明了在高噪声状态下，计算门控输入上的拉普拉斯算子而不是完整的特征集是至关重要的。使用几个现实世界的例子，所提出的方法的有效性和它的优势，目前的基线的实验演示。
2020-11-09 cs.LG stat.ML
i-IF-Learn: Iterative Feature Selection and Unsupervised Learning for High-Dimensional Complex Data
SUSTech（华南理工大学）；NUS（国立大学）
本文提出i-IF-Learn框架，通过迭代特征选择与聚类，有效识别高维数据中的关键特征，提升聚类性能并增强下游模型表现。
2026-07-07 cs.LG stat.ME
Mutual Information-Based Unsupervised Feature Transformation for Heterogeneous Feature Subset Selection
传统的基于互信息（MI）的特征选择（FS）方法由于特征子集和类标签之间的数据格式差异或互信息的估计方法而无法正确处理异构特征子集的选择。解决这个问题的一种方法是特征变换（FT）。在这项研究中，一种新的无监督的特征变换（UFT），它可以将非数值特征转换为数值特征的开发和测试。UFT过程是基于MI的并且独立于类标签。基于MI的FS算法，如Parzen窗口特征选择器（PWFS），最小冗余最大相关特征选择（mRMR）和归一化MI特征选择（NMIFS），都可以采用UFT对非数值特征进行预处理。与传统的FT方法不同，所提出的UFT是无偏的，而PWFS是利用其充分的优势。对大规模数据集的仿真分析表明，UFT-PWFS综合方法所选择的特征子集在分类精度上优于其他FT-FS综合方法。
2015-03-29 cs.LG stat.ML
On Evaluation of Unsupervised Feature Selection for Pattern Classification
Department of Artificial Intelligence, Chung-Ang University, Republic of Korea（人工智能系， Chung-Ang 大学）；School of Computer Science and Engineering, Chung-Ang University, Republic of Korea（计算机科学与工程学院， Chung-Ang 大学）
本文通过多标签分类框架重新评估无监督特征选择方法，发现其性能排名与单标签设置有显著差异，表明多标签评估能更公平地比较这些方法。
2026-02-09 cs.AI cs.LG
Crime Event Embedding with Unsupervised Feature Selection
Georgia Institute of Technology（佐治亚理工学院）
我们提出了一种新的事件嵌入算法的犯罪数据，可以共同捕捉时间，位置和复杂的自由文本组件的每个事件。嵌入是通过正则化的限制玻尔兹曼机（RBM），我们引入了一种新的方式来规范施加$\ell_1$惩罚RBM的观测变量的条件分布。这种正则化的选择执行特征选择，并且它还导致有效的计算，因为梯度可以以闭合形式计算。特征选择迫使嵌入基于最重要的关键字，这捕获了常见的操作方式（M。O.）的犯罪系列通过对大规模犯罪数据集的数值实验，我们证明了我们的正则化RBM可以实现更好的事件嵌入，并且所选特征具有高度的人类理解可解释性。
2018-11-04 cs.LG stat.ML
Unsupervised Feature Selection to Identify Important ICD-10 Codes for Machine Learning: A Case Study on a Coronary Artery Disease Patient Cohort
University of Calgary（卡尔加里大学）；Kyung Hee University（庆熙大学）
针对冠状动脉疾病患者 ICD 编码高维问题，比较五种无监督特征选择方法，发现带 ICD 树权重调整的 Concrete Autoencoders 在特征重建和 90 天死亡率预测上表现最佳，并降低特征复杂度。
2023-03-25 cs.AI cs.LG
Algorithmic Stability and Generalization of an Unsupervised Feature Selection Algorithm
University of Kentucky（肯塔基大学）
特征选择作为一种重要的降维技术，通过识别输入特征的基本子集来降低数据维数，从而有助于对学习和推理过程的理解。数学稳定性是算法的关键特性，关于其对输入样本的扰动的敏感性。在本文中，我们提出了一种创新的无监督特征选择算法，实现这种稳定性与可证明的保证。我们的算法的架构包括一个功能评分器和一个功能选择器。评分器训练一个神经网络（NN）对所有特征进行全局评分，选择器采用一个依赖的子NN对特征的表示能力进行局部评价，从而选择特征。此外，我们提出了算法的稳定性分析，并表明，我们的算法有一个性能保证通过泛化误差界。在真实数据集上的大量实验结果表明，我们所提出的算法的泛化性能优于强基线方法。此外，我们的理论分析揭示的属性和我们算法选择的特征的稳定性也得到了经验证实。
2022-01-05 cs.LG stat.ML
SOUL: An Energy-Efficient Unsupervised Online Learning Seizure Detection Classifier
University of California at Berkeley（加州大学伯克利分校）；University of the Philippines Diliman（菲律宾大学迪利曼分校）；Chan-Zuckerberg Biohub（陈-扎克伯格生物中心）
记录神经活动和检测癫痫发作的植入式装置已被采用来发出警告或触发神经刺激以抑制癫痫发作。典型的癫痫发作检测系统依赖于高精度离线训练的机器学习分类器，当癫痫发作模式在长时间内发生变化时，这些分类器需要手动重新训练。对于可植入的癫痫发作检测系统，可以采用低功率、在边缘的在线学习算法来动态地适应神经信号漂移，从而在没有外部干预的情况下保持高精度。本文提出了SOUL：基于随机梯度下降的在线无监督Logistic回归分类器。在初始离线训练阶段之后，原位应用连续在线无监督分类器更新，这提高了具有漂移癫痫发作特征的患者的灵敏度。SOUL在两个人类脑电图（EEG）数据集上进行了测试：CHB-MIT头皮EEG数据集和长（>100小时）NeuroVista颅内EEG数据集。两个数据集的平均灵敏度分别为97.5%和97.9%，特异性>95%。与典型的癫痫发作检测分类器相比，长期数据的灵敏度最多提高8.2%。SOUL是在台积电的28纳米工艺中制造的，占地0.1 mm 2，并实现了1.5 nJ/分类的能效，比最先进的能效至少高出24倍。
2022-05-17 cs.LG eess.SP
Causally-Aware Unsupervised Feature Selection Learning
Joint Laboratory of Data Science and Business Intelligence, School of Statistics, Southwestern University of Finance and Economics（西南财经大学统计学院数据科学与商务智能联合实验室）；University of Kansas（堪萨斯大学）；School of Computing and Artificial Intelligence, Southwest Jiaotong University（西南交通大学计算机与人工智能学院）
提出因果感知的无监督特征选择方法CAUSE-FS，通过因果正则化器平衡混淆分布并结合层次聚类构建融合相似图，减轻虚假关联，显著提升了特征选择的准确性和可解释性。
2025-01-25 cs.LG stat.ME
LOFS: Library of Online Streaming Feature Selection
University of South Australia（南澳大学）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）；University of Vermont（佛蒙特大学）
作为一个新兴的研究方向，在线流特征选择处理的是在一个特征空间中连续增加的维度，而数据实例的数量是固定的。在线流特征选择提供了一种新的、互补的算法方法来丰富在线特征选择，特别是针对大数据分析中的高维度。本文介绍了第一个在MATLAB中使用的全面的开源库，它实现了在线流特征选择的最新算法。该库旨在促进这一令人兴奋的研究方向的新算法的开发，并在新方法和现有方法之间进行比较。
2016-03-02 cs.LG stat.ML
Few-shot Learning for Unsupervised Feature Selection
NTT Computer and Data Science Laboratories（NTT计算机与数据科学实验室）；NTT Communication Science Laboratories（NTT通信科学实验室）
我们提出了一种用于无监督特征选择的少样本学习方法，这是一个在未标记数据中选择相关特征子集的任务。现有的方法通常需要许多实例来进行特征选择。然而，在实践中往往没有足够的实例。该方法通过对多个源任务中的未标记实例进行训练，在给定几个未标记目标实例的情况下，选择目标任务中的相关特征子集。我们的模型包括一个特征选择器和解码器。特征选择器输出相关特征的子集，将一些未标记的实例作为输入，使得解码器可以从所选择的实例中重建未见过实例的原始特征。特征选择器使用具体随机变量通过梯度下降选择特征。为了将来自一些未标记实例的特定于任务的属性编码到模型中，具体随机变量和解码器使用置换不变神经网络建模，该神经网络将一些未标记实例作为输入。我们的模型是通过最小化预期的测试重建误差来训练的，给定了一些未标记的实例，这些实例是用源任务中的数据集计算的。我们的实验表明，该方法优于现有的特征选择方法。
2021-07-02 cs.LG stat.ML
Feature Selection for Unsupervised Domain Adaptation using Optimal Transport
Univ Lyon（里昂大学）；INSA-Lyon（里昂国立应用科学学院）；Université Claude Bernard Lyon 1（里昂第一大学克洛德·贝尔纳大学）；UJM-Saint Etienne（圣艾蒂安大学（让·莫奈大学））；CNRS（法国国家科学研究中心）；Inserm（法国国家健康与医学研究院）
在本文中，我们提出了一种新的特征选择方法的无监督领域自适应的基础上新兴的最优运输理论。我们建立在最近的理论分析领域自适应的最佳运输，并表明它可以直接建议一个特征选择程序利用域之间的转移。在此基础上，我们提出了一种新的算法，其目的是排序功能的相似性在源和目标域，其中的顺序是通过分析耦合矩阵表示的解决方案，建议的最佳运输问题。我们评估我们的方法在一个著名的基准数据集，并说明其选择相关的功能，导致更好的分类性能的能力。此外，我们表明，所提出的算法可以用作现有的领域自适应技术，确保一个重要的加速计算时间方面的预处理步骤，同时保持可比的结果。最后，我们验证了我们的算法在临床影像数据库的计算机辅助诊断任务与有前途的结果。
2018-06-28 cs.LG stat.ML
Unsupervised Dynamic Feature Selection for Robust Latent Spaces in Vision Tasks
Universidade da Coruña（科鲁纳大学）；CITIC Research Center（CITIC研究中心）
针对视觉任务中潜在表征易受噪声/无关特征干扰的问题，提出无监督动态特征选择方法，无标注依赖地逐样本筛选特征以构建鲁棒潜在空间，在多视觉任务上以极小计算代价提升了模型泛化性能。
2025-10-02 cs.AI cs.CV cs.LG
Unsupervised Feature Selection Based on the Morisita Estimator of Intrinsic Dimension
University of Lausanne（洛桑大学）
本文讨论了一种新的过滤算法，用于选择携带数据集的所有信息内容的特征的最小子集（即用于去除冗余特征）。它是分形降维技术的一个高级版本，它依赖于最近推出的Morisita估计的内在维数（ID）。在这里，ID用于量化特征子集之间的依赖关系，这允许有效处理高度非线性数据。所提出的算法成功地测试模拟和现实世界的案例研究。检查不同水平的样本量和噪声以及结果的变异性。此外，基于随机森林的综合过程表明，该算法在不丢失相关信息的情况下显着降低了数据的维数。最后，与基准特征选择技术的比较证明了这种新过滤器的良好性能。
2017-06-02 cs.LG stat.ML
Unsupervised Feature Selection via Multi-step Markov Transition Probability
University of Electronic Science and Technology of China（电子科技大学）
特征选择是一种广泛使用的降维技术，用于选择特征子集，因为它的可解释性。人们已经提出了许多方法，并取得了很好的效果，其中主要关注相邻数据点之间的关系。但是，可能不相邻的数据对之间的可能的关联总是被忽略。与以往的方法不同，我们提出了一种新颖的和非常简单的方法，无监督的特征选择，命名为MMFS（多步马尔可夫转移概率特征选择）。其思想是用多步马尔可夫转移概率来描述任何数据对之间的关系。分别从正反两个角度提出了保持特征选择后数据结构的方法。从正的观点出发，用一定步数所能达到的最大转移概率来描述两点之间的关系。然后，选择能够保持紧凑的数据结构的特征。从负的角度出发，用一定步数所能达到的最小转移概率来描述两点之间的关系。相反，选择最少保持松散数据结构的特征。这两种方式也可以结合起来。因此，提出了三种算法。我们的主要贡献是一种新的特征部分的方法，使用多步转移概率来描述的数据结构，并提出了三个算法，从积极和消极的方面保持数据结构。在8个真实数据集上将该方法与现有方法进行了比较，实验结果表明该方法在无监督特征选择中是有效的.
2020-05-29 cs.LG stat.ML
SPIRIT: Low Power Seizure Prediction using Unsupervised Online-Learning and Zoom Analog Frontends
SPIRIT是一种集成无监督在线学习和缩放模拟前端的低功耗片上系统，实现高灵敏度癫痫发作预测，平均提前8.4分钟，准确率提升达15%，能效比现有技术高5.6倍以上。
2024-11-11 cs.LG eess.SP
Unsupervised Feature Selection for Tumor Profiles using Autoencoders and Kernel Methods
Universite de Technologie de Troyes（特鲁瓦技术大学）；Instituto de Investigacion en Biomedicina de Buenos Aires (IBioBA)—CONICET Partner Institute of the Max Planck Society（布宜诺斯艾利斯生物医学研究所（IBioBA）—马克斯·普朗克学会合作研究所）
来自肿瘤谱的分子数据是高维的。肿瘤谱可以通过成千上万的基因表达特征来表征。由于基因表达特征集的大小，机器学习方法暴露于噪声变量和复杂性。肿瘤类型呈现异质性，并且可以细分为肿瘤亚型。在许多情况下，肿瘤数据不包括肿瘤亚型标记，因此无监督学习方法对于肿瘤亚型发现是必要的。这项工作旨在学习肿瘤样本的有意义和低维表示，并在不使用肿瘤标签的情况下保留生物特征的同时找到肿瘤亚型聚类。所提出的方法命名为潜在核特征选择（LKFS）是一种无监督的方法，在肿瘤基因表达谱的基因选择。通过使用自动编码器，低维和去噪的潜在空间被学习为目标表示，以指导选择基因子集的多核学习模型。通过使用所选择的基因，聚类方法被用于对样本进行分组。为了评估所提出的无监督特征选择方法的性能，通过临床意义来分析所获得的特征和聚类。所提出的方法已被应用于三个肿瘤数据集，这是脑，肾和肺，每一个由两个肿瘤亚型组成。与基准无监督特征选择方法相比，该方法所得到的结果表明，在所选择的功能和更好的聚类性能较低的冗余。
2020-07-12 cs.LG q-bio.GN q-bio.QM
Graph Autoencoder-Based Unsupervised Feature Selection with Broad and Local Data Structure Preservation
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
特征选择是一种降维技术，通过消除不相关和冗余的特征，从高维数据中选择代表性特征的子集。近年来，结合稀疏学习的特征选择方法因其相对于传统的忽略特征间相关性的特征选择方法的优异性能而受到广泛关注。这些工作首先将数据映射到一个低维子空间，然后通过对变换矩阵施加稀疏约束来选择特征。然而，它们被设计限制为线性数据变换，这是一个潜在的缺点，因为数据的底层相关结构通常是非线性的。为了利用更复杂的嵌入，我们提出了一种基于自动编码器的无监督特征选择方法，该方法利用单层自动编码器来实现特征选择和流形学习的联合框架。更具体地说，我们在连接输入层和隐藏层的权重矩阵上强制执行列稀疏性，就像以前的工作一样。此外，我们将投影数据的谱图分析纳入学习过程，以实现从原始数据空间到低维特征空间的局部数据几何保持。对图像、音频、文本和生物数据进行了广泛的实验。实验结果验证了该方法的优越性。
2018-04-21 cs.CV cs.LG stat.ML
Soft Set Based Feature Selection Approach for Lung Cancer Images
肺癌是男性和女性最致命的癌症类型。特征选择在癌症分类中起着至关重要的作用。研究了基于软集理论的肺癌CT图像特征选择过程。提出了一种新的基于软集的无监督特征选择算法。利用灰度共生矩阵（GLCM）和灰度差异矩阵（GLDM）对分割后的肺部图像进行了19个特征提取。本文提出了一种基于无监督软集的快速约简算法（SSUSQR）。将该方法应用于数据集的特征选择，并与现有的基于粗糙集的无监督特征选择方法进行了比较。然后采用K-Means和SOM聚类算法对数据进行聚类。基于聚类技术的性能评估的特征选择算法的性能。实验结果表明，该方法有效地去除了冗余特征。
2012-12-21 cs.CE cs.LG
Adaptive Graph-based Generalized Regression Model for Unsupervised Feature Selection
Southwestern University of Finance and Economics（西南财经大学）；Putian College Affiliated Hospital（莆田学院附属医院）；Southwest Jiaotong University（西南交通大学）
无监督的特征选择是一种重要的无标签高维数据降维方法，有利于避免"维数灾难“，提高后续机器学习任务（如聚类和检索）的性能。如何选择不相关的、有鉴别力的特征是无监督特征选择的关键问题。许多提出的方法选择具有强鉴别性和高冗余度的特征，反之亦然。然而，它们只满足这两个标准中的一个。其他现有的方法通过在原始特征空间上构造图矩阵来选择具有低冗余度的鉴别特征。由于原始特征空间通常含有冗余和噪声，这会降低特征选择的性能。为了解决这些问题，我们首先提出了一种新的广义回归模型施加的不相关的约束和$\ell_{2,1}$ -范数正则化。该算法可以同时选择不相关的和有区别的特征，并减少属于同一邻域的数据点的方差，这有助于聚类任务。通过自适应学习相似诱导图，在降维空间上构造数据的局部内在结构。然后将基于谱分析的图结构和指标矩阵的学习集成到广义回归模型中。最后，我们开发了一种替代的迭代优化算法来求解目标函数。一系列的实验进行了9个真实世界的数据集，以证明所提出的方法相比，与其他竞争的方法的有效性。
2020-12-27 cs.LG stat.ML
Unsupervised Online Feature Selection for Cost-Sensitive Medical Diagnosis
Indian Institute of Technology Bombay（印度理工学院孟买分校）
在医学诊断中，医生通过检查从一系列测试获得的测量结果（特征）来预测患者的状态，例如，验血验尿然后是侵入性检查由于检验往往费用高昂，人们希望只获得那些能够最终确定国家存在或不存在的特征（检验）。医学诊断的另一个方面是，我们经常面临无监督的预测任务，因为患者的真实状态可能不知道。受这些医疗诊断问题的启发，我们考虑了{ \it成本敏感医疗诊断}（CSMD）问题，其中患者的真实状态是未知的。我们制定的CSMD问题作为一个特征选择的问题，每个测试给出了一个功能，可用于预测模型。我们的目标是学习策略，选择的功能，使准确性和成本之间的最佳权衡。我们利用问题的“弱主导”属性来开发在线算法，这些算法可以识别一组特征，从而在预测成本和准确性之间提供“最佳”权衡，而无需知道医疗状况的真实状态。我们的实证结果验证了我们的算法对现实世界的数据集生成的问题实例的性能。
2019-12-25 cs.AI cs.LG stat.AP
Unsupervised parameter selection for denoising with the elastic net
Università di Genova（热那亚大学）；Simula Research Laboratory（Simula研究实验室）
尽管最近的进展，正则化理论，参数选择的问题仍然是一个挑战，大多数应用程序。在最近的一项工作中，统计学习的框架被用来近似的最佳Tikhonov正则化参数从嘈杂的数据。在这项工作中，我们改进了他们的结果，并扩展到弹性网正则化的分析，提供明确的误差界的近似参数和相应的正则化解决方案的精度在简化的情况下。此外，在一般情况下，我们设计了一个数据驱动的，自动化算法的近似正则化参数的计算。我们的分析结合了统计学习理论和正则化理论。我们比较我们的方法与国家的最先进的参数选择标准，并说明其优越性，在模拟和真实数据集的准确性和计算时间。
2019-05-29 cs.CV cs.LG stat.ML
Deep Unsupervised Feature Selection by Discarding Nuisance and Correlated Features
现代数据集通常包含大量相关特征和讨厌特征的子集，这些特征与数据的主要底层结构无关或松散相关。营养特征可以使用拉普拉斯得分标准来识别，该标准通过其与图拉普拉斯的领先特征向量的一致性来评估给定特征的重要性。我们证明，在大量的滋扰功能的存在下，拉普拉斯算子必须计算所选功能的子集，而不是完整的功能集。为此，我们提出了一种完全可区分的无监督特征选择方法，利用Laplacian评分标准来避免选择讨厌的特征。我们采用自动编码器架构来处理相关的功能，训练从选定的功能的子集重建数据。基于最近提出的混凝土层，允许通过架构设计控制所选功能的数量，简化优化过程。在几个真实世界的数据集上进行实验，我们证明了我们提出的方法优于类似的方法，旨在避免相关或滋扰功能，但不是两者兼而有之。几个国家的最先进的聚类结果的报告。
2021-10-11 cs.AI cs.LG stat.ML
Online Feature Selection with Group Structure Analysis
Hefei University of Technology（合肥工业大学）；National University of Singapore（新加坡国立大学）
近年来，动态特征的在线选择引起了人们的广泛兴趣。然而，现有的在线特征选择方法单独评估特征，忽略了特征流的底层结构。例如，在图像分析中，特征是按组生成的，这些组表示颜色、纹理和其他视觉信息。在特征选择中简单地破坏组结构可能会降低性能。受此事实的启发，我们制定了一个在线组特征选择的问题。该问题假设特征是单独生成的，但在特征流中存在组结构。据我们所知，这是第一次，在特征流之间的相关性已被认为是在线特征选择过程。为了解决这个问题，我们开发了一种新的在线群体特征选择方法OGFS。我们提出的方法包括两个阶段：在线组内选择和在线组间选择。在组内选择中，我们设计了一个基于谱分析的标准来选择每个组中的鉴别特征。在组间选择中，我们利用线性回归模型来选择最佳子集。这个两阶段的过程继续，直到没有更多的功能到达或满足一些预定义的停止条件。%我们的方法已被应用最后，我们将我们的方法应用到多个任务，包括图像分类%，人脸验证和人脸验证。在真实世界和基准数据集上进行的大量实证研究表明，我们的方法优于其他最先进的在线特征选择%方法。
2016-08-21 cs.CV cs.LG stat.ML
