GAP Safe Screening Rules for Sparse-Group-Lasso
CNRS（法国国家科学研究中心）；Télécom ParisTech（巴黎电信学院）；Université Paris-Saclay（巴黎萨克雷大学）
在高维环境中，稀疏结构对于效率是至关重要的，无论是在存储器，计算还是性能方面。在某些情况下，处理比纯稀疏性更精细的结构是很自然的，例如组稀疏性。最近在线性回归的上下文中引入了稀疏组Lasso，以在特征级别和组级别上实施稀疏性。我们适应的情况下，稀疏组套索最近的安全筛选规则，丢弃早期在求解器不相关的功能/组。这样的规则导致了大范围的迭代方法的重要加速。由于双间隙计算，我们提供了新的安全筛选规则的稀疏群套索，并显示出显着的收益，在计算时间的坐标下降实现。
2016-02-19 cs.LG math.OC stat.CO
Safe Active Feature Selection for Sparse Learning
Texas A&M University（得克萨斯农工大学）；University of Washington（华盛顿大学）
我们提出了安全的主动增量特征选择~（SAIF）来扩展LASSO解决方案的计算。SAIF不需要像在顺序筛选中那样来自较重惩罚参数的解决方案，也不需要像在动态筛选中那样针对每次迭代更新完整模型。与这些现有的筛选方法不同，SAIF从少量特征开始，逐步招募活跃特征并更新显著减少的模型。因此，它在计算上更加高效，并且随着特征的数量而可扩展。更重要的是，SAIF具有安全保证，因为它具有对原始完整LASSO问题的最优解的收敛保证。这种增量过程和理论收敛保证可以扩展到融合LASSO问题。与现有的筛选方法、工作集方法和同伦方法相比，SAIF方法在处理极高维数据集时，在保证安全性的前提下，具有更高的效率和可扩展性。使用合成和真实世界数据集的实验表明，SAIF可以比动态筛选快50倍，比计算LASSO或融合LASSO解决方案快数百倍。
2018-06-19 cs.LG stat.ML
Distributed Dynamic Safe Screening Algorithms for Sparse Regularization
University of Pittsburgh（匹兹堡大学）
分布式优化作为大规模样本模型训练的有效方法之一，得到了广泛的应用。然而，在大数据时代，大规模学习问题广泛存在，既有海量样本，又有高维特征。安全筛选是一种通过丢弃零系数的非活动特征来加速高维模型的流行技术。然而，现有的安全筛查方法仅限于序贯设置。本文提出了一种新的稀疏正则化模型的分布式动态安全筛选（DDSS）方法，并将其分别应用于共享内存和分布式内存结构，该方法在保证模型和数据集稀疏性的前提下，能够在保证精度的前提下显著提高计算速度.据我们所知，这是分布式安全动态筛选方法的第一项工作。理论上，我们证明了所提出的方法实现了线性收敛速度与较低的整体复杂度，可以消除几乎所有的非活动功能，在有限的迭代次数几乎肯定。最后，在基准数据集上的大量实验结果证实了我们提出的方法的优越性。
2022-04-23 cs.DC cs.LG stat.ML
Screening Tests for Lasso Problems
Princeton University（普林斯顿大学）
本文综述了Lasso问题的词典筛选方法。套索问题寻求字典列的稀疏线性组合，以最佳匹配给定的目标向量。这种稀疏表示已被证明在各种后续处理和决策任务中是有用的。对于给定的目标向量，字典筛选快速识别出字典列的子集，该子集在相应的套索问题的解决方案中将接收零权重。这些列可以在解决套索问题之前从字典中删除，而不会影响所获得的解决方案的最优性。这有两个潜在的优点：它减少了字典的大小，允许用更少的资源来解决套索问题，并且它可以加快获得解决方案。使用几何直观的框架，我们提供了基本的见解，了解有用的套索筛选测试及其局限性。我们还提供了几个数据集的说明性数值研究。
2016-08-21 cs.LG stat.ML
Sparse Identification for Automatic Large-Scale Screening: A Constraint-Aware Framework with Ultra Fast Decoding Algorithm
Zhejiang University（浙江大学）
针对大流行早期大规模筛查中现有分组检测方法在硬约束下计算复杂或精度不足的问题，本文提出LoSc框架，其基于逻辑运算的超快解码算法仅需O(klogn)次检测即可识别全部阳性，并纳入稀释与样本使用约束，兼具理论保证与高效可扩展性。
2026-09-21 cs.LG eess.SP stat.ML
Safe Screening With Variational Inequalities and Its Application to LASSO
SAS Institute Inc.（赛仕软件研究所有限公司）；Arizona State University（亚利桑那州立大学）
稀疏学习技术已经被常规地用于特征选择，因为所得到的模型通常具有少量的非零条目。安全筛选是一种提高计算效率的技术，它消除了对于正则化参数的某个值保证具有零系数的特征。安全筛选越来越受到关注，因为1）求解稀疏学习公式通常具有很高的计算成本，特别是当特征数量很大时，以及2）需要尝试几个正则化参数来选择合适的模型。在本文中，我们提出了一种方法称为“Sasvi”（安全筛选变分不等式）。Sasvi利用变分不等式为对偶问题提供了充分必要的最优性条件。Lasso筛选的几种现有方法可以被视为所提出的Sasvi的放松版本，因此Sasvi提供了更强的安全筛选规则。我们进一步研究了Sasvi for Lasso的单调性，基于此，可以为每个特征确定一个确定的移除正则化参数。合成和真实数据集上的实验结果表明，建议的Sasvi Lasso筛选的有效性。
2014-05-12 cs.LG stat.ML
GAP Safe screening rules for sparse multi-task and multi-class models
CNRS（法国国家科学研究中心）
高维回归受益于稀疏促进正则化。筛选规则通过忽略优化中的一些变量来利用解的已知稀疏性，从而加快求解器的速度。当该过程被证明不会错误地丢弃特征时，该规则被称为\emph{safe}。本文给出了用$\ell_1$和$\ell_1/\ell_2$范数正则化的广义线性模型的新的安全规则。该规则是基于对偶间隙计算和球形安全区域的直径收敛到零。这允许安全地丢弃更多的变量，特别是对于低正则化参数。GAP安全规则可以处理任何迭代求解器，我们展示了它在多任务Lasso，二进制和多项式逻辑斯谛回归的坐标下降上的性能，证明了所有测试数据集相对于以前的安全规则的显着速度。
2015-11-18 cs.LG math.OC stat.CO
Ensemble machine learning approach for screening of coronary heart disease based on echocardiography and risk factors
University of Georgia（佐治亚大学）；Beijing Hospital（北京医院）
背景资料：广泛的临床证据表明，在早期阶段预防性筛查冠心病（CHD）可以大大降低死亡率。我们使用64个二维斑点追踪超声心动图（2D-STE）特征和7个临床特征来预测是否患有CHD。研究方法：我们开发了一种机器学习方法，通过模型堆叠将一些流行的分类方法集成在一起，并将传统的堆叠方法推广到两步堆叠方法，以提高诊断性能。结果如下：通过该方法从多个分类模型中借用优势，我们将测试集上的CHD分类准确率从70%左右提高到87.7%。该方法的灵敏度为0.903，特异性为0.843，AUC为0.904，显著高于个体分类模型。结论：我们的工作奠定了基础，斑点跟踪超声心动图为基础的冠心病筛查工具的部署。
2021-05-20 cs.LG stat.ML
Are screening methods useful in feature selection? An empirical study
Florida State University（佛罗里达州立大学）
过滤或筛选方法通常用作预处理步骤，用于减少学习算法在获得分类或回归模型时使用的变量数量。虽然有许多这样的过滤方法，但需要对这些方法进行客观评价。需要这样的评估来将它们相互比较，并回答它们是否有用，或者没有它们的学习算法可以做得更好。为此，本文将许多流行的筛选方法与三个回归学习器和五个分类学习器合作，并在十个真实数据集上进行评估，以获得准确性标准，如R平方和ROC曲线下面积（AUC）。通过曲线图和比较表比较所获得的结果，以找出筛选方法是否有助于提高学习算法的性能，以及它们之间的关系。我们的研究结果表明，筛选方法在提高对10个评估数据集中的两个回归和两个分类数据集的最佳学习者的预测方面很有用。
2019-07-09 cs.LG stat.ML
Screening for Sparse Online Learning
Institute of Natural Sciences（自然科学研究院）；Shanghai Jiao Tong University（上海交通大学）；University of Bath（巴斯大学）
稀疏促进正则化器被广泛用于将低复杂度结构（例如，稀疏性的l1范数）强加给监督学习的回归系数。在确定性优化领域中，由迭代算法（如近似梯度下降）生成的序列表现出“有限活性识别”，即它们可以在有限次数的迭代中识别低复杂度结构。然而，大多数在线算法（如近端随机梯度下降）不具有的性质，由于消失的步长和非零的方差。本文结合一个筛选规则，给出了如何剔除在线算法产生的迭代中的无用特征，从而实现有限活动识别。一个结果是，当与任何收敛的在线算法相结合时，可以利用正则化器施加的稀疏性来获得计算增益。在数值上，可以获得显著的加速度。
2022-11-11 cs.LG math.OC
Screening Mammogram Classification with Prior Exams
New York University（纽约大学）；New York University School of Medicine（纽约大学医学院）
放射科医生通常会将患者最近的乳腺癌筛查检查与之前的检查进行比较，以做出明智的诊断。为了反映这种做法，我们提出了新的神经网络模型，比较来自同一患者的筛查乳房X光片对。我们在超过665，000对图像（超过166，000对检查）上对我们提出的模型进行了训练和评估。我们的最佳模型在预测接受乳腺癌筛查的患者的恶性肿瘤方面达到了0.866的AUC，降低了相应基线的错误率。
2019-07-30 cs.CV cs.LG eess.IV
Neural Network Panning: Screening the Optimal Sparse Network Before Training
Changsha University of Science and Technology（长沙理工大学）；Xidian University（西安电子科技大学）
在训练前对神经网络进行剪枝，不仅压缩了原始模型，而且加快了网络的训练速度，具有实际的应用价值。目前的工作重点是细粒度的修剪，它使用度量来计算权重得分的权重筛选，并从最初的单阶修剪扩展到迭代修剪。通过这些工作，我们认为，网络修剪可以概括为一个表现力转移过程的权重，其中保留的权重将采取的表现力从删除的，以保持原网络的性能。为了实现表达力的最优调度，提出了一种训练前的剪枝策略--神经网络平移，通过多指标、多步骤的方式引导表达力的传递，并设计了一种基于强化学习的平移代理，实现了过程的自动化。实验结果表明，Panning方法优于现有的各种训练前剪枝方法。
2022-09-27 cs.CV cs.LG
Label-shift robust federated feature screening for high-dimensional classification
Center for Applied Statistics and School of Statistics Renmin University of China（应用统计中心和中国人民大学统计学院）；School of Mathematics and Statistics Xi’an Jiaotong University（西安交通大学数学与统计学院）；Department of Mathematics and Fundamental Research Peng Cheng Laboratory School of Mathematics and Statistics Xi’an Jiaotong University（数学与基础研究部鹏城实验室数学与统计学院）
针对高维分类中跨客户端标签偏移导致特征筛选困难的问题，提出统一框架及标签偏移鲁棒联邦特征筛选方法LR-FFS，利用条件分布期望保证鲁棒性，并提供FDR控制，兼具隐私保护与计算效率。
2025-05-31 cs.LG stat.ME stat.ML
Safe Screening for the Generalized Conditional Gradient Method
INRIA - Département d’Informatique de l’Ecole Normale Supérieure PSL Research University（法国国家信息与自动化研究所 - 巴黎高等师范学院信息学系 巴黎文理研究大学）
条件梯度法（CGM）是一种快速稀疏逼近方法，对于结构化的稀疏正则化算子具有每次迭代计算量小的优点。我们探讨的稀疏性获取属性的广义CGM（gCGM），其中的约束被取代的惩罚函数的基础上的规范罚款，这可以做到不显着增加每次迭代计算，并适用于一般的概念稀疏。在不假设有界迭代的情况下，我们证明了gCGM的函数值和间隙的$O(1/t)$收敛性。我们耦合这与一个安全的筛选规则，并表明，在率$O(1/(tδ^2))$，筛选支持匹配的支持在解决方案，其中$δ\geq 0$措施如何接近的问题是退化。在我们的实验中，我们表明，这些修改后的处罚的gCGM具有类似的特征选择属性作为常见的处罚，但可能更稳定的超参数的选择。
2020-02-22 cs.LG math.OC stat.ML
Sparse-TDA: Sparse Realization of Topological Data Analysis for Multi-Way Classification
University of Washington（华盛顿大学）
拓扑数据分析（TDA）已成为最有前途的技术之一，从观察到的数据样本重建高维空间的未知形状。因此，TDA以持久拓扑特征的形式产生关键形状描述符，其可用于任何监督或无监督学习任务，包括多路分类。另一方面，稀疏采样提供了一种高效的技术，可以从几个精心选择的样本中重建时空域中的信号。在这里，我们提出了一种新的方法，称为稀疏TDA算法，结合了这两种技术的有利方面。这种组合是通过从基于矢量的TDA算法生成的持久特征中选择一组最佳稀疏像素样本来实现的。这些稀疏样本是使用QR旋转从持久特征的低秩矩阵表示中选择的。我们表明，稀疏TDA方法表现出良好的性能在三个基准问题有关的人体姿势识别和图像纹理分类。
2017-11-13 cs.LG stat.ML
A comprehensive study on the prediction reliability of graph neural networks for virtual screening
KAIST（韩国科学技术院）
基于深度神经网络的预测模型越来越受到快速准确的虚拟筛选系统的关注。对于虚拟筛选中的决策，研究人员发现将分类系统的输出解释为概率是有用的，因为这种解释允许他们过滤出更理想的化合物。然而，概率解释不能正确的模型，持有过度参数化问题或不适当的正则化，导致不可靠的预测和决策。在这方面，我们关注神经预测模型对分子性质的可靠性，特别是当模型用稀疏数据点和不平衡分布训练时。这项工作的目的是提出指导方针，训练可靠的模型，因此，我们提供了以下训练原则的方法细节和消融研究。我们研究了模型结构、正则化方法和损失函数对分类结果的预测性能和可靠性的影响。此外，我们评估模型的预测可靠性的虚拟筛选方案。我们的研究结果表明，正确选择正则化和推理方法显然是重要的，以达到高的成功率，特别是在数据不平衡的情况下。所有实验都是在一个统一的模型实现下进行的，以减轻模型训练中的外部随机性，并实现结果的精确比较。
2020-03-17 cs.LG stat.ML
Development of an autism screening classification model for toddlers
American University of Sharjah（沙迦美国大学）
自闭症谱系障碍ASD是一种神经发育障碍，与沟通，社会互动和重复行为的挑战有关。对儿童进行明确的诊断是开始早期干预和获得治疗服务的必要条件。然而，有许多障碍阻碍了这些儿童在早期阶段进行自闭症筛查，这可能会进一步延迟获得治疗干预。提高幼儿ASD检测的效率和准确性的一个有希望的方向是使用机器学习技术来构建服务于该目的的分类器。本文致力于这一领域，并使用Fadi Fayez Thabtah博士开发的数据来训练和测试各种用于早期ASD筛查的机器学习分类器。基于不同的属性，三个模型进行了训练和比较，这三个模型是决策树C4.5，随机森林，和神经网络。基于测试数据，这三个模型提供了非常好的精度，然而，神经网络优于其他两个模型。这项工作有助于幼儿的早期筛查，帮助识别那些具有ASD特征的人，并应进行正式的临床诊断。
2021-09-29 cs.LG
Evolutionary Simplicial Learning as a Generative and Compact Sparse Framework for Classification
Izmir University of Economics（伊兹密尔经济大学）
稀疏表示的字典学习在许多重建任务中取得了成功。单纯形学习是字典学习的一种适应，其中子空间被裁剪并获得任意偏移，采取单纯形的形式。这种适应是通过对稀疏码的附加约束来实现的。此外，演化的方法可以选择来确定组成单纯形的单纯形的数量和维数，其中大多数生成和紧凑的单纯形是有利的。本文提出了一种进化单纯学习方法，作为一个生成和紧凑的稀疏分类框架。所提出的方法首先应用于一类分类任务，它似乎是最可靠的方法在考虑的基准。当进化单纯学习被认为是在多类分类任务中时，观察到最令人惊讶的结果。由于稀疏表示在本质上是生成的，因此它们存在一个基本问题，即无法区分位于同一子空间上的两个类。通过合成实验验证了这一说法，并证明了单纯学习的优越性，即使是仅生成的方法。简单学习在高维情况下失去了其优于判别方法的优势，但可以进一步修改判别元素，以实现分类任务的最新性能。
2020-05-14 cs.LG stat.ML
Viability of machine learning to reduce workload in systematic review screenings in the health sciences: a working paper
Faculty of Health Sciences, McMaster University（麦克马斯特大学健康科学学院）
系统评价是对某一特定主题的所有当前研究的总结和综合，是学术界的重要组成部分。它们在生物医学和健康科学中尤其重要，它们综合了医学证据的状态，并得出各种疾病，病理和治疗的最佳行动方案。由于存在大量文献以及研究的产出率，审查摘要可能是一个费力的过程。自动化可能会大大减少这种工作量。当然，由于书面语言的特殊性质，这种分类不容易自动化。机器学习也许能帮上忙。本文探讨了使用机器学习建模根据特定的排除/纳入标准对摘要进行分类的可行性和有效性，如在系统性综述的第一阶段所做的那样。具体任务是进行分类，以确定摘要是否为随机对照试验（RCT），这是医疗保健领域系统性综述中非常常见的分类。重复创建n=2042个标记摘要数据集的随机训练/测试分割（总共1000次），并在每个实例上训练和测试模型。使用贝叶斯分类器以及SVM分类器，并与非机器学习的文本分类的简单方法进行比较。SVM分类器被认为是非常有效的，产生了90%的准确率，以及0.84的F1得分，并产生了70%的潜在工作量减少。这表明，机器学习有可能显著改变医疗保健系统评价中的抽象筛选过程。
2019-08-22 cs.LG stat.ML
Sparse Robust Classification via the Kernel Mean
Decisions 360；Google Research, NY（谷歌研究纽约分部）；University of Tübingen（图宾根大学）
本文提出让核评估的权重相等以简化分类规则，探讨了该核均值分类规则的一致性、鲁棒性和稀疏化。
2025-10-13 cs.LG stat.ML
Cost-Sensitive Machine Learning Classification for Mass Tuberculosis Verbal Screening
Inovasi Sehat Indonesia（印度尼西亚健康创新）；University of Indonesia（印度尼西亚大学）；Oxford University（牛津大学）
基于分数的结核病（TB）口头筛查算法表现不佳，导致错误分类，导致漏诊病例和不必要的昂贵的假阳性实验室检测。我们将临床医生定义的基于评分的分类与SVM-RBF、逻辑回归和XGBoost等机器学习分类进行了比较。我们限制我们的分析，从成年人的数据，受结核病影响最大的人口，并调查未调整和未加权分类器的成本敏感的差异。将预测值与相应的GeneXpert MTB/Rif结果进行比较。将XGBoost的阳性类别权重调整为40后，我们获得了96.64%的灵敏度和35.06%的特异性。因此，与我们的临床医生定义的传统基于评分的方法相比，我们的标识符的灵敏度增加了1.26%，而特异性的绝对值增加了13.19%。我们的方法进一步证明，只有2000个数据点就足以使模型收敛。结果表明，即使数据有限，我们实际上也可以设计出一种更好的方法来识别结核病嫌疑人。
2020-11-14 cs.CY cs.LG
Comparison of Classification Methods for Very High-Dimensional Data in Sparse Random Projection Representation
Arcada UAS（阿卡达应用科学大学）
大数据趋势激发了特征驱动的学习任务，这是传统机器学习模型无法处理的。非结构化数据在转换为向量形式时会产生具有数百万列的非常大的二进制矩阵。然而，这样的数据通常是稀疏的，因此可以通过使用稀疏随机投影来管理。本文研究了适用于这类数据的高效非迭代和迭代法，并对两个具有代表性的具有数百万样本和特征的机器学习任务进行了结果评估。引入有效的Jaccard核作为稀疏随机投影的替代方案。研究结果表明，非迭代法可以找到更大，更准确的模型比迭代法在不同的应用场景。
2019-12-18 cs.LG stat.ML
Supervised Discriminative Sparse PCA for Com-Characteristic Gene Selection and Tumor Classification on Multiview Biological Data
Harbin Institute of Technology（哈尔滨工业大学）；Qufu Normal University（曲阜师范大学）；Anhui University（安徽大学）
主成分分析（PCA）已被用于研究疾病的发病机制。为了提高经典PCA的可解释性，迄今为止已经提出了各种改进的PCA方法。其中，一个典型的方法是所谓的稀疏PCA，其重点是寻求稀疏负载。然而，这些方法的性能仍然是远远不能令人满意的，由于其使用无监督学习方法的限制，而且，在样本内的类歧义是高的。为了克服这个问题，本研究开发了一种新的PCA方法，这是被命名为监督判别稀疏PCA（SDSPCA）。该方法的主要创新点是将判别信息和稀疏性引入到PCA模型中。具体而言，与传统的稀疏PCA相比，它对负载施加稀疏性，在这里，稀疏分量被获得以表示数据。此外，通过线性变换，稀疏分量近似给定的标签信息。一方面，稀疏分量提高了传统PCA的可解释性，而另一方面，它们具有适用于分类目的的区分能力。提出了一种简单的算法，并给出了收敛性证明。SDSPCA已被应用于多视角生物数据的共同特征基因（com-characteristic gene）选择和肿瘤分类。通过大量、合理、有效的实验，验证了SDSPCA的稀疏性和分类性能，实验结果表明SDSPCA优于其他现有方法。
2019-05-28 cs.LG stat.ML
Non-Negative Kernel Sparse Coding for the Classification of Motion Data
CITEC cluster of excellence（CITEC卓越集群）；Bielefeld University（比勒费尔德大学）
我们感兴趣的运动数据分解成一个稀疏的线性组合的基函数，使有效的数据处理。我们结合了两个突出的框架：动态时间规整（DTW），它提供了特别成功的成对运动数据比较，和稀疏编码（SC），它使矢量数据自动分解成一个稀疏的线性组合的基本向量。我们对SC进行了如下增强：一种有效的核化，其将其应用领域扩展到诸如DTW提供的一般相似性数据，以及其对信号和基向量的非负线性表示的限制，以保证有意义的字典。运动捕捉基准的实证评估表明，我们的框架解释和歧视的关注的有效性。
2019-03-12 cs.LG stat.ML
Screening for a Reweighted Penalized Conditional Gradient Method
Stony Brook University（石溪大学）；INRIA-Paris（法国国家信息与自动化研究所巴黎分部）
条件梯度法（CGM）是一种广泛应用于大规模稀疏凸优化的方法，它具有构造稀疏正则化算子的低迭代计算量和收集非零值的贪婪方法。我们探讨了稀疏获取属性的一般惩罚CGM（P-CGM）的凸正则化和一个重新加权的惩罚CGM（RP-CGM）的非凸正则化，取代通常的凸约束规范启发的处罚。这种泛化不会显著增加每次迭代的复杂性。没有假设有界迭代或使用线搜索，我们显示$O(1/t)$收敛的间隙的每个子问题，它的措施距离一个固定点。我们将其与在凸情况下安全的筛选规则相结合，以$O(1/(δ^2))$的速率收敛到真正的支持，其中$δ\geq 0$测量问题与退化的接近程度。在非凸情形下，筛选规则在有限次迭代中收敛到真支撑，但在中间迭代中不一定是安全的。在我们的实验中，我们验证了该方法的一致性，并通过调整正则化器的宽度来调整筛选规则的积极性。
2021-07-02 cs.LG math.OC
From Softmax to Sparsemax: A Sparse Model of Attention and Multi-Label Classification
Unbabel Lda（Unbabel有限公司）；Instituto de Telecomunicações (IT)（电信研究所（IT））；Instituto Superior Técnico（高等技术学院）；Instituto de Engenharia de Sistemas e Computadores (INESC-ID)（系统与计算机工程研究所（INESC-ID））
我们提出了sparsemax，一个新的激活函数类似于传统的softmax，但能够输出稀疏的概率。在推导出它的属性之后，我们展示了如何有效地计算它的雅可比矩阵，使其能够在用反向传播训练的网络中使用。然后，我们提出了一个新的光滑和凸的损失函数，这是稀疏的模拟逻辑损失。我们揭示了一个意想不到的这种新的损失和Huber分类损失之间的联系。我们在多标签分类问题和基于注意力的神经网络自然语言推理中获得了有希望的实证结果。对于后者，我们实现了与传统softmax类似的性能，但具有选择性，更紧凑，注意力集中。
2016-02-08 cs.CL cs.LG stat.ML
On the Evaluation of Prohibited Item Classification and Detection in Volumetric 3D Computed Tomography Baggage Security Screening Imagery
Durham University（杜伦大学）
基于X射线计算机断层扫描（CT）的3D成像被广泛用于机场的航空安全检查，而之前关于违禁物品检测的工作主要集中在2D X射线图像上。在本文中，我们的目的是评估的可能性，从二维X射线图像的体积三维CT行李安检图像的自动违禁品检测。为此，我们在工作中利用了3D卷积神经网络（CNN）和流行的目标检测框架，如RetinaNet和Faster R-CNN。作为第一次尝试使用三维CNN的体积三维CT行李安检，我们首先评估不同的CNN架构上的孤立的违禁物品体积的分类，并与传统的方法，使用手工制作的功能进行比较。随后，我们评估体积三维CT行李图像上的不同架构的目标检测性能。我们在Bottle和Handgun数据集上的实验结果表明，3D CNN模型可以实现与传统方法相当的性能（98%的真阳性率和1.5%的假阳性率），但推理所需的时间显著减少（每卷0.014秒）。此外，扩展的3D目标检测模型在检测体积3D CT行李图像中的违禁物品方面实现了有希望的性能，其中瓶子的mAP为76%，手枪的mAP为88%，这显示了3D CT X射线安全图像中的这种威胁检测的挑战和前景。
2020-03-27 cs.CV cs.LG
Towards Improved Cervical Cancer Screening: Vision Transformer-Based Classification and Interpretability
Ghent University（根特大学）；Ghent University Global Campus（根特大学全球校区）；IDLab
本文提出基于 EVA-02 transformer 的四步宫颈细胞图像分类流程，通过特征选择与神经网络提升泛化能力，F1-score 达 0.85227，并利用 Kernel SHAP 提供可解释性。
2025-04-30 cs.CV cs.LG
Sparse group lasso and high dimensional multinomial classification
University of Copenhagen（哥本哈根大学）
使用坐标梯度下降算法来解决稀疏群套索优化问题。该算法适用于广泛的一类凸损失函数。证明了该算法的收敛性，并将其应用于多项式稀疏群Lasso分类器的性能研究。在三个不同的实际数据的例子中，多项式组套索明显优于多项式套索在实现的分类错误率方面，并在包括更少的分类功能。我们的稀疏组套索实现的运行时间与R包glmnet中实现的多项式套索算法具有相同的数量级。我们的实现可以很好地适应问题的大小。考虑的高维例子之一是具有10k特征的50类分类问题，这相当于估计500k参数。该实现可作为R包msgl获得。
2013-02-06 cs.LG stat.CO stat.ML
Discriminative Sparse Coding on Multi-Manifold for Data Representation and Classification
稀疏编码作为一种有效的数据表示方法在计算机视觉、医学成像和生物信息学等领域得到了广泛的应用。然而，传统的稀疏编码算法及其多种正则化变体（图稀疏编码和拉普拉斯稀疏编码）都是以无监督的方式学习码书和编码，忽略了训练集中可用的类信息。为了解决这个问题，本文提出了一种新的歧视性稀疏编码方法的基础上多流形，通过学习歧视性的类条件码书和稀疏码的数据特征空间和类标签。首先，根据类标签将整个训练集划分为多个流形。然后，我们将稀疏编码公式化为流形-流形匹配问题，并学习类条件码本和代码，以最大化不同类的流形边缘。最后，我们提出了一个基于数据点流形匹配误差的策略来分类未标记的数据点。体细胞突变识别和乳腺肿瘤超声图像分类任务的实验结果表明，所提出的数据表示分类方法的有效性。
2013-04-03 cs.CV cs.LG stat.ML
Breast density classification with deep convolutional neural networks
New York University（纽约大学）；NYU School of Medicine（纽约大学医学院）；NYU Langone Medical Center（纽约大学朗格尼医学中心）
乳腺密度分类是乳腺癌筛查的重要组成部分。虽然很多先前的工作认为这个问题是学习算法的任务，但据我们所知，所有这些算法都使用了小的、临床上不真实的数据来训练和评估它们的模型。在这项工作中，我们利用来自20多万次乳腺癌筛查检查的数据集探索了这项任务的局限性。我们使用这些数据来训练和评估一个强大的卷积神经网络分类器。在一项读者研究中，我们发现我们的模型可以像人类专家一样执行这项任务。
2017-11-10 cs.CV cs.LG stat.ML
Deep Sparse Representation-based Classification
提出一种基于转导深度学习的稀疏表示分类方法，利用卷积自编码器和全连接层学习深度特征与稀疏编码，在三个数据集上优于现有SRC方法。
2019-04-24 cs.AI cs.CV cs.LG
MobileNetV2: A lightweight classification model for home-based sleep apnea screening
School of Medicine, Shenzhen University（深圳大学医学院）；Witleaf Medical Electronics Co.（维leaf医疗电子公司）
本文提出基于MobileNetV2的轻量级模型，融合ECG与呼吸信号进行家庭OSA筛查，在多个公开数据库上取得高精度检测结果，验证了其便携化应用潜力。
2025-01-03 cs.AI cs.LG eess.SP
Non-intrusive Load Monitoring via Multi-label Sparse Representation based Classification
这项工作遵循的方法，多标签分类的非侵入式负载监测（NILM）。我们修改了流行的稀疏表示为基础的分类（SRC）的方法（单标签分类）来解决多标签分类问题。在基准REDD和Pecan Street数据集上的结果显示，在少量训练数据的情况下，与最先进的技术相比，有了显着的改进。
2019-12-11 cs.LG cs.SY eess.SP
CausalBind: Causal Modeling and Learning for Protein-Molecule Virtual Screening
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出CausalBind，一种基于V-结构因果模型和稀疏交互先验的蛋白质-分子虚拟筛选方法，通过理论分析保证概念可识别性，并在DUD-E和LIT-PCBA基准上超越强基线，实现跨靶标和骨架的泛化。
2026-11-04 cs.AI cs.LG
Differential Privacy for Sparse Classification Learning
Northwest University（西北大学）；Macau University of Science and Technology（澳门科技大学）
在本文中，我们提出了一个差分隐私版本的凸和非凸稀疏分类方法。基于交替方向乘子法（ADMM）算法，将稀疏问题的求解转化为多步迭代过程。然后，我们添加指数噪声稳定的步骤，以实现隐私保护。该方法利用差分隐私的后处理保持特性，在原问题不稳定的情况下，仍能满足$ε-$差分隐私.此外，我们提出了理论上的隐私界的差分隐私分类算法。具体地说，我们的算法的隐私边界控制的算法迭代次数，隐私参数，损失函数的参数，ADMM预选参数，和数据大小。最后，我们将我们的框架应用于具有$L_1$正则化的逻辑斯谛回归和具有$L_{1/2}$正则化的逻辑斯谛回归。数值实验表明，该方法在敏感数据分析中具有良好的性能。
2019-08-02 cs.CR cs.LG stat.ML
VetClaw: An Edge-Cloud Multimodal Agentic System for Veterinary Disease Screening
Southern Illinois University（南伊利诺伊大学）；Utah Valley University（犹他谷大学）；Jazan University（吉赞大学）
VetClaw是用于兽医疾病筛查的边缘云多模态智能系统，用相机模块采集图像等并发送至视觉语言模型分类。它分离智能体交互与工作流编排，超越静态图像分类，症状引导和多模态输入提升性能，将静态模型转变为多功能安全感知系统。
2026-07-29 cs.CV cs.LG
Distributional Shifts in Automated Diabetic Retinopathy Screening
National University of Singapore（新加坡国立大学）
开发基于深度学习的模型以自动检测视网膜图像在糖尿病视网膜病变（DR）筛查中是否是“可识别的”。然而，它们的分类精度会随着输入图像从其训练分布的分布偏移而降低。此外，即使输入不是视网膜图像，标准DR分类器也产生图像是“可识别的”的高置信度预测。我们提出了一个基于Dirichlet先验网络的框架来解决这个问题。它利用分布外（OOD）检测器模型和DR分类模型，通过识别OOD图像来提高泛化能力。在真实世界数据集上的实验表明，该框架可以消除未知的非视网膜图像和识别分布移位的视网膜图像的人为干预。
2021-07-25 cs.AI cs.CV cs.LG
SparseConvMIL: Sparse Convolutional Context-Aware Multiple Instance Learning for Whole Slide Image Classification
Paris-Saclay University（巴黎-萨克雷大学）；CentraleSupélec（中央理工-高等电力学院）；Gustave Roussy（古斯塔夫·鲁西研究所）；Inserm（法国国家健康与医学研究院）；TheraPanacea（TheraPanacea公司）
多实例学习（MIL）是用于整个切片图像分类的优选方法。然而，大多数MIL方法不利用从整个幻灯片图像中提取的瓦片的相互依赖性，这可以为分类提供有价值的线索。本文提出了一种新的MIL方法，利用瓷砖的空间关系分类整个幻灯片图像。为此，从瓦片嵌入构建稀疏映射，然后通过稀疏输入CNN进行分类。它在涉及10000张全切片图像的癌症亚型分类方面获得了超过流行的MIL方法的最先进性能。我们的研究结果表明，所提出的方法可以（i）提高表示学习的实例和（ii）利用上下文的实例嵌入，以提高分类性能。这个工作的代码是开源的{github censored for review}。
2021-08-25 cs.CV cs.LG
Comparison of ConvNeXt and Vision-Language Models for Breast Density Assessment in Screening Mammography
School of Engineering and Sciences（工程与科学学院）；School of Medical and Health Sciences（医学与健康科学学院）
针对乳腺X线密度分类的主观性难题，对比多模态模型BioMedCLIP与CNN模型ConvNeXt在三种学习场景下的表现，发现端到端微调的CNN模型性能更优，为医学影像分类模型选择和后续多模态优化提供参考。
2025-06-16 cs.LG eess.IV
SCREENet: A Multi-view Deep Convolutional Neural Network for Classification of High-resolution Synthetic Mammographic Screening Scans
Stanford University（斯坦福大学）
目的：开发和评估多视图深度学习方法的准确性，以分析数字乳腺断层合成摄影筛查病例的高分辨率合成乳腺X线照片，并评估图像分辨率和训练集大小对准确性的影响。材料与方法：在一项回顾性研究中，收集了在我们机构获得的21，264例筛查数字乳腺断层合成摄影（DBT）检查以及相关放射学报告。这些检查的2D合成乳腺X线摄影图像（具有不同的分辨率和数据集大小）用于训练多视图深度卷积神经网络（MV-CNN），以在对保留的检查集进行评价之前将筛选图像分类为BI-RADS类别（BI-RADS 0、1和2）。结果如下：对于在完整数据集上训练的MV-CNN，BI-RADS 0与非BI-RADS 0类别的受试者工作特征曲线（AUC）下的面积为0.912。该模型的准确率为84.8%，召回率为95.9%，精确率为95.0%。当用50%和25%的图像训练相同的模型时，该AUC值降低（AUC = 0.877，P=0.010和0.834，P=0.009）。此外，当使用采样不足1/2和1/4的图像训练同一模型时，性能下降（分别为AUC = 0.870，P=0.011和0.813，P=0.009）。总结：这种深度学习模型将高分辨率合成乳腺X射线摄影扫描分为正常和需要使用数万张高分辨率图像进行进一步检查。较小的训练数据集和较低分辨率的图像都导致性能显着下降。
2020-09-25 cs.CV cs.LG eess.IV
Large-Scale Screening of COVID-19 from Community Acquired Pneumonia using Infection Size-Aware Classification
冠状病毒病（COVID-19）在全球范围内的传播已成为全球公共卫生的威胁。快速准确地筛查COVID-19患者是否患有社区获得性肺炎（CAP）非常重要。在这项研究中，共有1658名COVID-19患者和1027名CAP患者接受了薄层CT检查。所有图像进行预处理，以获得感染和肺野的分割，用于提取位置特异性特征。提出了一种感染大小感知随机森林方法（iSARF），其中受试者被自动分类为具有不同范围的感染病变大小的组，然后在每组中随机森林进行分类。实验结果表明，该方法的灵敏度为0.907，特异性为0.833，准确度为0.879下五折交叉验证。与比较方法相比，实现了较大的性能裕度，特别是对于感染大小在中等范围（0.01%至10%）的病例。放射组学特征的进一步纳入显示出略微改善。预计我们提出的框架可以帮助临床决策。
2020-03-22 cs.CV cs.LG eess.IV
Bioinspired random projections for robust, sparse classification
ETH Zurich（苏黎世联邦理工学院）；Imperial College London（帝国理工学院）
受生物传感系统中随机投影的启发，我们提出了一种新的分类问题数据处理算法。这是基于对人类大脑和果蝇嗅觉系统的观察，并涉及在应用帽操作以截断较小条目之前将数据随机投影到大大增加维度的空间中。这导致了一个简单的算法，这是非常有效的计算，并可以用于要么给出一个稀疏表示与最小的损失在分类精度或提供改进的鲁棒性，在这个意义上，分类精度提高时，噪声被添加到数据。这是证明与数值实验，补充理论结果表明，所得到的信号变换是连续的和可逆的，在适当的意义上。
2022-07-27 cs.LG eess.SP q-bio.NC
Automatic Cough Classification for Tuberculosis Screening in a Real-World Environment
Stellenbosch University（斯泰伦博斯大学）
目的：自动区分肺结核患者和其他肺部疾病患者的咳嗽声。方法：我们目前的实验的基础上获得的1358个强迫咳嗽记录的数据集在发展中国家的诊所从16例确诊为活动性肺结核和35例患有呼吸系统疾病提示结核病，但被证实为结核病阴性。使用嵌套交叉验证，我们已经训练和评估了五个机器学习分类器：逻辑回归（LR），支持向量机（SVM），k-最近邻（KNN），多层感知器（MLP）和卷积神经网络（CNN）。主要结果：虽然分类是可能的，在所有情况下，最好的性能是使用LR。结合特征选择的顺序向前选择（SFS），我们最好的LR系统实现了ROC曲线下面积（AUC）为0.94，使用23个功能从一组78个高分辨率梅尔频率倒谱系数（MFCC）。该系统在95%的特异性下实现了93%的灵敏度，因此超过了世界卫生组织（WHO）认为的70%特异性下90%的灵敏度，这是基于社区的TB分诊测试的最低要求。重要性：咳嗽声音的自动分类在应用于需要进行结核病调查的有症状患者时，可以满足世卫组织分类规范，用于识别应该接受昂贵的分子下游检测的患者。这使其成为一种有前途和可行的低成本、易于部署的结核病一线筛查手段，特别有利于结核病负担沉重的发展中国家。
2021-10-17 cs.LG cs.SD eess.AS
Linear Spatial Pyramid Matching Using Non-convex and non-negative Sparse Coding for Image Classification
Center for Information in BioMedicine（生物医学信息中心）；China Center for Applied Mathematics（中国应用数学中心）
近年来，稀疏编码在图像分类中取得了巨大的成功，这主要是由于它能够结合图像表示的稀疏性。本文提出了一种基于线性空间金字塔匹配（SPM）和尺度不变特征变换（SIFT）描述子的稀疏编码模型。新颖之处在于同时将非凸和非负特征加入到稀疏编码模型中。我们的数值实验表明，使用非凸和非负稀疏编码的改进方法优于原始的ScSPM[1]在几个典型的数据库。
2015-04-27 cs.CV cs.LG
Lung Cancer Screening Using Adaptive Memory-Augmented Recurrent Networks
University of Houston（休斯顿大学）
在本文中，我们研究了深度学习技术在计算机断层扫描中用于肺结节分类的有效性。使用不到10，000个训练样本，我们的深度网络的性能比标准放射学软件高出两倍。网络神经元的可视化揭示了与临床知识和放射科医生的感知一致的语义上有意义的特征。我们的论文还提出了一种新的框架，用于快速调整深度网络以适应放射科医生的反馈，或者由于传感器分辨率或患者人群的变化而导致的数据变化。我们的方法的分类准确率保持在80%以上，而流行的深度网络的准确率是随机的。最后，我们通过要求放射科医生检查重要的网络特征并对网络错误进行盲重标记来深入分析我们的框架。
2018-09-07 cs.CV cs.LG
Congenital Heart Disease Classification Using Phonocardiograms: A Scalable Screening Tool for Diverse Environments
Monash University（莫纳什大学）；McGill University（麦吉尔大学）；United International University（国际伊斯兰大学）；Duke University（杜克大学）；Khalifa University（哈利法大学）
本研究提出一种基于心音图的深度学习模型用于先天性心脏病筛查，在孟加拉国数据集上达到94.1%准确率，并在公共数据集及低质量录音中表现稳健，展示了作为资源有限环境下经济有效筛查工具的潜力。
2025-03-28 cs.LG eess.AS
Collaborative Representation for Classification, Sparse or Non-sparse?
Academic Center for Computing and Media Studies, Kyoto University（京都大学学术计算与媒体研究中心）；Graduate School of Informatics, Kyoto University（京都大学信息学研究科）
基于稀疏表示的分类方法（SRC）是一种简单、有效、鲁棒的人脸识别方法。随着它变得流行，对强制稀疏性的必要性的怀疑开始出现，并且初步实验结果表明，简单地将基于$l_1$ -范数的正则化改变为计算上更有效的基于$l_2$ -范数的非稀疏版本将导致类似甚至更好的性能。然而，情况并非总是如此。给定一个新的分类任务，仍然不清楚哪种正则化策略（即，使系数稀疏或非稀疏）是更好的选择，而无需尝试两者进行比较。在本文中，我们提出了据我们所知的第一个研究解决这个问题，大量的不同的分类实验的基础上。我们提出了一个评分函数，用于预先选择正则化策略，仅使用数据集大小，特征维数和来自给定特征表示的判别分数。此外，我们表明，当字典学习是考虑，非稀疏表示有更显着的优势稀疏表示。这项工作有望丰富我们对稀疏/非稀疏协作表示分类的理解，并激励进一步的研究活动。
2014-03-06 cs.AI cs.CV cs.LG
Pre-Intervention Prediction of Sparse Autoencoder Steering Side Effects
University of Michigan（密歇根大学）
提出一种干预前筛选框架，利用特征统计预测SAE引导的副作用（效果不稳定和附带扩散），在多个模型和字典上验证了解码器几何等信号优于基线，但预测效果因模型而异。
2026-06-06 cs.AI cs.LG
Combining Crowd and Machines for Multi-predicate Item Screening
University of Trento（特伦托大学）；Tomsk Polytechnic University（托木斯克理工大学）；UNSW（新南威尔士大学）
本文讨论了人群和机器分类器如何有效地结合起来，以筛选满足一组谓词的项目。我们表明，这是一个经常出现的问题，在许多领域，目前的机器-人（混合）算法，有效地筛选项目，并估计增益超过人类或机器只筛选的性能和成本。我们进一步展示了如何，给定一个新的分类问题和一组分类器的未知精度的问题在手，我们可以确定如何管理成本准确性权衡逐步确定我们是否应该花费预算来获得测试数据（评估给定分类器的准确性），或者训练分类器的集合，或者我们是否应该利用现有的机器分类器，以及在这种情况下如何基于它们的估计特性有效地组合它们以获得分类。我们证明，我们提出的技术获得显着的成本/准确性的改进，相对于领先的分类算法。
2019-04-01 cs.IR cs.LG
Towards Radiologist-Level Accurate Deep Learning System for Pulmonary Screening
Artelus
在这项工作中，我们提出了先进的肺炎和肺结核分级系统的X射线图像。该系统是一个非常深的完全卷积分类网络，具有在线增强功能，可输出疾病流行率的置信度值。它是一个完全自动化的系统，能够理解疾病特征，无需任何离线预处理步骤或手动特征提取。我们已经在公共数据库上实现了最先进的性能，如ChestXray-14，Mendeley，深圳医院X射线和白俄罗斯X射线机。
2018-06-25 cs.CV cs.LG
Sparse Deep Stacking Network for Image Classification
Nanjing University of Science and Technology（南京理工大学）
稀疏编码可以学习对噪声具有良好鲁棒性的表示，并为图像分类建模更高阶的表示。然而，即使在稀疏编码技术中使用监督信号来学习紧凑和有区别的字典，推理算法也是计算昂贵的。幸运的是，一个简化的神经网络模块（SNNM）已被提出来直接学习的判别字典，以避免昂贵的推理。但是SNNM模块忽略了稀疏表示。因此，我们提出了一个稀疏SNNM模块，通过添加混合范数正则化（l1/l2范数）。稀疏SNNM模块进一步堆叠以构建稀疏深度堆叠网络（S-DSN）。在实验中，我们评估S-DSN与四个数据库，包括扩展YaleB，AR，15场景和Caltech 101。实验结果表明，我们的模型优于相关的分类方法，只有一个线性分类器。值得注意的是，我们达到了98.8%的识别准确率在15个场景。
2015-01-05 cs.CV cs.LG cs.NE
A Cascaded Learning Strategy for Robust COVID-19 Pneumonia Chest X-Ray Screening
Taiwan AI Labs（台湾人工智能实验室）；National Taiwan University Hospital（国立台湾大学医学院附设医院）；Taipei Medical University Hospital（台北医学大学附设医院）；National Health Insurance Administration, Ministry of Health and Welfare（卫生福利部中央健康保险署）；Centers for Disease Control, Ministry of Health and Welfare（卫生福利部疾病管制署）；Taiwan Executive Yuan（台湾行政院）；National Taiwan University College of Medicine（国立台湾大学医学院）
我们为COVID-19引入了一个全面的筛查平台（又名，SARS-CoV-2）肺炎。拟议的基于人工智能的系统适用于胸部X射线（CXR）图像，以预测患者是否感染了COVID-19疾病。尽管最近国际社会共同努力提供各种开放数据，但CXR图像的公开收集仍然相对较少，无法可靠地训练深度神经网络（DNN）来进行COVID-19预测。为了更好地解决这种低效率问题，我们设计了一种级联学习策略，以提高DNN分类模型的灵敏度和特异性。我们的方法利用非COVID-19肺炎的大型CXR图像数据集，通过级联学习方案来推广原始的训练有素的分类模型。由此产生的筛选系统在扩展的数据集上实现了良好的分类性能，包括那些新添加的COVID-19 CXR图像。
2020-04-30 cs.CV cs.LG eess.IV
Virtual Screening of Pharmaceutical Compounds with hERG Inhibitory Activity (Cardiotoxicity) using Ensemble Learning
Indian Institute of Technology Mandi（曼迪印度理工学院）
对潜在药物分子具有高灵敏度和特异性的心脏毒性的计算机预测可能具有巨大的价值。因此，基于从药物分子结构中提取的一些特征，构建能够有效预测心脏毒性的机器学习分类模型至关重要。在本文中，我们考虑了各种机器学习方法的应用，然后提出了一个集成分类器的预测分子活性的药物发现的Hacknut（DDH）（第1次参考）数据集。我们只使用了2-D描述符的SMILE符号为我们的预测。我们的集成分类使用5个分类器（2个随机森林分类器，2个支持向量机和一个密集的神经网络），并使用最大投票技术和加权平均技术的最终决定。
2021-06-05 cs.AI cs.LG q-bio.QM
