Interpretable Classification via a Rule Network with Selective Logical Operators
George Mason University(乔治梅森大学)
本文提出了一种利用选择性逻辑运算符的规则网络(RNS),通过自适应选择AND/OR操作提升分类性能,实验显示其在13个数据集上优于25种现有方法。
2026-04-02 cs.AI cs.LG
Conjunction Subspaces Test for Conformal and Selective Classification
School of Software(软件学院)
提出一种整合随机子空间显著性测试的分类器,通过共识 p 值量化不确定性,可部署于 conformal prediction 和 selective classification,并提供了泛化误差界的理论分析与实证验证。
2024-10-16 cs.AI cs.LG
Trading via Selective Classification
University of Liverpool(利物浦大学)
一个二元分类器试图预测资产价格是否会上涨或下跌,自然会产生一个遵循预测的交易策略,从而总是在市场上占有一席之地。选择性分类扩展了二元或多类分类器,以允许其放弃对某些输入进行预测,从而允许在所得选择性分类器的准确性与输入特征空间的覆盖率之间进行权衡。选择性分类器产生交易策略,当分类器弃权时,不采取交易头寸。本文研究了二元和三元选择分类法在交易策略设计中的应用。对于三元分类,除了价格上涨或下跌的类别之外,我们还包括第三个类别,对应于任何一个方向上相对较小的价格变动,并为分类器提供了另一种避免进行方向预测的方法。我们使用一种向前走的训练验证测试方法来评估和比较基于四种分类方法的几个不同特征集的二元和三元,选择性和非选择性分类器:逻辑回归,随机森林,前馈和递归神经网络。然后我们将这些分类器转化为交易策略,并在商品期货市场上进行回测。我们的实证结果表明,潜在的选择性分类的交易。
2021-10-31 cs.LG q-fin.TR
Know When to Abstain: Optimal Selective Classification with Likelihood Ratios
Department of Computer Science, National University of Singapore(计算机科学系,国立新加坡大学);Smart Systems Institute, National University of Singapore(智能系统研究所,国立新加坡大学)
本文提出基于似然比的最优选择性分类方法,通过 Neyman-Pearson 引理统一并改进了选择性分类在协变量偏移下的性能。
2026-03-03 cs.AI cs.LG stat.ML
Selective Classification Can Magnify Disparities Across Groups
Stanford University(斯坦福大学)
选择性分类,其中模型可以放弃不确定的预测,是一种自然的方法,可以在错误代价高昂但弃权是可控的情况下提高准确性。在本文中,我们发现,虽然选择性分类可以提高平均精度,它可以同时放大现有的准确性之间的差距在人口中的各个群体,特别是在虚假的相关性的存在。我们在五个视觉和NLP数据集中一致地观察到这种行为。令人惊讶的是,增加弃权甚至可以降低某些群体的准确性。为了更好地理解这一现象,我们研究了边际分布,它捕获了模型对所有预测的置信度。对于对称的边缘分布,我们证明了选择性分类是否单调地提高或降低准确度完全取决于全覆盖的准确度(即,没有任何弃权)以及分布是否满足我们称之为左对数的性质。我们的分析还表明,选择性分类往往会放大全面覆盖的准确性差异。出于我们的分析,我们训练分布式鲁棒模型,实现类似的全覆盖精度跨组,并表明,选择性分类均匀地提高了这些模型上的每个组。总而言之,我们的研究结果表明,选择性分类应谨慎使用,并强调培训模型的重要性,以便在全覆盖范围内在各组中表现同样出色。
2021-04-14 cs.LG stat.ML
AGGRNet: Selective Feature Extraction and Aggregation for Enhanced Medical Image Classification
Indian Institute of Technology Kanpur(印度理工学院坎普尔学院)
针对现有医学图像分类模型难以区分类间相似性与类内变异性易致误诊的问题,提出AGGRNet框架,通过选择性提取并聚合信息性与非信息性特征捕捉细粒度模式,在多数据集上达到SOTA,Kvasir数据集上最高提升5%。
2025-11-15 cs.CV cs.LG
Augmenting Softmax Information for Selective Classification with Out-of-Distribution Data
Imperial College London(帝国理工学院)
在计算机视觉的深度学习领域,检测分布外(OOD)数据是一项受到越来越多研究关注的任务。然而,检测方法的性能通常是在孤立的任务上评估的,而不是同时考虑潜在的下游任务。在这项工作中,我们研究选择性分类OOD数据(SCOD)的存在。也就是说,检测OOD样本的动机是拒绝它们,从而降低它们对预测质量的影响。我们在此任务规范下,现有的事后方法执行完全不同的OOD检测时,只进行评估。这是因为,如果ID数据被错误分类,则将分发中(ID)数据与OOD数据合并不再是问题。然而,正确和不正确预测的ID数据内的合并变得不期望。我们还提出了一种新的方法SCOD,Softmax信息保留组合(SIRC),增强了基于softmax的置信度分数与特征不可知的信息,使他们的能力,以确定OOD样本得到改善,而不牺牲正确和不正确的ID预测之间的分离。在各种ImageNet规模的数据集和卷积神经网络架构上的实验表明,SIRC能够始终匹配或优于SCOD的基线,而现有的OOD检测方法则无法做到这一点。
2023-03-14 cs.AI cs.CV cs.LG
Overcoming Common Flaws in the Evaluation of Selective Classification Systems
German Cancer Research Center (DKFZ)(德国癌症研究中心);Helmholtz Imaging(亥姆霍兹成像机构);University of Heidelberg(海德堡大学);Heidelberg University Hospital(海德堡大学医院);National Center for Tumor Diseases (NCT)(国家肿瘤疾病中心)
本文针对选择性分类评估提出满足任务对齐、可解释性和灵活性等 5 项要求的 AUGRC 指标,并在 6 个数据集和 13 个置信度评分函数上验证其能显著改变指标排名。
2024-10-19 cs.CV cs.LG stat.ME
Towards Understanding Why Label Smoothing Degrades Selective Classification and How to Fix It
Imperial College London(帝国理工学院);Institut Polytechnique de Paris(巴黎理工学院);Université Paris-Saclay(巴黎萨克雷大学);ONERA(法国航空航天研究院)
本文揭示标签平滑因梯度效应扰乱正确与错误预测的不确定性排序而持续损害选择性分类,并提出可用事后 logit 归一化恢复性能。
2025-02-20 cs.AI cs.CV cs.LG
Improving Selective Classification with Pairwise Queries for Binary Classification
Adobe Research(Adobe研究院)
针对选择性分类中模型置信度与预测不一致导致高错误率的问题,提出使用成对查询检测高错误样本,以降低非拒绝样本的错误率,并通过理论和实验验证了其有效性。
2026-05-28 cs.LG
Calibrated Selective Classification
Massachusetts Institute of Technology(麻省理工学院);Computer Science and Artificial Intelligence Laboratory (CSAIL)(计算机科学与人工智能实验室)
针对选择性分类中不确定性估计不可靠的问题,提出带选择器网络的选择性校准框架,结合分布鲁棒优化思路实现鲁棒校准,在多类任务上验证了有效性。
2024-06-20 cs.LG
An Empirical Analysis of Calibration and Selective Prediction in Multimodal Clinical Condition Classification
New York University(纽约大学);University of Toronto(多伦多大学)
本研究通过实证分析多标签临床状况分类中基于不确定性的选择性预测,发现其性能可能严重下降,原因是类别依赖的误校准,尤其对少数类别,并强调需要校准感知评估来确保临床AI的安全性。
2026-05-22 cs.LG
DeepArrhythmia: Segment-Contextualized ECG Arrhythmia Classification via Selective Evidence Acquisition
University of Georgia(佐治亚大学)
DeepArrhythmia通过选择性证据获取实现段落上下文化ECG心律失常分类,结合原始ECG信号和渲染波形图像,利用专门工具分离生理测量与证据整合,提升多beat节奏上下文下的心律失常检测精度。
2026-09-29 cs.AI cs.LG
Leveraging Uncertainty in Deep Learning for Selective Classification
Arizona State University(亚利桑那州立大学)
从业者广泛而快速地采用深度学习在许多情况下带来了意想不到的后果,例如臭名昭著的Google Photos种族主义图像识别算法;因此,有必要为每个预测使用量化的不确定性。最近已经有了对传统深度学习方法中的不确定性进行量化的努力(例如,然而,它们在决策中的最佳使用往往被忽视和研究不足。在这项研究中,我们提出了一个混合整数规划框架的分类拒绝选项(也称为选择性分类),调查和结合模型的不确定性和预测均值,以确定最佳的分类和拒绝区域。我们的研究结果表明,我们的框架在几个公开可用的数据集上的非拒绝精度和拒绝质量方面都具有优异的性能。此外,我们将我们的框架扩展到成本敏感的设置,并表明我们的方法在现实世界的在线欺诈管理中显着优于行业标准方法。
2019-05-23 cs.AI cs.LG math.OC
Robustness Meets Uncertainty: Evidential Adversarial Training for Robust Selective Classification
Multitel Research & Innovation Center, Artificial Intelligence Department(多特尔研究与创新中心,人工智能部门);TRAIL – Trusted AI Labs(TRAIL——可信AI实验室)
研究安全关键应用中分类器的稳健性与可靠性,通过选择性分类视角探讨差距,引入统一基准,提出证据对抗训练方法,提升稳健性与不确定性权衡,优于现有对抗训练方法。
2026-07-07 cs.CV cs.LG
Learning Selectively Conditioned Forest Structures with Applications to DBNs and Classification
Carnegie Mellon University(卡内基梅隆大学)
使用最大后验概率(MAP)估计或贝叶斯模型平均(BMA)处理贝叶斯网络结构中的不确定性通常是棘手的,因为可能的有向非循环图的超指数数量。当先验是可分解的时,可以进行有效学习的两类图是树结构和有限入度的固定序。我们将展示如何MAP估计和BMA选择性条件森林(SCF),这两个类的组合,可以有效地计算有序的变量集。我们将SCF应用于时态数据来学习具有时间步长内森林和时间步长间有限度结构的动态贝叶斯网络,从而在没有结构组合的情况下提高DBN的模型准确性。我们还将SCF应用于贝叶斯网络分类,以学习选择性森林增强朴素贝叶斯分类器。我们认为,内置的特征选择的选择性增强贝叶斯分类器,使他们更可取的类似的非选择性分类器的基础上的经验证据。
2012-06-20 cs.LG stat.ML
SelectiveNet: A Deep Neural Network with an Integrated Reject Option
Technion - Israel Institute of Technology(以色列理工学院)
我们考虑了深度神经网络中的选择性预测(也称为拒绝选项)问题,并引入了SelectiveNet,这是一种具有集成拒绝选项的深度神经架构。现有的拒绝机制主要基于预先训练的网络的预测置信度的阈值。相比之下,SelectiveNet经过训练,可以同时优化分类(或回归)和拒绝,端到端。结果是在覆盖域上优化的深度神经网络。在我们的实验中,我们在几个著名的分类和回归数据集上显示了持续改进的风险覆盖权衡,从而达到了深度选择性分类的最新结果。
2019-06-26 cs.LG stat.ML
Selective classification using a robust meta-learning approach
Google Research India(谷歌研究院印度分院)
提出一种基于双层优化的实例条件重加权辅助网络方法,通过最小化 dropout 方差作为元目标来捕获预测不确定性,在选择性分类和多个真实数据集上显著超越 SOTA。
2024-01-02 cs.LG
How to Fix a Broken Confidence Estimator: Evaluating Post-hoc Methods for Selective Classification with Deep Neural Networks
Department of Electrical and Electronic Engineering Federal University of Santa Catarina (UFSC)(电子与电气工程系联邦圣卡塔琳娜大学(UFSC))
本文通过事后方法修复深度神经网络中损坏的置信度估计器,提出对logits进行p-范数归一化后取最大logit作为置信度估计,显著提升选择性分类性能,使其几乎完全由准确率决定。
2024-05-24 cs.LG
Plugin estimators for selective classification with out-of-distribution detection
Google Research(谷歌研究院)
针对结合分布外检测的选择性分类(SCOD)理论基础薄弱、现有方法多为启发式的问题,提出有理论依据的新型插件估计器,推广现有方法并取得有竞争力的性能。
2023-07-24 cs.LG
Estimation of the Label-Noise Transition Matrix with Performance Guarantees via Selective Classification
Basque Center of Applied Mathematics (BCAM)(巴斯克应用数学中心(BCAM));IKERBASQUE-Basque Foundation for Science(IKERBASQUE-巴斯克科学基金会);University of Michigan(密歇根大学)
针对现有标签噪声转移矩阵估计依赖脆弱类后验且缺乏有限样本保证的问题,提出基于单侧选择性分类的新方法,绕过类后验估计并提供性能保证与有效算法。
2026-10-01 cs.LG stat.ML
Selective Classification via One-Sided Prediction
Boston University(波士顿大学)
我们提出了一种新的方法选择性分类(SC),一个问题,它允许分类器放弃预测一些实例,从而权衡覆盖率(预测的实例的分数)的准确性。与之前的门控或基于置信集的工作相比,我们提出的方法优化了一系列类解耦的单侧经验风险,本质上是一种明确找到每个类的最大决策集的方法,这些决策集几乎没有误报。这种单边预测(OSP)为基础的放松产生一个SC计划,达到接近最佳的覆盖率在实际相关的高目标精度制度,并进一步承认有效的实施,导致一个灵活的和原则性的方法SC。我们从理论上推导出的SC和OSP的泛化范围,经验表明,我们的计划大大优于国家的最先进的方法在小的误差水平的覆盖范围。
2021-10-23 cs.LG stat.ML
Selective sampling for accelerating training of deep neural networks
Efi Arazi School of Computer Science(埃菲·阿拉齐计算机学院);The Interdisciplinary Center(跨学科中心)
我们提出了一种选择性采样方法,旨在加速深度神经网络的训练。为此,我们引入了一种新的测量方法,最小边际得分(MMS),它测量输入的最小位移量,直到其预测的分类被切换。对于多类线性分类,MMS度量是基于边缘的选择准则的自然推广,其在二进制分类设置中被深入研究。此外,MMS措施提供了一个有趣的洞察力的培训过程的进展,并可能有助于设计和监测新的培训制度。从经验上讲,我们在为流行的图像分类任务训练常用的深度神经网络架构时表现出了显著的加速。我们的方法的效率进行了比较,对标准的训练程序,并对常用的选择性抽样的替代品:硬负挖掘选择,和基于熵的选择。最后,我们证明了一个额外的加速时,我们采用了更积极的学习下降制度,同时使用MMS选择性采样方法。
2019-11-16 cs.LG stat.ML
Domain Generalization via Selective Consistency Regularization for Time Series Classification
Institute for Infocomm Research, A*STAR(A*STAR资讯通信研究院);Centre for Frontier AI Research, A*STAR(A*STAR前沿人工智能研究中心)
领域泛化方法的目标是利用来自有限数量的源域的数据并且在训练期间不访问目标域样本来学习对域移位鲁棒的模型。用于领域泛化的流行领域对齐方法寻求通过最小化跨所有领域的特征分布之间的差异来提取领域不变特征,而不考虑领域间的关系。在本文中,我们提出了一种新的表示学习方法,选择性地执行预测的一致性估计密切相关的源域之间。具体来说,我们假设域共享不同的类信息表示,所以不是对齐所有可能导致负迁移的域,我们只调整密切相关的域之间的差异。我们将我们的方法应用于时间序列分类任务,并在三个公开的真实世界数据集上进行了全面的实验。我们的方法显着提高了基线,并实现了更好的或有竞争力的性能相比,国家的最先进的方法在精度和模型校准。
2022-06-16 cs.LG
Selective Attention Based Graph Convolutional Networks for Aspect-Level Sentiment Classification
JD AI Research(京东人工智能研究院)
体层情感分类旨在识别句子中特定体词的情感极性。目前的方法主要考虑语义信息,利用注意力机制来捕捉上下文和体词之间的相互作用。在本文中,我们建议采用图卷积网络(GCN)的依赖树学习语法感知方面的条款表示。GCN通常在两层的情况下表现出最佳性能,并且由于过度平滑问题,更深的GCN不会带来额外的增益。然而,在某些情况下,在依赖关系树上的两个跳内无法到达重要的上下文单词。因此,我们设计了一个基于选择性注意力的GCN块(SA-GCN)来发现最重要的上下文单词,并直接将这些信息聚合到方面术语表示。我们在SemEval 2014任务4数据集上进行实验。我们的实验结果表明,我们的模型优于目前的最先进的。
2021-02-11 cs.CL cs.LG
Deep Neural Network Benchmarks for Selective Classification
Scuola Normale Superiore(高等师范学院);University of Pisa(比萨大学);ISTI-CNR(意大利国家研究委员会信息科学与技术研究所);KU Leuven(鲁汶大学)
针对现有选择性分类方法缺乏全面对比评估的问题,研究在44个包含图像、表格数据的多任务数据集上基准测试18种深度神经网络基线方法,发现最优方法依用户目标而定。
2024-09-18 cs.AI cs.LG stat.ML
Improving Image Classification Robustness through Selective CNN-Filters Fine-Tuning
Politecnico di Milano(米兰理工大学);Harvard University(哈佛大学)
图像质量在基于CNN的图像分类性能中起着重要作用。用失真的样本微调网络对于大型网络来说可能成本太高。为了解决这个问题,我们提出了一种优化的迁移学习方法,以考虑到在CNN的每一层中,一些滤波器比其他滤波器更容易受到图像失真的影响。我们的方法确定了最敏感的过滤器,并仅对显示干净和失真图像之间最高激活图距离的过滤器进行再训练。过滤器使用Borda计数选举方法进行排名,然后只对最受影响的过滤器进行微调。这大大减少了要重新训练的参数数量。我们在CIFAR-10和CIFAR-100数据集上评估了这种方法,并在两种不同的模型和两种不同类型的失真上进行了测试。结果表明,所提出的迁移学习技术恢复了由于输入数据失真而损失的大部分性能,相对于现有方法,由于减少了微调参数的数量,因此速度要快得多。当提供很少的噪声样本用于训练时,我们的滤波器级微调表现得特别好,也优于最先进的层级迁移学习方法。
2019-04-08 cs.CV cs.LG
Beyond Output-Space Calibration: Spectral Evidence Bundling for Selective Reliability Estimation in Time-Series Classification
Macquarie University(麦考瑞大学)
研究针对时间序列分类可靠性问题,提出验证门控固定标签可靠性策略,结合输出端线索与频谱描述符形成可靠性估计,经实验在多个数据集和骨干家族上提升了选择性可靠性指标,验证门控进一步优化了结果。
2026-07-22 cs.AI cs.LG
Margin-Based Regularization and Selective Sampling in Deep Neural Networks
Efi Arazi School of Computer Science, Interdisciplinary Center(埃菲·阿拉齐计算机科学学院,跨学科中心);The Data Science Institute, Interdisciplinary Center(数据科学研究所,跨学科中心)
我们推导了一种新的基于边缘的正则化公式,称为多边缘正则化(MMR),用于深度神经网络(DNN)。MMR受到应用于浅线性分类器的边缘分析的原理的启发,例如,支持向量机。与SVM不同,MMR通过边界球的半径连续缩放(即,数据中特征向量的最大范数),其在训练期间不断变化。我们的经验表明,通过一个简单的补充损失函数,我们的方法在跨域的各种分类任务取得了更好的结果。使用相同的概念,我们还导出了一个选择性采样方案,并通过根据最小边际得分(MMS)选择样本来演示DNN的加速训练。该分数测量输入在其预测分类被切换之前应该经历的最小位移量。我们评估我们提出的方法上的三个图像分类任务和六种语言的文本分类任务。具体来说,我们使用最先进的卷积神经网络(CNN)和BERT-BASE架构,针对MNLI,QQP,QNLI,MRPC,SST-2和RTE基准测试,在CIFAR 10,CIFAR 100和ImageNet上显示了改进的经验结果。
2020-09-13 cs.AI cs.LG stat.ML
Post-hoc Selective Classification for Reliable Synthetic Image Detection
University of Waterloo(滑铁卢大学);Reality Defender
本文提出ReSIDe框架,通过改进选择性分类策略提升合成图像检测在协变量偏移下的可靠性,实验显示其在常见偏移下显著提升性能。
2026-05-09 cs.CV cs.LG
Online Selective Classification with Limited Feedback
Boston University(波士顿大学)
出于对资源有限和安全关键域的应用,我们研究了选择性分类的在线学习模型,其中预测器可能会放弃分类的实例。例如,这可以对自适应决策进行建模,以在该实例上调用更多资源。我们考虑的设置的两个突出的方面是,数据可能是不可实现的,由于这可能是一个有效的长期行动,只有当学习者弃权时才能收到反馈,这模拟了这样一个事实,即只有在调用资源密集型处理时才能获得可靠的标签。在这个框架内,我们探索的策略,使很少的错误,而不是放弃太多次比最好的事后无错误的分类器从一个给定的类。也就是说,不犯错误,同时弃权次数最少。我们构建简单的基于版本的计划,使大多数$T^μ$错误,而招致\smash{$\tilde{O}(T^{1-μ})$}过度防御自适应对手的任何$μ\in (0,1],$。我们进一步表明,这种依赖于$T$是紧密的,并提供说明性的实验现实的数据集。
2021-10-27 cs.LG stat.ML
The Relationship Between Agnostic Selective Classification Active Learning and the Disagreement Coefficient
Technion – Israel Institute of Technology(以色列理工学院)
选择性分类器(f,g)包括分类函数f和二元选择函数g,二元选择函数g确定分类器是放弃预测还是使用f来预测。分类器被称为逐点竞争,如果它对每个点的分类与事后的最佳分类器(来自同一类)相同,无论何时它都不弃权。这种分类器的质量通过其拒绝质量来量化,拒绝质量被定义为它拒绝的点的概率质量。如果拒绝质量从上面由O(1/m)界定,则实现“快速”拒绝率,其中m是用于训练分类器的标记示例的数量(并且O隐藏对数因子)。逐点竞争选择(PCS)分类器与基于不一致的主动学习密切相关,并且已知在可实现的情况下,已知PCS算法(称为一致选择策略)的快速拒绝率等价于公知CAL主动算法的指数加速。我们专注于不可知论的设置,其中有一个已知的算法称为LESS,学习PCS分类器,并在强假设下实现快速拒绝率(取决于Hanneke的分歧系数)。我们提出了一种改进的PCS学习算法称为ILESS,我们显示了一个快速的速度(取决于Hanneke的不一致系数),没有任何假设。我们的拒绝界平滑地插入可实现的和不可知的设置。本文的主要结果是以下三个实体之间的等价性:(一)任何PCS学习算法(如ILESS)的快速拒绝率的存在;(二)Hanneke的分歧系数的多对数界;(三)一个新的基于分歧的主动学习者称为ActiveiLESS的指数加速。
2017-03-30 cs.LG
Selective Feature Re-Encoded Quantum Convolutional Neural Network with Joint Optimization for Image Classification
本文针对图像分类提出选择性特征重编码策略和并行QCNN架构,通过联合优化PCA与自编码器特征,在MNIST和Fashion MNIST上取得优于单独模型及传统集成方法的精度和泛化性能。
2025-07-02 cs.LG quant-ph
Ensemble-Based Dirichlet Modeling for Predictive Uncertainty and Selective Classification
University of Colorado Denver(科罗拉多大学丹佛分校)
本文提出一种基于狄利克雷参数估计的方法,通过集成softmax输出的矩估计器来分离不确定性估计,提升预测稳定性和不确定性行为,从而增强下游应用性能。
2026-04-07 cs.LG stat.ML
S-Rocket: Selective Random Convolution Kernels for Time Series Classification
University of Toronto(多伦多大学);Concordia University(康考迪亚大学)
随机卷积核变换(Rocket)是一种快速、高效、新颖的时间序列特征提取方法,它使用大量独立的随机初始化的不同配置的一维卷积核。每个时间序列的卷积运算的输出由部分正值(PPV)表示。来自所有内核的PPV的级联是岭回归分类器的输入特征向量。与典型的深度学习模型不同,内核没有经过训练,并且在内核或级联特征与分类器之间没有加权/可训练的连接。由于这些内核是随机生成的,因此这些内核的一部分可能对模型的性能没有积极贡献。因此,选择最重要的内核并修剪冗余和不太重要的内核对于降低计算复杂性和加速Rocket在边缘设备上的应用的推理是必要的。这些核的选择是一个组合优化问题。在本文中,我们提出了一个方案,选择这些内核,同时保持分类性能。首先,原始模型是满负荷预训练的。然后,初始化二元候选状态向量的群体,其中向量的每个元素表示内核的活动/非活动状态。基于种群的优化算法对种群进行进化,以找到最佳状态向量,该状态向量最小化活动内核的数量,同时最大化分类器的准确性。该激活函数是活动核的总数和具有活动核的预训练分类器的分类准确度的线性组合。最后,利用最佳状态向量中的所选核来训练具有所选核的岭回归分类器。
2022-09-20 cs.AI cs.LG
Embedded Deep Bilinear Interactive Information and Selective Fusion for Multi-view Learning
Northwestern Polytechnical University(西北工业大学);Nanjing University(南京大学);National University of Defense Technology(国防科技大学)
多视图分类作为多视图学习的一种具体应用,通过对多个视图的最优融合,对传统的分类方法进行了改进。虽然以往的研究已经证明了多视点学习的优越性,但在深入研究中,还可以通过全面嵌入更强大的跨视点交互信息和更可靠的多视点融合策略来进一步提高多视点学习的优越性。为了实现这一目标,我们提出了一个新的多视图学习框架,使多视图分类更好地针对上述两个方面。也就是说,我们无缝地嵌入各种视图内的信息,跨视图的多维双线性交互信息,和一个新的视图集成机制到一个统一的框架,通过优化决策。特别地,我们训练不同的深度神经网络来学习各种视图内表示,然后通过视图之间的双线性函数从不同的双线性相似性动态地学习多维双线性交互信息。在此基础上,通过灵活调整视图权值的参数,自适应地融合多个视图的表示,不仅避免了权重的繁琐求解,而且为多视图分类提供了一种新的方法来选择有利于决策的少数有区别的视图.在六个公开数据集上的实验证明了该方法的有效性。
2020-07-13 cs.CV cs.LG
Convergence of Nearest Neighbor Pattern Classification with Selective Sampling
mZeal Communications, Inc.(mZeal通信公司)
在模式分类技术中,很少有人喜欢最近邻规则的直观吸引力和简单性:给定某个度量域空间中的一组样本,其在某个函数下的值是已知的,我们通过给出每个度量的最近样本的值来估计域中任何地方的函数。更一般地,可以使用m个最近样本的模态值,其中m是固定的正整数(尽管在没有更大的值在预测误差方面渐近优越的意义上,已知m=1是可接受的)。最近邻规则是非参数的,并且非常普遍,原则上只要求定义域是度量空间。Cover和Hart(1967)在独立同分布(iid)采样下证明了收敛性。由于取样成本很高,近年来有很多关于选择性取样的研究,其中每个样本都是从一个启发式排序的候选人池中选择的;启发式试图猜测哪个候选人将是最“信息”的样本。Lindenbaum等人(2004)将选择性采样应用于最近邻规则,但他们的方法牺牲了Cover和Hart的严格通用性;此外,他们的启发式算法复杂且计算昂贵。在这里,我们报告最近的结果,使选择性采样在原来的封面哈特设置。我们的结果提出了三个选择算法,并证明了他们的最近邻规则预测收敛到真正的模式。其中两种算法的计算成本很低,复杂度随样本数量线性增长。我们认为这些结果构成了本领域的重要进步。
2013-09-06 cs.LG stat.ML
False Sense of Safety in Selective Signal Classification: Auditing Bound Tightness and Exchangeability for Risk Control
Xidian University(西安电子科技大学)
审计分布自由风险控制下选择性预测的边界紧致性与可交换性假设,发现经验阈值法常超预算,而认证方法在可交换时有效,但组部署下因可交换性失效导致违规。
2026-06-16 cs.LG
Concurrent Criterion Validation of a Validity Screen for LLM Confidence Signals via Selective Prediction
Independent Researcher(独立研究者)
本文通过评估20个前沿LLM在六个认知领域的524项任务表现,验证了LLM置信信号分类对选择性预测性能的预测能力,发现有效模型在AUROC上显著优于无效模型。
2026-04-20 cs.AI cs.CL cs.LG
SceneSelect: Selective Learning for Trajectory Scene Classification and Expert Scheduling
School of Computer Science, China University of Geosciences (Wuhan)(中国地质大学(武汉)计算机科学学院);School of Information Engineering, Wuhan University of Technology(武汉理工大学信息工程学院);School of Mathematics and Statistics, Wuhan University of Technology(武汉理工大学数学与统计学学院)
本文提出SceneSelect,一种基于场景的选择性学习方法,通过动态路由输入到最合适的专家模型,提升轨迹预测的准确性和效率。
2026-05-21 cs.LG
Ask for More Than Bayes Optimal: A Theory of Indecisions for Selective Hypothesis Testing
ESSEC Business School(埃塞克商学院);University of Sydney Business School(悉尼大学商学院)
研究选择性分类中如何在给定目标准确率下最小化犹豫不决数量,通过刻画最优风险等建立相关性质,提出校准方法,分析超额风险,在二元高斯混合模型中有指数级相变,实验表明能提高选择性准确率。
2026-07-27 cs.LG math.ST stat.ME
Selective Posterior Margin Regularization for Forward-Corrected Classification
College of Systems Engineering, National University of Defense Technology(国防科技大学系统工程学院)
针对标签噪声下的前向校正分类,提出选择性后验边际正则化(SPMR),利用反向后验冲突进行分级更新,在多个基准上显著提升分类性能。
2026-09-09 cs.CV cs.LG stat.ML
SHAP-Integrated Convolutional Diagnostic Networks for Feature-Selective Medical Analysis
Guilin University of Electronic Technology(桂林电子科技大学);École de Technologie Supérieure(高等技术学院)
本文提出SHAP集成的卷积诊断网络SICDN,通过可解释特征选择和历史加权移动平均技术,在有限医学数据集上实现超过97%的分类准确率,超越四种流行CNN模型。
2025-03-10 cs.AI cs.CV cs.LG
Multi-pathology Chest X-ray Classification with Rejection Mechanisms
Afeka Academic College of Engineering(阿费卡工程学院);HIT-Holon Institute of Technology(霍隆理工学院)
本研究提出基于DenseNet-121的不确定性感知框架,通过基于熵和置信区间的拒绝机制让模型对不确定预测弃权(不执行),在多个公开数据集上验证了其能改善诊断准确率与覆盖率的权衡,提升临床部署安全性。
2025-09-12 cs.CV cs.LG eess.IV
Accuracy Improvement for Fully Convolutional Networks via Selective Augmentation with Applications to Electrocardiogram Data
University of Southern California(南加州大学);Universität für Musik und darstellende Kunst Graz(格拉茨音乐与表演艺术大学)
深度学习方法已显示出适用于健康和医疗领域的时间序列分类,并在心电图数据分类方面取得了可喜的成果。成功识别心肌梗死具有挽救生命的潜力,该领域深度学习模型的任何有意义的改进都令人非常感兴趣。传统上,当数据有限时,数据增强方法普遍应用于训练集,以改善数据分辨率或样本大小。在本研究提出的方法中,在数据稀缺的情况下不应用数据增强。相反,产生低置信度预测的样本被选择性地增强,以增强模型对与给定类别关联性较低的特征或模式的敏感性。这种方法被测试用于提高全卷积网络的性能。所提出的方法对心肌梗死的分类准确率达到90%,而基线的准确率为82%,这是一个显着的改进。此外,所提出的方法的准确性是最佳的限定的上限阈值附近的低置信度样本和降低,因为这个阈值被提高到包括更高的置信度样本。这表明专门选择较低置信度的样本进行数据增强,对于使用全卷积网络进行心电图数据分类具有明显的好处。
2021-07-10 cs.LG eess.SP
Selective Forgetting of Deep Networks at a Finer Level than Samples
Fujitsu Laboratories Ltd.(富士通实验室有限公司)
选择性遗忘或从深度神经网络(DNN)中删除信息对于持续学习至关重要,并且在控制DNN方面具有挑战性。这种遗忘在实际意义上也是至关重要的,因为部署的DNN可能是在具有离群值的数据上训练的,被攻击者毒害,或具有泄露/敏感信息。在本文中,我们制定了选择性遗忘的分类任务在一个更精细的水平比样本的水平。我们基于四个数据集指定更精细的级别,这四个数据集由两个条件区分:它们是否包含要遗忘的信息以及它们是否可用于遗忘过程。此外,我们揭示了需要这样的配方与数据集显示具体和实际的情况。此外,我们引入遗忘过程作为一个优化问题的三个标准:遗忘,校正,和记忆项。实验结果表明,该方法可以使模型忘记使用特定的信息进行分类。值得注意的是,在特定情况下,我们的方法提高了模型在数据集上的准确性,这些数据集包含要遗忘的信息,但在遗忘过程中不可用。这些数据在实际情况中意外发现并被错误分类。
2020-12-31 cs.LG stat.ML
ReliableNet: A Chance-Constrained Approach to Trustworthy Classification in Deep Learning
School of Agriculture and Science, University of KwaZulu-Natal(夸祖鲁-纳塔尔大学农业与科学学院);AIMS Research and Innovation Centre, African Institute for Mathematical Sciences(非洲数学科学研究所AIMS研究与创新中心);African Institute for Mathematical Sciences(非洲数学科学研究所)
ReliableNet是一种将联合自信-错误概率约束在用户指定风险预算内的深度学习可信分类方法,在各类数据偏移下均表现优异。
2026-08-11 cs.LG
Efficient Selective Audio Masked Multimodal Bottleneck Transformer for Audio-Video Classification
本文提出了一种名为AVT的音视频识别方法,通过瓶颈Transformer降低跨模态融合复杂度,并结合自监督目标与掩码音频片段损失提升学习效率,在多个数据集上显著超越现有方法。
2024-01-08 cs.AI cs.CV cs.LG
GCUL: Ambiguity Identification in Text Emotion Classification via Cluster-Guided Learning
Beijing Normal-Hong Kong Baptist University(北京师范大学-香港浸会大学联合国际学院)
本研究提出GCUL框架,利用聚类引导学习识别文本情感分类中的歧义样本,通过几何结构提升选择性分类性能,显著提高准确率并有效预判失败场景。
2026-09-25 cs.LG stat.ML
Distribution-Specific Agnostic Conditional Classification With Halfspaces
本文研究不可知设定下由半空间定义子集的条件分类问题,提出首个误差保证为$\bigO*{\sqrt{\mathrm{opt}}}$的齐次半空间选择器PAC学习算法,并证明在密码学假设下逼近条件分类损失在计算上至少与不可知分类一样困难。
2025-01-31 cs.CC cs.LG stat.ML
Confidence Estimation for Error Detection in Text-to-SQL Systems
AIRI;MIPT(莫斯科物理技术学院);Sber AI;ISP RAS Research Center for Trusted Artificial Intelligence(俄罗斯科学院信息学与自动化研究所可信人工智能研究中心)
本研究将选择性分类器集成到文本到SQL系统中,利用基于熵的置信度估计和校准技术,分析覆盖率与风险的权衡,发现T5校准优于GPT-4和Llama-3,且选择性分类器更易检测无关问题导致的错误。
2025-01-16 cs.CL cs.LG
SoQal: Selective Oracle Questioning in Active Learning
University of Oxford(牛津大学)
医疗保健领域内的大量未标记数据仍然没有得到充分利用。主动学习提供了一种利用这些数据集的方法,它通过迭代地请求oracle(例如医疗专业人员)来标记实例。这个过程可能是昂贵和耗时的,过度依赖于Oracle。为了减轻这一负担,我们提出了SoQal,一个提问策略,动态地确定何时应该从Oracle请求标签。我们在五个公开的数据集上进行了实验,并说明了SoQal相对于基线方法的优越性,包括其将Oracle标签请求减少高达35%的能力。SoQal在存在标签噪声的情况下也具有竞争力:这种情况模拟了临床医生在面临困难的分类任务时的不确定诊断。
2020-04-22 cs.LG stat.ML
A Deep Learning Approach with an Attention Mechanism for Automatic Sleep Stage Classification
Örebro University(厄勒布鲁大学)
自动睡眠分期是一个具有挑战性的问题,最先进的算法尚未达到令人满意的性能,以代替睡眠技术人员的手动评分。已经做了很多研究来找到提取有用信息的良好特征表示,以将每个时期正确地分类到正确的睡眠阶段。虽然已经发现了许多有用的特征,但是特征的数量已经增长到一定程度,为了避免维数灾难,特征缩减步骤是必要的。需要如此大的特征集的一个原因是,许多特征仅适于区分睡眠阶段中的一个,并且在其他阶段期间信息较少。本文探讨了如何使用自动编码器来学习一个大的预定义特征集上的第二特征表示,该自动编码器对训练批次中的当前睡眠阶段具有选择性注意力。这种选择性关注允许模型学习关注更相关输入的特征表示,而不必对输入数据执行任何降维。所提出的算法的性能进行评估的一个大型数据集的多导睡眠图(PSG)夜间记录的睡眠呼吸障碍患者。选择性注意的自动编码器的性能进行了比较,与常规的自动编码器和以前的作品,使用深度信念网络(DBN)。
2018-05-14 cs.LG q-bio.NC stat.ML
Better without U: Impact of Selective Hubbard U Correction on Foundational MLIPs
本文指出,选择性应用Hubbard U修正导致fMLIPs出现不一致的势能面,从而引起结合不足和排斥,建议未来数据集排除+U以提升模型性能。
2026-01-28 cond-mat.mtrl-sci cs.LG physics.chem-ph