Logic-based Explanations for Linear Support Vector Classifiers with Reject Option
Instituto Federal de Educação, Ciência e Tecnologia do Ceará (IFCE)（塞阿拉联邦教育、科学和技术学院（IFCE））
针对带拒绝选项的线性SVC缺乏解释方法的问题，提出一种基于逻辑的解释方法，提供正确性和最小性的形式化保证，实验表明其比Anchors算法生成的解释更短且时间成本更低。
2024-03-24 cs.AI cs.LG cs.LO
Sparse Reject Option Classifier Using Successive Linear Programming
IIIT（国际信息技术研究所）
在本文中，我们提出了一种使用双斜坡损失$L_{dr}$学习稀疏拒绝选项分类器的方法。我们使用DC规划来找到风险最小化。该算法求解一系列线性规划来学习拒绝选项分类器。我们证明了损失$L_{dr}$是Fisher相容的。我们还证明了超额损失风险$L_d$的上界是由超额风险$L_{dr}$。我们推导出所提出的方法的泛化误差界。我们通过在几个真实世界的数据集上进行实验，证明了所提出的方法的有效性。所提出的方法不仅表现得与最先进的水平相当，而且还成功地学习稀疏分类器。
2019-03-22 cs.LG
Online Active Learning of Reject Option Classifiers
IIIT Hyderabad（海得拉巴国际信息技术学院）
主动学习是监督学习中减少标记样本数量的一种重要技术。二进制分类的主动学习在机器学习中已经得到很好的解决。然而，拒绝选项分类器的主动学习仍然没有解决。在本文中，我们提出了新的算法的主动学习拒绝选项分类。我们开发了一种使用双斜坡损失函数的主动学习算法。给出了算法的误差界。我们还提出了一种新的损失函数，称为双S形损失函数的拒绝选项和相应的主动学习算法。我们提供了一个收敛保证该算法。我们提供了大量的实验结果来证明所提出的算法的有效性。所提出的算法有效地减少了所需的标签示例的数量。
2020-04-02 cs.LG stat.ML
Regression with reject option and application to kNN
Université Gustave Eiffel（Gustave Eiffel大学）；LAMA, UMR-CNRS 8050（LAMA，法国国家科学研究中心UMR 8050实验室）
我们研究的问题，回归，其中一个是允许放弃预测。我们把这个框架称为带有拒绝选项的回归，作为带有拒绝选项的分类的扩展。在这种情况下，我们专注于拒绝率是固定的情况下，推导出依赖于阈值的条件方差函数的最佳规则。我们提供了一个半监督估计过程的最佳规则，涉及两个数据集：第一个标记的数据集是用来估计回归函数和条件方差函数，而第二个未标记的数据集是用来校准所需的拒绝率。由此产生的预测与拒绝选项被证明是几乎一样好的最佳预测与拒绝选项的风险和拒绝率。我们还应用我们的方法与kNN算法，并建立在温和的条件下所产生的kNN预测的收敛速度。最后，进行了数值研究，以说明使用所提出的程序的好处。
2021-03-05 cs.LG stat.ML
SelectiveNet: A Deep Neural Network with an Integrated Reject Option
Technion - Israel Institute of Technology（以色列理工学院）
我们考虑了深度神经网络中的选择性预测（也称为拒绝选项）问题，并引入了SelectiveNet，这是一种具有集成拒绝选项的深度神经架构。现有的拒绝机制主要基于预先训练的网络的预测置信度的阈值。相比之下，SelectiveNet经过训练，可以同时优化分类（或回归）和拒绝，端到端。结果是在覆盖域上优化的深度神经网络。在我们的实验中，我们在几个著名的分类和回归数据集上显示了持续改进的风险覆盖权衡，从而达到了深度选择性分类的最新结果。
2019-06-26 cs.LG stat.ML
Optimal strategies for reject option classifiers
Czech Technical University in Prague（捷克布拉格技术大学）
在具有拒绝选项的分类中，允许分类器在不确定的情况下放弃预测。拒绝选项分类器的经典基于成本的模型需要显式定义拒绝的成本。另一种有界改进模型，避免了拒绝成本的概念，寻求一个有保证的选择性风险和最大覆盖的分类器。我们硬币的对称定义，有界覆盖模型，它寻求一个分类器具有最小的选择性风险和保证覆盖。我们证明，尽管他们的不同配方的三个拒绝模型导致相同的预测策略：贝叶斯分类器赋予随机贝叶斯选择函数。我们定义了一个适当的不确定性分数的概念，作为一个标量的预测不确定性的总结足以构建随机贝叶斯选择函数。我们提出了两种算法来学习适当的不确定性得分从任意的黑盒分类器的例子。我们证明了这两种算法提供Fisher一致的估计适当的不确定性得分，我们证明了他们的效率不同的预测问题，包括分类，有序回归和结构化输出分类。
2021-01-29 cs.LG
Survey on Leveraging Uncertainty Estimation Towards Trustworthy Deep Neural Networks: The Case of Reject Option and Post-training Processing
Deakin University（迪肯大学）；The University of Melbourne（墨尔本大学）；University of Cambridge（剑桥大学）；Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）
本文系统综述了深度神经网络中带拒绝选项的预测方法，涵盖相关损失函数、训练后处理及实时应用，旨在提升模型对知识局限性的认知以实现可信部署。
2023-04-11 cs.CV cs.LG
Partial-Label Learning with a Reject Option
Karlsruhe Institute of Technology, Germany（卡尔斯鲁厄理工学院）
针对部分标签学习中错误预测可能带来的严重后果，提出一种带拒绝选项的、风险一致的最近邻算法，在拒绝不确定预测的同时，实现非拒绝预测数量与准确率的最佳权衡。
2025-01-07 cs.LG stat.ML
Node Classification With Integrated Reject Option
IIIT Hyderabad（印度信息技术学院海得拉巴分校）
提出 NCwR，为 GNN 节点分类引入集成拒绝选项，结合基于成本与覆盖率的弃权方法，并在引文网络及法律判决数据上验证与解释。
2024-12-04 cs.LG
Reject option models comprising out-of-distribution detection
Czech Technical University in Prague（布拉格捷克理工大学）
本文提出三种分布外拒识选项模型并证明其共享同一类最优策略，进而设计双分数OOD方法，实验表明其性能优于现有方法，同时提出更可靠的新评估指标。
2023-07-11 cs.LG
Classification with Reject Option: Distribution-free Error Guarantees via Conformal Prediction
Department of Computer Science, Royal Holloway, University of London（伦敦大学皇家霍洛威学院计算机科学系）；Department of Mathematics, Stockholm University（斯德哥尔摩大学数学系）
本文基于共形预测（CP）形式化了二元分类中的拒绝选项方法，通过仅接受单例预测将CP转化为带拒绝选项的分类器，并推导了无分布的误差率理论保证与有限样本估计，最后通过数值示例和错误-拒绝曲线展示了不同设置下的表现与权衡。
2025-06-26 cs.LG stat.ML
ATRO: Adversarial Training with a Rejection Option
RIKEN（理化学研究所）；Waseda University（早稻田大学）
本文提出了一种带有拒绝选项的分类框架，以减轻对抗性样本造成的性能恶化。虽然最近的机器学习算法实现了高预测性能，但它们在经验上容易受到对抗性示例的影响，这些示例是被错误分类的轻微扰动的数据样本。在现实世界的应用中，使用这种对抗性示例的对抗攻击可能会导致严重的问题。为此，提出了各种方法来获得对对抗性示例具有鲁棒性的分类器。对抗训练就是其中之一，它训练分类器以最小化对抗攻击下的最坏情况损失。为了获得更可靠的分类器来抵抗对抗攻击，本文提出了带有拒绝选项的对抗训练方法（ATRO）。将对抗训练目标同时应用于分类器和拒绝函数，当ATRO训练的分类器对测试数据点分类的置信度不足时，可以选择放弃分类。我们研究的框架使用代理最大铰链损失的可行性，并建立了线性模型的泛化界。此外，我们使用各种模型和真实世界的数据集，从经验上证实了ATRO的有效性。
2020-10-24 cs.LG stat.ML
Classifiers With a Reject Option for Early Time-Series Classification
University of California（加利福尼亚大学）；Babes-Bolyai University（巴贝什-博利亚伊大学）
动态环境下时间序列数据的早期分类是信号处理中一个具有挑战性的重要问题。本文提出了一种具有拒绝选项的分类器架构，能够在线决策，而无需等待整个时间序列信号。其主要思想是尽可能早地以可接受的精度对气味/气体信号进行分类。该方法不使用分类器的后验概率，而是使用集合的“一致性”来决定是否接受或拒绝候选标签。将该算法应用于气味分类的生化问题，构建了一种新的电子鼻--Forefront-Nose。风洞实验台上的实验结果证实了鲁棒性的前鼻相比，标准分类器从早期和识别的角度。
2013-12-14 cs.CV cs.LG
RISAN: Robust Instance Specific Abstention Network
International Institute of Technology Hyderabad（海得拉巴国际信息技术学院）；Microsoft Research（微软研究院）
在本文中，我们提出了用于学习特定于实例的弃权（拒绝选项）二进制分类器的深度架构。所提出的方法使用Kulin Shah和Naresh Manwani在（“Online主动学习of Optional Classifiers”，AAAI，2020）中描述的双S形损失函数作为性能度量。我们表明，双S形损失的分类校准。我们还证明了0-d-1损失的超额风险的上界是双S形损失的超额风险。我们推导出的泛化误差界的建议架构拒绝选项分类。为了证明所提出的方法的有效性，我们用几个真实世界的数据集进行了实验。我们观察到，所提出的方法不仅表现出与最先进的方法相当，它对标签噪声也是鲁棒的。我们还提供了可视化来观察网络学习到的与弃权决策相对应的重要特征。
2021-07-07 cs.AI cs.LG
Consistent Algorithms for Multiclass Classification with a Reject Option
Indian Institute of Science（印度科学学院）；University of Michigan（密歇根大学）
我们考虑的问题$n$类分类（$n\geq 2$），其中的分类器可以选择弃权作出预测在给定的成本，说，一个因素$α$的成本误分类。设计一致的算法，如$n$类的分类问题与“拒绝选项”是本文的主要目标，从而扩展和推广以前已知的结果$n=2$。我们表明，Crammer-Singer代理和一个与所有铰链损失，虽然与标准的argmax不同的预测，产生一致的算法，这个问题时，$α=\frac{1}{2}$。更有趣的是，我们设计了一个新的凸代理，也是一致的这个问题时，$α=\frac{1}{2}$和操作的低得多的维空间（$\log(n)$，而不是$n$）。我们还概括了所有三个代理是一致的任何$α\in[0, \frac{1}{2}]$。
2015-05-15 cs.LG stat.ML
Dependency Decomposition and a Reject Option for Explainable Models
Computer Science Institute（计算机科学研究所）；Ruhr West University of Applied Sciences（鲁尔西部应用科学大学）
在安全相关领域（例如自动驾驶、医疗诊断）部署机器学习模型需要可解释的方法，这些方法对对抗攻击具有鲁棒性，并且能够意识到模型的不确定性。最近的深度学习模型在各种推理任务中表现非常好，但这些方法的黑盒性质导致了上述三个要求的弱点。最近的进展提供了可视化特征、描述输入属性（例如热图）、提供文本解释或降低维度的方法。然而，分类任务的解释是相互依赖的还是相互独立的？例如，物体的形状取决于颜色吗？使用预测类生成解释有什么影响，反之亦然？在可解释的深度学习模型的背景下，我们提出了关于期望的图像分类输出和解释变量（例如属性，文本，热图）的概率分布的依赖关系的第一个分析。因此，我们执行解释依赖性分解（EDD）。我们分析了不同的依赖关系的含义，并提出了两种方式产生的解释。最后，我们用解释来验证（接受或拒绝）预测
2020-12-11 cs.AI cs.CV cs.LG
Towards Calibrated Losses for Adversarial Robust Reject Option Classification
IIIT Hyderabad（印度国际信息技术研究院（海得拉巴））
本文研究对抗扰动且允许弃权（不执行）预测场景下的分类问题，提出对抗鲁棒拒绝选项损失，给出替代损失的校准表征，并证明 Shifted DRL 和 DSL 满足校准条件且具有鲁棒性。
2024-10-14 cs.LG stat.ML
Multi-object Classification via Crowdsourcing with a Reject Option
Syracuse University（雪城大学）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
考虑为$M$元分类任务设计一个有效的众包系统。群组工作者完成简单的二进制微任务，其结果被聚合以给出最终结果。我们考虑了一个新的场景，其中工作人员有一个拒绝选项，这样当他们无法或选择不响应时，他们可以跳过微任务。例如，在不匹配的语音转录中，不懂语言的工人可能无法对专注于其分类感知之外的语音维度的微任务做出反应。我们提出了一种聚合方法，使用加权多数表决规则，每个工人的响应被分配一个优化的权重，以最大限度地提高人群的分类性能。我们评估系统的性能在精确和渐近形式。此外，我们还考虑了这样一种设置，即可能有一组贪婪的工作者，即使他们无法可靠地执行微任务，他们也会完成微任务。我们考虑了一个不经意的和一个清除策略来处理贪婪的工人，开发一个算法来适应性地在这两个之间切换的基础上估计的分数贪婪的工人在匿名人群。仿真结果表明，改进的性能相比，传统的多数表决。
2016-06-10 cs.LG
Clustering with a Reject Option: Interactive Clustering as Bayesian Prior Elicitation
University of Edinburgh（爱丁堡大学）；Microsoft Research（微软研究院）；Stanford University（斯坦福大学）
一个好的聚类可以帮助数据分析师探索和理解数据集，但是什么是好的聚类可能取决于特定于领域和特定于应用程序的标准。这些标准可能很难正式化，即使分析师在看到一个集群时很容易知道一个好的集群。我们提出了一种新的方法来交互式聚类数据探索，称为\ciif，基于一个特别简单的反馈机制，在该机制中，分析师可以选择拒绝个别集群，并要求新的。新的聚类应该与以前拒绝的聚类不同，同时仍然很好地拟合数据。我们正式这种互动在一个新的贝叶斯先验启发框架。在每次迭代中，先验被适配为考虑所有先前的反馈，然后从后验分布产生新的聚类。为了实现必要的交互式设置的计算效率，我们提出了一种增量优化方法，使用拉格朗日松弛的数据minibatches。实验表明，\ciif可以产生准确和多样的聚类。
2016-06-08 cs.LG stat.ML
EERO: Early Exit with Reject Option for Efficient Classification with limited budget
Université Gustave Eiffel（古斯塔夫·埃菲尔大学）；Fujitsu（富士通）；Université De Pau Et Des Pays De L’adour（波城大学）
本文提出EERO方法，将早退问题转化为带弃权选项的多分类器选择问题，通过指数权重聚合校准退出概率以保证固定预算，并在Cifar和ImageNet上验证了其在预算管理和准确率提升方面的有效性。
2025-11-06 cs.LG stat.ML
Clustering with a Reject Option: Interactive Clustering as Bayesian Prior Elicitation
University of Edinburgh（爱丁堡大学）；Microsoft Research（微软研究院）；Massachusetts Institute of Technology（麻省理工学院）；Harvard University（哈佛大学）；Twitter（推特）
一个好的聚类可以帮助数据分析师探索和理解数据集，但是什么是好的聚类可能取决于特定于领域和特定于应用程序的标准。这些标准可能很难形式化，即使分析师在看到一个集群时很容易知道一个好的集群。我们提出了一种新的方法，称为TINDER的数据探索的交互式聚类，基于一个特别简单的反馈机制，在该机制中，分析师可以拒绝给定的聚类，并要求一个新的，这是选择从以前的聚类不同，同时适合的数据。我们在贝叶斯框架中将这种相互作用形式化为先前启发的方法，其中每个不同的聚类由经过修改以阻止先前拒绝的聚类的先验分布产生。我们表明，TINDER成功地产生了一组不同的聚类，每个质量相当，这是更多样化的比随机重新启动。
2016-06-19 cs.LG stat.ML
Out-of-distribution Reject Option Method for Dataset Shift Problem in Early Disease Onset Prediction
Graduate School of Medicine, Kyoto University（京都大学医学研究科）；Graduate School of Health and Nursing Science, Wakayama Medical University（和歌山医科大学健康与护理科学研究科）；Research Center for Health-Medical Data Science, Graduate School of Medicine, Hirosaki University（弘前大学医学研究科健康医疗数据科学研究中心）；Innovation Center for Health Promotion, Graduate School of Medicine, Hirosaki University（弘前大学医学研究科健康促进创新中心）；Center of Innovation Research Initiatives Organization, Hirosaki University（弘前大学创新研究倡议组织中心）
针对早期疾病预测中的数据集偏移问题，提出ODROP方法，集成OOD检测模型以排除分布外数据，在真实健康检查数据上显著提升AUROC，首次将OOD检测应用于实际医疗数据。
2025-05-26 cs.AI cs.LG stat.AP
When the Right Answer Is Missing: An Arithmetic-Dependent Rejection Bottleneck in Jev
University of Southern California（南加州大学）；University of Florida（佛罗里达大学）；Emory University（埃默里大学）
本研究揭示 Jev 模型在算术决策中因依赖数值答案而存在拒绝瓶颈，正确拒绝率仅 7%，通过简单决策阈值可提升至 79% 且不损失答案存在准确率。
2026-10-01 cs.CL cs.LG
Fine-grained TLS services classification with reject option
CESNET（捷克教育与科研国家网络）；Faculty of Information Technology, CTU in Prague（布拉格捷克理工大学信息技术学院）
机器学习和深度学习最近的成功和普及提供了强大的工具，这些工具也用于计算机网络中的加密流量分析、分类和威胁检测。这些方法，特别是神经网络，通常是复杂的，并且需要大量的训练数据。因此，本文的重点是收集一个大型的最新数据集，其中包含近200个细粒度的服务标签和1.4亿个使用数据包级元数据扩展的网络流。流的数量比其他现有的加密流量的公共标记数据集高出三个数量级。服务标签的数量对于使问题变得困难和现实非常重要，它是具有最多类标签的公共数据集中的四倍。发布的数据集旨在作为识别加密流量中服务的基准。服务识别可以进一步扩展为“拒绝”未知服务的任务，即，在训练阶段看不到的交通。神经网络为解决这一更具挑战性的问题提供了卓越的性能。为了展示数据集的有用性，我们实现了一个具有多模态架构的神经网络，这是最先进的方法，并实现了97.04%的分类准确率，检测到91.94%的未知服务，误报率为5%。
2022-11-29 cs.LG cs.NI
IDPS Signature Classification with a Reject Option and the Incorporation of Expert Knowledge
Nippon Telegraph and Telephone（日本电信电话公司）；Japan Advanced Institute of Science and Technology（日本北陆先端科学技术大学院大学）
随着入侵检测和防御系统（IDS）重要性的增加，管理恶意通信模式文件生成的签名产生了巨大的成本。网络安全专家需要根据IDPS的重要性对签名进行分类。我们提出并评估了一个带有拒绝选项（RO）的机器学习签名分类模型，以降低建立IDPS的成本。为了训练所提出的模型，它是必不可少的设计特征，是有效的签名分类。专家用预定义的“若-则”规则对签名进行分类。“若-则”规则根据签名中元素的关键字匹配返回低、中、高或未知重要性的标签。因此，我们首先设计两种类型的特征，符号特征（SF）和关键字特征（KF），用于“若-则”规则的关键字匹配。接下来，我们设计Web信息和消息功能（WMF）来捕获不匹配“若-则”规则的签名的属性。提取的WMF作为词频-逆文档频率（TF-IDF）特征的消息文本中的签名。这些特征是通过从签名中描述的参考外部攻击识别系统中进行网络抓取而获得的。由于故障需要尽量减少在分类的IDPS签名，在医疗领域，我们考虑在我们提出的模型中引入RO。在实验中评估所提出的分类模型的有效性与两个真实的数据集组成的签名由专家标记：一个数据集，可以与“若-则”规则和数据集的元素，不匹配的“若-则”规则进行分类。在实验中，所提出的模型进行了评估。在这两种情况下，SF和WMF组合的性能优于SF和KF组合。此外，我们还进行了特征分析。
2022-07-19 cs.CR cs.LG
Learning to Reject with a Fixed Predictor: Application to Decontextualization
本文研究了适用于自然语言处理中的固定预测器带有拒绝选项的分类问题。我们引入了一个新的问题制定这种情况下，和算法最小化一个新的代理损失函数。我们提供了一个完整的理论分析的替代损失函数与强大的$H$一致性保证。为了进行评估，我们选择了去语境化任务，并提供了一个手动标记的$2\mathord,000$示例数据集。我们的算法显着优于基线考虑，与$\sim\!\!25\%$改善覆盖率减半时的出错率，这是只有$\sim\!\! 3 \%$远离理论极限。
2023-01-31 cs.LG
Learning When to Say "I Don't Know"
Ohio State University（俄亥俄州立大学）；Air Force Research Laboratory（空军研究实验室）
我们提出了一种新的神经网络选项分类技术，用于识别和删除给定神经分类器和数据集的决策空间中的不确定区域。这种现有的公式采用了学习拒绝（删除）/选择（保持）功能，并需要一个已知的成本拒绝的例子或强约束的准确性或所选的例子的覆盖范围。我们考虑一种替代方案，通过分析互补拒绝区域并采用验证集来学习每类softmax阈值。我们的目标是最大限度地提高所选示例的准确性，并对被拒绝的示例进行自然随机性允许（拒绝比正确预测更不正确的预测）。我们提供的结果显示了所提出的方法优于使用最先进的预训练模型对二维点，图像和文本分类数据集进行简单阈值校准/未校准的softmax分数的好处。源代码可在https://github.com/osu-cvl/learning-idk上获得。
2023-02-15 cs.CV cs.LG
Numeric Encoding Options with Automunge
Automunge
使用表格数据的机器学习的主流实践可能会理所当然地认为，在深度神经网络的上下文中，任何超出数值集缩放的特征工程都是多余的。本文将通过调查表格数据管道的Automunge开源python库平台中可用的数字转换选项，为深度学习中数字流的扩展编码的潜在好处提供论据，其中转换可以应用于“家谱”集合中的不同列，具有派生的代和分支。Automunge变换选项包括归一化、合并、噪声注入、导数等。这些方法的聚合成家庭树集的变换被证明用于呈现数字特征，以机器学习在多种配置的不同的信息内容，可以应用于编码未知的解释的数字集。实验表明，实现了一种新的广义解决方案，数据增强的噪声注入表格学习，可能会大大有利于模型性能不足的训练数据的应用程序。
2022-02-22 cs.LG
