Deep Gamblers: Learning to Abstain with Portfolio Theory
Carnegie Mellon University（卡内基梅隆大学）；University of Tokyo（东京大学）
我们处理\textit{selective classification}问题（带有拒绝选项的监督学习问题），我们希望在一定的数据覆盖率下实现最佳性能。我们将原始的$m$类分类问题转换为$(m+1)$类，其中$(m+1)$类表示由于不自信而放弃做出预测的模型。受投资组合理论的启发，我们提出了一个基于赌博翻倍率的选择性分类问题的损失函数。最小化该损失函数自然对应于最大化\textit{horse race}的回报，其中玩家的目标是在有信心时对结果下注（进行预测）和在没有信心时保留自己的奖金（弃权）之间进行平衡。这个损失函数允许我们训练神经网络，并以端到端的方式表征预测的不可信度。与以前的方法相比，我们的方法几乎不需要修改模型推理算法或模型架构。实验结果表明，该方法能够有效地识别数据点中的不确定性，并在SVHN和CIFAR10上取得了较好的效果。
2019-10-01 cs.LG stat.ML
Learn to explain yourself, when you can: Equipping Concept Bottleneck Models with the ability to abstain on their concept predictions
J.P. Morgan AI Research（摩根大通人工智能研究院）
Koh等人[2020]的概念瓶颈模型（CBM）提供了一种方法，以确保基于神经网络的分类器仅基于人类可理解的概念进行预测。概念标签，或者我们所说的基本原理，是由CBM的概念标签组件学习的。另一个组件学习从这些预测的概念标签中预测目标分类标签。不幸的是，这些模型严重依赖于人类为每个数据点提供的概念标签。为了使建立信任措施的表现稳健时，这些标签是不容易获得的，我们展示了如何装备他们的能力，放弃预测概念时，概念标签组件是不确定的。换句话说，我们的模型学会为其预测提供理论依据，但只有在它确定理论依据正确的情况下。
2022-12-18 cs.LG
Towards optimally abstaining from prediction with OOD test examples
Microsoft Research（微软研究院）；University of Oxford（牛津大学）
机器学习的所有领域都面临一个共同的挑战，即由于自然偏移、“盲点”或对抗性示例，训练数据不像测试数据那样分布;此类测试示例被称为分布外（OOD）测试示例。我们考虑一个模型，其中一个可以放弃预测，在固定成本。特别地，我们的直推预测算法将标记的训练样本和未标记的测试样本作为输入，并提供具有最佳预测损失保证的预测。当测试示例是独立同分布时，损失边界匹配标准泛化边界。从训练分布，但添加一个额外的项，即弃权的成本乘以训练和测试分布之间的统计距离（或对抗性示例的分数）。对于线性回归，我们给出了基于Celis-Dennis-Tapia优化算法的多项式时间算法。对于二进制分类，我们展示了如何使用适当的不可知学习器（即，经验风险最小化）。我们的工作建立在Goldwasser，Kalais和Montasser（2020）最近的转换二进制分类算法的基础上。
2021-10-28 cs.AI cs.DS cs.LG
Classification with Reject Option: Distribution-free Error Guarantees via Conformal Prediction
Department of Computer Science, Royal Holloway, University of London（伦敦大学皇家霍洛威学院计算机科学系）；Department of Mathematics, Stockholm University（斯德哥尔摩大学数学系）
本文基于共形预测（CP）形式化了二元分类中的拒绝选项方法，通过仅接受单例预测将CP转化为带拒绝选项的分类器，并推导了无分布的误差率理论保证与有限样本估计，最后通过数值示例和错误-拒绝曲线展示了不同设置下的表现与权衡。
2025-06-26 cs.LG stat.ML
Ask for More Than Bayes Optimal: A Theory of Indecisions for Selective Hypothesis Testing
ESSEC Business School（埃塞克商学院）；University of Sydney Business School（悉尼大学商学院）
研究选择性分类中如何在给定目标准确率下最小化犹豫不决数量，通过刻画最优风险等建立相关性质，提出校准方法，分析超额风险，在二元高斯混合模型中有指数级相变，实验表明能提高选择性准确率。
2026-07-27 cs.LG math.ST stat.ME
Counterfactually Comparing Abstaining Classifiers
Carnegie Mellon University（卡内基梅隆大学）；University of Michigan（密歇根大学）
针对黑箱弃权（不执行）分类器评估缺乏原则性方法的问题，提出将弃权视为缺失数据，定义反事实得分并明确其可识别条件，开发非参数双重稳健估计方法，经模拟与真实数据实验验证。
2023-11-09 cs.AI cs.LG stat.ME
Structured Prediction with Abstention via the Lovász Hinge
Boston College（波士顿学院）；University of Colorado Boulder（科罗拉多大学博尔德分校）
本文研究 Lovász hinge 的一致性，证明其通常与原目标不一致，并通过嵌入框架识别出可弃权（不执行）任意预测子集的结构化目标，给出一致链接、紧密嵌入条件及多分类扩展。
2025-05-09 cs.LG
Interpretable and Fair Mechanisms for Abstaining Classifiers
University of Antwerp（安特卫普大学）；Scuola Normale Superiore（比萨高等师范学校）
针对弃权分类器仅为多数群体减少错误导致群体性能差异增大且现有方法缺乏可解释性的问题，本文提出IFAC算法，基于不确定性和不公平性拒绝预测，减少非拒绝数据的群体差异，通过规则公平性检查和情境测试实现透明流程，助力人类决策。
2025-04-14 cs.AI cs.LG
AbstainGNN: Teaching Graph Neural Networks to Abstain for Graph Classification
Institute of Information Engineering, Chinese Academy of Sciences（信息工程研究所，中国科学院）；School of Mathematics and Statistics, Shandong University（数学与统计学学院，山东大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（数学与系统科学学院，中国科学院）；School of Information and Intelligent Science, Donghua University（信息与智能科学学院，东华大学）；TikTok, ByteDance Inc.（TikTok，字节跳动公司）；School of Cyber Science and Engineering, Wuhan University（网络安全与工程学院，武汉大学）；Cyberspace Institute of Advanced Technology, Guangzhou University（空域技术高级研究所，广州大学）；Griffith University（格里菲斯大学）
提出AbstainGNN框架，通过理论驱动的弃权机制让GNN在不确定时拒绝预测，避免错误决策，并基于PAC-Bayes理论优化分类与弃权权衡。
2026-05-29 cs.LG
Global explainability of a deep abstaining classifier
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；University of New Mexico（新墨西哥大学）；Oak Ridge National Laboratory（橡树岭国家实验室）；Louisiana Tumor Registry（路易斯安那肿瘤登记处）；Kentucky Cancer Registry（肯塔基癌症登记处）
提出全局可解释性方法，通过降维聚合局部解释，识别深度弃权分类器在癌症病理报告标注任务中的错误来源，并据此提出迭代改进策略。
2025-04-01 cs.LG
Conformal Selective Prediction with General Risk Control
Department of Statistics, Stanford University（斯坦福大学统计学系）；Department of Statistics and Data Science, University of Pennsylvania（宾夕法尼亚大学统计学与数据科学系）
本文提出SCoRe框架，通过符合性推理和假设检验方法，在无需统一集中假设的情况下，为任何训练好的模型和用户定义的有界连续风险提供风险控制保证，并应用于药物发现、健康风险预测和大语言模型等领域。
2026-03-25 cs.LG stat.AP stat.ME
A Gentle Introduction to Conformal Prediction and Distribution-Free Uncertainty Quantification
黑箱机器学习模型现在经常用于高风险环境，如医疗诊断，这需要量化不确定性以避免相应的模型故障。保形预测是一种用户友好的范例，用于为此类模型的预测创建统计上严格的不确定性集/区间。重要的是，这些集合在无分布意义上是有效的：即使没有分布假设或模型假设，它们也具有明确的非渐近保证。我们可以使用任何预先训练的模型（如神经网络）进行共形预测，以产生保证包含用户指定概率（如90%）的地面真值的集合。它易于理解、易于使用和通用，自然适用于计算机视觉、自然语言处理、深度强化学习等领域出现的问题。这篇动手介绍旨在通过一个独立的文档为读者提供对共形预测和相关的无分布不确定性量化技术的工作理解。我们带领读者通过实用的理论和共形预测的例子，并描述其扩展到复杂的机器学习任务，涉及结构化输出，分布偏移，时间序列，离群值，弃权模型，等等。在本书中，有许多解释性的插图、示例和Python代码示例。每个代码示例都有一个在真实数据示例上实现该方法的笔记本;可以使用我们的代码库访问和轻松运行笔记本。
2022-12-07 cs.AI cs.LG math.ST
A critical assessment of conformal prediction methods applied in binary classification settings
近年来，建议在药物发现中使用共形预测的科学论文数量有所增加。我们认为，某些版本的共形预测适用于二进制设置卷入陷阱，并不明显，乍一看，这是很重要的，以告知科学界对他们。在本文中，我们首先介绍了一般理论的共形预测，并解释了目前占主导地位的版本在药物发现研究的今天。最后，我们提供的情况下，他们在二进制分类设置的关键评估。
2021-05-13 stat.AP
Abstain Mask Retain Core: Time Series Prediction by Adaptive Masking Loss with Representation Consistency
Beihang University（北航）；New York University（纽约大学）；Peking University（北京大学）；University of Leeds（利兹大学）
针对时间序列预测中冗余特征损害性能的问题，提出基于信息瓶颈的自适应掩码损失与表示一致性约束方法（AMRC），通过动态掩码抑制冗余学习，显著提升预测精度。
2025-10-22 cs.IT cs.LG math.IT
PAC-Bayes with Minimax for Confidence-Rated Transduction
University of California, San Diego（加州大学圣地亚哥分校）
我们考虑使用一个二进制分类器的合奏的转导预测，当未标记的测试数据是已知的。在这种情况下，我们推导出最小最大最优规则的信心评级预测。通过对这些规则进行PAC-Bayes分析，我们获得了数据相关的性能保证，而无需对数据进行分布假设。我们的分析技术很容易扩展到一个设置中，预测是允许弃权。
2015-01-15 cs.LG stat.ML
Distribution-free binary classification: prediction sets, confidence intervals and calibration
Carnegie Mellon University（卡内基梅隆大学）
我们研究了三个概念的不确定性量化-校准，置信区间和预测集-二进制分类的分布自由设置，即不作任何分布假设的数据。随着对校准的重点，我们建立了一个“三脚架”的定理，连接这三个概念的分数为基础的分类。一个直接的含义是，分布免费校准是唯一可能的，甚至渐近，使用评分函数的水平集划分的特征空间至多可数许多集。参数校准方案，如普拉特缩放的变体不满足这一要求，而非参数方案的基础上分仓。为了闭合循环，我们推导出固定宽度和均匀质量分箱的分箱概率的无分布置信区间。作为我们的“三脚架”定理的结果，这些分组概率的置信区间导致无分布校准。我们还推导出扩展设置流数据和协变量移位。
2022-02-16 cs.AI cs.LG math.ST
Information Design Against Gaming and Learning Adversaries
针对博弈型与学习型对手，研究二分类器弃权策略的信息设计，揭示两种防御的不可比性，并给出边界重建查询复杂度及帕累托前沿。
2026-09-29 cs.AI cs.CR cs.GT
Fast Rates for Online Prediction with Abstention
Universitat Pompeu Fabra（庞培法布拉大学）；Google Research（谷歌研究院）
在设置的顺序预测的个人$\{0, 1\}$序列与专家的意见，我们表明，通过允许学习者放弃预测支付的成本略小于$\frac 12$（说，$0.49$），它是可能的，以实现预期的后悔界限是独立的时间范围$T$。我们准确地描述了依赖于成本$c$和专家$N$的数量，通过提供匹配的上界和下界的顺序$\frac{\log N}{1-2c}$，这是对比$\sqrt{T\log N}$的最佳可能的速度，没有选择弃权。我们还讨论了我们的模型的各种扩展，包括一个设置，其中的序列的预防成本可以随时间任意变化，在这里我们显示后悔边界插值之间的慢和快的速度上面提到的，在一些自然的假设下的预防成本的序列。
2020-06-20 cs.LG math.ST stat.ML
Best Subset Binary Prediction
我们考虑一个二元结果预测的变量选择问题。我们研究了最佳子集选择过程，通过最大化Manski（1975，1985）的最大得分目标函数的约束下，选择的协变量的最大数量。我们表明，这个过程可以等价地重新制定为解决一个混合整数优化问题，这使得计算的精确或近似解具有一定的近似误差界。根据理论结果，当潜在协变量的维数可能远大于样本量时，我们得到了非渐近的风险上、下界。当所选变量的最大数量固定且不随样本量增加时，我们的风险上限和下限是极大极小率最优的。我们通过蒙特卡罗模拟和工作行程交通方式选择的实证应用说明了最佳子集二进制预测方法的实用性。
2018-05-16 econ.EM stat.ME
Honest calibration assessment for binary outcome predictions
二进制回归或机器学习方法的概率预测应该被校准：如果预测事件发生的概率为$x$，则它应该以近似的频率实现，这意味着所谓的校准曲线$p(\cdot)$应该等于单位区间内所有$x$的恒等式$p(x) = x$。我们提出了诚实的校准评估的基础上，新的置信带的校准曲线，这是有效的，只受自然假设的等渗性。除了测试完美校准的经典拟合优度原假设外，我们的波段还有助于反演拟合优度测试，其拒绝允许一个足够好的指定模型的结论。我们表明，我们的波段有一个有限的样本覆盖率的保证，比现有的方法窄，并适应本地平滑的校准曲线$p$和本地方差的二进制观测。在一个应用模型预测的婴儿具有低出生体重，边界提供了翔实的见解模型校准。
2022-11-02 econ.EM math.ST stat.ME
Bankruptcy Prediction of Small and Medium Enterprises Using a Flexible Binary Generalized Extreme Value Model
本文提出了一个基于会计的二元回归模型用于中小企业破产预测。该模型的主要优势在于其在识别违约中小企业方面的预测性能。另一个与银行特别相关的优点是，中小企业的会计特点与反应之间的关系不是事先假定的（例如，线性的、二次的或三次的），并且可以从数据中确定。该方法使用广义极值分布的分位数函数作为链接函数，以及会计特征的平滑函数，灵活地建模协变量的影响。因此，评分模型中的对称连接函数和线性或预先设定的协变量-响应关系的通常假设被放松。意大利数据的样本外和时间外验证表明，我们的建议优于常用的（逻辑）评分模型不同的默认范围。
2013-12-10 stat.ME
Trading via Selective Classification
University of Liverpool（利物浦大学）
一个二元分类器试图预测资产价格是否会上涨或下跌，自然会产生一个遵循预测的交易策略，从而总是在市场上占有一席之地。选择性分类扩展了二元或多类分类器，以允许其放弃对某些输入进行预测，从而允许在所得选择性分类器的准确性与输入特征空间的覆盖率之间进行权衡。选择性分类器产生交易策略，当分类器弃权时，不采取交易头寸。本文研究了二元和三元选择分类法在交易策略设计中的应用。对于三元分类，除了价格上涨或下跌的类别之外，我们还包括第三个类别，对应于任何一个方向上相对较小的价格变动，并为分类器提供了另一种避免进行方向预测的方法。我们使用一种向前走的训练验证测试方法来评估和比较基于四种分类方法的几个不同特征集的二元和三元，选择性和非选择性分类器：逻辑回归，随机森林，前馈和递归神经网络。然后我们将这些分类器转化为交易策略，并在商品期货市场上进行回测。我们的实证结果表明，潜在的选择性分类的交易。
2021-10-31 cs.LG q-fin.TR
When In Doubt, Abstain: The Impact of Abstention on Strategic Classification
University of Michigan（密歇根大学）
本文在策略分类背景下研究分类器弃权机制，通过Stackelberg博弈模型证明最优弃权不仅能保证决策者效用不劣于无弃权设置，还能提升准确率并作为操纵威慑手段，有效减少算法决策中策略行为的负面效应。
2025-10-30 cs.LG
Efficient Active Learning with Abstention
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本文提出了一种高效的主动学习算法，允许在困难样本上回避预测，从而显著降低标签复杂性，同时避免噪声寻求行为。
2025-12-29 cs.LG stat.ML
Reliable Multi-label Classification: Prediction with Partial Abstention
Heinz Nixdorf Institute and Department of Computer Science（海因茨·尼多夫研究所及计算机科学系）；Paderborn University, Germany（帕德博恩大学（德国））
与传统的（单标签）分类相比，多标签分类（MLC）的设置允许一个实例同时属于多个类。因此，预测不是选择单个类别标签，而是采用所有标签的子集的形式。在本文中，我们研究了MLC设置的扩展，其中学习者被允许部分放弃预测，也就是说，提供预测的一些，但不一定是所有的类标签。我们提出了一个形式化的MLC与precision的广义损失最小化问题，并提出了第一个结果的情况下的汉明损失，秩损失，F-措施，理论和实验。
2020-01-24 cs.LG stat.ML
Adversarial Resilience in Sequential Prediction via Abstention
University of Pennsylvania（宾夕法尼亚大学）；Purdue University（普渡大学）；Technion（以色列理工学院）；Google Research, Israel（谷歌研究院（以色列））；University of California, Berkeley（加利福尼亚大学伯克利分校）
本文提出介于随机与完全对抗之间的序列预测模型，允许对干净标签对抗样本无成本弃权，并给出依赖 VC 维而非 Littlestone 维的学习器及不确定性度量。
2024-01-25 cs.DS cs.LG stat.ML
Adversarial Resilience against Clean-Label Attacks in Realizable and Noisy Settings
D-MATH IFOR ETH Zürich（苏黎世联邦理工学院数学研究所）
针对干净标签对抗攻击，我们扩展了可实现设定下的弃权（不执行）学习方法至不可知噪声设定，首次给出阈值分类器在对抗噪声下的理论保证。
2025-04-17 cs.LG stat.ML
Robust Ambiguity Detection (RAD) From Model- and Feature-Space Consistency
School of Computer Science（计算机学院）；University College Dublin（都柏林大学学院）
本文提出RAD框架，通过模型与特征空间一致性量化预测歧义，经多数据集评估后，将其用于对高歧义样本弃权预测，性能与现有方法相当。
2026-08-13 cs.LG
Improving Selective Classification with Pairwise Queries for Binary Classification
Adobe Research（Adobe研究院）
针对选择性分类中模型置信度与预测不一致导致高错误率的问题，提出使用成对查询检测高错误样本，以降低非拒绝样本的错误率，并通过理论和实验验证了其有效性。
2026-05-28 cs.LG
Uncertainty Quantification for Rule-Based Models
IBM Research（IBM研究院）
以逻辑语言描述的基于规则的分类模型直接预测布尔值，而不是像统计模型那样对概率建模并将其转换为预测。绝大多数现有的不确定性量化方法依赖于提供基于规则的模型所不能提供的连续输出的模型。在这项工作中，我们提出了一个元模型形式的不确定性量化框架，该框架将具有二进制输出的任何二进制分类器作为黑盒，并估计该基础模型在给定输入下的预测准确性以及对该估计的置信度。信心取决于输入区域的探索程度，并且旨在适用于任何OOD场景。我们证明了这种不确定性模型的有用性，通过构建一个由它驱动的弃权分类器，并观察其在各种情况下的性能。
2022-11-03 cs.AI cs.LG
Selective Ensembles for Consistent Predictions
Carnegie Mellon University（卡内基梅隆大学）
最近的研究表明，为同一目标训练的模型，在一致的测试数据上实现了相似的准确性度量，但在个体预测上的表现可能非常不同。这种不一致性在高风险的情况下是不可取的，例如医疗诊断和金融。我们发现，这种不一致的行为超出了预测的功能属性，这同样可能有负面影响的模型的可理解性，以及一个人的能力，以找到追索权的科目。然后，我们引入选择性集合，通过对使用随机选择的起始条件训练的一组模型的预测应用假设检验来减轻这种不一致;重要的是，选择性集合可以在无法达到指定置信水平的一致结果的情况下弃权。我们证明了选择性合奏之间的预测分歧是有界的，并实证表明，选择性合奏实现一致的预测和功能属性，同时保持低的预测率。在几个基准数据集上，选择性集合达到零不一致的预测点，预测率低至1.5%。
2021-11-16 cs.LG
Optimal strategies for reject option classifiers
Czech Technical University in Prague（捷克布拉格技术大学）
在具有拒绝选项的分类中，允许分类器在不确定的情况下放弃预测。拒绝选项分类器的经典基于成本的模型需要显式定义拒绝的成本。另一种有界改进模型，避免了拒绝成本的概念，寻求一个有保证的选择性风险和最大覆盖的分类器。我们硬币的对称定义，有界覆盖模型，它寻求一个分类器具有最小的选择性风险和保证覆盖。我们证明，尽管他们的不同配方的三个拒绝模型导致相同的预测策略：贝叶斯分类器赋予随机贝叶斯选择函数。我们定义了一个适当的不确定性分数的概念，作为一个标量的预测不确定性的总结足以构建随机贝叶斯选择函数。我们提出了两种算法来学习适当的不确定性得分从任意的黑盒分类器的例子。我们证明了这两种算法提供Fisher一致的估计适当的不确定性得分，我们证明了他们的效率不同的预测问题，包括分类，有序回归和结构化输出分类。
2021-01-29 cs.LG
Two out of Three (ToT): using self-consistency to make robust predictions
Pacific Northwest National Laboratory（太平洋西北国家实验室）；School of Neuroscience（神经科学学院）
针对深度学习决策不可解释、高风险场景部署风险高的问题，受人脑对冲突信息的敏感性启发，提出Two out of Three (ToT)算法，通过生成两个备选预测与原预测对比，让模型在不确定时弃权（不执行），提升决策鲁棒性。
2025-05-19 cs.CV cs.LG
Knowledge Hypergraphs: Prediction Beyond Binary Relations
University of British Columbia（英属哥伦比亚大学）；Element AI
知识图谱使用两个实体之间的关系存储事实。在这项工作中，我们解决的问题，链接预测在知识超图的关系被定义在任何数量的实体。虽然存在的技术（如具体化），将非二进制关系转化为二进制的，我们表明，目前基于嵌入的知识图完成的方法不工作，以及开箱即用的知识图谱通过这些技术获得。为了克服这一点，我们引入了HSimple和HypE，这两种基于嵌入的方法直接与知识超图一起工作。在这两个模型中，预测是关系嵌入、实体嵌入及其在关系中的对应位置的函数。我们还开发了超图预测的公共数据集，基准和基线，并通过实验表明，所提出的模型比基线更有效。
2020-07-15 cs.AI cs.LG stat.ML
Arbitrariness and Social Prediction: The Confounding Role of Variance in Fair Classification
The GenLaw Center（GenLaw中心）；Cornell University（康奈尔大学）；Microsoft Research（微软研究院）；Syracuse University（雪城大学）
针对公平二分类中预测方差导致决策任意的问题，该研究定义自一致性指标，提出含弃权机制的集成算法，开展大规模实证研究并发布HMDA数据集工具包，发现基准数据集在考虑任意性时已接近公平，质疑现有公平方法的实用性。
2024-03-06 cs.AI cs.CY cs.LG
Towards Provably Fair Machine Learning: Bayesian Approaches For Consistent and Transparent Predictions
University College Dublin（都柏林大学学院）
提出公平贝叶斯分类器，通过强制确定性和统计一致性，在多个数据集上实现零一致性错误，同时保持准确性和多校准，解决少数群体因正则化导致的预测不一致问题。
2026-06-12 cs.LG
Representation of binary classification trees with binary features by quantum circuits
Fraunhofer ITWM（弗劳恩霍夫工业数学研究所）；BASF SE（巴斯夫股份公司）
我们提出了一个量子表示的二进制分类树的二进制特征的基础上的概率方法。通过使用量子计算机作为概率分布的处理器，可以经由量子线路的测量来实现决策树的概率遍历。我们描述了如何树归纳和预测的类标签的查询数据可以集成到这个框架。按需采样方法使预测具有恒定数量的经典内存插槽，独立于树的深度。我们使用量子计算模拟器和实际的IBM量子硬件来实验研究我们的方法。据我们所知，这是在量子设备上首次实现决策树分类器。
2022-03-23 cs.LG quant-ph stat.ML
Scoring Rules for Performative Binary Prediction
Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）
我们构建了一个专家预测模型，预测可以影响世界的状态。在这个模型下，我们通过理论和数值结果表明，适当的评分规则可以激励专家用他们的预测来操纵世界。我们还构造了一个简单的类的评分规则，避免了这个问题。
2022-07-05 cs.AI cs.LG
Optimizing Bidding Strategies in First-Price Auctions in Binary Feedback Setting with Predictions
本文在二元反馈的第一价格拍卖中，利用预测信息改进BROAD-OMD算法，提出新算法在预测准确时实现零遗憾，并给出O(T^(3/4)*Vt^(1/4))的遗憾界。
2025-07-07 cs.LG
Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning
University of Toronto（多伦多大学）
本论文通过训练轨迹集成提出轻量级选择性预测方法，分解分类差距并设计对抗防御，提升机器学习在不确定性估计中的可靠性与可信部署。
2025-09-06 cs.AI cs.CY cs.LG
Can Neural Decompilation Assist Vulnerability Prediction on Binary Code?
Università degli Studi di Napoli Federico II（那不勒斯费德里科二世大学）
本文提出一种无需源代码的漏洞预测方法，通过神经反编译将二进制文件转为源代码后利用深度学习进行预测，在二分类和多分类分析中均超越现有技术。
2025-03-29 cs.AI cs.CR cs.LG
The Binary Quantized Neural Network for Dense Prediction via Specially Designed Upsampling and Attention
University of Chinese Academy of Sciences（中国科学院大学）；Nanjing University of Posts and Telecommunications（南京邮电大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出一种多分支并行升采样结构和高效注意力策略，将二值神经网络应用于稠密预测任务，在保持精度的同时将注意力计算复杂度降低百倍，并在三个数据集上验证了有效性。
2024-05-28 cs.LG
The Quantum Version of Prediction for Binary Classification Problem by Ensemble Methods
Kazan Federal University（喀山联邦大学）；Zavoisky Physical-Technical Institute, FRC Kazan Scientific Center of RAS（俄罗斯科学院喀山科学中心联邦研究中心扎沃伊斯基物理技术研究所）
在这项工作中，我们考虑使用量子算法来预测二进制分类问题的结果的性能，如果机器学习模型是来自任何简单分类器的集成。这种方法比经典预测更快，并且使用量子和经典计算，但它基于概率算法。令$N$是来自集成模型的分类器的数量，并且$O(T)$是在一个分类器上的预测的运行时间。在经典的情况下，集成模型从每个分类器获得答案并对结果进行“平均”。经典情况下的运行时间为$O\left( N \cdot T \right)$。我们提出了一个算法，它的工作在$O\left(\sqrt{N} \cdot T\right)$。
2021-12-26 cs.LG quant-ph
Probabilistic Binary-Mask Cocktail-Party Source Separation in a Convolutional Deep Neural Network
University of Surrey（萨里大学）
竞争语音的分离是信号处理中的一个关键挑战，也是人类听觉大脑经常执行的一项壮举。声源分离的频谱图方法的一个长期存在的基准被称为理想二进制掩模。在这里，我们训练一个卷积深度神经网络，在两个扬声器的鸡尾酒会问题上，对二进制掩码进行概率预测。我们的结果接近理想的二进制掩码性能，说明相对简单的深度神经网络能够进行鲁棒的二进制掩码预测。我们还说明了预测统计和分离质量之间的权衡。
2015-03-24 cs.LG cs.NE cs.SD
Why Regression? Binary Encoding Classification Brings Confidence to Stock Market Index Price Prediction
The Hong Kong Polytechnic University（香港理工大学）；Singapore Management University（新加坡管理学院）
本文提出Cubic框架，通过潜在空间融合成分股信息，并将回归问题转化为二进制编码分类，结合置信度引导预测与交易，在多个股票市场指数预测中优于现有方法。
2025-05-18 cs.LG q-fin.ST
Gibbs-Duhem-Informed Neural Networks for Binary Activity Coefficient Prediction
RWTH Aachen University（亚琛工业大学）；University of Cambridge（剑桥大学）；Forschungszentrum Jülich GmbH（于利希研究中心）；JARA-ENERGY（于利希-亚琛研究联盟能源部）
提出 Gibbs-Duhem 信息神经网络，将 Gibbs-Duhem 方程作为正则项纳入损失函数，以提升二元活度系数预测的热力学一致性与泛化能力，并发现激活函数影响预测质量。
2023-09-14 cs.LG physics.chem-ph
Robust Conformal Prediction with a Single Binary Certificate
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；University of Cologne（科隆大学）
本文提出一种基于单一二元证书的鲁棒保形预测方法，通过阈值二值化样本，在仅需极少蒙特卡洛采样的情况下生成更小的鲁棒预测集，并消除了分数函数必须有界的限制。
2025-03-07 cs.AI cs.LG
Binary Single-dimensional Convolutional Neural Network for Seizure Prediction
Zhejiang University（浙江大学）；Westlake University（西湖大学）
如今，提出了几种深度学习方法来应对癫痫发作预测的挑战。然而，这些方法仍然不能实现为植入式或高效可穿戴设备的一部分，由于其大的硬件和相应的高功耗。它们通常需要复杂的特征提取过程、用于存储高精度参数的大容量存储器和复杂的算术运算，这大大增加了所需的硬件资源。此外，现有的预测性能较差，因为它们直接采用图像识别应用程序的网络架构，未能准确考虑脑电信号的特征。在本文中，我们提出了一种硬件友好的网络，称为二进制一维卷积神经网络（BSDCNN），用于癫痫发作预测。BSDCNN利用1D卷积核来提高预测性能。所有参数都被二进制化，以减少所需的计算和存储，除了第一层。在美国癫痫学会发作预测挑战（AES）数据集和CHB-MIT数据集上，总的曲线下面积、灵敏度和假预测率分别达到0.915、89.26%、0.117/h和0.970、94.69%、0.095/h。所提出的架构优于最近的作品，同时提供7.2和25.5倍的参数和计算的大小减少，分别。
2022-06-08 cs.HC cs.LG eess.SP
HyperQuery: Beyond Binary Link Prediction
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
该研究针对超图与知识超图的链接预测问题，提出含节点级聚类特征提取的自监督优化架构，在多个基准上性能优于现有最优方法。
2025-01-13 cs.LG cs.SI
Calibrated Large Language Models for Binary Question Answering
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）；Centrica（森特里卡公司）
本文提出利用归纳Venn–Abers预测器（IVAP）校准大语言模型在二分类问答中的输出概率，并在BoolQ数据集上验证其优于温度缩放方法，同时保持高预测质量。
2024-07-01 cs.CL cs.LG
Binary Search with Distributional Predictions
Johns Hopkins University（约翰斯·霍普金斯大学）；UC Merced（加州大学默塞德分校）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）
针对传统预测算法未利用现代机器学习生成的分布性预测的问题，提出基于分布预测的二分查找算法，其查询复杂度为$O(H(p) + \text{log} η)$，首次给出最优二叉查找树的分布鲁棒算法，且下界证明其最优性并通过实验验证。
2024-11-25 cs.DS cs.LG
Symbolic Machine Learning for Vapor-Liquid Equilibrium Prediction in Cx-N2 Binary Mixtures
Purdue University（普渡大学）
本研究提出符号机器学习方法，为Peng-Robinson状态方程构建可解释符号校正项，在烃-氮二元混合物汽液平衡预测中精度显著优于原方程。
2026-08-13 cs.AI cs.LG physics.comp-ph
A PDE Approach to the Prediction of a Binary Sequence with Advice from Two History-Dependent Experts
University of Minnesota（明尼苏达大学）；Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
二进制序列的预测是在线机器学习的一个经典例子。我们喜欢称之为“股票预测问题”，将序列视为股票的价格历史，在每个时间步长上涨或下跌一个单位。在这个问题中，投资者可以获得两个或更多“专家”的预测，并努力减少她对表现最好的专家的最后一次遗憾。概率不起作用;相反，市场被假定为是对抗性的。我们考虑的情况下，有两个历史依赖的专家，其预测是由d最近的股票走势。集中在一个适当的连续极限，并使用最优控制，图论，和偏微分方程的方法，我们讨论的投资者和对抗性市场的策略，我们确定相关的上限和下界的投资者的最后一次后悔。当d小于4时，我们的上界和下界合并，因此所提出的策略是渐近最优的。与其他近期将偏微分方程应用于预测的方法相比，我们的方法有一个新的元素：有两个时间尺度，因为最近的历史在每一步都在变化，而遗憾积累得更慢。
2020-07-24 cs.GT cs.LG math.AP
