Conformal Predictors for Compound Activity Prediction
Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
本文提出了一个应用共形预测的化学信息学问题,识别化合物的活动。本文解决了这一领域的一些具体挑战:大量的化合物(训练样本),高维的特征空间,稀疏和强大的类不平衡。共形预测称为归纳蒙德里安共形预测的一个变种,以应对这些挑战。结果提出了几个非一致性措施(NCM)提取的基础算法和不同的内核。一些性能指标的使用,以证明在处理这样一个复杂的数据集的归纳蒙德里安共形预测的灵活性。关键词:共形预测,置信估计,化学信息学,不一致性度量。
2016-03-14 cs.LG
Assurance Monitoring of Learning Enabled Cyber-Physical Systems Using Inductive Conformal Prediction based on Distance Learning
Vanderbilt University(范德堡大学)
诸如深度神经网络之类的机器学习组件在网络物理系统(CPS)中被广泛使用。然而,这些组件可能会引入新类型的危险,可能会产生灾难性的后果,需要解决工程值得信赖的系统。虽然深度神经网络提供了先进的功能,但它们必须辅以工程方法和实践,以实现CPS中的有效集成。在本文中,我们提出了一种基于共形预测框架的学习型CPS保证监控方法。为了允许实时保证监控,该方法采用远程学习将高维输入转换为较低大小的嵌入表示。通过利用共形预测,该方法提供了良好校准的置信度,并确保了有界的小出错率,同时限制了无法进行准确预测的输入的数量。我们使用三个数据集的移动机器人以下的墙壁,说话人识别和交通标志识别的方法。实验结果表明,出错率校准良好,而报警的数量是非常小的。此外,该方法在计算上是高效的,并且允许CPS的实时保证监控。
2021-10-07 cs.LG
Investigating Data Usage for Inductive Conformal Predictors
School of Computer Science, University of Nottingham Ningbo China(宁波诺丁汉大学计算机学院)
针对归纳共形预测器在数据有限或成本高场景下的高效数据划分开放问题,通过多组实验探究划分方式及训练与校准集样本重叠的情况,为相关学术与实践应用提供参考。
2024-06-18 cs.LG stat.ML
Inductive Conformal Prediction: A Straightforward Introduction with Examples in Python
IEETA/DETI(电子与信息工程研究院/电子、电信与信息工程系);University of Aveiro(阿威罗大学)
归纳共形预测(ICP)是一组无分布和模型不可知的算法,旨在以用户定义的置信度进行预测,并保证覆盖率。而不是点预测,即,在回归或多类分类中的单个类的情况下为实数,使用ICP校准的模型分别输出一个区间或一组类。ICP在高风险环境中特别重要,我们希望真实输出属于高概率的预测集。作为示例,分类模型可以输出在给定磁共振图像的情况下患者没有要报告的潜在疾病。然而,该模型输出基于最可能的类别,第二个最可能的类别可能告诉患者有15%的可能性患有脑肿瘤或其他严重疾病,因此应进行进一步检查。因此,使用国际比较方案提供的信息更多,我们认为这应该是制作预测的标准方法。本文是一个动手介绍,这意味着我们将提供例子,因为我们介绍的理论。
2022-07-01 cs.LG stat.ML
Optimized conformal classification using gradient descent approximation
University of Nottingham Ningbo China(宁波诺丁汉大学)
保形预测器是一类重要的算法,它允许以用户定义的置信水平进行预测。他们能够通过输出预测集而不是简单的点预测来做到这一点。保形预测是有效的,在这个意义上,它的预测精度保证满足置信水平,只有假设在数据中的交换。由于保证了准确性,因此通过预测集的效率来测量共形预测器的性能。通常,共形预测器建立在底层机器学习算法上,因此其预测能力继承自该算法。然而,由于底层机器学习算法不是以最小化预测效率为目标来训练的,这意味着所得到的适形预测器可能是次优的并且与该目标不充分对准。因此,在这项研究中,我们考虑一种方法来训练的共形预测直接与最大的预测效率作为优化目标,我们专注于归纳共形预测分类。为此,共形预测器由一个可微的目标函数近似,并利用梯度下降对其进行优化,然后将得到的参数估计值传递给一个适当的归纳共形预测器,得到有效的预测集。我们测试的方法在几个现实世界的数据集,发现该方法是有前途的,在大多数情况下,提供了改进的预测效率对基线共形预测。
2021-05-24 cs.LG
Cross-conformal predictors
本文介绍了交叉共形预测方法,它是归纳共形预测方法和交叉验证方法的混合,并对其有效性和预测效率进行了实证研究。
2012-08-03 cs.LG stat.ML
Inductive Venn-Abers and related regressors
本文将Venn-Abers回归器推广到无界回归,引入符合预测元素,通过模拟和实证研究证明其在大训练集下提升预测效率。
2026-09-07 cs.LG
Beyond Conformal Predictors: Adaptive Conformal Inference with Confidence Predictors
Department of Mathematics, Stockholm University(数学系,斯德哥尔摩大学);Department of Computing, Jönköping School of Engineering(计算系,约克灵根工程学院)
本研究证明自适应保形推断的覆盖保证适用于更广泛的非保形置信预测器,在非可交换数据下提供计算优势并提升预测效率。
2025-06-26 cs.LG stat.ML
Out-of-Sample Hydrocarbon Production Forecasting: Time Series Machine Learning using Productivity Index-Driven Features and Inductive Conformal Prediction
Sudapet Co. Ltd.(苏达佩特公司);University of Portsmouth(波特茅斯大学)
本研究针对样本外油气产量预测的鲁棒性问题,提出整合产能指数驱动特征选择与归纳共形预测的机器学习框架,在Volve和Norne油田数据上验证了LSTM模型的最优性能,为复杂油气预测提供可靠方法。
2025-08-12 cs.LG physics.data-an
PAC-Bayes Generalization Certificates for Learned Inductive Conformal Prediction
NVIDIA Research(英伟达研究院);Princeton University(普林斯顿大学);Harvard University(哈佛大学);Stanford University(斯坦福大学)
本文针对学习型 ICP 预测集合的覆盖率与效率泛化问题,提出 PAC-Bayes 泛化界及可利用全部校准数据联合微调模型与评分函数的算法,在低数据回归和分类任务上优于 Hoeffding 基线。
2023-12-07 cs.LG stat.ML
Generative Conformal Prediction with Optimized Coverage Allocation
University of Southern California(南加州大学);Carnegie Mellon University(卡内基梅隆大学)
针对传统保形预测在多维场景中不确定性集合过于保守的问题,提出基于向量化非一致性得分的生成式保形预测框架,利用生成模型采样多预测构建自适应集合,在多数据集上优于现有技术。
2026-10-14 cs.LG stat.ME
Singleton-Optimized Conformal Prediction
University of Pennsylvania(宾夕法尼亚大学);New Jersey Institute of Technology(新泽西理工学院)
本文提出单例优化置信预测方法,通过优化非一致性评分提升预测集的单例率,减少预测集大小对实际成本的影响。
2026-02-03 cs.LG stat.ML
Data-Driven Calibration of Prediction Sets in Large Vision-Language Models Based on Inductive Conformal Prediction
提出模型无关的分裂共形预测框架,通过动态阈值与跨模态一致性校准 LVLM 预测集,在 ScienceQA 和 MMMU 上验证其覆盖率保证与部署稳健性。
2025-05-15 cs.AI cs.CL cs.LG
Stacked conformal prediction
Insper Institute of Education and Research(Insper教育与研究学院)
本文提出一种对堆叠预测模型进行置信校准的方法,通过顶层元学习器的简单形式实现可控计算成本,无需额外校准样本即可近似达到边际有效性。
2025-07-08 cs.LG stat.ML
Regression Conformal Prediction with Nearest Neighbours
Frederick University(弗雷德里克大学);Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
在本文中,我们共形预测(CP)的k-最近邻回归(K-NNR)算法,并提出了扩展的方法,用于回归到目前为止的典型的非一致性措施。与生成点预测的传统回归方法不同,保形预测器输出满足给定置信水平的预测区域。任何共形预测器产生的区域都是自动有效的,但是它们的紧密性和有用性取决于每个CP使用的非一致性度量。实际上,非一致性度量评估给定示例与基于某些传统机器学习算法的一组其他示例相比有多奇怪。我们定义了六个新的不符合措施的基础上的k-最近邻回归算法,并开发相应的CP以下的原始(转导)和归纳CP的方法。我们的措施与典型的回归措施的预测区域的比较表明,一个重大的改进,在预测区域的紧密性方面实现了新的措施。
2014-01-16 cs.LG
iDECODe: In-distribution Equivariance for Conformal Out-of-distribution Detection
University of Pennsylvania(宾夕法尼亚大学);SRI International(斯坦福国际研究院);Georgia Institute of Technology(佐治亚理工学院)
诸如深度神经网络(DNN)之类的机器学习方法尽管在不同领域取得了成功,但已知它们经常在其训练分布之外的输入上生成具有高置信度的不正确预测。在安全关键域中部署DNN需要检测分发外(OOD)数据,以便DNN可以避免对这些数据进行预测。最近已经开发了许多用于OOD检测的方法,但仍有改进的空间。我们提出了新的方法iDECODe,利用分布等方差共形OOD检测。它依赖于一种新的基础非一致性措施和一种新的聚合方法,用于感应共形异常检测框架,从而保证有界的误检率。我们通过在图像和音频数据集上的实验证明了iDECODe的有效性,获得了最先进的结果。我们还表明,iDECODe可以检测对抗性的例子。
2022-01-07 cs.LG
conformalClassification: A Conformal Prediction R Package for Classification
conformalClassification包为分类问题实现了Transductive共形预测(TCP)和归纳共形预测(ICP)。共形预测(CP)是一个框架,它通过可靠的置信度测量来补充机器学习算法的预测。TCP给出的结果具有比ICP更高的有效性,但是ICP在计算上比TCP更快。包conformalClassification基于随机森林方法构建,其中每个类的随机森林投票被认为是每个数据点的一致性得分。虽然conformalClassification包的主要目的是为分类问题生成CP错误(p值),但该包还实现了各种诊断措施,如有效性偏差,错误率,效率,观察到的模糊度和校准图。在未来的版本中,我们计划扩展该软件包以使用其他机器学习算法(例如支持向量机)进行模型拟合。
2018-04-16 cs.LG stat.ML
Reliability-based cleaning of noisy training labels with inductive conformal prediction in multi-modal biomedical data mining
Stanford University(斯坦福大学);Jinling Hospital(金陵医院)
针对生物医学数据标注困难的问题,提出一种基于归纳共形预测(ICP)的训练数据清洗方法,利用少量准确标签纠正噪声数据,在多模态分类任务中显著提升了性能且无需大量人工标注数据。
2023-09-13 cs.AI cs.CV cs.LG
A Conformal Prediction Approach to Explore Functional Data
Carnegie Mellon University(卡内基梅隆大学)
本文应用共形预测技术计算函数型数据的同时预测带和聚类树。这些工具可用于检测离群值和聚类。我们的预测带和聚类树都为底层随机过程提供了预测集,保证了有限样本行为,没有分布假设。预测集也是信息性的,因为它们对应于底层过程的高密度区域。虽然普通的共形预测有很高的计算成本的功能数据,我们使用的归纳共形预测,以及几个新的选择一致性得分,以简化计算。我们的方法说明了一些实际数据的例子。
2013-02-26 cs.LG stat.ML
Conformal Risk-Averse Decision Making with Optimized Certainty Equivalent Risk Control
该研究针对智能体在系统状态不确定时的风险厌恶决策问题,提出基于优化确定性等价(OCE)的风险控制策略,将已知分布下的最优策略简化为CVaR的预测集解,并通过数据驱动校准策略在无线波束成形场景中验证了其OCE风险高概率控制效果。
2026-08-31 cs.AI cs.IT cs.LG
Conformal Prediction in Learning Under Privileged Information Paradigm with Applications in Drug Discovery
Uppsala University(乌普萨拉大学);AstraZeneca(阿斯利康)
本文探讨了特权信息下学习(LUPI)范式中的共形预测。我们使用SVM+实现的LUPI的归纳共形预测,并将其应用到MNIST基准数据集和三个数据集的药物发现。结果表明,使用特权信息产生有效的模型,并提高了效率相比,标准的SVM,但改善测试数据集之间的差异,并没有实质性的药物发现应用。更重要的是,在共形预测框架中使用SVM+可以在指定的显著性水平上实现有效的预测区间。
2018-04-04 cs.LG stat.AP stat.ML
Copula-based conformal prediction for Multi-Target Regression
HEUDIASYC - UMR CNRS 7253(法国国家科学研究中心7253联合研究单位 启发式与诊断复杂系统实验室);Université de Technologie de Compiègne(贡比涅技术大学)
有相对较少的作品处理多任务学习问题的共形预测,这是特别真实的多目标回归。本文重点讨论了提供有效(即,频率校准)多变量预测。为此,我们建议使用应用于深度神经网络的copula函数进行归纳共形预测。我们表明,所提出的方法,确保效率和有效性的多目标回归问题的各种数据集。
2021-01-28 cs.AI cs.LG stat.ML
Conformal Regression in Calorie Prediction for Team Jumbo-Visma
Maastricht University(马斯特里赫特大学);Visma Connect(维斯马互联);Mathematics Centre Maastricht, Maastricht University(马斯特里赫特大学马斯特里赫特数学中心)
本文提出使用回归模型预测自行车比赛速度和功率以即时估算车手卡路里需求,并比较多种保形预测方法量化不确定性,发现除基于minmax的方法外均能产生足够窄的有效预测区间辅助决策。
2023-09-14 cs.LG stat.AP
Test-time augmentation improves efficiency in conformal prediction
Massachusetts Institute of Technology(麻省理工学院);CSAIL(计算机科学与人工智能实验室)
本研究表明测试时增强(TTA)能有效减小共形分类器生成的预测集大小,该方法无需重训模型,可结合任意共形分数,平均将预测集减小10%-14%。
2025-05-28 cs.CV cs.LG
FROC: A Unified Framework with Risk-Optimized Control for Machine Unlearning in LLMs
Digital Trust Centre, Nanyang Technological University, Singapore(南洋理工大学数字信任中心);College of Computing and Data Science, Nanyang Technological University, Singapore(南洋理工大学计算与数据科学学院)
FROC提出了一种用于大语言模型机器去学习的统一框架,通过风险优化控制机制,实现对去学习过程的风险管理和效用平衡。
2025-12-15 cs.LG
Relation-dependent Contrastive Learning with Cluster Sampling for Inductive Relation Prediction
Sun Yat-sen University(中山大学)
关系预测是为知识图谱补全而设计的任务,其目的是预测实体之间缺失的关系。最近基于子图的归纳关系预测模型受到越来越多的关注,它可以基于候选三元组周围提取的子图来预测未见过实体的关系。然而,它们并不是完全归纳的,因为它们不能预测看不见的关系。此外,它们没有充分重视关系的作用,因为它们只依赖于模型来学习参数化的关系嵌入,这导致对长尾关系的预测不准确。在本文中,我们引入了基于聚类的对比学习(ReCoLe)来进行归纳关系预测,它采用了一种基于聚类算法的采样方法来适应对比学习,以增强关系的作用并提高对未知关系的泛化能力。ReCoLe不是直接学习关系的嵌入,而是为每个关系分配一个预训练的基于GNN的编码器,以加强关系的影响。基于GNN的编码器通过对比学习进行优化,从而确保在长尾关系上具有令人满意的性能。此外,聚类抽样方法使ReCoLe能够处理看不见的关系和实体。实验结果表明,ReCoLe在常用的归纳数据集上优于最先进的方法。
2022-11-22 cs.AI cs.CL cs.LG
Scaling Full Conformal Image Classifiers
ETH Zürich(苏黎世联邦理工学院)
针对全共形预测计算成本高的问题,提出目标全共形预测(T-FCP),利用零样本视觉语言模型剪枝标签,仅对候选子集应用FCP,在保持覆盖保证的同时降低开销,并在ImageNet等基准上实现高效稳定的预测集。
2026-09-30 cs.CV cs.LG
Optimized Conformal Selection: Powerful Selective Inference After Data-Dependent Score Construction
McGill University(麦吉尔大学);Harvard University(哈佛大学)
针对保形推断中模型选择破坏数据可交换性的问题,提出OptCS框架,允许数据驱动优化模型后进行有效选择性推断,通过三种程序控制FDR,在模拟和实际应用中验证了有效性。
2026-10-22 cs.AI cs.LG stat.ME
Statistical Guarantees in Synthetic Data through Conformal Adversarial Generation
WorkOnward Inc WOW AI Labs California(WorkOnward公司WOW AI实验室加州);Department of Computer Science California State University Long Beach(计算机科学系加州州立大学长滩分校);Department of Computer Science Emory University(计算机科学系埃默里大学)
本文提出Conformalized GAN(cGAN)框架,将多种保形预测方法融入GAN,为合成数据提供无分布不确定性量化、有限样本有效性与渐近效率保证。
2025-05-11 cs.AI cs.LG
Distribution Free Prediction Sets for Node Classification
University of Oxford(牛津大学)
针对图神经网络因图结构依赖难以量化预测不确定性的问题,本文通过加权conformal scores反映网络结构,提出一种适用于归纳节点分类的无分布预测集构建方法,实验证明其比朴素方法更紧密且校准更好。
2024-01-08 cs.LG stat.ML
Noether Networks: Meta-Learning Useful Conserved Quantities
MIT(麻省理工学院);Stanford University(斯坦福大学);National University of Singapore(新加坡国立大学)
机器学习(ML)的进步源于数据可用性、计算资源和归纳偏差的适当编码的结合。有用的偏差通常利用预测问题中的对称性,例如依赖于平移等方差的卷积网络。自动发现这些有用的对称性有可能大大提高ML系统的性能,但仍然是一个挑战。在这项工作中,我们专注于序列预测问题,并从Noether定理中获得灵感,将发现归纳偏差的问题减少到元学习有用的守恒量。我们提出了Noether网络:一种新型的架构,其中元学习的保守性损失在预测函数中得到优化。我们表明,理论和实验,Noether网络提高预测质量,提供了一个通用的框架,发现归纳偏见的顺序问题。
2021-12-06 cs.CV cs.LG
Trading off Quality for Efficiency of Community Detection: An Inductive Method across Graphs
HKUST(香港科技大学);Huawei(华为)
许多网络应用可以归结为社区发现(CD)的NP难组合优化问题。由于NP困难,平衡CD质量和效率仍然是一个挑战。大多数现有的CD方法是转导的,这是独立优化的CD上的一个单一的图形。这些方法中的一些使用先进的机器学习技术来获得高质量的CD结果,但通常具有高复杂性。其他方法使用快速启发式近似来确保较低的运行时间,但可能会出现质量下降的情况。与这些转换方法相比,我们提出了一种替代的感应社区发现(ICD)方法,通过系统或场景的图形来减轻NP难的挑战。ICD首先在历史图上进行对抗性双GNN的离线训练,以捕获系统的关键属性。然后,将训练好的模型直接推广到新的未见过的在线CD图,而无需额外的优化,可以在质量和效率之间实现更好的权衡。ICD还可以在离线训练中捕获置换不变社区标签,并在具有非固定数量节点和社区的新图上处理在线CD。在一组基准上的实验表明,ICD可以在各种基线上实现质量和效率之间的显着权衡。
2022-09-29 cs.LG cs.SI
SPACR: Single-Pass Adaptive Training of Uncertainty-Aware Conformal Regressors
Heudiasyc - UMR CNRS 7253, Université de Technologie de Compiègne(法国贡比涅技术大学 - CNRS 7253联合实验室 Heudiasyc)
提出SPACR方法,通过可微损失直接训练不确定性感知回归器,联合优化效率和有效性,无需批分割或预定义置信水平,单个模型在推理时支持多置信水平预测区间,实验表明其区间更窄、覆盖-效率权衡更优且计算成本更低。
2026-10-30 cs.LG stat.ME stat.ML
Does confidence calibration improve conformal prediction?
Southern University of Science and Technology(南方科技大学);Nanyang Technological University(南洋理工大学);University of Macau(澳门大学);Singapore University of Technology and Design(新加坡科技设计大学)
本文研究了置信度校准对自适应共形预测的影响,发现传统温度缩放会增大预测集,并提出带有新型损失函数的 ConfTS 方法以提升预测集效率,在分类任务尤其是 LLMs 中表现更优。
2024-12-23 cs.LG
coverforest: Conformal Predictions with Random Forest in Python
Department of Statistics, Chiang Mai University(统计系,清迈大学)
coverforest是一个基于Python的高效随机森林符合预测工具,通过并行计算和优化实现快速的out-of-bag计算,提升预测效率和覆盖性能。
2025-12-31 cs.LG stat.CO stat.ML
Conformal prediction for text infilling and part-of-speech prediction
North Carolina State University(北卡罗来纳州立大学);University of Florida(佛罗里达大学);High Point University(高点大学);University of Louisiana, Lafayette(路易斯安那大学拉法叶分校)
现代机器学习算法能够提供非常准确的点预测;然而,关于其统计可靠性的问题仍然存在。与传统的机器学习方法不同,共形预测算法返回置信集(即,集值预测)。此外,这些置信度集是有效的,因为它们保证了对类型1错误概率的有限样本控制,允许从业者选择可接受的错误率。在本文中,我们提出了归纳共形预测(ICP)算法的文本填充和词性(POS)预测的自然语言数据的任务。我们构建了新的共形预测增强的双向编码器表示,从变压器(BERT)和双向长短期记忆(BiLSTM)算法的POS标记和一个新的共形预测增强的BERT算法的文本填充。我们分析了使用布朗语料库,其中包含超过57,000句模拟算法的性能。我们的研究结果表明,ICP算法能够产生有效的集值预测是足够小,适用于现实世界中的应用。我们还提供了一个真实的数据示例,说明我们提出的集值预测如何改善机器生成的音频传输。
2021-11-04 cs.LG stat.ML
Efficient Normalized Conformal Prediction and Uncertainty Quantification for Anti-Cancer Drug Sensitivity Prediction with Deep Regression Forests
Texas Tech University(德克萨斯理工大学);University of Nebraska - Lincoln(内布拉斯加大学林肯分校)
针对保形预测难以给出样本自适应异方差区间的问题,本文用深度回归森林方差逐样本量化不确定性,提升了药物响应预测中归一化归纳保形预测的效率与覆盖率。
2024-02-21 cs.AI cs.LG stat.ML
Conformal Individual Treatment Effect Estimation under Networked Interference
EURECOM(欧洲通信学院);Northeastern University London(伦敦东北大学)
本研究提出干扰调整的加权保形预测方法,放宽无干扰假设,通过构造可观测上界,为网络干扰下的反事实结果和个体治疗效果提供有限样本覆盖保证。
2026-09-15 cs.IT cs.LG math.IT
Improved conformalized quantile regression
University of Aveiro(阿威罗大学)
针对保形分位数回归单一保形步骤缺乏自适应性的问题,提出基于排列重要性加权解释变量的优化k-means聚类并执行k个保形步骤,在开放数据集上验证其更适应异方差且优于经典方法。
2022-11-06 cs.LG stat.ML
Boost AI Power: Data Augmentation Strategies with unlabelled Data and Conformal Prediction, a Case in Alternative Herbal Medicine Discrimination with Electronic Nose
Zhejiang University(浙江大学);Stanford University(斯坦福大学);Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
电子鼻已被证明是有效的替代草药分类,但由于监督学习的性质,以前的研究严重依赖于标记的训练数据,这是耗时和劳动密集型的收集,以减轻在现实世界中的应用程序对训练数据的关键依赖,本研究旨在提高分类精度通过数据增强策略。在两种情况下,不同的训练数据不足的五个数据增强策略的有效性进行了研究:无噪声的情况下,不同的可用性的未标记的数据被认为是,和噪声的情况下,不同水平的高斯噪声和平移位移被添加到代表传感器漂移。五个增强策略,即噪声添加数据增强,半监督学习,基于分类器的在线学习,归纳共形预测(ICP)在线学习和我们的新的集成ICP在线学习提出了这项研究中,实验和比较监督学习基线,线性判别分析(LDA)和支持向量机(SVM)作为分类器。我们的新策略,集成ICP在线学习,通过在所有任务上显示出非降低的分类准确性和在大多数模拟任务上的显著改善(36个任务中的25个,p<=0.05),优于其他策略。此外,本研究还对不同的增强策略进行了系统的分析。结果表明,在每个任务中,至少一种策略显著提高了LDA的分类准确率(p<=0.05),并且不降低SVM的分类准确率。特别是,我们提出的策略在提高分类模型的泛化能力方面表现出了有效性和鲁棒性,这可以用于其他机器学习应用。
2021-07-17 cs.LG
Predictive Inference with Feature Conformal Prediction
Tsinghua University(清华大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Shanghai Qi Zhi Institute(上海期智研究院);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
本文提出 feature conformal prediction,通过利用深度表示学习的归纳偏置将 conformal prediction 扩展至语义特征空间,理论证明其在温和假设下优于常规方法,并在 ImageNet 等大规模任务上取得 SOTA 性能。
2023-04-08 cs.AI cs.LG stat.ME
GLIDR: Graph-Like Inductive Logic Programming with Differentiable Reasoning
Georgia Institute of Technology(佐治亚理工学院)
提出GLIDR可微规则学习方法,通过可微消息传递算法支持分支和循环等复杂逻辑规则结构,在知识图谱补全任务上显著优于现有方法且能与神经网络端到端联合优化。
2025-08-08 cs.AI cs.LG cs.LO
Conformal Risk Minimization for Semi-Supervised Domain Adaptation via Optimal Transport
Duke University(杜克大学)
该研究针对半监督域适应场景中现有方法缺乏不确定性量化的问题,提出将共形风险最小化与最优传输结合的端到端框架,生成紧凑且覆盖有效的预测集。
2026-08-25 cs.LG
When Can We Reuse a Calibration Set for Multiple Conformal Predictions?
Department of Mathematics, Cardiff University, UK(卡迪夫大学数学系);Department of Computing, Imperial College London, UK(伦敦帝国理工学院计算系)
本文结合e-conformal prediction与Hoeffding不等式,提出复用单一校准集的方法,在保持可证明置信度的同时减少了重复校准的需求。
2025-06-24 cs.AI cs.LG math.ST
Valid Conformal Prediction for Dynamic GNNs
University of Bristol(布里斯托大学);The University of Melbourne(墨尔本大学);University of Edinburgh(爱丁堡大学)
本研究提出利用动态图展开表示结合共形预测,在无需修改现有GNN架构的情况下,为动态图建模提供合法预测集,并在多种推理场景下验证其有效性。
2025-03-26 cs.LG stat.ML
Approximate Conditional Coverage & Calibration via Neural Model Approximations
Reexpress AI;Harvard University(哈佛大学)
一个典型的迫切需要量化的不确定性从分类模型作为一个预测集是类条件单例集校准。也就是说,这样的集合应该映射到校准良好的选择性分类器的输出,匹配观察到的相似实例的频率。最近提出深度网络自适应和局部共形p值的工作并不能保证这种行为,也不能凭经验实现。相反,我们使用来自基于KNN的Transformer网络近似的预测可靠性的强信号来构建Mondrian Conformal Predictors的数据驱动分区,这些分区被视为弱选择性分类器,然后通过新的归纳Venn Predictor(Venn-ADMIT Predictor)进行校准。由此产生的选择性分类器是校准良好的,在一个保守的,但实际上有用的意义上,对于一个给定的阈值。它们对数据分区比例的变化具有固有的鲁棒性,并且简单的保守统计学对协变量偏移提供了额外的鲁棒性。我们比较和对比最近的共形预测器在几个具有代表性和挑战性的自然语言处理分类任务中产生的数量,包括类不平衡和分布偏移设置。
2022-12-01 cs.CL cs.LG
Classification with Reject Option: Distribution-free Error Guarantees via Conformal Prediction
Department of Computer Science, Royal Holloway, University of London(伦敦大学皇家霍洛威学院计算机科学系);Department of Mathematics, Stockholm University(斯德哥尔摩大学数学系)
本文基于共形预测(CP)形式化了二元分类中的拒绝选项方法,通过仅接受单例预测将CP转化为带拒绝选项的分类器,并推导了无分布的误差率理论保证与有限样本估计,最后通过数值示例和错误-拒绝曲线展示了不同设置下的表现与权衡。
2025-06-26 cs.LG stat.ML
Constructing Prediction Intervals with Neural Networks: An Empirical Evaluation of Bootstrapping and Conformal Inference Methods
United States Air Force Academy(美国空军学院);Air Force Institute of Technology(空军理工学院);th Human Performance Wing(第711人体效能联队)
人工神经网络(ANN)是用于完成许多机器学习任务(包括预测连续结果)的流行工具。然而,普遍缺乏信心的措施,提供人工神经网络预测限制其适用性。用预测区间(PI)补充点预测对于其他学习算法来说很常见,但是ANN的复杂结构和训练使得构建PI变得困难。这项工作提供了网络设计的选择和推理方法,创造更好的性能PI与人工神经网络。在11个数据集上执行两步实验,包括基于图像的数据集。两个分布免费的方法构造PI,引导和共形推理,被认为是。第一个实验步骤的结果表明,固有的选择建立一个人工神经网络影响PI的性能。针对每个网络特征和PI方法,提供了优化PI性能的指导。在第二步中,20算法构建PI,每个使用的原则,自举或保形推理,实施,以确定提供最佳性能,同时保持合理的计算负担。在一般情况下,这种权衡是优化时,实施交叉共形方法,保持区间覆盖率和效率,减少计算负担。
2022-10-07 cs.LG stat.ML
Approximating Score-based Explanation Techniques Using Conformal Regression
KTH Royal Institute of Technology(瑞典皇家理工学院);Jönköping University(延雪平大学)
针对基于分数的可解释方法计算成本高的问题,提出用低成本回归模型结合归纳共形预测近似SHAP等解释输出,设计非一致性度量,实验证明比TreeSHAP更快且能生成带有效性保证的紧致区间。
2023-08-23 cs.AI cs.LG stat.ML
JANET: Joint Adaptive predictioN-region Estimation for Time-series
Hasso Plattner Institute(哈索·普拉特纳研究所);University of California, Irvine(加州大学尔湾分校);Royal Holloway, University of London(伦敦大学皇家霍洛威学院);Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院)
针对时间序列多步预测中保形预测受限于可交换性假设的问题,提出JANET框架,通过推广归纳保形框架生成具有受控K族错误率的联合预测区域,在多步预测任务中实现了更可靠且可解释的不确定性量化。
2025-05-29 cs.LG stat.ME stat.ML
Trajectory Entropy Reinforcement Learning for Robust Robot Motor Skill Learning
Department of Computer Science and Technology, Tsinghua University(计算机科学与技术系,清华大学)
针对深度强化学习易受环境扰动影响的问题,提出轨迹熵强化学习方法,通过最小化动作轨迹熵引入简洁性归纳偏置,并联合优化策略与预测模型,在多个高维运动任务中实现了更优的性能与鲁棒性。
2026-09-21 cs.LG cs.RO stat.ML
COMPASS: Robust Feature Conformal Prediction for Medical Segmentation Metrics
COMPASS通过利用深度神经网络的归纳偏差,为医学图像分割提供高效的基于度量的不确定性量化方法。
2026-02-28 cs.CV cs.LG eess.IV
Adaptive Conformal Prediction for Reliable and Explainable Medical Image Classification
Faculty of Computer Science, Universitas Brawijaya(博雅大学计算机科学学院)
本文提出自适应Lambda准则改进RAPS,提升医学图像分类的可靠性与可解释性,实验表明其在跨域验证中表现优异。
2026-05-13 cs.CV cs.LG
Distribution Free Prediction Bands
Carnegie Mellon University(卡内基梅隆大学)
我们研究分布自由,非参数预测带,特别关注他们的有限样本行为。首先,我们调查和发展有限样本覆盖保证的不同概念。然后,我们结合“共形预测“(Vovk et al. 2009)和非参数条件密度估计的思想,给出了一种新的预测带估计。与传统的共形预测估计相比,本文提出的共形优化预测集(COPS)具有更强的有限样本保证。在正则条件下,估计量以极小极大最优速率收敛到预言带.提出了一种快速逼近算法和一种数据驱动的带宽选择方法。首先在模拟数据中说明该方法。应用结果表明,与传统的线性回归建模方法相比,该方法能自动给出理想的预测区间。
2012-03-24 cs.LG math.ST stat.ME