Efficiency of conformalized ridge regression
保形预测是一种产生预测集的方法,可以应用于各种预测算法之上。该方法在标准IID假设下具有保证的覆盖概率,而不管底层算法的假设(通常限制性更大)是否满足。然而,为了使该方法真正有用,希望在满足基础算法的假设的情况下,与基础算法相比,适形预测器在效率上损失很少(而作为适形预测器,它具有更强的有效性保证)。在本文中,我们探讨在贝叶斯岭回归的情况下,这种额外的要求是满足的程度,我们发现,渐近共形预测集不同的岭回归预测区间时,标准的贝叶斯假设得到满足。
2014-04-08 cs.LG stat.ML
Conformal bandits: bringing statistical validity and reward efficiency under weak arm separability
MEMOTEF, Sapienza Università di Roma(MEMOTEF,罗马大学)
Conformal Bandits通过整合符合预测,为小间隙领域提供了统计有效性和奖励效率,解决了传统老虎机策略在有限样本中的不足。
2026-08-04 cs.LG
Aggregation in conformal e-classification
本文研究了跨符合性e预测的实验,探讨了其修改版本在简化和灵活性方面的优势。
2026-08-11 cs.LG
Non-Asymptotic Analysis of Efficiency in Conformalized Regression
EPFL(洛桑联邦理工学院);Shanghai University of Finance and Economics(上海财经大学)
本文研究了符合化回归的非渐近效率界,通过SGD训练分位数和中位数回归,建立了预测集长度与理想区间的偏差界,揭示了不同误覆盖水平下的收敛率相变。
2026-03-05 cs.LG stat.ML
Test-time augmentation improves efficiency in conformal prediction
Massachusetts Institute of Technology(麻省理工学院);CSAIL(计算机科学与人工智能实验室)
本研究表明测试时增强(TTA)能有效减小共形分类器生成的预测集大小,该方法无需重训模型,可结合任意共形分数,平均将预测集减小10%-14%。
2025-05-28 cs.CV cs.LG
How Nonconformity Functions and Difficulty of Datasets Impact the Efficiency of Conformal Classifiers
University of Luxembourg(卢森堡大学)
保形预测的属性,以保证所需的准确率,使这个框架在各种实际应用中的吸引力。然而,这种特性是以精度降低为代价的。在保形分类的情况下,系统可以输出多个类别标签而不是一个。从文献中还可以看出,非一致性函数的选择对共形分类器的效率有重要影响。最近,它表明,不同的模型不可知的非一致性功能的结果在保形分类器具有不同的特点。对于基于神经网络的共形分类器,逆概率(或铰链损失)允许最小化预测标签的平均数量,并且余量导致更大比例的单例预测。在这项工作中,我们的目标是进一步扩展这项研究。我们使用8种不同的分类算法进行了实验评估,并讨论了先前观察到的关系是否成立。此外,我们提出了一个成功的方法来结合这两个非一致性函数的属性。使用11个真实数据集和5个合成数据集进行实验评估。
2021-08-12 cs.AI cs.LG
Enhanced Multi-model Online Conformal Prediction
Department of EECS University of California, Irvine Irvine, USA(电子工程与计算机科学系 加州大学尔湾分校 美国尔湾)
本研究提出一种增强的多模型在线置信预测算法,通过构建二分图选择有效模型以提高预测效率和计算性能。
2026-01-04 cs.LG
Inductive Conformal Prediction under Data Scarcity: Exploring the Impacts of Nonconformity Measures
Delft University of Technology(代尔夫特理工大学);Radboud University(拉德堡德大学)
本研究评估了数据稀缺下归纳共形预测中多种非一致性度量的表现,发现没有单一度量始终最优,且增加数据量不一定提升效率,需根据数据特性选择度量。
2024-10-13 cs.LG
Non-exchangeable Conformal Prediction for Temporal Graph Neural Networks
Virginia Polytechnic Institute and State University(弗吉尼亚理工大学);University of Rochester(罗切斯特大学);Dartmouth College(达特茅斯学院)
本文提出NCPNET框架,通过扩散非一致性分数和效率感知优化,解决时序图神经网络保形预测中因时序依赖导致的覆盖违规问题,并在多个真实数据集上验证了其保证覆盖和提升效率的能力。
2025-07-02 cs.LG
Conformal testing: binary case with Markov alternatives
我们继续研究二元模型情况下的保形检验。在这篇笔记中,我们考虑马尔可夫替代的原假设的交换。我们提出了两类新的共形检验鞅,一类是统计有效的,在我们的实验中,和其他类部分牺牲统计效率,以获得计算效率。
2021-11-02 cs.LG math.ST stat.TH
Cross-conformal predictors
本文介绍了交叉共形预测方法,它是归纳共形预测方法和交叉验证方法的混合,并对其有效性和预测效率进行了实证研究。
2012-08-03 cs.LG stat.ML
Does confidence calibration improve conformal prediction?
Southern University of Science and Technology(南方科技大学);Nanyang Technological University(南洋理工大学);University of Macau(澳门大学);Singapore University of Technology and Design(新加坡科技设计大学)
本文研究了置信度校准对自适应共形预测的影响,发现传统温度缩放会增大预测集,并提出带有新型损失函数的 ConfTS 方法以提升预测集效率,在分类任务尤其是 LLMs 中表现更优。
2024-12-23 cs.LG
Smoothing-Based Conformal Prediction for Balancing Efficiency and Interpretability
Shanghai University of Finance and Economics(上海财经大学);Fudan University(复旦大学)
针对 CD-split 预测集含多个不相连子区间、难以解释的问题,提出融入平滑操作的 SCD-split,在保持覆盖保证和区间长度的同时减少子区间数量。
2025-09-26 cs.LG stat.ML
Provably Minimum-Length Conformal Prediction Sets for Ordinal Classification
本文提出了一种模型无关的顺序CP方法,通过最小长度覆盖问题实现实例级最优预测区间,提升了预测效率。
2025-11-20 cs.LG
Accelerating Conformal Prediction via Approximate Leave-One-Out
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出利用近似留一法(ALO)估计量加速共形预测,理论证明渐近覆盖率和效率,模拟显示在保持性能的同时显著降低计算时间。
2026-07-01 cs.LG stat.ML
Graph Sparsification for Enhanced Conformal Prediction in Graph Neural Networks
The Ohio State University(俄亥俄州立大学)
针对图神经网络保形预测缺乏训练阶段优化的问题,提出融合图稀疏化与专属目标的SparGCP方法,过滤任务无关边以提升效率,实验显示其预测集规模平均缩小32%,可适配普通GPU上的大规模网络。
2024-10-28 cs.LG
Simultaneous Coverage and Efficiency Guarantee in Online Conformal Prediction
本文针对在线共形预测的三类局限,提出统一在线学习框架,在对抗、全得分反馈随机、协变量依赖随机场景下,分别推导或建立同时满足覆盖与效率保证的方法及相关理论结果。
2026-07-30 cs.DS cs.LG
Conformal Generative Modeling with Improved Sample Efficiency through Sequential Greedy Filtering
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Tübingen AI Center(图宾根人工智能中心);ELLIS Institute Tübingen(ELLIS图宾根研究所)
本文提出 SCOPE-Gen,利用顺序贪心过滤与马尔可夫式保形控制生成具有可接受性保证的预测集,显著减少专家评估次数并缩小集合规模。
2025-02-15 cs.AI cs.LG
Similarity-Navigated Conformal Prediction for Graph Neural Networks
Nanjing University(南京大学);Southern University of Science and Technology(南方科技大学);Nanyang Technological University(南洋理工大学)
针对图神经网络节点分类缺乏可靠不确定性估计的问题,提出 SNAPS 算法,利用特征相似性与结构邻域聚合非一致性分数,生成更紧凑预测集合并具备有限样本覆盖率保证。
2025-01-04 cs.LG
Uncertainty-Aware Transformers: Conformal Prediction for Language Models
本文提出CONFIDE框架,通过置信预测提升语言模型的可解释性和准确性,在BERT-tiny上测试准确率提升4.09%,并在资源受限和高风险任务中表现出鲁棒性和可解释性。
2026-04-10 cs.LG
Fast Conformal Prediction using Conditional Interquantile Intervals
本文提出CIR和CIR+方法,通过改进的分位数区间构建技术,实现高效且准确的符合预测,适用于处理偏斜分布和提高计算效率。
2026-01-06 cs.LG stat.ML
Optimizing In-Context Learning for Efficient Full Conformal Prediction
针对现有保形预测方法的数据效率或计算成本缺陷,本文提出E-ICL+FCP框架,通过CP感知损失训练的ICL模型模拟FCP重训练过程,实现了更优的效率-覆盖权衡。
2025-11-19 cs.LG
Improving the statistical efficiency of cross-conformal prediction
Department of Statistical Sciences, University of Padova(帕多瓦大学统计科学系);Department of Statistics and Data Science, Carnegie Mellon University(卡内基梅隆大学统计与数据科学系)
本研究针对交叉共形预测及其简单变体,基于利用可交换性与随机化的高效p值组合结果提出新变体,在保留原有覆盖率理论保证的同时缩小预测集,模拟验证了结论并揭示相关权衡。
2025-05-21 cs.LG stat.AP stat.ML
Set-Preserving Calibration from Conformal P-Values to E-Values
ETH Zurich(苏黎世联邦理工学院)
针对共形预测中p值到e值转换的局限性,提出一种集合保持的P2E校准器,在不改变预测集的前提下实现高效转换,并在交叉共形预测和共形聚合中达到期望覆盖并提升效率。
2026-06-02 cs.LG stat.ML
Fundamental bounds on efficiency-confidence trade-off for transductive conformal prediction
Qualcomm Technologies, Inc.(高通技术公司)
本文证明了转导共形预测中置信度与效率(预测集大小)之间存在严格有限样本界,指出非平凡置信度会导致预测集大小随数据固有不确定性呈指数增长,并提出了接近该界限的实用算法。
2026-05-29 cs.IT cs.LG math.IT
Provably Robust Conformal Prediction with Improved Efficiency
CSE, UCSD(加州大学圣迭戈分校计算机科学与工程系);ECE, Technion(以色列理工学院电气与计算机工程系);HDSI, UCSD(加州大学圣迭戈分校Halıcıoğlu数据科学研究所)
本文针对保形预测在对抗环境下覆盖率失效和预测集合过大的问题,提出 RSCP+ 框架修复鲁棒性保证缺陷,并通过 PTT 和 RCT 方法显著减小预测集合规模,在多个数据集上大幅提升效率。
2024-04-30 cs.AI cs.CV cs.LG
Beyond Conformal Predictors: Adaptive Conformal Inference with Confidence Predictors
Department of Mathematics, Stockholm University(数学系,斯德哥尔摩大学);Department of Computing, Jönköping School of Engineering(计算系,约克灵根工程学院)
本研究证明自适应保形推断的覆盖保证适用于更广泛的非保形置信预测器,在非可交换数据下提供计算优势并提升预测效率。
2025-06-26 cs.LG stat.ML
Adaptive Conformal Inference through the Lens of Blackwell Approachability
Université Paris-Saclay, CNRS, Inria, Laboratoire de mathématiques d’Orsay(巴黎-萨克雷大学、国家科学研究中心、法国国家信息与自动化技术研究院、奥赛数学实验室);EDF R&D, Palaiseau, France(EDF研发部、帕莱伊索,法国);HEC Paris, Jouy-en-Josas, France(巴黎HEC商学院、尤耶-恩-乔萨斯,法国)
研究自适应共形推理,将其表述为重复两人博弈,基于布莱克威尔可达性引入策略,能确保有效性并使预测区间效率适应对手随机程度,在多种场景下提供保证。
2026-07-16 cs.LG stat.ML
conformalClassification: A Conformal Prediction R Package for Classification
conformalClassification包为分类问题实现了Transductive共形预测(TCP)和归纳共形预测(ICP)。共形预测(CP)是一个框架,它通过可靠的置信度测量来补充机器学习算法的预测。TCP给出的结果具有比ICP更高的有效性,但是ICP在计算上比TCP更快。包conformalClassification基于随机森林方法构建,其中每个类的随机森林投票被认为是每个数据点的一致性得分。虽然conformalClassification包的主要目的是为分类问题生成CP错误(p值),但该包还实现了各种诊断措施,如有效性偏差,错误率,效率,观察到的模糊度和校准图。在未来的版本中,我们计划扩展该软件包以使用其他机器学习算法(例如支持向量机)进行模型拟合。
2018-04-16 cs.LG stat.ML
Efficient and Differentiable Conformal Prediction with General Function Classes
Salesforce Research(赛富时研究院);UC Berkeley(加州大学伯克利分校)
量化学习任务中的数据不确定性通常通过学习给定输入的标签的预测区间或预测集来完成。学习的预测集的两个常用属性是\emph{valid coverage}和\emph{good efficiency}(例如低长度或低基数)。保形预测是一种用于学习具有有效覆盖的预测集的强大技术,但默认情况下,其保形化步骤仅学习单个参数,并且不会优化更具表达性的函数类的效率。在本文中,我们提出了一个推广的共形预测多个可学习的参数,通过考虑约束的经验风险最小化(ERM)问题,找到最有效的预测集有效的经验覆盖。该元算法推广了现有的共形预测算法,我们表明,它实现了近似的有效人口覆盖率和类内接近最优的效率,只要在一致化步骤中的函数类在一定意义上是低容量的。接下来,这个ERM问题是具有挑战性的优化,因为它涉及到一个不可微的覆盖约束。我们开发了一个基于梯度的算法,它通过使用可微代理损失和拉格朗日近似的原始约束ERM。实验表明,该算法能够有效地学习预测集,并在改进长度的预测区间、用于多输出回归的最小体积预测集和用于图像分类的标签预测集等应用中显著提高了效率。
2022-05-29 cs.AI cs.LG math.ST
Conformal Risk-Averse Decision Making with Optimized Certainty Equivalent Risk Control
该研究针对智能体在系统状态不确定时的风险厌恶决策问题,提出基于优化确定性等价(OCE)的风险控制策略,将已知分布下的最优策略简化为CVaR的预测集解,并通过数据驱动校准策略在无线波束成形场景中验证了其OCE风险高概率控制效果。
2026-08-31 cs.AI cs.IT cs.LG
SPACR: Single-Pass Adaptive Training of Uncertainty-Aware Conformal Regressors
Heudiasyc - UMR CNRS 7253, Université de Technologie de Compiègne(法国贡比涅技术大学 - CNRS 7253联合实验室 Heudiasyc)
提出SPACR方法,通过可微损失直接训练不确定性感知回归器,联合优化效率和有效性,无需批分割或预定义置信水平,单个模型在推理时支持多置信水平预测区间,实验表明其区间更窄、覆盖-效率权衡更优且计算成本更低。
2026-10-30 cs.LG stat.ME stat.ML
Differentially Private Conformal Prediction
School of Mathematics and Statistics(数学与统计学学院);Beijing Jiaotong University(北京交通大学);Department of Mathematical and Statistical Sciences(数学与统计学系);University of Alberta(阿尔伯塔大学)
本文研究如何在统计效率下将符合预测应用于差分隐私。提出差分符合预测,结合差分隐私模型训练和隐私量化机制,提供端到端隐私保障,并在实验证明其预测集更紧。
2026-04-19 cs.LG stat.ML
Online Conformal Prediction: Enforcing monotonicity via Online Optimization
University of Michigan(密歇根大学)
本文提出两种新的在线置信预测方法,生成不同置信水平下的嵌套预测集,实现整个风险范围的不确定性量化。方法通过在线优化控制后悔,提高统计效率。
2026-05-12 cs.LG stat.ML
SConU: Selective Conformal Uncertainty in Large Language Models
University of Electronic Science and Technology of China(电子科技大学);Drexel University(德雷塞尔大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出SConU方法,通过开发两个保形p值实现显著性检验,以识别违反可交换性假设的异常值,从而严格管理单领域和跨学科背景下的误覆盖率并提升预测效率。
2025-06-28 cs.AI cs.CL cs.LG
Conformal Classification with Equalized Coverage for Adaptively Selected Groups
University of Southern California(南加州大学)
本研究提出一种面向自适应选择分组的共形分类方法,通过生成带有效条件覆盖率的预测集评估分类不确定性,在预测效率与敏感群体算法公平性间实现折中,并在模拟和真实数据集上验证了有效性。
2024-10-30 cs.LG stat.ML
Conformal Load Prediction with Transductive Graph Autoencoders
City University of Hong Kong(香港城市大学);Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
本文提出一种基于图神经网络和保形预测的边权重预测方法,结合误差重加权与保形分位数回归处理异方差性,在交通数据集上实现了优于基线的覆盖率和效率。
2024-06-12 cs.LG stat.ML
Weighted Aggregation of Conformity Scores for Classification
City University of Hong Kong(香港城市大学);Alpha Benito Research(阿尔法贝尼托研究院)
本文提出一种结合多个得分函数并最小化预测集大小的共形预测方法,在保持有效覆盖的同时提升了分类任务中预测的效率与实用性。
2025-03-04 cs.LG stat.ML
Conformal Prediction in Learning Under Privileged Information Paradigm with Applications in Drug Discovery
Uppsala University(乌普萨拉大学);AstraZeneca(阿斯利康)
本文探讨了特权信息下学习(LUPI)范式中的共形预测。我们使用SVM+实现的LUPI的归纳共形预测,并将其应用到MNIST基准数据集和三个数据集的药物发现。结果表明,使用特权信息产生有效的模型,并提高了效率相比,标准的SVM,但改善测试数据集之间的差异,并没有实质性的药物发现应用。更重要的是,在共形预测框架中使用SVM+可以在指定的显著性水平上实现有效的预测区间。
2018-04-04 cs.LG stat.AP stat.ML
Rethinking the Sampling Criteria in Reinforcement Learning for LLM Reasoning: A Competence-Difficulty Alignment Perspective
本文提出CDAS方法,通过能力-难度对齐提升大语言模型推理的准确性和效率。
2026-01-30 cs.AI cs.LG
Retrain or not retrain: Conformal test martingales for change-point detection
我们主张通过建立一个用于检测数据分布变化和算法需要重新训练的时刻的方案来补充训练预测算法的过程。我们提出的方案是基于交换鞅,即,在数据的任何可交换分布下都是鞅的过程。我们的方法,基于共形预测,是通用的,可以应用于任何现代预测算法之上。它的有效性是有保证的,在本文中,我们在探索其效率的第一步。
2021-02-20 cs.LG stat.ML
Copula-based conformal prediction for Multi-Target Regression
HEUDIASYC - UMR CNRS 7253(法国国家科学研究中心7253联合研究单位 启发式与诊断复杂系统实验室);Université de Technologie de Compiègne(贡比涅技术大学)
有相对较少的作品处理多任务学习问题的共形预测,这是特别真实的多目标回归。本文重点讨论了提供有效(即,频率校准)多变量预测。为此,我们建议使用应用于深度神经网络的copula函数进行归纳共形预测。我们表明,所提出的方法,确保效率和有效性的多目标回归问题的各种数据集。
2021-01-28 cs.AI cs.LG stat.ML
PAC-Bayes Generalization Certificates for Learned Inductive Conformal Prediction
NVIDIA Research(英伟达研究院);Princeton University(普林斯顿大学);Harvard University(哈佛大学);Stanford University(斯坦福大学)
本文针对学习型 ICP 预测集合的覆盖率与效率泛化问题,提出 PAC-Bayes 泛化界及可利用全部校准数据联合微调模型与评分函数的算法,在低数据回归和分类任务上优于 Hoeffding 基线。
2023-12-07 cs.LG stat.ML
Sequential Confidence Sets for Coverage-Constrained Conformal Model Selection
Jinan University(暨南大学)
本文提出CC-SMCS方法,通过同时鞅置信序列构建序贯置信集,在覆盖率硬约束下识别约束最优流水线,提供有限样本保证且无需平稳性假设。
2026-09-25 cs.LG stat.ML
Semiparametric conformal prediction
Prescient Design, Genentech(普雷赛特设计公司,基因泰克);Stanford University(斯坦福大学);New York University(纽约大学)
本文提出一种半参数共形预测方法,利用非参数 vine copulas 估计向量值非一致性分数的联合分布,并通过影响函数提升分位数估计效率,在保证渐近精确覆盖的同时可扩展到大量目标变量。
2025-03-11 cs.LG stat.ML
Scaling Full Conformal Image Classifiers
ETH Zürich(苏黎世联邦理工学院)
针对全共形预测计算成本高的问题,提出目标全共形预测(T-FCP),利用零样本视觉语言模型剪枝标签,仅对候选子集应用FCP,在保持覆盖保证的同时降低开销,并在ImageNet等基准上实现高效稳定的预测集。
2026-09-30 cs.CV cs.LG
The Penalized Inverse Probability Measure for Conformal Classification
IMS, CNRS, University of Bordeaux(波尔多大学、法国国家科学研究中心、IMS研究所);EXXACT Robotics(EXXACT机器人公司);Bordeaux Sciences Agro(波尔多农业科学学院)
本文提出 PIP 非一致性评分及其正则化版本 RePIP,用于联合优化保形分类的集合效率与单元素预测信息量,并在作物和杂草图像分类中验证其优势。
2024-06-13 cs.CV cs.LG stat.ML
Enhancing reliability in prediction intervals using point forecasters: Heteroscedastic Quantile Regression and Width-Adaptive Conformal Inference
Universidad Politécnica de Madrid(马德里理工大学);Escuela Técnica Superior de Ingenieros Industriales(高等工业工程学院);Laboratorio de Estadística(统计实验室)
针对时间序列预测区间构建难题,提出结合异方差分位数回归与宽度自适应共形推断的方法,兼顾理论覆盖率与宽度自适应,经合成及真实电价数据验证,在有效性、效率及实用性上表现优异。
2025-01-17 cs.LG stat.ME stat.ML
ConRad: Efficient Conformal Prediction for Radiomics
Department of Electrical & Computer Engineering, Rice University(电气与计算机工程系, Rice大学)
研究针对放射组学中分割模型问题,提出ConRad共形框架,利用预测掩码等派生协变量构建自适应区间,在五个二维医学成像数据集及171个放射组学目标上实验,提高了特征级效率且保持覆盖率,消融结果显示分割边界不确定性特征贡献大。
2026-07-10 cs.CV cs.LG eess.IV
Length Optimization in Conformal Prediction
University of Pennsylvania(宾夕法尼亚大学)
针对共形预测中条件有效性与长度效率难以兼顾的问题,提出带长度优化的共形预测框架CPL,可在多类协变量偏移下保证条件有效性并实现(近)最优预测集长度,实验表现优于现有最优方法。
2024-12-11 cs.AI cs.LG stat.ME
Identifying Best Practice Melting Patterns in Induction Furnaces: A Data-Driven Approach Using Time Series KMeans Clustering and Multi-Criteria Decision Making
University of Southern Denmark(南丹麦大学)
本文提出一种基于时间序列 K-means 聚类与多准则决策的数据驱动方法,通过分析感应炉温度曲线识别出最佳熔化模式簇,实施后使电力成本降低 8.6%,有效提升了能源效率。
2024-01-09 cs.LG cs.NA cs.PF
Online Conformal Prediction with Efficiency Guarantees
Department of Computer Science, Northwestern University(计算机科学系,西北大学)
该研究在新型在线共形预测框架下,针对可交换与任意输入序列分别推导了覆盖性与区间效率的理论边界,提出确定性匹配算法实现帕累托最优权衡,填补了经典在线学习未覆盖的场景空白。
2025-10-22 cs.DS cs.LG math.ST