Enhancing Conformal Prediction Using E-Test Statistics
Cardiff University(卡迪夫大学);Imperial College London(伦敦帝国学院)
本文提出用E检验统计量替代传统p值,并引入BB预测器来增强共形预测的效能。
2024-03-28 cs.AI cs.LG math.ST
Optimal prediction for kernel-based semi-functional linear regression
在本文中,我们建立了一个半功能的线性模型,其中包括一个功能组件和一个不太光滑的非参数组件的最优收敛速度的预测。我们的研究结果表明,更平滑的功能组件可以学习与极大极小率,如果非参数组件是已知的。更具体地说,一个双惩罚最小二乘法采用再生核希尔伯特空间的框架内的功能和非参数分量的估计。利用表示者定理,提出了一种求解相应最优化问题的高效算法,该算法不需要迭代,正则化参数由广义交叉验证准则选择.数值研究证明了该方法的有效性,并验证了理论分析。
2021-10-29 math.ST stat.ML stat.TH
Nonparametric regression with modified ReLU networks
Institute of Environmental and Agricultural Biology (X-BIO), University of Tyumen(秋明大学生态与农业生物学研究所(X-BIO));University of Mississippi(密西西比大学)
我们考虑使用修改的ReLU神经网络进行回归估计,其中网络权重矩阵首先由函数$α$修改,然后乘以输入向量。我们给出了一个连续的分段线性函数$α$的例子,对于该函数,具有$l_1$和平方$l_2$惩罚的修改后的ReLU网络类上的经验风险最小化器达到了未知$β$ -平滑函数的最小最大预测率,直到对数因子。
2022-07-17 cs.LG math.ST stat.ML
Unifying Different Theories of Conformal Prediction
University of Chicago(芝加哥大学);University of California, Berkeley(加州大学伯克利分校)
本文统一了多种符合预测方法,揭示了其基于部分信息和条件分布的核心思想,并提出了新的理论保证和扩展。
2025-12-21 math.ST stat.TH
Localized Conformal Prediction: A Generalized Inference Framework for Conformal Prediction
我们提出了一个新的推理框架,称为本地化的共形预测。它概括了共形预测的框架,提供了一个单一的测试样本的自适应建设,强调这个测试样本周围的局部区域,并可以与不同的共形得分结构相结合。所提出的框架享有一个无约束的有限样本边际覆盖保证,它也提供了额外的本地覆盖保证在适当的假设。我们演示了如何改变从共形预测到局部共形预测使用几个共形分数,我们说明了通过数值例子的潜在收益。
2022-02-28 math.ST stat.ME stat.TH
Conformal e-testing
本文提出基于共形e预测的共形e检验方法,该方法继承共形检验的部分优势且有独特长处,系统讨论了其优势与局限性。
2024-11-02 math.ST stat.TH
Trimmed Conformal Prediction for High-Dimensional Models
在回归中,共形预测是以无分布的方式构造预测区间的一般方法。虽然保形预测保证了预测推理的强统计特性,但其固有的计算挑战引起了研究者的关注。在本文中,我们提出了一个新的框架,称为修剪共形预测(TCP),基于两个阶段的过程,修剪步骤和预测步骤。这个想法是使用一个初步的修剪步骤,以大大减少预测区间的可能值的范围,然后应用保形预测变得更加有效。与共形预测一样,TCP可以应用于任何回归方法,并进一步提供统计精度和计算增益。对于一个具体的例子,我们还展示了如何在稀疏回归设置中实现TCP。通过对合成数据和实际数据的实验,验证了TCP的经验性能.
2016-11-29 math.ST stat.TH
Approximate full conformal prediction in an RKHS
Laboratoire SAMM Université Paris 1 Panthéon-Sorbonne(SAMM实验室 巴黎第1大学帕特农-索邦大学);Safran Aircraft Engines(萨弗兰航空发动机)
研究全共形预测置信区域计算难的问题,提出设计紧密近似且可有效计算的通用策略,同时对近似紧密性进行理论量化,引入厚度概念量化近似区域与全共形区域差异。
2026-07-09 cs.LG math.ST stat.ML
Conformal prediction with localization
我们提出了一种称为局部共形预测的新方法,其中我们可以仅使用新测试样本周围的局部区域来进行共形推断以构建其置信区间。局部共形推理是共形推理的自然扩张。它将保形预报方法推广到可以打破数据交换的情况,从而赋予检验样本以特殊的作用。据我们所知,这是第一个工作,介绍了这样一个本地化的框架,共形预测。我们证明了我们的建议也可以有无约束和有限样本覆盖保证,我们比较了本地化的共形预测和共形预测在模拟中的行为。
2020-07-07 math.ST stat.ME stat.TH
Conditional validity and a fast approximation formula of full conformal prediction sets
本文证明全共形预测集在稳定性条件下具有训练条件保守性,提出计算更快的近似公式,并证明其与全共形、交叉共形及Jackknife等方法在渐近训练条件覆盖上等价。
2025-08-07 math.ST stat.TH
Minimax Adaptive Online Nonparametric Regression over Besov Spaces
本文针对Besov空间中的在线对抗回归问题,提出无需预知光滑性参数的小波自适应算法,并进一步设计局部自适应扩展以动态追踪空间非均匀光滑性,从而在异质环境中获得超越全局方法的更精细极小极大遗憾界。
2025-09-22 math.ST stat.ML stat.TH
Empirical Risk Minimization for Time Series: Nonparametric Performance Bounds for Prediction
Universitat Pompeu Fabra(庞培法布拉大学);Barcelona Graduate School of Economics(巴塞罗那经济学院)
经验风险最小化是学习理论中选择算法的标准原则。本文研究了时间序列经验风险最小化的性质。进行分析的一般框架,涵盖不同类型的预测应用中遇到的文献。我们关注的是由参数驱动过程产生的单变量时间序列的1步预测。针对时间序列的预测问题,提出了一类递归算法。算法是递归的,在这个意义上说,在一个给定的时期内产生的预测是预测的滞后值和时间序列的函数。时间序列的生成机制和算法类别之间的关系未指定。我们的主要结果建立了由经验风险最小化选择的算法渐近地实现了在该类算法内可达到的最优预测性能。
2021-08-11 cs.LG stat.ML
Exchangeability, Conformal Prediction, and Rank Tests
共形预测是近年来机器学习和统计学中一种非常流行的无分布预测推理方法。它的流行源于这样一个事实,即它可以作为任何预测算法(如神经网络或随机森林)的包装器。互换性是共形预测有效性的核心。交换率的概念也是非参数统计中广为人知的秩检验的核心。在本文中,我们回顾了交换的概念,并讨论了共形预测和秩检验的含义。我们提供了一个低层次的介绍这些主题,并讨论了共形预测和秩检验之间的相似之处。
2021-06-04 stat.AP stat.ME stat.ML
Conformal Prediction for Dyadic Regression Under Complex Missingness
Washington University in Saint Louis(华盛顿大学圣路易斯分校);University of Michigan(密歇根大学)
针对复杂缺失机制下的二元回归问题,提出共形预测框架,通过分布不变性条件替代可交换性,并利用双射论证处理随机子集样本,同时提出多种共形预测程序,包括图论加权方法,实现渐近条件有效性。
2026-09-17 math.ST stat.ME stat.ML
Conformal e-prediction
Vladimir Vovk(独立研究者)
该研究从现代视角系统重审共形预测与前身共形e预测的关系,指出共形e预测具备易设计条件预测器、交叉预测器有效性有保障等独有优势,且可模拟共形预测的部分优势。
2025-05-18 cs.LG stat.ML
Efficient and minimal length parametric conformal prediction regions
共形预测方法为在有限样本中有效的iid数据构造预测区域。我们提供了两个参数共形预测区域,适用于广泛的一类连续统计模型。这类统计模型包括具有连续结果的广义线性模型(GLM)。我们的参数共形预测区域具有有限的样本有效性,即使当模型是错误的,并渐近的最小长度时,模型是正确的指定。第一参数共形预测区域通过预测器空间的分箱构造,保证有限样本局部有效性,并且当预测器空间的维度$d$为1或2时在$\sqrt{\log(n)/n}$速率下渐近最小,并且当$d > 2$为1或2时在$O\{(\log(n)/n)^{1/d}\}$速率下收敛。第二参数共形预测区域是通过概率积分变换将结果变量变换为公共分布来构造的,保证有限样本边缘有效性,并且在$\sqrt{\log(n)/n}$速率下渐进最小。我们开发了一个新的集中不等式式的极大似然估计,诱导这些收敛速度。我们分析了预测区域覆盖特性,大样本效率,和鲁棒性的四种方法构建共形预测的GLM区间:完全非参数的基于内核的共形,基于残差的共形,归一化残差的共形,和参数共形使用假设的GLM密度作为一致性措施。广泛的模拟比较这些方法的标准渐近预测区域。参数共形预测区域的效用被证明在糖化血红蛋白水平,用于诊断糖尿病的血液测量的间隔预测的应用。
2019-10-25 math.ST stat.AP stat.ME
Full Conformal Prediction under Stochastic Non-Conformity Measure
Stanford University(斯坦福大学)
针对机器学习中随机非一致性度量导致传统全共形预测条件不充分的问题,提出条件独立与分布置换不变性作为新的充分条件,并验证其有效性。
2026-06-27 math.ST stat.ML stat.TH
Fuzzy Prediction Sets: Conformal Prediction with E-values
Erasmus University Rotterdam(鹿特丹伊拉斯姆斯大学)
本文提出模糊预测集,扩展了传统预测集,通过数据驱动的置信水平进行排除,继承e值的合并性质,并展示最优e值如何生成最优模糊预测集。
2026-03-31 math.ST stat.ME stat.ML
Efficient and Differentiable Conformal Prediction with General Function Classes
Salesforce Research(赛富时研究院);UC Berkeley(加州大学伯克利分校)
量化学习任务中的数据不确定性通常通过学习给定输入的标签的预测区间或预测集来完成。学习的预测集的两个常用属性是\emph{valid coverage}和\emph{good efficiency}(例如低长度或低基数)。保形预测是一种用于学习具有有效覆盖的预测集的强大技术,但默认情况下,其保形化步骤仅学习单个参数,并且不会优化更具表达性的函数类的效率。在本文中,我们提出了一个推广的共形预测多个可学习的参数,通过考虑约束的经验风险最小化(ERM)问题,找到最有效的预测集有效的经验覆盖。该元算法推广了现有的共形预测算法,我们表明,它实现了近似的有效人口覆盖率和类内接近最优的效率,只要在一致化步骤中的函数类在一定意义上是低容量的。接下来,这个ERM问题是具有挑战性的优化,因为它涉及到一个不可微的覆盖约束。我们开发了一个基于梯度的算法,它通过使用可微代理损失和拉格朗日近似的原始约束ERM。实验表明,该算法能够有效地学习预测集,并在改进长度的预测区间、用于多输出回归的最小体积预测集和用于图像分类的标签预测集等应用中显著提高了效率。
2022-05-29 cs.AI cs.LG math.ST
conformalClassification: A Conformal Prediction R Package for Classification
conformalClassification包为分类问题实现了Transductive共形预测(TCP)和归纳共形预测(ICP)。共形预测(CP)是一个框架,它通过可靠的置信度测量来补充机器学习算法的预测。TCP给出的结果具有比ICP更高的有效性,但是ICP在计算上比TCP更快。包conformalClassification基于随机森林方法构建,其中每个类的随机森林投票被认为是每个数据点的一致性得分。虽然conformalClassification包的主要目的是为分类问题生成CP错误(p值),但该包还实现了各种诊断措施,如有效性偏差,错误率,效率,观察到的模糊度和校准图。在未来的版本中,我们计划扩展该软件包以使用其他机器学习算法(例如支持向量机)进行模型拟合。
2018-04-16 cs.LG stat.ML
Fast Nonparametric Conditional Density Estimation
条件密度估计通过对全密度f(yjx)而不仅仅是期望值E(yjx)建模来推广回归。这对于许多任务都很重要,包括处理多模态和生成预测区间。尽管非参数条件密度估计是基本的且广泛适用,但统计学家对它的关注相对较少,机器学习社区对它的关注也很少或根本没有。这些工作都没有应用于大于二元数据,可能是由于数据驱动的带宽选择的计算难度。我们描述了双核条件密度估计和推导出快速双树为基础的算法,带宽选择使用极大似然标准。在我们的实验中,这些技术的加速高达380万,并使第一个应用程序,以前棘手的大型多元数据集,包括从斯隆数字巡天的红移预测问题。
2012-06-20 cs.LG stat.ME stat.ML
On the Validity of Conformal Prediction for Network Data Under Non-Uniform Sampling
本文将网络抽样建模为超总体上的选择事件,证明置换不变性与联合可交换性可保证保形预测有限样本有效,并给出随机游走抽样下加权保形预测的渐近有效性。
2023-07-13 math.ST stat.ME stat.ML
Multi-Scale Conformal Prediction: A Theoretical Framework with Coverage Guarantees
本文提出多尺度共形预测框架,通过在各尺度定义符合性函数并相交预测集,在保持有限样本覆盖保证的同时生成更小更精确的预测集。
2025-02-08 cs.SY eess.SY math.ST
Conformal Predictive Systems Under Covariate Shift
Ghent University(根特大学);imec(校际微电子中心);IDLab
本文提出加权保形预测系统(WCPS),利用训练与测试协变量分布间的似然比处理协变量偏移,扩展了CPS的适用范围,并在理论与实验上验证了其有效性与概率校准性。
2024-09-16 cs.LG stat.ML
Conformal Prediction for Time Series with Deep Sequence Models
Georgia Institute of Technology(佐治亚理工学院)
本研究系统探索深度序列模型在时间序列保形预测中的应用,提出三种方法并给出理论保证与实验验证。
2026-10-05 cs.LG stat.ML
A Conformal Prediction Approach to Explore Functional Data
Carnegie Mellon University(卡内基梅隆大学)
本文应用共形预测技术计算函数型数据的同时预测带和聚类树。这些工具可用于检测离群值和聚类。我们的预测带和聚类树都为底层随机过程提供了预测集,保证了有限样本行为,没有分布假设。预测集也是信息性的,因为它们对应于底层过程的高密度区域。虽然普通的共形预测有很高的计算成本的功能数据,我们使用的归纳共形预测,以及几个新的选择一致性得分,以简化计算。我们的方法说明了一些实际数据的例子。
2013-02-26 cs.LG stat.ML
On some practical challenges of conformal prediction
Department of Mathematical Sciences, The University of Texas at Dallas(德克萨斯大学达拉斯分校数学科学系)
本文探讨了符合预测方法在实际应用中的三个挑战,并提出了一种二次多项式非符合度量来同时解决这些挑战。
2026-03-30 cs.LG stat.ML
Distribution-Free Model-Agnostic Regression Calibration via Nonparametric Methods
Imperial College Business School, Imperial College London(帝国理工学院商学院)
本文提出无分布、模型无关的非参数回归校准方法,首次以最小假设同时实现个体校准和有限样本保证,并建立匹配的校准误差上下界。
2023-10-26 cs.LG stat.ME stat.ML
libconform v0.1.0: a Python library for conformal prediction
本文介绍了libconform v0.1.0,一个用于共形预测框架的Python库,在MIT许可下许可。libconform还不稳定。本文描述了实现的主要算法,并记录了libconform的API。还描述了有关未来版本中的实现和更改的一些细节。
2019-07-03 cs.LG stat.ML
E-Values Expand the Scope of Conformal Prediction
Inria(法国国家信息与自动化技术研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL Research University(巴黎 sciences-et-lettres 大学);University of California, Berkeley(加州大学伯克利分校)
本文提出基于e-值的共形e-预测方法,通过三个应用展示了其在批量任意时刻有效预测、固定大小共形集及模糊标签场景下超越传统p-值方法的优势,扩展了共形预测的理论与实践能力。
2025-05-06 cs.LG stat.ML
Conformalized Interval Arithmetic with Symmetric Calibration
City University of Hong Kong(香港城市大学);Alpha Benito Research(阿尔法贝尼托研究院)
本文提出一种对称校准的共形区间算术方法,将单一目标共形预测区间扩展到多目标总和或平均值的估计,并在置换不变假设下证明其有效性,在类别平均估计和路径成本预测任务中优于现有共形及非共形方法。
2025-01-02 cs.LG stat.ML
Conformal Prediction Intervals for Markov Decision Process Trajectories
Oregon State University(俄勒冈州立大学);SRI International(SRI国际)
在将任务委托给自治系统之前,人类操作员可能想要关于系统的行为的保证。本文扩展了以前的工作保形预测的功能数据和保形分位数回归提供保形预测区间的自治系统执行一个固定的控制策略上的马尔可夫决策过程(MDP)的未来行为。预测区间是通过对分位数回归计算的预测区间应用保形校正来构造的。所得到的区间保证所观察到的轨迹将以概率$1-δ$位于预测区间内,其中概率是相对于MDP的起始状态分布和随机性来计算的。该方法在入侵物种管理和StarCraft2战斗的MDP上进行了说明。
2022-06-21 cs.LG stat.ML
Aggregating Predictions on Multiple Non-disclosed Datasets using Conformal Prediction
Uppsala University(乌普萨拉大学);Royal Holloway, University of London(伦敦大学皇家霍洛威学院);Stena Line(Stena Line(斯特纳航运))
共形预测是一种机器学习方法,可在温和条件下产生有效的预测区域。在本文中,我们探讨了在不同大小的多个数据源上进行预测的应用,而不披露源之间的数据。我们建议,每个数据源应用一个独立的使用本地数据的转导共形预测,然后聚合的个人预测,形成一个组合的预测区域。我们在几个数据集上演示了该方法,并表明所提出的方法产生保守有效的预测,并减少了聚合预测的方差。我们还研究了数据源的数量和每个源的大小对聚合预测的影响,与同样大小的源和汇总数据相比。
2018-06-14 cs.LG stat.ML
Confident Object Detection via Conformal Prediction and Conformal Risk Control: an Application to Railway Signaling
Institut de Mathématiques de Toulouse(图卢兹数学研究所);SNCF(法国国家铁路公司);Brown University(布朗大学);Thales AVS France SAS(泰雷兹航空航天系统法国股份有限公司);IRT Saint Exupéry(圣埃克苏佩里技术研究所)
本文面向铁路信号检测,基于驾驶员视角图像数据集和先进目标检测器,评估多种保形预测方法并提出保形风险控制新方法,以提供形式化保证的不确定性界限。
2023-04-17 cs.LG stat.ML
conformalInference.multi and conformalInference.fd: Twin Packages for Conformal Prediction
共形预测方法建立在回归模型之上,生成无分布的预测集,仅需要i.i.d.。数据虽然已经开发了用于单变量响应框架的实现这种方法的R包,但对于多变量和函数响应,情况并非如此。conformalInference.multi和conformalInference.fd通过扩展经典和更高级的共形预测方法(如全共形、分裂共形、刀切+和多重分裂共形)来处理多变量和函数情况,从而解决了这一空白。共形预测的极端灵活性完全被软件包的结构所包含,它不需要任何特定的回归模型,使用户能够在使用基本回归模型作为参考的同时将任何回归函数作为输入。最后,可视化的问题是通过提供嵌入式绘图功能来可视化预测区域。
2022-06-29 stat.CO stat.ME
Conformal Prediction in Learning Under Privileged Information Paradigm with Applications in Drug Discovery
Uppsala University(乌普萨拉大学);AstraZeneca(阿斯利康)
本文探讨了特权信息下学习(LUPI)范式中的共形预测。我们使用SVM+实现的LUPI的归纳共形预测,并将其应用到MNIST基准数据集和三个数据集的药物发现。结果表明,使用特权信息产生有效的模型,并提高了效率相比,标准的SVM,但改善测试数据集之间的差异,并没有实质性的药物发现应用。更重要的是,在共形预测框架中使用SVM+可以在指定的显著性水平上实现有效的预测区间。
2018-04-04 cs.LG stat.AP stat.ML
Conformal Prediction Sets Improve Human Decision Making
Layer 6 AI;TD Securities(道明证券)
本文通过随机对照试验证明,向人类提供保形预测集相比固定大小预测集能显著提高决策准确性,表明量化模型不确定性有助于人在环决策和人机协作。
2024-06-10 cs.HC cs.LG stat.ML
From predictions to confidence intervals: an empirical study of conformal prediction methods for in-context learning
PSL Research University(PSL研究大学);EURECOM;Stellantis
本研究提出基于上下文学习的保形预测方法,在单次前向传播中构建具有保证覆盖率的预测区间,实现高效且稳健的不确定性估计,并建立缩放定律指导模型训练。
2025-04-22 cs.LG stat.ML
A tutorial on conformal prediction
共形预测使用过去的经验来确定新预测的精确置信度。给定错误概率$ε$,连同对标签$y$进行预测的方法$\hat{y}$,它产生一组标签,通常包含$\hat{y}$,其也包含概率为$1-ε$的$y$。共形预测可以应用于任何方法生产$\hat{y}$:最近邻法,一个支持向量机,岭回归等共形预测设计的在线设置中,标签被连续预测,每一个被揭示之前,下一个被预测。保形预测最新颖和最有价值的特征是,如果连续的样本是从同一分布独立采样的,那么连续的预测将是正确的$1-ε$的时间,即使它们是基于累积数据集而不是独立的数据集。除了连续样本独立采样的模型之外,其他在线压缩模型也可以使用保形预测。广泛使用的高斯线性模型就是其中之一。本教程介绍了一个自包含的帐户理论的共形预测和工程通过几个数值例子。关于这个主题的更全面的讨论是在Vladimir Vovk,Alex Gammerman和Glenn Shafer的“随机世界中的学习”(Springer,2005)中提供的。
2007-06-21 cs.LG stat.ML
Flow-based Conformal Prediction for Multi-dimensional Time Series
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(希拉德-米利斯坦斯通工业与系统工程学院,佐治亚理工学院)
本文提出基于流和分类器无指导的新型时间序列置信预测方法,解决观测相关性和非一致性评分的交换性假设问题,并构建多维输出的预测集,提供精确的覆盖保证。
2026-03-20 cs.LG stat.ML
Making learning more transparent using conformalized performance prediction
Osaka University(大阪大学)
在这项工作中,我们研究了一些新的应用保形推理技术的问题,提供机器学习程序更透明,准确,实用的性能保证。我们提供了传统的共形预测框架的自然扩展,以这样一种方式完成,当通过一个尚未见过的训练集时,我们可以对任意学习算法的未来性能做出有效和校准良好的预测声明。此外,我们包括一些新生的实证例子来说明潜在的应用。
2020-07-09 cs.LG stat.ML
Predictive Inference with Feature Conformal Prediction
Tsinghua University(清华大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Shanghai Qi Zhi Institute(上海期智研究院);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
本文提出 feature conformal prediction,通过利用深度表示学习的归纳偏置将 conformal prediction 扩展至语义特征空间,理论证明其在温和假设下优于常规方法,并在 ImageNet 等大规模任务上取得 SOTA 性能。
2023-04-08 cs.AI cs.LG stat.ME
Fast Conformal Prediction using Conditional Interquantile Intervals
本文提出CIR和CIR+方法,通过改进的分位数区间构建技术,实现高效且准确的符合预测,适用于处理偏斜分布和提高计算效率。
2026-01-06 cs.LG stat.ML
Improving Nonparametric Classification via Local Radial Regression with an Application to Stock Prediction
Kyoto University(京都大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);The Institute of Statistical Mathematics(统计数学研究所);NOMURA Asset Management Co., Ltd.(野村资产管理株式会社)
对于监督分类问题,本文考虑估计查询的标签概率,通过局部回归使用观察到的协变量。著名的非参数核平滑器和$k$ -最近邻($k$ -NN)估计,它采取标签平均超过一个球周围的查询,是一致的,但渐近偏置,特别是对于一个大半径的球。为了消除这种偏差,局部多项式回归(LPoR)和多尺度$k$ -NN(MS- $k$ -NN)通过查询周围的局部回归来学习偏差项,并将其外推到查询本身。然而,它们的理论最优性已被证明是无限数量的训练样本的限制。为了用较少的观测值校正渐近偏差,结合LPoR和MS- $k$ -NN的优点,提出了一种\emph{local radial regression (LRR)}及其逻辑斯谛回归变体\emph{local radial logistic regression~(LRLR)}.这个想法很简单:我们通过仅将径向距离作为解释变量来将局部回归拟合到观察到的标签,然后将估计的标签概率外推到零距离。所提出的方法的实用性的理论和实验。我们证明了$L^2$风险LRR的收敛速度参考MS- $k$ -NN,我们的数值实验,包括现实世界的股票指数数据集,表明LRLR优于LPoR和MS- $k$ -NN。
2022-07-22 cs.AI cs.LG stat.ME
Copula-based conformal prediction for Multi-Target Regression
HEUDIASYC - UMR CNRS 7253(法国国家科学研究中心7253联合研究单位 启发式与诊断复杂系统实验室);Université de Technologie de Compiègne(贡比涅技术大学)
有相对较少的作品处理多任务学习问题的共形预测,这是特别真实的多目标回归。本文重点讨论了提供有效(即,频率校准)多变量预测。为此,我们建议使用应用于深度神经网络的copula函数进行归纳共形预测。我们表明,所提出的方法,确保效率和有效性的多目标回归问题的各种数据集。
2021-01-28 cs.AI cs.LG stat.ML
Conformal prediction for text infilling and part-of-speech prediction
North Carolina State University(北卡罗来纳州立大学);University of Florida(佛罗里达大学);High Point University(高点大学);University of Louisiana, Lafayette(路易斯安那大学拉法叶分校)
现代机器学习算法能够提供非常准确的点预测;然而,关于其统计可靠性的问题仍然存在。与传统的机器学习方法不同,共形预测算法返回置信集(即,集值预测)。此外,这些置信度集是有效的,因为它们保证了对类型1错误概率的有限样本控制,允许从业者选择可接受的错误率。在本文中,我们提出了归纳共形预测(ICP)算法的文本填充和词性(POS)预测的自然语言数据的任务。我们构建了新的共形预测增强的双向编码器表示,从变压器(BERT)和双向长短期记忆(BiLSTM)算法的POS标记和一个新的共形预测增强的BERT算法的文本填充。我们分析了使用布朗语料库,其中包含超过57,000句模拟算法的性能。我们的研究结果表明,ICP算法能够产生有效的集值预测是足够小,适用于现实世界中的应用。我们还提供了一个真实的数据示例,说明我们提出的集值预测如何改善机器生成的音频传输。
2021-11-04 cs.LG stat.ML
MD-split+: Practical Local Conformal Inference in High Dimensions
Carnegie Mellon University(卡内基梅隆大学)
量化模型预测中的不确定性是寻求不仅仅是点预测的从业者的共同目标。一种需要最少假设的不确定性量化工具是共形推理,它可以帮助为黑盒模型创建概率有效的预测区域。经典的共形预测只提供边缘有效性,而在许多情况下,局部有效的预测区域是可取的。在应用局部共形预测时,决定如何最好地划分特征空间X仍然是一个悬而未决的问题。我们提出了MD分裂+,一个实用的局部共形方法,创建X分区的基础上本地化的模型性能的条件密度估计模型。我们的方法处理复杂的现实世界的数据设置,这些模型可能会被错误指定,并扩展到高维输入。我们讨论了我们的局部分区如何从一个无法实现的条件共形推理方法与预期的行为一致。我们还经验比较我们的方法对其他地方的共形方法。
2021-07-07 cs.LG stat.ML
Distribution-informed Online Conformal Prediction
School of Statistics and Data Science, LPMC, KLMDASR and LEBPS, Nankai University(南开大学统计与数据科学学院);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
本文提出了一种基于分布的在线适配预测算法COP,通过整合数据模式以生成更紧的预测集,同时保证覆盖率和减少后悔。
2026-02-24 cs.LG stat.ML
On the Out-of-Distribution Coverage of Combining Split Conformal Prediction and Bayesian Deep Learning
The MITRE Corporation(MITRE公司)
本研究探讨贝叶斯深度学习与拆分共形预测结合对多类别图像分类分布外覆盖性的影响,指出模型校准集置信度高低会带来不同效果,实验发现该结合在部分场景下会产生降低分布外覆盖性的意外后果。
2024-03-07 cs.LG stat.ML
Class-Conditional Conformal Prediction with Many Classes
University of California, Berkeley(加州大学伯克利分校);MIT(麻省理工学院)
本文提出聚类共形预测方法,通过将共形分数相似的类别聚类后在聚类级别进行预测,解决了多类别且每类标注数据有限时的类条件覆盖保证问题,并在最多1000类的图像数据集上验证了其优越性。
2023-10-27 cs.CV cs.LG stat.ME
Conformal Load Prediction with Transductive Graph Autoencoders
City University of Hong Kong(香港城市大学);Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
本文提出一种基于图神经网络和保形预测的边权重预测方法,结合误差重加权与保形分位数回归处理异方差性,在交通数据集上实现了优于基线的覆盖率和效率。
2024-06-12 cs.LG stat.ML
Distribution-Free Finite-Sample Guarantees and Split Conformal Prediction
University of Oxford(牛津大学);St. Anne’s College(圣安妮学院)
现代黑盒预测模型通常伴随着弱性能保证,仅在数据集的大小上渐近保持或需要强参数假设。针对这一点,分裂共形预测是一个有前途的途径,以获得有限样本的保证下最小的分布自由的假设。虽然预测集的有效性最经常关注的边缘覆盖,我们探索相关的,但不同的保证公差区域,重新制定已知的结果在语言的嵌套预测集和扩展的二元性之间的边缘覆盖和公差区域。此外,我们强调分裂共形预测和经典的公差预测在20世纪40年代,以及最近的事态发展,在分布免费的风险控制之间的联系。从经典公差预测器转移的一个结果是,基于顺序统计量的预测集的覆盖范围(以校准集为条件)是随机支配β分布的随机变量。我们证明了我们的研究结果的实证有效性合成和真实的数据集使用一个流行的分裂共形预测程序,称为共形分位数回归(CQR)。
2022-10-26 cs.LG stat.ML
Conformal Prediction for Time Series with Modern Hopfield Networks
Google Research(谷歌研究院)
针对时间序列自相关性破坏保形预测假设的问题,提出 HopCPT,利用现代 Hopfield 网络处理并借助时间依赖,在四个领域的多个真实数据集上取得优于现有方法的表现。
2023-11-02 cs.AI cs.LG stat.ML
Conformal Prediction Regions are Imprecise Highest Density Regions
The University of Manchester(曼彻斯特大学);Ludwig-Maximilian University(路德维希-马克西米利安大学)
该研究证明转导共形预测的共形转换器在一致性假设下推导的信度集对应的不精确最高密度区域(IHDR)即经典共形预测区域,还通过云概念建立共形预测与不精确概率理论的新联系,并发现一致性似然函数是幺半群同态这一新代数性质。
2025-04-18 cs.LG math.PR stat.ML