Evidential time-to-event prediction with calibrated uncertainty quantification
Saw Swee Hock School of Public Health, National University of Singapore(新加坡国立大学苏瑞福公共卫生学院);Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究所);Université de Technologie de Compiègne, CNRS, Heudiasyc(贡比涅技术大学、法国国家科研中心、Heudiasyc实验室);Institut universitaire de France(法国大学研究院)
针对事件发生时间预测中存在删失数据、缺乏不确定性校准的问题,提出基于高斯随机模糊数和信任函数的证据回归模型,在多类数据集上表现优于现有最优方法,可辅助临床决策。
2024-12-13 cs.LG
Imputation-free transformer learning enables robust Alzheimer's disease prediction and calibrated uncertainty quantification across heterogeneous clinical cohorts
Platform of Bioinformatics(生物信息平台);Lausanne University Hospital(洛桑大学医院);Faculty of Biology and Medicine(生物学与医学学院);University of Lausanne(洛桑大学);Leenaards Memory Centre(Leenaards记忆中心);Department of Clinical Neurosciences(临床神经科学系)
针对阿尔茨海默病临床数据问题,提出无插补变压器NITROGEN,通过特定注意力联合建模。经训练和评估,在跨队列任务中优势明显,还引入调整方法。证明无插补学习在队列转移下的区分能力,强调多方面评估模型对临床部署的重要性。
2026-07-15 cs.LG q-bio.NC
An Uncertainty-aware Loss Function for Training Neural Networks with Calibrated Predictions
University of Tehran(德黑兰大学);Deakin University(迪肯大学);University of Calgary(卡尔加里大学)
机器学习和深度学习方法的不确定性量化在增强对所获得结果的信任方面起着重要作用。近年来,许多不确定度量化方法被引入。蒙特卡罗丢弃(MC-丢弃)是量化深度学习方法中不确定性的最知名技术之一。在这项研究中,我们提出了两个新的损失函数结合交叉熵与预期校准误差(ECE)和预测熵(PE)。所获得的结果清楚地表明,新提出的损失函数导致具有校准的MC-Dropout方法。我们的研究结果证实了新的混合损失函数的巨大影响,在不牺牲模型的整体性能的情况下,最大限度地减少正确和不正确预测的不确定性估计分布之间的重叠。
2023-02-06 cs.CV cs.LG
Randomised Postiterations for Calibrated BayesCG
University of Southampton, United Kingdom(南安普顿大学,英国)
针对BayesCG方法校准差的问题,提出随机后迭代策略,在保持收敛特性的同时增强后验校准,并通过理论保证与数值实验验证其在不确定性量化中的有效性。
2025-08-12 cs.LG cs.NA math.NA
Fast Calibrated Explanations: Efficient and Uncertainty-Aware Explanations for Machine Learning Models
Jönköping University(延雪平大学);University of Bologna(博洛尼亚大学)
提出 Fast Calibrated Explanations,融合 ConformaSight 扰动技术与 CE 核心要素,在保留校准预测、局部特征重要性及不确定性量化的同时显著提升解释生成效率。
2024-10-28 cs.AI cs.CY cs.LG
Calibrated and Enhanced NRLMSIS 2.0 Model with Uncertainty Quantification
West Virginia University(西弗吉尼亚大学);Virginia Tech(弗吉尼亚理工学院暨州立大学);Space Environments Technologies(空间环境技术公司)
质谱仪和非相干散射雷达(MSIS)模型系列自20世纪70年代初以来一直在发展和改进。MSIS的最新版本是海军研究实验室(NRL)MSIS 2.0经验大气模式。NRLMSIS2.0提供了作为位置和空间天气条件的函数的物种密度、质量密度和温度估计。长期以来,MSIS模型一直是研究和运营界普遍选择的大气模型,但与许多模型一样,它不提供不确定性估计。在这项工作中,我们开发了一个基于机器学习(ML)的外逸层温度模型,该模型可与NRLMSIS 2.0一起使用,以相对于高保真卫星密度估计进行校准。我们的模型(称为MSIS-UQ)不是提供点估计,而是输出一个分布,该分布使用称为校准误差分数的度量进行评估。我们发现,MSIS-UQ去偏NRLMSIS 2.0导致模型和卫星密度之间的差异减少了25%,比空间部队的高精度卫星阻力模型更接近卫星密度11%。我们还显示了该模型的不确定性估计能力,通过生成物种密度,质量密度和温度的海拔剖面。这清楚地表明了NRLMSIS 2.0中外逸层温度概率如何影响密度和温度分布。另一项研究显示,相对于单独的NRLMSIS 2.0,风暴后过冷能力有所改善,增强了它可以捕捉的现象。
2022-08-24 cs.LG physics.space-ph
On double-descent in uncertainty quantification in overparametrized models
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);École Normale Supérieure - PSL(巴黎高等师范学院-巴黎文理研究大学);CNRS(法国国家科学研究中心)
本文在随机特征模型中对比了二元分类的不确定性度量,揭示了最优正则化估计器的校准曲线存在双重下降行为,并发现经验贝叶斯方法在过参数化下依然校准良好。
2023-05-23 cs.LG
Calibrated Reliable Regression using Maximum Mean Discrepancy
Tsinghua University(清华大学);RealAI(瑞莱智慧)
不确定性的准确量化对于机器学习的实际应用至关重要。然而,现代深度神经网络仍然会产生不可靠的预测不确定性,通常会产生过于自信的预测。在本文中,我们关注的是在回归任务中获得校准良好的预测。通过最小化核嵌入测度,我们提出了使用最大均值偏差的校准回归方法。理论上,当样本量足够大时,该方法的标定误差渐近收敛于零。在非平凡真实数据集上的实验表明,我们的方法可以产生校准良好和尖锐的预测区间,这优于相关的最先进的方法。
2020-10-28 cs.LG stat.ML
Calibrated Explanations: with Uncertainty Information and Counterfactuals
Jönköping University(延雪平大学);University of Borås(布罗斯大学)
本文提出名为Calibrated Explanations(CE)的新型特征重要性解释方法,基于Venn-Abers校准模型并量化特征权重与概率估计的不确定性,支持生成反事实解释,在25个基准数据集上验证了其快速、可靠、稳定和稳健的有效性。
2023-11-04 cs.AI cs.LG
Bayesian Metric Learning for Uncertainty Quantification in Image Retrieval
Technical University of Denmark(丹麦技术大学)
我们提出了第一个贝叶斯编码器的度量学习。我们不像以前的工作那样依赖于神经摊销,而是使用拉普拉斯近似来学习网络权重的分布。我们实现这一点,首先证明对比损失是一个有效的对数后验。然后,我们提出了三种方法,以确保一个正定的海森。最后,我们提出了一种新的广义高斯-牛顿近似的分解。从经验上讲,我们表明,我们的拉普拉斯度量学习器(LAM)估计校准良好的不确定性,可靠地检测出分布的例子,并产生最先进的预测性能。
2023-02-04 cs.CV cs.LG
Uncertainty quantification in automated valuation models with spatially weighted conformal prediction
University of Oslo(奥斯陆大学);North Carolina State University(北卡罗来纳州立大学)
针对房价预测中保形预测置信集因空间依赖性而校准不均的问题,提出基于空间加权非一致性分数的校准方法,并在奥斯陆房地产数据及模拟研究中验证了其能提升地理区域间覆盖范围的一致性。
2025-01-30 cs.LG stat.AP stat.ML
Neural density estimation and uncertainty quantification for laser induced breakdown spectroscopy spectra
Johns Hopkins University(约翰斯·霍普金斯大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
在高维谱数据中构造用于推断的概率密度通常是棘手的。在这项工作中,我们使用结构化谱潜在空间上的归一化流来估计这种密度,从而实现下游推理任务。此外,我们评估的方法不确定性量化时,预测未观测到的状态向量与每个光谱。我们证明了这种方法的激光诱导击穿光谱数据收集的ChemCam仪器上的火星漫游车Currency的能力。使用我们的方法,我们能够生成现实的光谱样本,并准确地预测状态向量与相关的校准良好的不确定性。我们预计,这种方法将使有效的光谱数据的概率建模,导致潜在的进步,在几个领域,包括分布外检测和灵敏度分析。
2021-08-17 cs.LG math.SP stat.ML
Post-Hoc Split-Point Self-Consistency Verification for Efficient, Unified Quantification of Aleatoric and Epistemic Uncertainty in Deep Learning
Department of Computer Science, University of Manchester(计算机科学系,曼彻斯特大学)
提出事后单次前向传播框架,通过分裂点分析分解预测残差并定义自洽性差异分数,无需重训模型即可联合量化偶然与认知不确定性,在最小开销下达到或超越现有UQ方法。
2025-09-17 cs.LG
ON-Traffic: An Operator Learning Framework for Online Traffic Flow Estimation and Uncertainty Quantification from Lagrangian Sensors
Eindhoven University of Technology(埃因霍温理工大学)
本文提出 ON-Traffic 深度算子网络与滚动时域学习框架,利用移动探测车辆数据和下游边界输入实现在线时空交通状态估计及不确定性量化。
2025-03-18 cs.AI cs.LG cs.SY
TCUQ: Single-Pass Uncertainty Quantification from Temporal Consistency with Streaming Conformal Calibration for TinyML
Multidisciplinary Faculty of Nador University Mohammed Premier Oujda(穆罕默德·布雷德·奥杰达大学多学科学院);Laboratory LaSTI, ENSAK Sultan Moulay Slimane University Khouribga(库尔希格大学拉斯特伊实验室)
TCUQ利用短时段时间一致性和流式共形校准,为TinyML设备提供单遍、无标签、低资源的不确定性监测,在精度下降和故障检测上显著优于早退和深度集成方法。
2025-08-18 cs.CL cs.LG
Inferring Structural Parameters of Low-Surface-Brightness-Galaxies with Uncertainty Quantification using Bayesian Neural Networks
University of Chicago(芝加哥大学);Kavli Institute for Cosmological Physics(卡夫利宇宙物理研究所);Fermi National Accelerator Laboratory(费米国家加速器实验室)
测量结构参数(尺寸、总亮度、光密度等)是对不同星系群进行定量描述的重要的第一步。在这项工作中,我们证明了贝叶斯神经网络(BNN)可以用于推理,与不确定性量化,这样的形态参数从模拟低表面亮度星系图像。与传统的轮廓拟合方法相比,我们表明,使用BNN获得的不确定性在幅度上是相当的,校准良好,参数的点估计更接近真实值。我们的方法也明显更快,随着大星系调查和天体物理学大数据时代的到来,这一点非常重要。
2022-07-07 astro-ph.GA astro-ph.IM cs.LG
Light-Weight Diffusion Multiplier and Uncertainty Quantification for Fourier Neural Operators
PhysicsX London, UK(PhysicsX伦敦)
针对傅里叶神经算子过度参数化且缺乏不确定性量化的问题,提出基于扩散乘子的轻量参数化DINOZAUR,以单时间参数替代稠密张量乘子,并借助贝叶斯先验实现校准的不确定性估计,在多个PDE基准上性能优异。
2025-10-17 cs.LG
Decision-Oriented Uncertainty Quantification for Risk Control in Earth System Spatiotemporal Foundation Models
Vanderbilt University(范德堡大学);City University of New York(纽约城市大学);Yale University(耶鲁大学);Wyze Inc.(Wyze公司);Northeastern University(东北大学);University of Southern California(南加州大学);Southwest University(西南大学)
提出决策导向不确定性量化框架,将地球系统时空基础模型的预测不确定性转化为行动条件风险,经效用感知校准后选择行动,显著降低决策遗憾与漏报率并提升期望效用。
2026-09-15 cs.LG
Laplace-PSN-IRT: Uncertainty Quantification for Neural Item Response Theory Models of LLM Benchmarks
Cimat(西马研究所)
研究针对大语言模型基准神经项目反应理论模型,提出拉普拉斯-PSN-IRT方法,通过近似贝叶斯后验推断增强模型,能恢复校准不确定性,可进行可信区间等分析,实验表明该方法在模型比较、信息稳定性及能力排名恢复等方面表现良好。
2026-07-29 cs.AI cs.LG stat.AP
Physics-Guided Machine Learning for Uncertainty Quantification in Turbulence Models
Department of Mechanical and Materials Engineering, Queen’s University(皇后大学机械与材料工程系);Institute of Mechanics, Chinese Academy of Sciences(中国科学院力学研究所)
本文提出用卷积神经网络调制EPM扰动幅值的混合方法,在保持物理一致性的同时改善湍流模型不确定性量化的校准效果,实验表明其不确定性估计比纯EPM更紧致且校准更优。
2025-11-07 cs.LG physics.flu-dyn
DiscoUQ: Structured Disagreement Analysis for Uncertainty Quantification in LLM Agent Ensembles
Temple University(Temple 大学)
本文提出DiscoUQ框架,通过分析代理间分歧的结构特性,提升不确定性量化效果,实验表明其在多个基准测试中表现优异,尤其在弱分歧层级表现突出。
2026-03-21 cs.CL cs.LG
Supervised Uncertainty Quantification for Segmentation with Multiple Annotations
University of Amsterdam(阿姆斯特丹大学);Radboud University Medical Center(拉德堡德大学医学中心)
预测不确定性的准确估计在诸如肺结分割的医疗场景中具有重要性。不幸的是,大多数现有的预测不确定性的工作不返回校准的不确定性估计,这可以在实践中使用。在这项工作中,我们利用多级注释的变化作为一个源的“地面实况”任意的不确定性,这可以被视为一个目标,在监督学习的问题。我们将这种真实的不确定性与ProbabilityU-Net相结合,并在LIDC-IDRI肺结节CT数据集和MICCAI 2012前列腺MRI数据集上进行测试。我们发现,我们能够提高预测的不确定性估计。我们还发现,我们可以提高样本精度和样本多样性。在实际应用中,我们的方法可以告知医生分割结果的置信度。
2022-05-27 cs.CV cs.LG stat.ML
NeuralSurv: Deep Survival Analysis with Bayesian Uncertainty Quantification
Imperial College London(帝国学院伦敦分校);University of Copenhagen(哥本哈根大学)
NeuralSurv通过贝叶斯不确定性量化提升深度生存分析的校准性能,结合新颖的数据增强方案和高效变分算法,在合成和真实数据中均表现出优越的模型性能。
2025-11-05 cs.LG stat.ML
Improvements on Uncertainty Quantification for Node Classification via Distance-Based Regularization
The University of Texas at Dallas(德克萨斯大学达拉斯分校);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
针对图节点分类中不确定性量化校准不佳的问题,提出基于距离的正则化方法,在八个数据集上优于现有方法,提升OOD和错误分类检测性能。
2023-11-10 cs.LG stat.ML
Calibration and Uncertainty Quantification of Bayesian Convolutional Neural Networks for Geophysical Applications
Earth Science Analytics(地球科学分析公司)
深度神经网络在地球科学中提供了许多潜在的应用,例如,人们可以说它们是预测地震数据集中断层的最先进方法。在定量储层表征工作流程中,通常合并预测的不确定性,因此此类地下模型应在其预测中提供校准的概率和相关的不确定性。研究表明,流行的基于深度学习的模型经常被错误校准,并且由于其确定性,无法解释其预测的不确定性。我们比较了三种不同的方法来获得概率模型的基础上卷积神经网络在贝叶斯形式主义,即深度集成,混凝土辍学,和随机加权平均高斯(SWAG)。这些方法始终适用于故障检测案例研究,其中Deep Ensembles使用独立训练的模型来提供故障概率,Concrete Dropout代表了对流行的Dropout技术的扩展,以近似贝叶斯神经网络,最后,我们应用SWAG,这是一种基于小批量随机梯度下降的贝叶斯推理等价性的最新方法。我们提供定量结果的模型校准和不确定性表示,以及定性结果的合成和真实的地震数据集。我们的研究结果表明,近似贝叶斯方法,混凝土辍学和SWAG,都提供了良好的校准的预测和不确定性属性在较低的计算成本相比,基线深度包围的方法。由此产生的不确定性也提供了进一步提高模型性能以及增强模型可解释性的可能性。
2021-05-25 cs.CV cs.LG physics.geo-ph
Uncertainty Quantification via Stable Distribution Propagation
University of Salzburg(萨尔茨堡大学);University of Konstanz(康斯坦茨大学);Stanford University(斯坦福大学);University of Bonn(波恩大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
提出基于局部线性化的稳定概率分布传播方法,在总变差距离下对ReLU非线性最优,可量化神经网络输出不确定性,在置信区间预测和分布外选择性预测中优于矩匹配等方法。
2024-02-13 cs.AI cs.LG
Minimal Ranks, Maximum Confidence: Parameter-efficient Uncertainty Quantification for LoRA
Jagiellonian University(雅盖隆大学)
针对标准LoRA缺乏不确定性量化机制、贝叶斯LoRA参数效率低且训练难的问题,提出基于子空间推断的参数高效贝叶斯LoRA,可在低维空间实现有效不确定性量化,兼顾效率、性能与校准效果。
2025-09-02 cs.LG
Trustworthy Classification through Rank-Based Conformal Prediction Sets
City University of Hong Kong(香港城市大学)
针对现代分类模型校准不佳和高维数据问题,提出基于排名的共形预测方法,构建可控大小的预测集,并通过理论分析和实验验证其在多种数据集上实现可靠不确定性量化。
2024-07-05 cs.LG
Algorithms with Calibrated Machine Learning Predictions
Department of Management Science \& Engineering, Stanford University, Stanford, CA, USA;Department of Computer Science, Stanford University, Stanford, CA, USA
本文提出校准作为连接预测信任与算法性能的桥梁,通过滑雪租赁和在线任务调度案例,展示校准预测在高方差环境下提升性能的效果。
2026-03-25 cs.DS cs.LG stat.ML
Building Calibrated Deep Models via Uncertainty Matching with Auxiliary Interval Predictors
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);Arizona State University(亚利桑那州立大学);IBM Research AI(IBM研究院人工智能部门)
随着深度学习在关键应用中的快速采用,经常会出现何时以及在多大程度上信任这些模型的问题,这就需要量化固有的不确定性。虽然识别解释模型随机性的所有来源具有挑战性,但通常使用置信区间来增强预测,以传达模型行为的预期变化。我们要求预测区间经过很好的校准,反映真实的不确定性,并且要尖锐。然而,已知用于获得预测区间的现有技术在这些标准中的至少一个中产生不令人满意的结果。为了应对这一挑战,我们开发了一种构建校准估计器的新方法。更具体地说,我们使用单独的模型进行预测和区间估计,并提出了一个双层优化问题,允许前者通过\textit{uncertainty matching}策略利用后者的估计。使用回归,时间序列预测和对象定位的实验,我们表明,我们的方法实现了显着改善现有的不确定性量化方法,无论是在模型保真度和校准误差。
2019-11-21 cs.LG stat.ML
Uncertainty quantification in neural network-based glucose prediction for diabetes
Gryphon Center for A.I. and Theoretical Sciences(格里芬人工智能与理论科学中心);University of Pennsylvania, Perelman School of Medicine(宾夕法尼亚大学佩雷尔曼医学院)
本文研究了用于1型糖尿病血糖预测和不良血糖事件识别的不确定性感知神经网络模型,通过LSTM、GRU和Transformer架构的三种序列模型,结合蒙特卡洛dropout或证据输出层进行不确定性量化,发现基于Transformer的模型在预测准确性和不确定性校准方面表现最佳。
2026-03-28 cs.LG physics.med-ph
Learning Active Subspaces for Effective and Scalable Uncertainty Quantification in Deep Neural Networks
Brookhaven National Laboratory(布鲁克海文国家实验室)
提出构建神经网络参数低维主动子空间的新方案,通过识别对输出影响最大的参数方向,结合蒙特卡洛采样或变分推断实现有效且可扩展的贝叶斯推断,为回归任务提供可靠的预测和不确定性估计。
2023-09-06 cs.LG stat.ME stat.ML
Patch-PODiff-ViT: Structured Latent Diffusion with Patchwise POD for Super-Resolution and Uncertainty Quantification
提出Patch-PODiff-ViT框架,使用分块本征正交分解(POD)定义固定线性正交基的潜在空间,结合Vision Transformer实现高效扩散,并通过线性解码器解析传播不确定性,在多个领域实现参数少、内存低且校准良好的超分辨率重建。
2026-07-01 cs.LG
Uncertainty Quantification Techniques for Space Weather Modeling: Thermospheric Density Application
West Virginia University(西弗吉尼亚大学)
近年来,机器学习(ML)经常被应用于空间天气(SW)问题。SW起源于太阳扰动,由它们在太阳和地球之间的系统内引起的复杂变化组成。这些系统是紧密耦合的,并没有得到很好的理解。这就需要有技巧的模型,并了解其预测的置信度。这种动力系统的一个例子是热层,地球高层大气的中性区域。我们无法预测它,这对卫星阻力和低地球轨道物体的避免碰撞操作产生了严重影响。即使有(假设)完美的驾驶员预测,我们对系统的不完整知识也会导致中性质量密度预测经常不准确。人们正在不断努力提高模型的准确性,但密度模型很少提供不确定性的估计。在这项工作中,我们提出了两种技术来开发非线性ML模型来预测热层密度,同时提供校准的不确定性估计:蒙特卡罗(MC)辍学和直接预测的概率分布,都使用预测密度(NLPD)的负对数损失函数。我们展示了在本地和全局数据集上训练的模型的性能。这表明,NLPD为两种技术提供了类似的结果,但直接概率方法具有低得多的计算成本。对于在SET HASDM密度数据库上回归的全局模型,我们在独立测试数据上实现了11%的误差,具有良好校准的不确定性估计。使用原位CHAMP密度数据集,这两种技术提供的测试误差约为13%。CHAMP模型(基于独立数据)在所有测试的预测区间内均在2%的完美校准范围内。该模型还可以用于获得在给定时期具有不确定性的全局预测。
2022-01-06 cs.LG physics.space-ph
Interpretable Human-Label-Free Deep Learning for Real-Bogus Classification with Uncertainty Quantification
Università degli Studi di Milano, Department of Computer Science(米兰大学计算机科学系);Aix Marseille Univ, CNRS/IN2P3, CPPM(阿ix马赛大学,CNRS/IN2P3,CPPM);Université Côte d’Azur, INRIA, CNRS, Laboratoire J.A.Dieudonné, Maasai team(滨海大学,INRIA,CNRS,J.A.Dieudonné实验室,Maasai团队);Université Côte d’Azur, Observatoire de la Côte d’Azur, CNRS, Laboratoire Lagrange(滨海大学,滨海天文台,CNRS,Lagrange实验室);Université de Liège, STAR Institute(列日大学,STAR研究所)
旨在开发无人工标注数据的真假分类框架,结合模拟瞬变注入与污染调查数据,用非对称协同教学训练双网络模型,评估性能并分析表示,提出低成本混合策略量化不确定性。
2026-07-07 astro-ph.GA astro-ph.HE astro-ph.IM
Quantum parameter estimation with uncertainty quantification from continuous measurement data using neural network ensembles
Department of Physics, University of Virginia, 382 McCormick Rd, Charlottesville, VA 22903, USA(弗吉尼亚大学物理系)
本文提出利用深度神经网络集合进行量子参数估计,同时实现不确定性量化,具有更快的推理速度和更好的不确定性校准能力。
2026-10-05 cs.LG quant-ph
Energy Score-Guided Neural Gaussian Mixture Model for Predictive Uncertainty Quantification
Kuang-Chi Institute of Advanced Technology(光启高等理工研究院)
本文提出NE-GMM模型,结合高斯混合模型与能量分数,提升预测不确定性量化能力,通过理论证明和实验验证其有效性。
2026-03-29 cs.LG stat.ML
Simple Yet Effective: An Information-Theoretic Approach to Multi-LLM Uncertainty Quantification
University of Colorado Anschutz Medical Campus(科罗拉多大学安舒茨医疗校园);University of Colorado Boulder(科罗拉多大学博尔德分校);University of Wisconsin Madison(威斯康星大学麦迪逊分校)
针对大语言模型表现不一致、现有不确定性量化研究忽略模型多样性的问题,提出基于信息论的MUSE方法,通过Jensen-Shannon散度聚合校准良好的多模型子集,提升了二分类任务的校准效果与预测性能,还可用于引导思维链蒸馏微调。
2025-09-05 cs.AI cs.CL cs.LG
Uncertainty Estimation and Calibration with Finite-State Probabilistic RNNs
NEC Laboratories Europe(NEC欧洲实验室)
不确定性量化对于构建可靠和可信的机器学习系统至关重要。我们建议通过递归时间步上的随机离散状态转换来估计递归神经网络(RNN)中的不确定性。模型的不确定性可以通过多次运行预测来量化,每次从经常性状态转换分布中采样,如果模型不确定,则可能导致不同的结果。除了不确定性量化,我们提出的方法在不同的设置提供了几个优点。所提出的方法可以(1)从数据中学习确定性和概率自动机,(2)在真实世界的分类任务中学习校准良好的模型,(3)提高分布外检测的性能,(4)控制强化学习中的探索-利用权衡。
2020-11-24 cs.LG
When in Doubt: Neural Non-Parametric Uncertainty Quantification for Epidemic Forecasting
Georgia Institute of Technology(佐治亚理工学院)
准确可靠的流行病预测是影响公共卫生规划和疾病缓解的重要问题。大多数现有的流行病预测模型忽略不确定性量化,导致错误校准的预测。最近在用于不确定性感知时间序列预测的深度神经模型方面的工作也有一些局限性;例如,很难在贝叶斯神经网络中指定有意义的先验,而像深度集成这样的方法在实践中计算成本很高。在本文中,我们填补了这一重要空白。我们将预测任务建模为概率生成过程,并提出了一个功能性神经过程模型EPIFNP,它直接模拟预测值的概率密度。EPIFNP利用动态随机相关图以非参数的方式对序列之间的相关性进行建模,并设计不同的随机潜变量从不同的角度捕捉函数的不确定性。我们在实时流感预测环境中进行的大量实验表明,EPIFNP在准确性和校准指标方面都显着优于以前的最先进模型,准确性高达2.5倍,校准高达2.4倍。此外,由于其生成过程的特性,EPIFNP可以学习当前季节与历史季节相似模式之间的关系,从而实现可解释的预测。除了流行病预测之外,EPIFNP还可以独立用于推进预测分析的深度序列模型中的原则性不确定性量化
2021-11-15 cs.AI cs.LG
Uncertainty Quantification for AI-Driven Crash Simulation Surrogates: A Comparative Study of Monte Carlo Dropout and Deep Ensemble on Open-Source Bumper Beam Benchmark
研究人工智能驱动碰撞模拟代理的不确定性量化,对蒙特卡洛随机失活和深度集成两种方法在开源管道上比较,用具体随机失活解决常见批评,经汽车碰撞模拟实验,揭示权衡,表明可低成本实现良好校准和无超参数的不确定性估计。
2026-07-22 cs.LG
Ribbon: Scalable Approximation and Robust Uncertainty Quantification
提出Ribbon方法,通过影响函数线性化近似贝叶斯自举不确定性,避免重复模型重拟合,在合成回归、MNIST分类和加州房价基准上实现竞争性预测与改进校准。
2026-06-26 cs.LG stat.ML
Adapting GT2-FLS for Uncertainty Quantification: A Blueprint Calibration Strategy
Istanbul Technical University(伊斯坦布尔技术大学)
本文提出一种GT2-FLS蓝图校准策略,通过查找表和无导数优化两种方法,在不重新训练的情况下高效适配任意覆盖率水平,显著降低UQ计算开销并在高维数据上取得优越性能。
2025-04-09 cs.LG
Neural Processes Maintain Calibrated Biomass Estimates Across Spatiotemporal Gaps and Disturbance
University of Cambridge(剑桥大学)
本文提出神经过程框架用于时空稀疏数据下的生物量估计,通过空间-时间对称建模实现校准的不确定性预测,适用于森林碳核算的MRV应用。
2026-04-11 cs.CE cs.LG
Two Birds with One Stone: Enhancing Uncertainty Quantification and Interpretability with Graph Functional Neural Process
School of Computational Science and Engineering(计算科学与工程学院)
针对图神经网络预测校准误差大、缺乏可解释性的问题,提出结合图函数神经过程与图生成模型的不确定性感知可解释图分类模型,通过交替优化训练,在五个数据集上的不确定性量化和可解释性均优于现有方法。
2025-08-23 cs.AI cs.LG
Reading Calibrated Uncertainty from Language Model Trajectories
University College London, London, United Kingdom(伦敦大学学院)
本文通过提取层间MLP更新的尺度不变几何特征,使用稀疏线性探针从语言模型内部激活轨迹中校准不确定性,在选择性弃权任务中优于最大softmax概率,最高提升21 AURC点。
2026-07-23 cs.LG
A Physics inspired Functional Operator for Model Uncertainty Quantification in the RKHS
University of Florida(佛罗里达大学)
精确量化模型预测的不确定性是机器学习中的一个关键问题。现有的贝叶斯方法,是高度迭代的,是昂贵的实施,往往无法准确地捕捉模型的真实后验,因为他们倾向于只选择中心时刻。我们提出了一个快速的单发不确定性量化框架,其中,而不是与传统的贝叶斯定义的模型权重概率密度函数(PDF),我们利用物理启发的功能运营商的模型权重在再生核希尔伯特空间(RKHS)的投影,以量化他们的不确定性在每个模型输出。模型权重的RKHS投影产生基于势场的模型权重PDF的解释,从而允许定义受物理学中的扰动理论启发的函数算子,其在特定模型输出处执行模型权重PDF(势场)的矩分解以量化其不确定性。我们将模型权重PDF的这种表示称为权重的量子信息势场(QIPF)。从这种方法中提取的矩自动分解指定模型输出的局部邻域中的权重PDF,并以极大的灵敏度确定给定预测周围权重PDF的局部异质性。因此,这些时刻提供了更清晰的估计预测的不确定性比贝叶斯方法的中心随机矩。实验评估不同的不确定性量化方法的误差检测能力的协变量移位测试数据显示,我们的方法是更精确和更好的校准比基线方法,同时计算速度更快。
2022-05-29 cs.IT cs.LG math.IT
UncertaINR: Uncertainty Quantification of End-to-End Implicit Neural Representations for Computed Tomography
University of California, Berkeley(加州大学伯克利分校);University of Oxford(牛津大学);Massachusetts Institute of Technology(麻省理工学院)
针对高风险场景下隐式神经表征推理的不确定性量化需求,提出贝叶斯重构方法UncertaINR,在CT重建中精度可比肩主流方法,且用少量验证图像就能实现更优校准。
2023-05-02 cs.CV cs.LG eess.IV
Uncertainty Quantification and Deep Ensembles
National University of Singapore(新加坡国立大学)
众所周知,深度学习方法存在校准问题:它们通常会产生过于自信的估计。这些问题在低数据制度下更加严重。虽然概率模型的校准得到了很好的研究,但在低数据状态下校准极度过度参数化的模型提出了独特的挑战。我们表明,深合奏不一定会导致改进的校准性能。事实上,我们证明了标准的集成方法,当与现代技术(如混合正则化)结合使用时,可能会导致校准较少的模型。本文探讨了在数据稀缺时利用深度学习的三种最简单、最常用的方法之间的相互作用:数据增强、集成和后处理校准方法。虽然标准的合奏技术肯定有助于提高准确性,我们证明,深合奏的校准依赖于微妙的权衡。我们还发现,当使用深度集成时,需要稍微调整温度缩放等校准方法,并且至关重要的是,需要在平均过程之后执行。我们的模拟表明,这种简单的策略可以减半的预期校准误差(ECE)的一系列基准分类问题相比,在低数据制度的标准深度合奏。
2021-11-02 cs.LG stat.ML
Enhancing Trust in Large Language Models via Uncertainty-Calibrated Fine-Tuning
Capital One, AI Labs(Capital One人工智能实验室);Wayve Technologies(Wayve技术公司);Intel Corporation(英特尔公司)
本文提出一种不确定性感知微调方法,用于提升大语言模型在自然语言生成任务中的不确定性估计能力,从而提高生成响应的可信度并减少幻觉现象。
2026-04-19 cs.AI cs.CL cs.LG
Model Accuracy and Data Heterogeneity Shape Uncertainty Quantification in Machine Learning Interatomic Potentials
Department of Materials Science and Engineering, Faculty of Mechanical Engineering, Delft University of Technology(材料科学与工程系,机械工程学院,代尔夫特理工大学);J. Mike Walker’66 Department of Mechanical Engineering, Texas A&M University(J. Mike Walker’66机械工程系,德克萨斯农工大学);Department of Materials Science & Engineering, Texas A&M University(材料科学与工程系,德克萨斯农工大学)
本研究探讨了机器学习原子间势中不确定性量化的两种策略,发现模型精度和数据异质性影响其性能,并提出聚类增强的局部D-最优性方法以改善异质性数据集上的新颖性检测。
2025-08-05 cond-mat.mtrl-sci cs.LG
UQ-SHRED: uncertainty quantification of shallow recurrent decoder networks for sparse sensing via engression
Autodesk Research(欧特克研究院)
UQ-SHRED通过engression方法,为稀疏传感问题提供不确定性量化,通过学习空间状态的预测分布,实现对复杂系统的高精度空间域重建。
2026-11-04 cs.CE cs.LG
Heteroscedastic Calibration of Uncertainty Estimators in Deep Learning
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
随着预测模型在高风险应用中的使用越来越多,不确定性量化(UQ)在深度学习中的作用变得至关重要。虽然存在大量用于测量深度不确定性的方法,但在实践中,发现由此产生的估计值校准不良,因此将其转化为可操作的见解具有挑战性。一种常见的解决方法是使用单独的重新校准步骤,该步骤调整估计值以补偿误校准。相反,我们建议将异方差回归目标重新用作校准的替代品,并使任何现有的不确定性估计器都能够进行固有校准。除了消除重新校准的需要外,这还使训练过程正规化。使用回归实验,我们证明了建议的异方差校准与两个流行的不确定性估计的有效性。
2019-10-30 cs.LG stat.ML
Machine-Learned HASDM Model with Uncertainty Quantification
West Virginia University(西弗吉尼亚大学);Space Environment Technologies(空间环境技术公司)
基于SET HASDM密度数据库建立了第一个具有稳健可靠不确定性估计的热层中性质量密度模式。该数据库由空间环境技术公司(SET)创建,包含来自美国太空部队高精度卫星阻力模型(HASDM)的20年输出,该模型代表了密度和阻力建模的最新技术水平。我们利用主成分分析(PCA)进行降维,创建用于训练非线性机器学习(ML)回归模型的系数。这些模型使用三个独特的损失函数:均方误差(MSE),预测密度的负对数(NLPD)和连续排序概率得分(CRPS)。三个输入集也进行了测试,表现出改进的性能时,引入地磁指数的时间历程。这些模型利用蒙特卡罗(MC)丢失来提供不确定性估计,并且使用NLPD损失函数可以在不牺牲模型准确性的情况下得到良好校准的不确定性估计(<10%平均绝对误差)。通过比较最好的HASDM-ML模型沿卫星轨道的HASDM数据库,我们发现,该模型提供了强大的和可靠的不确定性在密度空间在所有空间天气条件。风暴时间的比较表明,HASDM-ML在极端事件期间也提供了有意义的不确定性测量。
2021-09-16 cs.LG physics.space-ph