Graph-Smoothed Bayesian Black-Box Shift Estimator and Its Information Geometry
School of Mathematics and Statistics（数学与统计学学院）；The University of Melbourne（墨尔本大学）
提出图平滑贝叶斯黑盒偏移估计器GS-B$^3$SE，利用拉普拉斯-高斯先验和标签相似性图，实现可识别、快速且鲁棒的标签偏移估计，并推广了现有方法。
2025-05-22 cs.LG stat.ML
Jailbreaks for Black-Box Uncertainty Quantification in Large Reasoning Models
Petscraft；Inria（法国国家信息与自动化研究所）；Université Paris-Saclay（巴黎萨克雷大学）；INSA CVL（法国国立应用科学学院中央-卢瓦尔河谷校区）；LIFO（LIFO实验室）
针对大推理模型黑盒不确定性量化中过度自信问题，提出提示级松弛算子与J4U越狱技术，显著提升校准效果，平均ECE降低达5倍。
2026-09-29 cs.AI cs.CL cs.LG
Output-Weighted Optimal Sampling for Bayesian Experimental Design and Uncertainty Quantification
Massachusetts Institute of Technology（麻省理工学院）
我们介绍了一类采集功能的样本选择，导致更快的收敛，贝叶斯试验设计和不确定性量化相关的应用程序。该方法遵循主动学习的范式，即利用黑盒函数的现有样本来优化下一个信息量最大的样本。所提出的方法旨在利用黑盒函数的某些输入方向对输出的影响比其他方向更大的事实，这对于表现出罕见和极端事件的系统尤其重要。在这项工作中引入的采集函数利用了似然比的属性，该似然比是一个充当概率采样权重并将主动学习算法引导到被认为最相关的输入空间区域的量。我们证明了所提出的方法在水文系统的不确定性量化以及动力系统中罕见事件的概率量化及其前兆识别方面的优越性。
2021-04-08 cs.IT cs.LG math.IT
Lightning UQ Box: A Comprehensive Framework for Uncertainty Quantification in Deep Learning
Technical University of Munich（慕尼黑工业大学）；German Aerospace Center (DLR)（德国航空航天中心）；Siemens AG（西门子股份公司）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出Lightning UQ Box统一框架，集成多种最先进UQ方法，并通过热带气旋风速估计和太阳能板功率预测两个视觉任务进行理论与定量比较，为UQ方法提供基准测试平台。
2024-10-04 cs.CV cs.LG
Multi-level Monte Carlo Dropout for Efficient Uncertainty Quantification
Institute for Mathematical Innovation University of Bath, Bath, UK（数学创新研究所 英国巴斯大学）；Department of Mathematical Sciences University of Bath, Bath, UK（数学科学系 英国巴斯大学）
本文提出多级蒙特卡洛Dropout方法，通过重用Dropout掩码减少采样方差，提升不确定性量化的效率。
2026-01-19 cs.LG stat.CO stat.ML
Black-box Uncertainty Quantification Method for LLM-as-a-Judge
IBM Research（IBM研究院）
本文提出一种针对LLM-as-a-Judge的黑盒不确定性量化方法，通过分析评估与评分关系并基于token概率构建混淆矩阵生成不确定性标签，显著提升了LLM评估的可靠性与一致性。
2024-10-15 cs.AI cs.LG
Contrast Agent Quantification by Using Spatial Information in Dynamic Contrast Enhanced MRI
本研究的目的是研究一种方法，使用模拟，以改善动态对比增强MRI中的造影剂定量。贝叶斯分层模型（BHM）被应用于较小的图像（$10\times10\times10$），使得可以并入空间信息。然后通过使用最大后验概率（MAP）对较大图像（$64\times64\times64$）进行探索性分析。对于较小的图像：对于3T下12通道头部线圈的噪声电平等效物，与现有方法中的估计器相比，所提出的BHM的估计器在根均方误差方面显示出改进。此外，Leroux模型的性能优于Besag模型。对于较大的图像：MAP估计器也显示出通过分配Leroux先验的改进。
2017-01-23 stat.AP
A Novel Framework for Uncertainty Quantification via Proper Scores for Classification and Beyond
本研究提出一种基于适当评分的机器学习不确定性量化新框架，通过理论结果连接多类不确定性与模型校准，提出偏差-方差分解等方法，在多领域评估生成模型且性能优于基线，还推广校准分解并提出新估计器。
2025-08-25 cs.LG stat.ML
Uncertainty Quantification and Causal Considerations for Off-Policy Decision Making
针对离策略评估的统计不确定性与因果局限，提出边际比率估计器降低方差、共形离策略预测提供有限样本区间、序贯决策因果边界，为鲁棒决策及策略评估提供新方法与见解。
2025-02-09 cs.LG stat.ML
Partially Interpretable Estimators (PIE): Black-Box-Refined Interpretable Machine Learning
University of Iowa（爱荷华大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们提出了部分可解释估计器（PIE），它通过可解释模型将预测归因于单个特征，而PIE预测的一小部分（可能）归因于通过黑盒模型的特征相互作用，其目标是在保持可解释性的同时提高预测性能。因此，可解释的模型捕获特征的主要贡献，而黑盒模型试图通过捕获特征交互的“细微差别”作为细化来补充可解释的部分。我们设计了一个迭代训练算法来联合训练这两类模型。实验结果表明，PIE是非常有竞争力的黑箱模型，同时优于可解释的基线。此外，PIE的可理解性与通过人工评估验证的简单线性模型相当。
2021-05-06 cs.AI cs.LG
MaskVal: Simple but Effective Uncertainty Quantification for 6D Pose Estimation
BMW Group（宝马集团）；Freie Universitaet Berlin（柏林自由大学）
本文提出MaskVal，一种无需修改姿态估计器、通过渲染对比实例分割来量化6D姿态不确定性的简单方法，在数据集和机器人装置上显著优于现有集成方法，并提出了面向机器人操作的不确定性量化评估新方法。
2024-09-05 cs.CV cs.LG cs.RO
Uncertainty Quantification For Low-Rank Matrix Completion With Heterogeneous and Sub-Exponential Noise
Massachusetts Institute of Technology（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）
低秩矩阵完成与异构和次指数（相对于均匀和高斯）噪声的问题是特别相关的一些应用在现代商业。例子包括小组销售数据和从网络商务系统（如推荐引擎）收集的数据。一个重要的未解决的问题，这个问题是描述下常见的低秩估计估计矩阵元素的分布。这样的特性是必不可少的任何应用，需要量化的不确定性，在这些估计，迄今为止，只有在假设均匀高斯噪声。在这里，我们的特点估计矩阵条目的分布时，观察噪声是异构的次指数，并提供，作为一个应用程序，明确的公式，这种分布时，观察到的条目是泊松分布或二进制分布。
2021-10-22 cs.LG stat.ML
Benchmarking Uncertainty Disentanglement: Specialized Uncertainties for Specialized Tasks
University of Tübingen（蒂宾根大学）；Tübingen AI Center（蒂宾根人工智能中心）
本文针对不确定性解耦构建首个基准，在ImageNet多种不确定性任务上评估多类估计器，发现现有方法无法提供解耦估计器对，特定任务更难，为任务选估计器提供建议并揭示研究机遇。
2024-11-27 cs.LG stat.ML
Estimating Semantic Alphabet Size for LLM Uncertainty Quantification
George Washington University（乔治·华盛顿大学）；LMI Consulting（LMI咨询公司）；University of Virginia（弗吉尼亚大学）
本文提出了一种改进的语义字母表大小估计器，用于更准确地估计LLM的不确定性，同时保持高可解释性。
2026-02-06 cs.CL cs.LG
Heteroscedastic Calibration of Uncertainty Estimators in Deep Learning
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
随着预测模型在高风险应用中的使用越来越多，不确定性量化（UQ）在深度学习中的作用变得至关重要。虽然存在大量用于测量深度不确定性的方法，但在实践中，发现由此产生的估计值校准不良，因此将其转化为可操作的见解具有挑战性。一种常见的解决方法是使用单独的重新校准步骤，该步骤调整估计值以补偿误校准。相反，我们建议将异方差回归目标重新用作校准的替代品，并使任何现有的不确定性估计器都能够进行固有校准。除了消除重新校准的需要外，这还使训练过程正规化。使用回归实验，我们证明了建议的异方差校准与两个流行的不确定性估计的有效性。
2019-10-30 cs.LG stat.ML
Bayesian Covariance Uncertainty for Adaptive Pilot-Sampling Termination in Multi-fidelity Uncertainty Quantification
针对多保真度不确定性量化中试点采样终止的预算分配难题，提出贝叶斯协方差不确定性框架，通过γ-高斯先验量化协方差不确定性并实现自适应终止，在基准和达西流问题上验证了其在有限预算下的高效性与方差减少能力。
2025-08-25 stat.ME
Uncertainty Estimation and Quantification for LLMs: A Simple Supervised Approach
University of North Carolina（北卡罗来纳大学）；Tsinghua University（清华大学）；HKUST(GZ)（香港科技大学（广州））；Imperial College London（伦敦帝国学院）
本文提出一种利用隐藏激活和带标签数据的监督方法，用于LLM不确定性估计，并证明其能提升校准性能且适用于黑盒、灰盒和白盒场景。
2024-10-23 cs.CL cs.LG
Inference and Uncertainty Quantification for Noisy Matrix Completion
Princeton University（普林斯顿大学）
噪声矩阵完备化的目的是估计一个低秩矩阵，只有部分和损坏的条目。尽管在设计有效的估计算法方面取得了实质性进展，但在很大程度上仍然不清楚如何评估所获得的估计的不确定性以及如何对未知矩阵（例如，为看不见的条目构造有效且短的置信区间）。本文采取了一个步骤的推理和不确定性量化噪声矩阵完成。我们开发了一个简单的程序来补偿广泛使用的凸和非凸估计的偏差。由此产生的去偏估计承认几乎精确的非渐近分布特征，这反过来又使置信区间\，/\，区域的最佳建设，说，丢失的条目和低秩的因素。我们的推理过程不依赖于样本分割，从而避免了不必要的数据效率损失。作为一个副产品，我们得到了我们的去偏估计，这是据我们所知，是第一个易于处理的算法，可证明达到充分的统计效率（包括preconstant）的估计精度的尖锐表征。本文的分析建立在凸优化和非凸优化之间的密切联系之上--这是\cite{chen2019noisy}最近发现的一个有吸引力的特征。
2019-11-14 cs.IT cs.LG eess.SP
MAPIE: an open-source library for distribution-free uncertainty quantification
Quantmetry；Laboratoire de Mathématiques et de Modélisation d’Evry（埃夫里数学与建模实验室）；ENSIIE（法国国立高等工业工程学院）；University Paris Saclay（巴黎萨克雷大学）
估计与机器学习（ML）模型预测相关的不确定性对于评估其鲁棒性和预测能力至关重要。在本次提交中，我们介绍了MAPIE（模型不可知预测区间估计），这是一个开源的Python库，可以量化ML模型在单输出回归和多类分类任务中的不确定性。MAPIE实现了共形预测方法，允许用户轻松计算不确定性，对边缘覆盖率有很强的理论保证，对模型或基础数据分布有温和的假设。MAPIE托管在scikit-learn-contrib上，并且完全“scikit-learn-compatible”。因此，它接受scikit-learn API附带的任何类型的回归器或分类器。该库可在https://github.com/scikit-learn-contrib/MAPIE/上获得。
2022-07-25 cs.LG stat.ML
Beyond Single-Turn Confidence: Trajectory-Adapted Uncertainty Quantification for LLM Agents
本研究探讨单轮UQ方法能否迁移至LLM智能体的交互式轨迹场景，评估三类UQ方法在多轮工具使用数据集上的表现，发现黑盒自一致性通常最优，提示需在轨迹层面重新验证单轮UQ方法。
2026-08-13 cs.AI cs.CL cs.LG
Bayesian active learning for optimization and uncertainty quantification in protein docking
Texas A&M University（得克萨斯农工大学）
动机：从头算蛋白质对接是一个主要的挑战，优化一个嘈杂的和昂贵的“黑盒子”一样的功能在高维空间。尽管在这一领域的进展，有没有对接方法可用于严格的不确定性量化（UQ）的解决方案的质量（如接口RMSD或iRMSD）。结果如下：我们介绍了一种新的算法，贝叶斯主动学习（BAL），优化和UQ这样的黑盒功能和灵活的蛋白质对接。BAL直接模拟全局最优值（或蛋白质对接的天然结构）的后验分布，其中主动采样和后验估计迭代地相互馈送。此外，我们使用复杂的正常模式来表示一个均匀的欧氏构象空间适合高维优化和漏斗状的能量模型的遭遇复合物。在一个蛋白质对接基准集和CAPRI集，包括同源对接，我们建立BAL显着提高对两个起点的刚性对接和粒子群优化的改进，提供了三分之一的目标前3名的近本地预测。BAL还生成紧密的置信区间，半范围约为iRMSD的25%，置信水平为85%。它估计的预测是本地或非本地的概率达到了二元分类AUROC为0.93，AUPRC超过0.60（与偶然的0.14相比）;并且还发现有助于对预测进行排名。据我们所知，这项研究代表了第一个蛋白质对接的不确定度量化解决方案，具有理论严谨性和全面评估。源代码可在https://github.com/Shen-Lab/BAL上获得。
2019-01-31 cs.LG math.OC q-bio.BM
SpatialUQ: Post-Hoc Uncertainty Quantification from Spatial Consistency in Black-Box Vision Models
NPI University of Bangladesh（NPI孟加拉大学）；Towson University（陶森大学）；University of Asia Pacific（亚洲太平洋大学）
提出SpatialUQ，一种仅用输出概率的后验不确定性量化方法，通过空间一致性（Jensen-Shannon散度）在多个数据集上超越MC-Dropout，实现高效、校准良好的失败检测，并随模型质量提升性能。
2026-10-08 cs.AI cs.CV cs.LG
Recursive KalmanNet: Deep Learning-Augmented Kalman Filtering for State Estimation with Consistent Uncertainty Quantification
Exail
本文提出Recursive KalmanNet，一种结合卡尔曼滤波与循环神经网络的深度学习滤波器，通过递归Joseph公式和高斯负对数似然优化实现一致误差协方差量化，在非高斯噪声下优于传统方法。
2025-06-13 cs.LG eess.SP stat.ML
The Illusion of Certainty: Uncertainty Quantification for LLMs Fails under Ambiguity
School of Computation, Information；Technology \& Munich Data Science Institute - Technical University of Munich
本研究揭示了在歧义环境下LLM的不确定性量化方法存在缺陷，提出了MAQA*和AmbigQA*数据集以评估模型在歧义数据上的表现。
2026-01-29 cs.CL cs.LG
Uncertainty quantification for iterative algorithms in linear models with application to early stopping
Rutgers University（罗格斯大学）
本文研究了高维线性回归中迭代算法的不确定性量化，提出了适用于GD和FISTA等方法的泛化误差新型估计量，并证明了其一致性，进而应用于早停选择与置信区间构建。
2024-04-27 cs.LG math.ST stat.CO
Fully Bayesian Spectral Clustering and Benchmarking with Uncertainty Quantification for Small Area Estimation
Department of Statistics and Data Science, University of California, Davis（加州大学戴维斯分校统计与数据科学系）
本文提出了一种基于频谱聚类的贝叶斯模型，用于小区域估计，通过引入条件后验均方误差来量化不确定性，并通过模拟和案例研究验证了其有效性。
2026-10-14 stat.ME stat.ML
Uncertainty Quantification for Rule-Based Models
IBM Research（IBM研究院）
以逻辑语言描述的基于规则的分类模型直接预测布尔值，而不是像统计模型那样对概率建模并将其转换为预测。绝大多数现有的不确定性量化方法依赖于提供基于规则的模型所不能提供的连续输出的模型。在这项工作中，我们提出了一个元模型形式的不确定性量化框架，该框架将具有二进制输出的任何二进制分类器作为黑盒，并估计该基础模型在给定输入下的预测准确性以及对该估计的置信度。信心取决于输入区域的探索程度，并且旨在适用于任何OOD场景。我们证明了这种不确定性模型的有用性，通过构建一个由它驱动的弃权分类器，并观察其在各种情况下的性能。
2022-11-03 cs.AI cs.LG
Quantification under prior probability shift: the ratio estimator and its extensions
量化问题包括确定给定标签在目标人群中的流行程度。然而，人们通常可以访问来自训练群体的样本中的标签，但不能访问目标群体中的标签。在这种情况下，一个常见的假设是先验概率转移，也就是说，一旦标签已知，特征的分布在训练和目标群体中是相同的。在先验移位假设下，本文给出了量化问题风险的一个新的下界。补充这个下限，我们提出了一个新的近似极小极大类估计，比估计，推广了以前的几个建议在文献中。使用较弱版本的先验移位假设，这可以测试，我们表明，比率估计可以用来建立量化问题的置信区间。我们还扩展了比率估计量，以便它可以：（i）将标签从目标人群中，当他们可用和（ii）估计阳性标签的患病率如何根据某些协变量的函数而变化。
2019-04-05 cs.LG stat.ML
Fast Uncertainty Quantification for Deep Object Pose Estimation
NVIDIA（英伟达）；California Institute of Technology（加州理工学院）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；The University of Sydney（悉尼大学）
基于深度学习的对象姿态估计器通常不可靠且过于自信，特别是当输入图像在训练域之外时，例如，使用sim 2 real transfer。许多机器人任务都迫切需要姿态估计器中高效且鲁棒的不确定性量化（UQ）。在这项工作中，我们提出了一个简单，高效，即插即用的UQ方法6自由度对象姿态估计。我们将2-3个预先训练的模型与不同的神经网络架构和/或训练数据源集成，并计算它们的平均成对不一致性以获得不确定性量化。我们提出了四个分歧度量，包括一个学习的度量，并表明平均距离（ADD）是最好的无学习度量，它只是略差于学习的度量，这需要标记的目标数据。与现有技术相比，我们的方法具有几个优点：1）我们的方法不需要对训练过程或模型输入进行任何修改;以及2）对于每个模型，它只需要一次前向传递。我们评估了三个任务，我们的不确定性量化产生更强的相关性与姿态估计误差比基线的UQ方法。此外，在一个真正的机器人抓取任务中，我们的方法将抓取成功率从35%提高到90%。
2021-03-26 cs.AI cs.CV cs.LG
Beyond Semantic Entropy: Boosting LLM Uncertainty Quantification with Pairwise Semantic Similarity
UCLA CS（UCLA计算机科学系）；Cisco Systems Inc.（思科系统公司）
针对语义熵在长回复中忽略聚类内外相似性的局限，提出基于最近邻估计的黑盒不确定性量化方法，可扩展至白盒并推广语义熵，在 Phi3 和 Llama3 等任务上优于语义熵。
2025-05-30 cs.CL cs.LG
Can we trust Bayesian uncertainty quantification from Gaussian process priors with squared exponential covariance kernel?
研究了具有平方指数协方差核的高斯过程先验的可信集的频率覆盖性质。首先，我们表明，通过选择缩放超参数使用最大边际似然估计（略有修改）平方指数协方差内核的相应的可信集将提供过度自信，误导性的不确定性声明的一个大的，有代表性的子类的功能参数的背景下的高斯白噪声模型。然后我们证明了，无论是用对数因子爆破可信集，还是用对数项修正极大边际似然估计，在一定的附加约束下，都可以得到可靠的不确定性陈述和可信集的自适应大小。最后，我们证明了一个数值研究，推导出的负面和正面的结果超出了高斯白噪声模型的非参数回归和分类模型的小样本量以及。
2019-04-02 math.ST stat.TH
On Subjective Uncertainty Quantification and Calibration in Natural Language Generation
University of Oxford（牛津大学）
本文从贝叶斯决策理论出发，基于相似性度量提出对黑盒语言模型主观不确定性与认知不确定性的量化及校准方法，并在问答和机器翻译任务中验证其校准效果与在上下文学习数据获取中的延迟策略价值。
2024-10-18 cs.AI cs.CL cs.LG
Cycle Consistency-based Uncertainty Quantification of Neural Networks in Inverse Imaging Problems
University of California, Los Angeles（加州大学洛杉矶分校）；California NanoSystems Institute (CNSI), University of California, Los Angeles（加州大学洛杉矶分校加州纳米系统研究所）；David Geffen School of Medicine, University of California Los Angeles（加州大学洛杉矶分校大卫·格芬医学院）
该研究针对逆成像问题中的神经网络，提出基于循环一致性的不确定性量化方法，通过正反向循环的回归分析推导估计量，理论分析其与推理不确定性等的关系，实验验证其在识别数据损坏和分布偏移上表现更优，方法易实现且适用广泛。
2023-05-22 cs.CV cs.LG eess.IV
The Consistency Hypothesis in Uncertainty Quantification for Large Language Models
Rensselaer Polytechnic Institute（拉特格斯理工学院）；IBM Research（IBM研究院）；Zalando
本文形式化了将生成一致性作为置信度代理的“一致性假设”，通过数学陈述与统计检验在多任务上验证其普遍性，并基于最具可操作性的“Sim-Any”假设提出无数据黑盒UQ方法，有效提升了置信度估计性能。
2025-06-27 cs.AI cs.CL cs.LG
Old Rules in a New Game: Mapping Uncertainty Quantification to Quantum Machine Learning
Quantum Security Technologies（量子安全技术）；Fraunhofer Institute for Applied and Integrated Security（弗劳恩霍夫应用与集成安全研究所）
本文针对量子机器学习黑箱问题，将经典不确定性量化方法映射到量子领域，通过理论构建与实证评估证明在设计量子模型时引入不确定性意识的必要性。
2025-07-20 cs.LG quant-ph
Uncertainty Quantification of Surrogate Explanations: an Ordinal Consensus Approach
TU Dresden（德累斯顿工业大学）；University of Bristol（布里斯托大学）
黑盒机器学习模型的可解释性至关重要，特别是在医学或自动驾驶汽车等关键应用中部署时。现有的方法产生的解释模型的预测，然而，如何评估这种解释的质量和可靠性仍然是一个悬而未决的问题。在本文中，我们更进一步，以便为从业者提供工具来判断解释的可信度。为此，我们通过测量一组不同的自举代理解释者之间的有序共识来估计给定解释的不确定性。虽然我们鼓励多样性，使用集成技术，我们提出和分析指标，通过一个评级计划，聚合内的一组解释器中包含的信息。我们通过对最先进的卷积神经网络集成的实验来实证说明这种方法的特性。此外，通过量身定制的可视化，我们展示了具体的情况下，不确定性估计提供了具体的可操作的见解，用户超出了标准的替代解释。
2021-11-17 cs.AI cs.LG stat.ML
ESI: Epistemic Uncertainty Quantification via Semantic-preserving Intervention for Large Language Models
Harbin Institute of Technology（哈尔滨工业大学）；Kunming University of Science and Technology（昆明理工大学）
本文提出一种基于因果视角的灰盒不确定性量化方法，通过测量语义保持干预前后模型输出的变化来估计大语言模型的认知不确定性，实验证明该方法在有效性和计算效率上均表现优异。
2025-10-15 cs.AI cs.CL cs.LG
Score Matching-based Pseudolikelihood Estimation of Neural Marked Spatio-Temporal Point Process with Uncertainty Quantification
Georgia Tech（佐治亚理工学院）；The Chinese University of Hong Kong（香港中文大学）
针对时空点过程学习中的分布受限、积分近似不准及缺乏不确定性量化问题，提出基于分数匹配的伪似然估计器SMASH，采用无归一化目标并通过置信区域实现预测的不确定性量化，实验证明其性能优越。
2023-10-25 cs.LG
Adaptive Uncertainty Quantification for Generative AI
Department of Statistics, University of Chicago（芝加哥大学统计系）；Booth School of Business, University of Chicago（芝加哥大学商学院）
本研究提出一种针对黑盒生成式AI模型的自适应共形预测方法，通过自适应划分预测器空间并逐组校准，实现有限样本组条件覆盖保证与局部收紧的不确定性区间，并在GPT-4o预测的皮肤病诊断和立法者意识形态分类应用中验证了有效性。
2025-04-24 cs.AI cs.CL cs.LG
Conformal Prediction Beyond the Seen: A Missing Mass Perspective for Uncertainty Quantification in Generative Models
University of Pennsylvania（宾夕法尼亚大学）
本文针对生成模型仅可查询的黑盒场景，提出CPQ框架，通过缺失质量视角刻画覆盖率、查询预算与信息量的最优权衡，并设计最优查询策略与映射，在多个LLM任务上验证其能产生更具信息量的预测集。
2025-06-05 cs.AI cs.LG
An Active Learning Method for Diabetic Retinopathy Classification with Uncertainty Quantification
Turner Institute for Brain and Mental Health, Monash University（莫纳什大学特纳大脑与心理健康研究所）；Wellcome Centre for Human Neuroimaging, UCL（伦敦大学学院惠康人类神经成像中心）；Information Technology University (ITU) Punjab（旁遮普信息技术大学）
近年来，深度学习（DL）技术在不同的医学成像任务上提供了最先进的性能。然而，由于所涉及的时间限制和专家注释者的可用性，高质量注释的医学数据的可用性是非常具有挑战性的，例如，放射科医生此外，DL是数据饥渴型的，它们的训练需要大量的计算资源。深度学习的另一个问题是它的黑盒子性质和内部工作缺乏透明度，这抑制了因果理解和推理。在本文中，我们共同解决这些挑战，提出了一个混合模型，它使用贝叶斯卷积神经网络（BCNN）的不确定性量化，和主动学习的方法来注释未标记的数据。BCNN用作特征描述符，然后将这些特征用于在主动学习设置中训练模型。我们评估了糖尿病视网膜病变分类问题的建议框架，并在不同的指标方面取得了最先进的性能。
2020-12-26 cs.LG
Homodyned K-distribution: parameter estimation and uncertainty quantification using Bayesian neural networks
Concordia University（康考迪亚大学）；University of Wisconsin（威斯康星大学）
定量超声（QUS）允许估计内在组织特性。斑点统计量是描述超声（US）包络数据的一阶统计量的QUS参数。均匀K分布（HK分布）的参数是散斑统计量，可以模拟各种散射条件下的包络数据。然而，它们需要大量的数据来可靠地估计。因此，找出估计参数的内在不确定性，可以帮助我们有一个更好的理解估计参数。在本文中，我们提出了一个贝叶斯神经网络（BNN）来估计HK-分布的参数和量化的估计的不确定性。
2022-10-31 cs.LG eess.IV eess.SP
Efficient Bayesian estimation and uncertainty quantification in ordinary differential equation models
回归函数通常由包含一些未知参数的常微分方程（ODE）系统来指定。通常，常微分方程的解析解是不可用的，因此，通过方程的数值解在许多参数值处的似然估计可能在计算上是禁止的。Bhaumik和Ghosal（2015）通过将模型嵌入到更大的非参数回归模型中来考虑贝叶斯两步法，其中先验通过基于B样条基函数的随机序列进行。通过最小化回归函数的导数和由ODE建议的导数之间的积分加权平方距离，从回归函数中导出参数的后验。虽然这种方法计算速度快，但贝叶斯估计量不是渐近有效的。在本文中，我们提出了一个修改的两步方法，直接考虑之间的距离的功能，在非参数模型和四个阶段的龙格-库塔（RK 4）方法。我们还研究了参数的后验分布的渐近行为的基础上获得的近似似然RK 4数值解的常微分方程。我们建立了一个Bernstein-von Mises定理，这两种方法，确保贝叶斯不确定性量化匹配的频率和贝叶斯估计是渐近有效的。
2016-02-22 math.ST stat.TH
Sequential design of experiments for estimating percentiles of black-box functions
当函数求值次数受到严格限制时，具有随机输入的黑盒确定性函数的估计是一项具有挑战性的任务，这在计算机实验中是典型的。基于高斯过程元模型，提出了两种新的序贯贝叶斯百分位数估计方法。两者都依赖于逐步减少不确定性的范例，因此旨在提供一系列的功能评估，减少与百分位估计相关的不确定性测量。所提出的策略进行了测试的几个数值例子，表明可以得到准确的估计，只使用少量的功能评估。
2016-05-20 math.ST stat.TH
A Unified Perspective on Conformal Prediction and Wasserstein Distributionally Robust Optimization for Uncertainty Quantification
Contextual Robotics Institute, University of California San Diego（加州大学圣迭戈分校语境机器人研究所）；University of Southern California（南加州大学）；California Institute of Technology（加州理工学院）；ETH Zürich（苏黎世联邦理工学院）
该研究建立了共形预测与Wasserstein分布鲁棒优化的统一概率视角，分析了两者校正经验分位数的不同方式、构造差异及尾部表现，指出DRO可避免CP的过冲问题。
2026-09-01 cs.LG cs.SY eess.SY
Uncertainty quantification for learned ISTA
RWTH Aachen University（亚琛工业大学）；Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Munich Data Science Institute（慕尼黑数据科学研究所）
针对算法展开方案缺乏不确定性量化的问题，本文提出了一种严格的方法来获取 LISTA 估计量的置信区间，为弥合该理论空白迈出重要一步。
2023-09-14 cs.IT cs.LG eess.IV
On double-descent in uncertainty quantification in overparametrized models
École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）；École Normale Supérieure - PSL（巴黎高等师范学院-巴黎文理研究大学）；CNRS（法国国家科学研究中心）
本文在随机特征模型中对比了二元分类的不确定性度量，揭示了最优正则化估计器的校准曲线存在双重下降行为，并发现经验贝叶斯方法在过参数化下依然校准良好。
2023-05-23 cs.LG
Towards the Development of an Uncertainty Quantification Protocol for the Natural Gas Industry
Gas Technology Institute（天然气技术研究所）
本文提出一种面向天然气行业的不确定性量化协议，系统识别ML与机理模型的不确定性来源、传播方法和估计量，并通过输配案例验证其建立可信预测边界和评估模型充分性的能力。
2023-08-05 cs.LG physics.data-an physics.flu-dyn
Trustworthy clinical AI solutions: a unified review of uncertainty quantification in deep learning models for medical image analysis
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inserm（法国国家健康与医学研究院）；Pixyl Research and Development Laboratory（Pixyl研发实验室）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）
深度学习（DL）模型在临床领域的完全接受度相对于文献中报道的高性能解决方案的数量而言相当低。特别地，最终用户不愿意依赖DL模型的粗略预测。在文献中提出了不确定性量化方法，作为一种潜在的响应，以减少DL黑盒提供的粗略决策，从而增加最终用户对结果的可解释性和可接受性。在这篇综述中，我们提出了一个概述现有的方法来量化与DL预测相关的不确定性。我们专注于医学图像分析的应用，由于图像的高维性及其质量的可变性，以及与现实生活中的临床常规相关的限制，这提出了具体的挑战。然后，我们讨论的评估协议，以验证相关的不确定性估计。最后，我们强调了医学领域不确定性量化的开放性挑战。
2022-10-05 cs.AI cs.CV cs.LG
A Quantum Tensor Network-Based Viewpoint for Modeling and Analysis of Time Series Data
针对机器学习中不确定性量化的挑战，本文提出一种基于量子物理的“白箱”方法，通过映射核均值嵌入构建张量网络启发的自旋链哈密顿量，求解薛定谔方程并应用微扰理论，在变化点检测和聚类任务中实现准确量化与增强可解释性。
2025-11-17 cs.IT cs.LG math.IT
Uncertainty quantification and exploration-exploitation trade-off in humans
University of Milano-Bicocca（米兰比可卡大学）
本文的主要目的是勾勒出一个理论框架，分析人类的决策策略下的不确定性管理信息收集（探索）和奖励寻求（剥削）之间的权衡。一个关键的观察，激励这一系列的研究，是认识到人类学习者是惊人的快速和有效地适应陌生的环境，并纳入即将到来的知识：这是一个有趣的行为认知科学以及机器学习的一个重要挑战。所考虑的目标问题是黑盒优化任务中的主动学习，更具体地说，如何在基于高斯过程的贝叶斯优化框架内对探索/开发困境进行建模，该框架又基于不确定性量化。主要贡献是分析人类的决策帕累托理性的两个目标是改善预期和不确定性量化。根据这个帕累托理性模型，如果一个决策集包含一个帕累托有效（主导）策略，理性的决策者应该总是选择主导策略。离帕累托边界的距离决定了一个选择是否是（帕累托）理性的（即，位于边境）或与“令人恼火”的探索有关。然而，由于不确定性是定义帕累托前沿的两个目标之一，我们已经研究了三种不同的不确定性量化措施，并选择了一个更符合帕累托理性模型的建议。关键的结果是一个分析框架来描述偏离“理性”如何依赖于不确定性量化和寻求奖励过程的演变。
2021-02-05 cs.AI cs.LG
MetaDetect: Uncertainty Quantification and Prediction Quality Estimates for Object Detection
University of Wuppertal（伍珀塔尔大学）；School of Mathematics and Natural Sciences（数学与自然科学学院）
在利用深度神经网络进行目标检测时，逐框对象性得分往往过于自信，有时甚至在存在不准确预测的情况下指示高置信度。因此，预测的可靠性和可靠的不确定性是最重要的。在这项工作中，我们提出了一个后处理方法，为任何给定的神经网络提供预测的不确定性估计和质量估计。这些估计是通过后处理模型学习的，该模型接收一组手工制作的透明指标作为输入，这些指标以结构化数据集的形式存在。由此，我们学习了预测边界框的两个任务。我们区分真阳性（$\mathit{IoU}\geq0.5$）和假阳性（$\mathit{IoU} < 0.5$），我们称之为Meta分类，我们直接预测$\mathit{IoU}$值，我们称之Meta回归。Meta分类模型的概率旨在学习成功和失败的概率，因此提供建模的预测不确定性估计。另一方面，Meta回归产生质量估计。在数值实验中，我们使用公开可用的YOLOv 3网络和Faster-RCNN网络，并在Kitti，Pascal VOC和COCO数据集上评估Meta分类和回归性能。我们证明了我们的指标确实与$\mathit{IoU}$相关。对于Meta分类，我们获得了高达98.92%的分类准确率和高达99.93%的AUROC。对于Meta回归，我们获得了高达91.78%的$R^2$值。与其他网络的客观性得分和其他基线方法相比，这些结果产生了显着的改进。因此，我们获得了更可靠的不确定性和质量估计，这在…
2020-10-06 cs.CV cs.LG
Uncertainty quantification for nonconvex tensor completion: Confidence intervals, heteroscedasticity and optimality
Princeton University（普林斯顿大学）
我们研究的分布和不确定性的非凸优化噪声张量完成-估计一个低秩张量的不完整和损坏的观察其条目的问题。专注于Cai等人提出的两阶段估计算法。（2019），我们将这种非凸估计量的分布特征描述为精细尺度。这种分布理论又允许我们为未知的张量项和未知的张量因子构造有效且短的置信区间。所提出的推理过程具有以下几个重要特征：（1）它完全适应噪声异方差，（2）它是数据驱动的，并自动适应未知的噪声分布。此外，我们的研究结果揭示了非凸张量完成的统计最优性：当估计未知张量和潜在张量因子时，它达到了不可改进的$\ell_{2}$精度-包括速率和预常数。
2020-06-15 cs.IT cs.LG math.IT
The Cost of Compression: Tight Quadratic Black-Box Attacks on Sketches for $\ell_2$ Norm Estimation
Google Research（谷歌研究）；Tel Aviv University（特拉维夫大学）
本文提出一种通用黑盒攻击，仅需 Õ(k^2) 次查询即可破坏任意线性草图的 ℓ2 范数估计，并证明该下界与已知上界紧密匹配，揭示压缩表示的根本脆弱性。
2025-09-21 cs.DS cs.LG
