Probabilistic task modelling for meta-learning
Australian Institute for Machine Learning（澳大利亚机器学习研究所）；University of Adelaide（阿德莱德大学）；Monash University（莫纳什大学）
我们提出了概率任务建模--一种用于元学习的任务集合的生成概率模型。该模型结合变分自动编码和潜在的Dirichlet分配模型的高斯分布在嵌入空间中的混合每个任务。这样的建模提供了一个明确的任务表示，通过其任务主题的混合。提出了一种基于变分推理方法的经验贝叶斯参数估计的有效近似推理方法。我们进行实证评估，以验证所提出的方法通过相关图的预测精度测试任务的任务不确定性和任务距离。我们还进行了实验的任务选择在元学习，以证明如何从所提出的模型推断的任务相关性，以促进元学习算法。
2022-03-18 cs.LG
Meta-Learning an Inference Algorithm for Probabilistic Programs
KAIST（韩国科学技术院）
我们提出了一个元算法学习后验推理算法的限制概率规划。我们的元算法采用了一组概率程序的训练集，这些程序用观察来描述模型，并试图学习一种有效的方法来推断类似程序的后验。我们的方法的一个关键特征是使用我们称之为白盒推理算法，直接从模型描述本身提取信息，作为程序。具体地说，我们的白盒推理算法配备了多个神经网络，一个用于每种类型的原子命令，并计算一个给定的概率程序通过分析使用这些网络的程序中的单个原子命令的近似后验。通过我们的元算法从训练集中学习网络的参数。我们的经验表明，学习推理算法概括以及新的参数和模型结构方面的程序，并报告的情况下，我们的方法实现更大的测试时间效率比替代方法，如HMC。总体结果显示了我们的方法的前景以及仍然存在的挑战。
2021-12-24 cs.LG
Meta-Learning surrogate models for sequential decision making
DeepMind（深度思维）
我们引入了一个统一的概率框架，用于解决从贝叶斯优化到上下文强盗和强化学习的顺序决策问题。这是通过一种基于概率模型的方法来实现的，该方法解释了观测数据，同时在决策过程中捕获了预测的不确定性。至关重要的是，这个概率模型被选为元学习系统，允许从相关问题的分布中学习，允许数据有效地适应目标任务。作为这个框架的一个合适的实例，我们探讨了由于统计和计算的需要而使用神经过程。我们将我们的框架应用于广泛的问题领域，例如控制问题，推荐系统和对RL代理的对抗性攻击，展示了一种有效和通用的黑盒学习方法。
2019-06-12 cs.LG stat.ML
Meta-Inverse Reinforcement Learning with Probabilistic Context Variables
Stanford University（斯坦福大学）
为强化学习提供合适的奖励函数在许多现实世界的应用中可能是困难的。虽然逆强化学习（IRL）有望从演示中自动学习奖励函数，但仍然存在几个主要挑战。首先，现有的IRL方法从头开始学习奖励函数，需要大量的演示来正确地推断代理可能需要执行的每个任务的奖励。其次，现有的方法通常假设单一行为或任务的同质演示，而在实践中，收集异构但相关行为的数据集可能更容易。为此，我们提出了一个深度潜变量模型，该模型能够以无监督的方式从不同但相关的任务中学习奖励。重要的是，我们的模型可以从一个演示中推断出新的、结构相似的任务的奖励。多个连续控制任务的实验表明，我们的方法相比，国家的最先进的模仿和逆强化学习方法的有效性。
2019-10-26 cs.LG stat.ML
Probabilistic Meta-Representations Of Neural Networks
Uber AI Labs（优步人工智能实验室）；University College London（伦敦大学学院）；University of Cambridge（剑桥大学）
现有的神经网络的贝叶斯处理通常以弱先验分布和近似后验分布为特征，根据该分布，独立地提取所有权重。在这里，我们考虑一个更丰富的先验分布，其中网络中的单元由潜在变量表示，单元之间的权重根据这些变量的集合的值有条件地绘制。这允许相关权重之间具有丰富的相关性，并且可以被视为实现具有贝叶斯复杂性正则化器的函数先验，以确保简单的解决方案。我们说明了由此产生的元表示和表示，阐明了这个先验的力量。
2018-10-01 cs.AI cs.LG stat.ML
Probabilistic Model-Agnostic Meta-Learning
UC Berkeley（加州大学伯克利分校）
用于少样本学习的元学习需要获取优于先前任务和经验的先验，使得从少量数据学习新任务。然而，少样本学习中的一个关键挑战是任务模糊性：即使可以从大量先前任务中元学习到强大的先验，新任务的小数据集也可能过于模糊而无法获取单个模型（例如，分类器）对于该任务是准确的。在本文中，我们提出了一个概率元学习算法，可以从一个模型分布的新任务的样本模型。我们的方法扩展了与模型无关的元学习，它通过梯度下降来适应新的任务，并结合了通过变分下界训练的参数分布。在元测试时，我们的算法通过一个简单的过程来适应，该过程将噪声注入梯度下降，并且在元训练时，模型被训练，使得这种随机适应过程从近似模型后验中产生样本。我们的实验结果表明，我们的方法可以采样合理的分类器和回归模糊少样本学习问题。我们还展示了如何推理模糊性也可以用于下游的主动学习问题。
2019-10-17 cs.AI cs.LG stat.ML
MetAL: Active Semi-Supervised Learning on Graphs via Meta Learning
Tokyo Institute of Technology（东京工业大学）
主动学习（AL）的目标是通过只选择信息量最大的样本进行标注，从而训练具有较少标注样本的分类模型。为其他数据类型（如图像和文本）设计的AL算法在图结构数据上表现不佳。虽然已经提出了一些基于几何学的人工智能算法的图，一个原则性的方法是缺乏的。在本文中，我们提出了MetAL，AL方法，选择未标记的实例，直接提高分类模型的未来性能。对于一个半监督学习问题，我们制定了AL任务作为一个双层优化问题。基于最近的元学习工作，我们使用元梯度来近似使用任何未标记实例重新训练模型对模型性能的影响。使用属于不同领域的多个图形数据集，我们证明了MetAL有效地优于现有的最先进的AL算法。
2020-07-22 cs.LG stat.ML
Adaptive Batch Sizes for Active Learning A Probabilistic Numerics Approach
University of Oxford（牛津大学）；Toyota Motor Corporation（丰田汽车公司）；University of Helsinki（赫尔辛基大学）；Amazon（亚马逊公司）
提出一种基于概率数值的自适应批量大小框架，将批量选择构建为求积任务以自动调整批量满足精度目标，显著提升了贝叶斯批量主动学习与优化的效率和灵活性。
2024-02-21 cs.AI cs.LG cs.NA
Amortized Probabilistic Conditioning for Optimization, Simulation and Inference
University of Helsinki（赫尔辛基大学）；Aalto University（阿尔托大学）；University of Manchester（曼彻斯特大学）
提出摊销条件化引擎（ACE），一种基于Transformer的元学习模型，通过显式表示潜在变量，支持运行时对观测数据、潜在变量和先验进行灵活条件化，并在图像补全、贝叶斯优化等任务中展现了优异性能。
2025-03-04 cs.LG stat.ML
Compositional meta-learning through probabilistic task inference
Department of Basic Neurosciences, University of Geneva（日内瓦大学基础神经科学系）；Champalimaud Research, Champalimaud Foundation（恰帕拉米德研究，恰帕拉米德基金会）；Sainsbury Wellcome Centre, University College London（萨金斯堡沃来中心，伦敦大学学院）
针对元学习中少样本新任务求解问题，提出将任务显式表示为可复用计算单元结构化组合的组合式元学习模型，通过生成模型捕捉共享组件与统计特性，将新任务学习转化为概率推断问题，结合神经网络表达力与概率推断数据效率，实现单样本快速推断的高效组合式元学习。
2025-10-02 cs.LG q-bio.NC
Meta-SVDD: Probabilistic Meta-Learning for One-Class Classification in Cancer Histology Images
University of Warwick（华威大学）；University Hospital Coventry and Warwickshire（考文垂和沃里克郡大学医院）
为了训练一个健壮的深度学习模型，通常需要在训练数据中使用一组平衡的类别。然而，在医学领域中获取的数据通常包含大量的健康患者，而不是少量的阳性异常病例。此外，阳性样本的注释需要来自医学领域专家的耗时输入。这种情况将表明一个类分类类型的方法的承诺。在这项工作中，我们提出了一个通用的组织学单类分类模型，该模型同时在多个组织学数据集上进行元训练，并且可以应用于新任务，而无需昂贵的重新训练。该模型可以很容易地由病理学领域的专家使用，并可能用于筛选目的。
2020-03-06 cs.CV cs.LG eess.IV
Investigating Active Learning and Meta-Learning for Iterative Peptide Design
University of Rochester（罗切斯特大学）
通常，新功能肽的开发不适合高通量或纯计算筛选方法。肽必须在不产生大量数据的过程中一次合成一个。可以改进该方法的一种方式是确保每个实验在肽特性和预测建模准确性方面提供最佳改进。在这里，我们研究了主动学习的有效性，优化实验顺序，以及元学习，在上下文之间转移知识，以减少建立预测模型所需的实验数量。我们提出了一个多任务的肽基准数据库，旨在推进这些方法的实验设计。每个任务是表示为序列串的肽的二进制分类。我们发现，主动学习方法测试是优于随机选择。元学习方法Reptile被发现可以提高数据集的平均准确度。将元学习与主动学习相结合，会带来不一致的好处。
2020-12-10 cs.LG q-bio.BM stat.ML
Exploring Active Learning in Meta-Learning: Enhancing Context Set Labeling
University of British Columbia（不列颠哥伦比亚大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所（Amii））
本文探讨了在元学习测试阶段主动选择上下文集标注点的方法，提出了基于高斯混合模型的主动选择算法，在多个基准数据集上优于现有主动学习方法。
2024-07-24 cs.LG
Stacking for Probabilistic Short-term Load Forecasting
Czestochowa University of Technology（琴斯托霍瓦工业大学）
本文提出基于Stacking元学习的概率性短期电力负荷预测方法，融合分位数线性回归、分位数回归森林与残差模拟后处理，并设计全局与局部变体，实验验证分位数回归森林最优。
2024-06-15 cs.AI cs.LG
An Adaptive Approach for Probabilistic Wind Power Forecasting Based on Meta-Learning
Tsinghua University（清华大学）；Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）
提出一种含离线元学习与在线增量学习的自适应概率风电功率预测方法，可实现不同提前时间和新建风电场场景的时间与空间适应，并在真实数据集上验证了优势。
2023-08-15 cs.LG cs.SY eess.SY
History matching with probabilistic emulators and active learning
多年来，通过计算机模拟，对现实世界过程的科学理解已经大大提高。这样的模拟器表示复杂的数学模型，其被实现为通常昂贵的计算机代码。使用特定模拟器得出准确结论的有效性依赖于计算机代码被正确校准的假设。这种校准程序通常是在广泛的实验和与来自现实世界的过程的数据比较下进行的。问题是，数据收集可能非常昂贵，只有少数实验是可行的。历史匹配是一种校准技术，在给定模拟器的情况下，它使用不可信性度量迭代地丢弃输入空间的区域。当模拟器在计算上是昂贵的时，使用模拟器来探索输入空间。在本文中，一个高斯过程提供了一个完整的概率输出，被纳入不可信性措施。感兴趣的区域的识别是完成最近开发的退火采样技术。主动学习功能被纳入到历史匹配过程中，以重新关注输入空间并改进仿真器。该框架的效率进行了测试，在著名的例子，从历史匹配的文献，以及在一个建议的测试床的功能更高的维度。
2020-04-16 stat.CO
Cumulative Meta-Learning from Active Learning Queries for Robustness to Spurious Correlations
Department of Computer Science（计算机科学系）；National University of Singapore（新加坡国立大学）
本文提出了一种累积主动元学习（CAML）框架，通过主动学习查询样本来元学习先验知识，以提高模型对虚假相关性的鲁棒性，实验结果显示在多个基准测试中性能显著提升。
2026-05-20 cs.LG
MOOSE ProbML: Parallelized Probabilistic Machine Learning and Uncertainty Quantification for Computational Energy Applications
本文在MOOSE平台中集成多种概率机器学习与不确定性量化算法，实现并行化能力，并通过五个计算能源应用案例验证其有效性。
2025-04-23 stat.AP
Active Uncertainty Calibration in Bayesian ODE Solvers
Max-Planck-Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
本文研究了如何在贝叶斯微分方程求解器中平衡计算成本与概率校准，提出了一种基于过滤的方法Bayesian Quadrature filtering (BQF)，通过主动学习梯度测量的不精确性来提高不确定性校准。
2018-11-03 cs.LG cs.NA math.NA
A Meta-Learning Approach to One-Step Active Learning
Sorbonne Universites, UPMC Univ Paris 06（索邦大学，巴黎第六大学）；Ecole Centrale Marseille（马赛中央理工学院）；Aix-Marseille Univ.（艾克斯-马赛大学）
我们认为，当获得训练标签时，学习的问题是昂贵的，这通常是在文献中使用主动学习技术解决的。这些方法提供了在训练之前或训练期间选择要标记的示例的策略。这些策略通常是基于数学甚至理论的措施，但没有学习，因为它们是直接在培训中使用。我们设计了一个模型，其目的是在\textit{learning active-learning strategies}使用元学习设置。更具体地说，我们考虑基于池的设置，其中系统观察问题的数据集的所有示例，并且必须选择示例的子集以在Single Shot中进行标记。实验结果令人鼓舞。
2017-07-17 cs.LG
Model-Assisted Probabilistic Safe Adaptive Control With Meta-Bayesian Learning
University of Electronic Science and Technology of China（电子科技大学）；University of Exeter（埃克塞特大学）；Texas A & M University at Qatar（德州农工大学卡塔尔分校）；University of Technology Sydney（悉尼科技大学）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）
提出融合元学习、贝叶斯线性回归与CBF的安全自适应控制框架，通过少量样本适配新任务并以悲观置信界和理论判据保证概率安全，实验证明其在多不确定约束下可高效安全探索。
2023-07-13 cs.LG cs.SY eess.SY
Adaptive active subspace-based metamodeling for high-dimensional reliability analysis
针对高维可靠性分析难题，提出一种活动子空间、异方差高斯过程与主动学习自适应耦合的元建模方法，并通过非线性函数和结构工程算例验证其性能。
2023-04-13 stat.AP
Active Probabilistic Inference on Matrices for Pre-Conditioning in Stochastic Optimization
Max Planck-Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Tübingen（图宾根大学）
预处理是一个众所周知的概念，可以显着提高优化算法的收敛性。对于无噪声问题，其中良好的预处理器是未知的先验，迭代线性代数方法提供了一种有效地构建它们的方法。然而，对于主导当代机器学习的随机优化问题，这种方法并不容易获得。我们提出了一个迭代算法的灵感来自经典的迭代线性求解器，使用概率模型，积极推断的情况下，海森投影只能用强高斯噪声的预条件。经验证明，该算法可以有效地构建有效的预条件随机梯度下降及其变种。在低维问题上的实验表明，改进的收敛性。在非常高维的问题中，例如在深度学习中遇到的问题，预处理器有效地成为一种自动学习率自适应方案，我们也通过经验证明了这一点。
2019-02-20 cs.LG stat.ML
Targeted active learning for probabilistic models
Memorial Sloan Kettering Cancer Center（纪念斯隆-凯特琳癌症中心）；Harvard University（哈佛大学）
科学中的一项基本任务是设计实验，以产生关于所研究系统的有价值的见解。从数学上讲，这些见解可以表示为效用或风险函数，它决定了进行每个实验的价值。我们提出了PDBAL，有针对性的主动学习方法，自适应设计实验，以最大限度地提高科学效用。PDBAL采用用户指定的风险函数，并将其与实验结果的概率模型相结合，以选择快速收敛于高效用模型的设计。我们证明了PDBAL的标签复杂性的理论界限，并提供快速的封闭形式的解决方案，设计实验与常见的指数族的可能性。在仿真研究中，PDBAL始终优于标准的非目标方法，专注于最大限度地提高预期的信息增益的设计空间。最后，我们通过对一个大型癌症药物筛选数据集的研究证明了PDBAL的科学潜力，在该数据集上，PDBAL用实验总数的一小部分快速回收了最有效的药物。
2022-10-21 cs.LG stat.ML
Probabilistic Active Learning of Functions in Structural Causal Models
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）
我们考虑的问题，学习的功能计算儿童从父母的结构因果模型，一旦潜在的因果图已被确定。这在某种意义上是因果发现之后的第二步。以概率的方法来估计这些功能，我们得出一个自然的近视主动学习计划，确定的干预，这是最佳的信息，所有的未知功能联合，以前观察到的数据。我们测试派生的算法简单的例子，证明他们产生一个结构化的探索政策，显着改善非结构化的基线。
2017-06-30 cs.AI cs.LG stat.ML
Probabilistic K-means Clustering via Nonlinear Programming
Beijing University of Technology（北京工业大学）；Guilin University of Electronic Technology（桂林电子科技大学）
K-means算法是一种经典的聚类算法，有着广泛的应用。然而，自1981年以来，软K均值，或m=1的模糊c均值仍然没有解决。为了解决这个具有挑战性的开放问题，我们提出了一种新的聚类模型，即概率K均值（PKM），这也是一个非线性规划模型约束的线性等式和线性不等式。理论上，我们可以通过主动梯度投影来求解该模型，但效率较低。因此，我们进一步提出了最大步长主动梯度投影和快速最大步长主动梯度投影，以更有效地解决这个问题。通过实验，我们从初始化鲁棒性、聚类性能、下降稳定性、迭代次数和收敛速度五个方面对PKM算法的性能进行了评估。
2020-11-20 cs.LG stat.ML
Deep Probabilistic Ensembles: Approximate Variational Inference through KL Regularization
Carnegie Mellon University（卡内基梅隆大学）；NVIDIA（英伟达）
在本文中，我们介绍了深度概率集成（DPEs），这是一种可扩展的技术，它使用正则化集成来近似深度贝叶斯神经网络（BNN）。我们这样做是通过将库尔贝克-莱布勒散度惩罚项集成的训练目标，来自变分推断中使用的证据下限。我们评估了从我们的模型中获得的不确定性估计，用于视觉分类的主动学习。随着注释预算的增加，我们的方法在主动学习基线上稳步改进。
2018-11-30 cs.LG stat.ML
Efficient and Reliable Probabilistic Interactive Learning with Structured Outputs
University of Trento（特伦托大学）；University of Edinburgh（爱丁堡大学）
在这篇立场论文中，我们研究了结构化输出空间的交互式学习，重点是主动学习，其中标签是未知的，必须获得，和怀疑学习，其中标签是嘈杂的，可能需要重新标记。这些场景需要表达性模型来保证可靠且高效地计算概率量以测量不确定性。我们确定了一类概率模型（我们将其表示为CRISPs）满足所有这些条件的条件，从而在保持表达能力的同时提供上述数量的易处理计算。基于先前关于易处理概率电路的工作，我们说明了CRISPs如何在大型结构化输出空间中实现鲁棒和高效的主动和怀疑学习。
2022-02-17 cs.LG stat.ML
Probabilistic Active Learning for Active Class Selection
University Kassel（卡塞尔大学）；University Magdeburg（马格德堡大学）
在机器学习中，主动类选择（ACS）算法旨在主动选择类并要求oracle为该类提供实例，以优化分类器的性能，同时最小化请求的数量。在本文中，我们提出了一个新的算法（PAL ACS），转换ACS问题转化为一个主动学习任务，通过引入伪实例。这些用于使用来自概率主动学习的性能增益模型来估计每个类的即将到来的实例的有用性。我们的实验评估（合成和真实数据）显示了我们的算法相比，国家的最先进的算法的优势。它有效地优先选择困难类的样本，从而提高分类性能。
2021-08-09 cs.AI cs.LG
Active Learning with Importance Sampling
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
我们考虑一个主动学习设置，其中算法可以访问一个大的未标记数据池和一个小的标记数据池。在每次迭代中，该算法选择少数未标记的数据点，并从Oracle中获得它们的标签。在本文中，我们考虑一个概率查询过程来选择要标记的点。我们提出了一种主动学习算法与重要性采样（ALIS），并推导出上界的任何概率抽样过程中的算法所产生的真实损失。此外，我们提出了一个最佳的抽样分布，最大限度地减少了上界的真实损失。
2019-10-10 cs.LG stat.ML
On weighted uncertainty sampling in active learning
Seal Software
本文探讨了主动学习中不确定性加权的概率抽样。这种方法以前曾被使用过，作者对它的有效性进行了简要的评论。该方案具有几个优点：（1）它在计算上是便宜的，（2）它可以以单通道流式方式实现，这在部署在不同子系统执行建议评分和用户反馈提取的现实世界系统中时是有益的，以及（3）它是容易参数化的。在本文中，我们在公开的数据集上表明，使用概率加权通常是有益的，并且在探索和表示之间取得了很好的折衷，特别是当标记点的起始集有偏差时。
2019-09-11 cs.LG stat.ML
Active Learning in Video Tracking
University of Pennsylvania（宾夕法尼亚大学）
主动学习方法，如不确定性采样，与概率预测技术相结合，在各种问题上取得了成功，如图像分类和文本分类。对于更复杂的多变量预测任务，标签之间的关系在设计具有更好性能的结构化分类器中起着重要作用。然而，计算时间复杂度限制了流行的概率方法有效地支持主动学习。具体而言，虽然基于结构化支持向量机的非概率方法可以被可追踪地应用于预测二分匹配，但条件随机场对于这些结构是难以处理的。我们提出了一种对抗性的方法，主动学习与结构化的预测域，是易于匹配。我们评估这种方法的算法在一个重要的结构化预测问题：视频中的对象跟踪。我们证明了我们提出的方法更好的精度和计算效率。
2020-03-21 cs.CV cs.LG stat.ML
Transmitter Discovery through Radio-Visual Probabilistic Active Sensing
University of Padova（帕多瓦大学）
多模态概率主动感知（MMPAS）利用传感器融合和概率模型来控制机器人感知平台的感知过程。MMPAS成功地应用于环境探索，协作移动机器人和目标跟踪，这得益于自主感知的高性能保证。在这方面，我们提出了一个双无线电可视PAS计划来解决发射机发现问题。具体来说，我们首先利用无线电和视觉测量之间的相关性，以自我监督的方式学习目标检测模型。然后，将该模型与天线辐射各向异性结合到控制平台的贝叶斯优化框架中。我们表明，该算法达到了92%的准确度，克服了其他两个概率主动传感基线。
2021-03-27 cs.LG cs.RO cs.SY
Efficient Off-Policy Meta-Reinforcement Learning via Probabilistic Context Variables
UC Berkeley（加州大学伯克利分校）
深度强化学习算法需要大量的经验来学习单个任务。虽然在原则上Meta强化学习（元RL）算法使代理从少量的经验学习新的技能，几个主要的挑战妨碍其实用性。目前的方法严重依赖于政策上的经验，限制了他们的样本效率。在适应新任务时也缺乏对任务不确定性的推理机制，限制了它们在稀疏奖励问题中的有效性。在本文中，我们通过开发一种脱离策略的元RL算法来解决这些挑战，该算法可以解开任务推理和控制。在我们的方法中，我们执行潜在的任务变量的在线概率过滤，以推断如何解决一个新的任务，从少量的经验。这种概率解释使得后验采样能够进行结构化和有效的探索。我们演示了如何将这些任务变量与非策略RL算法相结合，以实现元训练和自适应效率。我们的方法在样本效率方面优于现有算法20- 100倍，并且在几个元RL基准测试中的渐近性能也优于现有算法。
2019-03-19 cs.AI cs.LG stat.ML
Multi-path Probabilistic Available Bandwidth Estimation through Bayesian Active Learning
McGill University（麦吉尔大学）
当在视频流中选择传输速率或在对等应用中选择对等点时，知道可以在端到端路径上发送数据的最大速率，使得出口速率以高概率等于入口速率可能是非常实用的。我们引入概率可用带宽，这是定义在入口速率和出口速率的路径上的流量，而不是在容量和利用率的组成链路的路径，如标准的可用带宽度量。在本文中，我们描述了一个分布式算法，概率图模型和贝叶斯主动学习的基础上，同时估计通过网络的多条路径的概率可用带宽。我们的程序利用了这样一个事实，即每个包训练提供的信息，不仅关于它穿越的路径，但也有关于任何共享一个链接与监测path.Simulations和PlanetLab实验表明，这个过程可以显着减少所需的探针的数量，以产生准确的估计。
2010-01-06 cs.LG cs.NI
CheXpert++: Approximating the CheXpert labeler for Speed,Differentiability, and Probabilistic Output
MIT（麻省理工学院）；University of Toronto（多伦多大学）
通常不可行或不可能获得医疗数据的基础事实标签。为了规避这一点，可以构建基于规则的或其他专家知识驱动的标记器来摄取数据并在没有任何地面实况训练数据的情况下产生银标记。一个流行的这样的贴标机是CheXpert，一个贴标机，生产诊断标签的胸部X射线放射学报告。CheXpert非常有用，但计算速度相对较慢，特别是与端到端神经管道集成时，是不可微的，因此不能用于任何需要梯度流经标记器的应用，并且不会产生概率输出，这限制了我们通过主动学习等技术提高银标记器质量的能力。在这项工作中，我们解决了所有这三个问题与$\texttt{CheXpert++}$，基于BERT，高保真近似CheXpert。$\texttt{CheXpert++}$与CheXpert具有99.81\%的奇偶性，这意味着它可以可靠地用作CheXpert的直接替代品，同时输出速度更快，完全可区分，并且具有概率性。对$\texttt{CheXpert++}$的错误分析还表明，$\texttt{CheXpert++}$倾向于实际纠正CheXpert标签中的错误，除了一项疾病任务外，临床医生更倾向于使用$\texttt{CheXpert++}$标签而不是CheXpert标签（当两者不一致时）。为了进一步证明这些优势在该模型中的实用性，我们进行了概念验证主动学习研究，证明我们可以通过使用一次迭代的主动学习启发的再训练，将专家标记的报告句子…
2020-06-26 cs.LG stat.ML
Improving decision-making via risk-based active learning: Probabilistic discriminative classifiers
University of Sheffield（谢菲尔德大学）；The Alan Turing Institute（艾伦·图灵研究所）
获得对结构的操作和维护做出明智决策的能力为结构健康监测（SHM）系统的实施提供了动力。然而，与被监测系统的健康状态相对应的测量数据的描述性标签通常是不可用的。这个问题限制了全监督机器学习范例用于开发统计分类器以用于SHM系统中的决策支持的适用性。解决这个问题的一种方法是基于风险的主动学习。在这种方法中，数据标签查询是根据初始数据点的完美信息的期望值来引导的。对于SHM中基于风险的主动学习，相对于维护决策过程评估信息的价值，并且数据标签查询对应于结构的检查以确定其健康状态。在SHM的上下文中，基于风险的主动学习仅被考虑用于生成分类器。目前的文件演示了使用一种替代类型的分类器-判别模型的几个优点。使用Z24桥数据集作为案例研究，它表明，判别分类器的好处，在SHM决策支持的背景下，包括提高鲁棒性抽样偏差，并减少结构检查的支出。
2022-06-23 cs.LG stat.AP stat.ML
Meta-probabilistic Modeling
本文提出元概率建模（MPM），通过分层结构学习生成模型结构，支持广泛概率模型并连接现有架构，实验显示其能有效适应数据并恢复有意义的潜在表示。
2026-04-07 cs.LG
Active WeaSuL: Improving Weak Supervision with Active Learning
ING Wholesale Banking Advanced Analytics（ING批发银行高级分析部）；University of Amsterdam（阿姆斯特丹大学）；Feebris（Feebris公司）
标记数据的可用性是机器学习的主要限制之一。我们可以使用弱监督来缓解这种情况：一个使用专家定义的规则$\boldsymbolλ$来估计整个数据集的概率标签$p(y|\boldsymbolλ)$的框架。然而，这些规则依赖于专家对问题的了解，因此可能是不准确的，或者可能无法捕获问题空间的重要部分。为了缓解这一问题，我们提出了主动WeaSuL：一种将主动学习纳入弱监督的方法。在Active WeaSuL中，专家不仅定义规则，而且还迭代地为弱监督模型最有可能出错的一小部分点提供真实标签，然后用于更好地估计概率标签。通过这种方式，弱标签提供了一个温暖的开始，然后主动学习进行改进。我们做两个贡献：1）弱监督损失函数的修改，使得专家标记的数据通知并改进弱标记的组合;以及2）maxKL发散采样策略，其确定专家标记对于哪些数据点最有益。我们的实验表明，当标记数据的预算有限时（例如$\leq 60$数据点），Active WeaSuL优于弱监督，主动学习和竞争策略，只有少数标记的数据点。这使得Active WeaSuL非常适合难以获得标记数据的情况。
2021-04-30 cs.LG stat.ML
Select Wisely and Explain: Active Learning and Probabilistic Local Post-hoc Explainability
IIITD（印度德里英迪拉·甘地信息技术学院）
尽管在数据密集型领域中设计复杂的人工智能（AI）系统的性能有了巨大的提高，但这些系统的黑盒性质导致了缺乏可信度。事后可解释性方法解释了单个实例的黑盒ML模型的预测，领域专家正在利用这些解释来诊断这些模型的潜在偏差。尽管它们在提供有价值的见解方面有效，但现有的方法无法提供一致和可靠的解释。在本文中，我们提出了一个主动学习为基础的技术，称为UnRAvEL（不确定性驱动的鲁棒主动学习基于本地的忠诚度），其中包括一个新的采集功能，是本地的忠诚度和使用不确定性驱动的采样的基础上的后验分布的概率局部高斯过程回归（GPR）。我们提出了一个理论分析的UnRAvEL处理它作为一个局部优化和分析其遗憾的瞬时遗憾的全局优化。我们证明了UnRAvEL通过将不同的内核，如在GPR的Matern和线性内核生成的本地样本的功效。通过一系列的实验，我们证明了UnRAvEL在几个真实世界模型和数据集上的稳定性和局部保真度方面优于基线。我们表明，UnRAvEL是一个有效的代理数据集生成器，通过使用稀疏线性模型推导这个代理数据集的重要性分数。我们还展示了使用预先训练的ResNet模型在Imagenet数据集上开发的框架的样本效率和灵活性。
2022-04-22 cs.LG
Toward Ownership Understanding of Objects: Active Question Generation with Large Language Model and Probabilistic Generative Model
Ritsumeikan University（立命馆大学）；Soka University（创价大学）；Kyoto University（京都大学）
提出ActOwL框架，结合概率生成模型最大化信息增益和LLM常识预分类，通过主动提问高效获取物体所有权知识，在模拟和真实环境中以更少问题实现更高聚类准确率。
2025-09-16 cs.AI cs.HC cs.LG
Active Preference Inference using Language Models and Probabilistic Reasoning
Cornell University（康奈尔大学）；Cornell Tech（康奈尔科技学院）
本文提出一种推理时算法，利用概率模型和熵优化，使LLM通过提出更信息量的问题来高效推断用户偏好，在交互式购物中减少交互次数并提升任务性能。
2024-06-26 cs.AI cs.CL cs.LG
Prior-aware and Context-guided Group Sampling for Active Probabilistic Subsampling
Department of Artificial Intelligence, Korea University, Seoul, Republic of Korea（人工智能系，韩国大学，首尔，大韩民国）
研究针对主动概率子采样方法不足，提出先验感知和上下文引导分组主动DPS（PGA-DPS），整合先验信息采样模式与基于组的top-k采样，经理论分析和实证验证，在多任务中表现优于其他方法。
2026-07-09 cs.LG cs.SY eess.SY
A Quantum-Inspired Probabilistic Model for the Inverse Design of Meta-Structures
University of Washington（华盛顿大学）；Huazhong University of Science and Technology（华中科技大学）
在量子力学中，范数平方波函数可以被解释为描述粒子在给定位置或动量下被测量的可能性的概率密度。这种统计特性是微观世界的核心。与此同时，材料的机器学习反求设计引起了人们的广泛关注，并产生了各种物质工程智能系统。在这里，受量子理论的启发，我们提出了一种概率深度学习范式，用于功能元结构的逆向设计。我们的概率密度为基础的神经网络（PDN）可以准确地捕捉所有合理的元结构，以满足所需的性能。概率密度分布中的局部最大值对应于最可能的候选者。我们通过为每个目标透射谱设计多个元结构来验证这种方法，以丰富设计选择。
2020-11-11 cs.LG cs.NE physics.app-ph
Upstream Probabilistic Meta-Imputation for Multimodal Pediatric Pancreatitis Classification
本文提出UPMI方法，通过元特征空间中的概率元填补提升多模态儿童胰腺炎分类性能，实现AUC提升5%。
2025-11-19 cs.CV cs.LG
On Solving a Stochastic Shortest-Path Markov Decision Process as Probabilistic Inference
Oxford Robotics Institute, University of Oxford（牛津大学牛津机器人研究所）
以前的工作规划作为积极的推理解决有限的地平线问题和解决方案有效的在线规划。我们建议解决一般的随机最短路径马尔可夫决策过程（SSP MDP）的概率推理。此外，我们还讨论了在线和离线的不确定性下的规划方法。在SSP MDP中，视界是不确定的并且先验未知。SSP MDP概括了有限和无限水平MDP，并广泛用于人工智能社区。此外，我们强调了一些使用动态规划方法广泛用于人工智能社区和主动推理社区中使用的方法来解决MDP之间的差异。
2021-09-13 cs.AI cs.LG
Active Safety Envelopes using Light Curtains with Probabilistic Guarantees
Carnegie Mellon University（卡内基梅隆大学）
为了安全地在未知环境中航行，机器人必须准确地感知动态障碍物。我们没有直接使用LiDAR传感器测量场景深度，而是探索使用一种更便宜、分辨率更高的传感器：可编程光幕。光幕是可控的深度传感器，仅沿用户选择的表面进行感测。我们使用光幕来估计场景的安全范围：一个将机器人与所有障碍物隔开的假设表面。我们表明，生成感测随机位置（从特定分布）的光幕可以快速发现具有未知对象的场景的安全包络。重要的是，我们产生的理论上的安全保证的概率检测障碍物使用随机窗帘。我们将随机窗帘与基于机器学习的模型相结合，该模型可以有效地预测和跟踪安全外壳的运动。我们的方法准确地估计安全信封，同时提供概率安全保证，可用于验证机器人感知系统的效率，以检测和避免动态障碍物。我们评估我们的方法在一个模拟的城市驾驶环境和现实世界的环境中移动的行人使用光幕设备，并表明我们可以有效地估计安全信封。项目网址：https://siddancha.github.io/projects/active-safety-envelopes-with-guarantees
2021-07-08 cs.AI cs.CV cs.LG
Data-Efficient Task Generalization via Probabilistic Model-based Meta Reinforcement Learning
ETH Zurich（苏黎世联邦理工学院）
PACOH-RL通过元学习动态模型先验并利用不确定性引导探索，实现数据高效的任务泛化，在模拟和真实机器人上优于现有基线。
2024-02-06 cs.LG cs.RO
Probabilistic Black-Box Checking via Active MDP Learning
Kyoto University（京都大学）
针对嵌入式系统中的随机黑盒系统，论文提出 ProbBBC，将主动 MDP 学习、概率模型检查与统计假设检验闭环整合，提升有限观测下的反例发现效果。
2023-07-15 cs.FL cs.LG cs.SE
Picking groups instead of samples: A close look at Static Pool-based Meta-Active Learning
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
主动学习技术用于解决获取训练标签代价高昂的学习问题。在这项工作中，我们使用Meta-主动学习来学习从无监督输入池中选择样本的子集进行进一步的注释。此方案称为基于静态池的Meta-主动学习。我们建议扩展现有的方法，通过执行选择的方式，不像以前的作品，可以处理选择的每个样本的基础上，整个选定的子集。
2019-11-01 cs.CV cs.LG
Interactive Multi-Objective Probabilistic Preference Learning with Soft and Hard Bounds
Department of Computer Science（计算机科学系）；Stanford University（斯坦福大学）
研究高风险决策中多目标平衡问题，提出Active-MoSH框架，其局部组件结合概率偏好学习与主动采样，全局组件利用多目标敏感性分析，提升决策信心，通过实验验证其性能优势。
2026-07-07 cs.AI cs.LG
Plug-in Approach to Active Learning
Georgia Institute of Technology（佐治亚理工学院）
提出了一种基于回归函数非参数估计的主动学习算法。我们的调查提供了概率界的收敛速度的泛化误差所提出的方法实现了广泛的一类潜在的分布。我们还证明了极大极小的下界，这表明所获得的速度几乎是紧的。
2011-11-02 cs.LG math.ST stat.TH
Active Weighted Aging Ensemble for Drifted Data Stream Classification
Wrocław University of Science and Technology（弗罗茨瓦夫科技大学）
流数据分类的一个重要问题是概念漂移的发生，包括分类任务的概率特性的变化。这种现象使分类模型的性能不稳定，并严重降低其质量。一个适当的策略抵消这种现象是需要适应分类器的变化的概率特性。实现这种解决方案的一个重要问题是对数据标签的访问。它通常是昂贵的，因此为了最小化与该过程相关的费用，提出了基于半监督学习的学习策略，例如，采用主动学习方法来指示哪些传入对象有价值被标记以改进分类器的性能。本文提出了一种新的基于分类器集成学习的非平稳数据流的基于块的方法和一种考虑有限预算的主动学习策略，可以成功地应用于任何数据流分类算法。所提出的方法已通过计算机实验，使用真实的和生成的数据流进行评估。结果证实了所提出的算法的高品质的国家的最先进的方法。
2021-12-19 cs.LG
Diffusion Probabilistic Model Based Accurate and High-Degree-of-Freedom Metasurface Inverse Design
Peking University Shenzhen Graduate School（北京大学深圳研究生院）；Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）；Shenzhen University（深圳大学）
针对超材料逆向设计中传统优化通用性不足及GAN训练不稳定、成本高的问题，提出基于扩散概率模型的高自由度超原子生成方法，可按S参数条件稳定生成高质量结构，并在收敛速度、精度和质量上优于代表性GAN。
2023-04-25 cs.LG physics.optics
