One Sample Fits All: Approximating All Probabilistic Values Simultaneously and Efficiently
School of Computing（计算机学院）；National University of Singapore（新加坡国立大学）；School of Computer Science（计算机科学学院）；University of Waterloo（滑铁卢大学）；Vector Institute（向量研究院）
针对概率值计算开销大、需逐个逼近的问题，提出一样本通用框架，通过优化采样向量实现所有概率值的高效同时逼近，还可求解一类数据模型。
2024-10-31 cs.LG
Probabilistic DAG Search
University of Tübingen（图宾根大学）；Microsoft Research（微软研究院）；Max-Planck-Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
令人兴奋的当代机器学习问题最近被描述为树搜索的经典形式--最著名的是围棋。有趣的是，这些顺序决策问题背后的状态空间通常是一个比树更一般的潜在结构。在这项工作中，我们开发了一个概率框架，利用搜索空间的潜在结构，从而在整个搜索树共享信息。该方法是基于联合高斯模型中的近似推理的组合，探索的问题的一部分，和未探索的部分，实行了减少特设的复杂性的抽象。我们凭经验发现我们的算法相比，有利的现有的非概率的替代品，井字游戏和特征选择应用。
2021-06-16 cs.AI cs.LG
Probabilistic Lexicase Selection
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Swoop（Swoop公司）；Amherst College（阿默斯特学院）
提出概率lexicase选择算法，通过高效近似lexicase选择的概率分布，在保持竞争性问题解决性能的同时显著提升计算效率。
2023-05-19 cs.LG cs.NE
Probabilistic Rule Realization and Selection
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Michigan（密歇根大学）
抽象和实现是双向的过程，是获得智力和创造力的关键。在许多领域，这两个过程是通过规则来实现的：高级原则，揭示了相似但不同的例子中的不变性。在离散输入空间的概率设置下，我们专注于规则实现问题，该问题生成遵循给定规则的输入样本分布。更雄心勃勃的是，我们超越了机械的实现，接受任何给定的东西，而是要求主动选择合理的规则来实现。这一目标在实践中要求很高，因为初始规则集可能并不总是一致的，因此需要明智的妥协。我们制定的规则实现和选择作为两个强连接的组件在一个单一的和对称的双凸问题，并推导出一个有效的算法，在大规模的工作。以音乐创作规则为例，我们证明了我们的模型的效率，不仅在音乐实现（组成），而且音乐的解释和理解（分析）。
2018-03-09 cs.LG stat.ML
Asynchronous Wireless Federated Learning with Probabilistic Client Selection
South China University of Technology（华南理工大学）；Shanghai Jiao Tong University（上海交通大学）；Xidian University（西安电子科技大学）
本文研究异步无线联邦学习中的落后节点问题，提出概率客户端选择与带宽分配联合优化方法，并设计迭代算法全局最优求解非凸问题，以权衡收敛速率与设备能耗。
2023-11-28 cs.DC cs.LG cs.NI
Contextual Plackett-Luce: An Efficient Neural Model for Probabilistic Sequence Selection under Ambiguity
Mobileye
本文提出Contextual Plackett-Luce模型，结合全并行评分与轻量级自回归选择过程，提升在模糊监督下的序列选择效率与鲁棒性。
2026-05-09 cs.AI cs.LG
Probabilistic selection of inducing points in sparse Gaussian processes
University of Glasgow（格拉斯哥大学）
稀疏高斯过程及其各种扩展是通过诱导点实现的，这些诱导点同时限制了预测能力，并成为模型复杂性的主要贡献者。然而，诱导点的数量通常与不确定性无关，这阻止了我们应用贝叶斯推理的装置来确定适当的权衡。在这项工作中，我们放置一个点过程之前的诱导点和近似相关的后验通过随机变分推理。通过让先验知识鼓励适度数量的诱导点，我们使模型能够学习使用哪些点以及使用多少点。我们的实验表明，更少的诱导点是首选的模型，因为点变得信息量较少，并进一步展示了该方法可以用于深高斯过程和潜变量建模。
2021-07-25 cs.LG stat.ML
Probabilistic Active Learning for Active Class Selection
University Kassel（卡塞尔大学）；University Magdeburg（马格德堡大学）
在机器学习中，主动类选择（ACS）算法旨在主动选择类并要求oracle为该类提供实例，以优化分类器的性能，同时最小化请求的数量。在本文中，我们提出了一个新的算法（PAL ACS），转换ACS问题转化为一个主动学习任务，通过引入伪实例。这些用于使用来自概率主动学习的性能增益模型来估计每个类的即将到来的实例的有用性。我们的实验评估（合成和真实数据）显示了我们的算法相比，国家的最先进的算法的优势。它有效地优先选择困难类的样本，从而提高分类性能。
2021-08-09 cs.AI cs.LG
Probabilistic Bilevel Coreset Selection
The Hong Kong University of Science and Technology（香港科技大学）；Google Research（谷歌研究院）
在监督学习中，核心集选择的目标是产生一个加权的数据子集，这样只对子集进行训练就可以达到与对整个数据集进行训练相似的性能。现有的方法在资源受限的情况下，如持续学习和流式传输，取得了可喜的成果。然而，现有的算法大多局限于传统的机器学习模型。一些可以处理大型模型的算法采用贪婪搜索方法，因为难以解决离散子集选择问题，当coreset变得更大时，计算成本很高，并且经常产生次优结果。在这项工作中，我们第一次提出了一个连续的概率双层制定coreset选择通过学习每个训练样本的概率权重。该算法的总体目标是一个两层优化问题，其中1）内循环采样核心重置并训练模型收敛; 2）外循环根据模型的性能逐步更新采样概率。重要的是，我们开发了一个有效的解决方案，通过无偏的策略梯度的双层优化问题，没有隐式微分的麻烦。我们提供了我们的训练过程的收敛性，并证明了我们的算法在各种任务中对各种核心集选择方法的优越性，特别是在更具挑战性的标签噪声和类不平衡的情况下。
2023-01-24 cs.LG
Probabilistic Multi-Source Data Selection via Learnable Categorical Priors: Variance Reduction and Guaranteed Derandomization
College of Computing and Data Science（计算与数据科学学院）；Nanyang Technological University（南洋理工大学）
针对多源双层数据选择问题，本文提出基于可学习分类先验的概率松弛方法，设计ReSGD算法并建立近似保证，通过实验验证其有效性。
2026-10-14 cs.AI cs.LG
Learning a Probabilistic Strategy for Computational Imaging Sensor Selection
California Institute of Technology（加州理工学院）；Harvard Medical School（哈佛医学院）；Massachusetts Institute of Technology（麻省理工学院）
当图像必须从严重有限的测量中恢复时，优化的感测对于低资源环境中的计算成像非常重要。在本文中，我们提出了一个物理约束，完全可微，自动编码器，学习概率传感器采样策略优化传感器设计。所提出的方法学习系统的首选采样分布，其特征在于不同的传感器选择之间的相关性作为一个二进制的，完全连接的伊辛模型。学习的概率模型是通过使用吉布斯采样启发的网络架构来实现的，并通过重建网络进行端到端的训练，以实现高效的协同设计。所提出的框架是适用于各种计算成像应用中的传感器选择问题。在本文中，我们展示了一个非常长的基线干涉（VLBI）阵列设计任务的背景下，传感器相关性和大气噪声提出了独特的挑战的方法。我们展示的结果与预期基本一致，并提请注意望远镜阵列几何形状中首选的特定结构，这些结构可用于规划未来的观测和设计阵列扩展。
2020-03-23 astro-ph.IM cs.CV cs.LG
Towards a Causal Probabilistic Framework for Prediction, Action-Selection & Explanations for Robot Block-Stacking Tasks
University of Oxford（牛津大学）
针对机器人积木堆叠任务，本文提出将物理仿真嵌入结构因果模型的因果概率框架，以实现状态评估、下一最优动作选择和事后反事实解释。
2023-09-29 cs.AI cs.LG cs.RO
Dynamic Optimization of Neural Network Structures Using Probabilistic Modeling
Yokohama National University（横滨国立大学）；Shinshu University（信州大学）
深度神经网络（DNN）是强大的机器学习模型，并且在各种人工智能任务中取得了成功。尽管已经提出了DNN的各种架构和模块，但为目标问题选择和设计适当的网络结构是一项具有挑战性的任务。本文提出了一种在神经网络训练过程中同时优化网络结构和权值参数的方法。我们考虑一个概率分布，生成网络结构，并优化分布的参数，而不是直接优化网络结构。该方法可适用于同一框架下的各种网络结构优化问题。我们将所提出的方法应用于几个结构优化问题，如层的选择，单元类型的选择，以及使用MNIST，CIFAR-10和CIFAR-100数据集的连接选择。实验结果表明，该方法可以找到合适的和有竞争力的网络结构。
2018-01-23 cs.LG cs.NE stat.ML
Toward Optimal Probabilistic Active Learning Using a Bayesian Approach
University of Kassel（卡塞尔大学）；Utrecht University（乌得勒支大学）
收集标记数据以训练性能良好的机器学习模型是许多应用中的关键挑战之一。主动学习旨在通过高效和有效地分配昂贵的标签资源来降低标签成本。在这篇文章中，我们提出了一个决策理论的选择策略，（1）直接优化误分类误差的增益，（2）使用贝叶斯方法，通过引入共轭先验分布来确定类后验来处理不确定性。通过在我们提出的模型中重新制定现有的选择策略，我们可以解释哪些方面在当前最先进的技术中没有涵盖，以及为什么这会导致我们的方法具有优异的性能。大量的各种数据集和不同的内核上的实验验证了我们的主张。
2020-06-02 cs.LG stat.ML
Probabilistic selection and design of concrete using machine learning
University of Cambridge（剑桥大学）；Cavendish Laboratory, University of Cambridge（剑桥大学卡文迪许实验室）
本文提出一种利用中间目标变量及其噪声预测最终性能的机器学习方法，并据此设计、实验验证了兼顾强度、密度、成本与低碳或抗碳化要求的混凝土配合比。
2023-04-21 cond-mat.mtrl-sci cs.CE cs.LG
Predicting Biomedical Interactions with Probabilistic Model Selection for Graph Neural Networks
Amazon（亚马逊）
本文提出基于概率模型选择的框架，通过推断最合适的图卷积层数量、应用dropout正则化和学习网络参数，提升生物医学相互作用预测的性能和校准度。
2026-03-17 cs.LG q-bio.QM
Prof-K: Probabilistic One-Pass Filtering for Efficient Top-k Selection
Jagiellonian University（雅盖隆大学）
本文提出概率单趟过滤算法Prof-K，它是与分布无关的高效Top-k选择算法，可提供概率正确性保证，在大规模场景下比PyTorch topk等方法快1.5-10倍，还能实现精度-速度权衡，可用于优化稀疏自编码器训练。
2026-10-02 cs.LG
Linear-Time Probabilistic Solutions of Boundary Value Problems
University of Tübingen（蒂宾根大学）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）
我们提出了一个快速算法的概率解的边值问题（BVP），这是常微分方程的边界条件。与以前的工作相比，我们引入了高斯-马尔可夫先验，并专门为BVP定制，它允许在线性时间内计算解决方案的后验分布，其质量和成本与成熟的非概率方法相当。我们的模型进一步提供了不确定性量化，网格细化和超参数自适应。我们展示了这些实际的考虑因素如何积极影响该计划的效率。总之，这导致了一个实际可用的概率BVP求解器，它（与非概率算法相比）与统计建模工具链的其他部分原生兼容。
2021-06-14 cs.LG cs.NA math.NA
Probabilistic Shapley Value Modeling and Inference
Columbia University（哥伦比亚大学）；BCAM — Basque Center for Applied Mathematics（巴斯克应用数学中心）
提出概率Shapley推断（PSI）框架，通过潜在随机变量建模特征归因，联合训练预测模型与归因分布，采用掩码神经网络处理变长子集，在合成与真实数据上实现竞争性预测并揭示归因不确定性。
2025-09-08 cs.LG stat.ML
Calibrated Adaptive Probabilistic ODE Solvers
University of Tübingen（蒂宾根大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
常微分方程的概率求解器为初值问题的解分配后验测度。该分布的联合协方差提供了（全局）近似误差的估计。作为求解器步长的函数的该误差估计的收缩率将其识别为良好校准的最差情况误差，但是其对于特定步长的显式数值并不能自动地是显式误差的良好估计。针对这个问题，我们介绍，讨论和评估几种概率动机的方法来校准不确定性估计。数值实验表明，这些校准方法与自适应步长选择有效地相互作用，从而产生描述性的，有效地可计算的后验。我们证明了对经典的，广泛使用的Dormand-Prince 4/5龙格-库塔法的基准测试的方法的效率。
2021-02-22 cs.LG cs.NA math.NA
Shapley Value on Probabilistic Classifiers
Zhejiang University（浙江大学）
针对传统Shapley值无法有效区分概率分类器的有益与有害训练数据点的问题，本文提出利用预测类别概率的P-Shapley值及置信校准激活函数，经四个真实数据集实验验证其在数据重要性评估上的有效性。
2023-06-12 cs.DB cs.LG
Regression-adjusted Monte Carlo Estimators for Shapley Values and Probabilistic Values
Claremont McKenna College（克莱蒙特麦肯纳学院）；New York University（纽约大学）
本文提出了一种结合蒙特卡洛抽样与线性回归的回归调整方法，用于更高效地估计概率值，如肖普利值，在多个数据集上表现出更优的性能。
2026-10-12 cs.AI cs.LG
