WeatherBench Probability: A benchmark dataset for probabilistic medium-range weather forecasting along with deep learning baseline models
Technical University of Munich(慕尼黑工业大学);ClimateAi, Inc(ClimateAi公司)
WeatherBench是一个基准数据集,用于对位势、温度和降水进行中期天气预报,包括预处理数据、预定义的评估指标和一些基线模型。WeatherBench Probability通过添加一组已建立的概率验证指标(连续排名概率得分,扩展技能比和排名直方图)和使用ECWMF IFS集合预报的最先进的操作基线,将其扩展到概率预报。此外,我们还测试了三种不同的概率机器学习方法--蒙特卡洛退出、参数预测和分类预测,其中概率分布是离散化的。我们发现,简单的蒙特卡罗退出严重低估了不确定性。参数模型和分类模型都能产生质量相似的相当可靠的预测。参数模型的自由度更少,而分类模型在预测非高斯分布时更灵活。没有一个模型能够与业务IFS模型的技能相匹配。我们希望这个基准将使其他研究人员能够评估他们的概率方法。
2022-05-02 cs.LG physics.ao-ph
P(Expression|Grammar): Probability of deriving an algebraic expression with a probabilistic context-free grammar
University of Ljubljana(卢布尔雅那大学);Jožef Stefan Institute(约瑟夫·斯特凡研究所)
概率上下文无关文法在机器学习和符号回归中作为生成模型有着长期的使用记录。当用于符号回归时,它们生成代数表达式。我们将后者定义为等价类的字符串派生的语法和地址的问题,计算概率得出一个给定的表达式与一个给定的语法。我们表明,该问题是不可判定的一般。然后,我们提出了具体的语法生成线性,多项式和有理表达式,其中算法计算的概率给定的表达式存在。对于这些文法,我们设计算法来计算精确的概率和有效的近似与任意精度。
2022-12-02 cs.FL cs.LG
Distributed Bandits: Probabilistic Communication on $d$-regular Graphs
Princeton University(普林斯顿大学)
我们研究了分散式多智能体多臂强盗问题的代理商,通过一个$d$ -正则图定义的网络上的概率进行通信。图中的每条边都具有概率权重$p$以说明通信链路故障的($1\!-\!p$)概率。在每个时间步,每个代理选择一个手臂,并接收与所选手臂相关联的数字奖励。在每次选择之后,每个代理观察其每个邻居的最后获得的奖励,概率为$p$。我们提出了一个新的置信上限(UCB)为基础的算法,并分析如何基于代理的策略有助于最大限度地减少群体遗憾,在这种概率通信设置。我们提供理论保证,我们的算法优于国家的最先进的算法。我们说明了我们的结果,并验证了理论主张,使用数值模拟。
2021-10-09 cs.LG math.PR stat.ML
Probabilistic and Team PFIN-type Learning: General Properties
我们考虑Popperian有限学习的概率层次,并研究这个层次的一般性质。我们证明了概率层次是可判定的,即存在一个算法,它接收p_1和p_2,并回答成功概率为p_1的PFIN型学习是否等价于成功概率为p_2的PFIN型学习。为了证明我们的结果,我们分析了概率层次的拓扑结构。我们证明了它是降序良序的,并且序等价于序数ε_0。由此可见,这个阶层的结构是非常复杂的。使用类似的方法,我们还证明了,PFIN型学习,团队学习和概率学习是相同的权力。
2005-03-31 cs.LG
Agreement-Constrained Probabilistic Minimum Bayes Risk Decoding
Nara Institute of Science and Technology (NAIST)(奈良先端科学技术大学院大学);NTT, Inc.(日本电信电话株式会社)
本文提出基于共识约束的概率最小贝叶斯风险解码方法,通过知识蒸馏模型提升矩阵补全效果,从而在保持翻译质量的同时降低计算成本。
2025-12-01 cs.AI cs.CL cs.LG
Probabilistic Graphical Models: A Concise Tutorial
Cornell Tech(康奈尔科技校区);University of Southern California(南加州大学);Stanford University(斯坦福大学)
本文是一篇概率图模型简明教程,介绍其概率论与图论基础,并系统讲解多元分布的图表示、参数与结构学习以及精确和近似推理算法。
2025-07-23 cs.LG
A Tale of Three Probabilistic Families: Discriminative, Descriptive and Generative Models
University of California, Los Angeles(加州大学洛杉矶分校)
Grenander的模式理论是一个数学框架,其中模式由代数结构的随机变量的概率模型表示。在本文中,我们回顾了三个家庭的概率模型,即判别模型,描述模型和生成模型。判别模型是以分类器的形式存在的。它指定给定输入信号的类标签的条件概率。描述性模型基于在信号上定义的能量函数来指定信号的概率分布。生成模型假设信号是由一些潜变量通过变换生成的。我们将在一个共同的框架内回顾这些模型,并探讨它们之间的联系。我们还将回顾利用深度神经网络的高逼近能力的最新发展。
2018-12-04 cs.CV cs.LG stat.ML
Reducing the Probability of Undesirable Outputs in Language Models Using Probabilistic Inference
University of Toronto(多伦多大学);Université de Montréal(蒙特利尔大学);Vector Institute(向量研究所);Mila(米拉研究所)
本文提出RePULSe训练方法,通过增加损失引导采样低奖励输出并降低其概率,改善期望奖励与不良输出概率的权衡,并增强对抗鲁棒性。
2025-10-24 cs.AI cs.CL cs.LG
Connecting Surrogate Safety Measures to Crash Probablity via Causal Probabilistic Time Series Prediction
University of California, Berkeley(加州大学伯克利分校);Safe Transportation Research and Education Center(安全交通研究与教育中心);Institute of Transportation Studies(交通研究所)
替代安全措施可以提供快速和主动的安全分析,并通过研究未遂事故来了解预碰撞过程和碰撞失效机制。然而,通过将替代安全措施与碰撞联系起来来验证它们仍然是一个悬而未决的问题。提出了一种基于概率时间序列预测的替代安全措施与碰撞概率的关联方法。该方法利用速度、加速度和碰撞时间序列,利用Transformer掩蔽自回归流(transformer-MAF)估计这些变量的概率密度函数。自回归结构模拟了条件、行为和事故后果之间的因果关系,并利用概率密度函数计算了条件行为概率、事故概率和条件事故概率。在交通冲突情境和正常互动情境下,预测序列都是准确的,估计概率都是合理的,条件碰撞概率在反事实实验中显示了规避行为避免碰撞的有效性。
2022-10-04 cs.AI cs.LG
Polynomial-time probabilistic reasoning with partial observations via implicit learning in probability logics
Washington University in St. Louis(圣路易斯华盛顿大学)
概率推理的标准方法要求人们拥有一个明确的分布模型。但是,从部分观测的概率分布模型的经验学习是一个问题,有效的算法通常是未知的。在这项工作中,我们考虑使用有界度片段的“平方和”逻辑作为概率逻辑。先前的工作表明,我们可以决定反驳这样的片段在多项式时间。我们建议使用这样的片段来回答关于给定的概率分布是否满足给定的约束系统和期望值的界限的查询。我们表明,在回答这样的查询,这样的约束和界限,可以隐式地学习,以及从多项式时间的部分观测。众所周知,这种逻辑能够推导出许多在概率分析中有用的界限。我们在这里表明,它还捕捉有用的多项式时间片段的分辨率。因此,这些片段也相当有表现力。
2018-06-28 cs.AI cs.LG cs.LO
Probabilistic Gaussian Homotopy: A Probability-Space Continuation Framework for Nonconvex Optimization
University of British Columbia(不列颠哥伦比亚大学);Colorado School of Mines(科罗拉多矿业学院)
提出概率高斯同伦(PGH)框架,通过变形玻尔兹曼分布和玻尔兹曼加权梯度聚合,实现非凸优化的概率空间延拓,并导出基于蒙特卡洛梯度估计的实用算法PGHO。
2026-06-04 cs.LG
Probabilistic spatial clustering based on the Self Discipline Learning (SDL) model of autonomous learning
无监督聚类算法可以有效地对高维无标记数据进行降维,从而降低数据处理的时间和空间复杂度。但传统的聚类算法需要事先设定类别数量的上界,深度学习聚类算法会陷入局部最优的问题。为了解决这些问题,提出了一种基于自律学习(SDL)模型的概率空间聚类算法。该算法以向量间概率空间距离的高斯概率分布为基础,以概率空间距离的概率尺度和最大概率值作为距离度量判断,然后根据数据集本身的分布特点确定每个样本的类别。该算法在智能安全自动化实验室(LISA)交通灯数据集上进行了测试,准确率为99.03%,召回率为91%,取得了较好的效果。
2022-01-14 cs.AI cs.LG
Neural Probabilistic Logic Programming in Discrete-Continuous Domains
KU Leuven(鲁汶大学);Örebro University(厄勒布鲁大学)
神经符号人工智能(NeSy)允许神经网络以逻辑的形式利用符号背景知识。它已被证明有助于在有限的数据制度的学习,并促进外的分布数据的推断。ProbabilityNeSy专注于将神经网络与逻辑和概率理论相结合,这还允许在不确定性下进行学习。当前概率NeSy系统(诸如DeepProbLog)的主要限制是它们对有限概率分布的限制,即,离散随机变量相比之下,深度概率编程(DPP)在建模和优化连续概率分布方面表现出色。因此,我们引入DeepSeaProbLog,一种神经概率逻辑程序设计语言,将DPP技术纳入NeSy。这样做的结果在逻辑约束下的离散和连续概率分布的推理和学习的支持。我们的主要贡献是:1)DeepSeaProbLog的语义及其相应的推理算法,2)一个经过验证的渐近无偏学习算法,以及3)一系列的实验,说明了我们的方法的多功能性。
2023-03-14 cs.AI cs.LG cs.LO