Lazy Factored Inference for Functional Probabilistic Programming
Charles River Analytics（查尔斯河分析公司）
概率编程提供了使用程序设计语言构造来表示和推理复杂概率模型的方法。即使是简单的概率程序也可以产生具有无穷多个变量的模型。因式推理算法被广泛用于概率图模型，但不能应用于这些程序，因为所有的变量和因素都必须枚举。在本文中，我们提出了一个新的推理框架，懒惰因式推理（LFI），使因式算法被用于无限多个变量的模型。LFI将模型扩展到有界深度，并使用程序的结构来精确量化模型未扩展部分的影响，从而为查询概率生成上下界。
2015-09-11 cs.AI
Paraconsistent Foundations for Probabilistic Reasoning, Programming and Concept Formation
有人认为，4值次协调真值（这里称为“p位”）可以作为高度AI相关形式的概率逻辑和概率编程和概念形成的概念，数学和实践基础。首先，它表明，适当的平均跨情况和重整化的4值p位操作根据可构造的对偶（CD）逻辑产生PLN（概率逻辑网络）的强度和置信度的真值。然后，Curry-Howard对应的变化被用来映射这些次协调和概率逻辑到概率类型适合于使用依赖类型的程序设计语言。将Zach Weber的次协调分析扩展为概念边界的次协调/概率/模糊分析，并基于次协调概率分布的相对熵定义了模糊属性-价值度，给出了一种基于形式概念分析的次协调概念形成方法.通过参考OpenCog AGI框架中概率推理和编程以及概念形成的实现，这些一般性观点得以充实，该框架以公共知识元数据的协作多算法更新为中心。
2021-01-14 cs.AI
MCE Reasoning in Recursive Causal Networks
The University of Melbourne（墨尔本大学）
基于最小交叉熵（MCE）原理和递归因果模型（RCM）的概念，提出了一种不确定条件下的概率推理方法。变量之间的依赖关系和相关性用一种特殊的语言BNDL（信念网络描述语言）来描述。信念在代表潜在概率分布的BNDL程序的子句之间传播。用Prolog和C语言分别实现了BNDL语言的解释器，并与其它方法进行了性能比较。
2013-03-27 cs.AI
Probabilistic Planning by Probabilistic Programming
University of Edinburgh（爱丁堡大学）；Alan Turing Institute（艾伦·图灵研究所）
自动规划是人工智能的一个重要研究课题，有着悠久而杰出的历史。经典范式假设一个由一组事实组成的独特的初始状态，并定义为一组以某种方式改变该状态的行为。然而，在许多现实世界的环境中，规划要复杂得多：智能体的知识几乎从来都不是简单的一组真实的事实，智能体打算执行的行动从来都不是按照它们应该的方式运行的。因此，概率规划试图将随机模型直接纳入规划过程。在这篇文章中，我们通过概率规划的镜头简要报告了概率规划：一种旨在简化结构化概率分布规范的编程范式。特别是，我们提供了一个概述的功能，两个系统，HYPE和ALLEGRO，强调不同的优势的概率规划，特别是有用的复杂的建模问题提出的概率规划。除此之外，与这些系统，一个可以实例化规划问题的增长和收缩的状态空间，离散和连续的概率分布，以及非唯一的先验分布在一阶设置。
2018-01-25 cs.AI
A Compilation Target for Probabilistic Programming Languages
University of Oxford（牛津大学）
通过创造性地使用标准化的操作系统功能，包括进程、分叉、互斥和共享存储器，可以用任何程序设计语言来实现诸如用于概率编程的顺序蒙特卡罗和粒子马尔可夫链蒙特卡罗的前向推理技术。利用这一点，我们已经定义，开发和测试的概率程序设计语言中间表示语言，我们称之为概率C，它本身可以被编译成机器码的标准编译器和链接到操作系统库产生一个有效的，可扩展的，便携式的概率编程编译目标。这为优化概率编程系统开辟了一条新的硬件和系统研究路径。
2014-07-10 cs.AI cs.PL stat.ML
diff-SAT -- A Software for Sampling and Probabilistic Reasoning for SAT and Answer Set Programming
National University of Ireland, Galway（爱尔兰国立高威大学）
本文介绍了diff-SAT，一个答案集和SAT求解器，它结合了经常使用概率条款，事实和规则的能力，解决和采样的最佳世界观（满足布尔变量分配或答案集的多集）受用户提供的概率约束。采样过程使用称为可微可满足性求解（$\partial\mathrm{SAT}$）或可微答案集编程（$\partial\mathrm{ASP}$）的基于梯度下降的优化方法来最小化用户定义的可微目标函数。用例是i.a.概率逻辑编程（以概率答案集编程的形式），概率布尔可满足性求解（PSAT）和模型多集（答案集或布尔解释）的分布感知采样。
2021-01-03 cs.AI cs.LO
Neural Probabilistic Logic Programming in DeepProbLog
KU Leuven（鲁汶大学）；Cardiff University（卡迪夫大学）；Ghent University - imec（根特大学-imec）
我们介绍DeepProbLog，这是一种神经概率逻辑程序设计语言，通过神经谓词结合了深度学习。我们将展示如何现有的推理和学习技术的基础概率逻辑程序设计语言ProbLog可以适应新的语言。我们从理论和实验上证明了DeepProbLog支持（i）符号和子符号表示和推理，（ii）程序归纳，（iii）概率（逻辑）编程，以及（iv）从示例中进行（深度）学习。据我们所知，这项工作是第一个提出一个框架，其中通用神经网络和表达概率逻辑建模和推理集成的方式，利用充分的表现力和两个世界的优势，可以训练端到端的基础上的例子。
2019-09-23 cs.AI
Lazy Explanation-Based Approximation for Probabilistic Logic Programming
我们介绍了一个懒惰的方法，基于推理的概率逻辑程序的近似。在搜索解释时，它只使用程序中最重要的部分。其结果是一个快速和随时近似推理算法，返回硬下限和上限的确切概率。我们的实验表明，这种方法优于国家的最先进的近似推理。
2015-07-10 cs.AI
DeepProbLog: Neural Probabilistic Logic Programming
KU Leuven（鲁汶大学）；Cardiff University（卡迪夫大学）；Ghent University - imec（根特大学-校际微电子中心）
我们介绍DeepProbLog，这是一种概率逻辑程序设计语言，通过神经谓词结合了深度学习。我们展示了如何现有的推理和学习技术可以适应新的语言。我们的实验表明，DeepProbLog支持符号和子符号表示和推理，1）程序归纳，2）概率（逻辑）编程，3）从示例中进行（深度）学习。据我们所知，这项工作是第一个提出一个框架，其中通用神经网络和表达概率逻辑建模和推理集成的方式，利用充分的表现力和两个世界的优势，可以训练端到端的基础上的例子。
2018-12-12 cs.AI
Probabilistic Inductive Logic Programming Based on Answer Set Programming
National University of Ireland, Galway（爱尔兰国立大学戈尔韦）
提出了一种新的基于回答集编程（ASP）的概率知识表达形式语言。它允许注释一阶公式以及ASP规则和具有概率的事实，并从数据中学习这些权重（参数估计）。加权公式给出了一个语义方面的软，硬约束，决定了概率分布的答案集。在相关的方法相比，我们的方法推理可选地利用所谓的精简XOR约束，以减少计算的答案集的数量。我们的方法是原型实现。举例说明了引入的概念，并指出了未来研究的问题和主题。
2014-05-04 cs.AI
A Probabilistic Programming Idiom for Active Knowledge Search
Aalborg University（奥尔堡大学）
在本文中，我们推导并实现了一个概率编程习惯的问题，获取新的知识的环境。该习惯用法是利用现代概率程序设计语言实现的。我们通过实现主动映射和机器人探索的特定问题的算法来证明这种习惯用法的实用性。最后，我们通过广泛的模拟研究，利用HouseExpo数据集的实施评估的功能。
2022-02-19 cs.AI cs.RO
Decision-Making with Complex Data Structures using Probabilistic Programming
Charles River Analytics（查尔斯河分析公司）
现有的决策理论推理框架，如决策网络，使用简单的数据结构和过程。然而，决策通常是基于复杂的数据结构，如社交网络和蛋白质序列，以及涉及这些结构的丰富过程。我们提出了一个框架，用于表示决策问题与复杂的数据结构使用概率编程，允许概率模型创建与程序设计语言结构，如数据结构和控制流。我们提供了一种方法来使用任意的数据类型，从用户的努力最小，和一个近似的决策算法是有效的，即使当信息空间非常大或无限的。实验结果表明，我们的算法工作在非常大的信息空间的问题。
2014-07-11 cs.AI
Recursive Aggregates as Intensional Functions in Answer Set Programming: Semantics and Strong Equivalence
University of Nebraska Omaha（内布拉斯加大学奥马哈分校）
本文在Here-and-There逻辑中用内涵函数刻画clingo和dlv中聚合程序的语义，并研究强等价性，提出归约为经典一阶逻辑的变换以支持自动化验证。
2024-12-14 cs.AI cs.LO
Applications of Probabilistic Programming (Master's thesis, 2015)
Wolfson College（沃尔森学院）；University of Oxford（牛津大学）
本文介绍了两个应用程序的概率规划的工作：概率程序代码给定的规格，特别是一维采样器的程序代码的学习;和便利的顺序蒙特卡洛推理的帮助下，数据驱动的建议。后者提出了一个线性高斯模型和一个非参数依赖的Dirichlet过程混合物的目标模型的目标识别和跟踪的实验结果。在第1章中，我们简要介绍了概率规划。在第二章中，我们提出了一种以概率程序的形式自动发现采样器的方法。我们制定了一个贝叶斯方法来解决这个问题，通过指定一个基于语法的先验概率程序代码。我们使用近似贝叶斯计算方法来学习程序，其执行生成的样本在统计上与观察到的数据或感兴趣的分布的分析特征相匹配。在我们的实验中，我们利用不同的概率编程系统来执行马尔可夫链蒙特卡罗抽样的空间的程序。实验结果表明，使用所提出的方法，我们可以学习近似，甚至一些精确的采样器。最后，我们表明，我们的结果是有竞争力的遗传编程方法。在第3章中，我们描述了一种使用数据驱动的建议来促进概率规划中的顺序蒙特卡罗推理的方法。特别是，我们开发了一个基于距离的建议的非参数依赖的Dirichlet过程混合物的对象模型。我们实现这种方法的概率编程系统英国圣公会，并表明，该模型的数据驱动的建议提供了显着的性能改善。我们还探讨了使用神经网络来改善数据驱动的建议的可能性。
2020-05-19 cs.AI
Probabilistic Disjunctive Logic Programming
在本文中，我们提出了一个框架相结合的析取逻辑编程和普尔的概率角溯因。我们使用假设的概念来指定概率结构。我们考虑概率信息不可用的情况。我们不使用概率区间，而是允许指定析取的概率。由于最小模型被用作选言逻辑程序设计中的特征模型，我们应用最小模型集上的无差异原理来推导违约概率值。我们定义了公式的解释和部分解释的概念，并用它们来确定程序诱导的违约概率分布。提出了一种计算目标违约概率的算法。
2013-02-13 cs.AI
Compositional Stochastic Modeling and Probabilistic Programming
概率规划是一种通过从离散时间动态切换到连续时间动态来进行随机建模的组合方法。在连续时间中，一个算子代数语义是可用的，其中并行进行的进程（可能相互作用）具有求和的时间演化算子。在此基础上，可以系统地导出用于模拟、推理和模型简化的算法。这些有用的结果可能在计算科学、机器学习及其他领域产生深远的影响。混合成分随机建模/概率编程方法也是可能的。
2012-12-03 cs.AI cs.PL
Probabilistic Answer Set Programming with Discrete and Continuous Random Variables
University of Ferrara（费拉拉大学）
针对PASP仅支持离散随机变量的局限，本文提出HPASP框架以结合离散与连续变量，实现并评估两类精确算法（投影枚举、知识编译）和两类近似采样算法，发现知识编译提升精确推理性能，采样适用于大实例。
2024-09-30 cs.AI
Automated Variational Inference in Probabilistic Programming
基于变分规划的随机梯度，提出了概率规划近似推理的一种新算法。这种方法是有效的，没有限制的概率程序，它是特别实用的分布，这是不容易分析，包括高度结构化的分布，出现在概率程序。我们展示了如何自动推导平均场概率程序并对其进行优化，并证明了我们的观点比其他算法提高了推理效率。
2013-01-07 cs.AI cs.LG stat.ML
Probabilistic Tiny Recursive Model
Mila – Quebec AI Institute（魁北克人工智能研究所）
本文提出概率性微型递归模型（PTRM），通过在递归步骤中注入高斯噪声，使模型能够并行探索多样化的解决方案盆地，从而在不重新训练或进行任务特定增强的情况下，提升多个基准测试的准确性，包括Sudoku-Extreme和Pencil Puzzle Bench上的各种谜题。
2026-11-10 cs.AI
Experimenting with recursive queries in database and logic programming systems
Università della Calabria（卡拉布里亚大学）
本文考虑了大量（可能是分布式的）数据的推理问题。目前，现有的建议显示出一些局限性：{ \em（i）}由于推理通常在主存中进行的事实，可以同时处理的数据的量是有限的; { \em（ii）}与外部的交互（和独立的）DBMS不是微不足道的，在某些情况下，根本不允许;{ \em（iii）}当前实现的效率对于它们在涉及大量数据的复杂推理任务中的利用仍然是不够的。本文提供了在这种情况下的贡献，它提出了一个新的系统，称为DLV $^{DB}$，旨在解决这些问题。此外，本文报告了一个彻底的实验分析的结果，我们已经进行了比较我们的系统与几个国家的最先进的系统（包括逻辑和数据库）的一些经典的演绎问题;其他测试系统是：LDL++，XSB，Smodels和三个顶级的商业DBMS。DLV $^{DB}$在递归查询上的性能甚至明显优于商业数据库系统。逻辑程序设计理论与实践（Theory and Practice of Logic Programming，TPLP）
2007-04-24 cs.AI cs.DB
Applying Probabilistic Programming to Affective Computing
A*STAR Artificial Intelligence Initiative（新加坡科技研究局人工智能计划）；Institute of High Performance Computing, Agency of Science, Technology and Research (A*STAR)（新加坡科技研究局高性能计算研究院）；National University of Singapore（新加坡国立大学）；Stanford University（斯坦福大学）
情感计算是一个快速发展的领域，受到人工智能进步的推动，但往往由于无法将情感的心理理论转化为易于处理的计算模型而受到阻碍。为了解决这个问题，我们提出了一个概率编程方法的情感计算，模型的心理基础理论的情感生成模型，并实现它们作为随机的，可执行的计算机程序。我们首先回顾概率方法，将对情绪的推理与对其他潜在心理状态的推理（例如，信念，欲望）。最近开发的概率程序设计语言提供了几个关键的desidarata比以前的方法，如：（i）在表示情感和情感过程的灵活性;（ii）模块化和组合性;（iii）集成与深度学习库，促进有效的推理和学习，从大型，自然的数据;和（iv）易于采用。此外，使用概率编程框架允许用于理论构建和实验的标准化平台：评估或其他情感过程）可以通过代码的模块化替换随后进行模型比较来容易地进行比较。为了快速采用，我们用可执行代码来说明我们的观点，研究人员可以很容易地修改他们自己的模型。最后，我们讨论的概率规划方法的应用和未来的发展方向。
2019-03-15 cs.AI
Spreadsheet Probabilistic Programming
Invrea（Invrea公司）
电子表格工作簿内容是简单的程序。正因为如此，概率编程技术可以用于执行电子表格计算的贝叶斯反演。更重要的是，电子表格应用程序（如Microsoft Excel）中的现有执行引擎可以仅使用内置功能来完成此任务。我们证明了这一点，通过开发一个本地的Excel实现的粒子马尔可夫链蒙特卡罗变量和黑盒变分推理的电子表格概率编程。由此产生的引擎在电子表格计算上执行概率一致的推理，特别是包括包含用户定义的黑盒函数的电子表格。选择集成我们在本文中描述的功能的电子表格引擎将使其用户能够轻松开发概率模型，并通过简单的用户界面机制包含实际值来随着时间的推移维护它们。对于电子表格最终用户来说，这意味着可以访问高效且概率一致的概率建模和推理，用于不确定性下的各种决策。
2016-06-14 cs.AI cs.PL
From probability to causality in probabilistic logic programming
Ludwig-Maximilians-Universität München（慕尼黑大学）；Eberhard-Karls-Universität Tübingen（蒂宾根大学）；German University of Digital Science（德国数字科学大学）
该研究针对概率逻辑程序从数据学习时因果顺序不唯一的问题，结合贝叶斯网络关系推导条件并纳入因果对称约束，提出可验证干预语义的方法。
2026-08-10 cs.AI
Slice Sampling for Probabilistic Programming
University of Cambridge（剑桥大学）
我们介绍了第一个，通用的，切片采样推理机的概率程序。该引擎作为StocPy的一部分发布，StocPy是一种新的图灵完备概率程序设计语言，可作为Python库使用。我们提出了一个transdimensional概括切片采样，这是必要的推理机工作的痕迹与不同数量的随机变量。我们表明，StocPy相比其他PPL的灵活性和可用性方面，切片采样可以优于以前介绍的推理方法。我们的实验包括逻辑回归，HMM和贝叶斯神经网络。
2015-01-20 cs.AI cs.PL
Semirings for Probabilistic and Neuro-Symbolic Logic Programming
KU Leuven（鲁汶大学）；Leuven.AI - KU Leuven Institute for AI（鲁汶人工智能研究所）；Örebro University（厄勒布鲁大学）；Center for Applied Autonomous Systems（应用自主系统中心）
本文提出用半环代数框架统一概率逻辑程序设计的多种扩展，将事实标记为半环元素并以加法、乘法替代析取、合取，从而涵盖离散、连续及神经符号方法及其模型计数执行机制。
2024-02-21 cs.AI
Towards representation agnostic probabilistic programming
Institute for Visual and Analytic Computing（视觉与分析计算研究所）
本文提出了一种因素抽象方法，实现表示无关的概率编程，允许在统一框架中混合不同表示进行复杂模型推断。
2025-12-25 cs.AI cs.PL
Bachelor's thesis on generative probabilistic programming (in Russian language, June 2014)
这篇用俄语撰写的学士论文致力于机器学习和人工智能领域的一个相对较新的方向，即概率编程。本文简要介绍了已经存在的概率程序设计语言：Church，Venture和Anglican。它还描述了第一次实验的结果，自动归纳的概率程序。该论文于2014年6月提交，部分符合俄罗斯克拉斯诺亚尔斯克西伯利亚联邦大学数学和计算机科学系数学理学学士学位的要求。本文中所描述的工作已经在2012-2014年由作者的同事和他自己在麻省理工学院和牛津大学进行。
2016-01-26 cs.AI cs.PL
From Probabilistic Programming to Complexity-based Programming
University of Amsterdam（阿姆斯特丹大学）；Télécom Paris（巴黎电信学院）；Paris-Saclay University（巴黎萨克雷大学）
本文提出名为CompLog的计算框架，基于Simplicity Theory和Kolmogorov复杂度计算替代概率推理，支持计算事后与事前意外性度量，并展示了生成描述及处理析取与否定等应用。
2023-09-11 cs.AI cs.CL
Probabilistic Search for Structured Data via Probabilistic Programming and Nonparametric Bayes
Massachusetts Institute of Technology（麻省理工学院）
数据库分布广泛，但提取相关数据可能很困难。在没有大量领域知识的情况下，多变量搜索查询通常返回稀疏或无信息的结果。提出了一种基于概率规划和非参数贝叶斯的结构化数据搜索方法。用户使用概率语言指定查询，该语言将标准SQL数据库搜索操作符与称为预测相关性的信息理论排名功能相结合。预测相关性可以通过基于来自CrossCat的后验样本的快速稀疏矩阵算法来计算，CrossCat是用于高维、异质类型数据表的非参数贝叶斯模型。其结果是一个灵活的搜索技术，适用于广泛的一类信息检索问题，我们集成到贝叶斯数据库，概率数据分析的概率编程平台。本文展示了美国大学数据库，全球公共卫生宏观经济指标和经典汽车的应用程序。我们发现，人类评估者通常更喜欢概率搜索的结果，而不是标准基线的结果。
2017-04-04 cs.AI cs.DB cs.LG
Scalable Neural-Probabilistic Answer Set Programming
TU Darmstadt（达姆施塔特工业大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心（hessian.AI））；Centre for Cognitive Science, TU Darmstadt（达姆施塔特工业大学认知科学中心）；German Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
针对现有深度概率编程语言联合概率估计能力不足的问题，提出新型DPPL框架SLASH，集成可处理概率推理，通过神经概率谓词与ASP结合，支持多类概率查询，剪枝优化可扩展性，在多任务上验证有效。
2023-06-14 cs.AI
Compiling Stan to Generative Probabilistic Languages and Extension to Deep Probabilistic Programming
INRIA Paris（法国国家信息与自动化研究所巴黎）；École normale supérieure – PSL University（巴黎高等师范学院 – PSL大学）；UMass Amherst（马萨诸塞大学阿默斯特分校）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；IBM Research（IBM研究院）
Stan是一种概率程序设计语言，在统计学社区中很流行，具有用于表达概率模型的高级语法。Stan在本质上不同于Church、Anglican或Pyro等生成概率程序设计语言。本文提出了一种将任意Stan模型编译成生成语言的综合编译方案，并证明了其正确性。我们使用我们的编译方案为Stanc3编译器构建两个新的后端，目标是Pyro和NumPyro。实验结果表明，NumPyro后端在26个基准测试中的几何平均值比Stan提高了2.3倍。在Pyro的基础上，我们扩展了Stan，支持显式变分推理指南和深度概率模型。这样，熟悉Stan的用户就可以访问新功能，而无需学习一门全新的语言。
2021-04-11 cs.AI cs.LG cs.PL
Deep probabilistic logic programming for diagnostic reasoning from incomplete information: A case study in stroke detection
German University of Digital Science（德国数字科学大学）
本研究以脑卒中检测为案例，提出结合最大熵技术与DeepProbLog的诊断系统构建方法，分析了不完整数据模型的性能及ProbFOIL 2压缩模型的潜力，拓展了神经符号方法在医疗诊断中的应用。
2026-08-11 cs.AI
RankPL: A Qualitative Probabilistic Programming Language
University of Luxembourg（卢森堡大学）
在本文中，我们介绍RankPL，建模语言，可以被认为是一个定性的概率程序设计语言的语义的基础上Spohn的排名理论的变体。一般来说，RankPL可以用来表示和推理那些表现出不确定性的过程，这些不确定性可以通过区分“正常”和“令人惊讶”的事件来表达。RankPL允许（迭代）修改替代程序状态的排名，并支持各种类型的推理，包括溯因推理和因果推理。我们提出的语言，它的指称语义，和一些实际的例子。我们还讨论了可供下载的RankPL的实现。
2017-05-19 cs.AI cs.PL
MultiVerse: Causal Reasoning using Importance Sampling in Probabilistic Programming
Babylon Health（巴比伦健康）；University of Oxford（牛津大学）；University College London（伦敦大学学院）
我们详细说明使用重要性采样的因果推理，特别是反事实推理。我们展示了如何在概率编程中本地实现这一点。通过考虑反事实查询的结构，可以显著优化推理过程。我们还考虑设计选择，以实现进一步优化。我们介绍了MultiVerse，一个概率编程的原型引擎近似因果推理。我们提供了实验结果，并与Pyro，现有的概率编程框架与一些因果推理工具进行比较。
2020-01-28 cs.AI cs.LG cs.PL
Knowledge Compilation with Continuous Random Variables and its Application in Hybrid Probabilistic Logic Programming
KU Leuven（鲁汶大学）
在概率推理中，传统的离散域已被提升到包含额外连续随机变量的混合域。然而，在混合域中的推理通常需要对离散或连续随机变量的推理进行权衡。我们介绍了一种新的方法，加权模型集成和代数模型计数的基础上，规避这些权衡。然后，我们展示了它如何支持知识编译和精确的概率推理。此外，我们引入了混合概率逻辑程序设计语言HAL-ProbLog，ProbLog的扩展，我们适用于我们的推理方法。
2018-07-12 cs.AI cs.LO cs.PL
Swift: Compiled Inference for Probabilistic Programming Languages
UC Berkeley（加州大学伯克利分校）；University of Washington（华盛顿大学）
概率程序定义了其语义结构上的概率度量。概率程序设计语言（PPL）的一个共同目标是使用通用推理引擎，在给定观察到的证据的情况下，计算任意模型和查询的后验概率。大多数PPL推理引擎-即使是编译的-会产生显著的运行时解释开销，特别是对于偶然和开放宇宙模型。本文介绍了一个用于BLOG PPL的编译器Swift。Swift生成的代码结合了优化，消除了解释开销，有效地维护了动态依赖关系，并处理了不同大小的可能世界的存储管理。Swift与其他PPL引擎在各种推理问题上的比较实验表明，加速比从12倍到326倍不等。
2016-06-30 cs.AI cs.PL
Data-driven Sequential Monte Carlo in Probabilistic Programming
University of Oxford（牛津大学）
现有的概率规划系统中的大多数马尔可夫链蒙特卡罗（MCMC）和顺序蒙特卡罗（SMC）算法仅使用模型先验作为建议分布。在这项工作中，我们描述了一种训练判别模型，即一个神经网络的方法，以近似的最佳建议，通过使用后验估计从以前运行的推理。我们展示了一个例子，结合了数据驱动的建议，用于在英国圣公会概率编程系统的非参数模型。我们的研究结果表明，数据驱动的建议可以显着提高推理性能，因此需要相当少的粒子来执行良好的后验估计。
2016-05-16 cs.AI stat.AP stat.ML
Improvements to Inference Compilation for Probabilistic Programming in Large-Scale Scientific Simulators
University of Oxford（牛津大学）；New York University（纽约大学）；Intel Corporation（英特尔公司）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
我们考虑的问题，贝叶斯推理的概率模型隐含定义的随机生成模型的数据的家庭。在从种群生物学到宇宙学的科学领域中，低层次的机械组件被用来创建复杂的生成模型。这些模型导致难以处理的可能性，并且通常是不可微的，这对传统的推理方法提出了挑战。我们扩展以前的工作“推断编译”，它结合了通用概率编程和深度学习方法，大规模的科学模拟器，并介绍了一个基于C++的概率编程库CPProb。我们成功地使用CPProb接口SHERPA，粒子物理学中使用的大型代码库。在这里，我们描述的技术创新实现和计划为这个图书馆。
2017-12-21 cs.AI physics.data-an
Towards Probabilistic Inductive Logic Programming with Neurosymbolic Inference and Relaxation
TNO（荷兰应用科学研究组织）
针对传统ILP无法处理概率背景知识的问题，提出Propper框架，结合神经符号推理、连续假设选择标准（BCE）和约束松弛（NoisyCombo），能从极少示例中学习并优于现有模型。
2024-09-20 cs.AI cs.LG
CLP(BN): Constraint Logic Programming for Probabilistic Knowledge
我们提出CLP（BN），一种新的方法，旨在通过约束逻辑编程框架来表达贝叶斯网络。可以说，传统贝叶斯网络的一个重要限制是它们是命题的，因此不能表示多个上下文中多个相似对象之间的关系。因此，一些研究人员提出了一阶语言来描述这种网络。也就是说，这种方法的一个非常成功的例子是概率关系模型（PRM），它将贝叶斯网络与关系数据库技术相结合。我们在设计CLP（cal{BN}）时必须解决的关键困难是基于逻辑的表示使用基础术语来表示对象。对于概率数据，我们需要能够唯一地表示一个我们不确定其值的对象。我们使用{sl Skolem函数}作为唯一的新符号，唯一地表示具有未知值的对象。CLP（cal{BN}）程序的语义自然遵循约束逻辑编程的一般框架，应用于我们具有概率数据的特定领域。本文介绍了CLP（cal{BN}）的概念和定义，并描述了CLP（cal {BN}）的实现和初步实验。本文还展示了CLP（cal{BN}）与概率关系模型（PRM）、Ngo和Haddawys概率逻辑程序、Kersting和De Raedts贝叶斯逻辑程序的关系。
2012-10-19 cs.AI
Lifted Variable Elimination for Probabilistic Logic Programming
Università di Ferrara（费拉拉大学）；Universidade do Porto（波尔图大学）
提升推理已经被提出用于各种概率逻辑框架，以便计算在取决于随机变量的域的大小而不是实例的数量的时间内的查询的概率。尽管许多作者都强调了它对概率逻辑编程（PLP）的重要性，但到目前为止，提升推理只应用于逻辑编程之外的关系语言。本文将广义计数一阶变量消去法（GC-FOVE）应用于分布语义下概率逻辑程序的查询概率计算问题。特别是，我们扩展的Prolog因子语言（PFL），包括两种新类型的因素，需要代表ProbLog程序。这些因素考虑到现有的因果独立关系的随机变量之间的关系，并管理的扩展，以消除变量提出的张和Poole处理收敛变量和异质因素。GC-FOVE中添加了两个新的运算符来处理异质因素。由此产生的算法，称为LP $^2$的提升概率逻辑编程，已实现通过修改GC-FOVE的PFL实现和测试的三个基准提升推理。与PITA和ProbLog 2的比较显示了该方法的潜力。
2014-10-10 cs.AI
Nonground Abductive Logic Programming with Probabilistic Integrity Constraints
University of Ferrara（费拉拉大学）
不确定性信息在越来越多的应用领域中被考虑。同时，溯因也被证明是处理假设推理和不完全知识的有力工具。概率逻辑模型是处理不确定信息的合适框架，在过去的十年中，已经提出了许多概率逻辑语言，以及它们的推理和学习系统。在溯因逻辑程序设计（ALP）领域，也定义了各种证明过程。在本文中，我们考虑一个更丰富的逻辑语言，处理概率溯因变量。特别是，我们认为一个ALP程序丰富的完整性约束`一la IFF，可能注释的概率值。我们首先介绍了整个溯因语言，它的语义根据分布语义。然后，我们介绍了一个证明过程，通过扩展以前提出的，并证明其可靠性和完整性。
2022-02-03 cs.AI
Probabilistic Data Analysis with Probabilistic Programming
Computer Science & Artificial Intelligence Laboratory（计算机科学与人工智能实验室）；Massachusetts Institute of Technology（麻省理工学院）；Department of Brain & Cognitive Sciences（大脑与认知科学系）
概率技术是数据分析的核心，但不同的方法可能难以应用，组合和比较。本文介绍了可组合生成人口模型（CGPMs），计算抽象，扩展有向图形模型，可用于描述和组成广泛的一类概率数据分析技术。示例包括分层贝叶斯模型、多变量核方法、判别式机器学习、聚类算法、降维和任意概率程序。我们还展示了集成的CGPMs到BayesDB，概率编程平台，可以表达数据分析任务，使用建模语言和结构化查询语言。其实用价值体现在两个方面。首先，CGPMs用于分析，确定卫星数据记录可能违反开普勒第三定律，通过组成因果概率程序与非参数贝叶斯在50行概率代码。其次，对于几个代表性的数据分析任务，我们报告了各种CCPM的代码行和准确性测量，以及与Python和MATLAB库中标准基线解决方案的比较。
2016-08-18 cs.AI cs.LG stat.ML
Probabilistic Logic Programming with Beta-Distributed Random Variables
Cardiff University（卡迪夫大学）；ARL（美国陆军研究实验室）；Ozyegin University（奥兹耶金大学）
我们使aProbLog-一个概率逻辑编程方法-原因在存在的不确定概率表示为贝塔分布的随机变量。我们实现了高度指定和工程领域的最先进算法的相同性能，同时我们保持了aProbLog在处理复杂关系域时提供的灵活性。我们的动机是，忠实地捕捉概率的分布是必要的，以计算预期效用的有效决策下的不确定性：不幸的是，这些概率分布可以是高度不确定的，由于稀疏的数据。为了理解和准确地操纵这样的概率分布，我们需要一个由贝塔分布提供的定义明确的理论框架，贝塔分布指定了一个概率分布，它代表了当确切值未知时概率的所有可能值。
2018-11-15 cs.AI
A Probabilistic Logic Programming Event Calculus
Institute of Informatics and Telecommunications NCSR Demokritos（德谟克利特国家科学研究中心信息与电信研究所）；University of Piraeus（比雷埃夫斯大学）；University of Maryland（马里兰大学）
我们提出了一个系统，用于识别人类活动的视频内容的符号表示。我们的系统的输入是一组检测到的视频帧上的时间戳的短期活动（STA）。输出是一组已识别的长期活动（LTA），这些活动是STA的预定义时间组合。STA上的约束，如果满足，导致识别的LTA，已表示使用方言的事件演算。为了处理人类活动识别中自然发生的不确定性，我们将这种方言适应于最先进的概率逻辑编程框架。我们提出了一个详细的评估和比较的清晰和概率的方法，通过实验的基准数据集的人类监控视频。
2013-04-29 cs.AI
An Introduction to Probabilistic Programming
University of Amsterdam（阿姆斯特丹大学）；University College London（伦敦大学学院）；Alan Turing Institute（艾伦·图灵研究所）；KAIST（韩国科学技术院）；University of British Columbia（不列颠哥伦比亚大学）
这本书是概率编程的研究生水平介绍。它不仅为任何希望使用概率编程系统的人提供了一个全面的背景，而且还介绍了设计和构建这些系统所需的技术。它针对的是那些对概率机器学习和编程语言有本科水平理解的人，或者理想情况下，对概率机器学习和编程语言都有理解的人。我们从基于模型的推理的讨论开始，并解释为什么条件作用是概率机器学习和人工智能领域的核心基础计算。然后，我们介绍了一阶概率编程语言（PPL），其程序对应于图形模型与一个已知的，有限的，一组随机变量。在这方面的PPL，我们介绍了基本的推理算法，并描述了它们是如何实现的。然后，我们转向高阶概率编程语言。在这种语言中的程序可以定义具有动态计算图的模型，其可以不在每次执行中实例化相同的随机变量集合。推理需要通过反复评估程序来生成样本的方法。这种语言的基础算法进行了讨论的上下文中的程序执行和推理控制器之间的接口。最后，我们考虑概率和可微规划的交集。我们首先讨论自动微分，以及如何使用它来实现基于哈密顿蒙特卡罗的高效推理方法。然后，我们讨论了基于梯度的极大似然估计在使用神经网络参数化的程序中，如何通过学习神经近似来摊销推理到程序后验，以及语言特征如何影响深度概率编程系统的设计。
2021-10-19 cs.AI cs.LG cs.PL
A New Approach to Probabilistic Programming Inference
University of Oxford（牛津大学）；Columbia University（哥伦比亚大学）；Massachusetts Institute of Technology（麻省理工学院）
我们介绍并证明了一种新的方法，推理表达概率编程语言的基础上粒子马尔可夫链蒙特卡罗。我们的方法是简单的实现和易于并行化。它适用于图灵完备概率编程语言，并支持使用复杂控制流（包括随机递归）的模型中的精确推理。它还包括贝叶斯非参数统计的基元。我们的实验表明，这种方法可以更有效地比以前介绍的单站点Metropolis-Hastings方法。
2015-07-09 cs.AI cs.PL stat.ML
Inference Compilation and Universal Probabilistic Programming
University of Oxford（牛津大学）
我们介绍了一种使用深度神经网络来摊销通用概率程序设计语言引起的模型族中的推理成本的方法，建立了一个结合概率编程和深度学习方法优势的框架。我们称我们所做的是“编译推理”，因为我们的方法将以通用程序设计语言编写的概率程序形式的推理问题的指称规范转换为以神经网络规约语言表示的训练过的神经网络。当在测试时，该神经网络被馈送观测数据并被执行时，它在由概率程序指定的原始模型中执行近似推理。我们的训练目标和学习过程的目的是让训练后的神经网络被用来作为一个顺序重要性采样推理机的建议分布。我们说明了我们在混合模型和验证码求解上的方法，并显示了推理效率的显着加速。
2017-03-02 cs.AI cs.LG stat.ML
A meta-probabilistic-programming language for bisimulation of probabilistic and non-well-founded type systems
Yale University（耶鲁大学）；SingularityNET（奇点网）
我们引入了一个正式的元语言的概率编程，能够表达程序和类型系统中，他们被嵌入。我们的动机是希望AGI不仅学习相关知识（程序/证明），而且学习适当的推理方式（逻辑/类型系统）。我们利用立方类型论和依赖类型元图的框架来形式化我们的方法。在这样做时，我们表明，元语言中的特定结构可以通过互模拟（意味着路径等价）与它们对应的类型系统相关。这使得我们的方法提供了一种方便的方法来派生合成指称语义的各种类型系统。特别是，我们推导出纯型系统（PTS）和概率依赖型系统（PDTS）的互模拟。我们进一步讨论了PTS的关系，非良基集理论，并证明了我们的方法的可行性与实现的互模拟证明在一个守护立方类型论类型检查。
2022-08-16 cs.AI cs.FL cs.LO
Semantics for probabilistic programming: higher-order functions, continuous distributions, and soft constraints
University of Oxford（牛津大学）；University of Edinburgh（爱丁堡大学）；University of Cambridge（剑桥大学）
我们研究表达概率程序设计语言的语义基础，支持高阶函数，连续分布和软约束（如英国圣公会，教堂，风险投资）。我们定义了一个元语言（一个理想化的版本，英国圣公会）的概率计算与上述功能，开发业务和指称语义，并证明合理性，充分性和终止。它们涉及测度论、随机标记转移系统和函子范畴，但承认直观的计算读数，其中之一将采样的随机变量视为动态分配的只读变量。我们应用我们的语义验证非平凡方程的正确性，某些编译器优化和推理算法，如顺序蒙特卡罗模拟。该语言能够定义高阶函数的概率分布，我们研究它们的性质。
2016-05-04 cs.AI cs.PL
Probabilistic Programming Bots in Intuitive Physics Game Play
Massachusetts Institute of Technology（麻省理工学院）
最近的研究结果表明，人类部署物理模拟引擎的认知机制来模拟对象的物理特性。我们提出了一个框架，机器人部署概率编程工具与直观的物理环境进行交互。该框架以概率的方式采用物理模拟来推断代理在牛顿运动定律支配的设置中执行的移动。然而，概率程序的方法在这样的设置中可能很慢，因为它们需要生成许多样本。我们补充模型与无模型的方法，以帮助采样程序变得更有效，通过学习经验，在玩游戏。我们提出了一种方法，将无模型方法（我们模型中的卷积神经网络）和基于模型的方法（概率物理模拟）相结合，能够实现两者都不能单独实现的目标。通过这种方式，模型优于所有无模型或所有基于模型的方法。我们讨论了一个案例研究，展示了Flappy Bird游戏模型性能的实证结果。
2021-04-05 cs.AI stat.ML
On the Semantics of Abstract Argumentation Frameworks: A Logic Programming Approach
University of Calabria（卡拉布里亚大学）
最近，人们对Dung的抽象论证框架（AF）的扩展框架越来越感兴趣。流行的扩展包括双极AF和具有递归攻击和必要支持的AF。虽然AF语义和部分稳定模型（PSM）的逻辑程序之间的关系已被深入研究，这是不是更一般的框架扩展AF的情况下。在本文中，我们探讨基于AF的框架和PSM之间的关系。我们表明，每一个AF为基础的框架$Δ$可以被翻译成一个逻辑程序$P_Δ$，使扩展规定的不同语义的$Δ$符合子集的PSM的$P_Δ$。我们提供了一个逻辑编程方法，其特点是，在一个优雅和统一的方式，几个AF为基础的框架的语义。这一结果还允许定义新的AF为基础的框架，如AF与递归攻击和递归演绎支持的语义。《逻辑程序设计理论与实践》（Theory and Practice of Logic Programming）
2020-08-06 cs.AI cs.LO
Amortized Rejection Sampling in Universal Probabilistic Programming
University of British Columbia（不列颠哥伦比亚大学）；Georgia Institute of Technology（佐治亚理工学院）；University of Oxford（牛津大学）；MILA（蒙特利尔学习算法研究所）
在具有无限循环的概率规划中，摊销推理的朴素方法可以产生具有无穷方差的估计量。这是特别真实的重要性采样推理程序，明确包括拒绝抽样的一部分，用户编程的生成过程。本文提出了一种新的有效的摊余重要性采样估计量。我们证明了我们的估计有限方差和经验证明我们的方法的正确性和效率相比，现有的替代品生成程序包含拒绝采样循环，并讨论如何实现我们的方法在一个通用的概率编程框架。
2022-03-29 cs.AI cs.LG stat.ML
Monolingual Probabilistic Programming Using Generalized Coroutines
FNMOC（美国海军舰队气象与海洋学中心）；Rutgers University（罗格斯大学）
概率程序设计语言和建模工具包是构建和重用随机模型和推理过程的两种模块化方法。结合两者的优势，我们在同一通用语言中将模型和推理表示为广义协程。我们使用语言的现有设施，如丰富的库，优化编译器和类型，开发简洁，声明性和现实的模型，具有竞争力的性能，精确和近似推理。特别地，可以使用备忘录化来表达广泛的模型。因为模型的确定性部分是全速运行的，所以自定义推理过程是微不足道的，并且推理过程可以在没有解释开销的情况下进行推理。在这个框架内，我们介绍了一个新的，一般的重要性采样算法与前瞻。
2012-05-09 cs.AI cs.PL
