Planning with Noisy Probabilistic Relational Rules
有噪声的概率关系规则是一个有前途的世界模型表示有几个原因。它们是紧凑的，并且在世界实例上通用。它们通常是可解释的，并且可以从复杂世界中的行动经验中有效地学习。我们调查推理与接地关系域中的这些规则。我们的算法利用规则的紧凑性，有效和灵活的决策理论规划。作为第一种方法，我们将这些规则与基于前瞻树的上置信界应用于树（UCT）算法相结合。我们的第二种方法将这些规则转换成一个结构化的动态贝叶斯网络表示，并使用近似推理和世界状态的信念来预测动作序列的影响。我们评估我们的方法的有效性规划在一个模拟的复杂的3D机器人操作场景与关节式机械手和现实的物理和概率规划比赛的领域。实证结果表明，我们的方法可以解决问题，现有的方法失败。
2014-01-16 cs.AI
Lifted Relational Probabilistic Inference via Implicit Learning
Washington University in St. Louis（华盛顿大学）
本文提出了一种基于隐式学习的方法，实现第一-order概率逻辑的隐式学习和提升推断，解决了传统方法在模型构建上的局限性。
2026-02-16 cs.AI
Learning Probabilistic Temporal Safety Properties from Examples in Relational Domains
KU Leuven University（荷语鲁汶大学）；Université Libre de Bruxelles（布鲁塞尔自由大学）
我们提出了一个框架，用于从一组标记为安全或不安全的状态中学习概率计算树逻辑（pCTL）公式的片段。我们在一个关系的设置，并结合从关系马尔可夫决策过程与pCTL模型检查的想法。更具体地，我们假设存在仅由安全状态满足的未知关系pCTL目标公式，并且具有最大$k$步骤的范围和阈值概率$α$。然后，任务包括从由领域专家标记为安全或不安全的状态中学习这个未知的公式。我们应用关系学习的原则，诱导一个pCTL公式，满足所有的安全状态，没有不安全的。然后，该公式可以用作该域的安全规范，使得系统可以避免在未来进入危险情况。根据关系学习原理，我们引入了一个候选公式生成过程，以及一种方法来决定哪个候选公式是一个令人满意的规范给定的标记状态。专家知道和不知道系统策略的情况下进行处理，然而，这两种情况下的学习过程是相同的。我们评估我们的方法在一个合成的关系域。
2022-11-07 cs.AI
Learning Probabilistic Relational Dynamics for Multiple Tasks
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
代理的行为影响世界的方式通常可以使用一组相关的概率规划规则来建模。本文讨论了学习多个相关任务的规则集的问题。我们采取分层贝叶斯方法，系统学习规则集的先验分布。我们提出了一类先验分布参数化的规则集原型，随机修改，以产生一个特定于任务的规则集。我们还描述了一个坐标上升算法，迭代优化特定于任务的规则集和先验分布。使用该算法的实验表明，从相关的任务中转移信息显着减少了预测块世界域中的动作效果所需的训练数据量。
2012-06-20 cs.AI
Exploring Unknown Universes in Probabilistic Relational Models
Institute of Information Systems, University of Lübeck（吕贝克大学信息系统研究所）
大型概率模型通常由一组已知的个体（一个宇宙）和它们之间的关系形成。提升推理算法处理已知个体的集合以进行易处理的推理。然而，宇宙可能并不总是已知的，或者只能通过诸如“小宇宙更有可能”的假设来描述。如果没有一个宇宙，推理不再可能提升算法，失去了他们的优势，易于处理的推理。本文的目的是定义一个语义的模型与未知的宇宙从一个特定的约束语言解耦，使解除，从而，听话的推理。
2020-01-07 cs.AI
Reasoning about Unmodelled Concepts - Incorporating Class Taxonomies in Probabilistic Relational Models
Institute for Artificial Intelligence（人工智能研究所）；University of Bremen（不来梅大学）
一阶概率方法应用中的一个关键问题是它们隐含的图形模型的巨大尺寸。大小是由对象和关系的域生成的可能世界产生的。这种爆炸的原因之一是，到目前为止，这些方法没有充分利用可能世界的结构和相似性，以便更复杂地编码模型。我们提出了模糊推理的马尔可夫逻辑网络，这使得使用的分类知识作为一个源的结构强加到可能的世界。我们表明，通过利用这种结构，概率分布可以表示更companies和推理系统变得能够推理的概念不包含在概率知识库。
2015-04-21 cs.AI
Expressing Relational and Temporal Knowledge in Visual Probabilistic Networks
Imperial College of Science, Technology and Medicine（帝国理工学院）
贝叶斯网络已被广泛用于诊断任务，如医学，其中它们表示一组症状和一组疾病之间的依赖关系。对这种类型的知识表示的批评是，它仅限于这类任务，并且它不能处理其他人工智能应用中所需的知识。例如，在计算机视觉中，我们需要能够对复杂的知识进行建模，包括时间和关系因素。在本文中，我们扩展贝叶斯网络模型的关系和时间的知识，高层次的视觉。这些扩展网络具有简单的结构，使我们能够有效地传播概率。我们已经将它们应用到内窥镜领域，说明了如何在特定情况下使用一般建模原则。
2013-03-13 cs.AI
Probabilistic Similarity Logic
University of Maryland（马里兰大学）
许多机器学习应用程序都需要从嘈杂的多关系数据中学习和推理的能力。为了解决这个问题，已经开发了几种有效的表示方法，它们既提供了用于表达域的结构性的语言，又提供了对概率推理的原则性支持。然而，除了这两个方面之外，许多应用程序还涉及第三个方面，即需要对相似性进行推理，而现有的框架并不直接支持这一点。本文介绍了概率相似性逻辑（PSL），一个通用的框架，联合推理的相似性在关系领域，结合概率推理的相似性和关系结构的原则性的方式。PSL可以集成任何现有的领域特定的相似性措施，也支持推理的实体集之间的相似性。我们为PSL提供了有效的推理和学习技术，并在常见的关系任务和需要推理相似性的设置中证明了其有效性。
2012-03-15 cs.AI
Polynomial-Time Relational Probabilistic Inference in Open Universes
Washington University in St. Louis（华盛顿大学圣路易斯分校）
本文提出一种一阶关系概率推理方法，将期望的平方和逻辑扩展到关系设置，证明在有界度片段中可在多项式时间内完成提升推理，并建立了固定次数下平方和反驳的完备性。
2025-05-07 cs.AI
Symbolic Querying of Vector Spaces: Probabilistic Databases Meets Relational Embeddings
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
我们提出了统一的技术，从概率数据库和关系嵌入模型的目标执行复杂的查询不完整和不确定的数据。我们形式化的概率数据库模型，所有的查询。这使我们能够利用来自概率数据库的丰富的理论和算法文献来解决问题。虽然这种形式化可以与任何关系嵌入模型一起使用，但缺乏定义良好的联合概率分布会导致简单的查询问题变得难以证明。考虑到这一点，我们引入\TO，一个关系嵌入模型，旨在成为一个易于处理的概率数据库，利用典型的嵌入假设的概率框架。使用一个原则，高效的推理算法，可以从它的定义，我们经验证明，\TOs是一个有效的和一般的模型，这些查询任务。
2020-06-27 cs.AI cs.DB
Towards Privacy-Preserving Relational Data Synthesis via Probabilistic Relational Models
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；University of Hamburg（汉堡大学）；singularIT GmbH（singularIT有限公司）
针对真实关系数据受隐私与成本限制的问题，本文提出从关系数据库学习概率关系模型并采样合成关系数据的完整流水线。
2024-10-02 cs.AI cs.DB cs.LG
Logical Inference Algorithms and Matrix Representations for Probabilistic Conditional Independence
Indiana University（印第安纳大学）
条件独立（CI）语句的逻辑推理算法从知识获取过程中的一致性检验到图模型的基于约束的结构学习都有重要的应用。我们证明了CI语句的蕴涵问题是可判定的，给定的随机变量的域的大小是已知的和固定的。我们将提出一个近似逻辑推理算法，它结合了证伪和一个新的验证算法。验证算法将每一组CI语句表示为稀疏0-1矩阵A，并通过求解具有约束矩阵A的特定线性规划来验证蕴涵问题的实例。我们将通过实验证明，该算法在验证和伪造概率CI蕴涵问题的实例方面是有效和高效的。
2012-05-09 cs.AI
Verifying Relational Explanations: A Probabilistic Approach
University of Memphis（孟菲斯大学）；Adobe Research（Adobe研究院）
本文提出一种概率方法，通过生成反事实示例并学习因子图模型来量化GNNExplainer解释中的不确定性，从而解决关系数据解释难以验证的问题。
2024-01-05 cs.AI
Probabilistic Relational Model Benchmark Generation
LARODEC Laboratory（拉罗德克实验室）；ISG（突尼斯高等管理学院）；Université de Tunis（突尼斯大学）；DUKe research group（DUKe研究组）；LINA Laboratory UMR 6241（LINA实验室（法国国家科研中心联合研究单位6241））；University of Nantes（南特大学）；DataForPeople
任何数据库挖掘方法的验证都要经过一个评估过程，其中基准的可用性至关重要。在本文中，我们的目标是随机生成关系数据库基准，允许检查属性之间的概率依赖关系。我们对概率关系模型（PRM）特别感兴趣，它将贝叶斯网络（BN）扩展到关系数据采掘环境，并在关系数据上实现有效和鲁棒的推理。尽管一系列的工作都集中在随机贝叶斯网络和关系数据库的生成上，但还没有发现PRM在这方面的工作。本文提供了一种从头开始生成随机PRM的算法方法来填补这一空白。所提出的方法允许从随机生成的关系模式和随机的一组概率依赖关系生成PRM以及合成关系数据。这不仅对机器学习研究人员在通用框架中评估他们的建议感兴趣，而且对数据库设计人员评估数据库管理系统组件的有效性也感兴趣。
2016-03-02 cs.AI cs.LG
Advances in Probabilistic Reasoning
Northrop Research and Technology Center（诺斯罗普研究与技术中心）；University of Southern California（南加州大学）
本文讨论了编码非对称独立断言的多贝叶斯网络表示范式。我们提供三个贡献：（1）一种推理机制，它明确地使用非对称独立性来加速计算，（2）相似性网络的简化定义及其理论的扩展，以及（3）一种广义表示方案，它编码了比相似性网络更多类型的非对称独立性断言。
2015-05-16 cs.AI
Probabilistic Relational Planning with First Order Decision Diagrams
Oregon State University（俄勒冈州立大学）；Tufts University（塔夫茨大学）
动态规划算法已成功地应用于命题随机规划问题，通过使用紧凑的表示，特别是代数决策图，捕捉域动态和价值函数。符号动态规划的工作提升了这些想法，一阶逻辑使用几种表示方案。最近的工作介绍了一阶变量的决策图（FODD），并开发了一个值迭代算法，这种表示。本文开发了几个改进的FODD算法，使该方法的实用。这些包括，新的减少运营商，减少的大小表示，几个加速技术，和技术的值近似。在此基础上，提出了一个求解相关随机规划问题的规划系统FODD-Planner。该系统在几个领域进行了评估，包括最近的国际规划竞赛的问题，并显示出与顶级系统的竞争力。这是第一次证明这种方法的可行性，它表明，通过紧凑的表示抽象是一个很有前途的方法随机规划。
2014-01-16 cs.AI
From probability to causality in probabilistic logic programming
Ludwig-Maximilians-Universität München（慕尼黑大学）；Eberhard-Karls-Universität Tübingen（蒂宾根大学）；German University of Digital Science（德国数字科学大学）
该研究针对概率逻辑程序从数据学习时因果顺序不唯一的问题，结合贝叶斯网络关系推导条件并纳入因果对称约束，提出可验证干预语义的方法。
2026-08-10 cs.AI
A Sound and Complete Algorithm for Learning Causal Models from Relational Data
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
PC算法学习最大定向因果贝叶斯网络。然而，没有等价的完整算法来学习关系模型的结构，这是贝叶斯网络的一个更有表现力的概括。关系模型的理论和表示的最新发展支持关于条件独立性的提升推理。这使得一个强大的约束定向二元依赖关系，并形成了一个新的算法学习结构的基础。我们提出了学习因果关系模型的关系因果发现（RCD）算法。我们证明了RCD是健全和完整的，我们提出的实证结果表明，有效性。
2013-09-26 cs.AI
A Framework for Inferring Causality from Multi-Relational Observational Data using Conditional Independence
Duke University（杜克大学）；University of Washington（华盛顿大学）
因果关系或因果推断的研究-给定的治疗对人群中给定结果的因果影响程度-远远超出了变量的相关性或关联分析，并且对于在众多应用中做出合理的数据驱动决策和政策至关重要。因果推理的黄金标准是进行“受控实验”，由于逻辑或道德原因，这通常是不可能的。作为替代方案，基于“Neyman-Rubin潜在结果模型”对“观测数据”进行因果关系推断已在几十年来广泛用于统计学，经济学和社会科学。在本文中，我们提出了一个正式的框架，健全的因果分析的观测数据集，给出了多重关系，并在研究中的人口是通过加入这些基础关系。我们研究了从观察数据推断因果关系的一个关键条件，称为“强可检验性假设”（考虑到观察到的协变量，治疗和结局变量在联合关系中应该是独立的），使用在基础关系中保持的已知条件独立性。我们还讨论了作为图形模型的基础关系中的条件独立性的结构如何帮助推断新的条件独立性的联合关系。拟议的框架结合了数据库，统计和图形模型的概念，旨在启动跨越这些领域的新研究方向，以促进当今大数据世界中强大的数据驱动决策。
2017-08-08 cs.AI cs.DB
Relational Bayesian Networks
Computer Science Department, Stanford University（斯坦福大学计算机科学系）
提出了一种表示多个随机事件概率关系的新方法。在先前包含概率规则的知识库用于此目的的情况下，在此关系上的概率分布直接由贝叶斯网络表示。通过使用一种强大的方式来指定这些网络中的条件概率分布，所得到的形式主义比以前的形式主义更具表达力。特别地，它提供了对事件的等式的约束，并且它允许定义复杂的嵌套组合函数。
2013-02-06 cs.AI
Towards Robust Relational Causal Discovery
Purdue University（普渡大学）；Pennsylvania State University（宾夕法尼亚州立大学）
我们考虑从关系数据中学习因果关系的问题。现有的方法依赖于查询的关系条件独立（RCI）的甲骨文建立和定向因果关系，在这样的设置。在实践中，对RCI oracle的查询必须被针对可用数据的RCI可靠测试所取代。关系数据在RCI测试中提出了几个独特的挑战。我们研究的条件下，传统的基于iid的条件独立性（CI）测试产生可靠的答案，RCI查询对关系数据。我们展示了如何对关系数据进行CI测试，以稳健地恢复底层关系因果结构。我们的实验结果证明了我们所提出的方法的有效性。
2019-12-05 cs.AI cs.LG stat.ML
Tractability through Exchangeability: A New Perspective on Efficient Probabilistic Inference
University of Washington（华盛顿大学）；University of California, Los Angeles（加州大学洛杉矶分校）
互换性是统计学和概率论中的一个中心概念。无限序列的数据点是可交换的假设是贝叶斯统计的核心。然而，有限交换作为一个统计属性，使概率推理听话是不太好理解。我们发展了一个有限交换理论及其与易处理的概率推理的关系。该理论是对独立性和条件独立性理论的补充。我们表明，易于处理的推理概率模型与高树宽和数以百万计的变量可以理解使用有限（部分）交换的概念。我们还表明，现有的提升推理算法隐含地利用条件独立性和部分交换的组合。
2014-04-22 cs.AI
Value of Information Lattice: Exploiting Probabilistic Independence for Effective Feature Subset Acquisition
Illinois Institute of Technology（伊利诺伊理工学院）；University of Maryland（马里兰大学）
我们解决了成本敏感的特征获取问题，其中错误分类的实例是昂贵的，但预期的错误分类成本可以通过获取丢失的功能的值来降低。因为获取特征也是昂贵的，所以目标是获取正确的特征集合，使得特征获取成本和误分类成本的总和最小化。我们描述的信息格（VOILA），一个最佳的和有效的特征子集获取框架的价值。不像通常的做法，这是获取功能greetly，VOILA可以与子集的功能。VOILA通过发现和利用特征之间的条件独立属性来有效地搜索可能的特征子集的空间，并且它重用概率推理计算以进一步加速该过程。通过对五个医学数据集的实证评估，我们发现贪婪策略通常不愿意获取特征，因为它不能预测组合获取多个特征的好处。
2014-01-16 cs.AI
Exploiting Contextual Independence In Probabilistic Inference
University of British Columbia（英属哥伦比亚大学）；Hong Kong University of Science and Technology（香港科技大学）
贝叶斯信念网络已经变得突出，因为它们为概率推理适用的许多问题提供了紧凑的表示，并且有算法可以利用这种紧凑性。下一步是允许一个变量的条件概率的紧凑表示，给定它的父母。在本文中，我们提出了这样一种表示，利用上下文的独立性，在父母的背景下，哪些变量作为父母可能取决于其他变量的值。内部表示是根据上下文因素（confactors），即上下文和表的一对。上下文变量消除算法基于标准变量消除算法，依次消除非查询变量，但在消除变量时，需要相乘的表可以取决于上下文。当没有上下文无关结构可供利用时，该算法简化为标准变量消除。我们展示了如何可以更有效地比变量消除时，有结构利用。我们解释了为什么这种新方法可以利用更多的结构比以前的方法结构化的信念网络推理和类似的算法，使用树。
2011-06-24 cs.AI
Exact Inference for Relational Graphical Models with Interpreted Functions: Lifted Probabilistic Inference Modulo Theories
Artificial Intelligence Center（人工智能中心）；SRI International（斯坦福国际研究院）
概率推理模理论（ProbabilityInference Modulo Theories，PIMT）是一个最近的框架，它扩展了图形模型的精确推理，使用更丰富的语言，包括整数和实数的算术，等式和不等式。在本文中，我们扩展PIMT的提升版本，也处理随机函数和关系。这种增强是通过适应反演，从提升一阶概率推理文献的方法，也是模理论。这导致第一个算法的准确概率推理，有效地，同时利用随机关系和功能，算术，等式和不等式。
2017-09-04 cs.AI cs.SC
Semigraphoids Are Two-Antecedental Approximations of Stochastic Conditional Independence Models
每一对CI-语句（GI=条件独立）的半图型闭包是一个随机CI-模型。作为这个结果的结果，它表明，每一个概率上健全的CI模型的推理规则，最多有两个前件，是可导出的semigraphoid推理规则。这证明了使用semigraphoid作为概率推理中随机CI模型的近似。所有19个潜在的主导元素所提到的semigraphoid封闭的列表是作为一个副产品。
2013-02-27 cs.AI
Relational Models
Siemens AG（西门子股份公司）；Ludwig Maximilian University of Munich（慕尼黑路德维希-马克西米利安大学）；Facebook AI Research（Facebook人工智能研究院）
我们提供了一个关于关系模型的综述。关系模型描述了完整的网络{通过考虑数据中的全局依赖性的域}。如果与非关系机器学习方法相比，关系模型可以导致更准确的预测。关系模型通常基于概率图形模型，例如，贝叶斯网络、马尔可夫网络或潜在变量模型。关系模型在社交网络分析、知识图谱建模、生物信息学、推荐系统、自然语言处理、医疗决策支持和链接数据中有应用。
2016-09-11 cs.AI
On (Anti)Conditional Independence in Dempster-Shafer Theory
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
本文证明了{Shenoy：94}关于信度函数的Dempster-Shafer理论的Shenoy独立性概念的图形结构的一个结果。谢诺伊证明了他的独立性概念对于正态估值具有图形性质。严格的正正规赋值的要求作为应用的先决条件的图形属性排除了一个广泛的DS信念函数类。它特别排除了所谓的概率置信函数。证明了对赋值正性的要求可以被弱化，可以要求公共函数对于单点集为非零，而置信函数变量独立的图形性质则保持不变.这特别意味着以所有单例集为焦点的概率置信函数具有独立的图形属性。
2017-07-13 cs.AI
Discriminative Probabilistic Models for Relational Data
Stanford University（斯坦福大学）
在许多监督学习任务中，待标记的实体以复杂的方式彼此相关，并且它们的标记不是独立的。例如，在超文本分类中，链接页面的标签高度相关。一种标准的方法是对每个实体独立分类，忽略它们之间的相关性。最近，概率关系模型，贝叶斯网络的关系版本，被用来定义一个联合概率模型的相关实体的集合。在本文中，我们提出了一个替代框架，建立在（条件）马尔可夫网络和解决以前的方法的两个局限性。首先，无向模型不施加非循环约束，这阻碍了有向模型中许多重要关系依赖的表示。其次，无向模型非常适合区分训练，在这种情况下，我们优化了给定特征的标签的条件似然，这通常会提高分类准确性。我们展示了如何有效地训练这些模型，以及如何使用近似概率推理的学习模型的集体分类的多个相关的实体。我们提供了一个网页分类任务的实验结果，表明可以显着提高准确性建模的关系依赖。
2012-12-12 cs.AI cs.LG stat.ML
Compiling Relational Database Schemata into Probabilistic Graphical Models
University of Massachusetts（马萨诸塞大学）；Microsoft Research（微软研究院）
在这项工作中，我们提出了一种方法，使用关系数据库模式自动构建贝叶斯图形模型的数据库，而不是需要一个领域的专家来指定的数据的概率依赖关系。此生成的模型包含列的自定义分布、对数据进行聚类的潜在变量以及反映和表示外键链接的因子。实验证明了该模型的准确性和推理的可扩展性的合成和真实世界的数据。
2012-12-05 cs.AI cs.DB cs.LG
Schema Independent Relational Learning
Oregon State University（俄勒冈州立大学）
从关系数据库中学习新的概念和关系是数据库系统和机器学习中许多应用的重要问题。关系学习算法根据数据库中的现有关系学习新关系的定义。然而，出于各种原因，例如效率、数据质量和可用性，相同的数据集可以在不同的模式下表示。不幸的是，当前关系学习算法的输出往往在模式的选择上变化很大，在学习精度和效率方面都是如此。这种变化使它们的现成应用复杂化。本文引入并形式化了关系学习算法的模式独立性，研究了现有算法对常见的（反）组合模式变换类的理论依赖性和经验依赖性。我们研究了基于样本的学习算法和基于查询的算法，基于样本的学习算法从标记的示例集合中学习，基于查询的学习算法通过向Oracle查询来学习。我们证明，目前的关系学习算法一般不是模式独立的。对于基于查询的学习算法，我们表明，（去）组合变换影响其查询复杂度。我们提出了Castor，一个基于样本的关系学习算法，通过利用数据依赖关系实现模式独立性。我们支持的理论结果与实证研究，证明了现有的基准和真实世界的数据集下（去）组合的几种算法的模式依赖/独立。
2017-11-06 cs.AI cs.DB cs.LG
Lifted Model Checking for Relational MDPs
KU Leuven（鲁汶大学）；Université libre de Bruxelles（布鲁塞尔自由大学）；Örebro University（厄勒布鲁大学）
概率模型检验是为了验证具有随机性和不确定性行为的系统而发展起来的。给定一个概率系统，概率模型检查器获取一个属性，并检查该属性在该系统中是否成立。因此，概率模型检验提供了严格的保证。然而，到目前为止，概率模型检验主要集中在命题模型上，其中状态由符号表示。另一方面，在规划和强化学习中通常需要进行关系抽象。各种框架处理关系域，例如，CNOPS规划和关系马尔可夫决策过程。在关系环境中使用命题模型检验需要将模型接地，这导致了众所周知的状态爆炸问题和棘手性。我们提出了pCTL-REBEL，一个提升的模型检验方法来验证pCTL属性的关系MDP。它将基于关系模型的强化学习技术REBEL扩展到关系pCTL模型检验. PCTL-REBEL被提升，这意味着该模型不是基于基础，而是利用对称性在关系级别上将一组对象作为一个整体进行推理。理论上，我们表明，pCTL模型检验是可判定的关系MDP有可能是无限的域，提供的状态有界的大小。在实践中，我们贡献的算法和实现解除关系模型检验，我们表明，解除的方法提高了可扩展性的模型检验方法。
2022-01-10 cs.AI cs.LG cs.LO
Automated Construction of Sparse Bayesian Networks from Unstructured Probabilistic Models and Domain Information
Rockwell Science Center（罗克韦尔科学中心）；University of California（加利福尼亚大学）
给出了一个非结构化的概率模型和因果领域的专家信息的稀疏贝叶斯网络的自动构建算法已经开发和实现。我们的目标是获得一个网络，显式地揭示尽可能多的信息，有关条件独立性。网络是逐步建立的，每次添加一个节点。专家的信息和贪婪的启发式，试图保持在每一步添加到最小的弧的数量被用来指导搜索下一个节点添加。概率模型是一个谓词，可以回答有关域中的独立性查询。在实践中，该模型可以以各种方式实现。例如，模型可以是对经验数据进行的统计独立性测试，或者是对关于域的一组独立性陈述进行的演绎证明。
2013-03-27 cs.AI
Lifted Probabilistic Inference for Asymmetric Graphical Models
KU Leuven（鲁汶大学）；University of Washington, Seattle（西雅图华盛顿大学）
提升概率推理算法已经成功地应用于大量的对称图模型。不幸的是，大多数真实世界的图形模型是不对称的。当给出证据时，关系表示也是如此。因此，社区中最近的工作转向使模型对称，然后应用现有的提升推理算法。然而，这种方法有两个缺点。首先，所有现有的过对称近似都需要一个关系表示，如马尔可夫逻辑网络。其次，诱导的对称性通常会显著改变分布，使计算的概率高度偏差。我们提出了一个框架，概率抽样为基础的推理，只使用诱导的近似对称性，提出步骤的大都会黑斯廷斯风格的马尔可夫链。因此，该框架导致改进的概率估计，同时保持无偏。实验表明，该方法优于现有的MCMC算法。
2014-12-01 cs.AI
Learning Probabilistic Logic Programs with Functional Gradient Guided Language Models
Technische Universität Darmstadt（达姆施塔特工业大学）；The University of Texas at Dallas（德克萨斯大学达拉斯分校）；AT&T CDO（AT&T首席数字官办公室）；Oregon state University（俄勒冈州立大学）
提出神经符号框架grasp，将关系结构学习转化为函数梯度提升，用LLM处理难的内部搜索，在Tox21等四个基准上优于多种基线，生成可解释带权规则集成。
2026-10-09 cs.AI
Representing and Reasoning With Probabilistic Knowledge: A Bayesian Approach
SRI International（斯坦福国际研究院）
PAGODA（Probabilistic Autonomous Goal-Directed Agent）是一种概率域中的自主学习模型[desJardins，1992]，它结合了创新技术，用于使用代理的现有知识来指导和约束学习过程，并用于表示，推理和学习概率知识。本文描述了PAGODA的概率表示和推理机制。PAGODA形成了关于其行动和世界状态随时间对环境的影响的理论。这些理论被表示为条件概率分布。对理论的结构施加限制，允许推理机制为任何动作和世界状态描述找到唯一的预测分布。这些受限理论被称为唯一预测理论。推理机制，使用独立性的概率组合（PCI），使用最小的独立性假设来组合理论中的概率，以进行概率预测。
2013-03-06 cs.AI
A Graph-Based Inference Method for Conditional Independence
Stanford University（斯坦福大学）
最初由Dawid [1979]描述的条件独立性的图形公理是概率推理的基础[Pearl，19881.这样的公理提供了一种机制来操纵条件独立断言，而不诉诸于它们的数值定义。本文探讨了独立性语句的表示使用多个无向图和一些简单的图形转换。在这个系统中可导出的独立性陈述等价于那些可由图面公理得到的独立性陈述。因此，这是一个纯粹的图形证明技术的条件独立性。
2013-03-20 cs.AI
On Axiomatization of Probabilistic Conditional Independencies
University of Regina（里贾纳大学）
本文研究了不确定推理中的概率条件独立性与关系数据库中数据依赖性之间的联系。作为一个示范的有用性的初步调查，提出了一个替代的证明反驳珍珠和帕兹提出的猜想，概率条件独立有一个完整的公理化。
2013-02-27 cs.AI
Ensemble Relational Learning based on Selective Propositionalization
University of Bari ``Aldo Moro''（巴里大学“阿尔多·莫罗”）
处理结构化数据需要使用表达性表示形式，然而，这将问题置于处理机器学习过程的计算复杂性。此外，现实世界的领域需要能够管理其典型不确定性的工具。许多统计关系学习方法试图通过将相关关系特征的构建与概率工具相结合来处理这些问题。当组合是静态的（静态命题化）时，构造的特征被认为是布尔特征，并离线用作统计学习器的输入;而当组合是动态的（动态命题化）时，特征构造和概率工具被组合成一个过程。在本文中，我们提出了一种选择性命题化方法，搜索的最佳的一组关系的功能，以使用的概率学习，以最小化损失函数。新的命题化方法已与随机子空间集成方法相结合。在真实数据集上的实验表明了该方法的有效性。
2013-11-15 cs.AI cs.LG
Induction of Interpretable Possibilistic Logic Theories from Relational Data
Cardiff University（卡迪夫大学）；KU Leuven（鲁汶大学）
统计关系学习（Statistical Relational Learning，SRL）是一个从关系数据中学习概率模型的领域。学习的SRL模型通常使用某种加权逻辑公式来表示，这使得它们比通过例如神经网络获得的模型更可解释。然而，在实践中，这些模型通常仍然难以正确解释，因为它们可能包含许多以非平凡方式相互作用的公式，并且权重并不总是具有直观的含义。为了解决这个问题，我们提出了一个新的SRL方法，使用可能性逻辑编码关系模型。学习模型本质上是分层的经典理论，它明确地编码了在给定的确定性水平下可以导出的东西。与马尔可夫逻辑网络（MLN）相比，我们的方法更快，并产生更多的可解释的模型。
2017-05-19 cs.AI
Valuation Networks and Conditional Independence
University of Kansas（堪萨斯大学）
估值网络已经被提出作为基于估值的系统（VBS）的图形表示。VBS框架能够捕获许多不确定性演算，包括概率论，Dempster-Shafer的信念函数理论，Spohn的认知信念理论和Zadeh的可能性理论。在本文中，我们展示了估值网络如何编码条件独立关系。对于概率情况，由估值网络编码的概率模型的类别包括无向图模型、有向无环图模型、有向气球图模型和递归因果图模型。
2013-03-06 cs.AI
General-Purpose MCMC Inference over Relational Structures
诸如记录链接和多目标跟踪之类的任务，涉及到重建一些观测数据的基础对象集，对于概率推理来说特别具有挑战性。最近的工作已经实现了高效和准确的推理，这些问题使用马尔可夫链蒙特卡罗（MCMC）技术与定制的建议分布。目前，实现这样的系统需要对特定于特定应用的MCMC状态表示和接受概率计算进行编码。另一种方法，我们追求在本文中，是使用一个通用的概率建模语言（如博客）和一个通用的大都会黑斯廷斯MCMC算法，支持用户提供的建议分布。我们的算法获得的灵活性，通过使用MCMC状态，只有部分描述的可能的世界，我们提供的条件下，MCMC在部分世界产生正确的答案查询。我们还展示了如何使用特定于上下文的贝叶斯网络来识别接受概率中的因素，这些因素需要针对给定的提议移动进行计算。一个引文匹配任务的实验结果表明，我们的通用MCMC引擎与特定应用程序的系统相比毫不逊色。
2012-06-27 cs.AI
From Statistical Relational to Neurosymbolic Artificial Intelligence: a Survey
KU Leuven（鲁汶大学）；Delft University of Technology（代尔夫特理工大学）；Örebro University（厄勒布鲁大学）
本综述探讨了神经符号与统计关系人工智能在学习与推理整合上的异同，提出七个共同维度来刻画和对比不同系统，为理解学习与推理的整合提供了基础概念。
2024-01-02 cs.AI
Dissociation and Propagation for Approximate Lifted Inference with Standard Relational Database Management Systems
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）
大数据集上的概率推理是一个具有挑战性的数据管理问题，因为精确推理通常是P-困难的，并且目前最常用基于采样的方法近似解决。本文提出了一种替代方法的近似评估的合取查询与标准的关系数据库：在我们的方法中，每个查询完全在数据库引擎评估一个固定数量的查询计划，每个提供一个上限的真实概率，然后采取他们的最小值。我们提供了一个算法，考虑到重要的模式信息，枚举所有可能的计划中只有最小的必要计划。重要的是，该算法是所有已知的PTIME自连接自由合取查询的严格推广：当且仅当我们的算法返回一个单一的计划时，查询在PTIME中。此外，我们的方法是一个家庭的有效的排名方法从图超图的推广。我们还采用了三种关系型查询优化技术来快速评估所有必要的计划。我们给我们的方法进行了详细的实验评估，并在这个过程中，提供了一种新的思路的概率方法的非概率方法的查询答案排名的价值。我们还注意到，本文中开发的技术立即适用于解除推理统计关系模型，因为解除推理对应于PTIME计划的概率数据库。
2016-06-14 cs.AI cs.DB
Hybrid Probabilistic Logic Programming: Inference and Learning
本文主要研究概率逻辑程序设计（PLP），它结合了不确定性的概率理论和关系的逻辑程序设计。本文旨在扩展PLP以支持离散和连续随机变量，这对于数值数据的应用是必要的。第一个贡献是引入上下文特定的似然加权（CS-LW），一种新的采样算法，利用上下文特定的独立性的计算增益。然后，提出了一种新的混合PLP（DC#），它将分布子句的语法与贝叶斯逻辑程序相结合，并表示了三种类型的独立性：i）贝叶斯网络中的条件独立性（CI）; ii）逻辑规则表示的上下文相关独立性（CSI）; iii）组合规则表示的关系模型中相关对象属性之间的独立性。提出了DC#的可扩展推理算法FO-CS-LW。最后，本文通过引入DiceML来学习混合PLP的结构和参数，并解决关系自动完成问题，从而解决了缺乏从具有缺失值和（概率）背景知识的关系数据中学习混合PLP的方法的问题。最后讨论了混合PLP的未来发展方向和面临的挑战。
2023-02-10 cs.AI cs.LO
Representation Dependence in Probabilistic Inference
非演绎推理系统通常是{ \em表示依赖}的：以两种不同的方式表示相同的情况可能会导致这样的系统返回两个不同的答案。有些人认为这是一个严重的问题。例如，最大熵原理由于其表征依赖性而受到许多批评。然而，几乎没有研究表征依赖的工作。在本文中，我们正式这个概念，并表明这不是一个特定的最大熵的问题。事实上，我们表明，任何表示独立的概率推理过程，忽略不相关的信息，本质上是蕴涵，在一个精确的意义。此外，我们表明，代表独立性是不兼容的，即使是一个弱的默认假设的独立性。然后，我们表明，在一个有限的类的表示变化的不变性可以形成一个合理的妥协之间的表示独立性和其他desiderata，并提供了一个家庭的推理程序，提供这种限制表示独立性，使用相对熵的建设。
2003-12-20 cs.AI cs.LO
An asymptotic analysis of probabilistic logic programming, with implications for expressing projective families of distributions
LMU München（慕尼黑大学）
概率逻辑编程是统计关系型人工智能的重要组成部分，其中将逻辑和概率方法结合在一起，在不确定性环境中推理和学习关系域。然而，跨可变域大小的统计关系表示的行为是复杂的，并且将推理和学习扩展到大型域仍然是一个重大挑战。近年来，域大小依赖、提升推理和从抽样子群体中学习之间出现了联系。统计关系表示的渐近行为已经受到审查，和投影被调查的最强形式的域大小的依赖，其中查询边际是完全独立的域大小。在这篇文章中，我们证明了每一个概率逻辑程序下的分布语义是渐近等价于一个非循环的概率逻辑程序只包括确定条款的概率事实。我们的结论是，每一个概率逻辑程序诱导一个投影族的分布，实际上是处处等价于一个程序从这个片段，我们调查的后果，为投影族的分布概率逻辑程序表示。为了方便应用的经典结果从有限模型理论，我们引入了抽象的分布语义，定义为一个任意的逻辑理论概率事实。这弥合了与概率逻辑编程基础的分布语义之间的差距。在这种表示中，确定性逻辑程序对应于无量词理论，使得渐近量词消去结果可用于概率逻辑编程的设置。本文件正在考虑被TPLP接受。
2021-08-18 cs.AI cs.LO cs.PL
Relational Causal Models with Cycles:Representation and Reasoning
Adobe（奥多比公司）
关系域中的因果推理是研究现实社会现象的基础，在现实社会中，个体单位可以影响彼此的特征和行为。相互关联的单元之间的动态可以表示为关系因果模型的实例化;然而，在这种实例化上的因果推理需要额外的模板假设来捕获影响的反馈回路。以前的研究已经开发了解除表示，以解决这种动态的关系性质，但严格要求的表示没有周期。为了促进关系表示和学习中的循环，我们引入了关系$σ$ -分离，这是一个新的标准，用于理解具有反馈循环的关系系统。我们还介绍了一个新的提升表示，$σ$ -抽象的地面图，它有助于抽象的统计独立关系的循环关系模型的所有可能的实例。我们证明了$σ$ -AGG的完备性的充分必要条件和关系$σ$ -分离是健全的，在存在一个或多个周期的任意长度。据我们所知，这是第一个工作的表示和推理循环关系因果模型。
2022-05-06 cs.AI cs.SI
Scalable Probabilistic Databases with Factor Graphs and MCMC
University of Massachusetts（马萨诸塞大学）
概率数据库在不确定数据的管理和理解中起着至关重要的作用。然而，将概率纳入不完整数据库的语义中带来了许多挑战，迫使系统牺牲建模能力，可扩展性，或限制它们关闭的关系代数公式的类别。我们提出了一种替代方法，其中底层的关系数据库总是代表一个单一的世界，和一个外部因素图编码的分布在可能的世界，马尔可夫链蒙特卡罗（MCMC）推理，然后使用恢复这种不确定性所需的保真度水平。我们的方法可以有效地评估任意查询的概率数据库与任意依赖关系表示的图形模型的结构，在推理过程中发生变化。MCMC采样通过假设{ \em修改}到可能的世界而不是从头开始生成整个世界来提供效率。然后，在世界发生变化的部分上运行查询，避免了在每个采样世界上运行完整查询的繁重成本。这项工作的一个重要创新是MCMC采样和物化视图维护技术之间的连接：我们发现经验，使用视图维护技术是几个数量级的速度比天真地查询每个采样的世界。我们还展示了我们的系统的能力，回答关系查询与聚合，并通过使用并行化展示了额外的可扩展性。
2010-05-11 cs.AI cs.DB
Relational Neural Machines
University of Florence（佛罗伦萨大学）；University of Siena（锡耶纳大学）
深度学习已被证明在有大量训练数据可用的几个任务中取得了令人印象深刻的结果。然而，深度学习只关注预测的准确性，忽略了导致决策的推理过程，这是生命关键应用中的一个主要问题。概率逻辑推理允许利用统计知识和特定领域的专业知识在不确定性下进行推理，但其可扩展性和与处理传感数据的层的脆弱集成极大地限制了其应用。出于这些原因，将深度架构和概率逻辑推理相结合是开发在复杂环境中运行的智能代理的基本目标。本文介绍了关系神经机，一种新的框架，允许联合训练的参数的学习者和一阶逻辑为基础的推理。关系神经机能够在纯子符号学习的情况下从监督数据恢复经典学习，并且在纯符号推理的情况下恢复马尔可夫逻辑网络，同时允许联合训练并在混合学习任务中执行推理。设计适当的算法解决方案，使学习和推理在大规模问题中易于处理。实验结果表明，在不同的关系任务有希望的结果。
2020-02-06 cs.AI cs.LG
Lifted Causal Inference in Relational Domains
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；singularIT GmbH（singularIT有限公司）；University of Münster（明斯特大学）；University of Lübeck（吕贝克大学）
本文提出参数化因果因子图与提升因果推断算法，在关系域中利用对称性高效计算因果效应，显著加速推断并保持精确性。
2024-03-15 cs.AI cs.DS
A Complete Characterization of Projectivity for Statistical Relational Models
Aalborg University（奥尔堡大学）；Simon Fraser University（西蒙弗雷泽大学）
关系数据的生成概率模型由不同大小的域上的关系结构的概率分布族组成。在大多数现有的统计关系学习（SRL）框架中，这些模型在大小为$k<n$的诱导子结构上的大小- $n$结构的分布的边缘等于大小- $k$结构的给定分布的意义上不是投射的。投射性是非常有益的，因为它可以直接从子采样的关系结构中进行提升推理和统计一致性学习。在早期的工作中，一些简单的片段SRL语言已被确定为代表投射模型。然而，没有完整的表征，并表示框架的投影模型已经给出。在本文中，我们填补了这一空白：利用无限可交换数组的表示定理，我们引入了一类有向图形潜变量模型，精确对应于一类投影关系模型。作为一个副产品，我们还获得了一个表征时，一个给定的分布在尺寸-$k$结构是统计频率分布的尺寸- $k$子结构在大得多的尺寸- $n$结构。这些结果揭示了新的光到旧的开放问题，如何应用Halpern等人。的“随机世界方法”的概率推理一般关系签名。
2020-06-22 cs.AI cs.LG stat.ML
Lifted Representation of Relational Causal Models Revisited: Implications for Reasoning and Structure Learning
Artificial Intelligence Research Laboratory（人工智能研究实验室）；College of Information Sciences and Technology（信息科学与技术学院）；Pennsylvania State University（宾夕法尼亚州立大学）
Maier等人（2010）介绍了关系因果模型（RCM），用于表示和推断关系数据中的因果关系。抽象地图（AGG）是一种提升表示，在RCM的推理和学习中起着核心作用。Maier等人（2013 a）提出的从数据中学习RCM的算法的正确性依赖于AGG对于关系d-分离的可靠性和完整性，以将RCM的学习减少到AGG的学习。我们重新审视了AGG的定义，并表明Maier等人（2013 b）定义的AGG并没有正确地抽象所有的基础图。我们修改了AGG的定义，以确保它正确地抽象所有的地面图。我们进一步证明了AGG表示对于关系d-分离是不完全的，也就是说，在一个RCM中可以存在不被AGG蕴涵的条件独立关系。仔细检查之间的关系D-分离和忠诚条件的AGG的完整性的缺乏之间的关系表明，较弱的概念的完整性，即邻接忠诚度和方向的忠诚度之间的RCM和它的AGG，可以用来学习的RCM数据。
2015-08-17 cs.AI cs.LG
Model-based Exception Mining for Object-Relational Data
Simon Fraser University（西蒙弗雷泽大学）
这篇文章是基于以前的出版物[29]。我们的工作扩展异常挖掘和离群值检测的情况下，对象关系数据。对象关系数据表示一个复杂的异构网络[12]，它包括不同类型的对象，这些对象之间的链接，也是不同类型的，以及这些链接的属性。这种特殊的结构禁止直接的矢量数据表示。我们遵循成熟的异常模型挖掘框架，该框架利用机器学习模型进行异常挖掘：对象是异常的，因为为对象数据学习的模型不同于为一般人群学习的模型。异常对象可以被视为离群值。我们应用最先进的概率建模技术的对象关系数据，构建一个图形化的模型（贝叶斯网络），其中companion表示数据中的概率关联。一个新的度量，来自学习对象-关系模型，量化的程度，一个潜在的离群值的个体关联模式偏离整个人口。该度量基于两个参数向量的似然比：一个表示总体关联，另一个表示个体关联。我们的方法在合成数据集和真实世界的足球比赛和电影数据集上进行了验证。与基线方法相比，我们的新转换似然比在所有数据集上都达到了最佳的检测精度。
2018-07-01 cs.AI cs.LG stat.ML
