Stochastic Planning and Lifted Inference
Tufts University(塔夫茨大学);University of Toronto(多伦多大学)
提升概率推理(Poole,2003)和提升随机规划的符号动态规划(Boutilier et al,2001)是在随机系统中使用抽象的算法努力的同时引入的。多年来,这些想法演变成两个不同的研究路线,每一个都有丰富的文献支持。提升概率推理侧重于在有限域假设下对基于模板的图形模型进行有效的算术运算,而符号动态规划侧重于在丰富的量化逻辑动作模型和开放域推理中支持顺序决策。鉴于它们的共同动机,但不同的重点,这两条研究路线产生了高度互补的创新。在本章中,我们的目标是通过从概率推理的角度概述提升的随机规划来帮助缩小这两个研究领域之间的差距,并显示出与本书其他章节的密切联系。这也使我们能够将广义提升推理定义为一种范式,它统一了这些领域,并阐明了未来研究的开放问题,这些问题可以使提升推理和随机规划受益。
2017-01-04 cs.AI
Lifted Relational Probabilistic Inference via Implicit Learning
Washington University in St. Louis(华盛顿大学)
本文提出了一种基于隐式学习的方法,实现第一-order概率逻辑的隐式学习和提升推断,解决了传统方法在模型构建上的局限性。
2026-02-16 cs.AI
Inference in Probabilistic Logic Programs using Lifted Explanations
Stony Brook University(石溪大学)
在本文中,我们考虑的问题,提升推理的背景下,棱镜一样的概率逻辑程序设计语言。在这种语言中,传统的推理涉及为查询构造解释图并计算该图上的概率。当对具有大量随机变量实例的概率逻辑程序的查询进行评估时,传统方法单独对待每个实例。对于许多程序和查询,我们观察到,解释可以总结成更紧凑的结构,我们称之为解除解释图。在本文中,我们定义了提升解释图及其上的操作。与现有的提升推理技术相比,我们的方法,用于构建提升的解释自然地概括了现有的方法,用于构建解释图。为了计算查询答案的概率,我们解决了从提升图生成的递归。我们展示的例子中,我们的技术的使用降低了推理的渐近复杂性。
2016-08-20 cs.AI cs.LO
Exact Inference for Relational Graphical Models with Interpreted Functions: Lifted Probabilistic Inference Modulo Theories
Artificial Intelligence Center(人工智能中心);SRI International(斯坦福国际研究院)
概率推理模理论(ProbabilityInference Modulo Theories,PIMT)是一个最近的框架,它扩展了图形模型的精确推理,使用更丰富的语言,包括整数和实数的算术,等式和不等式。在本文中,我们扩展PIMT的提升版本,也处理随机函数和关系。这种增强是通过适应反演,从提升一阶概率推理文献的方法,也是模理论。这导致第一个算法的准确概率推理,有效地,同时利用随机关系和功能,算术,等式和不等式。
2017-09-04 cs.AI cs.SC
Probabilistic Theorem Proving
University of Washington(华盛顿大学)
近年来,结合一阶逻辑和概率的表示方案被提出。在统一逻辑推理和概率推理方面的进展比较缓慢。现有的方法主要是提升变量消除和信念传播的变体,这两种方法都没有考虑逻辑结构。我们提出了第一种方法,具有充分的权力,图形模型推理和一阶定理证明(在有限域Herbrand解释)。我们首先定义概率定理证明,他们的推广,作为问题的概率计算的逻辑公式给定的概率或权重的一组公式。然后,我们将展示如何将其简化为提升加权模型计数的问题,并为后者开发一个有效的算法。我们证明了该算法的正确性,调查其性质,并显示它是如何推广以前的方法。实验表明,在逻辑结构存在的情况下,该算法大大优于提升变量消去法。最后,我们提出了一个近似概率定理证明的算法,并表明它可以大大优于提升的信念传播。
2012-02-14 cs.AI
Exploring Unknown Universes in Probabilistic Relational Models
Institute of Information Systems, University of Lübeck(吕贝克大学信息系统研究所)
大型概率模型通常由一组已知的个体(一个宇宙)和它们之间的关系形成。提升推理算法处理已知个体的集合以进行易处理的推理。然而,宇宙可能并不总是已知的,或者只能通过诸如“小宇宙更有可能”的假设来描述。如果没有一个宇宙,推理不再可能提升算法,失去了他们的优势,易于处理的推理。本文的目的是定义一个语义的模型与未知的宇宙从一个特定的约束语言解耦,使解除,从而,听话的推理。
2020-01-07 cs.AI
First-Order Decomposition Trees
KU Leuven(鲁汶大学)
提升试图通过利用模型中的对称性来加速概率推理。精确提升的推理方法,就像它们的命题对应物一样,通过递归地分解模型和问题来工作。在命题的情况下,存在形式结构,如分解树(dtree),表示这样的分解,并允许我们确定推理的复杂性先验。然而,目前没有等效的结构,也没有类似的复杂性结果提升推理。在本文中,我们引入了FO-dtree,它将命题dtree提升到一阶水平。我们展示了这些树可以描述一个概率逻辑模型的提升推理解决方案(在提升操作序列方面),并对提升推理的复杂性进行了理论分析,提出了树的提升宽度的新概念。
2013-06-04 cs.AI
Lifted Variable Elimination: A Novel Operator and Completeness Results
KU Leuven(鲁汶大学)
人们已经提出了各种提升概率推理的方法,但与它们的命题对应物相比,我们对这些方法及其之间关系的理解仍然有限。提升的唯一现有的理论表征是加权一阶模型计数(WFOMC),这被证明是完整的域提升类的2-logvar模型。本文对提升变量消去法(LVE)做了两个贡献。首先,我们引入了一种新的推理算子,称为群反演。其次,我们证明了LVE增广与此操作是完全的WFOMC在相同的意义。
2012-08-24 cs.AI
Sequential Lifted Bayesian Filtering in Multiset Rewriting Systems
Mobile Multimedia Information Systems Group, Institute of Computer Science(计算机科学研究所移动多媒体信息系统组);University of Rostock(罗斯托克大学)
用于计划和活动识别的贝叶斯过滤对于包含许多观测等效实体(即产生相同观测的实体)的场景具有挑战性。这是由于需要跟踪的假设数量的组合爆炸。然而,这类问题表现出一定的对称性,可以利用状态空间表示和推理。我们分析了当前最先进的方法,发现它们都不完全符合这个问题类中出现的要求。我们勾画了一个新的推理算法,提供了一个解决方案,结合提升推理算法,概率多集重写系统,计算状态空间模型的概念。两个实验证实,这种新的算法有可能对这类问题进行有效的概率推理。
2017-08-14 cs.AI
Lower Complexity Bounds for Lifted Inference
Aalborg University(奥尔堡大学)
在概率关系(或概率逻辑)建模和学习框架的发展中,最大的挑战之一是设计推理技术,这些推理技术在抽象模型表示语言的层面上操作,而不是在模型的基础、命题实例的层面上操作。已经提出了用于这种“提升推理”技术的许多方法。虽然已经证明,这些技术将导致显着更有效的推理在一些特定的模型,只有最近的,仍然相当有限的结果,表明提升推理的可行性,在某些语法定义类的模型。较低的复杂性界限意味着对更具表达力的模型类的提升推理的可行性的一些限制,这是在早期建立的(Jaeger 2000)。然而,这些结果并不立即适用于目前受到最多关注的建模语言类型,即,加权的无量词公式。在本文中,我们扩展了这些早期的结果,并表明,在假设NETIME =/= ETIME,有没有多项式提升推理算法的知识库的加权,量词和功能的自由公式。进一步加强早期的结果,这也被证明是举行近似推理,知识库不包含的平等谓词。
2013-05-02 cs.AI
Approximate Lifted Inference with Probabilistic Databases
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
本文提出了一种新的近似评估的概率数据库的#P-hard查询。在我们的方法中,每一个查询都是在数据库引擎中进行评估的,通过评估固定数量的查询计划,每个计划提供一个真实概率的上限,然后取其最小值。我们提供了一个算法,考虑到重要的模式信息,枚举所有可能的计划中只有最小的必要计划。重要的是,该算法是PTIME self-join-free合取查询的所有已知结果的严格推广:当且仅当我们的算法返回一个单一计划时,查询是安全的。我们还应用了三个关系查询优化技术,以评估所有最小的安全计划非常快。我们给我们的方法进行了详细的实验评估,并在这个过程中,提供了一种新的思路的概率方法的非概率方法的查询答案排名的价值。
2014-12-02 cs.AI cs.DB
Lifted Model Construction without Normalisation: A Vectorised Approach to Exploit Symmetries in Factor Graphs
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所)
本文提出一种对高级颜色传递算法的推广,通过允许因子势函数任意缩放来检测更多对称性,从而构建更紧凑的参数化因子图并显著降低概率推断的在线查询时间。
2024-11-20 cs.AI cs.LG
Lifted Model Checking for Relational MDPs
KU Leuven(鲁汶大学);Université libre de Bruxelles(布鲁塞尔自由大学);Örebro University(厄勒布鲁大学)
概率模型检验是为了验证具有随机性和不确定性行为的系统而发展起来的。给定一个概率系统,概率模型检查器获取一个属性,并检查该属性在该系统中是否成立。因此,概率模型检验提供了严格的保证。然而,到目前为止,概率模型检验主要集中在命题模型上,其中状态由符号表示。另一方面,在规划和强化学习中通常需要进行关系抽象。各种框架处理关系域,例如,CNOPS规划和关系马尔可夫决策过程。在关系环境中使用命题模型检验需要将模型接地,这导致了众所周知的状态爆炸问题和棘手性。我们提出了pCTL-REBEL,一个提升的模型检验方法来验证pCTL属性的关系MDP。它将基于关系模型的强化学习技术REBEL扩展到关系pCTL模型检验. PCTL-REBEL被提升,这意味着该模型不是基于基础,而是利用对称性在关系级别上将一组对象作为一个整体进行推理。理论上,我们表明,pCTL模型检验是可判定的关系MDP有可能是无限的域,提供的状态有界的大小。在实践中,我们贡献的算法和实现解除关系模型检验,我们表明,解除的方法提高了可扩展性的模型检验方法。
2022-01-10 cs.AI cs.LG cs.LO
Preventing Unnecessary Groundings in the Lifted Dynamic Junction Tree Algorithm
Universität zu Lübeck(吕贝克大学)
提升的动态连接树算法(LDJT)有效地回答过滤和预测查询的概率关系时态模型,通过建立,然后重用一个一阶聚类表示的知识库的多个查询和时间步长。不幸的是,一个非理想的淘汰顺序可能会导致接地,即使一个模型的提升运行是可能的。我们扩展LDJT(i),以确定不必要的接地,同时进行的时间和(ii),以防止接地延迟消除通过时间的一阶聚类表示的变化。LDJT的扩展版本回答多个时间查询的数量级比原来的版本更快。
2018-07-02 cs.AI
Lifted Convex Quadratic Programming
TU Dortmund University(多特蒙德工业大学)
对称性是提升推理的基本要素,最近已经证明了在高度连接但对称的概率模型中执行非常有效的推理的可能性。这就提出了一个问题,这是否适用于一般的优化问题。在这里,我们表明,对于一大类优化方法,这实际上是这种情况。更确切地说,我们引入了凸二次规划(QP)的分数对称性的概念,这是许多机器学习方法的核心,并利用它来提升,即,来压缩QP。这些提升的QP然后可以用通常的优化工具箱(现成的求解器、切割平面算法、随机梯度等)来处理。如果原始QP表现出对称性,则提升的QP通常将更紧凑,因此它们的优化可能更有效。
2016-06-14 cs.AI
Bisimulation-based Approximate Lifted Inference
Univ. of Maryland, College Park(马里兰大学学院公园分校)
最近,人们对执行提升推理的方法很感兴趣;然而,大多数工作都假设一阶模型作为系统的输入。在这里,我们描述了提升的推理算法,确定对称性和自动提升的概率模型,以加速推理。特别是,我们描述了近似提升推理技术,允许用户通过使用少数可调参数来权衡推理精度和计算效率,同时保持误差有界。我们的算法是密切相关的图论概念的互模拟。我们报告的合成和真实数据的实验表明,在对称性的存在下,推理的运行时间可以显着改善,与近似解除推理提供数量级的地面推理加速。
2012-05-09 cs.AI
Fusing First-order Knowledge Compilation and the Lifted Junction Tree Algorithm
University of Lübeck(吕贝克大学)
一阶结构的概率形式化推理的标准方法包括单次查询的提升变量消除(LVE)以及基于加权模型计数的一阶知识编译(FOKC)。为了有效地处理多个查询,提升连接树算法(LJT)使用模型的一阶聚类表示和LVE作为其计算中的子例程。对于某些输入,LVE的实现,以及因此LJT接地模型的FOKC具有提升运行的部分。本文的目的是准备LJT作为提升推理的骨干,并使用任何精确的推理算法作为子程序。在LJT中使用FOKC可以让我们在某些输入下比LJT、LVE和FOKC更快地计算答案。
2018-07-02 cs.AI
New Liftable Classes for First-Order Probabilistic Inference
The University of British Columbia(不列颠哥伦比亚大学);KU Leuven(鲁汶大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
统计关系模型为关系域中的概率依赖性提供了紧凑的编码,但导致高度棘手的图形模型。提升推理的目标是进行概率推理,而不需要分别对每个个体进行推理,而是将可交换的、不可区分的对象作为一个整体来处理。在本文中,我们研究域递归推理规则,尽管它的核心作用,在早期的理论结果域提升推理,后来被认为是多余的。我们发现,这条规则比预期的更强大,实际上显着扩展了模型的范围,其中解除推理在时间多项式中运行的个人在域中的数量。这包括一个名为S4的开放问题,对称传递性模型和生日悖论的一阶逻辑编码。我们进一步确定了新的类S2FO2和S2RU的域提升理论,分别subsidering FO2和递归一元理论,最大的类域提升理论迄今为止,并表明,使用域递归可以实现指数加速,即使在理论,不能完全解除与现有的推理规则集。
2016-10-26 cs.AI stat.ML
Lifted Variable Elimination: Decoupling the Operators from the Constraint Language
KU Leuven(鲁汶大学)
提升概率推理算法利用图形模型结构中的随机性来更有效地执行推理。更具体地说,它们识别可互换的变量组,并对每组执行一次推理,而不是对每个变量执行一次。分组是通过约束来定义的,因此分组的灵活性取决于约束语言的表达能力。现有的精确提升推理方法使用特定的语言(在)等式约束,这通常具有有限的表达能力。在本文中,我们将提升推理与约束语言解耦。我们定义的操作符提升推理的关系代数运算符,使他们的操作语义层面上(的约束扩展),而不是在语法层面上,使他们的语言独立。因此,可以使用更强大的约束语言来执行提升推理,这为提升提供了更多的机会。我们的经验表明,这可以提高推理效率的数量级,允许精确的推理,直到现在只有近似推理是可行的。
2014-02-04 cs.AI
Understanding the Complexity of Lifted Inference and Asymmetric Weighted Model Counting
University of Washington(华盛顿大学);KU Leuven(鲁汶大学);UCLA(加州大学洛杉矶分校)
在本文中,我们研究了提升推理的加权一阶模型计数问题(WFOMC),它计数的分配,满足一阶逻辑(FOL)中给定的句子,它在统计关系学习(SRL)和概率数据库(PDB)的应用。我们提出了几个结果。首先,我们描述了一个提升的推理算法,概括了以前的方法在SRL和PDB。其次,我们提供了一个新的二分法的结果为非平凡片段的FO CNF句子,表明对于每个句子的WFOMC问题是在PTIME或#P-硬的输入域的大小,我们证明,在第一种情况下,我们的算法解决了WFOMC问题的PTIME,在第二种情况下,它失败了。第三,我们提出了几个性质的算法。最后,我们讨论了对称概率数据库的提升推理的局限性(其中地面文字的权重仅取决于关系名称,而不是域的常数),并证明了整个语言FOL的概率推理的复杂性的二分法结果的不可能性。
2014-07-29 cs.AI cs.DB cs.LO
Block-Value Symmetries in Probabilistic Graphical Models
Indian Institute of Technology Delhi(德里印度理工学院)
概率图模型中提升推理的一种流行方法是首先将对称状态合并到单个集群(轨道)中,然后通过轨道MCMC的变体将其用于下游推理[Niepert,2012]。这些轨道用变量上的置换和变量-值(VV)对来表示,但它们可能在一个域中错过几个状态对称。我们定义了块-值(BV)对上的置换的概念,其中块是一组变量。BV严格推广VV对称性,并且可以计算更多的对称性以增加块大小。为了在提升推理中操作BV排列的使用,我们描述了1)给定变量的块划分来计算BV排列的算法,2)BV-MCMC,可以从BV轨道采样的轨道MCMC的扩展,以及3)建议良好块划分的启发式。我们的实验表明,BV-MCMC可以更快地混合相比,香草MCMC和轨道MCMC。
2018-07-08 cs.AI
On the Complexity and Approximation of Binary Evidence in Lifted Inference
University of California, Los Angeles(加州大学洛杉矶分校)
提升推理算法利用概率模型中的对称性来加速推理。它们在计算关系模型中的无条件概率时表现出令人印象深刻的性能,但在计算条件概率时经常采用非提升推理。原因是,对证据的条件化破坏了模型的许多对称性,这可能会抢占标准提升技术。最近的理论结果表明,例如,条件的证据,对应于二元关系是P-硬,这表明没有提升是预期在最坏的情况下。在本文中,我们平衡这个负面的结果,通过确定布尔等级的证据作为一个关键参数,用于表征的复杂性条件提升推理。特别是,我们表明,条件与有界布尔秩的二元证据是有效的。这开辟了一个低秩布尔矩阵分解,我们从理论和经验上研究近似证据的可能性。
2013-11-26 cs.AI
Lifted Causal Inference in Relational Domains
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);singularIT GmbH(singularIT有限公司);University of Münster(明斯特大学);University of Lübeck(吕贝克大学)
本文提出参数化因果因子图与提升因果推断算法,在关系域中利用对称性高效计算因果效应,显著加速推断并保持精确性。
2024-03-15 cs.AI cs.DS
Dissociation and Propagation for Approximate Lifted Inference with Standard Relational Database Management Systems
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
大数据集上的概率推理是一个具有挑战性的数据管理问题,因为精确推理通常是P-困难的,并且目前最常用基于采样的方法近似解决。本文提出了一种替代方法的近似评估的合取查询与标准的关系数据库:在我们的方法中,每个查询完全在数据库引擎评估一个固定数量的查询计划,每个提供一个上限的真实概率,然后采取他们的最小值。我们提供了一个算法,考虑到重要的模式信息,枚举所有可能的计划中只有最小的必要计划。重要的是,该算法是所有已知的PTIME自连接自由合取查询的严格推广:当且仅当我们的算法返回一个单一的计划时,查询在PTIME中。此外,我们的方法是一个家庭的有效的排名方法从图超图的推广。我们还采用了三种关系型查询优化技术来快速评估所有必要的计划。我们给我们的方法进行了详细的实验评估,并在这个过程中,提供了一种新的思路的概率方法的非概率方法的查询答案排名的价值。我们还注意到,本文中开发的技术立即适用于解除推理统计关系模型,因为解除推理对应于PTIME计划的概率数据库。
2016-06-14 cs.AI cs.DB
Automorphism Groups of Graphical Models and Lifted Variational Inference
Nuance Communications(纽昂斯通讯公司);SRI International(斯坦福国际研究院);University College London(伦敦大学学院)
利用群作用理论,我们首先引入了指数族或图模型的自同构群的概念,从而形式化了概率模型的对称性的一般概念。这个自同构群为一般指数族中的提升推理提供了一个精确的数学框架。它的群作用将随机变量和特征函数的集合划分为具有相同边缘和期望的等价类(称为轨道)。然后,推理问题被有效地简化为计算每个类的边际或期望,从而避免了处理每个单独变量或特征的需要。我们证明了这个一般框架的有用性,在提升两类变分近似的最大后验(MAP)推理:局部线性规划(LP)松弛和局部LP松弛与循环约束;后者产生的第一个提升变分推理算法,操作上的约束比局部约束更紧。
2013-09-26 cs.AI
Lifted Model Construction under Approximate Commutativity
Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所);Data Science Group, University of Münster(明斯特大学数据科学组)
针对实际中因子仅近似交换的问题,提出ε-交换性概念并将其用于提升模型构建,证明了诱导近似误差的严格界,实验显示其可在更低运行时间下达到相当的查询准确率。
2026-08-26 cs.AI cs.LG
Symmetry-Aware Marginal Density Estimation
University of Washington(华盛顿大学)
Rao-Blackwell定理被用来分析和改进具有对称性的大型概率模型的推理的可扩展性。一种新的边际密度估计的介绍和分析和经验表明,优于标准估计的几个数量级。所开发的理论和算法适用于广泛的一类概率模型,包括统计关系模型认为不容易提升概率推理。
2013-04-09 cs.AI
Lifted Marginal MAP Inference
IIT Delhi(德里印度理工学院);UT Dallas(德克萨斯大学达拉斯分校)
提升推理通过识别相互对称的常数(或原子)组来降低关系概率模型中推理的复杂性。在文献中已经提出了许多技术,用于提升边际以及MAP推理。我们提出的第一个应用程序的边缘MAP(MMAP),一个重要的推理问题的模型具有潜在的(随机)变量的提升规则。我们的主要贡献是两个方面:(1)我们定义了一个新的等价类(逻辑)变量,称为单次出现的最大值(SOM),并表明解决方案在于极端的SOM变量,即,(2)我们定义了一个子类{ \em}(SOMReduce),并利用极值赋值的性质来证明可以通过将SOM-R变量的域减少到单个常数来执行MMAP推理。结合现有的规则,如分解器和二项式,这导致了一个强大的框架提升MMAP。在三个基准域上的实验表明,与地面推理以及不使用SOM-R的提升方法相比,在时间和内存方面都有显着的增益。
2018-07-08 cs.AI
Extended Lifted Inference with Joint Formulas
Ben-Gurion University of The Negev(内盖夫本-古里安大学)
一阶变量消除(FOVE)算法允许将精确推理直接应用于概率关系模型,并且已被证明大大优于在接地命题模型上应用标准推理方法。尽管如此,FOVE算子可以在限制条件下应用,通常迫使人们诉诸命题推理。本文旨在通过提供两个新的模型转换算子来扩展FOVE的适用性:第一个和主要的是联合公式转换和第二个是不同的计数转换。这些新的操作允许有效的推理方法被直接应用于关系模型,其中迄今为止没有现有的有效方法可以应用。此外,这些功能的帮助下,我们展示了如何适应FOVE提供精确的解决方案,最大预期效用(MEU)查询关系模型的不确定性下的决定。实验评估表明,我们的算法,以提供显着的加速比的替代品。
2012-02-14 cs.AI
Probabilistic Inference Modulo Theories
SRI International(SRI国际研究所);U. of Texas at Dallas(德克萨斯大学达拉斯分校);U. of California, Irvine(加州大学欧文分校)
我们提出了SGDPLL(T),一个算法,解决了(在许多其他问题中)概率推理模理论,即通过提供作为参数的逻辑理论定义的概率模型上的推理问题(目前,命题,离散排序上的等式,以及不等式,更具体地说,有界整数上的差分运算)。虽然已经提出了对逻辑表示的概率推理的许多解决方案,但SGDPLL(T)同时(1)提升,(2)精确和(3)模理论,即,由背景逻辑理论参数化。这为将其扩展到丰富的逻辑语言(如数据结构和关系数据)提供了基础。所谓提升,我们指的是在域大小(变量可以取值的数量)上具有恒定复杂度的算法。我们还详细介绍了一个求解器的求和差分算法,并显示实验结果的情况下,SGDPLL(T)是比一个国家的最先进的概率求解器快得多。
2016-05-27 cs.AI cs.LO
Lifted Graphical Models: A Survey
University of Maryland College Park(马里兰大学帕克分校)
本文介绍了一个调查工作的提升图形模型。我们回顾了一个一般形式的解除图形模型,一个参数因子图,并显示了一些现有的统计关系表示映射到这种形式主义。我们讨论的推理算法,包括提升推理算法,有效地计算概率查询的答案。我们还回顾了从数据中学习提升图形模型的工作。我们相信,对统计关系模型的需求(无论它是用这个名字还是另一个名字)将在未来几十年内增长,因为我们被结构化和非结构化的数据所淹没,从文本中以嘈杂的方式提取实体和关系,并且需要有效地推理这些数据。我们希望,来自许多不同研究小组的想法的综合将为这个不断扩大的领域的新研究人员提供一个可访问的起点。
2011-08-26 cs.AI cs.LG
Tractability through Exchangeability: A New Perspective on Efficient Probabilistic Inference
University of Washington(华盛顿大学);University of California, Los Angeles(加州大学洛杉矶分校)
互换性是统计学和概率论中的一个中心概念。无限序列的数据点是可交换的假设是贝叶斯统计的核心。然而,有限交换作为一个统计属性,使概率推理听话是不太好理解。我们发展了一个有限交换理论及其与易处理的概率推理的关系。该理论是对独立性和条件独立性理论的补充。我们表明,易于处理的推理概率模型与高树宽和数以百万计的变量可以理解使用有限(部分)交换的概念。我们还表明,现有的提升推理算法隐含地利用条件独立性和部分交换的组合。
2014-04-22 cs.AI
Lifted Tree-Reweighted Variational Inference
Nuance Communications(Nuance通信公司);John von Neumann Institute(冯·诺依曼研究所);Vietnam National University(越南国家大学);Courant Institute of Mathematical Sciences(库朗数学科学研究所);New York University(纽约大学)
我们分析高度对称的图形模型,如一阶概率模型所产生的变分推理。我们首先表明,对于这些图形模型,树重新加权变分目标本身的一个紧凑的解除制定,可以更有效地解决比标准的TRW制定地面图形模型。与早期关于提升置信传播的工作相比,我们的公式导致了提升边缘推理的凸优化问题,并提供了分区函数的上界。我们提供了两种方法来提高解除TRW上限。第一个是一种方法,用于有效地计算最大生成树的高度对称图,它可以用来优化TRW边的出现概率。第二个是一种方法,用于收紧放松的边缘多面体使用提升循环不等式和新的可交换的集群一致性约束。
2014-06-19 cs.AI stat.ML
Lifted Causal Inference
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
提出参数化因果因子图(PCFG)和提升因果推断(LCI)算法,在关系域中高效计算因果效应,显著加速推理。
2026-06-29 cs.AI cs.LG
Contextual Symmetries in Probabilistic Graphical Models
Indian Institute of Technology, Delhi(德里印度理工学院);Stanford University(斯坦福大学)
概率图模型中有效推理的一个重要方法是利用域中对象之间的对称性。对称变量(状态)被折叠成元变量(元状态),推理算法在提升的图形模型上运行,而不是平面模型。本文通过引入语境对称的新概念,扩展了现有的对称定义。非全局对称的两个状态,在对变量子集(称为上下文变量)的特定赋值下,可以是上下文对称的。上下文对称性包含了以前的对称性定义,可以代表一大类以前无法表示的对称性。我们展示了如何计算上下文对称性减少到图同构的问题。我们扩展以前的工作,利用对称性的MCMC框架的情况下,上下文对称性。我们在几个感兴趣的领域的实验表明,利用上下文对称性可以导致显着的计算收益。
2016-06-30 cs.AI
Polynomial-Time Relational Probabilistic Inference in Open Universes
Washington University in St. Louis(华盛顿大学圣路易斯分校)
本文提出一种一阶关系概率推理方法,将期望的平方和逻辑扩展到关系设置,证明在有界度片段中可在多项式时间内完成提升推理,并建立了固定次数下平方和反驳的完备性。
2025-05-07 cs.AI
State-Space Abstractions for Probabilistic Inference: A Systematic Review
University of Rostock(罗斯托克大学)
诸如社会网络分析、人类行为识别或生化反应建模之类的任务可以通过使用概率推理框架来优雅地解决。然而,标准的概率推理算法在命题级别上工作,因此无法捕获这些任务中存在的对称性和冗余性。利用这些对称性的算法已经在不同的研究领域中被设计出来,例如通过提升推理,多对象跟踪以及建模和仿真社区。通常的想法,我们称之为状态空间抽象,是在对称状态集的紧凑表示上执行推理。虽然他们关注的是一个类似的主题,这些方法之间的关系还没有得到系统的研究。这项调查提供了以下贡献。我们进行了系统的文献综述,概述了利用对称性的概率推理方法的最新发展。从最初的4,000多篇论文中,我们确定了116篇相关论文。此外,我们提供了新的高层次的类别,分类的方法,根据共同的属性的方法。每个类别的研究领域进行了简要介绍。来自不同领域的研究人员在概率系统中遇到状态空间爆炸问题时,可以使用这种分类来识别可能的解决方案。最后,基于这种概念化,我们确定了未来研究的潜力,因为一些相关的应用领域没有解决目前的方法。
2018-12-04 cs.AI
Automorphism Groups of Graphical Models and Lifted Variational Inference
Artificial Intelligence Center(人工智能中心);SRI International(SRI国际公司);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
利用群作用理论,我们首先引入了指数族或图模型的自同构群的概念,从而形式化了概率模型的对称性的一般概念。这个自同构群为一般指数族中的提升推理提供了一个精确的数学框架。它的群作用将随机变量和特征函数的集合划分为具有相同边缘和期望的等价类(称为轨道)。然后,推理问题被有效地简化为计算每个类的边际或期望,从而避免了处理每个单独变量或特征的需要。我们证明了这个一般框架的有用性,在提升两类变分近似MAP推理:局部LP松弛和局部LP松弛与循环约束;后者产生的第一个提升推理,操作上的约束比局部约束更紧。初步的实验结果表明,提升MAP推理与循环约束实现了最先进的性能,获得更好的目标函数值比局部近似,同时保持相对有效。
2012-07-19 cs.AI cs.LG math.CO
Approximate Lifted Model Construction
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所)
本文提出ε-ACP算法,通过允许势函数存在受超参数ε控制的偏差,高效发现并利用非精确的不可区分性,从而将提升推理扩展到从数据中学习且存在偏差的实际场景,并证明其近似误差严格有界。
2025-08-27 cs.AI cs.DS cs.LG
Lifted Inference beyond First-Order Logic
University of Padova(帕多瓦大学)
本研究扩展了C^2逻辑片段的域可提升性,使其能处理有向无环图、连通图、树和森林等现实数据属性,并提出“通过分裂计数”的新方法论,为概率推理和组合结构计数提供通用框架。
2025-02-25 cs.AI cs.LO math.CO
Lifted Inference with Linear Order Axiom
Faculty of Electrical Engineering(电气工程学院);Czech Technical University in Prague(布拉格捷克理工大学)
我们考虑的任务加权一阶模型计数(WFOMC)用于统计关系学习领域的概率推理。给定一个公式$ϕ$,域大小$n$和一对权重函数,在一个域大小为$n$的域上所有$ϕ$模型的加权和是多少?结果表明,在$n$中,任何不超过两个逻辑变量的逻辑语句的WFOMC都可以在时间多项式中计算。然而,它也表明,一旦我们添加第三个变量,任务是$\texttt{#}P_1$ -完成,这激发了对两个变量片段的扩展的搜索,这些扩展仍然允许$n$中的运行时间多项式。其中一个扩展是带有计数量词的双变量片段。在本文中,我们证明了添加一个线性顺序公理(这迫使在$ϕ$的谓词之一,介绍了线性排序的域元素在每个模型的$ϕ$)的计数量词的顶部仍然允许计算时间多项式的域大小。我们提出了一个新的基于动态规划的算法,该算法可以在$n$中计算时间多项式为线性阶的WFOMC,从而证明了我们的主要要求。
2022-11-02 cs.AI cs.LO
Weighted Model Counting in the two variable fragment with Cardinality Constraints: A Closed Form Formula
University of Trento(特伦托大学);Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会)
加权一阶模型计数(WFOMC)计算给定有限域上一阶理论模型的加权和。WFOMC已经成为概率推理的基本工具。WFOMC算法在多项式时间内运行。域大小被称为提升推理算法。这样的算法已经开发了多个扩展的FO2(片段的一阶逻辑与两个变量)的特殊情况下的对称权函数。我们引入的概念,解除解释作为制定多项式WFOMC的工具。使用解除的解释,我们重建多项式时间FOMC在FO2的通用片段,早期提出的Beame等人的封闭形式的公式。然后,我们扩展这个封闭形式,将存在量词和基数约束,而不失去域的可提升性。最后,我们表明,所获得的封闭形式激发了一个自然的定义,一个家庭的权重函数严格大于对称的权重函数。
2021-05-28 cs.AI cs.LO
Lifting Factor Graphs with Some Unknown Factors
Institute of Information Systems, University of Lübeck(吕贝克大学信息系统学院);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文提出LIFAGU算法,通过在包含未知因子的因子图中识别对称子图,将已知势能转移到未知势能,从而实现明确定义语义下的提升概率推断。
2024-06-03 cs.AI cs.LG
Efficient Detection of Exchangeable Factors in Factor Graphs
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));University of Lübeck(吕贝克大学)
针对因子图中判断因子可交换性需遍历 O(n!) 种排列的高计算成本问题,提出 DEFT 算法,通过识别限制条件大幅减少排列数量并经实验验证其效率。
2024-04-05 cs.AI cs.DS
Lifting Factor Graphs with Some Unknown Factors for New Individuals
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所)
本文提出LIFAGU算法,通过识别因子图中不可区分的子图并利用背景知识,将已知势函数转移到未知势函数,从而实现含未知因子的因子图的精确概率推断并减少转移歧义。
2025-04-05 cs.AI cs.LG
Efficient Detection of Commutative Factors in Factor Graphs
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);University of Lübeck(吕贝克大学);University of Hamburg(汉堡大学)
本文提出 DECOR 算法,通过有效识别限制条件大幅减少检查因子交换性所需的迭代次数,解决了因子图中交换因子检测的计算效率问题。
2024-07-23 cs.AI cs.DS cs.LG
On the Detection of Commutative Factors in Factor Graphs: Necessary and Sufficient Conditions
Institute for Humanities-Centered Artificial Intelligence, University of Hamburg, Germany(人文导向人工智能研究所,汉堡大学,德国)
本文重新审视了因子图中可交换因子检测的理论基础,指出现有算法依赖的定理仅为必要条件而非充分条件,并提出了修正算法以保证正确性和效率。
2026-07-28 cs.AI cs.DS cs.LG