Towards Completely Lifted Search-based Probabilistic Inference
提升概率推理的承诺是在关系概率模型中进行概率推理,而不需要通过将未区分的个体视为一个块来单独推理每个个体(接地表示)。在某些情况下,当前的精确方法仍然需要进行扩展,这通常是因为在提升操作下,中间结果的表示不是封闭的。我们开始回答这样一个问题,即是否有一些根本原因,为什么提升的算法需要淘汰未分化的个体。我们有两个主要结果:(1)我们完整地刻画了在种群规模为多项式的情况下,我们如何在种群规模为对数的时间多项式中进行提升推理。(2)对于无参数和单参数化随机变量的情况下,接地不是多项式的人口规模,我们提出了解除推断,这是多项式的人口规模,而接地是指数。这两种情况都不需要对没有明确提到的个人单独进行推理。
2011-07-21 cs.AI
Domain Recursion for Lifted Inference with Existential Quantifiers
University of British Columbia(不列颠哥伦比亚大学);KU Leuven(鲁汶大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
在最近的工作中,我们证明了域递归推理规则使域提升推理在几个关系概率模型(RPM)上成为可能,其中最著名的时间复杂度曾经是指数的。我们还确定了两类RPM的推理成为域提升时,使用域递归。这两个类是以前已知的最大的提升类。在本文中,我们表明,域递归也可以应用于存在量词的模型。目前,所有的提升推理算法都假设存在量词已经在Skolemization的预处理中被删除。我们发现,除了引入潜在的不方便的负权重,Skolemization可能会增加推理的时间复杂度。我们给出了两个例子模型,域递归可以取代Skolemization,避免了处理负数的需要,并降低了推理的时间复杂度。这两个例子可能是有趣的从三个理论方面:1-他们提供了一个更好的和更深入的理解域递归,一般来说,(提升)推理,2-他们可以作为证据,有更大的类的模型,域递归可以令人满意地取代Skolemization,和3-他们可以作为证据,更好的Skolemization技术存在。
2017-07-27 cs.AI
Lifted Inference for Relational Continuous Models
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Rutgers, The State University of New Jersey(罗格斯大学(新泽西州立大学))
当属性具有连续域时,关系连续模型(RCM)表示对象属性上的联合概率密度。通过关系表示,它们可以以自然的方式对大量变量的联合概率分布进行建模。本文提出了一种新的精确提升推理算法的RCM,因此,它的规模扩大到大型模型的现实世界的应用。该算法适用于关系成对模型,这些模型是2元势的(关系)乘积。我们的算法在两个方面是独一无二的。首先,它大大提高了连续域变量提升推理的效率。当关系模型具有高斯势时,与先前方法的立方时间相比,它只需要线性时间。第二,它是第一个以提升的方式处理RCM的精确推理算法。该算法是说明了一个例子,从计量经济学。实验结果表明,我们的算法优于地面推理算法和算法建立与以前已知的提升方法。
2012-03-15 cs.AI
Lower Complexity Bounds for Lifted Inference
Aalborg University(奥尔堡大学)
在概率关系(或概率逻辑)建模和学习框架的发展中,最大的挑战之一是设计推理技术,这些推理技术在抽象模型表示语言的层面上操作,而不是在模型的基础、命题实例的层面上操作。已经提出了用于这种“提升推理”技术的许多方法。虽然已经证明,这些技术将导致显着更有效的推理在一些特定的模型,只有最近的,仍然相当有限的结果,表明提升推理的可行性,在某些语法定义类的模型。较低的复杂性界限意味着对更具表达力的模型类的提升推理的可行性的一些限制,这是在早期建立的(Jaeger 2000)。然而,这些结果并不立即适用于目前受到最多关注的建模语言类型,即,加权的无量词公式。在本文中,我们扩展了这些早期的结果,并表明,在假设NETIME =/= ETIME,有没有多项式提升推理算法的知识库的加权,量词和功能的自由公式。进一步加强早期的结果,这也被证明是举行近似推理,知识库不包含的平等谓词。
2013-05-02 cs.AI
Why is Compiling Lifted Inference into a Low-Level Language so Effective?
The University of British Columbia(不列颠哥伦比亚大学)
一阶知识编译技术已被证明是有效的提升推理。他们将一个关系概率模型编译成一个目标电路,在这个目标电路上可以有效地回答许多推理查询。早期的方法使用数据结构作为其目标电路。在我们的KR-2016论文中,我们展示了编译到低级程序而不是数据结构提供了数量级的加速,从而产生了最先进的提升推理技术。在本文中,我们进行实验来解决关于我们的KR-2016结果的两个问题:1-加速来自更有效的编译还是更有效的目标电路推理?以及2-为什么低级程序比数据结构对目标电路更有效?
2016-06-14 cs.AI
Lifted Marginal MAP Inference
IIT Delhi(德里印度理工学院);UT Dallas(德克萨斯大学达拉斯分校)
提升推理通过识别相互对称的常数(或原子)组来降低关系概率模型中推理的复杂性。在文献中已经提出了许多技术,用于提升边际以及MAP推理。我们提出的第一个应用程序的边缘MAP(MMAP),一个重要的推理问题的模型具有潜在的(随机)变量的提升规则。我们的主要贡献是两个方面:(1)我们定义了一个新的等价类(逻辑)变量,称为单次出现的最大值(SOM),并表明解决方案在于极端的SOM变量,即,(2)我们定义了一个子类{ \em}(SOMReduce),并利用极值赋值的性质来证明可以通过将SOM-R变量的域减少到单个常数来执行MMAP推理。结合现有的规则,如分解器和二项式,这导致了一个强大的框架提升MMAP。在三个基准域上的实验表明,与地面推理以及不使用SOM-R的提升方法相比,在时间和内存方面都有显着的增益。
2018-07-08 cs.AI
First-Order Decomposition Trees
KU Leuven(鲁汶大学)
提升试图通过利用模型中的对称性来加速概率推理。精确提升的推理方法,就像它们的命题对应物一样,通过递归地分解模型和问题来工作。在命题的情况下,存在形式结构,如分解树(dtree),表示这样的分解,并允许我们确定推理的复杂性先验。然而,目前没有等效的结构,也没有类似的复杂性结果提升推理。在本文中,我们引入了FO-dtree,它将命题dtree提升到一阶水平。我们展示了这些树可以描述一个概率逻辑模型的提升推理解决方案(在提升操作序列方面),并对提升推理的复杂性进行了理论分析,提出了树的提升宽度的新概念。
2013-06-04 cs.AI
Colour Passing Revisited: Lifted Model Construction with Commutative Factors
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心 (DFKI))
针对现有colour passing算法依赖特定推理算法、忽略因子交换性的问题,提出改进算法,用逻辑变量构建独立于推理算法的提升表示并在离线步骤利用因子交换性,能检测更多对称性、提升压缩率并加快在线查询速度。
2023-12-15 cs.AI
On the Completeness and Complexity of the Lifted Dynamic Junction Tree Algorithm
University of Hamburg(汉堡大学)
本文首次对时序提升推理算法LDJT进行了完备性与复杂度分析,证明其时间推进中的消元顺序限制会影响域可提升性,并发现其提升宽度在更多情况下小于静态推理的树宽。
2024-05-31 cs.AI
Lifted Probabilistic Inference for Asymmetric Graphical Models
KU Leuven(鲁汶大学);University of Washington, Seattle(西雅图华盛顿大学)
提升概率推理算法已经成功地应用于大量的对称图模型。不幸的是,大多数真实世界的图形模型是不对称的。当给出证据时,关系表示也是如此。因此,社区中最近的工作转向使模型对称,然后应用现有的提升推理算法。然而,这种方法有两个缺点。首先,所有现有的过对称近似都需要一个关系表示,如马尔可夫逻辑网络。其次,诱导的对称性通常会显著改变分布,使计算的概率高度偏差。我们提出了一个框架,概率抽样为基础的推理,只使用诱导的近似对称性,提出步骤的大都会黑斯廷斯风格的马尔可夫链。因此,该框架导致改进的概率估计,同时保持无偏。实验表明,该方法优于现有的MCMC算法。
2014-12-01 cs.AI
Lifted Region-Based Belief Propagation
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Indian Institute of Technology, Delhi(印度理工学院德里分校)
由于精确提升推理的难处理性,最近的研究集中在发现统计关系模型(SRM)中的精确且有效的近似推理算法,例如提升一阶置信传播。FOBP通过识别和提升冗余的消息计算来模拟命题因子图的信念传播,而无需构建基础因子图。在这项工作中,我们提出了一个广义的FOBP称为提升广义信念传播,其中区域结构和消息结构都可以解除。这种方法允许更多的推断在区域内执行(在BP的精确推断步骤中),从而允许在具有更大区域范围和更少边缘的图结构上模拟传播,同时仍然保持易处理性。我们证明了所得到的算法收敛在更少的迭代次数更准确的结果在各种SRM。
2016-06-30 cs.AI
Automorphism Groups of Graphical Models and Lifted Variational Inference
Nuance Communications(纽昂斯通讯公司);SRI International(斯坦福国际研究院);University College London(伦敦大学学院)
利用群作用理论,我们首先引入了指数族或图模型的自同构群的概念,从而形式化了概率模型的对称性的一般概念。这个自同构群为一般指数族中的提升推理提供了一个精确的数学框架。它的群作用将随机变量和特征函数的集合划分为具有相同边缘和期望的等价类(称为轨道)。然后,推理问题被有效地简化为计算每个类的边际或期望,从而避免了处理每个单独变量或特征的需要。我们证明了这个一般框架的有用性,在提升两类变分近似的最大后验(MAP)推理:局部线性规划(LP)松弛和局部LP松弛与循环约束;后者产生的第一个提升变分推理算法,操作上的约束比局部约束更紧。
2013-09-26 cs.AI
Fusing First-order Knowledge Compilation and the Lifted Junction Tree Algorithm
University of Lübeck(吕贝克大学)
一阶结构的概率形式化推理的标准方法包括单次查询的提升变量消除(LVE)以及基于加权模型计数的一阶知识编译(FOKC)。为了有效地处理多个查询,提升连接树算法(LJT)使用模型的一阶聚类表示和LVE作为其计算中的子例程。对于某些输入,LVE的实现,以及因此LJT接地模型的FOKC具有提升运行的部分。本文的目的是准备LJT作为提升推理的骨干,并使用任何精确的推理算法作为子程序。在LJT中使用FOKC可以让我们在某些输入下比LJT、LVE和FOKC更快地计算答案。
2018-07-02 cs.AI
Inference in Probabilistic Logic Programs using Lifted Explanations
Stony Brook University(石溪大学)
在本文中,我们考虑的问题,提升推理的背景下,棱镜一样的概率逻辑程序设计语言。在这种语言中,传统的推理涉及为查询构造解释图并计算该图上的概率。当对具有大量随机变量实例的概率逻辑程序的查询进行评估时,传统方法单独对待每个实例。对于许多程序和查询,我们观察到,解释可以总结成更紧凑的结构,我们称之为解除解释图。在本文中,我们定义了提升解释图及其上的操作。与现有的提升推理技术相比,我们的方法,用于构建提升的解释自然地概括了现有的方法,用于构建解释图。为了计算查询答案的概率,我们解决了从提升图生成的递归。我们展示的例子中,我们的技术的使用降低了推理的渐近复杂性。
2016-08-20 cs.AI cs.LO
Lifted Variable Elimination: A Novel Operator and Completeness Results
KU Leuven(鲁汶大学)
人们已经提出了各种提升概率推理的方法,但与它们的命题对应物相比,我们对这些方法及其之间关系的理解仍然有限。提升的唯一现有的理论表征是加权一阶模型计数(WFOMC),这被证明是完整的域提升类的2-logvar模型。本文对提升变量消去法(LVE)做了两个贡献。首先,我们引入了一种新的推理算子,称为群反演。其次,我们证明了LVE增广与此操作是完全的WFOMC在相同的意义。
2012-08-24 cs.AI
Exact Inference for Relational Graphical Models with Interpreted Functions: Lifted Probabilistic Inference Modulo Theories
Artificial Intelligence Center(人工智能中心);SRI International(斯坦福国际研究院)
概率推理模理论(ProbabilityInference Modulo Theories,PIMT)是一个最近的框架,它扩展了图形模型的精确推理,使用更丰富的语言,包括整数和实数的算术,等式和不等式。在本文中,我们扩展PIMT的提升版本,也处理随机函数和关系。这种增强是通过适应反演,从提升一阶概率推理文献的方法,也是模理论。这导致第一个算法的准确概率推理,有效地,同时利用随机关系和功能,算术,等式和不等式。
2017-09-04 cs.AI cs.SC
Lifted Causal Inference
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
提出参数化因果因子图(PCFG)和提升因果推断(LCI)算法,在关系域中高效计算因果效应,显著加速推理。
2026-06-29 cs.AI cs.LG
Extended Lifted Inference with Joint Formulas
Ben-Gurion University of The Negev(内盖夫本-古里安大学)
一阶变量消除(FOVE)算法允许将精确推理直接应用于概率关系模型,并且已被证明大大优于在接地命题模型上应用标准推理方法。尽管如此,FOVE算子可以在限制条件下应用,通常迫使人们诉诸命题推理。本文旨在通过提供两个新的模型转换算子来扩展FOVE的适用性:第一个和主要的是联合公式转换和第二个是不同的计数转换。这些新的操作允许有效的推理方法被直接应用于关系模型,其中迄今为止没有现有的有效方法可以应用。此外,这些功能的帮助下,我们展示了如何适应FOVE提供精确的解决方案,最大预期效用(MEU)查询关系模型的不确定性下的决定。实验评估表明,我们的算法,以提供显着的加速比的替代品。
2012-02-14 cs.AI
Lifted Filtering via Exchangeable Decomposition
Institute of Computer Science, University of Rostock(罗斯托克大学计算机科学研究所);Computer Science Department and Centre for Cognitive Science, TU Darmstadt(达姆施塔特工业大学计算机科学系与认知科学中心)
提出了一种基于提升多集状态的精确递归贝叶斯滤波模型。与基于列表的接地状态表示相比,将多集与提升相结合可以同时利用多种策略来降低推理复杂度。其核心思想是借用最大并行多集重写系统的概念,并通过Rao-Blackwellization和Lifted Inference的概念对其进行增强,给出一种能够实现有效推理的状态分布表示。在定义系统状态的随机变量是可交换的世界中,实体的身份并不重要,它自动使用一种从排序中抽象出来的表示(实现复杂性的指数级降低),当观测或系统动力学通过破坏对称性破坏交换性时,它会自动适应。
2018-05-07 cs.AI
Lifted Relational Probabilistic Inference via Implicit Learning
Washington University in St. Louis(华盛顿大学)
本文提出了一种基于隐式学习的方法,实现第一-order概率逻辑的隐式学习和提升推断,解决了传统方法在模型构建上的局限性。
2026-02-16 cs.AI
Sequential Lifted Bayesian Filtering in Multiset Rewriting Systems
Mobile Multimedia Information Systems Group, Institute of Computer Science(计算机科学研究所移动多媒体信息系统组);University of Rostock(罗斯托克大学)
用于计划和活动识别的贝叶斯过滤对于包含许多观测等效实体(即产生相同观测的实体)的场景具有挑战性。这是由于需要跟踪的假设数量的组合爆炸。然而,这类问题表现出一定的对称性,可以利用状态空间表示和推理。我们分析了当前最先进的方法,发现它们都不完全符合这个问题类中出现的要求。我们勾画了一个新的推理算法,提供了一个解决方案,结合提升推理算法,概率多集重写系统,计算状态空间模型的概念。两个实验证实,这种新的算法有可能对这类问题进行有效的概率推理。
2017-08-14 cs.AI
Lifted Convex Quadratic Programming
TU Dortmund University(多特蒙德工业大学)
对称性是提升推理的基本要素,最近已经证明了在高度连接但对称的概率模型中执行非常有效的推理的可能性。这就提出了一个问题,这是否适用于一般的优化问题。在这里,我们表明,对于一大类优化方法,这实际上是这种情况。更确切地说,我们引入了凸二次规划(QP)的分数对称性的概念,这是许多机器学习方法的核心,并利用它来提升,即,来压缩QP。这些提升的QP然后可以用通常的优化工具箱(现成的求解器、切割平面算法、随机梯度等)来处理。如果原始QP表现出对称性,则提升的QP通常将更紧凑,因此它们的优化可能更有效。
2016-06-14 cs.AI
Lifted Tree-Reweighted Variational Inference
Nuance Communications(Nuance通信公司);John von Neumann Institute(冯·诺依曼研究所);Vietnam National University(越南国家大学);Courant Institute of Mathematical Sciences(库朗数学科学研究所);New York University(纽约大学)
我们分析高度对称的图形模型,如一阶概率模型所产生的变分推理。我们首先表明,对于这些图形模型,树重新加权变分目标本身的一个紧凑的解除制定,可以更有效地解决比标准的TRW制定地面图形模型。与早期关于提升置信传播的工作相比,我们的公式导致了提升边缘推理的凸优化问题,并提供了分区函数的上界。我们提供了两种方法来提高解除TRW上限。第一个是一种方法,用于有效地计算最大生成树的高度对称图,它可以用来优化TRW边的出现概率。第二个是一种方法,用于收紧放松的边缘多面体使用提升循环不等式和新的可交换的集群一致性约束。
2014-06-19 cs.AI stat.ML
Lifted Inference in 2-Variable Markov Logic Networks with Function and Cardinality Constraints Using Discrete Fourier Transform
Czech Technical University in Prague(布拉格捷克技术大学)
在本文中,我们证明了在2-变量马尔可夫逻辑网络(MLNs)的基数和功能的约束下的推理是域提升的。为了获得这一结果,我们使用现有的域提升算法进行加权一阶模型计数(Van den Broeck等人,KR 2014),并对与MLN相关的某些分布进行离散傅立叶变换。
2020-07-16 cs.AI cs.LO
Lifted Causal Inference in Relational Domains
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);singularIT GmbH(singularIT有限公司);University of Münster(明斯特大学);University of Lübeck(吕贝克大学)
本文提出参数化因果因子图与提升因果推断算法,在关系域中利用对称性高效计算因果效应,显著加速推断并保持精确性。
2024-03-15 cs.AI cs.DS
Exploring Unknown Universes in Probabilistic Relational Models
Institute of Information Systems, University of Lübeck(吕贝克大学信息系统研究所)
大型概率模型通常由一组已知的个体(一个宇宙)和它们之间的关系形成。提升推理算法处理已知个体的集合以进行易处理的推理。然而,宇宙可能并不总是已知的,或者只能通过诸如“小宇宙更有可能”的假设来描述。如果没有一个宇宙,推理不再可能提升算法,失去了他们的优势,易于处理的推理。本文的目的是定义一个语义的模型与未知的宇宙从一个特定的约束语言解耦,使解除,从而,听话的推理。
2020-01-07 cs.AI
Lifted Variable Elimination for Probabilistic Logic Programming
Università di Ferrara(费拉拉大学);Universidade do Porto(波尔图大学)
提升推理已经被提出用于各种概率逻辑框架,以便计算在取决于随机变量的域的大小而不是实例的数量的时间内的查询的概率。尽管许多作者都强调了它对概率逻辑编程(PLP)的重要性,但到目前为止,提升推理只应用于逻辑编程之外的关系语言。本文将广义计数一阶变量消去法(GC-FOVE)应用于分布语义下概率逻辑程序的查询概率计算问题。特别是,我们扩展的Prolog因子语言(PFL),包括两种新类型的因素,需要代表ProbLog程序。这些因素考虑到现有的因果独立关系的随机变量之间的关系,并管理的扩展,以消除变量提出的张和Poole处理收敛变量和异质因素。GC-FOVE中添加了两个新的运算符来处理异质因素。由此产生的算法,称为LP $^2$的提升概率逻辑编程,已实现通过修改GC-FOVE的PFL实现和测试的三个基准提升推理。与PITA和ProbLog 2的比较显示了该方法的潜力。
2014-10-10 cs.AI
Understanding the Complexity of Lifted Inference and Asymmetric Weighted Model Counting
University of Washington(华盛顿大学);KU Leuven(鲁汶大学);UCLA(加州大学洛杉矶分校)
在本文中,我们研究了提升推理的加权一阶模型计数问题(WFOMC),它计数的分配,满足一阶逻辑(FOL)中给定的句子,它在统计关系学习(SRL)和概率数据库(PDB)的应用。我们提出了几个结果。首先,我们描述了一个提升的推理算法,概括了以前的方法在SRL和PDB。其次,我们提供了一个新的二分法的结果为非平凡片段的FO CNF句子,表明对于每个句子的WFOMC问题是在PTIME或#P-硬的输入域的大小,我们证明,在第一种情况下,我们的算法解决了WFOMC问题的PTIME,在第二种情况下,它失败了。第三,我们提出了几个性质的算法。最后,我们讨论了对称概率数据库的提升推理的局限性(其中地面文字的权重仅取决于关系名称,而不是域的常数),并证明了整个语言FOL的概率推理的复杂性的二分法结果的不可能性。
2014-07-29 cs.AI cs.DB cs.LO
Automorphism Groups of Graphical Models and Lifted Variational Inference
Artificial Intelligence Center(人工智能中心);SRI International(SRI国际公司);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
利用群作用理论,我们首先引入了指数族或图模型的自同构群的概念,从而形式化了概率模型的对称性的一般概念。这个自同构群为一般指数族中的提升推理提供了一个精确的数学框架。它的群作用将随机变量和特征函数的集合划分为具有相同边缘和期望的等价类(称为轨道)。然后,推理问题被有效地简化为计算每个类的边际或期望,从而避免了处理每个单独变量或特征的需要。我们证明了这个一般框架的有用性,在提升两类变分近似MAP推理:局部LP松弛和局部LP松弛与循环约束;后者产生的第一个提升推理,操作上的约束比局部约束更紧。初步的实验结果表明,提升MAP推理与循环约束实现了最先进的性能,获得更好的目标函数值比局部近似,同时保持相对有效。
2012-07-19 cs.AI cs.LG math.CO
Lifted Graphical Models: A Survey
University of Maryland College Park(马里兰大学帕克分校)
本文介绍了一个调查工作的提升图形模型。我们回顾了一个一般形式的解除图形模型,一个参数因子图,并显示了一些现有的统计关系表示映射到这种形式主义。我们讨论的推理算法,包括提升推理算法,有效地计算概率查询的答案。我们还回顾了从数据中学习提升图形模型的工作。我们相信,对统计关系模型的需求(无论它是用这个名字还是另一个名字)将在未来几十年内增长,因为我们被结构化和非结构化的数据所淹没,从文本中以嘈杂的方式提取实体和关系,并且需要有效地推理这些数据。我们希望,来自许多不同研究小组的想法的综合将为这个不断扩大的领域的新研究人员提供一个可访问的起点。
2011-08-26 cs.AI cs.LG
Dissociation and Propagation for Approximate Lifted Inference with Standard Relational Database Management Systems
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
大数据集上的概率推理是一个具有挑战性的数据管理问题,因为精确推理通常是P-困难的,并且目前最常用基于采样的方法近似解决。本文提出了一种替代方法的近似评估的合取查询与标准的关系数据库:在我们的方法中,每个查询完全在数据库引擎评估一个固定数量的查询计划,每个提供一个上限的真实概率,然后采取他们的最小值。我们提供了一个算法,考虑到重要的模式信息,枚举所有可能的计划中只有最小的必要计划。重要的是,该算法是所有已知的PTIME自连接自由合取查询的严格推广:当且仅当我们的算法返回一个单一的计划时,查询在PTIME中。此外,我们的方法是一个家庭的有效的排名方法从图超图的推广。我们还采用了三种关系型查询优化技术来快速评估所有必要的计划。我们给我们的方法进行了详细的实验评估,并在这个过程中,提供了一种新的思路的概率方法的非概率方法的查询答案排名的价值。我们还注意到,本文中开发的技术立即适用于解除推理统计关系模型,因为解除推理对应于PTIME计划的概率数据库。
2016-06-14 cs.AI cs.DB
New Liftable Classes for First-Order Probabilistic Inference
The University of British Columbia(不列颠哥伦比亚大学);KU Leuven(鲁汶大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
统计关系模型为关系域中的概率依赖性提供了紧凑的编码,但导致高度棘手的图形模型。提升推理的目标是进行概率推理,而不需要分别对每个个体进行推理,而是将可交换的、不可区分的对象作为一个整体来处理。在本文中,我们研究域递归推理规则,尽管它的核心作用,在早期的理论结果域提升推理,后来被认为是多余的。我们发现,这条规则比预期的更强大,实际上显着扩展了模型的范围,其中解除推理在时间多项式中运行的个人在域中的数量。这包括一个名为S4的开放问题,对称传递性模型和生日悖论的一阶逻辑编码。我们进一步确定了新的类S2FO2和S2RU的域提升理论,分别subsidering FO2和递归一元理论,最大的类域提升理论迄今为止,并表明,使用域递归可以实现指数加速,即使在理论,不能完全解除与现有的推理规则集。
2016-10-26 cs.AI stat.ML
Lifted Model Construction under Approximate Commutativity
Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所);Data Science Group, University of Münster(明斯特大学数据科学组)
针对实际中因子仅近似交换的问题,提出ε-交换性概念并将其用于提升模型构建,证明了诱导近似误差的严格界,实验显示其可在更低运行时间下达到相当的查询准确率。
2026-08-26 cs.AI cs.LG
Lifted Model Construction without Normalisation: A Vectorised Approach to Exploit Symmetries in Factor Graphs
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所)
本文提出一种对高级颜色传递算法的推广,通过允许因子势函数任意缩放来检测更多对称性,从而构建更紧凑的参数化因子图并显著降低概率推断的在线查询时间。
2024-11-20 cs.AI cs.LG
Approximate Lifted Inference with Probabilistic Databases
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
本文提出了一种新的近似评估的概率数据库的#P-hard查询。在我们的方法中,每一个查询都是在数据库引擎中进行评估的,通过评估固定数量的查询计划,每个计划提供一个真实概率的上限,然后取其最小值。我们提供了一个算法,考虑到重要的模式信息,枚举所有可能的计划中只有最小的必要计划。重要的是,该算法是PTIME self-join-free合取查询的所有已知结果的严格推广:当且仅当我们的算法返回一个单一计划时,查询是安全的。我们还应用了三个关系查询优化技术,以评估所有最小的安全计划非常快。我们给我们的方法进行了详细的实验评估,并在这个过程中,提供了一种新的思路的概率方法的非概率方法的查询答案排名的价值。
2014-12-02 cs.AI cs.DB
Lifted Inference with Linear Order Axiom
Faculty of Electrical Engineering(电气工程学院);Czech Technical University in Prague(布拉格捷克理工大学)
我们考虑的任务加权一阶模型计数(WFOMC)用于统计关系学习领域的概率推理。给定一个公式$ϕ$,域大小$n$和一对权重函数,在一个域大小为$n$的域上所有$ϕ$模型的加权和是多少?结果表明,在$n$中,任何不超过两个逻辑变量的逻辑语句的WFOMC都可以在时间多项式中计算。然而,它也表明,一旦我们添加第三个变量,任务是$\texttt{#}P_1$ -完成,这激发了对两个变量片段的扩展的搜索,这些扩展仍然允许$n$中的运行时间多项式。其中一个扩展是带有计数量词的双变量片段。在本文中,我们证明了添加一个线性顺序公理(这迫使在$ϕ$的谓词之一,介绍了线性排序的域元素在每个模型的$ϕ$)的计数量词的顶部仍然允许计算时间多项式的域大小。我们提出了一个新的基于动态规划的算法,该算法可以在$n$中计算时间多项式为线性阶的WFOMC,从而证明了我们的主要要求。
2022-11-02 cs.AI cs.LO
Block-Value Symmetries in Probabilistic Graphical Models
Indian Institute of Technology Delhi(德里印度理工学院)
概率图模型中提升推理的一种流行方法是首先将对称状态合并到单个集群(轨道)中,然后通过轨道MCMC的变体将其用于下游推理[Niepert,2012]。这些轨道用变量上的置换和变量-值(VV)对来表示,但它们可能在一个域中错过几个状态对称。我们定义了块-值(BV)对上的置换的概念,其中块是一组变量。BV严格推广VV对称性,并且可以计算更多的对称性以增加块大小。为了在提升推理中操作BV排列的使用,我们描述了1)给定变量的块划分来计算BV排列的算法,2)BV-MCMC,可以从BV轨道采样的轨道MCMC的扩展,以及3)建议良好块划分的启发式。我们的实验表明,BV-MCMC可以更快地混合相比,香草MCMC和轨道MCMC。
2018-07-08 cs.AI
Non-Count Symmetries in Boolean & Multi-Valued Prob. Graphical Models
I.I.T Delhi(印度理工学院德里分校);Carnegie Mellon University(卡内基梅隆大学)
提升推理算法通常利用概率图模型(PGM)中的对称性进行有效推理。然而,现有的布尔值域算法只能识别那些对称的状态对,其中1和0的数量完全匹配(计数对称性)。此外,多值域中的提升推理算法也只计算计数对称的多值扩展。这些算法在一个域中遗漏了许多对称性。在本文中,我们提出了第一个算法来计算非计数对称布尔值和多值域。我们的方法还可以找到具有不同域基数的多值变量之间的对称性。算法中的关键洞察力在于,它们将对称计算的单位从变量改变为变量值(VV)对。我们的实验发现,利用这些对称性MCMC可以获得大量的计算增益超过现有的算法。
2017-07-27 cs.AI
Approximate Lifted Model Construction
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所)
本文提出ε-ACP算法,通过允许势函数存在受超参数ε控制的偏差,高效发现并利用非精确的不可区分性,从而将提升推理扩展到从数据中学习且存在偏差的实际场景,并证明其近似误差严格有界。
2025-08-27 cs.AI cs.DS cs.LG
Lifted Inference beyond First-Order Logic
University of Padova(帕多瓦大学)
本研究扩展了C^2逻辑片段的域可提升性,使其能处理有向无环图、连通图、树和森林等现实数据属性,并提出“通过分裂计数”的新方法论,为概率推理和组合结构计数提供通用框架。
2025-02-25 cs.AI cs.LO math.CO
State-Space Abstractions for Probabilistic Inference: A Systematic Review
University of Rostock(罗斯托克大学)
诸如社会网络分析、人类行为识别或生化反应建模之类的任务可以通过使用概率推理框架来优雅地解决。然而,标准的概率推理算法在命题级别上工作,因此无法捕获这些任务中存在的对称性和冗余性。利用这些对称性的算法已经在不同的研究领域中被设计出来,例如通过提升推理,多对象跟踪以及建模和仿真社区。通常的想法,我们称之为状态空间抽象,是在对称状态集的紧凑表示上执行推理。虽然他们关注的是一个类似的主题,这些方法之间的关系还没有得到系统的研究。这项调查提供了以下贡献。我们进行了系统的文献综述,概述了利用对称性的概率推理方法的最新发展。从最初的4,000多篇论文中,我们确定了116篇相关论文。此外,我们提供了新的高层次的类别,分类的方法,根据共同的属性的方法。每个类别的研究领域进行了简要介绍。来自不同领域的研究人员在概率系统中遇到状态空间爆炸问题时,可以使用这种分类来识别可能的解决方案。最后,基于这种概念化,我们确定了未来研究的潜力,因为一些相关的应用领域没有解决目前的方法。
2018-12-04 cs.AI
Weighted Positive Binary Decision Diagrams for Exact Probabilistic Inference
Radboud University Nijmegen(拉德堡德大学奈梅亨分校)
最近的工作加权模型计数已非常成功地应用于贝叶斯网络的概率推理问题。概率分布被编码成布尔范式并编译成目标语言,以便更有效地表示条件概率之间表达的局部结构。我们表明,进一步的改进是可能的,通过利用知识,在编码阶段丢失,并将其纳入编译器的启发可满足性模理论。变量之间的约束被用作背景理论,这使我们能够优化香农分解。我们提出了一种新的语言,称为加权正二进制决策图,通过使用这种分解变体,以减少尺寸的算术电路,从而降低概率推理的成本。
2016-10-18 cs.AI cs.LO
A note on incorrect inferences in non-binary qualitative probabilistic networks
Dipartimento di Matematica, Università degli Studi di Genova(热那亚大学数学系)
本文指出非二元定性概率网络因错误的对称性假设会产生数学上不成立的推断,并通过示例说明问题、探讨可能的修正途径。
2024-01-25 cs.AI math.ST stat.ME
Skeptical binary inferences in multi-label problems with sets of probabilities
Sorbonne universités(索邦大学联盟);Université de technologie de Compiègne(贡比涅技术大学)
在本文中,我们考虑的问题,使分布鲁棒性,怀疑推理的多标签问题,或更一般的布尔向量。所谓分布鲁棒性,我们的意思是考虑一组可能的概率分布,而所谓怀疑论,我们理解为,我们认为只有那些对这组分布中的每一个分布都为真的推论才是有效的。只要所考虑的集合足够大,这样的推论就能提供部分预测。我们特别研究了汉明损失的情况下,一个常见的损失函数在多标签的问题,显示如何怀疑的推论,可以在这种情况下。我们的实验结果分为三个部分:(1)第一个表明通过使用合成数据集从我们的理论结果获得的计算增益,(2)第二个表明我们的方法在那些难以预测的情况下产生相关的谨慎性,其中精确的对应物失败,以及(3)最后一个实验演示了我们的方法如何比部分弃权[31]和拒绝规则更好地处理不完美信息(由下采样过程生成)。
2022-05-02 cs.AI cs.LG math.CO
A Computational Framework for Solving Nonlinear Binary OptimizationProblems in Robust Causal Inference
Northeastern University(东北大学)
确定变量之间的因果关系是决策过程中的一个关键步骤。虽然因果推理需要随机实验,但由于观测数据的广泛可用性和实验的不可行性,研究人员和决策者越来越多地使用观测研究来测试因果假设。匹配方法是从观测数据中进行因果推断的最常用的技术。然而,在一对一配对中的配对分配过程中,由于实验者做出的不同选择,导致了推理的不确定性。最近,离散最优化模型被提出来处理这种不确定性。虽然用离散最优化模型可以进行稳健的推断,但是它们产生非线性问题并且缺乏可扩展性。在这项工作中,我们提出了贪婪算法,以解决强大的因果推理测试实例从观测数据的连续结果。我们提出了一个独特的框架,重新制定的非线性二元最优化问题的可行性问题。通过利用可行性公式的结构,我们开发了贪婪的计划,有效地解决强大的测试问题。在许多情况下,所提出的算法实现全局最优解。我们在三个真实世界的数据集上进行实验,以证明所提出的算法的有效性,并将我们的结果与最先进的求解器进行比较。我们的实验表明,所提出的算法显着优于精确的方法在计算时间方面,同时达到相同的结论,因果测试。数值实验和复杂性分析都表明,所提出的算法确保了在决策过程中利用大数据的力量所需的可扩展性。
2021-11-19 cs.AI cs.DM math.OC