Lifted Forward Planning in Relational Factored Markov Decision Processes with Concurrent Actions
University of Hamburg(汉堡大学);University of Münster(穆尔斯特大学)
本文提出Foreplan,一种高效的关联前向规划器,通过一阶表示方法解决大规模对象下的策略计算问题,并提供近似版本以保证误差可控。
2026-02-23 cs.AI
Extended Lifted Inference with Joint Formulas
Ben-Gurion University of The Negev(内盖夫本-古里安大学)
一阶变量消除(FOVE)算法允许将精确推理直接应用于概率关系模型,并且已被证明大大优于在接地命题模型上应用标准推理方法。尽管如此,FOVE算子可以在限制条件下应用,通常迫使人们诉诸命题推理。本文旨在通过提供两个新的模型转换算子来扩展FOVE的适用性:第一个和主要的是联合公式转换和第二个是不同的计数转换。这些新的操作允许有效的推理方法被直接应用于关系模型,其中迄今为止没有现有的有效方法可以应用。此外,这些功能的帮助下,我们展示了如何适应FOVE提供精确的解决方案,最大预期效用(MEU)查询关系模型的不确定性下的决定。实验评估表明,我们的算法,以提供显着的加速比的替代品。
2012-02-14 cs.AI
Lifted Representation of Relational Causal Models Revisited: Implications for Reasoning and Structure Learning
Artificial Intelligence Research Laboratory(人工智能研究实验室);College of Information Sciences and Technology(信息科学与技术学院);Pennsylvania State University(宾夕法尼亚州立大学)
Maier等人(2010)介绍了关系因果模型(RCM),用于表示和推断关系数据中的因果关系。抽象地图(AGG)是一种提升表示,在RCM的推理和学习中起着核心作用。Maier等人(2013 a)提出的从数据中学习RCM的算法的正确性依赖于AGG对于关系d-分离的可靠性和完整性,以将RCM的学习减少到AGG的学习。我们重新审视了AGG的定义,并表明Maier等人(2013 b)定义的AGG并没有正确地抽象所有的基础图。我们修改了AGG的定义,以确保它正确地抽象所有的地面图。我们进一步证明了AGG表示对于关系d-分离是不完全的,也就是说,在一个RCM中可以存在不被AGG蕴涵的条件独立关系。仔细检查之间的关系D-分离和忠诚条件的AGG的完整性的缺乏之间的关系表明,较弱的概念的完整性,即邻接忠诚度和方向的忠诚度之间的RCM和它的AGG,可以用来学习的RCM数据。
2015-08-17 cs.AI cs.LG
Lifted Probabilistic Inference for Asymmetric Graphical Models
KU Leuven(鲁汶大学);University of Washington, Seattle(西雅图华盛顿大学)
提升概率推理算法已经成功地应用于大量的对称图模型。不幸的是,大多数真实世界的图形模型是不对称的。当给出证据时,关系表示也是如此。因此,社区中最近的工作转向使模型对称,然后应用现有的提升推理算法。然而,这种方法有两个缺点。首先,所有现有的过对称近似都需要一个关系表示,如马尔可夫逻辑网络。其次,诱导的对称性通常会显著改变分布,使计算的概率高度偏差。我们提出了一个框架,概率抽样为基础的推理,只使用诱导的近似对称性,提出步骤的大都会黑斯廷斯风格的马尔可夫链。因此,该框架导致改进的概率估计,同时保持无偏。实验表明,该方法优于现有的MCMC算法。
2014-12-01 cs.AI
Non-Parametric Learning of Lifted Restricted Boltzmann Machines
The University of Texas at Dallas(得克萨斯大学达拉斯分校)
我们考虑在关系数据的存在下,有区别地学习受限玻尔兹曼机的问题。与以前的方法,采用规则学习器(结构学习)和权重学习器(参数学习)顺序,我们开发了一个梯度提升的方法,同时执行。我们的方法学习一组弱关系回归树,其从根到叶的路径是合取子句并表示结构,其叶值表示参数。当学习的关系回归树被转换为提升的RBM时,其隐藏节点正是从关系回归树导出的合取子句。这导致了一个更可解释和解释的模型。我们的实证评估清楚地证明了这一点,同时显示学习模型的有效性没有损失。
2020-01-09 cs.AI cs.LG
Probabilistic Relational Agent-based Models
School of Computing and Information, University of Pittsburgh(匹兹堡大学计算机与信息学院)
PRAM将基于代理的模型置于可靠的概率基础上,作为集成基于代理的模型和概率模型的基础。它扩展了概率关系模型和提升推理的主题,将动态模型和仿真结合起来。它也可以比基于代理的模拟更有效。
2019-02-15 cs.AI
Stacked Structure Learning for Lifted Relational Neural Networks
Faculty of Electrical Engineering, CTU in Prague(布拉格捷克理工大学电气工程学院);School of Computer Science, Cardiff University(卡迪夫大学计算机科学学院)
提升关系神经网络(LRNN)使用加权一阶规则来描述关系域,这些规则用作构建前馈神经网络的模板。虽然以前的工作已经表明,使用LRNN可以在各种ILP任务中产生最先进的结果,但这些结果依赖于手工制作的规则。在本文中,我们用结构学习扩展了LRNN的框架,从而实现了完全自动化的学习过程。类似于许多ILP方法,我们的结构学习算法进行迭代的方式,通过自上而下的搜索,通过假设空间的所有可能的霍恩条款,考虑到谓词中出现的训练样本,以及发明的软概念所涉及的最佳加权规则迄今为止。在实验中,我们展示了自动诱导有用的分层软概念的能力,从而产生具有竞争力预测能力的深度LRNN。
2017-10-05 cs.AI cs.LG stat.ML
Lifted Relational Algebra with Recursion and Connections to Modal Logic
我们提出了一种新的形式主义,用于指定和推理的问题,涉及异构的“信息块”-大型数据集,任何类型的决策程序和复杂性和它们之间的连接。我们的建议的本质是解除Codd的关系代数从关系表上的操作到结构类上的操作(递归),并添加一个方向的信息传播。我们观察到存在的信息传播在几个形式主义有效的推理,并用它来表达一元否定和操作中使用的图形数据库。我们仔细分析了几个推理任务,并建立了一个精确的广义查询评估和时态逻辑模型检验之间的联系。我们的发展使我们能够揭示经典和模态逻辑之间的一般对应关系,并可能揭示一个新的光模态逻辑和相关形式的良好的计算性能。
2016-12-29 cs.AI cs.DB cs.LO
Beyond Graph Neural Networks with Lifted Relational Neural Networks
Czech Technical University in Prague(布拉格捷克理工大学)
我们展示了一个声明式可微编程框架的语言的提升关系神经网络,其中小的参数化逻辑程序被用来编码关系学习的情况下。当呈现诸如各种形式的图形的关系数据时,程序解释器动态地展开可微计算图形以通过标准手段用于程序参数优化。从使用的声明式数据库抽象,这导致到紧凑和优雅的学习程序,与现有的程序方法直接操作的计算图的水平。我们说明了这个想法如何用于现有各种先进神经架构的有效编码,特别关注图神经网络(GNN)。此外,我们还展示了当代GNN模型如何轻松扩展到更高的关系表达能力。在实验中,我们通过与专门的GNN深度学习框架进行比较来证明正确性和计算效率,同时对现有GNN模型的学习性能进行了一些说明。
2020-07-13 cs.AI cs.LG cs.LO
Dissociation and Propagation for Approximate Lifted Inference with Standard Relational Database Management Systems
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
大数据集上的概率推理是一个具有挑战性的数据管理问题,因为精确推理通常是P-困难的,并且目前最常用基于采样的方法近似解决。本文提出了一种替代方法的近似评估的合取查询与标准的关系数据库:在我们的方法中,每个查询完全在数据库引擎评估一个固定数量的查询计划,每个提供一个上限的真实概率,然后采取他们的最小值。我们提供了一个算法,考虑到重要的模式信息,枚举所有可能的计划中只有最小的必要计划。重要的是,该算法是所有已知的PTIME自连接自由合取查询的严格推广:当且仅当我们的算法返回一个单一的计划时,查询在PTIME中。此外,我们的方法是一个家庭的有效的排名方法从图超图的推广。我们还采用了三种关系型查询优化技术来快速评估所有必要的计划。我们给我们的方法进行了详细的实验评估,并在这个过程中,提供了一种新的思路的概率方法的非概率方法的查询答案排名的价值。我们还注意到,本文中开发的技术立即适用于解除推理统计关系模型,因为解除推理对应于PTIME计划的概率数据库。
2016-06-14 cs.AI cs.DB
Generating and Sampling Orbits for Lifted Probabilistic Inference
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
概率推理算法设计中的一个关键目标是识别和利用使推理易于处理的分布特性。提升推理算法将对称性识别为能够实现有效推理的属性,并寻求随概率模型的对称程度而缩放。现有的精确提升推理技术的局限性在于它们不适用于像因子图这样的非关系表示。在这项工作中,我们提供了第一个例子的任意离散因子图的精确提升推理算法。此外,我们描述了一个提升马尔可夫链蒙特卡罗算法,可证明混合迅速的对称程度的分布。
2019-06-30 cs.AI
Lifted Graphical Models: A Survey
University of Maryland College Park(马里兰大学帕克分校)
本文介绍了一个调查工作的提升图形模型。我们回顾了一个一般形式的解除图形模型,一个参数因子图,并显示了一些现有的统计关系表示映射到这种形式主义。我们讨论的推理算法,包括提升推理算法,有效地计算概率查询的答案。我们还回顾了从数据中学习提升图形模型的工作。我们相信,对统计关系模型的需求(无论它是用这个名字还是另一个名字)将在未来几十年内增长,因为我们被结构化和非结构化的数据所淹没,从文本中以嘈杂的方式提取实体和关系,并且需要有效地推理这些数据。我们希望,来自许多不同研究小组的想法的综合将为这个不断扩大的领域的新研究人员提供一个可访问的起点。
2011-08-26 cs.AI cs.LG
Preventing Unnecessary Groundings in the Lifted Dynamic Junction Tree Algorithm
Universität zu Lübeck(吕贝克大学)
提升的动态连接树算法(LDJT)有效地回答过滤和预测查询的概率关系时态模型,通过建立,然后重用一个一阶聚类表示的知识库的多个查询和时间步长。不幸的是,一个非理想的淘汰顺序可能会导致接地,即使一个模型的提升运行是可能的。我们扩展LDJT(i),以确定不必要的接地,同时进行的时间和(ii),以防止接地延迟消除通过时间的一阶聚类表示的变化。LDJT的扩展版本回答多个时间查询的数量级比原来的版本更快。
2018-07-02 cs.AI
Taming Reasoning in Temporal Probabilistic Relational Models
Institute of Information Systems, University of Lübeck(吕贝克大学信息系统研究所)
证据经常支持随时间变化的时间概率关系模型,这使得推理不可行。为了抵消接地随着时间的推移,并保持推理多项式通过恢复提升表示,我们提出了时间近似合并(TAMe),它包括(i)聚类分组子模型以及(ii)统计显著性检查,以测试聚类结果的适应性。为了换取更快的运行时,TAMe引入了一个有界的错误,随着时间的推移,这个错误变得可以忽略不计。实验结果表明,TAMe显着提高了推理的运行时性能,同时保持错误很小。
2019-11-16 cs.AI
Lifted Region-Based Belief Propagation
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Indian Institute of Technology, Delhi(印度理工学院德里分校)
由于精确提升推理的难处理性,最近的研究集中在发现统计关系模型(SRM)中的精确且有效的近似推理算法,例如提升一阶置信传播。FOBP通过识别和提升冗余的消息计算来模拟命题因子图的信念传播,而无需构建基础因子图。在这项工作中,我们提出了一个广义的FOBP称为提升广义信念传播,其中区域结构和消息结构都可以解除。这种方法允许更多的推断在区域内执行(在BP的精确推断步骤中),从而允许在具有更大区域范围和更少边缘的图结构上模拟传播,同时仍然保持易处理性。我们证明了所得到的算法收敛在更少的迭代次数更准确的结果在各种SRM。
2016-06-30 cs.AI
Why is Compiling Lifted Inference into a Low-Level Language so Effective?
The University of British Columbia(不列颠哥伦比亚大学)
一阶知识编译技术已被证明是有效的提升推理。他们将一个关系概率模型编译成一个目标电路,在这个目标电路上可以有效地回答许多推理查询。早期的方法使用数据结构作为其目标电路。在我们的KR-2016论文中,我们展示了编译到低级程序而不是数据结构提供了数量级的加速,从而产生了最先进的提升推理技术。在本文中,我们进行实验来解决关于我们的KR-2016结果的两个问题:1-加速来自更有效的编译还是更有效的目标电路推理?以及2-为什么低级程序比数据结构对目标电路更有效?
2016-06-14 cs.AI
Relational Causal Models with Cycles:Representation and Reasoning
Adobe(奥多比公司)
关系域中的因果推理是研究现实社会现象的基础,在现实社会中,个体单位可以影响彼此的特征和行为。相互关联的单元之间的动态可以表示为关系因果模型的实例化;然而,在这种实例化上的因果推理需要额外的模板假设来捕获影响的反馈回路。以前的研究已经开发了解除表示,以解决这种动态的关系性质,但严格要求的表示没有周期。为了促进关系表示和学习中的循环,我们引入了关系$σ$ -分离,这是一个新的标准,用于理解具有反馈循环的关系系统。我们还介绍了一个新的提升表示,$σ$ -抽象的地面图,它有助于抽象的统计独立关系的循环关系模型的所有可能的实例。我们证明了$σ$ -AGG的完备性的充分必要条件和关系$σ$ -分离是健全的,在存在一个或多个周期的任意长度。据我们所知,这是第一个工作的表示和推理循环关系因果模型。
2022-05-06 cs.AI cs.SI
Towards Completely Lifted Search-based Probabilistic Inference
提升概率推理的承诺是在关系概率模型中进行概率推理,而不需要通过将未区分的个体视为一个块来单独推理每个个体(接地表示)。在某些情况下,当前的精确方法仍然需要进行扩展,这通常是因为在提升操作下,中间结果的表示不是封闭的。我们开始回答这样一个问题,即是否有一些根本原因,为什么提升的算法需要淘汰未分化的个体。我们有两个主要结果:(1)我们完整地刻画了在种群规模为多项式的情况下,我们如何在种群规模为对数的时间多项式中进行提升推理。(2)对于无参数和单参数化随机变量的情况下,接地不是多项式的人口规模,我们提出了解除推断,这是多项式的人口规模,而接地是指数。这两种情况都不需要对没有明确提到的个人单独进行推理。
2011-07-21 cs.AI
Lifted Variable Elimination: Decoupling the Operators from the Constraint Language
KU Leuven(鲁汶大学)
提升概率推理算法利用图形模型结构中的随机性来更有效地执行推理。更具体地说,它们识别可互换的变量组,并对每组执行一次推理,而不是对每个变量执行一次。分组是通过约束来定义的,因此分组的灵活性取决于约束语言的表达能力。现有的精确提升推理方法使用特定的语言(在)等式约束,这通常具有有限的表达能力。在本文中,我们将提升推理与约束语言解耦。我们定义的操作符提升推理的关系代数运算符,使他们的操作语义层面上(的约束扩展),而不是在语法层面上,使他们的语言独立。因此,可以使用更强大的约束语言来执行提升推理,这为提升提供了更多的机会。我们的经验表明,这可以提高推理效率的数量级,允许精确的推理,直到现在只有近似推理是可行的。
2014-02-04 cs.AI
On the Complexity and Approximation of Binary Evidence in Lifted Inference
University of California, Los Angeles(加州大学洛杉矶分校)
提升推理算法利用概率模型中的对称性来加速推理。它们在计算关系模型中的无条件概率时表现出令人印象深刻的性能,但在计算条件概率时经常采用非提升推理。原因是,对证据的条件化破坏了模型的许多对称性,这可能会抢占标准提升技术。最近的理论结果表明,例如,条件的证据,对应于二元关系是P-硬,这表明没有提升是预期在最坏的情况下。在本文中,我们平衡这个负面的结果,通过确定布尔等级的证据作为一个关键参数,用于表征的复杂性条件提升推理。特别是,我们表明,条件与有界布尔秩的二元证据是有效的。这开辟了一个低秩布尔矩阵分解,我们从理论和经验上研究近似证据的可能性。
2013-11-26 cs.AI
Domain Recursion for Lifted Inference with Existential Quantifiers
University of British Columbia(不列颠哥伦比亚大学);KU Leuven(鲁汶大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
在最近的工作中,我们证明了域递归推理规则使域提升推理在几个关系概率模型(RPM)上成为可能,其中最著名的时间复杂度曾经是指数的。我们还确定了两类RPM的推理成为域提升时,使用域递归。这两个类是以前已知的最大的提升类。在本文中,我们表明,域递归也可以应用于存在量词的模型。目前,所有的提升推理算法都假设存在量词已经在Skolemization的预处理中被删除。我们发现,除了引入潜在的不方便的负权重,Skolemization可能会增加推理的时间复杂度。我们给出了两个例子模型,域递归可以取代Skolemization,避免了处理负数的需要,并降低了推理的时间复杂度。这两个例子可能是有趣的从三个理论方面:1-他们提供了一个更好的和更深入的理解域递归,一般来说,(提升)推理,2-他们可以作为证据,有更大的类的模型,域递归可以令人满意地取代Skolemization,和3-他们可以作为证据,更好的Skolemization技术存在。
2017-07-27 cs.AI
Probabilities of the Third Type: Statistical Relational Learning and Reasoning with Relative Frequencies
Ludwig-Maximilians-Universität München(慕尼黑大学)
本文提出函数式提升贝叶斯网络,将相对频率的连续依赖纳入统计关系AI,并给出渐近概率分布表示,支持跨规模参数估计,且收敛在参数上一致。
2024-08-20 cs.AI cs.LG cs.LO
Lifted Marginal MAP Inference
IIT Delhi(德里印度理工学院);UT Dallas(德克萨斯大学达拉斯分校)
提升推理通过识别相互对称的常数(或原子)组来降低关系概率模型中推理的复杂性。在文献中已经提出了许多技术,用于提升边际以及MAP推理。我们提出的第一个应用程序的边缘MAP(MMAP),一个重要的推理问题的模型具有潜在的(随机)变量的提升规则。我们的主要贡献是两个方面:(1)我们定义了一个新的等价类(逻辑)变量,称为单次出现的最大值(SOM),并表明解决方案在于极端的SOM变量,即,(2)我们定义了一个子类{ \em}(SOMReduce),并利用极值赋值的性质来证明可以通过将SOM-R变量的域减少到单个常数来执行MMAP推理。结合现有的规则,如分解器和二项式,这导致了一个强大的框架提升MMAP。在三个基准域上的实验表明,与地面推理以及不使用SOM-R的提升方法相比,在时间和内存方面都有显着的增益。
2018-07-08 cs.AI
Lower Complexity Bounds for Lifted Inference
Aalborg University(奥尔堡大学)
在概率关系(或概率逻辑)建模和学习框架的发展中,最大的挑战之一是设计推理技术,这些推理技术在抽象模型表示语言的层面上操作,而不是在模型的基础、命题实例的层面上操作。已经提出了用于这种“提升推理”技术的许多方法。虽然已经证明,这些技术将导致显着更有效的推理在一些特定的模型,只有最近的,仍然相当有限的结果,表明提升推理的可行性,在某些语法定义类的模型。较低的复杂性界限意味着对更具表达力的模型类的提升推理的可行性的一些限制,这是在早期建立的(Jaeger 2000)。然而,这些结果并不立即适用于目前受到最多关注的建模语言类型,即,加权的无量词公式。在本文中,我们扩展了这些早期的结果,并表明,在假设NETIME =/= ETIME,有没有多项式提升推理算法的知识库的加权,量词和功能的自由公式。进一步加强早期的结果,这也被证明是举行近似推理,知识库不包含的平等谓词。
2013-05-02 cs.AI
IPED: An Implicit Perspective for Relational Triple Extraction based on Diffusion Model
Shandong University(山东大学)
本文提出基于扩散模型的关系三元组抽取框架IPED,通过块覆盖隐式填表和块去噪扩散生成模型解决冗余信息与三元组识别不完整问题,并在两个数据集上达到SOTA。
2024-02-24 cs.AI cs.CL
Lifted Variable Elimination for Probabilistic Logic Programming
Università di Ferrara(费拉拉大学);Universidade do Porto(波尔图大学)
提升推理已经被提出用于各种概率逻辑框架,以便计算在取决于随机变量的域的大小而不是实例的数量的时间内的查询的概率。尽管许多作者都强调了它对概率逻辑编程(PLP)的重要性,但到目前为止,提升推理只应用于逻辑编程之外的关系语言。本文将广义计数一阶变量消去法(GC-FOVE)应用于分布语义下概率逻辑程序的查询概率计算问题。特别是,我们扩展的Prolog因子语言(PFL),包括两种新类型的因素,需要代表ProbLog程序。这些因素考虑到现有的因果独立关系的随机变量之间的关系,并管理的扩展,以消除变量提出的张和Poole处理收敛变量和异质因素。GC-FOVE中添加了两个新的运算符来处理异质因素。由此产生的算法,称为LP $^2$的提升概率逻辑编程,已实现通过修改GC-FOVE的PFL实现和测试的三个基准提升推理。与PITA和ProbLog 2的比较显示了该方法的潜力。
2014-10-10 cs.AI
Approximate Lifted Model Construction
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Institute for Humanities-Centered Artificial Intelligence, University of Hamburg(汉堡大学人文中心人工智能研究所)
本文提出ε-ACP算法,通过允许势函数存在受超参数ε控制的偏差,高效发现并利用非精确的不可区分性,从而将提升推理扩展到从数据中学习且存在偏差的实际场景,并证明其近似误差严格有界。
2025-08-27 cs.AI cs.DS cs.LG
Polynomial-Time Relational Probabilistic Inference in Open Universes
Washington University in St. Louis(华盛顿大学圣路易斯分校)
本文提出一种一阶关系概率推理方法,将期望的平方和逻辑扩展到关系设置,证明在有界度片段中可在多项式时间内完成提升推理,并建立了固定次数下平方和反驳的完备性。
2025-05-07 cs.AI
Probabilistic Relational Planning with First Order Decision Diagrams
Oregon State University(俄勒冈州立大学);Tufts University(塔夫茨大学)
动态规划算法已成功地应用于命题随机规划问题,通过使用紧凑的表示,特别是代数决策图,捕捉域动态和价值函数。符号动态规划的工作提升了这些想法,一阶逻辑使用几种表示方案。最近的工作介绍了一阶变量的决策图(FODD),并开发了一个值迭代算法,这种表示。本文开发了几个改进的FODD算法,使该方法的实用。这些包括,新的减少运营商,减少的大小表示,几个加速技术,和技术的值近似。在此基础上,提出了一个求解相关随机规划问题的规划系统FODD-Planner。该系统在几个领域进行了评估,包括最近的国际规划竞赛的问题,并显示出与顶级系统的竞争力。这是第一次证明这种方法的可行性,它表明,通过紧凑的表示抽象是一个很有前途的方法随机规划。
2014-01-16 cs.AI
New Liftable Classes for First-Order Probabilistic Inference
The University of British Columbia(不列颠哥伦比亚大学);KU Leuven(鲁汶大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
统计关系模型为关系域中的概率依赖性提供了紧凑的编码,但导致高度棘手的图形模型。提升推理的目标是进行概率推理,而不需要分别对每个个体进行推理,而是将可交换的、不可区分的对象作为一个整体来处理。在本文中,我们研究域递归推理规则,尽管它的核心作用,在早期的理论结果域提升推理,后来被认为是多余的。我们发现,这条规则比预期的更强大,实际上显着扩展了模型的范围,其中解除推理在时间多项式中运行的个人在域中的数量。这包括一个名为S4的开放问题,对称传递性模型和生日悖论的一阶逻辑编码。我们进一步确定了新的类S2FO2和S2RU的域提升理论,分别subsidering FO2和递归一元理论,最大的类域提升理论迄今为止,并表明,使用域递归可以实现指数加速,即使在理论,不能完全解除与现有的推理规则集。
2016-10-26 cs.AI stat.ML
Lifted Causal Inference
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
提出参数化因果因子图(PCFG)和提升因果推断(LCI)算法,在关系域中高效计算因果效应,显著加速推理。
2026-06-29 cs.AI cs.LG
Integrating Implicit and Explicit Relational Biases through Graph-Based Multiple Instance Learning: A Case Study in Skin Lesion Diagnosis
Gdańsk University of Technology(格但斯克工业大学);Medical University of Gdańsk(格但斯克医科大学)
本研究提出双层级关系框架,结合隐式图像块关系建模与显式图结构消息传递,在ISIC-2018、ISIC-2019皮肤病变诊断基准上提升了平衡准确率,其中集成网格结构的图注意力网络表现最优。
2026-08-07 cs.AI cs.CV cs.LG
Implicit Hypergraph Neural Networks: A Stable Framework for Higher-Order Relational Learning with Provable Guarantees
针对超图神经网络因堆叠显式层导致长程依赖受限和训练不稳定的问题,提出隐式超图神经网络IHGNN,通过求解非线性不动点方程实现稳定全局传播,并证明其收敛性与泛化能力。
2025-08-13 cs.AI cs.LG
Symmetry-Aware Marginal Density Estimation
University of Washington(华盛顿大学)
Rao-Blackwell定理被用来分析和改进具有对称性的大型概率模型的推理的可扩展性。一种新的边际密度估计的介绍和分析和经验表明,优于标准估计的几个数量级。所开发的理论和算法适用于广泛的一类概率模型,包括统计关系模型认为不容易提升概率推理。
2013-04-09 cs.AI
Understanding the Complexity of Lifted Inference and Asymmetric Weighted Model Counting
University of Washington(华盛顿大学);KU Leuven(鲁汶大学);UCLA(加州大学洛杉矶分校)
在本文中,我们研究了提升推理的加权一阶模型计数问题(WFOMC),它计数的分配,满足一阶逻辑(FOL)中给定的句子,它在统计关系学习(SRL)和概率数据库(PDB)的应用。我们提出了几个结果。首先,我们描述了一个提升的推理算法,概括了以前的方法在SRL和PDB。其次,我们提供了一个新的二分法的结果为非平凡片段的FO CNF句子,表明对于每个句子的WFOMC问题是在PTIME或#P-硬的输入域的大小,我们证明,在第一种情况下,我们的算法解决了WFOMC问题的PTIME,在第二种情况下,它失败了。第三,我们提出了几个性质的算法。最后,我们讨论了对称概率数据库的提升推理的局限性(其中地面文字的权重仅取决于关系名称,而不是域的常数),并证明了整个语言FOL的概率推理的复杂性的二分法结果的不可能性。
2014-07-29 cs.AI cs.DB cs.LO
Principled and Efficient Motif Finding for Structure Learning of Lifted Graphical Models
University of Edinburgh(爱丁堡大学);Samsung AI(三星人工智能)
本文提出一种基于随机过程度量实体相似性的原理性基序挖掘方法,用于提升图模型的结构学习,通过层次聚类预处理和高效聚类算法,在准确率和运行时间上分别最多提升6%和80%。
2023-06-18 cs.AI
Facilitating Contrastive Learning of Discourse Relational Senses by Exploiting the Hierarchy of Sense Relations
University of Edinburgh(爱丁堡大学)
隐性话语关系识别是一项具有挑战性的任务,涉及在两个相邻的文本跨度之间缺乏显式连接的情况下识别它们之间的意义。在PDTB-2和PDTB-3中,话语关系意义被组织成一个三层次结构,从四个广泛的顶级意义,到更具体的意义。大多数以前的工作隐含的话语关系识别使用的意义层次结构简单地表明什么意义标签是可用的。在这里我们做得更多--将感觉层次纳入识别过程本身,并用它来选择对比学习中使用的反面例子。无需额外的努力,该方法就可以在任务上实现最先进的性能。
2023-01-06 cs.AI cs.CL
Approximate Lifted Inference with Probabilistic Databases
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
本文提出了一种新的近似评估的概率数据库的#P-hard查询。在我们的方法中,每一个查询都是在数据库引擎中进行评估的,通过评估固定数量的查询计划,每个计划提供一个真实概率的上限,然后取其最小值。我们提供了一个算法,考虑到重要的模式信息,枚举所有可能的计划中只有最小的必要计划。重要的是,该算法是PTIME self-join-free合取查询的所有已知结果的严格推广:当且仅当我们的算法返回一个单一计划时,查询是安全的。我们还应用了三个关系查询优化技术,以评估所有最小的安全计划非常快。我们给我们的方法进行了详细的实验评估,并在这个过程中,提供了一种新的思路的概率方法的非概率方法的查询答案排名的价值。
2014-12-02 cs.AI cs.DB
Latent Relational Metric Learning via Memory-based Attention for Collaborative Ranking
Nanyang Technological University(南洋理工大学);Institute for Infocomm Research(信息通信研究院)
提出了一种新的隐式反馈协同排序神经网络结构。我们的模型LRML(\textit{Latent Relational Metric Learning})是一种新颖的推荐指标学习方法。更具体地说,而不是简单的推拉机制之间的用户和项目对,我们建议学习潜在的关系,描述每个用户项目的互动。这有助于缓解现有度量学习方法的潜在几何不确定性。这不仅可以实现更好的性能,还可以实现更大程度的建模能力,允许我们的模型扩展到更大数量的交互。为了做到这一点,我们采用了一个增强的记忆模块,并学习关注这些记忆块来构建潜在的关系。基于记忆的注意力模块由用户-项目交互控制,使得学习到的关系向量特定于每个用户-项目对。因此,这可以被解释为学习每个用户-项目交互的排他性和最佳关系翻译。所提出的架构展示了跨多个推荐基准的最先进的性能。LRML在Netflix和MovieLens 20 M等大型数据集上的Hits@10和nDCG@10方面优于$6\%-7.5\%$的其他度量学习模型。此外,定性研究还证明,我们提出的模型能够推断和编码明确的情感,时间和属性信息,尽管只接受隐式反馈的训练。因此,这保证了LRML发现隐式数据集中隐藏的关系结构的能力。
2018-02-13 cs.AI cs.IR
Implicit Personality Representations in Humans and LLMs
University of Melbourne(墨尔本大学);Hebrew University of Jerusalem(耶路撒冷希伯来大学);University of Tübingen(图宾根大学)
本研究通过对比人类众包人格评分与LLM内部激活,发现模型特质表征结构与人类内隐人格结构高度一致,并建立了人机比较框架。
2026-09-14 cs.AI
A Complete Characterization of Projectivity for Statistical Relational Models
Aalborg University(奥尔堡大学);Simon Fraser University(西蒙弗雷泽大学)
关系数据的生成概率模型由不同大小的域上的关系结构的概率分布族组成。在大多数现有的统计关系学习(SRL)框架中,这些模型在大小为$k<n$的诱导子结构上的大小- $n$结构的分布的边缘等于大小- $k$结构的给定分布的意义上不是投射的。投射性是非常有益的,因为它可以直接从子采样的关系结构中进行提升推理和统计一致性学习。在早期的工作中,一些简单的片段SRL语言已被确定为代表投射模型。然而,没有完整的表征,并表示框架的投影模型已经给出。在本文中,我们填补了这一空白:利用无限可交换数组的表示定理,我们引入了一类有向图形潜变量模型,精确对应于一类投影关系模型。作为一个副产品,我们还获得了一个表征时,一个给定的分布在尺寸-$k$结构是统计频率分布的尺寸- $k$子结构在大得多的尺寸- $n$结构。这些结果揭示了新的光到旧的开放问题,如何应用Halpern等人。的“随机世界方法”的概率推理一般关系签名。
2020-06-22 cs.AI cs.LG stat.ML
Lifted Inference with Linear Order Axiom
Faculty of Electrical Engineering(电气工程学院);Czech Technical University in Prague(布拉格捷克理工大学)
我们考虑的任务加权一阶模型计数(WFOMC)用于统计关系学习领域的概率推理。给定一个公式$ϕ$,域大小$n$和一对权重函数,在一个域大小为$n$的域上所有$ϕ$模型的加权和是多少?结果表明,在$n$中,任何不超过两个逻辑变量的逻辑语句的WFOMC都可以在时间多项式中计算。然而,它也表明,一旦我们添加第三个变量,任务是$\texttt{#}P_1$ -完成,这激发了对两个变量片段的扩展的搜索,这些扩展仍然允许$n$中的运行时间多项式。其中一个扩展是带有计数量词的双变量片段。在本文中,我们证明了添加一个线性顺序公理(这迫使在$ϕ$的谓词之一,介绍了线性排序的域元素在每个模型的$ϕ$)的计数量词的顶部仍然允许计算时间多项式的域大小。我们提出了一个新的基于动态规划的算法,该算法可以在$n$中计算时间多项式为线性阶的WFOMC,从而证明了我们的主要要求。
2022-11-02 cs.AI cs.LO
Topology of Reasoning: Retrieved Cell Complex-Augmented Generation for Textual Graph Question Answering
Academy of Advanced Interdisciplinary Studies, Chongqing University of Posts and Telecommunications(重庆邮电大学先进交叉学科研究院);School of Computer Science and Technology, Chongqing University of Posts and Telecommunications(重庆邮电大学计算机科学与技术学院);Intelligent System Department, Zhongxing Telecom Equipment (ZTE)(中兴电信设备智能系统部)
本文提出TopoRAG,通过将文本图提升为细胞复杂度,捕捉高维拓扑依赖,提升文本图问题回答的推理能力。
2026-02-22 cs.AI
Probabilistic Inference Modulo Theories
SRI International(SRI国际研究所);U. of Texas at Dallas(德克萨斯大学达拉斯分校);U. of California, Irvine(加州大学欧文分校)
我们提出了SGDPLL(T),一个算法,解决了(在许多其他问题中)概率推理模理论,即通过提供作为参数的逻辑理论定义的概率模型上的推理问题(目前,命题,离散排序上的等式,以及不等式,更具体地说,有界整数上的差分运算)。虽然已经提出了对逻辑表示的概率推理的许多解决方案,但SGDPLL(T)同时(1)提升,(2)精确和(3)模理论,即,由背景逻辑理论参数化。这为将其扩展到丰富的逻辑语言(如数据结构和关系数据)提供了基础。所谓提升,我们指的是在域大小(变量可以取值的数量)上具有恒定复杂度的算法。我们还详细介绍了一个求解器的求和差分算法,并显示实验结果的情况下,SGDPLL(T)是比一个国家的最先进的概率求解器快得多。
2016-05-27 cs.AI cs.LO
Implicitly Learning to Reason in First-Order Logic
University of Edinburgh(爱丁堡大学);Alan Turing Institute(艾伦·图灵研究所);Washington University in St. Louis(华盛顿大学圣路易斯分校)
我们考虑的问题回答查询的一阶逻辑公式的基础上的背景知识部分明确表示为其他公式,并部分表示为独立的例子从一个固定的概率分布。PAC语义,由Valiant引入,是一个严格的,一般的建议,学习推理的形式语言:虽然弱于经典蕴涵,它允许一个强大的模型理论框架回答查询,同时需要最少的假设的形式分布的问题。然而,到目前为止,这种方法的最重要的限制,以及更普遍的大多数具有鲁棒性保证的机器学习方法,是逻辑语言最终本质上是命题的,具有大量的原子。事实上,在这种普遍性中,关于关系理论学习的理论发现是非常消极的。尽管一阶逻辑被广泛认为是最适合表示人类知识的逻辑。在这项工作中,我们提出了一个新的理论方法来鲁棒地学习一阶逻辑推理,并考虑在可数无限域上普遍量化的子句。我们的研究结果利用了语言中的常量所表现出的对称性,并推广了隐式可学习性的概念,以显示如何根据(隐式)学习的一阶背景知识计算查询。
2019-06-24 cs.AI
Lifted Inference beyond First-Order Logic
University of Padova(帕多瓦大学)
本研究扩展了C^2逻辑片段的域可提升性,使其能处理有向无环图、连通图、树和森林等现实数据属性,并提出“通过分裂计数”的新方法论,为概率推理和组合结构计数提供通用框架。
2025-02-25 cs.AI cs.LO math.CO
Relational Temporal Graph Reasoning for Dual-task Dialogue Language Understanding
Australian Artificial Intelligence Institute (AAII)(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学);Centre for Frontier AI Research, A*STAR(新加坡科技研究局前沿人工智能研究中心)
针对双任务对话语言理解任务,本文提出基于关系时序图推理的框架及DARER、DARER2两种模型,通过显式预测层面交互建模任务依赖,在多场景实验中性能显著优于现有最优模型。
2023-06-15 cs.AI cs.CL
Comparing Human and Large Language Model Interpretation of Implicit Information
Politecnico di Milano(米兰理工大学)
研究比较人类与大语言模型对隐含信息的解释方法,通过隐含信息提取任务发现,人类在多数情况下与模型一致,但常提出额外信息,表明当前基于LLM的隐含信息提取覆盖有限。
2026-04-18 cs.AI cs.CL
Lifted Algorithms for Symmetric Weighted First-Order Model Sampling
Beihang University(北京航空航天大学);Zhongfa Aviation Institute of Beihang University(北京航空航天大学中法航空学院);ETH Zurich(苏黎世联邦理工学院);Czech Technical University in Prague(捷克技术大学布拉格分校)
本文针对带计数量词的一阶逻辑二元变量片段,提出了域规模多项式时间的加权模型采样算法,证明了其在采样下的域可提升性,并扩展到基数约束情形,实验表明算法显著优于现有最先进采样器。
2024-06-14 cs.AI cs.LO
An asymptotic analysis of probabilistic logic programming, with implications for expressing projective families of distributions
LMU München(慕尼黑大学)
概率逻辑编程是统计关系型人工智能的重要组成部分,其中将逻辑和概率方法结合在一起,在不确定性环境中推理和学习关系域。然而,跨可变域大小的统计关系表示的行为是复杂的,并且将推理和学习扩展到大型域仍然是一个重大挑战。近年来,域大小依赖、提升推理和从抽样子群体中学习之间出现了联系。统计关系表示的渐近行为已经受到审查,和投影被调查的最强形式的域大小的依赖,其中查询边际是完全独立的域大小。在这篇文章中,我们证明了每一个概率逻辑程序下的分布语义是渐近等价于一个非循环的概率逻辑程序只包括确定条款的概率事实。我们的结论是,每一个概率逻辑程序诱导一个投影族的分布,实际上是处处等价于一个程序从这个片段,我们调查的后果,为投影族的分布概率逻辑程序表示。为了方便应用的经典结果从有限模型理论,我们引入了抽象的分布语义,定义为一个任意的逻辑理论概率事实。这弥合了与概率逻辑编程基础的分布语义之间的差距。在这种表示中,确定性逻辑程序对应于无量词理论,使得渐近量词消去结果可用于概率逻辑编程的设置。本文件正在考虑被TPLP接受。
2021-08-18 cs.AI cs.LO cs.PL
Implicit Semantic-Aware Communication Based on Hypergraph Reasoning
China Electric Power Research Institute Co., Ltd(中国电力科学研究院有限公司);National Key Laboratory for Power Grid Environmental Protection(电网环境保护国家重点实验室);School of Electronic Information and Communications, Huazhong University of Science and Technology(华中科技大学电子信息与通信学院);Peng Cheng Laboratory(鹏城实验室);Pazhou Laboratory (Huangpu)(琶洲实验室(黄埔));School of Mechanical Engineering and Electronic Information, China University of Geosciences(中国地质大学机械与电子信息学院)
提出基于超图的隐式语义推理框架HISR,通过超图建模多实体高阶关系,在噪声信道下提升语义推理鲁棒性,准确率提升36.6%。
2026-06-19 cs.AI cs.IT cs.NI
Learning from Implicit Information in Natural Language Instructions for Robotic Manipulations
Koç University(科奇大学);KU Leuven(鲁汶大学);Örebro University(厄勒布鲁大学);Osnabrück University(奥斯纳布吕克大学)
人机交互通常以人类向机器人发出指令的形式发生。为了让机器人成功地遵循指令,人类和机器人之间应该共享世界和物体的共同表示,以便指令可以接地。实现这种表征可以通过学习来完成,其中世界表征和语言基础都是同时学习的。然而,在机器人技术中,由于数据的成本和稀缺性,这可能是一项艰巨的任务。在本文中,我们通过分别学习机器人的世界表示和语言基础来解决这个问题。虽然这种方法可以解决获取足够数据的挑战,但它可能会导致两个学习组件之间的不一致。因此,我们进一步提出贝叶斯学习,以解决这种不一致的自然语言接地和机器人的世界表示,利用空间关系的信息,这是隐含在人类给出的指令。此外,我们证明了我们的方法的可行性,涉及在物理世界中的机器人手臂的情况下。
2019-04-30 cs.AI cs.RO
Symbolic Network: Generalized Neural Policies for Relational MDPs
Indian Institute of Technology Delhi(印度理工学院德里分校)
关系马尔可夫决策过程(Relational Markov Decision Process,RMDP)是一种一阶表示方法,用于表示单个概率规划域的所有实例,其中对象的数量可能是无限的。RMDPs的早期工作输出了广义(独立于实例)的一阶策略或价值函数,作为一种同时解决域的所有实例的方法。不幸的是,由于在这些策略或价值函数中使用的表示空间的固有限制,这类工作取得了有限的成功。神经模型是否可以通过轻松地表示更复杂的广义策略来提供缺失的环节,从而使它们对给定域的所有实例都有效?我们提出了SymNet,第一个神经方法来解决RMDPs的概率规划语言的RMDPs。SymNet使用来自域的训练实例为Rounds域训练一组共享参数。对于每个实例,SymNet首先将其转换为实例图,然后使用关系神经模型来计算节点嵌入。然后,它将每个地面动作作为一阶动作符号和与动作相关的节点嵌入的函数进行评分。给定来自同一域的新测试实例,具有预训练参数的SymNet架构会对每个地面动作进行评分并选择最佳动作。这可以在单个前向传递中完成,而无需对测试实例进行任何重新训练,从而隐式地表示整个域的神经广义策略。我们在IPPC的九个Rendezvous域上的实验表明,SymNet策略明显优于随机策略,有时甚至比从头开始训练最先进的深度反应策略更有效。
2020-06-29 cs.AI cs.LG stat.ML
Hypergraph-based Motion Generation with Multi-modal Interaction Relational Reasoning
organization= Center for Geospatial Sciences, Applications;Department of Landscape of Architecture;Urban Planning, Texas A\&M University , addressline= 788 Ross St , city= College Station , postcode= 77840 , state= TX , country= United States;organization= Zachry Department of Civil;Environmental Engineering, Texas A\&M University , addressline= 201 Dwight Look Engineering Building , city= College Station , postcode= 77843 , state= TX , country= United States;organization= Department of Civil;Environmental Engineering, University of Wisconsin-Madison , addressline= 1415 Engineering Dr , city= Madison , postcode= 53706 , state= WI , country= United States
本研究提出基于超图的关系推理框架RHINO,通过多尺度超图神经网络建模多车群体交互与多模态驾驶行为,提升了自动驾驶车辆运动预测的准确性与可靠性。
2025-08-12 cs.AI cs.LG cs.MA