Improving the Accuracy and Efficiency of MAP Inference for Markov Logic
Institute for Collaborating and Communicating Systems(协作与交流系统研究所);School of Informatics(信息学院);University of Edinburgh(爱丁堡大学)
在这项工作中,我们提出了切割平面推理(CPI),统计关系学习的最大后验概率(MAP)推理方法。它以马尔可夫逻辑为框架,并受到切割平面方法的启发,可以被视为一种Meta算法,该算法实例化大型复杂马尔可夫网络的小部分,然后使用传统的MAP方法解决这些问题。我们评估CPI的两个任务,语义角色标签和联合实体解析,同时插入两种不同的MAP推理方法:当前选择的方法在马尔可夫逻辑,MaxWalkSAT和线性规划的MAP推理。我们观察到,当与CPI一起使用时,这两种方法都比单独使用时要快得多。另外,CPI提高了MaxWalkSAT的精度,保持了线性规划的精确性。
2012-06-13 cs.AI
Lifted Inference in 2-Variable Markov Logic Networks with Function and Cardinality Constraints Using Discrete Fourier Transform
Czech Technical University in Prague(布拉格捷克技术大学)
在本文中,我们证明了在2-变量马尔可夫逻辑网络(MLNs)的基数和功能的约束下的推理是域提升的。为了获得这一结果,我们使用现有的域提升算法进行加权一阶模型计数(Van den Broeck等人,KR 2014),并对与MLN相关的某些分布进行离散傅立叶变换。
2020-07-16 cs.AI cs.LO
Parameterisation of Reasoning on Temporal Markov Logic Networks
Léonard de Vinci Pôle Universitaire, Research Center(列奥纳多·达·芬奇大学中心研究中心);Conservatoire National des Arts et Métiers(法国国立工艺学院)
我们的目标是提高推理不一致和不确定的数据。我们专注于知识图谱数据,随着时间间隔的延长,以指定其有效性,正如在历史科学中经常发现的那样。我们提出了有效的最大后验概率推理的语义原则的新的时间马尔可夫逻辑网络(TMLN)扩展的马尔可夫逻辑网络(MLN)的不确定的时间事实和规则。我们检查全部和部分时间(中)的时间公式集之间的一致性关系。然后,我们提出了一个新的时间参数语义,它可以结合几个子功能,允许使用不同的评估策略。最后,我们揭示了语义必须遵守的约束,以满足我们的原则。
2022-11-29 cs.AI cs.SI
Sequential decomposition of propositional logic programs
Vienna University of Technology(维也纳工业大学)
本文通过研究程序间在半群理论中著名的Green关系$\mathcal{L,R,J}$,探讨了命题逻辑程序的顺序分解问题,为迈向逻辑程序设计的代数理论迈出了进一步的一步。
2023-09-14 cs.AI cs.LO
Complex Markov Logic Networks: Expressivity and Liftability
FEE CTU in Prague(布拉格捷克理工大学电气工程学院)
研究了马尔可夫逻辑网络的表达性。我们介绍复杂的MLN,它使用复值的权重,我们表明,与标准MLN与实值权重,复杂的MLN是充分表达。然后,我们观察到,离散傅立叶变换可以计算使用加权一阶模型计数(WFOMC)与复杂的权重,并使用此观察设计一个算法计算关系的边缘多面体,需要大大减少调用WFOMC预言比最近的算法。
2020-07-16 cs.AI cs.LG cs.LO
Reinforcement Learning in Partially Observable Markov Decision Processes using Hybrid Probabilistic Logic Programs
Gulf University for Science and Technology(海湾科技大学)
我们提出了一个概率逻辑编程框架,强化学习,通过集成强化学习,在POMDP环境中,与正常的混合概率逻辑程序与概率答案集语义,这是能够表示特定领域的知识。我们正式证明了我们的方法的正确性。我们证明了在我们的方法中为强化学习问题找到策略的复杂性是NP完全的。此外,我们证明了任何强化学习问题都可以编码为具有答案集语义的经典逻辑程序。我们还表明,一个强化学习问题可以编码为SAT问题。我们提出了一个新的高层次的动作描述语言,允许POMDP的因子表示。此外,我们修改了POMDP的原始模型,使它能够区分知识生产行动和行动,改变环境。
2010-11-27 cs.AI
Quantum Enhanced Inference in Markov Logic Networks
ICFO-The Institute of Photonic Sciences(ICFO-光子科学研究所);University of Borås(博拉斯大学)
马尔可夫逻辑网络(MLN)调和了机器学习和人工智能中两个对立的学派:因果网络,它非常好地解释了不确定性,一阶逻辑,它允许形式演绎。MLN本质上是生成马尔可夫网络的一阶逻辑模板。MLN中的推理是概率性的,并且它通常通过近似方法来执行,例如马尔可夫链蒙特卡罗(MCMC)吉布斯抽样。MLN具有许多规则的对称结构,可以在一阶水平和生成的马尔可夫网络中利用。我们分析了各种提升方法产生的图形结构,并研究了量子协议在多大程度上可以用于加速吉布斯抽样与状态准备和测量方案。我们回顾了不同的方法,讨论了它们的优点,理论上的局限性,以及它们对实现的吸引力。我们发现,一个简单的应用程序最近的结果产生指数加速相比,经典的近似概率推理,从而展示了另一个例子,先进的量子资源可以证明在机器学习有用。
2016-11-24 cs.AI quant-ph stat.ML
Using Abduction in Markov Logic Networks for Root Cause Analysis
University of Mannheim(曼海姆大学);Softplant GmbH(Softplant有限公司)
IT基础设施是当今大多数业务运营的关键部分。高可用性和可靠性以及对中断的短响应时间至关重要。因此,风险管理中需要大量的工具支持和自动化来减少中断。我们提出了一种新的方法来计算在IT基础设施中观察到的故障的根本原因。我们的方法是基于马尔可夫逻辑网络的溯因。溯因的目的是根据某些背景知识为给定的观察找到一种解释。在故障诊断中,解释对应于根本原因,观察到一个组件的故障,和背景知识的依赖图扩展的潜在风险。我们应用一种方法来扩展马尔可夫逻辑网络,以进行溯因推理,这是不自然的支持,在这种形式主义。我们的方法具有很高的可重用性,并使用户没有具体的基础设施的具体知识,以获得可行的见解的情况下发生的事件。我们在一个工具中实现了该方法,并通过将其应用于示例场景来说明其适用于根本原因分析。
2015-11-18 cs.AI
On syntactically similar logic programs and sequential decompositions
本文从逻辑程序的序列分解出发构建语法相似性的定性与代数概念,证明其可通过一步归约实现跨领域查询解答,推动了逻辑程序代数理论的发展。
2023-12-11 cs.AI cs.LO
Towards Log-Linear Logics with Concrete Domains
Universität Mannheim(曼海姆大学)
我们提出了$\mathcal{MEL}^{++}$(M表示马尔可夫逻辑网络)的对数线性描述逻辑$\mathcal{EL}^{++}$ -LL与具体域,名物化,和实例的扩展。我们使用马尔可夫逻辑网络(MLN),以找到最可能的,分类和连贯的$\mathcal{EL}^{++}$本体从$\mathcal{MEL}^{++}$知识库。特别是,我们开发了一种新的方法来处理具体的域(也称为datestries)通过扩展MLN的切割平面推理(CPI)算法。
2015-07-15 cs.AI
Parallel Noising in Neural Markov Logic Networks
Czech Technical University(捷克技术大学);KU Leuven(鲁汶大学)
研究针对神经马尔可夫逻辑网络在大结构上表现欠佳的问题,通过用图神经网络增强势函数表达能力,结合受并行回火启发的并行噪声训练和推理算法,提升其在图生成及小分子结构生成中的性能。
2026-07-22 cs.AI cs.LG
Scaling the weight parameters in Markov logic networks and relational logistic regression models
Ludwig-Maximilians-Universität München(慕尼黑大学);Institut für Informatik(信息学研究所)
该研究针对统计关系AI中的马尔可夫逻辑网络与关系逻辑回归模型,探究权重参数随域大小缩放的特性,证明后者渐近行为可由参数透明控制并给出对应算法,同时分析了缩放的适用场景与未来研究方向。
2024-05-16 cs.AI cs.LG cs.LO
Compositional planning in Markov decision processes: Temporal abstraction meets generalized logic composition
Worcester Polytechnic Institute(伍斯特理工学院)
在马尔可夫决策过程(MDP)的层次规划中,时间抽象允许以顺序组合的形式对发生在不同时间尺度上的宏动作进行规划。在本文中,我们提出了一种新的方法,组合推理和层次规划的时态逻辑约束下的MDP。除了顺序组合,我们介绍了一种基于广义逻辑组合的策略组合:给定子任务的子策略和一个新的任务表示为子任务的逻辑组合,一个半最优的策略,这是最优的规划与只有子策略,可以通过简单地组合子策略。因此,一个综合算法的开发,以计算最优策略有效地规划与原始行动,子任务的政策,和子政策的组成,以最大限度地满足时态逻辑规格的概率。我们证明了所提出的方法的正确性和效率在随机规划的例子与一个单一的代理和多个任务规范。
2019-07-22 cs.AI math.OC
Fast Decomposition of Temporal Logic Specifications for Heterogeneous Teams
MIT Lincoln Laboratory(麻省理工学院林肯实验室);Lehigh University(理海大学)
在这项工作中,我们专注于分解成较小的子问题,可以独立解决和执行的大型多智能体路径规划问题的全球时间逻辑目标(共同的所有代理)。至关重要的是,子问题的解决方案必须共同满足共同的全球任务规范。代理的任务被给出为能力时序逻辑(CaTL)公式,信号时序逻辑的片段,其可以表达涉及多个代理能力(传感器,例如,相机、IR和效应器,例如,轮式、飞行、操纵器)。我们采取的方法是分解的时间逻辑规范和团队的代理。我们共同的原因代理分配给子团队和分解的公式使用可满足性模理论(SMT)的方法。SMT的输出然后被分发到子团队,并导致计划时间的显著加快。我们包括计算结果来评估我们的解决方案的效率,以及由SMT编码的保守性引入的权衡。
2020-09-30 cs.AI
CP-MDP: A CANDECOMP-PARAFAC Decomposition Approach to Solve a Markov Decision Process Multidimensional Problem
Pontifical Catholic University of Rio Grande do Sul (PUCRS)(南里奥格兰德天主教大学)
马尔可夫决策过程(MDP)是随机环境中决策理论代理最优规划的基础模型。虽然许多研究都集中在解决MDP问题的表格形式或使用因子表示,没有集中在张量分解方法。使用张量代数求解MDP提供了利用基于张量的计算的进步来进一步提高求解器效率的前景。在本文中,我们开发了一个多维问题的MDP求解器,使用张量分解方法来压缩转换模型,优化值迭代和策略迭代算法。我们根据经验评估我们的方法对表格方法,并表明我们的方法可以计算更大的问题,使用更少的内存,开辟了新的可能性,基于张量的方法在随机规划
2021-02-27 cs.AI
Optimal Control of Logically Constrained Partially Observable and Multi-Agent Markov Decision Processes
University of Southern California(南加州大学);University of New Mexico(新墨西哥大学)
针对自主系统的逻辑约束、部分可观测性及多智能体信息不对称问题,提出带有限线性时序逻辑约束的POMDP最优控制理论与多智能体框架,可合成兼顾高奖励与约束满足概率的策略,经案例验证有效。
2024-06-19 cs.AI cs.FL cs.SY
End-to-End Relation Extraction using Markov Logic Networks
TCS Research, Tata Consultancy Services(塔塔咨询服务公司TCS研究院);Indian Institute of Technology Bombay(印度理工学院孟买分校);Indian Institute of Technology Patna(印度理工学院巴特那分校)
端到端关系抽取的任务由两个子任务组成:i)识别实体提及及其类型以及ii)识别实体提及对之间的语义关系。识别实体提及及其类型和识别实体提及之间的语义关系是信息抽取中的两个重要问题。已经表明,为了更好的性能,有必要联合处理这两个子任务。我们提出了一种方法,同时提取实体提及和关系的句子中,通过使用马尔可夫逻辑网络(MLN)的推理。我们学习三种不同的分类器:i)局部实体分类器,ii)局部关系分类器和iii)使用局部实体分类器的预测的“流水线”关系分类器。这些分类器的预测可能彼此不一致。我们表示这些预测以及一些领域的知识,使用加权的一阶逻辑规则在MLN和执行联合推理的MLN,以获得最小的不一致的全球输出。ACE(自动内容提取)2004数据集上的实验表明,我们的联合提取方法使用MLN优于单独的分类器的基线。我们的端到端的关系抽取性能优于ACE 2004数据集上报告的3个结果中的2个。
2017-12-04 cs.AI
Entropy Maximization for Markov Decision Processes Under Temporal Logic Constraints
University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
研究了在时态逻辑约束下,使马尔可夫决策过程(MDP)的熵最大化的策略的合成问题。这样的策略最小化其生成的路径的可预测性,或者双重地最大化MDP中的不同路径的探索,同时确保满足时态逻辑规范。我们首先证明了MDP的最大熵可以是有限的,无限的或无界的。给出了MDP的最大熵为有限、无穷或无界的充要条件。然后,我们提出了一个算法,这是基于一个凸优化问题,以综合的政策,最大限度地提高熵的MDP。我们还表明,最大化的熵的MDP是等价于最大化的熵的路径,达到一定的一组状态的MDP。最后,我们将该算法扩展到一个受时态逻辑规范的MDP。在数值例子中,我们证明了所提出的方法在不同的运动规划方案和说明之间的关系的限制施加在路径上的规范,最大熵,和路径的可预测性。
2019-06-10 cs.AI math.OC
Quantified Markov Logic Networks
Cardiff University(卡迪夫大学);University of Bremen(不来梅大学);KU Leuven(鲁汶大学)
马尔可夫逻辑网络(MLN)非常适合于表达诸如“吸烟者以高概率认识另一吸烟者”的统计数据,但不适合于表达诸如“存在认识大多数其他吸烟者的吸烟者”的陈述,这对于建模(例如,社交网络中的影响者)是必要的。为了克服这一缺点,我们研究量化的MLNs,通过引入统计全称量词来概括MLNs,允许以原则性的方式表达后一种类型的统计数据。我们的主要技术贡献是表明,在量化的MLN,最大后验概率和边际推理的标准推理任务,可以减少到各自的MLN对应的多项式时间。
2018-08-21 cs.AI cs.LG cs.LO
Adaptive MCMC-Based Inference in Probabilistic Logic Programs
Stony Brook University(石溪大学)
概率逻辑编程(PLP)语言使程序员能够指定将逻辑模型与统计知识相结合的系统。的推理问题,以确定查询答案的概率在PLP中,是棘手的一般,从而激励近似技术的需要。在本文中,我们提出了一种技术,近似推理的条件概率PLP查询。它是一种自适应马尔可夫链蒙特卡罗(MCMC)技术,其中,随着马尔可夫链的探索,从其中提取样本的分布被修改。特别是,该分布被逐步修改,以增加生成的样本与证据一致的可能性。在我们的上下文中,每个样本都由一组随机变量的结果唯一表征。受强化学习的启发,我们的技术根据样本是否一致,将奖励传播给样本中使用的随机变量/结果对。每个结果的累积奖励用于为每个随机变量导出新的“适应分布”。对于一系列样本,在每个样本之后逐渐适应分布。对于一个具有“马尔可夫评价结构”的查询,我们证明了样本的适应分布收敛于查询的条件概率分布。对于马尔可夫查询,我们提出了一个修改后的适应过程,可用于自适应MCMC以及自适应独立采样。我们经验评估的有效性,自适应采样方法的查询和不马尔可夫评价结构。
2014-03-24 cs.AI
Swift Markov Logic for Probabilistic Reasoning on Knowledge Graphs
Banca d’Italia(意大利银行);TU Wien(维也纳工业大学);University of Oxford(牛津大学)
我们提供了一个基于Vadalog的知识图谱(KGs)的概率推理框架,满足本体推理的要求:全递归、强大的存在量化、归纳定义的表达. Vadtron是一种基于Warded Datrons +/-的知识表示和推理(KRR)语言,Warded Datrons +/-是存在规则的逻辑核心语言,在计算复杂性和表达能力之间具有良好的平衡。处理不确定性是与KG进行推理的关键。然而,Vadminister和Warded Datasheet +/-没有被现有的概率逻辑编程和统计关系学习方法所覆盖,原因有几个,包括对存在量化递归的支持不足,以及不可能表达归纳定义。在这项工作中,我们引入软Vadministration,概率扩展Vadministration,满足这些desiderata。一个软Vadministration程序诱导我们所谓的概率知识图谱(PKG),它由一个网络上的概率分布的追逐实例,结构通过接地的规则在数据库中使用追逐过程。我们利用PKG的概率边际推理。我们讨论的理论和目前MCMC-chase,蒙特卡罗方法在实践中使用软Vadministration。我们将我们的框架应用于解决数据管理和工业问题,并在Vadtron系统中进行了实验评估。逻辑程序设计理论与实践(TPLP)
2022-10-01 cs.AI
Flexible Decomposition Algorithms for Weakly Coupled Markov Decision Problems
Stanford University(斯坦福大学)
本文提出了两种分解和求解大型马尔可夫决策问题的新方法:部分解耦方法和完全解耦方法。在这些方法中,一个大的随机决策问题被分成较小的部分。第一种方法为问题的每个部分独立地构建策略缓存,然后在单独的轻量级步骤中组合这些部分。第二种方法也将问题分成更小的部分,但信息在不同的问题部分之间进行交流,从而可以做出明智的决定,决定哪一部分需要最多的关注。这两种方法都可以用来找到最优策略或近似最优策略与可证明的界限。这些算法还提供了一个框架,跨共享类似结构的问题的知识的有效转移。
2013-01-30 cs.AI
On Projectivity in Markov Logic Networks
Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会);University of Trento(特伦托大学)
马尔可夫逻辑网络(MLN)定义了不同域大小上关系结构的概率分布。许多工作已经注意到,MLN,像许多其他关系模型,不承认一致的边际推理在不同的域大小。此外,MLN学习的某个域不推广到新的域的大小不同。在最近的工作中,域大小依赖,提升推理和从子采样域学习之间出现了联系。这些作品的中心思想是投射性的概念。投影模型的概率分布使子结构的边缘概率独立于域基数。因此,投影模型允许有效的边际推理,消除了对域大小的任何依赖。此外,投影模型可能允许从子采样域进行有效且一致的参数学习。在本文中,我们刻画了二元MLN是投射的充要条件。然后,我们隔离在这类MLN的一个特殊的模型,即关系块模型(RBM)。我们表明,在数据似然最大化方面,RBM是最好的可能的投影MLN在两个变量的片段。最后,我们表明,RBM也承认一致的参数学习子采样域。
2022-05-05 cs.AI
On the verification of Embeddings using Hybrid Markov Logic
University of Memphis(孟菲斯大学);Adobe Research(奥多比研究院)
针对现有嵌入验证仅能通过任务准确率评估的局限,提出基于混合马尔可夫逻辑网络的框架,结合符号知识定义属性并学习参数,将验证编码为混合整数线性规划求解,在多场景验证了通用性。
2023-12-13 cs.AI cs.LG
Markov Logic Networks for Natural Language Question Answering
我们的目标是使用从科学教科书中自动提取的知识来回答初级科学问题,这些知识以一阶逻辑的子集表示。考虑到这些自动提取的规则的不完整性和噪声性,马尔可夫逻辑网络(MLN)似乎是一个自然的模型,但利用MLN的确切方法并不明显。我们研究了三种方法应用MLN到我们的任务。在第一种方法中,我们简单地使用提取的科学规则直接作为MLN子句。与典型的MLN应用程序不同,我们的域具有漫长而复杂的规则,导致无法管理的接地数量。我们利用硬约束中存在的结构来提高易处理性,但该公式仍然无效。在第二种方法中,我们将科学规则解释为描述原型实体,从而将规则直接映射到接地MLN断言,然后使用现有的实体解析方法对其常量进行聚类。这大大简化了网络,但仍然存在脆性。最后,我们的第三种方法,称为Praline,使用MLN来对齐词汇元素,并定义和控制在此任务中应如何执行推理。我们的实验,展示了15\%的准确率提升和10倍的运行时间减少,表明Praline的灵活性和不同的推理语义是一个更好的适合自然语言问答任务。
2015-07-10 cs.AI cs.CL
LC-ERD: Mining Latent Logic for Self-Evolving Reasoning via Consistency-Regulated Reward Decomposition
The Chinese University of Hong Kong(香港中文大学);Shanghai Jiaotong University(上海交通大学);Fudan University(复旦大学)
针对大语言模型推理中高质量过程数据稀缺的问题,提出LC-ERD框架,通过潜在逻辑挖掘和一致性调节的奖励分解,实现自我对齐与推理进化。
2026-05-30 cs.AI cs.CL
Sequential composition of propositional logic programs
本文研究命题逻辑程序的顺序组合与分解,证明无环程序可分解为单规则程序,并利用组合表示直接后果算子以计算最小模型,从而弥合语法与语义的鸿沟。
2023-10-11 cs.AI cs.DB cs.DM
On Dynamic Programming Decompositions of Static Risk Measures in Markov Decision Processes
University of New Hampshire(新罕布什尔大学);HEC Montréal(蒙特利尔高等商学院);Amazon(亚马逊公司);Google Research(谷歌研究院)
本文证明强化学习中用于CVaR和EVaR的离散风险水平动态规划分解本质上始终次优,而VaR的分解成立,揭示了这些风险度量在鞍点性质上的关键差异。
2024-04-23 cs.AI math.OC
Enhancing Systematic Decompositional Natural Language Inference Using Informal Logic
Johns Hopkins University(约翰斯·霍普金斯大学);Allen Institute for AI(艾伦人工智能研究所);University of Arizona(亚利桑那大学)
针对分解式文本推理缺乏明确判定协议导致的数据集噪声、性能受限问题,提出有理论依据的分解式蕴含标注方法,构建内部一致性提升9%的RDTE数据集,结合知识蒸馏训练的分类器可有效提升蕴含树推理的准确率与证明质量。
2024-08-12 cs.AI cs.CL
Bits and Pieces: Understanding Information Decomposition from Part-whole Relationships and Formal Logic
Campus Institute for Dynamics of Biological Networks, Georg-August University, Goettingen(哥廷根乔治·奥古斯特大学生物网络动力学校园研究所);MEG Unit, Brain Imaging Center, Goethe University, Frankfurt(法兰克福歌德大学脑成像中心脑磁图单元)
部分信息分解(PID)试图将一组源变量包含的关于目标变量的多元互信息分解成基本片段,即所谓的“信息原子”。每个原子都描述了一种不同的方式,其中源可以包含有关目标的信息。在本文中,我们表明,第一,整个理论的部分信息分解可以从考虑信息的贡献之间的基本parhood关系。这种处理问题的方法具有直接表征信息原子的优点,而不是通过冗余概念采取间接方法。其次,我们描述了PID和形式逻辑之间的一些有趣的联系。特别是,我们将展示如何定义一个衡量PID的基础上所提供的信息,某些语句的源实现。此外,我们展示了如何PID理论的数学格结构可以被翻译成一个同构的逻辑语句的结构与一个特别简单的顺序关系:逻辑蕴涵。从这些考虑中得出的结论是,部分信息分解有三个同构的“世界”,即数学上描述由一组源携带的关于目标的信息的分解的三种等价方式:亲子关系的世界,逻辑陈述的世界,以及反链的世界,威廉姆斯和比尔在他们最初对PID理论的阐述中使用了反链的世界。我们还展示了如何parthood的角度提供了一个系统的方法来回答一种类型的问题,已经在PID领域讨论:是否可以唯一地确定部分信息分解的基础上的概念,而不是冗余信息。
2022-03-07 cs.AI cs.IT math.IT
On Explaining Visual Captioning with Hybrid Markov Logic Networks
针对深度神经网络视觉字幕生成的可解释性难题,提出基于混合马尔可夫逻辑网络的解释框架,通过训练实例分布偏移量化影响样本,实验验证了方法的可解释性并可用于模型比较。
2025-07-28 cs.AI cs.CV
Disentangling Fine-Tuning from Pre-Training in Visual Captioning with Hybrid Markov Logic
University of Memphis(孟菲斯大学);Adobe Research(奥多比研究院)
本文提出基于 HMLN 的概率建模与推理方法,用于量化训练样本对生成描述的影响,并在 MSCOCO 上揭示使用 LLM 的 BLIP2 受微调影响更小。
2025-03-18 cs.AI cs.CV
Hinge-Loss Markov Random Fields and Probabilistic Soft Logic
Stanford University(斯坦福大学);DataStax(DataStax 公司);Virginia Tech(弗吉尼亚理工大学);University of California, Santa Cruz(加利福尼亚大学圣克鲁兹分校)
开发高影响力机器学习技术的一个根本挑战是平衡对丰富结构化领域建模的需求与扩展到大数据的能力。许多重要的问题领域都是结构丰富和规模庞大的,从社会和生物网络,到知识图谱和Web,再到图像、视频和自然语言。在本文中,我们介绍了两个新的形式主义建模结构化数据,并表明他们都可以捕捉丰富的结构和规模的大数据。首先,铰链损失马尔可夫随机场(HL-MRF),是一种新的概率图形模型,推广了不同的方法凸推理。我们统一了三种方法,从随机算法,概率图形模型,和模糊逻辑社区,表明这三个导致相同的推理目标。然后,我们定义HL-MRF通过概括这个统一的目标。第二种新的形式主义,概率软逻辑(PSL),是一种概率程序设计语言,使HL-MRF易于使用基于一阶逻辑的语法定义。我们介绍了一种算法,用于推断最可能的变量分配(MAP推断),这是更可扩展的比通用凸优化方法,因为它使用消息传递,以利用稀疏依赖结构。然后,我们展示了如何学习HL-MRF的参数。学习的HL-MRF与类似的离散模型一样准确,但更具可扩展性。总之,这些算法使HL-MRF和PSL能够以以前不可能的规模对丰富的结构化数据进行建模。
2017-11-17 cs.AI cs.LG stat.ML
Structural Decompositions of Epistemic Logic Programs
TU Wien(维也纳工业大学);University of Potsdam(波茨坦大学);University of Klagenfurt(克拉根福大学)
认知逻辑程序(ELP)是标准答案集编程(ASP)的流行概括,提供了在语言中对答案集进行推理的方法。这种更丰富的形式主义是以更高的计算复杂性为代价的,达到了多项式层次的第四层。然而,与标准的ASP相反,尚未进行专门的调查以确定其可处理性。在本文中,我们给出了第一个结果,在这个方向上,并表明,中心ELP问题可以解决在线性时间ELP表现出的结构属性有界树宽。我们还提供了一个完整的动态规划算法,坚持这些界限。最后,我们表明,应用树宽的一种新的依赖结构-给予的认识文字-允许约束的ASP求解器调用的数量在典型的ELP求解程序。
2020-01-13 cs.AI cs.CC cs.CL
Understanding Domain-Size Generalization in Markov Logic Networks
TU Wien(维也纳技术大学);Ludwig-Maximilians-Universität München(慕尼黑大学)
本文研究了 Markov Logic Networks 在不同 domain 规模间泛化能力差的问题,通过量化参数方差对内部不一致性和 KL 散度的界限,证明最小化参数方差可提升泛化能力,并在四个数据集上得到验证。
2024-06-03 cs.AI cs.LG
A Critical Look at the Applicability of Markov Logic Networks for Music Signal Analysis
Centre for Digital Music(数字音乐中心);Queen Mary University of London(伦敦玛丽女王大学)
近年来,马尔可夫逻辑网络(MLN)已被提出作为一个潜在的有用的范例,音乐信号分析。因为所有的隐马尔可夫模型都可以重新表述为MLN,后者可以提供一个全面的框架,重用和扩展该领域以前的工作。然而,仅仅因为理论上可以将以前的工作重新表述为MLN,并不意味着它是有利的。在本文中,我们分析了一些建议的MLNs的音乐分析的例子,并考虑其实际的缺点相比,制定相同的音乐依赖关系(动态)贝叶斯网络。我们认为,一些实际的障碍,如缺乏对序列和任意连续概率分布的支持,使MLN不太理想的建议的音乐应用程序,无论是在易于制定和计算的要求,由于其所需的推理算法。这些结论并不局限于音乐,但也适用于其他领域,特别是当涉及连续观察的序列数据时。最后,我们表明,所提出的例子背后的想法可以很好地表达在更常用的框架(动态)贝叶斯网络。
2020-01-16 cs.AI cs.IR cs.LG
Decomposition-based Hierarchical Task Allocation and Planning for Multi-Robots under Hierarchical Temporal Logic Specifications
Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所);College of Control Science and Engineering, Zhejiang University(浙江大学控制科学与工程学院)
针对复杂时序逻辑规范下的多机器人任务分配与规划问题,提出基于分解的分层框架,通过原子子任务分解、任务网络构建及混合整数线性规划分配,在导航和操作仿真中实现更优解和更短运行时间。
2024-05-23 cs.AI cs.RO
Neural Markov Prolog
Duke University(杜克大学)
本文提出Neural Markov Prolog语言,结合Markov逻辑与Prolog,桥接一阶逻辑与神经网络设计,支持图像、文本、关系数据库等混合数据类型的架构生成与精确表达。
2023-11-27 cs.AI cs.LG cs.PL
REValueD: Regularised Ensemble Value-Decomposition for Factorisable Markov Decision Processes
University of Warwick(华威大学);Alan Turing Institute(阿兰·图灵研究所)
针对高维离散动作空间下强化学习值分解会放大目标方差的问题,提出带正则化损失的集成评论家算法REValueD,在控制套件任务上取得更优性能并验证了可扩展性。
2024-03-08 cs.AI cs.LG
Random coloured digraphs defined by a Markov logic network
Department of Mathematics, Uppsala University, Sweden(瑞典乌普萨拉大学数学系)
研究马尔可夫逻辑网络中一阶语句的渐近概率,发现权重按1/n缩放时0-1律成立且极限概率与权重无关,否则出现7种依赖于权重的定性情况,包括相变现象。
2026-06-24 cs.AI math.LO