Knowledge Compilation with Continuous Random Variables and its Application in Hybrid Probabilistic Logic Programming
KU Leuven(鲁汶大学)
在概率推理中,传统的离散域已被提升到包含额外连续随机变量的混合域。然而,在混合域中的推理通常需要对离散或连续随机变量的推理进行权衡。我们介绍了一种新的方法,加权模型集成和代数模型计数的基础上,规避这些权衡。然后,我们展示了它如何支持知识编译和精确的概率推理。此外,我们引入了混合概率逻辑程序设计语言HAL-ProbLog,ProbLog的扩展,我们适用于我们的推理方法。
2018-07-12 cs.AI cs.LO cs.PL
Probabilistic Circuits for Knowledge Graph Completion with Reduced Rule Sets
该研究提出一种基于概率电路的方法,学习规则集上的概率分布以减少知识图谱补全所需规则数量,在8个基准数据集上验证,可大幅降低规则数量并保留较高性能。
2026-08-11 cs.AI cs.LO
Measuring Inconsistency in Probabilistic Knowledge Bases
提出了一种条件概率知识库的不一致性度量方法。该措施是基于不一致性措施的基本原则,从而提供了一个坚实的理论框架,在概率专家系统的不一致性的治疗。我们说明了它的有用性和直接应用上的几个例子,并提出了一些正式的结果。在此措施的基础上,我们使用的Shapley值-一个著名的解决方案联盟游戏-定义一个复杂的指标,不仅能够衡量不一致,但揭示的原因不一致的知识基础。总之,这些工具指导知识工程师在他的目的是恢复一致性,因此使他能够建立一个一致的和可用的知识库,可以在概率专家系统。
2012-05-09 cs.AI
Magic Inference Rules for Probabilistic Deduction under Taxonomic Knowledge
Institut fur Informatik, Universitiit GieSen(吉森大学计算机科学研究所)
我们提出了局部完整的推理规则的概率推理分类和概率知识库的合取事件。至关重要的是,在文献中类似的推理规则相比,我们的推理规则是局部完整的合取事件和额外的分类知识。我们发现,我们的推理规则是非常复杂的,它是乍一看不清楚,在所有推导出的最紧的界限来自哪里。此外,分析我们的推理规则的全球完整性,我们发现全球非常不完整的概率推理的例子。更一般地说,我们甚至表明,所有系统的分类和概率知识库的推理规则的合取事件是全球不完整的。我们的结论是概率演绎的迭代应用推理规则的区间限制条件概率,即使被认为是非常有前途的文献中,到目前为止,似乎非常有限的应用领域。
2013-01-30 cs.AI
Maintenance in Probabilistic Knowledge-Based Systems
Air Force Institute of Technology(空军理工学院)
最近的发展使用有向非循环图(即,影响图和贝叶斯网络)来表示知识表示,减少了在基于知识的系统(KBS)中使用概率的问题。目前大多数研究涉及新证据的有效传播,但很少有人做关于维护特定领域的知识,其中包括概率信息的问题域。然而,通过利用图中表示的条件独立性,当知识库更新时,仅需要对某些变量进行概率评估。本研究的目的是调查,对于这些变量,需要概率评估,如何减少所需的新知识量的专家在概率知识为基础的系统中更新概率信息时。三种特殊情况下(忽略的结果,分裂的结果,并假设约束结果)被确定为许多原始的概率(那些已经在知识库)不需要重新评估时,需要维护。
2013-03-27 cs.AI
A Probabilistic Approach to Knowledge Translation
University of Oregon(俄勒冈大学)
在本文中,我们专注于一个新的知识重用的情况下,在源模式的知识需要被翻译到一个语义异构的目标模式。我们将这一任务称为“知识翻译”(KT)。与数据转换和迁移学习不同,KT不需要来自源或目标模式的任何数据。我们采用了一种概率的方法来KT表示的知识在源模式,源和目标模式之间的映射,以及由此产生的知识在目标模式都作为概率分布,特别是使用马尔可夫随机场和马尔可夫逻辑网络。给定源知识和映射,我们使用概率图模型的标准学习和推理算法来找到目标模式中的显式概率分布,以最大限度地减少Kullback-Leibler偏离隐式分布。这为我们提供了一个紧凑的概率模型,它尽可能地表示来自源模式的知识,同时考虑源知识和映射的不确定性。在命题和关系域上的实验中,我们发现KT获得的知识与其他需要数据的方法相当,这表明知识可以在没有数据的情况下重复使用。
2015-07-12 cs.AI
Representing and Reasoning With Probabilistic Knowledge: A Bayesian Approach
SRI International(斯坦福国际研究院)
PAGODA(Probabilistic Autonomous Goal-Directed Agent)是一种概率域中的自主学习模型[desJardins,1992],它结合了创新技术,用于使用代理的现有知识来指导和约束学习过程,并用于表示,推理和学习概率知识。本文描述了PAGODA的概率表示和推理机制。PAGODA形成了关于其行动和世界状态随时间对环境的影响的理论。这些理论被表示为条件概率分布。对理论的结构施加限制,允许推理机制为任何动作和世界状态描述找到唯一的预测分布。这些受限理论被称为唯一预测理论。推理机制,使用独立性的概率组合(PCI),使用最小的独立性假设来组合理论中的概率,以进行概率预测。
2013-03-06 cs.AI
An Inequality Paradigm for Probabilistic Knowledge
我们提出了一个不等式的概率推理的基础上的逻辑上的条件概率的上限和下限的范例。我们研究一族概率逻辑,推广了Nilsson的工作[14]。我们开发了各种逻辑概念的概率推理,包括健全性,完整性的理由;和收敛:减少一个理论到一个更简单的逻辑类。我们认为,一个绑定视图是特别有用的概率知识表示的语义描述和描述概率推理和更新的中间状态。我们表明,证据的Dempster-Shafer理论是正式相同的一个特殊情况下,我们的广义概率逻辑。因此,我们的范式结合了贝叶斯“基于规则”的方法和公开的非贝叶斯“证据”的方法,如MYCIN和DempsterShafer。我们建议如何整合这两个“学校”,并探讨了一些可能性,为新的综合各种想法的概率推理。
2013-03-27 cs.AI
Probabilistic reasoning with answer sets
Arizona State University(亚利桑那州立大学);Texas Tech University(德克萨斯理工大学)
本文开发了一种声明性语言,P-log,它结合了逻辑和概率的论点,在其推理。答案集Prolog被用作逻辑基础,而因果贝叶斯网作为概率基础。我们给出了几个非平凡的例子,并说明使用P-log的知识表示和知识更新。我们认为,我们的更新方法比现有的方法更有吸引力。我们给出了P-log程序的一致性的充分条件,并表明贝叶斯网可以很容易地映射到连贯的P-log程序。
2008-12-03 cs.AI cs.LO
Knowledge from Probability
University of Southern California(南加州大学);University of Oxford(牛津大学)
我们给出了归纳知识和信念的概率分析,并探讨了它对未来知识、自然定律和不精确测量量的值的预测。该分析结合了理论的知识和信念制定的关系比较正常的概率减少这些关系。它预言,只有极有可能的命题才被相信,而且许多广为接受的信念修正原则都失败了。
2021-06-22 cs.AI cs.LO
Stratified Knowledge Bases as Interpretable Probabilistic Models (Extended Abstract)
Cardiff University(卡迪夫大学);KU Leuven(鲁汶大学)
在本文中,我们提倡使用分层逻辑理论来表示概率模型。我们认为,这样的编码可以比现有的框架,如马尔可夫逻辑网络中获得的更可解释。其中,这允许使用领域专家通过直接删除、添加或修改逻辑公式来改进学习的模型。
2016-11-18 cs.AI
Network Fragments: Representing Knowledge for Constructing Probabilistic Models
Information Extraction and Transport, Inc.(信息提取与传输公司);George Mason University(乔治梅森大学)
在大多数当前的信度网络应用中,领域知识由适用于领域中所有问题实例的单个信度网络表示。在更复杂的领域中,特定问题的模型必须从编码域中的概率关系的知识库中构建。基于知识的模型构建大多以规则作为知识的基本单位。我们提出了一个知识表示框架,允许知识库设计师指定知识在更大的语义有意义的单位,我们称之为网络片段。我们的框架提供了不对称的独立性和典型的因果间的相互作用表示。我们讨论了网络片段的组合,以形成特定问题的模型来推理特定的问题实例。该框架说明了从军事态势感知领域的例子。
2013-02-06 cs.AI
A Probabilistic Programming Idiom for Active Knowledge Search
Aalborg University(奥尔堡大学)
在本文中,我们推导并实现了一个概率编程习惯的问题,获取新的知识的环境。该习惯用法是利用现代概率程序设计语言实现的。我们通过实现主动映射和机器人探索的特定问题的算法来证明这种习惯用法的实用性。最后,我们通过广泛的模拟研究,利用HouseExpo数据集的实施评估的功能。
2022-02-19 cs.AI cs.RO
Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning
Shanghai Institute of AI Education, East China Normal University, Shanghai, 200241, China(上海人工智能教育研究院,华东师范大学,上海,200241,中国);Shool of Computer Sicence and Technology, East China Normal University, Shanghai, 200241, China(计算机科学与技术学院,华东师范大学,上海,200241,中国)
本文提出PLKT框架,通过概率嵌入和逻辑推理提高知识追踪的可解释性,实验显示其在预测准确性和可解释性上均优于现有方法。
2026-05-10 cs.AI
Integrating Probabilistic, Taxonomic and Causal Knowledge in Abductive Diagnosis
University of Alberta(阿尔伯塔大学)
我们提出了一个溯因诊断理论,整合概率,因果和分类知识。概率知识使我们能够选择最可能的解释;因果知识使我们能够做出合理的独立假设;分类知识使因果关系能够在不同的细节水平上建模,并允许观察结果在不同的精度水平上进行描述。与大多数其他方法不同的是,因果解释是一个假设,一个或多个因果事件发生,我们定义一组观察的解释是一个因果事件链的发生。这些因果事件构成了一个所有观察都是真实的场景。我们表明,可以从因果事件的条件概率计算的情况下的概率。即使只允许适度的表达能力,溯因推理本质上也是复杂的。然而,我们的溯因算法仅在要解释的观测数量上是指数的,并且在知识库的大小上是多项式的。这与许多其他绑架程序相比,这些程序在知识库的大小上是指数级的。
2013-03-27 cs.AI
Approximating Probabilistic Inference in Statistical EL with Knowledge Graph Embeddings
Bosch Center for AI(博世人工智能中心);University of Stuttgart(斯图加特大学);Cardiff University(卡迪夫大学);Stanford University(斯坦福大学);University of Oslo(奥斯陆大学);University of Southampton(南安普顿大学)
本文提出利用知识图谱嵌入高效近似统计EL中的概率推理,并提供了运行时和正确性保证的理论证明及实验评估。
2026-06-02 cs.AI
Swift Markov Logic for Probabilistic Reasoning on Knowledge Graphs
Banca d’Italia(意大利银行);TU Wien(维也纳工业大学);University of Oxford(牛津大学)
我们提供了一个基于Vadalog的知识图谱(KGs)的概率推理框架,满足本体推理的要求:全递归、强大的存在量化、归纳定义的表达. Vadtron是一种基于Warded Datrons +/-的知识表示和推理(KRR)语言,Warded Datrons +/-是存在规则的逻辑核心语言,在计算复杂性和表达能力之间具有良好的平衡。处理不确定性是与KG进行推理的关键。然而,Vadminister和Warded Datasheet +/-没有被现有的概率逻辑编程和统计关系学习方法所覆盖,原因有几个,包括对存在量化递归的支持不足,以及不可能表达归纳定义。在这项工作中,我们引入软Vadministration,概率扩展Vadministration,满足这些desiderata。一个软Vadministration程序诱导我们所谓的概率知识图谱(PKG),它由一个网络上的概率分布的追逐实例,结构通过接地的规则在数据库中使用追逐过程。我们利用PKG的概率边际推理。我们讨论的理论和目前MCMC-chase,蒙特卡罗方法在实践中使用软Vadministration。我们将我们的框架应用于解决数据管理和工业问题,并在Vadtron系统中进行了实验评估。逻辑程序设计理论与实践(TPLP)
2022-10-01 cs.AI
A Probabilistic Reasoning Environment
Decision Science Consortium, Inc.(决策科学联盟公司)
一个框架,提出了一个计算理论的概率参数。概率推理环境在三个层次上对知识进行编码。在最深层是一组编码系统领域知识的模式。这些知识用于构建一组第二级参数,这些参数的结构是为了有效地重新捕获用于构建它们的知识。最后,在顶层是一个由参数构建的贝叶斯网络。该系统的目的不仅是为了促进信念的传播和证据的同化,而且是构建信念网络,评估其充分性,并在必要时进行修改的动态过程。
2013-03-27 cs.AI
Beyond the Grounding Bottleneck: Datalog Techniques for Inference in Probabilistic Logic Programs (Technical Report)
Cardiff University(卡迪夫大学);Samsung AI Research(三星人工智能研究院)
概率逻辑编程中的最先进的推理方法通常通过相对于感兴趣的查询计算相关的基础程序开始,然后使用该程序进行使用知识编译和加权模型计数的概率推理。我们提出了一种替代方法,使用高效的数据库技术集成知识编译与正向推理与非地面程序。这有效地消除了接地瓶颈,到目前为止,已经禁止概率逻辑编程的查询应答场景中的应用程序在知识图谱,同时还提供了快速近似的经典基准在该领域。
2019-11-18 cs.AI
An Approach for Automatic Construction of an Algorithmic Knowledge Graph from Textual Resources
Indian Statistical Institute(印度统计研究所);Calcutta University(加尔各答大学)
在各个研究领域都有巨大的增长。这种发展伴随着新的问题。为了有效地以优化的方式解决这些问题,研究人员在科学文献中创建和描述了算法。科学算法对于理解和重用许多领域的现有工作至关重要。然而,算法通常很难找到。此外,由于文档不连贯,相似算法之间的比较很困难。关于算法的信息大多存在于网站、代码注释等中,缺乏描述算法的结构化元数据。因此,有时会发布冗余或类似的算法,研究人员从头开始构建它们,而不是重用或扩展现有的算法。在本文中,我们介绍了一种自动开发的知识图谱(KG)的算法问题,从非结构化数据的方法。因为它更清晰和广泛地捕获信息,算法KG将为算法元数据提供额外的上下文和可解释性。
2022-05-25 cs.AI cs.CL
Simple and Interpretable Probabilistic Classifiers for Knowledge Graphs
Università degli Studi di Bari Aldo Moro(巴里·阿尔多·莫罗大学);Fincons Group(芬康斯集团);CILA;LACAM
针对知识图谱场景下从不完整数据学习概率分类器的难题,提出基于简单信念网络的归纳方法,含朴素贝叶斯及双层扩展模型,可转译为概率规则提升可解释性,还可利用专家知识初始化,经多本体随机分类任务验证有效。
2024-07-09 cs.AI
Abductive, Causal, and Counterfactual Conditionals Under Incomplete Probabilistic Knowledge
LMU Munich(慕尼黑大学);University of Helsinki(赫尔辛基大学)
我们研究了溯因,因果和非因果条件的指示和反事实的配方使用概率真值表任务下不完整的概率知识(N = 80)。我们将任务框架为概率逻辑推理问题。在所有条件下最常见的反应类型是一类条件事件的条件解释;其次是连接解释。有趣的是,少数参与者在推断目标条件/反事实的概率下限或上限(“中途反应”)时忽略了前提中涉及的一些相关不精确性。我们讨论了基于连贯性的概率逻辑和新范式的推理心理学的光的结果。
2017-03-12 cs.AI math.PR
Probabilistic Knowledge Graph Construction: Compositional and Incremental Approaches
ANU(澳大利亚国立大学);Data to Decision CRC(数据决策合作研究中心);Data61
知识图谱构建包括两个任务:从外部资源中提取信息(知识群体)和通过对提取的信息进行统计分析推断缺失信息(知识补全)。在许多情况下,知识人群中外部资源不足阻碍了随后的统计推断。这两个过程之间的差距可以通过增量人口方法来缩小。我们提出了一种新的概率知识图分解方法,该方法受益于现有知识的路径结构(例如,三段论),并使一种通用的建模方法能够用于增量人口和知识完成任务。更具体地说,概率公式使我们能够开发一个增量人口算法,权衡剥削探索。在三个基准数据集上的实验表明,均衡开发-探索有助于种群的增量,附加路径结构有助于预测知识补全中的缺失信息.
2016-09-05 cs.AI cs.LG stat.ML
How Rules Represent Causal Knowledge: Causal Modeling with Probabilistic Logic Programming
研究如何将珀尔的因果方法引入概率逻辑编程,通过与不依赖时间概念的哲学基础对齐,提出形式因果语义等,使其语义与分层ProbLog程序的P-log语义一致,解决因果知识在不同形式主义中的应用问题。
2026-07-24 cs.AI cs.LO cs.PL
Extracting Probabilistic Knowledge from Large Language Models for Bayesian Network Parameterization
本研究评估大型语言模型提取概率知识以参数化贝叶斯网络的能力,在八十个公开网络上验证其优于基线,并提出结合数据构建网络的策略及首个评估基线。
2026-09-17 cs.AI cs.CL
Expressing Relational and Temporal Knowledge in Visual Probabilistic Networks
Imperial College of Science, Technology and Medicine(帝国理工学院)
贝叶斯网络已被广泛用于诊断任务,如医学,其中它们表示一组症状和一组疾病之间的依赖关系。对这种类型的知识表示的批评是,它仅限于这类任务,并且它不能处理其他人工智能应用中所需的知识。例如,在计算机视觉中,我们需要能够对复杂的知识进行建模,包括时间和关系因素。在本文中,我们扩展贝叶斯网络模型的关系和时间的知识,高层次的视觉。这些扩展网络具有简单的结构,使我们能够有效地传播概率。我们已经将它们应用到内窥镜领域,说明了如何在特定情况下使用一般建模原则。
2013-03-13 cs.AI
A Dynamic Approach to Probabilistic Inference
University of British Columbia(英属哥伦比亚大学)
在本文中,我们提出了一个动态构建贝叶斯网络的框架。我们引入了一个背景知识基模式,这是一个参数化的条件概率语句的集合的概念。这些图式明确地将个体可能具有的属性的一般知识与可能具有这些属性的特定个体的特定知识分开。个体的知识可以与该背景知识相结合以创建贝叶斯网络,该贝叶斯网络然后可以用于任何传播方案。我们讨论的理论和必要的实施动态贝叶斯网络的假设,并指出我们的方法可能是有用的。
2013-03-27 cs.AI
Probabilistic Conceptual Network: A Belief Representation Scheme for Utility-Based Categorization
Stanford University(斯坦福大学)
概率概念网络是一种知识表示方案,用于基于效用的分类中的概念推理和分类抽象。该方案结合了人工智能的抽象和继承层次的形式主义,和决策分析的概率网络。它提供了一个表示概念知识、层次知识和不确定性的通用框架。它促进了在不同抽象层次上动态构建分类决策模型。该计划被应用到一个自动化加工问题的推理机器的状态在不同的抽象层次,以支持行动,以保持竞争力的工厂。
2013-03-06 cs.AI
Learning and inference in knowledge-based probabilistic model for medical diagnosis
School of Computer Science and Technology, Harbin Institute of Technology(哈尔滨工业大学计算机科学与技术学院);The 2nd Affiliated Hospital of Harbin Medical University(哈尔滨医科大学附属第二医院)
基于加权知识图谱来表示一阶知识,并结合概率模型,我们提出了一种用于创建医学诊断中的医学知识网络(MKN)的方法。当针对特定患者激活一组症状时,我们可以生成由症状节点和潜在疾病节点组成的基础医学知识网络。通过将玻尔兹曼机转化为马尔可夫网络的势函数,研究了MKN的联合概率分布。为了处理数值征兆,提出了一种使用条件概率的多变量推理模型。此外,知识图谱的权重是有效地从人工标注的中国电子病历(CEMR)学习。在实验中,我们通过数值计算发现,疾病节点的质量和症状变量的表达的最佳选择可以提高医疗诊断的有效性。我们的实验结果比较马尔可夫逻辑网络和逻辑回归算法在一个实际的CEMR数据库表明,我们的方法有希望,MKN可以促进智能诊断的研究。
2017-03-28 cs.AI
Demographic Aware Probabilistic Medical Knowledge Graph Embeddings of Electronic Medical Records
University of Bonn(波恩大学)
由电子病历构建的医学知识图谱包含了丰富的患者和医疗实体信息。KG嵌入模型在这些数据上的利用已被证明对于不同的医疗任务是有效的。然而,现有的模型没有适当地纳入患者的人口统计数据,他们中的大多数忽略了医疗KG的概率特征。在本文中,我们提出了DARLING(人口统计学感知pRobabiListic medIcal kNowledge embeddinG),一个人口统计学感知的医疗KG嵌入框架,通过将患者人口统计数据与相应的超平面相关联,明确地将人口统计数据纳入医疗实体空间。我们的框架利用医疗实体内的概率特征,通过人口统计学指导来学习它们的表示。我们评估DARLING通过链接预测的治疗和药物,从EMR数据构建的医疗KG,并说明其优越的性能相比,现有的KG嵌入模型。
2021-04-03 cs.AI cs.IR cs.LG
A Probabilistic Generative Model for Tracking Multi-Knowledge Concept Mastery Probability
Northeastern University(东北大学)
知识追踪的目的是追踪学生在一段时间内的知识状况,以准确预测学生未来的表现。基于马尔可夫链的知识跟踪(MCKT)模型可以跟踪知识概念掌握概率随时间的变化。然而,随着被跟踪的知识概念的数量的增加,MCKT预测学生表现的时间复杂度呈指数增长(也称为解释问题)。此外,现有的MCKT模型在对学生的反应建模时,只考虑了学生的知识状态与问题之间的关系,而忽略了同一问题中知识概念之间的关系。为了应对这些挑战,我们提出了一个不可解释的pRobAbilistiC gEnerative模型(TRACED),它可以跟踪学生的许多知识概念掌握概率随着时间的推移。为了解决\emph{explain away problem},我们设计了基于长短期记忆(LSTM)的网络来近似后验分布,预测学生未来的表现,并提出了一种启发式算法来联合训练LSTM和概率图模型。为了更好地模拟学生的练习反应,我们提出了一个对数线性模型与三个互动的策略,该模型考虑了学生的知识状况,知识概念,和问题之间的关系模型的学生的练习反应。我们在三个知识驱动的任务中使用四个真实世界的数据集进行实验。实验结果表明,TRACED在预测学生未来表现方面优于现有的知识追踪方法,并且可以从学生的练习序列中学习学生、知识概念和问题之间的关系。我们还进行了一些案例研究。案例研究表明,TRACED表现出良好的可解释性,从而在现实世界的教育环境中的个性化自动反馈的…
2023-02-17 cs.AI cs.LG
A Method to Learn Embedding of a Probabilistic Medical Knowledge Graph: Algorithm Development
Institute of Information Science, Beijing Jiaotong University(北京交通大学信息科学研究所);Yidu Cloud Technology Inc(医渡云技术有限公司);College of Computer Science, Chongqing University(重庆大学计算机学院);Southwest Hospital(西南医院);Harbin Institute of Technology Shenzhen Graduate School(哈尔滨工业大学深圳研究生院);School of Science, Beijing Jiaotong University(北京交通大学理学院)
本文提出了一种基于医学知识的嵌入向量学习算法PrTransH。从真实世界的电子病历数据中嵌入医学知识图谱的独特挑战是知识三元组的不确定性模糊了“正确三元组”和“错误三元组”之间的边界,改变了许多现有算法的基本假设。为解决这一问题,对现有的TransH算法进行了改进,包括:1)将医学知识三元组的概率引入训练目标; 2)将基于边缘的排序损失替换为同时考虑有效三元组和受损三元组的统一损失计算; 3)在训练数据集上增加医学背景知识。在基于医学知识图谱的真实电子病历数据上的验证表明,PrTransH算法在链接预测任务上优于TransH算法.本文是第一篇在概率知识图谱上学习和验证知识嵌入的论文。
2020-11-08 cs.AI cs.CL
Probabilistic Box Embeddings for Uncertain Knowledge Graph Reasoning
UMass Amherst(马萨诸塞大学阿默斯特分校);USC(南加州大学);Information Sciences Institute, USC(南加州大学信息科学研究所);UCLA(加州大学洛杉矶分校)
知识库通常由从各种来源收集的事实组成,其中许多是嘈杂的,其中一些是冲突的,导致每个三元组的不确定性水平。知识库也往往是不完整的,促使使用嵌入方法从已知的事实进行归纳,然而,现有的嵌入方法只模型的三层不确定性,推理结果缺乏全局一致性。为了解决这些缺点,我们提出了BEUrRE,一种新的不确定知识图谱嵌入方法与校准的概率语义。BEUrRE将每个实体建模为一个盒子(即轴对齐的超矩形),并将两个实体之间的关系建模为头部和尾部实体盒子上的仿射变换。盒子的几何形状允许有效地计算交叉点和体积,赋予模型校准的概率语义,并促进关系约束的结合。在两个基准数据集上进行的大量实验表明,BEUrRE在置信度预测和事实排名方面始终优于基线,这是由于其概率校准和捕获事实之间高阶依赖关系的能力。
2021-04-09 cs.AI cs.CL cs.LG
Algorithmic Information Forecastability
本文利用算法信息论定义仅依赖数据本身的可预测性度量,并提出预言、精确和概率三类可预测性,为时间序列预测与分类提供了统一的理论框架。
2023-12-01 cs.AI cs.IT math.IT
MAPS-KB: A Million-scale Probabilistic Simile Knowledge Base
Shanghai Key Laboratory of Data Science, School of Computer Science, Fudan University(复旦大学计算机科学学院上海市数据科学重点实验室);School of Data Science, Fudan University(复旦大学大数据学院);Fudan-Aishu Cognitive Intelligence Joint Research Center(复旦-爱数认知智能联合研究中心)
理解和生成明喻的能力是实现人类水平AI的必要步骤。然而,在明喻方面,机器智能和人类认知之间仍然存在相当大的差距,因为基于统计分布的深层模型倾向于支持高频明喻。因此,一个大规模的象征性知识库的明喻是必要的,因为它有助于建模的多样性,但不受欢迎的明喻,同时促进额外的评估和推理。为了弥补这一差距,我们提出了一个新的框架,大规模的知识库建设,以及两个概率度量,使一个更好的理解自然语言中的知识现象。总体而言,我们构建了MAPS-KB,一个百万级的概率统计知识库,涵盖了430万个三元组,超过40万个条款,从70 GB的语料库。我们进行了充分的实验来证明我们的框架的方法的有效性和必要性。我们还将MAPS-KB应用于三个下游任务,以实现最先进的性能,进一步证明了MAPS-KB的价值。
2022-12-10 cs.AI cs.CL
Uncertain Process Data with Probabilistic Knowledge: Problem Characterization and Challenges
Bar-Ilan University(巴伊兰大学);The Technion - Israel Institute of Technology(以色列理工学院)
由于来自多个来源(包括物理设备和传感器)的大量不确定事件数据,本文提出了将随机过程观测与可以从数据集呈现的过程模型相关联的任务。与以前的研究,建议将一个随机已知的事件日志转换成一个信息量较少的不确定日志与活动频率的上限和下限相比,我们考虑的挑战,容纳的概率知识一致性检查技术。基于一个分类法,捕捉频谱的一致性检查的情况下,随机过程的观察,我们提出了三种类型的挑战性的情况下。第一个包括随机已知日志相对于给定流程模型的一致性检查。第二种情况扩展了第一种情况,将随机已知的日志分类为几个过程模型之一。第三种情况将前两种情况扩展到过程模型仅随机已知的设置中。所提出的问题捕捉越来越多的应用程序中,传感器提供概率过程信息。
2021-06-07 cs.AI
An Architecture for Probabilistic Concept-Based Information Retrieval
Advanced Decision Systems(高级决策系统公司)
虽然用于信息检索的基于概念的方法可以提供比更传统的技术更好的性能,但是它们需要大量的努力来获取概念以及它们的定性和定量关系。本文讨论了一种基于概率概念的信息检索体系结构,它解决了知识获取问题。该体系结构利用概率网络技术来表示和推理概念,并包括一个知识获取组件,该组件部分地自动化从数据构建概念知识库。我们描述了两个实验,适用于从路透社新闻服务的一组文件中检索有关恐怖主义的文件的任务的架构。实验结果表明,该体系结构设计是可行的,基于概念的方法具有一定的优势。
2013-03-27 cs.AI
CLP(BN): Constraint Logic Programming for Probabilistic Knowledge
我们提出CLP(BN),一种新的方法,旨在通过约束逻辑编程框架来表达贝叶斯网络。可以说,传统贝叶斯网络的一个重要限制是它们是命题的,因此不能表示多个上下文中多个相似对象之间的关系。因此,一些研究人员提出了一阶语言来描述这种网络。也就是说,这种方法的一个非常成功的例子是概率关系模型(PRM),它将贝叶斯网络与关系数据库技术相结合。我们在设计CLP(cal{BN})时必须解决的关键困难是基于逻辑的表示使用基础术语来表示对象。对于概率数据,我们需要能够唯一地表示一个我们不确定其值的对象。我们使用{sl Skolem函数}作为唯一的新符号,唯一地表示具有未知值的对象。CLP(cal{BN})程序的语义自然遵循约束逻辑编程的一般框架,应用于我们具有概率数据的特定领域。本文介绍了CLP(cal{BN})的概念和定义,并描述了CLP(cal {BN})的实现和初步实验。本文还展示了CLP(cal{BN})与概率关系模型(PRM)、Ngo和Haddawys概率逻辑程序、Kersting和De Raedts贝叶斯逻辑程序的关系。
2012-10-19 cs.AI
dPASP: A Comprehensive Differentiable Probabilistic Answer Set Programming Environment For Neurosymbolic Learning and Reasoning
Universidade de São Paulo(圣保罗大学)
本文提出 dPASP 框架,通过整合神经谓词、逻辑约束与区间值概率选择,在多种概率逻辑程序语义下实现可微神经符号推理与端到端学习,并提供易用的实现软件包。
2023-08-05 cs.AI cs.LG cs.LO
Neural Probabilistic Logic Learning for Knowledge Graph Reasoning
Beijing University of Posts and Telecommunications(北京邮电大学);Jiaxing University(嘉兴大学)
本文提出神经概率逻辑学习框架NPLL,通过评分模块增强嵌入网络表达能力,并结合基于变分推断的马尔可夫逻辑网络提升可解释性,在多个基准数据集上显著提高了知识图谱推理的准确性与质量。
2024-07-04 cs.AI cs.LG
Probabilistic Description Logics
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心 (DFKI))
一方面,经典的术语知识表示排除了处理不确定的概念描述的可能性,“通常为真”的概念属性、广义量词或例外。另一方面,处理一般不确定性的纯数值方法无法考虑术语知识。本文介绍了语言ACP,这是一个概率扩展的术语逻辑,旨在缩小差距,这两个领域的研究。我们提出了语言ALUP的形式语义,并介绍了概率的形式主义,是基于类的概率,并实现了通过概率约束。除了推断隐含存在的概率关系,约束保证术语和概率的一致性。总而言之,新语言ALUP适用于必须处理术语描述和不确定性的领域。
2013-02-27 cs.AI
Health Facility Location in Ethiopia: Leveraging LLMs to Integrate Expert Knowledge into Algorithmic Planning
John A. Paulson School of Engineering and Applied Sciences, Harvard University(工程与应用科学学院,哈佛大学);National Data Management and Analytics Center for Health, Ethiopian Public Health Institute(健康数据管理与分析中心,埃塞俄比亚公共卫生研究所);Department of Global Health and Population, Harvard T.H. Chan School of Public Health(全球卫生与人口学院,哈佛T.H. Chan公共卫生学院)
本文提出了一种结合大语言模型和优化技术的混合框架,用于埃塞俄比亚卫生设施选址,以整合专家知识并提升规划的公平性和数据驱动性。
2026-01-29 cs.AI
A Unified Framework for Human-Allied Learning of Probabilistic Circuits
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
针对概率电路在数据稀缺领域忽视知识密集型学习的问题,提出一种统一框架,将领域知识系统整合到参数学习中,实验证明其性能优于纯数据驱动方法。
2024-12-18 cs.AI cs.LG
Probabilistic Belief Embedding for Knowledge Base Completion
Tsinghua University(清华大学);University of Stirling(斯特灵大学);New York University(纽约大学)
本文提出了一种新的嵌入模型,该模型通过同时学习实体($h$和$t$)、关系($r$)和关系提及中的词($m$)的分布式表示来度量大规模知识库中每个信念$\langle h,r,t,m\rangle$的概率。它通过简单的向量操作来发现新的信念,从而促进知识的完成。给定一个不完美的信念,我们不仅可以推断出缺失的实体,预测未知的关系,而且还告诉信念的可信性,只是利用剩余证据的学习嵌入。为了证明我们的模型的可扩展性和有效性,我们在几个包含来自WordNet,Freebase和NELL的数百万个信念的大型存储库上进行实验,并将其与其他尖端方法进行比较,通过竞争实体推理,关系预测和三元组分类任务评估的性能。大量的实验结果表明,该模型优于国家的最先进的显着改善。
2015-05-22 cs.AI
Bridging Commonsense Reasoning and Probabilistic Planning via a Probabilistic Action Language
Arizona State University(亚利桑那州立大学);SUNY Binghamton(纽约州立大学宾汉姆顿分校)
为了响应动态变化的现实世界环境,智能代理需要执行复杂的顺序决策任务,这些任务通常由常识知识指导。在这方面的研究导致了称为“交错常识推理和概率规划”(icorpp)的框架,它使用P-log表示常识知识和马尔可夫决策过程(MDP)或部分可观察MDP(POMDP)在不确定性下进行规划。icorpp的一个主要限制是它的实现需要非平凡的工程努力来桥接常识推理和概率规划形式主义。在本文中,我们提出了一个统一的框架,集成icorpp的推理和规划组件。特别是,我们扩展了概率动作语言pBC+来表达效用,信念状态和观察POMDP模型。继承动作语言的优点,新的动作语言提供了一个详细的宽容表示POMDP,反映常识知识。这个想法导致了系统pbcplus 2 pomdp的设计,它将pBC+动作描述编译成POMDP模型,该模型可以直接由现成的POMDP求解器处理,以计算pBC+动作描述的最佳策略。实验结果表明,该方法保留了icorpp的优点,同时避免了在常识推理器和概率规划器之间进行人工连接。
2019-07-31 cs.AI
Abstract Attribute Exploration with Partial Object Descriptions
属性探索已经在几项研究中进行了研究,特别强调这种知识获取方法的算法方面。在其基本版本中,该方法本身相当简单和透明。但是,当背景知识和部分描述的反例被承认,它变得更加困难。在这里,我们在一个抽象的,有点“公理化”的设置中讨论这种情况,提供一个术语来澄清方法的抽象策略,而不是它的算法实现。
2015-11-19 cs.AI
Uncovering Probabilistic Implications in Typological Knowledge Bases
University of Copenhagen(哥本哈根大学);Johns Hopkins University(约翰斯·霍普金斯大学);University of Cambridge(剑桥大学)
语言类型学的研究植根于我们发现的语言特征之间的含义,例如具有宾语-动词语序的语言往往有后置词。揭示这些含义通常相当于由训练有素和经验丰富的语言学家进行耗时的人工处理,这可能会使关键的语言共性未被探索。在本文中,我们提出了一个计算模型,成功地识别已知的共性,包括格林伯格共性,但也发现了新的,值得进一步的语言学研究。我们的方法优于以前用于此问题的基线,以及来自知识库人口的强大基线。
2019-06-18 cs.AI cs.CL stat.ML
Probabilistic Tree-of-thought Reasoning for Answering Knowledge-intensive Complex Questions
Tsinghua University(清华大学);Huawei Technologies(华为技术有限公司)
本文提出概率性思维树推理方法ProbTree,通过构建查询树并结合闭卷与开卷问答的置信度选择,解决LLM在知识密集型复杂问答中的负面检索和局部错误传播问题,显著优于现有SOTA方法。
2023-11-23 cs.AI cs.CL
Towards Automation of Knowledge Understanding: An Approach for Probabilistic Generative Classifiers
BMW Group(宝马集团);University of Kassel(卡塞尔大学);Aalto University(阿尔托大学)
在经过数据选择、预处理、转换和特征提取之后,知识提取并不是数据采掘过程的最后一步。因此,有必要了解这些知识,以便有效地应用它。到目前为止,还缺乏支持这一重要步骤的适当技术。这部分是由于对知识的评估往往是高度主观的,例如,关于新颖性或实用性等方面。这些方面取决于数据挖掘器的特定知识和要求。然而,有一些方面是客观的,可以采取适当的措施。在这篇文章中,我们专注于分类问题,并使用概率生成分类器的基础上,混合密度模型,是非常常见的数据采掘应用。我们定义了客观的措施来评估这些分类器中包含的规则的信息量,独特性,重要性,歧视性,代表性,不确定性和可验证性。这些度量不仅支持数据挖掘器基于这样的分类器评估数据采掘过程的结果。正如我们将在示例性案例研究中看到的,它们也可用于改进数据采掘过程本身或支持提取的知识的后续应用。
2016-05-20 cs.AI cs.LG
PRASEMap: A Probabilistic Reasoning and Semantic Embedding based Knowledge Graph Alignment System
Tencent Jarvis Lab(腾讯贾维斯实验室);University of Oxford(牛津大学);Tencent Platform and Content Group(腾讯平台与内容事业群);Tencent Healthcare (Shenzhen) Co., LTD.(腾讯医疗健康(深圳)有限公司)
知识图谱(KG)对齐旨在找到等价的实体和关系(即,两个KG之间的映射。现有的方法利用基于推理或基于语义嵌入的技术,但很少有研究探讨他们的组合。在这个演示中,我们提出了PRASEMap,一个无监督的KG对齐系统,它使用概率推理(PR)和语义嵌入(SE)技术迭代计算映射。PRASEMap可以支持各种基于嵌入的KG对齐方法作为SE模块,并且实现简单的人机交互,其另外为用户提供将映射注释反馈回系统以获得更好结果的选项。该演示通过一个具有用户友好界面的独立Web应用程序展示了这些功能。该演示可在https://prasemap.qizhy.com上获得。
2021-08-20 cs.AI cs.CL cs.LG
Efficient Inference and Learning in a Large Knowledge Base: Reasoning with Extracted Information using a Locally Groundable First-Order Probabilistic Logic
Carnegie Mellon University(卡内基梅隆大学);Google Inc.(谷歌公司)
概率逻辑的一个重要挑战是推理非常大的知识库(KB)的不完善的信息,如现代网络规模的信息抽取系统产生的。许多概率逻辑共有的一个可扩展性问题是,回答查询涉及查询的“基础”,即,将其映射到命题表示-并且“基础”的大小随着数据库的大小而增长。为了解决这个瓶颈,我们提出了一个一阶概率语言称为ProPPR,其中近似的“本地接地”可以在时间上独立于数据库的大小。从技术上讲,ProPPR是随机逻辑程序(SLP)的扩展,偏向于短推导;它也与早期的关系学习算法密切相关,称为路径排名算法(PRA)。我们表明,这个逻辑的证明构造的问题是有关的个性化PageRank(PPR)的证明空间的线性化版本上的计算,并使用这种连接,我们开发了一个可证明的正确的近似接地方案,基于PageRank-Nibble算法。在此基础上,我们开发了一个快速,易于并行化的重量学习算法ProPPR。在实验中,我们表明,学习ProPPR是数量级的速度比学习马尔可夫逻辑网络;允许相互递归(联合学习)在KB推理导致性能的提高;和ProPPR可以学习权重的相互递归程序与数百个条款,定义分数的相互关联的谓词,超过KB包含一百万个实体。
2014-04-12 cs.AI
Toward the Automated Construction of Probabilistic Knowledge Graphs for the Maritime Domain
Monash University(莫纳什大学);Defence Science and Technology Group(国防科学技术集团);IBM Australia(IBM澳大利亚公司)
针对现有海事威胁检测仅靠硬数据不足、软数据知识提取关注少的问题,提出Maritime DeepDive原型以从自然语言构建海事概率知识图谱,在海盗事件提取上取得初步良好结果。
2023-05-04 cs.AI cs.CL
RPM-MCTS: Knowledge-Retrieval as Process Reward Model with Monte Carlo Tree Search for Code Generation
RPM-MCTS通过结合知识检索与蒙特卡洛树搜索,有效评估代码生成过程中的中间步骤,减少错误并提升效率
2025-12-17 cs.AI
SPOOK: A System for Probabilistic Object-Oriented Knowledge Representation
Stanford University(斯坦福大学)
在以前的工作中,我们指出了标准贝叶斯网络作为大型复杂领域建模框架的局限性。我们提出了一种新的,结构丰富的建模语言,{em面向对象的贝叶斯Netorks},我们认为将能够处理这些领域。然而,事实证明,OOBN的表达能力不足以对复杂领域的许多有趣方面进行建模:特定命名对象的存在,对象之间的任意关系以及领域结构的不确定性。这些方面在战场感知等现实领域至关重要。在本文中,我们提出了SPOOK,一个实现的系统,解决这些限制。SPOOK实现了一种更具表现力的语言,使其能够自然而紧凑地表示空间域。我们提出了一个新的推理算法,利用模型结构的基本方式,并表明经验,它实现了数量级的加速比现有的方法。
2013-01-23 cs.AI