On (Anti)Conditional Independence in Dempster-Shafer Theory
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
本文证明了{Shenoy:94}关于信度函数的Dempster-Shafer理论的Shenoy独立性概念的图形结构的一个结果。谢诺伊证明了他的独立性概念对于正态估值具有图形性质。严格的正正规赋值的要求作为应用的先决条件的图形属性排除了一个广泛的DS信念函数类。它特别排除了所谓的概率置信函数。证明了对赋值正性的要求可以被弱化,可以要求公共函数对于单点集为非零,而置信函数变量独立的图形性质则保持不变.这特别意味着以所有单例集为焦点的概率置信函数具有独立的图形属性。
2017-07-13 cs.AI
Logical Inference Algorithms and Matrix Representations for Probabilistic Conditional Independence
Indiana University(印第安纳大学)
条件独立(CI)语句的逻辑推理算法从知识获取过程中的一致性检验到图模型的基于约束的结构学习都有重要的应用。我们证明了CI语句的蕴涵问题是可判定的,给定的随机变量的域的大小是已知的和固定的。我们将提出一个近似逻辑推理算法,它结合了证伪和一个新的验证算法。验证算法将每一组CI语句表示为稀疏0-1矩阵A,并通过求解具有约束矩阵A的特定线性规划来验证蕴涵问题的实例。我们将通过实验证明,该算法在验证和伪造概率CI蕴涵问题的实例方面是有效和高效的。
2012-05-09 cs.AI
Conditional Independence and Markov Properties in Possibility Theory
Laboratory for Intelligent Systems University of Economics, Prague(布拉格经济大学智能系统实验室);Institute of Information Theory and Automation Academy of Sciences of the Czech Republic(捷克共和国科学院信息理论与自动化研究所)
条件独立和马尔可夫性质是强大的工具,允许表达多维概率分布的低维的手段。由于多维可能性模型已经研究了好几年,在可能性理论中对类似工具的需求似乎是很自然的。本文旨在推广de Cooman的测度论方法到可能性理论,因为这种方法使我们能够找到概率框架中许多重要结果的类比。首先,我们回顾半graphoid属性的条件可能性独立,参数化的连续t-规范,并找到充分条件的一类阿基米德t-规范有graphoid属性。然后,我们引入马尔可夫性质和可能性分布的因子分解(再次参数化的连续t-范数),并找到它们之间的关系。这些结果附有若干反例,表明具体定理的假设是充实的。
2013-01-16 cs.AI
An Algebraic Notion of Conditional Independence, and Its Application to Knowledge Representation (full version)
Open Universiteit(开放大学);University of Cape Town(开普敦大学)
本文在近似不动点理论的代数框架中研究了条件独立性概念,提供了独立于语言的描述,可将全局推理归约为局部推理的并行实例,并应用于正逻辑程序设计。
2024-12-18 cs.AI cs.LO
Identifying Independence in Relational Models
d-分离的规则提供了一个框架,用于从模型结构中导出条件独立事实。然而,该理论仅适用于简单的有向图模型。我们介绍了关系d-分离,推导关系模型中的条件独立性的理论。我们提供了一个健全的,完整的,计算效率高的方法关系d-分离,我们提出的实证结果表明,有效性。
2013-04-15 cs.AI
Conditional Utility, Utility Independence, and Utility Networks
Stanford University(斯坦福大学)
我们引入了一个新的解释两个相关的概念-条件效用和效用独立性。与传统的解释不同,新的解释使概念的概率对应物的直接类似物。为了正式捕捉这些概念,我们呼吁效用分配的概念,在前面的文章中介绍。我们表明,效用分布,这是一个结构相同的概率分布,可以被看作是一个特殊的情况下,添加剂的多属性效用函数,并显示这种特殊的情况下,使我们能够捕捉到新的意义上的条件效用和效用的独立性。最后,我们提出了效用网络的概念,它为效用做了贝叶斯网络为概率做的事情。具体而言,效用网络利用条件效用和效用独立性的新解释来计算表示效用分布。
2013-02-06 cs.AI cs.GT
Categoroids: Universal Conditional Independence
Adobe Research(奥多比研究院);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
条件独立性在人工智能、因果推理、机器学习和统计学中有着广泛的应用。我们介绍范畴,一个代数结构的特点普遍属性的条件独立。范畴被定义为两个范畴的混合:一个编码由对象和它们之间的箭头定义的预定格结构;第二个对偶参数化涉及定义条件独立结构的三角对象和态射,桥态射提供二进制和三进制结构之间的接口。我们用公理集的三个著名的例子来说明范畴:图形,整数值多集和分离。函子类将一个类范畴映射到另一个类范畴,保留了共域类范畴中所有三种类型的箭头所定义的关系。我们描述了一个自然的转换函体,这是自然的定期对象和三角形对象,构建条件独立的普遍表示。我们使用类范畴之间的关系和单子来抽象地刻画条件独立性的图形和非图形表示的忠实性。
2022-08-24 cs.AI cs.LG math.CT
Conditional independence structures over four discrete random variables revisited: conditional Ingleton inequalities
本文研究了离散型随机变量诱导的熵函数的条件线性信息不等式。具体来说,所谓的条件英格尔顿不等式是感兴趣的中心:这些在诱导随机变量的条件独立假设下是有效的。我们讨论五个不平等的这种特殊类型,其中四个已经出现在文献中。除了新的第五不等式的证明外,还对以前的一些不等式给出了较简单的证明。这五个信息不等式被用来刻画由四个离散随机变量诱导的所有条件独立结构。
2022-03-14 cs.AI cs.IT math.CO
A finite axiomatization of conditional independence and inclusion dependencies
University of Helsinki(赫尔辛基大学)
我们提出了一个完整的有限公理化的无限制蕴涵问题的包含和条件独立原子的依赖逻辑的上下文中。对于数据库,我们的结果意味着一个有限的公理化的包含,功能和嵌入式多值依赖关系的情况下的无限制蕴涵问题。
2013-09-20 cs.AI cs.DB cs.LO
Markov random fields factorization with context-specific independences
Universidad Tecnológica Nacional(国立技术大学)
马尔可夫随机场通过在无向图中表示其独立性来提供联合概率分布的紧凑表示。著名的Hammersley-Clifford定理使用这些条件独立性将吉布斯分布分解为一组因子。然而,使用图来表示独立性的一个重要问题是它不能编码某些类型的独立关系,例如上下文特定的独立性(CSI)。它们是条件独立性的一种特殊情况,只对它的条件集的某个赋值为真;与之相反,条件独立性必须对它的所有赋值都成立。本文提出了一种根据分布中存在的CSI对马尔可夫随机场进行因子分解的方法,并形式上保证了这种分解是正确的。这是在我们的主要贡献,上下文特定的Hammersley-Clifford定理,一个推广到CSI的Hammersley-Clifford定理,适用于条件独立。
2013-06-10 cs.AI cs.LG
A Scalable Conditional Independence Test for Nonlinear, Non-Gaussian Data
Carnegie Mellon University(卡内基梅隆大学)
许多科学上感兴趣的关系都是非线性的,即使在线性系统中,分布也常常是非高斯的,例如在fMRI BOLD数据中。高维数据中因果关系的一类搜索过程依赖于样本导出的条件独立决策。最常见的应用依赖于高斯测试,在非线性非高斯情况下可能会系统性地出错。最近的工作(Gretton et al.(2009),Tillman et al.(2009),Zhang et al.(2011))提出了使用再生核希尔伯特空间(RKHS)的条件独立性测试。其中,也许最有效的是KCI(Kernel Conditional Independence,Zhang et al.(2011)),其计算需求至少有效地增长为O(N3),使其超出大样本量分析的范围,并限制其适用于高维数据集。我们提出了一类O(N2)的测试,使用条件相关独立性(CCI),需要几秒钟的标准工作站上的测试,需要几十分钟到几个小时的KCI方法,根据并行化程度,具有类似的精度。对于困难的非线性,非高斯数据集的准确性,我们还比较了Harris & Drton(2012)最近的测试,适用于高斯copula中的非线性,非高斯分布,以及部分相关性,线性高斯测试。
2014-01-29 cs.AI stat.ME
Conditions Under Which Conditional Independence and Scoring Methods Lead to Identical Selection of Bayesian Network Models
City University, London(伦敦城市大学)
在处理从数据推断贝叶斯网络结构的任务的论文中,经常提到有两种不同的方法:(i)在测试边缘的存在或其他情况时应用条件独立性测试;(ii)使用评分度量搜索模型空间。在这里,我认为,对于完整的数据和一个给定的节点排序这种分工是一个神话,通过显示,交叉熵方法检查条件独立性是数学上相同的方法的基础上区分模型的整体拟合优度对数得分。
2013-01-10 cs.AI cs.LG stat.ML
Knowledge Propagation over Conditional Independence Graphs
Microsoft Research(微软研究院)
本文针对条件独立图提出知识传播算法,通过利用特征间的直接依赖关系改进图上的信息传播,并在Cora和PubMed数据集上取得优于现有方法的性能。
2024-10-22 cs.AI cs.LG
Representing Independence Models with Elementary Triplets
Linköping University(林雪平大学)
在独立模型中,表示单例之间的条件独立的三元组被称为基本的。已知在某些条件下,基本三元组明确地表示独立模型。在本文中,我们将展示这种表示如何帮助独立模型执行一些操作,例如找到独立模型的主导三元组或最小独立映射,或计算一对独立模型的并集或交集,或执行因果推理。对于后者,我们用条件独立性来重新表述Pearl计算因果效应的一些结果。
2016-12-04 cs.AI stat.ML
A Fast Kernel-based Conditional Independence test with Application to Causal Discovery
University of Hamburg(汉堡大学)
本文提出FastKCI,一种基于核的快速条件独立性检验方法,通过并行化和专家混合策略提升计算效率,适用于大规模因果发现任务。
2025-12-04 cs.AI cs.LG stat.ML
On the Conditional Independence Implication Problem: A Lattice-Theoretic Approach
Indiana University(印第安纳大学);Hasselt University(哈瑟尔特大学)
格理论的框架,允许研究的条件独立(CI)的蕴涵问题相对于类的离散概率措施。将半格与CI语句联系起来,给出了一个与半格包含有关的有限、可靠和完备的推理系统。这个系统被证明是(1)健全和完整的饱和CI语句,(2)完整的一般CI语句,(3)健全和完整的稳定CI语句。这些结果产生了一个标准,可以用来伪造的蕴涵问题的实例和几个算法推导出近似这个“格排除”标准在多项式时间。最后,我们提供的实验结果,我们的工作从其他现有的推理算法获得的结果。
2014-08-09 cs.AI cs.LO
On the Conditional Independence Implication Problem: A Lattice-Theoretic Approach
Indiana University(印第安纳大学);Hasselt University(哈塞尔特大学)
格理论的框架,允许研究的条件独立(CI)的蕴涵问题相对于类的离散概率措施。将半格与CI语句联系起来,给出了一个与半格包含有关的有限、可靠和完备的推理系统。这个系统被证明是(1)健全和完整的饱和CI语句,(2)完整的一般CI语句,(3)健全和完整的稳定CI语句。这些结果产生了一个标准,可以用来伪造的蕴涵问题的实例和几个算法推导出近似这个“格排除”标准在多项式时间。最后,我们提供的实验结果,我们的工作从其他现有的推理算法获得的结果。
2008-10-31 cs.AI cs.DM
Fast Conditional Independence Test for Vector Variables with Large Sample Sizes
California Institute of Technology(加州理工学院)
我们提出并评估快速(条件)独立性测试(FIT)-非参数条件独立性测试。该测试基于以下想法:当$P(X \mid Y, Z) = P(X \mid Y)$时,只要$Y$也是回归变量,则$Z$作为预测$X$的特征是无用的。相反,如果是$P(X \mid Y, Z) \neq P(X \mid Y)$,则$Z$可能改善预测结果。FIT适用于具有十万个样本的千维随机变量,所需时间仅为其他方法的一小部分。我们提供了一个广泛的评价,比较适合六个现存的非参数独立性检验。评估表明,与其他测试相比,FIT产生I类和第二类错误的概率较低,尤其是随着可用样本数量的增加。我们的FIT实现是公开的。
2018-04-08 cs.AI cs.LG stat.ML
A Framework for Inferring Causality from Multi-Relational Observational Data using Conditional Independence
Duke University(杜克大学);University of Washington(华盛顿大学)
因果关系或因果推断的研究-给定的治疗对人群中给定结果的因果影响程度-远远超出了变量的相关性或关联分析,并且对于在众多应用中做出合理的数据驱动决策和政策至关重要。因果推理的黄金标准是进行“受控实验”,由于逻辑或道德原因,这通常是不可能的。作为替代方案,基于“Neyman-Rubin潜在结果模型”对“观测数据”进行因果关系推断已在几十年来广泛用于统计学,经济学和社会科学。在本文中,我们提出了一个正式的框架,健全的因果分析的观测数据集,给出了多重关系,并在研究中的人口是通过加入这些基础关系。我们研究了从观察数据推断因果关系的一个关键条件,称为“强可检验性假设”(考虑到观察到的协变量,治疗和结局变量在联合关系中应该是独立的),使用在基础关系中保持的已知条件独立性。我们还讨论了作为图形模型的基础关系中的条件独立性的结构如何帮助推断新的条件独立性的联合关系。拟议的框架结合了数据库,统计和图形模型的概念,旨在启动跨越这些领域的新研究方向,以促进当今大数据世界中强大的数据驱动决策。
2017-08-08 cs.AI cs.DB
Conditional independences and causal relations implied by sets of equations
University of Amsterdam(阿姆斯特丹大学);Radboud University Nijmegen(拉德堡德大学)
现实世界中的复杂系统往往是由一组具有内生和外生变量的方程来建模的。对于出现在这些方程中的变量的因果和概率方面,我们能说些什么呢?我们利用Simon的因果排序算法(Simon,1953)构造了一个因果排序图,并证明了在某些唯一的可解性假设下,它表示了软的和完美的干预对方程的影响。我们进一步构建了一个马尔可夫排序图,并证明了它编码的条件独立的分布所隐含的方程与独立的随机外生变量,在一个类似的唯一的可解性假设。我们讨论了这种方法如何揭示和解决现有因果建模框架的一些局限性,如因果贝叶斯网络和结构因果模型。
2021-01-31 cs.AI stat.ML
A Conditional Independence Test in the Presence of Discretization
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(金山大学)
针对仅能观测潜在连续变量离散化版本导致传统条件独立性检验失效的问题,提出基于桥接方程恢复潜变量统计参数并推导渐近分布的新检验方法。
2025-03-18 cs.AI cs.LG stat.ML
Score-based Generative Modeling for Conditional Independence Testing
Fudan University(复旦大学);Alibaba Group(阿里巴巴集团);SIAT, Chinese Academy of Sciences(中国科学院软件研究所);Tongji University(同济大学)
针对现有基于生成模型的条件独立性测试在条件分布建模和训练稳定性上的不足,提出基于分数的生成建模方法,通过切片条件分数匹配和Langevin动力学采样实现精确的第一类错误控制与强测试功效,实验证明其显著优于现有方法。
2025-05-29 cs.AI cs.LG
Unsupervised Risk Estimation Using Only Conditional Independence Structure
Stanford University(斯坦福大学)
我们展示了如何估计模型的测试误差从未标记的数据,分布非常不同的训练分布,而假设只有一定的条件独立性之间保留训练和测试。我们不需要假设最优预测器在训练和测试之间是相同的,或者真实分布位于任何参数族中。我们还可以有效地区分误差估计,以执行无监督的判别学习。我们的技术工具是矩量法,它允许我们在没有完全指定的模型的情况下利用条件独立性。我们的框架包括一个大家庭的损失,包括日志和指数损失,并扩展到结构化的输出设置,如隐马尔可夫模型。
2016-06-16 cs.AI cs.LG stat.ML
On the Number of Conditional Independence Tests in Constraint-based Causal Discovery
Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard(埃里克和文黛斯中心,MIT和哈佛Broad研究所);Centre de Formació Interdisciplinària Superior, Universitat Politècnica de Catalunya(跨学科高级培训中心,加泰罗尼亚理工大学);Laboratory for Information and Decision Systems, Massachusetts Institute of Technology(信息与决策系统实验室,麻省理工学院)
本文提出一种复杂度更低的算法,通过减少条件独立性测试数量提升因果发现效率,同时证明了约束方法的理论下限。
2026-03-23 cs.AI cs.LG stat.ME
Efficient Ensemble Conditional Independence Test Framework for Causal Discovery
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
本文提出了一种高效的条件独立性测试框架,通过分组聚合策略降低计算复杂度并提升因果发现性能。
2026-02-27 cs.AI cs.LG stat.ML