Temporal Properties of Conditional Independence in Dynamic Bayesian Networks
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
本文研究动态贝叶斯网络中条件独立性命题的时序逻辑验证问题,分析了随机与结构两类CI性质的验证复杂度,并给出了让结构CI性质验证易处理的图结构限制条件。
2025-11-13 cs.AI
Conditions Under Which Conditional Independence and Scoring Methods Lead to Identical Selection of Bayesian Network Models
City University, London(伦敦城市大学)
在处理从数据推断贝叶斯网络结构的任务的论文中,经常提到有两种不同的方法:(i)在测试边缘的存在或其他情况时应用条件独立性测试;(ii)使用评分度量搜索模型空间。在这里,我认为,对于完整的数据和一个给定的节点排序这种分工是一个神话,通过显示,交叉熵方法检查条件独立性是数学上相同的方法的基础上区分模型的整体拟合优度对数得分。
2013-01-10 cs.AI cs.LG stat.ML
Free Energy Manifold: Score-Based Inference for Hybrid Bayesian Networks
ATOS Co., Ltd.(ATOS公司);C5I Center, George Mason University(乔治·马歇尔大学C5I中心)
本文提出自由能流形(FEM),一种用于混合贝叶斯网络推断的分数训练条件能量模型,通过能量叠加实现多连续变量的后验评估和生成采样。
2026-05-11 cs.AI cs.LG
Uncertain Bayesian Networks: Learning from Incomplete Data
Univ. of Michigan(密歇根大学);US Army DEVCOM ARL(美国陆军作战能力发展司令部陆军研究实验室);Univ. of Brescia(布雷西亚大学)
在历史数据有限的情况下,贝叶斯网络节点的条件概率是不确定的,可以通过经验估计得到。二阶估计方法为估计概率和量化这些估计中的不确定性提供了一个框架。我们将这些情况称为不确定或二阶贝叶斯网络。当这些数据完整时,即,对于每个实例化观察所有变量值,已知条件概率是狄利克雷分布的。本文改进了当前处理不确定贝叶斯网络的最新方法,使它们能够学习其参数的分布,即,条件概率,数据不完整。我们广泛地评估各种方法来学习后验的参数,通过所需的和经验得出的各种查询的置信区间的强度。
2022-08-08 cs.AI cs.LG stat.ML
Robust Exploration with Tight Bayesian Plausibility Sets
University of New Hampshire(新罕布什尔大学)
对于许多被证明有效的强化学习算法来说,对状态和动作的乐观态度是探索的主要驱动力。我们提出了乐观面对明智的价值函数(OFVF)-一种新的数据驱动的贝叶斯算法来构建MDP的似然集,以探索鲁棒地最小化最坏情况下的探索成本。该方法通过引入两个新的想法来计算具有更严格的乐观估计的探索策略。首先,它是基于贝叶斯后验分布,而不是分布自由边界。其次,OFVF不构造可扩展性集作为简单的置信区间。置信区间作为相容性集是一个充分条件,但不是必要条件。OFVF使用价值函数的结构来优化可扩展性集合的位置和形状,以直接保证上界,而不必强制要求集合是置信区间。OFVF以发作的方式进行,其中发作的持续时间是固定和已知的。我们的算法本质上是贝叶斯的,可以利用先验信息。我们的理论分析表明,OFVF的鲁棒性,和实证结果表明其实际的承诺。
2019-04-17 cs.AI cs.LG stat.ML
What is the plausibility of probability?(revised 2003, 2015)
Royal Institute of Technology KTH(皇家理工学院(KTH));Swedish Institute of Computer Science(瑞典计算机科学研究所)
我们提出并研究了一个与不确定性推理有关的结果,即Cox型的可积空间可以唯一地嵌入极小序域。这虽然是一个纯粹的数学结果,但可以声称这意味着,每一个理性的方法,推理与不确定性必须基于扩展的概率分布集,其中扩展的概率是标准概率扩展与无穷小。然而,这个主张必须得到某种非数学类型的论证的支持,因为纯数学并没有告诉我们关于世界的任何东西。我们提出了这样一个论点,并将其与不确定性和统计文献的结果。在一个附加的回顾部分,我们讨论了该地区的一些发展可数的可加性,偏序域和鲁棒性,和哲学立场的Cox/Jaynes方法自2003年以来。我们还表明,最一般的偏序可嵌入在一个环演算可以表示为一组扩展的概率分布,或在代数方面,是一个次直和有序字段。换句话说,鲁棒贝叶斯方法是通用的。这一结果的例子有关Dempster-Shafer的证据理论,强大的贝叶斯分析。
2015-11-23 cs.AI
Plausibility and probability in deductive reasoning
Carleton University(卡尔顿大学);Harvard John A. Paulson School of Engineering and Applied Sciences(哈佛大学约翰·A·保尔森工程与应用科学学院)
我们考虑哥德尔和其他人所评论的关于未经证明的数学陈述的理性不确定性问题。使用贝叶斯启发的参数,我们建立了一个规范的模型,公平的赌注下演绎的不确定性,从概率和算法的理论。我们评论连接到Zeilberger的概念“半严格的证据”,特别是固有的主观性将存在。我们还讨论了金融观点与模型的套利交易者有有限的计算资源。
2019-12-16 cs.AI
Looking for plausibility
Faculty of Computer Science and Information Technology, Universiti Malaya(马来亚大学计算机科学与信息技术学院);Faculty of Science, Universiti Malaya(马来亚大学理学院)
在解释实验数据时,人们实际上是在寻找合理的解释。我们寻找一种可解释性的度量,我们可以用它来比较不同的可能解释,并且当有不同的数据集时,可以将其结合起来。这与传统的概率度量以及建议的可能性度量形成对比。我们定义了这种可扩展性度量应该具有的特征。在了解该度量的概念时,我们探讨了似然性与溯因推理以及与贝叶斯概率的关系。我们还比较了Dempster-Schaefer证据理论,它也有自己的定义的可验证性。溯因可以与推理规则中的双条件性相关联,这提供了一个与柯林斯-米哈尔斯基可解释性理论相关的平台。最后,使用接线逻辑到Hopfield神经网络的形式主义,我们问,如果这是相关的,在获得这一措施。
2010-12-28 cs.AI
Bisimulation and expressivity for conditional belief, degrees of belief, and safe belief
LORIA, CNRS / Université de Lorraine(洛里亚研究所、法国国家科学研究中心 / 洛林大学);DTU Compute, Technical University of Denmark(丹麦技术大学计算学院)
可信性模型是Kripke模型,代理人使用它来推理他们自己和彼此的知识和信念。这些模型被用来解释条件信念、信念度和安全信念的概念。条件信念逻辑既包含该模态,也包含知识模态,信念度逻辑和安全信念逻辑也是如此。关于这些逻辑,可扩展性模型可能包含太多信息。需要一个适当的互模拟概念来表征它们。我们定义了互模拟的概念,并证明了所需的特征:类的图像有限和原像有限的模型(相对于可扩展性关系),两个指向Kripke模型是模态等价的三个逻辑中的任何一个,当且仅当它们是双相似的。结果,这种模型的信息内容可以类似地用条件信念逻辑、信念程度逻辑或安全信念逻辑来表示。我们发现了一个惊人的结果。然而,这并不意味着逻辑具有同样的表达性:条件和信念度的逻辑是不可比较的,信念度的逻辑和安全信念的逻辑是不可比较的,而安全信念的逻辑比条件信念的逻辑更具表达性。鉴于互模拟表征的结果,这是一个同样令人惊讶的结果。我们希望我们的见解可能有助于不断增长的社区正式认识论和定性和定量建模之间的关系。
2016-02-25 cs.AI cs.LO
Sensitivities: An Alternative to Conditional Probabilities for Bayesian Belief Networks
Stanford University(斯坦福大学);Princeton University(普林斯顿大学)
我们展示了另一种方法表示贝叶斯信念网络的灵敏度和概率分布。这种表示等价于传统的条件概率表示,但使节点之间的依赖性明显,直观上易于理解。我们还提出了一个QR矩阵表示的灵敏度和/或条件概率,这是更有效的,在内存需求和计算速度,比传统的表示基于计算机的概率推理的实现。我们使用灵敏度表明,对于某一类二进制网络,近似概率推理的计算时间与结果误差的任何正上限无关。最后,作为一种替代传统的算法,使用条件概率,我们描述了一个精确的概率推理算法,使用QR表示的敏感性和更新的概率分布的节点在网络中根据来自邻居的消息。
2013-02-20 cs.AI
Disintegration and Bayesian Inversion via String Diagrams
National Institute of Informatics(国立信息学研究所)
分解和贝叶斯反演的概念是条件概率论的基础。它们从一个联合状态或从一个已经给定的通道(在相反的方向上)产生通道,作为条件概率。这些概念存在于文献中,在具体的情况下,但在这里提出了抽象的图形公式。由此产生的抽象描述用于证明条件概率论中的基本结果。分解和贝叶斯反演的存在性进行了讨论离散概率,也为测度论概率-通过标准波莱尔空间和通过似然。最后,分解和贝叶斯反演的有用性说明了几个例子。
2019-02-08 cs.AI
Bayesian Conditional Generative Adverserial Networks
The University of Adelaide(阿德莱德大学);Queensland University of Technology(昆士兰科技大学);CMU(卡内基梅隆大学)
传统的GANs使用确定性生成器函数(通常是神经网络)将随机噪声输入$z$转换为采样器试图区分的样本$\mathbf{x}$。我们提出了一种新的GAN,称为贝叶斯条件生成对抗网络(BC-GAN),它使用随机生成器函数将确定性输入$y'$转换为样本$\mathbf{x}$。我们的BC-GANs将传统的GANs扩展到贝叶斯框架,并自然地处理无监督学习,监督学习和半监督学习问题。实验表明,所提出的BC-GANs优于最先进的。
2017-06-17 cs.AI cs.LG stat.ML
Extension of Boolean algebra by a Bayesian operator; application to the definition of a Deterministic Bayesian Logic
这项工作有助于领域的布尔代数和贝叶斯概率,提出了一个代数扩张的布尔代数,实现了一个操作的贝叶斯条件推理,并在此操作下关闭。从Lewis的工作(Lewis' triviality)开始,人们就知道在事件空间中构造这样的条件算子是不可能的。然而,这项工作提出了一个答案,补充刘易斯的平凡,建设的条件运营商以外的空间的事件,从而导致一个代数扩张。特别地,证明了定义在布尔代数上的任何概率都可以按照条件概率的乘法定义,扩张到它的代数扩张上.本文最后在此代数扩张的基础上引入了一个新的二值逻辑,并得到了它的基本性质。
2011-12-15 cs.AI cs.LO math.LO
Linear-Nonlinear-Poisson Neuron Networks Perform Bayesian Inference On Boltzmann Machines
The Ohio State University(俄亥俄州立大学)
深度学习和经典连接主义观点中的一个猜想是,生物大脑实现了某些类型的深度网络作为其后端。然而,据我们所知,尚未建立详细的对应关系,如果我们想在神经科学和机器学习之间架起桥梁,这一点很重要。最近的研究强调了线性-非线性-泊松(Linear-Nonlinear-Poisson,LNP)神经元模型的生物相容性。我们表明,神经合理的设置,整个网络是能够代表任何玻尔兹曼机和执行半随机贝叶斯推理算法之间的吉布斯采样和变分推理。
2013-01-27 cs.AI cs.NE q-bio.NC
An Entropy-based Learning Algorithm of Bayesian Conditional Trees
本文在手写数字识别的背景下,对Chow和Liu的学习算法进行了改进。修改后的算法指导用户将数字分组为几个类别,这些类别由难以区分的数字组成,然后为每个类别的数字构建一个最佳条件树表示,而不是像Chow和Liu(1968)那样为每个数字构建一个最佳条件树表示。讨论了新方法的优点和扩展。Wong和Wang(1977)以及Wong和Poon(1989)的相关工作提供了一种不同的基于熵的学习算法,这些工作被证明是基于不适当的假设。
2013-03-13 cs.AI cs.CV cs.LG
An AI-powered Bayesian Generative Modeling Approach for Arbitrary Conditional Inference
Department of Biostatistics, Yale University(耶鲁大学生物统计学系);Department of Statistics, Stanford University(斯坦福大学统计学系)
本文提出了一种基于人工智能的贝叶斯生成建模方法,用于解决任意条件推断问题,通过统一框架实现灵活的条件预测和不确定性量化。
2026-03-10 cs.AI cs.LG stat.CO
Optimal partition of feature using Bayesian classifier
针对朴素贝叶斯分类器中特征条件依赖易引发决策偏差、条件独立难实现的问题,提出共单调独立分类器CIBer实现特征最优划分,在多数据集上取得比随机森林、XGBoost更低错误率及相当或更高准确率。
2024-12-08 cs.AI cs.LG
Domain Generalization under Conditional and Label Shifts via Variational Bayesian Inference
Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院);Beth Israel Deaconess Medical Center(贝斯以色列女执事医疗中心);National University of Singapore(新加坡国立大学);Johns Hopkins University(约翰斯·霍普金斯大学)
在这项工作中,我们提出了一个领域泛化(DG)的方法来学习几个标记的源域和知识转移到一个目标域,是在训练中无法访问。考虑到固有的条件性和标签偏移,我们预期$p(x|y)$和$p(y)$的对齐。然而,广泛使用的领域不变特征学习(IFL)方法依赖于对齐的边缘概念移位w.r.t. $p(x)$,它依赖于一个不切实际的假设,即$p(y)$是跨域不变的。因此,我们提出了一种新的变分贝叶斯推理框架,以执行条件分布对齐w.r.t. $p(x|y)$通过在潜在空间中的先验分布匹配,这也采取边际标签偏移w.r. t。$p(y)$与后对线一起考虑。在各种基准上的大量实验表明,我们的框架是强大的标签偏移和跨域的准确性显着提高,从而实现优于传统的IFL同行的性能。
2021-07-22 cs.AI cs.CV cs.LG