Learning Bayesian Networks from Incomplete Databases
从数据库中学习贝叶斯置信网络（BBN）图形结构的贝叶斯方法都假设数据库是完整的，也就是说，没有条目被报告为未知。试图放宽这一假设涉及到昂贵的迭代法的使用，以区分不同的结构。本文介绍了一种确定性的方法来学习一个BBN的图形结构，从一个可能不完整的数据库。实验结果表明，该方法具有很强的鲁棒性，并且其执行时间与丢失数据的数量具有显著的独立性。
2013-02-06 cs.AI cs.LG
Efficient Algorithms for Bayesian Network Parameter Learning from Incomplete Data
University of California, Los Angeles（加州大学洛杉矶分校）；KU Leuven（鲁汶大学）
我们提出了一个有效的家庭的算法来学习贝叶斯网络的参数从不完整的数据。与EM和梯度法等教科书方法相比，我们的方法是非迭代的，产生封闭形式的参数估计，并消除了贝叶斯网络中推理的需要。我们的方法提供了一致的参数估计缺失数据的问题，MCAR，MAR，在某些情况下，MNAR。经验上，我们的方法比EM快几个数量级（因为我们的方法不需要推理）。如果有足够的数据，我们学习的参数可以更精确。
2014-11-25 cs.AI cs.LG
Updating beliefs with incomplete observations
目前，有新的兴趣的问题，提出了谢弗在1985年，更新概率时，观察是不完整的。这是一个基本问题，特别是贝叶斯网络。最近，Grunwald和Halpern已经表明，常用的更新策略在这种情况下失败，除非在非常特殊的假设。在本文中，我们提出了一种新的方法来更新不完整的观测值的概率。我们的方法是故意保守的：我们不对所谓的不完整性机制做任何假设，这种机制将完整与不完整的观察联系起来。我们通过一个空洞的低预见来模拟我们对这种机制的无知，这是一种来自不精确概率理论的工具，我们只使用相干参数来将先验概率转换为后验概率。一般来说，这种新的更新方法会产生较低和较高的后验概率和期望，以及部分确定的决策。这是对不完全性机制的现有无知的逻辑结果。我们应用新的方法来分类的问题，新的证据在概率专家系统，在那里它会导致一个新的，所谓的保守更新规则。在贝叶斯网络使用专家知识构建的特殊情况下，我们提供了一个精确的算法分类的基础上，我们的更新规则，它具有线性时间复杂度的一类网络比多叉树。然后，这个结果被扩展到更一般的信用网络框架，其中计算通常比贝叶斯网络更困难。使用一个例子，我们表明，我们的规则似乎提供了一个坚实的基础，可靠的更新不完整的观察，当没有强有力的假设不完整的机制是合理的。
2004-05-17 cs.AI
Learning Bayesian Networks from Incomplete Data with Stochastic Search Algorithms
George Mason University（乔治梅森大学）；IET（IET公司）
本文介绍了随机搜索方法，包括一个新的随机算法和自适应变异算子，学习贝叶斯网络从不完整的数据。这个问题的特点是一个巨大的解决方案空间与高度多模态景观。最先进的方法都涉及使用确定性方法，如期望最大化算法。这些方法保证找到局部最大值，但不探索其他模式的景观。我们的方法发展了结构和缺失的数据。我们比较我们的随机算法，并表明他们都产生准确的结果。
2013-01-23 cs.AI cs.LG
Learning Bayesian Networks with Incomplete Data by Augmentation
University of Amsterdam（阿姆斯特丹大学）
我们提出了新的算法，学习贝叶斯网络的缺失值的数据，使用数据增强的方法。通过将该问题转化为一个无数据缺失的标准贝叶斯网络学习问题，得到了一个精确的贝叶斯网络学习算法。据我们所知，这是这个问题的第一个精确算法。正如预期的那样，精确算法不能扩展到大的域。我们建立在精确的方法，使用爬山技术创建一个近似算法。该算法可扩展到大的域，只要一个合适的标准结构学习方法的完整的数据是可用的。我们进行了广泛的实验，以证明学习贝叶斯网络的好处，这种新的方法。
2016-10-09 cs.AI stat.ML
Parameterized Complexity Results for Exact Bayesian Network Structure Learning
Masaryk University（马萨里克大学）；Vienna University of Technology（维也纳工业大学）
贝叶斯网络结构学习是一个非常困难的问题，即发现一个最佳地表示一组给定的训练数据的贝叶斯网络。在本文中，我们研究的计算最坏情况下的复杂性的精确贝叶斯网络结构学习的图论限制（有向）的超结构。超结构是一个无向图，包含作为子图的解决方案网络的骨架。我们引入有向超结构作为其无向对应物的自然推广。我们的研究结果适用于基于分数的贝叶斯网络结构学习的几个变体，其中网络的分数分解为其节点的局部分数。结果如下：证明了当超结构具有有界树宽时，精确贝叶斯网络结构学习可以在非均匀多项式时间内进行;当超结构具有有界最大度时，精确贝叶斯网络结构学习可以在线性时间内进行.此外，我们表明，如果有向超结构是非循环的，那么精确的贝叶斯网络结构学习可以在二次时间进行。我们补充这些积极的结果与一些硬度的结果。我们表明，这两个限制（树宽和程度）是必不可少的，不能被丢弃而不失去统一的多项式时间的易处理性（受复杂性理论的假设）。类似地，精确贝叶斯网络结构学习对于“几乎无环”有向超结构仍然是NP难的。此外，我们表明，如果我们不搜索一个全局最优的网络，但旨在改善给定的网络，通过最多k弧添加，弧删除，或弧反转（k邻域局部搜索）的限制仍然是必不可少的。
2014-02-04 cs.AI cs.LG
Efficient Approximations for the Marginal Likelihood of Incomplete Data Given a Bayesian Network
Microsoft Research（微软研究院）；University of California（加利福尼亚大学）
我们讨论了当数据集不完整时学习贝叶斯网络的贝叶斯方法。特别是，我们研究贝叶斯网络的不完整数据的边际似然的渐近近似。我们考虑拉普拉斯近似和精度较低，但更有效的BIC/MDL近似。我们还考虑了Draper（1993）和Cheeseman和Stutz（1995）提出的近似。这些近似与BIC/MDL一样有效，但其精度尚未进行任何深入研究。我们比较这些近似的准确性的假设下，拉普拉斯近似是最准确的。在实验中使用的合成数据产生的离散朴素贝叶斯模型具有一个隐藏的根结点，我们发现，CS措施是最准确的。
2015-05-17 cs.AI cs.LG stat.ML
Solving MAP Exactly using Systematic Search
University of California（加利福尼亚大学）
MAP是在给定一些证据的情况下，在贝叶斯网络中找到一组变量的最可能实例的问题。与计算后验概率（MPE）（MAP的一种特殊情况）不同，MAP的结构解的时间和空间复杂度不仅在网络树宽中呈指数级，而且在一个更大的参数（称为“约束”树宽）中也呈指数级。在实践中，这意味着计算MAP可能比计算后验概率或MPE贵几个数量级。本文提出了一个新的，简单的上限的概率MAP解决方案，它允许之间的折衷的边界质量和所需的时间来计算它。该界被证明是一般更严格的比那些可比的复杂性的其他方法。我们使用这个建议的上限开发一个分支定界搜索算法求解MAP。实验结果表明，该搜索算法能够解决许多问题，是远远超出了任何基于结构的方法为MAP。例如，我们表明，该算法可以计算MAP的一些网络的约束树宽度大于40准确和有效的。
2012-10-19 cs.AI
Updating with incomplete observations
Ghent University（根特大学）；IDSIA（人工智能研究所）
目前，人们对Shafer于1985年提出的在观测不完整（或集值）时更新概率的问题重新产生了兴趣。这是一个基本问题，对贝叶斯网络特别感兴趣。最近，Grunwald和Halpern证明了常用的更新策略在这里失败，除非在非常特殊的假设下。我们提出了一个新的规则更新概率不完整的观测。我们的方法是故意保守的：我们对产生不完整观测的所谓不完整机制不做任何假设或做很弱的假设。我们的模型，我们对这种机制的无知由一个空洞的较低的prevision，从理论上的不精确概率的工具，我们推导出一个新的更新规则，使用相干参数。一般来说，我们的规则产生较低的后验概率，以及部分确定的决策。这是对不完全性机制无知的逻辑结果。我们展示了如何新的规则可以妥善解决明显的悖论在“蒙蒂霍尔”难题。此外，我们将其应用到贝叶斯网络中使用专家知识构建的新证据的分类。我们提供了一个精确的算法，这个任务的线性时间复杂度，也为多连通网。
2014-08-07 cs.AI
On the Robustness of Most Probable Explanations
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
在贝叶斯网络中，最可能的解释（MPE）是一个完整的变量实例，具有最高的概率给定的当前证据。在本文中，我们讨论的问题，找到单参数变化下的MPE的鲁棒性条件。具体来说，我们提出这样一个问题：在保持MPE不变的情况下，我们可以承受单个网络参数的多大变化？我们将描述一个过程，这是第一次，它在时间O（n exp（w））内计算贝叶斯网络变量中每个参数的答案，其中n是网络变量的数量，w是它的树宽。
2012-06-27 cs.AI
EDML: A Method for Learning Parameters in Bayesian Networks
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
提出了一种在不完全数据下学习二进制贝叶斯网络MAP参数的方法EDML。该方法假设Beta先验，并且可以用于在先验信息不充分时学习最大似然参数。EDML表现出有趣的行为，特别是与EM相比。我们介绍EDML，解释它的起源，并研究它的一些属性分析和经验。
2012-02-14 cs.AI
Uncertain Bayesian Networks: Learning from Incomplete Data
Univ. of Michigan（密歇根大学）；US Army DEVCOM ARL（美国陆军作战能力发展司令部陆军研究实验室）；Univ. of Brescia（布雷西亚大学）
在历史数据有限的情况下，贝叶斯网络节点的条件概率是不确定的，可以通过经验估计得到。二阶估计方法为估计概率和量化这些估计中的不确定性提供了一个框架。我们将这些情况称为不确定或二阶贝叶斯网络。当这些数据完整时，即，对于每个实例化观察所有变量值，已知条件概率是狄利克雷分布的。本文改进了当前处理不确定贝叶斯网络的最新方法，使它们能够学习其参数的分布，即，条件概率，数据不完整。我们广泛地评估各种方法来学习后验的参数，通过所需的和经验得出的各种查询的置信区间的强度。
2022-08-08 cs.AI cs.LG stat.ML
The threshold EM algorithm for parameter learning in bayesian network with incomplete data
Preparatory Institute of Engineer of Faculty of science of Monastir（莫纳斯提尔科学学院工程师预备学院）；Faculty of science of Monastir（莫纳斯提尔科学学院）
贝叶斯网络（BN）应用范围很广，但它们有一个关于参数学习的问题。在实际应用中，训练数据往往是不完整的，或者是隐藏了一些节点。为了解决这个问题，提出了许多学习参数算法，如EM算法、Gibbs抽样算法和RBE算法。为了限制EM算法的搜索空间和避免EM算法的局部极值，本文提出了一种融合EM算法和RBE算法的学习参数算法。该算法将一个参数的范围纳入EM算法。这个范围是通过RBE算法的第一步计算的，允许在EM算法的最大化步骤之后对baidu网络中的每个参数进行正则化。将阈值EM算法应用于脑肿瘤的诊断中，对比了EM算法的优缺点。
2012-04-07 cs.AI cs.LG stat.ML
Tackling Incomplete Data in Air Quality Prediction: A Bayesian Deep Learning Framework for Uncertainty Quantification
School of Intelligent Systems Engineering, Sun Yat-sen University（智能系统工程学院，中山大学）；Guangdong Provincial Key Laboratory of Intelligent Transportation System（广东省智能交通系统重点实验室）；Guangdong Provincial Engineering Research Center for Traffic Environmental Monitoring and Control（广东省交通环境监测与控制工程研究中心）
提出CGLUBNF框架，通过贝叶斯推断与通道门控学习单元处理空气质量预测中的不完整数据，实现高精度预测与不确定性量化。
2025-11-04 cs.AI cs.LG
Bayesian Treatment of Incomplete Discrete Data applied to Mutual Information and Feature Selection
给定一对随机变量的联合机会，可以计算感兴趣的量，如互信息。未知机会的贝叶斯处理涉及从二阶先验分布和数据似然计算机会的后验分布。不完全数据的一种常见处理方法是假设可重复性并通过期望最大化（EM）算法确定机会。上述两种不同的方法是公认的，但通常是分开的。本文在Dirichlet先验的情况下将这两种方法结合起来，导出了机会和互信息的均值、众数和（协）方差的有效近似。此外，我们证明了单峰的后验分布，从而EM收敛到全局最大值的重要性质，在选定的框架。这些结果适用于增量学习和朴素贝叶斯分类的特征选择问题。基于互信息分布的快速滤波器被证明优于基于经验互信息的传统滤波器。
2003-06-24 cs.AI cs.LG math.PR
Improving parameter learning of Bayesian nets from incomplete data
IDSIA（瑞士人工智能研究所）
本文讨论了不完全数据下贝叶斯网络的参数估计问题。通常通过多次运行期望最大化（EM）算法来处理该任务，以获得高对数似然估计。我们认为，选择最大对数似然估计（以及最大惩罚对数似然和最大后验估计）有严重的缺点，受到过拟合和模型不确定性的影响。讨论了两个想法，以克服这些问题：最大熵的方法和贝叶斯模型平均的方法。这两个想法都可以很容易地应用于EM之上，而熵的想法也可以通过一个专用的非线性求解器以更复杂的方式实现。大量的实验表明，这些想法产生显着更好的估计和推理比传统的和广泛使用的最大（惩罚）对数似然和最大后验估计。特别地，如果EM被采用作为优化引擎，则模型平均方法是性能最好的方法;当使用非线性求解器实现时，其性能与熵方法相匹配。结果表明，这些想法的适用性是直接的（它们很容易实现，并集成到目前可用的推理引擎），他们构成了一个更好的方式来学习贝叶斯网络参数。
2011-10-12 cs.AI cs.LG stat.ML
LUME-DBN: Full Bayesian Learning of DBNs from Incomplete data in Intensive Care
Department of Informatics, Systems and Communication, University of Milano-Bicocca（米兰-比科卡大学信息学、系统与通信系）；Department of Science and Engineering, University of Groningen（格罗宁根大学科学与工程系）；BReCHS – Bicocca Research Centre in Health Services（比科卡健康服务研究中心）；Bicocca Bioinformatics Biostatistics and Bioimaging Centre - B4, University of Milano-Bicocca, Vedano al Lambro (MB), Italy（比科卡生物信息学、生物统计学与生物成像中心-B4，米兰-比科卡大学，维达诺阿尔兰布罗（MB），意大利）
本文提出LUME-DBN方法，通过全贝叶斯框架从不完整数据中学习动态贝叶斯网络，提升重症监护中对时间动态的建模能力与不确定性估计，优于传统方法如MICE。
2025-11-06 cs.AI cs.LG
New Advances in Inference by Recursive Conditioning
University of California（加利福尼亚大学）
递归条件（Recursive Conditioning，RC）是最近提出的第一个贝叶斯网络任意空间推理算法，它可以通过改变缓存的大小以存储浮点数来换取时间和空间。在完全缓存下，RC具有渐近的时间和空间复杂度，这与基于变量消除和聚类的主流算法相当（网络树宽为指数，其大小为线性）。本文给出了关于RC的两个主要结果。首先，我们表明，它的实际空间需求下完全缓存比主流方法所需的更温和，并研究这一发现的影响。其次，我们表明，RC可以有效地处理贝叶斯网络中的确定性，采用标准的逻辑技术，如单位分辨率，允许显着减少在某些情况下，其时间要求。我们使用一些基准网络来说明我们的结果，包括在遗传连锁分析中出现的非常具有挑战性的网络。
2012-10-19 cs.AI
Learning Arithmetic Circuits
University of Washington（华盛顿大学）
图形模型通常是在不考虑使用它们进行推理的成本的情况下学习的。因此，即使学习了一个好的模型，它在预测方面也可能表现不佳，因为它需要近似推理。我们提出了一个替代方案：学习模型的得分函数，直接惩罚推理的成本。具体来说，我们学习算术电路，并对电路中的边缘数量进行惩罚（其中推理的成本是线性的）。我们的算法是等价于学习贝叶斯网络与上下文特定的独立性，通过greatly分裂的条件分布，在每一步得分的候选人，将产生的网络编译成一个算术电路，并使用其大小作为惩罚。我们展示了如何有效地做到这一点，而无需从头开始为每个候选人编译电路。在几个真实领域的实验表明，我们的算法能够学习具有非常大的树宽的易处理的模型，并在更短的时间内产生比标准的特定于上下文的贝叶斯网络学习器更准确的预测。
2012-06-13 cs.AI
Phase Transition of Tractability in Constraint Satisfaction and Bayesian Network Inference
University of Alberta（阿尔伯塔大学）
识别NP完全问题的易处理子类并为这些易处理子类设计有效的算法一直是研究的热点。约束满足和贝叶斯网络推理是这类问题的两个例子，在人工智能和算法中非常重要。本文在随机约束满足问题和随机贝叶斯网络的框架下，研究了一个以问题树宽为特征的典型易处理子类。我们发现，具有有限树宽的CSP和贝叶斯网络推理问题的属性有一个相变，而发生的问题的底层结构仍然稀疏。这意味着，算法利用树宽的结构知识，只有在有限的范围内的随机实例有效地工作。
2012-10-19 cs.AI cs.DS
The Dutch's Real World Financial Institute: Introducing Quantum-Like Bayesian Networks as an Alternative Model to deal with Uncertainty
University of Leicester（莱斯特大学）；Memorial University（纽芬兰纪念大学）；Instituto Superior Técnico（里斯本高等理工学院）；INESC-ID（INESC-ID研究所）
在这项工作中，我们分析并建模了属于荷兰样本银行的现实生活中的金融贷款申请。该日志在数据方面是稳健的，包含总共262 200个事件日志，属于13 087个不同的信贷申请。该数据集是异构的，由计算机生成的自动过程和手动人工任务的混合物组成。目标是制定一个决策模型，该模型代表构成贷款申请服务的基本任务，并评估机构内部流程的潜在改进领域。为此，我们研究的影响不完整的事件日志的提取和分析的业务流程。事件日志不完整，缺少大量信息（例如，工作人员忘记注册他们的任务）是很常见的。数据的缺失会导致精确度的急剧下降，并损害决策模型，导致有偏见和不具代表性的结果。我们研究了经典的概率模型是如何受到不完整的事件日志的影响，我们探索量子概率推理作为一种替代的数学模型，经典的概率。这项工作代表了系统研究量子干涉在现实生活中大规模决策场景中的影响的第一步。在这项研究中获得的结果表明，在高水平的不确定性下，类量子模型产生量子干涉项，这允许数据的额外的非线性参数化。实验结果证明了量子贝叶斯网络的效率，因为干扰项的应用是能够减少的错误百分比的推断进行量子模型相比，由经典模型产生的推论。
2017-10-02 cs.AI quant-ph
New Results for the MAP Problem in Bayesian Networks
Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA)（达勒·莫勒人工智能研究所（IDSIA））
本文提出了新的结果（部分）最大后验概率（MAP）问题的贝叶斯网络，这是问题的查询最可能的状态配置的一些网络变量的证据。首先，它表明，即使在网络非常简单的拓扑结构，如二叉多叉树和简单的树（包括朴素贝叶斯结构）的问题仍然很难。这样的证明扩展了以前的复杂性结果的问题。不可逼近的结果也来自树的情况下，如果每个变量的状态数是没有界的。虽然这个问题被证明是很难的，甚至在非常简单的情况下，一个新的精确算法描述，是经验上快速的有界树宽和有界数量的状态每个变量的网络。在这种假设下，相同的算法被用作MAP的全多项式时间近似方案的基础。近似方案通常被认为是不可能的这个问题，但我们显示，否则类的网络，在实践中是重要的。使用一些著名的网络以及随机生成的情况下，广泛测试的算法，以显示其有效性。
2010-07-29 cs.AI cs.CC stat.ML
Score and Information for Recursive Exponential Models with Incomplete Data
Aalborg University（奥尔堡大学）；Microsoft Research（微软研究院）
递归图模型通常是基于贝叶斯网络的概率专家系统统计建模的基础。本文定义了这些模型的一个版本，表示为递归指数模型，这已经演变的愿望，施加复杂的领域知识的局部片段的模型。除了由给定模型指定的结构知识之外，统计建模还可以包括关于模型中的参数值的专家意见。它示出了如何翻译成近似共轭先验分布的不精确的专家知识。基于可能不完整的数据，这些模型的得分和观察到的信息。这说明了传统得分和观测信息（作为对数似然的导数导出）以及后验得分和观测信息（作为对数后验分布的导数导出）。在整个文件的递归图形模型的专业化占一个简单的例子。
2013-02-06 cs.AI stat.ME
The Complexity of Bayesian Network Learning: Revisiting the Superstructure
Algorithms and Complexity Group, TU Wien（算法与复杂性组，维也纳技术大学）
本文研究了贝叶斯网络学习的复杂性，证明通过反馈边集大小参数化可实现固定参数可处理性，并展示了其在不同输入表示下的应用及扩展至聚树学习的可能。
2026-02-10 cs.AI cs.DS
The Bayesian Structural EM Algorithm
University of California, Berkeley（加州大学伯克利分校）
近年来，有一系列关于从数据中学习贝叶斯网络的工作。这一领域的难题之一是如何从不完整的数据中有效地学习信念网络的结构-也就是说，在存在缺失值或隐藏变量的情况下。在最近的一篇论文中，我介绍了一种称为结构EM的算法，它将标准的期望最大化（EM）算法（优化参数）与结构搜索结合起来进行模型选择。该算法基于惩罚似然分数来学习网络，其中包括BIC/MDL分数和贝叶斯分数的各种近似值。在本文中，我扩展结构EM直接处理贝叶斯模型选择。我证明了所得到的算法的收敛性，并展示了如何将其应用于学习一大类概率模型，包括贝叶斯网络及其一些变体。
2013-01-30 cs.AI cs.LG stat.ML
Exploiting Causality for Selective Belief Filtering in Dynamic Bayesian Networks (Extended Abstract)
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；The University of Edinburgh（爱丁堡大学）
动态贝叶斯网络（DBNs）是一种研究状态部分可观测随机过程的通用模型。DBN中的信念过滤是基于不完整和不确定的观察来推断信念状态（即过程状态的概率分布）的任务。在这篇文章中，我们探索了通过自动利用过程中的因果关系来加速过滤任务的想法。我们考虑一种特定类型的因果关系，称为被动性，它涉及状态变量如何引起其他变量的变化。我们提出了基于被动性的选择性信念过滤（PSBF）方法，该方法保持了一个因子化的信念表示，并利用被动性对信念因子进行选择性更新。PSBF在合成过程和模拟的多机器人仓库，在那里它优于其他过滤方法，利用被动。
2019-07-10 cs.AI cs.RO
The AI&M Procedure for Learning from Incomplete Data
Aalborg Universitet（奥尔堡大学）
我们研究的方法参数学习不完整的数据，是随机缺失。基于似然性的方法则需要考虑所有可能的缺失机制的简档似然性的优化。优化此配置文件的可能性提出了两个主要的困难：多个（局部）最大值，其非常高维的参数空间。在本文中，提出了一种新的方法来优化的轮廓可能性，解决了第二个困难：在建议的AI&M（调整插补和最大化）过程中的优化是通过在数据完成的空间中的操作，而不是直接在参数空间的轮廓可能性。我们将AI&M方法应用于贝叶斯网络的参数学习。该方法进行了比较保守的推断，考虑到每个可能的数据完成，并对EM。结果表明，基于似然的推理仍然是可行的，在未知的缺失机制的情况下，保守的推理是不必要的弱。另一方面，我们的结果也提供了证据，期望最大化算法仍然是相当有效的数据时，不是随机缺失。
2012-06-27 cs.AI cs.LG stat.ME
A Tutorial on Learning With Bayesian Networks
Microsoft Research（微软研究院）
贝叶斯网络是一种图形化模型，它对感兴趣的变量之间的概率关系进行编码。当与统计技术结合使用时，图形模型对数据分析有几个优点。第一，因为模型对所有变量之间的依赖关系进行了编码，所以它很容易处理某些数据录入丢失的情况。第二，贝叶斯网络可用于学习因果关系，因此可用于了解问题领域并预测干预的后果。第三，因为模型同时具有因果和概率语义，所以它是结合先验知识（通常以因果形式出现）和数据的理想表示。第四，贝叶斯统计方法结合贝叶斯网络提供了一种有效和原则性的方法来避免数据的过度拟合。在本文中，我们讨论了从先验知识构建贝叶斯网络的方法，并总结了贝叶斯统计方法，使用数据来改善这些模型。关于后一项任务，我们描述了学习贝叶斯网络的参数和结构的方法，包括使用不完整数据学习的技术。此外，我们将贝叶斯网络学习方法与监督和无监督学习技术联系起来。我们说明了图形建模方法使用现实世界的案例研究。
2022-01-10 cs.AI cs.LG stat.ML
Distribution of Mutual Information from Complete and Incomplete Data
互信息被广泛地用于描述分类随机变量的随机相关性。为了解决诸如描述值的可靠性之类的问题，必须考虑样本到人口的推理方法。本文讨论了互信息的后验分布，在贝叶斯框架下获得的二阶Dirichlet先验分布。精确的解析表达式的平均值，和解析近似的方差，偏度和峰度。这些近似有一个保证的精度水平为O（1/n^3），其中n是样本大小。在不完全样本的情况下，导出了均值和方差的主阶近似。导出的解析表达式允许互信息的分布被可靠地和快速地近似。事实上，可以用描述性互信息所需的相同复杂度来计算导出的表达式。这使得互信息的分布在许多应用中成为描述性互信息的具体替代，这将受益于移动到归纳侧。这些前瞻性的应用进行了讨论，其中之一，即特征选择，表现出显着更好的使用时，感应互信息。
2004-03-15 cs.AI cs.IT cs.LG
Bayesian Robust Tensor Ring Model for Incomplete Multiway Data
Guangdong University of Technology（广东工业大学）；RIKEN（理化学研究所）
鲁棒张量完备化（RTC）的目的是恢复一个低秩张量从其不完整的观察与离群腐败。最近提出的张量环（TR）模型已被证明在解决RTC问题的优越性。然而，现有的方法要么需要预先分配的TR秩，要么积极追求最小TR秩，从而经常导致在存在噪声的情况下有偏的解决方案。本文提出了一种贝叶斯鲁棒张量环分解（BRTR）方法，该方法可以避免对TR秩和惩罚参数的严格选择，从而更精确地求解RTC问题。提出了一种变分贝叶斯算法来推断后验概率分布。在学习过程中，BRTR可以修剪掉具有边缘分量的核心张量切片，从而实现自动TR秩检测。大量的实验表明，BRTR可以实现显着提高性能比其他国家的最先进的方法。
2023-02-15 cs.AI cs.LG stat.ML
Bayesian Inference of Natural Rankings in Incomplete Competition Networks
Korea Advanced Institute of Science and Technology（韩国科学技术院）；Kyung Hee University（庆熙大学）
复杂系统各组成部分之间的竞争以及基于竞争的报酬机制对系统的运行、稳定和演化有着深刻的影响。但是，由于竞争网络的不完整性，确定支配地位等级或从最强到最弱的组成部分之间的排名-这对确定奖励或惩罚至关重要-几乎总是一项模棱两可的任务。在这里，我们介绍了“自然排名”，一个理想的明确的排名方法适用于一个完整的（充分）竞争网络，并制定了一个分析模型的基础上贝叶斯公式推断预期的平均值和误差的自然排名的节点从一个不完整的网络。我们通过应用于现实世界中具有经济和社会重要性的竞争网络来研究其在解决排名问题中的潜力和用途。
2013-06-06 cs.AI cs.SI physics.data-an
Knowledge representation and diagnostic inference using Bayesian networks in the medical discourse
TU Dresden（德累斯顿工业大学）
针对不确定性条件下的诊断推理问题，研究了贝叶斯网络.该方法是基于一个足够的统一表示的必要的知识。这包括存储在知识库中的一般知识和基于经验的具体知识。在知识处理方面，采用了基于概念推理和基于实例推理相结合的问题求解方法。基于概念的推理用于诊断、治疗和药物推荐以及对一般知识的评价。以具体病人病例为形式的推理是通过基于病例的推理来处理的。此外，贝叶斯网络的使用允许处理不确定性，模糊性和不完整性。因此，有效的一般概念可以根据它们的概率来发布。为此，各种推理机制的介绍，并随后在一个开发的原型的上下文中进行评估。测试被用来评估网络诊断的分类。
2022-10-08 cs.AI
Multi-agent Reinforcement Learning in Bayesian Stackelberg Markov Games for Adaptive Moving Target Defense
Arizona State University（亚利桑那州立大学）
网络安全领域大多是一场猫捉老鼠的游戏，新的攻击的发现引领了这一趋势。为了剥夺攻击者的侦察优势，研究人员提出了主动防御方法，如移动目标防御（MTD）。为了找到好的移动策略，研究人员将MTD建模为防御者和网络对手之间的领导者-追随者游戏。我们认为，现有的模型是不够的顺序设置时，有一个理性的对手的信息不完整，并产生次优的运动策略。此外，虽然存在一系列关于在网络安全的顺序设置中学习防御策略的工作，但由于不完整信息引起的可扩展性问题，它们要么不受欢迎，要么倾向于忽略对手的战略性质，从而简化场景以使用单代理强化学习技术。为了解决这些问题，我们提出了（1）一个统一的博弈论模型，称为贝叶斯Stackelberg马尔可夫博弈（BSMG），可以对攻击者类型和MTD系统的细微差别的不确定性进行建模，以及（2）贝叶斯强Stackelberg Q学习（BSS-Q）方法，可以通过交互在合理的时间内学习BSMG的最佳移动策略。我们在不完全信息马尔可夫博弈的景观BSMG和强Stackelberg均衡（SSE）的概念，在他们的特点。我们表明，我们的学习方法收敛到一个SSE的BSMG，然后强调，学习的运动策略（1）提高了最先进的MTD的Web应用程序的安全性和（2）收敛到最佳的策略，即使在MTD域的不完整的信息，对手的奖励和过渡的先验信息是缺席。
2020-07-20 cs.AI cs.CR cs.GT
The complexity of approximate (coarse) correlated equilibrium for incomplete information games
Columbia University（哥伦比亚大学）；Stanford University（斯坦福大学）
研究不完全信息博弈中分散学习近似相关均衡的迭代复杂度，证明扩展型博弈中存在近紧的指数下界，同时为贝叶斯博弈提出多对数迭代次数的上界，揭示了两者间的分离。
2024-06-04 cs.AI cs.DS cs.GT
AmbientFlow: Invertible generative models from incomplete, noisy measurements
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Analog Devices, Inc.（亚德诺半导体技术有限公司）；Washington University in St. Louis（华盛顿大学圣路易斯分校）
针对计算成像中难以获取高质量训练数据的问题，提出AmbientFlow框架，利用变分贝叶斯方法直接从含噪不完整数据中学习基于流的生成模型，经数值验证可有效学习目标分布并用于下游图像重建任务。
2023-12-13 cs.AI cs.LG eess.IV
Online Incident Response Planning under Model Misspecification through Bayesian Learning and Belief Quantization
KTH Royal Institute of Technology（皇家理工学院）；City University of Hong Kong（香港城市大学）
针对网络攻击响应框架依赖详细系统模型的局限，提出MOBAL方法，通过贝叶斯学习迭代优化模型推测并量化为有限马尔可夫模型，实验证明其在模型错误设定下的适应性和鲁棒性优于现有技术。
2025-08-20 cs.AI cs.CR cs.LG
