Belief Maintenance in Bayesian Networks
McGill University(麦吉尔大学);Universita di Pavia(帕维亚大学)
贝叶斯信度网络(Bayesian Belief Networks,BBN)是一种用于不确定性推理的强大形式,但也存在一些严重的局限性:在任何推理过程开始之前需要大量的信息,矛盾处理能力有限,对结论的解释能力仍存在争议。存在一类推理系统,称为真值维护系统(Truth Maintenance Systems,TMS),它们能够处理部分指定的知识,为它们的结论提供有根据的解释,并检测和处理矛盾。包含不确定性度量的TMS被称为信念维护系统(BMS)。本文介绍了如何BMS基于概率逻辑可以应用到BBN,从而引入了一类新的BBN,称为无知的信念网络,能够逐步处理部分指定的条件依赖,提供解释,并检测和处理矛盾。
2013-02-27 cs.AI
Probabilities of the Third Type: Statistical Relational Learning and Reasoning with Relative Frequencies
Ludwig-Maximilians-Universität München(慕尼黑大学)
本文提出函数式提升贝叶斯网络,将相对频率的连续依赖纳入统计关系AI,并给出渐近概率分布表示,支持跨规模参数估计,且收敛在参数上一致。
2024-08-20 cs.AI cs.LG cs.LO
IVGAE-TAMA-BO: A novel temporal dynamic variational graph model for link prediction in global food trade networks with momentum structural memory and Bayesian optimization
School of Economics and Management, Zhejiang Sci-Tech University(浙江理工大学经济管理学院)
本文提出新型动态图神经网络IVGAE-TAMA-BO,通过引入贸易感知动量聚合器和结构记忆机制捕捉时间演变,并结合贝叶斯优化自动调参,在全球粮食贸易网络链路预测任务上显著优于基线模型。
2025-11-03 cs.AI
Finding an $ε$-close Variation of Parameters in Bayesian Networks
RWTH Aachen University(亚琛工业大学)
本文研究贝叶斯网络的 $ε$-接近参数调整问题,基于参数化马尔可夫链的区域验证技术提出新算法,支持多CPT参数变化与依赖,验证了在大型基准上的可行性。
2023-05-17 cs.AI
Fine-Tuning the Odds in Bayesian Networks
RWTH Aachen University(亚琛工业大学)
本文提出了各种新的分析技术贝叶斯网络中的条件概率表(CPT)可能包含符号变量。其关键思想是利用可扩展的和强大的技术在参数马尔可夫链的综合问题。我们的技术适用于任意多个,可能依赖的参数,可能会出现在各种CPT。这解除了对参数的严格限制,例如,通过将参数化CPT的数量限制为一个或两个,或者通过避免几个CPT之间的参数依赖性,在参数贝叶斯网络(pBN)的现有工作中。我们描述了我们的技术如何可以用于各种pBN合成问题的研究,如计算灵敏度函数(和值),简单和差异的参数调整,比例参数调整,和最小的变化调整的文献。几个基准测试的实验表明,我们的原型工具建立在概率模型检查风暴可以处理数百个参数。
2022-08-15 cs.AI
A Functional Model for Structure Learning and Parameter Estimation in Continuous Time Bayesian Network: An Application in Identifying Patterns of Multiple Chronic Conditions
UT Health San Antonio(德克萨斯大学圣安东尼奥健康科学中心)
贝叶斯网络是研究随机变量之间概率关系的强有力的统计模型,在疾病建模和预测中有着重要的应用。在这里,我们提出了一个连续时间贝叶斯网络的条件依赖关系,表示为泊松回归,模型的影响外生变量的网络的条件依赖关系。我们还提出了一种自适应正则化方法,具有直观的早期停止功能,基于密度的聚类,有效地学习所提出的网络的结构和参数。使用从退伍军人事务部的电子健康记录中提取的患有多种慢性疾病的患者数据集,我们将所提出的方法与文献中的一些现有方法进行了短期(提前一年)和长期(提前多年)预测的性能比较。所提出的方法提供了一个稀疏直观的表示多种慢性疾病之间的复杂的功能关系。它还提供了在给定任何先验条件组合的情况下随时间分析多个疾病轨迹的能力。
2021-07-14 cs.AI cs.LG stat.ML
Inference in Graded Bayesian Networks
Hamburg University of Technology(汉堡工业大学)
机器学习提供了可以从数据中学习并对数据进行推断或预测的算法。贝叶斯网络是一类图形模型,它允许通过有向无环图来表示随机变量的集合及其条件依赖关系。本文利用观测变量边际分布的热带化,给出了贝叶斯网络隐随机变量的一种推断算法。通过限制分级网络的拓扑结构,将建立分级贝叶斯网络的推理算法,该算法逐级评估隐随机变量,并以这种方式产生隐变量的最可能状态。该算法可以看作是分级贝叶斯网络的Viterbi算法的推广版本。
2018-12-23 cs.AI stat.ML
Beyond Static Positional Encoding: Bayesian Time-aware Attention for Non-Stationary Long-term Time Series Forecasting
Rice University(莱斯大学);University of Hong Kong(香港大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
该研究针对非平稳长期时间序列预测问题,提出贝叶斯时间感知注意力机制,通过概率视角分析静态位置编码的局限,经实验验证其可提升Transformer的预测性能且开销适中。
2026-10-14 cs.AI cs.LG
Recursive Bayesian Networks: Generalising and Unifying Probabilistic Context-Free Grammars and Dynamic Bayesian Networks
Digital and Cognitive Musicology Lab(数字与认知音乐学实验室);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
概率上下文无关文法(PCFG)和动态贝叶斯网络(DBN)是两种广泛使用的序列模型,它们具有互补的优势和局限性。虽然PCFG允许嵌套的分层依赖关系(树结构),但它们的潜在变量(非终结符)必须是离散的。相反,DBN允许连续的潜在变量,但依赖关系是严格顺序的(链结构)。因此,如果假设潜变量是连续的,并且还具有嵌套的分层依赖结构,则两者都不能应用。在本文中,我们提出了递归贝叶斯网络(RBN),它概括和统一PCFG和DBN,结合它们的优势,并包含两者作为特例。RBN定义了具有离散或连续潜在变量的树结构贝叶斯网络的联合分布。主要的挑战在于在可能的结构和连续变量的指数数量上执行联合推断。我们提供两种解决方案:1)对于任意RBN,我们将内部和外部概率从PCFG推广到混合离散-连续情况,这允许通过梯度下降对连续潜变量进行最大后验估计,同时对网络结构进行边缘化。2)对于高斯RBN,我们还推导出一个解析近似,允许鲁棒的参数优化和贝叶斯推理。RBN的能力和不同的应用程序上说明了两个例子:在合成数据的定量评估,我们展示和讨论的优势,RBN的分割和树诱导噪声序列,相比,变点检测和层次聚类。在音乐数据的应用程序中,我们从原始音符水平的层次音乐分析的未解决的问题,并比较我们的结果,专家注释。
2022-01-15 cs.AI cs.IR cs.LG
LAB-Tab: LLM-Augmented Bayesian Network Adaptation for Few-Shot Tabular Generation
针对小样本表格生成的分布偏移问题,提出LLM增强的贝叶斯网络适配框架LAB-Tab,在六个ACS分布偏移场景中表现优于基准方法,性能提升显著。
2026-08-04 cs.AI cs.LG
GDBN: a Graph Neural Network Approach to Dynamic Bayesian Network
Bytedance(字节跳动)
识别多变量时间序列之间的因果关系是理解动态系统背后复杂机制的最重要因素之一。它为科学和商业分析中的预测,模拟和干预提供了关键工具。在本文中,我们提出了一个图神经网络的方法与分数为基础的方法,旨在学习一个稀疏的DAG捕捉的因果依赖关系的离散时间时序图。我们证明了与图神经网络的方法显着优于其他国家的最先进的方法与动态贝叶斯网络推理。此外,从实验中,结构因果模型可以更准确地比线性SCM发现的方法,如Notears。
2023-01-28 cs.AI cs.LG stat.ML
Gaussian Process Networks
在本文中,我们解决的问题,学习的贝叶斯网络的结构域连续变量。该任务需要用于比较不同候选结构的过程。在贝叶斯框架中,这通过评估给定候选结构的数据的{em边际似然/}来完成。对于标准参数族(例如,高斯),并且可以以一定的计算成本近似一些半参数族(例如,Gaussians)。我们提出了一个新的连续变量概率网络族,它基于{em Gaussian Process/}先验。这些先验是半参数的性质,可以学习几乎任意的噪声函数关系。使用这些先验,我们可以直接计算结构学习的边缘似然。由此产生的方法可以发现广泛的功能依赖的多元数据。我们开发了高斯过程网络的贝叶斯得分,并描述了如何从数据中学习它们。我们提出了人工数据以及现实生活中的非线性依赖关系域的实证结果。
2013-01-16 cs.AI cs.LG stat.ML
Causal models have no complete axiomatic characterization
Tsinghua University(清华大学)
马尔可夫网络和贝叶斯网络是嵌入在概率模型中的依赖关系的有效图形表示。众所周知,马尔可夫网络(称为图同构)捕获的独立性具有有限的公理化特征。然而,本文表明,贝叶斯网络(称为因果模型)捕获的独立性没有公理化,甚至使用可数许多霍恩或析取子句。这是因为因果模型的子独立模型可能不是因果的,而图同构在子模型下是封闭的。
2008-04-15 cs.AI cs.LO
A Causal Linear Model to Quantify Edge Flow and Edge Unfairness for UnfairEdge Prioritization and Discrimination Removal
Robert Bosch Centre for Data Science and Artificial Intelligence, IIT Madras(罗伯特博世数据科学与人工智能中心,印度马德拉斯理工学院);Department of Computer Science and Engineering, IIT Madras(计算机科学与工程系,印度马德拉斯理工学院)
考虑到资源有限,执法部门必须优先处理不公平的根源,然后才能减轻其根本的不公平。与以往的作品,只有提出警告性的歧视和去偏见的数据生成后,本文试图优先考虑不公平的来源之前,减轻他们在现实世界中的不公平。我们假设一个因果baidu网络,代表的数据生成过程,以及敏感的节点,导致不公平,给出。我们量化边缘流,这是通过衰减间接路径影响沿着边缘流动的信念,并使用它来量化边缘不公平。我们证明,累积的不公平是不存在的任何决定,如司法保释,对任何敏感群体,如种族,当边缘不公平是缺席的,给出了一个无误差的线性模型的条件概率。然后,我们衡量的潜力,以减轻累积的不公平时,边缘不公平减少。基于这些措施,我们提出了一个不公平的边缘优先级算法,优先考虑不公平的边缘和歧视消除程序,去偏见生成的数据分布。实验部分验证了用于量化上述测量的规范。
2021-03-11 cs.AI cs.CY cs.LG
Detecting Dependencies in Sparse, Multivariate Databases Using Probabilistic Programming and Non-parametric Bayes
Massachusetts Institute of Technology(麻省理工学院)
具有数百个变量和许多缺失值的数据集是常见的。在这种情况下,检测变量之间的真实预测关系以及抑制假阳性在统计和计算上都具有挑战性。本文提出了一种方法,结合概率规划,信息论,和非参数贝叶斯。它展示了如何使用贝叶斯非参数建模来(i)为所有变量构建联合概率模型的集合;(ii)有效地检测边缘独立性;以及(iii)估计变量的任意子集之间的条件互信息,受到广泛的约束。用户可以使用BayesDB访问这些功能,BayesDB是一个用于概率数据分析的概率编程平台,通过用简单的类似SQL的语言编写查询。本文实证表明,该方法可以(i)检测具有挑战性的合成问题的上下文特定(中)的依赖关系,(ii)提高敏感性和特异性,超过基线的统计和机器学习,在现实世界的数据库中的300多个稀疏观察的宏观经济发展和公共卫生指标。
2017-03-27 cs.AI cs.LG stat.ML
A Tutorial on Learning With Bayesian Networks
Microsoft Research(微软研究院)
贝叶斯网络是一种图形化模型,它对感兴趣的变量之间的概率关系进行编码。当与统计技术结合使用时,图形模型对数据分析有几个优点。第一,因为模型对所有变量之间的依赖关系进行了编码,所以它很容易处理某些数据录入丢失的情况。第二,贝叶斯网络可用于学习因果关系,因此可用于了解问题领域并预测干预的后果。第三,因为模型同时具有因果和概率语义,所以它是结合先验知识(通常以因果形式出现)和数据的理想表示。第四,贝叶斯统计方法结合贝叶斯网络提供了一种有效和原则性的方法来避免数据的过度拟合。在本文中,我们讨论了从先验知识构建贝叶斯网络的方法,并总结了贝叶斯统计方法,使用数据来改善这些模型。关于后一项任务,我们描述了学习贝叶斯网络的参数和结构的方法,包括使用不完整数据学习的技术。此外,我们将贝叶斯网络学习方法与监督和无监督学习技术联系起来。我们说明了图形建模方法使用现实世界的案例研究。
2022-01-10 cs.AI cs.LG stat.ML
Mix-nets: Factored Mixtures of Gaussians in Bayesian Networks With Mixed Continuous And Discrete Variables
Carnegie Mellon University(卡内基梅隆大学)
最近开发的技术使得从低维连续空间中的数据快速学习精确的概率密度函数成为可能。特别是,混合高斯可以非常快地拟合数据使用加速EM算法,采用多分辨率kd树(摩尔,1999年)。在本文中,我们提出了一种贝叶斯网络,在该网络中,在域的变量的不同子集的高斯低维混合物被组合成一个连贯的联合概率模型在整个域。该网络还能够对离散变量和连续变量之间的复杂依赖关系进行建模,而不需要对连续变量进行离散化。我们提出了有效的启发式算法,从数据中自动学习这些网络,并进行比较实验,说明如何以及这些网络模型真实的科学数据和合成数据。我们还简要讨论了一些可能的改进网络,以及可能的应用。
2013-01-16 cs.AI cs.LG stat.ML
Knowledge Removal in Sampling-based Bayesian Inference
The University of Sydney(悉尼大学);JD Explore Academy(京东探索研究院)
被遗忘的权利在许多国家都有立法,但在人工智能行业实施将造成无法承受的成本。当单个数据删除请求到来时,公司可能需要删除使用大量资源学习的整个模型。现有的工作提出了从显式参数化模型的数据中去除知识的方法,然而,这些方法不适用于基于采样的贝叶斯推理,即,马尔可夫链蒙特卡罗(MCMC),因为MCMC只能推断隐式分布。在本文中,我们提出了第一个机器遗忘算法MCMC。我们首先将MCMC学习问题转化为一个显式优化问题。在此基础上,设计了一个{ \it MCMC影响函数}来可证明地表征从数据中学习到的知识,从而实现MCMC去学习算法。理论分析表明,MCMC unlearning不会损害MCMC模型的泛化能力。在高斯混合模型和贝叶斯神经网络上的实验验证了该算法的有效性。代码可在\url{https://github.com/fshp971/mcmc-unlearning}上获得。
2022-03-24 cs.AI cs.LG stat.ML
BTBR: A Bayesian-Theory-Driven Probabilistic-Fuzzy Framework for Implicit Bias Removal in Large Language Models
University of Technology Sydney(悉尼科技大学);National University of Singapore(新加坡国立大学)
针对大模型隐性偏见问题,提出BTBR混合概率-模糊框架,通过似然比筛选、知识三元组转换和模糊规则调度编辑,有效消除角色诱导性能差距并保持推理能力。
2026-09-10 cs.AI cs.CL
ATT-CR: Adaptive Triangular Transformer for Cloud Removal
Xi’an Jiaotong University(西安交通大学);School of Computing and Artificial Intelligence, Southwestern University of Finance and Economics(计算机与人工智能学院,西南财经大学);Ningbo University of Technology(宁波工程学院)
提出自适应三角变换器(ATT-CR),通过三角注意力和特征选择门控模块降低计算复杂度并减少云像素干扰,实现高效云去除。
2026-06-04 cs.AI cs.CV
SVI-DAG: A Structured Variational Inference Approach to Bayesian Causal Discovery
SVI-DAG是一种贝叶斯因果发现的结构化变分推断方法,用归一化流建模边依赖、斯坦变分梯度下降优化,在不确定性量化上优于5种现有方法,结构准确性具竞争力。
2026-08-25 cs.AI cs.LG
Inference and dynamic decision-making for deteriorating systems with probabilistic dependencies through Bayesian networks and deep reinforcement learning
University of Liege(列日大学);Delft University of Technology(代尔夫特理工大学);The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出一种基于贝叶斯网络与深度去中心化多智能体强化学习(DDMAC)的系统级推断与动态决策框架,用于退化工程系统的最优检测与维护规划,并在数值实验中验证其优于现有启发式方法。
2022-09-02 cs.AI cs.LG cs.SY
BARNN: A Bayesian Autoregressive and Recurrent Neural Network
sissa(国际先进研究学院);uva(阿姆斯特丹大学)
本文提出BARNN,一种基于变分dropout和时间版VAMP先验的贝叶斯自回归与循环神经网络,可将任意自回归或循环模型转化为贝叶斯版本,并在PDE建模与分子生成中展现出优越的精度与不确定性量化能力。
2025-07-18 cs.AI cs.LG
Uncertainty Quantification with Bayesian Higher Order ReLU KANs
William & Mary(威廉玛丽学院)
本文首次在Kolmogorov-Arnold网络领域提出基于高阶ReLUKAN的贝叶斯不确定性量化方法,可同时获取认知与偶然不确定性,并通过闭包测试及随机偏微分方程应用验证其有效性。
2024-10-03 cs.AI cs.LG physics.data-an
Bayesian Networks for Named Entity Prediction in Programming Community Question Answering
ITMO University(圣彼得堡国立信息技术机械与光学大学)
本研究提出利用贝叶斯网络结合多种结构学习评分指标预测编程社区问答中的命名实体,通过有向无环图分析实体语义关系,在精确率上优于基线模型并探讨了改进方向。
2023-02-26 cs.AI cs.LG math.PR