Information-Theoretic Multi-Objective Bayesian Optimization with Continuous Approximations
Washington State University（华盛顿州立大学）
许多现实世界的应用程序涉及使用连续函数近似的多个目标的黑盒优化，权衡评估的准确性和资源成本。例如，在火箭发射研究中，我们需要找到使用连续保真度模拟器（例如，改变容差参数以折衷仿真时间和精度）用于设计评估。目标是通过最小化评估成本来近似最优帕累托集。在本文中，我们提出了一种新的方法称为信息理论的多目标连续近似贝叶斯优化（iMOCA）}来解决这个问题。其核心思想是选择输入序列和函数逼近的多个目标，最大化的信息增益每单位成本的最优帕累托前沿。我们在不同的合成和真实世界的基准测试的实验表明，iMOCA显着提高了现有的单保真度的方法。
2020-11-23 cs.AI cs.LG stat.ML
Mix-nets: Factored Mixtures of Gaussians in Bayesian Networks With Mixed Continuous And Discrete Variables
Carnegie Mellon University（卡内基梅隆大学）
最近开发的技术使得从低维连续空间中的数据快速学习精确的概率密度函数成为可能。特别是，混合高斯可以非常快地拟合数据使用加速EM算法，采用多分辨率kd树（摩尔，1999年）。在本文中，我们提出了一种贝叶斯网络，在该网络中，在域的变量的不同子集的高斯低维混合物被组合成一个连贯的联合概率模型在整个域。该网络还能够对离散变量和连续变量之间的复杂依赖关系进行建模，而不需要对连续变量进行离散化。我们提出了有效的启发式算法，从数据中自动学习这些网络，并进行比较实验，说明如何以及这些网络模型真实的科学数据和合成数据。我们还简要讨论了一些可能的改进网络，以及可能的应用。
2013-01-16 cs.AI cs.LG stat.ML
BigBraveBN: algorithm of structural learning for bayesian networks with a large number of nodes
ITMO University（圣彼得堡国立信息技术机械与光学大学）
贝叶斯网络的学习是一个NP难问题，随着节点数量的增加，学习贝叶斯网络结构的经典算法变得低效。近年来，研究者们提出了一些学习节点数较多（大于50）的贝叶斯网络的方法和算法。但这些解决方案也有其缺点，例如，它们只处理一种类型的数据（离散或连续），或者它们的算法是为了满足数据的特定性质（医疗、社会等）而创建的。本文提出了一种BigBraveBN算法，用于学习具有大量节点（超过100个）的大型贝叶斯网络。该算法利用Brave系数来衡量多个组中实例的相互出现。为了形成这些组，我们使用基于互信息（MI）测量的最近邻方法。在本文的实验部分，我们比较了BigBraveBN与其他现有解决方案在多个离散和连续数据集上的性能。实验部分也代表了对真实数据的测试。上述实验结果证明了BigBraveBN算法在贝叶斯网络结构学习中的有效性。
2022-08-22 cs.AI cs.LG
Learning Continuous Time Bayesian Networks
Stanford University（斯坦福大学）
连续时间贝叶斯网络（CTBN）描述了在连续时间内演化的具有多个状态的结构化随机过程。CTBN是一组变量上的有向（可能是循环的）依赖图，每个变量表示一个有限状态的连续时间马尔可夫过程，其转换模型是其父过程的函数。我们解决的问题的学习参数和结构的CTBN从充分观察到的数据。我们定义了一个共轭先验的CTBN，并展示了它如何可以用于贝叶斯参数估计和贝叶斯得分的基础上的结构学习。由于无环性不是CTBN中的约束，因此我们可以证明，无论是在理论上还是在实践中，结构学习问题都比动态贝叶斯网络（DBNs）的结构学习要容易得多。此外，由于CTBN可以根据不同变量的演化的不同时间粒度来定制参数和依赖结构，因此它们可以比具有固定时间粒度的DBN更好地适应连续时间过程。
2012-10-19 cs.LG stat.ML
Bayesian Optimisation over Multiple Continuous and Categorical Inputs
University of Oxford（牛津大学）
包括连续和分类输入的黑盒问题的有效优化是重要的，但也带来了重大挑战。我们提出了一种新的方法，连续和分类贝叶斯优化（CoCaBO），它结合了多武装土匪和贝叶斯优化的优势，选择分类和连续输入的值。我们使用一个高斯过程内核对这个混合类型空间进行建模，该内核旨在允许跨多个分类变量共享信息，每个变量都有多个可能的值;这使得CoCaBO能够有效地利用所有可用数据。我们将我们的方法扩展到批量设置，并提出了一个有效的选择过程，动态平衡探索和开发，同时鼓励批量多样性。我们的经验表明，我们的方法优于现有的方法在合成和现实世界的优化任务与连续和分类输入。
2020-08-09 cs.LG stat.ML
Bayesian Network Enhanced with Structural Reliability Methods: Methodology
我们结合贝叶斯网络（BN）和结构可靠性方法（SRMs）创建一个新的计算框架，称为增强贝叶斯网络（eBN），工程结构和基础设施的可靠性和风险分析。贝叶斯网络是有效的表示和评估复杂的概率依赖结构，目前在基础设施和结构系统，他们促进贝叶斯更新的模型时，新的信息变得可用。另一方面，SRM能够准确评估由计算要求高的基于物理的模型表示的罕见事件的概率。通过结合这两种方法，eBN框架提供了一个统一的和强大的工具，有效地计算在复杂的结构和基础设施系统中，信息随时间演变的罕见事件的概率。通过几个概念性的例子来描述建模和有效地分析eBN的策略。配套文件适用于eBN方法的例子结构和基础设施系统。
2012-03-27 stat.AP stat.ME stat.ML
Bayesian Structural Model Updating with Multimodal Variational Autoencoder
The University of Tokyo（东京大学）
本研究提出基于多模态VAE代理单模态编码器的贝叶斯结构模型更新框架，可处理少观测下的似然近似与高维相关观测，经测试在保证精度的同时比原始VAE计算效率更高。
2024-06-20 cs.LG stat.AP stat.ML
MIxBN: library for learning Bayesian networks from mixed data
ITMO University（圣彼得堡国立信息技术机械与光学大学）
本文描述了一个新的库，用于从包含离散和连续变量（混合数据）的数据中学习贝叶斯网络。除了离散化数据的经典学习方法外，该库还提出了其算法，该算法允许从混合数据中进行结构学习和参数学习，而无需离散化，因为数据离散化会导致信息丢失。该算法基于混合MI得分函数进行结构学习，同时采用线性回归和高斯分布逼近进行参数学习。该库还提供了两种用于枚举图结构的算法-贪婪爬山算法和进化算法。因此，所提出的库的关键功能如下：（1）离散数据上的贝叶斯网络的结构和参数学习，（2）混合数据上的贝叶斯网络的结构和参数学习使用MI混合得分函数和高斯近似，（3）启动学习算法的两种算法之一，用于枚举图结构-爬山和进化算法。由于混合数据表示的需要来自实际需要，我们的实现的优势进行评估的背景下，解决近似和差距恢复问题的合成数据和真实数据集。
2021-06-24 cs.LG stat.ML
CTBNCToolkit: Continuous Time Bayesian Network Classifier Toolkit
连续时间贝叶斯网络分类器被设计用于多变量流数据的时间分类，当事件的持续时间很重要并且类不随时间变化时。本文介绍了CTBNCToolkit：一个开源的Java工具包，它提供了一个独立的应用程序的时间分类和连续时间贝叶斯网络分类库。CTBNCToolkit实现了连续时间贝叶斯网络分类器的推理算法、参数学习算法和结构学习算法。结构学习算法基于评分函数：提供边际对数似然评分和条件对数似然评分。CTBNCToolkit还提供了一个实现的期望最大化算法的聚类目的。本文介绍了连续时间贝叶斯网络分类器。如何从命令行使用CTBNToolkit在特定部分中进行了描述。工具包中还包括一些示例，以帮助用户了解如何使用该工具包。建议专门用于Java库的一节，以帮助进一步的代码扩展。
2014-04-18 cs.AI cs.LG cs.MS
Structural Refinement of Bayesian Networks for Efficient Model Parameterisation
Department of Statistics, University of Warwick（沃里克大学统计系）
针对贝叶斯网络参数化中数据稀缺、CPT参数过多的问题，本文综述了多种结构精化近似方法，分析其特性要求，通过心血管风险评估模型实例评估，并给出方法选择的实用指导。
2025-09-30 cs.AI cs.LG stat.AP
Fast MCMC sampling for Markov jump processes and continuous time Bayesian networks
Gatsby Computational Neuroscience Unit（盖比计算神经科学单元）；University College London（伦敦大学学院）
马尔可夫跳过程和连续时间贝叶斯网络是一类重要的连续时间动态系统。在本文中，我们通过引入一个快速辅助变量吉布斯采样器来解决这些模型中未观测路径的推断问题。我们的方法是基于均匀化的思想，并建立了一个马尔可夫链的路径通过采样一组有限的虚拟跳跃时间，然后运行一个标准的隐马尔可夫模型的前向滤波-后向采样算法的状态在现有的和虚拟的跳跃时间。我们证明了显着的计算效益超过一个国家的最先进的吉布斯采样器上的一些连续时间贝叶斯网络。
2012-02-14 cs.LG stat.ME stat.ML
Bayesian System Identification based on Hierarchical Sparse Bayesian Learning and Gibbs Sampling with Application to Structural Damage Assessment
本文的重点是贝叶斯系统识别噪声不完整的模态数据的基础上，我们可以在更新结构模型时施加空间稀疏刚度的变化。为此，基于我们以前的工作类似的层次稀疏贝叶斯学习模型，我们提出了两个吉布斯抽样算法。这两种算法处理方程误差精度参数后验不确定性的策略不同，但都是从结构刚度参数和系统模态参数的条件后验概率密度函数（PDF）中采样。吉布斯抽样的有效维数较低，因为迭代采样仅从对应于三个参数组的三个条件后验PDF中完成，同时从其中一个算法中的另一个条件后验PDF中对方程误差精度参数进行采样，其中方程误差精度参数未被整合为“滋扰”参数。从计算的角度来看，一个很好的特点是，它是没有必要解决一个结构模型的非线性特征值问题。所提出的算法的有效性和鲁棒性说明将它们应用到IASE ASCE第二阶段的模拟和实验基准研究。我们的目标是使用不完整的模态数据识别之前和之后可能的损害，以检测和评估空间稀疏的刚度降低引起的任何损害。我们过去和现在的重点是满足所产生的挑战，从贝叶斯推断的结构刚度服务，以加强基于振动的结构系统识别的能力，但我们的方法也有更广泛的适用性，在科学和技术的逆问题，系统矩阵是从噪声的部分信息推断其特征量。
2017-01-13 stat.AP stat.ME stat.ML
Structural Dimension Reduction in Bayesian Networks
KLAS and School of Mathematics and Statistics, Northeast Normal University（KLAS 和 数学与统计学学院，东北师范大学）；School of Mathematics and Statistics, Beijing Technology and Business University（数学与统计学学院，北京技术与商业大学）；College of Mathematics and System Science, Xinjiang University（数学与系统科学学院，新疆大学）
本文提出一种基于有向凸包的结构降维方法，用于高效压缩贝叶斯网络并提升概率推断效率。
2026-01-13 cs.LG stat.ML
Structural Learning of Simple Staged Trees
IE University（IE大学）；Universitat de València（瓦伦西亚大学）
贝叶斯网络忠实地表示随机向量的分量之间存在的对称条件独立性。阶段树是贝叶斯网络的分类随机向量的扩展，其图通过顶点着色表示非对称条件独立性。然而，由于它们基于样本空间的树表示，因此随着变量数量的增加，底层图变得混乱并且难以可视化。在这里，我们介绍了第一个结构学习算法的类简单的分期树，娱乐的基础树，可以很容易地读取非对称独立的紧凑的合并。我们证明了数据学习的简单阶段树在模型拟合方面往往优于贝叶斯网络，并说明了如何使用合并图来识别非对称条件独立性。
2022-03-08 cs.LG stat.ML
Variational Bayesian Decision-making for Continuous Utilities
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）
贝叶斯决策理论概述了一个严格的框架，使最佳决策的基础上最大限度地提高预期效用的模型后验。然而，从业者往往没有获得完整的后验和诉诸近似推理策略。在这种情况下，在执行推理时考虑最终的决策任务允许校准后验近似以最大化效用。我们提出了一个自动流水线，co-opts连续效用到变分推断算法，占决策。我们提供了实用的策略，近似和最大化的增益，并根据经验证明一致的改进时，校准近似特定的实用程序。
2019-10-27 cs.LG stat.ML
Computing Posterior Probabilities of Structural Features in Bayesian Networks
Iowa State University（爱荷华州立大学）
我们研究了从数据中学习贝叶斯网络结构的问题。Koivisto和Sood（2004）和Koivisto（2006）提出了可以计算子网的精确边缘后验概率的算法，例如，在O（n2 n）的时间内，计算出所有n（n-1）条潜在边的后验概率，时间复杂度为O（n2 n）。他们的算法的一个主要缺点是需要一个特殊的结构之前，是不均匀的，不尊重马尔可夫等价。在本文中，我们开发了一个算法，可以在O（3 n）时间内计算一个子网络的精确后验概率和所有n（n-1）潜在的边缘在O（n3 n）总时间的后验概率。我们的算法也假设一个有界的入度，但允许一般的结构先验。我们证明了该算法的适用性在几个数据集上，多达20个变量。
2012-05-09 cs.LG stat.ML
Bayesian estimation of possible causal direction in the presence of latent confounders using a linear non-Gaussian acyclic structural equation model with individual-specific effects
我们考虑在潜在混杂变量的存在下学习两个观测变量的可能因果方向。几种现有的方法已被证明是一致的估计因果方向假设线性或某种类型的非线性关系，没有潜在的混杂因素。然而，如果实际上违反任何一个假设，估计结果可能会失真。在本文中，我们首先提出了一个新的线性非高斯非循环结构方程模型与个人的具体影响，允许潜在的混杂因素被考虑。然后，我们提出了一个经验贝叶斯方法估计可能的因果方向，使用新的模型。我们使用人工和真实世界的数据证明了我们的方法的有效性。
2014-05-20 stat.ML
Gaussian Process Planning with Lipschitz Continuous Reward Functions: Towards Unifying Bayesian Optimization, Active Learning, and Beyond
National University of Singapore（新加坡国立大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种新的非近视自适应高斯过程规划（GPP）框架，赋予了一般类的Lipschitz连续奖励函数，可以统一一些主动学习/传感和贝叶斯优化标准，并提供从业者一些灵活性，以指定他们所需的选择，定义新的任务/问题。特别是，它利用了一个原则性的贝叶斯顺序决策问题的框架，共同和自然优化的勘探开发权衡。一般来说，由于候选观测的不可数集合，所得到的诱导GPP策略不能精确地导出。因此，我们在这里的工作的一个关键贡献在于利用Lipschitz连续性的奖励函数来解决非近视自适应ε-最优GPP（ε-GPP）的政策。为了实时规划，我们进一步提出了一个渐进最优的，分支和边界的任何时候都有性能保证的ε-GPP的变体。我们实证证明了我们的ε-GPP政策的有效性，它的任何时候都在贝叶斯优化和能量收集任务的变体。
2015-11-21 cs.AI cs.LG cs.RO
Continuous-Time Bayesian Networks with Clocks
Technische Universitat Darmstadt（达姆施塔特工业大学）
连续时间演化的结构化随机过程为自然界和工程中的现象建模提供了一个广泛采用的框架。然而，通常选择这样的模型以满足马尔可夫性以保持易处理性。这种无记忆模型中比较流行的一种是连续时间贝叶斯网络（CTBN）。在这项工作中，我们解除其限制指数生存时间的任意分布。目前的扩展通过辅助状态来实现这一点，这阻碍了可处理性。为了避免这种情况，我们引入一组节点时钟来构造一组图耦合半马尔可夫链。我们提供了参数和结构推断的算法，它利用局部依赖关系，并对合成数据和通过基因调控网络的基准工具生成的数据集进行实验。在这样做时，我们指出的优势相比，目前的CTBN扩展。
2020-07-02 cs.LG stat.ML
Cluster Variational Approximations for Structure Learning of Continuous-Time Bayesian Networks from Incomplete Data
Technische Universität Darmstadt（达姆施塔特工业大学）
连续时间贝叶斯网络（CTBN）构成了一个通用的和强大的框架，用于建模网络上的连续时间随机过程。这使得它们对于学习交互实体之间的有向结构特别有吸引力。然而，如果可用的数据是不完整的，人们需要模拟的CTBN动力学非常复杂。现有的近似技术，如采样和低阶变分方法，要么规模不利的系统规模，或不满意的精度。受统计物理最新进展的启发，我们提出了一种新的近似方案的基础上集群变分方法显着改善现有的变分近似。我们可以解析地边缘化近似CTBN的参数，因为这些对于结构学习是次要的。这恢复了一个可扩展的计划，直接从不完整和嘈杂的时间序列数据的结构学习。我们的方法在可扩展性方面优于现有的方法。
2018-10-12 cs.LG stat.ML
Maximum a Posteriori Estimation for Linear Structural Dynamics Models Using Bayesian Optimization with Rational Polynomial Chaos Expansions
Technical University of Munich（慕尼黑工业大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出将有理多项式混沌展开代理模型与贝叶斯优化相结合，通过稀疏贝叶斯学习和自适应实验设计降低计算成本，高效求解结构动力学模型的最大后验参数估计问题。
2024-08-07 cs.LG stat.ML
Batched High-dimensional Bayesian Optimization via Structural Kernel Learning
Massachusetts Institute of Technology（麻省理工学院）；DeepMind（深度思考公司）
高维黑箱函数的优化是一个极具挑战性的问题。虽然贝叶斯优化已经成为一种流行的方法来优化黑盒函数，其适用性已被限制在低维问题，由于其计算和统计的挑战，从高维设置。在本文中，我们建议通过以下方式来应对这些挑战：（1）假设函数中存在潜在的加法结构，并正确推断它，以实现更高效和更有效的BO，以及（2）并行执行多个评估，以减少该方法所需的迭代次数。我们的新方法学习的潜在结构与吉布斯抽样和构造批查询使用行列式点过程。在合成函数和真实函数上的实验验证表明，该方法优于现有的最先进的方法。
2018-01-06 cs.LG math.OC stat.ML
blavaan: Bayesian structural equation models via parameter expansion
本文介绍了blavaan，这是一个R软件包，用于通过JAGS估计贝叶斯结构方程模型（SEM）并总结结果。它还描述了一种新的参数扩展方法，用于估计具有残差协方差的特定类型的模型，这有助于在JAGS中估计这些模型。该方法和软件的目的是为用户提供一个一般的方法来估计贝叶斯SEM，经典和新颖的，在一个简单的方式。用户可以使用lavaan语法估计经典SEM的贝叶斯版本，他们可以获得与模型相关的最先进的贝叶斯拟合度量，并且他们可以导出JAGS代码以根据需要修改SEM。这些功能和更多的例子说明，并详细说明了参数扩展的方法。
2016-11-17 stat.CO
Incremental Bayesian tensor learning for structural monitoring data imputation and response forecasting
Northeastern University（东北大学）；McGill University（麦吉尔大学）；MIT（麻省理工学院）
由于传感器故障引起的传感不连续性，缺失传感器数据填补在结构健康监测（SHM）领域中普遍存在。为了解决这个基本问题，本文提出了一种增量贝叶斯张量学习方法，用于SHM中时空缺失数据的重建和结构响应的预测。特别是，首先构建时空张量，然后进行贝叶斯张量因子分解，提取潜在的功能缺失数据填补。为了使结构响应预测的基础上不完整的传感数据，张量分解进一步集成与向量自回归增量学习计划。所提出的方法的性能进行了验证连续的现场传感数据（包括应变和温度记录）的混凝土桥梁，应变时间历程是高度相关的温度记录的假设的基础上。结果表明，所提出的概率张量学习方法是准确的和强大的，即使在存在较大的随机缺失率，结构化缺失和它们的组合。秩的选择的插补和预测性能的影响进行了研究。结果表明，对于随机缺失，秩越高，估计精度越高;对于结构性缺失，秩越低，估计精度越高。
2020-07-17 cs.LG cs.NA math.NA
Towards Federated Bayesian Network Structure Learning with Continuous Optimization
Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
传统上，贝叶斯网络结构学习通常在一个中心站点进行，所有数据都收集在该中心站点。然而，在实践中，数据可以跨不同方分布（例如，公司、设备），他们打算共同学习贝叶斯网络，但由于隐私或安全问题而不愿意披露与他们的数据相关的信息。在这项工作中，我们提出了一个联邦学习的方法来估计贝叶斯网络的结构，从数据是水平划分在不同的缔约方。我们开发了一个分布式结构学习方法的基础上连续优化，使用交替方向的乘法器（ADMM），只有模型参数必须在优化过程中进行交换。我们证明了我们的方法的灵活性，通过采用它的线性和非线性的情况下。在合成数据集和真实数据集上的实验结果表明，该方法比其他方法具有更好的性能，特别是当客户端数量相对较多且每个客户端的样本量有限时。
2022-04-04 cs.LG stat.ML
Implementation of Continuous Bayesian Networks Using Sums of Weighted Gaussians
Telecommunications Research Center（电信研究中心）；Arizona State University（亚利桑那州立大学）；Department of Electrical Engineering（电气工程系）
贝叶斯网络提供了一种表示随机变量之间的条件独立性并计算与这些随机变量相关联的概率分布的方法。在本文中，我们扩展贝叶斯网络结构计算连续随机变量的概率密度函数。我们使这种扩展近似先验和条件密度加权高斯分布的总和，然后找到传播规则更新的密度在这些权重。我们提出了一个简单的例子，说明了连续变量的贝叶斯网络;这个例子显示了网络结构和近似误差对网络中变量密度计算的影响。
2013-02-20 cs.AI
Bayesian Discovery of Multiple Bayesian Networks via Transfer Learning
University of New Mexico（新墨西哥大学）；Google, Inc（谷歌公司）
具有有限数据的贝叶斯网络结构学习算法正用于系统生物学和神经科学等领域，以深入了解产生观测数据的底层过程。从有限的数据中学习可靠的网络是困难的，因此迁移学习可以通过利用来自相关任务的数据来提高学习网络的鲁棒性。现有的贝叶斯网络结构学习的迁移学习算法给出了一个单一的最大后验估计的网络模型。然而，许多其他模型可能同样可能，因此贝叶斯结构发现提供了更多信息的结果。贝叶斯结构发现算法估计诸如边缘的结构特征的后验概率。我们提出了贝叶斯结构发现的迁移学习，它允许我们探索相关任务之间共享和独特的结构特征。有效的计算要求我们将学习的客观因素转移到本地计算中，我们证明了这是由广泛的转移偏差。从理论上讲，我们证明了我们的方法的效率。从经验上讲，我们表明，与单任务学习相比，迁移学习能够更好地积极识别真正的边缘。我们将该方法应用于全脑神经成像数据。
2013-07-09 cs.LG stat.ML
Bayesian Algorithms Learn to Stabilize Unknown Continuous-Time Systems
线性动力系统是一类基于学习控制的不确定动态对象的典型模型。该设置由一个随机微分方程，捕捉的状态演变的植物understudy，而真正的动态矩阵是未知的，需要从状态轨迹的观测数据学习。一个重要的问题是确保系统稳定，并尽快排除由于模型不确定性而导致的不稳定控制行为。目前还没有一种可靠的稳定化程序，可以有效地从不稳定的数据中学习，在有限的时间内稳定系统。在这项工作中，我们提出了一种新的贝叶斯学习算法，稳定未知的连续时间随机线性系统。所提出的算法是灵活的，并暴露出有效的稳定性能后，一个非常短的时间内与系统的相互作用。
2021-12-30 cs.AI cs.LG cs.SY
Correlation-preserving mean plausible values as a basis for prediction in the context of Bayesian structural equation modeling
当进行贝叶斯结构方程建模（BSEM）时，可以计算平均合理值。由于平均似然值不保留因子间相关性，因此它们产生的路径系数与模型的估计路径系数不同。由于可能感兴趣的是在BSEM估计的合理值的水平上执行完全相同的预测，因此提出了保持相关性的平均合理值。在附录中给出了一个计算相关保持平均似然值的例子，并给出了相应的语法。
2022-08-24 stat.AP
A Multivariate Discretization Method for Learning Bayesian Networks from Mixed Data
University of Pittsburgh（匹兹堡大学）
在本文中，我们解决了离散化的背景下学习贝叶斯网络（BN）的数据包含连续和离散变量的问题。我们描述了一种新的<EM>多元</EM>离散化技术，其中每个连续变量离散化，同时考虑到它与其他变量的相互作用。该技术是基于使用贝叶斯评分度量，评分的离散化政策的连续变量给定的BN结构和观察到的数据。由于该度量是相对于当前正在评估的BN结构的，因此变量的离散化需要随着BN结构的变化而动态调整。
2013-01-30 cs.AI cs.LG
Hierarchical sparse Bayesian learning: theory and application for inferring structural damage from incomplete modal data
由于过度载荷或环境退化而造成的结构损坏通常发生在没有倒塌的局部区域。利用这种先验信息的空间稀疏的结构损伤的层次稀疏贝叶斯学习框架的目标是减少源的病态的刚度损失反演问题的损伤检测。稀疏贝叶斯学习方法自动从一组潜在的候选者中修剪掉不相关或不活动的特征，因此它们是用于产生稀疏解释子集的有效概率工具。我们以前已经提出了这样一种方法来建立局部刚度降低的概率，作为一个代理的损害，通过使用噪声不完整的模态数据之前和之后可能的损害。核心思想集中在一个特定的分层贝叶斯模型，促进空间稀疏的推断刚度减少的方式是一致的贝叶斯奥卡姆剃刀。在本文中，我们改进了我们以前提出的稀疏贝叶斯学习方法的理论，消除了近似，更重要的是，纳入了对刚度增加的约束。我们的方法有许多吸引人的功能，总结在本文的最后。我们验证的方法，将其应用到第二阶段的模拟和实验基准研究主办的IASC-ASCE工作组的结构健康监测。结果表明，该方法可以通过识别出的模态参数推断出结构的刚度损失，从而可靠地检测、定位和评估结构的损伤。有效地抑制了遗漏和错误损坏警报的发生。
2015-03-21 stat.AP stat.ME stat.ML
A Continuous Relaxation for Discrete Bayesian Optimization
DIKU, University of Copenhagen（哥本哈根大学DIKU学院）；IMT, Université de Toulouse III（图卢兹第三大学IMT学院）；Center for Machine Learning in Life Science（生命科学机器学习中心）；DTU（丹麦技术大学）
针对离散数据且观测值极少的贝叶斯优化挑战，提出目标函数的连续松弛方法，利用分布对Hellinger距离加权构建协方差函数，支持连续或离散算法优化采集函数，并在生化序列任务上验证有效性。
2024-04-26 cs.LG stat.ML
Spike-and-slab shrinkage priors for structurally sparse Bayesian neural networks
Computational Science Initiative, Brookhaven National Laboratory（布鲁克海文国家实验室计算科学倡议）；Department of Statistics and Probability, Michigan State University（密歇根州立大学统计与概率系）
本文提出结构稀疏贝叶斯神经网络，利用尖峰-平板组Lasso和Horseshoe先验剪除冗余节点，实现高效压缩与低延迟推理。
2024-08-21 cs.LG stat.ME stat.ML
Applied Bayesian Structural Health Monitoring: inclinometer data anomaly detection and forecasting
DYWIDAG Ltd UK（DYWIDAG英国有限公司）
本文提出了一种基于贝叶斯方法的测斜仪数据异常检测与预测框架，通过构建潜在自相关马尔可夫过程和非线性贝叶斯滤波器实现系统状态预测与高惊奇度异常识别，并在英国铁路网络大型真实数据集上验证了其计算高效性。
2023-07-01 cs.LG stat.ML
Testing for Causality in Continuous Time Bayesian Network Models of High-Frequency Data
连续时间贝叶斯网络的研究，特别关注其表达因果关系的能力。一个框架，在这些网络中进行推理。中心贡献是网络的强度矩阵的表示和因果关系度量的引入。提出了一种新的高频金融数据模型。它是根据市场数据进行校准的，通过新的因果关系衡量，它比旧模型表现得更好。
2016-01-25 q-fin.TR stat.ML
Probabilistic Structural Controllability in Causal Bayesian Networks
McGill University（麦吉尔大学）
本文首次研究因果贝叶斯网络中的概率可控性问题，提出概率结构可控性的定义，并识别出一组足够的驱动变量以实现目标变量状态的概率控制。
2015-12-07 cs.AI cs.SY eess.SY
Hybrid Bayesian Networks with Linear Deterministic Variables
University of Kansas（堪萨斯大学）；Virginia Military Institute（弗吉尼亚军事学院）
当一个混合贝叶斯网络的条件确定性变量具有连续的父节点时，连续变量的联合密度函数不存在。条件线性高斯分布可以处理连续变量具有多变量正态分布且离散变量没有连续父变量的情况。在本文中，所需的操作进行推理与条件确定性变量的混合贝叶斯网络的发展。这些方法允许在具有确定性变量的网络中进行推断，其中连续变量可以是非高斯的，并且它们的密度函数可以由截断指数的混合来近似。对网络中连续和离散节点的放置没有限制。
2012-07-04 cs.AI
Bayesian Network Enhanced with Structural Reliability Methods: Application
增强的贝叶斯网络（eBN）的方法中描述的配套文件，便于工程系统的可靠性和风险的评估时，系统的信息在时间上的演变。我们提出的应用程序的eBN（a）的结构系统的生命周期可靠性的评估，（b）进行测量，在该结构系统的决策优化，和（c）的风险评估的基础设施系统受到自然灾害和恶化的组成结构。在所有应用中，在不同的时间点进行系统性能或危险的观察，并且eBN有效地将这些观察包括在分析中，以始终提供系统的更新的概率模型。
2012-03-27 stat.AP
Value of information from vibration-based structural health monitoring extracted via Bayesian model updating
量化从结构健康监测（SHM）系统中提取的信息的价值是说服决策者实施这些系统的重要一步。我们量化这个值的贝叶斯决策分析框架的适应。与以往的工作相比，我们详细的模型的数据生成到处理，模型更新和可靠度计算的整个过程，并调查它在一个日益恶化的桥梁系统。该框架假设动态响应数据是以顺序的方式从部署的加速度计中获得的，随后通过仅输出的操作模态分析方案进行处理，以识别系统的模态特性。我们采用了经典的贝叶斯模型更新方法，顺序学习的恶化和估计的结构损伤随时间的演变。这将导致连续更新的结构可靠性，这构成了前验贝叶斯决策分析的基础。替代行动的定义和一个基于进化论的方法是采用生命周期优化。通过解决前验贝叶斯决策分析，人们能够量化长期SHM振动数据的可用性的好处。数值研究表明，该框架可以提供定量的措施，在特定的决策背景下的SHM系统的最优性。
2021-03-12 cs.SY eess.SY stat.AP
A Bayesian Framework for Quantifying Association Between Functional and Structural Data in Neuroimaging
Texas A&M University（德克萨斯农工大学）；Department of Statistics, Texas A&M University（德克萨斯农工大学统计学系）；Department of Psychological & Brain Sciences, Texas A&M University（德克萨斯农工大学心理与脑科学系）
本文提出一种贝叶斯框架，用于量化神经影像中功能与结构数据的关联，通过构建功能脑网络并结合层次贝叶斯模型，实现对不同数据结构的适应性和后验不确定性量化。
2026-03-22 stat.ME
Continuous-in-time Limit for Bayesian Bandits
University of California-San Diego（加州大学圣地亚哥分校）；Stanford University（斯坦福大学）
该研究针对贝叶斯老虎机最优策略计算难的问题，推导其重标度后收敛于连续HJB方程，基于显式解或数值法提出大时域下的近似贝叶斯最优策略，且计算成本不随时域增长。
2023-09-30 cs.LG cs.NA math.NA
Bayesian Structural Inference for Hidden Processes
University of California at Davis（加州大学戴维斯分校）；Santa Fe Institute（圣塔菲研究所）
我们引入贝叶斯方法来发现结构复杂的过程中的模式。贝叶斯结构推理（BSI）的建议方法依赖于一组候选的单线HMM（uHMM）的拓扑推理的过程结构的数据序列。我们采用最近开发的拓扑ε机的精确枚举。（续篇则移除拓扑限制。）uHMM拓扑的这个子集具有额外的好处，即无论估计的转移概率如何，推断的模型都保证是ε机。ε-机和uH的属性允许推导用于估计转移概率、推断开始状态和比较候选模型拓扑的后验概率的分析表达式，尽管过程内部结构仅间接地存在于数据中。我们证明BSI的有效性，估计过程的随机性，反映了香农熵率，其结构，量化的统计复杂性。我们还比较了使用候选模型的后验分布和单，最大后验模型的点估计，并表明前者更准确地反映了估计值的不确定性。我们将BSI应用于有限阶和无限阶马尔可夫过程的类内实例，以及类外的无限状态隐过程。
2013-12-09 cs.LG math.ST nlin.CD
A Novel Framework for Analyzing Structural Transformation in Data-Constrained Economies Using Bayesian Modeling and Machine Learning
针对中低收入国家数据稀缺难以准确评估结构转型的问题，提出整合贝叶斯层次建模、机器学习数据插补与因子分析的框架，经模拟验证在60%数据缺失时仍可预测结构变化，为相关决策提供工具。
2024-09-25 stat.AP stat.CO stat.ML
Recursive Bayesian Networks: Generalising and Unifying Probabilistic Context-Free Grammars and Dynamic Bayesian Networks
Digital and Cognitive Musicology Lab（数字与认知音乐学实验室）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
概率上下文无关文法（PCFG）和动态贝叶斯网络（DBN）是两种广泛使用的序列模型，它们具有互补的优势和局限性。虽然PCFG允许嵌套的分层依赖关系（树结构），但它们的潜在变量（非终结符）必须是离散的。相反，DBN允许连续的潜在变量，但依赖关系是严格顺序的（链结构）。因此，如果假设潜变量是连续的，并且还具有嵌套的分层依赖结构，则两者都不能应用。在本文中，我们提出了递归贝叶斯网络（RBN），它概括和统一PCFG和DBN，结合它们的优势，并包含两者作为特例。RBN定义了具有离散或连续潜在变量的树结构贝叶斯网络的联合分布。主要的挑战在于在可能的结构和连续变量的指数数量上执行联合推断。我们提供两种解决方案：1）对于任意RBN，我们将内部和外部概率从PCFG推广到混合离散-连续情况，这允许通过梯度下降对连续潜变量进行最大后验估计，同时对网络结构进行边缘化。2)对于高斯RBN，我们还推导出一个解析近似，允许鲁棒的参数优化和贝叶斯推理。RBN的能力和不同的应用程序上说明了两个例子：在合成数据的定量评估，我们展示和讨论的优势，RBN的分割和树诱导噪声序列，相比，变点检测和层次聚类。在音乐数据的应用程序中，我们从原始音符水平的层次音乐分析的未解决的问题，并比较我们的结果，专家注释。
2022-01-15 cs.AI cs.IR cs.LG
Inference in Hybrid Bayesian Networks Using Mixtures of Gaussians
University of Kansas（堪萨斯大学）
本文的主要目标是描述一种方法，在一般的混合贝叶斯网络（BN）（离散和连续的机会变量的混合）的精确推理。我们的方法包括近似一般的混合贝叶斯网络的混合高斯（MoG）BN。Lauritzen-Jensen（LJ）提出了一种在MoG贝叶斯网络中进行精确推理的快速算法，并给出了该算法的商业实现。然而，该算法只能用于MoG BN。这种网络的一些限制如下。所有连续的机会变量必须有条件线性高斯分布，离散的机会节点不能有连续的父母。本文所描述的方法将使我们能够使用LJ算法的更大的一类混合贝叶斯网络。这包括具有非高斯分布的连续机会节点的网络，对离散和连续变量的拓扑结构没有限制的网络，具有条件确定性变量的网络，这些变量是其连续父母的非线性函数，以及具有连续机会变量的网络，其方差是其父母的函数。
2012-06-27 cs.AI stat.ME
On Bayesian Nonparametric Continuous Time Series Models
本文是关于连续时间序列的贝叶斯非参数混合模型的一个注记。我们确定了这些模型的关键要求，然后确定有一个单一类型的模型，满足这一要求。事实证明，该模型在多个变点问题中是众所周知的。
2013-03-03 stat.ME
Expectation Propagation for Continuous Time Bayesian Networks
Stanford University（斯坦福大学）；UC Riverside（加州大学河滨分校）
连续时间贝叶斯网络（CTBN）描述了在连续时间内演化的具有多个状态的结构化随机过程。CTBN是一组变量上的有向（可能是循环的）依赖图，每个变量表示一个有限状态的连续时间马尔可夫过程，其转换模型是其父过程的函数。如前所述，CTBN中的精确推理是棘手的。我们解决问题的近似推理，允许一般查询的证据在连续的时间间隔和离散的时间点。我们展示了如何CTBN可以参数化的指数家庭，并使用这种洞察力来开发集群图中的消息传递方案，并允许我们应用期望传播CTBN。我们的聚类图中的聚类不包含单个时间点上的聚类变量的分布，而是包含整个持续时间内变量轨迹的分布。因此，与离散时间时态模型（如动态贝叶斯网络）不同，我们可以调整时间粒度，以便在不同条件下对不同变量进行推理。
2012-07-04 cs.AI
Large Bayesian VARs with Factor Stochastic Volatility: Identification, Order Invariance and Structural Analysis
具有多元随机波动率的向量自回归（VAR）被广泛用于结构分析。通常，结构模型是通过经济上有意义的限制来确定的，例如，符号限制，应该与因变量的排序无关。但由于简化形式的模型不是阶不变的，结构分析的结果取决于变量的阶数。我们考虑一个VAR的基础上的因素随机波动率，构造为顺序不变的。我们表明，存在的多元随机波动允许统计识别的模型。我们进一步证明了，与一组适当的符号限制，相应的结构模型是点识别。所提出的方法的另一个吸引力是，它可以很容易地处理大量的因变量以及符号限制。我们通过一个结构性分析来证明这种方法，在这个分析中，我们使用一个带有符号限制的20个变量的VAR来识别5个结构性冲击。
2022-07-08 econ.EM stat.ME
Probabilistic Graphical Model using Graph Neural Networks for Bayesian Inversion of Discrete Structural Component States
Key Lab of Smart Prevention and Mitigation of Civil Engineering Disasters of the Ministry of Industry and Information Technology（工信部智能防灾减灾重点实验室）；Harbin Institute of Technology（哈尔滨工业大学）；Key Lab of Structures Dynamic Behavior and Control of the Ministry of Education, School of Civil Engineering, Harbin, Institute of Technology（教育部结构动力行为与控制重点实验室，土木工程学院）；The Institute of Statistical Mathematics, Research Organization of Information and Systems（统计数学研究所，信息与系统研究机构）；The Graduate University for Advanced Studies, SOKENDAI（高等研究大学，SOKENDAI）；Division of Engineering and Applied Science, California Institute of Technology（工程与应用科学系，加州理工学院）
本文提出基于概率图模型的新型贝叶斯反演方法，利用图神经网络实现高效离散状态推断，解决高维参数和非解析似然函数带来的计算挑战。
2026-04-29 cs.LG stat.ME stat.ML
Modeling Score Distributions and Continuous Covariates: A Bayesian Approach
Perceptive Automata, Inc.（感知自动机公司）；University of Notre Dame（圣母大学）；Harvard University（哈佛大学）
计算机视觉从业者必须彻底了解他们的模型的性能，但条件评估是复杂和容易出错的。在生物特征验证中，模型在连续协变量（影响性能的图像实数属性）上的性能研究特别具有挑战性。我们开发了一个生成模型的匹配和非匹配分数分布在连续协变量和现代贝叶斯方法进行推理。我们使用混合模型来捕获任意分布，使用局部基函数来捕获非线性、多变量趋势。三个实验证明了我们的方法的准确性和有效性。首先，我们研究了年龄和人脸验证性能之间的关系，发现以前的方法可能会夸大性能和信心。其次，我们研究了CNN的预处理，并发现了模型性能的高度非线性、多变量表面。我们的方法是准确的和数据效率时，对以前的合成方法进行评估。第三，我们展示了我们的方法的行人跟踪和计算可变阈值和预期的性能，同时控制多个协变量的新应用。
2020-09-21 cs.CV cs.LG stat.ML
A new algorithm for structural restrictions in Bayesian vector autoregressions
一个全面的方法推理向量自回归（VAR）使用符号和其他结构的限制。简化形式的VAR扰动由几个公共因素驱动，结构识别约束可以以参数约束的形式并入其载荷中。吉布斯采样器推导出，允许简化形式的参数和结构的限制，有效地在一个步骤中进行采样。所提出的方法的一个关键好处是，它允许治疗参数估计和结构推理作为一个联合问题。另一个好处是，该方法可以扩展到具有多个冲击的大型VAR，并且可以扩展到适应非线性，不对称和许多其他有趣的经验特征。使用合成数据实验，并通过使用基于符号限制的识别重新审视金融因素在经济波动中的作用，探索新的推理算法的优良性能。
2022-06-14 econ.EM stat.AP
Sequential Bayesian diagnosis and prognosis of structural deterioration from measured structural responses
Bundesanstalt für Materialforschung und -prüfung (BAM)（联邦材料研究与测试研究所）
本文提出一个序贯贝叶斯框架，通过扩展BUS方法实现基于实测响应的结构退化诊断、预后与可靠性预测，并在导管架结构疲劳退化案例中验证其有效性。
2026-09-29 stat.AP
Implementation and Workflows for INLA-Based Approximate Bayesian Structural Equation Modelling
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Universiti Brunei Darussalam（文莱达鲁萨兰国大学）
本文提出INLAvaan包，通过集成嵌套拉普拉斯近似框架实现快速近似贝叶斯结构方程建模，展示了其在复杂模型中的高效性能。
2026-11-02 stat.CO
Multi-fidelity Bayesian Optimisation with Continuous Approximations
用于黑箱优化的Bandit方法，例如贝叶斯优化，用于各种应用，包括超参数调整和实验设计。最近，\emph{multi-fidelity}方法已经获得了相当大的关注，因为函数评估在这样的应用中变得越来越昂贵。多保真度方法使用感兴趣的函数的廉价近似来加速整体优化过程。然而，大多数多保真度方法仅假设有限数量的近似。然而，在许多实际应用中，可能存在连续的近似谱。例如，当调整昂贵的神经网络时，可以选择使用较少的数据$N$和/或较少的训练迭代$T$来近似交叉验证性能。这里，近似最好被看作是从连续的二维空间$(N,T)$中产生的。在这项工作中，我们开发了贝叶斯优化方法，BOCA，这种设置。我们验证了它的理论性质，并表明它比忽略近似的策略实现了更好的后悔。BOCA在合成和真实实验中优于其他几个基线。
2017-03-18 stat.ML
