Bayesian network structure learning with causal effects in the presence of latent variables
Queen Mary University of London(伦敦玛丽女王大学)
潜在变量可能导致虚假的关系,可能被误解为因果关系。在贝叶斯网络(BN)中,这种挑战被称为因果不足下的学习。假设因果关系不充分的结构学习算法倾向于重建BN的祖先图,其中双向边表示混淆,有向边表示直接或祖先关系。本文描述了一种混合结构的学习算法,称为CCHM,它结合了基于约束的部分的cFCI和爬山得分为基础的学习。基于分数的过程结合了Pearl的do-calculus来测量因果效应并定位否则将保持无向的边缘,假设BN是线性结构方程模型,其中数据遵循多元高斯分布。基于随机网络和已知网络的实验表明,CCHM在重建真正的祖先图方面提高了最先进的水平。
2020-08-18 cs.AI cs.LG stat.ML
Implementation of Continuous Bayesian Networks Using Sums of Weighted Gaussians
Telecommunications Research Center(电信研究中心);Arizona State University(亚利桑那州立大学);Department of Electrical Engineering(电气工程系)
贝叶斯网络提供了一种表示随机变量之间的条件独立性并计算与这些随机变量相关联的概率分布的方法。在本文中,我们扩展贝叶斯网络结构计算连续随机变量的概率密度函数。我们使这种扩展近似先验和条件密度加权高斯分布的总和,然后找到传播规则更新的密度在这些权重。我们提出了一个简单的例子,说明了连续变量的贝叶斯网络;这个例子显示了网络结构和近似误差对网络中变量密度计算的影响。
2013-02-20 cs.AI
Optimal Robustness Results for Some Bayesian Procedures and the Relationship to Prior-Data Conflict
基于统计证据的措施的贝叶斯推理程序的先验的鲁棒性被认为是。这些推论被证明具有最佳性能的鲁棒性。此外,鲁棒性和先验数据冲突之间的联系建立。特别是,推理被证明是有效的鲁棒性时,先验的选择不会导致先验数据冲突。然而,当存在先验数据冲突时,鲁棒性可能无法保持。
2015-04-27 math.ST stat.TH
The Computational Power of Dynamic Bayesian Networks
University of Maryland(马里兰大学)
本文研究了定长动态贝叶斯网络的计算能力。虽然离散动态贝叶斯网络并不比隐马尔可夫模型更强大,但具有连续随机变量和连续父节点的离散子节点的动态贝叶斯网络能够执行图灵完备计算。利用现有的用于置信度传播的算法的修改版本,可以实时的进行这样的模拟。这一结果表明,动态贝叶斯网络可能比以前认为的更强大。因果模型和递归神经网络的关系也进行了讨论。
2016-03-19 cs.AI stat.ML
On the relationship between a Gamma distributed precision parameter and the associated standard deviation in the context of Bayesian parameter inference
University of Warwick(华威大学)
在贝叶斯推断中,未知的测量不确定度通常根据伽马分布精度参数来量化,当在推断期间应利用关于测量不确定度的标准差的先验信息时,这是不切实际的。因此,本文介绍了一种伽马分布精度参数和相关的标准差分布之间的转换方法。所提出的方法是基于数值优化,并显示出足够的结果,为广泛的场景。
2021-01-15 cs.LG stat.ME
Incremental Tradeoff Resolution in Qualitative Probabilistic Networks
University of Michigan AI Laboratory(密歇根大学人工智能实验室)
贝叶斯网络中的定性概率推理经常揭示权衡:由于竞争的定性影响而模糊的关系。我们提出了两种技术,结合定性和数值概率推理来解决这种权衡,推断贝叶斯网络中的节点之间的定性关系。第一种方法逐步边缘化的节点,有助于模糊的定性关系。第二种方法评估近似贝叶斯网络的概率分布的界限,并使用这些界限来确定定性关系的问题。这种方法也是增量的,因为该算法细化随机变量的状态空间,以获得更严格的边界,直到定性关系得到解决。这两种方法都提供了系统的方法,在潜在的计算成本比纯粹的数值方法的应用程序的折衷解决方案。
2013-01-30 cs.AI
An Unsupervised Bayesian Neural Network for Truth Discovery in Social Networks
Jilin University(吉林大学);Nanyang Technological University(南洋理工大学)
研究了在社会网络中从相互冲突的Agent意见中估计事件真相的问题。自动编码器学习事件真相,代理可靠性和代理观察之间的复杂关系。提出了一种贝叶斯网络模型来指导学习过程,通过建模的自动编码器的输出与不同的变量的关系。同时,它还对网络中Agent之间的社会关系进行了建模。所提出的方法是无监督的,适用于当地面实况标签的事件不可用。变分推理方法用于联合估计贝叶斯网络中的隐变量和自动编码器中的参数。三个真实数据集上的实验表明,我们提出的方法是有竞争力的,在大多数情况下优于,几个国家的最先进的基准方法。
2021-01-25 cs.LG stat.ML
Exploring Biomarker Relationships in Both Type 1 and Type 2 Diabetes Mellitus Through a Bayesian Network Analysis Approach
King’s College London(伦敦国王学院);University College London(伦敦大学学院)
本研究应用贝叶斯网络结构学习分析Shanghai Type 1 and Type 2 diabetes mellitus数据集,揭示糖尿病相关生物标志物的复杂关系,在2型糖尿病中实现18.23 mg/dL的RMSE预测精度,为个性化糖尿病管理提供新方法。
2024-06-24 cs.AI cs.CE cs.LG
The Relation Between Acausality and Interference in Quantum-Like Bayesian Networks
Instituto Superior Técnico(高等技术学院);INESC-ID(葡萄牙信息与通信技术研究院)
我们分析了一个类似量子的贝叶斯网络,它将事件之间的因果关系和语义相似性放在一起。这些语义上的相似性构成因果联系根据同步性原则,并提供了新的关系,量子类概率图形模型。因此,信念(或任何其他事件)可以在向量空间中表示,其中量子参数由这些向量之间的相似性决定。具有语义意义的事件不需要因果解释。
2015-08-26 cs.AI
$β$-Cores: Robust Large-Scale Bayesian Data Summarization in the Presence of Outliers
University of Cambridge(剑桥大学)
现代机器学习应用程序应该能够解决在大规模真实世界数据集上进行推理所带来的内在挑战,包括可扩展性和对离群值的鲁棒性。尽管贝叶斯方法有许多优点(如不确定性感知预测,专家知识的结合和分层建模),但经典贝叶斯推理的质量关键取决于观察是否符合假设的数据生成模型,这在实践中是不可能保证的。在这项工作中,我们提出了一种变分推理方法,在原则上,可以同时扩展到大型数据集,并鲁棒化推断后验相对于观测数据中的离群值的存在。利用$β$ -散度对贝叶斯定理进行了改进,提出了一种鲁棒伪贝叶斯后验概率作为推理目标。此外,依赖于可扩展贝叶斯推理的黎曼核心集的最新配方,我们提出了一个稀疏变分近似的鲁棒后验和一个高效的随机黑箱算法来构建it. Overall我们的方法允许释放清洗的数据摘要,可以广泛应用于包括结构化数据损坏的场景。我们说明了我们的方法在不同的模拟和真实数据集,各种统计模型,包括高斯均值推断,逻辑和神经线性回归,证明其优越性,现有的贝叶斯摘要方法中存在离群值的适用性。
2020-11-09 cs.AI cs.LG stat.AP
Learning Summary Statistic for Approximate Bayesian Computation via Deep Neural Network
近似贝叶斯计算(ABC)方法用于近似具有未知或计算上难以处理的似然模型中的后验分布。ABC的准确性和计算效率都取决于汇总统计量的选择,但在已知最佳汇总统计量的特殊情况之外,尚不清楚可以使用哪些指导原则来构建有效的汇总统计量。在本文中,我们探索了通过训练深度神经网络来自动化构建汇总统计量的过程的可能性,以从人工生成的数据中预测参数:所得到的汇总统计量近似为参数的后验均值。通过最小的模型特定调整,我们的方法为伊辛模型和移动平均模型构建了汇总统计量,这些模型在所得后验的准确性方面匹配或超过了理论激励的汇总统计量。
2017-03-16 stat.CO stat.ME stat.ML
A Tutorial on Learning With Bayesian Networks
Microsoft Research(微软研究院)
贝叶斯网络是一种图形化模型,它对感兴趣的变量之间的概率关系进行编码。当与统计技术结合使用时,图形模型对数据分析有几个优点。第一,因为模型对所有变量之间的依赖关系进行了编码,所以它很容易处理某些数据录入丢失的情况。第二,贝叶斯网络可用于学习因果关系,因此可用于了解问题领域并预测干预的后果。第三,因为模型同时具有因果和概率语义,所以它是结合先验知识(通常以因果形式出现)和数据的理想表示。第四,贝叶斯统计方法结合贝叶斯网络提供了一种有效和原则性的方法来避免数据的过度拟合。在本文中,我们讨论了从先验知识构建贝叶斯网络的方法,并总结了贝叶斯统计方法,使用数据来改善这些模型。关于后一项任务,我们描述了学习贝叶斯网络的参数和结构的方法,包括使用不完整数据学习的技术。此外,我们将贝叶斯网络学习方法与监督和无监督学习技术联系起来。我们说明了图形建模方法使用现实世界的案例研究。
2022-01-10 cs.AI cs.LG stat.ML
Full Bayesian Significance Testing for Neural Networks
Beihang University(北京航空航天大学);Tsinghua University(清华大学)
提出面向神经网络的全贝叶斯显著性检验框架 nFBST,利用贝叶斯神经网络计算证据值,支持全局、局部及逐实例显著性检验,并通过模拟与真实数据实验验证其优势。
2024-01-24 cs.AI cs.LG stat.ML
A Bayesian approach to modeling topic-metadata relationships
Department of Statistics, Ludwig-Maximilians-Universität, Munich, Germany(1 统计系,路德维希-马克西米利安大学,慕尼黑,德国);Department of Political Science, Ludwig-Maximilians-Universität, Munich, Germany(2 政治学系,路德维希-马克西米利安大学,慕尼黑,德国)
本文提出一种完全贝叶斯方法,通过用 Beta 回归替代线性回归并改进 R 包 stm 的合成法,更准确地量化主题与元数据关系的估计不确定性。
2025-04-28 cs.CL cs.LG stat.ML
Using Bayesian Network Analysis to Reveal Complex Natures of Relationships
关系在许多方面对人类至关重要。根据马斯洛需求层次理论,虽然健康的关系是人类生活的重要组成部分,从根本上决定了我们的目标和目的,但不成功的关系可能导致自杀和其他重大心理问题。然而,对这个话题的全面理解仍然是一个挑战,离婚率比以往任何时候都要高,几乎达到50%。本研究的目的是通过贝叶斯网络分析,探索各组行为之间的关联,在一个大的可获得的经验,在密切关系的规模,一个测试的依恋风格调查(ECR)的数据,从开放式心理测量数据库。得到的有向无环图有2个根节点(来自回避型的Q02和来自焦虑型依恋的Q05)和5个端节点(来自焦虑型依恋的Q16、Q34和Q36)。该网络可分为5个簇,2个回避簇和3个焦虑簇。此外,我们的项目列表中的集群是一致的,与以前的因素分析研究的结果,我们估计的系数显着相关的偏相关网络研究。
2021-11-12 stat.AP
Scalable Bayesian Network Structure Learning with Splines
University of Waterloo(滑铁卢大学)
贝叶斯网络(BN)的图结构可以使用众所周知的评分和搜索方法从数据中学习。以前的工作已经表明,将条件概率分布(CPD)的结构化表示纳入评分和搜索方法可以提高学习图的准确性。在本文中,我们提出了一种新的方法,能够学习BN的图形,同时建模变量之间的线性和非线性局部概率关系。我们实现这一目标的组合特征选择,以减少局部关系的搜索空间和扩展的得分和搜索方法,将建模的CPD变量作为多元自适应回归样条(MARS)。MARS是表示为分段样条函数的多项式回归模型。我们在一组离散和连续的基准实例上表明,我们提出的方法可以提高学习图的准确性,同时扩展到具有大量变量的实例。
2022-06-20 cs.AI cs.LG stat.ML
Decoupling shrinkage and selection in Bayesian linear models: a posterior summary perspective
为线性模型选择变量子集仍然是一个活跃的研究领域。本文回顾了许多最近的贡献贝叶斯模型选择和收缩先前的文献。提出了一种后验变量选择方法,该方法将回归系数的后验分布提取为稀疏线性预测变量序列。
2014-08-03 stat.ME
Modification of Bayesian Updating where Continuous Parameters have Differing Relationships with New and Existing Data
贝叶斯分析通常使用所谓的非信息先验进行,以期实现对可用数据所依赖的未知参数的客观推断。无信息先验依赖于样本空间上数据与参数的关系。结合贝叶斯更新-乘以一个现有的后验密度参数估计的似然函数来自独立的新数据,依赖于这些参数和重新归一化-与使用noninformative先验会产生不一致的现有和新的数据依赖于连续参数以不同的方式。在这种情况下,仅从现有数据和仅从新数据进行推断的无信息先验会有所不同,因此贝叶斯更新将根据哪组数据用于导出初始后验和哪组数据用于更新后验而给出不同的最终后验密度。我提出了一个修正的贝叶斯更新方法,它解决了这种不一致的更新先验以及似然函数,只涉及一个单一的应用贝叶斯定理。经修订的方法也适用于存在有关参数值的实际先验信息以及寻求客观反映现有信息和新数据的推断的情况。我通过数值测试在两种情况下证明了所提出的修订更新方法的概率匹配优越性。
2013-08-13 math.ST stat.ME stat.TH
Bayesian Learning of Causal Relationships for System Reliability
University of Warwick(华威大学);The Alan Turing Institute(阿兰·图灵研究所)
因果理论现在得到了广泛的发展,并在医学和公共卫生领域得到了许多应用。然而,在可靠性的学科,虽然因果关系是一个关键的概念,在这一领域,有很少的理论关注。在本文中,我们将演示如何建立因果方法的某些方面可以通过树,更具体地说,链事件图,到可靠性理论的域,以帮助故障的概率建模。我们进一步展示了如何将可靠性特定的因果关系的各种特定领域概念导入到更通用的因果代数中,从而演示了这些学科如何相互告知。本文通过对一家大型配电公司的检修记录进行详细分析。嵌入在这些自然语言文本中的因果假设提取和分析使用我们在这里介绍的新的图形框架。
2020-02-14 cs.AI math.ST stat.TH
Dynamic Bayesian Networks for Predicting Cryptocurrency Price Directions: Uncovering Causal Relationships
School of Information Technology, Deakin University(德克萨斯大学信息技术学院);Deakin Business School, Deakin University(德克萨斯大学商学院)
针对加密货币价格波动大、受外部因素影响难预测的问题,提出基于动态贝叶斯网络(DBN)的方法揭示多特征因果关系,对六种热门加密货币研究后发现DBN显著优于五种基准模型。
2024-10-28 cs.AI cs.LG q-fin.ST
Bayesian Nonlinear Regression using Sums of Simple Functions
本文提出一种基于简单双组分位置混合模型求和的贝叶斯非线性回归方法,利用逻辑函数刻画组分转换,结合共轭先验实现高效推断,并在模拟和美国宏观经济预测及大规模非线性VAR中验证了其准确性与捕捉非线性效应的能力。
2023-12-04 econ.EM stat.ML
Wasserstein Gaussianization and Efficient Variational Bayes for Robust Bayesian Synthetic Likelihood
针对贝叶斯合成似然(BSL)的正态分布假设偏差及统计量兼容性需求,结合Wasserstein高斯化变换、鲁棒BSL与高效变分贝叶斯,提出一种高效可靠的无似然近似贝叶斯推断方法。
2024-08-15 stat.CO stat.ML
Model-free Bayesian Clustering and Multimodal Posterior Summarisation
University of Edinburgh(爱丁堡大学)
该研究提出无模型感知噪声贝叶斯聚类框架,结合Wasserstein型摘要方法,可避免复杂模型指定与昂贵采样,能有效捕捉聚类及噪声不确定性。
2026-10-12 cs.LG stat.ML
Bayesian Spillover Graphs for Dynamic Networks
Cornell University(康奈尔大学)
我们提出了贝叶斯溢出图(BSG),一种新的方法,学习时间关系,识别关键节点,并量化不确定性的动态系统中的多水平溢出效应。BSG通过预测误差方差分解(FEVD)和贝叶斯时间序列模型的全面不确定性量化来利用可解释的框架,以系统性风险和预测变异性的时间关系为背景。预测范围超参数$h$允许学习短期和平衡状态网络行为。在各种图形和错误规范下识别源节点和汇聚节点的实验显示,与最先进的贝叶斯网络和深度学习基线相比,性能有了显著提高。实际系统的应用也展示了BSG作为一种探索性分析工具,用于发现间接溢出效应和量化系统性风险。
2022-06-16 cs.LG stat.AP stat.ME
A Bayesian hierarchical meta-analytic method for modelling surrogate relationships that vary across treatment classes using aggregate data
替代终点在药物开发中发挥重要作用,因为它们可用于与最终临床结局相比早期测量处理效应,并预测临床获益或危害。通过使用荟萃分析方法研究替代物上的处理效应与最终结局之间的替代关系,评估这些终点的临床获益预测值。当替代关系在治疗类别之间变化时,由于每个治疗类别内的数据有限,这种验证可能会失败。在本文中,两种替代贝叶斯元分析方法介绍了允许从其他治疗类的信息借用时,探索代孕在一个特定的类。第一种方法将替代终点评价的标准模型扩展为分层荟萃分析模型,假设所有治疗类别之间的替代关系完全交换,从而促进跨类别信息的借用。第二种方法是能够放宽这一假设,允许部分交换的替代关系的治疗类,以避免过度借用的信息,从明显不同的类。我们进行了一项模拟研究,以评估所提出的方法在九个数据的情况下,并比较它们与亚组分析使用的标准模型在每个治疗类。我们还将该方法应用于结直肠癌的说明性例子,从而获得更高精度的替代关系的参数描述。
2019-09-04 stat.AP stat.ME
A Functional Model for Structure Learning and Parameter Estimation in Continuous Time Bayesian Network: An Application in Identifying Patterns of Multiple Chronic Conditions
UT Health San Antonio(德克萨斯大学圣安东尼奥健康科学中心)
贝叶斯网络是研究随机变量之间概率关系的强有力的统计模型,在疾病建模和预测中有着重要的应用。在这里,我们提出了一个连续时间贝叶斯网络的条件依赖关系,表示为泊松回归,模型的影响外生变量的网络的条件依赖关系。我们还提出了一种自适应正则化方法,具有直观的早期停止功能,基于密度的聚类,有效地学习所提出的网络的结构和参数。使用从退伍军人事务部的电子健康记录中提取的患有多种慢性疾病的患者数据集,我们将所提出的方法与文献中的一些现有方法进行了短期(提前一年)和长期(提前多年)预测的性能比较。所提出的方法提供了一个稀疏直观的表示多种慢性疾病之间的复杂的功能关系。它还提供了在给定任何先验条件组合的情况下随时间分析多个疾病轨迹的能力。
2021-07-14 cs.AI cs.LG stat.ML
Bayesian inference of covariate-parameter relationships for population modelling
针对群体建模中ODE-IVP参数不可直接测、需通过协变量推断参数关系的问题,结合Nickl等人的贝叶斯逆问题成果,证明了线性齐次场景下协变量-参数关系的后验收缩与Bernstein–von Mises结果,并用药代动力学实例验证。
2024-09-16 math.CA math.ST stat.TH
Model-based Kernel Sum Rule: Kernel Bayesian Inference with Probabilistic Models
核贝叶斯推断是概率图模型中非参数推理的一种原则性方法,其中变量之间的概率关系以非参数方式从数据中学习。核贝叶斯推断的各种算法已经通过结合核化的基本概率运算,如核求和规则和核贝叶斯规则而发展起来。然而,目前的框架是完全非参数的,它不允许用户灵活地结合非参数和基于模型的推理。当图形模型的某些部分有好的概率模型(或仿真模型)可用时,这是低效的;在“模型”是研究的中心主题的科学领域中尤其如此。我们在本文中的贡献是介绍一种新的方法,称为{ \em模型为基础的内核和规则}(Mb-KSR),结合概率模型和内核贝叶斯推断。通过将Mb-KSR与现有的核化概率规则相结合,可以开发用于混合(即,非参数和基于模型的)推断。作为一个说明性的例子,我们考虑贝叶斯滤波的状态空间模型,通常存在一个准确的概率模型的状态转换过程。我们提出了一种新的过滤方法,结合基于模型的推理的状态转换过程和数据驱动的,非参数的观察生成过程的推断。我们经验验证我们的方法与合成和真实数据的实验,后者是基于视觉的移动机器人定位在机器人技术,这说明了所提出的混合方法的有效性的问题。
2019-04-17 stat.ME stat.ML
A Bayesian Residual-Based Test for Cointegration
协整是非平稳时间序列分析中的一个重要概念,它给出了一组非平稳过程具有潜在平稳(协整)关系的条件。在本文中,我们提出了第一个完全贝叶斯残差为基础的协整检验,在那里我们考虑了整个空间的可能的协整关系时,检验协整的存在。我们首先证明,这样的测试可以完全在残差过程遵循一阶自回归过程的情况下进行。然后,我们扩展这个测试,包括更复杂的残差过程,我们首先考虑一个合适的协整检验统计量,然后利用贝叶斯抽样技术来执行必要的推断。我们的经验表明,我们的贝叶斯方法达到了优越的分类精度比现有的方法,所有这些方法都使用点估计的协整关系在他们的测试。最后,我们展示了我们的方法在一些现实世界的金融时间序列数据。
2013-11-03 stat.ME
Bayesian Learning of Sum-Product Networks
Graz University of Technology(格拉茨技术大学);OFAI(奥地利人工智能研究所);University of Cambridge(剑桥大学);Uber AI(优步人工智能)
和积网络(SPN)是一种灵活的密度估计器,由于其有吸引力的推理特性而受到广泛关注。虽然SPN中的参数学习已经发展得很好,但结构学习仍有一些需要改进的地方:尽管有大量的SPN结构学习器,但它们中的大多数都是临时的,并且基于直觉而不是明确的学习原则。在本文中,我们介绍了一个良好的原则贝叶斯框架SPN结构学习。首先,我们将问题分解为i)布置计算图,以及ii)在图上学习所谓的范围函数。第一个是相当没有问题的,类似于神经网络架构验证。第二个表示SPN的有效结构,需要尊重SPN中通常的结构约束,即完整性和可分解性。虽然表示和学习的范围函数是有点涉及一般,在本文中,我们提出了一个自然的参数化的一个重要的和广泛使用的特殊情况下的SPN。这些结构参数被纳入贝叶斯模型,使同时结构和参数学习被铸造成单片贝叶斯后验推理。在各种实验中,我们的贝叶斯SPN往往比贪婪的SPN学习者提高测试的可能性。此外,由于贝叶斯框架可以防止过度拟合,因此我们可以直接在贝叶斯模型得分上评估超参数,而无需单独的验证集,这在低数据状态下特别有益。贝叶斯SPN可以应用于异构域,可以很容易地扩展到非参数公式。此外,我们的贝叶斯方法是第一个,它在丢失数据的情况下一致且鲁棒地学习SPN结构。
2019-11-04 cs.LG stat.ML
Learning Summary Statistics for Bayesian Inference with Autoencoders
Swiss Data Science Center(瑞士数据科学中心);Università Svizzera italiana(瑞士意大利语区大学);University of Insubria(因苏布里亚大学)
对于具有难处理的似然函数的随机模型,近似贝叶斯计算提供了一种通过重复比较观测值与模拟模型输出的一小部分汇总统计量来近似真实后验的方法。这些统计数据需要保留与约束参数相关的信息,但消除噪声。因此,它们可以被看作是一般随机模型的热力学状态变量。对于许多科学应用,我们需要比模型参数更多的汇总统计量来达到令人满意的后验近似。因此,我们建议使用基于深度神经网络的自动编码器的内部维度作为汇总统计。为了激励编码器对所有参数相关信息进行编码而不对噪声进行编码,我们向解码器提供了对关于噪声的显式或隐式信息的访问,该噪声已被用于生成训练数据。我们验证了两种类型的随机模型的经验方法。
2022-05-23 cs.LG stat.ME stat.ML
Position Dilution of Precision: a Bayesian point of view
在许多情况下,期望的位置误差是远远不可行的实验估计使用真实的卫星测量,这使得基于模型的位置精度衰减(PDOP)在定位和导航应用中至关重要。在下文中,我们推导出PDOP和位置误差之间的关系,并解释说,只要观测误差的模型代表了误差的真正来源,这种关系就成立。
2020-01-28 stat.AP
Low Volatility Stock Portfolio Through High Dimensional Bayesian Cointegration
本研究提出一种高维贝叶斯协整建模框架,可从大量股票中识别稀疏重要的协整关系以构建低波动率投资组合,该组合在样本外表现稳定,可作为有效的风险管理工具。
2024-07-14 econ.EM q-fin.PM q-fin.ST
Bayesian Modelling of Multivalued Power Curves from an Operational Wind Farm
University of Sheffield(谢菲尔德大学);University of Exeter(埃克塞特大学);Vattenfall Research and Development(Vattenfall研发中心)
功率曲线捕捉风速和特定风力涡轮机的输出功率之间的关系。该函数的精确回归模型证明在监控、维护、设计和规划中非常有用。然而,在实践中,测量并不总是对应于理想曲线:功率削减将出现(附加)功能组件。这样的多值关系不能通过常规回归建模,并且相关数据通常在预处理期间被移除。目前的工作提出了一种替代方法来推断多值关系削减功率数据。使用基于人口的方法,重叠的概率回归模型的混合物被应用于从运行的风电场内的涡轮机记录的信号。该模型提供了一个准确的代表性的人口实际功率数据。
2021-11-30 cs.LG stat.ML
Sharp Deviations Bounds for Dirichlet Weighted Sums with Application to analysis of Bayesian algorithms
本文推导Dirichlet加权和的尖锐非渐近偏差界,基于新颖积分表示与复分析,推广Beta分布结果,并应用于贝叶斯bootstrap及多臂老虎机TS算法,使遗憾界独立于支撑大小。
2026-10-06 cs.LG math.PR math.ST
Simulation-based Bayesian inference with ameliorative learned summary statistics -- Part I
Department of Electrical & Computer Engineering, College of Engineering, Physics, and Computing, The Catholic University of America(电气与计算机工程系,工程、物理与计算学院,天主教美国大学)
本文提出了一种基于模拟的贝叶斯推断方法,利用改善的学得总结统计量提升推断效果,并适用于分布式计算环境。
2026-01-30 cs.LG stat.ML
Bayesian Manifold Learning: The Locally Linear Latent Variable Model (LL-LVM)
我们介绍了局部线性潜变量模型(LL-LVM),非线性流形发现的概率模型,描述了一个联合分布的观察,他们的流形坐标和局部线性映射条件下的一组邻域关系。该模型允许直接变分优化的后验分布的坐标和局部线性映射从潜在空间的观察空间给定的数据。因此,LL-LVM封装了作为非概率方法(如局部线性嵌入(LLE))基础的局部几何保持直觉。它的概率语义使得它很容易评估的质量假设的邻域关系,选择流形的内在维度,构建样本外的扩展,并结合流形模型与额外的概率模型,捕捉结构的坐标在流形内。
2015-12-01 stat.ML
Bayesian Rank-Based Hypothesis Testing for the Rank Sum Test, the Signed Rank Test, and Spearman's $ρ$
贝叶斯推断的秩序问题是挫败的情况下,一个明确的似然函数。这一障碍可以通过假设与数据中的序数信息一致的潜在正态表示来克服:观察到的等级被概念化为底层连续尺度的贫困反映,并且推断涉及管理潜在表示的参数。我们应用这种通用的数据增强方法来获得贝叶斯因子的三个流行的基于秩的测试:秩和检验,符号秩检验,和斯皮尔曼的$ρ_s$。
2019-05-17 stat.ME
Representing Bayesian Networks within Probabilistic Horn Abduction
University of British Columbia(不列颠哥伦比亚大学)
本文提出了一个简单的框架Horn子句溯因,概率与假设。它示出了这种表示可以表示在贝叶斯信念网络中的任何概率知识。主要的贡献是在寻找证据推理的逻辑和概率概念之间的关系。这可以用作实现贝叶斯网络的新方法的基础,该方法允许对后验概率的值进行近似,并且还指出了贝叶斯网络可以扩展到命题语言之外的方式。
2013-03-20 cs.AI
A hierarchical Bayesian model for predicting ecological interactions using scaled evolutionary relationships
确定物种之间未记录或潜在的未来相互作用是现代生态学家面临的挑战。最近的链接预测方法依赖于性状数据,然而大型物种相互作用数据库通常是稀疏的,并且协变量仅限于一小部分物种。另一方面,进化关系,编码为系统发育树,可以作为代理的基本特征和历史模式的寄生虫之间共享主机。我们表明,使用基于网络的条件模型,系统发育信息提供了强大的预测能力,在最近公布的全球数据库的主机-寄生虫相互作用。通过使用进化模型来缩放遗传学,我们的方法允许潜在变量模型中经常缺失的生物学解释。为了进一步改进的单基因模型,我们结合了一个分层贝叶斯潜在分数框架的二分图,占每个物种的相互作用的数量与主机的依赖性通知单基因。结合这两个信息源,与单独的每个子模型相比,预测准确性得到了显着提高。由于许多相互作用网络是从仅存在的数据中构建的,因此我们通过整合缺失相互作用的校正机制来扩展模型,这在减少未观察到的相互作用中的不确定性方面很有价值。
2019-09-20 q-bio.PE stat.AP
A Transformational Characterization of Equivalent Bayesian Network Structures
University of California at Los Angeles(加州大学洛杉矶分校)
我们提出了一个简单的等价贝叶斯网络结构的局部变换的基础上的表征。这一定性的意义是双重的。首先,我们能够很容易地证明几个新的不变性质的理论兴趣的等价结构。其次,我们使用的特征,以获得一个有效的算法,确定所有的强迫边缘的结构。强迫边缘识别对于从数据中学习贝叶斯网络结构特别重要,因为当某些假设成立时,这些边缘指示因果关系。
2013-02-20 cs.AI
The Relationship between Moderate to Vigorous Physical Activity and Metabolic Syndrome: A Bayesian Measurement Error Approach
本文利用NHANES数据,提出一种贝叶斯测量误差方法,通过加速度计测量误差模型和非线性似不相关回归,在连续空间上建模中高强度身体活动与代谢综合征各风险因素之间的关系,并纳入风险因素间的相关性,为医学研究提供了新的建模视角。
2023-08-11 stat.AP stat.ME
Probabilistic Inferences in Bayesian Networks
Interdisciplinary Center for Security, Reliability and Trust(安全、可靠性与信任跨学科中心);University of Luxembourg(卢森堡大学)
贝叶斯网络是一个关于变量及其关系的完整模型,它可以用来回答关于它们的概率查询。因此,贝叶斯网络可以被认为是一种自动将贝叶斯定理应用于复杂问题的机制。在贝叶斯网络的应用中,大部分的工作都与概率推理有关。贝叶斯网络中任何一个节点的变量更新都可能导致证据在贝叶斯网络中的传播。总结了贝叶斯网络中的各种推理技术,为贝叶斯网络概率推理的算法计算提供了指导。
2010-11-05 cs.AI cs.NI
Adaptive Bayesian Sum of Trees Model for Covariate Dependent Spectral Analysis
本文介绍了一种灵活的、自适应的非参数方法,用于估计多个协变量与多个时间序列的功率谱之间的关联。所提出的方法使用贝叶斯树模型的总和,以捕捉复杂的依赖关系和协变量和功率谱之间的相互作用,这是经常观察到的生物医学时间序列的研究。局部功率谱对应的终端节点内的树木估计非参数使用贝叶斯惩罚线性样条。树被认为是随机的,并使用贝叶斯回拟合马尔可夫链蒙特卡罗(MCMC)算法,顺序考虑树的修改,通过可逆跳MCMC技术。对于高维协变量,稀疏诱导Dirichlet超先验树分裂比例被认为是,它提供了稀疏估计协变量的影响和有效的变量选择。通过对树的后验分布进行平均,该方法可以恢复多个协变量之间功率谱的平滑和突变。经验性能通过模拟评估,以证明所提出的方法的能力,准确地恢复复杂的关系和相互作用。建议的方法是用来研究步态成熟的幼儿通过评估与年龄相关的变化,在其他协变量的存在下,功率谱的步幅间隔时间序列。
2021-09-29 stat.AP stat.CO stat.ME
Competence-Based Student Modelling with Dynamic Bayesian Networks
Virtual University System, University of Guadalajara(瓜达拉哈拉大学虚拟大学系统);National Institute for Astrophysics, Optics and Electronics(国家天体物理、光学与电子学研究所)
我们提出了一种通用的方法,使用能力地图,通过定义泛化/专业化和包含/部分能力之间的关系,以建立一个覆盖的学生模型的形式的动态贝叶斯网络中的条件概率分布定义每个关系类型。我们已经为墨西哥高中系统的教育目标定义了一个横向能力的子集创建了一个能力地图,然后我们建立了一个动态贝叶斯学生模型,我们使用它来跟踪一些假设的学生在网上课程中表现出代表性表现的相应能力的发展(低至中等表现,中至高表现但最终得分较低,以及两个学期的中至高表现)。所获得的结果表明,所提出的方法构建动态贝叶斯学生模型的基础上的能力地图可能是有用的,以监测能力的发展,真正的学生在网上课程。
2020-08-21 cs.AI cs.CY
Unifying Summary Statistic Selection for Approximate Bayesian Computation
Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院)
本文提出了一种统一的近似贝叶斯计算中总结统计量选择框架,通过最小化预期后验熵来获得信息性总结,适用于多种复杂模型。
2025-11-23 cs.IT math.IT stat.ME
A calibration method structured on Bayesian Inference of the HCM speed-flow relationship for freeways and multilane highways and a temporal analysis of traffic behavior
本文提出了一种用于高速公路和多车道公路的HCM 2016速度流模型的校准方法,该方法与交通流的时间分析相结合。所提出的方法是使用超过一百万个观测样本收集的23个交通传感器在圣保罗州的四条高速公路。该方法基于贝叶斯推断,并为每个模型参数提供概率分布函数。自由流速度和通行能力呈现近似正态分布的概率密度函数。其中交通流的速度随着交通流的增加而保持恒定的路段低于HCM 2016中所描述的,在某些情况下接近于零。随着所提出的校准方法的时间变化的分析进行,这表明在不同时期的交通行为的显着变化。通过Kolmogorov-Smirnov检验,认为通过月和年校准获得的自由流速度、容量和断点分布是相等的,而模型校准系数不同。
2019-08-28 stat.AP
Asymptotics of approximate Bayesian computation when summary statistics converge at heterogeneous rates
本文研究汇总统计量以异质速率收敛时近似贝叶斯计算的渐近性质,给出后验收敛条件及形状的显式表示,并量化局部线性后处理的增益。
2023-11-16 stat.CO
K2-ABC: Approximate Bayesian Computation with Kernel Embeddings
University College London(伦敦大学学院);University of Oxford(牛津大学);University of Amsterdam(阿姆斯特丹大学)
复杂的生成模型通常会导致计算观测数据的可能性是棘手的,而从给定参数值的条件密度进行模拟相对容易。近似贝叶斯计算(ABC)是一种范式,它通过测量模拟和观察数据之间的相似性,在这种情况下,使基于模拟的后验推理在一组选定的汇总统计。然而,没有一般规则来为复杂模型构建足够的汇总统计量。不充分的汇总统计量将“泄漏”信息,这导致ABC算法从不正确的(部分)后验中产生样本。在本文中,我们提出了一个完全非参数ABC范式,它避免了手动选择汇总统计量的需要。我们的方法,K2-ABC,使用最大平均差异(MMD)作为观测数据和模拟数据的分布之间的相异性度量。MMD很容易估计为它们的经验内核嵌入之间的平方差。模拟场景和现实世界的生物问题的实验表明,该算法的有效性。
2015-12-26 cs.LG stat.ML
Bayesian inference and non-linear extensions of the CIRCE method for quantifying the uncertainty of closure relationships integrated into thermal-hydraulic system codes
在核安全和许可过程中,将最佳估计加不确定性(BEPU)方法应用于热工水力系统规范中,封闭关系的不确定性量化是一个关键的先决条件,CIRCE方法的目的是估计应用于参考封闭关系的乘法因子的(log)-高斯概率分布,以评估其不确定性。尽管这种方法已经在许多物理场景中成功实施,但它仍然受到诸如线性假设和难以适当考虑固有的统计不确定性等实质性限制。在本文中,我们将从两个方面扩展CIRCE方法。一方面,我们采用贝叶斯设置把先验概率分布的(对数)-高斯分布的参数。然后通过马尔可夫链蒙特卡罗(MCMC)算法计算相对于实验数据库的参数的后验分布。另一方面,我们解决了更一般的设置,其中模拟不对乘法因子线性移动。当热工水力模拟超过几分钟时,MCMC算法变得时间限制。这个障碍是克服使用高斯过程(GP)仿真器,可以产生可靠和快速的预测的模拟。基于GP的MCMC算法将应用于量化安全注射时两个冷凝闭合关系相对于实验测试数据库的不确定性。将使用CATHARE 2计算机代码运行热工水力模拟。
2020-03-09 stat.AP stat.CO
The Bayesian Echo Chamber: Modeling Social Influence via Linguistic Accommodation
Duke University(杜克大学);UCL(伦敦大学学院);Microsoft Research(微软研究院)
我们提出了贝叶斯回声室,一个新的贝叶斯生成模型的社会互动数据。该模型通过对人们语言使用随时间的演变进行建模,发现它们之间潜在的影响关系。与以前的工作推断的影响,这主要集中在简单的时间动态证明通过话轮转换行为,我们的模型捕捉到更微妙的影响关系,证明通过语言的适应模式的互动内容。该模型是基于离散模拟的多变量霍克斯过程,允许一个完全的贝叶斯推断算法。我们验证了我们的模型的能力,发现潜在的影响模式,使用美国最高法院和电影“12愤怒的人”听到的辩论成绩单。“我们展示了我们的模型的能力,通过使用它来推断联邦公开市场委员会会议记录的潜在影响模式,展示了在小组讨论中发现社会动态的最先进性能。
2015-01-27 cs.CL cs.LG cs.SI
Posterior Summarization for Variable Selection in Bayesian Tree Ensembles
Northwestern University(西北大学);Rice University(莱斯大学)
针对贝叶斯树集成变量选择的后验汇总问题,提出VC-度量及聚类阈值,该方法适配BART变体,在大规模基准测试中提升F1值,与DART结合后平衡了召回率、精度与效率。
2026-08-25 stat.ME
MLCBART: Multilabel Classification with Bayesian Additive Regression Trees
Simon Fraser University(西蒙菲莎大学);Acadia University(阿卡迪亚大学)
MLCBART通过贝叶斯加法回归树模型,有效处理多标签分类问题,提升预测精度并提供不确定性量化。
2026-01-13 stat.ME stat.ML
Scaling Up Bayesian DAG Sampling
针对贝叶斯网络结构推断中DAG采样效率问题,提出基础边操作高效实现与父集剪枝预处理两种技术,显著提升了马尔可夫链采样的效率。
2025-10-29 cs.AI cs.LG