The practice of qualitative parameterisation in the development of Bayesian networks
Bayesian Intelligence(贝叶斯智能公司);Faculty of Information Technology Monash University(莫纳什大学信息技术学院);School of Public Health University of Sydney(悉尼大学公共卫生学院)
本文提出“定性参数化”这一贝叶斯网络开发步骤,即在严格参数化前进行粗略参数化以验证结构合理性,并强调其在实践中的重要性及文献报道不足的问题。
2024-02-20 cs.AI
A Bayesian and Machine Learning approach to estimating Influence Model parameters for IM-RO
University of Saskatchewan(萨斯喀彻温大学)
在线社交网络(OSN)的兴起引起了广告商和研究人员的极大兴趣,他们试图垄断其功能。研究人员的目标是制定策略,以确定如何在OSN内的用户之间传播信息,这些信息是由扩散或影响模型捕获的。我们认为IM-RO问题的影响模型,一种新的配方的影响最大化(IM)问题的基础上实施随机动态规划(SDP)。与涉及影响力传播和子模函数理论的现有方法相比,SDP方法专注于优化点击并最终为OSN中的广告主带来收入。在过去的十年中,影响力最大化的现有方法一直在积极研究,应用到多个领域,然而,我们的方法是一个更实际的变种,原来的IM问题。在本文中,我们通过对合成和真实世界数据集进行实验,对IM-RO问题的影响模型进行了分析。我们提出了一个贝叶斯和机器学习的方法来估计(影响最大化-收入优化)IM-RO问题的影响模型的参数。我们提出了一个贝叶斯分层模型,并实现了著名的朴素贝叶斯分类器(NBC),决策树分类器(DTC)和随机森林分类器(RFC)在三个现实世界的数据集。与以前的方法来估计影响模型参数相比,我们的策略具有直接在标准软件包,如WinBUGS/OpenBUGS/JAGS和Apache Spark中实现的巨大优势。我们展示了我们的方法在OSN的背景下传播信息和为广告商创收方面的效率和可用性。
2018-03-08 cs.LG stat.ML
The Bayesian Echo Chamber: Modeling Social Influence via Linguistic Accommodation
Duke University(杜克大学);UCL(伦敦大学学院);Microsoft Research(微软研究院)
我们提出了贝叶斯回声室,一个新的贝叶斯生成模型的社会互动数据。该模型通过对人们语言使用随时间的演变进行建模,发现它们之间潜在的影响关系。与以前的工作推断的影响,这主要集中在简单的时间动态证明通过话轮转换行为,我们的模型捕捉到更微妙的影响关系,证明通过语言的适应模式的互动内容。该模型是基于离散模拟的多变量霍克斯过程,允许一个完全的贝叶斯推断算法。我们验证了我们的模型的能力,发现潜在的影响模式,使用美国最高法院和电影“12愤怒的人”听到的辩论成绩单。“我们展示了我们的模型的能力,通过使用它来推断联邦公开市场委员会会议记录的潜在影响模式,展示了在小组讨论中发现社会动态的最先进性能。
2015-01-27 cs.CL cs.LG cs.SI
Bayesian Uncertainty Quantification for Systems Biology Models Parameterized Using Qualitative Data
动机:最近的工作已经证明了使用非数值的定性数据来参数化数学模型的可行性。然而,这种参数化模型的不确定性量化(UQ)仍然是具有挑战性的,因为缺乏一个统计解释的优化中使用的目标函数。结果如下:我们制定了似然函数适用于使用定性数据或定性和定量数据的组合进行贝叶斯UQ。为了证明所得到的UQ能力,我们使用合成的定性和定量数据集分析了IgE受体信号传导的已发表模型。值得注意的是,来自定性数据的参数值的估计值与来自较低通量定量数据的估计值几乎一致。这些结果为在生物建模中利用定性数据提供了进一步的动力。供货情况:这里介绍的似然函数是在PyBioNetFit的新版本中实现的,PyBioNetFit是一个用于分析SBML和BNGL格式模型的开源应用程序,可在www.example.com在线获得www.github.com/lanl/PyBNF。
2019-08-30 q-bio.QM stat.ME
Bayesian Inference Forgetting
University of Sydney(悉尼大学);University of Science and Technology of China(中国科学技术大学)
被遗忘的权利在许多国家已经立法,但在机器学习中的执行将导致无法承受的成本:由于单个请求,公司可能需要删除从大量资源中学习的整个模型。现有的工作建议通过其影响函数,这不再是自然定义的贝叶斯推理从所请求的数据中删除的知识。提出了一种{ \it贝叶斯推理遗忘}(BIF)框架,实现贝叶斯推理中的被遗忘权。在BIF框架中,我们开发了变分推理和马尔可夫链蒙特卡罗的遗忘算法。我们表明,我们的算法可以证明消除单一数据的学习模型的影响。理论分析表明,我们的算法有保证的推广性。在合成数据集上的高斯混合模型和在真实数据集上的贝叶斯神经网络实验验证了该方法的可行性。源代码包可从\url{https://github.com/fshp971/BIF}获得。
2021-02-18 cs.AI cs.LG stat.ML
Bayesian Auxiliary Variable Model for Birth Records Data with Qualitative and Quantitative Responses
Dongbei University of Finance and Economics(东北财经大学);Virginia Tech(弗吉尼亚理工大学);Illinois Institute of Technology(伊利诺伊理工学院)
本文提出贝叶斯方法联合建模具有质量和数量响应的数据,通过潜在变量评估依赖强度,提升预测能力,应用于研究早产与出生体重的相互依赖性。
2020-08-14 stat.ME
Qualitative Robustness in Bayesian Inference
贝叶斯推理的实际实现需要数值逼近时,封闭形式的表达式不可用。什么类型的精确度(收敛性)的数值逼近保证鲁棒性,什么类型不能?特别是,当后续数据或后验近似时,贝叶斯规则的递归应用是否稳健?当先验是由偏微分方程的解诱导的映射对分布的推进时,该解应近似于哪个范数?出于这样的问题,我们调查的灵敏度分布的后验分布(即后验分布值的随机变量,随机通过数据)相对于扰动的先验和数据生成分布的限制时,数据点的数量增长到无穷大。
2016-04-20 math.ST stat.TH
Generative Priors Conditioned on Natural Language for Bayesian Inversion in PDEs
本文提出利用自然语言条件生成先验,结合定量与定性数据,对偏微分方程中的感兴趣量进行贝叶斯反演与不确定性量化,通过条件扩散和条件自编码器两种方法实现,并在多个物理系统上验证。
2026-09-29 cs.LG stat.ML
Discriminative Jackknife: Quantifying Uncertainty in Deep Learning via Higher-Order Influence Functions
UCLA(加州大学洛杉矶分校);Cambridge University(剑桥大学)
深度学习模型在广泛的任务中实现了高预测准确性,但严格量化其预测不确定性仍然具有挑战性。预测不确定性的可用估计应该(1)以高概率覆盖真实的预测目标,以及(2)区分高置信度和低置信度的预测实例。现有的不确定性量化方法主要基于贝叶斯神经网络;这些方法可能达不到(1)和(2)--即,贝叶斯可信区间不保证频率覆盖,近似后验推理破坏了判别精度。在本文中,我们开发的判别刀切(DJ),一个频率论的程序,利用模型的损失函数的影响函数来构建一个刀切(或留一)估计的预测置信区间。DJ满足(1)和(2),适用于广泛的深度学习模型,易于实现,并且可以以事后方式应用,而不会干扰模型训练或损害其准确性。实验表明,DJ执行竞争力相比,现有的贝叶斯和非贝叶斯回归基线。
2020-06-29 cs.LG stat.ML
Bayesian D-Optimal Design of Experiments with Quantitative and Qualitative Responses
针对同时含连续与二元响应的实验,本文提出贝叶斯D最优设计准则及点交换算法,构造局部与全局设计并通过两个示例验证性能。
2023-04-21 stat.ME
Context-Specific Independence in Bayesian Networks
University of British Columbia(不列颠哥伦比亚大学);Stanford University(斯坦福大学);SRI International(斯坦福国际研究院)
贝叶斯网络提供了一种定性表示分布的条件独立性的语言。这允许分布的自然和紧凑的表示,简化了知识获取,并支持有效的推理算法。然而,众所周知,在贝叶斯网络结构中,我们无法定性地捕获某些独立性:仅在某些上下文中成立的独立性,即,给特定的变量赋值。在本文中,我们提出了一个正式的概念,上下文特定的独立性(CSI)的基础上,在一个节点的条件概率表(CPTs)的重复。我们提出了一种技术,类似于(并基于)d-分离,用于确定何时在给定的网络中保持这种独立性。然后,我们专注于一个特定的定性表示方案-树结构的CPTs -捕捉CSI。我们建议的方式,这种表示可以用来支持有效的推理算法。特别是,我们提出了一个结构分解的网络,可以提高聚类算法的性能,和一个替代算法的基础上割集条件。
2013-02-13 cs.AI
Bayesian Inference in Recurrent Explicit Duration Switching Linear Dynamical Systems
University of Wroclaw(弗罗茨瓦夫大学)
本文提出REDSLDS模型,通过引入循环显式持续时间变量并采用Pólya-gamma增广进行推断,在三个基准数据集上提升了分割能力。
2024-11-06 cs.AI cs.LG math.DS
Belief Updating and Learning in Semi-Qualitative Probabilistic Networks
本文探讨了结合数值和定性信息的半定性概率网络(SQPN)。我们首先证明了SQPN的精确推理是NPPP完全的。然后,我们表明,现有的SQPN(加上概率逻辑和不精确的评估)的定性关系,可以有效地处理通过多线性规划。然后我们讨论学习:我们考虑一种最大似然方法,它在给定SQPN和经验数据的情况下产生点估计,我们描述了一种贝叶斯思想的方法,它采用不精确狄利克雷模型来产生集值估计。
2012-07-04 cs.AI stat.ML
Surjective Independence of Causal Influences for Local Bayesian Network Structures
University of Warwick(沃里克大学)
针对贝叶斯网络参数化中专家判断负担重、数量多及ICI假设过强的问题,本文提出放宽该假设的SICI局部结构模型,以支持更实用高效的参数化。
2025-09-29 cs.AI stat.ME
Introducing Quantum-Like Influence Diagrams for Violations of the Sure Thing Principle
University of Leicester(莱斯特大学);Instituto Superior Técnico(高等技术学院);INESC-ID(葡萄牙信息与通信技术研究院)
这是这项工作的重点,扩展和研究以前提出的量子贝叶斯网络,以处理决策的情况下,将最大期望效用的概念,在影响图。一般的想法是利用类量子贝叶斯网络中产生的量子干涉项来影响用于计算某些行为的预期效用的概率。这样,我们就不是在提出一种新的期望效用假设。相反,我们把它保持在它的经典定义之下。我们只是将其作为概率图模型的扩展,用一种称为影响图的紧凑图形表示,其中效用函数取决于类量子贝叶斯网络的概率影响。我们的研究结果表明,拟议的量子影响图确实可以利用量子贝叶斯网络的量子干涉效应,以最大限度地提高效用的合作行为,在一个完全理性的缺陷行为下的囚徒困境游戏。
2020-12-29 cs.AI
Importance Sampling in Bayesian Networks: An Influence-Based Approximation Strategy for Importance Functions
贝叶斯网络中重要性采样的主要问题之一是重要性函数的表示,理想情况下,重要性函数应尽可能接近后验联合分布。通常,我们将重要性函数表示为因子分解,即,条件概率表(CPT)。鉴于诊断证据,我们没有明确的形式,在网络中的CPT。我们首先推导出最优重要性函数的CPT的精确形式。由于计算困难,我们通常只使用近似值。我们回顾了几种流行的策略,并指出其局限性。在分析证据影响的基础上,提出了一种通过对证据引入的最重要的附加依赖关系进行显式建模来近似重要性函数的精确形式的方法。我们的实验结果表明,新的近似策略提供了一个立即改善的重要性函数的质量。
2012-07-04 cs.AI
Correlated Multiarmed Bandit Problem: Bayesian Algorithms and Regret Analysis
Princeton University(普林斯顿大学);University of Pennsylvania(宾夕法尼亚大学)
考虑了多臂相关强盗(MAB)问题,其中每只手臂的报酬由多元高斯随机变量建模,研究了贝叶斯先验假设对可信上限(UCL)算法性能的影响,并提出了一种新的相关UCL算法.我们严格的准确性,置信度和相关尺度的影响,在决策性能的算法上的先验。我们的研究结果表明,如何先验和相关性结构可以利用,以提高性能。
2015-07-07 cs.LG math.OC stat.ML
Bayesian Network Modeling of Causal Influence within Cognitive Domains and Clinical Dementia Severity Ratings for Western and Indian Cohorts
本研究利用贝叶斯网络和有向无环图分析ADNI和LASI数据集,揭示了西方与印度人群在临床痴呆评分六个认知领域因果关系及边强度上的显著差异,为跨人群痴呆干预提供依据。
2024-08-16 cs.AI cs.LG q-bio.NC
Influence-Driven Explanations for Bayesian Network Classifiers
Imperial College London(帝国理工学院);Università degli Studi di Brescia(布雷西亚大学)
近年来,人工智能领域最紧迫的问题之一是需要解决其许多模型缺乏可解释性的问题。我们专注于离散贝叶斯网络分类器(BC)的解释,通过在解释中包括中间变量来提高其内部工作的透明度,而不仅仅是标准实践中的输入和输出变量。提出的BC的影响驱动解释(IDX)是系统地使用BC内变量之间的因果关系生成的,称为影响,然后根据它们的行为按逻辑要求(称为关系属性)进行分类。这些关系属性都提供了超越启发式解释方法的保证,并允许支持解释的信息根据特定上下文和用户的要求进行定制,例如,IDX可能是辩证的或反事实的。我们展示了IDX解释各种形式的BC的能力,例如,幼稚或多标签,二元或分类,并整合最近的方法来解释从文献中的BC。我们评估IDX的理论和实证分析,证明他们相当大的优势时,与现有的解释方法相比。
2021-03-10 cs.AI
Bayesian Analysis of Social Influence
网络影响力模型是一个二元结果变量模型,它解释了关系紧密的单位的结果之间的依赖关系。基本的影响模型以前扩展到提供一套新的依赖性假设,因为它的关系,传统的马尔可夫随机场模型,它通常被称为自动逻辑因素-属性模型(ALAAM)。我们扩展了目前的方法,提出了一个全面的贝叶斯推断计划,支持测试的依赖性,跨数据子集和缺失数据的存在,以适应ALAAM。我们说明了不同方面的程序,通过三个实证的例子:男性气质的态度,在全男性的澳大利亚学校类,在瑞典学校的教育进展,在澳大利亚的社区样本中的成年人失业。
2022-03-08 stat.AP stat.ME
A Bayesian Approach to Estimate Causal Peer Influence Accounting for Latent Network Homophily
本文提出结合潜在网络位置、贝叶斯层次模型与BART的框架,以在未观测同质性混杂下识别并估计多网络中的因果同伴影响。
2024-06-14 stat.AP
Bayesian measures of leverage and influence
University of Warwick(华威大学)
该研究从局部敏感性框架推导贝叶斯杠杆与影响诊断,关联预测信息准则,提出异常值检测等新诊断,为模型改进及先验-数据冲突分析提供方法。
2026-08-20 stat.ME
Bayesian Optimization for Building Social-Influence-Free Consensus
University of Oxford(牛津大学);Toyota Motor Corporation(丰田汽车公司);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);EPFL(洛桑联邦理工学院)
针对集体决策中社会影响扭曲偏好反馈的问题,提出社交贝叶斯优化(SBO)算法,采用双投票系统学习社交图并去偏公开投票,实现高效无社会影响共识构建,在多个实际场景中验证了有效性。
2025-02-11 cs.GT cs.LG cs.MA
Fully Bayesian Autoencoders with Latent Sparse Gaussian Processes
EURECOM(欧洲通信研究院);University of California, Irvine(加州大学欧文分校)
自动编码器及其变体是表示学习和生成建模中使用最广泛的模型之一。然而,基于自动编码器的模型通常假设学习的表示是i.i.d.。并且不能捕获数据样本之间的相关性。为了解决这个问题,我们提出了一种新的稀疏高斯过程贝叶斯自动编码器(SGPAE)模型,在该模型中,我们对贝叶斯自动编码器的潜在空间施加完全贝叶斯稀疏高斯过程先验。我们通过随机梯度Hamilton Monte Carlo对该模型进行后验估计。我们在广泛的表示学习和生成建模任务上定性和定量地评估了我们的方法,并表明我们的方法始终优于依赖于变分自编码器的多个替代方案。
2023-02-09 cs.LG stat.ML
An Empirical Analysis of the Advantages of Finite- v.s. Infinite-Width Bayesian Neural Networks
Harvard University(哈佛大学)
比较具有不同宽度的贝叶斯神经网络(BNN)是具有挑战性的,因为随着宽度的增加,多个模型属性同时改变,并且有限宽度情况下的推理是难以处理的。在这项工作中,我们经验比较有限和无限宽BNN,并提供定量和定性的解释,他们的性能差异。我们发现,当模型被错误指定时,增加宽度会损害BNN的性能。在这些情况下,我们提供的证据表明,有限宽度BNN的泛化能力更好,部分原因是它们的频谱特性允许它们适应模型失配。
2022-11-28 cs.LG stat.ML
Prediction with Missing Data via Bayesian Additive Regression Trees
The Wharton School of the University of Pennsylvania(宾夕法尼亚大学沃顿商学院)
我们提出了一种方法,将缺失数据在非参数统计学习,而不需要填补。我们专注于一个基于树的方法,贝叶斯加法回归树(BART),增强了“Missingness Incorporated in Attributes”,最近提出的一种方法将missingness纳入决策树(Twala,2008)。这个过程利用了基于树的模型中的分区机制。仿真生成的模型和实际数据表明,我们提出的方法可以很好地预测复杂的失踪在随机和非失踪在随机模型,以及失踪本身影响响应的模型。我们的程序具有更高的预测性能,在许多情况下比竞争对手更稳定。我们还说明了巴士的能力,将缺失到不确定性区间,并检测缺失的模型拟合的影响。
2014-02-12 cs.LG stat.ML
Qualitative Probabilistic Networks for Planning Under Uncertainty
MIT Laboratory for Computer Science(麻省理工学院计算机科学实验室)
贝叶斯网络为关于可能性的定性断言提供了概率语义。基于这些断言的代数的定性推理器可以得出关于动作的影响的进一步结论。虽然这些结论比从完全概率分布中计算出来的结论要弱得多,但它们对于建议潜在的行动、消除明显较差的计划、识别重要的权衡和解释概率模型仍然很有价值。
2013-03-27 cs.AI
A Non-Parametric Bayesian Method for Inferring Hidden Causes
Brown University(布朗大学);University of Cambridge(剑桥大学)
我们提出了一个非参数贝叶斯方法来结构学习与隐藏的原因。以前的贝叶斯处理这个问题定义了一个先验的隐藏原因的数量,并使用算法,如可逆跳马尔可夫链蒙特卡罗解决方案之间移动。相反,我们假设隐藏原因的数量是无限的,但只有有限的数量影响可观察的变量。这使得有可能使用吉布斯采样器来近似因果结构上的分布。我们评估了这两种方法在模拟数据中发现隐藏原因的性能,并使用我们的非参数方法在真实的医疗数据集中发现隐藏原因。
2012-06-27 cs.AI cs.LG stat.ML
Influence Networks: Bayesian Modeling and Diffusion
本文提出一种基于投影的贝叶斯潜在空间模型创新改造方法,通过重新参数化量化个体影响力并估计其社会空间潜在位置,建立描述想法扩散的机制,并通过Twitter数据和模拟验证。
2024-08-24 stat.AP stat.ME
Efficient Rollout Strategies for Bayesian Optimization
Cornell University(康奈尔大学);Uber AI(优步人工智能实验室);SigOpt(SigOpt公司)
贝叶斯优化(BO)是一类样本有效的全局优化方法,其中以先前观测为条件的概率模型用于通过优化采集函数来确定未来的评估。大多数获取函数都是短视的,这意味着它们只考虑下一个函数评估的影响。非近视采集函数考虑下一个$h$函数评估的影响,并且通常通过卷展来计算,其中模拟BO的$h$步骤。这些卷展获取函数被定义为$h$维积分,并且计算和优化成本很高。我们表明,准蒙特卡罗,共同的随机数,和控制变量的组合显着降低了计算负担的推出。然后,我们制定了一个基于策略搜索的方法,消除了需要优化的推出收购功能。最后,我们讨论了在多模态目标和模型误差的设置下,推出策略的定性行为。
2020-06-19 cs.AI cs.LG stat.ML
Independence of Causal Influence and Clique Tree Propagation
Hong Kong University of Science & Technology(香港科技大学)
研究了因果影响独立性在贝叶斯网络推理中的作用。ICI允许将条件概率表分解成更小的块。我们描述了一种利用团树传播(CTP)中的因子分解的方法-贝叶斯网络的最先进的精确推理算法。我们还提出了实证结果表明,所得到的算法是显着更有效的CTP和以前的技术相结合,利用ICI。
2013-02-06 cs.AI
Using Qualitative Relationships for Bounding Probability Distributions
University of Michigan(密歇根大学)
我们利用定性的概率关系的变量计算边界的条件概率分布的兴趣在贝叶斯网络。使用定性关系的符号,我们可以实现保证将兴趣分布约束在期望方向上的抽象操作。通过评估增量改进的近似网络,我们的算法得到单调收紧的界限,收敛到精确的分布。对于超模效用函数,紧缩界也单调地减少了可容许决策方案的集合。
2013-01-30 cs.AI
Bayesian influence diagnostics using normalizing functional Bregman divergence
理想情况下,任何统计推断都应该对局部影响具有鲁棒性。虽然有简单的方法来检查独立和线性问题中的杠杆点,但更复杂的模型需要更复杂的方法。Kullback-Leiber和Bregman分歧已经应用于贝叶斯推断中,以衡量模型中每个观察结果的孤立影响。我们将这些想法扩展到相关数据和非正态概率分布的模型,如时间序列,空间模型和广义线性模型。我们还提出了一个策略,重新调整功能Bregman分歧在于(0,1)的间隔,从而方便解释和比较。这是用最小的计算工作量和保持所有的理论性质来完成的。为了提高计算效率,我们利用哈密顿蒙特卡罗方法从模型参数的后验分布中抽取样本。由此产生的马尔可夫链,然后直接与布雷格曼演算,这导致快速计算。我们检查的命题在模拟和实证研究。
2019-04-07 stat.AP
Bayesian selection for the l2-Potts model regularization parameter: 1D piecewise constant signal denoising
Univ Lyon, Ens de Lyon, Univ Claude Bernard, CNRS, Laboratoire de Physique(里昂大学,里昂高等师范学院,克洛德·贝尔纳大学,法国国家科学研究中心,物理实验室);IRIT/INP-ENSEEIHT, University of Toulouse(图卢兹大学 IRIT/INP-ENSEEIHT)
分段常数去噪可以通过基于Potts模型的确定性优化方法或通过随机贝叶斯过程来解决。前者导致低的计算时间,但需要选择的正则化参数,其值显着影响所获得的解决方案,其自动选择仍然是一个复杂的和具有挑战性的问题。相反,完全贝叶斯形式主义将正则化参数选择封装到分层模型中,代价是高计算成本。这方面的贡献提出了一个操作策略,结合层次贝叶斯和Potts模型配方,自动调整正则化参数和保持计算效率的双重目标。建议的程序依赖于正式连接贝叶斯框架的l2-Potts功能。所提出的分段常数去噪和正则化参数调整技术的行为和性能进行了定性研究和定量评估,并显示出与完全贝叶斯分层过程相比,在精度和计算负载方面都是有利的。
2017-02-27 cs.LG stat.ML
Data-Centric Mixed-Variable Bayesian Optimization For Materials Design
Northwestern University(西北大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);The University of Vermont(佛蒙特大学);Duke University(杜克大学)
材料设计可以被视为一个优化问题,其目标是通过改变材料成分、微观结构形态和加工条件来实现所需的性能。定性和定量材料设计变量的存在导致属性空间中的脱节区域,使得搜索最优设计具有挑战性。有限的实验数据和高昂的模拟成本加大了这一挑战。这种情况需要设计方法,可以从现有的数据中提取有用的信息,并有效地指导搜索最佳设计。为此,我们提出了一个以数据为中心的混合变量贝叶斯优化框架,该框架集成了来自文献,实验和模拟的数据,用于知识发现和计算材料设计。我们的框架围绕潜在变量高斯过程(LVGP),一种新的高斯过程技术,项目定性变量的协方差公式的连续潜在空间,作为代理模型来量化“缺乏数据”的不确定性。期望改进是一种平衡探索和开发的获取准则,有助于在复杂的非线性设计空间中导航以找到最优设计。建议的框架进行测试,通过案例研究,旨在同时确定绝缘聚合物纳米复合材料的最佳组合物和形态。我们还提出了一个扩展的混合变量贝叶斯优化多个目标,以确定帕累托边界内数十次迭代。这些发现项目贝叶斯优化作为一个强大的工具,设计工程材料系统。
2019-07-04 cond-mat.mtrl-sci cs.LG physics.comp-ph
Machine Learning, Linear and Bayesian Models for Logistic Regression in Failure Detection Problems
SoftServe, Inc.(SoftServe 公司);Ivan Franko National University of Lviv(利沃夫伊万·弗兰科国立大学)
在这项工作中,我们研究了使用逻辑回归在制造故障检测。作为分析的数据集,我们使用了来自Kaggle竞争Bosch生产线性能的数据。我们考虑了机器学习、线性和贝叶斯模型的使用。对于机器学习方法,我们分析了基于XGBoost树的分类器,以获得高分分类。使用广义线性模型进行Logistic回归,可以分析所研究的因素的影响。逻辑回归的贝叶斯方法给出了模型参数的统计分布。它可以用于概率分析,例如风险评估。
2016-12-17 cs.LG stat.ML
Bayesian Conformal Prediction via the Bayesian Bootstrap
针对贝叶斯方法预测区间频率派校准效果差的问题,提出基于影响函数贝叶斯自助法、数据驱动调优狄利克雷参数α的贝叶斯共形方法,可构建校准性好且锐利的预测区间与分布,性能优于标准贝叶斯后验,且实现简便灵活。
2025-08-02 math.ST stat.ME stat.TH
Bayesian Synthesis of Probabilistic Programs for Automatic Data Modeling
Massachusetts Institute of Technology(麻省理工学院)
我们提出了新的技术,自动构建数据分析,解释和预测的概率程序。这些技术与概率领域特定的数据建模语言一起工作,这些语言捕获广泛类别的数据生成过程的关键属性,使用贝叶斯推理在给定观察数据的情况下在这些建模语言中合成概率程序。我们提供了一个精确的配方贝叶斯合成自动数据建模,确定了充分的条件所产生的合成过程是健全的。我们还推导出一般类的合成算法指定的概率上下文无关文法的特定领域的语言,并建立健全的方法,这些语言。我们应用的技术,自动合成的概率程序的时间序列数据和多元表格数据。我们展示了如何分析合成程序的结构,以计算感兴趣的关键定性属性,潜在的数据生成过程表现出这些属性的概率。其次,我们翻译概率程序在特定领域的语言概率程序的风险投资,一个通用的概率编程系统。然后执行翻译后的Venture程序,以获得新的时间序列数据和新的多变量数据记录的预测。实验结果表明,我们的技术可以准确地推断多个真实世界的数据集的定性结构,并在预测和预测新数据的标准数据分析方法。
2019-07-14 cs.AI cs.LG cs.PL
Semi-Modular Inference: enhanced learning in multi-modular models by tempering the influence of components
University of Oxford(牛津大学)
本文提出半模ularity推断方法,通过调节组件影响提升多模块模型的学习效果,针对生成模型的不规范性问题提供改进方案。
2020-03-15 math.ST stat.ME stat.ML
"Cultural additivity" and how the values and norms of Confucianism, Buddhism, and Taoism co-exist, interact, and influence Vietnamese society: A Bayesian analysis of long-standing folktales, using R and Stan
据报道,越南人每年都会焚烧约5万吨的纸钱,这些纸钱不仅是钞票,还有iPhone、汽车、衣服,甚至是管家,希望能取悦死者。这种做法被错误地归因于传统的佛教教义,但实际上起源于中国,大多数越南人并不知道。在生活的其他方面,有许多类似的例子,越南人如此准备和舒适地为他们的文化添加新的规范,价值观和信仰,甚至是矛盾的。这一现象被称为“文化相加”,促使我们研究越南民间故事所显示的三种教义-儒教、佛教和道教-的核心价值观和规范之间的共存、互动和影响。通过应用贝叶斯逻辑斯谛回归,我们评估了一个故事的关键信息是否被宗教(因变量)所主导,以及受到故事中与三教有关的价值观和反价值观(自变量)的影响。
2018-03-05 stat.AP
A note on incorrect inferences in non-binary qualitative probabilistic networks
Dipartimento di Matematica, Università degli Studi di Genova(热那亚大学数学系)
本文指出非二元定性概率网络因错误的对称性假设会产生数学上不成立的推断,并通过示例说明问题、探讨可能的修正途径。
2024-01-25 cs.AI math.ST stat.ME
Goal-Oriented Influence-Maximizing Data Acquisition for Learning and Optimization
University of Michigan(密歇根大学);Columbia University(哥伦比亚大学)
GOIMDA通过反曲率实现不确定性意识的主动数据获取,适用于学习与优化任务,减少标注样本和函数评估次数。
2026-02-23 cs.LG stat.ML
Bayesian Distributed Lag Models
分布滞后模型(DLMs)表达了时间索引响应和解释变量对之间的累积和延迟相关性。在实际应用中,DLMs的用户检查一系列滞后协变量的估计影响,以评估依赖模式。最近的许多方法学工作都试图开发灵活的参数化,以平滑相关的滞后参数,避免过拟合。然而,本文发现,一些广泛使用的DLMs引入偏差的估计滞后的影响,是敏感的最大滞后,这是典型的选择提前模型拟合。模拟结果表明,偏差和误指定显着减少广义的平滑模型,允许不同的惩罚的滞后影响估计。所得到的模型被证明具有更少的有效参数和更低的偏差,为用户提供信心,估计是强大的先验模型选择。
2018-01-20 stat.AP
On the Differential Privacy of Bayesian Inference
The University of Melbourne(墨尔本大学);Univ-Lille-3(里尔第三大学);Chalmers University of Technology(查尔姆斯理工大学)
我们研究了如何将贝叶斯推理的结果传达给第三方,同时保持差分隐私的强有力保证。我们的主要贡献是概率图模型上的私有贝叶斯推理的四种不同算法。这些包括两种机制,用于将噪声添加到贝叶斯更新,或者直接添加到后验参数,或者添加到其傅立叶变换,以保持更新一致性。我们还利用最近推出的后验抽样机制,我们证明了离散贝叶斯网络的具体但一般情况下的界限,我们引入了最大后验私有机制。我们的分析包括效用和隐私边界,一个新的重点是图结构对隐私的影响。工作的例子和实验与贝叶斯朴素贝叶斯和贝叶斯线性回归说明我们的机制的应用。
2015-12-22 cs.AI cs.CR cs.LG
Visualizing the Consequences of Evidence in Bayesian Networks
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文讨论了随着贝叶斯网络的结构规模和复杂性的增长,查看和导航贝叶斯网络的挑战。从回顾贝叶斯网络可视化的艺术状态开始,这是一个很大程度上被忽略的领域,我们从三个方面改进了现有的可视化。首先,我们应用一个有纪律的方法,贝叶斯网络的基本元素的图形设计。其次,我们提出了一种技术,直接,直观的比较后验分布产生的替代证据集。第三,我们利用信息论中的中心数学工具,帮助用户在网络中找到感兴趣的变量,并在不重要的地方降低视觉复杂性。我们提出了我们的方法适用于两个适度的大型贝叶斯网络构建从现实世界的数据集。结果表明,新技术可以是一个有用的工具,发现信息流现象,也为定性比较不同的证据配置,特别是在大型概率网络。
2017-07-04 cs.AI
Bayesian vector autoregressive analysis of macroeconomic and transport influences on urban traffic accidents
城市交通安全的宏观影响因素分析对指导城市发展方向、降低交通事故发生频率具有重要意义。利用北京市小样本量交通年报数据,构建贝叶斯向量自回归模型,探讨人口、GDP、私家车保有量、公交车保有量、地铁里程和道路平均车速等6个宏观经济和交通因素对交通事故的影响。结果表明,BVAR模型适用于小样本情况下的交通事故时间序列分析。在宏观经济因素方面,国内生产总值的增长被认为在长期内减少了交通事故的数量,而人口的增长在短期内对交通事故有积极的影响。在宏观交通因素方面,道路平均速度和私家车拥有量在长期内会增加交通事故,而公交车拥有量和地铁里程则会产生长期的负面影响,其中道路平均速度的正面影响最大,地铁里程的负面影响最大。本研究建议政府部门可以通过增加对公共交通基础设施的投资、限制私人车辆和道路速度来减少交通事故的数量。
2022-04-07 stat.AP
Rapid Bayesian optimisation for synthesis of short polymer fiber materials
新材料合成工艺的发现涉及到工艺设计、操作和材料性能等诸多方面的决策。实验是至关重要的,但随着复杂性的增加,使用传统的组合方法探索变量可能变得不切实际。我们描述了一种迭代方法,它使用机器学习来优化过程开发,将多个定性和定量目标。我们展示了一种新的流体加工平台的方法,用于合成短聚合物纤维,并显示了如何合成过程可以有效地实现材料和工艺目标。
2018-02-16 physics.comp-ph stat.ML
Bayes-ically fair: A Bayesian Ranking of the Olympic Medal Table
School of Mathematical and Statistical Sciences, University of Galway(高威大学数学与统计科学学院)
针对传统奥运奖牌排名受人口规模影响的问题,提出基于奖牌-人口比的贝叶斯排名方法,通过收缩技术稳定小国表现,提供更公平的跨赛事排名。
2025-10-16 stat.AP
Bayesian nonparametric dependent model for partially replicated data: the influence of fuel spills on species diversity
我们引入了一个依赖贝叶斯非参数模型的概率建模的子群的成员在一个社区的基础上部分复制的数据。这里的重点是按地点分类的物种数据,即社区数据,其中不同地点的观测结果按不同物种分类。我们的目标是研究额外的协变量,例如环境变量,对数据结构的影响,特别是对社区的多样性。为了这个目的,我们引入了先验的协变量之间的依赖,并表明它提高了后验推理。我们使用的Griffiths-Engen-McCloskey分布的依赖版本定义通过棒断裂建设。该分布通过变换高斯过程获得,该高斯过程的协方差函数控制期望的相关性。用马尔可夫链蒙特卡罗方法对得到的后验分布进行抽样。我们说明了我们的模型的应用程序,在南极洲的燃料泄漏现场的碳氢化合物污染梯度的土壤微生物数据集。这种方法允许推断的数量感兴趣的生态毒理学,如多样性或有效浓度,并广泛适用于社区对环境变量的反应的一般问题。
2015-07-27 math.ST stat.ME stat.TH
A Bayesian estimation approach to analyze non-Gaussian data-generating processes with latent classes
近年来,在各个领域积累了大量的观测数据,并且越来越需要估计这些数据的生成过程。基于外部影响的非高斯性,提出了一种线性非高斯非循环模型(LiNGAM)来估计变量的数据生成过程。然而,如果存在潜在类,则估计的结果可能有偏差。在本文中,我们首先回顾LiNGAM,其扩展模型,以及LiNGAM的贝叶斯框架中的估计过程。然后,我们提出了一个新的贝叶斯估计过程,解决了这个问题。
2014-08-02 stat.ML
Hybrid Parameter Search and Dynamic Model Selection for Mixed-Variable Bayesian Optimization
University of California, Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
针对含连续、整数和分类变量的贝叶斯优化问题,提出 hybridM,将 MCTS/UCTS 与 GP 结合,并引入动态在线核选择,实验验证其优越性。
2024-01-19 cs.LG math.ST stat.ML
Bayesian Learning in a Nonlinear Multiscale State-Space Model
School of Complex Systems(复杂系统学院);Arizona State University(亚利桑那州立大学)
本文提出一种非线性多尺度状态空间模型及贝叶斯学习框架,通过学习过程噪声协方差并利用PGAS算法推断未知状态,仿真验证了方法有效性。
2024-09-03 cs.LG eess.SP stat.ML
Bathymetry Reconstruction by Bayesian Inference
Hamburg University of Technology(汉堡工业大学);University of Hamburg(汉堡大学)
本文提出基于贝叶斯推断的方法,利用水位点测量数据重建水深,通过合成数据测试性能并应用于波浪池实际水深重建,相比共轭优化方法,提高了重建精度并量化了不确定性。
2026-04-09 cs.CE cs.NA math.NA
Bayesian functional linear regression with sparse step functions
The functional linear regression model is a common tool to determine the relationship between a scalar outcome and a functional predictor seen as a function of time. This paper focuses on the Bayesian estimation of the support of the coefficient function. To this aim we propose a parsimonious and adaptive decomposition of the coefficient function as a step function, and a model including a prior distribution that we name Bayesian functional Linear regression with Sparse Step functions (Bliss). The aim of the method is to recover areas of time which influences the most the outcome. A Bayes esti…
2017-01-06 stat.ME