Estimation of partially known Gaussian graphical models with score-based structural priors
Rice University（莱斯大学）；King Juan Carlos University（胡安·卡洛斯国王大学）
本文提出一种融合图上先验信息的部分已知高斯图模型支持估计算法，利用退火朗之万扩散和图神经网络估计分数函数，从后验分布采样以提升估计性能。
2024-02-23 cs.LG stat.ML
Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows
University of Stuttgart（斯图加特大学）
最先进的人工智能的一个主要缺点是缺乏可解释性。解决这个问题的一种方法是考虑因果关系。因果机制可以用结构因果模型来描述。在这项工作中，我们提出了一种方法来估计双变量结构因果模型使用的组合的归一化流应用于密度估计和变分高斯过程回归后非线性模型。它有助于因果关系的发现，即通过原因和残差的独立性或似然比检验来区分因果关系。我们的方法估计后非线性模型可以更好地解释各种现实世界的因果对比一个简单的加性噪声模型。虽然它仍然很难利用这一优势，从蒂宾根基准数据库的所有对，我们证明了加性噪声模型的方法与我们的方法相结合，显着提高因果关系的发现。
2021-09-06 cs.AI cs.LG stat.ML
Physics-informed Gaussian process model for Euler-Bernoulli beam elements
Bauhaus-Universität Weimar（魏玛包豪斯大学）
本文提出一种基于欧拉-伯努利梁方程的物理信息多输出高斯过程模型，用于回归弯曲刚度、插值响应和概率推断，并结合马氏距离实现结构损伤定位与程度评估，通过数值模拟和实验验证了框架有效性。
2023-08-05 cs.LG stat.ML
Local Maxima in the Likelihood of Gaussian Mixture Models: Structural Results and Algorithmic Consequences
University of California, Berkeley（加州大学伯克利分校）；Carnegie Mellon University（卡内基梅隆大学）
我们提供了两个基本结果的人口（无限样本）似然函数的高斯混合模型与$M \geq 3$组件。我们的第一个主要结果表明，人口似然函数有坏的局部最大值，即使在特殊情况下，均匀加权混合分离和球形高斯。我们证明了这些坏的局部最大值的对数似然值可以任意比任何全局最优值更差，从而解决了Srebro（2007）的一个公开问题。我们的第二个主要结果表明，随机初始化的期望最大化算法（或它的一阶变体）将以至少$1-e^{-Ω(M)}$的概率收敛到坏的临界点。我们进一步建立了EM的一阶变体几乎肯定不会收敛到严格的鞍点，这表明一阶方法的性能差可以归因于存在坏的局部极大值，而不是坏的鞍点。总的来说，我们的研究结果强调了在实践中使用期望最大化算法时，即使在非常有利的设置中应用时，也需要仔细初始化。
2016-09-04 cs.LG math.OC stat.ML
Learning Structural Weight Uncertainty for Sequential Decision-Making
Duke University（杜克大学）；University at Buffalo（布法罗大学）
学习神经网络（NN）的权重的概率分布最近已被证明在许多应用中是有益的。贝叶斯方法，如Stein变分梯度下降（SVGD），提供了一个优雅的框架来推理NN模型的不确定性。然而，通过为各个NN权重假设独立的高斯先验（如经常应用的），SVGD不会强加权重之间通常存在结构信息（依赖性）的先验知识。我们提出了有效的结构权重不确定性的后验学习，在SVGD框架内，采用矩阵变量高斯先验神经网络参数。我们进一步研究了顺序决策问题中的学习结构不确定性，包括上下文强盗和强化学习。几个合成和真实数据集上的实验表明，我们的模型的优越性，与最先进的方法相比。
2018-04-02 cs.AI cs.LG stat.ML
Structural Gaussian Priors for Bayesian CT reconstruction of Subsea Pipes
X射线计算机断层扫描（CT）的无损检测（NDT）应用是通过2D横截面扫描检查运行中的海底管道。由于海底环境具有挑战性，数据采集既耗时又昂贵。减少扫描中的投影数量可以节省时间和成本，但如果使用传统的重建方法，则会损害重建质量。在这项工作中，我们采取贝叶斯方法进行CT重建，并专注于设计一个有效的利用现有的结构信息的管道几何形状。我们提出了一类新的结构高斯先验，通过高斯马尔可夫随机场（GMRF）先验，结合全局规律性的独立高斯先验的重建图像的不同区域中执行预期的材料属性。数值实验与合成和真实数据表明，所提出的结构高斯先验可以减少伪影和增强对比度的重建相比，只使用一个全球的GMRF先验或根本没有先验。我们展示了如何得到的后验分布可以有效地采样，即使是大规模的图像，这是必不可少的实际无损检测应用。
2022-09-21 cs.NA eess.IV math.NA
Structural Model Updating Using Adaptive Multi-Response Gaussian Process Meta-modeling
利用频响函数作为输入的有限元模型修正是结构分析、设计和控制中的一个重要步骤。本文提出了一个高效的框架，是建立在高斯过程仿真，通过采样反向识别模型参数。特别地，多响应高斯过程（MRGP）元建模方法被公式化，其可以准确地构造误差响应表面，即，频率响应预测与实际测量之间的差异。为了减少重复有限元模拟的计算量，建立了一种自适应采样策略，其中未知参数的搜索由响应面特征引导。同时，先前采样的模型参数和相应的误差的信息被用作额外的训练数据来细化MRGP元模型。两种随机优化技术，即，粒子群和模拟退火被用来训练MRGP元模型以进行比较。系统的案例研究进行了检查的准确性和鲁棒性的模型更新的新框架。
2020-04-16 cs.CE eess.SP stat.CO
A structural equation formulation for general quasi-periodic Gaussian processes
IITB-Monash Research Academy（IITB-莫纳什研究学院）；Indian Institute of Technology Bombay（印度理工学院孟买分校）；Monash University（莫纳什大学）
本文提出一种结构方程公式化方法生成新型准周期高斯过程，简化生成与预测并提供超参数估计，经潮汐、CO₂排放等数据验证，可将似然评估与预测成本从𝒪(k²p²)降至𝒪(p²)，显著提升可扩展性。
2026-08-18 math.ST stat.AP stat.ME
Online structural kernel selection for mobile health
Harvard University（哈佛大学）；University of Michigan（密歇根大学）
出于对移动健康中高效和个性化学习的需求，我们研究了多任务环境下高斯过程回归的在线核选择问题。为此，我们提出了一种新的生成过程的内核组成。我们的方法表明，内核演变的轨迹可以在用户之间转移，以改善学习，内核本身对于mHealth预测目标是有意义的。
2021-07-21 cs.LG stat.ML
Gaussian Process Regression for Active Sensing Probabilistic Structural Health Monitoring: Experimental Assessment Across Multiple Damage and Loading Scenarios
本研究提出了一种基于损伤指标和高斯过程回归模型的结构损伤量化框架，通过计算测试点源自特定状态的概率实现基于概率的决策，并在三种损伤与载荷场景下实验评估了标准与变分异方差模型的性能。
2021-06-28 eess.SP stat.AP stat.ML
Multi-View Causal Discovery without Non-Gaussianity: Identifiability and Algorithms
Inria（法国国家信息与自动化技术研究院）；CEA（法国国家科学研究中心）；University of Paris-Saclay（巴黎-萨克勒大学）；University of Carnegie Mellon（卡内基梅隆大学）；Apple（苹果公司）；University of Helsinki（赫尔辛基大学）
该研究针对因果发现需强非高斯性假设的问题，利用多视图结构提出多视图线性结构方程模型及相关算法，可估计脑区因果图，在模拟与神经影像数据中验证有效。
2026-10-23 cs.LG stat.ML
Leveraging Gaussian Process and Voting-Empowered Many-Objective Evaluation for Fault Identification
University of Connecticut（康涅狄格大学）
由于压电阻抗/导纳传感器电路设计简单，且具有高频询问能力，因此将其用于结构健康监测是很有前途的。然而，使用阻抗/导纳测量的故障位置和严重性的实际识别仍然是一个极具挑战性的任务。基于第一性原理的有限元离散化结构模型需要高维度来表征高频响应。因此，使用灵敏度矩阵的直接反演通常会产生欠定问题。可替代地，识别问题可以被投射到优化框架中，在该优化框架中，通过重复的正向有限元分析来识别故障参数，然而，这通常在计算上是禁止的。本文提出了一种有效的数据辅助优化方法，用于故障识别，而无需迭代使用有限元模型。我们制定了一个多目标优化问题，以确定故障参数，其中阻抗测量的响应面通过高斯过程为基础的校准。为了平衡解的多样性和收敛性，建立了一种多目标模拟退火算法。由于多个解决方案的预期，投票得分计算程序的开发，以进一步确定这些解决方案，产生更好的影响，结构健康状况。所提出的方法的有效性证明了系统的数值和实验案例研究。
2018-10-29 cs.CE cs.LG stat.ML
Digital twin for virtual sensing of ferry quays via a Gaussian Process Latent Force Model
Department of Ocean Operations and Civil Engineering, Norwegian University of Science and Technology（海洋运营与土木工程系，挪威科学技术大学）；Department of Engineering, University of Cambridge（工程系，剑桥大学）
本研究将高斯过程潜力模型与降阶物理模型结合，构建渡轮码头数字孪生，实现虚拟传感，准确估计撞击下的结构响应，并优化传感器布置策略。
2025-06-17 cs.LG stat.AP stat.ML
Bayesian Structural Identification using Gaussian Process Discrepancy Models
近年来，基于高斯过程（GP）模型的贝叶斯模型更新受到关注，它结合了基于核的GP来提供增强的保真度响应预测。虽然大多数核函数在训练数据集中提供了很高的拟合精度，但它们的样本外预测可能非常不准确。本文研究了这个问题，重新制定了一致的概率基础上的问题，审查核协方差函数的共同选择，并提出了一个新的贝叶斯模型选择的核函数选择，旨在创建一个拟合精度，泛化和模型简约之间的平衡。计算方面通过拉普拉斯近似和采样技术，提供详细的算法和策略。数值和实验的例子来证明所提出的框架的准确性和鲁棒性。因此，指数-三角协方差函数的特点和理由的基础上贝叶斯模型选择方法和响应差异的样本自相关函数的观察。
2022-11-01 stat.AP
MIxBN: library for learning Bayesian networks from mixed data
ITMO University（圣彼得堡国立信息技术机械与光学大学）
本文描述了一个新的库，用于从包含离散和连续变量（混合数据）的数据中学习贝叶斯网络。除了离散化数据的经典学习方法外，该库还提出了其算法，该算法允许从混合数据中进行结构学习和参数学习，而无需离散化，因为数据离散化会导致信息丢失。该算法基于混合MI得分函数进行结构学习，同时采用线性回归和高斯分布逼近进行参数学习。该库还提供了两种用于枚举图结构的算法-贪婪爬山算法和进化算法。因此，所提出的库的关键功能如下：（1）离散数据上的贝叶斯网络的结构和参数学习，（2）混合数据上的贝叶斯网络的结构和参数学习使用MI混合得分函数和高斯近似，（3）启动学习算法的两种算法之一，用于枚举图结构-爬山和进化算法。由于混合数据表示的需要来自实际需要，我们的实现的优势进行评估的背景下，解决近似和差距恢复问题的合成数据和真实数据集。
2021-06-24 cs.LG stat.ML
Aerodynamic force reconstruction using physics-informed Gaussian processes
Bauhaus-Universität Weimar（魏玛应用科学大学）；University of Cambridge（剑桥大学）
本文提出一种基于物理信息的机器学习方法，用于从结构动态响应的噪声测量中重建底层气动载荷，通过避免过拟合和无需正则化方案，提高了模型的准确性和适用性。
2026-05-21 cs.CE cs.LG stat.ML
Structural Kernel Search via Bayesian Optimization and Symbolical Optimal Transport
Bosch Center for Artificial Intelligence（博世人工智能中心）
尽管最近在自动化机器学习方面取得了进展，但模型选择仍然是一个复杂且计算密集的过程。对于高斯过程（GP），选择内核是一项至关重要的任务，通常由专家手动完成。此外，评估高斯过程的模型选择标准通常在样本大小上按立方缩放，使得内核搜索在计算上特别昂贵。我们提出了一种新的，有效的搜索方法，通过一个一般的，结构化的核空间。以前的方法通过贝叶斯优化解决了这个任务，并依赖于直接在函数空间中测量GP之间的距离来构建核-核。我们提出了一种替代方法，通过定义一个内核内核的统计假设，是与内核的符号表示。我们的经验表明，这导致了一个计算上更有效的方式搜索通过一个离散的核空间。
2022-10-21 cs.AI cs.LG stat.ML
Gaussian Process Regression Networks
我们引入了一个新的回归框架，高斯过程回归网络（GPRN），它结合了贝叶斯神经网络的结构特性与高斯过程的非参数灵活性。该模型适应于多个响应变量之间的输入依赖信号和噪声相关性、输入依赖长度尺度和幅度以及重尾预测分布。我们推导出有效的马尔可夫链蒙特卡罗和变分贝叶斯推理程序，这个模型。我们应用GPRN作为多输出回归和多变量波动模型，在基准数据集（包括1000维基因表达数据集）上，与8个流行的多输出（多任务）高斯过程模型和3个多变量波动模型相比，表现出显著改善的性能。
2011-10-19 q-fin.ST stat.ME stat.ML
Assessment of alternative covariance functions for joint input-state estimation via Gaussian Process latent force models in structural dynamics
本文提出在结构动力学联合输入-状态估计中采用替代协方差函数的高斯过程潜变量力模型，克服了传统随机游走模型的局限，并通过3自由度系统仿真和3D打印缩比风机叶片实验验证了其有效性。
2023-06-28 stat.AP
Learning drivers of climate-induced human migrations with Gaussian processes
在当前气候变化的背景下，极端热浪、干旱和洪水不仅影响生物圈和大气层，而且也影响着生物圈。人口被迫流离失所，现在被称为气候所致移民。在这项工作中，我们调查了在2017-2019年期间，哪些气候和结构性因素在洪水和风暴的存在下迫使主要的人类流离失所。我们建立、策划和协调了一个气象和遥感指标数据库，以及全球27个发展中国家的结构因素。我们展示了如何使用高斯过程来了解哪些变量可以解释洪水和风暴在被迫流离失所的背景下的影响，并开发重现移民流的模型。我们在区域、全球和灾害特定尺度上的研究结果表明了结构因素在确定位移幅度方面的重要性。这项研究可能具有社会、政治和经济影响。
2020-11-17 stat.AP
Mode-Shape Expansion Using Physics-Constrained Gaussian Process Regression
California Geological Survey（加州地质调查局）；The B. John Garrick Institute for the Risk Sciences, University of California, Los Angeles（加州大学洛杉矶分校B.约翰·加里克风险科学研究所）
针对稀疏传感器数据重构全场结构模态振型的问题，提出一种物理约束单输出高斯过程框架，通过质量正交惩罚耦合独立模态核，实现更准确可靠的振型扩展。
2026-05-21 cs.NA math.NA stat.ML
Analysis of an interventional protein experiment using a vine copula based structural equation model
虽然有相当大的努力，以确定信号通路使用线性高斯贝叶斯网络从数据，有较少的重点，理解和量化的条件密度和概率的节点给定其父母从识别的贝叶斯网络。大多数连续数据的图形模型假设多变量高斯分布，这可能过于限制。我们重新分析了Sachs等人（2005）所考虑的实验环境中的数据，以说明这种限制的影响。为此，我们提出了一种新的非高斯非线性结构方程模型的基础上藤copula。特别是Kraus和Czado（2017）的D-vine回归方法。我们表明，这个模型类更适合拟合数据比标准的线性结构方程模型的基础上的生物同意图在萨克斯等人。（2005）。建模方法还允许研究哪些路径边缘由数据支持，哪些可以被移除。对于数据实验cd 3cd 28 +aktinhib，这种方法识别了三个边缘，这些边缘不再被数据支持。对于这些边缘中的每一个，可以找到基于实验条件的合理解释。
2021-11-19 stat.AP
A clustering adaptive Gaussian process regression method: response patterns based real-time prediction for nonlinear solid mechanics problems
Institute of Advanced Structure Technology, Beijing Institute of Technology（北京理工大学先进结构技术研究院）；Beijing Key Laboratory of Lightweight Multi-functional Composite Materials and Structures（北京市轻质多功能复合材料与结构重点实验室）
针对非线性固体力学数值模拟耗时的问题，提出聚类自适应高斯过程回归方法，通过响应模式聚类、分治预测和降维技术，实现小样本下高精度实时预测，误差较传统GPR降低1-3个数量级。
2024-09-15 cs.CE cs.LG stat.ML
High dimensional inference for the structural health monitoring of lock gates
船闸和水坝是内陆水道的关键部分。然而，现有锁的许多部件已经超过其设计寿命而运行。为了确保安全和成本效益的操作，因此，重要的是要监测锁的结构健康。为了支持闸门监测，这项工作考虑了一个高维的贝叶斯推断问题，结合嘈杂的实时应变观测与详细的有限元模型。为了解决这个问题，我们开发了一种新的技术，该技术结合了Karhunen-Loève分解，高斯过程的随机微分方程表示和卡尔曼平滑，该平滑与观测值的数量呈线性关系，可用于近实时监控。我们使用准周期高斯过程来模拟热对应变的影响，并推断模型中空间分布的边界条件，其特征在于也具有高斯过程先验分布。这种方法的力量证明了一个小的合成的例子，然后与密西西比河船闸27，这是位于美国密苏里州圣路易斯附近的实际观测。结果表明，我们的方法是能够概率特性的后验分布超过近140万个参数在一个小时内在一个标准的台式计算机上。
2018-12-13 cs.CE stat.AP
A partial graphical model with a structural prior on the direct links between predictors and responses
本文研究了具有结构贝叶斯惩罚的部分图模型的估计问题。确切地说，我们对线性回归设置感兴趣，其中通过潜在的高维预测因子和多个响应之间的直接联系进行估计，因为已知高斯图形模型仅能够显示直接联系，而线性回归中的系数包含直接和间接关系（由于变量之间的强相关性，\textit{e.g.}）。一个光滑的惩罚反映了广义高斯贝叶斯先验的协变量，无论是强制执行模式（如行结构）的直接链接或调节预测的联合影响。我们给出了一个理论保证我们的方法，采取的形式上的估计误差的上界的高概率，提供了适当的正则化模型。对合成数据和真实数据集进行了实证研究。
2021-05-22 math.ST stat.AP stat.TH
AdaPS-LiNGAM: Adaptive Predecessor Selection for Linear Non-Gaussian Acyclic Models under Small-Sample Settings
Artificial Intelligence Laboratory, Fujitsu Limited（富士通有限公司人工智能实验室）
针对小样本下线性非高斯无环模型因果发现困难，提出AdaPS-LiNGAM方法，通过自适应选择稀疏前驱子集重构残差，实现准确且稳健的因果结构恢复。
2026-10-08 cs.LG stat.ML
Deterministic Leave-One-Cluster-Out Cross-Validation for Multilevel Bayesian Structural Equation Models
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Universiti Brunei Darussalam（文莱达鲁萨兰大学）
该研究提出多层贝叶斯SEM的确定性LOCO交叉验证方法，无需重拟合或蒙特卡洛采样，计算成本低，经模拟及PISA、MIDUS数据验证有效。
2026-09-02 stat.ME
Bayesian inversion with Student's t priors based on Gaussian scale mixtures
针对贝叶斯反问题的结构先验建模需求，提出结合马尔可夫随机场与Student's t分布的先验类，借助高斯尺度混合表示实现高效后验计算，经信号去卷积和图像去模糊算例验证有效性。
2024-07-15 stat.CO
cyclinbayes: Bayesian Causal Discovery with Linear Non-Gaussian Directed Acyclic and Cyclic Graphical Models
Texas A&M University（德克萨斯农工大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
cyclinbayes通过贝叶斯方法实现线性非高斯有向无环和有环图模型的因果发现，提供全面的不确定性量化和高效的MCMC算法。
2026-02-24 stat.CO
On predictability of ultra short AR(1) sequences
本文研究了在未知时间、未知符号和大小的具有单个结构突变的超短AR（1）序列（仅4 ~ 6项）的短期预测。由于自回归过程的预测需要估计系数，其效率依赖于估计器的大样本性质，因此普遍认为预测对于具有结构突变的短序列几乎是不可能的。然而，我们得到了一个启发式的结果，在频域中表示的一些通用的预测允许一定的可预测性的基础上，这些超短序列。我们使用的预测因子在某种意义上是通用的，它们不面向特定类型的自回归，也不需要明确的结构突变模型。序列越短，平滑预测核的一步预测性能越好。如果结构突变导致模型参数从负值切换到正值，平滑预测核的预测性能优于利用AR（1）的线性预测器无论学习序列中的新息项是独立同分布的随机高斯项还是Gamma项，都可以在不考虑结构突变的情况下，从超短序列中估计系数变量、比例伪均匀变量或一阶自相关高斯过程。
2016-08-31 math.ST stat.ME stat.TH
Bayesian Reconstruction of Magnetic Resonance Images using Gaussian Processes
现代磁共振成像（MRI）的中心目标是减少产生高质量图像所需的时间。努力包括硬件和软件创新，如并行成像，压缩传感和基于深度学习的重建。在这里，我们提出并证明了贝叶斯方法来建立统计库的磁共振（MR）图像在k空间，并使用这些库来确定最佳的子采样路径和重建过程。具体来说，我们计算一个多元正态分布的基础上高斯过程使用一个公开的图书馆的T1加权图像的健康大脑。我们将这个库与物理信息包络函数相结合，只保留k空间中有意义的相关性。然后，该协方差函数用于使用贝叶斯优化来选择一系列环形子采样路径，使得它们最佳地探索空间，同时在商业MRI系统中保持实际可实现。结合针对一系列图像找到的优化的子采样路径，我们计算出一个广义的采样路径，当用于新图像时，与先前报道的重建过程相比，该采样路径产生最高的结构相似性和误差（即，仅采样12.5%的k空间数据，结构相似性为96.3%，归一化均方误差<0.003）。最后，我们使用这个重建过程的病理数据，而无需重新训练，表明重建图像是临床上有用的中风识别。
2023-03-23 physics.med-ph stat.AP
Convergence Analysis of Gradient EM for Multi-component Gaussian Mixture
University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文研究了高斯混合模型的梯度期望最大化算法\cite{lange1995gradient}在一般聚类数和混合系数下的收敛性。我们推导出的收敛速度依赖于混合系数，最小和最大成对的距离之间的真实中心和维数和组件的数量，并获得一个接近最优的局部收缩半径。虽然最近已经有一些值得注意的作品，得出EM在两个相等的混合对称GMM的局部收敛率，在更一般的情况下，推导需要结构上不同的和非平凡的参数。我们使用最近的学习理论和经验过程的工具，以实现我们的理论结果。
2017-12-04 cs.LG math.ST stat.TH
Contrastive Structured Anomaly Detection for Gaussian Graphical Models
高斯图模型（GGM）是分析复杂系统中变量之间的条件依赖关系的概率工具。因此，在GGM的结构演化中找到变点对于检测由GGM建模的底层系统中的异常是至关重要的。为了检测GGM中的结构异常，我们考虑估计相应的高斯分布的精度矩阵的变化的问题。我们采取两步的方法来解决这个问题：-（i）估计一个背景精度矩阵使用系统的观察，从过去没有任何异常，以及（ii）估计一个前景精度矩阵使用滑动时间窗口异常监测期间。我们的主要贡献是在估计的前景精度使用一种新的对比逆协方差估计过程。为了准确地只学习GGM的结构变化，我们最大化惩罚的对数似然，其中惩罚是被估计的前景精度和已经学习的背景精度之间的差异的$l_1$范数。我们修改了交替方向乘子法（ADMM）稀疏逆协方差估计算法进行对比估计的前景精度矩阵。我们的模拟GGM数据的结果表明，显着改善的精度和召回检测GGM的结构变化，相比非对比滑动窗口基线。
2016-05-02 stat.ML
Identifiability of Gaussian Structural Equation Models with Homogeneous and Heterogeneous Error Variances
University of Seoul（首尔大学）
在这项工作中，我们考虑的可识别性假设的高斯线性结构方程模型（SEMs），其中每个变量是由一个线性函数的父母加上正态分布的误差。它已被证明，线性高斯结构方程模型是完全可识别的，如果所有的误差方差相同或已知。因此，这项工作证明了高斯SEM的可识别性与均匀和非均匀的未知误差方差。我们新的可识别性假设不仅利用误差方差，但边缘权重，因此，它是严格温和的比以前的工作的可识别性的结果。我们进一步提供了一个结构学习算法，是统计上一致的和计算上可行的，基于我们的新假设。该算法假设所有相关变量都被观察到，但不假设因果极小性和忠实性。我们通过模拟和真实的多变量数据验证了我们的理论研究结果，并将我们的算法与最先进的PC，GES和GDS算法进行了比较。
2019-10-20 cs.LG stat.ML
Identifiability of Gaussian structural equation models with equal error variances
我们考虑结构方程模型中的变量可以写为一个函数，他们的父母和噪声项，这是假设为联合独立。对应于每个结构方程模型，存在描述变量之间关系的有向无环图。在具有线性函数的高斯结构方程模型中，假设忠实性，图只能从联合分布识别到马尔可夫等价类。在这项工作中，我们证明了充分的可识别性，如果所有的噪声变量具有相同的方差：有向无环图可以从联合高斯分布恢复。我们的结果对因果推断有直接的影响：如果数据遵循具有等误差方差的高斯结构方程模型，并假设所有变量都被观测到，则因果结构只能从观测数据中推断出来。我们提出了一个统计方法和算法，利用我们的理论研究结果。
2013-08-28 math.ST stat.ML stat.TH
Learning Structural Changes of Gaussian Graphical Models in Controlled Experiments
Virginia Polytechnic Institute and State University（弗吉尼亚理工大学）；Bradley Department of Electrical and Computer Engineering（布拉德利电气与计算机工程系）
图模型在科学和工程研究中被广泛用于表示随机变量之间的条件独立结构。在许多受控实验中，环境变化或外部刺激往往会改变随机变量之间的条件依赖性，并可能在相应的图形模型中产生显着的结构变化。因此，能够从数据中检测这种结构变化是非常重要的，以便获得关于结构变化在哪里以及如何发生的新颖见解，并帮助系统适应新的环境。在这里，我们报告了一个有效的学习策略，使用基于l1正则化的凸优化提取高斯图模型中的结构变化。我们讨论的问题制定的性质，并介绍了一个有效的实现块坐标下降算法。我们证明了该方法的原理上的数值模拟实验，然后我们应用该算法的基因调控网络在不同的条件下建模，并获得有前途的，但生物学上合理的结果。
2012-03-15 cs.LG stat.ML
Identifiability of Gaussian Structural Equation Models with Dependent Errors Having Equal Variances
Linköping University（林雪平大学）
本文证明了某些具有等方差相依误差的高斯结构方程模型可从其相应的高斯分布中识别。具体来说，我们证明了高斯结构方程模型的可识别性，该模型可以表示为Anderson-Madigan-Perlman链图（Andersson et al.，2001年）。这些链图最初是用来表示独立模型的。然而，它们也适用于表示具有加性噪声的因果模型（Peña，2016年。我们的结果意味着这些因果模型可以单独从观测数据中识别出来。我们的结果推广了Peters和Bühlmann（2014）的结果，他们认为独立误差具有等方差。等误差方差假设的适用性应在每个域的基础上进行评估。
2018-08-28 cs.AI cs.LG stat.ML
Joint estimation of linear non-Gaussian acyclic models
线性非高斯结构方程模型LiNGAM是一种可识别的探索性因果分析模型。先前的方法基于单个数据集估计变量的因果排序及其连接强度。然而，在许多应用领域中，数据是在不同的条件下获得的，即，获得多个数据集而不是单个数据集。在本文中，我们提出了一种新的方法来联合估计多个LiNGAM的假设下，模型共享一个因果排序，但可能有不同的连接强度和不同分布的变量。在模拟中，新方法比单独估计模型更准确地估计模型。
2011-11-30 stat.ML
Identifiability of latent-variable and structural-equation models: from linear to nonlinear
University of Helsinki（赫尔辛基大学）；UCL（伦敦大学学院）
本文综述了潜变量与结构方程模型的可识别性理论，梳理了线性场景下非高斯性解决可识别性问题的思路，以及非线性场景下结合时间序列或辅助变量实现可识别性的最新进展。
2023-05-03 cs.LG stat.ML
Learning causal graphs using variable grouping according to ancestral relationship
Graduate School of Informatics（信息科学研究生院）；Institute for Liberal Arts and Sciences（人文科学研究所）；Kyoto University（京都大学）
针对小样本下因果图估计精度低的问题，本文在LiNGAM假设下提出基于祖先关系的变量分组算法CAG，实验证明其在稀疏小样本场景下精度和计算效率均优于现有方法。
2024-03-21 cs.LG stat.ML
Characterization and Greedy Learning of Gaussian Structural Causal Models under Unknown Interventions
本文研究未知干预目标下高斯线性结构因果模型的等价类恢复问题，提出贪心算法 GnIES 及半合成数据生成方法，并在合成与真实数据上验证其性能。
2025-03-12 stat.CO stat.ME stat.ML
Distributional Equivalence in Linear Non-Gaussian Latent-Variable Cyclic Causal Models: Characterization and Learning
Carnegie Mellon University（卡内基梅隆大学）；FernUniversität in Hagen（哈根函授大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文提出了一种线性非高斯潜在变量循环因果模型的分布等价性特征化方法，填补了无结构假设的因果发现空白。
2026-03-05 cs.LG stat.ML
Structural transfer learning of non-Gaussian DAG
The Chinese University of Hong Kong（香港中文大学）；Shanghai University of Finance and Economics（上海财经大学）
本文提出一种基于结构相似性度量的迁移DAG学习框架，利用不同相似度的辅助DAG信息，在无整体相似辅助时仍能显著提升目标DAG重建效果，并通过合成及脑网络数据验证。
2023-10-16 cs.LG stat.ME stat.ML
A Structural Interpretation of GELU and Threshold-Transmission Activations via the First-Order Loss Function
Business School, University of Edinburgh（爱丁堡大学商学院）
基于高斯互补一阶损失函数对GELU给出互补解释，将损失核算与前向信号传输分离，推广到阈值传输族，实验表明校准或学习的均匀阈值门有竞争力且能改进。
2026-07-27 cs.LG math.OC stat.ML
Causal Discovery in Equal Variance Linear Gaussian DAGs via SURE-Tuned Ridge Regression
University of Southern California（南加州大学）
针对因果发现中连续优化方法难以适配样本有限、计算有限场景的问题，提出SURE-Ridge方法，在小样本下结构汉明距离最低且所有样本量下运行时间最短。
2026-08-19 cs.LG eess.SP stat.ML
Consistent Bayesian causal discovery for structural equation models with equal error variances
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Texas A&M University（德克萨斯农工大学）
本文提出一种贝叶斯DAG选择方法，在假设高斯SEM和相等误差方差的情况下，利用关键性质证明该方法在无需额外分布假设下一致恢复真实图结构。
2026-03-23 math.ST stat.ME stat.ML
