Causal Generative Neural Networks
我们提出了因果生成神经网络（CGNNs）从观测数据中学习函数因果模型。CGNN利用条件独立性和分布不对称性来发现二元和多元因果结构。CGNNs不假设缺乏混杂因素，并通过使用反向传播来学习数据的可微生成模型。大量的实验表明，他们的良好的表现相对于最先进的观测因果发现的模拟和真实数据，相对于因果推理，v-结构识别，和多元因果发现。
2018-02-05 stat.ML
Sparse Causal Discovery in Multivariate Time Series
我们的目标是在多变量时间序列中估计因果相互作用。使用向量自回归（VAR）模型，这些可以基于属于相应时滞实例的非零系数来定义。由于在大多数情况下，假设一个简约的因果关系结构，因果发现的一个有前途的方法包括拟合VAR模型与额外的稀疏促进正则化。沿着这条线，我们在这里提出，稀疏性应强制属于每对时间序列的系数的子组，因为因果关系的缺乏需要所有时滞的系数共同变为零。这种行为可以通过l1-l2范数正则化回归来实现，最近已经提出了一种有效的活动集求解器。我们的方法被证明优于标准方法在恢复模拟因果关系图。结果与第二种使用多重统计检验的新方法相当。
2009-01-15 stat.AP stat.ME stat.ML
Causal Effect Estimation for Multivariate Continuous Treatments
因果推断广泛应用于生物学、心理学和经济学等领域。在观察研究中，我们需要在估计因果效应之前对协变量进行平衡。本研究将一维熵平衡法扩展到多维，以平衡协变量。提出了估计多变量连续处理因果效应的参数和非参数方法，并给出了这两种估计的理论性质。仿真结果表明，该方法在各种情况下都优于其他方法。最后，我们应用该方法分析了吸烟时间和频率对医疗费用的影响。研究结果表明，吸烟频率会显著增加医疗费用，而吸烟时间不会显著增加医疗费用。
2022-05-18 stat.AP stat.ME
Causal Discovery in Multivariate Extremes with a Hydrological Analysis of Swiss River Discharges
本文提出一种基于最大吸引域和广义帕累托向量表示的模型无关因果得分，通过Wasserstein距离比较方向，用于多元极值因果发现，并在瑞士水文数据上验证。
2024-05-23 stat.AP stat.ME
A novel framework extending cause-effect inference methods to multivariate causal discovery
本文提出一个辅助框架，将任意双变量因果推断方法系统扩展到多变量场景，通过可识别的局部图结构迭代发现完整因果结构，并从理论与实验上验证其有效性。
2023-05-26 stat.ME
cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context
Physikalisch-Technische Bundesanstalt（德国联邦物理技术研究院）；Technische Universität Berlin（柏林工业大学）；Charité – Universitätsmedizin Berlin（柏林夏里特医学院）
本文提出cc-Shapley方法，通过结合因果结构修正传统Shapley值，以避免因 collider bias 引起的虚假关联，提升特征重要性评估的准确性。
2026-03-27 cs.LG stat.ME
Multivariate Causal Effects: a Bayesian Causal Regression Factor Model
Brown University（布朗大学）；Harvard University（哈佛大学）；Dana Farber Cancer Institute（达纳-法伯癌症研究所）
本文提出了一种贝叶斯因果回归因子模型，用于估计野火烟雾对PM2.5中27种化学物种的多变量因果效应，通过引入因果推断框架和贝叶斯因子模型，提升了对复杂依赖关系的建模能力。
2026-02-08 stat.ME
Causal inference for multiple continuous exposures via the multivariate generalized propensity score
广义倾向得分（GPS）是倾向得分的扩展，用于定量或连续暴露（例如，药物剂量或教育年限）。目前的全球定位系统方法允许估计单次连续暴露与结果之间的剂量反应关系。然而，在许多现实世界的环境中，有多个暴露同时发生，可能与结果有因果关系。我们提出了一种多变量GPS方法（mvGPS），允许估计的剂量响应面，涉及多个连续暴露变量的联合分布的结果。该方法涉及在暴露变量的多元正态假设下生成权重。重点放在两个暴露变量的情况下，我们通过模拟表明，mvGPS方法可以实现平衡的混杂因素集，可能不同的暴露变量和减少偏见的处理效应估计在各种数据生成的情况下。我们应用mvGPS方法来分析两种干预策略对降低儿童肥胖率的联合作用。
2020-08-31 stat.ME
Causal Inference for Unobservable Multivariate Outcomes, with Applications to Brain Effective Connectivity
Brown University（布朗大学）
本文提出方法用于评估干预对多变量结果的因果效应，通过样本分割和逆概率加权处理大脑区域间方向性关系的估计问题，验证了方法在控制假阳性率和家族错误率方面的有效性。
2026-04-01 stat.ME
Re-examining Granger Causality with Causal Bayesian Networks and Reichenbachs Principles
Univie Doctoral School of Computer Science (DOCS)（维也纳计算机科学博士学院）
本文通过赖兴巴赫原理和因果贝叶斯网络重新解释格兰杰因果关系，提出因果化格兰杰因果关系（c-GC）算法，赋予其稳健的因果解释，并在合成数据上取得满意结果。
2026-07-31 cs.LG econ.EM stat.ME
A New Covariate Selection Strategy for High Dimensional Data in Causal Effect Estimation with Multivariate Treatments
协变量的选择对于估计具有高维甚至超高维预处理变量的观察数据的平均处理效应至关重要。针对该问题的现有方法通常假设用于结果和单变量治疗的稀疏线性模型，并且不能处理具有超高维协变量的情况。本文提出了一种新的协变量选择策略--双重筛选先验自适应套索（DSPAL），用于多变量治疗中混杂变量和预测变量的选择，该策略将自适应套索方法与边缘条件（不）依赖先验信息相结合来选择目标协变量，以消除混杂偏倚，提高统计效率。我们的建议的显着特点是，它可以应用于高维甚至超高维协变量的多变量处理，并可以处理参数和非参数结果模型的情况下，这使得它比其他方法更强大。理论分析表明，该方法具有一定的筛选性、排序一致性和变量选择一致性。通过模拟研究，我们证明了所提出的方法选择所有的混杂因素和预测一致，估计多变量的处理效应更小的偏差和均方误差相比，在各种情况下的几个替代品。在实际数据分析中，应用该方法估计了三维连续环境处理对胆固醇水平的因果效应，得到了有启发性的结果。
2023-03-17 stat.ME
Information-theoretic signatures of causality in Bayesian networks and hypergraphs
Imperial College London（帝国理工学院）；University Hospital Würzburg（维尔茨堡大学医院）
本文探讨了信息论方法在贝叶斯网络和超图中识别因果关系的潜力，通过部分信息分解揭示了因果结构的局部特性，为因果推断提供了新的理论基础。
2026-04-12 cs.IT math.IT stat.ML
Causal Effect Identification in Acyclic Directed Mixed Graphs and Gated Models
Linköping University（林雪平大学）
我们引入了一个新的图形模型，包括可能有向，无向和双向边，但没有定向循环的图形。我们表明，这些模型是适合于表示因果模型的附加误差项。我们提供了一组充分的图形标准识别任意因果效应时，新的模型包含有向和无向的边缘，但没有双向边缘。我们还提供了一个必要的和充分的图形标准的因果关系的影响，一个单一的变量上的其他变量的识别。此外，我们开发了一种精确的算法，通过答案集编程从观察和干预数据中学习新模型。最后，我们介绍了门控模型的因果效应识别，一个新的家庭的图形模型，利用上下文特定的独立性，以确定额外的因果效应。
2017-05-28 cs.AI stat.ML
Bayesian method for causal inference in spatially-correlated multivariate time series
衡量广告活动对销售的因果影响是广告公司的一项重要任务。当公司在空间相关的多个商店中进行广告活动时，以及当销售数据具有低信噪比使得广告效果难以检测时，挑战就会出现。本文提出了解决这两个挑战的解决方案。提出了一种新的贝叶斯方法来检测较弱的影响和多变量结构时间序列模型被用来捕捉商店之间的空间相关性，通过放置一个$\mathcal{G}$ -Wishart先验的精度矩阵。新方法是比较一个潜变量的两个后验分布--一个是由测试商店的观测数据得到的，另一个是由它们的反事实潜在结果的数据得到的。反事实的潜在结果是从综合控制的数据中估计出来的，每个数据都是因果期间许多控制商店的销售数字的线性组合。控制悬挂物的选择采用修正的期望最大化变量选择（EMVS）方法。提出了一种两阶段算法来估计模型的参数。为了防止预测区间爆炸，通过最近提出的先验知识对模型的局部线性趋势施加平稳性约束。本文讨论了使用此先验的好处。详细的仿真研究表明，使用我们提出的方法来检测较弱的因果影响的有效性。新方法被应用于衡量的因果关系的影响，在一个大型的全国性零售连锁店的商店销售的消费品的广告活动。
2018-03-12 stat.ME
Tensor Completion for Causal Inference with Multivariate Longitudinal Data: A Reevaluation of COVID-19 Mandates
提出基于张量补全的因果推断方法，利用多变量纵向数据填补反事实结果，发现其他方法高估口罩指令效果，且口罩指令非旅行限制的有效替代。
2023-11-19 stat.AP stat.CO stat.ME
Regime Identification for Improving Causal Analysis in Non-stationary Timeseries
本文提出将区制识别技术应用于多变量非平稳时间序列，利用黎曼空间协方差矩阵划分局部平稳区段，并通过合成与真实数据验证了按区制分析可有效改进因果结构发现。
2024-04-12 stat.AP
Causal Inference using Multivariate Generalized Linear Mixed-Effects Models with Longitudinal Data
根据个体的特征和纵向病史，动态预测不同治疗方案下的因果效应是精准医学中的一个基本问题。这在实践中是具有挑战性的，因为在观察性研究中结局和治疗分配机制是未知的，个体的治疗疗效是反事实的，并且选择偏倚的存在通常是不可避免的。我们提出了一个贝叶斯框架，通过调整贝叶斯g计算算法（J. Robins，1986; Zhou，Elliott，& Little，2019）来识别动态治疗方案的亚组反事实益处，以纳入多变量广义线性混合效应模型。在假定的结局、时变混杂因素和治疗分配的联合分布中，未测量的时不变因素被确定为受试者特异性随机效应。现有的方法大多假设没有不可测量的混杂，并专注于平衡不同治疗之间观察到的混杂分布，而我们的方法允许存在时不变的不可测量的混杂。我们提出了一个连续的可验证性假设的基础上治疗分配异质性，这是类似于平衡的潜在趋势，由于不可测量的时不变因素超出了可观察到的每一个治疗。我们使用模拟研究来评估所提出的方法的性能对各种模型假设的敏感性。该方法应用于观察性临床数据，以研究连续使用霉酚酸酯在不同亚组的硬皮病患者中的疗效。
2023-03-03 stat.ME
Enabling Causal Discovery in Post-Nonlinear Models with Normalizing Flows
Applied Artificial Intelligence Institute (A2I2)（应用人工智能研究所）；Deakin University（迪肯大学）
针对Post-Nonlinear因果模型中可逆性约束难以捕捉的问题，提出基于归一化流的因果发现方法CAF-PoNo，通过精确重构隐藏噪声实现双变量与多变量因果发现，性能优于现有先进方法。
2024-08-29 cs.AI cs.LG stat.ME
Power analyses for stepped wedge designs with multivariate continuous outcomes
多变量结果在实用的整群随机试验中很常见。虽然在平行分配下存在多变量结局的样本量计算程序，但尚未开发用于阶梯式楔形设计的程序。在这篇文章中，我们提出了计算有效的功率和样本量的程序，阶梯楔形簇随机试验（SW-CRT）的多变量结果，区分期内和期间群内相关系数（ICC）。在多元线性混合模型下，我们推导出干预检验统计量的联合分布，该分布可用于确定不同假设下的功效，并提供了一个使用常用的交叉-联合检验进行共同主要结局的示例。还提供了终点间常见处理效应和常见ICC下的简化以及对封闭队列设计的扩展。最后，在常见的跨终点ICC假设下，我们正式证明了与单变量线性混合模型相比，多变量线性混合模型导致更有效的处理效应估计量，为使用前者与多变量结局提供了严格的理由。我们说明了应用所提出的方法，从现有的SW-CRT的数据，并提出了广泛的模拟验证的方法。
2022-12-02 stat.ME
Causal mechanism of extreme river discharges in the upper Danube basin network
多瑙河流域的极端水文事件可能严重影响人口、水生生物和经济活动。人们经常使用多变量和空间极值理论及其渐近合理的模型来表征极端事件的联合结构。然而，人们感兴趣的是连锁极端事件以及一个事件是否会导致另一个事件。在本文中，我们认为，通过结合极值模型和因果发现，可以更好地理解严重事件的机制。我们构建了一个因果推断方法依赖于极端条件分位数的柯尔莫哥洛夫复杂性的概念。尾量来自使用多变量极值模型和尾诱导的不对称性的数据进行了探讨，通过最小描述长度原则。我们的CausEV，因果关系的极端值，方法揭示了夏季极端的多瑙河流域上游的河流排放之间的因果关系，并发现显着的因果关系之间的联系，多瑙河和阿尔卑斯山的支流莱希。
2020-04-01 stat.AP
Using Multivariate Generalised Linear Mixed Models for Studying Roots Development: An Example Based on Minirhizotron Observations
在耕地中的根系的空间和时间分布的表征取决于根系所占据的土壤体积（分散），以及在该领域中的根定殖的局部强度（强度）。我们引入了一个多变量广义线性混合模型，用于同时描述散射和强度，使用用微型电子管获得的数据（即，带观察窗的管子，插入土壤中，能够直接观察根部）。所提出的模型允许研究复杂的空间和时间的依赖模式，使用图形模型来表示潜在的随机组件的依赖结构。用二项式混合模型（观察窗中存在根）描述散射。通过一个专门定义的泊松混合模型，利用微型电子管观测窗口中穿过参考线的根数来估计强度。我们探索的事实是，它是可能的广义线性混合模型，允许同时表示模式的依赖性的散射和强度，随着时间和空间构建多变量扩展。我们提出了一个例子，其中的强度和散射同时确定在三个不同的时间点。发现在每个时间点的强度和分散之间的正相关，这表明植物不补偿减少占用的土壤，通过增加单位体积的土壤的根的数量。利用图形模型的一般性质，我们确定了一个一阶马尔可夫连续观察到的散射和强度之间的依赖模式。这种记忆的缺乏表明，没有持久的时间因果效应影响根的发展。上述两种依赖模式无法用单变量模型检测。
2020-11-01 stat.AP
Inductive Granger Causal Modeling for Multivariate Time Series
Alibaba Group（阿里巴巴集团）
Granger因果模型是一个新兴的研究课题，它能够揭示多元时间序列数据背后的Granger因果关系。在许多现实世界的系统中，经常会遇到从具有共享共性的不同个体收集的大量多变量时间序列数据。然而，有持续关注格兰杰因果关系的适用性，在这样的大规模复杂的情景，提出了挑战和机会，格兰杰因果结构重建。现有的方法通常为每个个体训练不同的模型，存在低效率和过拟合问题。为了弥合这一差距，我们提出了一个归纳格兰杰因果关系建模（InGRA）框架的归纳格兰杰因果关系学习和共同的因果结构检测多变量时间序列，利用共享的共性，不同的个人。特别地，我们通过一种新的注意力机制（称为原型Granger因果注意力）为具有不同Granger因果结构的个体训练一个全局模型。该模型可以检测不同个体的共同因果结构，并推断新来个体的格兰杰因果结构。大量的实验以及在电子商务广告平台上的在线A/B测试证明了InGRA的优越性能。
2021-02-10 cs.LG stat.ML
A Causal-based Framework for Multimodal Multivariate Time Series Validation Enhanced by Unsupervised Deep Learning as an Enabler for Industry 4.0
Paul Wurth S.A.（保罗沃思股份公司）
多模态多变量时间序列的高级概念验证框架定义了从单变量上下文定义到自动编码器从异构数据（图像、时间序列、声音等）学习的多模态抽象上下文表示的多级上下文异常检测。与工业过程相关。框架的每一级都适用于历史数据和/或实时数据。最终层次是基于因果发现来识别观测数据中的因果关系，以排除有偏见的数据来训练机器学习模型，并为领域专家提供在数据样本所代表的底层过程中发现未知因果关系的方法。一个长短期记忆自动编码器成功地评估多变量时间序列，以验证与高炉的多个资产的抽象上下文的学习表示。确定了一个研究路线图，将因果发现和表示学习相结合，作为应用于过程工业的无监督根本原因分析的推动者。
2020-08-05 cs.LG stat.ML
Detecting non-causal artifacts in multivariate linear regression models
我们考虑线性模型，其中$d$潜在原因$X_1,...,X_d$与一个目标量$Y$相关，并提出了一种方法来推断该关联是否是因果关系，或者它是否是由过拟合或隐藏的共同原因引起的伪影。我们采用的想法，在前一种情况下，回归系数的向量具有相对于$X$的协方差阵$Σ_{XX}$的“通用”方向。使用ICA为基础的模型的混杂，我们表明，混杂和过拟合产量回归向量，主要集中在空间的低特征值的$Σ_{XX}$。
2018-03-02 cs.LG stat.ML
Cluster-Aware Causal Mixer for Online Anomaly Detection in Multivariate Time Series
University of California, Berkeley（加州大学伯克利分校）
本文提出了一种基于聚类的因果混合器，用于多变量时间序列的在线异常检测，通过聚类处理通道间的相关性，结合因果混合器保持时间因果性，并开发了序列异常评分方法以提高检测准确性。
2026-06-04 cs.LG stat.ML
Continuous Bayesian Model Selection for Multivariate Causal Discovery
Department of Computing, Imperial College London, London, UK（帝国理工学院计算机系）；Department of Computer Science, University of Oxford, Oxford, UK（牛津大学计算机科学系）
本文提出一种基于连续松弛和贝叶斯非参数模型的多元因果发现算法，通过优化边际似然与无环正则化获得因果图，在无需不可行假设下展现竞争力。
2025-06-24 cs.LG stat.ML
LAVARNET: Neural Network Modeling of Causal Variable Relationships for Multivariate Time Series Forecasting
Information Technologies Institute, Centre of Research and Technology Hellas（希腊研究与技术中心信息技术研究所）
多变量时间序列预测在许多科学学科和工业部门中具有重要意义。多变量时间序列的演化取决于其变量的动态和它们之间因果关系的连接网络。大多数现有的时间序列模型不考虑系统变量之间的因果关系，即使他们这样做，他们只是依赖于确定变量之间的因果关系网络。了解这样一个复杂网络的结构，甚至更具体地说，了解对底层过程有贡献的确切滞后变量，对于多变量时间序列预测任务至关重要。后者是一个相当未开发的信息来源。在这个方向上，这里提出了一种新的基于神经网络的架构，称为滞后变量表示网络（LAVARNET），它本质上估计滞后变量的重要性，并结合高维潜在的表示，他们预测未来的时间序列值。我们的模型与其他基线和最先进的神经网络架构的一个模拟数据集和四个真实的数据集，从气象，音乐，太阳活动和金融领域进行了比较。在大多数的实验中，所提出的架构优于竞争对手的架构。
2020-09-02 cs.LG cs.NE stat.ML
Scalable Counterfactual Distribution Estimation in Multivariate Causal Models
Shiga University（滋贺大学）；RIKEN（理化学研究所）；The Institute of Statistical Mathematics（统计数理研究所）
针对扩展双重差分多元因果模型中的反事实联合分布估计，本文提出利用稳健潜在一维子空间兼顾维度相关性与单变量估计效率，并在合成及真实数据上验证其优势。
2023-11-02 cs.AI cs.LG stat.ME
Large-scale nonlinear Granger causality: A data-driven, multivariate approach to recovering directed networks from short time-series data
University of Rochester（罗切斯特大学）
为了深入了解复杂系统，从观测的时间序列数据中推断非线性因果方向关系是一个关键挑战。具体而言，估计因果关系的相互作用的组件在大型系统中只有很短的记录在几个时间的观察仍然是一个重要的，但尚未解决的问题。在这里，我们介绍了一个大规模的非线性格兰杰因果关系（lsNGC）的方法来推断方向，非线性，多变量因果关系的系统组件之间的相互作用，从短的高维时间序列记录。通过从有限的观测数据与非线性状态空间变换的相互作用建模，lsNGC确定的因果关系，没有明确的先验假设组件的时间序列之间的功能相互依赖的计算效率的方式。此外，我们的方法提供了一个数学公式，揭示推断的因果关系的统计意义。我们广泛地研究了lsNGC从2节点到34节点混沌时间序列系统恢复网络结构的能力。我们的研究结果表明，lsNGC从有限的观测数据中捕获有意义的相互作用，与传统方法相比，它表现良好。最后，我们证明了lsNGC的适用性，估计因果关系在大型，现实世界的系统中，通过推断方向的非线性，多变量的因果关系之间的大量的相对较短的时间序列获得的功能性磁共振成像（fMRI）数据的人脑。
2020-09-10 cs.IT cs.LG math.IT
Learning Network of Multivariate Hawkes Processes: A Time Series Approach
Carnegie Mellon University（卡内基梅隆大学）
学习多个时间序列数据的影响结构是许多学科非常感兴趣的。本文研究了多元线性Hawkes过程网络因果结构的恢复问题。在这样的过程中，一个过程中事件的发生会影响其他过程中新事件发生的概率。因此，一个自然的因果关系的概念之间存在的激励矩阵的支持所捕获的这些过程。我们表明，由此产生的因果影响网络是等价的有向信息图（DIG）的过程，编码的因果因子分解的联合分布的过程。此外，我们提出了一个算法学习的支持激励矩阵（或等价的DIG）。该算法的性能进行了评估合成的多变量霍克斯网络，以及股票市场和MemeTracker真实世界的数据集。
2016-03-14 cs.AI cs.LG stat.ML
Causal and Local Correlations Based Network for Multivariate Time Series Classification
School of Information Science and Engineering, Shandong Normal University（山东师范大学信息科学与工程学院）；Shandong Provincial Key Laboratory for Distributed Computer Software Novel Technology（山东省分布式计算机软件新技术重点实验室）
针对现有多元时间序列分类方法忽略维度空间相关性与特征局部相关性的问题，本研究提出CaLoNet，通过因果建模维度成对空间相关性得图结构、关系提取网络融合局部相关性得长期依赖特征并整合入图神经网络，在UEA数据集上取得与最优方法相当的性能。
2024-11-27 cs.AI cs.LG stat.ME
MMM: Clustering Multivariate Longitudinal Mixed-type Data
Univ Lyon, Univ Lyon 2, ERIC（里昂大学、里昂第二大学、ERIC）
提出MMM模型，通过矩阵多元正态分布混合在潜在维度聚类多元纵向混合型数据，同时建模异质性与时间依赖，无需条件独立假设。
2025-09-15 cs.LG stat.ME stat.ML
Causal Patterns: Extraction of multiple causal relationships by Mixture of Probabilistic Partial Canonical Correlation Analysis
在本文中，我们提出了一个混合的概率部分典型相关分析（MPPCCA），提取两个多元时间序列的因果模式。因果模式是指两个元素之间相互作用的信号模式，它们具有多种类型的相互因果关系，而不是同时相关的混合物或元素之间不存在因果关系。在多变量统计中，部分典型相关分析（PCCA）在减去第三个多变量的影响后评估两个多变量之间的相关性。PCCA可以计算Granger因果指数（它测试一个时间序列是否可以从另一个时间序列预测），但不适用于包含多个偏典型相关的数据。在介绍了MPPCCA，我们提出了一个期望最大化（EM）算法估计的参数和潜变量的MPPCCA。MPPCCA可以在没有任何监督信号的情况下从数据序列中提取多个偏典型相关，从而将数据分割为聚类。然后在合成数据实验中对该方法进行了评价。在合成数据集上，我们的方法比现有的方法更准确地估计了多重偏典型相关。为了确定该方法可检测的模式类型，还在真实数据集上进行了实验。该方法估计运动捕捉数据中的通信模式。MP-PCCA适用于各种类型的信号，如脑信号，人类交流和非线性复杂多体系统。
2017-12-12 stat.ME stat.ML
Capturing Between-Tasks Covariance and Similarities Using Multivariate Linear Mixed Models
我们考虑使用同一组解释变量预测多个响应变量的问题。这种设置自然会在系数矩阵上产生一个群结构，其中每个解释变量对应于一组相关系数。大多数现有的方法，利用这一组的形成，假设相关系数之间的相似性只出现通过一个联合稀疏结构。在本文中，我们提出了一个程序，用于构建一个估计的多元回归系数矩阵，直接建模和捕获组内的相似性，通过采用多元线性混合模型配方，通过惩罚似然联合估计系数和误差的协方差阵。我们的方法，我们称之为多元随机回归与协方差估计（MrRCE）鼓励结构相似的参数，其中系数为相同的变量在相关的任务共享相同的符号和类似的幅度。我们说明了我们的方法在合成和真实的例子中的好处，并表明，所提出的方法优于自然的竞争对手和替代估计在几个模型设置。
2019-10-02 stat.ME stat.ML
Quantifying Causal Coupling Strength: A Lag-specific Measure For Multivariate Time Series Related To Transfer Entropy
虽然识别多变量时间序列的两个组成部分之间存在因果关系是一个重要的问题，Runge et al.（2012）中讨论了这一主题，但更重要的是以有意义的方式评估其关联的强度。本文着重讨论了如何用信息论测度定义一个有意义的耦合强度的问题，并论证了著名的互信息和传递熵的不足。相反，我们提出了一定的时间延迟的条件互信息，瞬时信息传递（MIT），作为一种措施的关联，是一般的，因果关系和滞后的具体，反映了一个很好的解释概念的耦合强度，实际上是可计算的。MIT是基于源熵的基本概念，我们利用它来产生耦合强度的概念，与互信息和传递熵相比，它可以很好地解释，因为在许多情况下，它只取决于两个组件在一定滞后下的相互作用。特别是，麻省理工学院因此在许多情况下，能够排除在一个过程中的信息理论的方式自依赖的误导性影响。我们形式化和证明这一想法的分析和数值计算的一般类的非线性随机过程，并说明气候数据的潜力麻省理工学院。
2012-11-21 cs.IT math.IT physics.data-an
Mixed Graphical Models for Causal Analysis of Multi-modal Variables
University of Pittsburgh School of Medicine（匹兹堡大学医学院）；Joint Carnegie Mellon University-University of Pittsburgh PhD Program in Computational Biology（卡内基梅隆大学与匹兹堡大学计算生物学联合博士项目）；University of Pittsburgh（匹兹堡大学）；Carnegie Mellon University（卡内基梅隆大学）
图因果模型是知识发现的重要工具，因为它既可以表示变量之间的因果关系，也可以表示数据上的多元概率分布。一旦学习，因果图可以用于分类，特征选择和假设生成，同时揭示潜在的因果网络结构，从而允许对数据进行任意似然查询。然而，目前用于学习稀疏有向图的算法通常被设计为仅处理一种类型的数据（仅连续或仅离散），这限制了它们对包括混合类型变量的大类多模态生物数据集的适用性。为了解决这个问题，我们开发了新的方法，修改和结合现有的方法找到无向图的方法找到有向图。这些混合方法不仅速度更快，而且在各种参数设置和数据集大小下都比单独的有向图估计方法表现得更好。在这里，我们描述了一个新的条件独立性测试学习有向图在混合数据类型，我们比较性能不同的图学习策略的合成数据。
2017-04-09 cs.AI stat.ML
Multivariate Dependence Beyond Shannon Information
准确地确定依赖结构对于发现系统的因果组织是至关重要的。我们最近表明，转移熵失败的一个关键方面，这-测量信息流-由于其合并的二元和多元的关系。我们扩展这一观察表明，这是真实的所有这些香农信息措施时，用于分析多变量依赖关系。这具有广泛的意义，特别是当使用信息来表达复杂系统中嵌入的组织和机制时，包括将复杂网络理论与信息论结合起来的新兴努力。在这里，我们并不认为信息论的任何方面是错误的。相反，它的绝大多数信息措施根本不足以确定联合概率分布内的有意义的依赖结构。因此，这样的信息措施是不足以发现内在的因果关系。最后，我们证明了这种分布存在于任意一组变量中。
2016-09-08 cond-mat.stat-mech cs.IT math.IT
