Learning Structural Causal Models through Deep Generative Models: Methods, Guarantees, and Challenges
Ekimetrics(埃基梅特里克公司);INRIA Saclay(法国国家信息与自动化研究所萨克雷分所);TAU(特拉维夫大学);LISN(巴黎第十一大学科学与工业技术实验室)
本文综述了深度结构因果模型(DSCMs)在已知因果结构下利用观测数据回答反事实查询的能力,分析了其假设、保证与应用,并指出了该领域的挑战与未来方向。
2024-05-08 cs.LG stat.ML
Hamiltonian Score Matching and Generative Flows
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);NVIDIA(英伟达)
本文提出哈密顿速度预测器,并据此构建HSM分数匹配方法与HGFs生成模型,将扩散和流匹配统一为零力场特例,实验证明其竞争力。
2024-10-27 cs.LG stat.ML
De-Biasing Generative Models using Counterfactual Methods
University of California, Los Angeles(加州大学洛杉矶分校)
变分自编码器(VAE)和其他生成方法不仅因为其生成特性而且因为其解开低维潜在变量空间的能力而引起了越来越多的兴趣。然而,现有的生成模型很少考虑因果关系。我们提出了一种新的基于解码器的框架,称为因果反事实生成模型(CCGM),它包括一个部分可训练的因果层,其中可以学习因果模型的一部分,而不会显着影响重建保真度。通过学习图像语义标签或表格变量之间的因果关系,我们可以分析偏差,干预生成模型,并模拟新的场景。此外,通过修改因果结构,我们可以在原始训练数据的域之外生成样本,并使用这种反事实模型来消除数据集的偏差。因此,具有已知偏差的数据集仍然可以用于训练因果生成模型并学习因果关系,但我们可以在生成侧生成去偏差数据集。我们提出的方法结合了因果潜在空间VAE模型与特定的修改,以强调因果保真度,使更精细的控制因果层和学习一个强大的干预框架的能力。我们探讨如何更好地解开因果学习和编码/解码产生更高的因果干预质量。我们还将我们的模型与类似的研究进行了比较,以证明在干预之外需要明确的生成去偏置。我们的初步实验表明,我们的模型可以生成对因果框架高保真的图像和表格数据,并适应显式去偏置,以忽略与基线相比因果数据中不期望的关系。
2023-02-11 cs.LG
Reusable Conditional Resampling via Flow Matching for Constraint-Based Causal Discovery
Graduate University of Advanced Studies(高级研究大学);The Institute of Statistical Mathematics(统计数学研究所);East China Normal University(华东师范大学)
本文提出FMCIT方法,通过流匹配技术加速条件独立性检验,结合两阶段引导PC骨架学习框架,提升因果发现的效率与准确性。
2026-11-10 cs.LG stat.ML
Mirror Flow Matching with Heavy-Tailed Priors for Generative Modeling on Convex Domains
本文提出基于正则化镜像映射和Student-t先验的Mirror Flow Matching方法,解决了凸域生成建模中重尾分布导致的动力学不适定和先验耦合表现差的问题,并提供了理论保证和实验验证。
2025-10-10 cs.LG stat.ML
Generative Modeling of Discrete Joint Distributions by E-Geodesic Flow Matching on Assignment Manifolds
Heidelberg University(海德堡大学)
本文提出一种基于因子分解离散测度子流形上连续归一化流的离散分布生成模型,通过嵌入元单纯形与数据驱动平均逼近非因子分解分布,并利用测地线流匹配实现高效训练,避免了传统离散化问题。
2024-02-12 cs.LG stat.ML
Causal-TGAN: Generating Tabular Data Using Causal Generative Adversarial Networks
Stevens Institute of Technology(史蒂文斯理工学院)
合成数据生成作为隐私泄露和数据短缺的解决方案变得流行。生成式模型的目的是生成一个真实的合成数据集,它可以精确地表达真实数据集的数据分布。生成对抗网络(GAN)在计算机视觉领域取得了巨大的成功,被广泛用于合成数据的生成。虽然之前的研究已经取得了很大的进展,但大多数研究都是学习数据分布中的相关性,而不是数据集自然生成的真实过程。相关性是不可靠的,因为它是一种统计技术,只告诉线性相关性,很容易受到数据集的偏见。因果关系编码了真实数据如何自然生成的所有潜在因素,比相关性更可靠。在这项工作中,我们提出了一个因果模型命名为因果表格生成神经网络(Causal-TGAN)生成合成表格数据使用表格数据的因果信息。在模拟数据集和真实数据集上进行的大量实验表明,当给定真实因果图时,我们的方法具有更好的性能,当使用估计因果图时,我们的方法具有相当的性能。
2021-04-21 cs.AI cs.LG
Counterfactual Identifiability of Bijective Causal Models
Massachusetts Institute of Technology (MIT)(麻省理工学院)
本文研究双射生成机制因果模型的反事实可辨识性,证明三类含未观测混杂结构的可辨识性,并提出基于结构化深度条件生成建模的学习与估计方法。
2023-06-06 cs.LG stat.ML
DECAF: Generating Fair Synthetic Data Using Causally-Aware Generative Networks
University of Cambridge(剑桥大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);The Alan Turing Institute(艾伦图灵研究所)
机器学习模型因在训练数据中反映不公平的偏见而受到批评。我们不是通过直接引入公平学习算法来解决这个问题,而是专注于生成公平的合成数据,这样任何下游学习器都是公平的。从不公平的数据生成公平的合成数据-同时保持对底层数据生成过程(DGP)的真实性-是不平凡的。在本文中,我们介绍了DECAF:一个基于GAN的公平合成数据生成器的表格数据。使用DECAF,我们将DGP显式地嵌入生成器的输入层中作为结构因果模型,允许每个变量以其因果父变量为条件进行重建。这个过程使推理时间去偏置,其中偏置的边缘可以被策略性地移除,以满足用户定义的公平性要求。DECAF框架是通用的,与几种流行的公平性定义兼容。在我们的实验中,我们表明,DECAF成功地消除了不必要的偏见,并与现有的方法相比,能够生成高质量的合成数据。此外,我们提供了理论保证的发电机的收敛性和下游模型的公平性。
2021-11-04 cs.LG stat.ML
Scalable Causal Discovery with Score Matching
Università di Genova(热那亚大学);Istituto Italiano di Tecnologia(意大利技术研究院);Carnegie Mellon University(卡内基梅隆大学);Amazon Web Services(亚马逊云科技)
本文提出 DAS 算法,通过可扩展的机器学习方法近似得分函数并利用对数似然二阶导数,在非线性加性高斯噪声模型中高效发现完整因果图,大幅降低修剪复杂度,在保持准确性的同时显著提升速度。
2023-04-06 cs.LG stat.ML
Counterfactual Forecasting of Human Behavior using Generative AI and Causal Graphs
本研究提出结合结构因果模型与Transformer生成式AI的用户行为反事实预测框架,通过因果图和条件生成模型生成真实轨迹,在多领域数据集上优于传统方法,且可可视化因果路径辅助产品团队评估干预措施。
2025-11-09 cs.CE cs.LG stat.ME
Score-matching-based Structure Learning for Temporal Data on Networks
School of Mathematical Sciences, Shanghai Jiao Tong University(上海交通大学数学科学学院);University of Cambridge(剑桥大学)
本文提出PICK算法,通过改进父节点查找子程序提升分数匹配在处理独立同分布及时序网络数据时的效率与准确性。
2026-04-12 cs.LG stat.ML
Leveraging Foundation Models for Causal Generative Modeling
University of Arkansas(亚拉巴马大学)
提出FM-CGM框架,通过预训练基础模型实现零样本因果发现、干预和反事实生成,并引入因果语义引导机制确保忠实反事实图像生成。
2026-05-22 cs.AI cs.CV cs.LG
Matching a Desired Causal State via Shift Interventions
MIT(麻省理工学院)
将因果系统从给定的初始状态转换到期望的目标状态是一项重要的任务,渗透到包括控制理论,生物学和材料科学在内的多个领域。在因果模型中,这种转换可以通过执行一系列干预来实现。在本文中,我们考虑的问题,通过主动学习识别一个偏移干预,匹配系统的期望均值。我们定义的马尔可夫等价类,是可识别的移位干预,并提出了两个积极的学习策略,保证完全匹配所需的平均值。然后,我们推导出一个最坏情况下的下限所需的干预措施的数量,并表明这些策略是最佳的某些类的图。特别是,我们表明,我们的策略可能需要比以前考虑的方法,优化结构学习的基础因果图指数更少的干预。与我们的理论结果一致,我们还通过实验证明,与几个基线相比,我们提出的主动学习策略需要更少的干预。
2021-10-20 cs.LG stat.ME stat.ML
Causal Sensitivity Identification using Generative Learning
TCS Research, TATA Consultancy Services Limited(Tata 咨询服务有限公司研究部);Department of Computer Science and Engineering, IIT Kharagpur(印度Kharagpur理工学院计算机科学与工程系)
本研究提出一种基于CVAE的生成式因果敏感性识别方法,从干预和反事实视角分析因果影响、识别因果敏感特征以降低混杂偏差,在GeoLife数据集和Asia贝叶斯网络基准上验证了其因果识别与预测性能提升的效果。
2025-09-01 cs.AI cs.LG
Beyond the Black Box: Identifiable Interpretation and Control in Generative Models via Causal Minimality
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文通过因果最小性原则,在生成模型中建立可解释性基础,提出层级选择模型框架,实现对生成模型的可控性与解释性提升。
2026-04-02 cs.LG
Counterfactual Generative Modeling with Variational Causal Inference
University of California, Berkeley(加州大学伯克利分校);Genentech(基因泰克公司)
针对高维结果下个体反事实预测难题,提出变分贝叶斯因果推断框架,无需反事实样本即可端到端监督并解耦外生噪声,在多个基准上优于现有方法。
2025-03-18 cs.AI cs.LG math.ST
Sparse Causal Discovery with Generative Intervention for Unsupervised Graph Domain Adaptation
State Key Laboratory for Multimedia Information Processing, School of Computer Science, PKU-Anker LLM Lab(多媒体信息处理国家重点实验室,计算机科学学院,PKU-Anker LLM实验室);Peking University(北京大学);University of California, Los Angeles(加州大学洛杉矶分校);Paul G. Allen School of Computer Science(保罗·G·艾伦计算机科学学院);University of Washington(华盛顿大学);Hong Kong University of Science and Technology(香港科技大学)
针对无监督图域适应中因果与伪特征纠缠及全局对齐失效问题,提出 SLOGAN 方法,通过稀疏因果建模、生成式干预机制与类别自适应动态校准策略,实现稳定的图表示迁移,并在多个数据集上显著优于基线。
2025-07-10 cs.LG
Structural Causality-based Generalizable Concept Discovery Models
University of Virginia(弗吉尼亚大学)
本文提出结合变分自编码器与结构因果模型的方法,从固定生成因子中学习随下游任务变化的概念,实现可泛化且灵活的概念发现。
2024-10-20 cs.LG stat.ME
Generative Moment Matching Networks
University of Toronto(多伦多大学);Canadian Institute for Advanced Research(加拿大高等研究院)
我们考虑从数据中学习深度生成模型的问题。我们制定了一种方法,该方法通过多层感知器的单次前馈来生成独立样本,如最近提出的生成对抗网络(Goodfellow et al.,2014年)。然而,训练一个生成对抗网络需要仔细优化一个困难的极小极大程序。相反,我们利用了一种被称为最大平均差异(MMD)的统计假设检验技术,这导致了一个简单的目标,可以被解释为匹配数据集和模型样本之间的所有统计阶数,并且可以通过反向传播进行训练。我们通过将我们的生成网络与自动编码器网络相结合,使用MMD来学习生成代码,然后可以解码生成样本,从而进一步提高了这种方法的性能。我们表明,这些技术的组合产生优秀的生成模型相比,MNIST和多伦多人脸数据库上测量的基线方法。
2015-02-10 cs.AI cs.LG stat.ML
Causality Learning With Wasserstein Generative Adversarial Networks
University of Strathclyde(思克莱德大学)
由于组合搜索空间,从数据中学习因果结构的传统方法面临重大挑战。最近,这个问题已经被制定成一个连续的优化框架与无环约束学习有向无环图(DAG)。这样的框架允许利用深度生成模型进行因果结构学习,以更好地捕捉数据样本分布和DAG之间的关系。然而,到目前为止,还没有研究在因果结构学习的背景下使用Wasserstein距离进行实验。我们的模型名为DAG-WGAN结合了Wasserstein的对抗损失与自动编码器架构中的非循环约束。它同时学习因果结构,同时提高其数据生成能力。我们比较了DAG-WGAN与其他不涉及Wasserstein度量的模型的性能,以确定其对因果结构学习的贡献。根据我们的实验,我们的模型在高基数数据下表现得更好。
2022-06-03 cs.AI cs.LG stat.ME
Ordering-based Causal Discovery via Generalized Score Matching
Monash University(墨尔本大学);CSIRO’s Data61(CSIRO的数据61)
本文提出了一种基于通用分数匹配的因果发现方法,通过引入离散分数函数的叶判别准则,实现了对离散数据中真实因果顺序的准确推断,并提升了现有因果发现方法的准确性。
2026-07-28 cs.AI cs.LG
Group invariance principles for causal generative models
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Max Planck Institute for Biological Cybernetics(马克斯·普朗克生物控制论研究所)
原因和机制独立性(ICM)的假设最近导致了几个新的因果发现算法。然而,对独立性的解释及其使用方式在这些方法中各不相同。我们在本文中的目的是提出一个群理论框架ICM统一和推广这些方法。在我们的设置中,原因机制的关系进行评估,通过比较它对一个原假设通过随机通用组转换的应用。我们表明,群论观点提供了一个非常通用的工具来研究数据生成机制的结构,并直接应用于机器学习。
2017-05-05 cs.AI cs.LG math.ST
A Generative Framework for Causal Estimation via Importance-Weighted Diffusion Distillation
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对观测数据因果估计中协变量失衡与混杂偏倚问题,提出融合IPW与扩散预训练的IWDD生成框架,通过随机化调整简化计算并降低梯度方差,实现了最优的样本外预测性能。
2025-05-16 cs.LG stat.AP stat.ME
Robust Optimization in Causal Models and G-Causal Normalizing Flows
ETH Zurich(苏黎世联邦理工学院)
本文提出一种满足通用逼近性质的G-因果归一化流,用于因果模型中的数据增强,以最小化G-因果Wasserstein距离,并在因果回归和投资组合优化中优于非因果生成模型。
2025-10-17 cs.AI cs.LG q-fin.PM
RepFlow: Representation Enhanced Flow Matching for Causal Effect Estimation
Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University, Hong Kong, China(数据科学与人工智能系,香港理工大学,香港,中国)
RepFlow通过结合表示学习与条件流匹配,解决因果推断中的选择偏差问题,提升因果效应估计的精度与鲁棒性。
2026-05-07 cs.LG stat.ME
Cohomological Obstructions to Global Counterfactuals: A Sheaf-Theoretic Foundation for Generative Causal Models
School of Management, University of Science and Technology of China(管理学院,中国科学技术大学);School of Computer Science and Engineering, University of Science and Technology of China(计算机科学与工程学院,中国科学技术大学)
本文基于层论构建生成因果模型,揭示因果图非平凡同调导致的上同调障碍,并提出熵正则化和熵沃尔什因果层拉普拉斯方程,实现高维数据反事实导航。
2026-03-18 cs.LG
Matching Learned Causal Effects of Neural Networks with Domain Priors
Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校);Microsoft Research(微软研究院)
一个经过训练的神经网络可以被解释为一个结构因果模型(SCM),它提供了改变输入变量对模型输出的影响。然而,如果训练数据包含因果关系和相关关系两者,则优化预测精度的模型可能不一定学习输入变量和输出变量之间的真实因果关系。另一方面,专家用户通常具有关于某些输入变量与来自领域知识的输出之间的因果关系的先验知识。因此,我们提出了一种正则化方法,该方法将神经网络的学习因果效应与域先验(包括直接因果效应和总因果效应)对齐。我们表明,这种方法可以推广到不同类型的域先验,包括单调性的因果效应的输入变量对输出或零因果效应的变量对输出的公平性的目的。我们在12个基准数据集上的实验表明,它在正则化神经网络模型以保持期望的因果效应方面具有实用性,而不影响准确性。重要的是,我们还证明了这样训练的模型是鲁棒的,并且在有噪声的输入上提高了准确性。
2022-06-29 cs.AI cs.LG
Flow Matching for Generative Modeling
Meta AI (FAIR)(元人工智能(基础人工智能研究团队));Weizmann Institute of Science(魏茨曼科学研究所)
我们引入了一个新的范例生成建模建立在连续规范化流(CNFs),使我们能够训练CNFs在前所未有的规模。具体来说,我们提出了流匹配(FM)的概念,模拟免费的方法训练CNFs的基础上回归向量场的固定条件概率路径。流匹配与用于在噪声和数据样本之间进行转换的高斯概率路径的一般族兼容--其将现有的扩散路径作为特定实例。有趣的是,我们发现,采用FM与扩散路径的结果在一个更强大和稳定的替代训练扩散模型。此外,流匹配为用其他非扩散概率路径训练CNF打开了大门。一个特别有趣的例子是使用最优运输(OT)位移插值来定义条件概率路径。这些路径比扩散路径更有效,提供更快的训练和采样,并导致更好的泛化。在ImageNet上使用流匹配训练CNF在可能性和样本质量方面都比其他基于扩散的方法具有更好的性能,并且可以使用现成的数值ODE求解器快速可靠地生成样本。
2023-02-08 cs.AI cs.LG stat.ML
A Variational Perspective on Diffusion-Based Generative Models and Score Matching
University of Montreal(蒙特利尔大学);Mila(米拉)
基于离散时间扩散的生成模型和分数匹配方法在高维图像数据建模方面显示出了良好的效果。最近,Song等人(2021)表明,将数据转换为噪声的扩散过程可以通过学习得分函数(即扰动数据的对数密度的梯度)来逆转。他们建议将学习的得分函数插入到逆公式中,以定义生成扩散过程。尽管在经验上取得了成功,但这一程序仍然缺乏理论基础。在这项工作中,我们直接接近(连续时间)生成扩散,并推导出一个变分框架的似然估计,其中包括连续时间规范化流作为一个特殊情况下,可以看作是一个无限深的变分自编码器。在这个框架下,我们证明了最小化分数匹配损失相当于最大化Song等人(2021)提出的插入式反向搜索的可能性下限,弥合了理论差距。
2021-09-30 cs.LG
On the causality-preservation capabilities of generative modelling
Katholieke Universiteit Leuven(鲁汶大学);Universiteit Gent(根特大学);IMEC(比利时微电子研究中心);Universiteit Antwerpen(安特卫普大学)
建模是金融和保险行业的核心,可用于各种任务。机器学习和深度学习模型的兴起和发展为改进我们的建模工具箱创造了许多机会。这些领域的突破往往伴随着大量数据的需求。在金融和保险领域,这种大型数据集通常不公开,主要是出于隐私和道德方面的考虑。数据的缺乏是目前开发更好模型的主要障碍之一。缓解这个问题的一个可能的选择是生成建模。生成模型能够模拟虚假但看起来真实的数据,也称为合成数据,可以更自由地共享。生成对抗网络(GANs)就是这样一种模型,它提高了我们拟合高维数据分布的能力。虽然对GANs的研究在计算机视觉等领域是一个活跃的话题,但它们在人类科学中的应用有限,如经济学和保险。原因在于,在这些领域中,大多数问题本质上都是关于因果效应的识别,而迄今为止,处于GAN框架中心的神经网络主要关注高维相关性。在本文中,我们研究了GANs的因果关系保持能力,以及所产生的合成数据是否可以可靠地用于回答因果关系问题。这是通过对GAN产生的合成数据进行因果分析来完成的,其中假设越来越宽松。我们考虑横截面的情况下,时间序列的情况下,一个完整的结构模型的情况下。结果表明,在简单的横截面的情况下,相关性等于因果关系的GAN保留因果关系,但更先进的分析出现的挑战。
2023-01-03 cs.LG econ.EM
GFlowCausal: Generative Flow Networks for Causal Discovery
National University of Singapore(新加坡国立大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
因果发现旨在揭示一组变量之间的因果结构。基于得分的方法主要集中在搜索最佳的有向无环图(DAG)的基础上预定义的得分函数。然而,由于搜索能力有限,它们中的大多数都不适用于大规模。受生成流网络中主动学习的启发,我们提出了一种新的方法来学习一个DAG从观测数据称为GFlowCausal。它将图的搜索问题转化为生成问题,在生成问题中,直接边是逐渐增加的。GFlowCausal的目标是学习最佳策略,通过顺序动作生成高回报的DAG,其概率与预定义的奖励成比例。我们提出了一个基于传递闭包的即插即用模块,以确保有效的采样。理论分析表明,该模块能有效地保证图的无环性和最终状态与全连通图的一致性。我们在合成和真实数据集上进行了广泛的实验,结果表明所提出的方法是优越的,在大规模环境中也表现良好。
2023-03-10 cs.AI cs.LG
Knowledge Abstraction for Knowledge-based Semantic Communication: A Generative Causality Invariant Approach
Department of Intelligent Computing and Data Science, VinUniversity(智能计算与数据科学系,文大学);School of Computer Science and Statistics, Trinity College Dublin(计算机科学与统计学系,三一学院);School of Computer Science, The University of Sydney(计算机科学系,悉尼大学);School of Engineering, The University of Newcastle(工程系,新castle大学);Department of Information Convergence Engineering, Pusan National University(信息融合工程系,釜山国立大学)
本文提出利用因果不变性学习的生成对抗网络提取语义知识,并通过稀疏更新协议保障跨域一致性,以低通信开销提升语义通信解码器的分类与数据重建性能。
2025-07-23 cs.LG
Iterative Flow Matching: Path Correction and Gradual Refinement for Enhanced Generative Modeling
The University of British Columbia(不列颠哥伦比亚大学);University of Cambridge(剑桥大学)
本研究针对图像生成模型易产生幻觉的问题,提出可集成于各类生成建模技术的迭代流匹配方法,通过路径校正与渐进式优化提升图像合成的性能与鲁棒性。
2026-08-20 cs.AI cs.CV cs.LG
Generator Matching: Generative modeling with arbitrary Markov processes
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);FAIR, Meta(元公司 FAIR);Weizmann Institute of Science(魏茨曼科学研究所)
提出生成器匹配框架,利用任意马尔可夫过程的生成器进行生成式建模,统一扩散模型、流匹配等方法,并支持跳跃过程叠加,提升图像与多模态生成性能。
2025-02-27 cs.AI cs.LG
DAGAF: A directed acyclic generative adversarial framework for joint structure learning and tabular data synthesis
University of Strathclyde(斯特拉斯克莱德大学)
本文提出DAGAF框架,通过双重步骤在多种因果模型假设下实现因果结构学习和表格数据合成,实验表明其在结构学习上优于现有方法,且能生成高质量样本。
2026-04-05 cs.LG
CaLMFlow: Volterra Flow Matching using Causal Language Models
Yale University(耶鲁大学);Idaho State University(爱达荷州立大学)
本研究提出CaLMFlow框架,将流匹配转化为Volterra积分方程并建模为序列任务,用因果语言模型实现连续数据生成,在多数据集上表现优于传统方法,为生成建模提供新范式。
2024-10-03 cs.AI cs.LG q-bio.QM
Partial Identification of Treatment Effects with Implicit Generative Models
University of Toronto(多伦多大学);Vector Institute(向量研究所);Stanford University(斯坦福大学)
我们考虑的问题,部分识别,从观察数据的治疗效果的界限估计。尽管使用离散治疗变量或特定因果图(例如,工具变量),最近已经使用来自深度生成建模的工具探索了部分识别。我们提出了一种新的方法,部分识别的平均治疗效果(ATE)在一般的因果图使用隐式生成模型,包括连续和离散的随机变量。由于连续治疗的ATE通常是非正则的,我们利用响应函数的偏导数来定义ATE的正则近似,我们称之为均匀平均治疗导数(UATD)。我们证明了我们的算法收敛到紧界ATE线性结构因果模型(SCM)。对于非线性SCM,我们的经验表明,使用UATD导致更紧密和更稳定的界限比直接优化ATE的方法。
2022-10-14 cs.LG
ODE-free Neural Flow Matching for One-Step Generative Modeling
Baylor University(贝勒大学)
本文提出无微分方程的神经流匹配方法,通过直接学习传输映射实现一步生成,减少推断步骤,提升生成质量。
2026-04-07 cs.LG
Causal Discovery with Score Matching on Additive Models with Arbitrary Noise
Università di Genova(热那亚大学);Istituto Italiano di Tecnologia(意大利技术研究院);Carnegie Mellon University(卡内基梅隆大学);Amazon Web Services(亚马逊云科技)
本文分析了高斯噪声假设下因果推断的边反转风险,提出了一种基于任意噪声分布加性非线性模型推断拓扑排序的新方法 NoGAM,在合成数据上实现了最先进的因果发现性能。
2023-04-06 cs.LG stat.ME
Causal Discovery Under Hard Selection Bias: A New Robust Score-Matching Approach
IST Austria(IST奥地利)
针对因果发现中的强选择偏差问题,本文提出一种鲁棒得分匹配方法,无需选择过程外部信息,在截断数据的加性噪声模型下实现了与最优方法相当的性能。
2026-10-14 cs.LG
High Fidelity Image Counterfactuals with Probabilistic Causal Models
Imperial College London(伦敦帝国理工学院);Microsoft Research Cambridge(微软剑桥研究院)
针对高维图像类结构化变量的反事实与干预查询估计难题,研究结合因果中介分析思路与生成建模进展,提出含新型深度因果机制的通用因果生成建模框架,实验验证其在溯因及各类效应估计上的准确性。
2023-07-18 cs.LG stat.ME
Assumption violations in causal discovery and the robustness of score matching
Università di Genova(热那亚大学);AWS(亚马逊云科技);German Cancer Research Center (DKFZ)(德国癌症研究中心);MIT(麻省理工学院);CBMM(计算生物学与机器学习中心);Istituto Italiano di Tecnologia(意大利技术研究院);University of Chicago(芝加哥大学);Institute of Science and Technology Austria (ISTA)(奥地利科学技术研究所)
本文广泛基准测试了近期因果发现方法在假设违背条件下的经验性能,发现基于 score matching 的方法在假阳性和假阴性率上表现出鲁棒性,并首次评估了算法对超参数值的稳定性。
2024-09-26 cs.LG stat.ME
Generative AI Enabled Matching for 6G Multiple Access
Beijing University of Posts and Telecommunications(北京邮电大学);University of Hong Kong(香港大学);Nanyang Technological University(南洋理工大学)
针对6G多址接入中复杂网络拓扑带来的匹配生成挑战,本文提出基于生成扩散模型的GenAI匹配生成框架,通过迭代去噪最大化奖励生成有效匹配策略,实验证明优于决策式AI方法。
2024-10-29 cs.AI cs.LG cs.NI
Shortcuts for causal discovery of nonlinear models by score matching
Università di Genova(热那亚大学);Istituto Italiano di Tecnologia (IIT)(意大利技术研究院);Institute of Science and Technology Austria (ISTA)(奥地利科学技术研究所)
本文正式定义了非线性加性噪声模型的得分可排序性模式,证明 ScoreSort 算法在统计效率上优于现有方法,并指出现有合成基准缺乏数据多样性,强调了分析统计特性的重要性。
2023-10-22 cs.LG stat.ME
Generative Modeling of Quantum Distribution with Functional Flow Matching
Graduate School of Data Science, Seoul National University, Seoul, Korea(首尔国立大学数据科学研究生院);Department of Statistics and Data Science, Yonsei University, Seoul, Korea(延世大学统计与数据科学系);Department of Applied Statistics, Yonsei University, Seoul, Korea(延世大学应用统计系);Google Research, Mountain View, California, United States(谷歌研究)
提出量子流匹配(QFM)模型,利用自旋Wigner函数和函数流匹配学习多量子比特量子分布,有效捕获物理量如纯度、纠缠熵。
2026-07-02 cs.LG quant-ph
Rethinking Causal Action Tokenization with Conditional Annealing in Flow Matching
IIIS, Tsinghua University(清华大学智能产业研究院);Shanghai Qizhi Institute(上海期智研究院)
针对自回归视觉-语言-动作模型动作标记化与骨干网络语义不对齐的问题,提出因果动作标记器CATok,通过条件退火流匹配构建从粗到细的因果标记空间,配合MMDiT解码器实现高保真重建,在模拟和真实机器人任务中优于现有方法。
2026-09-29 cs.AI cs.LG cs.RO
Laplacian Multi-scale Flow Matching for Generative Modeling
Georgia Institute of Technology(佐治亚理工学院)
本文提出拉普拉斯多尺度流匹配框架,通过并行处理多尺度表示提升图像生成质量与效率,实现高分辨率生成的同时降低计算开销。
2026-02-23 cs.CV cs.LG
Causality--Δ: Jacobian-Based Dependency Analysis in Flow Matching Models
Chalmers University of Technology(楚尔姆斯理工大学);University of Gothenburg(哥德堡大学)
本文提出通过雅可比-向量积分析流匹配模型中的依赖结构,揭示了流的局部仿射性质,并在图像领域实现了属性相关性的恢复。
2026-02-02 cs.AI cs.LG
Generative Pre-training for Speech with Flow Matching
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Meta AI
本研究提出名为SpeechFlow的通用语音生成式预训练模型,利用Flow Matching和掩码条件在6万小时无转录语音上训练,微调后在语音增强、分离和合成任务上匹配或超越现有专家模型。
2024-03-25 cs.CL cs.LG cs.SD
Image-derived generative modeling of pseudo-macromolecular structures - towards the statistical assessment of Electron CryoTomography template matching
Carnegie Mellon University(卡内基梅隆大学);University of Florida(佛罗里达大学)
细胞电子冷冻断层扫描(CECT)是一种3D成像技术,它以接近天然状态和亚分子分辨率捕获有关单细胞内大分子复合物的结构和空间组织的信息。虽然模板匹配通常用于在CECT图像中定位大分子,但它是不够的,因为它仅测量相对结构相似性。因此,最好通过假设检验来评估决策的统计可信度,这需要来自不同大分子结构群体的许多模板。由于已知结构的数量非常有限,我们需要一个生成模型来有效和可靠地从复杂的大分子结构分布中采样伪结构。为了应对这一挑战,我们提出了一种新的图像衍生方法,通过使用生成对抗网络构建生成模型来执行模板匹配的假设检验。最后,我们进行了假设检验实验的模板匹配模拟和实验subtomographs,使我们能够得出结论的身份subtomographs具有较高的统计可信度,并显着减少误报。
2018-05-12 cs.CV q-bio.QM stat.AP
AG-REPA: Causal Layer Selection for Representation Alignment in Audio Flow Matching
AI Thrust, Information Hub, The Hong Kong University of Science and Technology (Guangzhou)(人工智能 thrust,信息中心,香港科学与技术大学(广州))
提出AG-REPA方法,通过前向门控消融量化各层对速度场的因果贡献,实现稀疏层选择和自适应加权对齐,在音频流匹配中优于传统REPA基线。
2026-07-24 cs.AI cs.LG cs.MM
Sample Complexity Bounds for Score-Matching: Causal Discovery and Generative Modeling
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Institute of Science Technology Austria(奥地利科学技术研究所)
本文为分数匹配方法建立了统计样本复杂度界,证明用深度ReLU网络和随机梯度下降可准确估计分数函数,并给出其在因果发现和生成建模中的误差上界。
2023-10-27 cs.LG stat.ML
A Novel Computational Framework for Causal Inference: Tree-Based Discretization with ILP-Based Matching
Department of Mechanical and Industrial Engineering(机械与工业工程系)
本文提出结合基于树的离散化技术与基于整数线性规划的匹配算法,以提升因果推断中的计算效率和ATT估计的准确性。
2026-05-06 cs.LG stat.ML