Latent Variable Causal Discovery under Selection Bias
Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出了一种基于排名约束的方法，用于在存在选择偏差的情况下识别潜在变量模型中的因果结构。
2025-12-12 cs.LG
Traceable Latent Variable Discovery Based on Multi-Agent Collaboration
Southwestern University of Finance and Economics（西南财经大学）；Hunan University of Technology and Business（湖南工业大学）；Xiangjiang Laboratory（湘江实验室）；Emory University（埃默里大学）
TLVD通过结合LLMs的元数据推理与TCDA的数据驱动建模，实现潜在变量及其语义的可追溯推断。
2026-02-16 cs.LG
COLLIE: Guiding Skill Discovery in Semantically Coherent Latent Space
University of Science and Technology of China（中国科学技术大学）
提出COLLIE框架，利用密集无监督数据构建语义连贯的潜在空间，通过无需额外训练的引导信号实现稀疏人类反馈下的有效技能发现，避免危险行为并提升下游性能。
2026-05-31 cs.LG
Gaussian Latent Dirichlet Allocation for Discrete Human State Discovery
University of Texas, Austin（德克萨斯大学奥斯汀分校）；University of California, Berkeley（加州大学伯克利分校）
在这篇文章中，我们提出并验证了一个无监督的概率模型，高斯潜在狄利克雷分配（GLDA），从多个，本质上不同的，个人收集的重复，多变量的心理生理样本的离散状态发现的问题。心理学和医学研究大量涉及测量潜在相关的，但个别不确定的变量从一组参与者得出诊断，需要聚类分析。传统的概率聚类模型，如高斯混合模型（GMM）假设的成分分布的全局混合，这可能是不现实的观察来自不同的患者。GLDA模型借鉴了自然语言处理中流行的主题模型潜在狄利克雷分配（LDA）中的个体特定混合结构，并将其与GMM的高斯分量分布相融合，以适应连续类型的数据。我们使用STAN（一种概率建模语言）实现了GLDA，并将其应用于两个数据集，一个包含生态瞬时评估（EMA），另一个来自心电图和心阻抗图的心脏测量。我们发现，在这两个数据集中，GLDA学习的类权重与临床评估的抑郁，焦虑和压力评分的相关性显著高于基线GMM产生的相关性。我们的研究结果表明，GLDA在从重复的多变量数据中发现人类状态方面优于传统的有限混合模型，这可能是由于更好地表征了潜在的潜在参与者之间的差异。未来的工作需要验证该模型在更广泛的应用中的效用。
2022-06-28 cs.LG
Causal discovery of linear non-Gaussian acyclic models in the presence of latent confounders
RIKEN（理化学研究所）；Shiga University（滋贺大学）
从受潜在混杂因素影响的数据中发现因果关系是一个重要而困难的挑战。基于因果函数模型的方法还没有被用来呈现变量的关系受到潜在的混杂因素，而一些基于约束的方法可以呈现它们。本文提出了一种基于因果函数模型的方法，称为重复因果发现（RCD）发现的因果结构的观察变量的潜在混杂因素的影响。RCD重复推断少量观察变量之间的因果关系，并确定这些关系是否受到潜在混杂因素的影响。RCD最终产生因果图，其中双向箭头指示具有相同潜在混杂因素的变量对，并且有向箭头指示不受相同潜在混杂因素影响的变量对的因果方向。使用模拟数据和真实世界数据的实验验证结果证实，RCD是有效的，在识别潜在的混杂因素和观察变量之间的因果关系的方向。
2020-11-04 cs.LG stat.ML
Causal Discovery with Mixed Latent Confounding via Precision Decomposition
Vanderbilt University Medical Center（范德比尔特大学医学中心）；Johns Hopkins University（约翰霍普金斯大学）；MD Anderson Cancer Center（MD安德森癌症中心）
DCL-DECOR通过精度分解分离混合潜在混淆，有效恢复因果图结构并提高有向边识别精度。
2025-12-31 cs.LG
Latent Hierarchical Causal Structure Discovery with Rank Constraints
Carnegie Mellon University（卡内基梅隆大学）；Beijing Technology and Business University（北京工商大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
大多数因果发现程序假设系统中没有潜在的混杂因素，这在现实世界的问题中经常被违反。在本文中，我们考虑了因果结构识别的一个具有挑战性的场景，其中一些变量是潜在的，它们形成一个层次图结构来生成测量变量;潜在变量的子变量可能仍然是潜在的，并且只有叶节点被测量，此外，每对变量之间可能有多条路径（即，它超出了树结构）。我们提出了一个估计过程，可以有效地定位潜在的变量，确定他们的基数，并确定潜在的层次结构，通过利用秩亏约束的测量变量。我们表明，该算法可以找到正确的马尔可夫等价类的整个图渐近适当的限制下，图的结构。
2022-10-01 cs.AI cs.LG
Invariant Gaussian Process Latent Variable Models and Application in Causal Discovery
Max Planck Institute for Biological Cybernetics（马克斯·普朗克生物控制论研究所）
在非线性潜变量模型或动态模型中，如果我们将潜变量视为混杂因素（共同原因），则噪声依赖性意味着观察变量之间的进一步关系。这样的模型，然后密切相关的因果关系发现的非线性混杂因素的存在下，这是一个具有挑战性的问题。然而，通常在这样的模型中，观测噪声被假设为在数据维度上是独立的，因此噪声依赖性被忽略。本文重点研究高斯过程潜变量模型（GPLVM），并在此基础上开发了一种称为不变GPLVM（IGPLVM）的扩展模型，该模型可以适应任意噪声协方差。通过高斯过程先验对潜在非线性函数进行特定的变换，而不是原始的，IGPLVM的算法涉及与原始GPLVM几乎相同的计算负载。除了在因果发现中的潜在应用外，IGPLVM还具有其估计的潜在非线性流形对数据的任何非奇异线性变换都不变性的优点。在合成数据和真实数据上的实验结果表明，该算法在非线性流形学习和因果发现方面具有令人鼓舞的性能。
2012-03-15 cs.LG stat.ML
LatentCLR: A Contrastive Learning Approach for Unsupervised Discovery of Interpretable Directions
EPFL（洛桑联邦理工学院）；Technical University of Munich（慕尼黑工业大学）；Boğaziçi University（博阿齐奇大学）
最近的研究表明，在预训练的生成对抗网络（GANs）的潜在空间中找到可解释的方向是可能的。这些方向实现了可控的图像生成，并支持广泛的语义编辑操作，如缩放或旋转。这种方向的发现通常以监督或半监督的方式进行，并且需要手动注释，这限制了它们在实践中的使用。相比之下，无监督发现允许发现难以先验检测的微妙方向。在这项工作中，我们提出了一种基于对比学习的方法，以自我监督的方式在预训练的GANs的潜在空间中发现语义方向。我们的方法发现语义上有意义的尺寸与国家的最先进的方法。
2021-10-06 cs.CV cs.LG
Hybrid Bayesian network discovery with latent variables by scoring multiple interventions
Queen Mary University of London（伦敦玛丽女王大学）
在贝叶斯网络（BN）中，边的方向对于因果推理和推断至关重要。然而，马尔可夫等价类的考虑意味着它并不总是可能建立边缘方向，这就是为什么许多BN结构学习算法不能定向所有边缘从纯粹的观测数据。此外，潜在的混杂因素可能导致假阳性边缘。已经提出了相对较少的方法来解决这些问题。在这项工作中，我们提出了混合mFGS-BS（多数规则和快速贪婪等价搜索与贝叶斯评分）算法的结构学习从离散数据，涉及一个观察数据集和一个或多个干预数据集。该算法假设存在潜在变量的因果关系不足，并产生一个部分祖先图（PAG）。结构学习依赖于一种混合的方法和一种新的贝叶斯评分范式，计算后验概率的每个有向边缘被添加到学习图。基于109个变量和10 k样本大小的知名网络的实验结果表明，mFGS-BS相对于最先进的结构学习精度有所提高，并且计算效率很高。
2022-10-17 cs.LG
Leveraging directed causal discovery to detect latent common causes
Spotify（声田）；University College London（伦敦大学学院）；Babylon Health（巴比伦健康）
因果关系的发现是科学和医学中的一个基本问题。近年来，已经提出了许多从观测数据中发现两个变量之间因果关系的优雅方法。然而，大多数这些只处理纯粹的直接因果关系，不能检测潜在的共同原因。在这里，我们设计了一个一般的启发式，它需要一个因果发现算法，只能区分纯粹的直接因果关系，并修改它，也检测潜在的共同原因。我们将我们的方法应用于两个有向因果发现算法，信息几何因果推断（Daniusis等人，2010）和（Mitrovic，Sejdinovic，& Teh，2018）的因果推断的核条件偏差，并对合成数据进行了广泛的测试-检测加性，乘法和复杂噪声机制中的潜在常见原因-以及真实数据，我们能够检测已知的常见原因。除了检测潜在的共同原因，我们的实验表明，这两个修改后的算法保持原来的性能，在区分有向因果关系。
2021-06-21 cs.LG stat.ML
Relational Causal Discovery with Latent Confounders
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Pinterest, Inc.（Pinterest公司）；Adobe Research（Adobe研究）
针对关系数据中存在潜在混杂因子的因果发现问题，提出可靠且完备的算法 RelFCI，基于 FCI 和 RCD 定义新图模型，并在理论和实验上验证了其有效性。
2025-11-03 cs.AI cs.LG
Discovery of Latent Factors in High-dimensional Data Using Tensor Methods
University of California, Irvine（加州大学欧文分校）
无监督学习旨在发现驱动现实世界中观察的隐藏结构。它是现代机器学习成功的关键。潜变量模型在无监督学习中用途广泛，几乎在每个领域都有应用。由于似然目标的非凸性，训练潜变量模型具有挑战性。另一种方法是基于低阶矩张量的谱分解。这个通用的框架保证一致地估计正确的模型。我的论文涵盖了张量分解框架的理论分析和各种应用的实际实现。本文给出了张量分解的随机梯度下降收敛到全局最优解的理论结果，尽管目标是非凸的。这是第一个工作，给出了全局收敛保证的随机梯度下降的非凸函数指数许多局部极小值和鞍点。本文还介绍了在各种平台上进行的谱方法的大规模部署。采用随机投影等简化技术实现了一个高度并行、可扩展的张量分解算法。我们获得了增益的精度和运行时间的几个数量级相比，最先进的变分方法。为了解决现实世界的问题，提出了更先进的模型和学习算法。本文将LDA模型推广到用于学习社会网络中用户社区的混合成员随机块模型、用于学习单词序列嵌入的卷积字典模型、用于学习疾病层次的层次张量分解和潜在树结构模型以及用于检测神经科学中细胞类型的空间点过程混合模型。
2016-06-10 cs.LG
Neural operator discovery from heterogeneous trajectories
Massachusetts Institute of Technology（麻省理工学院）；Zhejiang University（浙江大学）
研究如何从异构轨迹发现神经算子，提出因式分解潜在条件公式，联合学习神经算子与低维潜在表示，能捕获系统变化内在维度，实现零样本外推等泛化，为无显式监督的算子学习建立可解释范式。
2026-07-28 cs.LG
Causal Discovery for Linear DAGs with Dependent Latent Variables via Higher-order Cumulants
Graduate School of Informatics, Kyoto University（京都大学信息科学研究生院）；Institute for Liberal Arts and Sciences, Kyoto University（京都大学文科理科研究所）
针对含相关隐变量的线性非高斯因果发现难题，提出利用高阶累积量识别LvLiNGAM中因果DAG的新算法，经模拟与真实数据验证有效。
2025-10-16 cs.LG stat.ML
Latent Variable Models for Bayesian Causal Discovery
Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；ÉTS Montréal（蒙特利尔高等技术学院）
学习不依赖于虚假相关性的预测器涉及构建因果表示。然而，学习这样的表示是非常具有挑战性的。因此，我们制定了从高维数据中学习因果表示的问题，并研究了因果恢复与合成数据。这项工作介绍了一个潜在的变量解码器模型，解码器BCD，贝叶斯因果发现，并在轻度监督和无监督的设置进行实验。我们提出了一系列的合成实验来表征因果发现的重要因素，并表明使用已知的干预目标作为标签有助于无监督贝叶斯推理的结构和参数的线性高斯加性噪声潜在的结构因果模型。
2022-08-11 cs.AI cs.LG stat.ML
From Local to Cluster: A Unified Framework for Causal Discovery with Latent Variables
Zongyu Li（李宗宇）
本文提出L2C框架，通过自动发现局部因果模式来实现集群层面的因果发现，无需假设因果充分性，理论分析证明其正确性与效率，实验验证其在合成和真实数据中优于现有方法。
2026-08-12 cs.AI cs.LG
A Constraint-Based Algorithm For Causal Discovery with Cycles, Latent Variables and Selection Bias
自然界中的因果过程可能包含循环，而真实数据集可能违反因果充分性并包含选择偏差。目前没有基于约束的因果发现算法可以同时处理周期、潜变量和选择偏差（CLS）。因此，我介绍了一种算法，称为循环因果推断（CCI），使健全的推论与条件独立的预言CLS下，只要我们可以表示为一个非递归的线性结构方程模型的非递归的因果过程的独立错误。实证结果表明，CCI优于CCD在循环的情况下，以及竞争对手的FCI和RFCI在非循环的情况下。
2018-05-05 cs.LG stat.ME stat.ML
Self-supervised Enhancement of Latent Discovery in GANs
TCS Research（塔塔咨询服务研究部）；Flytxt Mobile Solutions（Flytxt 移动解决方案公司）；Indian Institute of Space Science and Technology（印度空间科学技术研究所）
已经提出了几种用于在预训练的GANs的潜在空间中发现可解释方向的方法。由无监督方法发现的潜在语义比监督方法相对较少，因为它们不使用预先训练的属性分类器。我们提出了规模排名估计（SRE），这是使用自我监督训练。SRE增强了现有的无监督解缠技术获得的方向上的解缠。这些方向被更新以保持潜在空间中每个方向内的变化的顺序。定性和定量评估发现的方向表明，我们提出的方法显着提高了各种数据集的解纠缠。我们还表明，学习SRE可以用来执行基于属性的图像检索任务，而无需进一步的训练。
2021-12-16 cs.CV cs.LG
Restricted Boltzmann Machines for Robust and Fast Latent Truth Discovery
SCHUFA Holding AG, Innovation Lab（SCHUFA控股公司创新实验室）
我们解决的问题，潜在的真理发现，有限责任公司的简称，其目标是发现潜在的真实价值的实体属性存在的噪音，冲突或不完整的信息。尽管可以在文献中找到大量的算法来解决LTD问题，但对于它们在有效性（在真相发现能力方面）、效率和鲁棒性方面的整体性能知之甚少。一个实用的LTD方法应该满足所有这些特征，以便它可以应用于不同质量和清洁度的异构数据集。我们提出了一种新的算法有限责任公司，满足上述要求。该模型是基于限制玻尔兹曼机，因此创造了LTD-RBM。在各种异构和公开可用的数据集上进行的广泛实验中，LTD-RBM在有效性，效率和鲁棒性的综合考虑方面优于最先进的LTD技术。
2017-12-31 cs.LG stat.ML
Causal Discovery with Multi-Domain LiNGAM for Latent Factors
Guangdong University of Technology（广东工业大学）；RIKEN（理化学研究所）；Shiga University（滋贺大学）；Pazhou Lab（琶洲实验室）；Peking University（北京大学）；Okayama University（冈山大学）；Foshan University（佛山科学技术学院）
从观测数据中发现潜在因素之间的因果结构是一个特别具有挑战性的问题。尽管针对这个问题做了一些努力，但现有的方法仅针对单域数据。在本文中，我们提出了多域线性非高斯非循环模型的潜在因素（MD-LiNA），其中的潜在因素之间的因果结构是共享的所有域，我们提供了它的识别结果。该模型丰富了多领域数据的因果表示。我们提出了一个综合的两阶段算法来估计模型。特别是，我们首先定位潜在的因素和估计的因素负载矩阵。然后，为了揭示共享潜在兴趣因素之间的因果结构，我们基于外部影响之间的独立关系以及多领域潜在因素与潜在兴趣因素之间的依赖关系的表征推导出评分函数。我们表明，所提出的方法提供了局部一致的估计。合成和真实世界的数据上的实验结果表明，我们的方法的有效性和鲁棒性。
2022-04-23 cs.LG stat.ML
Local Causal Structure Learning in the Presence of Latent Variables and Selection Bias
研究存在潜在变量和选择偏差时的局部因果结构学习，提出LoCaLS算法，刻画局部区域并建立理论桥梁，该算法在标准假设下合理完备，实验证明其结构精度高于局部方法且计算量小于全局方法，在生物数据分析中有实际应用。
2026-07-23 cs.LG
Which Sparse Autoencoder Features Are Real? Model-X Knockoffs for False Discovery Rate Control
Mongol AI（蒙古AI）
针对稀疏自编码器特征难辨真伪的问题，本文引入Model-X knockoffs方法控制FDR，在Pythia-70M情感分类任务中实现了具备有限样本保证的可靠特征筛选，为机制可解释性研究提供了规范框架。
2025-11-12 cs.LG
Enhancing Drug Discovery: Autoencoder-Based Latent Space Augmentation for Improved Molecular Solubility Prediction using LatMixSol
University of Birjand（比尔詹德大学）
针对药物发现中分子溶解度预测的数据不足问题，提出LatMixSol框架，通过自编码器特征压缩与簇内MixUp插值生成合成数据，在Huuskonen基准上显著提升了多个梯度提升回归器的预测精度。
2025-05-30 cs.LG q-bio.QM
Discovery of Single Independent Latent Variable
Bar-Ilan University（巴伊兰大学）；Technion（以色列理工学院）
潜变量发现是数据分析的核心问题，在应用科学中有着广泛的应用。在这项工作中，我们认为数据作为两个统计独立的组件的可逆混合物，并假设其中一个组件被观察到，而另一个是隐藏的。我们的目标是找回隐藏的组件。为此，我们提出了一个自动编码器配备了一个数字。不像标准的非线性ICA问题，这被证明是不可识别的，在ICA的特殊情况下，我们考虑在这里，我们表明，我们的方法可以恢复的组成部分的兴趣，熵保持变换。我们证明了所提出的方法在几个任务，包括图像合成，语音克隆和胎儿心电图提取的性能。
2023-03-07 cs.LG stat.ML
Do LLMs Recognize Your Latent Preferences? A Benchmark for Latent Information Discovery in Personalized Interaction
University of Minnesota（明尼苏达大学）；Texas A&M University（德克萨斯农工大学）；CISCO Research（思科研究）
本文提出面向多轮个性化交互的潜在信息发现基准，通过三类任务和三智能体框架评估LLM揭示隐藏用户偏好的能力，发现其表现因情境在32%至98%间显著波动。
2025-10-20 cs.AI cs.CL cs.LG
A Rotation Invariant Latent Factor Model for Moveme Discovery from Static Poses
California Institute of Technology（加州理工学院）
当训练数据由原始特征空间的低维投影组成时，我们解决了学习旋转不变潜在因子模型的问题。主要目标是发现一组3-D基本姿势，可以表征原始人类运动的流形，或movemes，从训练集的2-D投影姿势从静止图像在不同的摄像机角度。所提出的基础发现技术是数据驱动的，而不是手工设计的。学习的表示是旋转不变的，并且可以从多个视角重建任何训练实例。我们将我们的方法应用于体育运动中的人体姿势建模（通过Leeds Sports Dataset），并在一系列应用中展示了学习基础的有效性，例如活动分类，从单个帧中推断动态，以及运动的合成表示。
2016-09-23 cs.CV cs.LG
Dynamic causal discovery in Alzheimer's disease through latent pseudotime modelling
King’s College London（伦敦国王学院）
本文提出利用潜在伪时间模型对阿尔茨海默病进行动态因果发现，推断独立于年龄的疾病轨迹并学习因果关系的演变，在诊断预测上优于年龄，并揭示了新型与经典AD标志物间的动态交互。
2025-11-06 cs.CE cs.LG stat.AP
LOD: Latent Objective Discovery in Heterogeneous Multi-Agent Reinforcement Learning
Department of Statistics, Harvard University（哈佛大学统计学系）
提出一种基于重叠潜在社区的 MARL 框架，通过共享策略与价值、成员权重聚合及 actor-critic 算法实现结构化协作、迁移适应和主动探索，并证明线性函数近似下的收敛性。
2026-09-29 cs.LG cs.MA math.OC
Causal Discovery with Latent Confounders Based on Higher-Order Cumulants
Guangdong University of Technology（广东工业大学）；Peng Cheng Laboratory（鹏城实验室）；Shantou University（汕头大学）；Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文利用高阶累积量给出单潜在成分结构下过完备独立成分分析的闭式解，提出可检验条件识别潜在变量并确定因果顺序，进而扩展到多潜在成分结构，实现带潜在混杂因素的因果结构学习。
2023-05-31 cs.AI cs.LG stat.ME
Causal discovery for time series with latent confounders
University of Stuttgart（斯图加特大学）
重建我们观察到的现象背后的因果关系是所有科学领域的一个基本挑战。在复杂的系统中，通过实验发现因果关系通常是不可行的、不道德的或昂贵的。然而，计算能力的提高使我们能够处理现代科学产生的不断增长的数据量，从而对从观测数据中发现因果关系的问题产生了新的兴趣。这项工作评估的LPCMCI算法，其目的是找到一个多维的，高度自相关的时间序列兼容的发电机，而一些变量是未观察到的。我们发现，LPCMCI比随机算法模仿不知道什么，但仍然是远离最佳检测性能好得多。此外，LPCMCI在自动依赖项上表现最好，然后是同期依赖项，并且在滞后依赖项上表现最差。这个项目的源代码可以在线获得。
2022-09-07 cs.LG stat.ML
Differentiable Causal Discovery Under Latent Interventions
LUMLIS (Lisbon ELLIS Unit)（里斯本ELLIS单元LUMLIS）；Instituto de Telecomunicações（电信研究所）；Unbabel（Unbabel公司）
最近的工作表明，即使在干预变量未知的情况下，通过利用基于梯度的方法的干预数据，在因果发现方面也取得了可喜的成果。然而，以前的工作假设样本和干预措施之间的对应关系是已知的，这往往是不现实的。我们设想一个场景，从多个干预分布和一个观察分布中采样大量数据集，但我们不知道每个样本的来源分布以及干预如何影响系统\textit{i.e.}，干预完全是潜在的。我们提出了一种基于神经网络和变分推理的方法，该方法通过将其构建为学习干预结构因果模型的无限混合物（根据狄利克雷过程先验）之间的共享因果图来解决这种情况。合成和真实数据的实验表明，我们的方法及其半监督变体能够在这种具有挑战性的情况下发现因果关系。
2022-03-04 cs.LG stat.ME
Generating Counterfactual Trajectories with Latent Diffusion Models for Concept Discovery
Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau（莱茵兰-普法尔茨州 Kaiserslautern-Landau 技术大学）；German Research Center for Artificial Intelligence GmbH (DFKI)（德国人工智能研究中心 GmbH（DFKI））
本文提出CDCT三步框架，利用LDM生成反事实轨迹、VAE学习解耦概念并搜索相关概念，在皮肤病变分类器中发现偏差和生物标志物，且FID更优、资源效率提升12倍。
2025-01-06 cs.AI cs.LG
Pro-t-VAE: Closed-Form Student's t Mixtures for Robust Prototype Discovery
Institute of Intelligent Information Processing, Shanxi University（山西大学智能信息处理研究所）；School of Medicine, Yale University（耶鲁大学医学院）；Boston Children’s Hospital, Harvard Medical School（哈佛医学院波士顿儿童医院）；Eli Lilly and Company（礼来公司）
Pro-t-VAE是基于闭式学生t混合先验的深度生成框架，用于无监督图像原型发现，在视觉基准与神经成像任务上验证了其鲁棒性、准确性与效率的提升。
2026-11-13 cs.LG
Unsupervised Discovery of Interpretable Directions in the GAN Latent Space
Yandex（扬德克斯）；National Research University Higher School of Economics（国立研究型大学高等经济学院）
GAN模型的潜在空间通常具有语义上有意义的方向。在这些方向上移动对应于人类可解释的图像变换，例如缩放或缩放，从而实现更可控的生成过程。然而，这些方向的发现目前是以监督的方式执行的，需要人类标签，预训练模型或某种形式的自我监督。这些要求严重限制了现有方法可以发现的方向范围。在本文中，我们引入了一种无监督的方法来识别预训练的GAN模型的潜在空间中的可解释方向。通过一个简单的模型不可知的程序，我们发现方向对应于明智的语义操作，没有任何形式的（自我）监督。此外，我们揭示了几个非平凡的发现，这将是很难获得现有的方法，例如，对应于背景去除的方向。作为我们工作的直接实际好处，我们展示了如何利用这一发现来实现弱监督显着性检测的竞争性能。
2020-06-24 cs.CV cs.LG stat.ML
Constraint-based Causal Discovery for Non-Linear Structural Causal Models with Cycles and Latent Confounders
Informatics Institute（信息学研究所）；University of Amsterdam（阿姆斯特丹大学）
我们解决的问题，因果发现数据，利用最近提出的因果建模框架的模块化结构因果模型（mSCM）来处理周期，潜在的混杂因素和非线性。本文引入了σ-连通图（σ-CG），这是一类新的具有附加结构的混合图（包含无向、双向和有向边），并将σ-分离的概念推广到σ-CG上，σ-分离是d-分离概念的适当推广.我们证明了σ-分离在边缘化和条件下的封闭性，并利用这一点来实现σ-CG上的σ-分离测试。然后，这将我们带到第一个因果发现算法，该算法可以处理非线性函数关系，潜在混杂因素，循环因果关系以及来自不同（随机）完美干预的数据。作为概念证明，我们在合成数据上展示了该算法如何恢复模块化结构因果模型的因果图的特征。
2018-07-09 cs.AI cs.LG stat.ML
Label scarcity in biomedicine: Data-rich latent factor discovery enhances phenotype prediction
RWTH Aachen University（亚琛工业大学）；INRIA（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）；Department of Psychiatry and Psychotherapy（精神病学与心理治疗系）
高质量的数据积累现在在卫生领域变得无处不在。有越来越多的机会，利用丰富的数据，从正常的主题，以改善监督估计在特定的疾病与臭名昭著的数据稀缺。我们证明了低维嵌入空间可以从英国生物银行人口数据集导出，并用于增强健康指标，生活方式和人口统计特征的数据稀缺预测。通过变分自编码器流形促进的表型预测通常比通过PCA或Isomap的降维更好地随着未标记数据的增加而扩展。半监督方法的性能增益可能会成为各种医疗数据科学应用的重要组成部分。
2021-10-12 cs.LG q-bio.NC
Vector Quantized Latent Concepts: A Scalable Alternative to Clustering-Based Concept Discovery
Dalhousie University, Canada（加拿大达尔豪斯大学）；University of Calgary, Canada（加拿大卡尔加里大学）
提出VQLC框架，通过向量量化学习离散潜在概念，在保持可解释性的同时，实现与K-Means相当的计算效率，并优于层次聚类在大规模数据上的扩展性。
2026-06-11 cs.CL cs.LG
Topic Discovery via Latent Space Clustering of Pretrained Language Model Representations
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
主题模型是从文本语料库中自动发现主题的重要工具。尽管它们的有效性，主题模型遭受的几个限制，包括无法建模文档中的单词排序信息，将外部语言知识的困难，以及缺乏准确和有效的推理方法来近似棘手的后验。最近，预训练的语言模型（PLM）由于其出色的文本表示，为各种各样的任务带来了惊人的性能提升。有趣的是，还没有标准的方法来部署PLM进行主题发现，作为主题模型的更好的替代品。在本文中，我们首先分析了使用PLM表示的主题发现的挑战，然后提出了一个联合潜在空间学习和聚类框架建立在PLM嵌入。在潜在空间中，主题词和文档主题分布的联合建模，使发现的主题可以解释的连贯性和独特的条款，同时作为有意义的摘要的文件。我们的模型有效地利用了强大的表示能力和高超的语言特征所带来的PLM主题发现，是概念上比主题模型简单。在不同领域的两个基准数据集上，我们的模型生成的主题比强主题模型更加连贯和多样化，并基于自动和人工评估提供了更好的主题文档表示。
2022-02-09 cs.CL cs.IR cs.LG
SWAT-NN: Simultaneous Weights and Architecture Training for Neural Networks in a Latent Space
针对神经网络设计中手动试错耗时或NAS离散化优化的问题，提出SWAT-NN方法，通过通用多尺度自编码器将架构与参数嵌入潜在空间，联合优化生成高效模型，在合成回归任务上表现优异。
2025-11-18 cs.LG
Probabilistic Decomposed Linear Dynamical Systems for Robust Discovery of Latent Neural Dynamics
Georgia Institute of Technology（佐治亚理工学院）；Emory University（埃默里大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对现有神经信号潜变量估计方法抗噪声与非线性能力弱的问题，提出概率分解线性动力系统方法及扩展模型，在合成与真实临床数据中实现更准确鲁棒的可解释潜变量推断。
2024-10-28 cs.LG stat.ML
A Unified Framework for Simultaneous Parameter and Function Discovery in Differential Equations
University of Waterloo（滑铁卢大学）
本文提出一个统一框架，通过建立唯一解条件，解决微分方程反问题中同时识别参数和函数的非唯一性挑战，并在生物与生态系统中验证了准确可解释的结果。
2025-05-22 cs.LG
MOSAIC: Module Discovery via Sparse Additive Identifiable Causal Learning for Scientific Time Series
University of Illinois Chicago（伊利诺伊大学香槟分校）；Case Western Reserve University（凯斯西储大学）；Carnegie Mellon University（卡内基梅隆大学）；MBZUAI
MOSAIC通过稀疏加法可识别因果学习，在科学时间序列中发现模块结构，通过稀疏解码器恢复观测变量支持，实现可解释的潜在机制发现。
2026-10-19 cs.AI cs.LG
Scalable Differentiable Causal Discovery in the Presence of Latent Confounders with Skeleton Posterior (Extended Version)
HKUST（香港科技大学）；Microsoft Research（微软研究院）；Shanghai Jiao Tong University（上海交通大学）
针对潜在混杂因素下可微MAG学习难以扩展的问题，提出SPOT两阶段框架，通过SCL摊销推断骨架后验，并以其引导随机优化，从而缩小搜索空间并提升因果发现性能。
2024-06-15 cs.AI cs.LG stat.ML
Combining Restricted Boltzmann Machines with Neural Networks for Latent Truth Discovery
SCHUFA Holding AG（SCHUFA控股股份公司）
潜在真理发现（Latent truth discovery，LTD）是指将来自不同来源的多个断言聚合起来，以估计关于实体的断言的可信度的问题。在缺乏基础事实的情况下，这个问题是非常具有挑战性的，当一些来源提供相互矛盾的主张，而另一些来源根本没有主张时。在这项工作中，我们提供了一个无监督的随机推理过程上的模型，结合限制玻尔兹曼机与前馈神经网络，以准确地推断来源的可靠性，以及对实体的陈述的可验证性。与先前的工作相比，我们的方法突出了（1）通过允许并入关于源和声明的任意特征，（2）通过从每个源的可靠性向可靠性函数进行概括，并且因此（3）即使对于没有提供或很少提供声明的源，也能够估计源可靠性，（4）通过建立在高效和可扩展的随机推理算法上，和（5）通过以相当大的幅度超过最新技术水平。
2018-07-27 cs.AI cs.LG stat.ML
Score-Based Causal Discovery of Latent Variable Causal Models
Carnegie Mellon University（卡内基梅隆大学）；University of California, San Diego（加州大学圣地亚哥分校）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出了一种基于得分的方法，用于识别包含因果相关潜在变量的因果结构，并提供了可识别性保证，同时通过实验验证了方法的有效性。
2026-05-19 cs.LG stat.ML
Temporal Latent Variable Structural Causal Model for Causal Discovery under External Interferences
School of Computer Science, Guangdong University of Technology（广东工业大学计算机科学学院）；Peng Cheng Laboratory（鹏城实验室）；Machine Learning Department, Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学机器学习系）；College of Mathematics and Computer Science, Shantou University（汕头大学数学与计算机科学学院）
针对外部干扰下因果发现的挑战，该研究引入潜在变量表示未知外部因素，提出融合因果强度与邻接系数的时间潜在变量结构因果模型，并结合专家知识优化参数学习，提升了因果推断的稳定性与准确性。
2025-11-13 cs.AI cs.LG
Guaranteed Discovery of Control-Endogenous Latent States with Multi-Step Inverse Models
Microsoft Research（微软研究院）；McGill University（麦吉尔大学）；University of Montreal（蒙特利尔大学）
在许多顺序决策任务中，智能体无法对世界的全部复杂性进行建模，世界由大量相关和不相关的信息组成。例如，一个人走在一条城市街道上，试图对世界的各个方面进行建模，很快就会被大量的商店、汽车和进出视线的人所淹没，每一个人都遵循着自己复杂而神秘的动态。有没有可能把智能体的感觉信息变成一种最小的潜在状态，这种状态对于智能体在世界上成功地行动来说既必要又足够？我们制定了这个问题具体，并提出了代理控制内源状态发现算法（AC状态），它具有理论上的保证和实际证明，发现最小的控制内源性的潜在状态，其中包含控制代理所需的所有信息，同时完全丢弃所有不相关的信息。该算法由一个多步逆模型（从遥远的观察预测行动）与信息瓶颈。AC-State支持本地化、探索和导航，无需奖励或演示。我们在三个领域证明了控制内源性潜伏状态的发现：定位具有分心的机器人手臂（例如，改变照明条件和背景），与其他代理一起探索迷宫，并在Matterport House模拟器中导航。
2022-12-27 cs.LG cs.RO stat.ML
Physical Simulators as Do-Operators: Causal Discovery under Latent Confounders for AI-for-Science
Kyushu Institute of Technology（九州工业大学）
本文提出CFM-SD方法，利用物理模拟器作为do-运算符，解决AI-for-Science中潜在混杂因素和真实干预数据的因果发现问题，实验表明其在合成数据和真实科学数据中均表现出色。
2026-05-08 cs.AI cs.ET cs.LG
Joint Latent Topic Discovery and Expectation Modeling for Financial Markets
Dartmouth College（达特茅斯学院）；Millennium Management, LLC（千禧管理有限责任公司）；Northwestern University（西北大学）
针对关系型股票方法依赖预定义关系且仅考虑即时效应的问题，本文提出联合建模投资者预期并自动挖掘潜在股票关系的框架，在CSI 300上实现超过10%的年收益并达到新基准。
2023-06-01 cs.LG q-fin.ST
A Versatile Causal Discovery Framework to Allow Causally-Related Hidden Variables
University of California San Diego（加州大学圣地亚哥分校）；Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；KDDI Research（KDDI研究所）
针对现有因果发现方法依赖无潜在混淆因子假设的局限，提出基于协方差矩阵秩的通用框架与RLCD算法，可处理因果相关隐变量，理论上保证特定结构可识别，实验验证了有限样本下的有效性。
2023-12-18 cs.LG stat.ME
Neuro-Symbolic ODE Discovery with Latent Grammar Flow
ETH AI Center and Institute of Structural Engineering（苏黎世联邦理工学院人工智能中心和结构工程研究所）；ETH Zurich（苏黎世联邦理工学院）；Swiss Data Science Center（瑞士数据科学中心）
本文提出Latent Grammar Flow框架，通过生成微分方程来理解系统，结合符号方法与深度学习，实现可解释性和迁移性。
2026-07-15 cs.AI cs.CE cs.LG
FoundCause: Causal Discovery with Latent Confounders from Observational Data
Amazon Web Services（亚马逊云服务）；Department of Statistics, University of California, Davis（加州大学戴维斯分校统计系）
提出FoundCause，一种基于合成数据训练的摊销因果发现模型，通过单次前向传递直接映射数据集到因果图，显式建模隐混淆因子，在15个真实数据集上优于11种非摊销和4种摊销方法。
2026-06-17 cs.AI cs.LG stat.ME
High-recall causal discovery for autocorrelated time series with latent confounders
German Aerospace Center（德国航空航天中心）；Institute of Data Science（数据科学研究所）
我们提出了一种新的方法，从观测时间序列中发现线性和非线性，滞后和同期的约束为基础的因果关系存在潜在的混淆。我们发现，现有的因果关系发现方法，如FCI和变种遭受低召回自相关时间序列的情况下，并确定低效果大小的条件独立性测试的主要原因。信息理论的论点表明，效果大小往往可以增加，如果因果父母包括在条件设置。为了尽早确定父母，我们建议一个迭代的过程，利用新的方向规则，以确定祖先的关系已经在边缘去除阶段。我们证明了该方法是序无关的，并且在Oracle情况下是可靠的和完全的。大量的模拟研究不同数量的变量，时间滞后，样本量，并进一步的情况下，证明我们的方法确实实现了更高的召回率比现有的方法的情况下，自相关的连续变量，同时保持在所需的水平误报。这种性能增益随着更强的自相关性而增长。在https://github.com/jakobrunge/tigramite上，我们提供了模拟研究中涉及的所有方法的Python代码。
2021-02-01 cs.LG stat.ME stat.ML
