Enhancing Interpretability and Generalizability in Extended Isolation Forests
University of Padova（帕多瓦大学）；Statwolf Data Science Srl（斯塔特沃尔夫数据科学有限公司）
本文提出可解释方法ExIFFI为扩展孤立森林提供全局和局部解释，同时提出改进模型EIF+提升异常检测泛化能力，还设计了AUC_FS可解释性评估指标，实验验证其性能优于现有方法并开源代码。
2024-10-09 cs.LG stat.AP stat.ML
Disentangled representations of microscopy images
MaLGa-DIBRIS, Università degli studi di Genova（马尔加-迪布里西斯，热那亚大学）
本文提出解耦表示学习（DRL）方法，通过迁移合成数据学习的表示，在三个显微图像域的基准数据集上提升了显微镜图像分类的准确性与可解释性权衡。
2025-06-25 cs.AI cs.CV cs.LG
Interpretable Anomaly Detection with DIFFI: Depth-based Isolation Forest Feature Importance
University of Padua（帕多瓦大学）
异常检测是一项无监督学习任务，旨在检测与历史数据有关的异常行为。特别是，多变量异常检测在许多应用中具有重要的作用，这是由于能够用单个指标（通常称为“异常分数”）总结复杂系统或观察到的现象的状态，并且由于任务的无监督性质，不需要人工标记。隔离森林算法是异常检测领域中最常用的算法之一，由于其有效性和低计算复杂性。影响隔离森林的一个主要问题是缺乏可解释性，这是隔离森林的构建模块隔离树执行分割的固有随机性的影响。在本文中，我们提出了有效的，但计算成本低，方法来定义特征的重要性分数在全球和地方一级的隔离森林。此外，我们定义了一个程序来执行无监督的特征选择的异常检测问题的基础上，我们的解释性方法，这样的程序也服务于解决具有挑战性的任务，在无监督的异常检测的特征重要性评估的目的。我们评估了几个合成和真实世界数据集的性能，包括与最先进的可解释性技术的比较，并将代码公开，以提高可重复性并促进该领域的研究。
2021-07-13 cs.HC cs.LG stat.ML
Theory and Evaluation Metrics for Learning Disentangled Representations
Applied AI Institute, Deakin University（迪肯大学应用人工智能研究所）
我们对解纠缠学习做出了两个理论贡献：（a）定义解纠缠表示的精确语义;（b）建立鲁棒的评估指标。首先，我们描述的概念“解开表示”在监督和无监督的方法沿三个维度的信息性，可分性和可解释性-这可以表达和量化明确使用信息理论的结构。这有助于解释几个著名的解纠缠学习模型的行为。然后，我们提出了强大的度量信息，可分性和可解释性。通过一套全面的实验，我们证明了我们的指标正确地表征了通过不同方法学习的表示，并且与定性（视觉）结果一致。因此，这些指标允许在公平的基础上比较解纠缠学习方法。我们还根据经验发现了基于VAE的方法的新的有趣特性，并用我们的公式解释了它们。这些发现是有希望的，希望将鼓励设计更多的理论驱动的模型，学习解开表示。
2021-03-18 cs.LG stat.ML
Evaluating the Interpretability of Generative Models by Interactive Reconstruction
Harvard University（哈佛大学）
为了使机器学习模型在众多社会技术系统中发挥最大作用，许多人认为它们必须是人类可解释的。然而，尽管人们对可解释性的兴趣越来越大，但在如何衡量它的问题上仍然没有达成一致意见，尤其是在表示学习中，可解释性研究的重点是只适用于合成数据集的“解纠缠”措施，而不是基于人为因素。我们引入了一个任务来量化生成模型表示的人类可解释性，其中用户交互式地修改表示以重建目标实例。在合成数据集上，我们发现这项任务的性能比基线方法更可靠地区分纠缠和解纠缠模型。在一个真实的数据集上，我们发现它区分了表示学习方法，这些方法被广泛认为但从未显示出产生或多或少的可解释模型。在这两种情况下，我们在亚马逊土耳其机器人上进行了小规模的有声思维研究和大规模的实验，以确认我们的定性和定量结果是一致的。
2021-02-02 cs.AI cs.HC cs.LG
Learning Disentangled Representations for Time Series
Texas A&M University（得克萨斯农工大学）；NEC Labs America（NEC美国实验室）；Rutgers University（罗格斯大学）
时间序列表示学习是时间序列分析的一项基本任务。虽然已经取得了重大进展，以实现下游应用程序的准确表示，学习的表示往往缺乏可解释性，不暴露语义含义。不同于以往的纠缠特征空间的努力，我们的目标是提取语义丰富的时间相关性的潜在的可解释的因式分解表示的数据。受计算机视觉中解纠缠表示学习的成功启发，我们研究了学习语义丰富的时间序列表示的可能性，由于三个主要挑战，这一点尚未探索：1）顺序数据结构引入了复杂的时间相关性，使得潜在的表示难以解释，2）顺序模型遭受KL消失问题，3）时间序列的可解释语义概念往往依赖于多个因素而不是个体。为了弥补这一差距，我们提出了一种新的序列数据解纠缠增强框架--解纠缠时间序列（Disentangle Time Series，简称TSN）。具体而言，生成层次语义概念作为时间序列的可解释性和解纠缠表示，ESTA引入了多层次的解纠缠策略，涵盖个人的潜在因素和组语义段。我们进一步从理论上展示了如何缓解KL消失问题：KLM引入了一个互信息最大化项，同时保留了对总相关性和维数KL的更重惩罚以保持解纠缠特性。在各种真实世界的基准数据集上的实验结果表明，通过训练学习的表示在下游应用中具有优异的性能，具有较高的语义概念可解释性。
2021-05-21 cs.AI cs.LG
DMMRL: Disentangled Multi-Modal Representation Learning via Variational Autoencoders for Molecular Property Prediction
Guangxi Key Lab of Human-machine Interaction and Intelligent Decision（广西人机交互与智能决策重点实验室）；Nanning Normal University（南宁师范大学）；College of Big Data and Software Engineering（大数据与软件工程学院）；Zhejiang Wanli University（浙江万里大学）
本文提出DMMRL，通过变分自编码器解耦分子表示为共享和私有潜在空间，提升可解释性和预测性能，实验验证其在七个基准数据集上的优越表现。
2026-03-22 cs.AI cs.LG
Entangled Representations Amplify Collateral Damage in Unlearning
University of Oxford（牛津大学）；University of Toronto（多伦多大学）
该研究通过控制SGTM训练的不同解纠缠程度的254M参数语言模型，验证了表征纠缠会放大遗忘附带损害，解纠缠程度更高的模型保留-遗忘权衡更优。
2026-09-03 cs.CL cs.LG
Smooth InfoMax -- Towards Easier Post-Hoc Interpretability
University of Antwerp（安特卫普大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学）
提出Smooth InfoMax方法，通过概率模块和InfoNCE损失优化，在语音数据上实现更平滑解耦的潜在空间，提升后验可解释性。
2025-06-21 cs.AI cs.LG
Disentangled Neural Architecture Search
Lenovo Research（联想研究院）
近年来，神经结构搜索在各个领域显示出巨大的潜力。然而，现有的方法严重依赖于一个黑盒控制器来搜索架构，这遭受缺乏可解释性的严重问题。在本文中，我们提出了解开神经结构搜索（DNAS），解开隐藏的表示的控制器到语义上有意义的概念，使神经结构搜索过程可解释。在系统研究的基础上，我们发现了网络架构与其性能之间的相关性，并提出了一种密集采样策略，在可能产生性能良好的架构的有希望的区域进行有针对性的搜索。我们证明：1）DNAS成功地解开了架构表示，包括操作选择、跳过连接和层数。2)得益于可解释性，DNAS可以在不同的FLOPS限制下灵活地找到优秀的体系结构。3)密集采样导致神经结构搜索具有更高的效率和更好的性能。在NASBench-101数据集上，DNAS实现了94.21%的最先进性能，计算成本不到基线方法的1/13。在ImageNet数据集上，DNAS发现了达到22.7%测试误差的竞争架构。我们的方法提供了一个新的角度来理解神经结构搜索。
2020-09-24 cs.LG cs.NE stat.ML
Contrastively Disentangled Sequential Variational Autoencoder
Cornell University（康奈尔大学）；Google（谷歌）
自监督解纠缠表示学习是序列建模中的一个关键任务。学习的表示有助于更好的模型可解释性以及数据生成，并提高下游任务的样本效率。我们提出了一种新的序列表示学习方法，命名为对比解纠缠序列变分自编码器（C-DSVAE），提取和分离的静态（时不变）和动态（时变）的因素在潜在的空间。与以往的序列变分自编码器方法不同，本文提出了一种新的证据下界，该证据下界最大化了输入和潜在因子之间的互信息，同时惩罚了静态和动态因子之间的互信息.我们利用训练中的互信息项的对比估计，以及简单而有效的增强技术，引入额外的归纳偏差。我们的实验表明，C-DSVAE显着优于以前的国家的最先进的方法在多个指标。
2021-10-22 cs.AI cs.LG
Disentangled (Un)Controllable Features
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
针对高维状态MDP中低维表示缺乏可解释性的问题，提出一种将潜在特征解耦为可控与不可控分区的新方法，并在多种环境中验证了其可解释性及在可控分区中应用规划算法的可行性。
2024-01-03 cs.AI cs.LG
Variational Inference of Disentangled Latent Concepts from Unlabeled Observations
IBM Research AI（IBM研究人工智能部门）；Yorktown Heights, NY（纽约州约克镇高地（这里注意：根据提取规则，地址信息不应提取，但原HTML中“Affiliation: Yorktown Heights, NY”可能是地址而非机构，结合上下文，正确机构应为“IBM Research AI”，另一个“Affiliation”可能是地址或重复，需确认。但根据提取规则，只提取明确的机构。原文本中明确的机构是“IBM Research AI”，“Yorktown Heights, NY”是地点，非机构。因此正确应为[{）
解纠缠表示，其中更高层次的数据生成因素反映在不相交的潜在维度，提供了几个好处，如易于导出不变表示，可转移到其他任务，可解释性等，我们考虑的问题，从大池的未标记的观察解纠缠表示的无监督学习，并提出了一个变分推理为基础的方法来推断解纠缠的潜在因素。我们引入了一个正则化的近似后验的期望超过观察到的数据，鼓励解开。我们还提出了一个新的解纠缠度量，这是更好地与定性解纠缠解码器的输出中观察到。我们凭经验观察显着改善现有的方法在两个解纠缠和数据的可能性（重建质量）。
2018-12-27 cs.AI cs.CV cs.LG
A Multi-Level Causal Intervention Framework for Mechanistic Interpretability in Variational Autoencoders
Indian Institute of Technology, Patna（印度理工学院巴特那分校）；Rajarshi School of Management Technology, Varanasi（拉贾尔希管理技术学院瓦拉纳西分校）；Jaypee Institute of Information Technology, Noida（杰皮信息技术学院诺伊达分校）
本文提出多级因果干预框架，用于分析变分自编码器的机制可解释性，定义了三个新指标，并通过大规模实验揭示了VAE因果机制的特性。
2026-04-05 cs.LG
Disentangled Graph Representation Based on Substructure-Aware Graph Optimal Matching Kernel Convolutional Networks
针对现有图表示方法结构刻画粗糙的问题，提出GOMKCN，以子图为结构因子，用GOMK卷积算子度量子图与可学习滤波器的相似性，实现解耦表示，提升图模式挖掘的准确性与可解释性。
2025-04-23 cs.LG
Benchmarking and Enhancing Disentanglement in Concept-Residual Models
Carnegie Mellon University（卡内基梅隆大学）；Wake Forest University（维克森林大学）
本文针对概念瓶颈模型中残差导致的信息泄漏问题，提出三种概念-残差解耦方法，并在多个数据集上系统评估其性能与可解释性之间的权衡及干预能力。
2023-11-30 cs.CV cs.LG
Function Based Isolation Forest (FuBIF): A Unifying Framework for Interpretable Isolation-Based Anomaly Detection
Brain, Mind and Computer Science, University of Padova, Italy（脑科学与计算机科学系，帕多瓦大学，意大利）；Department of Mathematics, Sapienza University of Roma, Italy（数学系，罗马萨皮恩扎大学，意大利）；Department of Information Engineering, University of Padova, Italy（信息工程系，帕多瓦大学，意大利）
本文提出基于函数的隔离森林（FuBIF），通过实值函数分支推广隔离森林以提升灵活性，并配套FuBIFFI算法提供特征重要性解释，实验验证其性能并开源实现。
2025-11-08 cs.LG stat.ML
Evaluating the Disentanglement of Deep Generative Models through Manifold Topology
Stanford University（斯坦福大学）
学习解纠缠表示被认为是提高生成模型的泛化性、鲁棒性和可解释性的基本任务。然而，测量解纠缠一直具有挑战性和不一致性，通常依赖于特定的外部模型或特定于特定的数据集。为了解决这个问题，我们提出了一种方法来量化解纠缠，只使用生成模型，通过测量学习表示中的条件子流形的拓扑相似性。这种方法展示了无监督和监督的变体。为了说明我们方法的有效性和适用性，我们在多个数据集上对几个最先进的模型进行了经验评估。我们发现，我们的方法排名模型类似于现有的方法。我们在https://github.com/stanfordmlgroup/disentanglement上公开我们的代码。
2021-03-17 cs.CV cs.LG stat.ML
Disentangled Attribution Curves for Interpreting Random Forests and Boosted Trees
UC Berkeley（加州大学伯克利分校）
树集成，如随机森林和AdaBoost，是普遍存在的机器学习模型，以在各种领域实现强大的预测性能而闻名。然而，这种强大的性能是以可解释性为代价的（即用户无法理解经过训练的随机森林已经学习的关系以及它为什么要进行预测）。特别是，理解特定特征或特征组的贡献如何随着其值的变化而变化是具有挑战性的。为了解决这个问题，我们引入了分解属性曲线（DAC），一种以（多变量）特征重要性曲线的形式提供树集成方法的解释的方法。对于一个给定的变量或一组变量，DAC绘制变量值变化时变量的重要性。我们验证DAC的真实数据显示，曲线可以用来提高逻辑斯谛回归的准确性，同时保持可解释性，包括DAC作为一个额外的功能。在模拟研究中，DAC被证明在恢复条件期望方面优于竞争方法。最后，通过对自行车共享数据集的案例研究，我们展示了使用DAC来揭示数据集的新见解。
2019-05-18 cs.LG stat.ME stat.ML
Temporal Sparse Autoencoders: Leveraging the Sequential Nature of Language for Interpretability
Harvard School of Engineering and Applied Science（哈佛工程与应用科学学院）；Kempner Institute for the Study of Natural & Artificial Intelligence（自然与人工智能研究学院）；Harvard Business School（哈佛商学院）
时间稀疏自编码器通过引入对比损失，有效解耦语义与语法特征，提升语言模型的可解释性。
2026-02-25 cs.AI cs.CL cs.LG
Learning Group Structure and Disentangled Representations of Dynamical Environments
École Normale Supérieure（巴黎高等师范学院）；University of Oxford（牛津大学）
学习解纠缠表示是有效发现和建模环境底层结构的关键一步。在自然科学中，物理学通过用保持对称性的变换来描述宇宙而取得了巨大的成功。受此形式主义的启发，我们提出了一个框架，建立在理论的组表示，学习表示的动态环境结构周围的转换，产生其演变。在实验中，我们学习的结构显式对称的环境中没有监督的观测数据所产生的顺序相互作用。我们还引入了一个直观的解纠缠正则化，以确保学习表示的可解释性。我们表明，我们的方法可以实现准确的长期预测，并证明预测质量和潜在空间中的解纠缠之间的相关性。
2020-10-25 cs.LG stat.ML
On Causally Disentangled Representations
Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）
表征学习器，解开变量的因素已经被证明是重要的，在解决各种现实世界的关注，如公平性和可解释性。最初由具有独立性假设的无监督模型组成，最近，弱监督和相关特征已经被探索，但没有生成过程的因果视图。相比之下，我们在因果生成过程的制度下工作，其中生成因素要么是独立的，要么可能被一组观察到的或未观察到的混杂因素所混淆。我们提出了一个分析的解纠缠表示通过解纠缠因果过程的概念。我们激励需要新的指标和数据集来研究因果解纠缠，并提出了两个评估指标和一个数据集。我们表明，我们的指标捕捉到的desiderata解开因果过程。最后，我们使用我们的指标和数据集从因果关系的角度对最先进的解纠缠表示学习器进行了实证研究。
2021-12-10 cs.LG stat.ML
Train One Sparse Autoencoder Across Multiple Sparsity Budgets to Preserve Interpretability and Accuracy
T-Tech；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；HSE University（俄罗斯高等经济学院）
本文提出HierarchicalTopK训练目标，使单个稀疏自编码器能同时优化多个稀疏水平，在Gemma-2 2B上实现稀疏性与解释方差的帕累托最优权衡，兼顾灵活性与可解释性。
2025-06-05 cs.AI cs.LG
RAVEL: Evaluating Interpretability Methods on Disentangling Language Model Representations
Stanford University（斯坦福大学）；Tel Aviv University（特拉维夫大学）
为评估可解释性方法解耦语言模型表征的能力，本文提出RAVEL基准，并基于其概念框架提出多任务分布式对齐搜索（MDAS）方法，在Llama2-7B上取得最先进结果，证明了跨激活分布特征分析的重要性。
2024-08-26 cs.CL cs.LG
Measuring disentangled generative spatio-temporal representation
RMIT University（皇家墨尔本理工大学）
解纠缠表示学习提供了有用的属性，如降维和可解释性，这对现代深度学习方法至关重要。虽然深度学习技术已被广泛应用于时空数据采掘，但很少有人关注进一步解开潜在特征并了解它们对模型性能的贡献，特别是它们的互信息和特征之间的相关性。在这项研究中，我们采用了两个国家的最先进的解开表示学习方法，并将其应用到三个大规模的公共时空数据集。为了评估它们的性能，我们提出了一个内部评估指标，专注于学习表示的潜在变量之间的相关程度和下游任务的预测性能。实证结果表明，我们的修改后的方法可以学习解纠缠表示，达到相同的性能水平，现有的国家的最先进的ST深度学习方法在时空序列预测问题。此外，我们发现，我们的方法可以用来发现真实世界的时空语义来描述学习表示中的变量。
2022-04-08 cs.LG
Disentangled Latent Spaces for Reduced Order Models using Deterministic Autoencoders
Institute for Fluid Dynamics and Ship Theory, Hamburg University of Technology（汉堡工业大学流体动力学与船舶理论研究所）；Institute of Mathematics, Hamburg University of Technology（汉堡工业大学数学研究所）
针对自编码器降阶模型可解释性不足的问题，提出两种非概率确定性自编码器解耦方法，在基准数据集上取得与β-VAE相当的效果，且超参数鲁棒性更强，还可识别活跃潜变量，并验证了其在飞机着水载荷降维中的工业应用价值。
2025-02-20 cs.LG
Disentangled Skill Representations for Predictive Human Modeling
Toyota Research Institute（丰田研究所）
本研究提出SAIL方法，将人类技能建模为可解释多维构造，通过反事实子技能交换解耦，在赛车、棒球任务中预测性能优异，解耦效果优于基线且提升AI指导性能。
2026-08-26 cs.AI cs.LG
Unsupervised Disentanglement of Content and Style via Variance-Invariance Constraints
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；New York University Shanghai（上海纽约大学）；Carnegie Mellon University（卡内基梅隆大学）
提出无监督 V3 框架，利用内容与风格在样本内外的方差-不变性统计差异学习解耦表示，并在多模态任务中实现优于无监督方法的解耦及少样本分布外泛化。
2025-03-15 cs.AI cs.LG
On the Fairness of Disentangled Representations
ETH Zurich（苏黎世联邦理工学院）；Max-Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Oxford（牛津大学）；Google Research（谷歌研究院）
最近，人们对学习解纠缠表示产生了浓厚的兴趣，因为它们有望提高可解释性，推广到看不见的场景，并更快地学习下游任务。在本文中，我们调查的有用性不同的概念，以提高下游预测任务的公平性的基础上表示的解纠缠。我们考虑的设置，其中的目标是预测一个目标变量的基础上学习表示的高维观测（如图像），这取决于目标变量和\emph{unobserved}敏感变量。我们表明，在这种情况下，最佳和经验的预测可能是不公平的，即使目标变量和敏感变量是独立的。分析超过\num{12600}训练的最先进的解纠缠模型的表示，我们观察到，几个解纠缠分数始终与增加的公平性，这表明解纠缠可能是一个有用的属性，以鼓励公平时，敏感变量没有观察到。
2019-10-29 cs.LG stat.ML
CoLiDR: Concept Learning using Aggregated Disentangled Representations
University of Virginia（弗吉尼亚大学）
本文提出新方法 CoLiDR，通过解耦表示学习获取独立生成因子，并利用聚合/分解模块将其转化为人类可理解的概念，在四个数据集上验证了其优于传统概念模型且具备高度灵活性。
2024-07-27 cs.AI cs.LG
Disentanglement by Cyclic Reconstruction
IRT Saint-Exupéry（圣埃克苏佩里跨学科研究中心）；ISAE-SUPAERO（法国高等航空航天学院）；ANITI（图卢兹人工智能与自然智能研究所）；Université de Toulouse（图卢兹大学）
深度神经网络已经证明了它们从数据中自动提取有意义特征的能力。然而，在监督学习中，特定于用于训练的数据集但与手头的任务无关的信息可以保持编码在提取的表示中。这些剩余的信息引入了特定领域的偏差，削弱了泛化性能。在这项工作中，我们建议分裂成一个任务相关的表示和它的互补上下文表示的信息。我们提出了一种新颖的方法，结合对抗性特征预测和循环重建，在单域监督的情况下解开这两种表示。然后，我们适应这种方法的无监督领域自适应问题，包括训练一个模型，能够执行的源和目标域。特别是，我们的方法促进了目标域的解纠缠，尽管没有训练标签。这使得特定于任务的信息能够从两个域中隔离出来，并投影到一个公共的表示中。特定于任务的表示允许将从源域获得的知识有效地转移到目标域。在单域的情况下，我们证明了我们的质量表示信息检索任务和泛化的好处引起的锐化特定任务的表示。然后，我们验证了几个经典的领域自适应基准所提出的方法，并说明了解纠缠的领域自适应的好处。
2022-11-22 cs.LG
Global Concept-Based Interpretability for Graph Neural Networks via Neuron Analysis
University of Cambridge（剑桥大学）
图神经网络（GNN）在各种与图相关的任务上非常有效;然而，它们缺乏可解释性和透明度。目前的可解释性方法通常是局部的，并将GNN视为黑盒。他们不看模型内部，抑制了人们对模型和解释的信任。受神经元在视觉模型中检测高级语义概念的能力的启发，我们对单个GNN神经元的行为进行了新的分析，以回答有关GNN可解释性的问题，并提出了评估GNN神经元可解释性的新指标。我们提出了一种新的方法，使用神经元级别的概念来生成GNN的全局解释，使从业者能够对模型有一个高层次的看法。具体来说，（i）据我们所知，这是第一个表明GNN神经元充当概念检测器的工作，并且与作为节点度和邻域属性的逻辑组成的概念具有很强的一致性;（ii）我们定量评估检测到的概念的重要性，并确定训练时间和神经元级别可解释性之间的权衡;（iii）我们证明了我们的全球可解释性方法比当前最先进的方法具有优势-我们可以将解释分解为由逻辑描述支持的单个可解释概念，这减少了偏见的可能性并提高了用户友好性。
2023-03-08 cs.AI cs.LG
An Information Criterion for Controlled Disentanglement of Multimodal Data
MIT（麻省理工学院）；Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学布罗德研究所）；TU Munich（慕尼黑工业大学）
本文提出 DisentangledSSL 自监督框架，通过信息准则分离多模态共享与模态特有信息，并分析 MNI 点不可达时的最优性，在多类下游任务中优于基线。
2025-03-17 cs.AI cs.IT cs.LG
A framework for analyzing concept representations in neural models
The Centre for Speech Technology Research（语音技术研究中心）；School of Informatics, University of Edinburgh（信息学院，爱丁堡大学）
本文提出统一框架研究神经模型的概念子空间，探讨包含性和解耦性，发现估计器选择影响子空间特性，LEACE方法在测试轴上表现良好但难以泛化，HuBERT语音表示中电话信息与说话人信息相互包含和解耦。
2026-05-02 cs.CL cs.LG
Disentangled Representation Learning and Generation with Manifold Optimization
KU Leuven（鲁汶大学）；Université de Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
解纠缠是表示学习中的一个有用属性，它增加了生成模型的可解释性，例如变分自编码器（VAE），生成对抗模型及其许多变体。通常在这样的模型中，解缠结性能的增加与生成质量相权衡。在潜在空间模型的背景下，这项工作提出了一个表示学习框架，该框架通过鼓励变化的正交方向来显式促进解开纠缠。建议的目标是一个自动编码器的误差项的总和，以及在特征空间中的主成分分析重建误差。这有一个解释的限制核机器的特征向量矩阵价值的Stiefel流形。我们的分析表明，这样的结构促进解纠缠匹配的主要方向在潜在的空间与数据空间中的正交变化的方向。在交替最小化方案中，我们使用Cayley ADAM算法-Stiefel流形上的随机优化方法以及ADAM优化器。我们的理论讨论和各种实验表明，该模型提高了许多VAE变种的生成质量和解开表示学习。
2022-05-30 cs.LG stat.ML
DELTA: Variational Disentangled Learning for Privacy-Preserving Data Reprogramming
Arizona State University（亚利桑那州立大学）
针对现有特征工程易泄露隐私的问题，提出两阶段变分解耦框架DELTA，通过强化学习找高效用特征变换、解耦抑制隐私信号，实现预测性能提升与隐私泄露减少。
2025-08-31 cs.AI cs.LG
Causality-Driven Disentangled Representation Learning in Multiplex Graphs
EPFL, Lausanne, Switzerland（苏黎世联邦理工学院）
本文提出一种基于因果推理的框架，通过自监督学习解耦多层图中的共同和私有信息，提升表示学习的鲁棒性和可解释性。
2026-03-25 cs.LG cs.SI
Disentangled Representation Learning for Parametric Partial Differential Equations
IBM Research（IBM研究院）
DisentangO通过解耦神经算子参数中的潜在物理因素，提升PDE求解的可解释性和泛化能力。
2026-02-07 cs.LG
DAVA: Disentangling Adversarial Variational Autoencoder
ETH Zürich（苏黎世联邦理工学院）
使用良好解缠的表示为下游任务提供了许多优点，例如增加的样本效率或更好的可解释性。然而，解纠缠解释的质量通常高度依赖于特定于特定超参数的选择，特别是正则化强度。为了解决这个问题，我们引入了DAVA，这是一种用于变分自动编码器的新型训练过程。DAVA完全解决了超参数选择问题。我们将DAVA与具有最优超参数的模型进行比较。无需任何超参数调优，DAVA在各种常用数据集上都具有竞争力。在DAVA的基础上，我们发现了一个无监督解纠缠的必要条件，我们称之为PIPE。我们证明了PIPE在抽象推理中积极预测下游模型性能的能力。我们还彻底调查了与现有监督和无监督指标的相关性。该代码可在https://github.com/besterma/dava上获得。
2023-03-02 cs.AI cs.CV cs.LG
Disentangled Representation Learning with Large Language Models for Text-Attributed Graphs
Tsinghua University（清华大学）
针对现有大语言模型处理文本属性图时结构理解不足的问题，提出融合定制化解耦GNN层的DGTL模型，在冻结预训练LLM的前提下提升了任务性能与可解释性。
2024-03-09 cs.CL cs.LG
DISSECT: Disentangled Simultaneous Explanations via Concept Traversals
Google Research（谷歌研究院）；MIT（麻省理工学院）
正如许多学者所认为的那样，解释深度学习模型推理是科学理解、提高安全性、发现隐藏的偏见、评估公平性等方面的一个有前途的场所。反事实解释的主要好处之一是允许用户通过数据中不存在和不可能存在的东西来探索“假设”场景，这是许多其他形式的解释（如热图和影响函数）本质上无法做到的。然而，大多数以前的工作生成的可解释性不能有效地理清重要的概念，产生不切实际的例子，或未能保留相关的信息。我们提出了一种新的方法，DISSECT，共同训练一个发电机，一个机器人，和一个概念解开，以克服这些挑战，几乎没有监督。DISSECT生成概念遍历（CT），定义为一系列生成的示例，这些示例具有影响分类器决策的概念的增加程度。通过从分类器的信号中训练生成模型，DISSECT提供了一种自动发现分类器固有的不同概念的“概念”的方法，而不是依赖于用户预定义的概念。我们表明，DISSECT产生的CT（1）解开几个概念，（2）对分类器的决策有影响，并且由于联合训练而与其推理相耦合（3），是现实的，（4）保留相关信息，（5）在类似的输入中是稳定的。我们在几个具有挑战性的合成和现实的数据集上验证了DISSECT，以前的方法无法满足可解释性的理想标准，并表明它的表现一贯良好，优于现有的方法。最后，我们提出的实验显示应用DISSECT检测潜在的偏见的分类器和识别虚假的影响预测的文物。
2022-03-15 cs.AI cs.LG
Representation learning for improved interpretability and classification accuracy of clinical factors from EEG
X, the Moonshot Factory（X，登月工厂）；DeepMind（深度心智）；Florida State University（佛罗里达州立大学）
尽管有广泛的标准化，精神健康障碍的诊断访谈包括大量的主观判断。以往的研究表明，基于EEG的神经测量可以作为抑郁症的可靠客观相关因素，甚至可以预测抑郁症及其病程。然而，它们的临床实用性尚未完全实现，因为1）缺乏处理与EEG数据相关的大规模固有噪声的自动化方法，以及2）缺乏关于EEG信号的哪些方面可能是临床病症的标记的知识。在这里，我们从最近的深度表示学习文献中改编了一个无监督的管道来解决这些问题，方法是：1）使用$β$ -VAE学习一个解纠缠的表示来对信号进行降噪，2）使用符号-概念关联网络（SCAN）提取与稀疏临床标签集相关的可解释特征。我们证明，我们的方法能够在许多因素上优于经典的手工设计的基线分类方法，包括参与者年龄和抑郁症诊断。此外，我们的方法恢复了一种表示，可用于从新颖的单个EEG轨迹中自动提取去噪事件相关电位（ERP），并支持快速监督重新映射到各种临床标签，允许临床医生重新使用单个EEG表示，而不管标准化诊断系统的更新。最后，学习的解纠缠表示的单个因素通常对应于临床因素的有意义的标记，如由SCAN自动检测的，允许对模型所提出的建议的人类可解释性和事后专家分析。
2020-11-17 cs.LG eess.SP
Structural Equation-VAE: Disentangled Latent Representations for Tabular Data
Department of Politics and Public Administration（政治与公共行政系）；The University of Hong Kong（香港大学）；School of Computer Science（计算机科学系）；Carnegie Mellon University（卡内基梅隆大学）；Department of Applied Social Sciences（应用社会科学系）；The Hong Kong Polytechnic University（香港理工大学）
本文提出SE-VAE，通过将测量结构嵌入变分自编码器实现表格数据潜在表示的解耦，并在因子恢复和鲁棒性上优于现有基线。
2025-08-16 cs.AI cs.LG cs.NE
Disentangled Graph Collaborative Filtering
National University of Singapore（新加坡国立大学）；Peking University（北京大学）；University of Science and Technology of China（中国科学技术大学）
从交互数据中学习用户和项目的信息表示对协同过滤（CF）至关重要。目前的嵌入函数利用用户-项目关系来丰富表示，从单个用户-项目实例发展到整体交互图。然而，它们在很大程度上以统一的方式对关系进行建模，而忽略了用户采用物品的意图的多样性，这些意图可能是为了打发时间，为了兴趣，或者为家人等其他人购物。这种对用户兴趣建模的统一方法很容易导致次优表示，无法对不同的关系进行建模并在表示中理清用户意图。在这项工作中，我们特别关注用户意图的更细粒度上的用户-项目关系。因此，我们设计了一个新的模型，解开图协同过滤（DGCF），解开这些因素，并产生解开表示。具体来说，通过对每个用户-项目交互的意图分布进行建模，我们迭代地细化意图感知交互图和表示。同时，我们鼓励不同意图的独立性。这导致了分离的表示，有效地提取了与每个意图相关的信息。我们在三个基准数据集上进行了广泛的实验，DGCF在NGCF，DisenGCN和MacridVAE等几个最先进的模型上取得了显着的改进。进一步的分析提供了深入了解DGCF的优势，用户的意图和可解释性的表示。我们的代码可在https://github.com/xiangwang1223/disentangled_graph_collaborative_filtering上找到。
2020-07-03 cs.IR cs.LG
Disentangled Variational Autoencoder based Multi-Label Classification with Covariance-Aware Multivariate Probit Model
Cornell University（康奈尔大学）
多标签分类是一个具有挑战性的任务，预测存在和不存在的多个目标，涉及表示学习和标签相关性建模。我们提出了一种新的多标签分类框架，多变量概率变分自编码器（MPVAE），有效地学习潜在的嵌入空间以及标签相关性。MPVAE分别为标签和特征学习和对齐两个概率嵌入空间。MPVAE的解码器从嵌入空间中获取样本，并通过学习共享协方差矩阵，在多变量Probit模型下对输出目标的联合分布进行建模。我们表明，MPVAE优于现有的国家的最先进的方法在各种应用领域，使用公共的真实世界的数据集。MPVAE进一步示出在噪声设置下保持稳健。最后，我们通过一个鸟类观测数据集的案例研究证明了学习协方差的可解释性。
2020-07-12 cs.LG stat.ML
Graph-based Unsupervised Disentangled Representation Learning via Multimodal Large Language Models
Ningbo Institute of Digital Twin, Eastern Institute of Technology（东方理工大学宁波数字孪生研究院）；Shanghai Jiao Tong University（上海交通大学）
针对解耦表示学习中语义因子非独立的相关性问题，提出基于双向加权图的框架，结合$β$-VAE提取因子并利用多模态大语言模型发现和排序潜在关系，实现了细粒度无监督解耦，提升了性能、可解释性与泛化能力。
2024-07-26 cs.CV cs.LG
GlanceNets: Interpretabile, Leak-proof Concept-based Models
University of Trento（特伦托大学）；University of Pisa（比萨大学）
人们对基于概念的模型（CBMs）越来越感兴趣，它通过获取和推理高级概念的词汇表来结合高性能和可解释性。一个关键的要求是概念是可解释的。现有的建立信任措施解决这一迫切需要使用各种解释学的基础上不清楚的概念的可解释性，并未能获得与预期的语义概念。我们解决这个问题，提供了一个清晰的定义，可解释性的模型的表示和底层的数据生成过程之间的对齐，并介绍GlanceNets，一个新的CBM，利用技术从解开表示学习和开集识别，以实现对齐，从而提高了学习的概念的可解释性。我们表明，GlanceNets与概念级监督相结合，比最先进的方法实现了更好的对齐，同时防止虚假信息无意中泄漏到学习的概念中。
2022-10-18 cs.LG
Post-Hoc Concept Disentanglement: From Correlated to Isolated Concept Representations
Fraunhofer Heinrich Hertz Institut（弗劳恩霍夫海因里希·赫兹研究所）；Technological University Dublin（都柏林理工大学）；Technische Universität Berlin（柏林工业大学）；Berlin Institute for the Foundations of Learning and Data (BIFOLD)（柏林学习与数据基础研究所）
本文提出一种事后概念解耦方法，通过非正交性损失将相关概念的方向正交化，在 CelebA 和 FunnyBirds 上验证其可提升激活引导中概念插入与捷径抑制的效果。
2025-03-07 cs.AI cs.CV cs.LG
HOLE: Homological Observation of Latent Embeddings for Neural Network Interpretability
University of Utah（犹他大学）
HOLE通过同调学分析神经网络中间激活的拓扑特征，揭示分类分离、特征解耦和模型鲁棒性，提升深度学习系统的可解释性。
2026-11-04 cs.GR cs.HC cs.LG
Learning Disentangled Representations for Recommendation
Alibaba Group（阿里巴巴集团）；Tsinghua University（清华大学）
推荐系统中的用户行为数据由用户决策过程背后的许多潜在因素的复杂交互驱动。这些因素是高度纠缠在一起的，并且可以从管理用户意图的高级因素到表征用户在执行意图时的偏好的低级因素。发现和解开这些潜在因素的学习表示可以带来增强的鲁棒性，可解释性和可控性。然而，从用户行为中学习这种分离的表示是具有挑战性的，并且在很大程度上被现有文献所忽视。在本文中，我们提出了MACRo-micro解纠缠变分自动编码器（MacridVAE）学习解纠缠表示用户行为。我们的方法通过推断与用户意图相关联的高级概念（例如，购买衬衫或手机），同时分别捕获用户关于不同概念的偏好。然后，源自VAE的信息论解释的微解纠缠正则化器迫使表示的每个维度独立地反映孤立的低水平因子（例如，衬衫的尺寸或颜色）。实证结果表明，我们的方法可以实现实质性的改善，超过国家的最先进的基线。我们进一步证明，学习的表示是可解释和可控的，这可能会导致一个新的范例推荐，用户被赋予细粒度的控制目标方面的推荐列表。
2019-10-31 cs.IR cs.LG stat.ML
Explainable Disentangled Representation Learning for Generalizable Authorship Attribution in the Era of Generative AI
University of Oregon（俄勒冈大学）；Adobe Research（Adobe研究）
本文提出EAVAE框架，通过解耦风格与内容来提升作者归属和AI生成文本检测的泛化能力，实验表明在多个数据集上达到最佳性能。
2026-04-23 cs.CL cs.IR cs.LG
CLIP-PAE: Projection-Augmentation Embedding to Extract Relevant Features for a Disentangled, Interpretable, and Controllable Text-Guided Face Manipulation
University of Cambridge（剑桥大学）
针对CLIP联合空间中文本与图像嵌入差异导致的文本引导图像编辑伪影多、解耦性等不足，提出投影增强嵌入PAE作为优化目标，可集成到各类CLIP编辑算法中，在人脸编辑任务上实现了更优的解耦、可解释与可控效果及顶尖性能。
2025-09-02 cs.AI cs.CV cs.LG
DisProtEdit: Exploring Disentangled Representations for Multi-Attribute Protein Editing
National Research Council Canada（加拿大国家研究理事会）；Cheriton School of Computer Science（计算机科学学院）
DisProtEdit通过双通道自然语言监督解耦蛋白质结构与功能表示，实现可解释的多属性编辑，在基准上达到61.7%双命中成功率。
2025-06-17 cs.LG q-bio.QM
Disentangled Representation Learning with the Gromov-Monge Gap
CREST-ENSAE；Helmholtz Munich（海德堡-慕尼黑研究所）；TU Munich（慕尼黑技术大学）；Munich Center of Machine Learning（慕尼黑机器学习中心）；Tubingen AI Center（图宾根人工智能中心）；Apple（苹果公司）
本文提出基于二次最优传输和Gromov-Monge映射的解耦表示学习方法，并引入GMG正则化器，在保留几何特征的同时实现先验匹配，在四个基准上优于现有几何方法。
2025-08-19 cs.CV cs.LG stat.ML
