General Latent Feature Modeling for Data Exploration Tasks
University of Cambridge（剑桥大学）；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；Uber AI Labs（Uber人工智能实验室）
本文介绍了一种通用的贝叶斯非参数潜在特征模型，该模型适用于描述每个对象的属性可以是离散、连续或混合变量的异构数据集的自动探索性分析。该模型提出了几个重要的属性。首先，它考虑了异构数据，同时可以在线性时间内相对于对象和属性的数量进行推断。其次，它的贝叶斯非参数性质允许我们从数据中自动推断模型的复杂性，即，捕获数据中的潜在结构所需的特征数量。第三，模型中的潜在特征是二进制值变量，便于数据探索任务中获得的潜在特征的可解释性。
2017-07-26 cs.LG stat.ML
Learning Latent and Hierarchical Structures in Cognitive Diagnosis Models
针对认知诊断模型中Q矩阵、属性层级、诊断模型和属性数需主观预设的问题，提出惩罚似然方法联合学习这些结构，并给出EM算法、恢复算法及一致性理论。
2022-04-01 stat.ME stat.ML
Sparse Infinite Random Feature Latent Variable Modeling
University of Hong Kong（香港大学）
我们提出了一个非线性，贝叶斯非参数潜变量模型，其中的潜空间被假定为稀疏和无限维先验使用印度抖振过程先验。后验，潜在空间中的实例化维度的数量保证是有限的。将印度自助过程置于潜变量上的目的是：1.）自动并按概率选择潜在维度的数量。2.）的情况。在潜在空间中施加稀疏性，印度自助餐过程将选择哪些元素正好为零。我们提出的模型允许稀疏的，非线性的潜在变量建模，其中自动选择潜在维度的数量。使用随机傅立叶近似使推理变得易于处理，并且我们可以通过马尔可夫链蒙特卡罗采样容易地实现后验推理。这种方法适用于高斯设置之外的许多观测模型。我们证明了我们的方法在各种合成，生物和文本数据集上的实用性，并表明与以前的潜变量模型相比，我们可以获得优越的测试集性能。
2022-05-27 cs.AI cs.LG stat.ML
Latent Variable Modeling for Generative Concept Representations and Deep Generative Models
IBM（国际商业机器公司）
潜在表征是深层生成模型的本质，决定了它们的有用性和强大性。为了使潜在表示作为生成概念表示有用，它们的潜在空间必须支持潜在空间插值、属性向量和概念向量等。我们研究和讨论潜变量建模，包括潜变量模型，潜表示和潜空间，特别是层次潜表示和潜空间向量和几何。我们的重点是变分自编码器和生成对抗网络中使用的。
2018-12-26 cs.LG stat.ML
Fairness Through Causal Awareness: Learning Latent-Variable Models for Biased Data
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
我们如何从有偏见的数据中学习？历史数据集通常反映了历史偏见;敏感或受保护的属性可能会影响观察到的治疗和结果。负责从这些数据集准确预测结果的分类算法往往会复制这些偏差。我们提倡一种因果建模方法来从有偏见的数据中学习，探索公平分类和干预之间的关系。我们提出了一个因果模型，其中敏感属性混淆治疗和结果。基于之前在深度学习和生成建模方面的工作，我们描述了如何仅从观察数据中学习这个因果模型的参数，即使存在未观察到的混杂因素。我们的实验表明，公平意识的因果模型提供了更好的估计之间的因果关系的敏感属性，治疗和结果。我们进一步提出的证据表明，估计这些因果效应可以帮助学习更准确和公平的政策，当与历史上有偏见的数据集。
2018-12-03 cs.LG stat.ML
Joint Latent Space Model for Social Networks with Multivariate Attributes
在社会、行为和经济科学的许多应用问题中，研究人员通常拥有一组个体之间的社会网络数据以及每个个体的高维多变量测量。为了分析这样的网络数据结构，我们提出了一个联合属性和人的潜在空间模型（APLSM），总结信息的社会网络和多属性测量的人属性联合潜在空间。我们发展了一个变分贝叶斯期望最大化估计算法来估计属性和人在联合潜空间中的位置的后验分布。这种方法允许有效的整合，信息可视化，并预测社交网络和高维属性测量。使用APLSM，我们探索法国金融精英的内部运作的基础上，他们的社交网络和他们的职业生涯，政治观点和社会地位。我们观察到，法国精英的社会圈子根据他们个人特征的差异而划分。
2021-02-01 stat.AP stat.ME
Robust Mixture Models for Algorithmic Fairness Under Latent Heterogeneity
Duke-NUS Medical School（杜克-奈西医学院）；Peking University（北京大学）；Duke University（杜克大学）
ROME框架通过混合模型学习潜在子群体结构，结合期望最大化和混合专家方法优化最差群体性能，在保持整体准确性的同时提升公平性。
2026-09-21 cs.LG stat.ML
Latent Conjunctive Bayesian Network: Unify Attribute Hierarchy and Bayesian Network for Cognitive Diagnosis
针对传统属性层级方法参数复杂度高、缺乏统计依赖性解释的问题，提出统一属性层级与贝叶斯网络的潜在合取贝叶斯网络，搭配两步EM算法，在国际教育评估数据集上得到可解释的认知诊断结果。
2023-08-24 stat.AP stat.ME
A Restricted Latent Class Model with Polytomous Attributes and Respondent-Level Covariates
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出了一种具有多项属性和受访者层面协变量的受限潜在类别模型，用于更精确地识别抑郁症的潜在结构。
2026-03-09 stat.ME
Nested exemplar latent space models for dimension reduction in dynamic networks
针对动态网络潜属性张量规模过大带来的计算与统计挑战，提出嵌套样本潜空间模型，通过低秩表示实现大规模降维，开发高效贝叶斯推理算法，在仿真和生态网络应用中优势显著。
2024-12-12 stat.ME
A robust Bayesian latent position approach for community detection in networks with continuous attributes
针对多层网络社区检测需考虑层间依赖的需求，提出联合建模节点属性与潜在空间的全贝叶斯混合模型，在模拟数据上优于基准且对缺失值鲁棒性更强，已应用于真实律师事务所员工三层网络。
2024-09-18 stat.AP
A Restricted Latent Class Hidden Markov Model for Polytomous Responses, Polytomous Attributes, and Covariates: Identifiability and Application
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出了一种受限潜在类隐马尔可夫模型，用于处理多项响应、属性和协变量，通过模拟和实际数据验证了其可识别性和应用效果。
2026-03-10 stat.ME
Bayesian Inference with Posterior Regularization and applications to Infinite Latent SVMs
Tsinghua University（清华大学）；Carnegie Mellon University（卡内基梅隆大学）
现有的贝叶斯模型，特别是非参数贝叶斯方法，依赖于专门构思的先验知识，以发现改进的潜在表示。虽然先验可以通过贝叶斯规则影响后验分布，但施加后验正则化可以说更直接，在某些情况下更自然和一般。在本文中，我们提出了正则化贝叶斯推理（RegBayes），一种新的计算框架，执行后验推理与信息理论公式下所需的后验数据分布的正则化项。RegBayes比通过先验知识来推断专家知识的过程更灵活，并且它涵盖了有向贝叶斯网络和无向马尔可夫网络，其贝叶斯公式导致混合链图模型。当正则化是由后验分布上的线性算子（如期望算子）诱导时，我们给出了一个一般的凸分析定理来刻画RegBayes的解。此外，我们提出了两个具体的例子，RegBayes，无限潜在的支持向量机（iLSVM）和多任务无限潜在的支持向量机（MT-iLSVM），探索大利润的想法结合非参数贝叶斯模型发现预测的潜在特征分类和多任务学习，分别。我们提出了有效的推理方法，并报告了几个基准数据集的实证研究，这似乎证明了继承大利润率学习和贝叶斯nonparametrics的优点。这些结果直到现在才出现，并有助于推动这两个重要子领域之间的接口，这两个子领域在社区中基本上被视为孤立的。
2014-02-12 cs.AI cs.LG stat.ME
Integrative Learning of Dynamically Evolving Multiplex Graphs and Nodal Attributes Using Neural Network Gaussian Processes with an Application to Dynamic Terrorism Graphs
Department of Statistics, Texas A&M University（德克萨斯农工大学统计学系）；Sandia National Laboratories（桑迪亚国家实验室）
本文提出动态联合学习方法，通过神经网络高斯过程整合多层图与节点属性，以预测恐怖组织动态关系及属性，提升反恐研究的推理能力。
2026-03-21 stat.AP stat.ME stat.ML
Convergence of latent mixing measures in finite and infinite mixture models
本文研究了在有限和无限混合模型中出现的潜在混合测度的收敛行为，使用运输距离（即，Wasserstein metrics）。混合测度空间上的Wasserstein距离与混合分布空间上的f-发散泛函（如Hellinger和Kullback-Leibler距离）之间的关系，利用各种可识别性条件进行了详细研究.离散度量的Wasserstein度量的收敛意味着为度量提供支持的单个原子的收敛，从而提供了通常采用混合模型的聚类应用中的聚类收敛的自然解释。对于多元分布的有限混合和基于Dirichlet过程的无限混合，建立了潜在混合测度的后验分布的收敛速度.
2013-04-09 math.ST stat.ML stat.TH
Equivalence Set Restricted Latent Class Models (ESRLCM)
本文提出等价集约束潜类别模型（ESRLCM），以更一般的方式识别具有共同项目响应概率的簇，并验证其可识别性及在模拟和实际应用中的有效性。
2024-06-05 cs.LG math.ST stat.ML
Identifiability of Partial-Mastery Cognitive Diagnostic Models
Institute of Computer Science of the Czech Academy of Sciences（捷克科学院计算机科学研究所）；Faculty of Education, Charles University（查理大学教育学院）
研究部分掌握认知诊断模型的可识别性，通过符号计算、实分析和代数统计工具，推导可识别性充分条件，证明局部属性可推出项目参数等的有限到一可识别，为该模型的估计和推断奠定理论基础。
2026-07-21 math.ST stat.TH
Partial-Mastery Cognitive Diagnosis Models
认知诊断模型（CDMs）是一类离散的潜在属性模型，作为教育和心理认知诊断评估的统计基础。CDM的目标是实现细粒度的推理个人的潜在属性，根据他们的观察到的反应，一组设计的诊断项目。在文献中，CDMs通常假设项目需要掌握特定的潜在属性，并且每个属性要么完全掌握，要么不掌握。我们提出了一类新的模型，部分掌握CDM（PM-CDM），概括CDM允许部分掌握水平为每个属性的兴趣。我们证明，PM-CDM可以表示为限制潜在类模型。依赖于潜在的类表示，我们提出了一个贝叶斯估计方法。我们目前的模拟研究，以证明参数恢复，调查模型误设定的影响，部分掌握，并开发诊断工具，可用于从业人员之间的CDM和PM-CDM的决定。我们使用两个真实的测试数据的例子-分数减法和英语测试-证明，采用PM-CDM不仅提高模型拟合，CDM相比，但也可以作出实质性的差异的结论属性掌握。我们的结论是，PM-CDM可以导致更有效的补救方案，提供详细的个人层面的信息，学习技能和技能，需要研究。
2022-08-05 stat.AP stat.ME
Attribute-based Regularization of Latent Spaces for Variational Auto-Encoders
Center for Music Technology, Georgia Institute of Technology（佐治亚理工学院音乐技术中心）
使用深度生成模型对数据属性进行选择性操作是一个活跃的研究领域。在本文中，我们提出了一种新的方法来构造变分自动编码器（VAE）的潜在空间，以显式地编码不同的连续值属性。这是通过使用属性正则化损失来实现的，该属性正则化损失强制属性值与属性将被编码的维度的潜在代码之间的单调关系。因此，在训练后，模型可以通过简单地改变相应正则化维度的潜在代码来操纵属性。从几个定量和定性的实验结果表明，所提出的方法导致解开和可解释的潜在空间，可用于有效地操纵广泛的数据属性跨越图像和符号音乐域。
2020-07-29 cs.LG stat.ML
Stein Latent Optimization for Generative Adversarial Networks
Seoul National University（首尔大学）
具有聚类潜在空间的生成对抗网络（GANs）可以以完全无监督的方式执行条件生成。在现实世界中，未标记数据的显著属性可能是不平衡的。然而，大多数现有的无监督条件GANs不能正确地聚类这些数据在其潜在空间中的属性，因为它们假设属性的均匀分布。为了解决这个问题，我们从理论上推导出Stein潜在优化，该优化提供了潜在分布参数的可重新参数化的梯度估计，假设在连续潜在空间中存在高斯混合。在结构上，我们引入了一个编码器网络和新的无监督条件对比损失，以确保从一个单一的混合成分生成的数据代表一个单一的属性。我们确认，所提出的方法，命名为斯坦潜在优化GANs（SLOGAN），成功地学习平衡或不平衡的属性，并实现了最先进的无监督条件生成性能，即使在没有属性信息的情况下（例如，不平衡度）。此外，我们证明了要学习的属性可以使用少量的探测数据进行操作。
2022-03-15 cs.LG stat.ML
Multilinear Latent Conditioning for Generating Unseen Attribute Combinations
Imperial College London（伦敦帝国学院）；University of Athens（雅典大学）
深度生成模型依赖于其归纳偏差来促进泛化，特别是对于高维数据（如图像）的问题。然而，实证研究表明，变分自编码器（VAE）和生成对抗网络（GAN）缺乏人类感知中自然发生的泛化能力。例如，人类可以在看到一个微笑的男人后看到一个女人微笑，相反，标准的条件VAE（cVAE）无法生成看不见的属性组合。为此，我们通过引入一个多线性潜在条件反射框架来扩展cVAE，该框架捕获属性之间的乘法相互作用。我们实现了我们的模型的两个变体，并证明了它们对MNIST，Fashion-MNIST和CelebA的有效性。总之，我们设计了一个新的条件反射框架，可以与任何架构来合成看不见的属性组合。
2020-09-09 cs.LG stat.ML
Attribute Graphs Underlying Molecular Generative Models: Path to Learning with Limited Data
IBM Research（IBM研究院）；Google Research India（谷歌研究院印度分部）
本文提出通过扰动预训练生成自编码器的潜在编码来揭示属性图，并利用马尔可夫毯属性构建预测模型，在有限数据和分布偏移下实现更鲁棒的分子性质预测。
2024-08-29 cs.LG stat.ML
The Supervised IBP: Neighbourhood Preserving Infinite Latent Feature Models
University of Cambridge（剑桥大学）；IST Austria（奥地利科学技术研究所）；Stanford University（斯坦福大学）
我们提出了一个概率模型，从观测数据中推断汉明空间中的监督潜变量。我们的模型允许同时推断的二进制潜变量的数量，以及它们的值。潜变量保持数据的邻域结构，在某种意义上，相同语义概念中的对象具有相似的潜值，而不同概念中的对象具有不同的潜值。我们制定了监督无限潜变量问题的基础上，一个直观的原则，拉在一起的对象，如果他们是相同的类型，并推动他们分开，如果他们不是。然后，我们结合这一原则与一个灵活的印度自助餐过程之前的潜在变量。我们表明，推断的监督潜变量可以直接用于执行最近邻搜索检索的目的。我们介绍了一个新的应用程序的动态扩展哈希码，并展示了如何有效地耦合结构的哈希码与不断增长的结构的邻域保持无限的潜在特征空间。
2013-09-26 cs.LG stat.ML
Latent Space Factorisation and Manipulation via Matrix Subspace Projection
University of Aberdeen（阿伯丁大学）；University of Sheffield（谢菲尔德大学）；University of Surrey（萨里大学）
我们解决的问题解开的潜在空间的自动编码器，以分离标记的属性信息从其他特征信息。这允许我们在保留其他信息的同时更改选定的属性。我们的方法，矩阵子空间投影，是比以前的方法更简单的潜在空间分解，例如，不需要多个鉴别器或仔细加权之间的损失函数。此外，我们的新模型可以作为插件应用于自动编码器，并在不同的领域，如图像或文本。我们展示了我们的方法的实用性，属性操作在不同领域的自动编码器训练，使用人类评估和自动化的方法。我们的新模型的生成质量（例如重建，条件生成）与许多强基线相比具有很强的竞争力。
2020-08-14 cs.LG stat.ML
Inferring Latent Structure From Mixed Real and Categorical Relational Data
Duke University（杜克大学）
我们考虑分析关系数据（矩阵），其中行对应于主题（例如，人），并且列对应于属性。矩阵的元素可以是实数和范畴的混合。每个主题和属性的特征在于一个潜在的二进制特征向量，和一个推断矩阵映射每个行列对的二进制特征向量的观察矩阵元素。行的潜在二进制特征通过具有低秩协方差矩阵的多变量高斯分布建模，并且高斯随机变量通过概率链接映射到潜在二进制特征。同一类型的构造共同应用于柱。该模型推断与每行和每列相关联的潜在的低维二进制特征，以及所有行之间和所有列之间的相关性结构。
2012-06-27 cs.LG stat.ML
Node Attribute Generation on Graphs
图结构化数据提供两方面的信息：图结构和节点属性。许多基于图的算法依赖于这两种信息来成功完成监督任务，例如节点分类和链接预测。然而，节点属性可能丢失或不完整，这会显着降低性能。节点属性生成的任务是为那些属性完全不可观测的节点生成属性。这个任务有利于许多现实世界的问题，如分析，节点分类和图形数据增强。为了解决这个问题，我们提出了一种基于深度对抗学习的方法来生成节点属性;称为节点属性神经生成器（NANG）。NANG学习了一个统一的潜在表示，它由节点属性和图结构共享，可以转换为不同的模态。因此，我们使用这种潜在的表征作为桥梁，将信息从一种模态转换为另一种模态。我们进一步介绍了实际的应用程序来量化节点属性生成的性能。在四个真实数据集上进行了大量的实验，实验结果表明，该方法生成的节点属性是高质量的，有利于其他应用。数据集和代码可在线获取。
2019-07-23 cs.LG stat.ML
VecGAN: Image-to-Image Translation with Interpretable Latent Directions
Bilkent University（比尔肯特大学）
我们提出了VecGAN，一个图像到图像的翻译框架，用于具有可解释的潜在方向的面部属性编辑。人脸属性编辑任务面临的挑战是精确的属性编辑与可控的强度和保存图像的其他属性。为了实现这个目标，我们通过潜在空间分解设计了属性编辑，对于每个属性，我们学习了一个与其他属性正交的线性方向。另一个分量是变化的可控强度，即标量值。在我们的框架中，这个标量可以通过投影从参考图像中采样或编码。我们的工作受到固定预训练GANs的潜在空间分解工作的启发。然而，虽然这些模型无法进行端到端的训练，并且很难精确编辑编码图像，但VecGAN是针对图像翻译任务进行端到端训练的，并且成功地编辑了一个属性，同时保留了其他属性。我们广泛的实验表明，VecGAN在本地和全局编辑方面都取得了显着的改进。
2022-07-07 cs.AI cs.CV cs.LG
GLSR-VAE: Geodesic Latent Space Regularization for Variational AutoEncoder Architectures
Université Pierre et Marie Curie（皮埃尔和玛丽·居里大学）；Sony CSL（索尼计算机科学研究所）；École Polytechnique（巴黎综合理工学院）
VAE（变分自编码器）已被证明在密度建模的背景下是强大的，并已被用于各种背景下的创造性目的。在许多情况下，我们建模的数据具有连续属性，我们希望在生成时考虑这些属性。我们在本文中提出了GLSR-VAE，一个测地线潜在空间正则化的变分自编码器架构及其推广，它允许一个精细的控制嵌入到潜在空间的数据。当用这种正则化来增加VAE损失时，学习的潜在空间的变化反映了数据属性的变化。这种对VAE潜在空间结构的更深入理解提供了以连续方式调制所生成数据的属性的可能性。我们证明了它的效率上的单声道音乐生成任务，我们设法生成离散序列的变化，在一个有意的和好玩的方式。
2017-07-14 cs.AI cs.LG stat.ML
Fair Data Pre-Processing with Imperfect Attribute Space
National University of Singapore（新加坡国立大学）
本文提出LatentPre框架，通过引入潜在属性增强公平数据处理，在不完美属性空间中实现公平与效用的平衡。
2026-03-27 cs.DB cs.LG
Evaluation of Latent Space Disentanglement in the Presence of Interdependent Attributes
Georgia Institute of Technology（佐治亚理工学院）；Nanyang Technological University（南洋理工大学）
具有深度生成模型的可控音乐生成越来越依赖于解纠缠学习技术。然而，当前的解纠缠度量，如互信息间隙（gap），当用于评估在现实世界的音乐数据集中经常遇到的相互依赖的语义属性的存在下的潜在表示时，通常是不充分的和误导的。在这项工作中，我们提出了一个依赖性感知的信息度量作为一个下拉式的替代，占语义属性之间的内在关系。
2021-10-11 cs.IR cs.IT cs.LG
Latent Constraints: Learning to Generate Conditionally from Unconditional Generative Models
Google Brain（谷歌大脑）；Google Inc.（谷歌公司）
深度生成神经网络已被证明在复杂数据分布的条件和无条件建模方面都是有效的。条件生成支持交互式控件，但创建新控件通常需要昂贵的再培训。在本文中，我们开发了一种方法，条件生成无需重新训练的模型。通过事后学习潜在约束，即识别潜在空间中生成具有所需属性的输出的区域的价值函数，我们可以使用基于梯度的优化或摊销的演员函数从这些区域中有条件地采样。结合属性约束与一个普遍的“现实主义”的约束，这强制相似的数据分布，我们产生现实的条件图像从一个无条件的变分自编码器。此外，使用基于梯度的优化，我们展示了保持身份的变换，使潜在空间中的最小调整，以修改图像的属性。最后，与离散序列的音符，我们展示了zero-shot条件生成，学习潜在的约束条件下的标记数据或可微的奖励函数。具有专用云实例的代码已公开提供（https：//goo.gl/STGMGx）。
2017-12-21 cs.LG cs.NE stat.ML
LOHO: Latent Optimization of Hairstyles via Orthogonalization
University of Toronto（多伦多大学）；Modiface Inc.（Modiface公司）；University of Guelph（圭尔夫大学）；Vector Institute（矢量研究所）
由于源头发和目标头发的头发结构差异，发型转移具有挑战性。因此，我们提出了潜在的优化发型通过优化（LOHO），一种基于优化的方法，使用GAN反演填充丢失的头发结构细节在潜在的空间在发型转移。我们的方法将头发分解为三个属性：感知结构，外观和风格，并包括量身定制的损失，以独立地对这些属性中的每一个进行建模。此外，我们提出了两个阶段的优化和梯度正交化，使解开潜在空间优化我们的头发属性。使用LOHO进行潜在空间操作，用户可以通过单独或联合操作头发属性，从参考发型中转移所需的属性来合成新颖的真实感图像。LOHO实现了一个优越的FID相比，目前国家的最先进的（SOTA）的发型转移。此外，LOHO根据PSNR和SSIM与SOTA图像嵌入管道相比，很好地保留了主体的身份。代码可在https://github.com/dukebw/LOHO上获得。
2021-03-10 cs.CV cs.LG
StyleDiff: Attribute Comparison Between Unlabeled Datasets in Latent Disentangled Space
Toyota Central R&D Labs., Inc.（丰田中央研发实验室股份有限公司）
针对开发与真实应用数据集不匹配问题，提出StyleDiff，利用解耦生成模型空间比较属性差异，复杂度O(dNlogN)，可扩展至大数据集。
2023-08-31 cs.CV cs.LG stat.ML
On Estimating Multi-Attribute Choice Preferences using Private Signals and Matrix Factorization
Coordinated Science Laboratory, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校协调科学实验室）
显示偏好理论研究了对代理人的显示偏好进行建模的可能性，以及构建一致的效用函数。然而，建模代理的选择偏好排序并不总是实用的，需要对人类的理性和数据采集能力的强有力的假设。因此，我们提出了一个简单的生成选择模型，代理人被假定为生成的选择概率的基础上的潜在因素矩阵，捕捉他们的选择评价在多个属性。由于多属性评价通常隐藏在代理的心理，我们认为，通过私人信号，代理提供选择信息的信令机制，使代理的选择提供更多的洞察力，他/她的潜在评价在多个属性。我们估计选择模型通过一种新的多阶段矩阵分解算法，最大限度地减少选择数据的因素估计的平均偏差。仿真结果验证了我们提出的算法的估计性能。
2018-02-19 cs.LG stat.ML
Attribute2Image: Conditional Image Generation from Visual Attributes
University of Michigan（密歇根大学）；Adobe Research（Adobe研究院）；NEC Labs（NEC实验室）
本文研究了一个新的问题，从视觉属性生成图像。我们将图像建模为前景和背景的组合，并开发了一个分层的生成模型，该模型具有可以使用变分自动编码器进行端到端学习的解纠缠潜变量。我们的实验与自然图像的脸和鸟类，并证明所提出的模型能够产生现实和多样化的样本与解开潜在的代表。我们使用一个通用的能量最小化算法的后验推理的潜在变量给定的新图像。因此，学习的生成模型在属性条件图像重建和完成任务中表现出出色的定量和视觉效果。
2016-10-08 cs.AI cs.CV cs.LG
Latent Transformations via NeuralODEs for GAN-based Image Editing
Yandex Skolkovo Institute of Science Technology (Skoltech)（亚斯科尔科沃科学技术研究所（斯科尔科沃科技学院））；National Research University Higher School of Economics（俄罗斯国家研究型高等经济大学）
高保真语义图像编辑的最新进展在很大程度上依赖于最先进的生成模型（如StyleGAN）的潜在空间。具体来说，最近的工作表明，通过线性位移和潜在方向可以实现人脸图像属性的良好可控性。最近的几种方法解决了这些方向的发现，隐含地假设最先进的GANs学习具有固有线性可分离属性分布和语义向量算术属性的潜在空间。在我们的工作中，我们表明，实现为可训练神经ODE流的非线性潜在代码操作对于许多具有更复杂的非纹理变化因素的实际非人脸图像域是有益的。特别是，我们调查了大量的数据集与已知的属性，并证明某些属性的操作是具有挑战性的，以获得线性移位。
2021-11-29 cs.CV cs.GR cs.LG
Attri-VAE: attribute-based interpretable representations of medical images with variational autoencoders
Universitat Pompeu Fabra（庞培法布拉大学）；Vicomtech Foundation（Vicomtech基金会）；ICREA（加泰罗尼亚研究与高等教育学院）
深度学习（DL）方法，其中可解释性本质上被认为是模型的一部分，需要更好地理解临床和基于成像的属性与DL结果的关系，从而促进它们在医疗决策背后的推理中的使用。使用变分自编码器（VAE）构建的潜在空间表示不能确保对数据属性的单独控制。文献中已经提出了基于属性的方法，用于基准数据中的经典计算机视觉任务。在本文中，我们提出了一种VAE方法，属性VAE，其中包括一个属性正则化项，将临床和医学成像属性与生成的潜在空间中的不同正则化维度相关联，从而能够更好地解释属性。此外，生成的注意力地图解释了正则化潜在空间维度中的属性编码。使用属性VAE方法，我们分析了健康和心肌梗死患者的临床，心脏形态学和放射组学属性。该模型提供了一个很好的权衡重建保真度，解纠缠，和可解释性，优于国家的最先进的VAE方法根据几个定量指标。由此产生的潜在空间允许在两个不同输入样本之间的轨迹中或沿着特定属性维度生成真实的合成数据，以更好地解释不同心脏状况之间的变化。
2022-12-12 cs.CV cs.LG eess.IV
FairGen: Controlling Sensitive Attributes for Fair Generations in Diffusion Models via Adaptive Latent Guidance
UIUC（伊利诺伊大学）；AWS AI Labs（亚马逊AI实验室）
针对文本到图像扩散模型的人口群体偏见问题，提出自适应潜变量引导机制FairGen，结合记忆模块实现公平生成，并构建HBE基准，实验证明其偏见缓解效果优于现有方法。
2025-10-22 cs.AI cs.CV cs.LG
Latent Space Disentanglement via Activation Steering for Interpretable Attribute Control in Symbolic Music Generation
Athens University of Economics；Innovation Lab Orfium Athens, Greece；Department of Music Technology；Acoustics Hellenic Mediterranean University Rethymno, Greece；Institute of Informatics \& Telecommunications National Center for Scientific Research “Demokritos” Athens, Greece；Department of Informatics Athens University of Economics
本文利用差分均值方法从多轨音乐Transformer的残差流中分离音高和时长的潜在方向，并通过Gram-Schmidt正交化实现双属性引导，从而在推理时实现可解释的确定性属性调制。
2026-05-29 cs.AI cs.IR cs.LG
Semantic Unfolding of StyleGAN Latent Space
InterDigital, Inc.（InterDigital公司）
生成对抗网络（GANs）已被证明通过反转和操纵与输入真实图像对应的潜码来进行图像编辑是非常有效的。这种编辑特性来自潜在空间的非纠缠性质。在本文中，我们发现，面部属性解纠缠不是最佳的，因此，依赖于线性属性分离的面部编辑是有缺陷的。因此，我们提出了改进语义与监督的脱钩。我们的方法包括使用规范化流学习代理潜在表示，我们证明了这会导致更有效的人脸图像编辑空间。
2022-06-29 cs.CV cs.LG
GANalyzer: Analysis and Manipulation of GANs Latent Space for Controllable Face Synthesis
Ritchie School of Engineering and Computer Science, University of Denver（丹佛大学里奇工程与计算机科学学院）；Department of Psychology, University of Tennessee（田纳西大学心理学系）；College of Arts, Humanities and Social Sciences, University of Denver（丹佛大学艺术、人文与社会科学学院）
生成对抗网络（GANs）能够合成高质量的面部图像。尽管取得了成功，但GANs并没有提供任何关于输入向量和生成图像之间关系的信息。目前，面部GANs是在不平衡的数据集上训练的，这会产生不太多样化的图像。例如，我们使用StyleGAN 3随机合成的10万张图像中，超过77%被归类为快乐，只有大约3%被归类为愤怒。当需要混合面部属性时，问题甚至变得更糟：生成的样本中只有不到1%是愤怒的女人，只有大约2%是快乐的黑人。为了解决这些问题，本文提出了一个名为GANalyzer的框架，用于分析和操纵训练有素的GANs的潜在空间。GANalyzer由一组转换函数组成，旨在操作特定面部属性（如面部表情，年龄，性别和种族）的潜在向量。我们分析了GANs的潜在空间中的面部属性纠缠，并应用所提出的变换来编辑解纠缠的面部属性。我们的实验结果证明了GANalyzer在编辑面部属性和生成任何所需面部方面的优势。我们还创建并发布了一个平衡的照片逼真的人脸数据集。我们的代码在GitHub上公开。
2023-02-02 cs.CV cs.LG
Off-policy Evaluation in Infinite-Horizon Reinforcement Learning with Latent Confounders
Cornell University（康奈尔大学）；Google Research（谷歌研究院）
在教育和医疗保健等实验有限的环境中，强化学习中的政策外评估（OPE）是一个重要问题。但是，在这些非常相同的设置中，观察到的行为经常被未观察到的变量混淆，使得OPE更加困难。我们研究了一个无限时域，遍历马尔可夫决策过程中的OPE问题与未观察到的混淆，状态和行动可以作为代理的未观察到的混淆。我们展示了如何，只给一个潜在的变量模型的状态和行动，政策价值可以确定从关闭的政策数据。我们的方法包括两个阶段。在第一，我们展示了如何使用代理估计平稳的分布比率，扩展最近的工作打破诅咒的地平线混淆设置。在第二，我们表明，最优平衡可以与这样的学习比率相结合，以获得政策价值，同时避免直接建模的奖励函数。我们建立一致性的理论保证，并根据经验对我们的方法进行基准测试。
2020-07-27 cs.AI cs.LG stat.ML
End-to-end learned Lossy Dynamic Point Cloud Attribute Compression
提出端到端动态点云属性有损压缩方法，利用高维卷积和上下文模型，相比MPEG RAHT平均节省38.1%码率。
2024-08-20 cs.LG eess.IV
On the Joint Minimization of Regularization Loss Functions in Deep Variational Bayesian Methods for Attribute-Controlled Symbolic Music Generation
针对属性控制符号音乐生成中变分贝叶斯方法难以联合最小化正则化损失的问题，本文探索KLD与AR损失的权衡，发现合适的属性变换可同时实现潜维度的可控性与正则化，提升生成模型性能。
2025-11-10 cs.AI cs.LG eess.AS
Text Attribute Control via Closed-Loop Disentanglement
Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院）；University of Oxford（牛津大学）；Zhongguancun Laboratory（中关村实验室）；Vienna University of Technology（维也纳工业大学）
本文提出一种基于半监督对比学习和闭环重解耦的文本属性控制方法，在保证内容保留的同时实现鲁棒的属性改变，并降低了计算成本，在三个文本数据集上验证了有效性。
2023-12-01 cs.CL cs.LG
Discovering Intersectional Bias via Directional Alignment in Face Recognition Embeddings
Center for Humans & Machines（人类与机器中心）；Max Planck Institute for Human Development（人类发展马克斯·普朗克研究所）
本文提出LatentAlign算法，通过方向对齐发现面部识别嵌入中的语义连贯子群体，揭示隐藏的交叉偏见。
2026-03-20 cs.CV cs.LG
SC2GAN: Rethinking Entanglement by Self-correcting Correlated GAN Space
ModiFace Inc.（ModiFace公司）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Toronto（多伦多大学）
针对GAN潜在空间中的属性纠缠问题，提出SC²GAN框架，通过重投影低密度样本并校正编辑方向，实现强相关属性的有效解纠缠。
2023-10-10 cs.CV cs.LG
Exploiting video sequences for unsupervised disentangling in generative adversarial networks
UNR-CONICET（国立罗萨里奥大学-阿根廷国家科学与技术研究理事会）
在这项工作中，我们提出了一种对抗性训练算法，该算法利用视频中的相关性来学习-没有监督-具有解开的潜在空间的图像生成器模型。所提出的方法只需要对生成对抗网络（GAN）的标准算法进行一些修改，并且涉及使用从短视频中获取的帧集进行训练。我们在两个以面部为中心的视频数据集上训练我们的模型，这些视频呈现不同的人说话或移动头部：VidTIMIT和YouTube Faces数据集。我们发现，我们的建议允许我们将生成器潜在空间分成两个子空间。其中一个控制内容属性，这些属性不会随着短视频序列而改变。对于所考虑的数据集，这是所生成的面部的身份。另一个子空间控制运动属性，这些属性被观察到沿着短视频变化。我们观察到，这些运动属性是面部表情，头部方向，嘴唇和眼睛的运动。所提出的实验提供了定量和定性的证据支持，所提出的方法诱导解开这两种属性的潜在空间。
2019-10-16 cs.CV cs.LG stat.ML
Phys-Diff: A Physics-Inspired Latent Diffusion Model for Tropical Cyclone Forecasting
Phys-Diff通过结合物理启发的归纳偏置和多模态数据整合，提升热带气旋预测的物理一致性与性能
2026-02-28 cs.AI cs.LG
Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding
Zhejiang University（浙江大学）；Westlake University（西湖大学）
本文提出深度流形（变分）图自编码器DMVGAE/DMGAE，通过在预定义分布下保持原始空间与潜在空间的节点测地相似性，解决属性图嵌入中的拥挤问题，并在多个数据集上显著超越现有基线方法。
2024-01-12 cs.LG
Conditional Diffusion as Latent Constraints for Controllable Symbolic Music Generation
本文提出将条件扩散模型作为即插即用的潜在约束，用于无条件符号音乐生成，首次在音符密度、音高范围、轮廓和节奏复杂度等多种属性上验证其通用性，并证明其优于传统属性正则化方法，在保持生成质量与多样性的同时实现更强的属性控制相关性。
2025-11-10 cs.AI cs.LG eess.AS
Covering up bias in CelebA-like datasets with Markov blankets: A post-hoc cure for attribute prior avoidance
UnifyID（UnifyID公司）；Stanford University（斯坦福大学）
属性先验避免需要对数据集通常与生俱来的（Meta）属性进行潜意识或故意的非建模，例如与CelebA和CelebA-HQ数据集相关联的40个语义面部属性。我们发现，这种弱点的后果在这些数据集上学习的最先进的深度生成模型中尤为明显，这些模型只是对像素空间测量进行建模，从而导致了一个充满属性间偏见的潜在空间。当我们进行基于潜在向量插值的人脸操作实验时，这一点在内心表现出来。在本文中，我们解决了这个问题，并提出了一个事后解决方案，利用伊辛属性事先学习的属性空间，并通过定性实验展示其功效。
2019-07-22 cs.CV cs.LG
LARGE: Latent-Based Regression through GAN Semantics
Tel-Aviv University（特拉维夫大学）
我们提出了一种新的方法来解决回归任务使用Few-Shot或弱监督。我们方法的核心是基本观察，即GANs在其潜在空间内编码语义信息方面非常成功，即使在完全无监督的环境中也是如此。对于现代生成框架，这种语义编码表现为平滑的线性方向，以一种不纠缠的方式影响图像属性。这些方向已被广泛用于基于GAN的图像编辑。我们表明，这样的方向不仅是线性的，但在各自的属性上引起的变化的幅度是近似线性的，相对于沿它们行进的距离。通过利用这一观察结果，我们的方法将预训练的GAN转化为回归模型，使用少至两个标记样本。这使得能够解决难以产生质量监督的数据集和属性上的回归任务。此外，我们表明，即使在没有明确的监督，相同的潜在距离可以用来排序集合的图像的强度给定的属性。广泛的实验评估表明，我们的方法可以应用于广泛的领域，利用多个潜在的方向发现框架，并在Few-Shot和低监督设置中实现最先进的结果，即使与设计用于解决单个任务的方法相比。
2021-07-22 cs.CV cs.GR cs.LG
Unsupervised Deep Manifold Attributed Graph Embedding
Zhejiang University（浙江大学）；AI Lab, School of Engineering（工程学院AI实验室）；Westlake University（西湖大学）
无监督属性图表示学习是一个具有挑战性的问题，因为结构和特征信息都需要在潜在空间中表示。现有的方法主要通过重构任务来学习潜在表示，但不能直接优化表示，容易出现过平滑现象，从而限制了其在下游任务中的应用。为了缓解这些问题，我们提出了一种新的图嵌入框架，称为深度流形属性图嵌入（DMAGE）。提出了一种节点间测地线相似度计算方法，计算数据空间和潜在空间之间的节点间相似度，并以Bergman散度作为损失函数，使两者之间的差异最小化。然后，我们设计了一个新的网络结构，较少的聚合，以减轻过度平滑的问题，并结合图结构增强，以提高表示的稳定性。我们提出的DMAGE在三个下游任务上远远超过了最先进的方法：无监督可视化，节点聚类和四个流行数据集的链接预测。
2021-04-27 cs.AI cs.LG
