A semiparametric approach to mixed outcome latent variable models: Estimating the association between cognition and regional brain volumes
结合二元、分类、计数和连续结果的多变量数据在社会和健康科学中很常见。我们提出了一个半参数贝叶斯潜变量模型的多元数据的任意类型，不需要规格的条件分布。利用Hoff [Ann. Appl. Stat. 1（2007）265-283]中，我们开发了用于具有混合结果的潜变量建模的半参数方法，并提出了相关的马尔可夫链蒙特卡罗估计方法。受认知测试数据的启发，我们专注于双因子模型，因子分析的一种特殊情况。我们采用我们的半参数贝叶斯潜变量模型来研究认知结果和MRI测量的区域脑容量之间的关联。
2014-01-13 stat.AP
An Efficient Algorithm for Computing Interventional Distributions in Latent Variable Causal Models
Harvard School of Public Health（哈佛公共卫生学院）；University of Washington（华盛顿大学）
图模型中的概率推理是从联合概率分布的因子分解表示计算感兴趣的边际和条件密度的任务。诸如变量消除和置信传播之类的推理算法利用嵌入在该因子分解中的约束来有效地计算这样的密度。在本文中，我们提出了一个算法，计算由无环有向混合图（ADMG）表示的潜在变量因果模型的干预分布。为了有效地计算这些分布，我们利用递归因式分解，它概括了通常的马尔可夫分解的DAG和最近的因式分解的ADMG。我们的算法可以被看作是一个推广的变量消除的混合图的情况下。我们表明，我们的算法是指数的混合图推广的树宽。
2012-02-14 cs.LG stat.ML
Bayesian latent time joint mixed effect models for multicohort longitudinal data
从无病到终末期的长期疾病动力学的表征对于理解帕金森病和阿尔茨海默病等神经退行性疾病的过程以及最终如何最好地进行干预是不可或缺的。自然史研究通常在疾病的不同阶段招募多个队列，并在相对较短的时间内纵向跟踪。我们提出了一个潜在的时间联合混合效应模型来描述长期的疾病动态，使用这个短期的数据。提出了用于估计、模型选择和推断的马尔可夫链蒙特卡罗方法。我们将该模型应用于详细的模拟研究和阿尔茨海默病神经成像倡议的数据。
2018-01-10 stat.AP stat.ME
Learning a Multi-Modal Policy via Imitating Demonstrations with Mixed Behaviors
National Tsing Hua University（国立清华大学）
我们提出了一种新的方法来训练一个多模态的政策，从混合示范没有他们的行为标签。我们开发了一种方法来发现潜在的变化因素的演示。具体来说，我们的方法是基于变分自编码器与分类潜在变量。编码器从演示中推断出对应于不同行为的离散潜在因素。作为策略，解码器相应地执行行为。一旦学习，该策略就能够通过简单地以分类向量为条件来再现特定的行为。我们评估我们的方法在三个不同的任务，包括一个具有挑战性的任务与高维视觉输入。实验结果表明，我们的方法是优于各种基线方法和竞争力的多模态政策训练的地面真相行为标签。
2019-03-25 cs.LG stat.ML
Mixed-curvature Variational Autoencoders
ETH Zürich（苏黎世联邦理工学院）；Massachusetts Institute of Technology（麻省理工学院）；Computer Science and Artificial Intelligence Laboratory, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）；Department of Computer Science, ETH Zürich（苏黎世联邦理工学院计算机科学系）；Computer Science and Artificial Intelligence Laboratory（计算机科学与人工智能实验室）；Department of Computer Science（计算机科学系）；MIT（麻省理工学院）；ETH（苏黎世联邦理工学院）
由于其强大和简单，欧几里得几何在历史上一直是机器学习应用程序的典型“主力”。然而，最近已经表明，具有恒定非零曲率的几何空间改进了各种数据类型和下游任务的表示和性能。因此，生成模型，如变分自编码器（VAE）已成功地推广到椭圆和双曲潜在空间。虽然这些方法在具有特定种类的偏差的数据上工作良好，例如双曲线VAE的树状数据，但不存在统一和利用所有三个模型的通用方法。我们开发了一个混合曲率变分自编码器，一个有效的方式来训练的VAE，其潜在空间是一个产品的常曲率黎曼流形，其中每个组件的曲率是固定的或可学习的。这将欧几里得VAE推广到弯曲的潜在空间，并在所有潜在空间分量的曲率变为0时恢复它。
2020-02-13 cs.LG stat.ML
Causal Discovery with Mixed Latent Confounding via Precision Decomposition
Vanderbilt University Medical Center（范德比尔特大学医学中心）；Johns Hopkins University（约翰霍普金斯大学）；MD Anderson Cancer Center（MD安德森癌症中心）
DCL-DECOR通过精度分解分离混合潜在混淆，有效恢复因果图结构并提高有向边识别精度。
2025-12-31 cs.LG
A comparison of mixed-variables Bayesian optimization approaches
CEA（法国原子能和替代能源委员会）；LETI（原子能与替代能源委员会电子与信息技术实验室）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；LIMOS（计算机科学、建模与优化实验室）；CNRS（法国国家科学研究中心）；Mines Saint-Etienne（圣艾蒂安国立高等矿业学校）；UCA（克莱蒙奥弗涅大学）；INSA Toulouse（图卢兹国立应用科学学院）；COSYS（系统与组件建模与设计部）；Université Gustave Eiffel（古斯塔夫·埃菲尔大学）；CEA-DAM（法国原子能和替代能源委员会军事应用局）
大多数真正的最优化问题定义在一个混合的搜索空间，其中的变量是离散和连续的。在工程应用中，目标函数的计算通常采用数值代价高昂的黑箱模拟，因此，一般的混合和代价高昂的最优化问题具有很大的实际意义，但它们的求解在很大程度上仍然是一个开放的科学问题。在这篇文章中，昂贵的混合问题，通过高斯过程，离散变量放松到连续的潜变量。连续空间比混合空间更容易被经典贝叶斯优化技术收获。离散变量被恢复或者随后的连续优化，或同时与一个额外的连续离散相容性约束，处理与增广拉格朗日。这种贝叶斯混合优化的几种可能的实现进行了比较。特别是，连续潜变量的问题的重新表述与直接在混合空间中工作的搜索竞争。在涉及潜变量和增广拉格朗日的算法中，特别注意的是拉格朗日乘子的局部和全局估计技术进行了研究。的比较是基于三个分析功能和梁的设计问题的重复优化。
2022-05-03 cs.LG math.OC stat.AP
A latent variable model with mixed binary and continuous response variables
我们提出了一种方法来获得最大似然估计在一个模型中的连续和二元的结果。左和右删失观测的组合也自然地在这个框架中建模。该模型和估计过程已在R软件包lava.tobit中实现。大脑成像和个性数据的预测变量的测量误差处理在一个潜在的变量框架的方法被证明。模拟研究进行比较的小样本性质的极大似然估计与有限的信息估计。
2015-07-05 stat.ME
Multilevel latent Gaussian process model for mixed discrete and continuous multivariate response data
我们提出了一个混合有序和连续多元数据的贝叶斯模型来评估一个潜在的空间高斯过程。我们提出的模型可以用于在许多情况下，在努力量化一个不可观察的连续测量观察到的混合连续和离散的多变量响应。在我们的例子中，潜在的，或不可观察的测量是湿地条件。虽然在每个位置的模型产生的潜在的湿地条件变量的预测值不持有任何内在的价值，湿地条件值的相对大小的兴趣。此外，通过在模型中包含点参考协变量，我们能够在新位置对潜在随机变量和多变量响应进行预测。最后，该模型生成与未观察到的潜在随机场相关的多变量响应的秩。这是一个重要的结果，因为它使我们能够确定哪些响应变量与潜变量最密切相关。我们的方法提供了一种替代传统的指数的基础上最好的专业判断，经常使用的生态学。我们应用我们的模型来评估在科罗拉多州的北普拉特河和格兰德河流域的湿地条件。该模型有利于在多个地点的湿地条件的比较，并在现场测量的重要性排名。
2013-03-23 stat.ME
Sample Size Estimation using a Latent Variable Model for Mixed Outcome Co-Primary, Multiple Primary and Composite Endpoints
混合结局终点结合多个连续和离散组分，形成共同主要、多个主要或复合终点，通常用作临床试验的主要结局指标。使用潜变量框架对个体结果进行联合建模有许多优点，但是为了在实践中利用模型，我们需要样本量估计技术。在本文中，我们展示了如何潜变量模型可以应用于三种类型的联合终点，并提出适当的假设，权力和样本量估计方法。我们使用一个基于MUSE试验中四维终点的数值示例来说明该技术，并发现协同主要终点所需的样本量大于效应量最小的单个终点所需的样本量。相反，多个主要终点所需的样本量从具有最大效应量的个体结局所需的样本量减少。我们表明，分析技术同意从模拟研究的经验力量。我们通过模拟研究进一步说明了在混合结局复合终点试验中可能实现的所需样本量的减少，并发现样本量主要取决于驱动响应和相关性结构的组分，而较少取决于个体终点中的处理效应结构。
2019-12-11 stat.AP stat.ME
Causal Clustering for 1-Factor Measurement Models on Data with Various Types
Carnegie Mellon University（卡内基梅隆大学）
四元组约束是一个条件，其满足信号的协方差子矩阵的秩减少，并用于设计因果发现算法，检测潜在的（不可测量的）变量的存在，如FOFC。最初，这样的算法只适用于测量变量和潜在变量都是高斯的并且具有线性关系的情况（高斯-高斯情况）。它已被证明，一个一维潜变量模型意味着四元约束时，测量和潜变量都是二进制（Binary-Binary的情况下）。本文证明了当测量变量是混合数据类型和测量变量是离散的和潜在的共同原因是连续的，这意味着任何聚类算法依赖于此约束也可以工作在这些情况下，四元组约束。每个案例都有一个例子和一个证明。通过仿真研究表明了FOFC在混合数据上的性能，并与具有类似功能的一些算法进行了比较。
2020-09-18 cs.LG stat.ML
Bayesian data combination model with Gaussian process latent variable model for mixed observed variables under NMAR missingness
在社会科学和商业领域的观测数据分析中，很难获得一个“（准）单源数据集”，其中感兴趣的变量被同时观测。相反，多源数据集通常是为不同的个人或单位采集的。已经提出了各种方法来研究每个数据集中的变量之间的关系，例如，匹配和潜在变量建模。有必要将这些数据集用作缺少变量的单源数据集。现有的方法假设要整合的数据集是从同一个群体中获得的，或者采样依赖于协变量。就缺失程度而言，该假设被称为随机缺失（MAR）。然而，正如应用研究所示，这一假设在实际数据分析中可能不成立，所得结果可能存在偏差。我们提出了一种数据融合方法，不假设数据集是同质的。对于非MAR缺失数据，我们使用高斯过程潜变量模型。该模型假设关注变量和缺失概率取决于潜变量。仿真研究和实际数据分析表明，该方法具有丢失数据机制和潜在的高斯过程，可以得到有效的估计，而现有方法只能得到严重偏差的估计.这是第一次在合理的假设条件下研究数据融合问题中的非随机分配问题。
2021-09-01 stat.ME stat.ML
A statistical interpretation of spectral embedding: the generalised random dot product graph
University of Bristol（布里斯托大学）；Heilbronn Institute for Mathematical Research（海尔布隆数学研究所）；University of Pittsburgh（匹兹堡大学）；North Carolina State University（北卡罗来纳州立大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
谱嵌入是一种可以用来获得图的节点的向量表示的过程。本文提出了一个概括的潜在位置网络模型称为随机点积图，允许解释这些向量表示为潜在的位置估计。需要泛化来模拟嗜异性连接（例如，“对立面吸引”），并更普遍地处理负特征值。我们发现，无论是使用的邻接或归一化拉普拉斯矩阵，谱嵌入产生一致的潜在位置估计渐近高斯误差（可识别性）。标准和混合隶属度随机块模型是特殊情况下，其中潜在的位置只采取$K$不同的向量值，代表社区，或生活在$(K-1)$ -单纯形与这些顶点，分别。在随机块模型下，我们的理论建议谱聚类使用高斯混合模型（而不是$K$ -手段），并在混合成员资格，拟合最小体积封闭单纯形，现有的建议，以前只支持在非负定的假设。在网络安全的例子中，展示了链接预测（在随机点积图上）的经验改进，以及发现更丰富的潜在结构（比标准或混合成员随机块模型下的假设）的潜力。
2021-11-16 cs.LG stat.ML
Bayesian Mixed Multidimensional Scaling for Auditory Processing
University of Torino（都灵大学）；Collegio Carlo Alberto（卡洛阿尔贝托学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Northwestern University（西北大学）
针对听觉处理中个体和群体异质性问题，提出贝叶斯混合多维尺度分析方法，恢复可识别潜在特征并自动确定维度，揭示语言背景差异。
2026-06-01 stat.AP stat.ME
Mixed-Type Tabular Data Synthesis with Score-based Diffusion in Latent Space
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Amazon Web Services（亚马逊网络服务）；George Mason University（乔治梅森大学）
针对表格数据分布复杂、类型混杂导致扩散模型应用困难的问题，提出在VAE潜在空间中运用扩散模型的Tabsyn方法，兼具通用性、高质量与高速度，实验显示其在多项指标上显著优于现有基线。
2024-05-11 cs.LG
Mixed membership stochastic blockmodels
Princeton University（普林斯顿大学）；Carnegie Mellon University（卡内基梅隆大学）
由对对象对的关系的测量组成的观察出现在许多环境中，例如蛋白质相互作用和基因调控网络、作者-接收者电子邮件的集合以及社交网络。用概率模型分析这些数据可能会很微妙，因为许多样板模型所基于的简单交换假设不再成立。在本文中，我们描述了这样的数据的潜变量模型称为混合成员随机块模型。该模型将关系数据的块模型扩展到捕获混合成员潜在关系结构的块模型，从而提供特定于对象的低维表示。本文提出了一种快速近似后验推理的一般变分推断算法。我们探索社会和蛋白质相互作用网络的应用。
2007-05-30 cs.LG math.ST physics.soc-ph
Bayesian low-rank latent-cluster regression for mixed health outcomes
University of Central Florida（中佛罗里达大学）
本文提出一种贝叶斯潜变量聚类降维回归模型，用于处理高维健康和监测研究中的多重相关结果和潜在异质性，通过低秩系数矩阵实现聚类、降维和可解释性。
2026-05-12 stat.CO stat.ME
Modeling Multivariate Mixed-Response Functional Data
我们提出了一个贝叶斯建模框架，用于联合分析不同类型（例如二进制和连续数据）的多个功能响应。我们的方法是基于一个多变量的潜在的高斯过程和模型之间的依赖性的功能响应，通过潜在的过程。我们的框架很容易容纳额外的协变量。我们提供了一种方法来估计多变量的潜在协方差，允许实施多变量函数主成分分析（FPCA），以指定基扩展和简化计算。我们证明了我们的方法，通过模拟研究和应用程序的牙周研究的真实数据。
2016-01-11 stat.ME
Modeling Psychological Profiles in Volleyball via Mixed-Type Bayesian Networks
本文提出潜在 MMHC 混合结构学习器，结合潜在高斯 copula 与约束及评分方法，在 164 名意大利女排运动员数据上学习混合类型贝叶斯网络，揭示心理技能、情绪唤醒与大五人格之间的有向关系，并量化技能改进的传播效应，为运动心理画像与决策支持提供可解释框架。
2025-09-26 cs.LG stat.AP
Semiparametric imputation using latent sparse conditional Gaussian mixtures for multivariate mixed outcomes
本文提出了一种灵活的贝叶斯方法，多重插补使用条件高斯混合。我们引入了新的收缩先验的协变量依赖的混合比例的混合模型，自动选择合适的数量的组件中使用的插补步骤。我们通过马尔可夫链蒙特卡罗方法开发了一种用于后验计算和多重插补的高效采样算法。所提出的方法可以很容易地扩展到的情况下，数据不仅包含连续变量，但也离散变量，如二进制和计数值。我们还提出了近似贝叶斯推断的损失函数定义的参数的基础上的后验预测分布的缺失观测，通过扩展基于Bootstrap的贝叶斯推断的完整数据。所提出的方法是通过模拟和真实数据的数值研究证明。
2022-08-16 stat.ME
Bayesian Gaussian Copula Factor Models for Mixed Data
高斯因子模型已被证明是非常有用的吝啬特征的依赖性在多变量数据。有丰富的文献，他们的扩展到混合的分类和连续变量，使用潜在的高斯变量或通过广义的潜在特质模型commodating测量指数家庭。然而，当推广到非高斯测量变量时，潜在变量通常会影响依赖结构和边缘分布的形式，使解释复杂化并引入伪影。为了解决这个问题，我们提出了一类新的贝叶斯高斯copula因子模型，解耦的潜在因素的边缘分布。基于扩展秩似然的边缘的半参数规范产生简单的实现和大量的计算增益，对于扩展到高维应用程序至关重要。我们提供了新的理论和经验的理由使用这种可能性在贝叶斯推断。我们提出了新的默认先验的因素加载和开发有效的参数扩展吉布斯抽样后验计算。该方法通过模拟评估，并应用于政治科学的数据集。本文中的方法在R包bfa中实现。
2013-01-07 stat.AP stat.ME
General Latent Feature Modeling for Data Exploration Tasks
University of Cambridge（剑桥大学）；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；Uber AI Labs（Uber人工智能实验室）
本文介绍了一种通用的贝叶斯非参数潜在特征模型，该模型适用于描述每个对象的属性可以是离散、连续或混合变量的异构数据集的自动探索性分析。该模型提出了几个重要的属性。首先，它考虑了异构数据，同时可以在线性时间内相对于对象和属性的数量进行推断。其次，它的贝叶斯非参数性质允许我们从数据中自动推断模型的复杂性，即，捕获数据中的潜在结构所需的特征数量。第三，模型中的潜在特征是二进制值变量，便于数据探索任务中获得的潜在特征的可解释性。
2017-07-26 cs.LG stat.ML
Neural Processes Mixed-Effect Models for Deep Normative Modeling of Clinical Neuroimaging Data
Radboud University Medical Center（拉德堡德大学医学中心）；Donders Institute for Brain Cognition and Behaviour（唐德斯大脑、认知与行为研究所）；King’s College（伦敦国王学院）
规范建模最近已被引入作为一个有前途的方法建模的变化，神经影像学的措施，在个人之间，以获得生物标志物的精神疾病。当前的实现依赖于高斯过程回归，其提供了该方法所需的不确定性的相干估计，但也存在缺点，包括对大数据集的缩放差和对固定参数内核的依赖。在本文中，我们提出了一个基于神经过程（NPs）的深度规范建模框架来解决这些问题。为了实现这一点，我们定义了一个随机过程制定的混合效应模型，并显示如何可以通过NP的空间结构的混合效应建模的神经影像数据。这使我们能够通过全局潜变量学习随机效应和噪声的最佳特征表示和协方差结构。在这个方案中，预测的不确定性可以近似从这些全局潜变量的分布采样。在一个公开的临床fMRI数据集上，我们比较了多变量规范模型的新颖性检测性能估计的建议NP方法的基线多任务高斯过程回归的方法，并显示出实质性的改善某些诊断问题。
2019-04-15 cs.LG cs.NE stat.ML
Data-Driven Topology Optimization with Multiclass Microstructures using Latent Variable Gaussian Process
School of Mechanical Engineering, Shanghai Jiao Tong University（上海交通大学机械工程学院）；Northwestern University（西北大学）
数据驱动的方法正在成为一个有前途的方法，多尺度结构的拓扑设计，具有更高的效率。然而，现有的数据驱动的方法主要集中在一个单一的类的微结构，而不考虑多个类，以适应空间变化的期望属性。关键的挑战是在满足一系列性能时，不同类别的微结构之间缺乏固有的有序性或距离度量。为了克服这一障碍，我们扩展了新开发的潜变量高斯过程（LVGP）模型，为超材料的微结构库创建多响应LVGP（MR-LVGP）模型，同时采用定性微结构概念和定量微结构设计变量作为混合变量输入。MR-LVGP模型基于混合变量对响应的集体影响将其嵌入到连续的设计空间中，从而为不同几何类别和微结构材料参数之间的相互作用提供了实质性的见解。利用该模型，我们可以很容易地获得不同微观结构概念之间的连续和可微的过渡，从而可以为多尺度拓扑优化提供梯度信息。我们证明了它的好处，通过多尺度拓扑优化与非周期性微结构。设计实例表明，考虑多类微结构可以导致性能的改善，由于一致的负载传递路径的微观和宏观结构。
2020-09-16 cs.CE cs.LG stat.ML
Mixed data Deep Gaussian Mixture Model: A clustering model for mixed datasets
CNRS（法国国家科学研究中心）；Centrale Marseille（马赛中央理工学院）；Aix-Marseille Univ.（艾克斯-马赛大学）；Univ Lyon（里昂大学）；UCBL（里昂第一大学）；Univ. of Bologna（博洛尼亚大学）
聚类混合数据提出了许多挑战，固有的非常异构的性质的变量。尽管存在这种异质性，聚类算法应该能够从变量中提取有区别的信息，以便设计组。在这项工作中，我们介绍了一种多层架构的基于模型的聚类方法称为混合深度高斯混合模型（MDGMM），可以被视为一种自动的方式来合并分别对连续和非连续数据进行聚类。这种架构是灵活的，可以适应混合以及连续或非连续数据。在这个意义上，我们推广了广义线性潜变量模型和深度高斯混合模型。我们还设计了一个新的初始化策略和一个数据驱动的方法，选择最佳规格的模型和最佳数量的集群为一个给定的数据集“上飞”。此外，我们的模型提供了连续的低维表示的数据，这可以是一个有用的工具，可视化混合数据集。最后，我们验证了我们的方法的性能比较其结果与国家的最先进的混合数据聚类模型在几个常用的数据集。
2021-03-10 cs.LG stat.ML
Anchored Variational Inference for Personalized Sequential Latent-State Models
University of Connecticut（康涅狄格大学）
本文提出一种基于锚点的变分推断方法，用于高效估计具有个体特定随机效应的序列潜在变量模型。通过将局部潜在过程的全条件后验替换为在代表值处的评估，显著降低了计算成本，同时保持局部推断的可处理性。
2026-04-25 stat.CO stat.ME stat.ML
On the Limits of Latent Reuse in Diffusion Models
Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系）；Department of Data Science, City University of Hong Kong（香港城市大学数据科学系）
研究扩散模型在分布偏移下潜在重用的可靠性，分析源-目标子空间主角偏差与环境噪声对目标域得分误差的影响，提出混合源-目标训练方法以确定共享潜在维度的依赖关系。
2026-05-13 cs.LG math.PR stat.ML
Neural Generalized Mixed-Effects Models
Department of Statistics, Columbia University, New York, USA（哥伦比亚大学统计系，纽约，美国）；Department of Computer Science, Columbia University, New York, USA（哥伦比亚大学计算机科学系，纽约，美国）
本文提出神经广义混合效应模型（NGMM），通过将线性函数替换为神经网络，提升对非线性协变量与响应变量关系的建模能力，在合成数据和现实数据集上均优于传统GLMM。
2026-04-13 cs.LG stat.CO stat.ME
MMbeddings: Parameter-Efficient, Low-Overfitting Probabilistic Embeddings Inspired by Nonlinear Mixed Models
本文提出概率嵌入方法MMbeddings，通过非线性混合模型视角在变分自编码器框架内将嵌入视为潜在随机效应，大幅减少与基数无关的参数量，有效缓解高基数场景下的过拟合与计算负担，并在多种任务中优于传统嵌入。
2025-11-01 cs.LG stat.ML
Clustering South African households based on their asset status using latent variable models
阿金库尔卫生和人口监测系统自2001年以来进行了半年一次的家庭资产调查，以量化生活在南非东北部农村人口的家庭社会经济状况。该调查包含二进制，序数和名义项目。在没有收入或支出数据的情况下，研究人口中的SES景观进行了探索和描述，根据其资产状况将家庭聚类为同质组。基于隐变量模型，提出了一种基于模型的方法来聚类的阿金库尔家庭。在对二元或有序项建模的情况下，采用项目反应理论模型。对于名义调查项目，使用了一个因素分析模型，其性质类似于多项概率模型。这两种模型类型都有一个潜在的潜在变量结构--这种相似性被利用，模型被组合起来产生一个能够处理混合数据类型的混合模型。此外，混合模型的混合物被认为是在混合的二进制，有序和标称响应数据的上下文中提供聚类能力。该模型被称为混合数据混合因子分析器（MFA-MD）。MFA-MD模型适用于调查数据的Agincourt家庭聚类成同质组。该模型估计贝叶斯范式内，使用马尔可夫链蒙特卡罗算法。直观的分组结果，提供了对阿金库尔地区不同社会经济阶层的洞察力。
2014-07-31 stat.AP stat.ME
Entropy-Based Characterisation of the Polarised Regime in Latent Variable Models
School of Computing, University of Kent（肯特大学计算机学院）；International Agency for Research on Cancer (IARC/WHO)（国际癌症研究机构（IARC/WHO））
本文提出基于熵的信息论方法，用于识别潜在变量模型中的极化区域，通过熵-方差界理论联系KL最小化，并验证在多种自编码器中有效。
2026-05-15 cs.LG
Analysis of the Polya-Gamma block Gibbs sampler for Bayesian logistic linear mixed models
在这篇文章中，我们使用Polson等人（2013）的数据增强技术，在适当的先验条件下，使用Polya-Gamma潜变量构建了贝叶斯逻辑线性混合模型的两块Gibbs采样器。此外，我们证明了这种Gibbs抽样的一致遍历性，这保证了基于MCMC估计的中心极限定理的存在性。
2017-11-17 math.ST stat.TH
Bayesian Profile Regression with Linear Mixed Models (Profile-LMM) applied to Longitudinal Exposome Data
Amsterdam UMC（阿姆斯特丹大学医学中心）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
本文提出Profile-LMM框架，将贝叶斯剖面回归与线性混合模型结合，处理纵向暴露组数据中的共线性和时间变异，并通过模拟和Lifelines队列验证其识别与舒张压相关的暴露组合的能力。
2025-10-09 stat.ME
Gaussian Copula Variational Autoencoders for Mixed Data
Pohang University of Science and Technology（浦项科技大学）
变分自编码器（VAE）是一种具有连续潜变量的生成模型，其中一对概率编码器（自下而上）和解码器（自上而下）通过随机梯度变分贝叶斯联合学习。我们首先阐述高斯VAE，近似的本地协方差阵的解码器作为一个外积的主方向在一个位置确定的样本从高斯分布。我们表明，该模型，称为VAE-ROC，更好地捕捉数据流形，相比标准的高斯VAE独立的多变量高斯被用来模拟解码器。然后，我们扩展VAE-ROC处理混合分类和连续数据。为此，我们采用高斯copula模型的局部依赖混合分类和连续数据，导致{ \em高斯copula变分自动编码器}（GCVAE）。在VAE-ROC中，我们使用高斯copula中协方差的秩一近似来捕获混合数据中的局部依赖结构。在各种数据集上的实验证明了VAE-ROC和GCVAE与标准VAE相比的有用行为。
2016-04-18 cs.LG stat.ML
Data-Centric Mixed-Variable Bayesian Optimization For Materials Design
Northwestern University（西北大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；The University of Vermont（佛蒙特大学）；Duke University（杜克大学）
材料设计可以被视为一个优化问题，其目标是通过改变材料成分、微观结构形态和加工条件来实现所需的性能。定性和定量材料设计变量的存在导致属性空间中的脱节区域，使得搜索最优设计具有挑战性。有限的实验数据和高昂的模拟成本加大了这一挑战。这种情况需要设计方法，可以从现有的数据中提取有用的信息，并有效地指导搜索最佳设计。为此，我们提出了一个以数据为中心的混合变量贝叶斯优化框架，该框架集成了来自文献，实验和模拟的数据，用于知识发现和计算材料设计。我们的框架围绕潜在变量高斯过程（LVGP），一种新的高斯过程技术，项目定性变量的协方差公式的连续潜在空间，作为代理模型来量化“缺乏数据”的不确定性。期望改进是一种平衡探索和开发的获取准则，有助于在复杂的非线性设计空间中导航以找到最优设计。建议的框架进行测试，通过案例研究，旨在同时确定绝缘聚合物纳米复合材料的最佳组合物和形态。我们还提出了一个扩展的混合变量贝叶斯优化多个目标，以确定帕累托边界内数十次迭代。这些发现项目贝叶斯优化作为一个强大的工具，设计工程材料系统。
2019-07-04 cond-mat.mtrl-sci cs.LG physics.comp-ph
Bayesian Posterior Learning of Mixed Graphical Models
University College London（伦敦大学学院）；National University of Singapore（新加坡国立大学）
本文提出Mixed Graph WWA方法，通过潜在高斯变量和两种似然设定实现混合图模型的贝叶斯结构学习，在模拟和乳腺癌数据上验证了其准确性和高效性。
2026-09-23 stat.AP stat.CO stat.ME
Dimension-Grouped Mixed Membership Models for Multivariate Categorical Data
混合隶属度模型（MMM）是一种流行的复杂多元数据的潜在结构模型。MMM不是强制每个主题属于单个集群，而是包含一个特定主题权重的向量，该向量表征跨集群的部分成员关系。这种灵活性带来了唯一识别、估计和解释参数的挑战。在这篇文章中，我们提出了一个新的类的扩展-分组MMM（Gro-M $^3$ s）的多元分类数据，它提高了简约性和可解释性。在Gro-M $^3$ s中，观测变量被划分为组，使得潜在成员资格对于组内的变量是恒定的，但是可以在组之间不同。当所有变量都在一个组中时获得传统的潜在类模型，而当每个变量都在自己的组中时获得传统的MMM。新模型对应于一种新的概率张量分解。理论上，我们推导出透明的可识别性条件，在一般设置的未知的分组结构和模型参数。在方法论上，我们提出了Dirichlet Gro-M $^3$ s的贝叶斯方法来推断变量分组结构和估计模型参数。仿真结果表明，良好的计算性能和经验确认的可识别性的结果。我们说明了新的方法，通过应用程序的功能残疾调查数据集和人格测试数据集。
2023-02-14 stat.ME
Covariate-assisted Grade of Membership Models via Shared Latent Geometry
Columbia University（哥伦比亚大学）
本文提出了一种基于共享潜在几何的协变量辅助隶属度模型，通过整合响应和协变量信息提升潜在结构恢复的效率和准确性。
2026-01-24 stat.ME stat.ML
Foundations of Structural Causal Models with Latent Selection
本文提出通过结构因果模型理论基础解决潜在选择问题，引入条件操作以保留因果语义并简化分析。
2025-11-16 cs.AI cs.LG math.ST
Conformal Bayes for Two-Sided Censored Gaussian Regression under Label Shift
aSSIST University, Korea（aSSIST大学）
针对标签偏移下响应变量被删失的预测问题，提出结合后验预测倾斜与加权共形校准的共形贝叶斯方法，构建混合最高密度区域预测集，恢复边际覆盖并减小集合大小。
2026-07-03 stat.ME stat.ML
Understanding Neural Coding on Latent Manifolds by Sharing Features and Dividing Ensembles
Norwegian University of Science and Technology（挪威科技大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Cambridge（剑桥大学）
系统神经科学依赖于神经数据的两种互补观点，其特征在于单神经元调谐曲线和群体活动分析。这两种观点结合在神经潜变量模型中，该模型约束了潜变量和神经活动之间的关系，由简单的调谐曲线函数建模。最近已经证明了这一点，使用高斯过程，与现实和拓扑相关的潜在流形的应用。然而，这些模型和以前的模型错过了神经群体的关键共享编码特性。我们提出了跨神经调谐曲线的特征共享，这显著提高了性能并有助于优化。我们还提出了一个解决方案的合奏检测问题，其中不同的神经元组，即，合奏，可以调制不同的潜在流形。通过在训练期间对神经元进行软聚类来实现，这允许以无监督的方式分离混合神经种群。这些创新导致了更可解释的神经种群活动模型，即使在复杂的潜在流形的混合物上，这些模型也能很好地进行训练并表现得更好。最后，我们将我们的方法应用于最近发布的网格单元数据集，并在一个集成的建模框架中恢复不同的集合，推断环形潜伏期和预测神经调谐曲线。
2023-02-16 cs.LG q-bio.NC stat.ML
Maximum Likelihood for Gaussian Process Classification and Generalized Linear Mixed Models under Case-Control Sampling
在不同领域的现代数据集通常包括从总体中非随机采样的单元，并且具有潜在的相关结构。在这里，我们研究了这种设置的一种常见形式，其中每个单元都与一个潜变量相关联，所有潜变量都是相关的，并且对单元进行采样的概率取决于其响应。这样的设置经常出现在病例对照研究中，其中采样单元由于空间接近、家庭关系或其他相关性来源而相关。从计算和统计的角度来看，这种情况下的极大似然估计都具有挑战性，需要考虑采样方案的近似值。我们提出了一个家庭的近似似然方法，结合复合似然和期望传播。我们通过大量的模拟证明了我们的解决方案的有效性。我们利用它们来研究病例对照遗传关联研究中收集的几种复杂疾病的遗传结构，其中每个人都测量了数十万种遗传变异，并且由于遗传相似性，个体的潜在疾病负债是相关的。我们的工作是第一个提供一个易于处理的基于似然的解决方案，病例对照数据与复杂的依赖结构。
2019-04-24 stat.ME
Bayesian Mixed Effects Models for Zero-inflated Compositions in Microbiome Data Analysis
检测微生物组成和样品特征之间的关联是微生物组研究中最重要的任务之一。大多数现有的方法将单变量模型分别应用于单个微生物物种，并对多个假设检验进行调整。我们提出了一个贝叶斯分析的广义混合效应线性模型量身定制的应用程序。每种微生物组合物的边际先验是狄利克雷过程，并且通过单个协变量（例如疾病生物标志物或受试者的年龄）和潜在因素的线性组合来诱导组合物之间的依赖性。潜在的因素捕捉残差变异性和他们的维数是从一个完全贝叶斯过程中的数据。所提出的模型进行了测试，在数据分析和模拟研究与零膨胀的组成。在这些设置中，在每个样品内，每个微生物物种的大部分计数等于零。在我们的贝叶斯模型中，先验地，不存在微生物物种的组合物的概率是严格正的。我们提出了一种有效的算法，从后验和可视化的模型参数，揭示协变量和微生物组成之间的关联进行采样。我们在模拟研究中评估了所提出的方法，然后分析了1型糖尿病婴儿的微生物组数据集，该数据集在样本特定的微生物组成中包含很大比例的零。
2019-08-24 stat.AP stat.ME
Graph Distance Based on Cause-Effect Estimands with Latents
Helmholtz Munich（慕尼黑海德堡研究所）；Technical University of Munich（慕尼黑技术大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对潜混杂下因果发现图评估困难的问题，提出基于因果效应估计下游任务的ADMG图距离度量，用固定识别与符号验证器量化图差异对效应估计的扭曲，分析了其在图扰动下的行为并与现有指标对比。
2025-10-28 cs.LG
Generalized Multivariate Functional Additive Mixed Models for Location, Scale, and Shape
提出广义多元函数加性混合模型框架，通过潜在高斯过程和函数主成分建模多层混合类型多元函数数据的条件分布，并在R包中实现，验证了其在交通数据上的有效性。
2024-07-30 stat.ME
Stabilizing Self-Consuming Diffusion Models with Latent Space Filtering
针对合成数据重复训练生成模型导致的自消耗循环与模型崩溃问题，提出潜在空间过滤（LSF）方法，通过过滤低质量合成数据缓解退化，无需额外成本或标注，在多数据集上优于基线。
2025-11-16 cs.LG
Adaptive Bayesian Estimation of Mixed Discrete-Continuous Distributions under Smoothness and Sparsity
我们考虑非参数估计的混合离散-连续分布各向异性光滑条件下的离散部分的分布和可能增加的支持点的数量。对于这些设置，我们推导出在全变差距离的估计率的下界。接下来，我们考虑一个非参数混合正态模型，该模型使用连续潜变量作为观测的离散部分。我们发现，在这个模型中的后验合同率等于派生的下界的对数因子。因此，贝叶斯混合正态模型可以用于混合离散-连续分布的最优自适应估计。
2018-06-19 econ.EM math.ST stat.TH
A Nonparametric Mixed-Effects Mixture Model for Patterns of Clinical Measurements Associated with COVID-19
本文提出一种非参数混合效应混合模型，结合逻辑回归和平滑样条识别COVID-19患者的生物学变化亚群及相关风险因素，并通过模拟和血液透析患者体温数据验证其有效性。
2024-05-31 stat.ME
Variational Inference for Latent Variable Models in High Dimensions
本文提出量化平均场变分推断统计精度的通用框架，刻画其在潜在狄利克雷分配模型中的有效区间，并针对混合成员随机块模型提出更优的部分分组VI算法，给出有限样本性能界。
2025-07-16 math.PR math.ST stat.ML
Markov Properties for Graphical Models with Cycles and Latent Variables
我们调查的概率图形模型，允许循环和潜变量。为此，我们引入了超边的有向图（HEDGes），推广和结合了边缘化的有向无圈图（mDAG），可以模拟潜在（因）变量，和有向混合图（DMG），可以模拟周期。我们定义并分析了几个不同的马尔可夫性，相关的图形结构的HEDG与概率分布在相应的积空间上的一组节点，例如因式分解属性，结构方程属性，有序/本地/全球马尔可夫性，和边际版本。当存在圈或超边时，HEDG的各种马尔可夫性通常彼此不等价，这与有向无环图（DAG）模型（也称为贝叶斯网络）的简单情况相反。我们展示了如何对冲的马尔可夫性-从而相应的图形马尔可夫模型-逻辑上相互关联。
2017-10-24 math.ST stat.ME stat.ML
Using Bayesian latent Gaussian graphical models to infer symptom associations in verbal autopsies
混合类型变量之间的学习依赖关系在各种科学环境中提供了见解，并且是统计学中研究得很好的问题。然而，现有的方法通常依赖于大量的高质量数据来准确地学习关联。在本文中，我们开发了一种方法，用于科学设置，其中学习依赖结构是必不可少的，但数据是稀疏的，有很高的比例缺失值。具体来说，我们的工作是基于调查的死因评估，称为口头尸检（VA）。我们提出了一种贝叶斯方法来表征依赖关系，使用潜在的高斯图形模型，将信息先验的变量的边缘分布。我们证明了这些信息可以提高依赖结构的估计，特别是在训练数据很少的情况下。我们表明，我们的方法可以集成到现有的概率死因分配算法，并提高模型性能，同时恢复症状之间的依赖模式，可以在未来的数据收集中提供有效的问卷设计。
2019-07-24 stat.AP
A Nonparametric Bayesian Method for Clustering of High-Dimensional Mixed Dataset
本文是从高吞吐量混合数据集的聚类问题出发的。这些数据集的聚类可以提供对生物学关联的深入了解。在这种情况下，一个开放的问题是同时聚类高维混合数据集。本文填补了这一空白，并提出了一种非参数贝叶斯方法称为Gen-VariScan的高维混合数据集的双聚类。Gen-VariScan利用广义线性模型（GLM）和潜在变量方法来整合混合数据集。我们利用Poisson Dirichlet过程（PDP）来识别混合协变量的低维结构。我们发现，协变量协聚类检测是后验一致的，随着受试者和协变量的数量的增长。通过数值模拟和数据分析，验证了Gen-VariScan的优越性。作为一个副产品，我们推导出一个工作值的方法来执行beta回归。本文的补充材料可在网上查阅。
2018-08-14 stat.ME
Bayesian Lifetime Regression with Multi-type Group-shared Latent Heterogeneity
由于共享但未观察到的协变量的影响导致潜在异质性，由同一批次生产或在同一地区使用的产品通常表现出相关的寿命观察结果。不可用的组共享协变量涉及多个不同类型（例如，离散的，连续的，或混合型），并诱导不同的结构不可或缺的群体共享的潜在异质性。如果不仔细捕捉这种潜在的异质性，寿命建模的准确性将大大削弱。在这项工作中，我们提出了一个通用的贝叶斯寿命建模方法，通过全面调查的结构，组共享的潜在异质性所造成的不同类型的组共享的未观测协变量。该方法可以灵活地刻画生命周期数据中多类型组共享的潜在异构性。此外，它可以处理缺乏群体成员信息的情况下，解决有限的样本量的问题。进一步发展了贝叶斯抽样算法和数据增强技术，以联合量化观测协变量和组共享潜在异质性的影响。此外，我们进行了全面的数值研究，以证明所提出的建模方法通过与替代模型的比较，提高了性能。我们还提出了实证研究结果，调查组数和每组的样本量估计组共享的潜在异质性的影响，并证明模型识别的不同结构的未观察到的组共享的协变量的方法。我们还提出了一个真实的案例研究来说明所提出的方法的有效性。
2021-07-14 stat.AP stat.ME
Bayesian multivariate mixed-scale density estimation
虽然连续密度估计在贝叶斯非参数文献中得到了广泛的关注，但多元混合尺度密度估计的理论却很有限。在这份说明中，我们考虑了一个通用的框架，联合建模连续，计数和分类变量下的非参数先验，这是通过舍入潜变量具有未知的密度相对于勒贝格测度。对于提出的先验类，我们提供了大支持，强一致性和后验收缩率的充分条件。这些条件允许人们将在多元连续密度估计的设置中获得的充分条件转换为混合尺度的情况。为了说明这个过程，引入了一个圆形的多变量非参数混合高斯，并应用于犯罪和社区数据集。
2014-05-23 math.ST stat.TH
