A Novel Bayesian Approach for Latent Variable Modeling from Mixed Data with Missing Values
Institute for Computing and Information Sciences(计算与信息科学研究所);Radboud University Nijmegen(拉德堡德大学奈梅亨分校)
本文研究了隐变量模型的参数学习问题。我们提出了一种新的贝叶斯高斯copula因子(BGCF)的方法,在一定的条件下是一致的,这是相当强大的违反这些条件。在模拟中,BGCF大大优于两个国家的最先进的替代方法。“Holzinger & Swineford 1939”数据集上的一个例子表明,即使数据与MLR的假设相匹配,BGCF也优于所谓的鲁棒极大似然(MLR)。
2018-06-12 cs.LG stat.ML
Efficient Modeling of Latent Information in Supervised Learning using Gaussian Processes
Inferentia Limited(Inferentia有限公司);University of Sheffield(谢菲尔德大学)
通常在机器学习中,数据被收集为多个条件的组合,例如,多个人的语音记录,每个人都有一个ID。我们如何建立一个模型,捕捉与这些条件相关的潜在信息,并推广到一个新的数据很少?我们提出了一个新的模型,称为潜在变量多输出高斯过程(LVMOGP),并允许联合建模多个条件的回归和推广到一个新的条件与测试时的几个数据点。LVMOGP推断高斯过程的后验以及表示关于不同条件的信息的潜在空间。我们推导出一种有效的变分推断方法LVMOGP,其计算复杂度与稀疏高斯过程一样低。我们表明,LVMOGP显着优于相关的高斯过程方法在各种任务的合成和真实数据。
2017-05-27 cs.LG stat.ML
Sparse Infinite Random Feature Latent Variable Modeling
University of Hong Kong(香港大学)
我们提出了一个非线性,贝叶斯非参数潜变量模型,其中的潜空间被假定为稀疏和无限维先验使用印度抖振过程先验。后验,潜在空间中的实例化维度的数量保证是有限的。将印度自助过程置于潜变量上的目的是:1.)自动并按概率选择潜在维度的数量。2.)的情况。在潜在空间中施加稀疏性,印度自助餐过程将选择哪些元素正好为零。我们提出的模型允许稀疏的,非线性的潜在变量建模,其中自动选择潜在维度的数量。使用随机傅立叶近似使推理变得易于处理,并且我们可以通过马尔可夫链蒙特卡罗采样容易地实现后验推理。这种方法适用于高斯设置之外的许多观测模型。我们证明了我们的方法在各种合成,生物和文本数据集上的实用性,并表明与以前的潜变量模型相比,我们可以获得优越的测试集性能。
2022-05-27 cs.AI cs.LG stat.ML
Latent variable modeling with random features
Princeton University(普林斯顿大学)
基于高斯过程的潜变量模型是用于非线性降维的灵活且理论上有基础的工具,但是在该非线性框架内推广到非高斯数据似然性在统计上是具有挑战性的。在这里,我们使用随机特征来开发一系列非线性降维模型,这些模型可以很容易地扩展到非高斯数据的可能性,我们称这些随机特征潜在变量模型(RFLVMs)。通过用一个关于随机特征的线性函数来近似潜空间和观测值之间的非线性关系,我们导出了关于潜变量的后验分布的封闭形式的梯度。这使得RFLVM框架支持计算上易于处理的非线性潜变量模型的指数族中的各种数据的可能性,而无需专门的推导。我们的广义RFLVMs产生的结果与其他国家的最先进的降维方法对不同类型的数据,包括神经尖峰训练记录,图像和文本数据。
2020-06-19 cs.LG stat.ME stat.ML
Bayesian Non-linear Latent Variable Modeling via Random Fourier Features
University of Hong Kong(香港大学);Princeton University(普林斯顿大学);Stanford University(斯坦福大学)
针对高斯过程潜变量模型似然受限、推断易过拟合或后验表征不准的问题,提出基于随机傅里叶特征的RFLVM,实现非高斯观测下的MCMC推断,性能达到当前最优水平。
2023-06-14 cs.AI cs.LG stat.ML
Gaussian Mixture Modeling with Gaussian Process Latent Variable Models
密度建模对于高维数据是非常困难的。解决这个问题的一种方法是寻找一个低维流形,它捕获了数据的主要特征。近年来,高斯过程隐变量模型(GPLVM)已被成功地用于在各种复杂数据中寻找低维流形。GPLVM由低维潜在空间中的一组点和到观察空间的随机映射组成。我们展示了它如何可以被解释为在所观察到的空间中的密度模型。然而,GPLVM没有被训练成密度模型,因此产生了糟糕的密度估计。我们提出了一种新的训练策略,并在几个基准数据集的比较评估中获得了更好的泛化性能和更好的密度估计。
2010-07-13 stat.ML
Sequential Latent Spaces for Modeling the Intention During Diverse Image Captioning
Georgia Institute of Technology(佐治亚理工学院);University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
多样化和准确的视觉+语言建模是保持创作自由和保持用户参与度的重要目标。然而,在语言模型中充分捕捉多样性的复杂性是具有挑战性的。最近的作品通常诉诸于潜变量模型增强或多或少的监督对象检测器或部分的语音标签。所有这些方法的共同之处在于,潜在变量要么只影响句子生成过程,要么在生成的各个步骤中是相同的。这两种方法都没有提供细粒度的控制。为了解决这个问题,我们提出了Seq-CVAE,它为每个单词位置学习一个潜在空间。我们鼓励这个时间的潜在空间来捕捉“意图”关于如何完成的句子,通过模仿一个代表,总结了未来。我们说明了所提出的方法的有效性,以预测具有挑战性的MSCOCO数据集上的句子延续,显着提高多样性指标相比,基线,同时执行标准的w.r.t句子质量。
2019-08-22 cs.CL cs.CV cs.LG
Latent Variable Modeling for the Microbiome
人体微生物组是一个复杂的生态系统,从基础科学和医学的角度来看,描述其在不同环境条件下的结构和功能都很重要。从生物统计学的角度来看,许多微生物组分析目标可以被表述为潜在变量建模问题。然而,尽管概率潜变量模型是现代无监督学习的基石,但它们很少应用于微生物组数据分析的背景下,尽管可以通过此类模型直接纳入进化,时间和计数结构。我们探讨了概率潜变量模型在微生物组数据中的应用,重点是潜狄利克雷分配,非负矩阵分解和动态Unigram模型。为了制定不同方法适用的指导方针,我们进行了模拟研究。我们使用[10]的数据进一步说明和比较这些技术,[10]是一项关于抗生素对细菌群落组成影响的研究。所有模拟和案例研究的代码和数据都是公开的。
2017-11-15 stat.AP
Learning latent state representation for speeding up exploration
Istituto Italiano di Tecnologia(意大利理工学院);University of California Berkely(加州大学伯克利分校)
探索是强化学习中一个极具挑战性的问题,特别是在高维状态和动作空间以及只有稀疏奖励时。有效的表征可以指示状态的哪些组件与任务相关,从而减少要探索的空间的维度。在这项工作中,我们采取表示学习的观点探索,利用先前的经验来学习有效的潜在表示,这可以随后指示哪些区域进行探索。先前在独立但相关的任务上的经验有助于学习状态的表征,这些表征在预测即时奖励方面是有效的。然后,这些学习的表示可以与基于熵的探索方法一起使用,以通过有效地降低搜索空间的维度来有效地执行高维空间中的探索。我们展示了这种表示在模拟对象推送环境中进行元探索的好处。
2019-05-27 cs.LG stat.ML
A Bayesian Nonparametric Latent Space Approach to Modeling Evolving Communities in Dynamic Networks
动态(时变)网络数据中的社区演化是一个突出的感兴趣的话题。理解这些动态网络的一种流行方法是将二元关系嵌入到潜在度量空间中。虽然使用这种方法进行聚类的方法存在于动态网络中,但它们都假设静态社区结构。本文提出了一个动态网络的贝叶斯非参数模型,可以模拟网络与不断变化的社区结构。我们的模型扩展了现有的潜在空间的方法,明确建模的添加,删除,分裂和合并的组与层次狄利克雷过程隐马尔可夫模型。我们提出的方法,层次狄利克雷过程潜在位置聚类模型(HDP-LPCM),采用了传递性,模型的数据的个人和群体层面的方面,并避免了计算昂贵的选择所需的群体数量最流行的方法。我们提供了一个马尔可夫链蒙特卡罗估计算法,并将我们的方法应用于合成和真实世界的网络,以证明其性能。
2020-03-16 stat.ME
A Latent Class Modeling Approach for Generating Synthetic Data and Making Posterior Inferences from Differentially Private Counts
存在用于从列联表创建差异私有计数的几种算法,例如双向或三向边际计数。所得到的噪声计数通常不对应于相干列联表,使得如果想要所释放的计数对应于相干列联表,则需要一些后处理步骤。我们提出了一种潜在的类建模方法,用于后处理差异私人边际计数,可用于(i)创建差异私人合成数据的边缘计数的集合,以及(ii)使后验推断的机密计数。我们使用2016年美国社区调查公共使用微数据集和2004年国家长期护理调查的子集来说明这种方法。
2022-01-25 stat.ME
Provably efficient RL with Rich Observations via Latent State Decoding
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research, New York(微软研究院(纽约));University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft Research, Redmond(微软研究院(雷德蒙德))
我们研究的探索问题,在情节MDP丰富的观测产生的少量的潜在状态。在一定的可识别性假设下,我们演示了如何通过一系列回归和聚类步骤(以前解码的潜在状态为以后的回归问题提供标签)来估计从观测到潜在状态的映射,并使用它来构建良好的探索策略。我们提供有限样本保证学习状态解码功能和探索政策的质量,并补充我们的理论与一类硬探索问题的经验评估。我们的方法指数地改进了$Q$ -学习与天真的探索,即使当$Q$ -学习有欺骗访问潜在状态。
2021-09-09 cs.LG stat.ML
Modeling homophily and stochastic equivalence in symmetric relational data
本文讨论了一种用于对称关系数据推理和预测的隐变量模型。该模型基于特征值分解的思想,将两个节点之间的关系表示为节点特定的潜在特征向量的加权内积。这个“特征模型”概括了其他流行的潜在变量模型,如潜在类和距离模型:它在数学上表明,任何潜在类或距离模型都有一个特征模型的表示,但反之亦然。在三个真实数据集的背景下,这一点的实际影响进行了研究,其中特征模型具有良好或更好的样本预测性能比其他两个模型。
2007-11-07 stat.ME
Multi-Signal Safety Surveillance with Bayesian Latent Factor Modeling and Bias Correction
Department of Biostatistics, University of Michigan(密歇根大学生物统计学系)
该研究针对观察性医疗数据多信号安全监测的复杂问题,提出结合经验偏差校正与低秩潜在因子建模的多信号贝叶斯序贯监测框架,经美国保险理赔数据库的疫苗安全监测研究验证有效。
2026-08-05 stat.AP stat.ME
Latent Space Exploration Using Generative Kernel PCA
KU Leuven(鲁汶大学)
核PCA是一种功能强大的特征提取器,最近在受限核机器(RKM)的上下文中进行了重新表述。这些RKM允许在类似于受限玻尔兹曼机的隐藏和可见单元方面表示内核PCA。这种联系导致了关于如何在生成过程中使用内核PCA的见解,称为生成内核PCA。在本文中,使用生成核PCA探索数据集的潜在空间。新的点可以通过在潜在空间中逐渐移动来生成,这允许对组件进行解释。首先,在三个数据集上显示了这种特征空间探索的示例,其中一个数据集导致ECG信号的可解释表示。之后,结合使用的工具与新颖性检测,在数据中的新模式周围的潜在空间进行了探索。这有助于解释为什么某些观点被认为是新颖的。
2021-05-28 cs.LG stat.ML
Modeling Dynamic Functional Connectivity with Latent Factor Gaussian Processes
动态功能连接,如通过神经信号的时变协方差测量的,被认为在认知的许多方面起着重要作用。虽然已经提出了许多方法,但由于神经成像数据的高维性和噪声性,可靠地建立大脑连接的存在和特征是具有挑战性的。我们提出了一个潜在的因素高斯过程模型,通过学习一个简约的表示连接动态来解决这些挑战。所提出的模型自然允许时变连接的推理和可视化。作为该模型的科学实用性的一个例证,应用于在复杂的非空间记忆任务期间记录的大鼠局部场电位活动的数据集提供了刺激分化的证据。
2019-10-29 stat.ME
Mitigating over-exploration in latent space optimization using LES
UC Berkeley(加州大学伯克利分校);Rice University(莱斯大学);Brown University(布朗大学)
针对潜在空间优化(LSO)的过度探索问题,提出无需额外训练的潜在探索分数(LES),经多基准多模型验证可提升解质量,为LSO研究开辟新路径。
2025-02-21 cs.LG stat.ML
Cross Domain Image Generation through Latent Space Exploration with Adversarial Loss
Carnegie Mellon University(卡内基梅隆大学)
条件域生成是交互控制深度生成模型样本生成过程的一种好方法。然而,一旦创建了条件生成模型,允许它适应新的条件控制通常是昂贵的,特别是网络结构相对较深。我们提出了一个条件的潜在域转移框架的潜在空间的无条件变分自编码器(VAE)。有了这个框架,我们可以允许无条件训练的VAE在它的域中生成图像,条件由另一个域的潜在表示提供。这个框架并不假设两个领域之间的共性。我们证明了我们的模型在广泛使用的图像数据集下的有效性和鲁棒性。
2018-05-24 cs.CV cs.LG stat.ML
Latent State Marginalization as a Low-cost Approach for Improving Exploration
Mila(米拉研究所);University de Montreal(蒙特利尔大学);Meta AI (FAIR)(元人工智能(基础人工智能研究部))
虽然最大熵(MaxEnt)强化学习(RL)框架-通常因其探索和鲁棒性而受到吹捧-通常是从概率的角度出发的,但由于其固有的复杂性,深度概率模型的使用在实践中并没有获得太多的吸引力。在这项工作中,我们提出了采用潜在变量的MaxEnt框架内的政策,我们可以证明近似任何政策分布,此外,自然出现下使用的世界模型与潜在的信念状态。我们讨论了为什么潜在变量的政策是难以训练,如何天真的方法可能会失败,然后随后介绍了一系列的改进围绕低成本的边缘化的潜在状态,使我们能够充分利用的潜在状态在最小的额外成本。我们在演员-评论家框架下实例化我们的方法,边缘化演员和评论家。由此产生的算法,称为随机边际演员批评(SMAC),是简单而有效的。我们在连续控制任务上实验验证了我们的方法,表明有效的边缘化可以带来更好的探索和更强大的训练。我们的实现在https://github.com/zdhNarsil/Stochastic-Marginal-Actor-Critic上是开源的。
2023-02-10 cs.AI cs.LG stat.ML
Latent World Models For Intrinsically Motivated Exploration
University of Trento(特伦托大学);Department of Information Engineering and Computer Science (DISI)(信息工程与计算机科学系(DISI))
在这项工作中,我们考虑部分可观察的环境与稀疏奖励。我们提出了一个自我监督的表示学习方法,基于图像的意见,安排嵌入尊重时间距离的意见。这种表示在经验上对随机性是鲁棒的,并且适合于从预测前向模型的误差中进行新颖性检测。我们认为,情节和终身的不确定性,以指导探索。我们建议使用世界模型来估计环境中缺失的信息,该模型在学习的潜在空间中运行。作为该方法的一个动机,我们分析了在一个表部分可观测实验室的探索问题。我们展示了基于图像的硬勘探环境的方法,从Atari基准和报告显着的改进,相对于以前的工作。该方法和所有实验的源代码可在https://github.com/htdt/lwm获得。
2020-10-05 cs.AI cs.LG stat.ML
Explorations in Homeomorphic Variational Auto-Encoding
University of Amsterdam(阿姆斯特丹大学);Qualcomm AI Research(高通人工智能研究院)
流形假设指出,许多种高维数据集中在低维流形附近。如果这个数据流形的拓扑结构是非平凡的,连续编码器网络不能以一对一的方式嵌入它,而不会在潜在空间中创建低密度的孔。这与通常在变分自动编码器(VAE)中进行的高斯先验假设不一致,因为高斯的密度集中在斑点状流形附近。在本文中,我们研究使用流形值的潜变量。具体来说,我们专注于连续可微对称群(李群)的重要情况下,如组的三维旋转$\operatorname{SO}(3)$。我们展示了如何VAE与$\operatorname{SO}(3)$值的潜变量可以构建,通过扩展的reparameterization技巧紧凑连接李群。我们的实验表明,选择与潜在数据流形的拓扑结构相匹配的流形值潜在变量,对于保持拓扑结构和学习行为良好的潜在空间至关重要。
2018-07-12 cs.LG stat.ML
Improved Exploration through Latent Trajectory Optimization in Deep Deterministic Policy Gradient
Arizona State University(亚利桑那州立大学);Google DeepMind(谷歌DeepMind)
深度确定性策略梯度(DDPG)等无模型强化学习算法通常需要额外的探索策略,特别是当参与者具有确定性时。这项工作评估了使用基于模型的轨迹优化方法用于探索深度确定性策略梯度时,训练的潜像嵌入。此外,DDPG的扩展派生使用价值函数作为评论家,利用学习的深度动力学模型来计算策略梯度。这种方法导致深度强化学习算法和潜在轨迹优化器之间的共生关系。轨迹优化器受益于RL算法学习的评论家,后者受益于规划器生成的增强探索。两个连续的控制任务,一个在模拟和一个在现实世界中的方法进行评估。特别是,Baxter机器人被训练来执行插入任务,同时只接收稀疏的奖励和图像作为来自环境的观察。
2019-11-15 cs.AI cs.LG cs.RO
Modeling Latent Non-Linear Dynamical System over Time Series
SANKEN, Osaka University(大阪大学SANKEN(大阪大学蛋白质研究所))
针对时间序列非线性动力系统建模缺乏长期时间依赖整合的问题,本文提出LaNoLem方法,通过引入潜在状态解决循环依赖,以交替最小化估计参数并控制模型复杂度,在动力学估计和预测性能上优于现有模型。
2025-01-27 cs.LG stat.ML
Exploration of Large Networks with Covariates via Fast and Universal Latent Space Model Fitting
潜在空间模型是网络数据统计建模和探索的有效工具。这些模型可以有效地模拟真实世界的网络特性,如度异质性,传递性,同质性等,由于它们的密切联系,广义线性模型,它也是自然的,将协变量信息。本文提出了两种适用于边协变量网络的通用拟合算法:一种基于核范数惩罚,另一种基于投影梯度下降。这两种算法的动机是最大限度地提高一类特殊的内积模型的可能性,同时工作的范围广泛的不同的潜在空间模型,如距离模型,允许潜在向量影响边缘形成灵活的方式。这些拟合方法,特别是基于投影梯度下降的方法,速度快,可扩展到大型网络。我们得到他们的收敛速度的内积模型和超越。建模方法和拟合算法的有效性证明了五个真实世界的网络数据集不同的统计任务,包括社区检测与边缘协变量,和网络辅助学习。
2017-08-18 cs.SI stat.ME stat.ML
Latent Skill Planning for Exploration and Transfer
University of Toronto(多伦多大学);Vector Institute(向量研究所);Google Brain(谷歌大脑);Nvidia(英伟达)
为了快速解决复杂环境中的新任务,智能代理需要建立可重用的知识。例如,学习世界模型捕获关于应用于新任务的环境的知识。类似地,技能捕捉可以应用于新任务的一般行为。在本文中,我们研究如何将这两种方法集成到一个单一的强化学习代理。具体来说,我们利用部分摊销的思想在测试时快速适应。为此,行动是由一个随着时间的推移而学习的政策产生的,而它所依赖的技能是使用在线规划来选择的。我们展示了我们的设计决策在一套具有挑战性的运动任务的好处,并证明了提高样本效率在单一的任务,以及在从一个任务转移到另一个,相比有竞争力的基线。视频请访问:https://sites.google.com/view/latent-skill-planning/
2021-05-02 cs.AI cs.LG cs.RO
Enhancing Interpretability in Generative Modeling: Statistically Disentangled Latent Spaces Guided by Generative Factors in Scientific Datasets
本文提出Aux-VAE架构,在标准VAE框架内通过辅助变量引入先验统计知识,以最小损失函数修改实现潜空间解耦,并在天文模拟等多个数据集上验证了其有效性。
2025-06-30 cs.LG stat.ML
GLAD: Improving Latent Graph Generative Modeling with Simple Quantization
Geneva School for Business Administration (HES-SO)(日内瓦工商管理学院(HES-SO));University of Geneva(日内瓦大学)
本文提出 GLAD,一种在离散潜空间中运行、利用扩散桥学习先验的等变图生成模型,并在多个图基准上达到与最先进方法相竞争的性能。
2025-02-17 cs.LG stat.ML
Kinematic State Abstraction and Provably Efficient Rich-Observation Reinforcement Learning
Microsoft Research(微软研究院)
我们提出了一个算法,HOMER,探索和强化学习在丰富的观察环境,可概括的一个未知的潜在状态空间。该算法交织表示学习,以确定一个新的概念的运动状态抽象与战略探索,以达到新的状态,使用学习的抽象。该算法可证明地探索环境与样本复杂性缩放多项式的数量的潜在状态和时间范围,并且,至关重要的是,与不依赖于的大小的观察空间,这可能是无限大的。这种探索保证进一步实现了任何奖励函数的样本有效全局策略优化。在计算方面,我们表明,该算法可以有效地实现某些监督学习问题是易处理的。从经验上讲,我们评估HOMER的一个具有挑战性的探索问题,在那里我们表明,该算法是指数更有效的样本比标准的强化学习基线。
2019-11-13 cs.LG stat.ML
Generative Modeling of Discrete Data Using Geometric Latent Subspaces
Institute for Mathematics, Heidelberg University(海德堡大学数学研究所);Mannheim Institute for Intelligent Systems in Medicine, Heidelberg University(海德堡大学曼海姆智能医学系统研究所);IWR, Heidelberg University(海德堡大学IWR研究所);Research Station Geometry and Dynamics, Heidelberg University(海德堡大学几何与动力学研究站)
本文提出了一种几何潜在子空间框架,用于生成离散数据模型。通过在积流形的指数参数空间中引入潜在子空间,学习生成离散数据模型。该方法通过编码统计依赖关系并去除冗余自由度,实现了低维潜在空间。
2026-09-28 cs.LG stat.ML
Learning more skills through optimistic exploration
DeepMind(深度思维)
无监督技能学习目标(Gregor et al.,2016年,Eysenbach等人,2018)允许代理在没有外部奖励的情况下学习丰富的行为曲目。它们的工作原理是同时训练一个策略来产生可区分的潜在条件轨迹,以及一个训练器来通过尝试从轨迹中推断潜在条件来评估可识别性。希望是通过鼓励每个技能(潜在的)可靠地达到不同的状态来探索和掌握环境。然而,一个固有的探索问题仍然存在:当实际遇到一个新的状态时,智能体将不一定看到足够的训练数据来产生准确和自信的技能分类,这导致智能体的内在奖励较低,并且实际上最大化目标所需的探索类型的有效惩罚。为了打击这种固有的悲观探索,我们得到了一个信息增益辅助目标,涉及培训一个合奏的歧视和奖励政策,他们的分歧。我们的目标直接估计来自没有看到足够训练样本的训练者的认知不确定性,从而提供与基于伪计数的方法相比更适合真实目标的内在奖励(Burda等人,2019年)。我们称这种探索奖励为“分歧内在奖励”(disdisdisagreement intrinsic reward),或DISDAIN。我们的经验表明,DISDAIN提高技能学习在一个表格网格世界(四个房间)和雅达利套件的57个游戏(从像素)。因此,我们鼓励研究人员用DISDAIN来治疗悲观主义。
2022-05-12 cs.AI cs.LG stat.ML
Modeling Relational Data via Latent Factor Blockmodel
LIP6 - UPMC(LIP6 - 巴黎第六大学)
在本文中,我们解决的问题,关系数据建模,出现在许多应用程序,如社会网络分析,推荐系统和生物信息学。以往的研究要么考虑基于潜在特征的模型,但忽略了网络中的局部结构,或专注于捕捉局部结构的对象的基础上的潜在块模型,而不耦合的对象的潜在特征。为了结合以前工作的优点,我们提出了一种新的模型,可以同时结合潜在特征和协变量的影响,以及潜在结构的影响,可能存在于数据中。为了实现这一目标,我们将关系图建模为对象的潜在特征因子和潜在聚类成员的函数,以共同发现对象的全局预测内在属性,并捕获网络中的潜在块结构,以提高预测性能。我们还开发了一个优化转移算法的基础上,广义EM风格的策略来学习的潜在因素。我们通过链接预测任务和聚类分析任务证明了我们提出的模型的有效性,并且在合成数据和几个真实世界数据集上的广泛实验表明,我们提出的LFBM模型在评估任务中优于其他最先进的方法。
2012-04-11 cs.DS cs.LG stat.ML
Provably Efficient Exploration for Reinforcement Learning Using Unsupervised Learning
University of California, Los Angeles(加州大学洛杉矶分校);Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
受使用无监督学习进行强化学习(RL)问题有效探索的流行范式的启发[tang 2017 exploration,bellemare 2016 unifying],我们调查了这种范式何时被证明是有效的。我们研究情节马尔可夫决策过程与丰富的意见,从少量的潜在状态。我们提出了一个通用的算法框架,它是建立在两个组件:一个无监督学习算法和一个无遗憾的表格RL算法。从理论上证明了只要无监督学习算法具有多项式样本复杂度保证,就可以找到一个样本复杂度多项式的近似最优策略,其潜在状态数显著小于观测数.经验上,我们实例化我们的框架上一类困难的探索问题,以证明我们的理论的实用性。
2020-12-01 cs.AI cs.LG math.OC
Statistical exploration of the Manifold Hypothesis
University of Bristol(布里斯托大学);University of Edinburgh(爱丁堡大学)
该研究提出潜在度量模型,从统计层面解释流形假设广泛成立的原因,并基于该模型推导了低假设条件下、借助图分析算法探索高维数据几何结构与生成机制的流程。
2025-03-21 cs.LG stat.ME stat.ML
Transfer Learning via Latent Factor Modeling to Improve Prediction of Surgical Complications
我们的目标是创建一个迁移学习框架,使用潜在因素模型来学习更大的源数据集和目标数据集之间的依赖结构。该方法的动机是我们的目标,建立一个风险评估模型的手术患者,使用机构和国家的手术结果数据。国家手术结果数据是通过NSQIP(国家手术质量改进计划)收集的,该数据库包含来自700多家不同医院的近400万名患者。我们建立了一个潜在的因素模型,在载荷矩阵上具有分层先验,以适当地解释我们数据中不同的协方差结构。我们扩展这个模型来处理更复杂的人口之间的关系,通过推导出一个规模的混合物配方,使用棒打破属性。我们的模型提供了一个迁移学习框架,该框架利用了来自源数据和目标数据的所有信息,同时对它们之间的内在差异进行建模。
2016-12-02 stat.ML