Gene Regulatory Network Inference with Latent Force Models
University of Cambridge（剑桥大学）；Computer Laboratory（计算机实验室）
当从RNA测序时间序列数据构建基因调控网络（GRNs）时，蛋白质合成的延迟会导致混淆效应。准确的GRN在建模发展、疾病途径和药物副作用时非常有见地。我们提出了一个模型，其中包括翻译延迟相结合的机械方程和贝叶斯方法，以适应实验数据。这使得更大的生物可解释性，并且高斯过程的使用使得能够通过内核实现非线性表达以及自然地解释生物变异。
2020-10-06 cs.LG q-bio.MN
WiSE-ALE: Wide Sample Estimator for Approximate Latent Embedding
University of Oxford（牛津大学）；Imperial College London（帝国理工学院）；ABB Corporate Research（ABB企业研究院）
变分自动编码器（VAE）作为用于形成复杂的、通常是高维的数据的压缩潜在表示的方法已经非常成功。在本文中，我们推导出一个替代的变分下界从一个共同的VAE，其目的是最大限度地减少总信息损失。使用我们的下限作为自动编码器的目标函数，使我们能够在批量统计上放置先验，对应于整个数据集的聚合后验，而不是原始VAE中的单个样本后验。这种先验约束的替代形式允许个体后验更灵活地保留必要的信息以获得良好的重建质量。我们进一步推导出一个解析近似我们的下限，导致一个有效的学习算法- WiSE-ALE。通过各种示例，我们证明了WiSE-ALE与其他最先进的VAE模型相比可以达到出色的重建质量，同时仍然保留了学习平滑，紧凑表示的能力。
2019-03-18 cs.LG stat.ML
State-Wise Safe Reinforcement Learning With Pixel Observations
Northwestern University（西北大学）；The University Of Liverpool（利物浦大学）；The University Of Southampton（南安普顿大学）
针对高维像素观测下无先验知识的状态级安全约束强化学习问题，提出含潜在类屏障函数学习的联合框架，在safety-gym基准上实现更少违规、更快安全收敛且收益具竞争力。
2023-12-11 cs.AI cs.LG cs.SY
Geometry-aware Latent Autoregressive Generative Model for PDEs in Complex Domains
Stanford University（斯坦福大学）
本文针对复杂几何下PDE求解难题，提出GeoLAMP模型，通过双编码器、流匹配Transformer与灵活解码器实现稳定预测，构建多物理场基准数据集并取得最优性能。
2026-10-01 cs.AI cs.LG
SAHMM-VAE: A Source-Wise Adaptive Hidden Markov Prior Variational Autoencoder for Unsupervised Blind Source Separation
本文提出SAHMM-VAE，通过为每个潜在维度分配自适应的隐马尔可夫先验，实现无监督盲源分离的端到端学习，学习源特定的时间结构。
2026-03-26 cs.LG stat.ML
PSI3D: Plug-and-Play 3D Stochastic Inference with Slice-wise Latent Diffusion Prior
Johns Hopkins University（约翰霍普金斯大学）
PSI3D通过切片式潜在扩散先验和总变分正则化，提升大规模3D随机推断在OCT超分辨率中的重建质量。
2026-08-06 cs.LG eess.IV
StrEBM: A Structured Latent Energy-Based Model for Blind Source Separation
PolyU（理工学院）
本文提出StrEBM，一种结构化潜在能量模型，用于源级结构化表示学习。通过盲源分离作为测试平台，验证了潜在维度向不同底层组件演化的有效性，并揭示了优化特性。
2026-04-19 cs.LG stat.ML
Icebreaker: Element-wise Active Information Acquisition with Bayesian Deep Latent Gaussian Model
University of Cambridge（剑桥大学）；Microsoft Research（微软研究院）
在本文中，我们介绍了冰启动问题，即，当最初只有很少或没有训练数据可用时部署机器学习模型的挑战，以及获取数据的每个特征元素与成本相关联。此设置代表真实世界的机器学习应用程序。例如，在医疗保健领域，当训练人工智能系统从实验室测试中预测患者指标时，获得每一个测量值都需要很高的成本。只有标签与成本相关联的主动学习不适用于这种问题，因为执行所有可能的实验室测试以获取新的训练数据将是昂贵的，并且由于冗余而不必要。我们提出了破冰者，一个原则性的框架来处理冰启动问题。Icebreaker使用了一个完整的贝叶斯深层潜在高斯模型（BELGAM）和一种新的推理方法。我们提出的方法结合了摊销推理和随机梯度MCMC的最新进展，使快速和准确的后验推理。通过利用BELGAM的能力，充分量化模型的不确定性，我们还提出了两个信息采集功能的插补和主动预测问题。我们证明，BELGAM表现明显优于以前的VAE（变分自编码器）为基础的模型，当数据集的大小是小的，使用机器学习基准和现实世界的推荐系统和医疗保健应用程序。此外，基于BELGAM，Icebreaker进一步提高了性能，并展示了使用最小量的训练数据来获得最高测试时间性能的能力。
2019-08-14 cs.AI cs.LG stat.ML
Scalable Amortized GPLVMs for Single Cell Transcriptomics Data
Stanford University（斯坦福大学）；University of Cambridge（剑桥大学）；Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学博德研究所）
本文提出面向单细胞 RNA-seq 的摊销随机变分贝叶斯 GPLVM（BGPLVM），通过专用编码器、核与似然设计提升聚类和可解释性，在合成及 COVID 数据上媲美 scVI。
2024-05-06 cs.LG q-bio.GN stat.AP
Anomaly detection through latent space restoration using vector-quantized variational autoencoders
Imperial College London（帝国理工学院）
我们提出了一个分布外检测方法，结合密度和基于密度的方法，使用矢量量化变分自动编码器（VQ-VAE）。VQ-VAE模型学习在分类潜在空间中编码图像。潜码的先验分布，然后使用自回归（AR）模型建模。我们发现AR模型估计的先验概率对于无监督的异常检测是有用的，并且能够估计样本和像素异常分数。样本得分定义为潜在变量的负对数似然高于选择高度不可能的代码的阈值。此外，通过用来自先验模型的样本替换不太可能的潜在代码并解码到像素空间，将分布外图像恢复为分布内图像。生成的异常与原始图像之间的平均L1距离被用作逐像素异常分数。我们在MOOD挑战数据集上测试了我们的方法，并报告了与基于VAE的标准重建方法相比更高的准确性。
2020-12-12 cs.CV cs.LG eess.IV
Langevin Autoencoders for Learning Deep Latent Variable Models
The University of Tokyo（东京大学）
马尔可夫链蒙特卡罗（MCMC），如朗之万动力学，是有效的近似棘手的分布。然而，它的使用是有限的背景下，深潜变量模型由于昂贵的数据点采样迭代和缓慢的收敛。本文提出了摊销朗之万动力学（ALD），其中数据逐点MCMC迭代完全替换为更新的编码器，将观测映射到潜在变量。这种摊销实现了有效的后验采样，而无需逐数据点迭代。尽管它的效率，我们证明了ALD是有效的MCMC算法，其马尔可夫链的目标后验作为一个平稳分布在温和的假设。基于ALD，我们还提出了一个新的深层潜变量模型命名为Langevin自动编码器（LAE）。有趣的是，LAE可以通过稍微修改传统的自动编码器来实现。使用多个合成数据集，我们首先验证ALD可以正确地从目标后验子中获取样本。我们还评估了LAE的图像生成任务，并表明我们的LAE可以优于现有的方法的基础上变分推理，如变分自编码器，和其他MCMC为基础的方法在测试的可能性。
2022-10-11 cs.LG stat.ML
Image Generation with Self Pixel-wise Normalization
Korea University（高丽大学）；Chungbuk National University Hospital（忠北国立大学医院）；Hannam University（韩南大学）
区域自适应归一化（RAN）方法已被广泛应用于基于生成对抗网络（GAN）的图像到图像翻译技术中。然而，由于这些方法需要掩模图像来推断逐像素仿射变换参数，因此它们不能应用于不具有成对掩模图像的一般图像生成模型。为了解决这个问题，本文提出了一种新的归一化方法，称为自像素归一化（SPN），有效地提高了生成性能，通过执行像素自适应仿射变换没有掩模图像。在我们的方法中，变换参数来自一个自隐掩模，将特征图分为前景和背景区域。自隐掩模的可视化表明，SPN有效地捕获了要生成为前景的单个对象。由于该方法无需外部数据即可生成自隐掩模，因此易于应用于现有的生成模型。在各种数据集上的实验表明，该方法在Frechet起始距离（FID）和起始分数（IS）方面显著提高了图像生成技术的性能。
2022-01-26 cs.CV cs.LG
Modeling Temporal scRNA-seq Data with Latent Gaussian Process and Optimal Transport
Department of Computer Science, Aalto University, Espoo, Finland（奥卢大学计算机科学系，埃斯波，芬兰）
本文提出了一种生成框架，利用潜在异方差高斯过程建模种群趋势，并通过最优传输对齐生成和观测的种群分布，以捕捉生物异质性，从而在复杂插值和外推基准上实现最先进的性能。
2026-05-20 cs.LG q-bio.GN
Improved Slice-wise Tumour Detection in Brain MRIs by Computing Dissimilarities between Latent Representations
Romanian Institute of Science and Technology（罗马尼亚科学技术研究所）；Babeş-Bolyai University（巴贝什-博尧依大学）
磁共振图像（MRI）的异常检测可以通过学习健康图像的分布并将异常识别为离群值来使用无监督方法解决。在存在也包含异常的未标记数据的附加数据集的情况下，该任务可以被框定为具有负和未标记样本点的半监督任务。最近，在Albu等人的研究中，2020年，我们提出了一种用于肿瘤检测的切片半监督方法，该方法基于在未标记数据上训练的变分自编码器的潜在空间中计算相异性函数。计算图像的编码和通过仅在健康图像上训练的不同自动编码器获得的其重建的编码之间的相异性。在本文中，我们为我们的方法提供了新的和改进的结果，通过在HCP和BRATS-2018数据集的子集上训练变分自编码器并在剩余个体上进行测试来获得。我们表明，通过在更高分辨率的图像上训练模型并提高重建的质量，我们获得了与不同基线相当的结果，这些基线采用了在健康个体上训练的单个VAE。正如预期的那样，我们的方法的性能随着用于确定异常存在的阈值的大小而增加。
2020-07-24 cs.LG eess.IV stat.ML
A Factorized Low-Rank RNN Framework for Uncovering Independent Neural Latent Dynamics and Connectivity
University of California, San Diego（加州大学圣迭戈分校）
提出FacRNN框架，通过组间独立假设和部分相关惩罚，在低秩循环神经网络中实现潜在动力学的解耦与可解释性提升。
2026-06-02 cs.CE cs.LG q-bio.NC
Neural representation and generation for RNA secondary structures
McGill University（麦吉尔大学）；Mila（米拉）
我们的工作涉及RNA的生成和靶向设计，RNA是一种遗传大分子，可以采用影响其细胞活性和功能的复杂结构。大规模和复杂的生物结构的设计刺激了专用的基于图的深度生成建模技术，这代表了计算药物发现的关键但未被充分认识的方面。在这项工作中，我们研究了代表和生成不同RNA结构模式背后的原理，并提出了一个灵活的框架，以联合嵌入和生成这些分子结构及其序列在一个有意义的潜在空间。凭借对RNA分子结构的深刻理解，我们最先进的编码和解码方法在分子图以及连接树层次上操作，整合了关于RNA结构规律性和折叠机制的强诱导偏差，从而实现了生成的RNA的高结构有效性，稳定性和多样性。此外，我们试图充分组织RNA分子嵌入与蛋白质相互作用的潜在空间，并使用有针对性的优化来在这个潜在空间中导航，以寻找所需的新型RNA分子。
2021-02-01 cs.LG q-bio.BM
LatentMan: Generating Consistent Animated Characters using Image Diffusion Models
KAUST（阿卜杜拉国王科技大学）
提出LatentMan零样本方法，利用文本动作扩散模型指导T2I模型生成连续动作动画角色视频，通过Spatial Latent Alignment和Pixel-Wise Guidance提升帧间时间一致性，优于现有零样本T2V方法。
2024-06-02 cs.CV cs.LG
Latent Block-Diffusion Temporal Point Processes: A Semi-Autoregressive Framework for Asynchronous Event Sequence Generation
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Department of Data Science, City University of Hong Kong（香港城市大学数据科学系）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）
提出潜在块扩散时间点过程（LBDTPP），通过潜在空间中的块级自回归和块内高斯扩散，实现可变长度、高质量的事件序列生成，理论证明可减少误差累积，实验优于现有方法。
2026-06-25 cs.LG stat.ML
Mixed-Type Tabular Data Synthesis with Score-based Diffusion in Latent Space
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Amazon Web Services（亚马逊网络服务）；George Mason University（乔治梅森大学）
针对表格数据分布复杂、类型混杂导致扩散模型应用困难的问题，提出在VAE潜在空间中运用扩散模型的Tabsyn方法，兼具通用性、高质量与高速度，实验显示其在多项指标上显著优于现有基线。
2024-05-11 cs.LG
Scalable Deep Learning for RNA Secondary Structure Prediction
University of Freiburg（弗莱堡大学）
本研究提出采用轴向注意力与隐空间循环机制的轻量化深度学习模型RNAformer，通过直接在隐空间建模邻接矩阵并扩模，在TS0基准上达SOTA且优于用外部信息的方法，还能学习RNA折叠的生物物理模型。
2023-07-14 cs.LG q-bio.BM
Stage-wise Distortion-Perception Traversal in Zero-shot Inverse Problems with Diffusion Models
Shenzhen International Graduate School, Tsinghua University, Shenzhen, China（清华大学深圳国际研究生院）；Department of Electronic Engineering, Tsinghua University , Beijing, China（清华大学电子工程系）
提出一种逐阶段框架MAP-RPS，通过MAP估计和重噪声后验采样实现单扩散模型下的失真-感知权衡遍历，并扩展至潜空间LMAP-RPS以提升适用性。
2026-05-28 cs.LG
EEGDancer: Dynamic Emotion Latent Space Masked Modeling with Reinforcement Learning for EEG Continuous Emotion Prediction
National University of Singapore（新加坡国立大学）；Agency for Science, Technology and Research（科技研究局）
提出EEGDancer框架，结合向量量化表示学习、掩码时间建模和强化学习轨迹优化，解决EEG连续情感预测中长时依赖和噪声问题。
2026-06-04 cs.AI cs.HC
Deep Variational Inference Without Pixel-Wise Reconstruction
Indian Institute of Science（印度科学院）
基于深度神经网络的变分自编码器（VAE）已经成为计算机视觉中流行的生成模型。大部分的工作，以改善变分自动编码器主要集中在使近似后的灵活性和准确性，导致巨大的进步。然而，替代逐像素重建的努力有限，逐像素重建具有已知的缺点。在这项工作中，我们使用实值非体积保持变换（实NVP）来精确计算给定潜在分布的数据的条件似然。我们表明，一个简单的VAE与这种形式的重建是有竞争力的复杂的VAE结构，图像建模任务。作为我们模型的一部分，我们开发了强大的条件耦合层，使真正的NVP能够用更少的中间层进行学习。
2016-11-16 cs.CV cs.LG stat.ML
Towards Deeper Understanding of Variational Autoencoding Models
Stanford University（斯坦福大学）
我们提出了一个新的家庭变分自动编码模型的优化标准，推广了标准的证据下限。我们提供的条件下，他们恢复的数据分布和学习潜在的功能，并正式显示，常见的问题，如模糊的样本和无信息的潜在功能时，这些条件不满足。基于这些新的见解，我们提出了一个新的顺序VAE模型，可以在LSUN图像数据集上生成基于像素级重建损失的清晰样本，并提出了一个优化标准，鼓励信息潜在特征的无监督学习。
2017-02-28 cs.LG stat.ML
Improving Variational Autoencoder for Text Modelling with Timestep-Wise Regularisation
University of Sheffield（谢菲尔德大学）；Utrecht University（乌得勒支大学）
变分自编码器（VAE）是一种流行的、功能强大的模型，用于文本建模以生成多样化的句子。然而，当VAE用于文本建模时，会发生称为后验崩溃（或KL损失消失）的问题，其中近似后验崩溃为先验，并且模型将完全忽略潜在变量，并且在文本生成期间退化为普通语言模型。当基于RNN的VAE模型用于文本建模时，这样的问题特别普遍。在本文中，我们提出了一种简单的通用架构，称为Timestep-Wise Regularisation VAE（TWR-VAE），它可以有效地避免后验崩溃，并可以应用于任何基于RNN的VAE模型。我们的模型的有效性和多功能性在不同的任务中得到了证明，包括语言建模和对话响应生成。
2020-11-03 cs.CL cs.LG
Speech Modeling with a Hierarchical Transformer Dynamical VAE
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CentraleSupélec（巴黎中央理工-高等电力学院）；CNRS（法国国家科学研究中心）；Grenoble-INP（格勒诺布尔国立理工学院）
本文提出层级Transformer动态变分自编码器（HiT-DVAE），用于语音建模，其优于其他DVAE且训练更简单，有望用于语音增强等下游任务。
2023-05-10 cs.LG cs.SD eess.AS
Deciphering RNA Secondary Structure Prediction: A Probabilistic K-Rook Matching Perspective
Zhejiang University（浙江大学）；Westlake University（西湖大学）；The Chinese University of Hong Kong（香港中文大学）；University of Michigan（密歇根大学）
本研究针对现有RNA二级结构预测深度学习方法泛化性差、复杂度高的问题，从概率K-车匹配视角出发提出RFold方法，通过二维优化策略分解匹配问题，在保证输出有效性的同时实现了具竞争力的性能和约8倍于最优方法的推理效率。
2024-06-19 cs.AI cs.LG q-bio.BM
Modelling Technical and Biological Effects in scRNA-seq data with Scalable GPLVMs
University of Cambridge（剑桥大学）；Wellcome Sanger Institute（威康桑格研究所）
单细胞RNA-seq数据集的规模和复杂性不断增长，使得研究各种生物/临床背景下的细胞组成变化成为可能。需要可扩展的降维技术来解开其中的生物变异，同时考虑技术和生物混杂因素。在这项工作中，我们扩展了一种流行的概率非线性降维方法，高斯过程潜变量模型，以扩展到大规模的单细胞数据集，同时明确考虑技术和生物学混杂因素。其关键思想是使用一个增广的内核，它保留了可因式分解的下限，允许快速随机变分推理。我们证明了其重建Kumasaka等人（2021）中恢复的先天免疫的潜在特征的能力。我们进一步分析了COVID数据集，并在130人的队列中证明，该框架在捕获可解释的感染特征的同时实现了数据集成。具体而言，我们探索COVID严重程度作为一个潜在的维度，以完善患者分层和捕获疾病特异性基因表达。
2022-11-06 cs.LG q-bio.GN stat.AP
Towards the Latent Transcriptome
Institute for Research in Immunology and Cancer (IRIC)（免疫学与癌症研究所（IRIC））；Université de Montréal（蒙特利尔大学）；Montreal Institute for Learning Algorithms (Mila)（蒙特利尔学习算法研究所（Mila））
在这项工作中，我们提出了一种从原始RNA-seq数据计算kmers连续嵌入的方法，而不需要与参考基因组进行比对。该方法使用RNN将RNA-seq读数的kmer转换为用于预测每个kmer丰度的二维表示。我们报告说，我们的模型捕获的信息，DNA序列的相似性以及DNA序列的丰度嵌入潜在的空间，我们称之为潜在的转录组。我们通过将这些载体与已知的基因亚结构进行比较来确认它们的质量，并报告潜在空间从急性髓性白血病患者的原始RNA-Seq数据中恢复外显子信息。此外，我们表明，这种潜在的空间允许检测基因组异常，如易位以及患者特异性突变，使这种表示空间既可用于可视化，也可用于分析。
2018-12-10 cs.LG q-bio.GN stat.ML
RNA-GPT: Multimodal Generative System for RNA Sequence Understanding
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Georgia Institute of Technology（佐治亚理工学院）
RNA-GPT是一个多模态RNA聊天模型，通过整合RNA序列编码器与大型语言模型，并利用自动化系统RNA-QA生成的407,616个样本进行训练，有效解决了复杂的RNA查询，促进了RNA研究。
2024-10-29 cs.AI cs.CE cs.LG
A deep generative model for gene expression profiles from single-cell RNA sequencing
University of California, Berkeley（加州大学伯克利分校）
我们提出了一个概率模型来解释通过单细胞RNA测序观察到的基因表达水平。在模型中，每个细胞都有一个低维的潜在表示。额外的潜在变量解释了可能错误地将基因表达水平的一些观察值设置为零的技术效应。条件分布由神经网络指定，使所提出的模型具有足够的灵活性，可以很好地拟合数据。我们使用变分推理和随机优化来近似后验分布。推理过程可扩展到超过一百万个细胞，而竞争算法则没有。即使对于较小的数据集，对于几个任务，所提出的过程也优于ZIFA和ZINB-WAVE等最先进的方法。我们还扩展了我们的框架，以考虑批量效应和其他混杂因素，并提出了一个贝叶斯假设检验的差异表达，优于DESeq 2。
2018-01-16 cs.LG q-bio.GN stat.ML
A deep generative model for single-cell RNA sequencing with application to detecting differentially expressed genes
我们提出了一个概率模型来解释通过单细胞RNA测序观察到的基因表达水平。在模型中，每个细胞都有一个低维的潜在表示。额外的潜在变量解释了可能错误地将基因表达水平的一些观察值设置为零的技术效应。条件分布由神经网络指定，使所提出的模型具有足够的灵活性，可以很好地拟合数据。我们使用变分推理和随机优化来近似后验分布。推理过程可扩展到超过一百万个细胞，而竞争算法则没有。即使对于较小的数据集，对于几个任务，所提出的过程也优于ZIFA和ZINB-WAVE等最先进的方法。我们还扩展了我们的框架，考虑到批量效应和其他混杂因素，并提出了一个自然的贝叶斯假设框架的差异表达，优于传统DESeq 2。
2017-10-17 cs.LG q-bio.GN stat.ML
Reconstructing probabilistic trees of cellular differentiation from single-cell RNA-seq data
MIT（麻省理工学院）；Broad Institute of MIT & Harvard（麻省理工学院与哈佛大学布罗德研究所）；University of British Columbia（不列颠哥伦比亚大学）；Howard Hughes Medical Institute（霍华德·休斯医学研究所）
直到最近，转录组学仅限于批量RNA测序，模糊了个体细胞的潜在表达模式，有利于全局平均值。由于技术的进步，我们现在可以平行地分析数千或数百万个细胞的基因表达。这种新类型的数据导致了一个有趣的发现，即单个细胞的轮廓可以反映时间或动态过程的印记。然而，综合这些信息来重建动态的生物现象，从数据是嘈杂的，异质的，和稀疏的-从过程中，可能会展开异步-提出了一个复杂的计算和统计的挑战。在这里，我们开发了一个完整的生成模型，用于从单细胞RNA测序数据概率重建细胞分化树。具体来说，我们扩展了经典的狄利克雷扩散树的框架，同时推断分支拓扑结构和潜在的细胞状态沿连续轨迹在整个树。在串联，我们构建了一个新的马尔可夫链蒙特卡罗采样器，交织大都会黑斯廷斯和消息传递，利用模型结构进行有效的推理。最后，我们证明了这些技术可以从模拟的单细胞转录组中恢复潜在的轨迹。虽然这项工作的动机是细胞分化，我们推导出一个易于处理的模型，提供灵活的密度的任何数据（加上适当的噪声模型），从连续演变沿潜在的非参数树。
2018-11-28 cs.LG q-bio.QM stat.ML
Splicing Up Your Predictions with RNA Contrastive Learning
Vector Institute（向量研究所）；University of Toronto（多伦多大学）；Peter Munk Cardiac Center, UHN（大学健康网络彼得·蒙克心脏中心）
本研究受语言自监督学习启发，将对比学习扩展到基因组数据，利用可变剪接和基因复制产生的功能相似序列，学习通用RNA异构体表示，在RNA半衰期和核糖体负载预测上取得竞争力结果，低数据下性能提升两倍，并产生语义有意义的表示。
2023-10-17 cs.LG q-bio.GN
scGTN: Deep Siamese Graph Transformer Network for Single-cell RNA Sequencing Clustering
Sichuan University（四川大学）；University of International Business and Economics（对外经济贸易大学）；Great Bay University（大湾区大学）；The Education University of Hong Kong（香港教育大学）
提出scGTN框架，通过孪生图变换网络整合基因表达与细胞间结构信息，利用最优传输策略进行自监督聚类，在多个数据集上优于现有方法。
2026-06-18 cs.AI cs.LG q-bio.GN
scLLM-DSC: LLM-Knowledge Enhanced Cross-Modal Deep Structural Clustering for Single-Cell RNA Sequencing
Computer Network Information Center, Chinese Academy of Sciences（中国科学院计算机网络信息中心）；University of Chinese Academy of Sciences（中国科学院大学）；Hangzhou Institute for Advanced Study, University of Chinese Academy of Sciences（中国科学院大学杭州高等研究院）；School of Computing and Information Technology, Great Bay University（大湾区大学计算机科学与技术学院）；School of Engineering, Westlake University（西湖大学工学院）
提出scLLM-DSC框架，通过知识驱动语义视图与结构感知拓扑视图的跨模态对比对齐，利用LLM增强单细胞RNA测序数据的聚类性能，显著优于现有方法。
2026-06-23 cs.AI cs.LG
StrTransformer: Source-Wise Structured Transformers for Unsupervised Blind Source Recovery
PolyU
提出StrTransformer框架，通过源向结构化Transformer分支和观测空间混合器直接优化潜在源矩阵，实现盲源恢复和分支潜在建模。
2026-05-25 cs.LG stat.ML
Graph-wise Common Latent Factor Extraction for Unsupervised Graph Representation Learning
Singapore University of Technology and Design (SUTD)（新加坡科技设计大学）
无监督图级表示学习在分子性质预测和社区分析等各种任务中起着至关重要的作用，特别是当数据注释昂贵时。目前，大多数性能最好的图嵌入方法都是基于Infomax原理的。这些方法的性能高度依赖于阴性样本的选择，如果样本选择不仔细，则会损害性能。如果所选择的用于相似性匹配的图集合质量低，则基于图间相似性的方法也会受到影响。为了解决这个问题，我们只专注于利用当前输入图进行嵌入学习。我们的动机来自于对真实世界的图生成过程的观察，在真实世界的图生成过程中，图是基于图的所有元素所共有的一个或多个全局因素（例如，讨论线程的主题、分子的溶解度水平）。我们假设提取这些共同因素可能是非常有益的。因此，这项工作提出了一个新的原则，无监督图表示学习：图明智的公共潜在因素提取（GCFX）。我们进一步提出了GCFX的深度模型deepGCFX，基于反转上述图生成过程的想法，该过程可以从输入图中显式提取公共潜在因素，并在下游任务上实现当前最先进的改进结果。通过广泛的实验和分析，我们证明，虽然提取公共潜在因子对于图级任务减轻由个体节点或局部邻域的局部变化引起的分心是有益的，它还通过启用长距离节点依赖性（尤其是对于离散图）而有益于节点级任务。
2022-02-07 cs.AI cs.LG stat.ML
The Hidden Signal of Verifier Strictness: Controlling and Improving Step-Wise Verification via Selective Latent Steering
Dartmouth College（达特茅斯学院）；Datadog AI Research（Datadog人工智能研究）；Salesforce AI Research（Salesforce人工智能研究）
本文研究了通过隐藏状态干预控制验证器严格性的方法，提出VerifySteer通过利用潜在正确性信号进行样本级路由并选择性干预段落边界，从而在ProcessBench和Hard2Verify数据集上优于基线方法，且在推理计算上更高效。
2026-05-20 cs.AI cs.CL cs.LG
Probabilistic Transformer: Modelling Ambiguities and Distributions for RNA Folding and Molecule Design
University of Freiburg（弗莱堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
本文提出带分层潜分布的概率 Transformer，以建模数据歧义和分布，并在合成分布学习、RNA 折叠及基于属性的分子设计中取得先进结果。
2022-11-14 cs.LG q-bio.BM
Generative Modeling of Discrete Latent Structures via Dynamic Policy Gradients
University of California, Berkeley（加州大学伯克利分校）
提出GReinSS框架，使用动态缩放奖励学习潜在状态分布以最大化观测数据似然，在模拟潜在集和图重建中优于基线，并在RNA测序数据中比RSEM更准确地重建异构体。
2026-06-05 cs.LG
FMNet: Latent Feature-wise Mapping Network for Cleaning up Noisy Micro-Doppler Spectrogram
University College London（伦敦大学学院）
微多普勒信号包含了大量的目标动态信息。然而，雷达感测系统容易受到噪声环境的影响，导致微多普勒频谱图上的不可解释的运动模式。同时，雷达回波信号往往受到多径、杂波和干扰的影响。这些问题导致的困难，例如运动特征提取，活动分类使用微多普勒签名（$μ$-DS）等，在本文中，我们提出了一个潜在的功能明智的映射策略，称为特征映射网络（FMNet），变换测得的频谱图，使它们更接近模拟在相同条件下的输出。该框架基于实测谱图和匹配的模拟数据，包含三个部分：编码器，用于提取潜在表征/特征;解码器，根据潜在特征输出重构谱图;判别器，用于最小化实测数据和模拟数据的潜在特征距离。我们使用六个活动数据和两个实验场景对FMNet进行了演示，最终结果显示出强烈的增强模式，并且可以最大程度地保留实际的运动信息。另一方面，我们还提出了一个新的想法，即只使用模拟数据训练分类器，并在使用FMNet清理后预测新的测量样本。从最终的分类结果中，我们可以看到显著的改进。
2021-07-09 cs.LG eess.SP
It's FLAN time! Summing feature-wise latent representations for interpretability
IBM Research Europe（IBM欧洲研究院）；ETH Zürich（苏黎世联邦理工学院）
可解释性已经成为部署在关键场景（例如法律系统、医疗保健）中的机器学习模型的必要特征。在这些情况下，算法决策可能会对受决策影响的最终用户产生（潜在的负面）长期影响。在许多情况下，不需要深度学习模型的代表能力，因此应该首选简单和可解释的模型（例如线性模型）。然而，在高维和/或复杂的领域（例如，计算机视觉）中，需要神经网络的通用近似能力。受线性模型和Kolmogorov-Arnold表示定理的启发，我们提出了一类新的结构约束神经网络，我们称之为FLAN（隐式潜在加性网络）。至关重要的是，FLAN单独处理每个输入特征，在公共潜在空间中为每个特征计算表示。然后，这些特征方面的潜在表示被简单地求和，并且聚合的表示被用于预测。这些约束条件（是线性模型可解释性的核心）允许用户独立于其他特征来估计每个特征的影响，从而增强可解释性。在一组跨不同领域的实验中，我们展示了在不过度损害测试性能的情况下，FLANs中提出的结构约束确实促进了深度学习模型的可解释性。我们定量地比较FLANs的可解释性事后的方法，使用最近推出的指标，讨论了本地可解释的模型的优势，事后分析。
2021-12-20 cs.LG stat.ML
scASDC: Attention Enhanced Structural Deep Clustering for Single-cell RNA-seq Data
School of Information Science and Engineering, Yunnan University（云南大学信息科学与工程学院）；College of Nursing Health Sciences, Yunnan Open University（云南开放大学护理健康科学学院）；Hefei Institutes of Physical Science, Chinese Academy of Sciences（中国科学院合肥物质科学研究院）
针对 scRNA-seq 数据高稀疏、噪声复杂导致的聚类难题，提出 scASDC，融合 GCN 结构建模、ZINB 自编码器、注意力机制与自监督学习，显著提升单细胞聚类性能。
2024-08-09 cs.AI cs.LG q-bio.GN
Sound Source Separation Using Latent Variational Block-Wise Disentanglement
Amazon Web Services（亚马逊云服务）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出一种混合DSP/DNN的声源分离方法，通过在潜在空间中将单通道欠定问题转化为多通道超定问题并利用变分块级解耦表示，结合可微排列损失和记忆机制，提升了对分布外数据的鲁棒性并降低过拟合风险。
2024-02-08 cs.LG cs.SD eess.AS
StrADiff: A Structured Source-Wise Adaptive Diffusion Framework for Linear and Nonlinear Blind Source Separation
PolyU
StrADiff通过结构化源级自适应扩散框架实现无监督盲源分离，无需监督标签或后处理，联合优化源生成、结构正则化和观测空间重构，展示在线性和非线性混合中的稳定性能。
2026-04-28 cs.LG cs.SD stat.ML
Latent Plan Transformer for Trajectory Abstraction: Planning as Latent Space Inference
Department of Statistics and Data Science, UCLA（统计与数据科学系， UCLA）；Salesforce Research（Salesforce 研究）；Akool Research（Akool 研究）；Xi’an Jiaotong University（西安交通大学）；Department of Computer Science, UCLA（计算机科学系， UCLA）
本文提出Latent Plan Transformer（LPT），通过潜在变量推断将规划视为潜在空间推断，从次优轨迹中学习时间一致的抽象并提升长期决策性能。
2025-08-18 cs.LG
Disentangling Continuous-Time Latent Dynamics: Identifiability of Latent SDEs via Diffusion Shifts
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；The University of Melbourne（墨尔本大学）；Peking University（北京大学）；Carnegie Mellon University（卡内基梅隆大学）
针对连续时间潜在随机微分方程模型的可辨识性问题，利用环境引起的扩散协方差偏移，证明在漂移无稀疏性假设下，对角扩散机制可识别潜在坐标至置换和缩放，并估计潜在解缠与因果图。
2026-10-02 cs.LG stat.ML
AttnLRP: Attention-Aware Layer-Wise Relevance Propagation for Transformers
Fraunhofer Heinrich-Hertz-Institute（弗劳恩霍夫海因茨·赫兹研究所）；Technische Universität Berlin（柏林工业大学）；BIFOLD – Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所（BIFOLD））
本文提出AttnLRP方法，通过扩展逐层相关性传播以处理注意力层，首次实现对Transformer输入和潜在表示的高效忠实归因，并在多个模型上验证其优越性。
2024-06-10 cs.AI cs.CL cs.CV
Closing the Modality Gap Aligns Group-Wise Semantics
Department of Information Engineering, Electronics, and Telecommunications（信息工程、电子与电信系）
本文提出了一种方法，证明模态差距在群体级任务中显著影响性能，而非实例级任务。
2026-01-26 cs.CV cs.LG
Conditionally Identifiable Latent Representation for Multivariate Time Series with Structural Dynamics
本文提出iVDFM模型，通过在创新过程上应用iVAE式条件，保证多变量时间序列潜在因子的可识别性，展示了在合成数据和现实基准中的改进性能。
2026-10-20 cs.LG q-fin.GN q-fin.ST
Listening to the Wise Few: Query-Key Alignment Unlocks Latent Correct Answers in Large Language Models
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；AI Foundation and Algorithm Lab（人工智能基金会与算法实验室）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Artificial Intelligence Research Institute (AIRI)（人工智能研究院）；CNRS（法国国家科学研究中心）；Université Paris Cité（巴黎西岱大学）
本文提出基于选择-复制注意力头的QK分数和注意力分数来改进多项选择问答中的知识提取，缓解LLM因格式限制而选错答案的问题，在多个MCQA基准上显著提升准确率。
2026-10-01 cs.CL cs.LG
Clustering by Denoising: Latent plug-and-play diffusion for single-cell data
Cornell Tech（康奈尔技术学院）；Ohio State University（俄亥俄州立大学）；University of Chicago（芝加哥大学）
通过去噪的潜在插件扩散方法提升单细胞数据聚类精度和生物相干性
2026-03-02 cs.LG stat.CO stat.ML
Pixel-wise RL on Diffusion Models: Reinforcement Learning from Rich Feedback
Solofied Ltd.（索洛菲德有限公司）
针对DDPO仅有最终图像奖励导致的稀疏奖励与高样本需求，本文提出PXPO算法，将像素级反馈纳入扩散模型强化学习，以更精细的奖励优化策略。
2024-04-05 cs.CV cs.LG
