Differentiable Autoencoding Neural Operator for Interpretable and Integrable Latent Space Modeling
Department of Mechanical Engineering, University of Utah, Salt Lake City, UT, USA（犹他大学机械工程系）；Imaging Institute, University of Utah, Salt Lake City, UT, USA（犹他大学成像研究所）
本文提出Diano，一种可微自动编码神经算子框架，通过构建可可视化粗网格潜在空间，实现不同空间离散化下的维度和几何缩减，并在潜在空间中直接施加守恒方程，通过编码和解码神经算子实现高效建模。
2026-05-01 cs.LG physics.flu-dyn
BeliefGraph-JEPA: Structured Latent World Models for Action-Conditioned Time Series
Carnegie Mellon University（卡内基梅隆大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；Stevens Institute of Technology（史蒂文斯理工学院）
针对动作条件时间序列预测，提出BeliefGraph-JEPA结构化潜在世界模型，通过类型化潜在效应状态和图路由捕捉未来驱动因素影响，在四个多目标系统上优于多种基线。
2026-10-06 cs.AI cs.LG
From Observed Viability to Internal Predictive Approximation: A Single-Subject Latent-Space Analysis of Gait Dynamics Under Occlusal Constraint
Laboratory of Bioengineering and Nanosciences (LBN)（生物工程与纳米科学实验室）；University of Montpellier（蒙彼利埃大学）；EuroMov Digital Health in Motion（EuroMov数字健康运动）；IMT Mines Alès（IMT矿山阿尔勒）；Certified Sophrologist and Dental Assistant, Sensorimotor Practice（认证的Sophrologist和牙科助理，运动感知实践）；Emeritus Professor（荣誉教授）
研究通过单个受试者数据探讨在咬合约束下步态组织的纵向转变能否在预测潜在空间框架中近似，发现模型能保留位移层次，但不支持通用预测或临床可行性预测。
2026-07-14 cs.LG q-bio.NC
Explainable Recommendation Systems by Generalized Additive Models with Manifest and Latent Interactions
The University of Hong Kong（香港大学）；Suoxinda Holdings Limited（索信达控股有限公司）
近年来，推荐系统领域已经吸引了越来越多的注意力来开发预测模型，该预测模型提供了为什么向用户推荐项目的解释。这些解释可以在拟合相对复杂的模型后通过事后诊断获得，也可以嵌入到本质上可解释的模型中。在本文中，我们提出了可解释的推荐系统的基础上的广义加性模型与显式和潜在的相互作用（GAMMLI）。该模型架构本质上是可解释的，因为它由用户和项目主效应、基于观察到的特征的显式用户-项目交互以及来自残差的潜在交互效应组成。与传统的协同过滤方法不同，该方法考虑了用户和项目的群体效应。这有利于增强模型的可解释性，也可以促进冷启动推荐问题。开发了一个新的Python包GAMMLI，用于高效的模型训练和结果的可视化解释。通过仿真数据和真实案例的数值实验，表明该方法在预测性能和可解释性推荐方面都具有优势。
2020-12-15 cs.AI cs.LG stat.ML
Multimodal Latent Reasoning via Predictive Embeddings
本文提出Pearl框架，通过学习专家工具使用轨迹在潜在空间中进行多模态推理，无需显式调用工具，优于传统重建方法。
2026-04-09 cs.LG
Quantum-Structured World Models (QSWMs) for Predictive Latent Dynamics
Youngstown State University（扬斯敦州立大学）；Kent State University（肯特州立大学）；George Washington University（乔治·华盛顿大学）
本文提出量子结构化世界模型（QSWMs），研究量子启发结构对世界建模的作用，在基本元胞自动机上评估其变体，发现复值QSWM局部预测潜力良好但类密度矩阵变体存在长时序预测局限。
2026-08-07 cs.LG
Latent Event-Predictive Encodings through Counterfactual Regularization
Cluster of Excellence – Machine Learning for Science（卓越集群——科学机器学习）
任何智能系统的一个关键挑战是从连续的数据流中推断结构。事件预测认知理论认为，大脑将感觉运动信息分割成紧凑的事件编码，用于预测和解释环境动态。在这里，我们介绍了一个SUrprise-Gated递归神经网络（SUGAR），它使用了一种新的反事实正则化形式。我们测试模型的层次序列预测任务，其中序列生成交替隐藏图结构。我们的模型学习将任务的时间动态压缩为潜在的事件预测编码，并在正确的时刻预测事件转换，给出关于它们的噪声隐藏信号。反事实正则化项的添加确保了从一个潜在代码到下一个潜在代码的流体转换，由此得到的潜在代码表现出组成特性。所实现的机制在其他领域提供了许多有用的应用，包括层次推理，规划和决策。
2021-05-12 cs.LG
Representation Learning for Sequence Data with Deep Autoencoding Predictive Components
Cornell University（康奈尔大学）；Google（谷歌公司）；Salesforce Research（Salesforce研究院）
我们提出了深度自动编码预测组件（DAPC）-一种用于序列数据的自监督表示学习方法，基于序列数据的有用表示应该在潜在空间中呈现简单结构的直觉。我们鼓励这种潜在的结构，最大限度地提高潜在的特征序列，这是过去和未来的窗口之间的互信息在每个时间步的预测信息的估计。与对比学习常用的互信息下界不同，我们采用的预测信息估计在高斯假设下是精确的。此外，它可以在没有负采样的情况下计算。为了减少由强大的编码器提取的潜在空间的退化，并保留输入中的有用信息，我们用具有挑战性的掩码重建损失来正则化预测信息学习。我们证明，我们的方法恢复噪声动态系统的潜在空间，提取预测任务的预测功能，并提高自动语音识别时，用于预训练编码器上大量的未标记的数据。
2021-02-28 cs.LG
Bootstrap Latent-Predictive Representations for Multitask Reinforcement Learning
DeepMind
学习良好的表示是深度强化学习（RL）的重要组成部分。表示学习在多任务和部分可观察的环境中尤其重要，其中构建未知环境的表示对于解决任务至关重要。在这里，我们介绍了Bootstrap Latents预测（PBL），这是一种简单灵活的多任务深度RL自监督表示学习算法。PBL建立在未来观测的多步预测表示的基础上，并专注于捕获有关环境动态的结构化信息。具体来说，PBL通过预测未来观测的潜在嵌入来训练其表示。这些潜在的嵌入本身被训练为预测上述表示。这些预测形成了一种自举效应，使智能体能够更多地了解环境动态的关键方面。此外，通过完全在潜在空间中定义预测任务，PBL提供了使用涉及像素图像，语言指令，奖励等多模态观察的灵活性。我们在实验中表明，PBL在DMLab-30和Atari-57多任务设置中提供了比最先进的深度RL代理全面改进的性能。
2020-04-30 cs.AI cs.LG
Using Latent Class Analysis to Identify ARDS Sub-phenotypes for Enhanced Machine Learning Predictive Performance
Imedacs（艾美达克斯）；Computer Technology Associates（计算机技术联合公司）
在这项工作中，我们利用机器学习来早期识别急性呼吸窘迫综合征（ARDS）高危患者，这对于这种毁灭性综合征的成功预防策略至关重要。早期识别ARDS的困难源于其复杂性和异质性。在这项研究中，我们将ARDS患者异质性的知识整合到预测模型的建立中。使用MIMIC-III数据，我们首先应用潜在类别分析（LCA）来识别ARDS人群中的同质亚组，然后在分区数据上建立预测模型。结果表明，显着提高性能的预测可以得到两个确定的三个亚表型的ARDS。实验表明，识别亚表型有利于建立ARDS的预测模型。
2019-03-28 cs.LG stat.AP stat.ML
EIDOS: Latent-Space Predictive Learning for Time Series Foundation Models
Nankai University（南开大学）；Eindhoven University of Technology（埃因霍温理工大学）；Yunnan University（云南大学）；University of New South Wales（新南威尔士大学）；Griffith University（格里菲斯大学）
EIDOS通过潜在空间预测学习提升时间序列基础模型的鲁棒性和可靠性。
2026-02-15 cs.AI cs.LG
JEPA-x: Cross-Predictive Physics Grounding for Forecastable Latent Dynamics
XP-JEPA通过将视觉与物理表征交叉预测，提升了潜在动力学的可预测性，在多任务套件上降低了展开漂移并提高了控制成功率，无需特权输入即可实现更优的基于展开的控制性能。
2026-08-31 cs.LG
Continuous-Latent Predictive Modeling with Semantic Alignment for EEG-Language Foundation Models
本文提出BLPM模型，通过CELP编码器与MQSD模块对齐EEG语义，解决EEG基础模型预训练的关键挑战，在多基准任务中实现良好泛化。
2026-08-13 cs.LG
Latent Feature Mining for Predictive Model Enhancement with Large Language Models
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Purdue University（普渡大学）；University of Chicago（芝加哥大学）
针对预测建模中特征数据不足且难以补充的问题，提出FLAME框架，借助大语言模型通过命题逻辑推理挖掘潜在特征以增强机器学习模型，经刑事司法、医疗两个领域验证可有效提升下游分类性能。
2024-10-06 cs.CL cs.LG
Optimal Transport Dropout for Structured Predictive Uncertainty
提出最优传输Dropout（OTD），通过可学习流传输潜在扰动以学习结构化预测不确定性，无需后验推断或集成，在合成和真实回归基准上优于蒙特卡洛Dropout。
2026-09-29 cs.LG cs.NA math.NA
SR-JEPA: Learning Predictive Latent State in 3D Scenes
Boston University（波士顿大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出SR-JEPA，一种面向场景级点云的原生点JEPA，通过仅使用自包含的3D EMA目标训练，在3D场景实体缺失时可查询预测隐状态，在ARKitScenes和Sr3D数据集上取得了良好的语义预测性能，揭示了可组合的3D预测状态。
2026-08-07 cs.CV cs.LG
Predictive Coding for Locally-Linear Control
Stanford University（斯坦福大学）；VinAI；Google Research（谷歌研究院）；Facebook AI Research（Facebook人工智能研究院）
当将最优控制应用于许多现实世界的决策任务时，高维观测和未知动态是主要挑战。学习可控嵌入（LCE）框架通过将观察嵌入到低维潜在空间中，估计潜在动态，然后直接在潜在空间中执行控制来解决这些挑战。为了确保所学习的潜在动态是下一个观测的预测，所有现有的LCE方法都解码回到观测空间并显式地执行下一个观测预测-这是一项具有挑战性的高维任务，此外还引入了大量的讨厌参数（即，解码器），在控制期间丢弃这些数据。在本文中，我们提出了一种新的信息理论LCE方法，并从理论上表明，明确的下一个观察预测可以取代预测编码。然后，我们使用预测编码开发一个无解码器的LCE模型，其潜在的动态是服从局部线性控制。对基准任务的大量实验表明，我们的模型可靠地学习了一个可控的潜在空间，与最先进的LCE基线相比，它具有更好的性能。
2020-03-02 cs.LG cs.SY eess.SY
Learning General Latent-Variable Graphical Models with Predictive Belief Propagation
Stanford University（斯坦福大学）；Carnegie Mellon University（卡内基梅隆大学）
学习一般潜变量概率图模型是机器学习和人工智能的一个关键理论挑战。所有以前的方法，包括EM算法和谱算法，面临着严重的限制，在很大程度上限制了它们的适用性，并影响其性能。为了克服这些局限性，在本文中，我们介绍了一种新的配方的消息传递推理连接树命名为预测的信念传播，并提出了一个新的学习和推理算法的基础上，这种配方的一般潜变量图形模型。该算法将硬参数学习问题简化为一系列监督学习问题，并将不同类型的隐图模型的学习统一到一个无局部最优和统计一致的学习框架中.然后，我们给出了我们的算法的正确性的证明，并在合成和真实数据集上的实验表明，我们的算法显着优于EM算法和谱算法，同时也是数量级更快的计算。
2019-11-28 cs.AI cs.LG stat.ML
TD-JEPA: Latent-predictive Representations for Zero-Shot Reinforcement Learning
FAIR at Meta（Meta 的 FAIR）；ETH Zurich（苏黎世联邦理工学院）
该研究提出TD-JEPA框架，通过时序差分学习从离线无奖励数据中学习跨多策略的长期潜变量预测表示，实现测试时任意奖励函数的零样本优化，在13个数据集的多类任务上达到或超越SOTA，尤其在像素级零样本RL中表现优异。
2025-10-01 cs.LG
Orthogonal JEPA: Factorized Predictive States for Latent World Models
The Chinese University of Hong Kong (CUHK)（香港中文大学（CUHK））
该研究提出正交JEPA框架，通过正交预测分解改进潜在世界模型，在多类任务实验中评估了其表示质量、预测、规划及长时程稳定性。
2026-09-23 cs.LG
Latent-Predictive Empowerment: Measuring Empowerment without a Simulator
Brown University（布朗大学）；Robert Bosch LLC（罗伯特·博世有限责任公司）
提出LPE算法，通过仅依赖latent-predictive模型而非完整模拟器来最大化替代互信息的目标函数，学习大型技能集，在高维随机环境中性能优于现有方法。
2024-10-15 cs.AI cs.LG cs.RO
RD-JEPA: Predictive latent pretraining for few-trajectory transfer across reaction--diffusion equations
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
针对反应-扩散方程代理模型迁移需新模拟数据的问题，提出RD-JEPA自监督预训练架构，在五个系统预训练后适应三个保留系统，用少量轨迹即超越多种基线，实现数据高效迁移。
2026-09-25 cs.AI cs.LG
Predictive but Not Plannable: RC-aux for Latent World Models
Hokkaido University（北海道大学）
本文提出RC-aux，通过改进潜在世界模型的时空匹配，提升规划能力，实验表明其在目标导向任务中表现更优。
2026-05-08 cs.AI cs.CV cs.LG
Temporal Predictive Coding For Model-Based Planning In Latent Space
VinAI Research（VinAI研究院）；Stanford University（斯坦福大学）
高维观测是基于模型的强化学习（MBRL）应用于现实世界环境的一个主要挑战。为了处理高维感觉输入，现有方法使用表示学习来将高维观测映射到更适合于动态估计和规划的低维潜在空间。在这项工作中，我们提出了一个信息理论的方法，采用时间预测编码的环境中，可以预测跨时间的元素进行编码。由于这种方法的重点是编码时间可预测的信息，我们隐式地优先考虑编码的任务相关的组件在环境中的滋扰信息是可证明的任务无关。通过结合递归状态空间模型学习该表示，我们可以在潜在空间中执行规划。我们评估我们的模型上的一个具有挑战性的修改标准DMControl任务的背景被替换为自然的视频，包含复杂的，但不相关的信息的规划任务。我们的实验表明，我们的模型是优于现有的方法，在具有挑战性的复杂背景设置，同时保持竞争力与当前国家的最先进的模型在标准设置。
2021-06-14 cs.AI cs.LG
Observation-Grounded Self-Predictive Reinforcement Learning for Visual Continuous Control
针对视觉连续控制的样本高效策略学习难题，本文提出OG-SPR算法，结合多步隐自预测与下一观测预测，通过轻量适配器优化表示，在DeepMind Control Suite的28项任务中优于现有最优方法。
2026-08-07 cs.LG cs.RO
Predictive Uncertainty through Quantization
University of Amsterdam（阿姆斯特丹大学）
高风险领域需要预测模型的可靠置信度估计。深层潜变量模型提供了这些，但受到用于易处理的推理的刚性变分分布的影响，这在过度自信方面出错。我们提出了随机量化激活分布（SQUAD），它对离散化的潜变量施加了一个灵活而易于处理的分布。所提出的方法是可扩展的，自规范化和样本效率。我们证明了该模型充分利用了灵活的分布，学习有趣的非线性，并提供了竞争质量的预测不确定性。
2018-10-12 cs.LG stat.ML
Integrating Predictive and Generative Capabilities by Latent Space Design via the DKL-VAE Model
Center for Nanointegration Duisburg-Essen (CENIDE), University of Duisburg-Essen（杜伊斯堡-埃森大学纳米集成中心）；Department of Materials Science and Engineering, University of Tennessee（田纳西大学材料科学与工程系）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
提出 VAE-DKL 框架，结合 VAE 生成能力与 DKL 预测特性，通过高斯过程回归优化潜在空间，实现高精度属性预测并生成新结构，为高通量材料发现提供新方法。
2025-03-04 cond-mat.mtrl-sci cs.LG
EEG-VID: Task-Guided Latent Predictive Pretraining for EEG Decoding and Assistive Target Selection
School of Information and Control Engineering, China University of Mining and Technology（中国矿业大学信息与控制工程学院）；School of Automation and Intelligent Sensing, Shanghai Jiao Tong University（上海交通大学自动化与智能感知学院）；Shanghai Innovation Institute（上海创新研究院）
本研究提出EEG-VID预训练框架，通过指数移动平均目标编码器与弱任务引导实现EEG解码，在多数据集及场景任务中提升准确率，为EEG解码与辅助目标选择提供可迁移预训练策略。
2026-10-27 cs.AI cs.LG
Characterizing the Predictive Impact of Modalities with Supervised Latent-Variable Modeling
New York University（纽约大学）；Grossman School of Medicine（格罗斯曼医学院）；Genentech（基因泰克）；CIFAR（加拿大弗雷德里克·班克特研究所）
PRIMO是一种监督潜在变量插补模型，用于量化多模态学习中缺失模态的预测影响，通过方差度量评估模态对预测的影响。
2026-02-19 cs.CL cs.CV cs.LG
J-LAW: Joint Localization and Action-Conditioned World Modeling via Coupled Latent Factor Graphs
Geely Technology Europe（吉利技术欧洲公司）；State Key Laboratory of Information Engineering in Surveying, Mapping and Remote Sensing (LIESMARS)（信息工程测绘与遥感国家重点实验室（LIESMARS））；Wuhan University（武汉大学）
提出J-LAW，通过耦合因子图联合优化度量物体位姿、潜在世界状态和潜在地标嵌入，实现定位与可操作世界建模的协同提升，实验证明能显著降低潜在预测误差和端点漂移。
2026-09-01 cs.LG cs.RO
MoleCLUEs: Molecular Conformers Maximally In-Distribution for Predictive Models
Prescient Design, Genentech（Prescient Design，基因泰克）
针对基于结构的分子机器学习模型预测方差大、构象选择难的问题，提出通过可微不确定性估计与梯度下降生成MoleCLUEs构象体的方法，可提升药物性质预测置信度并揭示不确定性来源。
2023-11-06 cs.LG q-bio.QM
What Do Latent Predictive Vehicle Representations Retain? Measuring State, Geometry, and Local Response
本文提出一种测量协议，分别测试动作条件潜在预测器的保留、预测和局部响应能力，案例研究显示其保留物理输出但响应偏离模拟器，为控制应用提供评估基础。
2026-09-29 cs.LG cs.SY eess.SY
Multivariate Temporal Autoencoder for Predictive Reconstruction of Deep Sequences
Altum Intelligence（Altum Intelligence（阿尔图姆智能））
时间序列序列预测和建模已被证明是现实世界数据集的一项具有挑战性的工作。两个关键问题是数据的多维性和形成潜在输出信号的独立维度的相互作用，以及预测模型内部的多维时间数据的表示。本文提出了一种多分支深度神经网络方法来解决上述问题，通过使用循环自动编码器分支对数据窗口的潜在状态向量表示进行建模，随后将训练的潜在向量表示馈送到模型的预测器分支中。该模型此后被称为多变量时间自动编码器（MvTAe）。本文中的框架利用了一个合成的多变量时态数据集，其中包含的维度相结合，以创建一个隐藏的输出目标。
2020-10-07 cs.LG
Multi-step Predictive Coding Leads To Simplicity Bias
Technion – Israel Institute of Technology（技术学院 – 以色列理工学院）
本研究探究预测范围和网络深度对预测编码任务解决方案的影响，发现足够深的网络结合多步预测范围能持续恢复潜在结构，扩展到非线性网络和复杂数据集，为预测编码诱导结构化表示提供了原则性理解。
2025-11-12 cs.LG q-bio.NC
Compressed Predictive Information Coding
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
无监督学习在人工智能、机器学习和神经科学等领域发挥着重要作用。与静态数据相比，动态数据的低维结构提取方法相对滞后。我们开发了一种新的信息理论框架，压缩预测信息编码（CPIC），从动态数据中提取有用的表示。CPIC选择性地将过去（输入）投影到线性子空间中，该线性子空间预测从未来（输出）投影的压缩数据。我们的框架的关键见解是通过最小化压缩复杂性和最大化潜在空间中的预测信息来学习表示。我们推导出变的CPIC损失的潜在空间，以捕捉信息，最大限度地预测。利用互信息的边界，我们的变分边界是易于处理的。我们发现，在编码器中引入随机性鲁棒有助于更好的表示。此外，变分方法在互信息估计中的性能优于高斯假设下的估计。我们证明了CPIC能够恢复低信噪比的噪声动力系统的潜在空间，并提取预测神经科学数据中外源变量的特征。
2022-03-03 cs.IT cs.LG math.IT
Self-Supervised Representation Learning via Latent Graph Prediction
Texas A&M University（德克萨斯农工大学）
图神经网络的自监督学习（SSL）正在成为利用未标记数据的一种有前途的方法。目前，大多数方法都是基于从图像域适应的对比学习，这需要视图生成和足够数量的负样本。相比之下，现有的预测模型不需要负采样，但缺乏理论指导的借口训练任务的设计。在这项工作中，我们提出了LaGraph，一个理论上接地预测SSL框架的基础上潜图预测。LaGraph的学习目标是作为预测未观察到的潜在图的目标的自监督上界。除了改进性能外，LaGraph还解释了包括基于不变性目标的预测模型最近的成功。我们提供了理论分析比较LaGraph在不同领域的相关方法。我们的实验结果表明，LaGraph在性能上的优越性和鲁棒性的减少训练样本大小的图级和节点级的任务。
2022-07-09 cs.LG
Hidden Axis of Uncertainty: Latent-Posterior Alignment in Graph Neural Networks with Bayesian Output Layers
Korea Institute of Science and Technology（韩国科学技术研究院）；Clean Energy Research Center（清洁能源研究中心）
该研究针对带贝叶斯输出层的图神经网络，发现潜在-后验对齐现象，提出对齐引导学习方法，可降低预测不确定性并改善结构校准，为不确定性动力学提供新视角。
2026-08-24 cs.LG
Predictive Self-Supervised Learning Provably Identifies Stochastic Signals under Nuisance
Friedrich Miescher Institute for Biomedical Research（弗里德里希·米舍尔生物医学研究所）；University of Basel（巴塞尔大学）
本文证明预测性自监督学习通过预测互信息最大化和潜在分布匹配两个原则，能在干扰下识别随机信号，并在模拟中验证了其可识别性。
2026-09-30 cs.AI cs.LG
Discovering Latent States for Model Learning: Applying Sensorimotor Contingencies Theory and Predictive Processing to Model Context
AI Lab of SoftBank Robotics Europe (Aldebaran)（软银机器人欧洲公司人工智能实验室（Aldebaran））
自主机器人需要能够适应不可预见的情况，并通过试错获得新技能。强化学习原则上为这种自主学习提供了一个合适的方法框架。然而，当前的计算强化学习代理大多完全从零开始学习每个单独的技能。我们如何才能使人工智能体，如机器人，获得某种形式的通用知识，他们可以利用这些知识来学习新技能？本文认为，像大脑一样，人工智能体的认知系统必须发展一个世界模型来支持适应性行为和学习。灵感来自认知科学文献中的两个最新发展：认知的预测处理理论和感知的感觉运动偶然性理论。在此基础上，提出了一个关于内部世界模型中编码的信息内容以及智能体如何自主获取信息的假设，描述了一个计算模型来形式化这一假设，并在一系列仿真实验中进行了评估。
2016-08-01 cs.AI cs.LG cs.RO
D-JEPA: A Decision-Aligned Latent World Model
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Boston University（波士顿大学）；Shanghai Jiao Tong University（上海交通大学）
D-JEPA提出决策对齐的潜在世界模型，通过学习候选未来间的决策相关关系，弥补预测与执行成功间的差距，在多个控制任务中显著提升动作选择性能。
2026-09-22 cs.LG cs.RO
LS-AR: Future-Predictive Latent Steering in Autoregressive LLMs
University College London（伦敦大学学院）
LS-AR通过双通道架构将连续目标引导与离散令牌解码解耦，在长程检索和规划任务中显著提升性能与效率，并增强对提示注入的防御。
2026-10-05 cs.LG
Predictive variational autoencoder for learning robust representations of time-series data
Cold Spring Harbor Laboratory（冷泉港实验室）；School of Biological Sciences（生物科学学院）；Princeton Neuroscience Institute（普林斯顿神经科学研究所）
针对变分自编码器学习时序数据潜表征易受噪声干扰的问题，提出带时序预测约束的VAE架构与基于潜空间时间平滑性的模型选择指标，二者结合可生成鲁棒潜表征，在合成数据集上有效恢复真实潜因子。
2023-12-12 cs.LG q-bio.NC
What does a Bayes-filtered transformer believe? A predictive Monte Carlo approach
Monash University（莫纳什大学）
研究贝叶斯滤波变压器（BFT）在预测时内化的潜在任务先验和后验，现有预测空间比较方法脆弱。提出用预测蒙特卡罗（PMC）作为通用解释工具，通过下一个token生成近似潜在任务的隐式先验和后验，并应用于三个任务族验证，直接在潜在空间回答解释性问题。
2026-07-21 cs.LG
What Can Latent World Models Know? Physical Information in Multimodal Predictive Representations
New York University（纽约大学）；Carnegie Mellon University（卡内基梅隆大学）；Columbia University（哥伦比亚大学）
该研究通过可控实验揭示，隐式世界模型的目标函数结构决定其获取的物理参数，输入与预测目标分别限制和决定可获知的物理量，额外数据仅优化已获取的参数。
2026-09-29 cs.LG cs.RO
Differentiable Generalised Predictive Coding
Otto-von-Guericke University（奥托·冯·格里克大学）
本文论述了与神经过程理论相一致的可微动力学模型，该模型将大脑功能视为解释观察结果的内部生成模型的分层细化。我们的工作扩展了现有的基于梯度的预测编码与自动微分的实现，并允许集成深度神经网络的非线性状态参数化。基于梯度的预测编码通过优化从刺激向潜在状态传播的精确加权预测误差来局部优化每层的推断状态和权重。预测向后流动，从潜在状态向较低层流动。这里建议的模型优化潜在状态的层次和动态预测。分层预测对预期内容和分层结构进行编码。动态预测捕获编码内容中的变化以及高阶导数。分层和动态预测相互作用，并解决相同的潜在状态的不同方面。我们将该模型应用于各种感知和规划任务的序列数据，并显示它们之间的相互依赖性。特别是，我们演示了如何学习采样距离并行地址有意义的位置数据采样在离散的时间步长。我们讨论的可能性，放松假设的线性层次结构有利于更灵活的图形结构与紧急性质。我们比较了模型的颗粒结构与描述生物网络中预测编码的典型微电路，并回顾了马尔可夫毯作为表征模块性的工具的连接。最后一节概述了在嵌套的时空层次结构中有效感知和规划的想法。
2021-12-08 cs.AI cs.LG cs.NE
Identification of Pediatric Sepsis Subphenotypes for Enhanced Machine Learning Predictive Performance: A Latent Profile Analysis
Computer Technology Associates（计算机技术协会）；Imedacs（伊梅达克斯公司）；Children’s National Health System（儿童国家医疗系统）；NYU Langone Health（纽约大学朗格尼医学中心）；MedStar Health System（梅德斯塔医疗系统）
背景资料：虽然机器学习（ML）模型正在迅速成为重症监护医学中有前途的筛选工具，但在具有异质性疾病（如儿科败血症）的人群中识别同质亚表型可能有助于实现这些预后算法的高预测性能。本研究旨在确定儿科败血症的亚表型，并证明基于分区数据/子分型的训练的潜在价值。研究方法：这是一项回顾性研究，其临床数据摘自DC地区一家大型医院系统收治的6，446例儿科患者的病历。符合脓毒症诊断标准的患者的生命体征和实验室检查用于进行潜伏特征分析。现代ML算法用于探索通过标签分析减少训练数据异质性的预测性能优势。结果如下：在该队列中，共有134例（2.1%）患者符合脓毒症的诊断标准，潜伏特征分析确定了儿科脓毒症的4种特征/亚表型。概况1和概况3的死亡率最低，包括不同年龄组的儿科患者。特征2以呼吸功能障碍为特征，特征4以神经功能障碍为特征，死亡率最高（22.2%）。比较在没有训练数据剖析的情况下导出的模型与剖析目标模型的预测性能的机器学习实验表明，可以获得统计学上显著改进的预测性能。例如，用24小时数据预测曲线4所获得的ROC曲线下面积（AUC）（AUC = 0.998，p <0.0001）与用24小时数据从将所有曲线视为单一同质组的模型获得的AUC（AUC = 0.918）相比是有利的。
2019-08-23 cs.LG q-bio.QM stat.AP
LaDi-WM: A Latent Diffusion-based World Model for Predictive Manipulation
National University of Defense Technology（国防科技大学）；Peking University（北京大学）；Shenzhen University（深圳大学）
提出基于潜在扩散的世界模型 LaDi-WM，利用预训练视觉基础模型对齐的潜在空间预测未来状态演化，并结合扩散策略迭代优化动作，在 LIBERO-LONG 和真实世界基准上分别提升 27.9% 和 20% 性能且具强泛化能力。
2025-09-12 cs.AI cs.LG cs.RO
Similar Predictive Fit but Different Latent Dynamics: Characterizing Learned Dynamical Structure in Personalized Models of Brain Disorders
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Carle Foundation Hospital（卡尔基金会医院）
该研究针对脑疾病个性化模型，发现即使预测拟合相似，癫痫与非癫痫组的学习动力学结构仍存在显著差异，表明需结合学习结构评估个性化临床模型。
2026-10-09 cs.LG eess.SP q-bio.NC
Predictive Objectives Discard Exogenous Control-Relevant Features: A Controlled Mechanistic Study
研究发现联合嵌入预测目标会丢弃外生但控制相关的特征，即使这些特征易于编码；通过受控实验比较六种目标，发现无奖励预测目标均导致该特征接近随机精度，而奖励接地变体可选择性保留。
2026-06-29 cs.LG
JEPA-Bisim: Learning Robust Visual Representations for Planning with Joint-Embedding Predictive World Models
Department of Electrical Engineering, Columbia University, New York, USA.（电气工程系，哥伦比亚大学，纽约，美国）
本文提出了一种联合嵌入预测世界模型，通过引入双模拟编码器增强对慢特征的鲁棒性，提升在减少潜在空间中的导航任务性能。
2026-10-02 cs.LG math.OC
Towards General Modality Translation with Contrastive and Predictive Latent Diffusion Bridge
Bosch AI Center（博世人工智能中心）；Ben-Gurion University of the Negev（巴伊兰大学）；Technical University of Munich（慕尼黑技术大学）
本文提出LDDBM框架，基于潜扩散桥实现任意模态间翻译，通过对比与预测损失增强语义一致性，在多项任务上表现优异。
2025-10-26 cs.AI cs.CV cs.LG
CausalDreamer: Learning Predictive World Models with Latent Disentanglement
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）；Carnegie Mellon University（卡内基梅隆大学）
CausalDreamer通过冻结Dreamer 4的分词器并将其潜在向量重新编码为可控性和奖励相关性轴的分解表示，微调动力学模型，在MMBench2任务上提升了规划性能，能区分奖励无关与相关变化。
2026-10-09 cs.LG
SJEPA: Learning Elegant Latent Dynamics with Hybrid Symbolic-Neural Predictors
SJEPA是一种无重构的JEPA框架，结合符号定律与神经修正学习简洁潜在动力学，在受控摆实验中展现更优性能，揭示了多目标间的可控权衡。
2026-08-06 cs.AI cs.LG
Learning to Filter with Predictive State Inference Machines
Carnegie Mellon University（卡内基梅隆大学）；Georgia Institute of Technology（佐治亚理工学院）
潜状态空间模型是动态系统建模的基础和广泛使用的工具。然而，它们很难从数据中学习，并且学习的模型通常在推理任务（如过滤和预测）上缺乏性能保证。在这项工作中，我们提出了预测状态推理机（PSIM），一个数据驱动的方法，认为推理过程中的一个动态系统作为一个组成的预测。关键思想是，PSIM不是首先学习潜在的状态空间模型，然后使用学习的模型进行推理，而是直接学习预测器，用于预测状态空间中的推理。我们在可实现和不可知的环境中为推理提供理论保证，并在各种模拟和真实世界的机器人基准测试中展示实际性能。
2016-05-30 cs.LG
