Transfer learning based few-shot classification using optimal transport mapping from preprocessed latent space of backbone neural network
Czech Technical University in Prague(捷克理工大学);Faculty of Information Technology(信息技术学院)
MetaDL Challenge 2020专注于Few-Shot设置中的图像分类任务。本文介绍了第二个最好的提交在竞争中。我们的元学习方法修改了由骨干网络为每个类产生的潜在空间中的类的分布,以便更好地遵循高斯分布。在我们称为潜在空间变换算法的这个操作之后,类的中心以期望最大化算法的迭代方式进一步对齐,以利用通常在少数标记实例之上提供的未标记数据中的信息。对于这项任务,我们利用最佳运输映射使用Sinkhorn算法。实验结果表明,该方法优于以往的工作,以及其他变种的算法,使用K-最近邻算法,高斯混合模型等。
2021-02-11 cs.CV cs.LG
LatentHDR: Decoupling Exposure from Diffusion via Conditional Latent-to-Latent Mapping for Text/Image-to-Panoramic HDR
Monks AI Research Lab(Monks AI研究院)
本文提出LatentHDR框架,通过在潜在空间中解耦场景生成与曝光建模,实现高效且结构一致的HDR生成,实验表明其在动态范围和感知质量上优于现有方法,并显著降低计算成本。
2026-05-11 cs.CV cs.GR cs.LG
Domain Translation via Latent Space Mapping
INSA Rouen Normandie(诺曼底鲁昂国立应用科学学院);Univ Rouen Normandie(诺曼底鲁昂大学);LITIS UR 4108(LITIS 4108联合研究单位)
在本文中,我们研究多域转换的问题:给定域$A$的一个元素$a$,我们希望在另一个域$B$中生成一个相应的$b$样本,反之亦然。在多个域中获取监督可能是一项繁琐的任务,我们还建议在监督作为一对$(a,b)\sim A\times B$可用时学习从一个域到另一个域的这种转换,并在只有$a\sim A$或只有$b\sim B$可用时利用可能的未配对数据。我们引入了一个新的统一的框架,称为潜在空间映射(\model),利用流形假设,以学习,从每个域,一个潜在的空间。与现有的方法不同,我们建议通过学习域对之间的每个依赖关系,使用可用域进一步正则化每个潜在空间。我们在三个任务中评估我们的方法,执行i)具有图像翻译的合成数据集,ii)医学图像的语义分割的现实任务,以及iii)面部标志检测的现实任务。
2022-12-06 cs.CV cs.LG
FMNet: Latent Feature-wise Mapping Network for Cleaning up Noisy Micro-Doppler Spectrogram
University College London(伦敦大学学院)
微多普勒信号包含了大量的目标动态信息。然而,雷达感测系统容易受到噪声环境的影响,导致微多普勒频谱图上的不可解释的运动模式。同时,雷达回波信号往往受到多径、杂波和干扰的影响。这些问题导致的困难,例如运动特征提取,活动分类使用微多普勒签名($μ$-DS)等,在本文中,我们提出了一个潜在的功能明智的映射策略,称为特征映射网络(FMNet),变换测得的频谱图,使它们更接近模拟在相同条件下的输出。该框架基于实测谱图和匹配的模拟数据,包含三个部分:编码器,用于提取潜在表征/特征;解码器,根据潜在特征输出重构谱图;判别器,用于最小化实测数据和模拟数据的潜在特征距离。我们使用六个活动数据和两个实验场景对FMNet进行了演示,最终结果显示出强烈的增强模式,并且可以最大程度地保留实际的运动信息。另一方面,我们还提出了一个新的想法,即只使用模拟数据训练分类器,并在使用FMNet清理后预测新的测量样本。从最终的分类结果中,我们可以看到显著的改进。
2021-07-09 cs.LG eess.SP
Improving Deep Dynamics Models for Autonomous Vehicles with Multimodal Latent Mapping of Surfaces
University of Freiburg(弗赖堡大学);Toyota Research Institute(丰田研究院);University of Technology, Nuremberg(纽伦堡工业大学)
自动驾驶汽车的安全部署取决于它们对环境变化的有效反应能力。这可能需要在变化的表面上操纵,这仍然是一个困难的问题,特别是对于光滑的地形。为了解决这个问题,我们提出了一种新的方法,学习表面感知的动态模型的条件下,它对一个潜在的变量向量存储有关当前位置的表面信息。训练潜在映射器以在每次遍历对应位置时从多个模态进行推断期间更新这些潜在变量,并将它们存储在地图中。通过端到端地训练所有内容,同时丢失动态模型,我们强制潜在映射器学习对后续动态模型有用的潜在映射的更新规则。我们实施和评估我们的方法上一个真正的微型电动汽车。结果表明,与没有此信息的模型相比,潜在映射被更新以允许对动力学模型进行更准确的预测。我们进一步表明,通过使用该模型,可以提高驾驶性能的变化和具有挑战性的表面。
2023-03-21 cs.LG cs.RO
L-Drive: Beyond a Single Mapping-Latent Context Drives Time Series Forecasting
Business University, Yantai, Shandong, China(山东商业大学);Ludong University, Yantai, Shandong, China(鲁东大学)
针对分布偏移和机制变化导致直接映射范式在转折点响应滞后的问题,提出L-Drive框架,通过引入潜在上下文表征高层动态并利用门控调制增量表示,提升对变化段的适应能力,同时采用补丁共享相对位置基函数增强段内结构建模,实现预测精度与计算效率的更好平衡。
2026-05-25 cs.AI cs.LG
Pattern Localization in Time Series through Signal-To-Model Alignment in Latent Space
University of Cantabria(坎塔布里亚大学);IMT Lille Douai(里尔-杜埃国立高等矿业电信学院);Tecnatom S.A.(泰克纳通公司)
在本文中,我们研究的问题定位一个预定义的序列模式的时间序列。特别是,所研究的方案假设一个理论模型是可用的,其中包含的模式的预期位置。这个问题在几种情况下都会出现,通常通过首先从模型中合成时间序列,然后通过动态时间扭曲将其与真实时间序列对齐来解决。我们提出了一种技术,增加了这两个时间序列的相似性,然后将它们映射到一个潜在的相关空间。映射是通过机器学习设置从数据中学习的。无损检测数据的实验表明,所提出的方法显示出显着的改进,在最先进的。
2018-02-19 cs.LG stat.ML
Learning mappings onto regularized latent spaces for biometric authentication
Politecnico di Torino(都灵理工大学)
提出了一种基于深度神经网络的通用生物特征认证架构:RegNet。与其他方法不同的是,RegNet在一个行为良好的空间中学习输入生物特征到目标分布的映射,在这个空间中,用户可以通过简单和可调的边界来分离。更具体地说,授权和未授权的用户被映射到两个不同的和良好的行为高斯分布。学习映射而不是边界的新方法进一步避免了在典型分类器中遇到的问题,对于典型分类器,学习的边界可能是复杂的并且难以分析。RegNet在安全性指标方面实现了高性能,例如相等出错率(EER)、错误接受率(FAR)和真实接受率(GAR)。在公开的人脸和指纹数据集上进行的实验证实了该系统的有效性。
2019-11-20 cs.CV cs.LG cs.MM
Intrinsic Universal Measurements of Non-linear Embeddings
CSIRO Data61(澳大利亚联邦科学与工业研究组织Data61);The Australian National University(澳大利亚国立大学)
机器学习中的一个基本问题是找到从低维潜在空间$\mathcal{Y}$到高维观测空间$\mathcal{X}$的映射$f$。诸如深度神经网络之类的现代工具能够表示一般的非线性映射。一个学习者可以很容易地找到一个映射,完全符合所有的观察。然而,这样的映射通常不被认为是好的,因为它不够简单并且可能过拟合。如何定义简单性?我们试图对非线性映射$f$所施加的信息量做出一个正式的定义。直观地,我们测量的拉回几何和潜在空间的内在几何之间的局部差异。我们的定义是基于信息几何,是独立的经验观察,也没有具体的参数化。我们证明了它的基本性质,并讨论了相关的机器学习方法的关系。
2022-08-01 cs.LG stat.ML
Heterogenous Multi-Source Data Fusion Through Input Mapping and Latent Variable Gaussian Process
Northwestern University(西北大学);GE Aerospace Research(GE航空研究院)
针对异构多源数据融合中输入空间不匹配的问题,提出基于输入映射校准和潜变量高斯过程的框架,通过统一参数空间构建来源感知代理模型,在三个工程案例中提升了预测精度。
2024-07-15 cs.CE cs.LG stat.ML
Latent space mapping of interpretable structural coordinates from stochastic single-molecule signals
imec
提出通过对比编码器将纳米孔随机信号映射到可解释分子结构坐标的潜空间,实现高效识别与数据融合。
2026-06-16 cs.LG physics.bio-ph physics.chem-ph
Hierarchical Latent Semantic Mapping for Automated Topic Generation
School of Information and Communication Engineering(信息与通信工程学院);Beijing University of Posts and Telecommunications(北京邮电大学)
许多信息存在于前所未有的大量文本数据中。管理这些大规模文本数据的分配是许多领域的重要问题。主题模型在这个问题上表现得很好。传统的生成式模型(PLSA,LDA)是话题建模的主流方法,近年来对话题生成的研究主要集中在对这些模型的改进和扩展上。然而,传统生成模型的结果对主题数量K敏感,必须手动指定。从语料库中生成主题的问题类似于网络中的社区发现。许多有效的算法可以自动地从网络中发现社区,而无需手动指定社区的数量。受这些算法的启发,本文提出了一种新的基于层次潜在语义映射(HLSM)的主题自动生成方法。HLSM计算潜在主题空间中每对词之间的关联,然后构建具有这种关联的词的单分网络,并从该网络分层生成主题。我们将HLSM应用于几个文档集合,并与几种最先进的方法进行了实验比较,证明了其良好的性能。
2015-11-26 cs.CL cs.IR cs.LG
Face Identity Disentanglement via Latent Space Mapping
Tel-Aviv University(特拉维夫大学);Alibaba Cloud Intelligence Business Group(阿里云智能事业群)
学习数据的解纠缠表示是人工智能的一个基本问题。具体来说,解纠缠的潜在表征允许生成模型控制和合成的解纠缠的因素在合成过程中。然而,目前的方法需要广泛的监督和培训,或者相反,明显损害质量。在本文中,我们提出了一种学习如何以一种解脱的方式表示数据的方法,只需最少的监督,仅使用可用的预训练网络。我们的关键见解是通过采用领先的预训练无条件图像生成器(如StyleGAN)来解耦解纠缠和合成的过程。通过学习映射到其潜在空间,我们利用其最先进的质量,以及其丰富和富有表现力的潜在空间,而无需训练它。我们展示了我们在人类头部的复杂和高维域上的方法。我们评估我们的方法定性和定量,并展示其成功与去识别操作和时间身份的一致性图像序列。通过大量的实验,我们证明了我们的方法成功地将身份从其他面部属性中分离出来,超越了现有的方法,尽管它们需要更多的训练和监督。
2020-10-19 cs.CV cs.GR cs.LG
Calibrated simplex-mapping classification
Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);Fraunhofer Institute for Industrial Mathematics ITWM(弗劳恩霍夫工业数学研究所ITWM)
我们提出了一种新的方法,一般多类分类在任意特征空间,这可能会导致良好的校准分类。校准的分类器在许多应用中是重要的,因为除了仅仅预测类别标签之外,它们还为它们的每个预测产生置信水平。本质上,我们的分类器的训练分为两个步骤。在第一步骤中,在潜在空间中表示训练数据,该潜在空间的几何形状由规则的$(n-1)$维单纯形诱导,$n$是类的数量。我们设计这种表示的方式,它很好地反映了数据点的特征空间距离,他们自己的和外国的邻居。在第二步骤中,通过将回归模型拟合到变换后的数据,将训练数据的潜在空间表示扩展到整个特征空间。有了这个潜在的空间表示,我们校准的分类器很容易定义。我们严格建立其核心理论属性,并通过来自不同应用领域的各种合成和真实世界的数据集对其预测和校准属性进行基准测试。
2023-01-10 cs.LG stat.ML
LatentFlow: Cross-Frequency Experimental Flow Reconstruction from Sparse Pressure via Latent Mapping
LatentFlow提出一种跨模态时间上采样框架,通过pC-β-VAE和压力到潜在空间的映射,仅利用高频稀疏壁面压力即可从低频PIV数据重建512 Hz湍流尾流场,解决了数据受限实验中的高频流场重建难题。
2025-08-19 cs.AI cs.LG physics.flu-dyn
Modal Uncertainty Estimation via Discrete Latent Representation
The Chinese University of Hong Kong(香港中文大学)
现实世界中的许多重要问题并没有独特的解决方案。因此,重要的是机器学习模型能够提出不同的合理的解决方案与有意义的概率措施。在这项工作中,我们引入了这样一个深度学习框架,它学习输入和输出之间的一对多映射,以及忠实的不确定性度量。我们称我们的框架为{ \it模态不确定性估计},因为我们对通过一组离散潜变量生成的一对多映射进行建模,每个潜变量表示解释相应类型的输入-输出关系的潜模式假设。因此,潜在表示的离散性质使我们能够非常有效地估计任何输入的输出的条件概率分布。离散潜在空间及其不确定性估计在训练期间联合学习。我们通过当前条件生成模型中的多模态后验崩溃问题来激励我们使用离散潜在空间,然后发展理论背景,并在合成和现实任务上广泛验证我们的方法。我们的框架展示了更准确的不确定性估计比目前最先进的方法,是翔实的,方便的实际使用。
2020-07-25 cs.CV cs.LG stat.ML
CR-LSO: Convex Neural Architecture Optimization in the Latent Space of Graph Variational Autoencoder with Input Convex Neural Networks
School of Systems Science, Beijing Normal University(北京师范大学系统科学学院);School of System Design and Intelligent Manufacturing, Southern University of Science and Technology(南方科技大学系统设计与智能制造学院);Department of Electrical and Computer Engineering, University of Illinois Chicago(伊利诺伊大学芝加哥分校电气与计算机工程系)
针对潜空间优化中性能映射非凸导致梯度搜索困难的问题,提出CR-LSO方法,利用输入凸神经网络正则化图变分自编码器学习凸映射,在三个NAS基准上取得有竞争力的性能与效率。
2025-04-25 cs.AI cs.LG
Zero-shot Imitation Learning by Latent Topology Mapping
Purdue University, Department of Computer Science(普渡大学计算机科学系)
本文提出ZALT方法,通过识别潜在枢纽状态和拓扑规划,实现对未见过的任务的零样本适应,实验显示其在复杂3D迷宫环境中表现优于基线方法。
2026-05-08 cs.AI cs.LG
Big Data Scaling through Metric Mapping: Exploiting the Remarkable Simplicity of Very High Dimensional Spaces using Correspondence Analysis
University of Derby(德比大学);Goldsmiths University of London(伦敦大学金史密斯学院)
我们提出了新的发现,在非常高维空间的数据分析。我们使用的维度高达一百万左右。对应分析的一个特别的好处是它适用于执行一个正交映射,或缩放,幂律分布的数据。幂律分布的数据在很多领域都存在。对应因子分析提供了一个潜在的语义或主轴映射。我们的实验使用了来自数字化学和金融的数据,以及其他统计生成的数据。
2015-12-13 cs.LG stat.ML
Variational Encoder-Decoders for Learning Latent Representations of Physical Systems
Columbia University(哥伦比亚大学);Pacific Northwest National Laboratory(西北太平洋国家实验室)
提出变分编码器-解码器(VED)框架学习物理系统参数与可观测响应间的低维表示,通过正则化促进潜在编码解耦,在地下水流模型中实现低维高精度重建,且调整参数可提升生成能力。
2024-12-06 cs.LG stat.ML
Conditional generation of multi-modal data using constrained embedding space mapping
IBM Research-Tokyo(IBM东京研究院)
我们提出了一个条件生成模型,映射到一个共同的潜在空间,从而提取它们之间的语义关系的低维嵌入的多种形式的数据。首先提取特定于模态的嵌入,随后执行约束优化过程以将两个嵌入空间投影到公共流形。个体嵌入是从这个公共潜在空间中生成的。然而,为了实现独立的条件推理,用于从公共潜在空间表示中单独提取对应的嵌入,我们部署了代理变量技巧-其中,单个共享潜在空间被每个模态的相应单独潜在空间替换。我们设计了一个目标函数,使得在训练过程中,我们可以通过最小化它们的概率分布函数之间的距离来迫使这些独立的空间彼此靠近。实验结果表明,学习的联合模型可以推广到学习的概念,双MNIST数字与颜色的附加属性,从文本和语音输入。
2017-07-26 cs.AI cs.CV cs.LG
IVE-GAN: Invariant Encoding Generative Adversarial Networks
Bayer AG(拜耳公司)
生成对抗网络(GANs)是生成任务的强大框架。然而,它们难以训练,并且往往会错过真实数据生成过程的模式。虽然GANs可以在其潜在空间中学习数据的覆盖模式的丰富表示,但该框架错过了从数据到该潜在空间的逆映射。我们提出了不变编码生成对抗网络(IVE-GANs),这是一种新的GAN框架,它通过利用数据中对某些变换不变的特征,为数据中的单个样本引入了这种映射。由于模型将单个样本映射到潜在空间,因此它自然会鼓励生成器覆盖所有模式。我们证明了我们的方法在生成性能和学习丰富的表示几个数据集,包括常见的基准图像生成任务方面的有效性。
2017-11-23 cs.LG stat.ML
Double Diffusion Maps and their Latent Harmonics for Scientific Computations in Latent Space
Johns Hopkins University(约翰斯·霍普金斯大学);Technical University of Munich(慕尼黑工业大学);Polytechnic University of Turin(都灵理工大学);University of Washington(华盛顿大学)
本文提出双重扩散映射框架,用同一数据驱动流程发现潜坐标、近似约化动力学并通过 Latent Harmonics 提升回环境空间,且比较验证了三种潜空间数值模拟方法。
2022-04-26 cs.LG math.DS stat.ML
Representing Closed Transformation Paths in Encoded Network Latent Space
Georgia Institute of Technology(佐治亚理工学院)
深度生成网络已被广泛用于学习从低维潜在空间到高维数据空间的映射。在许多情况下,数据转换由该潜在空间中的线性路径定义。然而,潜在空间的欧几里德结构对于数据中的底层潜在结构来说可能是较差的匹配。在这项工作中,我们将生成流形模型纳入自动编码器的潜在空间,以便从数据中学习低维流形结构,并调整潜在空间以适应这种结构。特别是,我们专注于应用程序中的数据具有封闭的转换路径,从一个起点延伸,并返回到几乎相同的点。通过对具有自然闭合变换路径的数据的实验,我们表明,该模型引入了学习复杂系统的潜在动态、生成变换路径以及对属于同一变换路径的样本进行分类的能力。
2019-12-05 cs.LG stat.ML
Learning Multilingual Word Embeddings in Latent Metric Space: A Geometric Approach
Microsoft(微软);IIT Madras(印度理工学院马德拉斯分校)
我们提出了一种新的几何方法学习双语映射单语嵌入和双语字典。我们的方法将学习从源语言到目标语言的转换分为(a)学习特定语言嵌入的旋转以将它们对齐到公共空间,以及(b)学习公共空间中的相似性度量以模拟嵌入之间的相似性。我们将双语映射问题建模为光滑黎曼流形上的优化问题。我们表明,我们的方法优于以前的方法在双语词汇归纳和跨语言词相似性任务。我们还概括了我们的框架,以表示在一个共同的潜在空间的多种语言。特别是,几种语言的潜在空间表示联合学习,给出多语言对的双语词典。我们说明了联合学习的有效性,为多种语言在zero-shot单词翻译设置。我们的实现可以在https://github.com/anoopkunchukuttan/geomm上获得。
2018-12-18 cs.AI cs.CL cs.LG
Can Deep Learning Achieve Cross-Physics Mapping?
Bundesanstalt für Materialforschung and -prüfung (BAM)(德国联邦材料研究与测试研究所)
本研究提出跨物理映射(CPM)框架,证明深度学习可在共享潜在流形上实现扩散与波场间的双向映射,但精度受方向性信息限制,U-NO和GNO分别最优。
2026-09-16 cs.LG physics.app-ph
Geometry Aware Mappings for High Dimensional Sparse Factors
University of Texas at Austin(德克萨斯大学奥斯汀分校);Google(谷歌);Yahoo! Labs(雅虎实验室)
虽然矩阵分解模型在大规模推荐和搜索中无处不在,但这种模型的实时的应用需要在一组难以处理的大项目因子上进行内积计算。在这篇手稿中,我们提出了一个新的框架,使用的倒排索引表示,利用稀疏向量的结构特性,显着降低运行时间计算成本的因式分解模型。我们开发的技术,使用几何感知置换映射的棋盘格单位球,以获得高维稀疏嵌入的潜在因素与稀疏模式相关的角度接近的原始潜在因素。我们还设计了几个有效的和确定性的实现在这个框架内,并与实验证明,我们的技术导致更快的运行时间操作的准确性损失最小。
2016-05-16 cs.IR cs.LG stat.ML
Adversarial Feature Learning
University of California, Berkeley(加州大学伯克利分校);University of Texas, Austin(德克萨斯大学奥斯汀分校)
生成对抗网络(GANs)框架学习生成模型从简单的潜在分布映射到任意复杂的数据分布的能力已经被经验证明,令人信服的结果表明,这种生成器的潜在空间捕获了数据分布中的语义变化。直觉上,被训练来预测给定数据的这些语义潜在表示的模型可以作为语义相关的辅助问题的有用特征表示。然而,在现有的形式下,GANs无法学习逆映射-将数据投影回潜在空间。我们提出了双向生成对抗网络(BiGANs)作为学习这种逆映射的一种手段,并证明了所得到的学习特征表示对于辅助监督判别任务是有用的,与当代无监督和自监督特征学习方法相竞争。
2017-04-03 cs.AI cs.CV cs.LG
On Incorporating Inductive Biases into VAEs
University of Oxford(牛津大学);University of Edinburgh(爱丁堡大学)
我们解释了为什么直接改变先验可以是一个令人惊讶的无效机制,将诱导偏差到VAE,并介绍了一个简单而有效的替代方法:中介潜在空间VAE(Intel-VAE)。Intel-VAE使用一组中间的潜在变量来控制编码过程的随机性,然后使用封装我们所需的归纳偏差的参数函数将这些变量映射到潜在表示。这使我们能够在学习的表示上施加稀疏性或聚类等属性,并将人类知识纳入生成模型。虽然改变先验只能通过正则化编码器间接地鼓励行为,但Intel-VAE能够直接强制执行所需的特性。此外,它们绕过了由非高斯先验引起的计算和编码器设计问题,同时通过参数映射函数的训练允许额外的灵活性。我们表明,这些优势,反过来,导致更好的生成模型和更好的表示正在学习。
2022-02-14 cs.LG stat.ML
Vacant Holes for Unsupervised Detection of the Outliers in Compact Latent Representation
Delft University of Technology(代尔夫特理工大学);University of Piraeus(比雷埃夫斯大学)
针对经典变分自编码器(VAE)的理论缺陷与异常检测难题,通过亚历山德罗夫延拓和固定利普希茨常数实现潜在空间紧凑化,发现异常输入易落入空间空缺孔洞,设计专用检测分数,在多基准上取得良好无监督异常检测效果。
2023-06-16 cs.LG stat.ML
Latent neural source recovery via transcoding of simultaneous EEG-fMRI
Columbia University(哥伦比亚大学)
同步脑电功能磁共振成像是一种多模态的神经成像技术,提供互补的空间和时间分辨率,推断神经活动的潜在源空间。在本文中,我们解决这个推理问题的框架内的转码-映射从一个特定的编码(模态)的解码(潜在的源空间),然后编码的潜在的源空间的其他模态。具体来说,我们开发了一种对称的方法,包括一个循环卷积转码器,转码EEG功能磁共振成像,反之亦然。在没有血液动力学响应函数或导联场矩阵的任何先验知识的情况下,该方法利用模态与潜在源空间之间的时间和空间关系来学习这些映射。我们显示,对于真正的脑电图功能磁共振成像数据,以及如何可以从一个到另一个以及恢复的源空间,所有看不见的数据转码的方式。除了能够以一种新的方式对称地推断潜在的源空间之外,该方法还可以被视为低成本的计算神经成像-即从“低成本”EEG数据生成“昂贵”的fMRI BOLD图像。
2020-10-05 cs.LG eess.SP q-bio.NC
Multistep traffic speed prediction: A deep learning based approach using latent space mapping considering spatio-temporal dependencies
Thapar Institute of Engineering and Technology(塔帕尔工程技术学院)
随着道路上车辆数量的不断增加,城市交通管理已成为一个主要问题。智能交通系统(ITS)可以通过提供准确的交通预测来帮助城市交通管理者解决这一问题。为此,ITS需要一种可靠的交通预测算法,该算法可以基于过去和当前的交通数据在多个时间步长提供准确的交通预测。近年来,已经提出了许多不同的交通预测方法,这些方法在准确性方面已经证明了它们的有效性。然而,这些方法大多只考虑了空间信息或时间信息,而忽略了其他信息的影响。在本文中,为了解决上述问题,开发了一种基于深度学习的方法,该方法使用空间和时间依赖性。为了考虑时空依赖性,基于交通相似性和距离等属性选择特定时刻的附近道路传感器。使用潜在空间映射的概念交叉连接两个预先训练的深度自动编码器,并使用来自选定的附近传感器的交通数据作为输入来训练所得模型。所提出的基于深度学习的方法使用从安装在洛杉矶和湾区不同高速公路上的环路检测器传感器收集的真实交通数据进行训练。交通数据可从加州交通部绩效测量系统(PeMS)的门户网站免费获得。通过与多种机器/深度学习方法的比较,验证了该方法的有效性。已经发现,所提出的方法提供了准确的交通预测结果,即使是60分钟的预测与其他技术相比,误差最小。
2021-11-03 cs.AI cs.LG
HelixMO: Sample-Efficient Molecular Optimization in Scene-Sensitive Latent Space
Baidu Inc.(百度公司)
HelixMO 通过动态调整场景敏感潜空间映射,实现样本高效的分子优化,在四个场景中仅需少量样本即可达到竞争性能。
2022-11-16 cs.AI cs.LG q-bio.QM
Unsupervised Latent Space Translation Network
在计算机视觉中经常讨论的一个任务是将图像从一个域映射到另一个域中的对应图像,称为图像到图像转换。目前有几种方法可以解决这个问题。在本文中,我们提出了一个增强的UNIT框架,有助于消除其主要缺点。更具体地说,我们在使用的潜在表示上引入了一个额外的对抗性代理,而不是VAE,这使得两个域的潜在空间分布相似。在MNIST和USPS领域自适应任务上,该方法大大优于竞争方法。
2020-03-20 cs.CV cs.LG eess.IV
Squeeze3D: Extreme Neural Compression with Latent Space Bridging
University of Toronto(多伦多大学)
本文提出Squeeze3D,通过可训练映射网络连接预训练3D编码器与生成模型的潜在空间,在无需真实3D数据集的情况下实现网格、点云和辐射场的高倍率压缩与高质量重建。
2026-09-29 cs.CV cs.GR cs.LG
On the Limitations of Representing Functions on Sets
University of Oxford(牛津大学)
最近关于集合上函数的表示的工作已经考虑了在潜在空间中使用求和来执行排列不变性。特别是,它已被证实,这潜在的空间的维度可能保持固定的基数的考虑中的集合增加。然而,我们证明,导致这一猜想的分析需要映射是高度不连续的,并认为这只是有限的实际用途。受此观察的启发,我们证明了通过连续映射(例如神经网络或高斯过程)实现该模型实际上对潜在空间的维度施加了约束。对于集合输入的实用泛函数表示只能用至少为输入元素的最大数目的大小的潜在维度来实现。
2019-10-07 cs.AI cs.LG cs.NE
Educating Text Autoencoders: Latent Representation Guidance via Denoising
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Amazon Web Services(亚马逊云科技)
生成式自动编码器通过利用其潜在的句子表示提供了一种有前途的可控文本生成方法。然而,目前的模型很难保持连贯的潜在空间,需要通过潜在向量操作执行有意义的文本操作。具体来说,我们通过例子证明了神经编码器不一定将相似的句子映射到附近的潜在向量。对这一现象的理论解释表明,高容量自动编码器可以学习序列和相关潜在表示之间的任意映射。为了解决这个问题,我们用去噪目标来增强对抗性自动编码器,其中原始句子是从扰动版本(称为DAAE)中重建的。我们证明,这个简单的修改指导潜在的空间几何的结果模型,鼓励编码器映射类似的文本,以类似的潜在表示。在与各种类型的自动编码器的经验比较中,我们的模型提供了生成质量和重建容量之间的最佳权衡。此外,DAAE潜在空间的改进的几何形状,使zero-shot文本风格转移通过简单的潜在向量算法。
2020-07-07 cs.CL cs.LG stat.ML
Deep Poisson Factorization Machines: factor analysis for mapping behaviors in journalist ecosystem
在线生态系统中的新闻编辑室很难理清。随着社会化媒体的普及,记者与个人之间的互动越来越明显,但对公共领域信息反馈回路的内部加工缺乏了解,使大多数记者感到困惑。我们能否提供一个有组织的观点来描述记者在个人层面上的行为,以更好地了解生态系统?为此,我提出了泊松因子分解机(PFM),贝叶斯模拟矩阵分解,假设泊松分布的生成过程。该模型概括了最近的研究泊松矩阵分解考虑时间的相互作用,涉及张量结构,标签信息。设计了两个推理过程,一个基于批变分EM和另一个随机变分推理方案,有效地规模与数据大小。本文中一个重要的新颖之处是,我展示了如何堆叠PFM层以引入深度架构。这项工作讨论了应用该模型的一些潜在结果,并解释了这些潜在因素如何有助于分析数据探索的潜在行为。
2017-12-29 cs.CY cs.LG stat.ML
Learning Interpretable Features in Audio Latent Spaces via Sparse Autoencoders
Smule Labs(Smule实验室);University of California, San Diego(加州大学圣地亚哥分校);Stanford University(斯坦福大学)
针对稀疏自编码器应用于音频生成的语义掩盖、特征表征有限问题,提出将音频潜在表示映射到可解释声学概念的框架,训练SAEs并学习到声学属性的线性映射,在多类潜在空间验证有效且可扩展至视觉领域。
2025-10-27 cs.LG cs.SD
Latent Space Inference via Paired Autoencoders
本文提出一种基于配对自编码器的潜在空间推断框架,通过学习潜在空间映射实现反问题求解,提升数据不一致情况下的重建精度。
2026-01-16 cs.LG cs.NA math.NA
Bayesian Cycle-Consistent Generative Adversarial Networks via Marginalizing Latent Sampling
School of Electrical Information and Communication Engineering, Huazhong University of Science & Technology(华中科技大学电子信息与通信学院);Microsoft AI & Research(微软人工智能与研究);Machine Learning Department, Carnegie Mellon University(卡内基梅隆大学机器学习系)
基于生成对抗网络(GANs)的最新技术,如周期一致性GANs,能够通过生成器和判别器之间的最小-最大优化游戏,学习从未配对数据集构建的不同域之间的映射。然而,它仍然具有挑战性,以稳定的训练过程,从而循环模型陷入模式坍塌伴随着成功的训练。为了解决这个问题,我们提出了一种新的贝叶斯循环模型和一个综合的域间映射循环框架。该方法以贝叶斯GAN为理论基础,通过对潜在变量进行采样,探索循环模型的全后验,并利用最大后验概率(MAP)估计对模型进行优化。因此,我们将其命名为Bayesian CycleGAN。此外,原始的CycleGAN无法产生多样化的结果。但贝叶斯框架通过替换推理过程中的限制性潜变量来使生成的图像多样化是可行的。我们在多个基准数据集上评估了所提出的贝叶斯CycleGAN,包括Cityscapes,Maps和Monet 2 photo。该方法将Cityscapes语义分割任务的每像素精度在原始框架内提高了15%,在所提出的集成框架内提高了20%,表现出更好的弹性不平衡对抗。Monet 2 Photo风格转移的多样化结果也证明了其优于原始循环模型。我们在https://github.com/ranery/Bayesian-CycleGAN中提供了所有实验的代码。
2020-08-16 cs.CV cs.LG stat.ML
Investigating the Invertibility of Multimodal Latent Spaces: Limitations of Optimization-Based Methods
该研究针对任务特定AI模型多模态潜在空间的逆映射能力展开探索,提出基于优化的双向逆推框架,验证了多模态潜在空间因前向任务优化而缺乏鲁棒可解释逆映射结构的假设,指出需研发语义更丰富的可逆多模态潜在空间。
2025-07-30 cs.AI cs.CV cs.LG
Hedonic Neurons: A Mechanistic Mapping of Latent Coalitions in Transformer MLPs
Center for Intelligent Information Retrieval(智能信息检索中心);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
提出基于享乐博弈的机制可解释性框架,用 PAC-Top-Cover 提取 Transformer MLP 中稳定神经元联盟并跨层追踪,揭示其协同编码结构。
2025-09-28 cs.LG
Inferring latent neural sources via deep transcoding of simultaneously acquired EEG and fMRI
Columbia University(哥伦比亚大学)
同步脑电功能磁共振成像是一种多模态神经成像技术,提供互补的空间和时间分辨率。Cherking一直在开发用于融合模态的原则性和可解释的方法,特别是能够推断代表神经活动的潜在源空间的方法。在本文中,我们解决这个推理问题的框架内的转码-映射从一个特定的编码(模态)的解码(潜在的源空间),然后编码的潜在的源空间的其他模态。具体来说,我们开发了一种对称的方法,包括一个循环卷积转码器,转码EEG功能磁共振成像,反之亦然。在没有血液动力学响应函数或导联场矩阵的任何先验知识的情况下,完整的数据驱动方法利用模态与潜在源空间之间的时间和空间关系来学习这些映射。我们量化,对于模拟和真实的脑电图功能磁共振成像数据,以及如何从一个到另一个以及恢复的源空间,所有看不见的数据进行评估的方式可以转码。除了能够以一种新的方式对称地推断潜在的源空间之外,该方法还可以被视为低成本的计算神经成像-即从“低成本”EEG数据生成“昂贵”的fMRI BOLD图像。
2022-11-27 cs.AI cs.CV cs.LG
Enhanced Importance Sampling through Latent Space Exploration in Normalizing Flows
Stanford University(斯坦福大学)
针对重要性采样中提议分布覆盖不足的问题,本文提出在 normalizing flow 潜空间中更新并探索提议分布,再经可逆映射恢复目标空间样本,并在机器人仿真任务中验证其有效性。
2025-05-13 cs.AI cs.LG cs.RO
Semi-supervised deep learning for high-dimensional uncertainty quantification
Michigan Technological University(密歇根理工大学)
传统的不确定性量化方法由于维数灾难的存在,通常缺乏处理高维问题的能力。本文提出了一种用于降维和可靠性分析的半监督学习框架。首先采用自编码器将高维空间映射到包含可区分失效面的低维潜空间。然后利用深度前馈神经网络(DFN)学习映射关系并重构潜空间,利用高斯过程(GP)建模技术建立变换后极限状态函数的代理模型。在DFN的训练过程中,通过半监督学习,最大限度地减少了实际和重建的潜在空间之间的差异,以确保准确性。标记和未标记的样本都用于定义DFN的损失函数。采用进化算法对DFN进行训练,并在此基础上采用蒙特卡罗模拟方法对DFN进行不确定性量化和可靠性分析。最后通过一个算例说明了该方法的有效性。
2020-06-01 cs.LG cs.NE stat.ML
The Illusion of Forgetting: Attack Unlearned Diffusion via Initial Latent Variable Optimization
School of Advanced Interdisciplinary Sciences, University of the Chinese Academy of Sciences(中国科学院大学先进交叉学科学院);Alipay, Ant Group(蚂蚁集团支付宝)
本文提出IVO框架,通过优化初始潜在变量恢复未学习模型的噪声分布,揭示当前未学习方法的缺陷。
2026-05-07 cs.AI cs.CV cs.CY
Latent Space Cartography: Generalised Metric-Inspired Measures and Measure-Based Transformations for Generative Models
Cogent Labs(科进实验室)
深度生成模型是通过映射到低维潜在空间来学习高维数据空间上的数据分布的通用工具。我们提供了一个研究潜在的空间几何形状和扩展和建立在以前的结果黎曼度量。我们展示了一类启发式措施如何在寻找有意义的,特定于问题的距离方面提供更大的灵活性,以及它如何应用于不同的生成器类型,例如语言和其他序列建模中常用的自回归生成器。我们进一步演示了如何使用之前在制图学中研究的扩散启发的变换来平滑潜在空间,并根据所选的度量来拉伸它们。除了直接在潜在空间中提供更有意义的距离外,这还为新型数据可视化提供了独特的工具。我们相信,所提出的方法可以成为一个有价值的工具,用于研究潜在空间的结构和生成模型的学习数据分布。
2019-02-06 cs.AI cs.CL cs.LG
NFMap: Topographic 2D Manifold Learning with Invertible Normalizing Flows
LovingScience(洛文科学)
NFMap是将GTM与可逆归一化流结合的二维降维可视化方法,支持重尾混合分量,可缓解大型数据集的地图拥挤问题,能实现完全可逆映射,可平衡局部与全局保真度。
2026-10-14 cs.LG
Physics-Informed Latent Neural Operator for Real-time Predictions of time-dependent parametric PDEs
Johns Hopkins University(约翰霍普金斯大学)
本研究提出PI-Latent-NO物理 informed 潜神经算子框架,通过耦合两个DeepONet并嵌入PDE约束,无需标注数据即可实现含时参数化PDE的高效实时预测,兼具准确性与可扩展性。
2025-10-28 cs.LG
VDL-Surrogate: A View-Dependent Latent-based Model for Parameter Space Exploration of Ensemble Simulations
The Ohio State University(俄亥俄州立大学);Argonne National Laboratory(阿贡国家实验室);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
我们提出了VDL-Surrogate,一个基于视图依赖神经网络潜伏的代理模型,用于集成模拟的参数空间探索,允许高分辨率的可视化和用户指定的视觉映射。代理启用参数空间探索允许域科学家预览仿真结果,而不必运行大量的计算成本高的仿真。然而,受计算资源的限制,现有的代理模型可能无法产生具有足够分辨率的预览以用于可视化和分析。为了提高计算资源的有效利用并支持高分辨率探索,我们从不同的角度执行光线投射以收集样本并产生紧凑的潜在表示。这种潜在的编码过程在保持输出质量的同时降低了代理模型训练的成本。在模型训练阶段,我们选择覆盖整个视区的视点,并为所选择的视点训练相应的VDL-代理模型。在模型推理阶段,我们预测在先前选定的视点的潜在表示,并解码的潜在表示的数据空间。对于任何给定的视点,我们在选定的视点对解码数据进行插值,并使用用户指定的视觉映射生成可视化。我们展示了VDL-Surrogate在宇宙学和海洋模拟中的有效性和效率,并进行了定量和定性评价。源代码可在www.example.com上公开获取。
2022-07-29 cs.AI cs.GR cs.LG
Learning in latent spaces improves the predictive accuracy of deep neural operators
Johns Hopkins University(约翰斯·霍普金斯大学);Brown University(布朗大学)
本文提出L-DeepONet,通过自编码器将高维PDE输入输出映射到低维潜在空间,在多种时间相关PDE上相比标准DeepONet提升了预测精度和计算效率。
2023-04-15 cs.LG cs.NA math.DS
Data assimilation for subsurface flow using latent diffusion model parameterization: performance of ensemble-Kalman and Monte Carlo techniques
Department of Energy Science & Engineering, Stanford University(能源科学与工程系,斯坦福大学)
针对地下流体数据同化中高维参数反演问题,比较了基于潜扩散模型(LDM)的集成卡尔曼方法(ESMDA)与蒙特卡洛方法(MCMC/SMC)在三维河道地质模型上的性能,发现蒙特卡洛方法在保持地质真实性的同时能更有效地降低数据失配和不确定性。
2026-06-09 cs.AI cs.LG physics.geo-ph
Learnable latent embeddings for joint behavioral and neural analysis
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本研究提出CEBRA方法,通过联合行为和神经数据生成潜在嵌入,实现高精度解码与空间映射,适用于多种数据集和任务。
2022-10-05 cs.LG q-bio.NC q-bio.QM