Breaking Model Lock-in: Cost-Efficient Zero-Shot LLM Routing via a Universal Latent Space
通过通用潜在空间实现LLM零样本路由，提升模型集成的效率与成本效益
2026-01-09 cs.AI cs.LG
Open-Ended Evolution for Minecraft Building Generation
Institute of Digital Games, University of Malta（马耳他大学数字游戏研究所）
本文提出了一个程序内容生成器，它根据新颖性的开放式和内在定义来演化Minecraft建筑。为了实现这一目标，我们使用3D自动编码器评估个体在潜在空间中的新颖性，并在探索和转换阶段之间交替。在探索过程中，系统通过CPPN-NEAT和潜在空间（由当前自动编码器定义）中的约束新颖性搜索来进化多个CPPN种群。我们应用一组修复和约束函数，以确保候选人在进化过程中遵守基本的结构规则和约束。在转换过程中，我们重塑潜在空间的边界，通过用新的内容重新训练自动编码器来识别解空间中新的有趣区域。在这项研究中，我们评估了五种不同的方法来训练自动编码器在转型及其对人口的质量和多样性在进化过程中的影响。我们的研究结果表明，通过重新训练自动编码器，与静态模型相比，我们可以实现更好的开放式复杂度，当使用具有不同复杂度的个体的更大数据集进行重新训练时，这种复杂度会进一步提高。
2022-09-07 cs.AI cs.LG cs.NE
An Unconstrained Symmetric Nonnegative Latent Factor Analysis for Large-scale Undirected Weighted Networks
Dongguan University of Technology（东莞理工学院）
大规模无向加权网络通常出现在大数据相关的研究领域。它可以自然地量化为用于实现大数据分析任务的对称高维不完全（SHDI）矩阵。对称非负潜在因子分析（SNL）模型能够有效地从SHDI矩阵中提取潜在因子（LF）。然而，它依赖于一个约束组合的训练计划，这使得它缺乏灵活性。为了解决这个问题，本文提出了一个无约束对称非负潜在因素分析（USNL）模型。其主要思想有两个方面：1）通过在SNL模型中引入非负映射函数，将输出LF与决策参数分离; 2）采用随机梯度下降（SGD）实现无约束模型训练，同时保证输出LF的非负性。对实际大数据应用中生成的四个SHDI矩阵的实证研究表明，USNL模型具有比SNL模型更高的缺失数据预测精度，以及具有竞争力的计算效率。
2022-08-09 cs.LG
Toward Real-World IoT Security: Concept Drift-Resilient IoT Botnet Detection via Latent Space Representation Learning and Alignment
University of New South Wales（新南威尔士大学）
本文提出一种通过潜在空间表示学习与对齐实现概念漂移鲁棒的物联网僵尸网络检测框架，有效解决传统方法在动态环境中的局限性。
2025-12-27 cs.CV cs.LG
Hyper-Transforming Latent Diffusion Models
Department of Applied Mathematics and Computer Science, Technical University of Denmark, Copenhagen, Denmark（丹麦技术大学应用数学与计算机科学系）；Pioneer Centre for Artificial Intelligence, Copenhagen, Denmark（哥本哈根人工智能先锋中心）；Saarland University, Saarbrücken, Germany（萨尔兰大学）；Zuse School ELIZA（祖斯学校ELIZA）
本文提出一种结合INRs与Transformer超网络的函数生成框架，通过替换标准解码器扩展LDMs，支持仅微调解码器的高效适配，显著提升了多模态下INR生成的可扩展性、表达力与泛化能力。
2025-11-02 cs.LG stat.ML
Latent-Variable Advantage-Weighted Policy Optimization for Offline RL
Tsinghua University（清华大学）；Stanford University（斯坦福大学）；Shenzhen Institute of Artificial Intelligence and Robotics for Society, CUHK Shenzhen（香港中文大学（深圳）深圳市人工智能与机器人研究院）
离线强化学习方法有望从预先收集的数据集中学习策略，而无需查询环境中的新转换。这种设置特别适合于连续控制机器人应用，对于这些应用，基于试错法的在线数据汇集成本高且可能不安全。在实践中，离线数据集通常是异构的，即，在各种情况下收集的数据，例如来自多个人类演示者或来自具有不同目的的策略的数据。不幸的是，这样的数据集可能会加剧数据底层的行为策略和要学习的最优策略之间的分布偏移，导致性能不佳。为了应对这一挑战，我们建议利用潜在变量的政策，可以代表更广泛的一类政策分布，从而更好地遵守训练数据分布，同时最大限度地提高回报通过政策的潜在变量。正如我们在一系列模拟运动，导航和操作任务上的经验表明，我们的方法被称为潜在变量加权策略优化（LAPO），在异构数据集上将下一个性能最佳的离线强化学习方法的平均性能提高了49%，在具有窄分布和有偏分布的数据集上提高了8%。
2022-03-16 cs.LG
Nonlinear Dimensionality Reduction Techniques for Bayesian Optimization
本研究提出结合变分自编码器与顺序域缩减的非线性降维贝叶斯优化方法，在潜在空间进行优化，通过重新训练提升性能，并理论分析误差来源，实验验证其有效性。
2026-09-14 cs.LG cs.NA math.NA
Curated Synthetic Data Doesn't Have to Collapse: A Theoretical Study of Generative Retraining with Pluralistic Preferences
University of Washington（华盛顿大学）
通过理论分析证明，基于多个奖励函数进行策展的递归训练可以避免生成模型崩溃，并收敛到满足加权纳什议价解的稳定分布。
2026-06-03 cs.AI cs.LG
Hyperparameter Learning for Latent Factorization of Tensors for Representation Learning to Large-scale Dynamic Weighted Directed Network
College of Computer and Information Science（计算机与信息科学学院）
针对大规模动态加权有向网络，提出基于差分进化的张量潜在因子模型超参数自动优化框架，自动学习正则化参数，提升预测精度并减少人工调参。
2026-06-03 cs.LG
Proximal Symmetric Non-negative Latent Factor Analysis: A Novel Approach to Highly-Accurate Representation of Undirected Weighted Networks
School of Computer Science and Technology, Dongguan University of Technology（东莞理工学院计算机科学与技术学院）
针对无向加权网络的对称、高维、不完整矩阵建模难题，提出融合近端项与自适应 ADMM/TPE 学习方案的 PSNL 模型，显著提升表示精度并保持高效计算。
2023-06-06 cs.LG
Strategic Prediction with Latent Aggregative Games
MIT（麻省理工学院）
我们引入了一类新的上下文相关的，不完全信息的游戏，作为结构化的预测模型，具有显着的战略相互作用的设置。我们的游戏将输入上下文映射到结果，首先将输入压缩为指定效用、加权交互以及玩家初始策略的私人玩家类型。这个游戏分多轮进行，参与者对邻居策略的加权聚合做出反应。从模型的预测输出是一个混合的策略配置文件（近纳什均衡），每个观察被认为是从这个策略配置文件的样本。我们引入了两个新的聚合器范式与可证明收敛的游戏动态，并描述了条件下，我们的游戏是可识别的数据。我们的博弈可以以可转移的方式参数化，这样参与者的集合就可以从一个博弈改变到另一个博弈。我们的经验表明，我们的游戏作为模型可以从真实的投票数据中恢复有意义的战略互动。
2019-05-29 cs.LG stat.ML
Certified Guidance for Planning with Deep Generative Models
University of Trieste（的里雅斯特大学）；King’s Colledge London（伦敦国王学院）
本文提出可认证引导方法，无需重新训练即可修改深度生成模型，利用神经网络验证技术探索潜在空间，确保生成输出以概率1满足信号时序逻辑规范，在四个基准上验证了其优于现有未认证引导方法。
2025-01-22 cs.LG stat.ML
Latent Factorization of Tensors with Threshold Distance Weighted Loss for Traffic Data Estimation
Chongqing University of Posts and Telecommunications（重庆邮电大学）
针对传统张量潜在分解模型对异常值敏感的问题，提出结合阈值距离加权损失的TDWLFT模型，通过为样本分配差异化权重降低异常值影响，在多个交通速度数据集上实现了准确性与计算效率的双重提升。
2025-06-11 cs.AI cs.LG
Efficient Adaptation of ROMs for Unsteady Flows Using Data Assimilation
本文提出一种基于数据同化的高效ROM重训练方法，通过概率性VAE和变压器网络，在稀疏观测下实现快速实时适应不稳流的降阶模型。
2026-09-02 cs.LG physics.flu-dyn
MaGNET: Uniform Sampling from Deep Generative Network Manifolds Without Retraining
Rice University（莱斯大学）
深度生成网络（DGN）广泛应用于生成对抗网络（GANs）、变分自编码器（VAE）及其变体中，以近似数据流形和分布。然而，由于成本或收集的方便性，训练样本通常以非均匀的方式分布在流形上。例如，CelebA数据集包含很大一部分笑脸。当从训练的DGN中采样时，这些不一致将被再现，这并不总是优选的，例如，用于公平性或数据增强。作为回应，我们开发了MaGNET，这是一种新颖的、理论上有动机的潜在空间采样器，适用于任何预先训练的DGN，它可以产生均匀分布在学习流形上的样本。我们在各种数据集和DGN上进行了一系列实验，例如，对于在FFHQ数据集上训练的最先进的StyleGAN2，通过MaGNET进行的均匀采样将分布精度和召回率提高了4.1\% \& 3.0\%，并将性别偏见降低了41.2\%，而无需标签或重新训练。由于均匀分布并不意味着均匀的语义分布，我们还分别探讨了如何生成的样本的语义属性在MAGNET采样的变化。
2022-01-21 cs.CV cs.LG
Importance Weighted Adversarial Variational Autoencoders for Spike Inference from Calcium Imaging Data
Janelia Research Campus（珍妮亚研究园区）；HHMI（霍华德·休斯医学研究所）
重要性加权自动编码器（IWAE）目标已被证明可以改善标准变分自动编码器（VAE）目标的生成模型的训练。在这里，我们得到的重要性加权扩展AVB和AAE。这些潜变量模型使用隐式定义的推理网络，其近似后验密度q_∞（z| x）不能直接评估，这是重要性加权的基本要素。我们使用对抗训练的重要性加权方法改进了潜变量模型的训练和推理，并推导出对抗生成模型训练标准和基于边际似然的方法之间的新理论联系。我们将这些方法应用于从钙成像数据推断尖峰神经活动的重要问题，这是神经科学中一个具有挑战性的后验推理问题，并表明对抗方法的后验样本优于VAE中使用的因子化后验。
2019-10-23 cs.LG eess.IV stat.ML
Reasoning as Attractor Dynamics: Latent Memory Retrieval via Gibbs-Weighted Energy Minimization
Independent Researcher（独立研究者）
提出将大语言模型视为高维稠密联想记忆，通过吉布斯加权能量最小化从潜在吸引子中检索正确推理链，在GSM8K上提升Phi-3.5性能5.38%。
2026-06-24 cs.LG
WGCN: Graph Convolutional Networks with Weighted Structural Features
The University of Melbourne（墨尔本大学）
图结构信息，如拓扑或连通性，为图卷积网络（GCN）学习节点的表示提供了有价值的指导。现有的GCN模型捕捉节点的结构信息的权重内和外邻居相等或区分内和外邻居全局不考虑节点的本地拓扑结构。我们观察到，在和外邻居贡献不同的节点具有不同的本地拓扑结构。为了探索不同节点的方向结构信息，我们提出了一个加权结构特征的GCN模型，命名为WGCN。WGCN首先通过方向和度感知的重新启动随机游走算法捕获节点的结构指纹，其中游走由边缘方向和节点的入度和出度引导。然后，节点的结构指纹之间的相互作用被用作加权的节点结构特征。为了进一步捕捉节点的高阶依赖关系和图的几何关系，WGCN将图嵌入到一个潜在空间中，以获得节点的潜在邻居和几何关系。基于节点在潜在空间中的几何关系，WGCN用基于注意力的几何聚集区分潜在、内、外邻居。在五个基准数据集上，WGCN的准确率始终优于基线模型，最高可达17.07%。
2021-07-21 cs.AI cs.LG
A Latent Source Model for Nonparametric Time Series Classification
MIT（麻省理工学院）；Twitter（推特）
对于分类时间序列，最近邻方法在实践中被广泛使用，其性能通常与诸如神经网络、决策树和支持向量机等更精细的方法竞争或更好。我们开发的有效性的最近邻类分类的时间序列的理论依据。我们的指导假设是，在许多应用中，例如预测哪些主题将成为Twitter上的趋势，实际上并没有那么多的原型时间序列开始，相对于我们可以访问的时间序列的数量，例如，话题在Twitter上只以几种不同的方式成为趋势，而我们可以收集大量的Twitter数据。为了实现这一假设，我们提出了一个潜在的源模型的时间序列，这自然会导致一个“加权多数表决”的分类规则，可以近似的最近邻分类。我们建立了非渐近性能保证加权多数表决和最近邻分类在我们的模型占多少的时间序列，我们观察和模型的复杂性。在人工数据上的实验结果表明，加权多数表决算法在观测较少的时间序列的情况下，取得了与最近邻分类算法相同的误分类率。然后，我们使用加权多数来预测Twitter上的哪些新闻主题成为趋势，我们能够在79%的时间内提前检测到这些“趋势主题”，平均提前优势为1小时26分钟，真阳性率为95%，假阳性率为4%。
2013-12-13 cs.LG cs.SI stat.ML
VPE: Variational Policy Embedding for Transfer Reinforcement Learning
Royal Institute of Technology（皇家理工学院）
强化学习方法能够解决复杂的问题，但即使在略有不同的环境中，所产生的策略也可能表现不佳。特别是在机器人领域，训练和部署条件经常变化，数据汇集成本高昂，因此不希望进行再培训。模拟训练允许可行的训练时间，但另一方面，当应用于现实世界的设置时，遭受现实差距。这就需要有效调整在新环境中采取行动的政策。我们认为这是一个问题，在一个家庭的类似马尔可夫决策过程的知识转移。为此，我们假设Q函数是由某些低维潜变量生成的。给定这样一个Q函数，我们可以找到一个主策略，它可以适应给定的这个潜在变量的不同值。我们的方法学习生成映射和潜在变量的近似后验，通过仅在潜在空间而不是所有策略的空间中搜索来识别新任务的策略。通过我们的方法发现的低维空间和主策略使策略能够快速适应新的环境。我们证明了摆摆在模拟任务的方法，并为模拟到真正的推动任务的转移。
2018-09-14 cs.LG stat.ML
Latent Translation: Crossing Modalities by Bridging Generative Models
Stony Brook University（石溪大学）；Google AI（谷歌人工智能）
端到端优化已经在许多特定问题上实现了最先进的性能，但是没有直接的方法来结合预训练模型来解决新问题。在这里，我们探索通过学习两个现有模型之间的事后接口来解决新任务来提高模块化。具体来说，我们从神经机器翻译中获得灵感，并将跨模态域转移的挑战性问题转化为预训练深度生成模型的潜在空间之间的无监督翻译。通过抽象出数据表示，我们证明了可以在不同的模态之间传输（例如，图像到音频）以及甚至不同类型的生成模型（例如，VAE到GAN）。我们比较国家的最先进的技术，并发现一个直接的变分自编码器是能够最好地桥接两个生成模型，通过学习一个共享的潜在空间。我们可以进一步在共享潜在空间中使用分类器对两个域中的属性进行监督对齐。通过定性和定量的评估，我们证明了局部性和语义对齐通过传输过程中，保持高传输精度和类内的平滑插值所示。最后，我们展示了这种模块化结构通过将其与基础生成模型的昂贵再训练解耦，加快了新接口模型的训练速度。
2019-02-21 cs.LG cs.NE stat.ML
Multi-constrained Symmetric Nonnegative Latent Factor Analysis for Accurately Representing Large-scale Undirected Weighted Networks
School of Computer Science and Technology, Dongguan University of Technology（东莞理工学院计算机科学与技术学院）
针对大规模无向加权网络的对称高维不完整矩阵表示问题，提出融合多LF矩阵约束与ADMM求解的MSNL模型，显著提升表示学习能力。
2023-06-06 cs.LG
Robust Evidential Learning Through Latent Consistency
University of York（约克大学）；Cyprus University of Technology（塞浦路斯理工大学）
CLEAR是一种轻量级事后方法，通过校准潜在空间几何并检测潜在冲突，在不重训练的情况下增强证据深度学习对分布外和对抗输入的鲁棒性，显著提升AUROC并保持性能。
2026-10-02 cs.LG
Diverse Policies Recovering via Pointwise Mutual Information Weighted Imitation Learning
Tencent AI Lab（腾讯AI实验室）
本文提出基于点互信息加权的行为克隆方法，通过突出与风格最相关的状态-动作对，提升从专家轨迹中恢复多样化策略的效果。
2024-10-22 cs.AI cs.LG stat.ML
Tensor-based Multi-view Spectral Clustering via Shared Latent Space
KU Leuven（鲁汶大学）
由于数据源的多样性，多视图谱聚类（MvSC）受到越来越多的关注。然而，大多数现有的工作是禁止在样本外的预测和忽视模型的可解释性和聚类结果的探索。在本文中，MvSC的一个新的方法，提出了通过一个共享的潜在空间的限制核机框架。通过共轭特征对偶的镜头，我们投加权核主成分分析问题的MvSC和开发一个修改的加权共轭特征对偶来制定对偶变量。在我们的方法中，扮演隐藏特征角色的二元变量由所有视图共享，以构建一个公共潜在空间，通过学习特定于视图的空间的投影来耦合视图。这种单一的潜在空间促进了良好分离的集群，并提供了直接的数据探索，促进可视化和解释。我们的方法只需要一个单一的特征分解，其维数是独立的视图的数量。为了提高高阶相关性，引入了基于张量的建模，而不增加计算复杂性。我们的方法可以灵活地应用于样本外的扩展，使大规模数据与固定大小的内核方案的效率大大提高。数值实验验证了我们的方法是有效的精度，效率和可解释性，表现出尖锐的特征值衰减和不同的潜变量分布。
2022-07-23 cs.LG
Multi-relational Learning Using Weighted Tensor Decomposition with Modular Loss
University of Maryland（马里兰大学）
我们通过张量分解提出了一个多关系学习的模块化框架。在我们的学习设置中，训练数据包含一组对象之间的多种类型的关系，我们用稀疏的三模式张量表示。目标是预测缺失条目的值。为此，我们将每个关系建模为潜在因素的线性组合的函数。我们通过计算低秩张量分解，使用加权目标函数的拟牛顿优化来学习这种潜在表示。通过加权目标捕获观测数据中的稀疏性，从而在训练数据有限时提高精度。利用稀疏性也提高了效率，可能比未加权的方法高出一个数量级。此外，我们的框架可以容纳平滑的、特定于任务的损失函数的任意组合，使其更适合于学习不同类型的关系。对于实值函数和二元关系的典型情况，我们提出了几个损失函数，并导出了相关的参数梯度。我们评估我们的方法在合成和真实数据，显示出显着的改进，在准确性和可扩展性相关的因式分解技术。
2013-05-31 cs.LG
PSyDUCK: Training-Free Steganography for Latent Diffusion
University of Oxford（牛津大学）
本文提出PSyDUCK，一种面向潜在扩散模型的无训练、模型无关隐写框架，通过潜在去噪过程中的受控发散和局部混合实现高容量安全嵌入，并扩展至视频扩散模型，在图像和视频数据集上优于现有方法。
2025-03-08 cs.CR cs.LG
Multi-Objective Latent Space Optimization of Generative Molecular Design Models
Texas A&M University（德克萨斯农工大学）；Brookhaven National Laboratory（布鲁克海文国家实验室）；Frederick National Laboratory（弗雷德里克国家实验室）；Argonne National Laboratory（阿贡国家实验室）
针对生成式分子设计中多性质联合优化问题，提出一种依据分子 Pareto 效率进行迭代加权重训练的多目标潜空间优化方法，以提升新分子采样性能。
2024-07-22 cs.LG q-bio.BM
GLSO: Grammar-guided Latent Space Optimization for Sample-efficient Robot Design Automation
Robotics Institute（机器人研究所）；Carnegie Mellon University（卡内基梅隆大学）；Department of Mechanical Engineering（机械工程系）
机器人已被用于各种自动化，但机器人的设计仍然主要是一项手工任务。我们寻求提供设计工具来自动化机器人本身的设计。机器人设计自动化的一个重要挑战是设计搜索空间庞大而复杂，随着组件数量呈指数级增长，使得优化困难且样本效率低下。在这项工作中，我们提出了语法引导的潜在空间优化（GLSO），一个框架，通过训练图变分自编码器（VAE）学习图结构化设计空间和连续潜在空间之间的映射，将设计自动化转换为低维连续优化问题。这种转换允许在连续的潜在空间中进行优化，其中样本效率可以通过应用诸如贝叶斯优化的算法来显著提高。GLSO使用图形语法规则和机器人世界空间特征指导VAE的训练，使得学习的潜在空间集中于有效机器人，并且更容易用于优化算法探索。重要的是，经过训练的VAE可以重复使用，以搜索专门用于多个不同任务的设计，而无需重新训练。我们评估GLSO通过设计机器人的一组运动任务的模拟，并证明我们的方法优于相关国家的最先进的机器人设计自动化方法。
2022-09-23 cs.LG cs.RO
Latent Flow Matching for Molecular Graph Generation
École normale supérieure Paris-Saclay（巴黎-萨克雷高等师范学校）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；LIX, CNRS, École Polytechnique, IP Paris（巴黎综合理工学院，法国国家科学研究中心，LIX实验室，巴黎综合理工学院联盟）
本文提出在预训练VAE的潜在表示上通过流匹配生成分子图，仅在最后解码，实现高质量、高效率的生成，并支持性质引导和有效性感知生成。
2026-10-06 cs.AI cs.LG
A Node-collaboration-informed Graph Convolutional Network for Precise Representation to Undirected Weighted Graphs
Chongqing University of Posts and Telecommunications（重庆邮电大学）；Chinese Academy of Sciences（中国科学院）；Southwest University（西南大学）
无向加权图（UWG）经常被用来描述来自实际应用的一组节点之间的交互，例如来自社交网络服务系统的用户接触频率。图卷积网络（GCN）被广泛采用来对UWG执行表示学习，以用于后续的模式分析任务，例如聚类或缺失数据估计。然而，现有的GCN大多忽视了隐藏在其连接节点对中的潜在协作信息。为了解决这个问题，本研究提出通过对称潜在因素分析模型来建模节点协作，然后将其视为一个节点协作模块，用于补充GCN中的协作损失。基于这一思想，本文提出了一种节点协作通知图卷积网络（NGCN），它包括三个方面的思想：a）通过节点协作模块从节点对的交互中学习潜在的协作信息; b）建立剩余连接和加权表示传播以获得高的表示能力;以及c）以端到端的方式实现模型优化以实现对目标UWG的精确表示。对实际应用中出现的UWG的实证研究表明，由于其有效地纳入节点协作，建议NGCN显着优于国家的最先进的GCN在解决丢失的重量估计的任务。同时，它良好的可扩展性保证了它与更先进的GCN扩展的兼容性，这将在我们未来的研究中进一步研究。
2022-11-30 cs.LG cs.SI
SpaceEditing: Integrating Human Knowledge into Deep Neural Networks via Interactive Latent Space Editing
Jilin University（吉林大学）；University of Tokyo（东京大学）；Japan Advanced Institute of Science and Technology（日本北陆先端科学技术大学院大学）
我们提出了一种交互式编辑方法，允许人类帮助深度神经网络（DNN）学习与人类知识更一致的潜在空间，从而提高对无法区分的模糊数据的分类准确性。首先，我们通过降维方法将高维数据特征可视化，并设计了一个交互式系统\textit{SpaceEditing}来显示可视化的数据。\textit{SpaceEditing}提供了一个基于空间布局思想的2D工作空间。在该工作空间中，用户可以根据系统引导在其中移动投影数据。然后，\textit{SpaceEditing}根据用户移动的投影数据找到相应的高维特征，并将高维特征反馈给网络进行再训练，从而达到为用户交互修改高维潜在空间的目的。其次，为了更合理地将人类知识融入到神经网络的训练过程中，我们设计了一个新的损失函数，使网络能够学习用户修改的信息。最后，我们通过三个案例分析来说明\textit{SpaceEditing}是如何满足用户需求的，并对我们提出的新方法进行了评估，结果证实了我们的方法的有效性。
2022-12-08 cs.HC cs.LG
Relative Representations of Latent Spaces enable Efficient Semantic Channel Equalization
CEA-Leti（CEA-莱蒂科技实验室）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Sapienza University（罗马大学）；CNIT（意大利国家电信研究所）
针对多用户语义通信中独立训练智能体交互的语言不匹配问题，提出基于相对表示框架的语义均衡算法，通过锚点投影统一表示并压缩信息，结合原型锚点选择策略，实现不同模型智能体无缝通信。
2024-11-29 cs.LG
Anomaly Detection Based on Selection and Weighting in Latent Space
随着工业4.0时代对自动化的高要求，异常检测在生产制造业中的更高安全性和可靠性中发挥着越来越重要的作用。最近，自动编码器已被广泛用作异常检测的后端算法。已经开发了不同的技术来提高自动编码器的异常检测性能。尽管如此，很少有人关注自动编码器学习的潜在表示。在本文中，我们提出了一种新的选择和加权为基础的异常检测框架称为SWAD。特别地，学习的潜在表示被单独地选择和加权。在基准数据集和真实数据集上的实验表明了SWAD的有效性和优越性。在基准数据集上，SWAD框架已经达到了与最先进的方法相当甚至更好的性能。
2021-03-08 cs.LG
Adaptively-weighted Integral Space for Fast Multiview Clustering
多视图聚类是利用多源信息来提高聚类性能的一种方法。一般来说，大多数现有的作品通常通过一些相似性/距离度量（例如，欧几里得距离）或学习表示来计算n * n亲和图，并探索视图之间的成对相关性。但不幸的是，通常需要二次甚至三次的复杂度，这给大规模数据集的聚类带来了困难。最近已经做出了一些努力来捕获数据分布在多个视图中，通过选择视图方式的锚表示与k均值，或通过直接矩阵分解的原始观察。尽管取得了显著的成功，但很少有人考虑到视图不足的问题，隐含地假设每个单独的视图足以恢复集群结构。此外，潜在的积分空间以及共享集群结构从多个不充分的意见是不能同时发现。鉴于此，我们提出了一个自适应加权积分空间的快速多视图聚类（AIMC）与近线性复杂度。具体地说，视图生成模型的目的是从潜在的积分空间与不同的自适应贡献重建的意见。同时，无缝地构造了具有正交性约束和聚类划分的质心表示来逼近潜积分空间。提出了一种求解该优化问题的交替极小化算法，并证明了该算法具有线性时间复杂度。样本量。在几个真实数据集上进行的大量实验证实了所提出的AIMC方法与现有方法相比的优越性。
2022-08-25 cs.AI cs.LG
Reproducible, incremental representation learning with Rosetta VAE
Duke University（杜克大学）
变分自编码器是从高维数据中提取低维结构的最流行的方法之一，使其作为数据探索和科学发现的工具越来越有价值。然而，与典型的机器学习问题不同，在典型的机器学习问题中，单个模型只在单个大型数据集上训练一次，科学工作流优先考虑可重复的、跨实验室可移植的、能够增量添加新数据的学习特征。理想情况下，不同研究小组使用的方法应该产生可比较的结果，即使没有共享经过充分训练的模型或整个数据集。在这里，我们通过引入Rosetta VAE（R-VAE）来解决这一挑战，这是一种提取先前学习的表示并重新训练新模型以重现和构建先前结果的方法。R-VAE在经过充分训练的模型的潜在空间上使用事后聚类来识别少量罗塞塔点（输入、潜在对），以作为训练未来模型的锚点。一个可调整的超参数，$ρ$，平衡保真度的先前学习的潜在空间对新数据的适应。我们证明了R-VAE重建数据以及VAE和$β$ -VAE，优于这两种方法在恢复目标潜在空间中的顺序训练设置，并显着提高了一致性的学习表示跨训练运行。
2022-01-13 cs.LG
Beyond the Kolmogorov Barrier: A Learnable Weighted Hybrid Autoencoder for Model Order Reduction
Department of Mechanical, Aerospace, and Nuclear Engineering, Rensselaer Polytechnic Institute（机械、航空航天与核工程系，雷士拉尔理工学院）
本文提出可学习加权混合自编码器，通过可学习加权框架融合SVD与深度自编码器以克服柯尔莫哥洛夫障碍，在混沌PDE系统上显著提升降阶建模的泛化性能。
2025-11-05 cs.AI cs.LG physics.comp-ph
Multi-Object Classification and Unsupervised Scene Understanding Using Deep Learning Features and Latent Tree Probabilistic Models
University of California, Irvine（加州大学欧文分校）
深度学习已经在ImageNet等数据集上显示出最先进的分类性能，这些数据集在每个图像中包含一个对象。然而，多目标分类更具挑战性。我们提出了一个统一的框架，利用多种机器学习方法的优势，即深度学习，概率模型和内核方法，以获得最先进的性能在Microsoft COCO上，由非图标图像。我们通过条件潜在树概率模型（CLTM）将上下文信息纳入自然图像中，其中对象同现以从预训练的Imagenet CNN中提取的fc 7特征为条件作为输入。我们学习的CLTM树结构使用条件成对概率的对象同现，通过内核方法估计，我们学习它的节点和边缘的潜力，通过训练一个新的3层神经网络，它需要FC 7功能作为输入。对象分类是通过对学习条件树模型的推理进行的，我们在MS-COCO上获得了显着的精度-召回率和F-措施，特别是对于困难的对象类别。此外，CLTM中的潜变量捕获场景信息：具有潜在节点的顶部激活的图像具有共同的主题，例如草原或食物场景等。此外，我们表明，仅对推断的潜在节点进行简单的k均值聚类显着提高了MIT-Indoor数据集上的场景分类性能，而无需任何重新训练，并且在训练期间不使用场景标签。因此，我们提出了一个统一的框架，多目标分类和无监督场景理解。
2015-05-02 cs.CV cs.LG
Generative Latent Diffusion Model for Inverse Modeling and Uncertainty Analysis in Geological Carbon Sequestration
本文提出CoNFiLD-geo模型，结合条件神经场编码与贝叶斯潜空间扩散，实现地质碳封存中高效、不确定性感知的正反演建模与数据同化。
2025-08-17 cs.LG physics.geo-ph
Blind Inverse Problem Solving Made Easy by Text-to-Image Latent Diffusion
Carnegie Mellon University（卡内基梅隆大学）；Sony AI（索尼人工智能）；Sony Group Corporation（索尼集团）；Bosch Center for AI（博世人工智能中心）
LADiBI通过文本到图像潜在扩散模型无需训练解决多种盲逆问题，利用贝叶斯框架和新型后验采样算法实现灵活且高效的图像恢复。
2025-11-30 cs.AI cs.CV cs.LG
A Unified Understanding and Evaluation of Steering Methods
Department of Computer Sciences University of Wisconsin-Madison（计算机科学系 威斯康星大学麦迪逊分校）
本文提出统一框架，分析评估引导方法，揭示其有效性并展示方法优势，为LLM中的设计优化提供指导
2026-01-09 cs.CL cs.LG
Importance Weighted Expectation-Maximization for Protein Sequence Design
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
提出 IsEM-Pro 潜变量生成模型，结合独立学习的 MRFs 组合结构特征与 MCEM 训练，以生成高适应度、多样且新颖的蛋白质序列，平均适应度较此前最佳方法提升至少 55%。
2024-12-02 cs.LG q-bio.BM
Modeling State-Conditional Observation Distribution using Weighted Stereo Samples for Factorial Speech Processing Models
Amirkabir University of Technology（阿米尔卡比尔理工大学）
本文研究了阶乘语音处理模型在抗噪声自动语音识别任务中的有效性。为此，本文提出了一种基于加权立体样本的阶乘模型状态条件观测分布的理想建模方法。该方法是对先前用于理想模型补偿的单遍再训练的扩展，其在这里被扩展以支持多个音频源。非平稳噪声可以被认为是具有多个状态的这些音频源之一。本文在Aurora 2数据集A上的实验表明，通过这种考虑可以提高识别性能。这种改进在低信噪比能量条件下是显著的，高达4%的绝对单词识别准确率。除了所提出的方法在准确表示状态条件观测分布的能力之外，它还通过提供独立选择源和损坏特征的特征空间的机会而比以前的方法具有重要的优势。这打开了一个新的窗口，寻求更好的特征空间适合嘈杂的语音，独立于干净的语音功能。
2016-10-05 cs.AI cs.LG cs.SD
Latent Space Disentanglement via Activation Steering for Interpretable Attribute Control in Symbolic Music Generation
Athens University of Economics；Innovation Lab Orfium Athens, Greece；Department of Music Technology；Acoustics Hellenic Mediterranean University Rethymno, Greece；Institute of Informatics \& Telecommunications National Center for Scientific Research “Demokritos” Athens, Greece；Department of Informatics Athens University of Economics
本文利用差分均值方法从多轨音乐Transformer的残差流中分离音高和时长的潜在方向，并通过Gram-Schmidt正交化实现双属性引导，从而在推理时实现可解释的确定性属性调制。
2026-05-29 cs.AI cs.IR cs.LG
