When Representations Align: Universality in Representation Learning Dynamics
Gatsby Computational Neuroscience Unit（盖atsby计算神经科学单元）；University College London（伦敦大学学院）；Sainsbury Wellcome Centre（桑斯伯里惠康中心）
该研究提出一种表征学习有效理论，揭示不同深度网络架构在足够灵活时其表征学习动力学具有普适的定性相似性。
2024-07-05 cs.LG q-bio.NC
KnowCoder: Coding Structured Knowledge into LLMs for Universal Information Extraction
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
KnowCoder通过代码生成实现通用信息抽取，利用代码风格模式表示和两阶段学习框架，在少样本、零样本及低资源场景下显著提升性能。
2024-03-14 cs.AI cs.LG
Wavelet as Tokenizer: Preliminary Results on a Shared Wavelet Token Schema for Natural Signals
Yet Another AI
本文研究音频、图像和视频能否共享统一的小波分词方案，通过基于Haar DWT/IDWT的连续令牌模型，在多个数据集上验证了统一分词模式的可行性，并分析了潜在容量和元数据的影响。
2026-05-30 cs.AI cs.CV cs.LG
OmniStruct: Universal Text-to-Structure Generation across Diverse Schemas
University of Southern California（南加州大学）；University of California, Davis（加州大学戴维斯分校）；Microsoft Research（微软研究院）
OmniStruct提出了一种跨多种模式的通用文本到结构生成方法，通过合成数据训练小型模型，实现与GPT-4o相当的性能。
2025-11-23 cs.AI cs.CL cs.LG
Linking OpenStreetMap with Knowledge Graphs -- Link Discovery for Schema-Agnostic Volunteered Geographic Information
Leibniz Universität Hannover（莱布尼茨汉诺威大学）；University of Bonn（波恩大学）
在流行的知识图谱（如Wikidata和DBpedia）中捕获的地理实体的表示通常是不完整的。OpenStreetMap（OSM）是一个丰富的公开可用的、自愿提供的地理信息源，具有很大的潜力来补充这些表示。然而，知识图谱实体和OSM节点之间的身份链接仍然很少。在这些设置中的链接发现的问题是特别具有挑战性的，由于缺乏一个严格的模式和异构性的用户定义的节点表示在OSM。在这篇文章中，我们提出了OSM 2KG-一种新的链接发现方法来预测身份OSM节点和地理实体之间的链接在知识图谱。OSM 2KG方法的核心是OSM节点的一种新的潜在的紧凑表示，它在嵌入中捕获语义节点相似性。OSM 2KG采用这种潜在表示来训练用于链接预测的监督模型，并利用OSM和知识图谱之间的现有链接进行训练。我们在几个OSM数据集，以及Wikidata和DBpedia知识图谱上进行的实验表明，OSM 2KG可以可靠地发现身份链接。OSM 2KG在Wikidata上的F1得分为92.05%，在DBpedia上的平均得分为94.17%，与表现最好的基线相比，维基数据上的F1得分增加了21.82个百分点。
2020-11-19 cs.LG cs.SI
Latent Universal Task-Specific BERT
Amobee Inc.（Amobee公司）
本文描述了一种语言表示模型，该模型将Devlin等人（2018）中描述的Transformers（BERT）学习机制的双向编码器表示与Dehghani等人（2018）中描述的通用Transformer模型的泛化相结合。我们进一步改进了这个模型，增加了一个潜在的变量，代表人物和作家的兴趣为每个训练样本的主题。我们还描述了一个简单的方法，以提高我们的语言表示在特定领域的解决问题的有用性，其概括到其他领域的能力为代价。最后，我们发布了一个针对社交文本的预训练语言表示模型，该模型是在1亿条推文上训练的。
2019-05-16 cs.CL cs.LG stat.ML
Universal Approximation of Functions on Sets
University of Oxford（牛津大学）
对集合的函数或等价的置换不变函数进行建模是机器学习中的一个长期挑战。深集是一种流行的方法，它被认为是连续集函数的通用逼近器。我们提供了一个理论分析的深集，这表明，这种普遍的近似属性是唯一的保证，如果模型的潜在空间是足够高的维度。如果潜在空间比必要的低一个维度，那么存在分段仿射函数，根据最坏情况的错误判断，深度集的性能并不比简单的常数基线好。Deep Sets可以被视为Janossy池化范例的最有效的化身。我们确定这种范式包括目前最流行的集合学习方法。基于这种联系，我们更广泛地讨论了我们的研究结果对集合学习的影响，并确定了一些关于Janossy池的普遍性的公开问题。
2021-07-05 cs.LG stat.ML
Breaking Model Lock-in: Cost-Efficient Zero-Shot LLM Routing via a Universal Latent Space
通过通用潜在空间实现LLM零样本路由，提升模型集成的效率与成本效益
2026-01-09 cs.AI cs.LG
Universal Encoders for Modular Relational Deep Learning
Czech Technical University in Prague（捷克布拉格理工大学）
提出通用行编码器，通过解耦行编码与图消息传递，结合元数据和全局统计的Transformer模块，实现跨数据库知识迁移，提升RelBench基准上的学习收敛性和内存效率。
2026-06-23 cs.DB cs.LG
Latent-Conditioned Parameterized Quantum Circuits as Universal Approximators for Distributions over Quantum States
Quantum Laboratory, Fujitsu Research, Fujitsu Limited（Fujitsu 研究所量子实验室， Fujitsu 有限公司）
提出潜在条件参数化量子电路（LPQC），通过经典神经网络将潜在变量映射到量子电路参数，证明其在1-Wasserstein距离下是密度算子概率测度的通用近似器，并引入多模态潜在先验和专家混合电路架构缓解贫瘠高原问题。
2026-06-18 cs.LG quant-ph
Exploiting Latent Space Discontinuities for Building Universal LLM Jailbreaks and Data Extraction Attacks
本研究提出利用与训练数据稀疏性相关的潜在空间不连续性这一架构漏洞，构建可跨模型和接口泛化的通用 LLM 越狱与数据提取攻击，在七个 SOTA LLM 和一个图像生成模型上验证了其能突破分层防御的系统性攻击潜力。
2025-11-01 cs.AI cs.CR cs.LG
Universal Latent Homeomorphic Manifolds: A Framework for Cross-Domain Representation Unification
University of Central Florida（中央佛罗里达大学）
该研究提出ULHM框架，通过同胚理论统一跨域表示，实现稀疏恢复、跨域迁移和零样本学习。
2026-02-04 cs.LG eess.IV eess.SP
Neural Snowflakes: Universal Latent Graph Inference via Trainable Latent Geometries
University of Oxford（牛津大学）；McMaster University（麦克马斯特大学）；Vector Institute（矢量研究院）
本文提出神经雪花架构，通过可训练分形式度量实现潜在图的低维等距嵌入，在无需随机搜索的情况下以可微分方式匹配或超越最先进潜在图推断模型。
2025-03-09 cs.DM cs.LG cs.NE
Universal New Physics Latent Space
Institut für Experimentalphysik, Universität Hamburg（汉堡大学实验物理研究所）；Laboratoire de Physique Subatomique et de Cosmologie (LPSC), Université Grenoble-Alpes, CNRS/IN2P3（格勒诺布尔-阿尔卑斯大学 国家核物理与粒子物理研究所 亚原子物理与宇宙学实验室）；Centro de Ciências Naturais e Humanas, Universidade Federal do ABC（ABC联邦大学 自然与人文科学中心）
提出一种机器学习方法，将标准模型及超越标准模型的数据映射到统一潜在空间，保留理论间关系，实现按LHC现象学聚类，助力模型判别与基准选择。
2025-01-22 cs.LG hep-ex hep-ph
Comparing the latent features of universal machine-learning interatomic potentials
Laboratory of Computational Science and Modeling（计算科学与建模实验室）；Department of Energy Conversion and Storage（能源转换与存储部门）；Technical University of Denmark（丹麦技术大学）
本文系统分析了不同uMLIP模型的潜在特征，探讨了训练集和协议对特征重建误差的影响，并讨论了如何通过累积量拼接将原子级特征压缩为全局结构级特征。
2026-04-17 cond-mat.mtrl-sci cs.LG physics.chem-ph
Latent Communication in Artificial Neural Networks
本文研究神经网络潜在表征的跨模型通用性，提出潜在通信概念，通过数据分布间的部分语义对应实现相对表征投影或空间转换，并在多任务、多监督方式和多模态下验证其普遍性。
2024-06-16 cs.AI cs.LG
CodecSep: Prompt-Driven Universal Sound Separation on Neural Audio Codec Latents
Department of Electrical Engineering（电气工程系）；Indian Institute of Technology, Kanpur（印度理工学院，坎浦尔）
CodecSep通过在神经音频编解码器潜在空间中直接提取声源，实现开放词汇声音分离，相比AudioSep在SI-SDR指标上表现更优，且在ViSQOL和MOS-LQS上取得显著提升，同时提供低延迟的代码流部署方案。
2026-06-21 cs.LG cs.SD eess.AS
Universal Representation of Permutation-Invariant Functions on Vectors and Tensors
University of California - San Diego（加州大学圣地亚哥分校）
本文研究了多重集和张量上的置换不变函数，通过引入可识别多重集，证明了仅需 $2DN$ 的潜在维度即可实现通用表示，并确保编码器和解码器连续，显著改进了 $O(N^D)$ 界限。
2023-10-20 cs.LG
LCM-LoRA: A Universal Stable-Diffusion Acceleration Module
IIIS, Tsinghua University（清华大学智能产业研究院）；Hugging Face
本研究提出LCM-LoRA通用加速模块，通过LoRA蒸馏将LCM拓展至多款Stable-Diffusion模型，可即插即用加速各类图像生成任务，泛化能力优于传统数值PF-ODE求解器。
2023-11-09 cs.CV cs.LG
Discovering Universal Activation Directions for PII Leakage in Language Models
Oregon State University, Corvallis OR, USA；Korea Advanced Institute of Science \& Technology, Daejeon, South Korea
UniLeak通过识别语言模型中通用激活方向，提升PII泄露可能性，为隐私安全研究提供新视角。
2026-02-19 cs.CR cs.LG
Universal audio synthesizer control with normalizing flows
IRCAM（声学与音乐研究与协作所）；CNRS（法国国家科学研究中心）；Sorbonne Université（索邦大学）；Laboratorio d’Informatica Musicale (LIM)（音乐信息学实验室）；UNIMI（米兰大学）
无处不在的声音合成器重塑了音乐制作，甚至完全定义了新的音乐流派。然而，现代合成器中越来越多的复杂性和参数使它们更难掌握。因此，开发允许使用合成器轻松创建和探索的方法是一个至关重要的需求。在这里，我们介绍了一种新的配方的音频合成器控制。我们将其形式化为找到一个有组织的潜在的音频空间，表示合成器的能力，同时构建一个可逆的映射到其参数的空间。通过使用这个公式，我们表明，我们可以同时解决自动参数推断，宏观控制学习和基于音频的预设探索在一个单一的模型。为了解决这个新的公式，我们依靠变分自动编码器（VAE）和归一化流（NF）来组织和映射各自的听觉和参数空间。我们引入了解开流，它允许在单独的潜在空间之间执行可逆映射，同时通过将目标分割为部分密度评估来引导一些潜在维度的组织以匹配目标变化因素。我们评估我们的建议对一个大的基线模型，并显示其优越性，在参数推断和音频重建。我们还表明，该模型解开音频变化的主要因素作为潜在的维度，可以直接用作宏观参数。我们还表明，我们的模型是能够学习语义控制的合成器顺利映射到其参数。最后，我们讨论了我们的模型在创意应用程序中的使用及其在Ableton Live中的实时实现
2019-07-01 cs.HC cs.LG cs.MM
Sequential Portfolio Selection under Latent Side Information-Dependence Structure: Optimality and Universal Learning Algorithms
Scuola Normale Superiore（高等师范学院）；Scuola Superiore Sant’Anna（圣安娜高等学校）
本文研究潜在侧信息依赖结构下的序贯投资组合选择，证明平稳市场中恒定策略可达到动态策略的渐近增长率，并提出安全剔除侧信息的学习算法。
2025-01-20 cs.IT cs.LG math.IT
Democratizing Large Language Model-Based Graph Data Augmentation via Latent Knowledge Graphs
The University of Hong Kong（香港大学）
针对现有图数据增强忽略上下文、LLM图学习方法难民主化的问题，提出黑盒上下文驱动的DemoGraph方法，利用LLM生成知识图谱并动态整合，结合粒度感知提示和指令微调，实验证明其优于现有方法且在EHRs场景表现突出。
2025-02-19 cs.AI cs.LG
Universal Physics Transformers: A Framework For Efficiently Scaling Neural Operators
Emmi AI GmbH（Emmi人工智能有限公司）；Software Competence Center Hagenberg GmbH（哈根伯格软件能力中心有限公司）
针对神经算子扩展难题，提出通用物理变换器（UPTs），一种不依赖网格或粒子的统一学习范式，在潜在空间高效传播动力学，并支持任意时空点查询，适用于多种流体与动力学模拟。
2025-02-27 cs.AI cs.LG physics.flu-dyn
