Hierarchical State Abstraction Based on Structural Information Principles
Beihang University（北京航空航天大学）；Zhongguancun Laboratory（中关村实验室）；Didi Chuxing（滴滴出行）；Lehigh University（理海大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
针对强化学习状态抽象中的关键信息丢失问题，提出基于结构信息原理的 SISA 分层聚类框架，通过最优编码树与条件结构熵提升奖励、样本效率及通用性。
2023-04-24 cs.AI
Masked Multi-Query Slot Attention for Unsupervised Object Discovery
Jadavpur University（贾达普大学）；ÉTS Montréal（蒙特利尔工程学院）
本文提出掩码多查询槽注意力方法，通过掩码背景和扩展多查询槽注意力，在PASCAL-VOC 2012上提升无监督目标定位性能。
2024-04-30 cs.AI cs.CV cs.LG
Scheduling to Learn In An Unsupervised Online Streaming Model
TIFR, Mumbai（孟买塔塔基础研究院）；IIT-Bombay（印度理工学院孟买分校）
一个无监督的在线流模型被认为是在$T$插槽的样本到达在线的方式。存在$M$分类器，其混淆矩阵先验未知。在每个槽中，最多一个样本可以由任何分类器标记。样本的准确性是从各种分类器中为其获得的标签集的函数。样本的效用是其精度减去响应时间（离开时隙和到达时隙的差）的标量倍数，其中离开时隙也由算法决定。由于每个分类器每个时隙最多可以标记一个样本，因此在为特定样本获得更大的标签集合以提高其准确性与其响应时间之间存在折衷。最大化所有样本的效用之和的问题被认为是，学习混淆矩阵，样本分类器匹配分配，和样本离开槽决定相互依赖。该算法首先学习混淆矩阵，然后使用贪心算法进行样本分类器匹配。一旦样本的增量效用变为非正，样本就会离开。我们证明了该算法的竞争比是$\frac{1}{2}-{\mathcal O}\left(\frac{\log T}{T}\right)$。
2021-12-02 cs.LG
Solving Reasoning Tasks with a Slot Transformer
Deepmind（深度思维）
将世界划分为有用的抽象概念，以便对时间和空间进行推理的能力是智能的重要组成部分。为了成功地感知和有效地使用感官采取行动，我们必须解析和压缩大量的信息，以便进行进一步的下游推理，从而使越来越复杂的概念出现。如果有任何希望扩展表示学习方法来处理真实世界的场景和时间动态，那么就必须有一种方法来学习准确，简洁和可组合的抽象。我们提出了插槽Transformer，一个架构，利用插槽的注意力，Transformers和迭代变分推理视频场景数据来推断这样的表示。我们评估的插槽Transformer CLEVRER，动力学600和CATER datesets和证明，该方法使我们能够开发强大的建模和推理周围的复杂行为，以及这些数据集的分数，比较有利的现有基线。最后，我们评估架构的关键组件的有效性，模型的代表性能力和预测能力，从不完整的输入。
2022-10-20 cs.LG
Interpretable Learning Dynamics in Unsupervised Reinforcement Learning
Optimizer Department of Computer Science Arizona State University（计算机科学系优化器亚利桑那州立大学）
本文提出URL智能体可解释性框架，结合Grad-CAM、LRP、探索指标、潜在聚类及两项注意力指标，揭示内在动机、架构偏置与表征学习之间的关系。
2025-05-06 cs.LG stat.ML
Learning Good State and Action Representations via Tensor Decomposition
Princeton University（普林斯顿大学）；Massachusetts Institute of Technology（麻省理工学院）；Duke University（杜克大学）
连续状态作用马尔可夫决策过程（MDP）的转移核具有自然张量结构。本文提出了一种张量启发的无监督学习方法，从经验轨迹中识别有意义的低维状态和动作表示。该方法通过核化、重要性抽样和低Tucker秩近似来利用MDP的张量结构。该方法可以进一步用于状态和动作的聚类，并找到最佳的离散MDP抽象。我们提供了尖锐的统计误差范围张量浓度和保存后嵌入的扩散距离。我们进一步证明，学习的状态/动作抽象提供准确的近似潜在的块结构，如果它们存在，使功能近似在下游任务，如政策评估。
2023-02-19 cs.LG stat.ML
Divided Attention: Unsupervised Multi-Object Discovery with Contextually Separated Slots
UCLA（加州大学洛杉矶分校）；HKU（香港大学）；ISTA（因斯布鲁克大学）
本研究提出无监督多目标发现方法DivA，通过多模态条件编解码架构与槽信息分离机制实现实时运动分割，性能达SOTA且速度提升两倍，其生成的目标还可助力小样本下的分类器训练缩小与监督方法的差距。
2025-07-31 cs.AI cs.CV cs.LG
SLAC: Safe and Efficient Real-Robot Reinforcement Learning via Unsupervised Simulation Pre-Training
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Sony AI（索尼人工智能）；Amazon Robotics（亚马逊机器人技术）
研究旨在解决高自由度机器人强化学习难题，提出SLAC方法，利用低保真模拟器预训练潜在动作空间，通过定制无监督方法训练并用于新型离策略算法，在双手移动操纵任务中达领先性能，高效学习复杂任务。
2026-07-20 cs.AI cs.LG cs.RO
Unsupervised Doodling and Painting with Improved SPIRAL
我们研究使用强化学习代理作为图像的生成模型（扩展arXiv：1804.01118）。生成代理控制一个模拟的绘画环境，并与奖励提供了一个同步训练，以评估代理的样本的真实性，无论是无条件的或重建的神经网络进行训练。与以前的工作相比，我们对代理和鉴别器的架构进行了一些改进，这些改进导致了有趣的结果，有时甚至是令人惊讶的结果。我们发现，当受到足够的约束时，生成代理可以学习生成具有一定程度的视觉抽象的图像，尽管只见过真实的照片（没有人类的笔触）。如果有足够的时间与绘画环境，他们可以产生具有相当现实主义的图像。这些结果表明，在适当的情况下，人类绘画的某些方面可以从模拟体现中出现，而不需要外部监督，模仿或社会线索。最后，我们注意到该框架在创造性应用中的潜力。
2019-10-02 cs.CV cs.LG stat.ML
Unsupervised Causal Abstractions Discovery
Mila - Quebec AI Institute（魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Canada CIFAR AI Chair（加拿大CIFAR人工智能主席）
提出从低层测量数据中直接学习高层结构因果模型的方法，利用低秩因果发现假设，证明低秩图观测诱导的潜变量形成因果抽象，并给出可辨识性结果及实用学习目标。
2026-06-19 cs.LG
ToyArchitecture: Unsupervised Learning of Interpretable Models of the World
GoodAI
人工智能（AI）的研究主要集中在两个极端：要么在狭窄的AI领域进行小的改进，要么在通用的理论框架上，这些理论框架通常是不可计算的，与生物智能理论不兼容，或者缺乏实际的实现。这项工作的目标是结合两者的主要优势：遵循大局观，同时提供特定的理论及其实现。与纯理论的方法相比，所产生的架构应该在现实环境中可用，而且还形成了包含所有基本机制的框架的核心，其中应该更容易集成额外的所需功能。在本文中，我们提出了一种新的，故意简单，可解释的分层架构，它结合了多种不同的机制到一个系统：无监督学习的世界模型，学习自己的行动对世界的影响，基于模型的强化学习，层次规划和计划执行，和符号/子符号积分一般。学习的模型以分层表示的形式存储，具有以下属性：1）它们越来越抽象，但可以在需要时保留细节，2）它们易于以局部和符号形式进行操作，因此也允许在每个抽象级别上观察学习过程。在系统的所有级别上，数据的表示可以以符号和子符号的方式进行解释。这使得该体系结构能够使用子符号方法有效地学习，并采用符号推理。
2020-09-09 cs.AI
Unsupervised Learning of Graph Hierarchical Abstractions with Differentiable Coarsening and Optimal Transport
MIT-IBM Watson AI Lab, IBM Research（IBM研究院MIT-IBM沃森人工智能实验室）
分层抽象是一种解决各种学科中大规模图问题的方法。粗化就是这样一种方法：它生成一个金字塔图，其中下一级的图是上一级图的结构摘要。随着科学计算的发展，许多粗化策略都是基于数学驱动的几何学。最近，在深度学习中存在重新兴起的兴趣，以设计可通过可微参数化学习的分层方法。这些方法与监督学习的下游任务配对。然而，在实践中，监督信号（例如，标签）是稀缺的，并且通常很难获得。在这项工作中，我们提出了一种无监督的方法，创造OTCoarsening，使用最佳的运输。粗化矩阵和传输成本矩阵都是参数化的，因此可以针对给定的一组图学习和定制最佳粗化策略。我们表明，所提出的方法产生有意义的粗图，并产生有竞争力的性能相比，监督方法的图分类和回归。
2020-12-06 cs.LG stat.ML
Invariant Slot Attention: Object Discovery with Slot-Centric Reference Frames
Northeastern University（东北大学）；Google Research（谷歌研究院）
针对现有基于槽的目标发现模型难以捕捉空间对称性、样本效率低的问题，提出不变槽注意力方法，通过变换位置编码引入姿态等变性，在多个合成基准和真实数据集上提升了目标发现性能与数据效率。
2023-07-21 cs.AI cs.CV cs.LG
Improving Object-centric Learning with Query Optimization
UCLA（加州大学洛杉矶分校）；Tsinghua University（清华大学）；BIGAI（北京通用人工智能研究院）
将复杂的自然场景分解为有意义的以对象为中心的抽象的能力是人类感知和推理的核心。在最近的无监督以对象为中心的学习中，Slot-Attention模块以其简单而有效的设计发挥了重要作用，并培养了许多强大的变体。然而，这些方法在没有监督的情况下非常难以训练，并且在对象的概念上是模糊的，特别是对于复杂的自然场景。在本文中，我们建议通过调查可学习查询作为Slot-Attention学习初始化的潜力来解决这些问题，将其与现有尝试通过双层优化来改进Slot-Attention学习的努力相结合。通过对Slot-Attention进行简单的代码调整，我们的模型，Bi-level Optimized Query Slot Attention，在无监督图像分割和重建中，在3个具有挑战性的合成数据集和7个复杂的真实世界数据集上实现了最先进的结果，大大优于以前的基线。我们提供全面的烧蚀研究来验证我们设计的必要性和有效性。此外，我们的模型表现出很大的潜力，概念绑定和零样本学习。我们的工作在https://bo-qsa.github.io上公开发布
2023-02-10 cs.AI cs.CV cs.LG
Unsupervised Musical Object Discovery from Audio
The Swiss AI Lab, IDSIA, USI & SUPSI（瑞士人工智能实验室，IDSIA，卢加诺大学与瑞士南部应用科学与艺术大学）；Institute of Neuroinformatics, ETH Zurich（苏黎世联邦理工学院神经信息学研究所）；AI Initiative, KAUST（阿卜杜拉国王科技大学人工智能计划）
MusicSlots将SlotAttention适配到音频，实现无监督音乐分解，在音符发现和属性预测上优于基线。
2023-11-14 cs.LG cs.SD eess.AS
Semi-Supervised End-To-End Contrastive Learning For Time Series Classification
Hohai University（河海大学）；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
针对时间序列分类两阶段对比学习的缺陷，提出端到端半监督框架SLOTS，联合优化无监督、有监督对比损失与分类损失，在5个数据集上以相近计算成本实现性能显著提升。
2025-03-21 cs.LG
Temporally Consistent Object-Centric Learning by Contrasting Slots
University of Tübingen（蒂宾根大学）；University of Amsterdam（阿姆斯特丹大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
针对视频对象中心表示缺乏跨帧稳定性的问题，提出对象级时间对比损失，提升分解可靠性、下游动力学预测及对象发现性能。
2025-03-18 cs.AI cs.CV cs.LG
From Vicious to Virtuous Cycles: Synergistic Representation Learning for Unsupervised Video Object-Centric Learning
Sungkyunkwan University（顺天大学）
本文提出协同表征学习（SRL）方法，通过编码器与解码器的相互细化打破恶性循环，提升视频对象中心学习的性能。
2026-02-03 cs.CV cs.LG
Complex-Valued Autoencoders for Object Discovery
University of Amsterdam（阿姆斯特丹大学）；Bosch Center for AI（博世人工智能中心）
以对象为中心的表征构成了人类感知的基础，使我们能够对世界进行推理，并系统地推广到新的环境。目前，大多数关于无监督对象发现的工作集中在基于槽的方法上，该方法显式地分离各个对象的潜在表示。虽然结果很容易解释，但通常需要设计相关的架构。与此相反，我们提出了一个相对简单的方法-复杂的自动编码器（CAE）-创建分布式对象为中心的表示。根据生物神经元中对象表征的理论编码方案，其复值激活代表两个消息：它们的幅度表示特征的存在，而神经元之间的相对相位差表示哪些特征应该绑定在一起以创建联合对象表征。与以前使用复值激活进行对象发现的方法相比，我们提出了一种完全无监督的方法，该方法是端到端训练的，从而显着提高了性能和效率。此外，我们表明，CAE在简单的多对象数据集上实现了具有竞争力或更好的无监督对象发现性能，与最先进的基于槽的方法相比，同时训练速度快100倍。
2022-11-18 cs.AI cs.CV cs.LG
Unsupervised Skill Discovery with Bottleneck Option Learning
Seoul National University（首尔国立大学）
拥有从环境中获得内在技能的能力，而不需要像人类一样的任何外部奖励或监督，这是一个重要的问题。我们提出了一种新的无监督技能发现方法命名为信息瓶颈选项学习（IBOL）。除了环境的线性化可以促进更多样化和更远距离的状态转换之外，IBOL还可以发现各种技能。它提供了抽象的技能与信息瓶颈框架的选择与改进的稳定性和鼓励解开。我们的经验表明，IBOL在MuJoCo环境中的信息理论评估和下游任务上优于多种最先进的无监督技能发现方法，包括Ant，HalfCheetah，Hopper和D'Kitty。
2021-06-27 cs.AI cs.LG cs.RO
Contrastive Training of Complex-Valued Autoencoders for Object Discovery
The Swiss AI Lab, IDSIA, USI & SUPSI（瑞士AI实验室，IDSIA，USI与SUPSI）；Center for Brain Science, Harvard University（哈佛大学脑科学中心）；AI Initiative, KAUST（阿卜杜拉国王科技大学AI计划）
针对现有以目标为中心的槽注意力模型存在的槽数固定、容量均等、训练成本高等局限，本文通过架构改进和新型对比学习方法优化基于同步的复值激活模型，首次实现其在多目标彩色数据集上的无监督目标发现及三个以上目标的同时表征。
2023-11-09 cs.AI cs.CV cs.LG
Recurrent Ladder Networks
The Curious AI Company（好奇人工智能公司）
我们提出了一个经常性的梯子网络的扩展，其结构是由层次潜变量模型中所需的推理动机。我们证明，经常性的梯子是能够处理各种各样的复杂的学习任务，受益于迭代推理和时间建模。该架构在视频数据的时间建模上显示出接近最佳的结果，在音乐建模上显示出有竞争力的结果，并且基于更高阶的抽象（例如随机纹理和运动线索）改进了感知分组。我们提出了完全监督，半监督和无监督任务的结果。结果表明，所提出的架构和原则是强大的工具，学习层次的抽象，学习迭代推理和处理时间信息。
2017-12-18 cs.AI cs.LG cs.NE
Latent Structural Similarity Networks for Unsupervised Discovery in Multivariate Time Series
Independent Researcher（独立研究者）；University of Cambridge（剑桥大学）
本文提出了一种用于多变量时间序列无监督发现的潜在结构相似性网络，通过无监督学习构建实体间关系图，展示潜在相似性对网络结构的影响。
2026-01-15 cs.LG
Object-Centric Temporal Consistency via Conditional Autoregressive Inductive Biases
Delft University of Technology（代尔夫特理工大学）；The University of Tokyo（东京大学）；Mila, University of Montreal（蒙特利尔大学米拉研究所）；Google DeepMind（谷歌DeepMind）；Agency for Science, Technology and Research（新加坡科技研究局）；Nanyang Technological University（南洋理工大学）
本文提出条件自回归槽注意力（CA-SA）框架，通过自回归先验网络和一致性损失函数增强视频中以对象为中心表示的时间一致性，并在视频预测和视觉问答任务上优于基线方法。
2024-10-21 cs.CV cs.LG
REFACTOR-VLA: Unsupervised Library Learning of Typed Motor Programs
Apple（苹果公司）
REFACTOR-VLA 是用于学习可复用技能的醒/睡系统，在 LIBERO 数据集上，其改进的训练目标提升了聚类性能，生成了首个 real-LIBERO 任务-语言库，性能优于现有基线。
2026-09-02 cs.AI cs.LG cs.RO
Language-Mediated, Object-Centric Representation Learning
Stanford University（斯坦福大学）；MIT（麻省理工学院）；Harvard University（哈佛大学）
我们提出了一种以图像为媒介，以对象为中心的表示学习（LORL），一种从视觉和语言中学习分离的，以对象为中心的场景表示的范例。LORL建立在无监督对象发现和分割的最新进展之上，特别是MONet和Slot Attention。虽然这些算法仅通过重建输入图像来学习以对象为中心的表示，但LORL使它们能够进一步学习将所学习的表示与概念相关联，即，用于对象类别、属性和空间关系的词，来自语言输入。这些源自语言的以对象为中心的概念促进了以对象为中心的表征的学习。LORL可以与各种语言无关的无监督对象发现算法集成。实验表明，LORL的集成一致地提高了无监督对象发现方法的性能在两个数据集上通过语言的帮助。我们还表明，LORL学习的概念，结合对象发现方法，援助下游任务，如引用表达式理解。
2021-06-08 cs.CL cs.CV cs.LG
R2D2: Recursive Transformer based on Differentiable Tree for Interpretable Hierarchical Language Modeling
Ant Financial Services Group（蚂蚁金融服务集团）；Hasso Plattner Institute（哈索·普拉特纳研究所）；University of Potsdam（波茨坦大学）
人类语言理解在多个粒度级别上操作（例如，单词、短语和句子），其中抽象级别增加，可以分层组合。然而，现有的具有堆叠层的深度模型没有明确地对任何类型的分层过程进行建模。本文提出了一种基于CKY型二叉树的递归Transformer模型来模拟合成过程。我们将双向语言模型预训练目标扩展到该架构，尝试预测每个单词的左和右抽象节点。为了扩大我们的方法，我们还引入了一个有效的修剪树归纳算法，使编码在一个线性数量的组成步骤。语言建模和无监督句法分析的实验结果表明了该方法的有效性。
2022-03-03 cs.CL cs.LG
