发表机构
Imperial College London（伦敦帝国学院）
机构由 AI 辅助整理，请以论文原文为准。AI 中文总结
本文通过粒子动力学视角提出简化槽注意力（SSA），一种无参数变体，其动力学与软k-均值聚类相关，在Pascal VOC上达到与槽注意力相当的性能，揭示对象中心表示的涌现机制。
AI 中文摘要
通过相互作用粒子动力学的视角研究注意力，揭示了令牌聚类如何从底层动力学中涌现。我们将这一视角扩展到槽注意力——一种用于以对象为中心的图像分割和表示学习的方法，其中学习到的组件掩盖了聚类行为中有多少是注意力动力学本身固有的。因此，我们引入了简化槽注意力（SSA），这是一种无参数变体，其动力学与软$k$-均值聚类相关，并为对象中心表示的出现提供了直接的机制解释。在Pascal VOC数据集上，SSA取得了与槽注意力相当的性能，表明无需学习神经网络组件即可实现具有竞争力的对象中心分割。
英文摘要
Studying attention through the lens of interacting particle dynamics has shown how token clustering can emerge from the underlying dynamics. We extend this perspective to slot attention, a method for object-centric image segmentation and representation learning in which learned components obscure how much of the clustering behaviour is intrinsic to the attention dynamics. We therefore introduce simplified slot attention (SSA), a parameter-free variant whose dynamics are connected to soft $k$-means clustering and which provides a straightforward mechanistic explanation for the emergence of object-centric representations. On the Pascal VOC dataset, SSA achieves performance comparable to that of slot attention, demonstrating that competitive object-centric segmentation can be achieved without learned neural-network components.
Comments13 pages, 4 figures. Accepted to the DynaFront workshop at NeurIPS 2026
