arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2506.05487cs.CVcs.CE
收藏

空间与基于特征的注意力的神经网络模型

A Neural Network Model of Spatial and Feature-Based Attention

Department of Brain and Cognitive Sciences, University of Rochester(脑科学与认知科学系,罗切斯特大学)

Ruoyang Hu, Robert A. Jacobs

AI总结:

本文提出一个受人类视觉注意力启发的双网络模型,通过上下文网络引导基础处理器适应复杂任务,发现其涌现的注意力模式与空间及基于特征的注意力相似,为用神经网络研究人类认知提供了新方向。

摘要:

视觉注意力是一种与视觉和记忆密切交织的机制。自上而下的信息通过注意力影响视觉处理。我们设计了一个受人类视觉注意力各方面启发的神经网络模型。该模型由两个网络组成:一个作为执行简单任务的基础处理器,另一个处理上下文信息并通过注意力引导第一个网络以适应更复杂的任务。在训练模型并可视化学习到的注意力响应后,我们发现模型涌现的注意力模式对应于空间注意力和基于特征的注意力。人类视觉注意力与计算机视觉中注意力之间的这种相似性,为利用神经网络模型研究人类认知指明了一个有前景的方向。

英文摘要:

Visual attention is a mechanism closely intertwined with vision and memory. Top-down information influences visual processing through attention. We designed a neural network model inspired by aspects of human visual attention. This model consists of two networks: one serves as a basic processor performing a simple task, while the other processes contextual information and guides the first network through attention to adapt to more complex tasks. After training the model and visualizing the learned attention response, we discovered that the model's emergent attention patterns corresponded to spatial and feature-based attention. This similarity between human visual attention and attention in computer vision suggests a promising direction for studying human cognition using neural network models.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑