Two-stage Progressive Residual Dense Attention Network for Image Denoising
Yunnan Normal University（云南师范大学）
针对现有去噪模型同等利用层次特征导致性能受限的问题，提出两阶段渐进式残差密集注意力网络TSP-RDANet，通过RDAM和HDRDAM模块逐步去噪并保留浅层特征，在七个基准数据集上取得优异效果。
2024-01-05 cs.CV eess.IV
Triple Attention Mixed Link Network for Single Image Super Resolution
Nanjing University of Science and Technology（南京理工大学）
单帧图像的超分辨率作为一项底层计算机视觉任务具有重要意义。最近的深度卷积神经网络方法已经取得了令人印象深刻的性能。然而，现有的架构有局限性，由于不太复杂的结构，以及不太强的代表性的力量。在这项工作中，为了显着增强特征表示，我们提出了三重注意力混合链接网络（TAN），它包括1）三个不同的方面（即，注意力机制的核心、空间和通道）和2）强大的剩余连接和密集连接两者的融合（即，混合链接）。具体来说，多核网络在不同的感受野下学习多层次表征。输出特征通过有效核和通道注意力重新校准，并部分残差和部分稠密地馈送到下一层，过滤信息，使网络能够学习更强大的表示。这些特征最终通过重构网络中的空间注意力，产生局部和全局信息的融合，让网络恢复更多的细节，提高重构图像的质量。由于不同的功能重新校准和先进的信息流拓扑结构，我们提出的模型是强大的，足以执行对国家的最先进的方法对基准评估。
2018-10-08 cs.CV
Image Super-Resolution Using Attention Based DenseNet with Residual Deconvolution
Beijing Technology and Business University（北京工商大学）
图像的超分辨率是一个具有挑战性的课题，已经引起了研究和工业界越来越多的关注。在本文中，我们提出了一种新的端到端的基于注意力的DenseNet与残留反卷积命名为ADRD。在我们的ADRD中，一个加权的密集块，其中当前层接收加权功能从所有以前的水平，提出了捕捉有价值的功能依赖于密集层自适应。提出了一种新的空间注意模块，用于生成一组注意图，以强调信息区域。此外，我们设计了一种创新的策略，通过反卷积层对残差信息进行上采样，从而可以准确地对高频细节进行上采样。在公开数据集上进行的大量实验表明，所提出的ADRD在定量和定性方面都具有良好的性能。
2019-07-03 cs.CV cs.LG eess.IV
CDAN: Convolutional dense attention-guided network for low-light image enhancement
Bu-Ali Sina University（布阿里·锡纳大学）
本文提出用于低光照图像增强的卷积密集注意力引导网络（CDAN），结合自编码器、卷积密集块与注意力机制，并辅以后期处理优化色彩与对比度，在基准数据集上表现优异，有效恢复纹理与色彩，提升了低光照条件下的目标检测与识别能力。
2024-10-11 cs.AI cs.CV cs.LG
Beyond Conventional Transformers: The Medical X-ray Attention (MXA) Block for Improved Multi-Label Diagnosis Using Knowledge Distillation
Department of Mathematics University of California, Los Angeles（数学系 加州大学洛杉矶分校）
针对胸部X射线多标签诊断需求，提出专用的医学X射线注意力（MXA）模块并嵌入EfficientViT架构，结合知识蒸馏技术，在CheXpert基准上实现AUC 0.85的性能，较基线显著提升。
2025-05-18 cs.AI cs.CV cs.LG
Multi-grained Attention Networks for Single Image Super-Resolution
Nanjing University of Science and Technology（南京理工大学）；University of Michigan（密歇根大学）；DiDi AI Labs, DiDi Chuxing（滴滴出行人工智能实验室）
深度卷积神经网络（CNN）在图像超分辨率（SR）方面引起了广泛的关注。最近，视觉注意机制，利用特征重要性和上下文线索，已被引入到图像SR，并证明是有效的，以提高基于CNN的SR性能。在本文中，我们对SR模型中的注意机制进行了深入的研究，并阐明了这些想法的简单而有效的改进如何提高最先进的水平。我们进一步提出了一个统一的方法，称为“多粒度的注意力网络（MGAN）”，充分利用SR任务的多尺度和注意力机制的优势。在我们的方法中，每个神经元的重要性是根据其周围的区域在多粒度的方式计算，然后被用来自适应地重新缩放的特征响应。更重要的是，以往方法中的“通道注意”和“空间注意”策略本质上可以看作是我们方法的两个特例。我们还引入了多尺度稠密连接来提取多尺度下的图像特征，并通过稠密跳跃连接来捕获不同层的特征。基准数据集上的消融研究证明了我们的方法的有效性。在与其他国家的最先进的SR方法相比，我们的方法显示的优越性，在精度和模型大小。
2019-09-29 cs.CV eess.IV
Sparse Attention for Dense Open-Vocabulary Prediction in CLIP
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
研究在CLIP的最终视觉自注意力层用α-entmax变换替代逐行softmax，以解决其在密集开放词汇预测时注意力分散产生噪声的问题，在开放词汇任务评估中，注意力稀疏化增益与基线注意力偏离目标类程度成正比。
2026-07-14 cs.CV
GateMOT: Q-Gated Attention for Dense Object Tracking
Huazhong University of Science and Technology, Wuhan, China（华中科技大学，武汉，中国）；Zhejiang University, Hangzhou, China（浙江大学，杭州，中国）；La Trobe University, Melbourne, Australia（拉筹伯大学，墨尔本，澳大利亚）
针对原生注意力二次复杂度高难以适配高分辨率密集目标跟踪的问题，提出以Q门控注意力为核心的在线跟踪框架GateMOT，实现线性复杂度多任务解码，在多个基准上取得SOTA性能。
2026-11-03 cs.CV
Interacting Hand-Object Pose Estimation via Dense Mutual Attention
The Australian National University（澳大利亚国立大学）
手部目标的三维姿态估计是计算机视觉许多应用成功的关键。该任务的主要重点是有效地建模手和对象之间的交互。为此，现有的作品要么依赖于在计算昂贵的迭代优化中的交互约束，要么只考虑采样的手和对象关键点之间的稀疏相关性。相比之下，我们提出了一种新的密集的相互注意力机制，能够建模细粒度的手和对象之间的依赖关系。具体来说，我们首先构造的手和对象图根据其网格结构。对于每个手节点，我们通过学习的注意力从每个对象节点聚合特征，反之亦然。由于这种密集的相互关注，我们的方法能够产生物理上合理的姿态，具有高质量和实时推理速度。在大型基准数据集上进行的大量定量和定性实验表明，我们的方法优于最先进的方法。该代码可在https://github.com/rongakowang/DenseMutualAttention.git上获得。
2022-11-16 cs.CV
Self-Attention Dense Depth Estimation Network for Unrectified Video Sequences
Indian Institute of Technology Patna（巴特那印度理工学院）
3D场景的密集深度估计具有许多应用，主要在机器人和监视中。LiDAR和雷达传感器是实时深度估计的硬件解决方案，但这些传感器产生稀疏的深度图，有时不可靠。近年来，针对使用单个2D图像来处理深度估计的研究受到了很多关注。基于深度学习的自监督深度估计方法从纠正的立体和单目视频帧中显示出有希望的结果。我们提出了一个基于自我注意力的深度和自我运动网络的未校正的图像。我们还将相机的不可微失真引入训练管道。我们的方法进行竞争力相比，其他既定的方法，使用校正图像的深度估计。
2020-05-28 cs.CV
Locally Grouped and Scale-Guided Attention for Dense Pest Counting
Kunsan National University（群山大学）
针对数字诱捕器密集害虫计数中的遮挡和姿态变化等挑战，提出将局部分组与尺度引导注意力集成到多尺度CenterNet框架中，通过局部特征分组和判别性特征学习显著优于现有模型。
2024-08-29 cs.CV
ResCLIP: Residual Attention for Training-free Dense Vision-language Inference
University of Electronic Science and Technology of China（电子科学与技术大学）
提出残差交叉相关自注意力模块和语义反馈精炼模块，利用中间层交叉相关注意力重组空间信息，提升CLIP在密集预测任务中的性能。
2026-06-02 cs.CV
DORS: Dynamic Attention Routing for Diffusion-based Object Removal in Dense Scenes
School of Computer Science and Information Engineering, Hefei University of Technology（合肥工业大学计算机与信息工程学院）
针对密集场景目标移除中因语义干扰致移除不完整的问题，提出基于动态注意力路由机制的DORS框架，含实例过滤注意力和上下文引导路由组件，经实验验证其性能优于现有方法。
2026-10-09 cs.CV
Dense Attention Fluid Network for Salient Object Detection in Optical Remote Sensing Images
City University of Hong Kong（香港城市大学）；Beijing Jiaotong University（北京交通大学）
尽管在自然场景图像视觉显著性分析方面取得了显著进展，但光学遥感图像显著性目标检测仍然是一个开放且具有挑战性的问题。在本文中，我们提出了一个端到端的密集注意力流体网络（DAFNet）的超氧化物歧化酶在光学RSIs。提出了一种全局上下文感知注意力（Global Context-aware Attention，GCA）模块来自适应地捕获长距离语义上下文关系，并进一步嵌入到一种稠密注意力流（Dense Attention Fluid，DSE）结构中，使浅层注意力线索流入深层，以指导高级特征注意力图的生成。具体而言，GCA模块由两个关键组件组成，其中全局特征聚合模块实现来自任何两个空间位置的显著特征嵌入的相互加强，级联金字塔注意力模块通过建立级联金字塔框架来解决尺度变化问题，从而以粗到细的方式逐步细化注意力图。此外，我们为SOD构建了一个新的具有挑战性的光学RSI数据集，其中包含2，000张具有像素显著性注释的图像，这是目前最大的公开基准。大量的实验表明，我们提出的DAFNet显着优于现有的最先进的SOD竞争对手。https://github.com/rmcong/DAFNet_TIP20
2020-11-26 cs.CV
Improved Fusion of Visual and Language Representations by Dense Symmetric Co-Attention for Visual Question Answering
Tohoku University（东北大学）；RIKEN Center for AIP（理化学研究所人工智能研究中心）
视觉问答（VQA）的一个关键解决方案是如何融合从输入图像和问题中提取的视觉和语言特征。我们发现，一个注意力机制，使两种模式之间的密集，双向的相互作用，有助于提高准确性的预测答案。具体来说，我们提出了一个简单的架构，是完全对称的视觉和语言表示，其中每个问题的话出席图像区域和每个图像区域出席问题的话。它可以堆叠起来形成一个层次结构，用于图像-问题对之间的多步交互。我们通过实验表明，所提出的架构实现了一个新的国家的最先进的VQA和VQA 2.0，尽管它的小尺寸。我们还提出了定性评估，演示了如何提出的注意力机制可以产生合理的注意力地图的图像和问题，从而导致正确的答案预测。
2018-12-01 cs.CV
Shallow Feature Based Dense Attention Network for Crowd Counting
University of Warwick（华威大学）；Microsoft Research（微软研究院）；Tsinghua University（清华大学）
虽然近年来通过深度学习进行人群计数的性能已经得到了显着改善，但由于背景杂乱和图像中人员规模的变化，它仍然是一个根深蒂固的问题。在本文中，我们提出了一个基于浅层特征的密集注意力网络（SDANet）的人群计数从静止图像，它减少了背景的影响，通过涉及一个基于浅层特征的注意力模型，同时，捕获多尺度信息通过密集连接的分层图像特征。具体来说，受背景和人群在浅特征中通常具有明显不同反应的观察的启发，我们决定在浅特征图上构建我们的注意力模型，从而实现准确的背景像素检测。此外，考虑到跨不同尺度的人的最具代表性的特征可以出现在特征提取网络的不同层中，为了更好地保留它们，我们建议密集连接不同层的分层图像特征，并随后对它们进行编码以估计人群密度。在三个基准数据集上的实验结果清楚地证明了SDANet在处理不同场景时的优越性。特别是，在具有挑战性的UCF CC 50数据集上，我们的方法远远优于其他现有方法，这从我们SDANet的平均绝对误差（MAE）下降11.9%可以看出。
2020-06-17 cs.CV
TransForensics: Image Forgery Localization with Dense Self-Attention
Hikvision Research Institute（海康威视研究院）
如今先进的图像编辑工具和技术技巧使篡改图像更逼真，这很容易逃避图像取证系统，使图像的真实性验证更加困难。为了解决这个具有挑战性的问题，我们介绍了TransForensics，一种新颖的图像伪造定位方法的灵感来自Transformers。在我们的框架中的两个主要组成部分是密集的自我注意编码器和密集的校正模块。前者用于模拟全局上下文和不同尺度下局部块之间的所有成对交互，而后者用于提高隐藏层的透明度并校正来自不同分支的输出。与以往的传统和深度学习方法相比，TransForensics不仅可以捕获判别式表示并获得高质量的掩码预测，而且不受篡改类型和补丁序列顺序的限制。通过对主要基准进行实验，我们表明，TransForensics的性能远远优于最先进的方法。
2021-08-09 cs.CV
Multi-Scale Attention with Dense Encoder for Handwritten Mathematical Expression Recognition
University of Science and Technology of China（中国科学技术大学）
手写数学表达式的识别是一个具有挑战性的问题，因为手写数学符号的二维结构复杂，手写输入具有歧义性，并且手写数学符号的大小不一。为了解决这个问题，我们利用基于注意力的编码器-解码器模型，识别数学表达式图像从二维布局到一维LaTeX字符串。我们通过采用密集连接的卷积网络来改进编码器，因为它们可以加强特征提取并促进梯度传播，特别是在小训练集上。我们还提出了一种新的多尺度注意力模型，该模型用于处理不同尺度下的数学符号识别，并保存了池化操作会丢失的细粒度细节。在CROHME竞赛任务上进行了验证，所提出的方法明显优于最先进的方法，仅使用官方训练数据集，在CROHME 2014和CROHME 2016上的表情识别准确率分别为52.8%和50.1%。
2018-01-31 cs.CV
Multi-Granularity Network with Modal Attention for Dense Affective Understanding
Alibaba Group（阿里巴巴集团）
视频情感理解是视频创作和推荐所需要的，其目的是预测视频内容引起的情感表达。在最近的EEV挑战中，提出了一种密集的情感理解任务，需要帧级情感预测。在本文中，我们提出了一个多粒度网络与模态注意力（MGN-MA），它采用多粒度特征更好地描述目标帧。具体来说，多粒度特征可以分为帧级、片段级和视频级特征，分别对应于视觉显著性内容、语义上下文和视频主题信息。然后设计了情态注意力融合模块，融合多粒度特征，突出情感相关的情态。最后，融合后的特征被送入混合专家（MoE）分类器进行预测。进一步采用模型集成后处理，所提出的方法在EEV挑战中实现了0.02292的相关性得分。
2021-06-18 cs.CV
Affine-based Deformable Attention and Selective Fusion for Semi-dense Matching
Apple Inc.（苹果公司）；Hong Kong University of Science and Technology（香港科技大学）
本文提出基于仿射的可变形注意力与选择性融合，改进半稠密匹配，完整版性能最优，精简版以低计算和参数达到LoFTR基线。
2024-05-22 cs.CV
Indirect-Instant Attention Optimization for Crowd Counting in Dense Scenes
Qingdao University（青岛大学）
引导可学习参数优化（如特征映射）的吸引人的方法之一是全局注意力，它以一小部分成本启发了网络智能。然而，它的损失计算过程仍然存在不足：1）我们只能为注意力产生一维的“伪标签”，因为过程中涉及的人工阈值并不鲁棒; 2）等待损失计算的注意力必然是高维的，通过卷积减少它将不可避免地引入额外的可学习参数，从而混淆损失的来源。为此，我们设计了一个简单但有效的间接即时注意力优化（IIAO）模块的基础上SoftMax-Attention，它将高维的注意力地图转换为一维的特征地图在数学意义上的损失计算中途通过网络，同时自动提供自适应多尺度融合的特征金字塔模块。特殊的变换产生相对粗糙的特征，并且最初，区域的预测可靠性因人群密度分布而异，因此我们定制区域相关损失（RCLoss）来检索连续的易出错区域和平滑的空间信息。大量的实验证明，我们的方法优于以前的SOTA方法在许多基准数据集。
2022-06-12 cs.CV
AUNet: Attention-guided dense-upsampling networks for breast mass segmentation in whole mammograms
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Shandong University（山东大学）；Guangdong General Hospital（广东省人民医院）；Guangdong Academy of Medical Sciences（广东省医学科学院）；Shanghai Jiao Tong University（上海交通大学）；The University of Sydney（悉尼大学）
乳腺X线摄影是早期乳腺癌筛查最常用的工具之一。乳腺X线照片中的乳腺肿块的自动分割是必不可少的，但由于低信噪比和各种各样的肿块形状和大小，具有挑战性。现有的方法主要通过手动或自动提取以质量为中心的图像块来应对这些挑战。然而，手动补丁提取是耗时的和自动补丁提取带来的错误，不能在后续的分割步骤补偿。在这项研究中，我们提出了一种新的注意力引导的密度上采样网络（AUNet），用于直接在整个乳房X线照片中准确分割乳房肿块。在AUNet中，我们采用了一种非对称的编码器-解码器结构，并提出了一种有效的上采样块，注意力引导的密集上采样块（AU块）。特别是，AU块被设计成具有三个优点。首先，通过密集上采样补偿双线性上采样的信息损失。其次，设计了一种更有效的高、低层特征融合方法。第三，它包括一个渠道注意功能，以突出丰富的信息渠道。我们在两个公开的数据集CBIS-DDSM和INbreast上评估了所提出的方法。与三种最先进的全卷积网络相比，AUNet实现了最佳性能，CBIS-DDSM的平均Dice相似系数为81.8%，INbreast为79.1%。
2019-08-06 cs.CV
AttenIR: Aligning Dense Visual Attention with Mesh Warping for Unsupervised Image Retargeting
School of Media Engineering, Communication University of Zhejiang（浙江传媒学院媒体工程学院）；Samsung Research America（三星美国研究院）；School of Computer Science and Engineering, The University of New South Wales（新南威尔士大学计算机科学与工程学院）
提出AttenIR框架，通过对齐密集视觉注意力与网格变形，实现无监督图像重定向，在保留内容保真度和全局结构上优于传统及现有学习方法
2026-10-14 cs.CV
SCLIP: Rethinking Self-Attention for Dense Vision-Language Inference
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出SCLIP及相关自注意力CSA，仅替换CLIP视觉编码器最后一层并复用预训练投影矩阵，实现免训练零样本语义分割，在八个基准上以38.2%平均mIoU超越现有方法。
2024-10-26 cs.CV
SDTP: Semantic-aware Decoupled Transformer Pyramid for Dense Image Prediction
Huawei（华为）；CERT（国家计算机网络应急技术处理协调中心）
虽然Transformer在计算机视觉任务上取得了很大的进展，但密集图像预测中的尺度变化仍然是关键挑战。在Transformer中，有效的多尺度技术很少被应用，并且现有方法存在两个主要的局限性。一方面，vanilla Transformer中的自注意模块由于其机制过于僵化，未能充分利用语义信息的多样性。另一方面，由于计算负担沉重，很难在不同层次之间建立注意力和互动。为了缓解这个问题，我们首先回顾了密集预测中的多尺度问题，验证了不同语义表示和多尺度交互的重要性，并探索了Transformer对金字塔结构的适应性。受这些发现的启发，我们提出了一种新的语义感知的解耦Transformer金字塔（SDTP）的密集图像预测，包括层内语义提升（ISP），跨层解耦交互（CDI）和注意力细化功能（ARF）。ISP探讨了不同接受空间中的语义差异。CDI在解耦空间中建立了全局注意力和不同层次之间的交互，解决了计算量大的问题。此外，还进一步增加了ARF，以细化Transformer中的注意力。实验结果表明，该方法的有效性和通用性，它优于国家的最先进的密集图像预测任务的显着保证金。此外，所提出的组件都是即插即用的，可以嵌入到其他方法中。
2021-09-18 cs.CV
DELTA: Dense Depth from Events and LiDAR using Transformer's Attention
Lund University（隆德大学）；CNRS（法国国家科学研究中心）；INSA Lyon（里昂国立应用科学学院）；UCBL（里昂第一大学）；Heudiasyc（于迪阿斯实验室）；LIRIS（里昂信息与系统科学实验室）
本文提出DELTA架构，利用Transformer自注意力和交叉注意力融合事件相机与LiDAR数据，实现稠密深度估计，并在近距离误差上较先前最优方法降低最多四倍。
2025-05-05 cs.CV
Conditional Transfer with Dense Residual Attention: Synthesizing traffic signs from street-view imagery
Delft University of Technology（代尔夫特理工大学）；Eindhoven University of Technology（埃因霍温理工大学）；Cyclomedia Technology B.V（Cyclomedia科技有限公司）
街景图像中交通标志的目标检测和分类是资产管理、地图制作和自动驾驶的基本要素。然而，一些交通标志很少出现，因此，它们很难自动识别。为了提高检测和分类率，我们提出了生成图像的交通标志，然后使用训练的检测器/分类器。在这项研究中，我们提出了一个端到端的框架，从一个给定的图像的交通标志和象形图的目标类生成一个现实的图像的交通标志。我们提出了一种密集级联的剩余注意力机制，称为密集剩余注意力，在传递对象信息的同时保留背景信息。我们还建议利用多尺度鉴别器，使得输出的较小尺度引导更高分辨率的输出。我们已经进行了大量的交通标志类的检测和分类测试，通过训练检测器使用的组合的真实和生成的数据。在检测测试中，新训练的模型在99%的召回率下将假阳性的数量减少了1.2 - 1.5%，在分类测试中绝对提高了4.65%（前1名的准确率）。
2018-09-05 cs.CV
HiLRP: Toward One Trustworthy Explanation for Vision Transformer: Conservation-Valid Attribution via Attention Primitives
Faculty of Engineering, University of Peradeniya（佩拉德尼亚大学工程学院）；School of Computing Technologies, RMIT University（皇家墨尔本理工大学计算技术学院）；School of Engineering & Digital Technologies, University of Southern Queensland（南昆士兰大学工程与数字技术学院）；School of Engineering & Technologies, UNSW（新南威尔士大学工程与技术学院）；Faculty of Science and Technology, Charles Darwin University（查尔斯达尔文大学科学技术学院）
HiLRP是一种统一归因框架，通过分解ViT算子为四类操作并制定守恒规则，解决现有方法在多样化ViT上不可靠的问题，在EfficientViT上指向性达0.97，优于对比方法。
2026-09-29 cs.AI cs.CV
Multi-Layer Dense Attention Decoder for Polyp Segmentation
The University of Kansas（堪萨斯大学）；Toronto Metropolitan University（多伦多都会大学）
针对息肉分割中视觉Transformer无法学习多层局部关系及解码器特征聚合不足的问题，提出一种多层密集注意力解码器，通过DAG模块和嵌套架构分层聚合特征，在五个数据集上达到SOTA。
2024-03-27 cs.CV
Learning Dense Features for Point Cloud Registration Using a Graph Attention Network
Korea Advanced Institute of Science and Technology (KAIST)（韩国高等科学技术院（KAIST））
点云配准是定位、制图、跟踪和重建等许多应用中的基本任务。成功的配准依赖于提取鲁棒的和有区别的几何特征。虽然现有的基于学习的方法需要高计算能力来同时处理大量的原始点，但由于使用GPU的强大并行计算过程，计算能力限制不是问题。在本文中，我们介绍了一个框架，有效地和经济地提取密集的功能，使用图注意力网络点云匹配和注册（DFGAT）。DFGAT的检测器负责在大型原始数据集中找到高度可靠的关键点。DFGAT的描述符将这些关键点与它们的邻居相结合，以提取不变的密度特征，为匹配做准备。图形注意力网络（GAT）使用注意力机制来丰富点云之间的关系。最后，我们认为这是一个最优的运输问题，并使用Sinkhorn算法找到积极和消极的匹配。我们在KITTI数据集上进行了全面的测试，并评估了这种方法的有效性。实验结果表明，该方法具有高效、简洁的关键点选择和描述方法，能够获得最佳的匹配性能指标，配准成功率达到99.88%，优于其他方法。
2022-11-04 cs.CV
Dense Nested Attention Network for Infrared Small Target Detection
National University of Defense Technology（国防科技大学）；College of Electronic Science and Technology, National University of Defense Technology（国防科技大学电子科学学院）
单帧红外小目标检测的目的是将小目标从杂波背景中分离出来。随着深度学习的发展，基于CNN的方法由于其强大的建模能力，在通用目标检测中取得了很好的结果。然而，现有的基于CNN的方法不能直接应用于红外小目标，因为在其网络中的池层可能会导致深层目标的丢失。为了解决这个问题，本文提出了一种密集嵌套注意力网络（DNANet）。具体来说，我们设计了一个密集嵌套交互模块（DNIM），以实现高级和低级功能之间的渐进式交互。利用DNIM中的重复作用，可以保持深层红外小目标。在DNIM的基础上，我们进一步提出了一个级联的通道和空间注意力模块（CSAM），以自适应地增强多级特征。利用我们的DNANet，小目标的上下文信息可以很好地结合起来，并通过反复的融合和增强来充分利用。此外，我们开发了一个红外小目标数据集（即NUDT-SILLE），并提出了一套评估指标进行全面的性能评估。在公开数据集和我们自己开发的数据集上的实验证明了该方法的有效性。与其他最先进的方法相比，我们的方法在检测概率（Pd），误报率（Fa）和交集（IoU）方面取得了更好的性能。
2022-08-16 cs.CV
Improved Dense Nested Attention Network Based on Transformer for Infrared Small Target Detection
Beijing Institute of Technology（北京理工大学）
本文提出基于Transformer的IDNANet，通过引入Swin-transformer、ACmix注意力及WD-BCE损失函数，提升红外小目标检测性能，并构建BIT-SIRST数据集，在多个数据集上取得领先结果。
2024-01-17 cs.CV
Progressive Attention on Multi-Level Dense Difference Maps for Generic Event Boundary Detection
Nanjing University（南京大学）；SenseTime Research（商汤科技研究院）
通用事件边界检测是视频理解中的一个重要而又具有挑战性的任务，其目的是检测人类自然感知事件边界的时刻。这项任务的主要挑战是感知不同事件边界的各种时间变化。为此，本文提出了一个有效的和端到端的可学习的框架（DDM-Net）。为了解决事件边界的多样性和复杂语义，我们做了三个显着的改进。首先，我们构建一个特征库来存储空间和时间的多层次特征，为多尺度下的差异计算做准备。其次，为了减轻以前的方法的时间建模不足，我们提出了密集的差异映射（DDM），以全面表征运动模式。最后，我们利用渐进式注意力的多层次DDM联合聚合外观和运动线索。因此，DDM-Net在Kinetics-GEBD和TAPOS基准测试中分别实现了14%和8%的显着提升，并在没有额外功能的情况下超越了LOVEU Challenge@CVPR 2021的前一名解决方案。最先进的结果表明，更丰富的运动表示和更复杂的聚合，在处理通用事件边界检测的多样性的有效性。代码可在\url{https://github.com/MCG-NJU/DDM}上获得。
2022-04-01 cs.CV
Extending Decoupled Attention to Dense Prediction and Masked Training for Multi-Channel Images
University of Surrey（萨里大学）
针对多通道图像，提出扩展解耦注意力以支持密集预测和掩码训练，通过线性分配恢复跨通道对应，在多个基准上超越最强MC-ViT基线。
2026-09-21 cs.CV
Bi-directional Contextual Attention for 3D Dense Captioning
Seoul National University（首尔大学）；LG AI Research（LG AI研究院）；Diquest
针对3D密集描述任务中上下文信息局限与定位-描述目标矛盾问题，提出带双向上下文注意力的Transformer流水线BiCA，通过并行的实例与上下文查询实现双向感知，在两个主流数据集上性能显著优于现有方法。
2024-08-13 cs.CV
Dense Cross-Query-and-Support Attention Weighted Mask Aggregation for Few-Shot Segmentation
Southeast Univ.（东南大学）；Tencent Jarvis Lab（腾讯天衍实验室）
Few-Shot语义分割（FSS）的研究引起了人们的极大关注，其目标是在给定目标类的少量标注支持图像的情况下，从查询图像中分割出目标对象。这一具有挑战性的任务的关键是充分利用支持图像中的信息，通过利用查询和支持图像之间的细粒度的相关性。然而，大多数现有方法要么将支持信息压缩到几个类式原型中，要么使用部分支持信息（例如，仅前景），导致不可忽略的信息损失。在本文中，我们提出了密集像素交叉查询和支持注意加权掩码聚合（DCAMA），其中前景和背景支持信息都充分利用通过多层次像素之间的相关性配对查询和支持功能。DCAMA在Transformer架构中使用缩放点积注意力实现，将每个查询像素视为令牌，计算其与所有支持像素的相似性，并将其分割标签预测为所有支持像素标签的添加聚合-通过相似性加权。基于DCAMA的独特配方，我们进一步提出了高效和有效的一遍推理的n次拍摄分割，其中所有支持图像的像素被收集的掩模聚合一次。实验表明，我们的DCAMA在PASCAL-5i，COCO-20 i和FSS-1000的标准FSS基准测试中显着提高了最先进的水平，例如，与之前的最佳记录相比，单次mIoU的绝对改善分别为3.1%、9.7%和3.6%。消融研究也验证了DCAMA的设计。
2022-07-18 cs.CV
Contrastive Attention Network with Dense Field Estimation for Face Completion
University of Science and Technology of China（中国科学技术大学）
大多数现代人脸修复方法采用自动编码器或其变体来恢复人脸图像中缺失的区域。编码器通常用于学习强大的表征，在应对复杂学习任务的挑战方面发挥着重要作用。具体来说，在野外的人脸图像中经常会呈现出各种口罩，形成复杂的图案，尤其是在这个COVID-19的艰难时期。在这种复杂的情况下，编码器很难捕捉到如此强大的表示。为了解决这一挑战，我们提出了一个自监督的连体推理网络，以提高编码器的泛化能力和鲁棒性。它可以从全分辨率图像中编码上下文语义，并获得更具鉴别力的表示。为了处理人脸图像的几何变化，一个密集的对应字段被集成到网络中。我们进一步提出了一个多尺度解码器与一个新的双注意力融合模块（DualAttention Fusion Module，简称DAI），它可以结合恢复和已知区域的自适应方式。这种多尺度架构有利于解码器将从编码器学习的区别性表示用于图像。大量的实验表明，该方法不仅取得了更有吸引力的结果相比，国家的最先进的方法，但也提高了蒙面人脸识别的性能显着。
2021-12-20 cs.CV
DFCANet: Dense Feature Calibration-Attention Guided Network for Cross Domain Iris Presentation Attack Detection
Indian Institute of Technology Delhi（印度理工学院德里分校）；National Institute of Technology Raipur（国立赖普尔理工学院）；Norwegian University of Science and Technology（挪威科技大学）
虹膜呈现攻击检测（iPad）是目前广泛应用的虹膜识别系统中的一个关键技术。然而，现有的iPad算法不能很好地推广到看不见的和跨域的情况下，因为在不受约束的环境中捕获和高视觉相关性之间的善意和攻击样本。虹膜视觉图像的复杂纹理和形态图案中的这些相似性进一步导致性能下降。为了缓解这些缺点，本文提出了DFCANet：密集特征校准和注意力引导网络，它将本地传播的虹膜模式与全球定位的虹膜模式进行校准。从特征校准卷积和残差学习中提升优势，DFCAnet生成特定领域的虹膜特征表示。由于校准特征图中的一些通道包含更突出的信息，因此我们通过通道注意力机制来利用跨通道的区分特征学习。为了加强对我们提出的模型的挑战，我们使DFCANet操作在非分割和非归一化的眼睛虹膜图像。在具有挑战性的跨域和域内场景中进行的广泛实验突出了一致的优于结果。与最先进的方法相比，DFCANet分别在基准IIITD CLI、IIIT CSD和NDCLD 13数据库的性能上实现了显著的提升。此外，一种新的增量式学习为基础的方法已被引入，以克服解开虹膜数据特性和数据稀缺性。本文还追求具有挑战性的情况下，考虑软镜头下的攻击类别进行评估下，各种跨域协议。该代码将公开发布。
2021-11-01 cs.CV
ClusTR: Exploring Efficient Self-attention via Clustering for Vision Transformers
The University of Adelaide（阿德莱德大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Northwestern Polytechnical University（西北工业大学）
尽管Transformers已经成功地从其语言建模起源过渡到基于图像的应用，但其二次计算复杂性仍然是一个挑战，特别是对于密集预测。在本文中，我们提出了一个基于内容的稀疏注意力方法，作为一种替代密集的自我注意力，旨在降低计算复杂度，同时保留建模的能力，远程依赖。具体来说，我们先聚类，然后聚合键和值令牌，作为减少令牌总数的基于内容的方法。所得到的聚类令牌序列保留了原始信号的语义多样性，但可以以较低的计算成本进行处理。此外，我们进一步将聚类引导的注意力从单尺度扩展到多尺度，这有利于密集预测任务。我们标记建议的Transformer架构的WITTR，并证明它实现了各种视觉任务的最先进的性能，但在较低的计算成本和较少的参数。例如，我们的具有22.7M参数的WITTR小模型在ImageNet上达到了83.2%的Top-1准确率。源代码和ImageNet模型将公开提供。
2022-08-28 cs.CV
HSMLA: Hierarchical Softmax Multi-scale Linear Attention for Efficient Vision Transformers
University of California, Los Angeles（加州大学洛杉矶分校）；Columbia University（哥伦比亚大学）；The University of Melbourne（墨尔本大学）
针对视觉Transformer高分辨率密集预测的计算开销问题，提出HSMLA，结合多类注意力机制与深度卷积，在多项任务上实现精度与效率的优异平衡。
2026-08-12 cs.CV
ADeLA: Automatic Dense Labeling with Attention for Viewpoint Adaptation in Semantic Segmentation
Stanford University（斯坦福大学）；Zhejiang University（浙江大学）
我们描述了一个无监督的领域自适应方法的图像内容的变化所造成的语义分割任务的观点。大多数现有方法在共享空间中执行域对齐，并假设从对齐空间到输出的映射是可转移的。然而，由视点变化引起的新内容可能使这种有效对齐的空间无效，从而导致负面适应。我们的方法不需要在两个域之间对齐图像的任何统计数据。相反，它利用仅在彩色图像上训练的视图转换网络来为目标产生语义图像。由于注意力机制引入的归纳偏差，尽管缺乏监督，视图转换网络仍然可以推广到语义图像。此外，为了解决语义图像转换为语义标签的歧义，我们把视图转换网络作为一个功能表示的颜色图像所隐含的未知映射，并提出功能标签幻觉在目标域中生成伪标签。我们的方法超越了基于最先进的对应估计和视图合成方法的基线。此外，它优于最先进的无监督领域自适应方法，利用自我训练和对抗域对齐。我们的代码和数据集将公开提供。
2021-07-29 cs.CV
Target Refocusing via Attention Redistribution for Open-Vocabulary Semantic Segmentation: An Explainability Perspective
本文提出RF-CLIP方法，通过模拟人类注意力重聚焦行为，解决CLIP在开放词汇语义分割中的多模态对齐问题，提升密集预测性能。
2025-11-20 cs.CV
Routing Policy Optimization for Online Diffusion Reinforcement Learning
National University of Singapore（新加坡国立大学）；ByteDance（字节跳动）
本文提出RPO方法，将注意力路由转为随机探索动作，采用受控双回滚估计器，在保留生成器原始采样器的同时提升生成质量，训练效率较Flow-GRPO类方法高近4倍。
2026-10-16 cs.CV
FLASHSWIN: Unlocking Large Windows and Dense Tokens in Swin Vision Transformers with Memory Efficient Attention
Scientific Computing and Imaging Institute, University of Utah（犹他大学科学计算与影像研究所）；Kahlert School of Computing, University of Utah（犹他大学卡勒特计算学院）；RNET Technologies（RNET技术公司）
FLASHSWIN通过FlashAttention降低窗口注意力内存至O(M²)，并用2D RoPE恢复位置信息，实现大窗口密集令牌，提升多个视觉任务性能。
2026-10-06 cs.CV
Vision Transformer with Deformable Attention
Tsinghua University（清华大学）；BNRist（北京国家信息科学与技术研究中心）；Amazon（亚马逊）；Beijing Academy of Artificial Intelligence（北京智源人工智能研究院）
Transformers最近在各种视觉任务中表现出了卓越的性能。大的，有时甚至是全球性的感受野赋予Transformer模型比CNN模型更高的代表性。然而，简单地扩大感受野也会引起一些担忧。一方面，使用密集的注意力，例如，在ViT中，导致过多的存储器和计算成本，并且特征可能受到感兴趣区域之外的不相关部分的影响。另一方面，在PVT或Swin Transformer中采用的稀疏注意力是数据不可知的，并且可能限制对长范围关系建模的能力。为了缓解这些问题，我们提出了一种新的可变形的自我注意力模块，在自我注意力中的键和值对的位置以数据依赖的方式选择。这种灵活的方案使自我注意模块能够专注于相关区域并捕获更多信息特征。在此基础上，我们提出了变形注意力Transformer，一个通用的骨干模型与变形注意力的图像分类和密集预测任务。大量的实验表明，我们的模型在综合基准测试中取得了持续改进的结果。代码可在https://github.com/LeapLabTHU/DAT上获得。
2022-05-24 cs.CV
Interpretable Vision Transformers in Monocular Depth Estimation via SVDA
Dept. Electrical and Computer Engineering（电子与计算机工程系）；Democritus University of Thrace（德米特里乌斯大学）；Athena Research Center（雅典研究中心）；University Campus at Kimmeria（基米里亚大学校园）
SVDA通过引入谱结构化的注意力机制，提升了单目深度估计的可解释性，同时保持了预测精度并降低了计算开销。
2026-02-11 cs.CV
Multi-vision Attention Networks for On-line Red Jujube Grading
Institute of Microelectronics of Chinese Academy of Sciences（中国科学院微电子研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Shanghai University（上海大学）
针对红枣分类问题，设计了一种计算量小、分类精度高的卷积神经网络模型。该模型的架构受到生物体和DenseNet的多视觉机制的启发。为了进一步改进我们的模型，我们添加了SE-Net的注意力机制。我们还构建了一个数据集，其中包含23,735红枣图像捕获的红枣分级系统。根据红枣的外观和分级系统的特点，将数据集分为四类：无效、腐烂、干瘪和正常。数值实验表明，该模型的分类准确率达到91.89%，与DenseNet-121，InceptionV 3，InceptionV 4和Inception-ResNet v2相当。然而，我们的模型具有实时性能。
2019-03-31 cs.CV
PAT: Position-Aware Transformer for Dense Multi-Label Action Detection
University of Surrey（萨里大学）
PAT通过相对位置编码和非层次化多尺度Transformer结构缓解位置信息丢失，在Charades和MultiTHUMOS密集多标签动作检测上分别将mAP提升至26.5%和44.6%，达到新最先进水平。
2023-08-09 cs.CV
HRFormer: High-Resolution Transformer for Dense Prediction
Peking University（北京大学）；Microsoft Research Asia（微软亚洲研究院）；Baidu（百度）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Computing Technology, CAS（中国科学院计算技术研究所）
我们提出了一个高分辨率的Transformer（HRFormer），学习高分辨率表示密集的预测任务，与原始的视觉Transformer，产生低分辨率的表示，并具有较高的内存和计算成本。我们利用高分辨率卷积网络（HRNet）中引入的多分辨率并行设计，以及在小的非重叠图像窗口上执行自注意的局部窗口自注意，以提高内存和计算效率。此外，我们将卷积引入到FFN中，以跨断开的图像窗口交换信息。我们证明了高分辨率Transformer在人体姿势估计和语义分割任务上的有效性，例如，HRFormer在COCO姿态估计方面优于Swin Transformer by $1.3$ AP，具有更少的参数和更少的FLOP，其中$50\%$和$30\%$更少。代码可在：https://github.com/HRNet/HRFormer.
2021-11-07 cs.CV
MASS: Multi-Attentional Semantic Segmentation of LiDAR Data for Dense Top-View Understanding
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Stellantis, Opel Automobile GmbH（斯特兰蒂斯，欧宝汽车有限公司）
所有自动驾驶系统的核心是感知周围环境的能力，例如，通过LiDAR序列的语义分割，由于SemanticKITTI和nuScenes-LidarSeg等大型数据集的发布，其经历了显着的进步。虽然以前的大多数工作都集中在激光雷达输入的稀疏分割上，但密集的输出掩码为自动驾驶汽车提供了几乎完整的环境信息。在本文中，我们介绍了MASS -一个多注意力语义分割模型，专门为密集的顶视图理解的驾驶场景。我们的框架对支柱和占用特征进行操作，包括三个基于注意力的构建块：（1）关键点驱动的图形注意力，（2）从空间输入的向量嵌入计算的基于LSTM的注意力，以及（3）基于支柱的注意力，从而产生密集的360度分割掩码。通过对SemanticKITTI和nuScenes-LidarSeg的广泛实验，我们定量地证明了我们模型的有效性，在SemanticKITTI上的表现优于最先进的19.0%，在nuScenes-LidarSeg上的mIoU中达到30.4%，其中MASS是解决密集分割任务的第一项工作。此外，我们的多注意力模型被证明是非常有效的3D目标检测验证的KITTI-3D数据集上，展示了其高度的推广到其他任务相关的3D视觉。
2022-01-20 cs.CV cs.RO
MTLSI-Net: A Linear Semantic Interaction Network for Parameter-Efficient Multi-Task Dense Prediction
Harbin Institute of Technology（哈尔滨工业大学）；Peng Cheng Laboratory（鹏城实验室）；Harbin Institute of Technology SuZhou Research Institute（哈尔滨工业大学苏州研究院）
本文提出MTLSI-Net，通过线性注意力机制解决多任务密集预测中全局跨任务交互的挑战，采用三关键组件实现高效参数使用，实验表明其在NYUDv2和PASCAL-Context上达到SOTA性能。
2026-04-02 cs.CV
Single Image Super-resolution via Dense Blended Attention Generative Adversarial Network for Clinical Diagnosis
在训练阶段，更多的连接（例如DenseNet最后一层的通道级联）意味着占用更多的GPU内存和更低的GPU利用率，需要更多的训练时间。训练时间的增加也不利于SR算法的推广应用。这就是为什么我们放弃了DenseNet作为基本网络。但是，由于本文仅适用于医学图像，因此我们放弃了本文。请在arXiv：1911.03464查看我们应用于一般图像的最新工作。
2020-02-24 cs.CV eess.IV
Detail Preserving Depth Estimation from a Single Image Using Attention Guided Networks
Beihang University（北京航空航天大学）；Advanced Digital Sciences Center（先进数字科学中心）；Data61-CSIRO（联邦科学与工业研究组织Data61）；Australian National University（澳大利亚国立大学）
提出一种结合密集特征提取器与注意力融合的深度估计网络，实现快速且细节保持的单图像深度预测。
2018-09-03 cs.CV
MC-Sparse: Deconstructing and Closing the Dense-Sparse Attention Gap in Diffusion Transformers
Fudan University（复旦大学）；Tencent HY（腾讯HY）；Shanghai Innovation Institute（上海创新研究院）；MMLab, CUHK（香港中文大学多媒体实验室）；Nankai University（南开大学）；Peking University（北京大学）；Shanghai Jiao Tong University（上海交通大学）
MC-Sparse通过元缓存和精确KV选择，在扩散Transformer中实现高效稀疏注意力，显著加速视频和3D生成，同时保持高保真度。
2026-10-06 cs.AI cs.CV
