Pillar R-CNN for Point Cloud 3D Object Detection
Harbin Institute of Technology(哈尔滨工业大学);Shanghai Jiao Tong University(上海交通大学)
点云3D目标检测的性能取决于有效地表示原始点、基于网格的体素或柱。最近的两阶段3D检测器通常采用基于点体素的R-CNN范例,即,第一阶段采用基于3D体素的主干,用于在鸟瞰图(BEV)表示上生成3D建议,第二阶段通过中间点表示来细化它们。它们的主要机制涉及利用中间关键点来从转换的BEV表示恢复实质3D结构上下文。然而,熟练的点-体素特征交互使得整个检测流水线更加复杂和计算密集。在本文中,我们采取了不同的观点-基于柱的BEV表示具有足够的能力,以保持3D结构。鉴于BEV感知的最新进展,我们设计了一种概念简单但有效的两阶段3D检测架构,称为Pillar R-CNN。在加密的BEV特征图之上,Pillar R-CNN可以轻松引入特征金字塔架构,以各种尺度生成3D提案,并采用简单的2D R-CNN风格检测头进行框细化。我们的Pillar R-CNN在大规模Waymo Open Dataset上与最先进的3D检测器相比表现良好,但成本很低。应该强调的是,由于有效和优雅的Pillar R-CNN架构,现在可以进一步探索涉及自动驾驶的应用的BEV感知。
2023-02-26 cs.CV
Voxel or Pillar: Exploring Efficient Point Cloud Representation for 3D Object Detection
Xi’an Jiaotong University(西安交通大学)
针对 3D 点云检测中 voxel 与 pillar 编码差异及垂直学习不足的问题,提出完全稀疏的 VPF 框架,通过双向 SFL 融合两类特征,在 nuScenes 与 Waymo 上实现竞争力性能和实时推理。
2024-03-03 cs.CV
PillarDETR: YOLO-Backbone and RT-DETR Head for Real-Time 3D Object Detection
University of California, Berkeley(加州大学伯克利分校)
提出PillarDETR架构,结合YOLOv8的CSP骨干和RT-DETR解码器,实现无需NMS的端到端实时3D目标检测,在KITTI和nuScenes上取得精度与速度的良好平衡。
2026-06-01 cs.CV
PillarNeSt: Embracing Backbone Scaling and Pretraining for Pillar-based 3D Object Detection
本文提出 PillarNeSt,将 ImageNet 预训练的二维密集 ConvNet 按点云稀疏性自适应扩展为柱体检测器主干,在 nuScenes 和 Argoversev2 上显著超越现有三维目标检测器。
2023-11-29 cs.CV cs.RO
Proposal-free Lidar Panoptic Segmentation with Pillar-level Affinity
The Johns Hopkins University(约翰斯·霍普金斯大学);Motional
我们提出了一个简单而有效的激光雷达全景分割的无建议架构。我们共同优化语义分割和类不可知的实例分类在一个单一的网络使用基于支柱的鸟瞰图表示。实例分类头学习柱之间的成对亲和力,以确定柱是否属于同一实例。我们进一步提出了一个局部聚类算法,通过合并语义分割和亲和度预测来传播实例id。我们在nuScenes数据集上的实验表明,我们的方法优于以前的无建议方法,并且与基于建议的方法相当,后者需要额外的目标检测注释。
2022-04-19 cs.CV
Semi-supervised 3D Object Detection with PatchTeacher and PillarMix
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对半监督3D目标检测中伪标签质量受限的问题,提出聚焦局部场景检测的PatchTeacher及配套优化技术与PillarMix数据增强策略,在Waymo和ONCE数据集上取得大幅领先的SOTA结果。
2024-07-13 cs.CV
Pillar-Voxel Fusion Network for 3D Object Detection in Airborne Hyperspectral Point Clouds
School of Electronics and Information Engineering, Harbin Institute of Technology(电子与信息工程学院,哈尔滨工业大学)
本文提出PiV-AHPC网络,通过柱体-体素双分支编码器和多级特征融合机制,有效解决空中超光谱点云中3D目标检测的几何-光谱失真问题,实现高精度检测与泛化能力。
2025-07-05 cs.CV
FATE: Pillar Encoding and Frequency-Aware Training for Event-Based Object Detection
School of Computing, State University of New York at Binghamton(纽约州立大学宾汉姆顿分校计算学院)
提出FATE框架,通过柱状编码保留事件流时间结构,并利用频率感知训练生成密集伪标签,实现高达200Hz的高时间分辨率目标检测,性能优于现有方法。
2026-06-17 cs.CV
PAN: Pillars-Attention-Based Network for 3D Object Detection
Department of Electronic and Computer Engineering, Lero (the Research Ireland Centre for Software), and the Data Driven Computer Engineering (D 2 iCE) Research Centre at the University of Limerick(电子与计算机工程系,Lero(爱尔兰软件研究中心),以及利默里克大学数据驱动计算机工程(D 2 iCE)研究中心);Provizio, Future Mobility Campus Ireland, Shannon Free Zone(Provizio,Future Mobility Campus Ireland,Shannon Free Zone)
针对现有相机-雷达融合三维目标检测研究不足的问题,提出基于柱注意力的PAN网络,通过雷达特征自注意力建模与简化卷积层优化,在nuScenes数据集上实现精度与推理速度的双重SOTA。
2025-10-01 cs.CV
PillarGrid: Deep Learning-based Cooperative Perception for 3D Object Detection from Onboard-Roadside LiDAR
University of California at Riverside(加州大学河滨分校);Toyota North America R&D Labs(丰田北美研发实验室)
3D目标检测在实现自动驾驶方面发挥着基础性作用,从安全性、移动性和可持续性的角度来看,自动驾驶被认为是解开当代交通系统瓶颈的重要关键。现有的点云目标检测目标检测方法大多是基于单个机载激光雷达,其性能不可避免地受到距离和遮挡的限制,尤其是在交通密集的场景中。在本文中,我们提出了\textit{PillarGrid},一种新的合作感知方法,融合来自多个三维激光雷达(车载和路边)的信息,以提高连接和自动驾驶车辆(CAV)的态势感知。PillarGrid由四个主要阶段组成:1)点云的协同预处理,2)柱状体素化和特征提取,3)来自多个传感器的特征的网格深度融合,以及4)基于卷积神经网络(CNN)的增强3D目标检测。提出了一种用于模型训练和测试的协同感知平台。大量的实验表明,PillarGrid在精度和范围方面都大大优于SOTA基于单LiDAR的3D目标检测方法。
2022-03-19 cs.AI cs.CV
PSA-Det3D: Pillar Set Abstraction for 3D object Detection
Sun Yat-sen University(中山大学)
三维点云小目标检测目标检测是一个具有挑战性的问题,这主要是由于以下两个方面的限制:(1)由于有效点的缺乏,小目标的检测比正常目标要困难得多。(2)小的物体很容易被阻挡,这会破坏它们在3D点云中的网格形状。本文提出了一种柱集提取(PSA)和前景点补偿(FPC)的方法,并设计了一个基于点的检测网络PSA-Det 3D,以提高小目标的检测性能。PSA在集合抽象的基础上嵌入了一个柱形查询操作来扩展网络的接收域,可以有效地聚合点特征。为了定位更多的遮挡对象,我们提出了一个建议生成层,包括前景点分割和FPC模块。最后将前景点和估计中心融合在一起以生成检测结果。在KITTI 3D检测基准上的实验表明,PSA-Det 3D在小目标检测中具有较高的检测精度,优于其他算法。
2022-10-26 cs.AI cs.CV
SSC3OD: Sparsely Supervised Collaborative 3D Object Detection from LiDAR Point Clouds
Beijing Jiaotong University(北京交通大学)
提出稀疏监督协作3D目标检测框架SSC3OD,通过Pillar-MAE和实例挖掘模块生成高质量伪标签,有效缓解标注不完整问题并提升检测性能。
2023-07-03 cs.CV
LiDAR-based Online 3D Video Object Detection with Graph-based Message Passing and Spatiotemporal Transformer Attention
Beijing Institute of Technology(北京理工大学);Baidu Research(百度研究院);Inception Institute of Artificial Intelligence(人工智能起源研究所);National Engineering Laboratory of Deep Learning Technology and Application(深度学习技术及应用国家工程实验室);University of Kentucky(肯塔基大学)
现有的基于LiDAR的三维目标检测器通常只关注单帧点云的检测,而忽略了连续帧点云中的时空信息。在本文中,我们提出了一个端到端的在线3D视频对象检测器,点云序列上操作。所提出的模型包括一个空间特征编码组件和时空特征聚合组件。在前一部分中,提出了一种新的柱消息传递网络(PMPNet)编码每个离散点云帧。它通过迭代消息传递自适应地从相邻节点中收集信息,有效地扩大了柱特征的接收域。在后一个组件中,我们提出了一个有注意力的时空Transformer GRU(AST-GRU)聚合的时空信息,这增强了传统的ConvGRU与注意力的记忆门控机制。AST-GRU包含空间Transformer Attention(STA)模块和时间Transformer Attention(TTA)模块,分别用于强调前景对象和对齐动态对象。实验结果表明,所提出的3D视频对象检测器达到了最先进的性能上的大规模nuScenes基准。
2020-04-03 cs.CV
3DPillars: Pillar-based two-stage 3D object detection
Samsung Research(三星研究所);School of Electrical and Electronic Engineering, Yonsei University(延世大学电气电子工程学院)
针对PointPillars伪图像表示丢失3D结构且难以两阶段检测的问题,提出3DPillars框架,通过可分离体素特征模块和稀疏场景上下文RoI头,在KITTI和Waymo上兼顾速度与精度。
2025-09-06 cs.CV
Multistream Network for LiDAR and Camera-based 3D Object Detection in Outdoor Scenes
Department of Computer Science, The University of Western Australia(西澳大学计算机科学系);School of Computing & Information Systems, The University of Melbourne(墨尔本大学计算与信息系)
提出三流 MuStD 网络,分别提取 LiDAR 柱体、鸟瞰图及 RGB-LiDAR 多模态特征并融合,在 KITTI 上实现高效且具竞争力的 3D 检测。
2025-07-25 cs.AI cs.CV
PolarStream: Streaming Lidar Object Detection and Segmentation with Polar Pillars
Johns Hopkins University(约翰斯·霍普金斯大学);Motional
最近的工作将激光雷达视为一种固有的流数据源,并表明激光雷达感知模型的端到端延迟可以通过在楔形点云扇区而不是完整点云上操作来显着减少。然而,由于使用直角坐标系,这些方法将扇区表示为矩形区域,浪费内存和计算。在这项工作中,我们建议使用极坐标系,并在此设计上做了两个关键的改进。首先,我们通过使用来自相邻扇区的多尺度填充来增加空间上下文:来自当前扫描的前一扇区和/或来自过去扫描的后一扇区。其次,我们通过引入特征不失真和范围分层卷积来改进核心极坐标卷积架构。在nuScenes数据集上的实验结果表明,与其他基于流的方法相比,该方法有显着的改进。我们还实现了与现有的非流方法相当的结果,但具有较低的延迟。代码和预训练模型可在\url{https://github.com/motional/polarstream}上获得。
2022-03-24 cs.CV cs.RO
Reconcile Prediction Consistency for Balanced Object Detection
Chongqing University(重庆大学)
分类和回归是目标检测器的两大支柱。在大多数基于CNN的探测器中,这两个支柱是独立优化的。如果分类损失和回归损失之间没有直接的交互作用,则在训练阶段分类损失和回归损失不能同步向最优方向优化。这显然会导致大量的不一致的预测与高的分类分数,但低的定位精度或低的分类分数,但高的定位精度在推理阶段,特别是对于不规则形状和遮挡的对象,这严重损害了现有的检测器的检测性能后NMS。为了协调均衡目标检测的预测一致性,提出了一种调和损失来协调分类分支和定位分支的优化。Harmonic损失使这两个分支能够在训练过程中相互监督和促进,从而在推理阶段产生一致的预测,并且顶级分类和本地化高度共现。此外,为了防止定位损失在训练阶段被离群值所主导,提出了谐波IoU损失来协调不同IoU级别样本的定位损失的权重。基准PASCAL VOC和MS COCO的综合实验证明了我们的模型的通用性和有效性,以促进现有的对象检测器的国家的最先进的精度。
2021-08-27 cs.CV
RadarPillars: Efficient Object Detection from 4D Radar Point Clouds
Mannheim University of Applied Sciences(曼海姆应用技术大学)
针对4D雷达点云极度稀疏且速度信息利用不足的问题,提出基于pillar的RadarPillars检测网络,通过径向速度分解、PillarAttention和层缩放提升精度与效率。
2024-08-09 cs.CV
Dual Memory Aggregation Network for Event-Based Object Detection with Learnable Representation
School of Artificial Intelligence, Dalian University of Technology(大连理工大学人工智能学院);Advanced Computing and Storage Lab, Huawei Technologies Co. Ltd(华为技术有限公司先进计算与存储实验室)
基于事件的相机是生物启发的传感器,以异步方式捕获每个像素的亮度变化。与基于帧的传感器相比,事件相机具有微秒级的延迟和高动态范围,因此在高速运动和光照条件差的情况下显示出巨大的目标检测潜力。由于事件流的稀疏性和非对称性,大多数现有的方法都采用手工制作的方法将事件数据转换为2D网格表示。然而,它们在聚集来自事件流的信息以用于目标检测方面是次优的。在这项工作中,我们建议学习一个事件表示优化基于事件的目标检测。具体而言,事件流被划分为正极性和负极性的x-y-t坐标中的网格,产生一组柱作为3D张量表示。为了充分利用事件流中的信息来检测目标,提出了一种双内存聚合网络(DMANet),利用事件流中的长内存和短内存来聚合有效的信息进行目标检测。长记忆被编码在自适应convLSTM的隐藏状态中,而短记忆通过计算相邻时间间隔的事件柱之间的时空相关性来建模。在最近发布的基于事件的汽车检测数据集上进行的大量实验证明了该方法的有效性。
2023-03-17 cs.CV
CVFNet: Real-time 3D Object Detection by Learning Cross View Features
Zhejiang University(浙江大学);China North Vehicle Research Institute(中国北方车辆研究所)
近年来,由于深度学习技术的发展,LiDAR点云三维目标检测取得了很大的进展。虽然基于体素或点的方法在3D目标检测中很流行,但它们通常涉及耗时的操作,例如体素上的3D卷积或点之间的球查询,使得所得网络不适合时间关键型应用。另一方面,基于2D视图的方法具有高计算效率,但通常获得比基于体素或点的方法差的性能。在这项工作中,我们提出了一个实时的【形】基于视图的单级三维物体检测器,即CVFNet来完成这项任务。为了在满足效率要求的情况下加强跨视图特征学习,该框架采用高效的渐进方式提取不同视图的特征并进行融合。首先,我们提出了一种新的点-距离特征融合模块,在多个阶段,深度集成点和距离视图功能。然后,设计了一种特殊的切片柱,在将获得的深点视图特征转换为鸟瞰视图时,很好地保持了3D几何形状。为了更好地平衡样本比例,提出了一种稀疏柱检测头,将检测集中在非空网格上。我们在流行的KITTI和NuScenes基准上进行实验,在准确性和速度方面都达到了最先进的性能。
2022-07-15 cs.CV
Context-Aware Dynamic Feature Extraction for 3D Object Detection in Point Clouds
点云密度的变化增加了三维检测的难度。在本文中,我们提出了一个上下文感知的动态网络(CADNet)捕捉密度的变化,同时考虑点上下文和语义上下文。从原始点云生成点层次的上下文,以扩大有效的接收领域。它们是基于我们的扩展体素化方法在体素化柱子周围提取的,并使用上下文编码器与柱子特征并行处理。凭借大的感知范围,我们能够捕捉潜在对象的特征变化,并生成细心的空间指导,以帮助调整不同区域的强度。在区域建议网络中,考虑到传统卷积的有限表示能力,其中相同的内核在不同的样本和位置之间共享,我们提出了一个可分解的动态卷积层,通过从局部语义上下文学习来适应输入特征的变化。它自适应地生成多个固定核的位置相关系数,并将它们与局部特征窗口进行卷积。在动态卷积的基础上,我们设计了一个双通道卷积模块,进一步提高了动态卷积的表示能力。我们在KITTI数据集上使用我们的网络进行了实验,并在3D检测任务的精度和速度方面取得了良好的性能。我们的单级检测器的性能大大优于SECOND和PointPillars,并达到30 FPS的速度。
2020-07-28 cs.CV
Class-Aware PillarMix: Can Mixed Sample Data Augmentation Enhance 3D Object Detection with Radar Point Clouds?
Robert Bosch GmbH, Corporate Research(罗伯特·博世有限公司,企业研究);University of Stuttgart, Institute of Signal Processing and System Theory(斯图加特大学,信号处理与系统理论研究所)
针对现有混合样本数据增强方法难以适配雷达点云的问题,本文提出类别感知柱体层级混合方法CAPMix,在两个雷达数据集上实现了优于现有MSDA方法的3D目标检测性能。
2025-11-19 cs.AI cs.CV cs.LG
ESAFusion: LiDAR--4-D Radar Fusion via Local Geometric Complementation and Multiscale Adaptive Interaction for 3-D Object Detection
Shanghai University(上海大学);Fudan University(复旦大学)
ESAFusion提出证据感知与尺度自适应框架,通过局部几何互补和多尺度交互融合LiDAR与4-D雷达,在VoD数据集上实现最高mAP,提升3-D检测精度与鲁棒性。
2026-09-25 cs.CV
CPSeg: Cluster-free Panoptic Segmentation of 3D LiDAR Point Clouds
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);University of Toronto(多伦多大学)
快速准确的激光雷达点云全景分割系统对于自动驾驶车辆理解周围物体和场景至关重要。现有的方法通常依赖于建议或聚类来分割前景实例。因此,它们很难实现实时性能。在本文中,我们提出了一种新的实时端到端的激光雷达点云全景分割网络,称为CPSeg。特别地,CPSeg包括共享编码器、双解码器和无簇实例分割头,其能够根据学习的嵌入来动态地柱化前景点。然后,它通过使用成对嵌入比较找到连接的柱子来获取实例标签。因此,传统的基于建议或基于聚类的实例分割转化为成对嵌入比较矩阵上的二进制分割问题。为了帮助网络回归实例的嵌入,提出了一种快速确定性的深度补全算法,实时计算每个点云的表面法线。该方法在两个大规模自动驾驶数据集SemanticKITTI和nuScenes上进行了基准测试。值得注意的是,大量的实验结果表明,CPSeg在两个数据集上的实时方法中取得了最先进的结果。
2023-02-03 cs.CV
PVTransformer: Point-to-Voxel Transformer for Scalable 3D Object Detection
Waymo Research(Waymo研究院)
本文提出PVTransformer,用注意力模块替代PointNet池化,解决点云3D检测中的信息瓶颈问题,在Waymo Open Dataset上以76.5 mAPH L2达到最先进性能。
2024-05-05 cs.CV
PointSlice: Accurate and Efficient Slice-Based Representation for 3D Object Detection from Point Clouds
Zhejiang University(浙江大学);Defense Innovation Institute(国防科技创新研究院);Tsinghua University(清华大学)
PointSlice提出了一种基于切片的点云表示方法,通过引入切片交互网络提升3D物体检测的精度与效率。
2026-03-08 cs.CV
Multiple Anchor Learning for Visual Object Detection
Carnegie Mellon University(卡内基梅隆大学);University of Chinese Academy of Sciences(中国科学院大学);Shenzhen Institutes of Advanced Technology(深圳先进技术研究院)
分类和定位是视觉目标检测器的两大支柱。然而,在基于CNN的检测器中,这两个模块通常在一组固定的候选(或锚)边界框下进行优化。这种配置显著限制了联合优化分类和定位的可能性。在本文中,我们提出了一种多实例学习(MIL)方法,该方法选择锚点并联合优化基于CNN的对象检测器的两个模块。我们的方法,被称为多锚学习(MAL),构建锚袋,并从每个袋中选择最具代表性的锚。这样的迭代选择过程可能是NP-难优化的。为了解决这个问题,我们解决MAL通过反复压低选定的锚的信心,通过扰动其相应的功能。在对抗性选择-抑制方式中,MAL不仅追求最优解,而且充分利用多个锚点/特征来学习检测模型。实验表明,MAL在常用的MS-COCO目标检测基准上显著提高了基线RetinaNet,并与最近的方法相比实现了新的最先进的检测性能。
2019-12-04 cs.CV
Perceiving Traffic from Aerial Images
EPFL(洛桑联邦理工学院)
配备不同传感器的无人机或无人机已被部署在许多地方,特别是用于城市交通监控或最后一英里交付。它提供了实时观测控制交通不同方面的能力,这是未来交通和智慧城市的重要支柱。随着这些机器的使用越来越多,许多以前在前置摄像头上实现高性能的最先进的物体检测器正在无人机数据集上使用。当应用于从这些数据集捕获的高分辨率航空图像时,它们无法推广到广泛的对象尺度。为了解决这个问题,我们提出了一个目标检测方法,称为蝴蝶检测器,是专门用于检测航空图像中的对象。我们扩展了字段的概念,并引入蝴蝶字段,一种复合字段,描述了输出功能的空间信息以及检测到的对象的规模。为了克服遮挡和视角的变化,可以阻碍定位过程中,我们采用了相关的蝴蝶矢量指向对象中心之间的投票机制。我们在两个公开的无人机数据集(UAVDT和VisDrone2019)上评估了我们的蝴蝶探测器,并表明它在保持实时性的同时优于以前的最先进方法。
2020-09-16 cs.CV
Amulet: Aggregating Multi-level Convolutional Features for Salient Object Detection
Dalian University of Technology(大连理工大学);Tiwaki Co.Ltd(Tiwaki株式会社)
全卷积神经网络(FCN)在许多密集标记问题中表现出了出色的性能。这些成功的一个关键支柱是从卷积层的特征中挖掘相关信息。然而,如何更好地聚合多级卷积特征图以用于显著目标检测还未得到充分探索。在这项工作中,我们提出了Amulet,一个通用的聚合多层次卷积特征框架,用于显着的目标检测。我们的框架首先将多层次的特征映射集成到多个分辨率中,同时将粗糙的语义和精细的细节结合起来。然后,它自适应地学习在每个分辨率下组合这些特征图,并使用组合的特征预测显著性图。最后,将预测结果有效地融合以生成最终的显著性图。此外,为了实现准确的边界推理和语义增强,低级别层中的边缘感知特征图和低分辨率特征的预测结果被递归地嵌入到学习框架中。通过以这种高效灵活的方式聚合多级卷积特征,所提出的显着性模型提供了准确的显着对象标记。综合实验表明,我们的方法表现良好,对国家的最先进的方法在几乎所有比较的评价指标。
2017-08-07 cs.CV
LEF: Late-to-Early Temporal Fusion for LiDAR 3D Object Detection
Waymo LLC(Waymo有限责任公司)
本文提出 LEF 后层到前层循环时间融合方法,通过稀疏柱体注意力、BEV 前景分割和随机长度 FrameDrop 训练提升 LiDAR 3D 检测性能。
2023-09-28 cs.CV cs.LG cs.RO
AdaptiveShape: Solving Shape Variability for 3D Object Detection with Geometry Aware Anchor Distributions
ZF Friedrichshafen AG(采埃孚腓特烈港股份公司)
基于点云和图像的3D目标检测在自动驾驶等感知任务中发挥着重要作用。目前的方法在标准形状的车辆的检测和姿态估计上表现出很好的性能,但在更复杂的形状例如半挂卡车组合上缺乏落后。准确地确定这些特殊车辆的形状和运动在堆场操作和操纵以及工业自动化应用中至关重要。这项工作介绍了几种新的方法来改善和衡量这样的类的性能。最先进的方法是基于地面实况目标的预定义锚网格或热图。然而,底层表示不考虑不同大小的对象的形状。我们的主要贡献,AdaptiveShape,使用形状感知锚点分布和热图来提高检测能力。对于大型车辆,与当前的形状不可知方法相比,我们实现了+10.9%AP。此外,我们介绍了一种新的快速激光雷达相机融合。它基于2D限界框相机检测,这在许多处理管道中可用。这种融合方法不依赖于完全校准或时间同步的系统,因此适用于广泛的机器人应用。我们扩展了一个标准的点柱网络来解释时间数据,并改进了复杂对象运动的学习。此外,我们扩展了地面实况增强,使用分组对象对,与传统增强相比,进一步将卡车AP提高了+2.2%。
2023-02-28 cs.CV
SLIP-RS: Structured-Attribute Language-Image Pre-Training for Remote Sensing Object Detection
VCIP, CS, Nankai University(中国南开大学计算机科学与技术研究所);National University of Defense Technology(国防科技大学)
针对遥感目标检测中现有语言-图像预训练受限于单一标签学习的问题,提出SLIP-RS,通过结构化属性解耦范式将开放类别空间映射到有限物理属性空间,结合结构化属性对比学习和共形属性可靠性引擎,实现细粒度检测和跨域泛化。
2026-05-22 cs.CV
SD4R: Sparse-to-Dense Learning for 3D Object Detection with 4D Radar
College of Information Science and Electronic Engineering, Zhejiang University(浙江大学信息科学与电子工程学院);Ningbo Global Innovation Center, Zhejiang University(浙江大学宁波全球创新中心);School of Automotive Studies, Tongji University(同济大学汽车学院)
SD4R通过前景点生成器和对数几率查询编码器提升4D雷达点云的密集化能力,实现更鲁棒的3D物体检测性能。
2026-02-24 cs.CV
Real-Aug: Realistic Scene Synthesis for LiDAR Augmentation in 3D Object Detection
Inspur Electronic Information Industry Co.,Ltd.(浪潮电子信息产业股份有限公司);Centre for Artificial Intelligence and Robotics, HKISI, CAS(中国科学院香港创新研究院人工智能与机器人中心);Institute of Automation, CAS(中国科学院自动化研究所)
本文提出Real-Aug方法,通过符合现实的场景合成模块和真实-合成混合训练策略,解决LiDAR数据增强中扫描模式不真实的问题,在nuScenes测试集上达到0.744 NDS和0.702 mAP的最先进性能。
2023-05-22 cs.CV
Rethinking Voxelization and Classification for 3D Object Detection
Moscow Institute of Physics and Technology(莫斯科物理技术学院);Artificial Intelligence Research Institute(人工智能研究院)
从LiDAR点云进行3D目标检测的主要挑战是在不影响网络可靠性的情况下实现实时性能。换句话说,检测网络必须对其预测有足够的信心。在本文中,我们提出了一种解决方案,以提高网络推理速度和精度的同时,通过实现一个快速的动态体素化器,工作在快速柱为基础的模型,以同样的方式体素化器工作在缓慢的基于体素的模型。此外,我们提出了一个轻量级的检测子头模型,用于分类预测对象,并过滤掉错误的检测对象,显着提高模型的精度在一个可以忽略不计的时间和计算成本。开发的代码可在https://github.com/YoushaaMurhij/RVCDet上公开获得。
2023-01-10 cs.AI cs.CV
PillarTrack:Boosting Pillar Representation for Transformer-based 3D Single Object Tracking on Point Clouds
School of Mathematics and Computer Science, Nanchang University(南昌大学数学与计算机科学学院);School of Automation, Southeast University(东南大学自动化学院);Aberdeen Institute of Data Science and Artificial Intelligence, South China Normal University(华南师范大学 Aberdeen 数据科学与人工智能研究院);Houmo AI
针对现有点云3D单目标跟踪方法重采样导致信息冗余或缺失的问题,提出基于柱表示的PillarTrack框架,通过密集柱转换、PE-PFE编码器和模态适配的Transformer骨干网络,在KITTI、NuScenes数据集上显著提升基线性能。
2025-05-18 cs.CV
RadarGaussianDet3D: Gaussian Representation-based Real-time 3D Object Detection with 4D Automotive Radars
本文提出RadarGaussianDet3D,通过高斯表示提升4D雷达的3D目标检测性能,采用点高斯编码器和3D高斯点划技术生成密集特征图,结合新的高斯损失函数实现更高效的检测与推理。
2026-03-15 cs.CV
SMURF: Spatial Multi-Representation Fusion for 3D Object Detection with 4D Imaging Radar
Vitalent Consulting(维泰伦特咨询公司);College of Science and Engineering, James Cook University(詹姆斯库克大学科学与工程学院)
针对4D成像雷达点云稀疏、噪声大的问题,提出融合多种点云表征的SMURF三维检测方法,性能优于单表征模型且可媲美雷达-相机融合方法,同时满足实时性要求。
2023-10-05 cs.CV
LiDAR-PTQ: Post-Training Quantization for Point Cloud 3D Object Detection
Southeast University(东南大学);Meituan Inc(美团);Nanyang Technological University(南洋理工大学);Zhejiang University(浙江大学)
针对边缘设备部署3D激光雷达检测器的算力内存受限问题,提出含稀疏校准、任务引导损失与自适应舍入的LiDAR-PTQ方法,实现INT8模型精度接近FP32且推理提速3倍,效率远超量化感知训练。
2024-01-29 cs.CV
Can We Remove the Ground? Obstacle-aware Point Cloud Compression for Remote Object Detection
Case Western Reserve University(凯斯西储大学);University of California Riverside(加利福尼亚大学河滨分校);University of Turin(都灵大学)
本文提出轻量级障碍物感知的柱体地面移除算法PGR,通过滤除对目标识别无上下文贡献的地面点,在不牺牲3D检测性能的前提下显著提升点云压缩率。
2024-10-01 cs.CV cs.RO
Enhancing Lidar-based Object Detection in Adverse Weather using Offset Sequences in Time
Institute for Automotive Engineering RWTH Aachen University(亚琛工业大学汽车工程研究所);Institute of Imaging and Computer Vision RWTH Aachen University(亚琛工业大学图像与计算机视觉研究所)
本文研究利用激光雷达点云序列的时间信息提升恶劣天气下目标检测鲁棒性,提出随机跳帧时间偏移增强方法,并在多个公开数据集上验证其优于基线模型。
2024-01-17 cs.CV cs.RO
Accurate and Real-time 3D Pedestrian Detection Using an Efficient Attentive Pillar Network
Monash University(莫纳什大学)
从3D点云数据中有效准确地检测人在许多机器人和自动驾驶应用中非常重要。这个基本的感知任务仍然是非常具有挑战性的,这是由于(i)人体姿势和手势随时间的显著变形以及(ii)行人类对象的点云稀疏性和稀缺性。最近的高效3D目标检测方法依赖于柱特征来从点云数据中检测目标。然而,这些支柱特征不携带足够的表达表示来处理检测人中的所有上述挑战。为了解决这个缺点,我们首先引入了一个可堆叠的支柱感知注意力(PAA)模块,用于增强支柱特征提取,同时抑制点云中的噪声。通过将多点通道池化、逐点、逐通道和任务感知注意力集成到一个简单的模块中,表示能力得到提升,同时需要很少的额外计算资源。我们还提出了Mini-BiFPN,这是一个小而有效的特征网络,可以创建双向信息流和多级跨尺度特征融合,以更好地集成多分辨率特征。我们提出的框架,即PiFeNet,已经在三个流行的3D行人检测大规模数据集上进行了评估,即KITTI,JRDB和nuScenes,在KITTI Bird-eye-view(BEV)和JRDB上实现了最先进的(SOTA)性能,在nuScenes上具有非常有竞争力的性能。我们的方法具有每秒26帧(FPS)的推理速度,使其成为实时的【形】检测器。PiFeNet的代码可在https://github.com/ldtho/PiFeNet上找到。
2022-11-17 cs.CV
Exploiting Sparsity in Automotive Radar Object Detection Networks
Robert Bosch GmbH(罗伯特·博世有限公司);Mannheim University of Applied Sciences(曼海姆应用科学大学)
本文面向自动驾驶雷达检测的高算力问题,提出结合 SKPP 与 DVPC 的稀疏卷积网络 SKPP-DPVCN,在 nuScenes 上显著提升 Car AP4.0 并降低 ASE。
2023-08-15 cs.AI cs.CV cs.LG
TimePillars: Temporally-Recurrent 3D LiDAR Object Detection
Chalmers University of Technology(查尔姆斯理工大学);Zenseact
TimePillars提出一种时间递归的LiDAR目标检测流水线,利用跨时间的柱状表示和ZOD数据集,在长距离场景下实现稳健高效检测,验证了递归性的优势。
2023-12-22 cs.CV cs.LG cs.RO
LiFT: Lightweight, FPGA-tailored 3D object detection based on LiDAR data
AGH University of Krakow(克拉科夫AGH科技大学)
LiFT是一种面向FPGA的轻量级全量化3D目标检测算法,通过双边界柱状特征网络和高效INT8量化,在20.73 GMACs下于NuScenes数据集取得最优mAP 51.84%和NDS 61.01%的性能。
2025-01-19 cs.AR cs.CV eess.IV
Rethinking Pre-Training and Augmentation for Zero-Shot Cross-City Object Detection
Sungkyunkwan University(成均馆大学)
针对隐私要求下训练评估流程盲态的跨城市目标检测域偏移问题,提出含类别无关目标性蒸馏与Grayworld变换的模块化流程,优化RF-DETR变体在AI City Challenge Track 6获第一。
2026-08-26 cs.AI cs.CV
Pillar-based Object Detection for Autonomous Driving
MIT(麻省理工学院);Google(谷歌)
我们提出了一个简单而灵活的目标检测框架优化自动驾驶。基于此应用程序中的点云非常稀疏的观察结果,我们提出了一种实用的基于支柱的方法来解决锚点引起的不平衡问题。特别是,我们的算法将圆柱投影纳入多视图特征学习,预测每个柱而不是每个点或每个锚的限界框参数,并包括对齐的柱到点投影模块,以提高最终的预测。我们的无锚方法避免了与过去方法相关的超参数搜索,简化了3D目标检测,同时显着提高了最先进的。
2020-07-26 cs.CV cs.LG cs.RO
Catch Me if You Can: A Novel Task for Detection of Covert Geo-Locations (CGL)
IIT Madras(印度理工学院马德拉斯分校)
计算机视觉领域中的大多数视觉场景理解任务涉及对场景中存在的对象的识别。像隐藏处、转弯和场景的其他模糊区域这样的图像区域也包含用于特定监视任务的关键信息。在本文中提出的任务涉及到设计一个智能视觉辅助识别这样的位置在图像中,这有可能造成迫在眉睫的威胁,从对手或出现的目标区需要进一步调查。隐藏在遮挡对象后面的隐蔽位置(CGL)是隐藏的3D位置,从视点(相机)无法检测到。因此,这涉及在遮挡对象的外边界的投影周围描绘特定的图像区域,作为在潜在隐藏处周围要访问的地方。CGL检测发现在军事反叛乱行动中的应用,监视与探索机器人的路径规划。给定RGB图像,目标是识别2D场景中的所有CGL。这些区域的识别将需要关于模糊物品(支柱、家具)的3D边界、它们相对于场景的相邻区域的空间位置的知识。我们提出这是一个新的任务,称为隐蔽地理位置(CGL)检测。将图像的任何区域分类为CGL(作为隐藏处的遮挡对象的边界子段)需要检查遮挡对象的边界与其邻域和周围环境之间的3D关系。我们的方法成功地提取相关的深度特征,从一个单一的RGB图像和定量产生显着改善现有的目标检测和分割模型适应和训练CGL检测。我们还介绍了一种新的手工注释的CGL检测数据集,包含1.5K真实世界的图像进行实验。
2022-02-05 cs.CV cs.LG cs.RO
SemanticVoxels: Sequential Fusion for 3D Pedestrian Detection using LiDAR Point Cloud and Semantic Segmentation
Opel Automobile GmbH(欧宝汽车公司);Institute of Measurement and Control Systems, Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院测量与控制系统研究所)
3D行人检测在自动驾驶中是一项具有挑战性的任务,因为行人相对较小,经常被遮挡,并且容易与狭窄的垂直物体混淆。激光雷达和相机是这一任务中两种常用的传感器形式,它们应该提供补充信息。出乎意料的是,在公共基准测试中,仅使用激光雷达的检测方法往往优于多传感器融合方法。最近,PointPainting已经被提出来通过有效地融合语义分割网络的输出而不是原始图像信息来消除这种性能下降。在本文中,我们提出了一个概括的PointPainting能够在不同的层次上应用融合。在对点云进行语义增强后,将原始点数据编码为柱体,得到几何特征,将语义点数据编码为体素,得到语义特征,并进行有效的融合。在KITTI测试集上的实验结果表明,SemanticVoxels在3D和鸟瞰图行人检测基准中都达到了最先进的性能。特别是,我们的方法证明了它在检测具有挑战性的行人案例中的优势,并且优于当前最先进的方法。
2020-09-25 cs.CV cs.RO eess.IV
*: Improving the 3D detector by introducing Voxel2Pillar feature encoding and extracting multi-scale features
本文提出基于柱体的3D检测器*,通过设计Voxel2Pillar特征编码、全稀疏多尺度主干网络及稀疏ConvNeXt颈部,在Waymo数据集上有效提升了车辆、行人和骑行者的检测精度。
2024-11-13 cs.CV
FastPillars: A Deployment-friendly Pillar-based 3D Detector
Southeast University(东南大学);Meituan Inc.(美团);Fudan University(复旦大学)
针对自动驾驶场景中基于BEV的3D检测器因依赖SPConv难以端侧部署的问题,提出部署友好的FastPillars检测器,通过MAPE模块和骨干网络设计原则,在Waymo数据集上实现精度与速度的双重提升。
2023-12-13 cs.CV cs.RO
BSH-Det3D: Improving 3D Object Detection with BEV Shape Heatmap
Northeastern University(东北大学);Peking University(北京大学);Technical University in Munich(慕尼黑工业大学);Ulster University(阿尔斯特大学)
基于LiDAR的3D目标检测的进展显著促进了自动驾驶和机器人技术的发展。然而,由于LiDAR传感器的局限性,物体形状在遮挡和遥远的区域会恶化,这对3D感知带来了根本性的挑战。现有的方法估计特定的3D形状,并取得了显着的性能。然而,这些方法依赖于大量的计算和内存,导致精度和实时性能之间的不平衡。为了应对这一挑战,我们提出了一种新的基于激光雷达的3D目标检测模型BSH-Det 3D,它采用了一种有效的方法来增强空间特征,从鸟瞰图(BEV)估计完整的形状。具体来说,我们设计了基于柱子的形状完成(PSC)模块来预测柱子是否包含对象形状的占用概率。PSC模块为每个场景生成BEV形状热图。在与热图集成后,BSH-Det 3D可以提供形状恶化区域的额外信息,并生成高质量的3D提案。我们还设计了一个基于注意力的致密化融合模块(ADF),以自适应地将稀疏特征与热图和原始点相关联。ADF模块集成了点和形状知识的优点,开销可以忽略不计。在KITTI基准测试上进行的大量实验在精度和速度方面达到了最先进的(SOTA)性能,证明了BSH-Det 3D的效率和灵活性。源代码可在https://github.com/mystorm16/BSH-Det3D上获得。
2023-03-03 cs.CV
Space-Time Diffusion Features for Zero-Shot Text-Driven Motion Transfer
Weizmann Institute of Science(魏茨曼科学研究所);NVIDIA Research(英伟达研究院)
本文提出利用预训练文本到视频扩散模型中的时空特征损失,实现形状和运动特征差异巨大的对象之间的零样本文本驱动运动迁移。
2023-12-03 cs.CV
DuEqNet: Dual-Equivariance Network in Outdoor 3D Object Detection for Autonomous Driving
Fujian Institute of Research on the Structure of Matter, Chinese Academy of Sciences(中国科学院福建物质结构研究所);Technical University of Munich(慕尼黑工业大学);East China Normal University(华东师范大学)
室外3D目标检测在自动驾驶的环境感知中起着至关重要的作用。在复杂的交通情况下,精确的物体识别为动态系统的预测和规划提供不可或缺的信息,提高自动驾驶的安全性和可靠性。然而,随着车辆的转向,周围场景的不断旋转对感知系统提出了挑战。然而,大多数现有的方法没有集中在减轻车辆的旋转带来的检测精度的损害,特别是在室外的3D检测。在本文中,我们提出了DuEqNet,它首先引入了等方差的概念到三维目标检测网络,利用层次嵌入式框架。我们的模型的双等方差可以提取局部和全局水平的等变特征,分别。对于局部特征,我们利用基于图的策略来保证特征在点云柱中的等变性。在全局特征方面,采用组等变卷积层对局部特征进行聚合,实现全局等变。在实验部分,我们在不同基线的三维目标检测任务中评估了我们的方法,并获得了最先进的性能。实验结果表明,该模型具有较高的定位精度和预测效率。此外,我们的双等方差策略在各种流行的目标检测框架上表现出令人满意的即插即用能力,以提高其性能。
2023-02-27 cs.CV