Boosting Supervised Learning Performance with Co-training
NVIDIA（英伟达）；Carnegie Mellon University（卡内基梅隆大学）
深度学习感知模型需要大量标记的训练数据来实现良好的性能。虽然未标记的数据很容易获得，但标记的成本令人望而却步，可能会给公司或个人带来巨大的负担。最近，自我监督已经成为利用未标记数据的替代方案。在本文中，我们提出了一种新的轻量级自监督学习框架，可以以最小的额外计算成本提高监督学习性能。在这里，我们介绍了一个简单灵活的多任务协同训练框架，它将自监督任务集成到任何监督任务中。我们的方法利用借口任务来产生最小的计算和参数开销，并最大限度地减少对现有训练管道的干扰。我们证明了我们的框架的有效性，通过使用两个自我监督的任务，目标检测和全景分割，在不同的感知模型。我们的研究结果表明，这两个自监督任务可以提高监督任务的准确性，同时，在使用额外的未标记数据时，表现出较强的域适应能力。
2021-11-18 cs.CV
Boosting Image Super-Resolution Via Fusion of Complementary Information Captured by Multi-Modal Sensors
Zhejiang University（浙江大学）；University of Twente（特文特大学）
图像超分辨率（SR）提供了一种很有前途的技术来提高低分辨率光学传感器的图像质量，从而在广泛的机器人应用中促进更好地执行目标检测和自主导航。值得注意的是，最先进的SR方法通常使用单通道输入进行训练和测试，忽略了在不同谱域中捕获高分辨率图像的成本差异很大的事实。在本文中，我们试图利用来自低成本通道（可见光/深度）的互补信息，使用更少的参数来提高昂贵通道（热）的图像质量。为此，我们首先提出了一种有效的方法来虚拟生成像素对齐的可见光和热图像的基础上实时三维重建的多模态数据在不同的观点。然后，我们设计了一个特征级的多光谱融合残差网络模型，通过自适应地整合多光谱图像中的共生特征来执行热图像的高精度SR。实验结果表明，这种新的方法可以有效地缓解不适定的逆问题的图像SR考虑补充信息从一个额外的低成本的通道，显着优于国家的最先进的SR方法在精度和效率方面。
2020-12-07 cs.CV
ProDepth: Boosting Self-Supervised Multi-Frame Monocular Depth with Probabilistic Fusion
Yonsei University（延世大学）
针对动态场景下自监督多帧单目深度估计的特征失配问题，提出ProDepth框架，通过概率代价体调制和损失重加权策略提升精度与泛化性，在多个数据集上表现优于现有方法。
2024-07-12 cs.CV
Paint and Distill: Boosting 3D Object Detection with Semantic Passing Network
Baidu Inc.（百度公司）
来自激光雷达或摄像头传感器的3D目标检测任务对于自动驾驶至关重要。多模态融合的先驱尝试以额外的网络设计和开销为代价，用来自图像的丰富语义纹理信息补充稀疏的激光雷达点云。在这项工作中，我们提出了一种新的语义传递框架，名为SPNet，以提高现有的基于激光雷达的3D检测模型的性能，并在丰富的上下文绘制的指导下，在推理过程中没有额外的计算成本。我们的关键设计是首先通过训练语义绘制的教师模型来利用地面实况标签中潜在的指导性语义知识，然后引导纯激光雷达网络通过不同粒度的知识传递模块学习语义绘制表示：类传递，像素传递和实例传递。实验结果表明，SPNet可以与现有的3D检测框架无缝协作，并具有1~ 5%AP增益，甚至在KITTI测试基准上达到了最新的3D检测性能。代码可在：https://github.com/jb892/SPNet.
2022-07-12 cs.CV
Boosting Adversarial Transferability with Low-Cost Optimization via Maximin Expected Flatness
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University（航空信息安全与可信计算重点实验室、教育部、网络安全科学与工程学院、武汉大学）
本文提出MEF攻击方法，通过最大化预期平坦度提升对抗样本的转移性，有效提高攻击成功率并降低计算成本。
2026-01-14 cs.CV
Boosting-GNN: Boosting Algorithm for Graph Networks on Imbalanced Node Classification
PLA Strategy Support Force Information Engineering University（中国人民解放军战略支援部队信息工程大学）
图神经网络（GNN）已被广泛用于图形数据表示。然而，现有的研究只考虑了理想的平衡数据集，不平衡数据集很少考虑。传统的处理不平衡数据集的方法，如重新排序，重新加权和合成样本，在GNN中不再适用。本文提出了一种集成模型Boosting-GNN，它在Boosting过程中使用GNN作为基分类器。在Boosting-GNN中，为未被前一个分类器正确分类的训练样本设置更高的权重，从而实现更高的分类精度和更好的可靠性。此外，还采用了迁移学习来降低计算量，提高拟合能力。实验结果表明，与GCN、GraphSAGE、GAT、SGC、N-GCN等算法相比，本文提出的Boosting-GNN模型在合成不平衡数据集上的平均性能提高了4.5%
2022-05-08 cs.CV cs.LG
Boosting Standard Classification Architectures Through a Ranking Regularizer
University of Maryland, College Park（马里兰大学帕克分校）；Honda Research Institute, USA（本田研究院（美国））
我们采用三重损失作为特征嵌入正则化器来提高分类性能。标准架构，如ResNet和Inception，被扩展为以最小的超参数调整来支持这两种损失。这在微调预训练网络的同时提高了通用性。三重损失是最近提出的嵌入正则化的一个强大的替代品。然而，它是避免由于大批量的要求和高计算成本。通过我们的实验，我们重新评估了这些假设。在推理过程中，我们的网络支持分类和嵌入任务，而没有任何计算开销。定量评估突出了五个细粒度识别数据集的稳步改善。对不平衡视频数据集的进一步评估取得了显着的改善。三重丢失为分类模型带来了最近邻等特征嵌入特性。代码可从\url{http://bit.ly/2LNYEqL}获得。
2020-03-02 cs.CV
LACBoost and FisherBoost: Optimally Building Cascade Classifiers
NICTA（澳大利亚国家信息与通信技术研究院）；Australian National University（澳大利亚国立大学）；Beihang University（北京航空航天大学）
目标检测是计算机视觉的关键任务之一。Viola和Jones的级联框架已经成为事实标准。级联的每个节点中的分类器需要实现极高的检测率，而不是低的总体分类误差。虽然有几个报告的方法，解决这个要求的背景下，目标检测，有没有一个原则性的特征选择方法，明确考虑到这个不对称的节点学习目标。我们在这项工作中提供了这样一个提升算法。它受到Wu等人的线性非对称分类器（LAC）的启发，因为我们的boosting算法优化了类似的成本函数。新的全校正Boosting算法是利用凸优化中的列生成技术实现的。人脸检测的实验结果表明，我们提出的提升算法可以提高国家的最先进的方法在检测性能。
2010-05-22 cs.CV
Stacked Pooling: Improving Crowd Counting by Boosting Scale Invariance
Zhejiang University（浙江大学）；Southwest Jiaotong University（西南交通大学）；Carnegie Mellon University（卡内基梅隆大学）
在这项工作中，我们探讨了跨尺度的相似性人群计数的情况下，不同尺度的区域往往表现出较高的视觉相似性。该特征在同一图像内和不同图像间具有普遍性，表明了人群计数模型尺度不变性的重要性。受此启发，在本文中，我们提出了简单但有效的池化模块变体，即，多核池化和堆栈池化，提高了卷积神经网络（CNN）的尺度不变性，有利于人群密度的估计和计数。具体地，多核池化包括池化具有多个感受野的核以捕获多尺度局部范围处的响应。堆栈池是多核池的一种等价形式，同时，它大大降低了计算成本。我们提出的池化模块没有引入额外的参数到模型中，可以很容易地取代香草池化层的实现。在两个基准人群计数数据集的实证研究中，堆叠池在大多数情况下击败了香草池层。
2018-08-22 cs.CV
C2E: Boosting Ego-Only 3D Object Detection via Multi-Teacher Contrastive Knowledge Distillation
Fujian Key Laboratory of Urban Intelligent Sensing and Computing, Xiamen University（福建省城市智能感知与计算重点实验室，厦门大学）；Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China, Xiamen University（多媒体可信感知与高效计算教育部重点实验室，厦门大学）；Zhongguancun Academy（中关村学院）
提出C2E范式，通过多对一智能体对比知识蒸馏框架M2S，结合多级特征增强、辅助点云重建和多教师对比蒸馏，在无通信成本下提升仅自我3D检测性能，在多个数据集上验证有效性。
2026-07-03 cs.CV
Boosting k-NN for categorization of natural scenes
University of Nice-Sophia Antipolis / CNRS（尼斯索菲亚安提波利斯大学 / 法国国家科学研究中心）；University of Antilles-Guyane（安的列斯-圭亚那大学）；Ecole Polytechnique（巴黎综合理工学院）
k-近邻（k-NN）分类规则在无数计算机视觉应用中已被证明是非常成功的。例如，图像分类通常依赖于描述符空间中最近的原型之间的统一投票。尽管经典的k-NN规则具有良好的性能，但在处理高维稀疏原型数据集时，其方差较大。已经提出了一些技术来改进k-NN分类，这些技术依赖于变形最近的邻域关系或修改输入空间。在本文中，我们提出了一种新的boosting算法，称为UNN（通用最近邻），它诱导杠杆k-NN，从而推广了经典的k-NN规则。我们将投票规则重新定义为一个强分类器，它线性地结合了k个最接近的原型的预测。弱分类器由UNN学习，以最小化代理风险。UNN的一个主要特性是能够学习哪些原型与给定类最相关，从而允许有效的数据减少。在Ripley的合成两类数据集上的实验结果表明，这种过滤策略能够拒绝“噪声”原型。我们进行了图像分类实验的数据库包含8类自然场景。我们表明，我们的方法明显优于经典的k-NN分类，同时能够通过数据过滤显着降低计算成本。
2010-01-08 cs.CV
Optimally Training a Cascade Classifier
NICTA（澳大利亚国家信息与通信技术研究院）；Australian National University（澳大利亚国立大学）；Beihang University（北京航空航天大学）；University of Adelaide（阿德莱德大学）
级联分类器广泛应用于实时目标检测中。与设计用于低总体分类出错率的常规分类器不同，要求级联的每个节点中的分类器实现极高的检测率和适度的假阳性率。虽然有几个报告的方法，解决这个要求的背景下，对象检测，有没有一个原则性的特征选择方法，明确考虑到这个不对称的节点学习目标。我们在这里提供这样一个算法。我们证明了一个特殊的情况下，有偏极大极小概率机具有相同的配方作为线性非对称分类器（LAC）的\cite{wu2005linear}。然后，我们设计了一个新的升压算法，直接优化LAC的成本函数。所得到的完全校正的升压算法是通过凸优化中的列生成技术实现的。目标检测的实验结果验证了提出的Boosting算法作为级联目标检测中节点分类器的有效性，并显示出优于现有技术的性能。
2010-08-23 cs.CV
Decoupling Classifier for Boosting Few-shot Object Detection and Instance Segmentation
Tencent YouTu Lab（腾讯优图实验室）；CATL（宁德时代）
针对少样本目标检测和实例分割中标签缺失导致的分类偏差问题，提出将标准分类器解耦为双分支分别处理正负样本的方法，在不增加成本的前提下大幅提升了基准任务性能。
2025-05-20 cs.CV
Double-Base Asymmetric AdaBoost
University of Vigo（维戈大学）
基于使用不同的指数基来定义类相关的误差界，提出了一种新的高效的非对称Boosting方案，称为AdaBoostDB（Double-Base）。支持一个完全的理论推导过程中，与文献中的大多数其他方法不同，我们的算法保留了所有的正式保证和原始（成本不敏感）AdaBoost的属性，类似于国家的最先进的成本敏感AdaBoost算法。然而，AdaBoostDB的关键优势在于，我们的新推导方案实现了非常高效的条件搜索过程，大大改进和简化了算法的训练阶段。在合成和真实数据集上的实验表明，AdaBoostDB能够节省99%以上的成本敏感AdaBoost训练时间，提供相同的成本敏感结果。AdaBoostDB的这种计算优势可以在管理大量弱分类器的问题中发挥作用，其中通常使用boosting技术。
2015-07-08 cs.AI cs.CV cs.LG
Boosting Mask R-CNN Performance for Long, Thin Forensic Traces with Pre-Segmentation and IoU Region Merging
AIUI GmbH（AIUI有限公司）
Mask R-CNN最近在实例分割领域取得了巨大的成功。然而，该算法的弱点也被反复指出，特别是在分割方向不完全是水平或垂直的长而稀疏的对象时。在这里，我们提出了一种方法，显着提高了算法的性能，首先预分割的图像与PSPNet算法。为了进一步提高其预测能力，我们以训练策略的形式开发了自己的成本函数和算法，可以防止所谓的（早期）过拟合，实现更有针对性的收敛。此外，由于图像的高方差，特别是对于PSPNet，我们的目标是开发高鲁棒性和泛化的策略，这也在这里提出。
2022-03-08 cs.AI cs.CV cs.RO
Sparse Training via Boosting Pruning Plasticity with Neuroregeneration
Eindhoven University of Technology（埃因霍温理工大学）；University of Texas at Austin（得克萨斯大学奥斯汀分校）；University of Twente（特文特大学）；University of Leeds（利兹大学）；JD Explore Academy（京东探索研究院）；University of Jyväskylä（于韦斯屈莱大学）
彩票假设（LTH）和单次网络剪枝（SNIP）的研究目前在训练后剪枝（迭代幅度剪枝）和训练前剪枝（初始化剪枝）方面引起了广泛的关注。前一种方法具有极大的计算成本，而后者通常与性能不足作斗争。相比之下，在训练期间修剪，一类修剪方法，同时享有的训练/推理效率和可比的性能，暂时，一直较少探索。为了更好地理解训练过程中的修剪，我们从修剪可塑性（修剪网络恢复原始性能的能力）的角度定量研究了整个训练过程中修剪的效果。修剪可塑性可以帮助解释文献中关于神经网络修剪的其他几个经验观察。我们进一步发现，通过注入一种被称为神经再生的大脑启发机制，重新生成与修剪相同数量的连接。我们设计了一种新的渐进幅度修剪（GMP）方法，称为渐进修剪与零成本神经再生（\textbf{GraNet}），这是最先进的。也许最令人印象深刻的是，它的稀疏到稀疏版本首次在ImageNet上使用ResNet-50在不延长训练时间的情况下提高了各种密集到稀疏方法的稀疏到稀疏训练性能。我们在https://github.com/Shiweiliuiiiiiii/GraNet发布所有代码。
2022-02-06 cs.CV cs.LG
DistillBEV: Boosting Multi-Camera 3D Object Detection with Cross-Modal Knowledge Distillation
QCraft（轻舟智航）；UC Santa Cruz（加州大学圣克鲁兹分校）
本文提出DistillBEV跨模态知识蒸馏框架，让多相机BEV学生检测器模仿LiDAR教师特征，并通过平衡策略与时间融合的多尺度迁移，在nuScenes上达到最先进性能。
2023-09-26 cs.CV cs.RO
Boosting Masked Face Recognition with Multi-Task ArcFace
Vicomtech Foundation, Basque Research and Technology Alliance (BRTA)（维康科技基金会，巴斯克研究与技术联盟（BRTA））；University of the Basque Country（巴斯克大学）
在本文中，我们解决了面具的人脸识别问题。鉴于COVID-19引发的全球健康危机，口罩和鼻罩已成为日常服装的必备配件。这种卫生措施使最先进的面部识别模型处于危险之中，因为它们不是为面具工作而设计的。此外，还需要能够检测受试者是否戴着口罩以控制病毒传播的应用。为了克服这些问题，提出了一个完整的训练管道的基础上ArcFace的工作，与几个修改的骨干和损失函数。从原始的人脸识别数据集，使用数据增强生成掩蔽版本，并且在训练过程中组合两个数据集。基于ResNet-50的所选网络被修改为也输出掩码使用的概率，而不增加任何计算成本。此外，ArcFace损失与掩码使用分类损失相结合，产生了一个名为多任务ArcFace（MTArcFace）的新函数。实验结果表明，该方法在处理蒙面人脸时，大大提高了原始模型的准确性，而在原始非蒙面数据集上保持几乎相同的准确性。此外，它达到了99.78%的平均准确率在掩模使用分类。
2021-04-21 cs.CV cs.LG
Untangling AdaBoost-based Cost-Sensitive Classification. Part I: Theoretical Perspective
University of Vigo（维戈大学）
提升算法已被广泛用于解决大量问题。在过去的几年里，已经提出了很多方法来提供具有成本敏感功能的标准AdaBoost，每种方法都有不同的重点。然而，对于研究人员来说，这些算法形成了一个具有分散差异和属性的复杂集合，缺乏统一的分析来共同比较，分类，评估和讨论这些方法。在这一系列的两篇论文中，我们的目标是从理论（第一部分）和实践（第二部分）的角度重新审视各种建议，以分析其特定的属性和行为，最终目标是确定提供最佳和最可靠结果的算法。
2016-07-22 cs.AI cs.CV cs.LG
