A Branched Deep Convolutional Network for Forecasting the Occurrence of Hazes in Paris using Meteorological Maps with Different Characteristic Spatial Scales
该研究开发了一种分支深度卷积网络,利用多年代际气象图预测巴黎雾霾发生,通过保留不同输入特征的空间信息,在验证和盲测中均取得合理性能。
2023-10-16 cs.LG physics.ao-ph
Simplifying Graph Convolutional Networks with Redundancy-Free Neighbors
本文分析图卷积网络的消息传递机制,发现高阶邻居消息经由低阶邻居传递导致的过聚合是过平滑的根本原因,并据此提出简化方法。
2025-04-21 cs.LG
Dual-Branch Convolutional Framework for Spatial and Frequency-Based Image Forgery Detection
Amity School of Engineering and Technology(阿米蒂大学工程与技术学院);Amity University(阿米蒂大学)
本文提出一种融合空间与频域特征的双分支卷积孪生网络,用于图像伪造检测,在CASIA 2.0上达到77.9%准确率,兼顾计算复杂度与检测可靠性。
2025-11-09 cs.LG
Improving Branch Prediction By Modeling Global History with Convolutional Neural Networks
Intel Corporation(英特尔公司)
CPU分支预测已经碰壁--现有技术在99%的静态分支上达到了近乎完美的准确性,但仍然存在的错误预测隐藏了主要的性能提升。在一份配套报告中,我们发现预测错误的主要来源是一些系统性难以预测的分支(H2 P),例如SPECint 2017中每个SimPoint阶段只有10条静态指令。这些错误预测所造成的机会损失对CPU来说是很重要的:英特尔SkyLake上的每周期执行次数(IPC)为14.0%,当流水线扩展到四倍时,IPC为37.4%,与处理技术的收益相当。然而,高达80%的这种上升是最知名的分支预测器无法达到的,即使提供了指数级更多的资源。需要新的方法,而机器学习(ML)提供了一系列强大的预测器。越来越多的工作表明,ML模型可以在微架构中部署,以在运行时优化硬件,并且是通过培训客户应用程序来定制硅后CPU的一种方式。我们使用卷积神经网络(CNN)开发了这种用于分支预测的场景,以提高H2 Ps的准确性。逐步地,我们(1)将CNN映射到现有分支预测器使用的全局历史数据;(2)展示CNN如何在SPEC 2017中改进H2 P预测;(3)使2位CNN推理适应当前分支预测单元的约束;以及(4)建立CNN辅助预测器可在不同输入上跨应用执行重用,使我们能够分摊离线训练并部署ML模式匹配来改善IPC。
2019-06-20 cs.DC cs.LG
Dynamic Clone Transformer for Efficient Convolutional Neural Netwoks
卷积网络(ConvNets)在解决各种视觉任务方面表现出令人印象深刻的能力。然而,性能和效率之间的权衡仍然是一个挑战,一个可行的模型部署在资源有限的平台。在本文中,我们引入了一个新的概念,称为多路径全连接模式(MPFC)重新思考的相互依赖性的拓扑模式,准确性和效率的ConvNets。受MPFC的启发,我们进一步提出了一个双分支模块命名为动态克隆Transformer(DCT),其中一个分支从输入生成多个副本,另一个分支通过一系列有条件的差异向量对输入本身进行改革,以产生更多的变体。这种操作允许以数据驱动的方式以很少的计算成本自扩展通道信息,同时提供足够的学习能力,这是一个潜在的单元,以取代计算昂贵的逐点卷积作为瓶颈结构中的扩展层。
2021-06-12 cs.CV cs.LG
Tri-Branch Convolutional Neural Networks for Top-$k$ Focused Academic Performance Prediction
Shandong University of Finance and Economics(山东财经大学);Shandong University(山东大学);Shandong Jianzhu University(山东建筑大学);Shandong Normal University(山东师范大学)
学习成绩预测是利用学生的相关信息来预测学生未来的学习成绩,在个性化教学、学业预警等教育领域有着广泛的应用前景。在本文中,我们解决这个问题,通过分析学生的日常行为轨迹,这可以全面跟踪校园记录。与以往的研究不同,我们提出了一种新的三分支CNN架构,它配备了行,列和深度卷积和注意力操作,以捕捉持久性,规律性和时间分布的特点,学生行为的端到端的方式,分别。此外,我们将学习成绩预测作为一个顶级$k$排名问题,并引入一个顶级$k$集中损失,以确保识别学术风险学生的准确性。在一个大规模的真实世界数据集上进行了大量的实验,我们表明,我们的方法大大优于最近提出的学习成绩预测方法。为了重复性,我们的代码已在https://github.com/ZongJ1111/Academic-Performance-Prediction上发布。
2021-07-22 cs.CY cs.LG
Generative Adversarial Network with Multi-Branch Discriminator for Cross-Species Image-to-Image Translation
当前的方法在图像到图像的翻译任务上取得了很大的进展,这得益于图像合成方法的成功,特别是生成对抗网络(GANs)。然而,现有的方法仅限于处理两个物种之间的翻译任务,同时保持语义层面上的内容匹配。一个更具挑战性的任务是在两个以上物种之间进行翻译。为了探索这一新领域,我们提出了一种简单而有效的多分支结构,用于增强任意生成对抗架构(GAN),称为GAN-MBD。该算法利用Boosting策略将一个通用的神经网络分解为多个参数较少的小神经网络,有效地提高了GANs的生成和综合能力。综合实验表明,提出的多分支神经网络可以显着提高流行的GANs的跨物种图像到图像翻译任务的性能,同时减少了计算参数的数量。随函附上有关守则及部分数据,作为补充资料,以供参考。
2019-01-24 cs.CV cs.LG
Convolutional Neural Networks for Accurate Measurement of Train Speed
Faculty of Engineering and Applied Sciences, Cranfield University(工程与应用科学学院,克兰菲尔德大学);Digital Scholarship at Oxford, University of Oxford(牛津大学奥克斯数字研究)
本研究探索三种CNN架构(单分支2D、单分支1D、多分支)在列车速度精确测量中的应用,通过与自适应卡尔曼滤波器对比及模拟数据集分析,发现多分支模型精度和鲁棒性更优,为铁路安全与效率提升提供深度学习方案。
2025-08-23 cs.AI cs.LG cs.SY
DBConformer: Dual-Branch Convolutional Transformer for EEG Decoding
Ministry of Education Key Laboratory of Image Processing and Intelligent Control, School of Artificial Intelligence and Automation, Huazhong University of Science and Technology(教育部图像处理与智能控制重点实验室,人工智能与自动化学院,华中科技大学)
本文提出DBConformer双分支卷积Transformer网络,通过时间与空间Conformer分别建模长程时间依赖和通道间交互,并结合轻量级通道注意力,在三种脑电范式上以更少参数超越13个基线模型,实现准确、鲁棒且可解释的脑电解码。
2025-09-19 cs.AI cs.LG
Feedback Graph Attention Convolutional Network for Medical Image Enhancement
伪影、模糊和噪声是采集过程中降低MRI图像质量的常见失真,而深度神经网络已被证明有助于提高图像质量。为了更好地利用全局结构信息和纹理细节,我们提出了一种新的生物医学图像增强网络,名为反馈图注意卷积网络(FB-GACN)。作为一个关键的创新,我们认为通过建立一个图形网络从图像的子区域,我们认为是节点功能,连接它们的非本地根据它们的相似性图像的全局结构。该模型由三个主要部分组成:1)并行图相似性分支和内容分支,其中图相似性分支旨在利用低分辨率特征空间中不同图像子区域之间的相似性和对称性,并为内容分支提供额外的先验信息以增强纹理细节。2)一种具有循环结构的反馈机制,通过处理反馈连接,用高级信息改进低级表示,并生成强大的高级纹理细节。3)利用从图相似性分支中得到的子区域相关先验估计进行重建,以去除伪影并恢复超分辨率图像。我们在两个图像增强任务上评估我们的方法:i)扩散MRI的跨协议超分辨率; ii)FLAIR MR图像的伪影去除。实验结果表明,该算法优于国家的最先进的方法。
2021-04-13 cs.CV cs.LG eess.IV
Fast Image Processing with Fully-Convolutional Networks
Intel Labs(英特尔研究院)
我们提出了一种方法来加速各种各样的图像处理运营商。我们的方法使用了一个全卷积网络,该网络是在输入输出对上训练的,这些输入输出对展示了操作员的动作。经过培训后,原来的操作员根本不需要运行。经过训练的网络以全分辨率运行,并在恒定时间内运行。我们调查网络架构的近似精度,运行时间和内存占用的影响,并确定一个特定的架构,平衡这些考虑。我们评估了10个先进的图像处理运营商,包括多种变分模型,多尺度色调和细节处理,摄影风格转移,非局部去雾,和非真实感风格化的方法。所有操作员都近似于同一个模型。实验表明,该方法是显着更准确的比先验近似计划。在MIT-Adobe数据集上,它将评估算子的PSNR测量的近似精度提高了8.5 dB(从27.5 dB提高到36 dB),并将DSSIM降低了3倍,同时是最快的,与最准确的先验近似方案相比。我们证明了我们的模型在数据集和分辨率上的推广,并研究了所提出的方法的一些扩展。结果显示在补充视频https://youtu.be/eQyfHgLx8Dc
2017-09-02 cs.CV cs.GR cs.LG
Scale- and Context-Aware Convolutional Non-intrusive Load Monitoring
Tsinghua University(清华大学);University of California, Santa Cruz(加州大学圣克鲁兹分校);ETH Zürich(苏黎世联邦理工学院)
非侵入式负载监控解决了将家庭用电量的聚合信号分解为电器级数据而无需安装专用电表的挑战性任务。通过检测负载故障和推荐节能方案,经济高效的非侵入式负载监控为公用事业和最终用户提供智能需求侧管理。在本文中,我们提高了能量分解的准确性与一种新的神经网络结构命名为规模和上下文感知网络,它利用多尺度特征和上下文信息。具体来说,我们开发了一个多分支架构与多个感受野大小和分支明智的门,连接分支的子网络。我们建立了一个自我注意模块,以促进全球背景的整合,我们将对抗性损失和状态增强,以进一步提高模型的性能。在开放数据集上测试的大量仿真结果证实了所提出的方法的优点,其性能显着优于最先进的方法。
2019-11-17 cs.LG eess.SP stat.ML
NFCNN: Toward a Noise Fusion Convolutional Neural Network for Image Denoising
School of Mathematics, Sichuan University(四川大学数学学院)
基于深度学习的方法在图像去噪方面已经达到了最先进的性能。本文提出了一种基于深度学习的去噪方法,并在卷积神经网络中引入了一个称为融合块的模块。对于这种所谓的噪声融合卷积神经网络(NFCNN),其多级架构中有两个分支。一个分支的目的是预测潜在的清洁图像,而另一个预测的残留图像。通过将预测的干净图像和预测的残差图像作为输入的一部分,在每两个阶段之间包含融合块,并且其将融合结果输出到下一阶段。由于融合块,NFCNN具有吸引人的纹理保持能力。为了训练NFCNN,采用了分阶段的监督训练策略,以避免梯度消失和梯度爆炸问题。实验结果表明,与一些最先进的算法相比,NFCNN能够执行有竞争力的去噪结果。
2021-02-17 cs.CV cs.LG eess.IV
Hyperspectral Image Classification With Contrastive Graph Convolutional Network
Nanjing University of Science and Technology(南京理工大学)
针对高光谱图像标记像素不足导致现有GCN分类方法表征能力下降的问题,提出融合对比学习的ConGCN模型,结合半监督对比损失、图生成损失和自适应图增强技术,在四个基准数据集上验证了其分类性能的有效性。
2022-05-11 cs.AI cs.CV cs.LG
Contrastive and Generative Graph Convolutional Networks for Graph-based Semi-Supervised Learning
School of Computer Science and Engineering, Nanjing University of Science and Technology(南京理工大学计算机科学与工程学院);Faculty of IT, Monash University(莫纳什大学信息技术学院)
基于图的半监督学习(SSL)旨在通过图将少量标记数据的标记转移到剩余的大量未标记数据。图卷积网络(Graph Convolutional Networks,GCN)是一种基于图的SSL方法,它将神经网络的良好表达能力与图结构相结合,取得了显著的进展。然而,现有的基于图的方法没有直接解决SSL的核心问题,即,监管力度不够,绩效还很有限。为了解决这个问题,本文提出了一种新的基于GCN的SSL算法,通过利用数据相似性和图结构来丰富监督信号。首先,通过设计半监督对比损失,可以通过最大化相同数据或来自同一类的数据的不同视图之间的一致性来生成改进的节点表示。因此,丰富的未标记数据和稀缺但有价值的标记数据可以共同为学习区分性节点表示提供丰富的监督信息,这有助于改善后续的分类结果。其次,通过使用与输入特征相关的图生成损失,提取数据特征与输入图拓扑之间的潜在决定性关系作为SSL的补充监督信号。在多种真实数据集上的实验结果表明,该算法与其他最先进的方法相比是有效的。
2020-09-19 cs.LG stat.ML
Dual-Branch Residual Network for Cross-Domain Few-Shot Hyperspectral Image Classification with Refined Prototype
School of Communications and Information Engineering, Chongqing University of Posts and Telecommunications(重庆邮电大学通信与信息工程学院);School of Intelligent Systems Engineering, Sun Yat-sen University(中山大学智能系统工程学院)
本文提出一种双分支残差网络,通过并行分支整合空间与光谱特征、利用正则化项获取精炼原型,并采用核概率匹配策略对齐源域与目标域特征,有效解决了跨域少样本高光谱图像分类中的计算成本高、泛化差及领域偏移问题。
2025-04-27 cs.CV cs.LG
HookNet: multi-resolution convolutional neural networks for semantic segmentation in histopathology whole-slide images
Radboud University Medical Center(拉德堡德大学医学中心);Institute of Experimental Immunology, University of Zurich(苏黎世大学实验免疫学研究所);Center for Medical Image Science and Visualization, Linköping University(林雪平大学医学影像科学与可视化中心)
我们提出了HookNet,这是一种用于组织病理学全切片图像的语义分割模型,它通过编码器-解码器卷积神经网络的多个分支将上下文和细节结合起来。具有不同视野的多分辨率同心圆补丁用于馈送HookNet的不同分支,并且通过挂钩机制组合中间表示。我们描述了一个框架来设计和训练HookNet,以实现高分辨率的语义分割,并引入约束,以保证在挂钩过程中的特征图中的像素对齐。我们展示了在两个组织病理学图像分割任务中使用HookNet的优势,其中组织类型预测准确性在很大程度上取决于上下文信息,即(1)乳腺癌中的多类组织分割,以及(2)肺癌中三级淋巴结构和生发中心的分割。我们展示了HookNet与不同分辨率下的单分辨率U-Net模型以及最近发表的用于组织病理学图像分割的多分辨率模型相比的优越性
2020-06-22 cs.CV cs.LG eess.IV
ECG Classification System for Arrhythmia Detection Using Convolutional Neural Networks
Australian National University(澳大利亚国立大学);Vellore Institute of Technology(韦洛尔理工大学)
提出一种含残差块的 CNN 深度学习流水线,利用多导联 ECG 在 MIT-BIH 数据集上完成五类心拍分类,15,000 个病例准确率达 98.2%。
2024-06-12 cs.LG eess.SP q-bio.QM
Crosslink-Net: Double-branch Encoder Segmentation Network via Fusing Vertical and Horizontal Convolutions
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);Southeast University(东南大学);Nanjing University(南京大学);University of Sydney(悉尼大学);University of Wollongong(伍伦贡大学);Shandong University(山东大学);Shandong Chest Hospital(山东省胸科医院)
准确的图像分割在医学图像分析中起着至关重要的作用,但它面临着形状多样、大小不一、边界模糊的巨大挑战。为了解决这些问题,基于方核的编解码器结构被提出并得到了广泛的应用,但其性能仍然不能令人满意。为了进一步应对这些挑战,我们提出了一种新的双分支编码器架构。我们的架构受到两个观察结果的启发:1)由于通过平方卷积核学习的特征的区分需要进一步改进,我们建议在双分支编码器中利用非平方垂直和水平卷积核,因此可以预期两个分支学习的特征可以相互补充。2)考虑到空间注意力可以帮助模型更好地关注大尺寸图像中的目标区域,我们开发了一种注意力损失,以进一步强调对小尺寸目标的分割。结合上述两种方案,提出了一种新的用于医学图像分割的双分支编码器分割框架,即Crosslink-Net。在四个数据集上的实验验证了该模型的有效性。代码发布于https://github.com/Qianyu1226/Crosslink-Net。
2021-07-24 cs.CV cs.LG eess.IV
Implementation of Training Convolutional Neural Networks
University of Chinese Academy of Sciences(中国科学院大学)
深度学习是机器学习的一个闪亮分支,它基于对表示的学习水平。卷积神经网络(CNN)是一种深度神经网络。可以同时学习。本文详细分析了CNN算法的前向过程和反向传播过程。然后应用特殊的卷积神经网络,用java实现了典型的人脸识别问题。然后,在第四节中提出了一种并行策略。另外,通过测量前后向计算的实际时间,从理论上分析了最大加速比和并行效率。
2015-06-04 cs.CV cs.LG cs.NE
Deep Multi-Branch CNN Architecture for Early Alzheimer's Detection from Brain MRIs
University of Texas at Austin(德克萨斯大学奥斯汀分校);California State University Fullerton(加州州立大学富勒顿分校)
本文提出一种含7866819参数的深度多分支CNN架构,基于ADNI数据集,以99.05%准确率实现早期AD三分类诊断。
2023-06-17 cs.CV cs.LG eess.IV
A Simple Method to Reduce Off-chip Memory Accesses on Convolutional Neural Networks
Samsung Electronics(三星电子)
针对卷积神经网络,提出了一种通过最大限度地利用神经处理单元中的片上存储器来减少片外存储器访问的简单算法。特别是,该算法提供了一种有效的方法来处理一个模块,由多个分支和一个合并层。对于Inception-V3在三星的NPU在Exynos,我们的评估表明,该算法使片外存储器访问减少了1/50,并相应地实现了97.59%的减少量的特征地图数据从/到片外存储器传输。
2019-01-28 cs.CV cs.LG cs.NE
Stacked Convolutional and Recurrent Neural Networks for Music Emotion Recognition
Tampere University of Technology(坦佩雷理工大学);University of Zilina(日利纳大学)
本文研究了二维情绪空间中的情感识别问题。我们提出了一种基于卷积(CNN)和循环神经网络(RNN)的方法,与相同任务的最先进方法相比,具有更少的参数。我们利用一个CNN层,然后是分别针对唤醒和效价训练的RNN的两个分支。使用“MediaEval 2015音乐中的情感”数据集对该方法进行了评估。我们实现了唤醒的RMSE为0.202,效价为0.268,这是该数据集上报告的最佳结果。
2017-06-07 cs.LG cs.SD
Automated Coronary Artery Atherosclerosis Detection and Weakly Supervised Localization on Coronary CT Angiography with a Deep 3-Dimensional Convolutional Neural Network
The Ohio State University College of Medicine(俄亥俄州立大学医学院)
我们提出了一种基于深度学习框架的全自动算法,能够筛选冠状动脉计算机断层扫描血管造影(CCTA)检查,以确信检测是否存在冠状动脉粥样硬化。该系统首先从CCTA数据集中提取冠状动脉及其分支,并将其表示为多平面重组体积;然后应用预处理和增强技术来提高系统的鲁棒性和泛化能力。利用三维卷积神经网络(3D-CNN)来对病理变化(例如,动脉粥样硬化斑块)。该系统学习具有和不具有动脉粥样硬化的血管之间的区别特征。在最后的卷积层的区别性功能可视化显着图的方法,提供与动脉粥样硬化的可能性和位置的视觉线索。我们在代表247例动脉粥样硬化患者和246例无动脉粥样硬化患者的参考数据集上评估了该系统。通过五重交叉验证,在阈值0.5的动脉/分支水平实现了准确度= 90.9%,阳性预测值= 58.8%,灵敏度= 68.9%,特异性= 93.6%,阴性预测值(NPV)= 96.1%。受试者工作特征曲线下的平均面积为0.91。该系统显示高NPV,这可能有助于解释医生排除急性胸痛患者的冠状动脉粥样硬化。
2020-06-08 cs.LG eess.IV
DualMiT-Net: Local-Global Transformer-Convolutional Fusion for Breast Mass Segmentation in Mammographic Regions of Interest
Lawrence Technological University(劳伦斯理工大学);College of Business and Information Technology, Lawrence Technological University(劳伦斯理工大学商学院与信息技术学院)
本文提出DualMiT-Net双分支网络,结合局部MiT-B5编码器与全局EfficientNet-B5编码器的特征,在CBIS-DDSM数据集上实现了优于基线的乳腺肿块分割性能。
2026-08-18 cs.AI cs.CV cs.LG
Reparameterization through Spatial Gradient Scaling
University of Alberta(阿尔伯塔大学);Huawei Technologies(华为技术有限公司);Huawei Kirin Solutions(华为麒麟解决方案)
重新参数化旨在通过在训练期间将卷积层转换为等效的多分支结构来提高深度神经网络的泛化能力。然而,在理解重新参数化如何改变和有益于神经网络的学习过程方面存在差距。在本文中,我们提出了一种新的空间梯度缩放方法来重新分配卷积网络中的权重之间的学习焦点。我们证明,空间梯度缩放实现了相同的学习动力学分支重新参数化,但没有引入结构变化的网络。我们进一步提出了一种分析方法,该方法基于由互信息测量的输入特征图的空间特征来动态学习每个卷积层的缩放。在CIFAR-10,CIFAR-100和ImageNet上的实验表明,在不搜索重新参数化结构的情况下,我们提出的缩放方法以较低的计算成本优于最先进的重新参数化策略。
2023-03-07 cs.AI cs.CV cs.LG
Crack Detection Using Enhanced Hierarchical Convolutional Neural Networks
University of Technology Sydney(悉尼科技大学)
无人机(UAV)由于其操作空间的灵活性和收集高质量视觉数据的能力,有望取代人类在危险的表面检测任务。在这项研究中,我们提出了增强的分层卷积神经网络(HCNN)从无人机收集的图像数据中检测裂缝。与传统的HCNN不同,这里使用了一组分支网络来减少下采样过程中的模糊。此外,特征保留块组合来自卷积块的当前项和先前项以向损失函数提供输入。因此,可以减小调整大小的图像的权重以最小化信息损失。对不同裂纹数据集的图像进行了实验,以证明所提出的HCNN的有效性。
2019-12-13 cs.CV cs.LG eess.IV
Neural Network Branching for Neural Network Verification
University of Oxford(牛津大学)
神经网络的形式化验证对于其在安全关键领域的部署至关重要。许多可用的形式化验证方法已被证明是一个统一的分支和界限(BaB)制定的实例。我们提出了一个新的框架,设计一个有效的分支策略的BaB。具体来说,我们学习一个图神经网络(GNN)来模仿强分支启发式行为。我们的框架不同于以前的方法学习分支在两个主要方面。首先,我们的框架直接将我们想要验证的神经网络视为GNN的图形输入。其次,我们开发了一个直观的向前和向后嵌入更新时间表。从经验上讲,与最好的手工设计的分支策略相比,我们的框架在分支数量和各种卷积网络上验证所需的时间上都实现了大致$50\%$的减少。此外,我们证明了我们的GNN模型具有水平和垂直的可转移性。横向而言,在简单属性上训练的模型在难度级别增加的属性上表现良好。在垂直方向上,在小型神经网络上训练的模型在大型神经网络上实现了类似的性能。
2019-12-03 cs.LG stat.ML
Multi-Task Recurrent Convolutional Network with Correlation Loss for Surgical Video Analysis
The Chinese University of Hong Kong(香港中文大学);Imsight Medical Technology, Co, Ltd(Imsight医疗科技有限公司);The Hong Kong Polytechnic University(香港理工大学)
手术工具存在检测和手术阶段识别是手术视频分析中两个基本但具有挑战性的任务,也是现代手术室各种应用中非常重要的组成部分。虽然这两个分析任务在临床实践中高度相关,因为手术过程是明确定义的,但大多数以前的方法单独处理它们,而没有充分利用它们的相关性。在本文中,我们提出了一种新的方法,通过开发具有相关性损失的多任务递归卷积网络(MTRCNet-CL)来利用它们的相关性,同时提高两个任务的性能。具体来说,我们提出的MTRCNet-CL模型具有端到端架构,其中有两个分支,它们共享早期的特征编码器以提取一般的视觉特征,同时保持针对特定任务的相应高层。考虑到时间信息对于相位识别至关重要,探索长短期记忆(LSTM)来对相位识别分支中的顺序依赖性建模。更重要的是,一种新的和有效的相关性损失的设计模型之间的相关性工具的存在和每个视频帧的相位识别,通过最大限度地减少从两个分支的预测的分歧。MTRCNet-CL方法可以在很大程度上鼓励两个任务之间的交互,从而可以为彼此带来好处。在大型手术视频数据集(Cholec 80)上的广泛实验证明了我们提出的方法的出色性能,始终超过最先进的方法(例如,89.1% v.s. mAP在工具存在检测中为81.0%,在工具存在检测中为87.4%,在阶段识别中,F1得分为84.5%)。代码可以在我们的项目网站上找到。
2019-07-13 cs.CV cs.LG eess.IV
Mining Interpretable AOG Representations from Convolutional Networks via Active Question Answering
Shanghai Jiao Tong University(上海交通大学);University of California, Los Angeles(加州大学洛杉矶分校)
在本文中,我们提出了一种方法来挖掘对象的部分模式从一个预先训练的卷积神经网络(CNN)的conv层。挖掘出的对象部分模式由与或图(AOG)组织。这种可解释的AOG表示由四层语义层次结构组成,即,语义部件、部件模板、潜在模式和神经单元。AOG将每个对象部分与conv层特征图中的某些神经单元相关联。AOG是以弱监督的方式构建的,即,非常少的注释(例如,3-20)的对象部分被用来指导AOG的学习。我们开发了一种问答(QA)方法,该方法使用主动的人机通信来从预先训练的CNN中挖掘模式,以便在conv层中逐步解释更多的特征。在学习过程中,我们的QA方法使用当前的AOG进行零件定位。QA方法主动识别对象,其特征图不能由AOG解释。然后,我们的方法要求人们在无法解释的对象上注释部分,并使用答案来发现与新标记的部分相对应的CNN模式。通过这种方式,我们的方法逐渐生长新的分支并细化AOG上的现有分支以语义化CNN表示。在实验中,我们的方法表现出很高的学习效率。我们的方法使用了大约1/6-1/3的部分注释进行训练,但与快速RCNN方法相比,实现了类似或更好的部分定位性能。
2018-12-18 cs.CV cs.LG
Connectivity Learning in Multi-Branch Networks
Dartmouth College(达特茅斯学院)
虽然在过去五年中,卷积网络设计中的大部分工作都围绕着深度、滤波器大小和特征通道数量的重要性的实证研究,但最近的研究表明,分支,即,沿着并行但不同的线程分割计算,然后聚集它们的输出,代表了显著提高性能的新的有希望的维度。为了解决多分支架构中设计选择的复杂性,先前的工作采用了简单的策略,例如固定的分支因子,将相同的输入馈送到所有并行分支,以及聚合点处所有分支产生的输出的加法组合。在这项工作中,我们删除这些预定义的选择,并提出了一个算法来学习网络中的分支之间的连接。代替由人类设计者先验地选择,通过优化相对于最终任务定义的单个损失函数,多分支连接性与网络的权重同时学习。我们展示了我们的方法上的问题,多类图像分类使用三个不同的数据集,它产生一贯更高的准确性相比,最先进的“ResNeXt”多分支网络给定相同的学习能力。
2017-12-07 cs.CV cs.LG
Solve Large-scale Unit Commitment Problems by Physics-informed Graph Learning
本文提出物理信息分层图卷积网络(PI-GCN)进行神经下潜,结合基于MIP模型的图卷积网络(MB-GCN)进行神经分支,构建新型神经MIP求解器,高效求解大规模机组组合问题并有效降低运行成本。
2023-11-26 cs.LG cs.SY eess.SY
Optimal Solving of Constrained Path-Planning Problems with Graph Convolutional Networks and Optimized Tree Search
Safran Electronics & Defense(赛峰电子与防务公司);LAMSADE, Paris-Dauphine University(巴黎多芬大学LAMSADE实验室);CREC Saint-Cyr, Coetquidan School Campus(圣西尔军校科埃基当校区研究中心)
基于深度学习的方法在规划方面越来越重要。在本文中,我们提出了一种混合规划器,结合了图机器学习模型和基于分支和边界树搜索的路径规划任务的最佳求解器。更具体地,使用图神经网络来辅助分支定界算法处理与期望解路径相关联的约束。有多个下游实际应用,例如自主无人地面车辆(AUGV),通常部署在救灾或搜索和救援行动中。在越野环境中,AUGV必须在各种操作约束下动态优化源-目的地路径,其中一些操作约束难以提前预测并且需要在线解决。我们进行实验,现实的情况下,并表明,图神经网络的支持,使大量的加速和更平滑的扩展到更难的路径规划问题。此外,由图神经网络提供的信息使该方法能够优于特定问题的手工算法,突出了潜在的图神经网络持有的路径规划任务。
2022-04-03 cs.AI cs.LG cs.RO
Head Mounted Pupil Tracking Using Convolutional Neural Network
瞳孔跟踪是目标跟踪的一个重要分支,对跟踪精度要求很高。我们研究了头戴式瞳孔跟踪,它往往比远程瞳孔跟踪更方便和精确,但也更具挑战性。当瞳孔跟踪受到光照等噪声的影响时,检测精度会大大降低。由于头戴式记录设备和公共基准图像数据集的出现,头戴式跟踪算法变得更容易设计和评估。在本文中,我们提出了一个强大的头戴式瞳孔检测算法,它使用卷积神经网络(CNN),结合不同的特征瞳孔。这里我们考虑瞳孔的三个特征。首先,我们使用三个基于瞳孔特征的算法来独立地找到瞳孔中心。其次,我们使用CNN来评估每个结果的质量。最后,我们选择最好的结果作为输出。实验结果表明,我们提出的算法性能优于目前的最先进的。
2018-07-17 cs.CV cs.LG
Structured Probabilistic Pruning for Convolutional Neural Network Acceleration
Zhejiang University(浙江大学)
在本文中,我们提出了一种新的渐进式参数修剪方法的卷积神经网络加速,命名为结构概率修剪(SPP),有效地修剪卷积层的权重概率的方式。与现有的确定性修剪方法不同,其中不重要的权重被永久地消除,SPP为每个权重引入修剪概率,并且通过从修剪概率中采样来指导修剪。设计了一种机制,在训练过程中根据重要性标准增加和减少剪枝概率。实验表明,在4倍加速的情况下,SPP可以加速AlexNet,而ImageNet分类中的前5名准确率仅损失0.3%,VGG-16则损失0.8%。此外,SPP可以直接应用于加速多分支CNN网络,如ResNet,而无需特定的适配。我们的2倍加速ResNet-50在ImageNet上只损失了0.8%的前5名准确率。我们进一步证明了SPP对迁移学习任务的有效性。
2018-09-10 cs.LG stat.ML
Multi-pooling 3D Convolutional Neural Network for fMRI Classification of Visual Brain States
School of Informatics(信息学院);Kochi University of Technology(高知工科大学)
本文提出多池化3D卷积神经网络(MP3DCNN),通过在3DCNN前两层加入池化连接分支,提升了视觉脑状态fMRI在类别及子类别分类任务中的准确率。
2023-03-25 cs.CV cs.LG eess.IV
Multi-branch Spatio-Temporal Graph Neural Network For Efficient Ice Layer Thickness Prediction
Lehigh University(里海大学)
提出多分支时空图神经网络,结合GraphSAGE和时间卷积,从顶层冰层厚度预测深层厚度,在准确性和效率上优于现有融合模型。
2024-11-06 cs.CV cs.LG
Non-local Graph Convolutional Network for joint Activity Recognition and Motion Prediction
Bosch Center for Artificial Intelligence(博世人工智能中心)
基于三维人脸的运动预测和行为识别是人类行为分析中的两个相互交织的任务。在这项工作中,我们提出了一种运动上下文建模方法,提供了一种新的方式来结合图形卷积神经网络和递归神经网络的优点,联合人体运动预测和活动识别。我们的方法基于使用LSTM编码器-解码器和非局部特征提取注意力机制来建模人体骨骼数据的空间相关性和运动帧之间的时间相关性。所提出的网络可以很容易地包括两个输出分支,一个用于活动识别,一个用于未来运动预测,它们可以联合训练以增强性能。在Human 3.6M,CMU Mocap和NTU RGB-D数据集上的实验结果表明,我们提出的方法在基于LSTM的基线方法中提供了最佳的预测能力,同时实现了与其他最先进方法相当的性能。
2021-08-03 cs.CV cs.LG cs.RO
CLAD: A Contrastive Learning based Approach for Background Debiasing
卷积神经网络(CNN)在多个视觉任务中取得了超人的性能,特别是在图像分类方面。然而,与人类不同的是,CNN利用虚假特征(如背景信息)来做出决策。这种趋势在鲁棒性或弱泛化性能方面产生了不同的问题。通过我们的工作,我们引入了一种基于对比学习的方法(CLAD)来减轻CNN中的背景偏差。CLAD鼓励语义关注对象前景,并惩罚从无关背景中学习特征。我们的方法还介绍了一种有效的方法来采样负样本。我们在背景挑战数据集上获得了最先进的结果,以4.1%的利润率超过了之前的基准。我们的论文展示了CLAD如何作为一个概念证明,用于消除虚假特征,如背景和纹理(在补充材料中)。
2022-10-06 cs.AI cs.CV cs.LG
Learning Convolutional Neural Networks in the Frequency Domain
National University of Defense Technology(国防科技大学)
卷积神经网络(CNN)在过去的几十年里在计算机视觉领域取得了令人瞩目的成功。图像卷积运算有助于CNN在图像相关任务上获得良好的性能。然而,图像卷积运算复杂度高,难以实现。本文提出了CEMNet,它可以在频域中训练。本研究的最重要的动机是,我们可以使用简单的元素乘运算来代替图像卷积在频域的基础上互相关定理,这明显降低了计算复杂度。我们进一步引入了权重固定机制来缓解过度拟合的问题,并在频域中分析了批量归一化,Leaky ReLU和Dropout的工作行为,以设计CEMNet的对应物。同时,为了处理离散傅立叶变换带来的复杂输入,我们为CEMNet设计了一种双分支网络结构。实验结果表明,CEMNet取得了良好的性能MNIST和CIFAR-10数据库。
2022-07-20 cs.AI cs.CV cs.LG