Attention Models for Point Clouds in Deep Learning: A Survey
Beijing Jiaotong University(北京交通大学)
近年来,三维点云在深度学习中的进步吸引了不同应用领域的深入研究,例如计算机视觉和机器人任务。然而,从无序和不规则的点云创建鲁棒的、有区别的特征表示是具有挑战性的。在本文中,我们的最终目标是提供一个全面的概述点云特征表示使用注意力模型。本文总结了近三年来在3D目标检测、3D语义分割、3D姿态估计、点云补全等方面的75多项关键研究成果,并对注意力机制的作用、注意力模型在不同任务中的可用性以及关键技术的发展趋势进行了详细的描述。
2021-02-22 cs.AI cs.CV
Comparing feature fusion strategies for Deep Learning-based kidney stone identification
univ-lo(洛林大学)
这篇文章提出了一种深度学习方法,用于提取和融合从不同视点获取的图像信息,目的是产生更具鉴别力的对象特征。我们的方法是专门设计来模仿泌尿科医生使用的形态结构分析,通过检查肾结石碎片的切片和表面来对肾结石进行视觉分类。深度特征融合策略在肾结石分类精度方面将单视图提取骨干模型的结果提高了10%以上。
2022-05-31 cs.AI cs.CV
Detecting Cloud-Based Phishing Attacks by Combining Deep Learning Models
Eydle Inc.(Eydle公司)
如今,基于Web的网络钓鱼攻击利用流行的云Web托管服务和应用程序(如Google Sites和Typeform)来托管攻击。由于这些攻击来自云服务的信誉域和IP地址,因此传统的网络钓鱼检测方法(如IP信誉监控和黑名单)不是很有效。在这里,我们研究了深度学习模型在检测这类基于云的网络钓鱼攻击方面的有效性。具体来说,我们评估了三种网络钓鱼检测方法的深度学习模型-用于URL分析的LSTM模型,用于徽标分析的YOLOv 2模型和用于视觉相似性分析的三重网络模型。我们使用知名的数据集训练模型,并测试它们在基于云的网络钓鱼攻击中的性能。我们的结果定性地解释了为什么模型成功或失败。此外,我们的结果强调了如何组合各个模型的结果可以提高检测基于云的网络钓鱼攻击的有效性。
2022-10-28 cs.AI cs.CR cs.CV
Joint Optimization in Edge-Cloud Continuum for Federated Unsupervised Person Re-identification
Nanyang Technological University(南洋理工大学);SenseTime Research(商汤科技研究院)
人员重新识别(ReID)旨在从非重叠的摄像机视图中重新识别人员。由于个人ReID数据包含敏感的个人信息,研究人员采用了联邦学习,一种新兴的分布式训练方法,以减轻隐私泄露风险。然而,现有的研究依赖于费力和耗时的数据标签。我们提出了FedUReID,这是一个联合的无监督人员ReID系统,可以在不使用任何标签的情况下学习人员ReID模型,同时保护隐私。FedUReID支持在具有未标记数据的边缘上进行原位模型训练。云服务器从边缘聚集模型,而不是集中原始数据,以保护数据隐私。此外,为了解决边缘数据量和分布不同的问题,我们通过云和边缘的联合优化对边缘进行个性化训练。具体来说,我们提出了个性化的epoch来重新分配整个训练过程中的计算,个性化的聚类来迭代地预测未标记数据的合适标签,以及个性化的更新来使服务器聚合模型适应每个边缘。在8个人ReID数据集上的大量实验表明,FedUReID不仅实现了更高的准确率,而且将计算成本降低了29%。我们的FedUReID系统与联合优化将揭示实施联邦学习更多的多媒体任务没有数据标签。
2021-08-14 cs.AI cs.CV cs.DC
On Machine Learning DoS Attack Identification from Cloud Computing Telemetry
Federal University of Espírito Santo(圣埃斯皮里图联邦大学)
拒绝服务(DoS)攻击的检测仍然是云环境的一个挑战,影响了由这种虚拟化基础设施托管的大量服务和应用程序。通常,在文献中,DoS攻击的检测仅通过分析网络中的数据包流量来执行。这项工作提倡使用来自云的遥测技术来检测使用机器学习算法的DoS攻击。我们的假设是基于丰富的本地数据汇集服务,从物理和虚拟主机的指标。我们的初步结果表明,可以准确地识别拒绝服务的k-最近邻(kNN)和决策树(CART)。
2019-04-11 cs.CR cs.LG cs.NI
CloudSense: A Model for Cloud Type Identification using Machine Learning from Radar data
Indian Institute of Tropical Meteorology(印度热带气象研究所);Ministry of Earth Sciences(地球科学部);Cochin University of Science and Technology(科钦科学技术大学);Jackson School of Geosciences, The University of Texas at Austin(得克萨斯大学奥斯汀分校杰克逊地球科学学院)
本文提出CloudSense模型,利用X波段雷达垂直反射率剖面和SMOTE平衡数据训练LightGBM,识别印度西高止山脉四类降水云,性能优于传统雷达算法。
2024-05-08 cs.LG physics.ao-ph
Object Re-Identification from Point Clouds
University of Waterloo(滑铁卢大学)
本文首次大规模研究基于点云的目标重识别,构建了成对图像与LiDAR数据集,并提出轻量级匹配头以构建跨模态可比较的重识别网络,在实时条件下达到接近图像重识别的性能。
2023-08-11 cs.CV cs.LG
Automated Cloud Provisioning on AWS using Deep Reinforcement Learning
Synaptiq, LLC(Synaptiq有限责任公司);BlackSky(BlackSky公司)
随着云计算的使用不断增加,控制成本变得越来越重要。然而,有证据表明,30%-45%的云支出被浪费了。现有的云供应工具通常依赖于训练有素的人类专家来指定要监控的内容、触发动作的阈值和动作。在本文中,我们将探索使用强化学习(RL)来获取平衡性能和支出的策略,允许人们指定他们想要什么,而不是如何去做,从而最大限度地减少对云专业知识的需求。使用CloudSim模拟器进行表格式、深度和决斗式双深度Q学习的实证结果显示了RL的实用性和这些方法的相对优点。我们还演示了有效的策略迁移学习,从一个非常简单的模拟器到CloudSim,下一步是从CloudSim迁移到Amazon Web Services物理环境。
2017-09-19 cs.AI cs.DC cs.LG
Low-Resource White-Box Semantic Segmentation of Supporting Towers on 3D Point Clouds via Signature Shape Identification
NOVA School of Science and Technology(新里斯本大学科学与技术学院);University of Milan(米兰大学);EDP NEW(EDP新能源公司);University of Bologna(博洛尼亚大学)
针对3D语义分割高资源消耗与黑盒不透明问题,提出低资源白盒模型SCENE-Net,通过GENEOs识别点云特征形状,参数少、速度快、鲁棒性强,IoU媲美SOTA,同时发布乡村地形点云数据集与代码。
2023-06-13 cs.CV cs.LG math.GT
MAIDS: Malicious Agent Identification-based Data Security Model for Cloud Environments
National Sun Yat-sen University(国立中山大学);University of Aizu(会津大学);The University of Economics and Human Sciences(经济与人文大学);SRM Institute of Science & Technology(SRM科学技术学院);Indian Institute of Information Technology, Bhopal(博帕尔印度信息技术学院)
本文提出MAIDS模型,利用XGBoost算法构建XC-MAP单元,通过评估智能体行为与访问资格,在数据泄露前主动识别恶意智能体,保障云环境数据安全。
2024-12-19 cs.CR cs.LG
Deep State Space Models for Nonlinear System Identification
Uppsala University(乌普萨拉大学);Linköping University(林雪平大学)
深度状态空间模型(SSM)是深度学习社区中开发的时态模型的一个积极研究的模型类,与经典SSM有着密切的联系。由于深度神经网络的灵活性,使用深度SSM作为黑盒识别模型可以描述广泛的动态。此外,模型类的概率性质允许对系统的不确定性进行建模。在这项工作中,解释了一个深度SSM类及其参数学习算法,以扩展基于深度学习的非线性识别方法的工具箱。六个最近的深SSM进行评估,在第一个统一的实施非线性系统识别基准。
2021-06-18 cs.LG cs.SY eess.SY
BottleNet: A Deep Learning Architecture for Intelligent Mobile Cloud Computing Services
University of Southern California(南加州大学)
最近的研究表明,通过在移动终端和云之间拆分网络,可以显着改善深度神经网络的延迟和能耗。本文介绍了一种新的深度学习架构,称为BottleNet,用于减少需要发送到云端的特征大小。此外,我们提出了一种训练方法,用于补偿由于在将特征传输到云之前对特征进行有损压缩而导致的潜在准确性损失。与仅使用云的方法相比,BottleNet在端到端延迟方面平均提高了30倍,在移动能耗方面平均提高了40倍,准确性损失可以忽略不计。
2019-02-04 cs.DC cs.LG
dynoGP: Deep Gaussian Processes for dynamic system identification
School of Computer Science and Statistic, Trinity College Dublin(都柏林三一学院计算机科学与统计学院);SUPSI(瑞士南部应用科学大学);IDSIA - Dalle Molle Institute for Artificial Intelligence(IDSIA - 达勒·莫勒人工智能研究所)
本研究提出dynoGP方法,通过互连线性动态GP与静态GP构建深度高斯过程模型,结合数据驱动方法优势与概率分布输出能力,实现含不确定性量化的动态系统辨识,经模拟与真实数据验证有效。
2025-02-08 cs.LG stat.ML
Dynamical System Parameter Identification using Deep Recurrent Cell Networks
在本文中,我们通过深度学习方法研究动力系统中的参数识别问题。主要针对二阶线性定常动力系统,研究了阻尼因子辨识问题。通过利用具有不同递归单元(即GRU、LSTM或BiLSTM)的六层深度神经网络;并通过馈送从动力系统模拟器捕获的输入输出序列对,我们搜索有效的深度递归结构以解决阻尼因子识别问题。我们的研究结果表明,虽然以前没有在文献中用于此任务,但与单向门控递归存储单元(如GRU和LSTM)相比,双向门控递归单元(BiLSTM)提供了更好的参数识别结果。因此,指示从动态系统收集的并且当被错误地观察时的有限长度的输入-输出序列对可以在两个时间方向上携带用于预测动态系统参数的信息。
2021-07-06 cs.AI cs.LG cs.SY
Failure Identification from Unstable Log Data using Deep Learning
Technical University Berlin(柏林工业大学);Huawei Munich Research(华为慕尼黑研究院)
云平台的可靠性具有重要意义,因为社会越来越依赖于在云上运行的复杂软件系统。为了改进它,云提供商正在自动化各种维护任务,并经常考虑故障识别。自动化的前提是可观测性工具的可用性,通常使用系统日志。本文的重点是基于日志的故障识别。这个问题是具有挑战性的,因为日志数据的不稳定性和代码中显式日志失败覆盖的不完整性。为了解决这两个挑战,我们提出了CLog作为故障识别的方法。本文提出的关键思想是基于我们的观察,即通过将日志数据表示为子过程的序列而不是日志事件的序列,减少了不稳定日志数据的影响。CLog引入了一种新的子过程提取方法,该方法使用上下文感知神经网络和聚类方法来提取有意义的子过程。日志事件上下文的直接建模允许相对于突然的上下文变化识别故障,解决了日志故障覆盖不足的挑战。我们的实验结果表明,学习的子过程表示减少了输入的不稳定性,使CLog在故障识别子问题上优于基线- 1)故障检测在F1得分上提高了9-24%,2)故障类型识别在宏观平均F1得分上提高了7%。进一步的分析表明,输入事件序列的不稳定性与检测性能之间存在与模型无关的负相关性。
2022-04-06 cs.LG cs.SE
Hyper: Distributed Cloud Processing for Large-Scale Deep Learning Tasks
Princeton University(普林斯顿大学);Snark AI
在实际应用中训练和部署深度学习模型需要处理大量数据。当数据量增长到100 TB甚至PB级时,这是一项具有挑战性的任务。我们引入了一个混合分布式云框架,该框架具有多个云的统一视图和内部部署基础设施,用于大规模使用CPU和GPU计算实例处理任务。该系统实现了分布式文件系统和容错任务处理调度器,独立于所使用的语言和深度学习框架。它允许利用云上不稳定的廉价资源来显着降低成本。我们展示了该框架在运行预处理,分布式训练,超参数搜索和大规模推理任务上的可扩展性,使用10,000个CPU核心和300个GPU实例,总处理能力为30 petaflops。
2019-10-16 cs.DC cs.LG
DeepWriterID: An End-to-end Online Text-independent Writer Identification System
South China University of Technology(华南理工大学)
由于触摸屏移动终端和基于笔的界面的快速增长,基于手写的书写者识别系统在个人认证、数字取证和其他应用中正吸引越来越多的关注。然而,由于数据的不足和难以在不同的笔迹条件下设计出良好的特征,大部分关于笔迹鉴别的研究并不令人满意。因此,我们引入了一个端到端系统,即DeepWriterID,它采用了深度卷积神经网络(CNN)来解决这些问题。DeepWriterID的一个关键特性是我们提出的一种新方法,称为DropSegment。它旨在实现数据增强,提高CNN的通用性。为了充分的特征表示,我们进一步引入路径签名特征映射来提高性能。实验在NLPR笔迹数据库上进行。即使我们只使用给定手写样本的落笔状态下的笔位置信息,我们也实现了中文文本95.72%和英文文本98.51%的新的最先进的识别率。
2015-12-22 cs.CV cs.LG stat.ML
Self-Supervised Deep Learning on Point Clouds by Reconstructing Space
Hasso Plattner Institute(哈索·普拉特纳研究所)
点云提供了灵活而自然的表示,可用于机器人或自动驾驶汽车等无数应用。最近,在原始点云数据上运行的深度神经网络在对象分类和语义分割等监督学习任务上显示出了很好的结果。虽然可以使用现代扫描技术捕获大量点云数据集,但手动标记这种大型3D点云以用于监督学习任务是一个繁琐的过程。这就需要能够从未标记的数据中学习的方法,以显著减少监督学习中所需的注释样本的数量。我们提出了一个自监督学习任务,用于对原始点云数据进行深度学习,其中训练神经网络以重建其部分已被随机重新排列的点云。在解决这个任务时,学习捕获点云的语义属性的表示。我们的方法是不可知的网络架构,并优于当前的无监督学习方法在下游对象分类任务。我们通过实验证明,在监督训练之前使用我们的方法进行预训练可以提高最先进模型的性能,并显着提高样本效率。
2019-06-02 cs.CV cs.LG stat.ML
Deep Convolutional Networks in System Identification
Uppsala University(乌普萨拉大学);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学)
深度学习的最新发展与非线性系统辨识问题有关。在本文中,我们建立了深度学习和系统辨识社区之间的联系。最近已经表明,在序列建模任务方面,卷积架构至少与递归架构一样有能力。受这些结果的启发,我们探讨了最近提出的时间卷积网络(TCN)和两个经典的系统辨识模型结构; Volterra级数和面向块的模型之间的显式关系。最后,我们的实验研究,我们提供了两个现实世界的问题,著名的Silverbox数据集和一个较新的数据集来自地面振动实验的F-16战斗机的结果。
2019-11-19 cs.LG cs.NE cs.SY
Service Placement in Small Cell Networks Using Distributed Best Arm Identification in Linear Bandits
University of Tübingen(蒂宾根大学);Ruhr-University Bochum(波鸿鲁尔大学)
本文研究了在小型基站网络中如何通过分布式最佳臂识别算法优化服务部署,以减少用户延迟。
2026-04-07 cs.DC cs.LG cs.NI
DeePCCI: Deep Learning-based Passive Congestion Control Identification
RWTH Aachen University(亚琛工业大学);Brandenburg University of Technology(勃兰登堡工业大学)
传输协议使用拥塞控制来避免网络过载。如今,存在影响性能的不同拥塞控制变体。因此,研究它们的使用是相关的,但很难确定使用的是哪种变体。虽然存在被动识别方法,但这些方法需要详细的领域知识,并且通常还依赖于关于拥塞控制如何操作以及哪些数据可访问的过时假设。我们提出了DeePCCI,一种被动的,基于深度学习的拥塞控制识别方法,除了训练拥塞控制变体的流量之外,不需要任何领域知识。通过仅使用分组到达数据,它也可直接应用于加密(传输报头)业务。因此,DeePCCI更容易扩展,也可以与QUIC一起使用。
2019-07-04 cs.LG cs.NI
A deep network approach to multitemporal cloud detection
Wageningen University(瓦赫宁根大学)
我们提出了一个具有时间记忆的深度学习模型,用于检测由安装在气象卫星第二代(MSG)卫星上的Seviri成像仪采集的图像时间序列中的云。该模型提供具有相关置信度的像素级云图,并通过递归神经网络结构及时传播信息。通过一个单一的模型,我们能够高精度地勾勒出全年以及白天和夜晚的云。
2020-12-09 cs.LG physics.ao-ph
Deep Residual Shrinkage Networks for EMG-based Gesture Identification
School of Physical Science and Technology, Lanzhou University(兰州大学物理科学与技术学院);School of Advanced Technology, Xi'an Jiaotong-Liverpool University(西交利物浦大学先进技术学院);Chongqing Jiangbei Bachuan Quantum Middle School(重庆江北巴川量子中学);School of Chengdu Shishi Cambridge A-Level Centre(成都石室剑桥高级课程中心)
介绍了一种基于肌电信号的高精度手势识别方法。一种新开发的深度学习方法,即深度残差收缩网络被应用于执行手势识别。根据手势产生的肌电信号的特点,对识别算法进行了优化,提高了识别精度。最后,采用三种不同的算法比较了肌电信号识别与DRSN识别的准确性。结果表明,DRSN在肌电信号识别准确率方面优于传统神经网络。本文为肌电信号的分类提供了一种可靠的方法,并探讨了DRSN的可能应用。
2022-09-02 cs.LG eess.SP
A novel Deep Neural Network architecture for non-linear system identification
University of Padova(帕多瓦大学)
提出了一种用于非线性系统辨识的新型深度神经网络(DNN)架构。我们通过限制DNN的表示能力来促进泛化。为了做到这一点,受衰落记忆系统的启发,我们引入了归纳偏置(在架构上)和正则化(在损失函数上)。该架构允许仅基于可用数据的自动复杂度选择,以这种方式减少了必须由用户选择的超参数的数量。利用高度并行化的DNN框架(基于随机优化方法),我们成功地将我们的方法应用于大规模数据集。
2021-06-06 cs.LG
Deep Neural Network Aided Scenario Identification in Wireless Multi-path Fading Channels
School of Electronic Science(电子科学学院);National University of Defense Technology(国防科技大学)
这封信阐述了我们在无线多径衰落信道中用于无线通信场景识别的深度神经网络(DNN)方面的初步工作。在这封信中,六种渠道情景参考COST 207渠道模型已经完成。在信噪比大于20 dB的情况下,识别准确率为100%,而在信噪比为0 ~ 40 dB的情况下,平均识别准确率为88.4%。该方法在快时变条件下进行了测试,这与现实世界中的无线多径衰落信道相似,使其能够在实际场景识别的可行性。
2018-11-23 cs.LG eess.SP
MIIDL: a Python package for microbial biomarkers identification powered by interpretable deep learning
检测用于预测疾病表型和临床结果的微生物生物标志物对于疾病早期筛查和诊断至关重要。大多数生物标志物鉴定方法是基于线性的,这是非常有限的,因为生物过程很少是完全线性的。将机器学习引入这一领域往往会带来一个有前途的解决方案。然而,以可解释的、数据驱动的和稳健的方式鉴定微生物生物标志物仍然具有挑战性。我们介绍了MIIDL,这是一个Python包,用于基于可解释的深度学习识别微生物生物标志物。MIIDL创新性地应用了卷积神经网络、多种可解释性算法和大量的预处理方法,为从高维稀疏数据集中识别微生物生物标志物提供了一站式和强大的管道。
2021-09-24 cs.LG q-bio.QM
Cloud detection in Landsat-8 imagery in Google Earth Engine based on a deep neural network
Innovation Academy for Precision Measurement Science and Technology, Chinese Academy of Sciences(中国科学院精密测量科学与技术创新研究院);Anhui University(安徽大学);University of Chinese Academy of Sciences(中国科学院大学);University of Nottingham(诺丁汉大学)
谷歌地球引擎(GEE)为基于大面积光学卫星图像的应用提供了一个方便的平台。有了这样的数据集,云的检测往往是必要的先决条件。最近,基于深度学习的云检测方法已经显示出其在云检测方面的潜力,但它们只能在本地应用,导致数据下载时间和存储问题效率低下。这封信提出了一种基于深度学习(DeepGEE-CD)在GEE中直接执行Landsat-8图像云检测的方法。首先在本地训练深度神经网络(DNN),然后将训练好的DNN部署在GEE的JavaScript客户端中。实验结果表明,DeepGEE-CD算法优于常用的掩模函数(Fmask)算法。所提出的DeepGEE-CD方法可以在不下载的情况下准确地检测Landsat-8图像中的云,使其成为GEE中Landsat-8图像常规云检测的一种有前途的方法。
2020-10-01 cs.LG eess.IV
Deep Eyedentification: Biometric Identification using Micro-Movements of the Eye
University of Potsdam(波茨坦大学)
我们研究眼睛的无意识微运动用于生物识别。虽然先前的研究从基于视频的眼动跟踪系统的输出中提取低频宏观运动,并设计这些宏观运动的显式特征,但我们开发了一种处理原始眼动跟踪信号的深度卷积架构。与以前的工作相比,该网络的出错率降低了一个数量级,速度提高了两个数量级:它在几秒钟内准确地识别用户。
2020-05-05 cs.CL cs.CV cs.HC
Deep Learning for 3D Point Cloud Understanding: A Survey
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Oregon(俄勒冈大学)
随着自动驾驶和机器人等实际应用的发展,人们越来越关注3D点云理解。虽然深度学习在基于图像的任务上取得了显著的成功,但深度神经网络在处理大规模、非结构化和有噪声的3D点时面临着许多独特的挑战。为了展示用于3D点云理解的深度学习的最新进展,本文从几个不同的方向(分类、分割、检测、跟踪、流估计、配准、增强和完成)总结了该领域最近的显著研究贡献,以及常用的数据集、度量和最先进的性能。有关此调查的更多信息,请访问:https://github.com/SHI-Labs/3D-Point-Cloud-Learning。
2021-05-23 cs.CV cs.LG
Deep Learning-based Point Cloud Registration for Augmented Reality-guided Surgery
Graz University of Technology(格拉茨工业大学);University Hospital Essen (AöR)(埃森大学医院(公法机构))
本文评估了基于深度学习的点云配准方法在AR引导手术中图像到患者配准的可行性,构建了医学成像与HoloLens 2点云数据集,发现传统配准流程在挑战性数据上仍优于三种成熟深度学习模型。
2024-05-06 cs.CV cs.LG
Cloud Classification with Unsupervised Deep Learning
University of Chicago(芝加哥大学);Argonne National Lab(阿贡国家实验室);University of California, Berkeley(加州大学伯克利分校)
我们提出了一个利用现代无监督深度学习技术的云表征框架。虽然以前基于神经网络的云分类模型使用了监督学习方法,但无监督学习使我们能够避免将模型限制为基于历史云分类方案的人工类别,并能够发现新的,更详细的分类。我们的框架直接从NASA的中分辨率成像光谱仪(MODIS)卫星仪器产生的辐射数据中学习云特征,从数百万张图像中获得云特征,而无需在训练过程中依赖预定义的云类型。我们目前的初步结果表明,我们的方法提取的辐射数据的物理相关信息,并产生有意义的云类。
2022-09-30 cs.LG physics.ao-ph
Deep Learning for 3D Point Clouds: A Survey
Sun Yat-sen University(中山大学);Information Engineering University(信息工程大学);University of Oxford(牛津大学);National University of Defense Technology(国防科技大学);University of Oulu(奥卢大学);the University of Western Australia(西澳大学)
点云学习由于其在计算机视觉、自动驾驶和机器人等许多领域的广泛应用,最近引起了越来越多的关注。作为人工智能的主导技术,深度学习已成功用于解决各种二维视觉问题。然而,由于使用深度神经网络处理点云所面临的独特挑战,点云上的深度学习仍处于起步阶段。最近,点云上的深度学习变得更加蓬勃发展,提出了许多方法来解决这一领域的不同问题。为了促进未来的研究,本文全面回顾了点云深度学习方法的最新进展。它涵盖了三个主要任务,包括三维形状分类,三维目标检测和跟踪,三维点云分割。它还提供了几个公开数据集的比较结果,以及有见地的观察和鼓舞人心的未来研究方向。
2020-06-23 cs.CV cs.LG cs.RO
Protein identification with deep learning: from abc to xyz
David R. Cheriton School of Computer Science, University of Waterloo(滑铁卢大学 David R. Cheriton 计算机科学学院);Bioinformatics Solutions Inc.(Bioinformatics Solutions 公司)
蛋白质是细胞、组织或有机体中生物功能的主要工具。在给定样品中的蛋白质的鉴定和定量,例如在正常/疾病条件下的细胞类型,是理解人类健康和疾病的基本任务。在本文中,我们介绍了DeepNovo,这是一种基于深度学习的工具,用于解决从串联质谱数据中识别蛋白质的问题。这个想法最初是在从头肽测序的背景下提出的[1],其中卷积神经网络和递归神经网络被应用于从其光谱预测肽的氨基酸序列,这与从图像生成标题类似。我们进一步开发DeepNovo来执行序列数据库搜索,这是肽识别的主要技术,极大地受益于众多现有的蛋白质数据库。我们将从头测序和数据库搜索两个模块结合到一个用于肽识别的深度学习框架中,并整合de Bruijn图组装技术,以提供一个完整的解决方案,从串联质谱数据中重建蛋白质序列。本文描述了DeepNovo用于蛋白质鉴定的综合协议,包括训练神经网络模型、动态规划搜索、数据库查询、错误发现率估计和de Bruijn图组装。我们的GitHub存储库(https://github.com/nh2trans/DeepNovo)中提供了IPython笔记本形式的训练和测试数据、模型实现以及全面的教程。
2017-10-08 cs.CE cs.LG q-bio.BM
Leveraging Native Language Speech for Accent Identification using Deep Siamese Networks
Carnegie Mellon University(卡内基梅隆大学);Indian Institute of Technology Bombay(印度理工学院孟买分校);Indian Institute of Science(印度科学学院)
自动口音识别的问题对于诸如说话人分析和识别以及对于改进语音识别系统的若干应用是重要的。语音的重音性质可以主要归因于说话者的母语对给定语音记录的影响。在本文中,我们提出了一种新的口音识别系统,其训练利用语音在母语随着口音。具体来说,我们开发了一个基于深度暹罗网络的模型,该模型学习口音语音记录和母语语音记录之间的关联。使用无监督高斯混合模型(GMM)或有监督深度神经网络(DNN)模型,利用从语音记录中提取的i向量特征来训练Siamese网络。我们使用CSLU外国口音英语(FAE)语料库进行了几个口音识别实验。在这些实验中,我们提出的使用深度暹罗网络的方法在10类口音识别任务中产生了15.4%的显着相对性能改进,超过了使用GMM i向量的基于DNN的基线分类系统。此外,我们提出了一个详细的错误分析建议口音识别系统。
2018-06-18 cs.CL cs.LG cs.SD
Audio Recording Device Identification Based on Deep Learning
Shanghai Jiao Tong University(上海交通大学)
本文提出了一种从背景噪声中识别录音设备的方法,从而为取证提供了一种方法。音频信号是语音信号和噪声信号之和。语音信号承载着信息的传递,因此受到人们的广泛关注。因此,为了获得更高的信噪比,人们进行了大量的研究。有很多语音增强算法都是为了提高语音的质量,可以看作是降低噪声。然而,噪声可以被视为音频记录设备的固有指纹痕迹。这些数字痕迹可以通过新的机器学习技术来表征和识别。因此,在我们的研究中,我们使用噪声作为本征特征。对于识别,使用并比较了深度学习方法的多个分类器。识别结果表明,从各设备噪声中提取特征向量,并利用深度学习技术进行识别的方法是可行的,且效果良好。
2016-04-27 cs.LG cs.SD
Response to: Significance and stability of deep learning-based identification of subtypes within major psychiatric disorders. Molecular Psychiatry (2022)
最近,Winter和Hahn [1]评论了我们使用机器学习基于神经生物学特征识别主要精神病学障碍(MPD)亚型的工作[2]。他们质疑我们方法的普遍性以及结果的统计学显著性、稳定性和过拟合,并提出了疾病亚型的管道。我们感谢他们对我们工作的认真考虑,但是,我们需要指出他们对基本机器学习概念的误解,并描述其中涉及的一些关键问题。
2022-06-10 cs.LG
Multiclass Language Identification using Deep Learning on Spectral Images of Audio Signals
Novetta(诺维塔)
任何话音识别软件的第一步都是确定说话者使用的是什么语言,理想情况下,这一过程将是自动化的。本文描述的技术,音频频谱图的语言识别(LIFAS),使用从音频信号生成的频谱图作为卷积神经网络(CNN)的输入,用于语言识别。LIFAS需要对音频信号进行最少的预处理,因为在训练期间将频谱图输入到网络时,会在每个批次期间生成频谱图。LIFAS利用了在图像处理任务中表现出成功的深度学习工具,并将其应用于音频信号分类。LIFAS在3.75秒的音频片段上以97%的准确率执行二进制语言分类,并且以89%的准确率执行六种语言的多类分类。
2019-05-10 cs.LG cs.SD eess.AS
Adaptive Re-ranking of Deep Feature for Person Re-identification
Nanjing University(南京大学);RMIT University(皇家墨尔本理工大学)
典型的人员重新识别(re-ID)方法训练深度CNN以提取深度特征并将它们与距离度量组合以用于最终评估。在这项工作中,我们专注于利用深层特征中编码的完整信息来提高re-ID性能。首先,我们提出了一种深度特征融合(DFF)方法来利用嵌入在深度特征中的不同信息。DFF将每个子特征作为信息载体,并采用扩散过程来交换它们的信息。其次,我们提出了一个自适应重新排名(ARR)的方法来利用编码在邻居的功能的上下文信息。ARR利用上下文信息以迭代的方式对检索结果进行重新排序。特别是,它在每次迭代后自动添加更多的上下文信息,以考虑更多的匹配。第三,我们提出了一个策略,结合DFF和ARR,以提高性能。广泛的比较评估表明,所提出的方法在三个大的基准的优越性。
2018-11-21 cs.CV cs.LG
Deep User Identification Model with Multiple Biometrics
NOTA Incorporated(NOTA公司);Khalifa University(哈利法大学);Korea Advanced Institute of Science and Technology(韩国高等科学技术院)
利用生物特征进行身份识别是一项重要而又具有挑战性的任务。关于使用给定信号识别个人身份或性别已经进行了大量的研究。各种类型的生物测定,如心电图(ECG),脑电图(EEG),面部,指纹和语音已被用于这些任务。大多数的研究只集中在单一的通道或单一的任务,而输入通道或任务的组合还有待研究。在本文中,我们提出了使用多模态生物识别技术进行深度识别和性别分类。我们的模型使用ECG,指纹和面部数据。然后,它执行两项任务:性别识别和分类。通过使用多模态,单个模型可以处理各种输入域,而无需独立地训练每个模态,并且域之间的相关性可以提高其在任务上的泛化性能。
2019-09-03 cs.CV cs.LG eess.SP
CloudFindr: A Deep Learning Cloud Artifact Masker for Satellite DEM Data
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对卫星DEM数据的云伪影去除难题,提出结合传统图像处理与U-Net深度学习的CloudFindr方法,无需多通道光谱图像即可在单通道DEM上生成云伪影掩膜,可服务于多领域地形相关应用。
2021-10-26 cs.CV cs.GR cs.LG
Deep transfer learning for system identification using long short-term memory neural networks
Georgia Institute of Technology(佐治亚理工学院);United Arab Emirates University(阿联酋大学)
与传统的系统辨识技术相比,递归神经网络(RNN)具有许多优点。它们可以应用于线性和非线性系统,并且它们需要较少的建模假设。然而,这些神经网络模型也可能需要更大量的数据来学习和推广。此外,神经网络训练是一个耗时的过程。因此,基于长短期记忆神经网络(LSTM),本文提出使用两种类型的深度迁移学习,即参数微调和冻结,以减少系统辨识的数据和计算需求。我们应用这些技术来识别两个动力系统,即二阶线性系统和Wiener-Hammerstein非线性系统。结果表明,与直接学习相比,我们的方法加快了10%到50%的学习速度,同时节省了数据和计算资源。
2022-04-06 cs.LG cs.SY eess.SY
MeteorNet: Deep Learning on Dynamic 3D Point Cloud Sequences
Stanford University(斯坦福大学)
理解动态3D环境对于机器人代理和许多其他应用至关重要。我们提出了一种新的神经网络架构称为$MeteorNet$的学习表示动态三维点云序列。与以前采用基于网格的表示并应用3D或4D卷积的工作不同,我们的网络直接处理点云。我们提出了两种方法来构建点云序列中的每个点的时空邻域。来自这些邻域的信息被聚合以学习每个点的特征。我们对我们的网络进行了各种3D识别任务的基准测试,包括动作识别,语义分割和场景流估计。MeteorNet显示出比以前的基于网格的方法更强的性能,同时在Synthia上实现了最先进的性能。MeteorNet也优于以前的基线方法,能够处理最多两个连续的点云。据我们所知,这是针对动态原始点云序列的深度学习的第一项工作。
2020-02-08 cs.CV cs.LG cs.RO
Deep Learning Object Detection Approaches to Signal Identification
University of California, San Diego(加州大学圣地亚哥分校);Google(谷歌)
传统的源识别是使用基于阈值的能量检测算法来解决的。这些算法经常总结区域中的活动,并将高于特定活动阈值的区域视为源。虽然这些算法适用于大多数情况,但它们通常无法检测占用小频带的信号,无法区分具有重叠频带的源,并且无法检测指定信噪比下的任何信号。通过将原始信号数据转换为频谱图,源识别可以被框定为目标检测问题。通过利用基于深度学习的目标检测的现代进步,我们提出了一种系统,该系统能够减轻使用传统源识别算法时遇到的失败情况。我们的贡献包括将源识别作为一个目标检测问题,发布光谱图目标检测数据集,以及评估在数据集上训练的RetinaNet和YOLOv5目标检测模型。我们的最终模型实现了高达0.906的平均精度。凭借如此高的平均精度,这些模型在现实世界的应用中足够强大。
2022-11-01 cs.LG cs.SD eess.AS