Revisiting Neuron Coverage for DNN Testing: A Layer-Wise and Distribution-Aware Criterion
The Hong Kong University of Science and Technology(香港科技大学)
已经提出了各种深度神经网络(DNN)覆盖标准来评估DNN测试输入和引导输入突变。覆盖率通过具有某些输出的神经元或神经元输出之间的差异来表征。然而,最近的研究表明,神经元覆盖标准与测试集质量几乎没有相关性。一般来说,DNN通过合并分层来近似分布,以对输入进行预测。因此,我们支持从层的角度基于其近似分布来推断DNN行为。测试套件应使用其诱导层输出分布进行评估。因此,为了全面检查DNN行为,输入变异应该指向使近似分布多样化。本文总结了DNN覆盖标准的八个设计要求,考虑到分布特性和实际问题。然后,我们提出了一个新的标准,神经覆盖(NLC),满足所有的设计要求。NLC将单个DNN层视为基本计算单元(而不是单个神经元),并捕获神经元输出分布的四个关键属性。因此,NLC准确地描述了DNN如何通过近似分布来理解输入。我们证明,NLC是显着相关的测试套件的多样性,在一些任务(分类和生成)和数据格式(图像和文本)。它发现DNN预测错误的能力很有前途。NLC引导的测试输入变异导致暴露的错误行为的更大质量和多样性。
2022-12-16 cs.LG cs.SE
Many-Objective Reinforcement Learning for Online Testing of DNN-Enabled Systems
University of Luxembourg(卢森堡大学);University of Sheffield(谢菲尔德大学);University of Ottawa(渥太华大学)
深度神经网络(DNN)已被广泛用于在诸如自动驾驶系统(ADS)的网络物理系统中执行现实世界的任务。确保这种DNN启用系统(DES)的正确行为是一个至关重要的话题。在线测试是一种很有前途的模式,用于在考虑到系统与其环境之间的连续交互的闭环中测试具有其应用环境(模拟或真实)的此类系统。然而,环境变量(例如,照明条件)在系统在真实世界中的操作期间可能改变,导致DES违反要求(安全性、功能性),由于两个主要挑战,在在线测试场景的执行期间经常保持恒定:(1)如果它们改变,则要探索的所有可能场景的空间将变得甚至更大,以及(2)通常存在要同时测试的许多要求。在本文中,我们提出了MORLOT(多目标强化学习在线测试),一种新的在线测试方法,以解决这些挑战相结合的强化学习(RL)和多目标搜索。MORLOT利用RL来逐步生成环境变化的序列,同时依靠多目标搜索来确定变化,以便它们更有可能实现任何未覆盖的目标。我们使用CARLA对MORLOT进行了经验评估,CARLA是一种广泛用于自动驾驶研究的高保真模拟器,与Transfuser集成,Transfuser是一种支持DNN的端到端驾驶ADS。评价结果表明,MORLOT是显着更有效和效率比替代品具有较大的效果大小。换句话说,MORLOT是一个很好的选择,可以在动态变化的环境中测试DES,同时考虑多种安全要求。
2022-12-22 cs.LG cs.SE
DeepKnowledge: Generalisation-Driven Deep Learning Testing
University of York(约克大学);CEA List;Université Paris-Saclay(巴黎萨克雷大学)
提出基于知识泛化理论的DNN测试方法DeepKnowledge,通过Transfer Knowledge神经元和泛化感知测试充分性标准评估模型鲁棒性,在多个基准上检测对抗攻击的改进达10个百分点。
2024-03-25 cs.AI cs.LG cs.SE
An Overview of Structural Coverage Metrics for Testing Neural Networks
University of Texas, Austin(德克萨斯大学奥斯汀分校);University of Manchester(曼彻斯特大学);KBR(KBR公司);Princeton University(普林斯顿大学);Palo Alto High School(帕洛阿尔托高中)
深度神经网络(DNN)模型,包括那些用于安全关键领域的模型,需要进行彻底的测试,以确保它们在不同的场景中能够可靠地表现良好。在本文中,我们概述了用于测试DNN模型的结构覆盖度量,包括神经元覆盖(NC),k-多节神经元覆盖(kMNC),前k神经元覆盖(TKNC),神经元边界覆盖(NBC),强神经元激活覆盖(SNAC)和修改的条件/决策覆盖(MC/DC)。我们评估了用于感知任务的现实DNN模型(包括LeNet-1,LeNet-4,LeNet-5和ResNet 20)以及用于自治的网络(TaxiNet)的指标。我们还提供了一个工具DNNCov,它可以测量所有这些指标的测试覆盖率。DNNCov输出信息丰富的覆盖报告,使研究人员和从业人员能够评估DNN测试的充分性,比较不同的覆盖措施,并在测试期间更方便地检查模型的内部结构。
2022-08-05 cs.AI cs.LG cs.SE
Testing DNN Image Classifiers for Confusion & Bias Errors
Columbia University(哥伦比亚大学);University of Virginia(弗吉尼亚大学)
图像分类器是当今软件的重要组成部分,从消费者和商业应用到安全关键领域。深度神经网络(DNN)的出现是这种广泛成功背后的关键催化剂。然而,广泛采用伴随着对依赖DNN进行图像分类的软件系统的鲁棒性的严重担忧,因为在敏感和关键的情况下已经报告了几个严重的错误行为。我们认为,开发人员需要严格测试他们的软件的图像分类器和延迟部署,直到可以接受。我们提出了一种方法来测试图像分类器的鲁棒性类属性侵犯的基础上。我们发现,在流行的DNN图像分类器中,许多报告的错误案例都是因为训练的模型将一个类与另一个类混淆,或者对某些类表现出偏见。这些bug通常会违反一个或多个类的某些类属性。大多数DNN测试技术都专注于每个图像的违规行为,因此无法检测类级别的混淆或偏见。我们开发了一种测试技术来自动检测DNN驱动的图像分类软件中基于类的混淆和偏差错误。我们评估了我们的实现,DeepInspect,在几个流行的图像分类器上,精度高达100%(平均值)。72.6%)的混淆错误,高达84.3%(平均~ 66.8%)的偏差误差。DeepInspect在广泛使用的模型中发现了数百个分类错误,其中许多错误表明存在混淆或偏见。
2020-02-11 cs.CV cs.LG cs.SE
Generating and Detecting True Ambiguity: A Forgotten Danger in DNN Supervision Testing
Università della Svizzera italiana(瑞士意大利语区大学)
本文提出AmbiGuess方法,通过正则化对抗自编码器潜在空间中的梯度引导采样生成真实歧义输入,以测试DNN监督器,并发现现有监督器在检测真实歧义与其他高不确定性输入上的能力互补。
2023-09-08 cs.LG cs.SE
DeepTest: Automated Testing of Deep-Neural-Network-driven Autonomous Cars
University of Virginia(弗吉尼亚大学);Columbia University(哥伦比亚大学)
深度神经网络(DNN)的最新进展已经导致了DNN驱动的自动驾驶汽车的发展,这些汽车使用相机、激光雷达等传感器,可以在没有任何人为干预的情况下驾驶。包括特斯拉、通用、福特、宝马和Waymo/谷歌在内的大多数主要制造商都在致力于制造和测试不同类型的自动驾驶汽车。包括加利福尼亚州,德克萨斯州和纽约州在内的几个州的立法者已经通过了新的立法,以快速跟踪自动驾驶汽车在道路上的测试和部署过程。然而,尽管DNN取得了惊人的进步,但与传统软件一样,DNN经常表现出不正确或意外的极端情况行为,这些行为可能导致潜在的致命冲突。已经发生了几起涉及自动驾驶汽车的真实事故,其中一起导致了死亡。用于DNN驱动车辆的大多数现有测试技术严重依赖于在不同驾驶条件下手动收集测试数据,随着测试条件的数量增加,这些测试数据变得非常昂贵。在本文中,我们设计,实现和评估DeepTest,这是一种系统测试工具,用于自动检测可能导致致命车祸的DNN驱动车辆的错误行为。首先,我们的工具旨在自动生成测试用例,利用真实世界中驾驶条件的变化,如雨,雾,照明条件等,DeepTest通过生成最大化激活神经元数量的测试输入,系统地探索DNN逻辑的不同部分。DeepTest在不同的实际驾驶条件下发现了数千种错误行为(例如,模糊、雨、雾等)其中许多导致了Udacity自动驾驶汽车挑战赛中三个表现最好的DNN的潜在致命事故。
2018-03-20 cs.AI cs.LG cs.SE
Learning-Based Testing for Deep Learning: Enhancing Model Robustness with Adversarial Input Prioritization
University of Tennessee(田纳西大学)
本文提出融合假设检验与变异测试的LBT方法,对对抗输入进行优先级排序,以更快揭示DNN故障并指导重训练、增强鲁棒性。
2025-09-28 cs.LG cs.SE
Black-Box Testing of Deep Neural Networks Through Test Case Diversity
University of Ottawa(渥太华大学);École de Technologie Supérieure(高等技术学院);University of Luxembourg(卢森堡大学);General Motors(通用汽车公司)
针对白盒神经元覆盖准则可获取性受限且指导效果受质疑的问题,本文评估三种黑盒输入多样性指标,证明其中一种在故障揭示能力和计算时间上显著优于现有覆盖准则。
2023-02-06 cs.AI cs.LG cs.SE
Generating Realistic, Diverse, and Fault-Revealing Inputs with Latent Space Interpolation for Testing Deep Neural Networks
The University of Queensland(昆士兰大学);University of Virginia(弗吉尼亚大学)
针对现有DNN测试方法生成的对抗样本真实性不足、故障暴露概率低的问题,提出黑盒测试方法ARGUS,通过潜在空间插值等技术生成优质对抗样本,性能优于基线方法且可用于提升模型分类准确率。
2025-03-22 cs.LG cs.SE
Information-Theoretic Testing and Debugging of Fairness Defects in Deep Neural Networks
University of Texas at El Paso(得克萨斯大学埃尔帕索分校);University of Colorado Boulder(科罗拉多大学博尔德分校);Pennsylvania State University(宾夕法尼亚州立大学)
提出信息论测试与调试框架DICE,通过量化受保护信息比特数衡量公平性缺陷严重程度,并利用因果调试定位训练不足的层和神经元,有效发现、排序和定位DNN中的公平性缺陷。
2023-04-09 cs.LG cs.SE
AdaStop: Cost-Aware Early Stopping for DNN Test Selection
Independent Researcher(独立研究者)
研究DNN测试中停止问题,提出AdaStop框架,将测试视为成本效益决策过程,通过估计边际故障发现率并与阈值比较决定是否停止标注,实验表明该方法能以较少标注预算发现较多故障。
2026-07-08 cs.AI cs.LG
DiverGet: A Search-Based Software Testing Approach for Deep Neural Network Quantization Assessment
当在嵌入式系统或手机上部署经过训练的深度神经网络(DNN)模型时,量化是应用最广泛的DNN压缩策略之一。这是由于其简单性和对广泛应用和环境的适应性,而不是通常仅为某些特定硬件(例如,Google Coral Edge TPU)。随着对量化的需求不断增长,确保该策略的可靠性正成为一个关键挑战。传统的测试方法收集越来越多的真实数据以进行更好的评估,但由于输入空间很大以及原始DNN与量化DNN之间的高度相似性,因此通常不实用。因此,先进的评估战略变得至关重要。在本文中,我们提出了DiverGet,基于搜索的量化评估的测试框架。DiverGet定义了一个变形关系的空间,模拟输入上自然发生的扭曲。然后,它最佳地探索这些关系,以揭示不同算法精度的DNN之间的分歧。我们评估了DiverGet在应用于高光谱遥感图像的最先进DNN上的性能。我们选择了遥感DNN,因为它们越来越多地部署在边缘(例如,高升力无人机)在气候变化研究和天文学等关键领域。我们的研究结果表明,DiverGet成功地挑战了现有量化技术对自然发生的移位数据的鲁棒性,并优于其最新的并发DiffChaser,成功率(平均)高出四倍。
2022-07-13 cs.AI cs.LG cs.SE
Testing Feedforward Neural Networks Training Programs
Polytechnique Montreal(蒙特利尔综合理工学院)
如今,我们正在不断努力提高深度神经网络(DNN)的性能和可信度,目的是使其能够应用于自动驾驶汽车等安全关键系统。提出了多种测试技术来生成测试用例,这些测试用例可以暴露DNN模型行为中的不一致性。这些技术隐含地假设训练程序是无错误的并且被适当地配置。然而,满足新问题的这一假设需要大量的工程工作来准备数据,设计DNN,实现训练程序,并调整超参数,以产生当前自动测试数据生成器搜索角情况行为的模型。所有这些模型训练步骤都容易出错。因此,在基于DNN的软件系统的所有工程步骤中检测和纠正错误至关重要,而不仅仅是在最终的DNN模型上。在本文中,我们收集了一个训练问题的目录,并根据它们的症状及其对训练程序行为的影响,我们提出了实用的验证例程来自动检测上述问题,通过不断验证学习动态的一些重要属性在训练过程中保持不变。然后,我们设计了一种端到端的基于属性的DNN训练程序调试方法TheDeepcraft。我们评估了TheDeepcraft在合成和现实世界中有缺陷的DL程序上的有效性,并将其与Amazon SageMaker Replogger(SMD)进行了比较。结果表明,TheDeepMind对基于DNN的程序属性的执行验证成功地揭示了几个编码错误和系统错误配置,早期和低成本。此外,在检测准确性和DL错误覆盖率方面,TheDeepMind优于SMD对训练日志的离线规则验证。
2022-04-01 cs.AI cs.LG cs.SE
Robust Black-box Testing of Deep Neural Networks using Co-Domain Coverage
IIT Kanpur(印度理工学院坎普尔分校)
针对现有DNN测试方法多为白盒、无法捕捉神经元集体影响的问题,提出黑盒覆盖准则CDC及模糊测试方法CoDoFuzz,经6个公开数据集验证,其生成误分类和低置信度输入的效率与效果更优。
2024-08-13 cs.LG
Neuron Sensitivity Guided Test Case Selection for Deep Learning Testing
The University of Hong Kong(香港大学);Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对深度学习测试中未标记数据集标注成本高的问题,提出神经元敏感性引导的测试用例选择方法NSS,通过神经元信息筛选高价值测试用例,在多数据集与模型上实现了优于基线方法的故障检测率。
2023-07-20 cs.LG cs.SE
On Connections between Regularizations for Improving DNN Robustness
Bytedance AI Lab(字节跳动人工智能实验室);Peking University(北京大学);Intel Labs China(英特尔中国研究院);Tsinghua University(清华大学)
本文从理论角度分析了最近提出的用于提高深度神经网络(DNN)对抗鲁棒性的正则化项。具体来说,我们研究了几种有效的方法,包括输入梯度正则化,雅可比正则化,曲率正则化和交叉Lipschitz功能之间的可能联系。我们在具有一般整流线性激活的DNN上研究它们,DNN构成了图像分类和许多其他机器学习应用的最流行的模型家族之一。我们阐明了这些正则化的基本成分,并重新解释了它们的功能。通过我们的研究,在不久的将来可能会发明更有原则和更有效的正则化。
2020-07-04 cs.CR cs.CV cs.LG
Provably Valid and Diverse Mutations of Real-World Media Data for DNN Testing
The Hong Kong University of Science and Technology(香港科技大学)
基于流形理论提出DEEPWALK方法,通过在低维流形上行走实现媒体数据的可证明高感知多样性与有效性变异,克服了SOTA生成模型方法的局限,显著提升了DNN测试的全面性和错误触发输入发现质量。
2023-10-24 cs.CR cs.LG cs.SE
Understanding and Improving Early Stopping for Learning with Noisy Labels
University of Sydney(悉尼大学);Xidian University(西安电子科技大学);Hong Kong Baptist University(香港浸会大学);Meituan-Dianping Group(美团点评集团);RIKEN AIP(理化学研究所革新智能综合研究中心)
深度神经网络(DNN)的记忆效应在许多最先进的标签噪声学习方法中起着关键作用。为了利用这一特性,通常采用早期停止技巧,即在训练的早期阶段停止优化。目前的方法通常通过将DNN作为一个整体来考虑来确定早期停止点。然而,DNN可以被认为是一系列层的组合,我们发现DNN中的后一层对标签噪声更敏感,而它们的前一层相当鲁棒。因此,为整个网络选择停止点可能会使不同的DNN层相互对抗地影响,从而降低最终性能。在本文中,我们建议将DNN分成不同的部分,并逐步训练它们来解决这个问题。我们最初通过优化具有相对大量的epoch的DNN来训练前DNN层,而不是早期停止,即一次训练整个DNN。在训练过程中,我们通过使用较少数量的epoch来逐步训练后面的DNN层,而前面的层是固定的,以抵消噪声标签的影响。我们将所提出的方法称为渐进早期停止(PES)。尽管它的简单,相比早期停止,PES可以帮助获得更有希望和稳定的结果。此外,通过将PES与现有的噪声标签训练方法相结合,我们在图像分类基准上实现了最先进的性能。
2021-12-27 cs.LG
SAMSON: Sharpness-Aware Minimization Scaled by Outlier Normalization for Improving DNN Generalization and Robustness
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Polytechnique Montreal(蒙特利尔综合理工学院)
节能的深度神经网络(DNN)加速器容易出现非理想性,从而在推理时降低DNN性能。为了减轻这种退化,现有方法通常在训练期间向DNN权重添加扰动,以模拟噪声硬件上的推理。然而,这通常需要了解目标硬件,并导致DNN性能和鲁棒性之间的权衡,降低前者以提高后者。在这项工作中,我们证明了通过优化损失值和损失锐度来应用锐度感知训练,可以显着提高推理时对噪声硬件的鲁棒性,而无需依赖于对目标硬件的任何假设。特别是,我们提出了一种新的自适应锐度感知方法,条件的最坏情况下的扰动,一个给定的权重不仅在其幅度,但也对范围的重量分布。这是通过执行由离群值最小化缩放的锐度感知最小化(SAMSON)来实现的。我们的方法在无噪声机制的模型泛化性能和噪声环境中的鲁棒性方面都优于现有的锐度感知训练方法,如在几种架构和数据集上测量的那样。
2023-03-21 cs.AI cs.LG
Adversarial Sample Detection for Deep Neural Network through Model Mutation Testing
Singapore University of Technology and Design(新加坡科技设计大学);Zhejiang University(浙江大学)
深度神经网络(DNN)已被证明在广泛的应用中是有用的。然而,它们也容易受到对抗性样本的影响。通过用一些精心设计的人类难以察觉的扰动来转换正常样本,即使是高度准确的DNN也会做出错误的决定。已经提出了多种防御机制,旨在阻止这种对抗性样本的生成。然而,最近的一项研究表明,其中大多数是无效的。在这项工作中,我们提出了一种在运行时检测对抗样本的替代方法。我们的主要观察结果是,如果我们对DNN施加随机突变,对抗样本比正常样本更敏感。因此,我们首先提出了一个衡量的“敏感性”,并显示经验,正常样本和对抗样本具有可区分的敏感性。然后,我们整合统计假设检验和模型突变检验,通过测量其敏感性来检查输入样本在运行时是否可能是正常的或敌对的。我们在MNIST和CIFAR10数据集上评估了我们的方法。实验结果表明,该方法能够有效、准确地检测到由最先进的攻击方法生成的对抗样本。
2019-01-18 cs.LG cs.SE stat.ML
GraphPipe: Improving Performance and Scalability of DNN Training with Graph Pipeline Parallelism
NVIDIA(英伟达);UC Berkeley(加州大学伯克利分校);MIT(麻省理工学院);Stanford University(斯坦福大学)
针对现有流水线并行忽略DNN拓扑错失模型并行机会的问题,本文提出图流水线并行方案并开发GraphPipe系统,通过保留DNN拓扑实现算子并发,较现有系统性能最高提升1.6倍、搜索时间缩短9-21倍。
2024-10-28 cs.AI cs.DC cs.LG
Exposing Previously Undetectable Faults in Deep Neural Networks
University of Oxford(牛津大学);Amazon, Inc.(亚马逊公司)
用于测试DNN的现有方法通过将原始特征(例如图像像素值)约束在已知期望DNN输出的数据集示例的小距离内来解决oracle问题。但这限制了这些方法能够检测到的故障类型。在本文中,我们介绍了一种新的DNN测试方法,该方法能够发现DNN中其他方法无法找到的故障。关键在于,通过利用生成式机器学习,我们可以生成新的测试输入,这些输入在其高级特征(对于图像,这些特征包括对象形状,位置,纹理和颜色)方面有所不同。我们证明了我们的方法能够检测到故意注入的故障以及最先进的DNN中的新故障,并且在这两种情况下,现有方法都无法找到这些故障。
2021-06-01 cs.CV cs.LG cs.SE
Improving Realistic Worst-Case Performance of NVCiM DNN Accelerators through Training with Right-Censored Gaussian Noise
University of Notre Dame(圣母大学);North Carolina State University(北卡罗来纳州立大学)
针对非易失性存内计算加速器在器件变异下的最坏情况性能恶化问题,提出使用第k百分位性能作为评估指标,并在训练中注入右截断高斯噪声以自动优化超参数,使该性能较现有方法提升达26%。
2023-07-29 cs.ET cs.LG
Improving DNN-based Music Source Separation using Phase Features
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);Sony European Technology Center (EuTEC)(索尼欧洲技术中心);Swiss Data Science Center(瑞士数据科学中心);ETH Zürich(苏黎世联邦理工学院);Sony Corporation(索尼公司)
使用深度神经网络的音乐声源分离通常仅依赖于幅度特征。在本文中,我们表明,额外的相位功能可以提高分离性能。使用STFT相位和幅度之间的理论关系,我们推测,相位的衍生物是一个很好的功能表示反对的原始相位。我们通过实验验证了这一猜想,并提出了一种新的DNN架构,它结合了幅度和相位。与仅使用幅度特征的网络相比,这种联合方法在所有仪器的DSD 100数据集上实现了更好的信号失真比。特别地,低音乐器受益于相位信息。
2018-07-16 cs.LG cs.SD eess.AS
Use of Metamorphic Relations as Knowledge Carriers to Train Deep Neural Networks
Swinburne University of Technology(斯威本科技大学);Central Queensland University(中央昆士兰大学);Hefei University of Technology(合肥工业大学);Beihang University(北京航空航天大学)
训练多层深度神经网络(DNN)是困难的。使用大量样本进行训练的标准做法通常不会将DNN的性能提高到令人满意的水平。因此,需要有系统的培训方法。为了满足这一需求,我们引入了一种创新的方法,使用变形关系(MR)作为“知识载体”训练DNN。基于变形测试和MR(在软件测试中扮演测试预言机的角色)的概念,我们利用输入的变形组的概念作为MR(知识的抽象)的具体实例,以系统和有效的方式训练DNN。为了验证我们的训练方法的可行性,我们进行了一个初步的实验,以比较两个DNN的性能:一个训练与MR和其他训练没有MR。我们发现,与MR训练的DNN提供了更好的性能,从而证实,我们的方法使用MR作为知识载体训练DNN是有前途的。然而,还需要更多的工作和研究来巩固和利用这种方法,对有效的DNN培训产生广泛的影响。
2021-05-11 cs.LG
HCE: Improving Performance and Efficiency with Heterogeneously Compressed Neural Network Ensemble
Duke University(杜克大学);University of California Berkeley(加州大学伯克利分校)
包围学习作为进一步提高深度神经网络(DNN)模型的准确性和泛化能力的一种方法,在最近的深度学习研究中得到了关注。目前的集成训练方法采用不同的训练算法或设置在具有相同模型架构的多个子模型上,这会导致集成模型的内存和计算开销的显著负担。同时,随机诱导的多样性可能不会导致显著的性能增益。我们提出了一种新的视角,探索模型架构内的内在多样性,以构建高效的DNN集成。我们做了一个有趣的观察,修剪和量化,虽然都导致有效的模型架构的代价是小的准确性下降,导致不同的行为在决策边界。为此,我们提出了异构压缩Ensemble(HCE),其中我们使用预训练的DNN模型中的修剪和量化变体构建了一个有效的集成。提出了一种多样性感知的训练目标,以进一步提高HCE集成的性能。实验结果表明,与传统的DNN集成训练方法和以往的模型压缩方法相比,HCE在效率-精度权衡上有了显著的改善。
2023-01-18 cs.LG
Improving the Performance of DNN-based Software Services using Automated Layer Caching
University of Calgary(卡尔加里大学);University of South Carolina(南卡罗来纳大学)
深度神经网络(DNN)已经成为包括基于Web的服务在内的许多应用领域中的重要组件。这些服务中的许多都需要高吞吐量和(接近)实时特性,例如,对用户的请求作出响应或反应,或及时处理传入的数据流。然而,DNN设计的趋势是使用具有许多层和参数的更大模型,以获得更准确的结果。尽管这些模型通常是预先训练的,但这种大型模型中的计算复杂性仍然相对显著,阻碍了低推理延迟。实现高速缓存机制是用于加快服务响应时间的典型系统工程解决方案。然而,传统的缓存通常不适合基于DNN的服务。在本文中,我们提出了一种端到端的自动化解决方案,以提高基于DNN的服务在计算复杂性和推理延迟方面的性能。我们的缓存方法采用了DNN模型自升华和早期退出的思想。所提出的解决方案是一种自动在线层缓存机制,如果早期退出中的一个缓存模型对最终预测足够自信,则允许在推理时间期间提前退出大型模型。本文的主要贡献之一是,我们已经实现了在线缓存的想法,这意味着缓存模型不需要访问训练数据,并在运行时仅根据传入的数据执行,使其适用于使用预训练模型的应用程序。我们对两个下游任务(人脸和对象分类)的实验结果表明,平均而言,缓存可以降低这些服务的计算复杂性高达58\%(在FLOPs计数方面),并将其推理延迟提高到46\%,准确性降低到零。
2022-09-18 cs.LG cs.PF
Detecting Adversarial Samples for Deep Neural Networks through Mutation Testing
Information Systems Technology and Design(信息系统技术与设计);Singapore University Of Technology and Design(新加坡科技设计大学);College of Computer Science and Technology(计算机科学与技术学院);Zhejiang University(浙江大学)
最近,有研究表明,深度神经网络(DNN)会受到来自对抗样本的攻击。对抗性样本通常通过对抗性扰动来制作,即,对原始样本进行微小修改,使得DNN模型错误地标记样本。鉴于训练完美的DNN几乎是不可能的,对抗样本被证明是很容易生成的。随着DNN越来越多地用于自动驾驶汽车等安全关键系统,开发防御此类攻击的技术至关重要。现有的防御机制,旨在使对抗扰动的挑战已被证明是无效的。在这项工作中,我们提出了一种替代方法。我们首先观察到对抗样本比正常样本对扰动更敏感。也就是说,如果我们分别对正常样本和对抗样本施加随机扰动,则由于扰动导致的标签变化率之间存在显着差异。观察到这一点,我们设计了一个统计的对手检测算法称为nMutant(灵感来自软件工程社区的突变测试)。我们的实验表明,nMutant有效地检测到最近提出的攻击方法产生的大多数对抗样本。此外,我们提供了一个误差界与一定的统计意义,随着检测。
2018-05-17 cs.LG stat.ML
Improving DNN Fault Tolerance using Weight Pruning and Differential Crossbar Mapping for ReRAM-based Edge AI
Northeastern University(东北大学);North Dakota State University(北达科他州立大学);Washington State University(华盛顿州立大学);University of Connecticut(康涅狄格大学);Chongqing University(重庆大学);University of South Alabama(南阿拉巴马大学)
最近的研究表明,使用电阻式随机存取存储器(ReRAM)作为一种新兴技术来执行固有的并行模拟域原位矩阵向量乘法-深度神经网络(DNN)中的密集和关键计算。然而,硬件故障,例如固定故障缺陷,是阻碍ReRAM设备成为实际实现的可行解决方案的主要问题之一。解决该问题的现有解决方案通常需要针对每个单独的设备进行优化,这对于大规模生产的产品(例如,IoT设备)。本文从模型容错的角度重新思考了权值剪枝在基于ReRAM的DNN设计中的价值。提出了一种差分映射方案,以提高高固定故障率下的容错能力。在典型的DNN任务中,我们的方法可以容忍比传统的两列方法高出近一个数量级的故障率。更重要的是,我们的方法不需要额外的硬件成本相比,传统的两列映射方案。该改进是通用的,并且不需要针对每个单独设备的优化过程。
2021-06-18 cs.AI cs.LG cs.PF
Improving the affordability of robustness training for DNNs
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IBM Research(IBM研究院)
基于投影梯度下降(PGD)的对抗训练已成为构建鲁棒深度神经网络模型的最重要方法之一。然而,由于在发现对手时损失函数的最大化,与这种方法相关联的计算复杂性是一个长期存在的问题,并且在使用更大和更复杂的模型时可能是禁止的。在本文中,我们证明了对抗训练的初始阶段是冗余的,可以用自然训练来代替,这显着提高了计算效率。我们证明了这种效率的提高可以在自然和对抗性测试样本的准确性没有任何损失的情况下实现。我们支持我们的论点与洞察对手的性质和他们在训练过程中的相对实力。我们表明,我们提出的方法可以减少训练时间的一个因素,高达2.5与可比或更好的模型测试精度和泛化的各种实力的对抗攻击。
2020-04-30 cs.CV cs.LG stat.ML
Improving DNN Robustness to Adversarial Attacks using Jacobian Regularization
Tel Aviv University(特拉维夫大学)
深度神经网络最近在包括视觉和语音处理任务在内的各种应用中表现出了巨大的性能。然而,除了它们能够以如此高的准确度执行这些任务之外,已经表明它们非常容易受到对抗攻击的影响:输入的微小变化会导致网络在高置信度下出错。这种现象暴露了这些网络的固有缺陷及其良好的泛化能力。因此,为对抗攻击提供鲁棒性是网络训练中的一个重要挑战,这导致了广泛的研究。在这项工作中,我们提出了一种理论启发的新方法来提高网络的鲁棒性。我们的方法使用网络雅可比矩阵的Frobenius范数进行正则化,在常规训练完成后,将其用作后处理。我们的经验表明,它会导致增强的鲁棒性的结果与原始网络的准确性的最小变化。
2019-05-28 cs.CR cs.CV cs.LG
Improving the Interpretability of fMRI Decoding using Deep Neural Networks and Adversarial Robustness
National Institute of Mental Health(国家心理健康研究所)
深度神经网络(DNN)正越来越多地用于根据功能性磁共振成像(fMRI)数据进行预测。然而,它们被广泛认为是不可解释的“黑匣子”,因为很难发现DNN在这个过程中使用了什么输入信息,这在认知神经科学和临床应用中都很重要。显着图是一种常见的方法,用于生成输入特征对预测的相对重要性的可解释的可视化。然而,创建地图的方法通常会失败,因为DNN对输入噪声敏感,或者过于关注输入而对模型关注太少。评估显着性图与真正相关的输入信息的对应程度也具有挑战性,因为地面真相并不总是可用的。在本文中,我们回顾了各种用于生成基于梯度的显着性图的方法,并提出了一种新的对抗性训练方法,我们开发了这种方法来使DNN对输入噪声具有鲁棒性,目的是提高可解释性。我们介绍了两个定量评估程序的显着图方法在功能磁共振成像,适用于每当DNN或线性模型正在训练解码一些信息从成像数据。我们使用已知复杂激活结构的合成数据集,以及针对DNN和人类连接组项目(HCP)数据集中任务解码的线性模型生成的显着图来评估程序。我们的主要发现是,显着性地图与不同的方法产生的解释性差异很大,在合成和HCP功能磁共振成像数据。值得注意的是,即使DNN和线性模型在性能水平相当的情况下进行解码,DNN显着图在可解释性方面的得分也高于线性模型显着图(通过权重或梯度导出)。最后,使用我们的对抗训练方法生成的显着性图优于其他方法。
2020-12-17 cs.CV cs.LG q-bio.NC
Improving Massive MIMO Belief Propagation Detector with Deep Neural Network
Southeast University(东南大学);Tel-Aviv University(特拉维夫大学)
针对大规模多输入多输出(MIMO)系统,利用深度神经网络(DNN)改进置信传播(BP)检测。首先通过对BP算法的展开,提出了一种适合于检测任务的神经网络结构。DNN MIMO检测器,然后提出了基于两个修改的BP检测器,阻尼BP和最大和BP。这些算法中的校正因子通过深度学习技术进行优化,旨在提高检测性能。数值结果表明DNN检测器的性能相比,各种BP修改。该神经网络只训练一次,可用于多次在线检测。结果表明,与其他最先进的检测器相比,DNN检测器可以实现更低的误比特率(BER),在相同的复杂度水平下,对各种天线配置和信道条件具有更好的鲁棒性。
2018-04-05 cs.IT cs.LG eess.SP
eFAT: Improving the Effectiveness of Fault-Aware Training for Mitigating Permanent Faults in DNN Hardware Accelerators
New York University Abu Dhabi(纽约大学阿布扎比分校)
本文提出 eFAT 框架,通过韧性驱动的重训练量选择及多芯片故障图分组融合,在保证精度约束下显著降低多颗永久性故障 DNN 加速器芯片的 FAT 重训练成本。
2023-04-20 cs.AR cs.LG
GGT: Graph-Guided Testing for Adversarial Sample Detection of Deep Neural Network
Zhejiang University of Technology(浙江工业大学);National University of Defense Technology(国防科技大学);Monash University(莫纳什大学);Zhejiang University(浙江大学)
深度神经网络(DNN)容易受到对抗性样本的攻击,检测对抗性样本对于这些DNN模型的广泛应用至关重要。近年来,软件工程中提出了许多深度测试方法来发现DNN系统的脆弱性,其中之一,模型变异测试(MMT),被用来成功地检测各种对抗样本产生的不同类型的对抗攻击。然而,MMT中的突变模型在数量上总是巨大的(例如,超过100个模型)并且缺乏多样性(例如,可以很容易地被高置信度对抗样本规避),这使得它在实际应用中效率较低,在检测高置信度对抗样本时效果较差。在这项研究中,我们提出了用于对抗性样本检测的图引导测试(GGT)来克服上述挑战。GGT在图特征的指导下生成剪枝模型,每个剪枝模型的参数仅占MMT变异模型的5%左右,图指导模型具有更高的多样性。在CIFAR10和SVHN上的实验验证了GGT在有效性和效率方面都优于MMT。
2021-07-09 cs.AI cs.CR cs.LG
An Investigation of the Weight Space to Monitor the Training Progress of Neural Networks
University of St.Gallen(圣加仑大学)
安全使用深度神经网络(DNN)需要仔细测试。然而,部署的模型通常会被进一步训练以提高性能。由于严格的测试和评估是昂贵的,触发器需要确定模型的变化程度。在本文中,我们研究了DNN模型的结构权重空间,可以利用这一点。我们的研究结果表明,DNN模型在权重空间中沿着独特、平滑的轨迹演化,可用于跟踪DNN的训练进度。我们假设轨迹的曲率和平滑度以及沿着它的步长可能包含关于训练状态以及潜在域偏移的信息。我们证明了模型轨迹可以分离,轨迹上的检查点顺序可以恢复,这可以作为DNN模型版本化的第一步。
2021-03-17 cs.AI cs.LG stat.ML
Improving Device-Edge Cooperative Inference of Deep Learning via 2-Step Pruning
Tsinghua University(清华大学);Hitachi (China) Research & Development Cooperation(日立(中国)研究开发有限公司)
深度神经网络(DNN)是许多机器学习应用的最先进的解决方案,并且已经在移动设备上广泛使用。在资源受限的移动设备上运行DNN通常需要边缘服务器通过计算卸载提供帮助。然而,由于移动设备上的计算资源与无线资源之间的紧密相互作用,通过带宽受限的无线链路进行卸载是不平凡的。现有的研究集中在合作推理,DNN模型划分在不同的神经网络层,这两个部分分别在移动终端和边缘服务器上执行。由于DNN层的输出数据大小可能大于原始数据的大小,因此在有限的无线带宽下,卸载层之间的中间数据可能遭受高传输延迟。在本文中,我们提出了一个有效和灵活的两步修剪框架,用于移动设备和边缘服务器之间的DNN分区。在我们的框架中,DNN模型只需要在训练阶段修剪一次,迭代地删除不重要的卷积滤波器。通过限制修剪区域,我们的框架可以大大减少设备的无线传输工作量或总的计算工作量。在训练阶段生成一系列修剪模型,框架可以从中自动选择以满足不同的延迟和准确性要求。此外,增加了对中间数据的编码,以提供额外的传输工作量减少。实验结果表明,与不进行剪枝的DNN模型相比,该框架在传输负载上最多可减少25.6 $\times$,在总计算量上最多可减少6.01 $\times$,在端到端延迟上最多可减少4.81 $\times$.
2019-03-08 cs.LG cs.NI
REST: Enhancing Group Robustness in DNNs through Reweighted Sparse Training
Eindhoven University of Technology(埃因霍温理工大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Liverpool(利物浦大学)
针对 DNN 依赖虚假相关性而在少数群组上表现不佳的问题,本文提出 REST 重加权稀疏训练框架,在三个数据集上验证其能以更低资源发现无偏子网络并提升群组鲁棒性。
2023-12-08 cs.LG
Improving the Robustness of Deep Neural Networks via Adversarial Training with Triplet Loss
Nanjing University(南京大学);JD AI Research(京东人工智能研究院)
最近的研究表明,深度神经网络(DNN)容易受到对抗性样本的影响。在本文中,我们通过利用距离度量学习技术来提高DNN的鲁棒性。具体来说,我们将最流行的距离度量学习方法之一Triplet Loss纳入对抗训练的框架中。我们提出的算法,对抗训练与三重损失(AT $^2$ L),替代对抗的例子对当前模型的锚三重损失,有效地平滑分类边界。此外,我们提出了一个集成版本的AT $^2$ L,聚合不同的攻击方法和模型结构,以更好的防御效果。我们的实证研究验证了所提出的方法可以显着提高DNN的鲁棒性,而不会牺牲准确性。最后,我们证明了我们专门设计的三重态损失也可以用作正则化项来增强其他防御方法。
2019-05-28 cs.LG stat.ML
DiffGAN: A Test Generation Approach for Differential Testing of Deep Neural Networks for Image Analysis
School of EECS, University of Ottawa(滑铁卢大学电子工程与计算机科学学院);Software and Information Technology Engineering Department, École de Technologie Supérieure(École de Technologie Supérieure软件与信息技术工程系);School of Electrical Engineering and Computer Science (EECS), University of Ottawa(滑铁卢大学电子工程与计算机科学学院);Lero SFI Research Center and University of Limerick(Lero SFI研究中心和利默里克大学);Department of Research and Development, General Motors(通用汽车公司研发部)
提出DiffGAN,一种基于GAN和非支配排序遗传算法II的黑盒测试图像生成方法,通过定制适应度函数指导输入空间探索,生成多样且有效的触发输入以揭示DNN模型间的行为差异,显著优于SOTA基线并提升模型选择机制的准确性。
2025-09-17 cs.CV cs.LG cs.SE
Improving Learning Efficiency for Wireless Resource Allocation with Symmetric Prior
Beihang University(北京航空航天大学)
提高学习效率对于在高度动态环境中的无线通信中使用深度神经网络(DNN)学习资源分配至关重要。将领域知识转化为学习是处理这个问题的一种有前途的方法,这是无线社区中的一个新兴话题。在本文中,我们首先简要总结了两类使用领域知识的方法:将数学模型或先验知识引入深度学习。然后,我们考虑了一种对称的先验,置换等方差,这广泛存在于无线任务。为了解释如何利用这种通用先验来提高学习效率,我们采用了排名,它对DNN的输入和输出进行联合排序。我们使用子载波之间的功率分配,概率内容缓存和干扰协调来说明利用该属性的学习效率的提高。从案例研究中,我们发现,所需的训练样本,以实现给定的系统性能的子载波或内容的数量减少,由于一个有趣的现象:“样本硬化”。仿真结果表明,利用先验知识可以大大减少训练样本、DNN中的自由参数和训练时间。在排序后训练DNN所需的样本可以减少$15 \sim 2,400$倍,以实现与不使用先验的对应物相同的系统性能。
2021-11-11 cs.LG eess.SP
Improving Robustness Against Adversarial Attacks with Deeply Quantized Neural Networks
University of Glasgow(格拉斯哥大学);STMicroelectronics(意法半导体);University of Sussex(萨塞克斯大学)
本文提出结合QKeras深度量化感知训练与逐层Jacobian Regularization的协同优化方法,构建可在微型设备部署的鲁棒DNN,并在图像和音频数据集上显著提升白盒与黑盒攻击下的准确率。
2023-04-25 cs.CR cs.LG cs.PF
Meta Input: How to Leverage Off-the-Shelf Deep Neural Networks
KAIST(韩国科学技术院)
近年来,虽然深度神经网络(DNN)在广泛的研究领域取得了令人瞩目的进展,但由于存在环境差异问题,其在实际应用中缺乏适应性。这样的问题源于训练和测试环境之间的差异,并且众所周知,当预训练的DNN模型应用于新的测试环境时,它会导致严重的性能下降。因此,在本文中,我们介绍了一种新的方法,允许最终用户在自己的测试环境中利用预训练的DNN模型,而无需修改模型。为此,我们提出了一个\textit{meta input},这是一个额外的输入转换测试数据的分布与训练数据对齐。该方法只需考虑测试输入数据与其输出预测之间的关系,就可以用少量的测试数据对Meta输入进行优化。此外,它不需要任何知识的网络的内部架构和修改其权重参数。然后,将获得的Meta输入添加到测试数据中,以将测试数据的分布转移到原始使用的训练数据的分布。因此,最终用户可以在自己的测试环境中利用经过良好训练的模型,这些测试环境可能与训练环境不同。我们通过各种任务的综合实验,验证了所提出的Meta输入的有效性和通用性,显示出对环境差异的鲁棒性。
2022-10-21 cs.AI cs.CV cs.LG
Improving Robustness of Deep Convolutional Neural Networks via Multiresolution Learning
本文针对深度神经网络单分辨率训练导致鲁棒性不足的问题,提出多分辨率学习方法,在一维信号和二维图像预测任务上同时提升噪声、对抗及小样本鲁棒性,且无需牺牲标准准确率。
2023-09-28 cs.LG
Improving the Robustness of Quantized Deep Neural Networks to White-Box Attacks using Stochastic Quantization and Information-Theoretic Ensemble Training
Center for Vision Technologies(视觉技术中心);SRI International(SRI国际)
本文提出可微随机量化器与基于互信息的集成训练方法,通过鼓励不同量化 DNN 学习多样化表示,显著提升量化网络对白盒 $L_\infty$ 攻击的鲁棒性,并扩展用于攻击检测与威胁模型统一分析。
2023-11-30 cs.CR cs.CV cs.LG
Precision Gating: Improving Neural Network Efficiency with Dynamic Dual-Precision Activations
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技学院)
我们提出了精确门控(PG),这是一种用于深度神经网络的端到端可训练动态双精度量化技术。PG以低精度计算大多数特征,仅以较高精度计算一小部分重要特征以保持准确性。所提出的方法适用于各种DNN架构,并显着降低了DNN执行的计算成本,几乎没有精度损失。我们的实验表明,PG在CNN上取得了优异的结果,包括静态压缩的移动友好网络,如ShuffleNet。与最先进的基于预测的量化方案相比,PG在ImageNet上实现了相同或更高的精度,但计算量减少了2.4 $\times$。PG也适用于RNN。与8位均匀量化相比,PG在Penn Tree Bank数据集上的LSTM上每字的困惑度提高了1.2%,计算成本降低了2.7 $\times$。代码可在:https://github.com/cornell-zhang/dnn-gating
2020-05-29 cs.CV cs.LG
Robust DNN Surrogate Models with Uncertainty Quantification via Adversarial Training
The Pennsylvania State University(宾夕法尼亚州立大学)
为了计算效率,代理模型已经被用于仿真物理或生物过程的数学模拟器。当模拟在许多随机采样的输入点上重复时,高速模拟对于进行不确定性量化(UQ)至关重要(又名蒙特卡罗方法)。在某些情况下,UQ仅适用于代理模型。最近,深度神经网络(DNN)代理模型因其难以匹配的仿真精度而受到欢迎。然而,众所周知,当输入数据以特定方式受到干扰时,DNN容易出错,这正是对抗训练的动机。在代理模型的使用场景中,人们关注的不是蓄意攻击,而是DNN的准确性对输入方向的高度敏感性,这是使用仿真模型的研究人员在很大程度上忽略的问题。在本文中,我们通过实证研究和假设检验显示了这个问题的严重性。此外,我们采用对抗训练的方法来提高DNN代理模型的鲁棒性。实验表明,我们的方法显着提高了代理模型的鲁棒性,而不影响仿真精度。
2022-11-10 cs.LG
Improving Unsupervised Subword Modeling via Disentangled Speech Representation Learning and Transformation
The Chinese University of Hong Kong(香港中文大学)
这项研究解决了无监督的子词建模在零资源的情况下,学习帧级语音表示,语音歧视和说话人不变,只使用目标语言的未转录语音。帧标签获取是解决这一问题的关键步骤。高质量的帧标签应该与黄金透明度保持良好的一致性,并对扬声器变化具有鲁棒性。我们建议通过应用因式分解的分层变分自编码器(FHVAE)来改进我们先前采用的深度神经网络瓶颈特征(DNN-BNF)架构中的帧标签获取。FHVAE学习解开语言内容和说话者身份信息编码的语音。通过丢弃或统一说话人信息,学习说话人不变特征并将其作为DPGMM帧聚类和DNN-BNF训练的输入。在ZeroSpeech 2017上进行的实验表明,与不应用FHVAE的基线DNN-BNF系统相比,我们提出的方法在跨扬声器和扬声器内条件下实现了$2.4\%$和$0.6\%$绝对ABX错误率降低。我们提出的方法显着优于声道长度归一化,提高帧标记和子字建模。
2019-07-03 cs.LG cs.SD eess.AS
Enhancing Deep Neural Network Training Efficiency and Performance through Linear Prediction
Ningde Normal University(宁德师范学院)
本文提出参数线性预测(PLP)方法,利用训练中参数变化规律预测DNN参数,在CIFAR-100上提升Vgg16、Resnet18和GoogLeNet的训练效率与性能。
2024-07-02 cs.CV cs.LG
Mixer: DNN Watermarking using Image Mixup
Centre Inria de l’Université de Rennes(雷恩大学法国国家信息与自动化研究所中心)
在部署DNN模型之前,保护DNN模型的知识产权至关重要。DNN应该执行两个主要任务:主要任务和水印任务。本文提出了一种轻量级、可靠和安全的DNN水印,试图在这两项任务之间建立紧密的联系。触发水印任务的样本使用来自训练或测试样本的图像Mixup生成。这意味着存在无限多的触发器,而不限于用于在训练时将水印嵌入模型中的样本。对不同数据集的图像分类模型进行了广泛的实验,并将其暴露于各种攻击,结果表明,所提出的水印提供了足够的安全性和鲁棒性。
2022-12-06 cs.CR cs.LG cs.MM
Improving Fairness in Image Classification via Sketching
University of British Columbia(不列颠哥伦比亚大学);The University of Tokyo(东京大学);RIKEN AIP(理化学研究所人工智能研究中心)
公平性是可信的、以人为本的人工智能系统的基本要求。然而,当训练数据是从具有不同属性(即颜色、性别、年龄)的不同子群体收集时,深度神经网络(DNN)往往会做出不公平的预测,从而导致有偏差的DNN预测。我们注意到,这种令人不安的现象通常是由数据本身引起的,这意味着偏见信息与有用信息(即类别信息,语义信息)一起编码到DNN中。因此,我们建议使用素描来处理这种现象。在不损失数据实用性的前提下,我们探索了图像到草图的方法,该方法可以保留有用的语义信息用于目标分类,同时过滤掉无用的偏见信息。此外,设计了公平损失,进一步提高了模型的公平性。我们评估我们的方法,通过广泛的实验,一般场景数据集和医疗场景数据集。我们的研究结果表明,所需的图像到草图的方法提高了模型的公平性,并取得了令人满意的结果之间的国家的最先进的。
2022-10-31 cs.CV cs.LG
Is Neuron Coverage Needed to Make Person Detection More Robust?
FZI Research Center for Information Technology(FZI信息技术研究中心)
深度神经网络(DNN)在自动驾驶等安全关键领域的应用越来越多,这就需要对其进行系统测试。覆盖引导测试(CGT)是一种根据预定义的覆盖度量应用突变或模糊化来发现导致错误行为的输入的方法。随着神经元覆盖度量的引入,CGT最近也被应用于DNN。在这项工作中,我们将CGT应用于拥挤场景中的人员检测任务。拟议的管道使用YOLOv 3进行人员检测,包括通过采样和突变发现DNN错误,以及随后对更新的训练集进行DNN再训练。要成为一个bug,我们需要一个变异的图像与一个干净的输入相比会导致显著的性能下降。根据CGT,我们还考虑了在bug定义中增加覆盖率的额外要求。为了探索几种类型的鲁棒性,我们的方法包括自然图像变换,腐败和Daedalus攻击生成的对抗性示例。该框架已经发现了数千种不正确的DNN行为。对于不同的鲁棒性类型,再训练模型的mAP性能的相对变化平均在26.21%~ 64.24%之间。然而,我们没有发现任何证据表明,调查的覆盖率指标可以有利地用于提高鲁棒性。
2022-04-21 cs.CV cs.LG
Improving Power Generation Efficiency using Deep Neural Networks
The University of the West Indies(西印度群岛大学)
最近,特别是在可再生资源的情况下,对发电、配电和输电效率进行了大量研究。主要目标是减少能量损失,这需要改进数据采集和分析。在本文中,我们解决了这些问题,使用消费者的电力智能电表读数来估计网络负载,这些信息可以用于更好的容量规划。我们比较了深度神经网络(DNN)方法与传统方法的负荷预测。我们的研究结果表明,DNN方法优于大多数传统方法。这是以额外的计算复杂性为代价的,但这可以通过使用云资源来解决。我们还说明了这些结果可以用来更好地支持动态定价。
2016-06-16 cs.LG cs.NE stat.ML