Making Deep Q-learning methods robust to time discretization
Université Paris Sud(巴黎第十一大学);Facebook Artificial Intelligence Research(脸书人工智能研究院)
尽管取得了显著的成功,但深度强化学习(DRL)对超参数化、实现细节或小的环境变化并不鲁棒(Henderson et al. 2017,Zhang et al. 2018)。克服这种敏感性是使DRL适用于现实世界问题的关键。在本文中,我们确定在近连续时间环境中对时间离散化的敏感性是一个关键因素;这包括,例如,改变每秒帧数或控制器的动作频率。从经验上讲,我们发现基于Q学习的方法,如深度Q学习(Mnih et al.,2015)和深度确定性策略梯度(Lillicrap等人,2015年,以小的时间步长崩溃。形式上,我们证明了Q学习在连续时间中不存在。我们详细介绍了一种原则性的方法来构建一个非策略RL算法,该算法在广泛的时间离散化范围内产生类似的性能,并根据经验证实了这种鲁棒性。
2019-01-29 cs.LG stat.ML
Fast Training of Deep Neural Networks Robust to Adversarial Perturbations
MIT Lincoln Laboratory(麻省理工学院林肯实验室)
深度神经网络能够在许多领域中快速训练和推广。尽管深度网络的性能很有希望,但它们对输入的扰动(例如,对抗性示例)及其学习的特征表示通常难以解释,从而引起了对其真实能力和可信度的担忧。对抗性训练是一种鲁棒优化的形式,其中模型针对对抗性示例进行了优化,最近的工作证明了提高对扰动的性能敏感性并产生更可解释的特征表示的能力。然而,对抗训练的计算成本比标准训练(即,非鲁棒性)训练,使得其不适用于大规模问题。最近的工作表明,对抗训练的快速近似显示出减少训练时间和在无穷范数约束的扰动存在下保持鲁棒性的希望。在这项工作中,我们证明了这种方法扩展到欧几里德规范,并保留了人类对齐的功能表示,这是常见的强大的模型。此外,我们还表明,使用分布式训练方案可以进一步缩短训练鲁棒深度网络的时间。快速对抗训练是一种很有前途的方法,它将在机器学习应用中提供更高的安全性和可解释性,而鲁棒优化以前被认为是不切实际的。
2020-07-08 cs.LG stat.ML
Robust Compressive Phase Retrieval via Deep Generative Priors
Information Technology University(信息技术大学)
本文提出了一种新的框架,通过使用简单的梯度下降算法的深度生成先验来正则化高度不适定和非线性的相位恢复问题。我们的实验表明,所提出的算法的有效性随机高斯测量(通过散射介质成像实际相关)和傅立叶友好的测量(相关的光学设置)。我们证明,所提出的方法取得了令人印象深刻的结果相比,传统的手工工程先验,包括稀疏性和去噪框架的测量数量和对噪声的鲁棒性。最后,我们展示了所提出的方法的有效性,在一个实际应用中的多重散射介质成像的传输矩阵数据集。
2018-08-17 cs.LG stat.ML
Robust Dual View Deep Agent
Cairo University(开罗大学)
受使用深度强化学习的机器学习的最新进展的启发,本文提出了一种改进的架构,可以产生更强大的代理并加快训练过程。我们的架构是基于异步优势演员批评(A3C)算法,其中总输入维数减半分为两个独立的流的输入。我们使用ViZDoom,3D世界软件,是基于经典的第一人称射击游戏,毁灭战士,作为测试用例。实验结果表明,与单输入代理相比,该体系结构具有相同的播放性能,表现出更强的鲁棒性,训练参数的数量显著减少近30%。
2018-04-17 cs.LG stat.ML
Achieving Generalizable Robustness of Deep Neural Networks by Stability Training
Fraunhofer Heinrich Hertz Institute(弗劳恩霍夫海因里希·赫兹研究所)
我们研究了最近引入的稳定性训练作为一种通用方法,以提高深度神经网络对输入扰动的鲁棒性。特别是,我们探索其作为数据增强的替代方案的使用,并验证其性能对一些失真类型和转换,包括对抗性的例子。在我们使用ImageNet数据稳定性训练的图像分类实验中,对于特定的转换,数据稳定性训练的表现与数据增强不相上下,甚至优于数据增强,同时始终如一地提供针对更广泛的失真强度和训练过程中看不到的类型的鲁棒性,与数据增强相比,超参数依赖性要小得多,潜在的负面副作用也更少。
2019-11-12 cs.LG stat.ML
Robust Deep Multi-Modal Sensor Fusion using Fusion Weight Regularization and Target Learning
Texas A&M University(德克萨斯A&M大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);UC Santa Barbara(加州大学圣塔芭芭拉分校)
传感器融合在医疗保健和自主系统等领域有着广泛的应用。虽然深度学习的出现已经实现了高级特征和端到端传感器融合解决方案的有前景的多模态融合,但是现有的基于深度学习的传感器融合技术(包括深度门控架构)并不总是有弹性的,从而导致融合权重不一致的问题。我们提出了具有增强鲁棒性的深度多模态传感器融合架构,特别是在存在传感器故障的情况下。在我们的门控架构的核心是融合权重正则化和融合目标学习的辅助单峰传感网络附加到主融合模型。所提出的正则化门控架构在由传感器故障引起的干净和损坏的传感器输入下都优于现有的具有和不具有门控的深度学习架构。当一个或多个多感官模态被破坏时,所展示的改善特别明显。
2021-04-22 cs.LG stat.ML
Neural Optimization Kernel: Towards Robust Deep Learning
Australian Artificial Intelligence Institute(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学)
深度神经网络(NN)在许多应用中取得了巨大的成功。然而,为什么深度神经网络在过度参数化状态下获得良好的泛化能力仍然不清楚。为了更好地理解深度NN,我们建立了深度NN和一个新的内核家族之间的联系,即,神经优化内核(NOK)。NOK的结构化近似的架构执行隐式正则化问题的单调下降更新。我们可以通过使用不同的激活函数来隐式地选择正则化问题,例如,ReLU、最大池化和软阈值。我们进一步建立了一个新的泛化界,我们的深度结构近似NOK架构。我们的无监督结构化近似NOK块可以作为一个简单的插件流行的骨干,对输入噪声的良好推广。
2021-12-01 cs.LG stat.ML
A theoretical framework for deep locally connected ReLU network
Facebook AI Research(脸书人工智能研究院)
深度卷积神经网络(DCNN)是一种深度局部连接的非线性网络,尽管它在经验上取得了成功,但理解其理论性质仍然是一个难题。在本文中,我们为此类具有ReLU非线性的网络提出了一个新的理论框架。该框架明确地制定了数据分布,有利于解开表示,并与常见的正则化技术,如批规范兼容。该框架是建立在教师-学生设置,通过扩大学生的前向/后向传播到教师的计算图。由此产生的模型不会强加不切实际的假设(例如,高斯输入、激活的独立性等)。我们的框架可以帮助促进许多实际问题的理论分析,例如过拟合,泛化,深度网络中的解纠缠表示。
2018-09-28 cs.LG stat.ML
Robust Sampling in Deep Learning
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Swiss Data Science Institute (ETHZ/EPFL)(瑞士数据科学研究所(苏黎世联邦理工学院/洛桑联邦理工学院))
深度学习需要正则化机制来减少过拟合并提高泛化能力。我们解决这个问题的一个新的正则化方法的基础上分布鲁棒优化。其核心思想是修改每个样本的贡献,以收紧经验风险界。在随机训练过程中,样本的选择是根据它们的准确度来完成的,这样一来,表现最差的样本就是在优化中贡献最大的样本。我们研究了不同的场景,并展示了它可以使收敛速度更快或提高精度的场景。
2020-06-05 cs.LG stat.ML
Doubly Robust Off-Policy Learning on Low-Dimensional Manifolds by Deep Neural Networks
Georgia Tech(佐治亚理工学院)
因果推理探索行为与结果奖励之间的因果关系。最近深度学习在因果推理方面取得了显著的成绩,但现有的统计理论不能很好地解释这种经验上的成功,特别是当协变量是高维的时候。因果推理中的大多数理论结果是渐近的,受到维数灾难的影响,并且只适用于有限作用场景。为了弥合理论与实践之间的差距,本文研究了基于深度神经网络的双重鲁棒离策略学习。当协变量位于一个低维流形上,我们证明了非渐近遗憾界,这取决于流形的内在维度收敛速度快。我们的结果涵盖了有限和连续的行动方案。我们的理论表明,深度神经网络能够适应协变量的低维几何结构,并部分解释了深度学习在因果推理方面的成功。
2020-11-03 cs.LG stat.ML
Are Generative Classifiers More Robust to Adversarial Attacks?
Microsoft Research Cambridge(微软研究院剑桥分院);University of Cambridge(剑桥大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Eberhard Karls University of Tübingen(图宾根大学)
随着先进的攻击和防御技术的积极开发,人们对研究深度神经网络分类器对对手的鲁棒性越来越感兴趣。然而,最近的工作主要集中在判别分类器上,它只对给定输入的标签的条件分布进行建模。在本文中,我们提出并研究了深度贝叶斯分类器,它改进了经典的朴素贝叶斯与条件深度生成模型。我们进一步开发了对抗性示例的检测方法,这些方法在生成模型下拒绝低可能性的输入。实验结果表明,深度贝叶斯分类器比深度判别分类器更强大,并且所提出的检测方法对许多最近提出的攻击是有效的。
2019-05-27 cs.LG stat.ML
A Simple yet Effective Baseline for Robust Deep Learning with Noisy Labels
Tsinghua University(清华大学);Google Cloud AI(谷歌云人工智能)
最近,深度神经网络已经显示出它们记忆训练数据的能力,即使带有噪声标签,这会损害泛化性能。为了缓解这个问题,我们提供了一个简单但有效的基线方法,即使在严重的噪声下,该方法对噪声标签也具有鲁棒性。我们的目标涉及一个方差正则化项,该项隐含地惩罚整个训练集(包括带有噪音标签的数据)上的神经网络的雅可比范数,这鼓励泛化并防止对损坏的标签的过拟合。在合成生成的错误标签和现实的大规模噪声数据集上的实验表明,我们的方法实现了最先进的性能,对严重噪声具有很高的容忍度。
2019-09-27 cs.LG stat.ML
Towards Robust Classification with Deep Generative Forests
Eindhoven University of Technology(埃因霍温理工大学)
决策树和随机森林是最广泛使用的机器学习模型之一,并且通常在表格,领域不可知的数据集中实现最先进的性能。尽管如此,作为主要的判别模型,它们缺乏原则性的方法来操纵预测的不确定性。在本文中,我们利用生成森林(GeFs),最近一类的深度概率模型,通过将随机森林扩展到表示特征空间上的完整联合分布的生成模型来解决这些问题。我们证明了GeFs是不确定性感知的分类器,能够测量每个预测的鲁棒性以及检测出的分布样本。
2020-07-11 cs.LG stat.ML
Towards Robust and Stable Deep Learning Algorithms for Forward Backward Stochastic Differential Equations
Imperial College London(帝国理工学院)
在定量金融中的应用,如最优交易执行,期权风险管理和最优资产配置,涉及高维和非线性偏微分方程(PDE)的解决方案。偏微分方程和系统的前向-后向随机微分方程(FBSDES)之间的连接,使使用先进的模拟技术,即使在高维设置中应用。不幸的是,当底层的应用程序包含非线性项,然后经典的方法模拟和数值方法的偏微分方程遭受的灾难的维度。受到深度学习成功的启发,一些研究人员最近提出了使用深度学习解决FBSDES的解决方案。我们讨论了深度学习的动态系统观点,并在稳定性、泛化和鲁棒性方面比较了几种架构。为了加快计算速度,我们建议使用多级离散化技术。我们的初步结果表明,多级离散化方法提高了解决方案的时间由一个数量级相比,现有的方法,而不牺牲稳定性或鲁棒性。
2019-10-25 cs.LG stat.ML
Deep Robust Kalman Filter
Technion - Israel Institute of Technology(以色列理工学院)
鲁棒马尔可夫决策过程(Robust Markov Decision Process,RMDP)是一种考虑动态系统参数不确定性的序列决策模型。这种不确定性给学习最优策略带来了困难,特别是对于具有大状态空间的环境。我们提出了两种算法,RTD-DQN和Deep-RoK,用于使用深度神经网络等非线性近似方案来求解大规模RMDPs。RTD-DQN算法将鲁棒的Bellman时间差误差引入到鲁棒的损失函数中,从而为代理提供鲁棒的策略。Deep-RoK算法是一种基于扩展卡尔曼滤波器(EKF)的稳健贝叶斯方法,它考虑了近似价值函数权重的不确定性和转移概率的不确定性,提高了代理的稳健性。我们为我们的方法提供了理论结果,并在连续状态域上测试了所提出的算法。
2017-03-07 cs.AI cs.LG stat.ML
A Fast Saddle-Point Dynamical System Approach to Robust Deep Learning
Iowa State University(爱荷华州立大学);Clemson University(克莱姆森大学);University of Minnesota(明尼苏达大学)
最近对深度神经网络的对抗攻击的鲁棒性的关注产生了大量用于训练鲁棒模型的算法。大多数有效的算法都涉及解决最坏情况攻击(max step)下训练鲁棒模型(min step)的最小-最大优化问题。然而,它们经常遭受在每个外部最小化迭代内运行几个内部最大化迭代(以找到最优攻击)的高计算成本。因此,很难容易地将这样的算法应用于中等到大尺寸的真实世界数据集。为了缓解这一问题,我们探讨了迭代下降-上升算法的有效性,其中最大化和最小化步骤以交替方式执行,以同时获得最坏情况的攻击和相应的鲁棒模型。具体来说,我们提出了一种新的离散时间动态系统为基础的算法,旨在找到鞍点的最小-最大优化问题的存在的不确定性。在鲁棒学习问题的代价函数为凸函数且不确定性为凹函数的假设下,分析证明了该算法在$1\leq p\leq \infty$范数诱导的一般对抗性预算约束下渐近收敛于鲁棒最优解.基于我们提出的分析,我们设计了一种快速鲁棒的深度神经网络训练算法。虽然这种训练涉及高度非凸的鲁棒优化问题,但实证结果表明,与基准数据集上的其他最先进的鲁棒模型相比,该算法可以实现显着的鲁棒性。
2021-03-01 cs.LG stat.ML
Model-Based Robust Deep Learning: Generalizing to Natural, Out-of-Distribution Data
Department of Electrical and Systems Engineering University of Pennsylvania(宾夕法尼亚大学电气工程与系统工程系)
虽然深度学习在许多应用领域取得了重大突破,但深度学习中常用的框架仍然容易受到人工制作的数据变化的影响。为了应对这种脆弱性,对抗性训练已经成为增强深度学习对范数有界扰动的鲁棒性的原则性方法。然而,对于深度学习来说,还有其他一些脆弱性的来源,可以说是更常见的,也没有得到彻底的研究。事实上,自然变化(如照明或天气条件)会显著降低训练神经网络的准确性,证明这种自然变化对深度学习提出了重大挑战。在本文中,我们提出了从基于扰动的对抗鲁棒性到基于模型的鲁棒深度学习的范式转变。我们的目标是提供通用的训练算法,可用于训练深度神经网络,使其对数据的自然变化具有鲁棒性。我们的范例的关键是首先获得一个模型的自然变化,可用于改变数据在一系列的自然条件。这样的模型可以是先验已知的,或者是从数据中学习的。在后一种情况下,我们证明了深度生成模型可以用来学习与现实条件一致的自然变异模型。然后,我们在三种新的基于模型的鲁棒训练算法中利用这些模型,以增强深度学习对给定模型的鲁棒性。我们的大量实验表明,在各种自然发生的条件下和各种数据集上,使用我们基于模型的算法训练的深度神经网络的性能明显优于标准深度学习算法以及范数有界的鲁棒深度学习算法。
2020-11-02 cs.CV cs.LG stat.ML
Are Deep Neural Networks "Robust"?
Rutgers University(罗格斯大学)
将离群值与内值分离是计算机视觉中鲁棒性的定义。本文描述了深度神经网络与典型的鲁棒估计器的不同之处。深度神经网络在传统定义下并不健壮。
2020-08-25 cs.CV cs.LG
Adversarial Robust Deep Reinforcement Learning Requires Redefining Robustness
通过利用深度神经网络,已经有效地实现了经由与给定环境的交互从原始高维数据中学习。然而,观察到的由沿着高灵敏度方向的不可察觉的最坏情况的策略依赖转换(即对抗性扰动)引起的策略性能的下降引起了对深度强化学习策略的鲁棒性的关注。在我们的论文中,我们证明了这些高敏感度的方向不仅存在于特定的最坏情况方向上,而且在深层神经策略领域中更丰富,并且可以通过更自然的方式在黑盒环境中找到。此外,我们发现,与通过最先进的对抗训练技术学习的策略相比,香草训练技术有趣地导致学习更强大的策略。我们相信我们的工作展示了深度强化学习策略流形的有趣特性,我们的结果可以帮助构建强大且可推广的深度强化学习策略。
2023-01-17 cs.AI cs.CR cs.LG
Sparsity Meets Robustness: Channel Pruning for the Feynman-Kac Formalism Principled Robust Deep Neural Nets
University of California, Irvine(加州大学欧文分校);University of California, Los Angeles(加州大学洛杉矶分校)
深度神经网络(DNN)压缩对于适应移动设备至关重要。虽然存在许多成功的算法来压缩自然训练的DNN,但为健壮训练的DNN开发高效和稳定的压缩算法仍然是一个很大的问题。在本文中,我们专注于高效DNN压缩算法和稀疏神经架构的协同设计,以实现鲁棒和准确的深度学习。这样的协同设计使我们能够推进同时容纳稀疏性和鲁棒性的目标。考虑到这一目标,我们利用基于松弛增广拉格朗日的算法来修剪结构化和非结构化级别上的对抗训练DNN的权重。使用Feynman-Kac形式主义原则的鲁棒和稀疏DNN,我们可以将对抗训练的ResNet 20的信道稀疏度至少提高一倍用于CIFAR 10分类,同时将自然准确率提高$8.69$ \%,并将IFGSM攻击的基准$20$迭代下的鲁棒准确率提高$5.42$ \%。代码可在\url{https://github.com/BaoWangMath/rvsm-rgsm-admm}上获得。
2020-03-02 cs.AI cs.LG stat.ML
Towards Robust Deep Learning with Ensemble Networks and Noisy Layers
McMaster University(麦克马斯特大学);Ryerson University(瑞尔森大学);Vector Institute(向量研究所)
在本文中,我们提供了一种用于深度学习的方法,该方法可以在图像分类类型的网络中防止对抗性示例。该方法依赖于两种机制:1)以牺牲准确性为代价来增加鲁棒性的机制,以及2)提高准确性但并不总是增加鲁棒性的机制。我们表明,结合这两种机制的方法可以在保持准确性的同时提供对抗性示例的保护。我们制定潜在的攻击我们的方法与实验结果,以证明其有效性。我们还为我们的方法提供了鲁棒性保证以及对保证的解释。
2021-01-06 cs.CR cs.LG stat.ML
Robust Deep Gaussian Processes
The Alan Turing Institute(艾伦·图灵研究所);University of Warwick(华威大学)
本报告提供了对广义变分推断(GVI)的含义和新颖性的深入概述(Knoblauch等人,2019)带来了深度高斯过程(DGP)(Damianou & Lawrence,2013)。具体而言,鲁棒性模型误指定以及原则性的替代品的不确定性量化的动机与信息几何视图。这些修改有明确的解释,可以在不到100行的Python代码中实现。最重要的是,相应的实证结果表明,DGP可以大大受益于所提出的增强。
2019-05-21 cs.AI cs.LG stat.ML
Deep Neural Network Perception Models and Robust Autonomous Driving Systems
Waterloo Artificial Intelligence Institute(滑铁卢人工智能研究所);Department of Systems Design Engineering, University of Waterloo(滑铁卢大学系统设计工程系);David Cheriton school of Computer science, University of Waterloo(滑铁卢大学戴维·谢里顿计算机学院);University of Waterloo(滑铁卢大学)
本文分析了自动驾驶应用中深度学习模型的鲁棒性,并讨论了解决该问题的实用解决方案。
2020-03-04 cs.CV cs.LG cs.RO
Disentangled Deep Autoencoding Regularization for Robust Image Classification
Shanghai Jiao Tong University(上海交通大学);NEC Labs America - Princeton(美国电气通信技术公司美国研究院 - 普林斯顿);Princeton University(普林斯顿大学)
尽管在机器学习方面取得了革命性的成功,但最近发现深度卷积神经网络容易受到对抗攻击的攻击,并且难以推广到具有相当大的几何变换的新测试图像。受最近神经科学发现的启发,揭示了灵长类动物的大脑使用解纠缠的形状和外观表示进行对象识别,我们提出了一个通用的解纠缠的深度自编码正则化框架,可以很容易地应用于任何基于深度嵌入的分类模型,以提高深度神经网络的鲁棒性。我们的框架有效地学习了解纠缠的外观代码和几何代码,用于鲁棒的图像分类,这是第一个基于解纠缠的方法防御对抗攻击,并补充标准的防御方法。在几个基准数据集上的大量实验表明,我们提出的正则化框架利用解纠缠嵌入显著优于传统的非正则化卷积神经网络用于图像分类,对对抗攻击和推广到新的测试数据的鲁棒性。
2019-02-27 cs.CV cs.LG stat.ML
Combining Pessimism with Optimism for Robust and Efficient Model-Based Deep Reinforcement Learning
ETH(苏黎世联邦理工学院)
在现实世界的任务中,强化学习(RL)代理经常会遇到在训练期间不存在的情况。为了确保可靠的性能,RL代理需要表现出对最坏情况的鲁棒性。强大的RL框架通过代理和对手之间的最坏情况优化来解决这一挑战。以前的鲁棒RL算法要么是样本效率低,缺乏鲁棒性保证,要么不能扩展到大问题。我们提出了鲁棒幻觉上置信RL(RH-UCRL)算法来可证明地解决这个问题,同时获得接近最佳的样本复杂度保证。RH-UCRL是一种基于基于模型的强化学习(MBRL)算法,它能有效区分认知和任意的不确定性,并在策略学习过程中有效探索代理和对手的决策空间。我们通过神经网络集成模型以及神经网络策略将RH-UCRL扩展到复杂任务。在实验中,我们证明了RH-UCRL在各种对抗环境中优于其他强大的深度RL算法。
2021-03-18 cs.AI cs.LG stat.ML
RIGA: Covert and Robust White-Box Watermarking of Deep Neural Networks
Harvard University(哈佛大学);University of Waterloo(滑铁卢大学)
一旦数据所有者发布,深度神经网络(DNN)的水印就可以对其进行跟踪。在本文中,我们推广了DNN的白盒水印算法,其中数据所有者需要白盒访问模型来提取水印。白盒水印算法具有不影响水印模型精度的优点。我们提出了鲁棒白盒GAN水印(RIGA),一种新的白盒水印算法,使用对抗训练。实验结果表明,该算法不仅不影响水印的准确性,而且在隐蔽性和鲁棒性方面都有了很大的提高。
2021-02-14 cs.CR cs.LG stat.ML
DeePM: Regime-Robust Deep Learning for Systematic Macro Portfolio Management
Oxford-Man Institute & Machine Learning Research Group University of Oxford(牛津-曼彻斯特研究所及机器学习研究组牛津大学);Machine Learning Research Group University of Oxford(机器学习研究组牛津大学)
DeePM通过解决异步过滤、低信噪比和分布鲁棒性问题,实现了系统性宏观投资组合管理的高风险调整收益
2026-01-09 cs.LG q-fin.TR stat.ML
Robust Deep Neural Networks Inspired by Fuzzy Logic
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
深度神经网络已经取得了令人印象深刻的性能,并成为许多任务中的事实标准。然而,令人不安的现象,如对抗性和愚蠢的例子表明,他们所做的概括是有缺陷的。我认为,这些现象的根源是常见的深度学习架构的两个几何属性:它们的分布式本质和决策区域的连通性。作为一种补救措施,我提出了新的架构的灵感来自模糊逻辑,结合几个替代的设计元素。通过在MNIST和CIFAR-10上的实验,新模型被证明更具局部性,更好地拒绝噪声样本,并且对对抗性样本更具鲁棒性。消融分析揭示了对抗性例子的行为,这些行为不能用线性假设来解释,但与逻辑启发的特质创造更强大的模型的假设一致。
2020-04-26 cs.LG cs.LO stat.ML
Robust Deep Learning from Crowds with Belief Propagation
Pohang University of Science and Technology(浦项科技大学)
众包系统使我们能够收集大规模的数据集,但固有地遭受低收入工人的嘈杂标签。我们使用这样一个有噪声的众包数据集来解决推理和学习问题。由于众包的稀疏性,在实际应用中,需要同时利用概率模型和神经网络来获取工作者的先验信息和任务特征,以克服错误的先验信息和过拟合特征带来的风险。因此,我们建立了一个神经驱动的贝叶斯框架,从中我们设计了deepMF和deepBP,分别选择了不同的变分近似方法,平均场(MF)和置信传播(BP)。这提供了现有方法的统一视图,这些方法是具有不同先验的deepMF的特殊情况。此外,我们的实证研究表明,deepBP是一种新的方法,由于BP比MF更复杂,因此它对错误的先验,特征过拟合和极端工人更强大。
2022-02-24 cs.AI cs.LG stat.ML
Building Robust Deep Neural Networks for Road Sign Detection
Georgia Institute of Technology(佐治亚理工学院);Twentieth Century Fox(二十世纪福克斯公司);Starfleet Academy(星际舰队学院);Tyrell Inc.(泰瑞尔公司)
深度神经网络是通过使用正则化、早期停止和丢弃等技术来构建的,以在训练集之外进行泛化。但是,很少有人考虑让它们更能适应对抗性的例子。随着深度神经网络在关键任务和实时系统中变得越来越普遍,不法分子开始通过故意使深度神经网络将一种类型的对象错误分类为另一种类型来攻击它们。在某些情况下,这可能是灾难性的,其中深度神经网络的分类可能导致机器做出致命的决定。在这项工作中,我们使用GTSRB数据集通过快速梯度符号方法和雅可比显著性方法来制作对抗样本,使用这些制作的对抗样本来攻击另一个深度卷积神经网络,并通过防御蒸馏和对抗训练使被攻击的网络对对抗攻击更具弹性
2017-12-26 cs.AI cs.LG stat.ML
Lipschitz regularized Deep Neural Networks generalize and are adversarially robust
McGill University(麦吉尔大学);University of Minnesota(明尼苏达大学)
在这项工作中,我们研究了深度神经网络的输入梯度正则化,并证明了这种正则化导致泛化证明和提高对抗鲁棒性。推广的证明并没有克服维数灾难,但它与网络中的层数无关。对抗性鲁棒性正则化结合了对抗性训练,我们证明它等价于总变差正则化和Lipschitz正则化。我们的经验表明,正则化模型是更强大的,图像的梯度范数可以用于攻击检测。
2019-09-12 cs.LG cs.NA math.NA
Deadwooding: Robust Global Pruning for Deep Neural Networks
Syracuse University(雪城大学)
深度神经网络逼近高度复杂函数的能力是其成功的关键。然而,这种好处是以较大的模型大小为代价的,这对在资源受限的环境中部署提出了挑战。剪枝是一种用于限制此问题的有效技术,但通常以降低准确性和对抗鲁棒性为代价。本文针对这些缺点,并介绍了Deadwooding,一种新的全局修剪技术,利用拉格朗日对偶方法,鼓励模型稀疏,同时保持准确性和确保鲁棒性。由此产生的模型显着优于国家的最先进的研究措施的鲁棒性和准确性。
2022-09-22 cs.LG
Risk Bounds for Robust Deep Learning
Ruhr-University Bochum(波鸿鲁尔大学)
据观察,某些损失函数可以使深度学习管道对数据中的缺陷具有鲁棒性。在本文中,我们支持这些实证研究结果与统计理论。我们特别表明,具有无界、Lipschitz连续损失函数(例如最小绝对偏差损失、Huber损失、Cauchy损失和Tukey双权损失)的经验风险最小化可以在对数据的最小假设下提供有效的预测。更一般地说,我们的论文为深度学习中鲁棒损失函数的好处提供了理论证据。
2020-09-14 cs.AI cs.LG cs.NE
Robust Deep Reinforcement Learning through Adversarial Loss
UC San Diego(加州大学圣地亚哥分校);MIT(麻省理工学院)
最近的研究表明,深度强化学习代理很容易受到代理输入的小对抗干扰,这引起了人们对在现实世界中部署此类代理的担忧。为了解决这个问题,我们提出了RADIAL-RL,一个原则性的框架,训练强化学习代理,提高了对$l_p$ -范数有界对抗攻击的鲁棒性。我们的框架与流行的深度强化学习算法兼容,我们用深度Q学习,A3 C和PPO展示了它的性能。我们在三个深度RL基准测试(Atari,MuJoCo和ProcGen)上进行了实验,以显示我们的鲁棒训练算法的有效性。在针对不同强度的攻击进行测试时,我们的RADIAL-RL代理始终优于先前的方法,并且在训练时计算效率更高。此外,我们提出了一种新的评估方法,称为贪婪最坏情况奖励(GWC)来衡量深度RL代理的攻击不可知鲁棒性。我们表明,GWC可以有效地进行评估,是一个很好的估计下的最坏的可能序列的对抗攻击的奖励。用于我们实验的所有代码都可以在https://github.com/tuomaso/radial_rl_v2上获得。
2021-11-10 cs.AI cs.CR cs.LG
Interpreting Robustness Proofs of Deep Neural Networks
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);VMware Research(威睿研究院)
近年来,已经开发了许多方法来正式验证深度神经网络(DNN)的鲁棒性。虽然所提出的技术在提供DNN行为的数学保证方面是有效的,但尚不清楚这些方法生成的证明是否是人类可解释的。在本文中,我们通过开发新的概念,算法和表示来弥合这一差距,以生成人类可理解的解释证明。利用所提出的方法,我们表明,标准DNN的鲁棒性证明依赖于虚假的输入特征,而训练为可证明鲁棒的DNN的证明甚至过滤掉了语义上有意义的特征。结合对抗性和可证明鲁棒性训练的DNN的证明在选择性过滤虚假特征以及依赖人类可理解的输入特征方面是最有效的。
2023-01-31 cs.LG
Robust Learning of Deep Time Series Anomaly Detection Models with Contaminated Training Data
Tsinghua University(清华大学);Siemens AG(西门子股份公司)
时间序列异常检测(TSAD)是物联网时代一项重要的数据采掘任务,具有广泛的应用前景。近年来,已经提出了大量基于深度神经网络的方法,在解决各种领域中具有挑战性的TSAD问题时,表现出比传统方法显著更好的性能。然而,这些深度TSAD方法通常依赖于未被异常污染的干净训练数据集来学习底层动态的“正常配置文件”。这个要求是不平凡的,因为在实践中很难提供干净的数据集。此外,在没有意识到其鲁棒性的情况下,盲目地将深度TSAD方法应用于潜在污染的训练数据可能会在检测阶段导致显著的性能下降。在这项工作中,为了应对这一重要挑战,我们首先研究了常用的深度TSAD方法与污染的训练数据的鲁棒性,这为在提供的训练数据不能保证无异常时应用这些方法提供了指导。此外,我们提出了一种模型无关的方法,可以有效地提高学习主流深度TSAD模型与潜在污染数据的鲁棒性。实验结果表明,我们的方法可以一致地防止或减轻主流深度TSAD模型在广泛使用的基准数据集上的性能下降。
2022-08-03 cs.LG
Constrained Adaptive Attacks: Realistic Evaluation of Adversarial Examples and Robust Training of Deep Neural Networks for Tabular Data
University of Luxembourg(卢森堡大学);RIKEN AIP(日本理化学研究所革新智能统合研究中心)
针对表格数据深度学习模型缺乏现实对抗鲁棒性评估方案的问题,提出结合梯度与搜索的无参数迭代约束自适应攻击CAA,构建覆盖三类场景、十种威胁模型的基准,明确影响鲁棒性的因素并给出改进建议。
2023-11-08 cs.LG
RegKT: Interpretable and Robust Deep Knowledge Tracing With IRT-Regularizer
Inria-Saclay(法国国家信息与自动化研究所萨克雷中心);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Telecom-Sud Paris(南巴黎电信学院)
针对深度学习知识追踪模型可解释性差和易过拟合的问题,本文提出一种基于IRT正则化的新方法,同时提升模型稳健性与可解释性,以适用于真实教育应用。
2026-09-21 cs.LG
Classifiers Based on Deep Sparse Coding Architectures are Robust to Deep Learning Transferable Examples
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Swarthmore College(斯沃斯莫尔学院);Villanova University(维拉诺瓦大学)
尽管深度学习近年来取得了巨大的成功,但研究人员发现了一个关键缺陷,即系统输入中微小的、难以察觉的变化可能会极大地改变输出分类。这些攻击在几乎所有现有的深度学习分类框架中都是可利用的。然而,深度稀疏编码模型对对抗性示例的敏感性尚未得到研究。在这里,我们证明了基于深度稀疏编码模型的分类器,其分类精度与各种深度神经网络模型具有竞争力,对对抗性示例具有鲁棒性,这些示例有效地欺骗了那些相同的深度学习模型。我们定量和定性地证明了深度稀疏编码模型对对抗性示例的鲁棒性来自两个关键属性。首先,由于深度稀疏编码模型学习与整个数据集的生成器相对应的一般特征,而不是用于区分特定类别的高度区分特征,因此所得分类器较少依赖于可能更容易利用的特质特征。其次,由于深度稀疏编码模型利用具有自上而下反馈的固定点吸引子动态,因此更难以找到将所得表示驱动出正确吸引子盆的输入的小变化。
2018-11-20 cs.CR cs.CV cs.LG
A Robust Deep Unfolded Network for Sparse Signal Recovery from Noisy Binary Measurements
Vrije Universiteit Brussel(布鲁塞尔自由大学);Shenzhen University(深圳大学);imec(比利时微电子研究中心)
我们提出了一种新的深度神经网络,称为DeepFPC- $\ell_2$,用于解决1位压缩感知问题。该网络是通过展开具有单侧$\ell_2$ -范数的定点延拓(FPC)算法(FPC- $\ell_2$)的迭代来设计的。与传统的FPC- $\ell_2$算法相比,DeepFPC-$\ell_2$方法显示出更高的信号重建精度和收敛速度。此外,我们将其对噪声的鲁棒性与先前提出的DeepFPC网络进行了比较--DeepFPC网络源于展开FPC- $\ell_1$算法--用于不同的信噪比(SNR)和符号翻转比(翻转比)场景。我们表明,所提出的网络比以前的DeepFPC方法具有更好的抗噪性。这一结果表明,深度展开的神经网络的鲁棒性与它所源自的算法的鲁棒性有关。
2020-10-15 cs.LG eess.SP
Robust Deep Reinforcement Learning with Adversarial Attacks
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了针对强化学习(RL)的对抗攻击,并在这些攻击的帮助下提高了深度强化学习算法(DRL)对参数不确定性的鲁棒性。我们发现,即使是一个天真的设计攻击成功地降低DRL算法的性能。我们进一步改进的攻击使用梯度信息的工程损失函数,导致性能进一步下降。然后在训练期间利用这些攻击来提高RL在鲁棒控制框架内的鲁棒性。我们表明,DRL算法(如深度双Q学习和深度确定性策略梯度)的这种对抗性训练导致RL基准测试(如Cart-pole,Mountain Car,Hopper和Half Cheetah环境)对参数变化的鲁棒性显着增加。
2017-12-11 cs.AI cs.LG cs.RO
Noise-Robust Deep Spiking Neural Networks with Temporal Information
Seoul National University(首尔大学);Institute of New Media and Communications, Seoul National University(首尔大学新媒体与通信研究所);ASRI and Interdisciplinary Program in Artificial Intelligence, Seoul National University(首尔大学自动系统研究所及人工智能跨学科项目)
脉冲神经网络(SNN)是一种具有时间信息的能量高效神经网络。SNN在神经形态设备上显示出优越的效率,但这些设备对噪声敏感,这阻碍了它们在现实世界中的应用。有几项研究提高了噪声鲁棒性,但大多数研究既没有考虑深度SNN,也没有考虑时间信息。在本文中,我们研究了噪声对各种神经编码方法的深度SNN的影响,并提出了一种具有时间信息的噪声鲁棒性深度SNN。通过所提出的方法,我们已经实现了一个深度SNN,它对尖峰删除和抖动是有效和鲁棒的。
2021-04-22 cs.AI cs.LG cs.NE
Towards Robust Deep Reinforcement Learning for Traffic Signal Control: Demand Surges, Incidents and Sensor Failures
Technical University of Denmark (DTU)(丹麦技术大学)
本文提出了一种开源的回调框架,用于在交通模拟环境中灵活评估不同深度强化学习配置,研究了深度强化学习自适应交通控制器在需求激增、事故导致的容量下降和传感器故障等场景下的表现,并提出了缓解这些外源不确定性的具体设计。
2019-07-22 cs.LG cs.SY eess.SY
Robust and Active Learning for Deep Neural Network Regression
Pennsylvania State University(宾夕法尼亚州立大学);Riskfuel;Imperial College(帝国理工学院)
我们描述了一种基于梯度的方法来发现用于回归的深度神经网络(DNN)的局部误差最大化器,假设“oracle”能够为样本提供实值监督(回归目标)。例如,oracle可以是一个数值求解器,在操作上比DNN慢得多。给定一组发现的局部误差最大化器,DNN以主动学习的方式进行微调或重新训练。
2021-07-28 cs.LG
Robust Deep Reinforcement Learning through Bootstrapped Opportunistic Curriculum
Washington University in St. Louis(圣路易斯华盛顿大学)
尽管深度强化学习取得了相当大的进展,但它已被证明非常容易受到状态观测的对抗性扰动。然而,最近试图提高强化学习的对抗鲁棒性的努力只能容忍非常小的扰动,并且随着扰动大小的增加而保持脆弱。我们提出了Bootstrapped强化对抗课程学习(BCL),一个新的灵活的对抗课程学习框架,强大的强化学习。我们的框架结合了两个想法:保守地引导每个课程阶段,从上一阶段的多次运行中获得最高质量的解决方案,并在课程中机会主义地向前跳。在我们的实验中,我们表明,建议的BCL框架,使学习的政策对抗性扰动的鲁棒性显着改善。最大的改进是Pong,我们的框架对高达25/255的扰动具有鲁棒性;相比之下,现有的最佳方法只能容忍高达5/255的对抗性噪声。我们的代码可在https://github.com/jlwu002/BCL上获取。
2023-01-10 cs.LG
Building Compact and Robust Deep Neural Networks with Toeplitz Matrices
Université Paris-Dauphine -- PSL Research University(巴黎第九大学(多菲纳大学)-- PSL研究大学)
深度神经网络在各种各样的任务中是最先进的,然而,它们表现出重要的限制,这阻碍了它们在现实世界应用中的使用和部署。在开发和训练神经网络时,精度不应该是唯一的关注点,神经网络还必须具有成本效益和可靠性。虽然精确,但大型神经网络通常缺乏这些特性。本文研究的问题是如何训练神经网络,使其不仅精度高,而且结构紧凑,易于训练,可靠性高,对对抗性样本具有较强的鲁棒性。为了解决这些问题,我们利用Toeplitz家族的结构化矩阵的属性来构建紧凑且安全的神经网络。
2021-09-02 cs.LG
Robust Model Compression Using Deep Hypotheses
Tel Aviv University(特拉维夫大学)
理想情况下,机器学习模型应该是紧凑和健壮的。紧凑性提供效率和可理解性,而健壮性提供弹性。近年来,这两个主题都得到了研究,但都是孤立的。在这里,我们提出了一个强大的模型压缩计划,这是独立的模型类型:它可以压缩集成,神经网络和其他类型的模型到不同类型的小模型。主要的组成部分是从稳健统计学中得出的深度概念。最初,深度被引入作为样本中点的中心性的度量,使得中值是最深的点。这个概念被扩展到分类功能,这使得有可能定义的深度假设和中位数假设。已经提出了近似中位数的算法,但它们仅限于二进制分类。在这项研究中,我们提出了一种新的算法,多类经验中值优化(MEMO)算法,发现一个深的假设,在多类任务,并证明其正确性。这导致我们的紧凑的鲁棒估计中值置信优化(CREMBO)算法的鲁棒模型压缩。我们通过将神经网络和随机森林压缩成可解释模型的小决策树,证明了该算法的成功经验,并表明它们比其他可比方法更准确和鲁棒。此外,我们的实证研究表明,我们的方法优于知识蒸馏DNN到DNN压缩。
2021-03-13 cs.LG
Robust Deep Sensing Through Transfer Learning in Cognitive Radio
University of Electronic Science and Technology of China(电子科技大学);Massey University(梅西大学);University of California at San Diego(加州大学圣地亚哥分校)
提出了一种基于深度学习的鲁棒频谱感知框架。在次级用户的接收机处接收到的信号被滤波、采样,然后被直接馈送到卷积神经网络中。尽管当在与所收集的训练数据相同的场景中操作时,这种深度感测是有效的,但是当将其应用于具有不同无线信号和传播的不同场景中时,感测性能降级。我们将迁移学习融入到框架中,以提高鲁棒性。实验结果验证了所提出的深频谱感知框架的有效性和鲁棒性。
2019-08-01 cs.IT cs.LG eess.SP
Towards Adversarially Robust Deep Metric Learning
针对深度度量学习在基于聚类的推理场景下鲁棒性不足、现有防御方法效果不佳的问题,提出结合集成学习与对抗训练的EAT方法,通过提升集成多样性与自迁移机制增强鲁棒性,实验证明其性能显著优于适配的分类模型防御方法。
2025-01-12 cs.AI cs.LG
DeepCloak: Masking Deep Neural Network Models for Robustness Against Adversarial Samples
University of Virginia(弗吉尼亚大学)
最近的研究表明,深度神经网络(DNN)很容易受到对抗性样本的攻击:恶意干扰的样本会产生错误的模型输出。这种攻击可能会严重破坏DNN系统,特别是在安全敏感的环境中。据观察,对手可以通过对当前分类任务不必要的不相关特征维度进行小扰动来轻松生成对抗样本。为了克服这个问题,我们引入了一种名为DeepCloak的防御机制。通过识别和删除DNN模型中不必要的特征,DeepCloak限制了攻击者生成对抗样本的能力,从而提高了对此类输入的鲁棒性。与其他防御方法相比,DeepCloak易于实现,计算效率高。实验结果表明,DeepCloak可以提高最先进的DNN模型对对抗性样本的性能。
2017-04-17 cs.AI cs.CR cs.LG
Adversarial Robustness in Deep Learning: Attacks on Fragile Neurons
University of Reading(雷丁大学);KTH Royal Institute of Technology(瑞典皇家理工学院);University of Catania(卡塔尼亚大学);University of Cambridge(剑桥大学)
我们使用第一卷积层的节点丢弃来识别深度学习架构的脆弱和鲁棒神经元。使用对抗目标算法,我们将这些神经元与网络上对抗攻击的分布相关联。神经网络的对抗鲁棒性近年来受到了广泛关注,并凸显了深度学习网络在应对输入图像精心构造的失真时的固有弱点。在本文中,我们评估了在MNIST和CIFAR10数据集上训练的最新图像分类模型对快速梯度符号方法攻击的鲁棒性,快速梯度符号方法是一种简单而有效的欺骗神经网络的方法。我们的方法确定了网络中受对抗攻击影响最大的特定神经元。因此,我们建议通过压缩鲁棒神经元内的特征并按比例放大脆弱神经元,使脆弱神经元对这些攻击更具鲁棒性。
2022-01-31 cs.CR cs.LG
Uncertainty Injection: A Deep Learning Method for Robust Optimization
University of Toronto(多伦多大学)
本文提出了一种不确定性注入的范例来训练深度学习模型来解决鲁棒优化问题。现有的大多数关于深度学习的研究都集中在模型学习能力上,同时假设输入数据的质量和准确性可以得到保证。然而,在解决优化问题的深度学习的实际应用中,输入的准确性(在这种情况下是问题参数)起着很大的作用。这是因为,在许多情况下,准确地获得问题参数通常是昂贵的或有时是不可能的,并且相应地,非常期望开发能够考虑输入中的不确定性并产生对这些不确定性鲁棒的解决方案的学习算法。本文提出了一种新的不确定性注入方案,用于训练机器学习模型,该模型能够隐式地考虑不确定性并产生统计上鲁棒的解决方案。我们进一步确定的无线通信作为一个应用领域的不确定性是普遍存在的问题参数,如信道系数。我们在两个应用程序中所提出的训练方案的有效性:多用户多输入多输出(MIMO)下行链路传输的鲁棒功率加载;和设备到设备(D2 D)网络的鲁棒功率控制。
2023-02-27 cs.AI cs.LG cs.NI
Out of Distribution Detection and Adversarial Attacks on Deep Neural Networks for Robust Medical Image Analysis
African Institute for Mathematical Sciences(非洲数学科学研究所);Stanford University(斯坦福大学)
深度学习模型已成为医学图像分析的热门选择。然而,深度学习模型的泛化性能较差,限制了它们在现实世界中的部署,因为鲁棒性对于医疗应用至关重要。例如,最先进的卷积神经网络(CNN)无法检测对抗样本或在统计上远离训练分布的样本。在这项工作中,我们实验评估的鲁棒性的Mahalanobis距离为基础的置信分数,一个简单而有效的方法来检测异常的输入样本,在分类疟疾寄生细胞和未感染的细胞。结果表明,Mahalanobis置信分数检测器表现出深度学习模型的性能和鲁棒性的改进,并在分布外(OOD)和对抗样本上实现了最先进的性能。
2021-07-10 cs.CV cs.LG eess.IV
A Robust Image Watermarking System Based on Deep Neural Networks
University of Nebraska at Omaha(内布拉斯加大学奥马哈分校);New Jersey Institute of Technology(新泽西理工学院)
数字图像水印是在载体图像上隐蔽地嵌入和提取水印的过程。近年来,利用图像水印来增强深度学习网络引起了越来越多的关注。然而,现有的基于深度学习的水印系统无法同时实现鲁棒性、盲性以及自动嵌入和提取。本文提出了一种基于深度神经网络的全自动图像水印系统,以推广图像水印过程。提出了一种无监督的深度学习结构和一种新的损失计算,以实现高容量和高鲁棒性,而无需任何可能的攻击的先验知识。此外,一个具有挑战性的应用程序,从摄像机捕获的图像中提取水印,以验证所提出的系统的实用性以及鲁棒性。实验结果表明,该系统的优越性能相比,目前可用的几种技术。
2019-08-29 cs.CV cs.LG cs.MM