Tight Second-Order Certificates for Randomized Smoothing
University of Maryland(马里兰大学)
随机平滑是一种提供针对对抗攻击的鲁棒性保证的流行方法:随机平滑函数具有通用的类Lipschitz边界,允许轻松计算鲁棒性证书。在这项工作中,我们证明了高斯随机平滑也存在一个普适的类曲率界:给定平滑函数的精确值和梯度,我们计算一个点到其最近的对抗样本的距离的下界,称为二阶平滑(SoS)鲁棒性证书。除了证明这种新的证书的正确性,我们表明,SoS证书是可实现的,因此紧。有趣的是,我们证明了使用梯度范数的附加信息在认证的鲁棒性方面的最大可实现的好处相对较小:因为我们的边界很紧,这是一个基本的负面结果。如果我们考虑梯度范数的估计误差,我们已经开发了一个估计器,则SoS证书的增益进一步减小。因此,我们还开发了高斯平滑的一个变种,称为高斯偶极子平滑,它提供了类似的边界随机平滑梯度信息,但大大提高了样本效率。这使我们能够在CIFAR-10和ImageNet等高维数据集上实现(略微)改进的鲁棒性证书。代码可在https://github.com/alevine0/smoothing_second_order上获得。
2020-12-15 cs.LG stat.ML
On the tightness of linear relaxation based robustness certification methods
近年来,在机器学习社区中,对抗训练和防御得到了快速的发展和兴趣。其中一项研究重点是提高神经网络对抗性鲁棒性证书\cite{gowal:19, wong_zico:18, raghunathan:18, WengTowardsFC:18, wong:scalable:18, singh:convex_barrier:19, Huang_etal:19, single-neuron-relax:20, Zhang2020TowardsSA}的性能和效率。虽然每一个都提供了一个证明,以降低(或上)界的真实扭曲下对抗攻击通过放松,较少研究的是放松的紧密性。在本文中,我们分析了一个家庭的线性外近似基于认证方法通过Meta算法,IBP-林。上述工作往往缺乏定量分析,以回答问题,如证书方法的性能如何依赖于网络配置和近似参数的选择。在我们的框架下,我们首次尝试回答这些问题,这表明基于线性近似的认证的紧密性在很大程度上取决于训练网络的配置。
2022-12-06 cs.LG
Debona: Decoupled Boundary Network Analysis for Tighter Bounds and Faster Adversarial Robustness Proofs
RWTH Aachen University(亚琛工业大学)
神经网络通常用于安全关键的现实世界应用中。不幸的是,预测的输出通常对输入数据的微小且可能难以察觉的变化高度敏感。因此,证明不存在这种对抗性的例子,或者提供一个具体的例子,对于确保安全的应用程序至关重要。由于枚举和测试所有潜在的对抗性示例在计算上是不可行的,因此已经开发了验证技术,以使用对网络激活的高估来提供它们不存在的数学上合理的证明。我们提出了一种改进的技术,用于计算这些节点值的严格的上限和下限,通过计算两个边界彼此独立获得的灵活性增加的基础上。此外,我们通过重新实现原始最先进的软件“Neuriify”的一部分获得了额外的改进,从而实现了更快的分析。结合起来,这些调整将所需的运行时间减少了94%,并允许成功搜索以前过于复杂的网络和输入。我们提供了卷积网络中最大池层的严格上限和下限的证明。为了确保广泛的可用性,我们开源了我们的实现“Debona”,其特点是实现特定的增强功能以及更快,更精确的边界计算~结果。
2021-02-02 cs.AI cs.LG stat.ML
Evaluating Adversarial Robustness with Expected Viable Performance
Air Force Research Laboratory(空军研究实验室);CAE USA(CAE美国公司);Aptima, Inc.(Aptima公司);th Human Performance Wing(第711人体效能联队)
本文提出一种基于期望可行性能的对抗鲁棒性评估度量,通过设定最低可行阈值将分类器功能量化为期望值,从而提供领域通用的鲁棒性量化方法。
2023-09-18 cs.LG
Tighter Bounds on the Information Bottleneck with Application to Deep Learning
Reichman University(赖希曼大学);Tel-Aviv University(特拉维夫大学)
本文提出了一种新的更紧的信息瓶颈变分界,提升了以往受IB启发的DNN性能,并显著增强了分类器DNN的对抗鲁棒性。
2024-02-12 cs.AI cs.IT cs.LG
Tight Stability Bounds for Robust Distributed Learning: Byzantine Failures Hurt Generalization More than Data Poisoning
Inria(法国国家信息与自动化技术研究院);Inserm(法国国家医学院);Univ. Lille(里尔大学);Department of Computer Science, University of Copenhagen(哥本哈根大学计算机科学系)
研究稳健分布式学习中拜占庭故障和数据中毒两种威胁模型对泛化的影响,通过算法稳定性分析,首次揭示拜占庭故障导致的泛化速率比数据中毒更差。
2026-07-07 cs.CR cs.LG stat.ML
Tighter Expected Generalization Error Bounds via Convexity of Information Measures
University College London(伦敦大学学院);Massachusetts Institute of Technology(麻省理工学院)
泛化误差界对于理解机器学习算法至关重要。基于输出假设与输入训练样本的平均联合分布,提出了一种新的期望泛化误差上界。给出了基于不同信息测度的多个泛化误差上界,包括Wasserstein距离、总变差距离、KL散度和Jensen-Shannon散度。由于凸性的信息措施,建议的界Wasserstein距离和总变异距离被证明是紧比他们的同行的基础上,在文献中的个别样本。最后给出了一个例子来验证所提出的泛化误差界的严密性。
2022-02-24 cs.IT cs.LG math.IT
Robust Bayesian reinforcement learning through tight lower bounds
EPFL(洛桑联邦理工学院)
在贝叶斯序贯决策方法中,(主观)效用的精确计算是困难的。这扩展到大多数感兴趣的特殊情况,例如强化学习问题。虽然这个问题的效用边界是已知的,但到目前为止,没有一个是特别紧的。在本文中,我们将展示如何有效地计算一个下界,这对应于一个接近最优的无记忆政策的决策问题,这是一般不同的贝叶斯最优的政策和政策,这是最佳的预期MDP下的当前信念的效用。然后,我们将展示如何将这些应用于贝叶斯强化学习设置中获得强大的探索策略。
2011-11-11 cs.LG stat.ML
Beyond Confidence Regions: Tight Bayesian Ambiguity Sets for Robust MDPs
Department of Computer Science(计算机科学系);University of New Hampshire(新罕布什尔大学)
在强化学习中,鲁棒MDP(RMDP)可用于计算具有可证明的最坏情况保证的策略。RMDP解决方案的质量和鲁棒性由模糊集-合理转移概率集-决定,模糊集通常构造为多维置信区域。现有的方法构造模糊集的置信区域使用浓度不等式,导致过于保守的解决方案。本文提出了一种新的范例,可以实现更好的解决方案,具有相同的鲁棒性保证,而不使用置信区域作为模糊集。为了结合先验知识,我们的算法使用贝叶斯推理优化歧义集的大小和位置。我们的理论分析表明,所提出的方法的安全性,和实证结果表明其实际的承诺。
2019-02-20 cs.LG stat.ML
Tight Lower Bound on the Probability of a Binomial Exceeding its Expectation
Courant Institute of Mathematical Sciences(库朗数学科学研究所);Google Research(谷歌研究院)
证明了一个二项随机变量超过其期望值的概率的紧下界。该不等式在学习理论中的相对偏差界分析和无界损失函数的推广界分析等方面都起着重要的作用。
2013-11-11 cs.LG stat.ML
Tighter expected generalization error bounds via Wasserstein distance
KTH Royal Institute of Technology(KTH皇家理工学院);Ericsson Research(爱立信研究院)
这项工作提出了几个预期的泛化误差界的基础上的瓦瑟斯坦距离。更具体地说,它引入了全数据集,单字母和随机子集界限,以及它们在Steinke和Zakynthinou [1]的随机子样本设置中的类似物。此外,当损失函数是有界的,并且通过选择瓦瑟斯坦距离中的度量来忽略空间的几何形状时,这些边界从低于基于相对熵的当前边界恢复(并且因此比当前边界更紧)。特别是,它们基于相对熵产生新的非空边界。因此,这些结果可以被看作是一个桥梁的作品,占的假设空间的几何形状和那些基于相对熵,这是不可知的几何。此外,还示出了如何基于不同的信息度量(例如,lautum信息或几个$f$ -发散),以及如何使用所提出的证明技术导出关于后向信道的类似边界。
2022-03-25 cs.IT cs.LG math.IT
Tight Dimension Independent Lower Bound on the Expected Convergence Rate for Diminishing Step Sizes in SGD
University of Connecticut(康涅狄格大学);IBM Research(IBM研究院)
研究了强凸目标函数的随机梯度下降算法的收敛性。我们证明了所有$t$的预期收敛速度的下限后,$t$ -第SGD迭代的下界是在所有可能的序列的减少步长。这意味着最近在ICML 2018和ICML 2019提出的步长序列是{ \em普遍}接近最优的,因为{ \em each}迭代后的预期收敛速度在我们的下界的因子$32$内。该因子与尺寸$d$无关。我们提供了一个框架,比较与最先进的文献中的下限,当应用到SGD的强凸目标函数,我们的下界是一个显着的因素$775\cdot d$较大相比,现有的工作。
2019-11-08 cs.LG math.OC
Tight Bayesian Ambiguity Sets for Robust MDPs
University of New Hampshire(新罕布什尔大学)
鲁棒性对于具有不确定概率参数的随机动态环境中的序贯决策非常重要。我们解决的问题,使用强大的MDP(RMDPs)计算政策与可证明的最坏情况下的保证强化学习。RMDP解的质量和鲁棒性由其模糊集决定。现有的方法构造模糊集,导致不切实际的保守的解决方案。在本文中,我们提出了RSVF,它实现了保守性较低的解决方案,具有相同的最坏情况下的保证,1)利用贝叶斯先验,2)优化的大小和位置的模糊集,最重要的是,3)放松的要求,该集是一个置信区间。我们的理论分析表明了RSVF的安全性,实验结果证明了它的实用前景。
2018-11-15 cs.LG stat.ML
A Tight Lower Bound for Non-stochastic Multi-armed Bandits with Expert Advice
Kent State University(凯特州立大学);The University of Tokyo(东京大学);RIKEN(理化学研究所);The Hebrew University(希伯来大学)
本文通过证明与已有上界匹配的下界,确定了带有专家建议的非随机多臂老虎机问题的极小化极大最优期望遗憾为 $Θ(\sqrt{T K \log(N/K)})$。
2025-10-31 cs.LG stat.ML
The Cost of Robustness: Tighter Bounds on Parameter Complexity for Robust Memorization in ReLU Nets
KAIST(韩国科学技术院)
该研究针对ReLU网络的鲁棒记忆参数复杂度问题,在ρ∈(0,1)全区间开展细粒度分析,得到了更紧的参数数量上下界,揭示了鲁棒比ρ对参数复杂度的影响规律。
2025-10-28 cs.AI cs.LG
Training Certifiably Robust Neural Networks with Efficient Local Lipschitz Bounds
California Institute of Technology(加州理工学院);NVIDIA(英伟达)
经认证的鲁棒性是安全关键应用中的深度神经网络的期望属性,并且流行的训练算法可以通过计算其Lipschitz常数的全局界限来认证神经网络的鲁棒性。然而,这样的界限通常是松散的:它往往会过度正则化神经网络并降低其自然准确性。更严格的Lipschitz边界可以在自然和认证准确性之间提供更好的权衡,但由于网络的非凸性,通常难以精确计算。在这项工作中,我们提出了一个有效的和可训练的\emph{local} Lipschitz上界考虑之间的相互作用激活函数(例如ReLU)和权重矩阵。具体来说,当计算权重矩阵的诱导范数时,我们消除了相应的行和列,其中激活函数保证在每个给定数据点的邻域中是常数,这提供了比神经网络的全局Lipschitz常数更严格的边界。我们的方法可以作为一个插件模块来收紧Lipschitz界在许多可认证的训练算法。此外,我们提出裁剪激活函数(例如,ReLU和MaxMin),具有可学习的上限阈值和稀疏性损失,以帮助网络实现更严格的局部Lipschitz边界。在实验中,我们证明了我们的方法在MNIST,CIFAR-10和TinyImageNet数据集上的清洁和认证准确性方面始终优于最先进的方法。
2021-11-02 cs.CR cs.LG stat.ML
Tight Error Bounds for Structured Prediction
机器学习中的结构化预测任务涉及多个标签的同时预测。这通常通过最大化标签空间上的得分函数来完成,该得分函数分解为成对元素的总和,每个元素取决于两个特定的标签。直观地说,使用的成对项越多,预期的准确性就越好。然而,目前还没有关于这种直觉的理论解释。本文件朝着这个方向迈出了重要的一步。我们制定的问题分类的顶点的一个已知的图$G=(V,E)$,其中的顶点和边的图形标记和相关的半随机与地面真相。我们表明,实现低预期的汉明误差的前景取决于有趣的方式图$G$的结构。例如,如果$G$是非常差的扩展器,如路径,则大的预期汉明误差是不可避免的。我们的主要积极的结果表明,对于广泛的一类图形,包括在机器视觉应用中常见的2D网格图,有一个多项式时间的算法与小和信息理论上接近最优的预期误差。我们的研究结果提供了第一步的理论依据的经验成功的有效近似推理算法,用于结构化预测模型,精确的推理是棘手的。
2014-09-19 cs.DS cs.LG stat.ML
Robust Exploration with Tight Bayesian Plausibility Sets
University of New Hampshire(新罕布什尔大学)
对于许多被证明有效的强化学习算法来说,对状态和动作的乐观态度是探索的主要驱动力。我们提出了乐观面对明智的价值函数(OFVF)-一种新的数据驱动的贝叶斯算法来构建MDP的似然集,以探索鲁棒地最小化最坏情况下的探索成本。该方法通过引入两个新的想法来计算具有更严格的乐观估计的探索策略。首先,它是基于贝叶斯后验分布,而不是分布自由边界。其次,OFVF不构造可扩展性集作为简单的置信区间。置信区间作为相容性集是一个充分条件,但不是必要条件。OFVF使用价值函数的结构来优化可扩展性集合的位置和形状,以直接保证上界,而不必强制要求集合是置信区间。OFVF以发作的方式进行,其中发作的持续时间是固定和已知的。我们的算法本质上是贝叶斯的,可以利用先验信息。我们的理论分析表明,OFVF的鲁棒性,和实证结果表明其实际的承诺。
2019-04-17 cs.AI cs.LG stat.ML
DualApp: Tight Over-Approximation for Neural Network Robustness Verification via Under-Approximation
East China Normal University(华东师范大学);ETH Zürich(苏黎世联邦理工学院)
神经网络的鲁棒性是主机系统可靠性和安全性的基础。形式化验证已被证明是有效的,提供可证明的鲁棒性保证。为了提高验证的可扩展性,人们普遍采用线性约束对神经网络中的非线性激活函数进行过逼近,将验证问题转化为一个可有效求解的线性规划问题。由于过度近似不可避免地引入高估,许多努力一直致力于定义最紧密的可能近似。然而,最近的研究表明,现有的所谓最紧密的近似是优于对方。在本文中,我们确定和报告的一个关键因素,在定义紧近似,即近似域的激活函数。我们观察到,现有的方法只依赖于高估的域,而相应的紧近似可能不一定是紧的实际域。我们提出了一种新的下近似引导的方法,称为双重近似,定义紧过近似和两个互补的下近似算法基于采样和梯度下降。被高估的领域保证了可靠性,而被低估的领域则指导了紧密性。我们将我们的方法实现到一个名为DualApp的工具中,并在84个收集和训练的具有不同架构的神经网络的综合基准上对其进行了广泛的评估。实验结果表明,DualApp优于最先进的基于近似的方法,验证结果提高了71.22%。
2022-11-21 cs.LG cs.SE
Tight Regret Bounds for Noisy Optimization of a Brownian Motion
Imperial College London(帝国理工学院);National University of Singapore(新加坡国立大学)
我们考虑一维布朗运动的贝叶斯优化问题,其中$T$自适应选择的观测值被高斯噪声破坏。我们表明,最小可能的预期累积遗憾和最小可能的预期简单遗憾量表分别为$Ω(σ\sqrt{T / \log (T)}) \cap \mathcal{O}(σ\sqrt{T} \cdot \log T)$和$Ω(σ/ \sqrt{T \log (T)}) \cap \mathcal{O}(σ\log T / \sqrt{T})$,其中$σ^2$是噪声方差。因此,我们的上限和下限紧到$\mathcal{O}( (\log T)^{1.5} )$的因子。上限使用基于置信界限和布朗运动的马尔可夫性质(以及其他有用的性质)的算法,下限基于二进制假设检验的简化。
2022-01-15 cs.IT cs.LG math.IT
Tight Certified Robustness via Min-Max Representations of ReLU Neural Networks
University of California, Berkeley(加州大学伯克利分校)
针对神经网络部署的鲁棒性认证需求,提出将ReLU网络最小-最大表示的非凸认证问题凸重构的方法,可精确求解最坏攻击,性能优于分支定界和松弛方法,经鲁棒控制与MNIST实验验证有效。
2023-10-07 cs.LG math.OC
Tight Robustness Certification Through the Convex Hull of $\ell_0$ Attacks
本文提出通过ℓ₀攻击的凸包实现更紧的鲁棒性认证,改进了现有验证器的性能。
2026-03-07 cs.LG
Tight Verification of Probabilistic Robustness in Bayesian Neural Networks
Imperial College London(伦敦帝国学院);King’s College London(伦敦国王学院)
本文针对贝叶斯神经网络概率鲁棒性验证难题,提出利用迭代扩展和梯度搜索安全权重的两种算法,可结合任意验证器,并在 MNIST、CIFAR10 上将界限较 SoA 最紧致提升达 40%。
2024-02-28 cs.AI cs.FL cs.LG
Nearly Tight Bounds for Robust Proper Learning of Halfspaces with a Margin
University of Wisconsin, Madison(威斯康星大学麦迪逊分校);University of California, San Diego(加利福尼亚大学圣地亚哥分校);University of California, Berkeley(加利福尼亚大学伯克利分校);Google Research(谷歌研究院)
研究了不可知PAC模型中{ \em properly}学习大边界半空间的问题.更详细地说,我们研究了在误分类误差$α\cdot \mathrm{OPT}_γ + ε$内正确学习单位球上的$d$维半空间的复杂性,其中$\mathrm{OPT}_γ$是最优的$γ$边缘误差率,$α\geq 1$是近似比.我们给这个问题的学习算法和计算硬度的结果,所有的近似比$α\geq 1$的值,这是接近匹配的参数范围。具体来说,自然设置$α$是任何常数大于1,我们提供了一个本质上紧的复杂性表征。在积极的一面,我们给出了一个$α= 1.01$近似适当的学习器,使用$O(1/(ε^2γ^2))$样本(这是最佳的),并运行在时间$\mathrm{poly}(d/ε) \cdot 2^{\tilde{O}(1/γ^2)}$。在消极的一面,我们表明,{ \em任何}常数因子近似适当的学习有运行时$\mathrm{poly}(d/ε) \cdot 2^{(1/γ)^{2-o(1)}}$,假设指数时间假设。
2019-08-29 cs.DS cs.LG stat.ML
Robust estimation algorithms don't need to know the corruption level
University of California, San Diego(加利福尼亚大学圣地亚哥分校)
真实的数据很少是纯粹的。因此,在过去的半个世纪里,人们对稳健的估计算法产生了极大的兴趣,这些算法即使在部分数据损坏的情况下也能表现良好。然而,只有在给定损坏数据比例的严格上限时,它们的绝大多数才接近最佳精度。这种界限在实践中是不可用的,从而导致弱保证和通常较差的性能。这篇简短的笔记将复杂而普遍的鲁棒性问题抽象成一个简单的几何难题。然后,它适用于难题的解决方案,以获得一个通用的Meta技术,转换任何强大的估计算法,需要一个严格的腐败水平的上限,以实现其最佳的准确性到一个实现基本上相同的准确性,而不使用任何上限。
2022-02-11 cs.LG stat.ML
Still no free lunches: the price to pay for tighter PAC-Bayes bounds
Inria(法国国家信息与自动化研究所);University College London(伦敦大学学院);Université Paris-Saclay(巴黎萨克雷大学)
“没有免费的午餐”结果表明,在没有事先假设和建模的情况下,不可能获得学习算法误差的有意义的范围。有些模型是昂贵的(强假设,如亚高斯尾),其他的是便宜的(简单的有限方差)。众所周知,你付出的越多,你得到的就越多:换句话说,最昂贵的模型产生的边界更有趣。鲁棒统计学的最新进展研究了在保持成本最小的同时获得紧界的过程。本论文探讨和展览的限制是什么,以获得紧凑的PAC-贝叶斯界在一个强大的设置便宜的模型,解决的问题:PAC-贝叶斯好钱的价值?
2019-10-10 cs.LG math.ST stat.ML
Tricking the Hashing Trick: A Tight Lower Bound on the Robustness of CountSketch to Adaptive Inputs
Google Research(谷歌研究院);Tel Aviv University(特拉维夫大学);UC Berkeley(加州大学伯克利分校)
CountSketch和Feature Hashing(“hashing trick”)是流行的随机降维方法,支持恢复$\ell_2$ -重命中者(键$i$,其中$v_i^2 > ε\|\boldsymbol{v}\|_2^2$)和近似内积。当输入是{ \em非自适应}(不依赖于先前的输出)时,应用于大小为$O(\ell/ε)$的草图的经典估计器对于在$\ell$中呈指数的查询数量是准确的。然而,当输入是自适应的时,可以在使用经典估计器的$O(\ell)$查询之后构造对抗输入,并且最知名的鲁棒估计器仅支持$\tilde{O}(\ell^2)$查询。在这项工作中,我们表明,这种二次依赖是在某种意义上固有的:我们设计了一个攻击后,$O(\ell^2)$查询产生一个对抗性的输入向量,其草图是高度偏见。我们的攻击使用“自然”非自适应输入(只有最终的对抗输入是自适应选择的),并普遍适用于任何正确的估计,包括攻击者未知的估计。在这一点上,我们暴露了这种基本方法的内在脆弱性。
2022-08-28 cs.CR cs.DS cs.LG
Byzantine-Robust Distributed SGD: A Unified Analysis and Tight Error Bounds
School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences(中国科学院大学前沿交叉科学学院);School of Mathematical Sciences, University of Chinese Academy of Sciences(中国科学院大学数学科学学院);Ministry of Education Key Laboratory of Mathematics and Information Networks, School of Mathematical Sciences, Beijing University of Posts and Telecommunications(北京邮电大学数学科学学院数学与信息网络教育部重点实验室)
本文研究了容错分布式随机梯度下降,分析了带和不带局部动量的变体,推导了非凸光滑目标和满足Polyak-Lojasiewicz条件的收敛速率,并给出了匹配下界以证明上界是紧的。
2026-04-11 cs.LG math.OC
PAC-Bayesian Adversarially Robust Generalization for Message Passing Graph Neural Networks: A Sensitivity Analysis
School of Information Science and Engineering, Southeast University(信息科学与工程学院,东南大学);Squirrel Ai Learning
通过敏感性感知的PAC-Bayesian框架,利用输出雅可比矩阵的秩约束和异向高斯后验,为消息传递图神经网络导出更紧的对抗鲁棒泛化界。
2026-06-04 cs.LG stat.ML
Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks
University of California, Santa Barbara(加州大学圣巴巴拉分校);Georgia Institute of Technology(佐治亚理工学院)
我们使用区间可达性分析来获得隐式神经网络(INNs)的鲁棒性保证。INN是一类使用隐式方程作为层的隐式学习模型,并且已经被证明比传统的深度神经网络具有几个显著的优点。我们首先建立紧包含函数的神经网络,它提供了最紧密的矩形过近似的输入输出映射,导致更尖锐的鲁棒性保证比研究充分的鲁棒性措施的本地Lipschitz常数。像Lipschitz常数,紧包含函数是计算上具有挑战性的获得,因此,我们建议使用混合单调性和收缩理论,以获得计算效率的估计,紧包含函数的INN。我们表明,我们的方法执行至少以及,一般优于,应用国家的最先进的区间界限传播方法的INNs。我们设计了一个新的优化问题来训练鲁棒的INN,我们提供了经验证据表明,适当训练的INN可以比比较训练的前馈网络更强大。
2022-04-01 cs.LG cs.SY eess.SY
Robustness Analysis of Neural Networks via Efficient Partitioning with Applications in Control Systems
Massachusetts Institute of Technology(麻省理工学院)
神经网络(NN)现在通常在必须在不确定环境中运行的系统上实现,但是用于正式分析这种不确定性如何传播到NN输出的工具还不常见。在NN输出集(给定输入集)上计算紧边界提供了与NN决策相关的置信度度量,并且对于在安全关键系统上部署NN至关重要。最近的作品近似的传播集通过非线性激活或分区的不确定性集提供一个有保证的外边界上的一组可能的NN输出。然而,边界松散导致过度保守和/或计算太慢,在线分析。本文统一的传播和分区的方法,提供了一个家庭的鲁棒性分析算法,提供更严格的界限比现有的作品相同的计算时间(或减少计算工作量所需的精度水平)。此外,我们提供了新的分区技术,这些技术知道其当前的边界估计和所需的边界形状(例如,下界、加权$\ell_\infty$ -球、凸包),导致计算紧密性折衷的进一步改进。本文证明了更严格的界限和减少保守性的建议鲁棒性分析框架的例子,从无模型RL和正运动学学习。
2020-12-07 cs.LG cs.SY eess.SY
Renyi Differential Privacy of Propose-Test-Release and Applications to Private and Robust Machine Learning
Princeton University(普林斯顿大学);Virginia Tech(弗吉尼亚理工大学)
提议-测试-发布(PTR)是一个差分隐私框架,它使用函数的局部敏感性,而不是它们的全局敏感性。该框架通常用于以差异化的私有方式发布稳健的统计数据,例如中位数或修剪均值。虽然PTR是十多年前引入的一个通用框架,但在鲁棒SGD等需要许多自适应鲁棒查询的应用程序中使用它是具有挑战性的。这主要是由于缺乏Renyi差分隐私(RDP)分析,这是差异隐私深度学习的矩会计方法的基本成分。在这项工作中,我们推广了标准PTR,并推导出第一RDP界时,目标函数具有有界的全局灵敏度。我们表明,我们的RDP约束PTR产生更严格的DP保证比直接分析的$(\eps, δ)$ -DP。我们还推导出算法特定的隐私放大界限的PTR下采样。我们表明,我们的界是更严格的比一般的上限和接近下限。我们的RDP界限,使更严格的隐私损失计算组成的许多自适应运行的PTR。作为我们的分析的应用,我们表明,PTR和我们的理论结果可以用来设计不同的私人变量拜占庭强大的训练算法,使用强大的统计梯度聚合。我们在不同的数据集和架构上对标签,特征和梯度腐败的设置进行了实验。我们表明,基于PTR的私人和强大的训练算法显着提高了效用相比,基线。
2022-09-16 cs.CR cs.LG
Bounding the Expected Robustness of Graph Neural Networks Subject to Node Feature Attacks
LIX, Ecole Polytechnique(巴黎综合理工学院LIX实验室);IP Paris(巴黎理工学院);EECS, KTH(瑞典皇家理工学院电子工程与计算机科学学院);Ecole Polytechnique(巴黎综合理工学院)
本文理论定义了属性图中的期望鲁棒性,推导了GNN在节点特征攻击下的上界,并提出基于权重矩阵正交性的更鲁棒变体GCORN,实验证明其优于现有防御方法。
2024-04-27 cs.AI cs.CR cs.LG
Tight and Robust Private Mean Estimation with Few Users
Google Research(谷歌研究院);MIT(麻省理工学院)
在这项工作中,我们研究了用户级差分隐私下的高维均值估计,并设计了一个$(\varepsilon,δ)$差分隐私机制,使用尽可能少的用户。特别是,我们提供了一个接近最佳的权衡用户的数量和每个用户的私人均值估计所需的样本数,即使当用户的数量低至$O(\frac{1}{\varepsilon}\log\frac{1}δ)$。有趣的是,\emph{users}的数量上的这个界限与维度无关(尽管\emph{samples per user}的数量可以多项式地依赖于维度),这与以前的工作不同,以前的工作需要用户的数量多项式地依赖于维度。这解决了一个问题,首先提出了阿明等人。此外,我们的机制是强大的腐败高达$49\%$的用户。最后,我们的结果也适用于最佳算法,私人学习离散分布与少数用户,回答了刘等人的问题,以及更广泛的问题,例如随机凸优化和经由对差分私有均值估计的简化的随机梯度下降的变体。
2022-06-12 cs.CR cs.DS cs.LG
Robust Distributed Learning: Tight Error Bounds and Breakdown Point under Data Heterogeneity
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本文针对数据异质性场景,提出 (G,B)-梯度不相似性模型,证明其崩溃点低于经典比例 1/2,并给出分布式学习误差的匹配上下界,从而缩小了鲁棒分布式学习理论与实践的差距。
2023-10-28 cs.DC cs.LG math.OC
LinSyn: Synthesizing Tight Linear Bounds for Arbitrary Neural Network Activation Functions
University of Southern California(南加利福尼亚大学)
验证神经网络鲁棒性的最可扩展方法取决于计算网络激活函数的合理线性上下界。目前的方法是有限的,因为线性边界必须由专家手工制作,并且可能是次优的,特别是当网络的架构使用例如LSTM中的乘法和最近流行的Swish激活来组成操作时。对专家的依赖阻止了鲁棒性认证应用于激活函数的最新发展,此外,缺乏紧密性保证可能会给人一种关于特定模型的不安全感。据我们所知,我们是第一个考虑自动计算任意n维激活函数的紧线性界的问题。我们提出了LinSyn,第一种方法,实现了任何任意激活函数的严格界限,同时只利用激活函数本身的数学定义。我们的方法利用一个有效的启发式方法来合成的界限是紧密的,通常声音,然后验证的合理性(并调整边界,如果必要的话)使用高度优化的分支和边界SMT求解器,dReal。尽管我们的方法依赖于SMT求解器,但我们表明,在实践中运行时间是合理的,并且与最先进的方法相比,我们的方法通常可以实现2- 5倍的最终输出边界和超过四倍的认证鲁棒性。
2022-01-31 cs.LG cs.LO cs.NA
GPU-Parallel Linearization Error Bounds for Real-Time Robust Optimal Control of Nonlinear and Neural Network Dynamics
提出GPU并行线性化误差界(LEBs),结合系统级综合与鲁棒控制求解器,实现非线性与神经网络动力学实时鲁棒最优控制,在168维状态上达到67 Hz求解速度。
2026-07-02 cs.AI cs.LG cs.RO
Tight Sampling Complexity with Stochastic Gradient Oracles in Fixed Dimensions
Shanghai University of Finance and Economics(上海财经大学)
本文针对固定维度下光滑强对数凹分布,利用随机梯度预言机,证明了达到给定TV精度的采样复杂度下界与上界,并给出同时关于条件数和精度的紧界,且适应无噪声情形。
2026-09-29 cs.LG math.PR math.ST
On the Paradox of Certified Training
ETH Zurich(苏黎世联邦理工学院)
基于凸松弛的认证防御是一种用于训练可证明鲁棒模型的成熟技术。关键部分是松弛的选择,从简单的间隔到紧密的多面体。与直觉相反,松散的基于区间的训练通常会导致比更严格的放松所能实现的更高的认证鲁棒性,这是一个众所周知但知之甚少的悖论。虽然最近的工作介绍了各种改进,旨在规避这个问题在实践中,具有高认证的鲁棒性的训练模型的基本问题仍然没有解决。在这项工作中,我们调查了悖论背后的根本原因,并确定了放松的两个关键属性,除了紧密性,影响认证的培训动态:连续性和敏感性。我们广泛的实验评估与一些流行的凸松弛提供了强有力的证据,这些因素可以解释更严格的松弛观察到的认证的鲁棒性下降。我们还系统地探索了现有弛豫的修改,并发现改善不利的性质是具有挑战性的,因为这种尝试往往会损害其他性质,揭示了一个复杂的权衡。我们的研究结果代表了理解认证培训中涉及的复杂优化挑战的重要第一步。
2022-10-12 cs.AI cs.LG
Tight Stability, Convergence, and Robustness Bounds for Predictive Coding Networks
University of South Florida(南佛罗里达大学);VERSES AI Research Lab(VERSES AI 研究院);Vienna University of Technology(维也纳技术大学);Rochester Institute of Technology(罗切斯特理工学院)
该研究借助动力系统理论严格分析预测编码(PC)的稳定性、鲁棒性与收敛性,证明其李雅普诺夫稳定性与拟牛顿法近似特性,并给出PC与反向传播、目标传播相似性的新理论界,深化了对PC优势的理论理解。
2024-10-07 cs.AI cs.LG cs.NE
Tight Regret Bounds for Stochastic Combinatorial Semi-Bandits
Adobe Research(Adobe研究院);Yahoo Labs(雅虎实验室);Technicolor Labs(Technicolor实验室);University of Alberta(阿尔伯塔大学)
随机组合半强盗是一个在线学习问题,其中在每一步中,学习代理选择一个受约束的基础项目的子集,然后观察这些项目的随机权重,并接收它们的总和作为回报。在本文中,我们关闭的问题,计算和样本有效学习的随机组合半土匪。特别是,我们分析了一个类似UCB的算法来解决这个问题,这是已知的计算效率,并证明$O(K L (1 / Δ) \log n)$和$O(\sqrt{K L n \log n})$上界的$n$ -步遗憾,其中$L$是地面项目的数量,$K$是最大数量的选择项目,和$Δ$是最佳和最佳次优解决方案的预期收益之间的差距。间隙依赖性结合紧密到常数因子,而无间隙结合紧密到多对数因子。
2015-01-27 cs.AI cs.LG math.OC
Convolutional Neural Networks for Spherical Signal Processing via Spherical Haar Tight Framelets
City University of Hong Kong(香港城市大学)
在本文中,我们开发了一个一般的理论框架,用于构造Haar型紧框架上的任何紧集的层次划分。特别地,我们在2-球面上构造了一个新的面积正则层次划分,并建立了相应的具有方向性的球面Haar紧框架。最后,我们通过评估和说明我们的面积规则的球形Haar紧小框架在几个去噪实验的有效性。此外,我们提出了一个卷积神经网络(CNN)模型的球形信号去噪,采用快速小框架分解和重建算法。实验结果表明,我们提出的CNN模型优于阈值方法,并具有较强的泛化能力和鲁棒性。
2022-01-17 cs.CV cs.LG eess.SP
Understanding Certified Training with Interval Bound Propagation
ETH Zürich(苏黎世联邦理工学院)
本文提出衡量 IBP 边界紧致性的新指标,从理论和实验上解释 IBP 认证训练成功的机制及其鲁棒性—准确率权衡,并指出改进训练方法的方向。
2026-11-03 cs.AI cs.LG
E-Globe: Scalable $ε$-Global Verification of Neural Networks via Tight Upper Bounds and Pattern-Aware Branching
University of Texas at Austin(德克萨斯大学奥斯汀分校);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
E-Globe通过紧上界和模式感知分支实现神经网络的高效ε-全局验证,显著提升验证速度和精度。
2026-02-04 cs.AI cs.LG
Robust expected improvement for Bayesian optimization
NORC at the University of Chicago(芝加哥大学NORC研究中心);University of Chicago(芝加哥大学);Virginia Tech(弗吉尼亚理工大学)
针对贝叶斯优化中期望改进难以获得宽吸引域鲁棒最优解的问题,提出融合对抗目标的鲁棒期望改进方法,并在合成与真实任务上验证比较。
2023-08-14 cs.LG stat.ME
Robust Training and Verification of Implicit Neural Networks: A Non-Euclidean Contractive Approach
Georgia Institute of Technology(佐治亚理工学院);University of California, Santa Barbara(加州大学圣巴巴拉分校)
提出了一种基于非欧收缩理论的隐式神经网络训练和鲁棒性验证的理论和计算框架。其基本思想是将神经网络的鲁棒性分析转化为可达性问题,并利用$\ell_{\infty}$ -范数输入输出Lipschitz常数和网络的紧包含函数过逼近其可达集。首先,对于一个给定的隐式神经网络,我们使用$\ell_{\infty}$ -矩阵措施,提出了它的适定性的充分条件,设计了一个迭代算法来计算其不动点,并提供其$\ell_\infty$ -范数输入输出Lipschitz常数的上界。其次,我们介绍了一个相关的嵌入式网络,并表明嵌入式网络可以用来提供一个$\ell_\infty$ -范数盒过逼近的可达集的原始网络。此外,我们使用嵌入式网络设计了一个迭代算法来计算原系统的紧包含函数的上界。第三,我们利用Lipschitz常数的上界和紧包含函数的上界设计了两个隐式神经网络的训练和鲁棒性验证算法。最后,我们应用我们的算法训练隐式神经网络的MNIST数据集和比较我们的模型的鲁棒性,通过现有的方法在文献中训练的模型。
2022-08-08 cs.LG cs.SY eess.SY