Bayesian Advantage of Re-Identification Attack in the Shuffle Model
School of Computer Science Peking University（北京大学计算机学院）；National Engineering Research Center of Software Engineering Peking University（北京大学软件工程国家工程研究中心）
本文首次系统研究洗牌模型下重识别攻击的贝叶斯优势，推导出成功概率的精确解析表达式与渐近刻画，建立其与总变差距离的紧致互界，并首次给出洗牌差分隐私中攻击成功概率至多为 $e^{\varepsilon}/n$ 的上界。
2025-11-05 cs.CR
Bayesian Perspective on Memorization and Reconstruction
Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究）
本文提出数据重构的贝叶斯视角及可防重构攻击的安全定义，指出指纹代码攻击实为成员推理攻击，并证明若仅防重构则 FPC 的不可能性结果不再适用。
2025-05-29 cs.CR cs.LG
Backdoor Attacks on Bayesian Neural Networks using Reverse Distribution
University of Florida（佛罗里达大学）
由于成本和上市时间的限制，许多行业将机器学习模型（ML）的训练过程外包给第三方云服务提供商，通常称为ML-asa-Service（MLaaS）。MLaaS为对手创造了机会，为用户提供后门ML模型，仅在极其罕见的情况下（攻击者选择的）产生不正确的预测。贝叶斯神经网络（BNN）具有固有的免疫力，对后门攻击，因为权重被设计为边际分布，以量化的不确定性。在本文中，我们提出了一种新的后门攻击的基础上有效的学习和有针对性地利用反向分布。本文作出了三个重要贡献。(1)据我们所知，这是第一个后门攻击，可以有效地打破BNN的鲁棒性。(2)当触发器被激活时，我们产生反向分布来抵消原始分布。(3)我们提出了一个有效的解决方案，合并BNN的概率分布。在不同基准数据集上的实验结果表明，我们提出的攻击可以达到100%的攻击成功率（ASR），而最先进的攻击的ASR低于60%。
2022-05-18 cs.AI cs.CR
Robustness of Bayesian Neural Networks to White-Box Adversarial Attacks
Pennsylvania State University（宾夕法尼亚州立大学）；Applied Research Solutions（应用研究解决方案公司）；Air Force Research Lab（空军研究实验室）
贝叶斯神经网络（BNN）与传统的神经网络（TNN）不同，它具有鲁棒性，并且通过引入随机性来处理对抗攻击。这种随机性改善了对不确定性的估计，这是TNN缺乏的一个特征。因此，我们使用多个贝叶斯神经架构研究BNN对白盒攻击的鲁棒性。此外，我们通过融合贝叶斯推理（即，变分贝叶斯）到DenseNet架构和BDAV，通过将这种干预与对抗训练相结合。在CIFAR-10和FGVC-Aircraft数据集上进行了实验。我们使用强大的白盒攻击（$l_\infty$ -FGSM、$l_\infty$ -PGD、$l_2$-PGD、EOT $l_\infty$ -FGSM和EOT $l_\infty$ -PGD）来攻击我们的模型。在所有实验中，至少有一个BNN在对抗攻击场景中优于传统的神经网络。在大多数实验中，经过对抗训练的BNN优于其非贝叶斯的、经过对抗训练的对应物，并且通常具有显著的优势。最后，我们研究了网络校准，发现BNN不会做出过于自信的预测，这证明BNN在测量不确定性方面也更好。
2021-11-16 cs.CR cs.CV cs.LG
Radial Spike and Slab Bayesian Neural Networks for Sparse Data in Ransomware Attacks
University of Wisconsin（威斯康星大学）；Microsoft（微软）；Securonix
勒索软件攻击正以惊人的速度增长，导致巨大的财务损失、不可恢复的加密数据、数据泄露和隐私问题。需要及时检测勒索软件攻击，以尽量减少进一步的损害，特别是在加密阶段。然而，观察到的勒索软件攻击数据的频率和结构使得这项任务在实践中难以完成。与勒索软件攻击相对应的数据表示时间、高维稀疏信号，具有有限的记录和非常不平衡的类别。虽然传统的深度学习模型已经能够在各种领域取得最先进的结果，但贝叶斯神经网络是一类概率模型，更适合勒索软件数据的问题。这些模型将贝叶斯统计的思想与神经网络的丰富表达能力相结合。在本文中，我们提出了径向尖峰和板贝叶斯神经网络，这是一种新型的贝叶斯神经网络，其中包括一个新的形式的近似后验分布。该模型可以很好地扩展到大型架构，并恢复目标函数的稀疏结构。我们提供了一个理论上的理由，使用这种类型的分布，以及计算效率高的方法来执行变分推理。我们在勒索软件攻击的真实数据集上展示了我们模型的性能，并在大量基线上显示了改进，包括最先进的模型，如神经ODE（常微分方程）。此外，我们建议将低级别事件表示为MITRE ATT\&CK策略、技术和程序（TTP），这使得模型能够更好地推广到看不见的勒索软件攻击。
2022-05-29 cs.CR cs.LG
BO-DBA: Query-Efficient Decision-Based Adversarial Attacks via Bayesian Optimization
Stevens Institute of Technology（史蒂文斯理工学院）
基于决策的攻击（DBA）是一种针对深度神经网络（DNN）的严重对抗攻击，攻击者仅通过观察输出标签来扰乱输入以欺骗学习算法，只需要对攻击者的最小知识。最先进的DBA攻击依赖于零阶梯度估计，需要大量的查询。最近，贝叶斯优化（BO）在减少基于分数的攻击（SBA）中的查询数量方面表现出了很大的潜力，在SBA中，攻击者需要观察实值概率分数作为输出。然而，将BO扩展到DBA的设置是不平凡的，因为在DBA中，攻击者只能使用输出标签而不是BO所需的实值分数。在本文中，我们提出了一个有效的DBA攻击，即BO-DBA，关闭这一差距。与现有方法不同，BO-DBA通过搜索所谓的\emph{directions of perturbations}来生成对抗性示例。然后，它制定了一个BO问题，最大限度地减少了扰动的实值失真的问题。通过优化的扰动生成过程，BO-DBA比最先进的DBA技术收敛得更快。在预训练的ImageNet分类器上的实验结果表明，BO-DBA在200个查询内收敛，而最先进的DBA技术需要超过15，000个查询才能达到相同的扰动失真水平。即使与基于BO的SBA攻击相比，BO-DBA也显示出类似的攻击成功率，但失真较小。
2023-01-19 cs.CR cs.LG
Gradient-Free Adversarial Attacks for Bayesian Neural Networks
Princeton University（普林斯顿大学）；University of Oxford（牛津大学）
对抗性例子的存在强调了理解机器学习模型鲁棒性的重要性。贝叶斯神经网络（BNN），由于其校准的不确定性，已被证明是有利的对抗鲁棒性。然而，当采用近似贝叶斯推理方法时，BNN的对抗鲁棒性仍然没有得到很好的理解。在这项工作中，我们采用无梯度优化方法来寻找BNN的对抗性示例。特别是，我们认为遗传算法，代理模型，以及零阶优化方法，并适应他们的目标，找到对抗性的例子BNN。在对MNIST和Fashion MNIST数据集的实证评估中，我们表明，对于各种近似贝叶斯推理方法，与最先进的基于梯度的方法相比，使用无梯度算法可以大大提高发现对抗性示例的速度。
2020-12-23 cs.CR cs.LG
Bayesian Watermark Attacks
Duke University（杜克大学）
本文提出了一种应用统计机器学习领域的水印。提出了一种新的加性扩频水印攻击模型。该攻击基于贝叶斯统计。我们考虑的情况下，其中的水印信号被反复嵌入在特定的，可能选择的基础上的秘密消息比特流，段（信号）的主机数据。主机信号可以表示来自图像或视频帧的像素块。我们提出了一个概率模型，推断嵌入的消息比特流和水印信号，直接从水印数据，而无需访问解码器。我们开发了一个有效的马尔可夫链蒙特卡罗采样器更新模型参数的共轭全条件后验。我们还提供了一个变分贝叶斯解决方案，这进一步提高了算法的收敛速度。仿真和真实图像信号的实验表明，该攻击模型能够正确地推断出大部分的消息比特流，并获得非常准确的估计的水印信号。
2012-06-18 cs.CR cs.LG cs.MM
ARCANE: Cross-Campaign Attacker Re-identification via Passive Beacon Telemetry -- A Bayesian Network Framework for Longitudinal Cyber Attribution
AI-WEINBERG
本文提出ARCANE框架，通过聚合跨活动被动 telemetry 构建持久攻击者指纹，发现跨活动归因无法完全消除归因模糊性，主要受限于特征空间的结构限制。
2026-04-27 cs.CR
A Bayesian Approach to Membership Inference for Statistical Release
Northeastern University（东北大学）；Proof Trading, Inc（Proof Trading公司）；Boston University（波士顿大学）
提出基于贝叶斯网络的成员推断攻击框架，利用属性依赖结构信息，通过概率编程计算后验概率，在复杂依赖结构上优于现有攻击。
2026-05-28 cs.CR cs.PL
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning
University of California, Los Angeles（加州大学洛杉矶分校）
精心制作的对抗样本有效地利用了深度神经网络的弱点。对抗鲁棒性的标准方法假设一个框架来防御通过最小限度地扰动样本以使其相应的模型输出发生变化而制作的样本。这些敏感性攻击利用了模型对与任务无关的特征的敏感性。另一种形式的对抗性样本可以通过不变性攻击来制作，这种攻击利用模型低估相关特征的重要性。以往的文献表明，在严格的L_p有界防御中，防御两种类型的攻击是一种折衷。为了提高对超越欧几里得距离度量的两种类型攻击的鲁棒性，我们使用度量学习将对抗正则化框架作为最优传输问题。我们的初步结果表明，在我们的框架中，正则化不变扰动提高了不变和敏感性防御。
2022-11-04 cs.AI cs.CR cs.LG
Trigger Where It Hurts: Unveiling Hidden Backdoors through Sensitivity with Sensitron
本文提出Sensitron框架，通过动态元敏感性分析、层次化SHAP估计和Plug-and-Rank机制将可解释性方法武器化，实现隐蔽且鲁棒的后门触发，以97.8%的ASR揭示NLP模型漏洞。
2025-09-23 cs.CR
Improving Transferability of Adversarial Examples via Bayesian Attacks
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；School of Mathematics and Statistics, University of Glasgow（格拉斯哥大学数学与统计学学院）；Department of Computer Science, University of California, Davis（加州大学戴维斯分校计算机科学系）
本文提出贝叶斯攻击方法，联合多样化模型参数与输入，提高对抗样本可迁移性，在ImageNet和CIFAR-10上达到新的最先进水平。
2025-10-15 cs.CR cs.CV cs.LG
Message Embedded cipher using 2-D chaotic map
分别利用二维混沌映射、Duffings映射和Arnold猫映射构造了两种加密方法。这两种方法都是采用消息嵌入方案设计的，并分析了它们对明文敏感性、密钥敏感性、已知明文和蛮干攻击的有效性。由于密钥空间有限，许多混沌密码系统对蛮干攻击的抵抗能力较弱，这是一个亟待解决的问题。针对这一问题，证明了可识别性的概念是所设计的混沌密码抵抗蛮干攻击这一基本攻击所必须满足的必要条件。由于二维混沌映射比一维混沌映射提供更多的密钥空间，因此二维混沌映射被认为是更合适的。这项工作是伴随着从这些开发的密码得到的分析结果。此外，可识别的键被搜索用于在各种键值处的不同输入文本。实验结果表明，该方法具有较好的密钥敏感性和可识别的密钥，可以抵抗线性攻击和蛮干攻击。
2012-08-09 cs.CR
Evaluation of the Sensitivity of RRAM Cells to Optical Fault Injection Attacks
电阻式随机存取存储器（RRAM）是一种非易失性存储器（NVM）。在本文中，我们研究的TiN/Ti/Al：HfO 2/TiN为基础的1 T-1 R RRAM单元实现在250 nm CMOS IHP技术的激光照射的敏感性详细。实验结果表明，在激光照射下，影响细胞的状态，即成功的光学故障注入的可行性。重点讨论了激光站参数的选择及其对光学故障注入成功的影响。
2022-01-17 cs.AR cs.CR
Sensitivity of Standard Library Cells to Optical Fault Injection Attacks in IHP 250 nm Technology
物联网由许多设备组成，如嵌入式系统，无线传感器节点（WSNs），控制系统等，其中一些设备必须保护它们处理和传输的信息。问题是，对手可能会窃取这些设备以获得对设备的物理访问。有多种方法可以揭示加密密钥。其中之一是光学故障注入攻击。我们成功地对不同类型的门进行了光学故障注入，特别是INV，NAND，NOR，FF。在我们的工作中，我们专注于选择的参数配置的攻击者和他们的影响，成功的故障注入。
2022-01-17 cs.AR cs.CR
Enhanced Audit Bit Based Distributed Bayesian Detection in the Presence of Strategic Attacks
本文采用了基于审计位的机制，以减轻拜占庭攻击的影响。在此框架下，研究了智能攻击者对传统的基于位的审计方案（TAS）的最优攻击策略，以评估系统的鲁棒性。我们表明，它是可能的智能攻击者降低TAS的性能，系统没有审计位。为了提高系统的鲁棒性存在的智能攻击者，我们提出了一个增强的审计位为基础的计划（EAS）。推导了该方案的最优融合规则，并通过系统的错误概率评估了系统的检测性能。仿真结果表明，所提出的EAS提高了系统的鲁棒性和检测性能。此外，基于EAS，另一种新的方案称为减少审计位为基础的方案（RAS），进一步提高系统的性能。仿真结果表明，RAS在鲁棒性和检测性能方面均优于EAS和TAS。然后，我们提出了一个广域集群为基础的分布式无线传感器网络（CWSNs）的RAS。仿真结果表明，该RAS协议显著降低了传感器与FC之间的通信开销，延长了网络的生存时间。
2021-09-27 cs.CR eess.SP
Adversarial Attacks on Graph Classification via Bayesian Optimisation
University of Oxford（牛津大学）
图神经网络是一种在广泛的基于图的学习任务中有效的流行模型，已被证明容易受到对抗性攻击。虽然大多数文献都集中在节点级分类任务中的这种脆弱性上，但很少有人致力于分析对图级分类的对抗性攻击，这是生物化学和社交网络分析等众多现实应用的一个重要问题。现有的几种方法通常需要不切实际的设置，例如访问受害者模型的内部信息，或者不切实际的大量查询。我们提出了一种新的贝叶斯优化为基础的攻击方法的图分类模型。我们的方法是黑盒，查询效率和吝啬的扰动。我们经验验证了所提出的方法的有效性和灵活性，广泛的图形分类任务，涉及不同的图形属性，约束和攻击模式。最后，我们分析了产生的对抗样本背后的常见可解释模式，这可能会进一步揭示图分类模型的对抗鲁棒性。
2021-11-04 cs.AI cs.CR cs.LG
On the Robustness of Bayesian Neural Networks to Adversarial Attacks
University of Trieste（的里雅斯特大学）；TU Delft University（代尔夫特理工大学）；SISSA, International School of Advanced Studies（国际高等研究学院（SISSA））；University of Edinburgh（爱丁堡大学）；University of Oxford（牛津大学）
本文从过参数化极限下的攻击几何出发，证明BNN后验的损失期望梯度消失，从而对基于梯度的对抗攻击具有鲁棒性，并经多数据集实验验证其兼具高准确率与攻击鲁棒性。
2024-02-28 cs.AI cs.CR cs.LG
Bayesian adversarial multi-node bandit for optimal smart grid protection against cyber attacks
Xi'an Jiaotong-Liverpool University（西交利物浦大学）；University of Strathclyde（思克莱德大学）；University of New South Wales（新南威尔士大学）
智能电网的网络安全已成为发展可靠的现代电力和能源系统的关键问题之一。本文介绍了一种非平稳的对抗成本与变化约束的智能电网，使我们能够在一个相对实际的情况下，研究最佳的智能电网保护免受网络攻击的问题。特别地，构造了一个具有对抗成本的贝叶斯多节点强盗（MNB）模型，并定义了一个新的后悔函数。提出了一种求解该问题的算法-通过算例验证了该算法在实际智能电网中的适用性和性能。
2021-02-20 cs.CR cs.LG cs.SY
Trading Devil: Robust backdoor attack via Stochastic investment models and Bayesian approach
INRS-EMT, University of Québec（INRS-EMT大学）
针对音频后门攻击，提出基于随机投资模型与贝叶斯方法的MarketBack攻击，通过操纵音频风格属性，在污染少于1%训练数据时，对七个模型实现近100%攻击成功率。
2025-04-23 cs.CR cs.LG q-fin.CP
Dynamic Risk Assessment by Bayesian Attack Graphs and Process Mining
DIETI University of Naples Federico II（那不勒斯费德里科二世大学DIETI部门）；Department of Engineering University Campus Bio-Medico of Rome（罗马生物医学大学工程学院）
本文结合贝叶斯攻击图与过程挖掘技术，动态评估系统漏洞被利用的可能性，通过分析网络流量检测漏洞利用行为，更新概率表以实现风险评估。
2026-04-20 cs.CR cs.LG cs.NI
Attacks on Robust Distributed Learning Schemes via Sensitivity Curve Maximization
Imperial College London（伦敦帝国理工学院）
本文提出基于敏感度曲线最大化的新攻击方法，证明其能通过注入微小但有效的扰动破坏现有鲁棒聚合方案。
2023-04-27 cs.CR cs.LG eess.SP
Assessment of System-Level Cyber Attack Vulnerability for Connected and Autonomous Vehicles Using Bayesian Networks
Benedict College（本尼迪克特学院）；University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Clemson University（克莱姆森大学）
本研究提出了一种方法来量化网络攻击的脆弱性及其影响的基础上概率图形模型的智能交通系统下连接和自动驾驶汽车的框架。基于选定的性能指标，计算智能信号和协同自适应巡航控制（CACC）应用的各种类型的网络攻击漏洞及其影响。数值算例表明，在平均交叉口排队长度，停车次数，平均速度和延误方面的脆弱性的影响。在具有和不具有冗余系统的信号化网络中，脆弱性可分别使平均队列和延迟增加$3\%$和$15\%$以及$4\%$和$17\%$。对于CACC应用，当少量速度信息被扰动时，影响水平平均达到$50\%$延迟差。当攻击者插入显著不同的速度特性时，延迟差增加到超过正常业务条件的$100\%$。
2020-11-18 cs.AI cs.CR cs.SY
Asymptotic Analysis of Distributed Bayesian Detection with Byzantine Data
在这封信中，我们考虑的问题，分布式贝叶斯检测的数据伪造拜占庭在网络中的存在。分布式检测的问题被制定为一个二进制假设检验在融合中心（FC）的基础上发送的传感器的1位数据。采用自相关信息作为性能度量，研究了系统在拜占庭攻击下的检测性能。得到了拜占庭人致盲FC所需的最小攻击力的表达式。更具体地说，我们表明，在一定比例的拜占庭攻击者在网络中，检测方案变得完全无法利用传感器数据进行检测。当拜占庭的分数是不足以盲目的FC，我们也提供了封闭形式的表达式的最佳攻击策略的拜占庭，最降低检测性能。
2014-08-14 cs.CR cs.GT stat.AP
Asymptotic Security using Bayesian Defense Mechanism with Application to Cyber Deception
本文将攻防动态决策建模为随机信号博弈，证明贝叶斯防御机制在均衡下可渐近识别攻击或迫使系统恢复正常，并据此提出漏洞非对称认知下的防御性欺骗方法。
2023-12-07 cs.CR cs.GT cs.SY
The last Dance : Robust backdoor attack via diffusion models and bayesian approach
INRS-EMT, University of Québec（INRS-EMT大学）
本文提出一种名为BacKBayDiffMod的后门攻击方法，利用扩散模型和贝叶斯方法投毒音频Transformer的训练数据，实现对Hugging Face音频模型的有效攻击。
2025-04-20 cs.AI cs.CR cs.LG
Efficient Attack Graph Analysis through Approximate Inference
Imperial College London（帝国理工学院）
攻击图提供了攻击路径的紧凑表示，攻击者可以通过分析网络漏洞和拓扑来破坏网络资源。这些表示是安全风险评估的有力工具。攻击图上的贝叶斯推理能够估计系统组件在给定其漏洞和互连的情况下受到危害的风险，并解释通过系统传播的多步攻击。静态分析考虑静止状态下的风险状态，而动态分析也考虑了危害的证据，例如来自SIEM软件或法医调查的证据。然而，在这种情况下，精确的贝叶斯推理技术不能很好地扩展。在本文中，我们将展示如何循环的信念传播-一种近似推理技术-可以应用到攻击图，它的静态和动态分析的节点数线性缩放，使这种分析适用于更大的网络。我们在具有数千个节点的合成贝叶斯攻击图上进行了不同拓扑结构和网络聚类的实验，结果表明该算法的准确性是可以接受的，并且收敛到稳定的解决方案。我们比较了顺序和并行版本的循环信念传播与精确推理技术的静态和动态分析，近似推理技术的优势，规模更大的攻击图。
2016-06-22 cs.AI cs.CR stat.ML
On the Sensitivity of Deep Load Disaggregation to Adversarial Attacks
University of Klagenfurt（克拉根福大学）；University of Dubai（迪拜大学）；University of Sharjah（沙迦大学）
该研究针对深度负荷分解模型的安全问题，采用FGSM对抗攻击测试两种主流CNN-based NILM基准模型，证实其存在脆弱性，S2P模型受小噪声干扰F1值平均降20%，为能源管理系统安全敲响警钟。
2023-07-14 cs.CR cs.LG
Multicriteria Evaluation and Sensitivity Analysis on Information Security
信息安全在当今信息社会中扮演着重要的角色。对信息资产的网络攻击的数量和影响不断增加，导致管理者越来越意识到对信息的攻击实际上是对组织本身的攻击。遗憾的是，管理层信息安全评估的具体模型还没有很好地定义。在本研究中，决策分析的基础上，三元层次分析法（T-AHP）提出了一种新的模型，以帮助管理者负责作出战略评估有关的信息安全问题。此外，敏感性分析，以扩大我们的分析，通过使用几个“假设”的情况下，以衡量最终评估的一致性。最后，敏感性分析结果表明，管理者对企业绩效的最终评价具有显著的一致性。
2013-10-11 cs.CR cs.CY
Adv-BNN: Improved Adversarial Defense through Robust Bayesian Neural Network
UCLA（加州大学洛杉矶分校）；UC Davis（加州大学戴维斯分校）
我们提出了一种新的算法来训练一个强大的神经网络对抗对抗攻击。我们的算法是由以下两个想法的动机。首先，尽管最近的工作已经证明融合随机性可以提高神经网络的鲁棒性（Liu 2017），但我们注意到，盲目地向所有层添加噪声并不是引入随机性的最佳方式。相反，我们在贝叶斯神经网络（BNN）的框架下对随机性进行建模，以可扩展的方式正式学习模型的后验分布。其次，我们制定了BNN的最小-最大问题，学习最好的模型分布下对抗攻击，导致一个对抗训练贝叶斯神经网络。实验结果表明，该算法在强攻击下具有较好的性能。在具有VGG网络的CIFAR-10上，与对抗训练（Madry 2017）和随机自集成（Liu 2017）相比，在具有$0.035$失真的PGD攻击下，我们的模型的准确率提高了14%，并且在ImageNet的子集上差距变得更大。
2019-05-04 cs.AI cs.CR cs.LG
Moving Target Defense for Web Applications using Bayesian Stackelberg Games
Arizona State University（亚利桑那州立大学）
目前设计Web应用程序的复杂性使得软件安全性成为一个难以实现的目标。攻击者可以在Web上探索已部署的服务，并在自己的空闲时间进行攻击。Web应用程序中的移动目标防御（MTD）是一种有效的机制，可以抵消其侦察的优势，但框架在其Web堆栈的多个配置之间切换时需要一个良好的切换策略。为了解决这个问题，我们提出了一个真实世界的MTD Web应用程序的建模作为一个重复的贝叶斯游戏。然后，我们制定了一个优化问题，产生一个有效的切换策略，同时考虑不同的网络堆栈配置之间切换的成本。为了将这个模型到一个发达的MTD系统，我们开发了一个自动化系统，用于生成攻击集的常见漏洞和暴露（CVEs）的输入攻击者类型与预定义的功能。我们的框架通过使用从国家漏洞数据库（NVD）获得的CVE上的安全领域专业知识，在这个游戏中为玩家（防御者和攻击者）获得了现实的奖励值。我们还解决了优先处理漏洞的问题，当修复时，提高了MTD系统的安全性。最后，我们证明了我们提出的模型的鲁棒性，通过评估其性能时，有输入攻击者信息的不确定性。
2016-11-17 cs.AI cs.CR cs.GT
Efficient Black-box Adversarial Attacks via Bayesian Optimization Guided by a Function Prior
Tsinghua University（清华大学）；JQ Investments（JQ投资）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）；RealAI；Kaiyuan International Mathematical Sciences Institute（开源国际数学科学研究院）
本文提出先验引导的贝叶斯优化（P-BO）算法，利用替代白盒模型作为全局函数先验来提升黑盒对抗攻击的查询效率，并通过自适应集成策略优化先验权重，显著减少了查询次数并提高了攻击成功率。
2024-05-29 cs.AI cs.CR cs.CV
Trading Devil Final: Backdoor attack via Stock market and Bayesian Optimization
INRS-EMT, University of Québec（INRS-EMT大学）
本文提出基于声学数据投毒和股票市场模型的MarketBackFinal 2.0后门攻击，利用贝叶斯优化揭示语音Transformer依赖LLM时的潜在安全漏洞。
2025-04-23 cs.CR cs.LG q-fin.CP
Decision-based Black-box Attack Against Vision Transformers via Patch-wise Adversarial Removal
College of Intelligence and Computing（智能与计算学院）；Tianjin University（天津大学）；School of Cyberspace Science and Technology（网络空间安全学院）；Beijing Institute of Technology（北京理工大学）；National Key Laboratory of Science and Technology on Information System Security（信息系统安全科学与技术国家重点实验室）
与卷积神经网络（CNN）相比，视觉变换器（ViT）表现出令人印象深刻的性能和更强的对抗鲁棒性。一方面，ViTs对个体块之间的全局交互的关注降低了图像的局部噪声敏感性。另一方面，现有的基于决策的攻击忽略了图像区域之间的噪声敏感度差异，进一步损害了噪声压缩的效率，特别是对于ViT。因此，当目标模型只能被查询时，验证ViTs的黑盒对抗鲁棒性仍然是一个具有挑战性的问题。在本文中，我们从理论上分析了现有的基于决策的攻击的局限性，从图像的区域之间的噪声敏感性差异的角度来看，并提出了一种新的基于决策的黑盒攻击ViTs，称为Patch-wise对抗性删除（PAR）。PAR通过由粗到细的搜索过程将图像划分为小块，并分别压缩每个小块上的噪声。PAR记录每个补丁的噪声幅度和噪声敏感度，并选择具有最高查询值的补丁进行噪声压缩。此外，PAR可以用作其他基于决策的攻击的噪声初始化方法，以提高ViT和CNN的噪声压缩效率，而无需引入额外的计算。在三个数据集上进行的大量实验表明，PAR在相同的查询次数下实现了更低的噪声幅度。
2022-09-15 cs.CR cs.CV
Distributed Bayesian Detection with Byzantine Data
在本文中，我们考虑的问题，分布式贝叶斯检测在网络中的拜占庭的存在。假设网络中的一部分节点受到攻击并被对手重新编程，向融合中心（FC）发送错误信息，从而降低检测性能。分布式检测的问题制定为一个二元假设检验在FC的基础上发送的传感器的1位数据。得到了拜占庭人致盲FC所需的最小攻击力的表达式。更具体地说，我们表明，在一定比例的拜占庭攻击者在网络中，检测方案变得完全无法利用传感器数据进行检测。我们分析了不同的攻击方案下的问题，并得出不同的非渐近情况下的结果。据发现，现有的渐近为基础的结果不持有几个非渐近的情况下。当拜占庭的分数是不足以盲目的FC，我们也提供了封闭形式的表达式的最佳攻击策略的拜占庭，最降低检测性能。
2014-09-03 cs.CR cs.DC cs.GT
Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security
University of California, Berkeley（加利福尼亚大学伯克利分校）
针对自动驾驶轨迹预测器的输入扰动影响及下游安全风险问题，通过敏感性分析发现两类模型的扰动敏感点集中在最新状态，且图像地图扰动可引发预测误差激增，甚至导致车辆突然急停。
2024-05-20 cs.CR cs.LG cs.RO
Early detection of the advanced persistent threat attack using performance analysis of deep learning
University of Birjand（比尔詹德大学）；Mazandaran University of Science and Technology（马赞达兰科技大学）；Duy Tan University（维新大学）；National Yunlin University of Science and Technology（国立云林科技大学）；Obuda University（欧布达大学）；Norwegian University of Life Sciences（挪威生命科学大学）；Technische Universität Dresden（德累斯顿工业大学）；J. Selye University（J.塞利耶大学）
对受害者系统最常见和最重要的破坏性攻击之一是高级持续威胁（APT）攻击。APT攻击者可以通过获取有关网络基础设施的信息和获得经济利益来实现其敌对目标。检测秘密APT攻击的解决方案之一是使用网络流量。由于APT攻击在网络上存在很长时间的性质，以及网络可能因高流量而崩溃的事实，很难检测到这种类型的攻击。因此，在这项研究中，机器学习方法，如C5.0决策树，贝叶斯网络和深度神经网络用于及时检测和分类的NSL-KDD数据集上的APT攻击。此外，采用10折交叉验证法对模型进行了验证。其结果是，C5.0决策树、贝叶斯网络和6层深度学习模型的准确率（ACC）分别为95.64%、88.37%和98.85%，并且，在假阳性率（FPR）的重要标准方面，C5.0决策树的FPR值，贝叶斯网络和6层深度学习模型分别为2.56、10.47和1.13。实验结果表明，与其他分类模型相比，具有自动多层特征提取功能的深度学习模型在及时检测APT攻击方面具有最佳性能。
2020-09-19 cs.CR cs.LG stat.ML
Impact Sensitivity Analysis of Cooperative Adaptive Cruise Control Against Resource-Limited Adversaries
本文针对资源受限攻击，提出了CACC方案的敏感性分析建模框架，通过计算可达集的外部椭球近似来量化攻击损害，并发现不同控制器实现会显著影响攻击效果。
2023-09-07 cs.CR cs.SY eess.SY
PASA: Attack Agnostic Unsupervised Adversarial Detection using Prediction & Attribution Sensitivity Analysis
Rochester Institute of Technology（罗切斯特理工学院）；Toyota Motor North America（丰田北美汽车公司）；University of Florida（佛罗里达大学）
针对深度神经网络易受对抗攻击的问题，提出PASA方法，利用模型预测与特征归因对噪声敏感的特性，通过计算两种测试统计量并设定阈值，实现攻击无关的无监督对抗样本检测，在多种数据集上优于现有方法。
2024-04-12 cs.AI cs.CR cs.LG
PerD: Perturbation Sensitivity-based Neural Trojan Detection Framework on NLP Applications
University of California San Diego（加州大学圣地亚哥分校）
深度神经网络（DNN）已被证明易受特洛伊木马攻击。神经木马是一种有针对性的中毒攻击，它将后门嵌入受害者，并由输入空间中的触发器激活。DNN在关键系统中的部署越来越多，外包DNN培训的激增（这使得特洛伊木马攻击更容易）使得检测特洛伊木马攻击变得必要。虽然神经木马检测已经在图像领域进行了研究，但在NLP领域缺乏解决方案。在本文中，我们提出了一个模型级的木马检测框架，通过分析的偏差模型输出时，我们引入了一个特制的扰动输入。特别是，我们提取模型的响应扰动输入的“签名”的模型和训练的元分类器，以确定是否一个模型是木马基于其签名。我们在我们创建的NLP模型数据集和来自TrojAI的特洛伊NLP模型公共数据集上证明了我们提出的方法的有效性。此外，我们提出了一个轻量级的变化，我们的检测方法，减少检测时间，同时保持检测率。
2022-08-08 cs.CL cs.CR cs.LG
Fundamental Tradeoffs between Invariance and Sensitivity to Adversarial Perturbations
Stanford University（斯坦福大学）；University of Bremen（不来梅大学）；Google Brain（谷歌大脑）；Vector Institute（向量研究所）；University of Toronto（多伦多大学）
对抗性示例是恶意输入，旨在诱导错误分类。通常研究的基于敏感性的对抗性示例会对输入引入语义上的微小变化，从而导致不同的模型预测。本文研究了一种互补的失败模式，基于不变性的对抗性示例，它引入了最小的语义变化，修改了输入的真实标签，但保留了模型的预测。我们展示了这两种类型的对抗性例子之间的基本权衡。我们发现，防御基于敏感性的攻击，积极损害模型的准确性不变性为基础的攻击，并需要新的方法来抵御这两种攻击类型。特别是，我们通过生成模型（可证明）鲁棒的小扰动来打破最先进的对抗训练和证明鲁棒的模型，但根据人类标签改变输入的类别。最后，我们正式表明，过度不变的分类器的存在产生于标准数据集中过度强大的预测功能的存在。
2020-08-04 cs.CR cs.CV cs.LG
