ShieldScatter: Improving IoT Security with Backscatter Assistance
轻量级协议和低功耗无线电技术为物联网（IoT）进入我们的日常生活提供了许多机会，而由于缺乏复杂的安全协议，它们的极简设计也使物联网设备容易受到许多主动攻击。最近的进展提倡使用天线阵列来提取细粒度的物理层签名，以减轻这些主动攻击。然而，它增加了物联网设备无法承受的能耗和硬件成本方面的负担。为了克服这种困境，我们提出了ShieldScatter，一个轻量级的系统，将无电池的反向散射标签连接到单天线设备，以保护系统免受主动攻击。ShieldScatter的关键见解是通过仔细部署反向散射标签来有意创建多路径传播签名。这些特征可用于构建敏感的配置文件，以识别信号到达的位置，从而检测威胁。我们原型ShieldScatter与USRP和环境反向散射标签，以评估我们的系统在各种环境中。实验结果表明，即使攻击者距离合法设备仅15厘米，仅使用三个反向散射标签的ShieldScatter也可以减轻97%的欺骗攻击尝试，同时仅对7%的合法流量触发错误警报。
2018-10-16 cs.CR
On Improving Robustness of Deepfake Image Detectors
Concordia University（康考迪亚大学）
针对深度伪造检测器在对抗攻击下性能严重下降的问题，提出一种不依赖对抗训练的统一框架，通过频域高阶统计建模、内容无关噪声残差特征和补丁级语义破坏增强鲁棒性。
2026-06-04 cs.CR
Multi-Layer Perceptron Neural Network for Improving Detection Performance of Malicious Phishing URLs Without Affecting Other Attack Types Classification
New York University（纽约大学）
这里的假设指出，神经网络算法，如多层感知器（MLP）在区分恶意和半结构化钓鱼URL方面具有更高的准确性。与经典的机器学习算法如Logistic Regression和Multinomial Naive Bayes相比，经典算法严重依赖于大量的语料库数据训练和机器学习专家的领域知识来执行复杂的特征工程。MLP可以进行非线性的可分离多类分类，并且不需要太多的语料特征训练。此外，反向传播权重调整可以了解哪些特征在区分网络钓鱼和其他攻击类型方面更重要。
2022-02-25 cs.CR cs.LG
Improving Network Intrusion Detection Classifiers by Non-payload-Based Exploit-Independent Obfuscations: An Adversarial Approach
基于机器学习的入侵检测分类器能够检测到未知的攻击，但同时，它们可能容易被混淆技术规避。一个对手入侵者，拥有一个保护系统的关键知识，可以很容易地绕过检测模块。我们的工作的主要目标是提高入侵检测分类器对这样的对手的性能能力。为此，我们首先提出了几种基于网络连接的各种属性的修改的远程攻击的混淆技术，然后我们进行了一组全面的实验，以评估入侵检测分类器对混淆攻击的有效性。我们通过一个基于NetEm和Metasploit的工具来实例化我们的方法，该工具在任何TCP通信上实现了我们的混淆操作符。这使我们能够为机器学习实验生成修改后的网络流量，这些实验采用用于评估网络统计数据和TCP连接行为的功能。我们执行五个分类器的评估：高斯朴素贝叶斯，高斯朴素贝叶斯与核密度估计，逻辑回归，决策树，和支持向量机。我们的实验证实了这样一个假设，即在没有关于混淆攻击的先验知识的情况下训练的所有分类器都可以逃避入侵检测能力，从而导致TPR从7.8%到66.8%的恶化。此外，当通过混淆攻击的子集扩大分类器的训练知识时，我们实现了TPR的4.21% -73.3%的显着改善，而FPR仅略有恶化（0.1% - 1.48%）。最后，我们测试了模糊感知分类器检测未知模糊攻击的能力，其中大多数模糊攻击的平均检测率超过90%。
2018-12-12 cs.CR
Combining ensemble methods and social network metrics for improving accuracy of OCSVM on intrusion detection in SCADA systems
现代监控和数据采集SCADA系统被电力公用事业行业用来监测和控制发电、输电和配电，如今被认为是电力输送基础设施的关键组成部分。SCADA系统是大型的、复杂的，并且包含越来越多的广泛分布的组件。实时的入侵检测机制的存在，它可以应付不同类型的攻击，是非常重要的，为了保护系统免受网络攻击这种防御机制必须是分布式的，廉价的，最重要的是准确的，因为假阳性警报，或错误的入侵的起源意味着严重的成本系统。最近提出了一种集成的检测机制，即IT-OCSVM，它分布在SCADA网络中作为分布式入侵检测系统（IDS）的一部分，提供有关入侵的起源和时间的准确数据。在本文中，我们还分析了综合检测机制的体系结构，我们进行了广泛的模拟的基础上，在一个小型的SCADA测试平台，以评估所提出的机制的性能。
2015-07-16 cs.CR
Improving Adversarial Transferability via Neuron Attribution-Based Attacks
The Chinese University of Hong Kong（香港中文大学）；Sun Yat-sen University（中山大学）
众所周知，深度神经网络（DNN）容易受到对抗性样本的攻击。因此，必须设计有效的攻击算法，以事先在安全敏感的应用程序中识别DNN的缺陷。为了有效地解决目标模型细节未知的黑盒设置，基于特征级转移的攻击提出污染局部模型的中间特征输出，然后直接使用制作的对抗样本来攻击目标模型。由于特征的可转移性，特征级攻击在合成更多可转移的对抗样本方面表现出了希望。然而，现有的特征级攻击通常采用不准确的神经元重要性估计，这恶化了它们的可转移性。为了克服这些缺陷，在本文中，我们提出了基于神经元属性的攻击（NAA），它通过更准确的神经元重要性估计进行特征级攻击。具体来说，我们首先将模型的输出完全归因于中间层中的每个神经元。然后，我们推导出一个近似方案的神经元属性，大大减少了计算开销。最后，我们根据神经元的属性结果对其进行加权，并发起特征级攻击。大量的实验证实了我们的方法的优越性，国家的最先进的基准。
2022-03-31 cs.CR cs.LG
Improving the security of Image Manipulation Detection through One-and-a-half-class Multiple Classification
保护图像处理检测器免受完美知识攻击需要采用本质上难以攻击的检测器架构。在本文中，我们这样做，通过利用最近提出的多分类器架构相结合的1类（1C）分类和传统的2类（2C）分类在没有攻击的情况下，确保良好的性能提高了安全性。该架构也称为1.5类（1.5C）分类器，由一个2C分类器和两个并行运行的1C分类器组成，然后是最终的1C分类器。在我们的系统中，前三个分类器实现的支持向量机（SVM）与垃圾邮件功能美联储。这些分类器的输出然后由负责做出最终决定的最终1C SVM处理。由于在系统的前端训练两个1C分类器的难度很大，因此设计一个合适的策略来训练1.5C分类器所依赖的支持向量机是一个关键的任务。我们评估了所提出的解决方案的性能方面的三个操作检测任务，即图像增强，对比度增强和中值滤波。因此，1.5C架构相对于传统2C解决方案所允许的安全性改进得到了确认，在没有攻击的情况下，性能损失保持在可忽略的水平。
2019-11-11 cs.CR
Improving ML Attacks on LWE with Data Repetition and Stepwise Regression
FAIR at Meta（Meta FAIR）；Duke University（杜克大学）
本文通过增大训练集和重复样本提升对LWE的ML攻击效果，引入逐步回归技术恢复密钥中的'冷位'，并发现模型尝试、数据集大小和重复样本间存在幂律关系。
2026-04-05 cs.CR cs.LG
Improving Hyperspectral Adversarial Robustness Under Multiple Attacks
University of Maine（缅因大学）
针对高光谱图像语义分割模型在多种对抗攻击下鲁棒性下降的问题，提出对抗判别器集成网络（ADE-Net），通过判别器按攻击类型分配数据至专家集成网络，在统一模型下提升整体对抗鲁棒性。
2023-05-11 cs.CR cs.CV cs.LG
Improving behavior based authentication against adversarial attack using XAI
针对基于行为的身份认证中攻击者复制对抗样本存在偏差的实际场景，提出基于XAI的特征选择过滤防御策略，经实验验证其防御效果优于对抗训练等现有方法。
2024-03-10 cs.CR cs.HC
MIFA: An MILP-based Framework for Improving Differential Fault Attacks
Korea University（韩国延世大学）；Nanyang Technological University（南洋理工大学）；Hansung University（汉城大学）；Jeonbuk National University（全北国立大学）；University of Seoul（首尔大学）；SmartM2M；Kangwon National University（江原国立大学）
本文提出基于混合整数线性规划（MILP）的DFA框架，可攻击更深轮次并减少故障注入次数，还能确定高效故障注入位置，对DEFAULT算法可通过特定轮次的故障注入将密钥空间缩至1。
2026-08-10 cs.CR
Improving Robustness of ML Classifiers against Realizable Evasion Attacks Using Conserved Features
Washington University in St. Louis（圣路易斯华盛顿大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Ariel University（阿里埃勒大学）；University of Michigan（密歇根大学）
机器学习（ML）技术在安全应用中越来越常见，例如恶意软件和入侵检测。然而，ML模型通常容易受到规避攻击的影响，其中对手对输入（例如恶意软件）进行更改以避免被检测到。评估ML对此类攻击的鲁棒性以及设计鲁棒ML的传统方法是通过考虑简化的攻击特征空间模型，其中攻击者直接改变ML特征以实现规避，同时最小化或限制这种变化的幅度。我们研究了这种方法在面对可以在实际恶意软件中实现的攻击（可实现的攻击）时设计鲁棒ML的有效性。我们证明，在基于结构的PDF恶意软件检测的上下文中，这样的技术似乎有有限的有效性，但他们是有效的基于内容的检测器。在这两种情况下，我们表明，增加保守的功能（那些不能单方面修改而不损害恶意功能）的特征空间模型显着提高性能。最后，我们表明，特征空间模型，使广义的鲁棒性时，面对各种可实现的攻击，相比，被调整到一个特定的可实现的攻击是强大的分类器。
2019-05-10 cs.CR cs.LG
From Lemons to Peaches: Improving Security ROI through Security Chaos Engineering
本文指出传统信息安全因攻击不可避免而回报率低下，提出采用安全混沌工程范式，通过降低攻击影响并生成改进证据来提升安全投资回报率。
2023-07-07 cs.CR cs.SE
Federated Learning under Attack: Improving Gradient Inversion for Batch of Images
Federal University of Pará（帕拉联邦大学）；Federal University of Rio Grande（里奥格兰德联邦大学）
本文提出DLG-FB方法，利用批量图像间的空间相关性改进联邦学习中的反演梯度攻击，使攻击成功率和每张图像迭代效率分别提升19.18%和48.82%。
2024-09-26 cs.AI cs.CR
Improving Robustness to Model Inversion Attacks via Mutual Information Regularization
Harvard University（哈佛大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Virginia Tech（弗吉尼亚理工大学）
本文研究了针对模型反演（MI）攻击的防御机制-一种隐私攻击，旨在推断有关目标机器学习模型的训练数据分布的信息。现有的防御机制依赖于模型特定的算法或噪声注入。虽然能够减轻攻击，现有的方法显着阻碍模型的性能。如何设计一种适用于各种模型的防御机制，并实现更好的实用性和隐私权衡，仍然是一个问题。在本文中，我们提出了互信息正则化防御（MID）的MI攻击。关键思想是限制预测中包含的关于模型输入的信息，从而限制对手从模型预测中推断私有训练属性的能力。我们的防御原则是模型不可知的，我们提出了易于处理的近似线性回归，决策树和神经网络，这已经成功地攻击了以前的工作，如果没有附加任何防御的正则化。我们提出了一个正式的研究MI攻击，通过设计一个严格的基于游戏的定义和量化相关的信息泄漏。我们的理论分析揭示了DP在抵御MI攻击方面的无效性，这在以前的几个作品中已经被经验观察到。我们的实验表明，MID导致各种MI攻击，目标模型和数据集的最先进的性能。
2020-09-22 cs.CR cs.LG
On improving security of GPT cryptosystems
基于秩纠错码的公钥密码体制（GPT密码体制）是1991年提出的。在密码应用中使用秩码是有利的，因为实际上不可能利用组合解码。这使得可以使用较小大小的公钥。针对这个系统的几次攻击被公布，包括吉布森的攻击和最近的Overbeck的攻击。一些修改被提出来抵抗吉布森的攻击，但至少有一个被奥弗贝克更强的攻击打破。在[12]中提出了一种防止Overbeck攻击的工具。在本文中，我们将这种方法应用到其他变体的GPT密码系统。
2010-06-05 cs.CR cs.IT math.IT
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning
University of California, Los Angeles（加州大学洛杉矶分校）
精心制作的对抗样本有效地利用了深度神经网络的弱点。对抗鲁棒性的标准方法假设一个框架来防御通过最小限度地扰动样本以使其相应的模型输出发生变化而制作的样本。这些敏感性攻击利用了模型对与任务无关的特征的敏感性。另一种形式的对抗性样本可以通过不变性攻击来制作，这种攻击利用模型低估相关特征的重要性。以往的文献表明，在严格的L_p有界防御中，防御两种类型的攻击是一种折衷。为了提高对超越欧几里得距离度量的两种类型攻击的鲁棒性，我们使用度量学习将对抗正则化框架作为最优传输问题。我们的初步结果表明，在我们的框架中，正则化不变扰动提高了不变和敏感性防御。
2022-11-04 cs.AI cs.CR cs.LG
Improving Deep Learning Model Robustness Against Adversarial Attack by Increasing the Network Capacity
Northumbria University（诺森比亚大学）
如今，我们越来越依赖于深度学习（DL）模型，因此保护这些系统的安全性至关重要。本文探讨了深度学习中的安全问题，并通过实验分析了构建更具弹性模型的前进方向。通过实验分析了一种新方法的优点和缺点，该方法可以提高DL模型对对抗攻击的鲁棒性。结果显示了改进和新的想法，可以作为研究人员和从业人员创建越来越好的DL算法的建议。
2022-04-24 cs.CR cs.LG cs.NI
Improving VAEs' Robustness to Adversarial Attack
University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）
变分自动编码器（VAE）最近被证明容易受到对抗性攻击，其中它们被愚弄以重建选定的目标图像。然而，如何抵御这种攻击仍然是一个悬而未决的问题。我们在解决这个问题上取得了重大进展，通过引入方法产生对抗强大的VAE。也就是说，我们首先证明，提出的方法来获得解开潜在的表示产生VAE，这些攻击更强大。然而，这种鲁棒性是以降低重建质量为代价的。我们通过将解缠方法应用于分层VAE来改善这一点。由此产生的模型产生高保真自动编码器，也是对抗鲁棒性。我们在几个不同的数据集和当前最先进的VAE对抗攻击上证实了它们的能力，并且还表明它们增加了下游任务攻击的鲁棒性。
2021-01-29 cs.CR cs.LG stat.ML
A Proxy Attack-Free Strategy for Practically Improving the Poisoning Efficiency in Backdoor Attacks
Nanjing University of Information Science and Technology（南京信息工程大学）；University of Science and Technology of China（中国科学技术大学）；Huawei Technologies Co. Ltd.（华为技术有限公司）；Huazhong University of Science and Technology（华中科技大学）；China Academic of Electronics and Information Technology（中国电子信息产业发展研究院）
本文提出无代理攻击策略PFS，利用干净样本与投毒样本的相似性及投毒集多样性高效选择投毒样本，在提升后门攻击效率的同时大幅加快样本选择速度。
2024-09-30 cs.CR cs.CV
Improving Network Robustness against Adversarial Attacks with Compact Convolution
University of Maryland（马里兰大学）
虽然卷积神经网络（CNN）在对象分类和人脸验证等任务上的性能已经超过了人类水平，但它们很容易被对抗攻击所欺骗。这些攻击向输入图像添加了一个小扰动，导致网络对样本进行错误分类。在本文中，我们专注于中和对抗攻击紧凑的特征学习。特别是，我们证明了在封闭和有界空间中学习特征可以提高网络的鲁棒性。我们探索了L2-Softmax Loss的影响，它在学习的特征中强制执行紧凑性，从而增强了对对抗性扰动的鲁棒性。此外，我们还提出了紧凑卷积，这是一种新的卷积方法，当将其纳入传统CNN时，可以提高其鲁棒性。紧凑卷积确保每一层的特征紧凑性，使它们彼此有界且接近。大量的实验表明，紧凑卷积网络（CCN）可以中和多种类型的攻击，并且在防御对抗攻击方面比现有方法表现更好，与CNN相比不会产生任何额外的训练开销。
2018-03-22 cs.CR cs.LG stat.ML
Fuzziness-tuned: Improving the Transferability of Adversarial Examples
Xi’an Jiaotong University（西安交通大学）；Qingdao University（青岛大学）
随着对抗攻击的发展，对抗样本被广泛用于增强深度神经网络上训练模型的鲁棒性。尽管对抗攻击在提高对抗性示例的可移植性方面已经做出了相当大的努力，但是在低攻击强度下，基于移植的攻击对代理模型的攻击成功率远高于对受害者模型的攻击成功率（例如，攻击强度$ε=8/255$）。本文首先对这一问题进行了系统的研究，发现代理模型和受害者模型之间攻击成功率的巨大差异是由于存在一个特殊的区域（本文称为模糊域），该区域内的对抗样本被代理模型错误分类，而被受害者模型正确分类。然后，为了消除攻击成功率的巨大差异，提高生成的对抗样本的可移植性，提出了一种由置信度缩放机制和温度缩放机制组成的模糊调整方法，以确保生成的对抗样本能够有效地跳出模糊域。置信度缩放机制和温度缩放机制可以分别通过调整模糊度的梯度下降权重和稳定更新方向来协同调整生成的对抗样本的模糊度。具体而言，所提出的模糊调整方法可以有效地与现有的对抗攻击，以进一步提高对抗性的例子的可移植性，而不改变时间复杂度。大量的实验表明，模糊调整方法可以有效地提高在最新的基于转移的攻击对抗性的例子的可转移性。
2023-03-17 cs.CR cs.CV cs.LG
Purify++: Improving Diffusion-Purification with Advanced Diffusion Models and Control of Randomness
Peking University（北京大学）
本文通过改进扩散模型、数值模拟和随机性控制提出Purify++，成为当前最优的对抗净化方法，并系统探索了扩散净化的极限。
2023-10-28 cs.CR cs.LG
KnowML: Improving Generalization of ML-NIDS with Attack Knowledge Graphs
Imperial College London（帝国理工学院）；King’s College London（伦敦国王学院）；University College London（伦敦大学学院）
提出KnowML框架，通过LLM构建攻击知识图并编码到特征空间，解决异常检测NIDS因特征空间缺陷导致的泛化问题，在仅用良性流量训练时实现高达99%检测率且误报率≤0.0137%。
2026-06-16 cs.CR cs.IR
Grounding-Driven Attack: Improving Encoder-based Adversarial Transferability against Large Vision-Language Models
The Hong Kong Polytechnic University（香港理工大学）；Nanyang Technological University（南洋理工大学）；Harbin Engineering University（哈尔滨工程大学）
提出文本驱动攻击（GDA），通过将扰动优化与文本接地证据对齐，并采用接地感知扰动分配和接地中心证据破坏策略，显著提升编码器攻击在黑盒大型视觉-语言模型上的迁移性。
2026-05-24 cs.CR cs.CV
Synthetic ID Card Image Generation for Improving Presentation Attack Detection
Hochschule Darmstadt（达姆施塔特应用科学大学）；TOC Biometrics Company（TOC生物识别公司）
目前，访问在线服务以进行以前需要亲自出席的活动越来越普遍。从银行业务到签证申请，大量流程已实现数字化，特别是自COVID-19大流行以来，需要对用户进行远程生物特征认证。不利的一面是，一些主体打算通过使用伪造的身份证件（如护照和身份证）来干扰远程系统的正常运行，以谋取个人利益。在文献中已经提出了检测此类欺诈的深度学习解决方案。然而，由于隐私问题和个人身份文件的敏感性，开发具有必要数量的样本的数据集来训练深度神经网络是具有挑战性的。这项工作探讨了三种方法来综合生成身份证图像，以增加数据量，同时训练欺诈检测网络。这些方法包括计算机视觉算法和生成对抗网络。我们的研究结果表明，数据库可以补充与合成图像没有任何损失的性能的打印/扫描演示攻击工具种类（PAIS）和屏幕捕获PAIS的性能损失1%。
2022-10-31 cs.CR cs.CV
Improving Transferability of Adversarial Examples via Bayesian Attacks
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；School of Mathematics and Statistics, University of Glasgow（格拉斯哥大学数学与统计学学院）；Department of Computer Science, University of California, Davis（加州大学戴维斯分校计算机科学系）
本文提出贝叶斯攻击方法，联合多样化模型参数与输入，提高对抗样本可迁移性，在ImageNet和CIFAR-10上达到新的最先进水平。
2025-10-15 cs.CR cs.CV cs.LG
Indicators of Attack Failure: Debugging and Improving Optimization of Adversarial Examples
University of Cagliari（卡利亚里大学）；Pluribus One；University of Genoa（热那亚大学）；Google（谷歌）；CINI（意大利国家信息学大学联盟）
评估机器学习模型对对抗性样本的鲁棒性是一个具有挑战性的问题。许多防御已经被证明通过导致基于梯度的攻击失败来提供虚假的鲁棒性，并且它们已经在更严格的评估下被打破。尽管已经提出了一些指导方针和最佳实践来改进当前的对抗性鲁棒性评估，但由于缺乏自动测试和调试工具，很难系统地应用这些建议。在这项工作中，我们克服了这些限制：（i）分类攻击失败的基础上，他们如何影响基于梯度的攻击的优化，同时也揭示了两个新的失败影响许多流行的攻击实现和过去的评估;（ii）提出了六个新的失败指标，自动检测攻击优化过程中存在这样的失败;以及（iii）建议系统性协议以应用相应的修复。我们广泛的实验分析，涉及3个不同应用领域的15个模型，表明我们的失败指标可用于调试和改进当前的对抗鲁棒性评估，从而为自动化和系统化提供了第一个具体步骤。我们的开源代码可以在https://github.com/pralab/IndicatorsOfAttackFailure上找到。
2022-10-11 cs.CR cs.CV cs.LG
Improving the Transferability of 3D Point Cloud Attack via Spectral-aware Admix and Optimization Designs
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）
提出谱感知混合与增强优化方法（SAAO），通过图傅里叶变换在谱域融合点云并优化路径，提升三维点云攻击在迁移黑盒设置下的可迁移性。
2024-12-17 cs.CR cs.CV
Using Graph Theory for Improving Machine Learning-based Detection of Cyber Attacks
Università Politecnica delle Marche（马尔凯理工大学）
本文提出基于图论的网络流量预处理方法，通过提取将网络视为整体的新指标，克服了经典逐包或逐连接分析的局限，并在公开数据集实验中提升了机器学习对网络威胁的检测能力。
2024-02-12 cs.CR cs.LG
Improving DNN Robustness to Adversarial Attacks using Jacobian Regularization
Tel Aviv University（特拉维夫大学）
深度神经网络最近在包括视觉和语音处理任务在内的各种应用中表现出了巨大的性能。然而，除了它们能够以如此高的准确度执行这些任务之外，已经表明它们非常容易受到对抗攻击的影响：输入的微小变化会导致网络在高置信度下出错。这种现象暴露了这些网络的固有缺陷及其良好的泛化能力。因此，为对抗攻击提供鲁棒性是网络训练中的一个重要挑战，这导致了广泛的研究。在这项工作中，我们提出了一种理论启发的新方法来提高网络的鲁棒性。我们的方法使用网络雅可比矩阵的Frobenius范数进行正则化，在常规训练完成后，将其用作后处理。我们的经验表明，它会导致增强的鲁棒性的结果与原始网络的准确性的最小变化。
2019-05-28 cs.CR cs.CV cs.LG
Improving Adversarial Robustness in Weight-quantized Neural Networks
Duke University（杜克大学）；Cadence Design Systems, Inc.（楷登电子设计系统公司）
如今，神经网络变得越来越深入，计算密集度越来越高。量化是在硬件平台上部署神经网络并以可忽略的性能损失节省计算成本的有用技术。然而，最近的研究表明，神经网络模型，无论是全精度还是量化的，都容易受到对抗攻击的攻击。在这项工作中，我们分析了对抗和量化损失，然后引入标准来评估它们。我们提出了一种基于边界的再训练方法，以减轻对抗和量化损失，并采用非线性映射方法来抵御白盒梯度的对抗攻击。评估表明，我们的方法可以更好地恢复量化后的准确性比其他基线方法的黑盒和白盒对抗攻击。研究结果还表明，对抗性训练存在量化损失，与其他训练方法不能很好地配合。
2021-01-23 cs.CR cs.LG
Concentrated Stopping Set Design for Coded Merkle Tree: Improving Security Against Data Availability Attacks in Blockchain Systems
在某些区块链系统中，轻节点是仅下载区块的一小部分的客户端。轻节点容易受到数据可用性（DA）攻击，其中恶意节点向轻节点隐藏块的无效部分。最近，Yu等人提出了一种基于擦除码的编码Merkle树（CMT）技术，该技术使轻节点能够以高概率检测DA攻击。CMT是使用LDPC码构造的，用于快速解码，但如果恶意节点隐藏了代码的小停止集，则可能无法检测到DA攻击。为了解决这个问题，Yu等人使用了经过充分研究的技术来设计具有高最小停止集大小的随机LDPC码。虽然有效，这些代码不一定是最佳的应用。在本文中，我们展示了一个更专业的LDPC码设计，以提高对DA攻击的安全性。我们实现这一目标，提供了一个确定性的LDPC码的建设，集中停止集的变量节点的一小群，而不是只消除停止集。我们设计这些代码通过修改渐进边增长算法到一个技术称为熵约束PEG（EC-PEG）算法。这种新方法证明了更高的概率检测DA攻击，并允许在短的长度良好的代码。
2021-01-23 cs.CR cs.IT math.IT
Understanding and Improving Graph Injection Attack by Promoting Unnoticeability
The Chinese University of Hong Kong（香港中文大学）；Hong Kong Baptist University（香港浸会大学）；The University of Sydney（悉尼大学）
最近，图注入攻击（GIA）作为图神经网络（GNN）上的实际攻击场景出现，其中攻击者可以仅注入少量恶意节点而不是修改现有节点或边，即，图修改攻击（GMA）。尽管GIA取得了可喜的成果，但人们对它为什么成功以及成功背后是否存在陷阱知之甚少。为了理解GIA的力量，我们将其与GMA进行了比较，发现GIA可以证明比GMA更有害，因为它具有相对较高的灵活性。然而，高灵活性也会导致对原始图的同质性分布的极大破坏，即，邻居之间的相似性。因此，GIA的威胁可以很容易地减轻，甚至可以通过旨在恢复原始同质性的基于同质性的防御来预防。为了解决这个问题，我们引入了一个新的约束--同质性不可注意性，强制GIA保留同质性，并提出了和谐对抗目标（HAO）来实例化它。大量实验证明，带有HAO的GIA可以突破基于同质性的防御，并且比之前的GIA攻击性能好得多。我们相信我们的方法可以更可靠地评估GNN的鲁棒性。
2022-04-05 cs.CR cs.LG stat.ML
Improving Adversarial Transferability with Neighbourhood Gradient Information
Shanghai Key Lab of Intelligent Information Processing（上海智能信息处理关键实验室）；School of Computer Science, Fudan University（复旦大学计算机科学学院）；Shanghai Engineering Research Center of AI & Robotics（上海人工智能与机器人工程研究中心）；Academy for Engineering & Technology, Fudan University（复旦大学工程与技术学院）；Engineering Research Center of Robotics, Ministry of Education（教育部机器人工程研究中心）
针对黑盒攻击中替代模型与目标模型的攻击性能差距问题，提出结合示例回溯和多路掩码策略的NGI-Attack方法，利用邻域梯度信息提升对抗样本迁移性，平均攻击成功率达95.2%且可无缝集成现有算法。
2025-11-12 cs.CR cs.CV
Evaluating and Improving Adversarial Robustness of Machine Learning-Based Network Intrusion Detectors
Tsinghua University（清华大学）
机器学习（ML），特别是深度学习（DL）技术在基于异常的网络入侵检测系统（NIDS）中得到了越来越多的应用。然而，ML/DL已经被证明非常容易受到对抗攻击的攻击，特别是在这种安全敏感的系统中。许多对抗攻击已经被提出来评估基于ML的NIDS的鲁棒性。不幸的是，现有的攻击大多集中在特征空间和/或白盒攻击，这使得不切实际的假设，在现实世界的情况下，留下了实际的灰/黑盒攻击的研究在很大程度上未被探索。为了弥补这一差距，我们进行了第一次系统的研究，灰色/黑盒流量空间的对抗攻击，以评估基于ML的NIDS的鲁棒性。我们的工作在以下几个方面优于以前的工作：（i）实用性-所提出的攻击可以自动变异的原始流量与极其有限的知识和负担得起的开销，同时保留其功能;（ii）通用性-所提出的攻击是有效的评估各种NIDS的鲁棒性使用不同的ML/DL模型和非基于有效载荷的功能;（iii）可解释性-我们提出了一种解释方法的脆弱的鲁棒性ML为基础的NIDS。在此基础上，我们还提出了一种防御对抗攻击的方案，以提高系统的鲁棒性。我们广泛评估的鲁棒性的各种NIDS使用不同的功能集和ML/DL模型。实验结果表明，我们的攻击是有效的（例如，对于Kitsune，最先进的NIDS在一半情况下的规避率>97%），具有可承受的执行成本，并且所提出的防御方法可以有效地减轻此类攻击（在大多数情况下规避率降低>50%）。
2021-06-08 cs.CR cs.LG cs.NI
Improving Black-box Adversarial Attacks with a Transfer-based Prior
Tsinghua University（清华大学）
我们考虑黑盒对抗设置，其中对手必须生成对抗扰动，而无需访问目标模型来计算梯度。以前的方法试图通过使用代理白盒模型的转移梯度或基于查询反馈来近似梯度。然而，这些方法往往遭受低攻击成功率或查询效率差，因为它是不平凡的估计在一个高维空间的有限信息的梯度。为了解决这些问题，我们提出了一种先验引导的随机无梯度（P-RGF）方法来改善黑盒对抗攻击，它同时利用基于传输的先验和查询信息。通过理论分析得出的最优系数，将基于转移的先验知识（由代理模型的梯度给出）适当地融入到我们的算法中。大量的实验表明，我们的方法需要更少的查询，以更高的成功率攻击黑盒模型相比，替代国家的最先进的方法。
2020-07-26 cs.CR cs.CV cs.LG
SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Nanyang Technological University（南洋理工大学）；National University of Singapore（新加坡国立大学）；Sun Yat-sen University（中山大学）
针对 VLP 模型对抗样本迁移攻击，本文提出 SA-Attack，通过分别增强图像与文本模态来提升对抗样本在黑盒模型间的可迁移性，并在 FLickr30K 和 COCO 上验证有效。
2023-12-08 cs.AI cs.CR cs.CV
Improving Location-based Thermal Emission Side-Channel Analysis Using Iterative Transfer Learning
本文提出迭代迁移学习方法，利用字节间参数相似性，先训练一个密钥字节模型再迭代迁移到其余字节，在热辐射与功耗图像侧信道攻击中提升平均性能，尤其在数据不足时效果显著。
2024-12-30 cs.CR cs.LG
Improving the Robustness of Quantized Deep Neural Networks to White-Box Attacks using Stochastic Quantization and Information-Theoretic Ensemble Training
Center for Vision Technologies（视觉技术中心）；SRI International（SRI国际）
本文提出可微随机量化器与基于互信息的集成训练方法，通过鼓励不同量化 DNN 学习多样化表示，显著提升量化网络对白盒 $L_\infty$ 攻击的鲁棒性，并扩展用于攻击检测与威胁模型统一分析。
2023-11-30 cs.CR cs.CV cs.LG
Improving Privacy in Graphs Through Node Addition
生成图形数据的计算机系统的快速增长需要采用隐私保护机制来保护用户的身份。由于基于结构的去匿名化攻击可以暴露用户的身份，即使当图是简单的匿名通过使用朴素ID删除，最近，$k-$匿名被提出来保护用户的隐私免受基于结构的攻击。大多数工作使用假边来确保图的隐私，然而，在某些应用中，边的添加或删除可能会导致图的密钥属性发生重大变化。出于这一事实的动机，本文介绍了一种通过向图中添加假节点来确保隐私的新方法。首先，我们提出了一种新颖的模型，该模型提供$k-$匿名性，以对抗最强大的攻击之一：基于种子的攻击。在这种攻击中，对手知道主图和使用隐私保护机制生成的图之间的部分映射。我们表明，即使对手知道所有的节点，除了一个映射，最后一个节点仍然可以有$k-$匿名隐私。然后，我们把我们的注意力转向隐私的图生成的域间路由对度攻击，其中的度序列的图是已知的对手。为了确保网络的隐私免受这种攻击，我们提出了一种新的方法，该方法试图以所有节点的度具有相同的期望值的方式添加假节点。
2019-10-19 cs.CR cs.IT math.IT
Improving Adversarial Transferability of Vision-Language Pre-training Models through Collaborative Multimodal Interaction
School of Computer Science, Fudan University（复旦大学计算机科学学院）；Academy for Engineering & Technology, Fudan University（复旦大学工程技术学院）；Shanghai Key Lab of Intelligent Information Processing（上海智能信息处理重点实验室）；Shanghai Engineering Research Center of AI & Robotics（上海人工智能与机器人工程研究中心）；Engineering Research Center of AI & Robotics, Ministry of Education（教育部人工智能与机器人工程研究中心）
针对视觉-语言预训练模型对抗攻击迁移性研究不足的问题，提出协作多模态交互攻击方法，通过嵌入引导与交互增强利用模态交互，在图文检索等任务中显著提升攻击迁移成功率，为增强模型对抗鲁棒性提供新思路。
2024-07-08 cs.CR cs.CV cs.MM
Evaluating and Improving the Robustness of Security Attack Detectors Generated by LLMs
Samuele Pasini Universit\`a della Svizzera italiana, Switzerland Jinhan Kim Universit\`a della Svizzera italiana, Switzerland Tommaso Aiello SAP Labs France, France Rocio Cabrera Lozoya SAP Labs France, France Antonino Sabetta SAP Labs France, France Paolo Tonella Universit\`a della Svizzera italiana, Switzerland
本文提出将RAG与自排序技术集成到LLM流水线中，以提升生成攻击检测器的鲁棒性，在XSS和SQLi检测的F2-Score上取得显著提升。
2025-09-17 cs.CR cs.LG cs.SE
Immune: Improving Safety Against Jailbreaks in Multi-modal LLMs via Inference-Time Alignment
University of Maryland（马里兰大学）；Indian Institute of Technology Bombay（印度班加罗尔理工学院）；Princeton University（普林斯顿大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）；Capital One（Capital One公司）；University of Central Florida（佛罗里达中央大学）
针对多模态大语言模型训练时安全对齐仍难抵御越狱攻击的问题，提出推理时防御框架Immune，通过受控解码结合安全奖励模型提升安全性，实验验证其在保留模型能力同时显著降低攻击成功率。
2025-06-14 cs.AI cs.CR cs.LG
Improving Integrated Gradient-based Transferable Adversarial Examples by Refining the Integration Path
Xi’an Jiaotong University（西安交通大学）；Information Engineering University（信息工程大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Zhejiang Lab（之江实验室）
本文针对基于积分梯度的对抗攻击迁移性不足问题，提出通过细化积分路径的多重性、单调性和多样性构建 MuMoDIG 攻击，在 CNN 和 ViT 模型上显著超越现有方法。
2024-12-25 cs.CR cs.CV cs.LG
Improving Defensive Distillation using Teacher Assistant
本研究受教师助手知识蒸馏启发，提出引入助手网络以提升防御性蒸馏模型的鲁棒性，实验证明该方法在多数情况下有效，且多步蒸馏可进一步提升鲁棒性而对准确性影响甚微。
2023-05-14 cs.CR cs.CV cs.LG
Improving Robustness to Model Inversion Attacks via Sparse Coding Architectures
Dartmouth College（达特茅斯学院）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
本研究提出一种利用稀疏编码层的新型网络架构，在保持分类准确率的同时，有效降低模型反演攻击对训练数据的重建质量，显著提升隐私防御鲁棒性。
2024-08-24 cs.AI cs.CR cs.CV
SIR: Self-improving Red-teaming for Compute Use Agents
The Chinese University of Hong Kong（香港中文大学）；IBM Research（IBM研究院）；University of Zagreb（萨格勒布大学）；Radboud University（拉德堡德大学）
本文提出SIR，一种针对操作系统层面计算使用智能体的黑盒间接提示注入攻击，通过迭代反馈循环提炼策略，使攻击成功率显著提升且可跨模型迁移。
2026-10-06 cs.AI cs.CR
Improving Privacy and Security in Unmanned Aerial Vehicles Network using Blockchain
无人机（UAV），也被称为无人机，已经在当今商业行业的各个领域爆炸式增长。他们有机会改造旧业务，甚至为各种品牌和特许经营商开发新的机会。无人机用于供应链，维持监视并充当移动热点。虽然无人机具有潜在的应用，但它们带来了一些社会问题和挑战，需要在公共安全，隐私和网络安全方面加以解决。无人机容易受到各种网络攻击和漏洞;它们还可能被恶意实体黑客攻击和滥用，导致网络犯罪。对手可以利用这些漏洞，导致数据丢失，财产和生命的破坏。通过监测无人机的行为，可以部分检测到虚假信息传播、干扰、灰洞、黑洞和GPS欺骗等攻击，但可能无法解决隐私问题。本文介绍了使用区块链技术的无人机之间的安全通信。我们的方法包括构建智能合约，并建立一个安全可靠的无人机自组织网络。该网络将能抵御各种网络攻击，并能抵御恶意入侵。
2022-06-27 cs.CR cs.DC
Metric Privacy in Federated Learning for Medical Imaging: Improving Convergence and Preventing Client Inference Attacks
Instituto de Física de Cantabria (IFCA), CSIC-UC（坎塔布里亚物理研究所（IFCA，CSIC-UC））；INRIA Saclay（法国国家信息与自动化研究所萨克雷分部）；Ecole Polytechnique (LIX)（巴黎综合理工学院（LIX））
本文提出度量隐私以减轻经典服务器端全局差分隐私对联邦学习聚合模型收敛性的影响，在医学影像场景中对比了六种聚合策略，并引入并防御了半诚实客户端推理攻击，在提升模型性能的同时保持了对攻击的防护。
2025-02-03 cs.CR cs.LG
Improving the Transferability of Adversarial Attacks by an Input Transpose
School of Computer Science and Technology, Zhejiang Gongshang University（浙江工商大学计算机科学与技术学院）
针对黑盒场景下对抗样本迁移性有限且现有改进方法计算成本高的问题，提出一种几乎零成本的输入转置方法，通过微小旋转显著提升对抗攻击的跨模型迁移性。
2025-03-02 cs.AI cs.CR cs.CV
Employing Deep Ensemble Learning for Improving the Security of Computer Networks against Adversarial Attacks
Bahcesehir University（巴赫切谢希尔大学）；University of Padua（帕多瓦大学）；Sabanci University（萨班哲大学）；Florida International University（佛罗里达国际大学）
本文提出结合1C安全性与2C性能的SPRITZ-1.5C集成分类器，通过CNN与自编码器组合抵御对抗攻击，实验显示其将I-FGSM攻击成功率从0.9900降至0.0000。
2023-04-17 cs.AI cs.CR cs.LG
Improving Robustness Against Adversarial Attacks with Deeply Quantized Neural Networks
University of Glasgow（格拉斯哥大学）；STMicroelectronics（意法半导体）；University of Sussex（萨塞克斯大学）
本文提出结合QKeras深度量化感知训练与逐层Jacobian Regularization的协同优化方法，构建可在微型设备部署的鲁棒DNN，并在图像和音频数据集上显著提升白盒与黑盒攻击下的准确率。
2023-04-25 cs.CR cs.LG cs.PF
Improving Adversarial Transferability on Vision-Language Pre-training Models via Surrogate-Specific Bias Correction
School of Cyber Science and Engineering, Southeast University（东南大学网络空间安全学院）；Purple Mountain Laboratories（紫金山实验室）；School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院）
提出DeBias-Attack方法，通过梯度校正消除代理特定偏差，提高对抗样本在VLP模型间的迁移性，实验验证其在多种模型和任务上的有效性。
2026-06-09 cs.AI cs.CR cs.CV
