Robust Spatiotemporal Traffic Forecasting with Reinforced Dynamic Adversarial Training
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）
针对时空交通预测模型易受动态对抗攻击的问题，提出强化学习驱动的动态对抗训练框架与自知识蒸馏模块，有效增强模型防御能力并缓解过拟合与遗忘问题。
2023-06-25 cs.LG eess.SP
An Adversarial Learning Approach to Irregular Time-Series Forecasting
针对不规则时间序列预测中模型易均值回归、传统指标缺陷的问题，提出平衡全局分布与过渡动态建模的对抗学习框架，为改进模型和指标提供实用见解并开创该领域对抗学习应用。
2024-11-28 cs.AI cs.LG
ForecastGAN: A Decomposition-Based Adversarial Framework for Multi-Horizon Time Series Forecasting
Department of Mechanical, Automotive and Materials Engineering（机械、汽车和材料工程系）
本文提出ForecastGAN框架，通过分解模块、模型选择模块和条件生成对抗训练模块，有效融合数值与类别特征，在十一个多元时间序列数据集上实现短期预测优于Transformer模型且长期预测具有竞争力的效果。
2025-11-06 cs.LG stat.ML
Temporally Unified Adversarial Perturbations for Time Series Forecasting
本文提出时间统一对抗扰动方法，通过时间一致性约束和梯度累积方法提升时间序列预测模型的对抗攻击效果。
2026-02-12 cs.LG
Probabilistic Forecasting of Sensory Data with Generative Adversarial Networks - ForGAN
University of Kaiserslautern（凯泽斯劳滕大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
时间序列预测是人类面临的挑战性问题之一。传统的均值回归模型预测方法在反映真实波动方面存在严重缺陷。虽然新的概率方法急于拯救，但它们与分位数交叉或选择先验分布等技术难题作斗争。为了融合这些领域的不同优势，同时避免它们的弱点，并推动最先进的边界，我们引入了ForGAN -一步领先的概率预测与生成对抗网络。ForGAN利用条件生成对抗网络的能力来学习数据生成分布并从中计算概率预测。我们讨论了如何评估ForGAN，以反对回归方法。为了研究ForGAN的概率预测，我们创建了一个新的数据集，并在其上展示了我们的方法能力。该数据集将公开用于比较。此外，我们在两个公开的数据集上测试了ForGAN，即Mackey-Glass数据集和互联网流量数据集（A5 M），ForGAN令人印象深刻的性能证明了其在预测未来价值方面的高能力。
2019-03-29 cs.AI cs.LG stat.ML
Forecasting Fails: Unveiling Evasion Attacks in Weather Prediction Models
LLNL（劳伦斯利弗莫尔国家实验室）
本文提出WAAPO框架，用于生成针对天气预测模型的隐蔽对抗扰动，揭示了AI预测模型在面对小扰动时的脆弱性。
2025-12-09 cs.LG
Painting on Placement: Forecasting Routing Congestion using Conditional Generative Adversarial Nets
Cornell University（康奈尔大学）
对于大型设计，物理设计过程通常需要花费数小时到数天的时间，而布线被认为是最关键的步骤。对精确路由质量预测的需求提高到一个新的水平，以加速先进技术节点的硬件创新。这项工作提出了一种方法，预测密度的所有路由通道在整个平面图，功能收集到放置，使用条件GANs。具体地说，预测路由拥塞被构造为一个图像翻译（着色）问题。所提出的方法被应用到a）最小拥塞的布局探索，b）受约束的布局探索和c）在增量布局过程中实时预测拥塞，使用八个设计针对一个固定的FPGA架构。
2019-04-15 cs.CV cs.LG
Multi-variable Adversarial Time-Series Forecast Model
California Institute of Technology（加州理工学院）
针对工业电力系统预测忽略保护性电表数据的问题，提出多变量对抗性时间序列预测模型，通过对抗过程正则化LSTM以同时预测多类型变量并平衡单变量精度与变量间关系，在真实工业数据上取得更优预测精度。
2024-06-02 cs.LG
Towards Better Long-range Time Series Forecasting using Generative Adversarial Networks
National University of Singapore（新加坡国立大学）
长期时间序列预测通常基于两种现有的预测策略之一：直接预测和迭代预测，前者提供低偏差，高方差预测，后者导致低方差，高偏差预测。在本文中，我们提出了一种新的预测策略，称为生成预测（GenF），它生成合成数据为未来几个时间步，然后根据生成的和观察到的数据进行长期预测。我们从理论上证明了GenF能够更好地平衡预测方差和偏差，从而导致更小的预测误差。我们通过三个组件实现GenF：（i）一种新的基于条件Wasserstein生成对抗网络（GAN）的合成时间序列数据生成器，称为CWGAN-TS。(ii)基于Transformer的预测器，使用生成的数据和观察到的数据进行长期预测。(iii)信息论聚类算法，以改善CWGAN-TS和基于Transformer的预测器的训练。在五个公共数据集上的实验结果表明，GenF的性能明显优于各种最先进的基准测试和经典方法。具体来说，我们发现预测性能（平均绝对误差）提高了5% - 11%，而与基准相比，参数减少了15% - 50%。最后，我们进行了一项消融研究，以证明组成GenF的组件的有效性。
2022-08-05 cs.AI cs.LG
Adversarial Vulnerabilities in Large Language Models for Time Series Forecasting
McGill University（麦吉尔大学）；University of Minnesota - Twin Cities（明尼苏达大学双城分校）
针对LLM时间序列预测，本文提出结合无梯度与黑盒优化的定向对抗攻击框架，用微小扰动在多模型和数据集上显著降低预测精度，揭示其安全脆弱性。
2025-03-12 cs.AI cs.CL cs.CR
Adversarial Attacks on Probabilistic Autoregressive Forecasting Models
Department of Computer Science, ETH Zürich（苏黎世联邦理工学院计算机科学系）；Department of Computer Science, ETH Zürich, Switzerland（苏黎世联邦理工学院计算机科学系）
我们开发了一种有效的生成对抗攻击的神经模型，输出一个序列的概率分布，而不是一个序列的单一值。这种设置包括最近提出的深度概率自回归预测模型，该模型估计给定其过去的时间序列的概率分布，并在不同的应用领域中实现最先进的结果。我们解决的关键技术挑战是有效地区分通过蒙特卡洛估计的统计输出序列的联合分布。此外，我们扩展以前的工作概率预测贝叶斯设置，允许条件对未来的观察，而不是只对过去的观察。我们证明，我们的方法可以成功地产生攻击，在两个具有挑战性的任务，其中强大的决策是至关重要的小输入扰动：股票市场交易和预测的电力消耗。
2020-03-08 cs.LG stat.ML
Fre-CW: Targeted Attack on Time Series Forecasting using Frequency Domain Loss
Shanghai Jiaotong University（上海交通大学）
本文提出了一种基于频域损失的时间序列预测对抗攻击算法，通过结合时域和频域损失优化对抗样本，揭示了当前预测模型的脆弱性并在主要数据集上取得优异攻击性能。
2025-08-12 cs.LG
Domain Adversarial Spatial-Temporal Network: A Transferable Framework for Short-term Traffic Forecasting across Cities
University of Hong Kong（香港大学）；Massachusetts Institute of Technology（麻省理工学院）；City University of Hong Kong（香港城市大学）；The Hong Kong Polytechnic University（香港理工大学）
准确的实时交通预测对于智能交通系统（ITS）至关重要，它是各种智能移动应用的基石。虽然这一研究领域由深度学习主导，但最近的研究表明，通过开发新的模型结构来提高准确性的效果正在变得微不足道。相反，我们设想可以通过在具有不同数据分布和网络拓扑的城市之间传输“预测相关知识”来实现改进。为此，本文旨在提出一种新的可转移的流量预测框架：域对抗时空网络（DASTNet）。DASTNet在多个源网络上进行预训练，并根据目标网络的流量数据进行微调。具体来说，我们利用图表示学习和对抗性领域自适应技术来学习域不变的节点嵌入，这进一步被纳入建模的时间流量数据。据我们所知，我们是第一个采用对抗性多领域自适应的网络范围内的流量预测问题。DASTNet在三个基准数据集上的性能始终优于所有最先进的基线方法。经过训练的DASTNet应用于香港的新交通探测器，当探测器可用时，可以立即（在一天内）提供准确的交通预测。总体而言，本研究提出了一种替代方案，以提高交通预测方法，并提供了实际意义的城市缺乏历史交通数据。
2022-08-19 cs.AI cs.LG
Robust Probabilistic Time Series Forecasting
Seoul National University（首尔国立大学）；AWS AI Labs, Amazon Research（亚马逊研究院AWS人工智能实验室）
概率时间序列预测由于其量化不确定性的能力，在决策过程中发挥着至关重要的作用。然而，深度预测模型可能容易受到输入扰动的影响，这种扰动的概念以及鲁棒性的概念甚至还没有在概率预测领域完全建立起来。在这项工作中，我们提出了一个框架，强大的概率时间序列预测。首先，我们推广了对抗性输入扰动的概念，在此基础上，我们制定了有界Wasserstein偏差的鲁棒性的概念。然后，我们扩展了随机平滑技术，以获得强大的概率预测与理论的鲁棒性证书，对某些类别的对抗性扰动。最后，大量的实验表明，我们的方法是有效的经验，提高预测质量下添加对抗攻击和预测一致性下的噪音观测补充。
2022-02-24 cs.LG
FABLE: A Localized, Targeted Adversarial Attack on Weather Forecasting Models
Michigan State University（密歇根州立大学）；TSMC Technology Inc（台积电技术公司）
本文提出FABLE框架，通过3D离散小波分解分离数据的空间和时间成分，调节对抗扰动幅度以生成接近原输入但能引导模型生成目标预报的对抗输入，验证了其在多种指标上的有效性。
2026-04-03 cs.CR cs.LG
Real-time Locational Marginal Price Forecasting Using Generative Adversarial Network
Arizona State University（亚利桑那州立大学）
本文提出了一种无模型无监督学习方法来预测电力批发市场中的实时的【形】位置边际电价。通过将系统范围内的每小时RTLMP数据组织成由一系列时间索引矩阵组成的3维（3D）张量，我们将RTLMP预测问题表示为给定历史RTLMP张量的预测RTLMP生成下一个矩阵的问题，并提出了生成对抗网络（GAN）模型来预测RTLMP。所提出的配方保留了历史RTLMP张量格式的系统范围RTLMP之间的时空相关性。所提出的GAN模型使用历史RTLMP张量学习时空相关性，并生成与历史RTLMP张量在统计上相似且在时间上相干的RTLMP。该方法仅使用公开的历史价格数据来预测系统范围的RTLMP，而不涉及系统模型的机密信息，例如系统参数、拓扑结构或操作条件。该方法的有效性进行了验证，通过案例研究，使用历史RTLMP数据在西南电力池（SPP）。
2020-11-09 cs.LG eess.SP
Adversarial Observations in Weather Forecasting
BIFOLD & TU Berlin Germany（BIFOLD与柏林技术大学）
本文针对谷歌GenCast等自回归扩散模型提出一种新型攻击，通过引入统计不可区分的细微扰动操纵天气预报并伪造极端事件，揭示现代多源气象预报体系面临的关键安全风险。
2025-04-22 cs.CR cs.LG
Probabilistic Forecasting with Generative Networks via Scoring Rule Minimization
University of Oxford（牛津大学）；Southern University of Science and Technology（南方科技大学）；University of Warwick（华威大学）；European Centre for Medium-Range Weather Forecasts（欧洲中期天气预报中心）
针对生成网络对抗训练不稳定、不适用于概率预测的问题，提出通过最小化预序评分规则训练生成网络的方法，证明其在依赖数据下的一致性，实验表明该方法在概率校准等方面优于现有对抗方法且调优成本更低。
2024-02-13 cs.LG stat.ML
EXPRTS: Exploring and Probing the Robustness of Time Series Forecasting Models
Aneo AS（Aneo公司）；Norwegian University of Science and Technology（挪威科学与技术大学）；University of California Santa Cruz（加州大学圣克鲁兹分校）；University of Bergen（卑尔根大学）
针对时间序列预测模型在分布外数据上缺乏鲁棒性且现有数据增强方法计算昂贵、不可解释的问题，提出结合时间序列分解与解析函数的可解释生成框架，并开发了可视化分析工具 EXPRTS，通过生成有意义的OOD时间序列有效提升模型鲁棒性。
2025-06-27 cs.LG
The Dark Side of Digital Twins: Adversarial Attacks on AI-Driven Water Forecasting
Grupo de Ingeniería de Medios Universidad de Extremadura（工程介质小组 维多利亚大学）
本文研究针对AI驱动的水预测数字孪生平台的对抗攻击，提出基于学习自动机的动态扰动方法，显著降低预测准确性并凸显网络安全风险。
2025-04-28 cs.AI cs.CR cs.LG
Targeted Attacks on Timeseries Forecasting
AIShield；Bosch Global Software Technologies（博世全球软件技术公司）
为时间序列预测开发的真实世界深度学习模型用于从医疗设备到安全领域的多个关键应用。许多以前的作品已经展示了深度学习模型如何容易受到对抗攻击，并研究了它们的漏洞。然而，时间序列模型的预测，由于对抗性的投入的脆弱性没有得到广泛的探讨。虽然对预测模型的攻击可能旨在降低模型的性能，但如果攻击集中在对模型输出的特定影响上，则会更有效。在本文中，我们提出了一种新的配方定向，幅度，时间有针对性的对抗攻击的时间序列预测模型。这些有针对性的攻击会对输出预测的幅度和方向产生特定的影响。我们使用现有的计算机视觉领域的对抗攻击技术，并将其应用于时间序列。此外，我们提出了一个修改版本的自动投影梯度下降攻击的目标攻击。我们研究了拟议的有针对性的攻击与无针对性的攻击的影响。我们使用KS测试来统计证明攻击的影响。我们的实验结果表明，针对时间序列模型的攻击是可行的，并且在统计相似性方面更强大。因此，很难通过统计方法进行检测。我们相信，这项工作在时间序列预测领域开辟了一个新的范例，并代表了开发更好的防御的重要考虑。
2023-01-27 cs.AI cs.CR cs.LG
Targeted Adversarial Attacks on Wind Power Forecasts
Fraunhofer Institute for Energy Economics and Energy System Technology (IEE)（弗劳恩霍夫能源经济与能源系统技术研究所（IEE））；University of Kassel（卡塞尔大学）
本文研究风电功率预测模型面临的定向、半定向和无定向对抗攻击，提出TARS指标量化回归模型鲁棒性，并通过LSTM与CNN实验揭示常规CNN脆弱而对抗训练可显著增强其防御能力。
2023-08-17 cs.CR cs.LG
Enhancing the Robustness via Adversarial Learning and Joint Spatial-Temporal Embeddings in Traffic Forecasting
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Zhejiang University（浙江大学）；East China Normal University（华东师范大学）
本文提出TrendGCN，通过联合时空嵌入和GAN结构同时建模交通序列的动态时空依赖与统计分布一致性，在六个基准数据集上取得最先进的鲁棒预测性能。
2023-08-11 cs.LG
Adversarial Attacks and Defenses in Multivariate Time-Series Forecasting for Smart and Connected Infrastructures
1,2,4 Department of Computer Science, San Jos\'e State University, San Jos\'e, CA, 95192, USA 3 Department of Computer Science, University of Denver, Denver, CO, 80210, USA
深度学习模型的出现在过去十年中彻底改变了各个行业，导致连接设备和基础设施的激增。然而，这些模型可能会被欺骗，以高置信度做出错误的预测，导致灾难性的失败和安全问题。为此，我们探讨了对抗攻击对多变量时间序列预测的影响，并研究了对抗它们的方法。具体来说，我们采用无针对性的白盒攻击，即快速梯度符号法（FGSM）和基本迭代法（BIM），来毒害训练过程的输入，有效地误导模型。我们还说明了攻击后对输入的微妙修改，这使得使用肉眼检测攻击变得非常困难。在证明了这些攻击的可行性之后，我们通过对抗性训练和模型强化开发了强大的模型。我们是第一批展示这些攻击和防御的可转移性的人之一，我们将我们的工作从基准电力数据推断为用于预测硬盘故障时间的更大的10年真实数据。我们的实验结果证实，攻击和防御达到了预期的安全阈值，在实施对抗性防御后，电力和硬盘数据集的RMSE分别下降了72.41%和94.81%。
2025-09-01 cs.AI cs.CR cs.LG
Keep the Lights On, Keep the Lengths in Check: Plug-In Adversarial Detection for Time-Series LLMs in Energy Forecasting
The University of Melbourne, Australia（墨尔本大学）；Monash University, Australia（莫纳什大学）；Georgia Institute of Technology, United States（佐治亚理工学院）
本文提出一种用于时间序列LLM的插件对抗检测方法，通过采样诱导的分歧检测对抗性示例，提升能源预测的鲁棒性。
2025-12-13 cs.CR cs.LG
AMLNet: Adversarial Mutual Learning Neural Network for Non-AutoRegressive Multi-Horizon Time Series Forecasting
School of Computer Science, The University of Sydney（悉尼大学计算机学院）
AMLNet 通过在线知识蒸馏结合深层 AR 与 NAR 解码器作为集成教师，并利用结果驱动和提示驱动两种机制训练浅层 NAR 解码器，在提升多时段时序预测精度的同时加快计算速度。
2023-10-30 cs.LG
Quantifying Robustness: A Benchmarking Framework for Deep Learning Forecasting in Cyber-Physical Systems
Institute of Artificial Intelligence（人工智能研究所）；Helmut Schmidt University（海姆·施密特大学）
本文提出了一种用于工业网络物理系统深度学习预测的鲁棒性评估框架，通过分布鲁棒性定义和实际干扰模拟，量化模型性能并促进研究可重复性。
2025-12-15 cs.AI cs.LG
Adversarial Spatio-Temporal Attention Networks for Epileptic Seizure Forecasting
STAN通过对抗性时空注意网络实现癫痫发作预测，具有高灵敏度和低误报率，适用于实时边缘部署。
2025-11-03 cs.AI cs.LG
Pareto Adversarial Robustness: Balancing Spatial Robustness and Sensitivity-based Robustness
Peking University（北京大学）；Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔））
该研究针对通用对抗鲁棒性问题，整合空间鲁棒性方法并引入帕累托准则提出帕累托对抗训练策略，实现自然准确率与多类鲁棒性的最优平衡，是首个用多目标优化研究通用对抗鲁棒性的工作。
2024-06-23 cs.LG
Achieving Adversarial Robustness Requires An Active Teacher
Stanford University（斯坦福大学）
通过解耦数据生成器和标签生成器（我们称之为教师），提出了对对抗性示例和对抗性鲁棒性的新理解。在我们的框架中，对抗鲁棒性是一个有条件的概念-学生模型不是绝对鲁棒的，但是相对于老师是鲁棒的。基于这种新的理解，我们认为对抗性例子的存在是因为学生不能从训练数据中获得教师的足够信息。实现鲁棒性的各种方法进行了比较。理论和数值证据表明，为了有效地实现鲁棒性，教师积极地向学生提供其信息可能是必要的。
2020-12-14 cs.LG
Towards Adversarial Robustness of Deep Vision Algorithms
National University of Singapore（新加坡国立大学）
深度学习方法在解决计算机视觉任务方面取得了巨大的成功，并且它们已被广泛用于人工智能系统的图像处理，分析和理解。然而，深度神经网络已被证明易受输入数据中的对抗性扰动的影响。深度神经网络的安全问题也因此浮出水面。因此，对深度视觉算法的对抗鲁棒性进行全面研究势在必行。本次演讲的重点是图像分类模型和图像去噪器的对抗鲁棒性。我们将从三个角度讨论深度视觉算法的鲁棒性：1）稳健性评价（我们提出了ObsAtk来评估去噪器的鲁棒性），2）鲁棒性改进（HAT、TisODE和CIFS是为了增强视觉模型而开发的），3）对抗鲁棒性与新领域推广能力之间的关系（我们发现，对抗性鲁棒去噪器可以处理看不见的真实世界噪声）。
2022-11-22 cs.LG
DARD: Dice Adversarial Robustness Distillation against Adversarial Attacks
Augusta University（奥古斯塔大学）；Electrical Engineering Dept., Columbia University（哥伦比亚大学电子工程系）
本文提出DARD方法，通过定制的知识蒸馏范式将大型教师模型的鲁棒性转移到紧凑的学生模型中，并配合DPGD对抗样本泛化方法，在相同架构下实现了优于对抗训练网络的鲁棒性与标准准确率。
2025-09-15 cs.LG
MIRANDA: MId-feature RANk-adversarial Domain Adaptation toward climate change-robust ecological forecasting with deep learning
DM 3 L, UZH, Zurich, Switzerland（苏黎世大学DM3L实验室，瑞士苏黎世）
本文提出MIRANDA方法，通过中间特征排名对抗策略提升深度学习在气候变化下的域适应鲁棒性，缩小与机制模型的性能差距。
2026-04-01 cs.LG
Targeted Adversarial Attacks against Neural Network Trajectory Predictors
Washington University in St. Louis（圣路易斯华盛顿大学）
轨迹预测是现代自主系统的一个组成部分，因为它允许设想附近移动代理的未来意图。由于缺乏其他智能体的动力学和控制策略，深度神经网络（DNN）模型通常用于轨迹预测任务。虽然存在大量的文献，提高这些模型的准确性，有一个非常有限的数量的工程研究其鲁棒性对adversarially精心制作的输入轨迹。为了弥补这一差距，在本文中，我们提出了一种针对DNN模型的有针对性的对抗攻击，用于轨迹预测任务。我们将所提出的攻击称为针对轨迹预测的有针对性的对抗攻击TA 4 TP。我们的方法生成了对抗性的输入轨迹，这些轨迹能够欺骗DNN模型来预测用户指定的目标/期望轨迹。我们的攻击依赖于解决一个非线性约束优化问题，其中目标函数捕获预测轨迹与目标轨迹的偏差，而约束则对对抗性输入应满足的物理要求进行建模。后者确保输入看起来自然并且它们可以安全地执行（例如，它们接近标称输入并且远离障碍物）。我们在两个最先进的DNN模型和两个数据集上证明了TA 4 TP的有效性。据我们所知，我们提出了针对用于轨迹预测的DNN模型的第一个有针对性的对抗攻击。
2022-12-08 cs.CR cs.LG
Deep Repulsive Prototypes for Adversarial Robustness
Radboud University（拉德堡德大学）；Leiden University（莱顿大学）
虽然已经提出了许多对抗性示例的防御措施，但找到鲁棒的机器学习模型仍然是一个悬而未决的问题。迄今为止，最引人注目的防御是对抗训练，包括用对抗示例补充训练数据集。然而，对抗性训练严重影响训练时间，并且依赖于找到有代表性的对抗性样本。在本文中，我们提出了训练模型的输出空间与大类分离，以获得鲁棒性，而无需对抗训练。我们引入了一种将输出空间划分为具有大分离度的类原型的方法，并通过训练模型来保持它。实验结果表明，用这些原型训练的模型-我们称之为深度排斥原型-获得了与对抗训练相竞争的鲁棒性，同时也保持了对自然样本的更高准确性。此外，该模型对大的扰动尺寸更有弹性。例如，我们在CIFAR-10上获得了超过50%的鲁棒性，在自然样本上的准确率为92%，在CIFAR-100上获得了超过20%的鲁棒性，在没有对抗训练的自然样本上的准确率为71%。对于这两个数据集，该模型保持了对大扰动的鲁棒性优于对抗训练的模型。
2021-05-26 cs.LG
Data augmentation through multivariate scenario forecasting in Data Centers using Generative Adversarial Networks
IIT - Instituto de Investigación Tecnológica, Universidad Pontificia Comillas（科米利亚斯主教大学技术研究所（IIT））；Universidad Politécnica de Madrid（马德里理工大学）；CCS - Center for Computational Simulation（计算模拟中心（CCS））
针对数据中心AI能效策略所需数据不足的问题，提出结合GAN与场景预测的时间序列数据增强方法，可按需生成含异常的多变量数据，用真实数据验证有效，可助力数据中心能耗优化及同类时间序列问题研究。
2022-03-29 cs.AI cs.LG
Recent Advances in Understanding Adversarial Robustness of Deep Neural Networks
Nanyang Technological University, Singapore（新加坡南洋理工大学）
在深度神经网络（DNN）的普及应用道路上，对抗性样本是不可避免的。应用于自然样本的不可感知的扰动可能会导致基于DNN的分类器输出错误的预测，并具有公平的置信度得分。越来越重要的是获得具有高鲁棒性的模型，以抵抗对抗性的例子。在本文中，我们从不同的角度调查了如何理解这种有趣的属性，即对抗鲁棒性的最新进展。我们给出了对抗攻击和鲁棒性的初步定义。在此之后，我们研究了常用的基准测试，并提到了理论上证明的对抗鲁棒性界限。然后，我们概述了分析对抗鲁棒性和DNN模型的其他关键指标之间的相关性。最后，我们介绍了最近的争论的潜在成本的对抗性训练，引起了研究界的广泛关注。
2020-11-03 cs.CV cs.LG
Increasing-Margin Adversarial (IMA) Training to Improve Adversarial Robustness of Neural Networks
University of Miami（迈阿密大学）
深度神经网络（DNN）容易受到对抗性噪声的影响。对抗性训练是提高DNN鲁棒性的通用且有效的策略（即，噪声数据上的准确性）对抗对抗性噪声。然而，由当前现有的对抗训练方法训练的DNN模型可能具有低得多的标准准确度（即，与通过标准方法在干净数据上训练的相同模型相比，这种现象被称为准确性和鲁棒性之间的权衡，并且被认为是不可避免的。这个问题阻止了对抗训练在许多应用领域中的使用，例如医学图像分析，因为从业者不想牺牲标准准确性来换取对抗鲁棒性。我们的目标是提升（即，减轻或甚至避免）医学图像分类和分割的标准准确性和对抗鲁棒性之间的这种权衡。我们提出了一种新的对抗训练方法，命名为增量边际对抗（IMA）训练，这是由对抗训练样本的最优性的平衡状态分析支持。我们的方法旨在通过生成最佳对抗训练样本来保持准确性，同时提高鲁棒性。我们评估我们的方法和其他八个有代表性的方法在六个公开可用的图像数据集上被AutoAttack和白噪声攻击产生的噪声破坏。我们的方法实现了最高的对抗性的鲁棒性图像分类和分割的最小的减少在干净的数据的准确性。对于其中一个应用程序，我们的方法提高了准确性和鲁棒性。我们的研究表明，我们的方法可以解除标准的准确性和对抗性的鲁棒性之间的权衡图像分类和分割应用。
2023-02-10 cs.CV cs.LG
Adversarial Robustness Curves
Bielefeld University, Germany（德国比勒费尔德大学）
对抗性例子的存在导致人们对自动化系统产生的预测的信任存在相当大的不确定性。这种不确定性反过来又导致了在理解对抗鲁棒性方面的大量研究工作。在这项工作中，我们采取的第一步分离鲁棒性分析的鲁棒性阈值和范数的选择。我们提出的鲁棒性曲线作为一个更一般的观点的鲁棒性行为的模型，并调查在何种情况下，他们可以定性地依赖于所选择的规范。
2019-07-31 cs.LG stat.ML
Scoring Black-Box Models for Adversarial Robustness
Stanford University（斯坦福大学）
深度神经网络易受对抗性输入的影响，并且已经提出了各种方法来在不同的扰动模型下保护这些模型免受对抗攻击。通过构造模型的对抗性输入，然后在构造的对抗性输入上测试模型的性能，分析了模型对对抗攻击的鲁棒性。这些攻击中的大多数都要求模型是白盒的，需要访问数据标签，并且查找对抗性输入可能在计算上非常昂贵。我们提出了一个简单的黑盒模型的评分方法，表明其对对抗性输入的鲁棒性。我们发现，相反更强大的模型有一个更小的$l_1$规范的LIME权重和更清晰的解释。
2022-10-31 cs.AI cs.LG
A Closer Look at the Adversarial Robustness of Information Bottleneck Models
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Google Research（谷歌研究院）；DeepMind（深度思维）
研究了信息瓶颈分类模型的对抗鲁棒性。以前的工作表明，用信息瓶颈训练的模型的鲁棒性可以提高对抗性训练。我们在各种白盒$l_{\infty}$攻击下的评估表明，信息瓶颈本身并不是一个强大的防御策略，以前的结果可能受到梯度混淆的影响。
2021-07-12 cs.LG
Improving Global Adversarial Robustness Generalization With Adversarially Trained GAN
Southwest Jiaotong University（西南交通大学）
卷积神经网络（CNN）在图像分类任务中已经实现了超越人类水平的准确性，并广泛应用于现实世界的环境中。然而，CNN显示出对抗性扰动的脆弱性，这些扰动是精心设计的噪声，旨在误导分类模型。为了抵御对抗性扰动，提出了对抗性训练的GAN（AT GAN），以提高通过对抗性训练的最新CNN的对抗性鲁棒性泛化能力。ATGAN将对抗性训练结合到标准GAN训练过程中，以去除模糊梯度，这可能导致在防御对抗性扰动时产生错误的感觉，并且在现有的基于GAN的对抗性防御方法中常见。此外，ATGAN采用图像到图像生成器作为数据增强，以增加对抗训练中对抗鲁棒性泛化所需的样本复杂度。在MNIST SVHN和CIFAR-10数据集上的实验结果表明，该方法不依赖于模糊梯度，并且比对抗训练的最先进CNN具有更好的全局对抗鲁棒性泛化性能。
2021-03-08 cs.CV cs.LG
Are Adversarial Robustness and Common Perturbation Robustness Independent Attributes ?
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Atos（源讯）
神经网络已被证明对常见的扰动敏感，如模糊，高斯噪声，旋转等，它们也容易受到一些被称为对抗性示例的人工恶意破坏。对抗性示例研究最近变得非常流行，有时甚至将术语“对抗性鲁棒性”简化为术语“鲁棒性”。然而，我们不知道对抗鲁棒性在多大程度上与全局鲁棒性相关。同样，我们不知道对各种常见扰动（例如平移或对比度损失）的鲁棒性是否有助于对抗性腐败。我们打算研究神经网络对这两种扰动的鲁棒性之间的联系。通过我们的实验，我们提供了第一个基准设计来估计神经网络的鲁棒性常见的扰动之一。我们表明，增加鲁棒性精心挑选的共同扰动，可以使神经网络更强大的看不见的共同扰动。我们还证明了对抗鲁棒性和对常见扰动的鲁棒性是独立的。我们的研究结果使我们相信，神经网络的鲁棒性应该在更广泛的意义上解决。
2019-10-09 cs.CV cs.LG stat.ML
Benchmarking Sensor-Fault Robustness in Forecasting
Helmut Schmidt University（海德堡-施密特大学）；Ruhr University Bochum（波恩鲁尔大学）；ABB Corporate Research（ABB企业研究）；TH Köln（科隆技术大学）；Leiden University（莱顿大学）
本文提出SensorFault-Bench基准测试协议，用于评估预测架构和鲁棒性改进方法在传感器故障下的表现，通过四个真实数据集和八个评分场景分析故障下的降级情况。
2026-11-05 cs.LG eess.SP
Revisiting Hilbert-Schmidt Information Bottleneck for Adversarial Robustness
Northeastern University（东北大学）
我们研究了HSIC（Hilbert-Schmidt独立准则）瓶颈作为学习对抗鲁棒深度神经网络分类器的正则化器。除了通常的交叉熵损失外，我们还为每个中间层添加正则化项，以确保潜在表示保留输出预测的有用信息，同时减少冗余信息。我们证明了HSIC瓶颈增强了对对抗攻击的鲁棒性。特别是，我们证明了HSIC瓶颈正则化器降低了分类器对对抗性示例的敏感性。我们在多个基准数据集和架构上的实验表明，结合HSIC瓶颈正则化器可以获得具有竞争力的自然准确性，并提高对抗性鲁棒性，无论在训练过程中是否有对抗性示例。我们的代码和对抗性强大的模型是公开的。
2021-10-26 cs.LG
Recent Advances in Adversarial Training for Adversarial Robustness
Nanyang Technological University（南洋理工大学）；Wuhan University（武汉大学）
对抗性训练是深度学习模型防御对抗性样本的最有效方法之一。与其他防御策略不同，对抗性训练旨在从本质上提高模型的鲁棒性。近几年来，对抗性训练受到了多方面的研究和探讨。提出了对抗训练的各种改进和发展，然而，在现有的调查中被忽视。在这次调查中，我们首次系统地回顾了对抗训练的最新进展，并采用了一种新的分类法来提高对抗鲁棒性。然后从三个方面讨论了对抗训练中的泛化问题。最后，我们强调尚未充分解决的挑战，并提出潜在的未来方向。
2021-04-21 cs.AI cs.CR cs.LG
Dropping Pixels for Adversarial Robustness
University of Washington（华盛顿大学）
深度神经网络很容易受到对抗性样本的攻击。在本文中，我们提出了训练和测试的网络与随机子采样图像具有高的下降率。我们证明了这种方法在所有有界L0，L2和L_inf扰动的情况下显着提高了对抗性示例的鲁棒性，同时将标准精度降低了一个小值。我们认为，子采样像素可以被认为是为输入图像提供一组鲁棒的特征，从而提高了鲁棒性，而无需进行对抗性训练。
2019-05-01 cs.LG stat.ML
Strengthening the Internal Adversarial Robustness in Lifted Neural Networks
Chalmers University of Technology（查尔姆斯理工大学）
本文研究提升神经网络的内部对抗鲁棒性，通过仅修改训练损失增强鲁棒性，并提出结合有目标与无目标对抗扰动的新型训练损失。
2025-03-10 cs.LG
Adversarial Machine Learning And Speech Emotion Recognition: Utilizing Generative Adversarial Networks For Robustness
Information Technology University (ITU)-Punjab（旁遮普信息技术大学）；University of Southern Queensland（南昆士兰大学）
深度学习无疑为最先进的语音情感识别（SER）系统的性能提供了巨大的改进。然而，最近对对抗性示例的研究对SER系统的鲁棒性提出了巨大的挑战，因为它们只依赖于小而不可感知的扰动，因此显示了深度神经网络对对抗性示例的敏感性。在这项研究中，我们评估了如何对抗的例子可以用来攻击SER系统，并提出了第一个黑盒对抗攻击SER系统。我们还探索了潜在的防御措施，包括对抗训练和生成对抗网络（GAN），以增强鲁棒性。实验评估表明，有效利用对抗性示例的各个有趣方面有助于实现SER系统的鲁棒性，为研究人员在这一领域进一步创新提供了机会。
2018-12-30 cs.CR cs.LG eess.SP
Exploring Model Robustness with Adaptive Networks and Improved Adversarial Training
University of Maryland, College Park（马里兰大学帕克分校）
对抗性训练已被证明可以有效地强化网络对抗性示例。然而，所获得的鲁棒性受到网络容量和训练样本数量的限制。因此，为了构建更鲁棒的模型，通常的做法是在具有更多参数的加宽网络上进行训练。为了提高鲁棒性，我们提出了一个条件归一化模块，以适应网络在输入样本的条件。我们的自适应网络，一旦经过对抗训练，就可以在干净的验证准确性和鲁棒性方面胜过非自适应网络。我们的方法是客观不可知的，并且始终如一地改进了传统的对抗训练目标和TRADES目标。我们的自适应网络的性能也优于更大的加宽非自适应架构，这些架构具有1.5倍的参数。我们进一步介绍了对抗训练中的几个实用“技巧”，以提高鲁棒性并实证验证其效率。
2020-05-30 cs.LG stat.ML
Interpreting Adversarial Robustness: A View from Decision Surface in Input Space
George Mason University（乔治梅森大学）；Clarkson University（克拉克森大学）；Northeastern University（东北大学）
神经网络推广的一个流行假设是参数空间中损失曲面的平坦局部极小导致良好的推广。然而，我们证明了参数空间中的损失面与泛化没有明显的关系，特别是在对抗性设置下。通过在参数空间和输入空间中对决策曲面进行可视化，我们证明了决策曲面在输入空间中的几何性质与对抗鲁棒性有很好的相关性。然后，我们提出了一个对抗鲁棒性指标，它可以评估神经网络的内在鲁棒性，而无需测试其准确性下的对抗攻击。在此基础上，我们进一步提出了我们的鲁棒训练方法。在不涉及对抗训练的情况下，我们的方法可以增强网络对各种对抗攻击的内在对抗鲁棒性。
2018-10-12 cs.AI cs.LG stat.ML
Revisiting Adversarial Robustness Distillation: Robust Soft Labels Make Student Better
Deakin University（迪肯大学）
对抗性训练是训练鲁棒的深度神经网络对抗对抗攻击的一种有效方法。虽然能够带来可靠的鲁棒性，但对抗训练（AT）方法通常倾向于高容量模型，即，模型越大，鲁棒性越好。这往往会限制它们在小模型上的有效性，而小模型在存储或计算资源非常有限的情况下更可取（例如，移动设备）。在本文中，我们利用知识蒸馏的概念，以提高小模型的鲁棒性，从对抗训练的大模型。我们首先从蒸馏的角度重新审视了几种最先进的AT方法，并确定了一种可以提高鲁棒性的常用技术：使用鲁棒的软标签-预测鲁棒的模型。根据这一观察，我们提出了一种新的对抗鲁棒性蒸馏方法称为鲁棒软标签对抗蒸馏（RSLAD）训练强大的小学生模型。RSLAD充分利用了由强大的（对抗训练的）大型教师模型产生的强大软标签，以指导学生在所有损失方面对自然和对抗示例的学习。我们通过经验证明了我们的RSLAD方法在现有对抗性训练和蒸馏方法中的有效性，以提高小模型对最先进攻击（包括AutoAttack）的鲁棒性。我们还提供了一组关于我们的RSLAD的理解，以及鲁棒软标签对对抗鲁棒性蒸馏的重要性。
2021-08-18 cs.CR cs.LG
Adversarial Attacks on Downstream Weather Forecasting Models: Application to Tropical Cyclone Trajectory Prediction
Michigan State University（密歇根州立大学）
本文研究了对抗攻击对深度学习天气预测模型的脆弱性，提出了一种新的攻击方法Cyc-Attack，用于生成对抗性轨迹，以提高攻击的准确性并减少检测难度。
2026-05-18 cs.CR cs.LG stat.ML
Rating Multi-Modal Time-Series Forecasting Models (MM-TSFM) for Robustness Through a Causal Lens
University of South Carolina（南卡罗来纳大学）；J.P. Morgan AI Research（摩根大通人工智能研究院）
针对AI系统脆弱性问题，提出基于因果分析的多模态时间序列预测模型鲁棒性评估方法，经大规模实验验证多模态预测兼具更高精度与鲁棒性，助力利益相关方选优决策。
2024-06-12 cs.AI cs.LG stat.ME
