Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security
University of California, Berkeley(加利福尼亚大学伯克利分校)
针对自动驾驶轨迹预测器的输入扰动影响及下游安全风险问题,通过敏感性分析发现两类模型的扰动敏感点集中在最新状态,且图像地图扰动可引发预测误差激增,甚至导致车辆突然急停。
2024-05-20 cs.CR cs.LG cs.RO
Drift with Devil: Security of Multi-Sensor Fusion based Localization in High-Level Autonomous Driving under GPS Spoofing (Extended Version)
UC Irvine(加州大学尔湾分校)
对于高级自动驾驶汽车(AV),本地化是高度安全和安全的关键。对它的一个直接威胁是GPS欺骗,但幸运的是,今天的AV系统主要使用多传感器融合(MSF)算法,这些算法通常被认为有可能实际上击败GPS欺骗。然而,没有先前的工作已经研究了今天的MSF算法在GPS欺骗下是否确实足够安全,特别是在AV设置中。在这项工作中,我们进行了第一项研究,以填补这一关键空白。作为第一项研究,我们专注于生产级MSF的设计和实现水平的代表性,并确定两个AV特定的攻击目标,越野和错误的方式攻击。为了系统地理解安全属性,我们首先分析上限攻击有效性,并发现一个接管效果,可以从根本上击败MSF的设计原则。我们进行了原因分析,发现这种漏洞只出现动态和非确定性。利用这一洞察力,我们设计了FusionRipper,这是一种新颖的通用攻击,可以抓住机会并利用接管漏洞。我们在6个真实世界的传感器轨迹上进行了评估,发现FusionRipper在越野和错误路径攻击的所有轨迹中分别可以达到至少97%和91.3%的成功率。我们还发现,它是非常强大的实际因素,如欺骗不准确。为了提高实用性,我们进一步设计了一种离线方法,可以有效地识别攻击参数,对两个攻击目标的平均成功率超过80%,成本最多半天。我们还讨论了有希望的防御方向。
2020-08-12 cs.CR cs.RO
SaSeVAL: A Safety/Security-Aware Approach for Validation of Safety-Critical Systems
公路车辆通信和自动驾驶能力的提高导致了攻击者施加的威胁。特别是,必须查明导致违反安全规定的袭击,以便采取适当措施加以解决。攻击的影响取决于所利用的威胁、潜在的对策和流量状况。为了识别这种攻击并将其用于测试,我们提出了一种系统化的方法SaSeVAL,用于推导自动驾驶汽车的攻击。SaSeVAL基于威胁识别和安全性分析。考虑了汽车用例对攻击的影响。威胁识别考虑车辆的攻击界面,并根据威胁类型对威胁场景进行分类,然后将威胁场景映射到攻击类型。安全性分析根据被测系统的体系结构确定必须测试的必要要求。它确定了安全违规可能产生的安全影响,以及在哪些交通状况下预计会产生最大的影响。最后,威胁识别和安全性分析的结果被用来描述攻击。SaSeVAL的目标是实现车辆w.r.t.的安全验证。安全问题。它明确地将安全目标追溯到威胁和攻击。因此,安全测试的安全问题的覆盖范围得到了保证。车辆通信和自动驾驶的两个用例进行了调查,以证明该方法的适用性。
2021-06-25 cs.CR
Physical Backdoor Attack can Jeopardize Driving with Vision-Large-Language Models
提出首个针对自动驾驶视觉大语言模型的物理后门攻击BadVLMDriver,利用红色气球等物理对象诱导突然加速,攻击成功率达92%,凸显现实安全威胁并呼吁防御机制。
2024-04-22 cs.CR
Approaching the Automation of Cyber Security Testing of Connected Vehicles
车辆和汽车系统的数字化进步为创建和增强舒适性和安全性相关系统带来了许多优势,从线控驾驶,包括先进的显示器,娱乐系统到复杂的驾驶辅助和自动驾驶。然而,它也包含被用于非预期目的的固有风险,从小型未经授权的定制到影响几辆车的全面网络攻击的可能性,再到整个车队和转向和发动机控制等重要系统。为了防止这种情况并减轻网络安全风险对道路交通安全的影响,必须在大规模的汽车测试中采用网络安全测试。目前,由于测试复杂系统的时间和成本,手动渗透测试过程无法满足日益增长的需求。我们提出了一种(半)自动化汽车网络安全测试的架构方法,允许进行更经济的测试,从而跟上新车辆功能引起的不断增长的需求,以及向互联和自动驾驶汽车的发展。
2019-11-15 cs.CR
Broken keys to the kingdom: Security and privacy aspects of RFID-based car keys
本文概述了目前最先进的安全和隐私问题,基于RFID的汽车钥匙应用。我们将首先概述该技术及其发展,然后再概述和讨论各种已知的安全漏洞和针对此类系统的攻击以及它们引入的相关隐私风险。
2014-05-28 cs.CR
Too Afraid to Drive: Systematic Discovery of Semantic DoS Vulnerability in Autonomous Driving Planning under Physical-World Attacks
在高级自动驾驶(AD)系统中,行为规划负责做出高级驾驶决策,例如巡航和停车,因此高度安全。在这项工作中,我们进行了第一次系统的研究语义安全漏洞特定于过于保守的AD行为规划行为,即,那些可能导致失败或显著降低任务性能的任务,这对于自动驾驶服务(如机器人出租车/交付)至关重要。我们称之为语义拒绝服务(DoS)的漏洞,我们设想是最普遍暴露在实际的AD系统,由于保守的倾向,以避免安全事故。为了实现高度的实用性和真实性,我们假设攻击者只能将无害的外部物理对象引入驾驶环境,例如,丢弃在路边的纸板箱为了系统地发现这些漏洞,我们设计了PlanFuzz,这是一种新颖的动态测试方法,可以解决各种特定问题的设计挑战。具体来说,我们提出并确定规划不变量作为新的测试神谕,并设计新的输入生成系统地执行特定问题的限制攻击者引入的物理对象。我们还设计了一种新的行为规划漏洞距离度量,以有效地指导发现。我们评估了PlanFuzz在3个实际的开源AD系统的规划实现,并发现它可以有效地发现9个以前未知的语义拒绝服务漏洞,而没有误报。我们发现我们所有的新设计都是必要的,因为如果没有每个设计,通常会观察到统计上显着的性能下降。我们进一步使用模拟和真实车辆跟踪进行开发案例研究。我们讨论了根本原因和潜在的修复方法。
2022-01-12 cs.CR
Applying adversarial networks to increase the data efficiency and reliability of Self-Driving Cars
卷积神经网络(CNN)在存在小扰动时容易对图像进行错误分类。随着CNN在自动驾驶汽车中的日益普及,确保这些算法的鲁棒性以防止由于无法识别情况而发生碰撞至关重要。在对抗性自驱动框架中,实现生成对抗网络(GAN)以在图像中生成导致分类器CNN错误分类数据的真实扰动。然后,该扰动的数据用于进一步训练分类器CNN。对抗性自驾驶框架被应用于图像分类算法,以提高扰动图像的分类精度,随后被应用于训练自动驾驶汽车在模拟中驾驶。还建造了一辆小型自动驾驶汽车,用于在赛道上行驶并对标志进行分类。对抗性自驾驶框架通过学习数据集来生成扰动图像,从而消除了对大量数据进行训练的需要。实验表明,对抗自驱动框架识别出CNN容易受到扰动的情况,并为CNN生成这些情况的新示例进行训练。对抗自驱动框架生成的额外数据为CNN提供了足够的数据来推广到环境中。因此,它是一个可行的工具,以增加CNN的弹性扰动。特别是在现实世界的自动驾驶汽车中,对抗性自动驾驶框架的应用使准确率提高了18%,模拟的自动驾驶模型在30分钟的驾驶中没有发生碰撞。
2022-02-16 cs.CR cs.CV cs.LG
A Note on the Security of ITS: Car Crash Analysis in Cruise Control Scenarios
本文面向ITS与ACC安全问题,分析巡航控制中两车经历的阶段,并提出用简单公式预测急刹车场景下的碰撞风险。
2023-07-18 cs.CR
Robustness of LLM-enabled vehicle trajectory prediction under data security threats
Southwest Jiaotong University(西南交通大学);McGill University(麦吉尔大学)
本研究针对基于大语言模型(LLM)的车辆轨迹预测模型在数据安全威胁下的鲁棒性空白,提出单特征差分进化攻击并开展系统性脆弱性分析,揭示其易受对抗操纵的特性,为相关系统的鲁棒性设计提供了首个关键见解。
2025-11-14 cs.AI cs.CR cs.LG
All Your Bulbs Are Belong to Us: Investigating the Current State of Security in Connected Lighting Systems
ZigBee Light Link(ZLL)是一种低功耗网状网络标准,用于连接照明系统,如Philips Hue,Osram Lightify和GE Link。这些照明系统旨在用于住宅,但也部署在酒店,餐馆和工业建筑中。在本文中,我们调查了基于ZLL的连接照明系统的安全现状。我们通过描述新的攻击程序来扩展已知攻击的范围,以表明ZLL标准的设计是不安全的。使用我们的渗透测试框架,我们能够完全控制上述所有三个系统。除了新颖的攻击程序,我们还扩展了最大的预期无线范围。将ZLL设备配置为超过30米,从而使基于ZLL的系统容易受到战争驾驶的影响。最后,我们讨论了互联照明系统的安全需求,并从基于ZLL的互联照明系统的不安全设计中汲取了物联网安全的几个教训。
2017-06-21 cs.CR
Security of HyperLogLog (HLL) Cardinality Estimation: Vulnerabilities and Protection
计数不同或基数估计被广泛用于网络安全监控。例如,它们可用于检测恶意软件传播、网络扫描或拒绝服务攻击。有许多算法来估计基数。其中,HyperLogLog(HLL)是最广泛采用的日志记录方法之一。HLL很简单,在很宽的值范围内提供良好的基数估计,需要少量的内存,并允许合并来自不同来源的估计。然而,随着HLL越来越多地用于检测攻击,它本身可能成为希望避免被检测到的攻击者的目标。据我们所知,HLL的安全性还没有被研究过。在这封信中,我们采取了第一步,在其研究中,首先暴露的漏洞HLL,允许攻击者操纵其估计。这表明了设计安全的HLL实现的重要性。在信的第二部分,我们提出了一个有效的保护技术来检测和避免HLL操纵。结果表明,HLL的安全性应进一步研究,因为它被广泛采用在许多网络和计算应用。
2020-02-15 cs.CR
Guardauto: A Decentralized Runtime Protection System for Autonomous Driving
由于广泛的攻击面和缺乏运行时保护,潜在的安全和安全威胁阻碍了自动驾驶汽车的实际应用。尽管已经做出了努力来减轻一些特定的攻击,但在保护自动驾驶系统方面的工作很少。本文提出了一个分散的自我保护框架称为Guardauto,以保护自动驾驶系统免受运行时的威胁。首先,Guardauto提出了一个隔离模型,用于对自动驾驶系统进行解耦,并使用一组分区隔离其组件。其次,Guardauto为每个目标组件提供了自保护机制,它结合不同的方法来监视目标执行并相应地规划适应动作。第三,Guardauto提供了当地自我保护机制之间的合作,以确定在级联故障影响多个组件的情况下的根本原因组件。原型已经在开源自动驾驶系统Autoware上实现和评估。实验结果表明,Guardauto能够有效地缓解运行时故障和攻击,在保证系统性能的前提下保护系统。
2020-03-22 cs.CR
Design and Analysis of a Secure Three Factor User Authentication Scheme Using Biometric and Smart Card
密码安全性不再能够在远程用户身份验证领域提供足够的安全性。考虑到这一安全缺陷,研究人员正试图通过多因素远程用户认证系统来解决这一问题。近年来,利用生物特征和灵巧卡的三因素远程用户认证引起了研究者的极大关注。然而,目前提出的大多数方案都存在安全缺陷。它们容易受到攻击,如用户冒充攻击,服务器伪装攻击,密码猜测攻击,内部攻击,拒绝服务攻击,伪造攻击等,而且,他们中的大多数无法提供相互认证,会话密钥协商和密码,或灵巧卡恢复系统。针对这些缺点,我们提出了一个利用生物特征和灵巧卡的安全三因素用户认证方案。通过安全性分析,我们表明我们提出的方案可以克服现有系统的缺点,确保远程用户认证的高安全性。
2017-11-03 cs.CR
Towards Cyber Security for Low-Carbon Transportation: Overview, Challenges and Future Directions
本综述从全局视角探讨低碳交通的网络安全问题,分类典型攻击风险,从数据、网络管理与应用安全角度回顾防御技术,并提出未来研究方向。
2023-05-24 cs.CR cs.IT math.IT
AGNES: Abstraction-guided Framework for Deep Neural Networks Security
AUDI AG(奥迪股份公司);University of Twente(特温特大学);Utrecht University(乌得勒支大学)
本文提出AGNES工具,通过抽象引导方法检测图像识别DNN中的后门,在多个案例研究中优于现有方法。
2023-11-07 cs.CR cs.CV cs.LG
Attacking Autonomous Driving Agents with Adversarial Machine Learning: A Holistic Evaluation with the CARLA Leaderboard
Carnegie Mellon University(卡内基梅隆大学)
该研究借助CARLA模拟器与CARLA排行榜,在不修改智能体代码的前提下测试对抗补丁对多类开源自动驾驶智能体的攻击效果,发现部分非ML模块可抵消对抗样本对ML模型的误导作用。
2025-11-18 cs.CR cs.CV cs.LG
Adversarial Sensor Attack on LiDAR-based Perception in Autonomous Driving
University of Michigan(密歇根大学);University of California, Irvine(加州大学欧文分校)
在自动驾驶汽车(AV)中,一个基本支柱是感知,它利用摄像头和LiDAR(光检测和测距)等传感器来了解驾驶环境。由于其对道路安全的直接影响,已经进行了多种先前的努力来研究其感知系统的安全性。与之前专注于基于摄像头的感知的工作相比,在这项工作中,我们在AV设置中进行了第一次基于LiDAR的感知的安全研究,这非常重要但尚未探索。我们认为激光雷达欺骗攻击的威胁模型,并设置攻击目标欺骗障碍物靠近受害者AV的前面。我们发现,由于基于机器学习的目标检测过程,盲目地应用LiDAR欺骗不足以实现这一目标。因此,我们随后探索了策略性地控制欺骗攻击以欺骗机器学习模型的可能性。我们制定这个任务作为一个优化问题和设计建模方法的输入扰动函数和目标函数。我们还确定了使用优化直接解决问题的固有局限性,并设计了一种结合优化和全局采样的算法,将攻击成功率提高到75%左右。作为一个案例研究,以了解在AV驾驶决策层的攻击影响,我们构建和评估两个攻击的情况下,可能会损害道路安全和流动性。我们还讨论了防病毒系统,传感器和机器学习模型级别的防御方向。
2019-08-20 cs.CR cs.CV eess.SP
Who is in Control? Practical Physical Layer Attack and Defense for mmWave based Sensing in Autonomous Vehicles
由于毫米波(mmWave)频带的宽带宽带来了前所未有的准确性,毫米波传感对于许多应用至关重要,特别是在自动驾驶汽车(AV)中。此外,与相机和激光雷达等其他传感设备相比,毫米波传感具有更高的可靠性,这对于安全驾驶至关重要。因此,了解安全漏洞并提高AV中毫米波传感的安全性和可靠性至关重要。为此,我们进行了端到端的安全性分析的基于毫米波的传感系统在AV,通过设计和实施实际的物理层攻击和防御策略,在一个国家的最先进的毫米波测试平台和AV测试平台在现实世界的设置。开发了各种策略来通过欺骗其毫米波传感模块来控制受害者AV,包括在任意位置添加虚假障碍物和伪造现有障碍物的位置。构建了五个真实世界的攻击场景来欺骗受害者AV,并迫使它做出危险的驾驶决定,导致致命的撞车事故。使用基于林肯MKZ的AV测试平台进行现场实验以研究各种攻击场景的影响,该测试平台验证了攻击者确实可以控制受害者AV以损害其安全性和安全性。为了防御攻击,我们设计并实现了一个挑战-响应认证方案和RF指纹方案,以可靠地检测上述欺骗攻击。
2020-11-22 cs.CR eess.SP
Attacks and Faults Injection in Self-Driving Agents on the Carla Simulator -- Experience Report
Università degli Studi di Firenze(佛罗伦萨大学)
机器学习应用是自动驾驶的基础,因为它们是大多数驾驶任务的支持技术。然而,在汽车系统中包含经过训练的代理会使车辆暴露于新的攻击和故障,这可能导致对驾驶任务的安全威胁。在本文中,我们报告了我们的实验活动的对抗攻击和软件故障的自动驾驶代理在驾驶模拟器中运行的注入。我们表明,对抗攻击和故障注入训练代理可能会导致错误的决定,并严重危及安全。本文展示了一种基于开源模拟器和工具的可行且易于再现的方法,其结果显然激发了保护措施和广泛测试活动的需求。
2022-02-25 cs.AI cs.CR
Integrated Photonic AI Accelerators under Hardware Security Attacks: Impacts and Countermeasures
本文研究集成光子AI加速器在硬件安全攻击下的漏洞,分析攻击对功率、相位分布及精度的影响,并提出相应的防御对策。
2023-09-05 cs.AR cs.CR cs.ET
CARE: Ensemble Adversarial Robustness Evaluation Against Adaptive Attackers for Security Applications
针对网络安全中集成防御能否抵御自适应攻击缺乏综合评估平台的问题,本文提出通用CARE平台以系统评估集成对抗攻击与防御。
2024-01-20 cs.CR cs.LG
Digital Investigation of Security Attacks on Cardiac Implantable Medical Devices
心脏植入式医疗器械(IMD)是一种通过手术植入患者体内,并由处方医师和医生使用外部程控仪进行无线配置的器械。由于使用了易受攻击的无线通信和安全协议,以及IMD上缺乏安全保护机制,因此可以针对这些设备进行一系列致命攻击。在本文中,我们提出了一个系统的致命攻击的情况下,针对心脏IMD的尸检分析。这样一个系统在同一个框架中调和了技术研究者得出的结论和病理学家得出的推论。一个推理系统集成了一个库的医疗规则被用来自动推断潜在的医疗情况下,可能会导致病人的死亡。一个模型检验为基础的正式技术,允许重建的IMD上的潜在技术攻击的情况下,从收集的证据,也提出了。通过这两种技术获得的结果之间的相关性可以证明潜在的攻击场景是否是患者死亡的来源。
2014-10-16 cs.CR cs.LO
Deep Learning-Based Autonomous Driving Systems: A Survey of Attacks and Defenses
Macquarie University(麦考瑞大学);Swinburne University of Technology(斯威本科技大学)
人工智能的快速发展,特别是深度学习技术,通过提供精确的控制决策来应对几乎任何驾驶事件,从抗疲劳安全驾驶到智能路线规划,从而推进了自动驾驶系统(ADS)。然而,ADS仍然受到来自不同攻击的日益增加的威胁的困扰,这些攻击可以分为物理攻击,网络攻击和基于学习的对抗攻击。不可避免地,基于深度学习的自动驾驶的安全性和保障性受到这些攻击的严峻挑战,应从中全面分析和研究对策,以减轻所有潜在风险。该调查对可能危及ADS的不同攻击以及相应的最先进防御机制进行了全面分析。该分析通过深入概述ADS工作流程中的每个步骤展开,涵盖了各种深度学习模型的对抗攻击以及物理和网络环境中的攻击。此外,为了提高基于深度学习的自动驾驶安全性,提出了一些有前景的研究方向,包括模型鲁棒性训练、模型测试和验证以及基于云/边缘服务器的异常检测。
2021-04-10 cs.CR cs.CV cs.DC
A Survey of Wireless Sensing Security from a Role-Based View: Victim, Weapon, and Shield
本文针对无线感知安全缺乏系统梳理的问题,分析2020—2024年200余篇文献,提出受害者、武器、盾牌三类角色框架并总结趋势与机会。
2024-12-04 cs.CR cs.HC
On Robustness of Lane Detection Models to Physical-World Adversarial Attacks in Autonomous Driving
University of California, Irvine(加州大学欧文分校)
在2017年TuSimple车道检测挑战赛之后,其基于准确率和F1分数的评估已经成为衡量车道检测方法性能的事实标准。在这项工作中,我们进行了第一次大规模的实证研究,以评估自动驾驶中物理世界对抗攻击下最先进的车道检测方法的鲁棒性。本文对自动驾驶场景下的4种主要车道检测方法进行了常规评估和端到端评估,并讨论了每种车道检测模型的安全特性。我们证明了传统的评估未能反映端到端自动驾驶场景的鲁棒性。我们的研究结果表明,在传统指标上最稳健的模型在端到端评估中是最不稳健的。尽管随着深度神经网络的快速发展,竞争数据集及其度量在开发高性能车道检测方法方面发挥了重要作用,但传统的评估正在变得过时,度量与实用性之间的差距至关重要。我们希望我们的研究将有助于社会在建立一个更全面的框架来评估车道检测模型方面取得进一步的进展。
2021-07-06 cs.CR cs.CV
Towards a Systematic Risk Assessment of Deep Neural Network Limitations in Autonomous Driving Perception
FZI Research Center for Information Technology, Germany(德国弗劳恩霍夫信息技术研究所);Karlsruhe Institute of Technology, Germany(德国卡尔斯鲁厄理工学院)
本文提出结合ISO 26262和ISO/SAE 21434标准的风险评估流程,系统分析深度神经网络在自动驾驶感知中的固有局限性带来的风险。
2026-04-21 cs.CR cs.CY cs.LG
Are Self-Driving Cars Secure? Evasion Attacks against Deep Neural Networks for Steering Angle Prediction
Northeastern University(东北大学);Toyota ITC(丰田ITC)
深度神经网络(DNN)在推进自动驾驶汽车的愿景方面具有巨大的潜力。然而,DNN模型在这种情况下的安全性导致了重大的安全问题,需要更好地理解。我们考虑使用2014年Udacity挑战赛的数据集从相机图像预测转向角的案例研究。我们首次展示了针对分类和回归设置的对抗性测试时间攻击。我们发现,对相机图像的微小修改(所考虑的模型之一的L2距离为0.82)会导致图像对攻击者选择的任何类别的错误分类。此外,我们的回归攻击导致均方误差(MSE)在最坏情况下显著增加69倍。
2019-04-15 cs.CR cs.LG stat.ML
The Role of Cost in the Integration of Security Features in Integrated Circuits for Smart Cards
本文探讨了成本在安全集成电路开发和生产中的作用。首先,我对智能卡上的硬件攻击及其背后的一些原因做了一个小小的介绍。随后,我介绍了集成到智能卡的芯片的生产阶段,并试图确定影响每个阶段的成本。我继续确定如何增加这种集成电路的安全功能可能会影响其开发和生产的成本。然后,我对开发针对此类芯片的硬件攻击的成本进行了更彻底的调查,并试图估计此类攻击的潜在损害和损失。我还继续研究降低安全芯片生产成本的潜在方法,同时确定采用它们的困难。本文最后得出的结论是,为用于安全应用程序的芯片添加安全功能是非常值得的,因为开发攻击的成本与开发和生产芯片的成本相当,而这种攻击造成的潜在损害和损失可能远远高于这些成本。因此,尽管集成电路的生产和开发需要一定的成本,并且安全性引入了进一步的额外成本,但在这种芯片中,安全性本质上是不可避免的。最后,我还指出,安全是一个不断发展的概念,并不旨在使芯片完全不可穿透,因为这可能是不可能的,而是将潜在的风险,包括被破坏的风险,降低到可接受的水平。因此,需要在安全水平与费用和风险水平之间找到平衡。
2021-01-25 cs.CR econ.GN q-fin.EC