AI Security Threats against Pervasive Robotic Systems: A Course for Next Generation Cybersecurity Workforce
Mississippi State University（密西西比州立大学）
机器人技术、自动化和相关的人工智能（AI）系统已经变得普遍，带来了与安全性、准确性和信任相关的担忧。随着人们越来越依赖与人类密切接触的物理机器人，这些系统的安全性变得越来越重要，以防止可能导致隐私侵犯、关键操作破坏和身体伤害的网络攻击。目前缺乏专业人员谁可以捍卫这种系统要求开发和整合这样的课程。本课程描述包括关于“针对普适机器人系统的AI安全威胁”的七个独立和自适应模块的详细信息。主题包括：1）介绍，攻击的例子和动机; 2）-机器人AI攻击表面和渗透测试; 3）-输入传感器的攻击模式和安全策略; 4）-训练攻击和相关的安全策略; 5）-推理攻击和相关的安全策略; 6）-执行器攻击和相关的安全策略;和7）-人工智能，机器人和网络安全的伦理。
2023-02-15 cs.AI cs.CR cs.LG
A Survey on Trust Metrics for Autonomous Robotic Systems
Worcester Polytechnic Institute (WPI)（伍斯特理工学院）
本文综述了自主机器人系统的信任度量研究，提出需将系统、硬件、软件、认知鲁棒性及供应商级指标纳入统一模型，以解决现有研究缺乏整体性和成本考量的问题，为评估复杂系统提供系统级信任度量框架。
2021-06-30 cs.CR cs.RO
ExploitFlow, cyber security exploitation routes for Game Theory and AI research in robotics
Alpen-Adria-Universität Klagenfurt（克拉根福阿尔卑斯-亚德里亚大学）；Alias Robotics（Alias机器人公司）；Nanyang Technological University（南洋理工大学）；Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）
本文提出由AI和博弈论驱动的模块化库ExploitFlow以自动化网络安全利用，实验表明基于强化学习的EF智能体优于暴力与人类专家，并针对其局限性提出了以EF为核心的自动化渗透测试框架Malism。
2023-08-04 cs.CR cs.RO
Aztarna, a footprinting tool for robots
Alias Robotics S.L.（Alias Robotics有限公司）
工业4.0正在改变人们普遍认为的机器人将被部署在封闭和孤立的网络中的假设。从安全的角度分析，全球的情况令人沮丧：机器人行业并没有认真分配努力，以遵循生产的机器人的良好安全实践。相反，大多数制造商不断将问题转发给这些机器的最终用户。正如在以前的技术革命中所学到的那样，例如在个人电脑或智能手机的曙光中，需要及时采取行动以避免灾难性的后果。为了给机器人和安全社区提供正确的工具来进行评估，在本文中，我们介绍了aztarna，一个机器人足迹工具。我们讨论了如何这样的工具可以促进识别不同的机器人的痕迹的过程中，同时保持一个可扩展的结构，旨在为未来的指纹扩展。通过这一贡献，我们的目标是提高机器人社区、机器人制造商和机器人最终用户对启动全球行动以拥抱安全的必要性的认识和兴趣。我们开源了该工具，并披露了初步结果，展示了当前行业的不安全状况。我们认为，机器人生态系统需要产生一个机器人安全社区，意识到良好的实践，并通过正确的工具授权。
2019-09-21 cs.CR cs.RO
Securing the Future: Exploring Privacy Risks and Security Questions in Robotic Systems
University of Louisiana at Lafayette（路易斯安那大学拉斐特分校）
本文针对AI尤其是大语言模型赋能的机器人系统快速发展中未解决的安全隐私问题，梳理了现有应用、威胁及未来演进隐含的相关问题，提出开放性研究方向以推动领域安全发展。
2024-09-16 cs.HC cs.RO
A systematic literature review on Robotic Process Automation security
University of Guelph（圭尔夫大学）
技术官僚时代充斥着新技术，这些尖端设施伴随着风险和陷阱。机器人流程自动化是另一项创新，它使大容量，手动，可重复，日常实践，基于规则和无动力的人类差事计算机化。机器人过程自动化的主要目标是用虚拟劳动力或计算机化专家来代替单调的人类差事，他们从事与人类劳动者过去所做的类似工作。这使得人类劳动者能够专注于棘手的任务和批判性思维。机器人流程自动化工具被认为是直接和强大的明确的业务流程计算机化。机器人过程自动化包括决定是否应该发生过程的智能。它能够分析呈现的数据，并根据开发人员设置的逻辑参数提供决策。此外，它不像其他形式的自动化那样需要系统集成。尽管如此，由于创新尚未出现，机器人过程自动化在执行过程中面临一些困难。
2022-12-11 cs.RO
Trust in LLM-controlled Robotics: a Survey of Security Threats, Defenses and Challenges
School of Electrical and Computer Engineering, The University of Sydney（悉尼大学电气与计算机工程学院）；Australian Centre for Robotics and School of Aerospace, Mechanical and Mechatronic Engineering, The University of Sydney（悉尼大学机器人中心及航空航天、机械与机电工程学院）；Department of Information Systems and Cybersecurity, University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校信息系统与网络安全系）；School of Engineering and Natural Sciences, University of Iceland（冰岛大学工程与自然科学学院）
本文综述了LLM控制机器人面临的安全威胁和防御策略，强调了具身系统中恶意输出的物理风险，并提出了安全规范和多LLM监督等防御方法。
2025-12-17 cs.RO
To Make a Robot Secure: An Experimental Analysis of Cyber Security Threats Against Teleoperated Surgical Robots
University of Washington（华盛顿大学）
遥控机器人在军事行动和医疗服务中发挥着越来越重要的作用。在未来，远程操作的手术机器人将可能用于战场和应急响应等更多场景。但是，远程手术的快速增长的应用提出了一个问题：如果这些机器人的计算机系统受到攻击，被接管，甚至变成武器，该怎么办？我们的工作旨在通过系统地分析针对Raven II（一种先进的远程操作机器人手术系统）的可能网络安全攻击来回答这个问题。我们确定了一系列可能的网络安全威胁，并通过实验评估了它们的范围和影响。我们展示了恶意控制各种机器人功能的能力，甚至完全忽略或覆盖外科医生的命令输入。我们进一步发现，有可能滥用机器人现有的紧急停止（E-stop）机制来执行有效的（单包）攻击。然后，我们考虑采取措施，以减轻这些已识别的攻击，并通过实验评估应用现有的安全解决方案对这些威胁的可行性。然而，我们文件的更广泛目标是提高对这些新出现的威胁的认识和了解。我们预计，大多数针对远程机器人手术的攻击也将与其他远程机器人和协作机器人系统相关。
2015-05-12 cs.CR cs.RO
iFAN Ecosystem: A Unified AI, Digital Twin, Cyber-Physical Security, and Robotics Environment for Advanced Nuclear Simulation and Operations
Georgia Institute of Technology（佐治亚理工学院）
iFAN生态系统通过整合AI、数字孪生、网络物理安全和机器人技术，为核模拟和操作提供高保真度的虚拟测试平台，支持自主和网络容错的核操作验证。
2026-01-27 cs.RO
Security Considerations in AI-Robotics: A Survey of Current Methods, Challenges, and Opportunities
Mississippi State University（密西西比州立大学）
该综述针对AI-机器人系统易受安全攻击的问题，从攻击面、伦理法律、人机交互安全三个维度梳理现有研究与防御策略，并展望未来研究方向，为相关利益方提供整体安全认知参考。
2024-01-26 cs.AI cs.RO
Robotics CTF (RCTF), a playground for robot hacking
Alias Robotics S.L.
机器人的不安全状态是在舞台上。人们越来越担心机器人的主要弱点及其不良后果。然而，机器人和网络安全领域之间仍然存在相当大的差距。为了填补这一空白，本技术报告提出了机器人CTF（RCTF），这是一个在线游乐场，可以从任何浏览器挑战机器人安全性。我们描述了RCTF的架构，并提供了9个场景，黑客可以挑战不同机器人设置的安全性。我们的工作使安全研究人员能够a）在本地重现虚拟机器人场景，b）改变网络设置以模仿真实的机器人目标。我们倡导机器人技术中的黑客安全，并通过开源我们的场景做出贡献。
2021-11-12 cs.CY cs.RO
Backdoors in Learning-Based Industrial Robotic Arm Manipulation: An Empirical Security Study
University of Wisconsin Milwaukee（威斯康星大学密尔沃基分校）；IBM Research（IBM研究院）；MIT Lincoln Laboratory（麻省理工学院林肯实验室）
本研究在真实工业机械臂上实证评估后门攻击的隐蔽性与危害，提出在线防御流程以实时检测并中和触发器，兼顾防御效果与运行开销。
2026-10-06 cs.RO
Enhancing Reliability in LLM-Integrated Robotic Systems: A Unified Approach to Security and Safety
The University of Western Australia（西澳大学）
针对大语言模型集成机器人系统面临的攻击防护与运行安全双重可靠性挑战，提出结合提示组装、状态管理与安全验证的统一框架，实验验证其在对抗场景下性能提升显著，且已开源部署演示。
2025-09-02 cs.AI cs.RO
Attacking Digital Twins of Robotic Systems to Compromise Security and Safety
Manchester Metropolitan University（曼彻斯特城市大学）；The University of Sheffield（谢菲尔德大学）
无论是自主机器人还是人机协同制造，安全性和安全性对人机交互都至关重要。安防与安全之间的相互交织关系，对各类机器人新兴的数字孪生系统提出了新的挑战。具体而言，无论是对网络物理系统还是数字孪生系统的攻击，都可能对另一个系统造成严重后果。特别是，与网络物理系统同步的数字孪生系统的攻击可能会对人类和其他周围设施造成横向损害。本文论证了对于机器人操作系统（ROS）驱动的系统，诸如数字孪生系统的中间人攻击之类的攻击最终可能导致网络物理系统的崩溃，无论是工业机器人还是自主移动机器人，都会造成意想不到的后果。我们还讨论了缓解此类攻击的潜在解决方案。
2022-11-17 cs.RO
Is open robotics innovation a threat to international peace and security?
Tandon School of Engineering at New York University（纽约大学Tandon工程学院）；Artificial and Natural Intelligence Toulouse Institute（图卢兹人工智能与自然智能研究所）；Stockholm International Peace Research Institute（斯德哥尔摩国际和平研究所）
本文探讨开放式机器人创新可能带来的国际安全风险，并提出通过教育、风险评估、材料管控和红线制定来规范机器人领域的发展。
2026-01-15 cs.RO
Towards a Robotic Intrusion Prevention System: Combining Security and Safety in Cognitive Social Robots
Intelligent Robotics Lab, Rey Juan Carlos University（智能机器人实验室，雷焦卡洛斯大学）；HoneComp, Rey Juan Carlos University（HoneComp，雷焦卡洛斯大学）
针对认知社交机器人的网络安全与功能安全协同问题，提出RIPS在通信层检测威胁并借助System Mones限制受侵功能，且在真实机器人攻击场景中验证其可保护人类隐私与安全。
2024-07-09 cs.RO
RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
Purdue University（普渡大学）
本文提出RoboJailBench，通过建立安全分类学、引入意图对比数据集管道以及提供一个演进的存储库，为具身体验人工智能中的对抗攻击和防御提供了标准化评估框架，同时构建了一个新的分类平衡数据集并增强了五个现有数据集。
2026-05-19 cs.CR cs.RO
Procedurally Provisioned Access Control for Robotic Systems
Contextual Robotics Institute（情境机器人研究所）；UC San Diego（加州大学圣地亚哥分校）；Ca’ Foscari University of Venice（威尼斯大学）
机器人系统以及相关中间件基础设施的安全性是工业和家庭物联网的关键问题，需要在整个开发生命周期中不断评估。下一代开源机器人软件栈ROS2现在旨在支持安全DDS，为社区提供安全的现实世界机器人部署的宝贵工具。在这项工作中，我们介绍了一个框架，程序配置访问控制策略的机器人软件，以及验证所生成的传输工件和决策点实现的合规性。
2018-10-18 cs.CR cs.RO
A Survey on Blockchain Technology and Its Potential Applications in Distributed Control and Cooperative Robots
The Hong Kong Polytechnic University（香港理工大学）；Shanghai University（上海大学）
作为一种颠覆性的技术，区块链，特别是比特币作为一种数字货币的原始形式，引起了人们的极大关注。创新的分布式决策和安全机制为其成功奠定了技术基础，使我们考虑将区块链技术的力量渗透到分布式控制和协作机器人中，其中对分布式和安全机制的要求也很高。实际上，安全和分布式通信一直是分布式控制和协作机器人领域中尚未解决的问题。分布式控制系统和多机器人系统的网络故障和入侵者攻击已被报道。区块链技术提供了彻底纠正这种情况的承诺。这项工作旨在以控制和机器人语言创建区块链技术的工作原理和关键要素的全球图景，为初学者提供进入这一研究领域的捷径。
2018-12-20 cs.CR cs.RO
A Secure and Efficient Multi-Object Grasping Detection Approach for Robotic Arms
Hainan University（海南大学）
提出一种基于深度学习和边缘-云协作的机械臂多目标抓取方法，兼顾抓取效率与信息安全，通过GAN实现图像加密压缩，在OCID数据集上准确率达92%。
2023-05-13 cs.AI cs.RO
On Evaluating the Effectiveness of the HoneyBot: A Case Study
Georgia Institute of Technology（佐治亚理工学院）
近年来，应用于机器人系统的网络物理系统（CPS）安全已成为一个热门的研究领域。主要是因为传统的机器人系统强调完成特定的目标，缺乏面向安全的设计。我们以前的工作，HoneyBot \cite{celine}，提出了概念和原型的第一个软件混合交互蜜罐专门设计的网络机器人系统。HoneyBot背后的直觉是，它将是一个可远程访问的机器人系统，可以模拟不安全的动作，并在物理上执行安全的动作来欺骗攻击者。谦逊的攻击者会认为他们连接到一个普通的机器人系统，相信他们的漏洞正在成功执行。一直以来，HoneyBot都在记录所有发送的通信和漏洞，用于攻击者归因和威胁模型创建。在本文中，我们提出的结果进行评估的有效性的HoneyBot框架和架构，因为它适用于真正的机器人系统的用户研究的结果。用户研究由40名参与者组成，进行了几个星期的过程，并从18-60岁之间的各种参与者中吸引了不同水平的技术专业知识。从研究中我们发现，研究对象无法区分模拟传感器值和来自HoneyBot的真实传感器值之间的差异，这意味着HoneyBot令人信服地欺骗了通信。
2019-05-28 cs.CR cs.RO
Offensive Robot Cybersecurity
该论文提出利用机器学习和博弈论实现自动化进攻性安全方法，通过理解攻击者策略和识别漏洞来提升机器人网络安全，并设计自主防御的认知引擎架构。
2025-06-18 cs.CR cs.RO
Procedimiento de auditoría de ciberseguridad para sistemas autónomos: metodología, amenazas y mitigaciones
Grupo de Robótica, Universidad de León（机器人组，莱昂大学）
本文针对自主系统日益增长的安全风险，提出一种基于分层方法论、机器人威胁分类法和具体缓解措施的网络安全审计程序，并通过四类代表性机器人平台的案例研究验证其有效性。
2025-11-07 cs.CR cs.RO
Aportes para el cumplimiento del Reglamento (UE) 2024/1689 en robótica y sistemas autónomos
Universidad de León（莱昂大学）；Universidad Rey Juan Carlos（胡安·卡洛斯国王大学）
本研究围绕欧盟《人工智能法案》对机器人系统的网络安全要求，分析适配先进机器人的安全工具，重点保护认知架构知识库，提出安全保障工具清单与十项合规评估标准，以降低人机交互风险。
2025-03-22 cs.AI cs.CR cs.RO
alurity, a toolbox for robot cybersecurity
Universität Klagenfurt（克拉根福大学）；Alias Robotics；Institute for Robotics and Mechatronics, Joanneum Research（机器人与机电一体化研究所，格拉茨研究中心）；Department of Informatics of University of Minho（米尼奥大学信息学系）；High-Assurance Software Laboratory of University of Minho（米尼奥大学高可信软件实验室）；INESC TEC；Robotics Group at University of León（莱昂大学机器人学小组）；Istituto di Informatica e Telematica, Consiglio Nazionale delle Ricerche (CNR)（意大利国家研究委员会信息与电信研究所）
大多数机器人系统的技术重复使用和固有的复杂性越来越多地导致机器人具有广泛的攻击面和各种潜在的漏洞。鉴于它们在公共环境中的存在越来越多，安全研究变得越来越重要，特别是由于机器人漏洞可能对人类造成的安全影响。我们认为，机器人技术中的安全分流仍然不成熟，必须开发新的工具来加速测试-分流-开发周期，这是优先考虑和加速缓解缺陷所必需的。目前的工作通过提供一个工具箱以及通过一年多来进行的几个用例所获得的结果来解决目前缺乏机器人技术中的攻击性网络安全研究的问题。我们为机器人网络安全提出了一个模块化和可组合的工具箱：alurity。通过确保从事项目的机器人专家和安全研究人员拥有一个通用、一致且易于复制的开发环境，alurity旨在促进网络安全研究和团队间的协作。
2020-10-16 cs.RO
Robot hazards: from safety to security
Alias Robotics S.L.（Alias Robotics 有限公司）
机器人领域正在经历巨大的变化。机器人正在扩散，很快就会无处不在。传统的工业系统正在被协作机器人所取代，而越来越多的专业和消费机器人被引入人们的日常活动中。机器人越来越多地与IT的其他方面交织在一起，并设想获得更多的自主权，与人类进行物理交互。我们声称，继个人电脑（PC）和智能手机之后，机器人是下一次技术革命，但机器人安全性却被制造商忽视。本文件的目的是提醒需要处理不仅与安全，但与机器人安全从一开始即将到来的技术时代。我们在此提供了一份文件，回顾了机器人的危险，并分析了不面对这些问题的后果。我们强烈主张现在必须采取安全第一的做法。
2021-11-12 cs.CR cs.CY cs.RO
Safety-Critical Edge Robotics Architecture with Bounded End-to-End Latency
Technical University of Kaiserslautern-Landau (RPTU)（凯撒斯劳滕-兰道工业大学（RPTU））；University of Augsburg（奥格斯堡大学）
本研究面向安全关键型机器人从机载硬件向边缘迁移的需求，提出融合Linux、Docker、Kubernetes与TTWiFi网络的边缘机器人架构，补充资源管理层实现有界端端延迟与安全可控的机器人应用执行。
2024-06-21 cs.DC cs.ET cs.RO
SoK: Security and Privacy of Foundation-Model-Powered Robots
College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）；School of Cyber Science and Engineering, Wuhan University（武汉大学网络空间安全学院）
本文提出F-E-S-G结构边界框架，系统分析基础模型驱动机器人的安全与隐私风险，并基于96篇论文揭示威胁模式、防御不匹配和评估差距。
2026-06-16 cs.RO
FogROS2-SGC: A ROS2 Cloud Robotics Platform for Secure Global Connectivity
University of California, Berkeley（加州大学伯克利分校）；Carnegie Mellon University（卡内基梅隆大学）
FogROS2-SGC扩展了ROS2云机器人平台，通过全局唯一标识符安全高效地连接跨地域、网络和DDS的机器人系统，无需代码修改且比rosbridge快19倍。
2023-06-29 cs.RO
A Study on Prompt Injection Attack Against LLM-Integrated Mobile Robotic Systems
The University of Western Australia（西澳大利亚大学）
本文研究集成 LLM 的移动机器人面临的多模态提示注入风险，评估安全提示与鲁棒防御机制，使攻击检测和系统性能整体提升约 30.8%。
2024-09-09 cs.AI cs.RO
BRNES: Enabling Security and Privacy-aware Experience Sharing in Multiagent Robotic and Autonomous Systems
University of Nevada, Reno（内华达大学雷诺分校）；Bosch Engineering, North America（博世工程北美分公司）；U.S. Army Corps（美国陆军工程兵部队）
提出BRNES多智能体强化学习框架，通过动态邻居选择、加权经验聚合和本地差分隐私噪声，抵御拜占庭攻击与推断攻击，实现安全且隐私感知的经验共享，性能显著优于现有方法。
2023-08-02 cs.AI cs.CR cs.LG
Adaptive Computing in Robotics, Leveraging ROS 2 to Enable Software-Defined Hardware for FPGAs
Xilinx, Inc.（赛灵思公司）
传统的机器人软件开发是关于在给定机器人的CPU中使用预定义的架构和约束进行编程功能。相反，使用自适应计算，构建机器人行为就是对架构进行编程。通过利用自适应计算，机器人专家可以在运行时间调整其计算系统的一个或多个属性（例如，其确定性、功耗、安全态势或吞吐量）。然而，机器人专家并不是硬件工程师，而且他们中缺乏嵌入式专业知识。本白皮书采用了以ROS 2机器人专家为中心的自适应计算观点，并提出了一种架构，将FPGA作为ROS 2生态系统的一级参与者。所提出的架构是平台和技术无关的，并且易于移植。该架构的核心组件在Apache 2.0许可证下公开，为机器人专家利用自适应计算和创建软件定义硬件铺平了道路。
2021-08-30 cs.AR cs.RO
Security and Performance Considerations in ROS 2: A Balancing Act
Commonwealth Scientific and Industrial Research Organization (CSIRO)（联邦科学与工业研究组织（CSIRO））；University of Wollongong（伍伦贡大学）；U.S. Army TARDEC Ground Vehicle Robotics（美国陆军坦克汽车研究、发展与工程中心地面车辆机器人部）
Robot操作系统（ROS）2是ROS 1的基础重新设计，使用数据分发服务（DDS）中间件支持性能关键的网络物理系统（CPS）。因此，ROS 2的安全性高度依赖于其DDS通信协议的安全性。然而，在性能和安全性之间找到平衡并不是一项简单的任务。不适当的安全实现不仅可能导致系统性能的显著损失，而且可能导致系统中的安全故障。在本文中，我们提供了DDS安全协议的分析，以及如何找到性能和安全性之间的平衡的概述。为了实现这一点，我们评估的延迟和吞吐量的通信协议的ROS 2在有线和无线网络，并测量的效率损失所造成的安全协议，如虚拟专用网络（VPN）和DDS安全协议在ROS 2在两个网络设置。机器人开发人员可以直接使用结果来找到ROS 2应用程序的最佳和平衡设置。此外，我们使用现有的安全标准分析了DDS的安全规范，并通过执行静态分析来测试DDS协议的实现。该研究结果可用于增强ROS 2的安全性。
2018-09-24 cs.CR cs.NI cs.RO
Omnidirectional Multi-Rotor Aerial Vehicle Pose Optimization: A Novel Approach to Physical Layer Security
Mohammed VI Polytechnic University（穆罕默德六世理工大学）；Czech Technical University in Prague（布拉格捷克理工大学）；International University of Rabat（拉巴特国际大学）
本文面向5G/6G中的全向多旋翼飞行器，提出通过联合优化位置与朝向的位姿方法，在恶意干扰下最大化合法地面节点的最小SINR，以增强物理层安全。
2024-01-05 cs.RO
5G on the Farm: Evaluating Wireless Network Capabilities for Agricultural Robotics
Lincoln Institute for Agri-food Technology, University of Lincoln（林肯大学林肯农业食品技术研究所）
全球粮食安全问题正迅速成为当今世界的一个关键问题。全球变暖、气候变化和人类造成的一系列其他影响，如碳排放、社会政治和经济挑战（如战争）、传统劳动力/劳动力减少和人口增长，正在给全球粮食安全带来压力。在农业中，对高速可靠的无线通信的需求正变得越来越必要，而不是技术演示或在该领域显示优势。世界各地的政府和行业都看到了建立通信基础设施的紧迫性，以通过采用自主农业机器人和农业技术来扩大农业活动并提高可持续性。本文介绍的工作评估了5G在农业机器人应用中的物理性能，并将结果与通常用于农业环境的4G和WiFi 6（一种新兴的无线通信标准）进行了比较。此外，还进行了一系列模拟实验，以评估可能需要人在回路中支持决策的关键任务的"实时“操作延迟。结果得出的结论是，4G不能用于农业领域的应用程序，需要高吞吐量和机器人和用户之间的可靠通信。此外，农业领域不存在单一的无线解决方案，而是可以组合多种解决方案以满足必要的电信要求。最后，结果显示，5G在所有性能指标上都大大优于4G，平均仅比WiFi 6慢18.2ms，因此非常可靠。
2022-12-09 cs.NI cs.RO
Embodied Neuromorphic Artificial Intelligence for Robotics: Perspectives, Challenges, and Research Development Stack
New York University (NYU) Abu Dhabi（纽约大学阿布扎比分校）；Khalifa University（哈利法大学）
本文针对机器人技术缺乏具身智能的问题，提出通过神经形态AI（SNN）实现具身智能的六个视角，涵盖学习规则、跨层优化、基准、可靠性、安全隐私及协同发展，并指出挑战与未来方向。
2024-09-12 cs.AI cs.LG cs.NE
Robot Hacking Manual (RHM)
机器人通常是不安全的，在某些情况下完全没有保护。其背后的理由有四个方面：首先，机器人的防御性安全机制仍处于早期阶段，没有涵盖完整的威胁格局。第二，机器人系统固有的复杂性使其保护成本在技术和经济上都很高。第三，机器人供应商通常不会及时承担责任，将零日暴露窗口（零日缓解的时间）平均延长至数年。第四，与21世纪的常识性预期相反，类似于福特在20世纪20年代的汽车，大多数机器人制造商反对或难以修复机器人。机器人黑客手册（RHM）是一个关于机器人网络安全的介绍性系列，试图提供全面的案例研究和分步教程，旨在提高该领域的意识，并强调采取安全第一方法的重要性。这里提供的材料也是个人学习的尝试，它与任何特定的组织无关。内容按原样提供，绝不鼓励或促进未经授权篡改机器人系统或相关技术。
2022-01-07 cs.RO
Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics
Rochester Institute of Technology（罗切斯特技术研究所）；University of Missouri - Kansas City（密苏里大学-凯撒城分校）；U.S. Naval Research Laboratory（美国海军研究实验室）；Lamar University（拉马尔大学）；Meta AI；University of Rochester（罗切斯特大学）；Rutgers University（新泽西罗格斯大学）
该研究针对机器人领域VLA模型的对抗脆弱性，提出三类攻击目标与对抗补丁生成方法，实验显示模拟任务成功率最高降100%，为提升其安全性、推动防御策略开发提供支撑。
2025-08-01 cs.AI cs.RO
Vision-Based Robotic Disassembly Combined with Real-Time MFA Data Acquisition
Department of Information Engineering and Mathematics, University of Siena（锡耶纳大学信息工程与数学系）
本文提出利用边缘设备实时检测PC组件，实现机器人拆解与材料流分析数据采集，提升关键原材料供应安全。
2026-03-30 cs.CE cs.RO
Software Quality Assessment for Robot Operating System
University of Nebraska-Lincoln（内布拉斯加大学林肯分校）
机器人操作系统（ROS）广泛应用于学术界和工业界，并且重要的是在安全关键的机器人系统中被利用。ROS软件的质量会影响机器人系统的安全性和安全性;因此，必须保证可靠性和质量。源代码静态分析是形式化地进行软件验证的一种重要方法。我们在本文中解决两个问题：（1）进行系统的文献综述研究，以提供一个完整的图片现有的方法，分析不同方面的ROS软件，（2）进行实证研究，以评估软件属性，可以影响ROS的功能。我们利用PMD 1，一个现成的静态分析工具，进行我们的实证研究，在一组使用Java实现的ROS存储库。调查分析显示，在研究机构的一个显着的缺点，缺乏量身定制的分析机制，以评估ROS 2代码，并显示，大多数的研究工作都集中在ROS 1。我们的实证研究表明，ROS 2的Java代码没有受到严重的问题，大多数检测到的警报是代码风格的问题。
2020-12-14 cs.CR cs.RO cs.SE
Safety, Security, and Cognitive Risks in World Models
SovereignAI Security Labs（SovereignAI安全实验室）
本文探讨了世界模型在自主决策中的安全、安全及认知风险，提出了轨迹持久性和表征风险的定义，并通过实验验证了对抗攻击的效果，强调了对世界模型的严谨性要求。
2026-04-06 cs.AI cs.CR cs.LG
