DevSecOps in Robotics
Universität Klagenfurt（克拉根福大学）；Alias Robotics
软件的质量通常被理解为“按照设计目的执行”，而安全性则意味着“软件不会使数据或计算系统面临未经授权访问的风险。“这两个方面之间似乎有联系，但是，我们如何将它们整合到机器人开发周期中？在本文中，我们将介绍DevSecOps in Robotics，这是一套最佳实践，旨在帮助机器人专家将安全性深入其开发和运营流程的核心。首先，我们简要介绍DevOps，介绍DevSecOps的附加值，并描述和说明如何在机器人领域实现这些实践。最后，我们讨论了安全，质量和安全，开放的问题和未来的研究问题之间的关系。
2021-11-12 cs.CR cs.RO
Charting the Security Landscape of Programmable Dataplanes
新兴的可编程数据平面将改造通信网络，允许程序员以协议无关的方式重新配置和定制交换机。虽然社区已经很好地阐述了这种网络架构在灵活性和性能方面的好处，但今天对安全性的影响知之甚少。我们在这份立场文件中认为，一般的可编程数据平面，特别是P4，引入了一个未知的安全环境。特别是，我们发现，虽然一些现有的安全研究对传统的基于OpenFlow的网络仍然适用，P4带有几个特定的组件和方面，改变了攻击面，并引入了新的挑战。我们突出几个例子，并提供了第一个系统的安全分析。
2018-06-30 cs.CR cs.NI
A Survey on Trust Metrics for Autonomous Robotic Systems
Worcester Polytechnic Institute (WPI)（伍斯特理工学院）
本文综述了自主机器人系统的信任度量研究，提出需将系统、硬件、软件、认知鲁棒性及供应商级指标纳入统一模型，以解决现有研究缺乏整体性和成本考量的问题，为评估复杂系统提供系统级信任度量框架。
2021-06-30 cs.CR cs.RO
ExploitFlow, cyber security exploitation routes for Game Theory and AI research in robotics
Alpen-Adria-Universität Klagenfurt（克拉根福阿尔卑斯-亚德里亚大学）；Alias Robotics（Alias机器人公司）；Nanyang Technological University（南洋理工大学）；Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）
本文提出由AI和博弈论驱动的模块化库ExploitFlow以自动化网络安全利用，实验表明基于强化学习的EF智能体优于暴力与人类专家，并针对其局限性提出了以EF为核心的自动化渗透测试框架Malism。
2023-08-04 cs.CR cs.RO
Aztarna, a footprinting tool for robots
Alias Robotics S.L.（Alias Robotics有限公司）
工业4.0正在改变人们普遍认为的机器人将被部署在封闭和孤立的网络中的假设。从安全的角度分析，全球的情况令人沮丧：机器人行业并没有认真分配努力，以遵循生产的机器人的良好安全实践。相反，大多数制造商不断将问题转发给这些机器的最终用户。正如在以前的技术革命中所学到的那样，例如在个人电脑或智能手机的曙光中，需要及时采取行动以避免灾难性的后果。为了给机器人和安全社区提供正确的工具来进行评估，在本文中，我们介绍了aztarna，一个机器人足迹工具。我们讨论了如何这样的工具可以促进识别不同的机器人的痕迹的过程中，同时保持一个可扩展的结构，旨在为未来的指纹扩展。通过这一贡献，我们的目标是提高机器人社区、机器人制造商和机器人最终用户对启动全球行动以拥抱安全的必要性的认识和兴趣。我们开源了该工具，并披露了初步结果，展示了当前行业的不安全状况。我们认为，机器人生态系统需要产生一个机器人安全社区，意识到良好的实践，并通过正确的工具授权。
2019-09-21 cs.CR cs.RO
SSO-Monitor: Fully-Automatic Large-Scale Landscape, Security, and Privacy Analyses of Single Sign-On in the Wild
单点登录（SSO）将网站上的关键身份验证过程转移到底层SSO协议及其正确实现。为了加强SSO安全性，IETF和W3C等组织维护了应对已知威胁的安全机制。人们可以假设这些安全最佳实践广泛部署在网站上。我们证明这个假设是一个谬误。我们介绍了SSO-MONITOR，一个开源的全自动大规模SSO环境，安全和隐私分析工具。与以前的所有工作相比，SSO-MONITOR使用高度可扩展的全自动工作流程，具有新颖的基于视觉的SSO检测技术，增强的安全性和隐私分析以及不断更新的监控结果。它接收域列表作为输入，以发现登录页面、识别支持的身份提供程序（IdP）并执行SSO。它进一步揭示了与纸面上的安全最佳实践相比，SSO在野外的当前安全级别。使用SSO-MONITOR，我们自动识别了1，632个网站，其中有3，020个Apple，Facebook或Google登录。我们的持续监测也揭示了这些数字随时间变化的速度。SSO-MONITOR可以自动登录到每个SSO网站。它通过跟踪HTTP和浏览器内通信来记录登录，以自动检测广泛的安全和隐私问题。我们介绍了一种新的HTTP参数的深层次检查，我们称之为SMARTPARMS。使用SMARTPARMS进行安全分析，我们发现了5个客户端应用程序（Client）秘密泄漏和337个CSRF保护薄弱的案例中的URL参数。我们还发现了447个没有CSRF保护的案例，342个不安全…
2023-02-02 cs.CR
Security and Privacy in Virtual and Robotic Assistive Systems: A Comparative Framework
School of Information Technology, University of Cincinnati（辛辛那提大学信息技术学院）
本文比较分析了虚拟和机器人辅助系统在安全与隐私方面的挑战，提出统一的威胁建模框架，并提供设计建议以开发安全、隐私保护和可信的辅助技术。
2026-04-09 cs.CR
To Make a Robot Secure: An Experimental Analysis of Cyber Security Threats Against Teleoperated Surgical Robots
University of Washington（华盛顿大学）
遥控机器人在军事行动和医疗服务中发挥着越来越重要的作用。在未来，远程操作的手术机器人将可能用于战场和应急响应等更多场景。但是，远程手术的快速增长的应用提出了一个问题：如果这些机器人的计算机系统受到攻击，被接管，甚至变成武器，该怎么办？我们的工作旨在通过系统地分析针对Raven II（一种先进的远程操作机器人手术系统）的可能网络安全攻击来回答这个问题。我们确定了一系列可能的网络安全威胁，并通过实验评估了它们的范围和影响。我们展示了恶意控制各种机器人功能的能力，甚至完全忽略或覆盖外科医生的命令输入。我们进一步发现，有可能滥用机器人现有的紧急停止（E-stop）机制来执行有效的（单包）攻击。然后，我们考虑采取措施，以减轻这些已识别的攻击，并通过实验评估应用现有的安全解决方案对这些威胁的可行性。然而，我们文件的更广泛目标是提高对这些新出现的威胁的认识和了解。我们预计，大多数针对远程机器人手术的攻击也将与其他远程机器人和协作机器人系统相关。
2015-05-12 cs.CR cs.RO
The Kubernetes Security Landscape: AI-Driven Insights from Developer Discussions
本文分析 Stack Overflow 近四年 Kubernetes 帖子，结合机器学习聚类与 AI 主题描述，发现安全讨论占 12.3% 且影响力持续上升。
2024-09-06 cs.CR cs.SE
Towards an open standard for assessing the severity of robot security vulnerabilities, the Robot Vulnerability Scoring System (RVSS)
Alias Robotics S.L.（Alias Robotics 有限公司）；IOActive Inc.（IOActive 公司）
机器人通常不会以安全为主要关注点。与典型的IT系统相比，网络物理系统依赖于安全性来处理安全问题。鉴于前者，经典的评分方法，如通用漏洞评分系统（CVSS）无法准确捕捉机器人漏洞的严重性。目前的研究工作重点是创建一个开放和免费访问的机器人漏洞评分系统（RVSS），该系统考虑了机器人技术中的主要相关问题，包括a）机器人安全方面，b）评估给定漏洞的下游影响，c）库和第三方评分评估以及d）环境变量，例如漏洞披露或暴露在网络上的时间。最后，RVSS与对比CVSS的实验评估，并重点讨论了机器人安全景观。
2021-11-12 cs.CR cs.RO
On the (In)security of Approximate Computing Synthesis
新应用程序的广阔前景需要最少的硬件资源，而不会牺牲任何结果质量。近似计算（AC）的出现，以满足数据丰富的应用程序的需求。虽然AC应用技术来提高容错应用的能量效率，但以计算精度为代价，AC的安全威胁中的新挑战应同时得到解决。本文介绍了并发AC综合的安全漏洞。我们分析威胁形势，并提供更广泛的攻击和防御策略。作为一个案例研究，我们利用AC合成技术进行恶意修改合成的近似网表。同样，我们提供了一个可扩展的防御框架，值得信赖的AC合成。
2019-12-03 cs.CR
Landscape More Secure Than Portrait? Zooming Into the Directionality of Digital Images With Security Implications
University of Innsbruck（因斯布鲁克大学）
该研究指出媒体安全方法对图像方向性的不当处理会导致性能下降或过拟合，梳理了采集流程中方向性的成因，验证了考虑方向性能提升隐写分析等三类安全应用的SOTA方法性能。
2024-06-21 cs.CR cs.CV
Privacy and Security of Women's Reproductive Health Apps in a Changing Legal Landscape
该研究结合人工审查与动静态分析评估经期追踪及生育监测应用，发现其广泛收集PII和敏感医疗数据，且61%的代码漏洞属于OWASP十大漏洞，呼吁行业加强隐私安全与问责透明。
2024-04-08 cs.CR cs.ET
SoK: Attack and Defense Landscape of Mobile On-device AI Systems
The University of Melbourne（墨尔本大学）；RMIT University（皇家墨尔本理工大学）；Nanyang Technological University（南洋理工大学）
本文首次系统化梳理移动端设备上AI系统的安全知识，涵盖安全支柱、攻击与防御全景，并指出未来研究方向。
2026-07-02 cs.AI cs.CR cs.LG
Model Context Protocol (MCP): Landscape, Security Threats, and Future Research Directions
Huazhong University of Science and Technology（华中科技大学）
本文系统研究模型上下文协议（MCP）的架构与安全，定义服务器生命周期和威胁分类，提出针对性安全措施，并分析现状与未来方向。
2025-10-07 cs.AI cs.CR
RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
Purdue University（普渡大学）
本文提出RoboJailBench，通过建立安全分类学、引入意图对比数据集管道以及提供一个演进的存储库，为具身体验人工智能中的对抗攻击和防御提供了标准化评估框架，同时构建了一个新的分类平衡数据集并增强了五个现有数据集。
2026-05-19 cs.CR cs.RO
Smooth Number Message Authentication Code in the IoT Landscape
本文提出了适用于轻量级物联网设备的光滑数消息认证码（SNMAC），基于密码学中的光滑数提升算法的安全性与性能，实验验证了其在真实场景中的效率与鲁棒性。
2023-10-21 cs.CR
Understanding the Security Landscape of Embedded Non-Volatile Memories: A Comprehensive Survey
本文综合调查嵌入式非易失性存储器的安全格局，从架构角度分析漏洞成因，回顾安全原语与逻辑混淆技术，并探讨物理及逻辑威胁，最后展示出版趋势以反映研究动态。
2025-05-22 cs.CR cs.ET
Procedurally Provisioned Access Control for Robotic Systems
Contextual Robotics Institute（情境机器人研究所）；UC San Diego（加州大学圣地亚哥分校）；Ca’ Foscari University of Venice（威尼斯大学）
机器人系统以及相关中间件基础设施的安全性是工业和家庭物联网的关键问题，需要在整个开发生命周期中不断评估。下一代开源机器人软件栈ROS2现在旨在支持安全DDS，为社区提供安全的现实世界机器人部署的宝贵工具。在这项工作中，我们介绍了一个框架，程序配置访问控制策略的机器人软件，以及验证所生成的传输工件和决策点实现的合规性。
2018-10-18 cs.CR cs.RO
A Survey on Blockchain Technology and Its Potential Applications in Distributed Control and Cooperative Robots
The Hong Kong Polytechnic University（香港理工大学）；Shanghai University（上海大学）
作为一种颠覆性的技术，区块链，特别是比特币作为一种数字货币的原始形式，引起了人们的极大关注。创新的分布式决策和安全机制为其成功奠定了技术基础，使我们考虑将区块链技术的力量渗透到分布式控制和协作机器人中，其中对分布式和安全机制的要求也很高。实际上，安全和分布式通信一直是分布式控制和协作机器人领域中尚未解决的问题。分布式控制系统和多机器人系统的网络故障和入侵者攻击已被报道。区块链技术提供了彻底纠正这种情况的承诺。这项工作旨在以控制和机器人语言创建区块链技术的工作原理和关键要素的全球图景，为初学者提供进入这一研究领域的捷径。
2018-12-20 cs.CR cs.RO
A Study of the Feasibility of Co-located App Attacks against BLE and a Large-Scale Analysis of the Current Application-Layer Security Landscape
低功耗蓝牙（BLE）是一种快速发展的无线技术，具有大量潜在用例，特别是在物联网领域。这些用例越来越多地需要在BLE设备上存储敏感用户数据或关键设备控件，以及通过增强移动应用访问这些数据。不受控制地访问这些数据可能会侵犯用户隐私，导致设备故障，甚至危及生命。BLE标准提供了配对和绑定等安全机制来保护敏感数据，只有经过认证的设备才能访问它。在本文中，我们展示了未经授权的协同定位Android应用程序如何在用户不知情的情况下访问受配对保护的BLE数据。我们讨论的缓解策略，在这个生态系统中涉及的各种利益相关者，并认为，目前，唯一可能的选择，以确保BLE数据是BLE开发人员实施补救措施的形式之间的BLE设备和Android应用程序的应用层安全。我们介绍了BLECryptracer，一种用于识别这种应用层安全性存在的工具，并展示了对18，900多个支持BLE的Android应用程序进行大规模静态分析的结果。我们的研究结果表明，超过45%的应用程序没有实施保护BLE数据的措施，并且加密技术有时会在那些应用程序中应用错误。这意味着潜在大量的对应BLE外围设备容易受到未经授权的数据访问。
2019-02-16 cs.CR
Evaluating the Vulnerability Landscape of LLM-Generated Smart Contracts
Deakin University（迪肯大学）
本研究评估了LLM生成的智能合约的安全性，发现其存在严重漏洞，提出缓解措施和开发指南以提高区块链安全。
2026-02-03 cs.CR
The Attack and Defense Landscape of Agentic AI: A Comprehensive Survey
本文首次系统调查了代理AI的安全性，分析了设计空间、攻击景观和防御机制，并指出现有安全不足及开放挑战，为构建安全系统和推进研究提供基础。
2026-03-11 cs.AI cs.CR
On Evaluating the Effectiveness of the HoneyBot: A Case Study
Georgia Institute of Technology（佐治亚理工学院）
近年来，应用于机器人系统的网络物理系统（CPS）安全已成为一个热门的研究领域。主要是因为传统的机器人系统强调完成特定的目标，缺乏面向安全的设计。我们以前的工作，HoneyBot \cite{celine}，提出了概念和原型的第一个软件混合交互蜜罐专门设计的网络机器人系统。HoneyBot背后的直觉是，它将是一个可远程访问的机器人系统，可以模拟不安全的动作，并在物理上执行安全的动作来欺骗攻击者。谦逊的攻击者会认为他们连接到一个普通的机器人系统，相信他们的漏洞正在成功执行。一直以来，HoneyBot都在记录所有发送的通信和漏洞，用于攻击者归因和威胁模型创建。在本文中，我们提出的结果进行评估的有效性的HoneyBot框架和架构，因为它适用于真正的机器人系统的用户研究的结果。用户研究由40名参与者组成，进行了几个星期的过程，并从18-60岁之间的各种参与者中吸引了不同水平的技术专业知识。从研究中我们发现，研究对象无法区分模拟传感器值和来自HoneyBot的真实传感器值之间的差异，这意味着HoneyBot令人信服地欺骗了通信。
2019-05-28 cs.CR cs.RO
Quantitative Information Flow for Hardware: Advancing the Attack Landscape
在现代电子设计自动化（EDA）工具中，安全性仍然是一个事后的想法，它只专注于提高性能和减小芯片尺寸。通常，安全分析是手工进行的，导致设计中的漏洞未被注意到。安全意识EDA工具帮助设计人员识别和消除安全威胁，同时考虑性能和面积。最先进的方法利用信息流分析来发现设计结构中的意外信息泄漏。然而，这种威胁的分类是二元的，导致可以忽略不计的泄漏也被列出。一种新颖的定量分析允许应用度量来确定泄漏的数值。尽管如此，目前量化泄漏的近似方法仍然容易忽略泄漏。本文中引入的数学模型2D-QModel旨在克服这一缺点。此外，由于以前的工作仅包括有限的威胁模型，因此可以使用所提供的方法应用多个威胁模型。使用开源基准测试来展示2D-QModel在设计中识别硬件木马的能力，同时忽略不重要的泄漏。
2022-11-30 cs.AR cs.CR
Data Sharing, Privacy and Security Considerations in the Energy Sector: A Review from Technical Landscape to Regulatory Specifications
本文整合技术与监管双维度，全面综述了能源系统中数据共享、隐私与网络安全问题，并分析了相关法规演变，为参与式能源系统的监管框架提供指导。
2025-03-05 cs.CR
Offensive Robot Cybersecurity
该论文提出利用机器学习和博弈论实现自动化进攻性安全方法，通过理解攻击者策略和识别漏洞来提升机器人网络安全，并设计自主防御的认知引擎架构。
2025-06-18 cs.CR cs.RO
Software Unclonable Functions for IoT Devices Identification and Security
针对物联网中合法与受攻击设备区分的关键挑战，本研究在提出的软件不可克隆函数（SUFs）框架下，探究基于硬件性能计数器（HPC）的签名的唯一性有效性，为设备识别与安全提供技术支撑。
2025-08-25 cs.CR
Procedimiento de auditoría de ciberseguridad para sistemas autónomos: metodología, amenazas y mitigaciones
Grupo de Robótica, Universidad de León（机器人组，莱昂大学）
本文针对自主系统日益增长的安全风险，提出一种基于分层方法论、机器人威胁分类法和具体缓解措施的网络安全审计程序，并通过四类代表性机器人平台的案例研究验证其有效性。
2025-11-07 cs.CR cs.RO
Cyber Security in Smart Manufacturing (Threats, Landscapes Challenges)
Tennessee Tech University（田纳西理工大学）
本文综述智能制造数字线程中的网络安全威胁模型、攻击向量与未来挑战，强调IT/OT融合下CIA三性对安全制造的关键意义。
2023-04-20 cs.CR cs.LG
Mapping LLM Security Landscapes: A Comprehensive Stakeholder Risk Assessment Proposal
Amrita Vishwa Vidyapeetham（阿米塔大学）；Bosch Global Software Technologies（博世全球软件技术公司）；AIShield
针对LLM集成系统缺乏面向从业者直接风险评估方法的问题，提出基于OWASP风险评级方法的评估流程，通过场景与影响分析构建威胁矩阵，为开发者、应用开发者及最终用户提供全面的风险评估与缓解决策支持。
2024-03-20 cs.AI cs.CR
Security Challenges when Space Merges with Cyberspace
通信卫星、传感、监视、全球定位系统和其他多种功能等空间系统是全球信通技术网络基础设施的组成部分。然而，一个重点突出的话语，这些星载资产的独特威胁景观是明显的，它的缺席。这份立场文件特别考虑了空间和网络空间的相互作用，以强调在保护这些复杂基础设施时值得专门关注的安全挑战。意见稿还增加了对以下方面的简要意见：（a）新兴技术趋势;（b）支持安全响应和缓解所需的技术和政策问题的宣传。
2023-03-20 cs.CR
A Review of Critical Infrastructure Protection Approaches: Improving Security through Responsiveness to the Dynamic Modelling Landscape
University College London（伦敦大学学院）；University of Kent（肯特大学）；Critical Insights Security Ltd（Critical Insights Security有限公司）；Cybersecurity Centre, WMG, University of Warwick（华威大学WMG网络安全中心）
本文综述了关键基础设施保护方法，探讨了如何通过动态建模来应对复杂 interconnected CNI 元素的行为，并分析了现有方法在不同领域中的适用性及局限性。
2019-04-02 cs.CR cs.NI cs.SY
Aportes para el cumplimiento del Reglamento (UE) 2024/1689 en robótica y sistemas autónomos
Universidad de León（莱昂大学）；Universidad Rey Juan Carlos（胡安·卡洛斯国王大学）
本研究围绕欧盟《人工智能法案》对机器人系统的网络安全要求，分析适配先进机器人的安全工具，重点保护认知架构知识库，提出安全保障工具清单与十项合规评估标准，以降低人机交互风险。
2025-03-22 cs.AI cs.CR cs.RO
SROS2: Usable Cyber Security Tools for ROS 2
Alias Robotics（Alias机器人公司）；Universität Klagenfurt（克拉根福大学）；UC San Diego（加州大学圣地亚哥分校）；Ca’ Foscari University of Venice（威尼斯福斯卡里大学）；Secura Factors srls（Secura Factors有限责任公司）；NeoFarm（NeoFarm公司）
ROS 2正在迅速成为机器人行业的标准。基于DDS作为其默认通信中间件并用于安全关键场景，为机器人和ROS计算图增加安全性越来越成为一个问题。目前的工作介绍SROS2，一系列的开发工具和库，方便增加安全性的ROS 2图。专注于SROS2中以可用性为中心的方法，我们提出了一种系统地保护图形的方法，同时遵循DevSecOps模型。我们还展示了我们的安全工具的使用，提出了一个应用案例研究，考虑使用流行的Navigation2和SLAM堆栈应用在TurtleBot3机器人保护图。我们分析了SROS2的当前功能，并讨论了不足之处，为未来的贡献和扩展提供了见解。最终，我们将SROS2作为ROS 2的可用安全工具，并认为如果没有可用性，机器人技术的安全性将大大受损。
2022-08-04 cs.CR cs.DC cs.NI
Web3.0 Security: Privacy Enhancing and Anonym Auditing in Blockchain-based Structures
针对区块链驱动的Web 3.0数据安全与隐私问题，本文提出融合隐私增强技术和Tor匿名审计的运行时安全协议与框架，并通过与现有方法评估比较验证其价值。
2023-07-24 cs.CR cs.DC
Software Vulnerability Analysis Across Programming Language and Program Representation Landscapes: A Survey
本综述系统考察多种编程语言、程序表示级别、漏洞类别和主流检测技术，旨在弥合漏洞分析领域碎片化现状，明确实践优势、局限及未来研究方向。
2025-03-26 cs.CR
SoK: Security Below the OS -- A Security Analysis of UEFI
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；Auburn University（奥本大学）
本文系统化分析UEFI安全，构建攻击威胁模型并提出类MITRE ATT&CK分类法，旨在应对日益增长的UEFI攻击威胁。
2026-06-26 cs.CR
Examining the Landscape of Digital Safety and Privacy Assistance for Black Communities
最近的事件使人们重新关注美国和其他国家的种族公正问题。这一问题的一个方面已经得到了相当大的关注是安全和隐私的威胁和脆弱性所面临的颜色社区。我们的研究重点关注社区层面的倡导者，他们组织研讨会，诊所和其他举措，向黑人社区通报现有的数字安全和隐私威胁以及减轻这些威胁的方法。此外，我们的目标是了解参与这些计划的参与者的在线安全和隐私需求和态度。我们希望通过了解倡导者在不同环境下的工作方式以及有效的教学方法，我们可以帮助其他数字安全专家和活动家成为他们社区的倡导者。
2022-10-31 cs.CR cs.CY cs.HC
Uncovering Security Threats and Architecting Defenses in Autonomous Agents: A Case Study of OpenClaw
State Key Laboratory of Complex & Critical Software Environment, Beihang University（复杂与关键软件环境国家重点实验室，北京航空航天大学）；Zhongguancun Laboratory（中关村实验室）；Hefei Comprehensive National Science Center Institute of Dataspace（合肥综合性国家科学中心数据空间研究院）
本文分析了自主代理在安全领域的挑战，提出三层次风险分类和FASA架构，旨在提升自主代理的安全性。
2026-03-13 cs.CR
A Comparative Analysis of Vulnerability Management Tools: Evaluating Nessus, Acunetix, and Nikto for Risk Based Security Solutions
针对网络安全威胁态势演变下组织选择漏洞管理工具的挑战，本文全面比较分析Nessus、Acunetix和Nikto的检测准确率、CVSS风险评分等多维度指标，为基于风险的安全解决方案提供工具选择参考。
2024-11-28 cs.CR
Robot hazards: from safety to security
Alias Robotics S.L.（Alias Robotics 有限公司）
机器人领域正在经历巨大的变化。机器人正在扩散，很快就会无处不在。传统的工业系统正在被协作机器人所取代，而越来越多的专业和消费机器人被引入人们的日常活动中。机器人越来越多地与IT的其他方面交织在一起，并设想获得更多的自主权，与人类进行物理交互。我们声称，继个人电脑（PC）和智能手机之后，机器人是下一次技术革命，但机器人安全性却被制造商忽视。本文件的目的是提醒需要处理不仅与安全，但与机器人安全从一开始即将到来的技术时代。我们在此提供了一份文件，回顾了机器人的危险，并分析了不面对这些问题的后果。我们强烈主张现在必须采取安全第一的做法。
2021-11-12 cs.CR cs.CY cs.RO
A Survey on Long-Term Memory Security in LLM Agents: Attacks, Defenses, and Governance Across the Memory Lifecycle
MemTensor；Shanghai Jiao Tong University（上海交通大学）
本文提出记忆生命周期框架，系统分析LLM智能体长期记忆面临的新威胁，并引入可验证记忆治理（VMG）架构原语，强调存储时溯源与版本控制对安全的关键作用。
2026-11-02 cs.AI cs.CL cs.CR
AI Security Priorities: A Field-Wide Agenda
Irregular；RAND（兰德公司）；Watertight AI；Palo Alto Networks（帕洛阿尔托网络公司）；Prometheus；Redwood Research；The Hoover Institution（胡佛研究所）
本文基于多领域专家访谈与研讨会，提出AI安全优先议程，涵盖四大主题，为AI安全领域的协调行动提供实践基础，服务从业者与新进入者。
2026-07-30 cs.AI cs.CR cs.CY
Adding Salt to Pepper: A Structured Security Assessment over a Humanoid Robot
互联、数字化、机器人和人工智能（AI）的兴起正在迅速改变我们的社会，并塑造其未来发展。在这场技术和社会革命中，安全一直被忽视，但被黑客攻击的机器人可以在组织、行业、公共空间和私人住宅中构成内部威胁。在本文中，我们对商用人形机器人Pepper进行了结构化安全评估。我们的分析由自动化和手动部分组成，指出了可用于接管和命令机器人的相关安全漏洞。此外，我们建议如何解决这些问题，从而在未来避免。这项工作的最终目的是在物联网产品在公开市场上销售之前推动物联网产品安全级别的提升。
2018-07-04 cs.CR
BRNES: Enabling Security and Privacy-aware Experience Sharing in Multiagent Robotic and Autonomous Systems
University of Nevada, Reno（内华达大学雷诺分校）；Bosch Engineering, North America（博世工程北美分公司）；U.S. Army Corps（美国陆军工程兵部队）
提出BRNES多智能体强化学习框架，通过动态邻居选择、加权经验聚合和本地差分隐私噪声，抵御拜占庭攻击与推断攻击，实现安全且隐私感知的经验共享，性能显著优于现有方法。
2023-08-02 cs.AI cs.CR cs.LG
Security in the Era of Perceptive Networks: A Comprehensive Taxonomic Framework for Integrated Sensing and Communication Security
CSIRO Data61（CSIRO数据六十一）
本文提出了一种综合性分类框架，用于集成感知与通信安全，涵盖威胁分类、漏洞分析、防御机制及新兴安全挑战，为安全系统开发和政策制定提供参考。
2026-01-04 cs.CR
Frontier AI's Impact on the Cybersecurity Landscape
UC Berkeley（加州大学伯克利分校）；UC Santa Barbara（加州大学圣芭芭拉分校）；Google（谷歌）
本文研究了前沿人工智能在网络安全中的影响，指出人工智能在攻击中的能力已超过防御，呼吁构建新基准、开发防御代理等以缓解风险。
2025-11-27 cs.AI cs.CR cs.CY
Recent Advances in Attack and Defense Approaches of Large Language Models
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Xidian University（西安电子科技大学）；StepFun（阶跃星辰）；Megvii Technology（旷视科技）
本文回顾大型语言模型（LLMs）的漏洞、威胁及防御机制研究现状，分析攻击向量与模型弱点、防御策略的优劣，识别研究空白并提出未来方向，以增进对LLM安全挑战的理解并指导更稳健安全措施的开发。
2024-12-02 cs.AI cs.CR
Unveiling the Landscape of LLM Deployment in the Wild: An Empirical Study
Huazhong University of Science and Technology（华中科技大学）
本研究通过互联网测量，对320,102个公开LLM服务进行实证分析，发现超40%端点使用明文HTTP、大量未认证访问等安全风险，强调需安全默认框架与更强部署实践。
2025-08-26 cs.AI cs.CR cs.SE
Privacy and Security Implications of Cloud-Based AI Services : A Survey
Nanyang Technological University（南洋理工大学）
该综述针对云AI服务中机器学习模型风险应对的空白，调研AIaaS领域风险并提出分类体系，梳理各方风险与防御措施，为构建隐私安全且稳健的AI系统奠定基础。
2024-01-31 cs.AI cs.CR cs.LG
Safety and Security Analysis of Large Language Models: Benchmarking Risk Profile and Harm Potential
本研究对九种主流大型语言模型在24个安全类别上进行对抗性提示测试，提出风险严重性指数（RSI）量化风险，发现安全过滤器普遍存在漏洞，亟需加强对齐与治理。
2025-09-26 cs.CR cs.CY
Managing Differentiated Secure Connectivity using Intents
针对5G/6G移动网络差异化安全需求，本文提出基于意图的安全管理框架，利用扩展TMF意图安全本体形式化功能与非功能需求，并给出标准化路径。
2025-09-29 cs.CR
Information Security Management in High Quality IS Journals: A Review and Research Agenda
在数字时代，保护信息资源对组织的生存至关重要。信息安全管理（ISM）是一种保护功能，可在复杂且不断变化的安全威胁环境中维护组织中信息资源的机密性、完整性和可用性。本文分析了30年来（截至2017年底）高质量IS期刊中的ISM研究主题、方法和理论。虽然我们的审查发现，只有不到1%的论文是在ISM领域，有一个在ISM出版物的数量急剧增加，以及在过去十年中新出现的主题。此外，过去主观论证论文的趋势已经逆转，转而支持经过经验验证的研究。我们对研究方法和途径的分析发现，ISM研究以一次性调查为主，而不是案例研究和行动研究。研究结果表明，尽管ISM研究多年来已经改善了其实证支持，但它仍然相对脱离组织实践。
2022-08-27 cs.CR
