HarmChip: Evaluating Hardware Security Centric LLM Safety via Jailbreak Benchmarking
NYU Tandon School of Engineering, USA(纽约大学坦登工程学院);NYU Abu Dhabi, UAE(纽约大学阿布扎比分校);Kansas State University, USA(堪萨斯州立大学)
本文提出HarmChip基准测试,评估LLM在硬件安全领域的禁用脆弱性,涵盖16个领域、120种威胁和360个提示,揭示了先进LLM在安全查询与伪装攻击间的矛盾表现。
2026-04-18 cs.CR
Towards Interdependent Safety Security Assessments using Bowties
我们提出了一种方法来结合使用领结图的安全和安全评估。Bowties模型的原因导致了一个中心的故障事件和后果,从该事件产生的,以及阻碍事件的障碍。蝴蝶结以前被单独用于安全和安全评估,但我们建议在一个单一的模型中进行统一的处理,可以优雅地捕捉几种安全的相互依赖性。我们以2021年10月Facebook DNS关闭为例展示了我们的方法,检查了事件链以及导致中断的安全和安全屏障之间的相互作用。
2022-08-06 cs.CR cs.SE
Detecting Safety and Security Faults in PLC Systems with Data Provenance
可编程逻辑控制器是用于管理许多不同工业过程(例如,智能建筑管理、发电、水和废水管理以及交通控制系统),以及制造和控制行业(例如,石油和天然气、化工、制药、纸浆和造纸、食品和饮料、汽车和航空航天)。尽管在许多关键基础设施中被广泛使用,但是PLC使用的协议使得这些控制系统容易受到许多常见攻击,包括中间人攻击、拒绝服务攻击和存储器损坏攻击(例如,数组、堆栈和堆溢出、整数溢出和指针损坏)。在本文中,我们提出了PLC-PROV,跟踪控制系统的输入和输出,以检测违反系统的安全和安全政策的系统。我们认为一个智能建筑作为一个基于PLC的系统的例子,并显示如何PLC-PROV可以应用,以确保输入和输出是符合预期的安全和安保政策。
2019-11-14 cs.CR
Independent Co-Assurance using the Safety-Security Assurance Framework (SSAF): A Bayesian Belief Network Implementation for IEC 61508 and Common Criteria
安全保障框架适用于两个标准IEC 61508和通用标准- ISO 15408
2020-10-13 cs.CR cs.SE
Restart-Based Security Mechanisms for Safety-Critical Embedded Systems
许多由嵌入式系统控制的物理工厂都有安全要求,需要始终遵守-任何与预期行为的偏差都可能导致系统(通常是物理工厂),环境损坏,甚至危及人类生命。近年来,针对此类系统的恶意攻击有所增加,其中许多攻击的目的是造成物理损害。在本文中,我们的目标是解耦的安全性的植物从嵌入式系统的安全性,利用这种系统的固有惯性。在本文中,我们提出了一个系统范围内的重启为基础的框架,结合硬件和软件组件(a)保持系统的安全区域内,(b)阻止潜在的攻击者不稳定的系统。我们证明了我们的方法的可行性,使用两个现实的系统-一个实际的3自由度(3-DoF)的直升机和模拟仓库温度控制单元。我们的概念验证的实施进行了测试,对这些系统的控制单元上的多个模拟攻击。
2017-05-03 cs.CR
Towards a Uniform Framework for Dynamic Analysis of Access Control Models
越来越多地通过强制性访问控制系统来执行安全关键系统要求。这些系统由安全策略控制,高度敏感的系统组件,强调了正式验证的安全属性对策略正确性的至关重要性。对于安全属性类,解决潜在的动态权限增殖,已经存在许多已知的和经过测试的形式化分析方法和工具。不幸的是,这些方法需要针对来自广泛的不同应用程序域的每个特定策略从头开始重新设计。在本文中,我们试图减轻这个问题,提出了一个统一的形式化框架,量身定制的安全分析算法,为特定的应用领域。我们提出了一个实用的工作流程,基于模型的知识,这是能够产生一个有意义的正式的安全定义,以及一个算法来分析,安全。我们的方法是基于SELinux操作系统的安全策略。关键词:安全工程,安全策略,访问控制系统,访问控制模型,安全,启发式分析,SELinux。
2017-06-12 cs.CR
Trust Boundary Semantic Gaps: A Multi-dimensional Analysis and Mitigation for Security-by-Design
Korea University(韩国延世大学)
提出信任边界语义鸿沟(TBSG)概念,通过四维分析模型(MDTBSG)对75起安全事件进行分类,并开发设计时框架TBSAM以识别和缓解语义鸿沟,应用于SolarWinds攻击案例验证有效性。
2026-07-03 cs.CR
Towards Safety and Security Testing of Cyberphysical Power Systems by Shape Validation
本文提出基于语义网本体、SPARQL 规则和 SHACL 形状约束的声明式方法,以建模网络物理电力系统并自动验证其安全与安保控制。
2025-06-14 cs.CR
HelpBench: Assessing the Ability of LLMs to Provide Privacy, Safety, and Security Advice
University College London(伦敦大学学院);Google(谷歌)
提出HelpBench基准,通过450个真实用户问题评估18个LLM的隐私、安全建议准确性,发现平均得分82%但10%回答低于65%存在有害建议。
2026-06-24 cs.CR
Safety vs. Security: Attacking Avionic Systems with Humans in the Loop
飞机上的许多无线通信系统缺乏标准的安全机制,使它们从根本上容易受到攻击。随着经济实惠的软件定义无线电的出现,一种新的威胁已经出现,允许广泛的攻击者轻松干扰无线航空电子系统。虽然这些漏洞是已知的,但利用它们的具体攻击仍然是新颖的,尚未得到很好的理解。这一点在它们对被攻击飞机的操纵及其安全性的动力学影响方面尤其如此。为了调查这一点,我们邀请了30名空客A320型号的飞行员来飞行模拟器场景,在这些场景中,他们的航空电子设备受到攻击。我们实现和分析三个安全相关的系统:交通防撞系统(TCAS),地面接近警告系统(GPWS)和仪表着陆系统(ILS)的新型无线攻击。我们发现,所有三个分析的攻击场景产生了显着的控制影响和中断的成本,通过周转,回避机动,和改道。它们进一步增加了工作量,对受影响系统的不信任,并且在38%的情况下导致受攻击的安全系统完全关闭。所有的飞行员都认为这些场景是有用的,93.3%的人认为无线攻击的模拟器培训可能是有价值的。
2019-05-20 cs.CR
From AI-Generated Content to Agentic Action: Security and Safety Threats in Generative AI
Queen’s University(女王大学);University of Waterloo(滑铁卢大学)
研究探讨生成式AI从内容生成转向执行操作带来的安全与安全威胁,分析攻击者需求、系统自主性及潜在危害的变化,并评估检测、水印、对齐等技术对策,指出当前治理机制无法提供必要的协调。
2026-05-15 cs.CR
Towards an IT Security Risk Assessment Framework for Railway Automation
最近的一些事件表明,铁路自动化中IT系统的脆弱性可能被低估了。幸运的是,到目前为止,几乎只有拒绝服务攻击成功,但由于一些趋势,如使用商业信息技术和通信系统或私有化,威胁潜力可能在不久的将来增加。然而,到目前为止,没有统一的IT安全风险评估框架的铁路自动化存在。本文定义了一个IT安全风险评估框架,旨在尽可能将IT安全和安全要求以及认证过程分开。它建立在IEC 62425的众所周知的安全和批准流程的基础上,并集成了基于ISA 99/IEC 62443标准系列的IT安全要求。虽然详细结果与铁路自动化有关,但一般概念也适用于其他安全关键应用领域。
2017-04-04 cs.CR
Understanding Help Seeking for Digital Privacy, Safety, and Security
Google(谷歌);University College London(伦敦大学学院)
研究通过分析Reddit帖子了解用户在数字隐私、安全和安全问题上的求助行为,并为开发更好的用户资源提供依据。
2026-01-16 cs.CR
Cyber Security in Containerization Platforms: A Comparative Study of Security Challenges, Measures and Best Practices
本文比较研究了容器化平台的安全挑战、措施与最佳实践,通过分析安全漏洞、探索容器隔离策略及评估加密技术,为组织加强网络安全防御提供实用指导。
2024-04-28 cs.CR
eBPF Security in the Wild: Structural Concentration, Failure Mechanisms, and Discovery Gaps
Utah State University(犹他州立大学);University of Michigan(密歇根大学);Zhejiang Gongshang University(浙江工商大学)
本研究实证分析eBPF漏洞,发现其结构集中而非分散,运行时为主要暴露面,原始覆盖率不足以衡量发现有效性。
2026-09-23 cs.CR
Behavioral Authentication for Security and Safety
本文从行为适当性视角统合系统安全与安保问题,提出将行为认证划分为身份、合规与良性三个等级,全面综述其背景、现有研究、挑战及未来发展方向。
2024-03-24 cs.CR
A Survey of Security and Privacy Issues in V2X Communication Systems
随着多个试点项目探索其能力和可行性,车联网(V2X)通信正受到工业界和学术界越来越多的关注。由于全球约50%的道路车辆出口来自欧盟(EU),并且在欧盟有关安全和数据保护的立法背景下,V2X计划必须考虑整个系统堆栈的安全和隐私方面,以及道路安全。与这一原则相反,我们对相关标准、研究成果和欧盟试点项目的调查表明,情况并非如此;我们发现了多个与安全和隐私相关的缺陷和标准之间的不一致之处。我们对与这些漏洞相关的原因和困难进行根本原因分析,并对与这些根本原因相关的已识别的安全和隐私问题进行分类。因此,我们的全面分析揭示了一些需要改进标准的领域,这些领域在相关工作中没有明确确定。我们的分析填补了其他相关调查留下的空白,这些调查侧重于特定的技术领域,但不一定指出标准规范中的根本问题。我们提出建议,以解决这些差距,全面改善车辆通信的安全和保障。
2022-08-31 cs.CR
A New Security Mechanism for Vehicular Communication Networks
车载通信网络是一种有前途的新兴技术,可以促进道路安全,生命安全,交通管理以及驾驶员和乘客的信息娱乐传播。这种网络设计的最终目标之一是抵御各种恶意滥用和安全攻击。在这项研究中,提出了新的安全机制,以实现安全的证书撤销,这被认为是在车载自组网中最具挑战性的设计目标之一。
2012-07-04 cs.CR
dataRLsec: Safety, Security, and Reliability With Robust Offline Reinforcement Learning for DPAs
Rochester Institute of Technology(罗切斯特理工学院)
dataRLsec提出了一种鲁棒的离线强化学习方法,结合加权哈希验证和密度比加权行为克隆算法,以提升DPAs的安全性和可靠性。
2026-01-03 cs.CR
Comparative Analysis of AI-Driven Security Approaches in DevSecOps: Challenges, Solutions, and Future Directions
本研究通过系统文献综述比较了DevSecOps中AI驱动的安全解决方案,评估其技术能力、实施挑战与运营影响,揭示了实证验证等方面的研究空白,并提出了优化AI安全框架的最佳实践与未来方向。
2025-04-27 cs.CR
Security and Safety Aspects of AI in Industry Applications
Institute of Embedded Systems(嵌入式系统研究所);ZHAW School of Engineering(苏黎世应用科技大学工程学院)
在这篇相对非正式的讨论论文中,我们总结了机器学习中安全和安全领域的问题,这些问题将在未来五到十年内影响工业部门。近年来,使用神经网络分类的各种产品,最常用于视觉相关应用,但也用于预测性维护,已被研究并应用于实际应用中。然而,关于安全和安全相关领域的潜在问题的报告,例如对抗攻击,已经使早期采用者感到不安,并有可能阻碍该技术的更大规模采用。现实世界适用性的问题在于能够评估应用这些技术的风险。在这篇讨论论文中,我们描述了到达一个机器学习的神经网络分类器的过程,指出该工作流程中的安全和安全漏洞,并在适当的情况下引用相关研究。
2022-07-16 cs.AI cs.CR
A systematic mapping study on security countermeasures of in-vehicle communication systems
车辆连接的创新一直在急剧增加,以提高驾驶的安全性和用户体验,而与外部世界的接口数量的增加也给车辆带来了安全威胁。为了保护系统和服务免受攻击,人们提出并讨论了许多安全对策。为了提供该研究领域的当前状态的概述,我们对主题领域“车载通信系统的安全对策”进行了系统的映射研究。根据定义的研究识别策略和标准识别了279篇论文。我们讨论了四个研究问题的安全对策,验证方法,出版模式,研究趋势和差距的基础上提取和分类的数据。最后,我们评估了有效性威胁,学习识别结果,和整个映射过程。我们发现,在这一主题领域的研究,近年来迅速增加。然而,在汽车以太网安全、异常反应等各个子课题上仍存在差距,本研究不仅回顾了目标领域的研究成果,还回顾了研究活动,这有助于在高水平上发现研究差距,并为未来的工作提供新的思路。
2021-05-01 cs.CR
Semi-Automated Detection of Gaps in LLM Security Knowledge
Northeastern University(东北大学)
研究旨在实现大语言模型安全知识自动化测试,引入利用消费者保护机构权威信息识别LLM响应不稳定性的部分自动化方法,通过对身份盗窃和冒名顶替诈骗主题及Gemini和GPT家族中5个LLMs进行测试,可区分模型安全知识充足与否。
2026-09-23 cs.AI cs.CR cs.HC
AI-Assisted Cybersecurity Policy Assessment: Evidence Grounding, Coverage Gaps, and Implications for Security Management
Indian Institute of Technology Kanpur(印度坎普尔理工学院);International Institute of Information Technology Hyderabad(印度海得拉巴国际信息技术学院)
本文提出PROPARAG框架,用于自主评估组织网络安全政策是否符合安全控制标准,通过检索政策证据、评估覆盖范围并生成推荐,实现自动化合规性检查。
2026-10-01 cs.CR
A Systems Approach for Eliciting Mission-Centric Security Requirements
网络物理系统的安全性首先是一个安全问题,但它通常被视为传统的安全问题,这意味着解决方案是基于防御威胁,而且往往实施得太晚。这种方法忽略了考虑系统预期运行的环境,因此可能危及系统安全。本文提出了一种系统理论分析方法,该方法将利益相关者的观点与系统理论事故模型和过程(STAMP)的修改版本相结合,使决策者能够从战略上增强网络物理系统的安全性,弹性和安全性,以应对潜在的威胁。这种方法可以在一个模型中捕获与特派团有关的重要信息,然后使分析人员能够确定和减轻对特派团成功至关重要的地点的脆弱性。我们提出了一个概述的一般方法,其次是一个真实的例子,使用无人驾驶飞行器进行侦察任务。
2017-11-02 cs.CR
CyberLLMInstruct: A Pseudo-malicious Dataset Revealing Safety-performance Trade-offs in Cyber Security LLM Fine-tuning
University of Kent(肯特大学)
本文提出包含54,928对伪恶意指令-响应的CyberLLMInstruct数据集,涵盖多种网络安全任务,通过对七个开源LLMs的评估揭示了微调提升任务性能但严重削弱安全弹性的权衡问题。
2025-09-17 cs.AI cs.CR
Quantifying Security Vulnerabilities: A Metric-Driven Security Analysis of Gaps in Current AI Standards
University of Guelph(圭尔夫大学)
本文审计 NIST AI RMF、英国 ICO Toolkit 与欧盟 ALTAI,提出 RSI、AVPI、CSGP、RCVS 四项指标量化其安全差距,并给出改进建议。
2025-07-26 cs.AI cs.CR
SoK: Towards Security and Safety of Edge AI
TU Hamburg(汉堡工业大学);University of Hamburg(汉堡大学)
本文针对Edge AI(边缘人工智能)因去中心化特性带来的安全与安保挑战,梳理相关威胁与现有应对措施,提出二者融合对边缘AI至关重要,并列出待研究挑战以呼吁更多相关研究。
2024-10-07 cs.AI cs.CR
Challenges in the Safety-Security Co-Assurance of Collaborative Industrial Robots
University of York(约克大学);University of Sheffield(谢菲尔德大学)
本研究围绕协作工业机器人的安全与安保协同保障难题,梳理了相关保障方法,分析了制造业人机协作的技术现状与挑战,并指出了待解决的流程与技术问题。
2020-07-17 cs.CR cs.RO cs.SE
CrypTag: Thwarting Physical and Logical Memory Vulnerabilities using Cryptographically Colored Memory
存储器漏洞是许多计算系统的主要威胁。为了有效地阻止空间和时间内存漏洞,需要完全的逻辑内存安全。然而,当前用于存储器安全的缓解技术要么太昂贵,要么以安全性换取效率。检测硬件中的内存安全漏洞的一个有希望的尝试是内存着色,这是一种部署在标记内存架构之上的安全策略。然而,由于大标签的存储器存储和带宽开销,商品标签存储器架构通常仅提供小标签大小,因此限制了它们用于安全应用。无论逻辑存储器安全性如何,物理存储器安全性在现代云计算和IoT设备普遍存在的恶劣环境中都是必需的。英特尔和AMD的架构已经实现了透明的内存加密,以保持所有片外数据的机密性和完整性。令人惊讶的是,逻辑和物理内存安全的组合在以前的研究中还没有得到广泛的研究,两种安全策略的天真组合将积累两种开销。在本文中,我们提出了CrypTag,一个有效的硬件/软件协同设计减轻了一大类逻辑内存安全问题,并提供完整的物理内存安全。在其核心,CrypTag利用一个透明的内存加密引擎,不仅用于物理内存安全,而且用于内存着色,几乎没有任何额外的成本。该设计通过在指针的高位嵌入内存颜色并将这些位用作内存加密的附加输入,避免了标记存储的任何开销。自定义编译器扩展自动利用CrypTag来检测商品程序的逻辑内存安全问题,并且完全向后兼容。
2021-03-09 cs.CR
Managing Security Evidence in Safety-Critical Organizations
本文通过六家公司的定性访谈研究,发现安全关键型组织在安全证据管理的成熟度上不足以满足认证要求,主要原因是教育差距和流程缺失,同时探讨了AI对证据管理的影响。
2024-04-26 cs.CR cs.SE
PACSan: Enforcing Memory Safety Based on ARM PA
内存安全是阻止内存损坏漏洞的关键安全属性。现有的消毒器在开发和测试期间强制检查并捕获此类错误。然而,它们要么提供部分内存安全,要么具有压倒性的高性能开销。我们的新型消毒剂PACSan在低性能开销下实现了空间和时间存储器的安全性,没有误报。PACSan通过ARM PA(指针验证)将元数据密封在指针中,并在指针被解引用时执行内存安全检查,从而消除了指针跟踪中涉及的大部分开销。我们已经开发了PACSan的原型,并分别在Magma,Juliet,Nginx和SPEC CPU2017测试套件上系统地评估了其安全性和性能。在我们的评估中,PACSan显示没有误报,误报可以忽略不计,同时引入了更强的安全保证和比最先进的消毒剂更低的性能开销,包括HWASan,ASan,SoftBound+CETS,Memcheck,LowFat和PTAuth。具体来说,PACSan平均有0.84倍的运行时开销和1.92倍的内存开销。与广泛部署的ASan相比,PACSan没有误报和漏报,并减少了7.172%的运行时开销和89.063%的内存开销。
2022-02-08 cs.CR
A Survey of Analysis Methods for Security and Safety verification in IoT Systems
物联网(IoT)在过去几年中在所有生活学科中迅速发展。物联网为不同领域的用户提供自动化和智能控制,如家庭自动化、医疗保健系统、汽车等。鉴于连接的物联网设备数量巨大,这种增长导致其环境中相当大的物联网应用程序之间的大量自动交互,使物联网应用程序更智能,用户更愉快。但是,物联网应用程序的一些不可预见的交互和任何潜在的恶意行为都可能对其用户造成严重的不安全和不安全后果,主要是非专家,他们缺乏关于物联网自动化过程潜在影响的必要知识。在本文中,我们研究了物联网系统的安全性和安全验证问题。我们调查了利用程序分析来验证物联网应用程序的安全性和安全属性的技术。该研究提出了一套分类和分类属性,以提高我们对这一领域的研究景观的理解。此外,我们还讨论了调查工作中考虑的主要挑战以及可以采用的潜在解决方案,以确保物联网系统的安全性。
2022-03-03 cs.CR cs.SE
A Comprehensive and Cross-Platform Test Suite for Memory Safety -- Towards an Open Framework for Testing Processor Hardware Supported Security Extensions
内存安全在现实中仍然是一个关键的和广泛侵犯的财产。许多防御技术已经被提出和开发,但由于其巨大的运行成本,其中大多数在生产就绪环境中默认不被应用或启用。这种情况可能在不久的将来发生变化,因为硬件支持的防御这些攻击终于开始被商业处理器,操作系统和编译器采用。然后,我们面临一个问题,因为目前没有合适的测试套件来衡量不同处理器上支持的内存安全扩展。事实上,这个问题不仅仅局限于内存安全,而是处理器安全的各个方面。现有的与处理器安全相关的测试套件都缺乏一些关键属性,如全面性、可扩展性和可移植性。作为第一步,我们提出了一个可扩展的测试框架,用于测量处理器的安全性和开源的内存安全测试套件,利用这个框架。该框架被故意设计为灵活的,因此它可以逐步扩展到处理器中所有类型的硬件支持的安全扩展。内存安全的初始测试套件目前包含160个测试用例,涵盖内存的空间和时间安全、内存访问控制、指针完整性和控制流完整性。每种类型的漏洞及其相关的防御都已通过一个或多个测试用例进行了单独评估。该测试套件已移植到三个不同的指令集架构(ISA),并在六个不同的平台上进行了实验。我们还利用测试套件来探索在最新的GNU GCC和LLVM编译器上应用不同的编译器标志集的安全性好处。
2021-11-28 cs.AR cs.CR
Safety Layers in Aligned Large Language Models: The Key to LLM Security
University of Science and Technology of China(中国科学技术大学);Institute of Artificial Intelligence, Hefei Comprehensive National Science Center(合肥综合性国家科学中心人工智能研究院)
本文在参数层面揭示了对齐大语言模型的安全机制,识别出关键的安全层,并提出安全部分参数微调方法SPPFT,在微调时固定安全层梯度,以在保持性能的同时显著保留安全性并降低计算资源消耗。
2025-04-07 cs.AI cs.CR
A systematic literature review on Internet of Vehicles Security
车联网车联网通常被称为互联汽车,是一个连接各种实体的庞大网络,包括用户、传感器和车辆。它们将通过网络连接,以减少交通事故,提高智能车辆的安全性。车联网受到各种各样的威胁,包括欺骗攻击、识别攻击、隐私攻击和验证攻击。创建任何新的智能小工具是用户的安全,这将通过识别各种网络威胁的解决方案来提高。因此,我们将在这篇文献综述中介绍智能汽车的安全性,包括它们的攻击和解决方案。
2022-12-16 cs.CR
Reassembling Distributed Risk: Trajectory-Conditioned Action Generation for Multi-Turn Agent Safety
The Hong Kong University of Science and Technology(香港科技大学);Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
针对多轮分解攻击下使用工具的LLM智能体的安全风险,提出生成时防御方法ReDiR,通过轨迹级安全条件整合跨轮安全信息,将攻击成功率降至8%以下,可迁移且开销低。
2026-08-27 cs.CR
Impact of Vehicular Communications Security on Transportation Safety
交通安全是车辆通信(VC)系统发展的主要驱动力之一,依赖于高速率的安全消息(信标)。与此同时,当局、工业界和学术界对保护风险投资系统的必要性达成了共识。在文献中的具体建议,一个关键的问题,必须回答:安全VC系统是切实可行的,并满足安全应用程序的要求,尽管显着的通信和处理开销和其他限制的安全和隐私增强机制强加?为了回答这个问题,我们在本文中调查了以下三个方面的安全和隐私增强VC计划:通信的可靠性,在每个节点的处理开销,以及对安全应用程序的影响。结果表明,适当的系统设计,包括足够高的处理能力,安全VC启用的应用程序可以在实践中有效的不安全VC启用。
2008-08-19 cs.CR cs.NI
Safety, Security, and Privacy Threats Posed by Accelerating Trends in the Internet of Things
物联网(IoT)已经在改变工业、城市和家庭。所有行业的这种转变的经济价值估计为数万亿美元,对能源效率,健康和生产力的社会影响是巨大的。除了互联智能设备的潜在好处外,在将传感和智能嵌入到每个设备中时,滥用的风险和可能性也会增加。物联网设备数量不断增加的核心问题之一是安全操作它们所需的复杂性增加。这种日益增加的复杂性带来了新的安全性、保密性、隐私性和可用性挑战,远远超出了个人仅保护单个设备所面临的困难挑战。我们强调了智能设备和设备集合导致的一些负面趋势,我们认为与安全性,物理安全性,隐私和可用性相关的问题是紧密相连的,需要同时解决所有四个问题的解决方案。需要在现有技术的基础上为单个设备制定严格的安全和安保标准。同样,确定个人自信地管理设备集合的最佳方式的研究必须指导此类系统的未来部署。
2020-07-31 cs.CR cs.CY
aiXamine: Simplified LLM Safety and Security
Qatar Computing Research Institute(卡塔尔计算研究所);Hamad Bin Khalifa University(哈马德·本·哈利法大学)
aiXamine是一个黑盒评估平台,整合40多项测试和八项服务,全面评估LLM安全与安保,发现领先模型存在对抗攻击、偏见和隐私漏洞,并揭示开源模型在特定维度可匹敌专有模型。
2025-04-23 cs.AI cs.CR
Safety and Security Analysis of Large Language Models: Benchmarking Risk Profile and Harm Potential
Tennessee Tech University(田纳西科技大学);University of Nebraska at Omaha(奥马哈内布拉斯加大学)
本研究对九种主流大型语言模型在24个安全类别上进行对抗性提示测试,提出风险严重性指数(RSI)量化风险,发现安全过滤器普遍存在漏洞,亟需加强对齐与治理。
2025-09-26 cs.CR cs.CY
Unveiling Privacy and Security Gaps in Female Health Apps
本文对45款女性健康应用进行安全与数据保护评估,揭示其存在有害权限、敏感数据过度收集和大量第三方跟踪等问题,并为用户、开发者和政策制定者提出改进建议。
2025-02-04 cs.CR cs.HC
Safety and Security Risk Mitigation in Satellite Missions via Attack-Fault-Defense Trees
本文针对卫星项目地面段,应用Attack-Fault-Defense Tree (AFDT)框架将攻击树、故障树与防御机制集成于统一模型,通过定性分析识别系统弱点,提升复杂网络物理环境的安全与安保弹性。
2025-04-01 cs.CR cs.GT
Don't Make Models Guess Security and Safety: Symbolic Guardrails for Domain-Specific AI Agents
Carnegie Mellon University(卡内基梅隆大学)
本文研究了符号护栏在提高AI智能体安全性和安全性方面的有效性,通过系统回顾80个最新基准测试,发现74%的政策要求可通过符号护栏实现,从而在不牺牲效用的情况下提升安全性和安全性。
2026-07-07 cs.AI cs.CR cs.SE
Presenting a new approach in security in inter-vehicle networks (VANET)
针对车载自组织网络(VANET)的安全问题,提出新方法,旨在通过提供可信驾驶数据等方式提升交通安全与管理水平,助力驾驶员应对潜在危险。
2024-11-28 cs.CR
SoK: The Security-Safety Continuum of Multimodal Foundation Models through Information Flow and Global Game-Theoretic Analysis of Asymmetric Threats
CSIRO’s Data61(CSIRO数据61);University of New South Wales(新南威尔士大学);Johns Hopkins University(约翰斯·霍普金斯大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Adelaide University(阿德莱德大学);Responsible AI Research (RAIR) Centre, Adelaide University(阿德莱德大学负责任人工智能研究(RAIR)中心)
本文通过信息流和博弈论分析,探讨多模态基础模型的安全与安全性连续体,提出系统级防护优于模型级防护,并定义自我破坏阈值以触发终止机制。
2026-02-09 cs.CR
Adaptive Safety for Internet of Things in e-Health
无线普适计算设备正在迅速渗透到我们的环境中,其中电子健康是最关键的。在电子保健环境中,不仅要解决安全和隐私问题(这通常是重点),而且要满足适当治疗的安全需求。随着缺乏计算能力的普适(智能灰尘)设备的比例增加,在这样的环境中提供安全性、隐私性和安全性是一项苛刻的任务,更不用说关于其自适应提供的附加要求。然而,大约二十年前,在计算领域出现了一个有趣的研究分支,称为信任管理。该分支被认为是支持传统硬安全和隐私方法的非常方便的替代方案。因此,它通常被称为软安全(隐私)提供机制。由于信任具有内在的自适应性,并且安全性和安全性密切相关,本文提出了一种新方法,其中在电子健康环境中部署信任管理,以实现自适应安全配置。本文还介绍了一个可信度计算框架,扩展了信任管理方法与物联网(IoT)中的计算信任的比较分析。
2022-03-10 cs.CR cs.DC
A Safety and Security Framework for Real-World Agentic Systems
NVIDIA;Lakera AI
本文提出了一种动态框架,通过用户安全视角识别新型代理风险,并通过红队行动和案例研究验证其在企业级代理系统中的安全性和安全性。
2025-11-27 cs.AI cs.CR cs.LG
Enforcing MAVLink Safety & Security Properties Via Refined Multiparty Session Types
本文提出用精化多方会话类型描述并强制合法的消息交互序列,以防范 MAVLink 无人机协议中表面合法却可导致系统进入不安全状态的隐蔽攻击。
2025-03-14 cs.CR cs.PL
From nuclear safety to LLM security: Applying non-probabilistic risk management strategies to build safe and secure LLM-powered systems
Amazon Web Services(亚马逊云服务);Loyola University of Chicago(芝加哥洛约拉大学);University of Wisconsin at Madison(威斯康星大学麦迪逊分校)
该研究将核工程等领域的非概率风险管理策略(100多种)应用于LLM驱动系统,以应对自适应对手等新兴风险,提出五类策略映射和LLM辅助工作流程,增强AI安全与可靠性。
2025-05-20 cs.AI cs.CR
Converging Safety and Security: IO-Link Wireless and OPC UA over 5G under prEN 50742
Helmut-Schmidt-University(赫尔穆特·施密特大学);Jungheinrich AG(永恒力股份公司)
研究工业自动化中无线通信技术集成带来安全威胁下,基于prEN 50742标准,对从IO-Link无线安全设备到PLC的控制链进行安全融合实证评估,测量不同网络的延迟等,揭示相关问题并表明专用5G能保持功能安全看门狗余量。
2026-07-20 cs.CR cs.SY eess.SY
AI Safety vs. AI Security: Demystifying the Distinction and Boundaries
The Ohio State University(俄亥俄州立大学)
本文旨在厘清AI安全与AI安保的概念区别与研究边界,通过严格定义、类比分析及相互依存性探讨,为研究、合作、政策及可信AI部署提供指导。
2025-06-21 cs.AI cs.CR cs.CY
Accountable Safety for Rollups
问责制,即可证明地识别协议违反者的能力,作为权益证明(PoS)协议安全性的主要经济论据而变得突出。Rollups是区块链最流行的扩展解决方案,通常使用PoS协议作为其父链。我们定义责任汇总,并提出了一个攻击,显示现有的设计缺乏问责制。我们提供了一个负责任的汇总设计,并证明了它的安全性,无论是传统的“神圣”汇总还是主权汇总,主权汇总是一种建立在懒惰区块链上的新兴替代方案,其任务只是汇总数据的排序和可用性。
2022-11-04 cs.CR
AI Risk Management Should Incorporate Both Safety and Security
Princeton University(普林斯顿大学);Virginia Tech(弗吉尼亚理工大学);ETH Zurich(苏黎世联邦理工学院);ELLIS Institute Tübingen(图宾根ELLIS研究所);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);Stanford University(斯坦福大学);JPMorgan AI Research(摩根大通AI研究院);Sony AI(索尼AI研究院);University of Washington(华盛顿大学);IBM Research(IBM研究院);George Washington University(乔治·华盛顿大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Pennsylvania(宾夕法尼亚大学);University of Wisconsin, Madison(威斯康星大学麦迪逊分校);NVIDIA(英伟达公司);University of Chicago(芝加哥大学);UC Berkeley(加州大学伯克利分校)
本文提出AI风险管理应结合安全性与安全性,并引入统一参考框架阐明二者差异与相互作用,以促进跨社区的理解与合作。
2024-05-29 cs.AI cs.CR