A Deterministic and Auditable AI Security Risk Assessment Framework with ATLAS Aligned Executable Rules and Formal Verification
University of Southampton（南安普顿大学）
该框架提出一种确定性、可审计的AI安全评估方法，通过ATLAS对齐的可执行规则和形式验证，实现从工程工件到技术级结果的机器可评估映射，并在开源项目中验证有效性。
2026-10-02 cs.AI
Security Assessment of Hierarchical Federated Deep Learning
Newcastle University（纽卡斯尔大学）；Alahsa Technical College（艾拉哈萨技术学院）；University of Catania（卡塔尼亚大学）；Technical University of Ostrava（俄斯特拉发技术大学）
本研究评估分层联邦学习（HFL）的安全性，发现其对非目标训练时攻击鲁棒，但易受后门攻击，且分层聚合增强了对推理时攻击的抵抗力。
2024-08-20 cs.AI cs.CR cs.LG
LISAA: A Framework for Large Language Model Information Security Awareness Assessment
Computer and Information Science Ben-Gurion University of the Negev（计算机与信息科学贝纳尔·戈里翁大学）
本文提出LISAA框架，用于评估大型语言模型的信息安全意识，通过100个真实场景测试其安全知识、态度和行为，揭示当前模型在信息安全方面的普遍漏洞。
2026-03-19 cs.AI cs.CR cs.LG
Modelling Cyber-Security Experts' Decision Making Processes using Aggregation Operators
University of Nottingham（诺丁汉大学）
网络安全专家的一个重要作用是在设计阶段对拟议的计算机系统进行评估。这项任务充满了困难和不确定性，使得人类专家提供的知识对于成功评估至关重要。如今，越来越多的系统日趋复杂，迫切需要开发工具，支持专家主导的系统安全评估进程。在这项研究中，我们使用加权平均值（WA）和有序加权平均值（OWA）与进化算法（EA）创建聚合运营商的评估过程的模型的一部分。我们展示了如何个人的整体评级的安全组件可以产生从他们的特点的评级，以及如何将这些个人的整体评级可以汇总到一个系统上产生的潜在攻击的整体排名。除了识别潜在系统中的突出攻击和弱点外，该方法还突出了哪些因素和安全组件分别对组件的难度和攻击排名贡献最大。在真实世界的场景中，专家被要求对一组技术攻击进行排名，并回答一系列关于攻击主题的安全组件的问题。这项工作展示了如何自动化寻找良好的聚合运算符，并识别网络安全问题的重要组件和因素。由此产生的运算符有可能用作系统设计人员和网络安全专家的决策辅助工具，增加了可用有限资源实现的评估量。
2016-08-30 cs.AI cs.CR
STRIDE-AI: A Threat Modeling Framework for Generative AI Security Assessment
SRH University of Applied Sciences Heidelberg School of Technology（海德堡应用科学大学技术与建筑学院）
本文提出STRIDE-AI框架，旨在填补高层风险标准与技术漏洞分类之间的差距，通过六个阶段的评估生命周期和针对AI系统的威胁建模适应，降低AI系统面临攻击的成功率。
2026-05-16 cs.AI cs.CR
Underwater Acoustic Networks for Security Risk Assessment in Public Drinking Water Reservoirs
TH Köln（科隆应用技术大学）；Bartz & Bartz GmbH（巴茨与巴茨有限公司）；Aggerverband（阿格协会）
我们已经建立了一个新的系统，使用水下传感器网络的饮用水水库的监测。我们实施了一种基于人工智能的创新方法来检测、分类和定位水下事件。在本文中，我们描述了基于传感器网络之一，水听器网络的系统的技术和认知AI架构。我们讨论了在水库中安装和使用水听器网络的挑战，在水库中，交通，游客和可变的水条件创造了一个复杂的，变化的环境。我们的AI解决方案使用自动编码器对潜在编码进行无监督学习，以进行分类和异常检测，并对声音定位进行时间延迟估计。最后，我们提出了在实验室水池和水库进行的实验结果，并讨论了该系统的潜力。
2021-07-29 cs.AI
VARS: Vision-based Assessment of Risk in Security Systems
School of Computing, SRM Institute of Science and Technology（SRM科学技术学院计算机学院）
针对视频危险等级预测，论文在100个视频的自定义数据集上比较经典机器学习、神经网络和transformer模型，以准确率、F1和MAE识别最稳健方案。
2024-10-25 cs.AI cs.CV
Can Open-Source LLM Agents Replace Static Application Security Testing Tools? An Empirical Assessment
College of Engineering and Science, Florida Institute of Technology（工程学院与科学学院，佛罗里达理工学院）
评估基于开源LLM的代理在静态应用安全测试中的性能，与SAST工具Bandit对比，发现当前不适合实际应用。
2026-06-11 cs.AI cs.CR
A Practical Framework for Evaluating Medical AI Security: Reproducible Assessment of Jailbreaking and Privacy Vulnerabilities Across Clinical Specialties
The Ohio State University（俄亥俄州立大学）
本文提出了一种可重复评估医疗AI安全性的框架，针对不同临床专科的劫持和隐私漏洞进行评估，无需特殊资源或数据权限。
2025-12-09 cs.AI cs.CR
Exposed by Design: A Dynamic Security Assessment of Internet-Facing MCP Servers at Scale
CobaltoSec（科巴尔特安全公司）
该研究针对公共互联网上的MCP服务器开展大规模动态安全评估，借助自主框架Corvus发现大量未授权、存在漏洞的服务器，并开源Corvus用于MCP安全评估。
2026-08-04 cs.AI cs.CR
Bridging AI and Software Security: A Comparative Vulnerability Assessment of LLM Agent Deployment Paradigms
University of Manouba（马努巴大学）；University of Jendouba（坚杜拜大学）；University of Sfax（斯法克斯大学）；DataDoIt；South Mediterranean University（南地中海大学）
本研究通过统一威胁框架比较函数调用与MCP两种LLM智能体部署范式，发现函数调用攻击成功率更高，链式攻击效果显著，为安全部署提供实证指导。
2025-07-08 cs.AI cs.CR
LLM-Based Agents for Software and Systems Security: Approaches, Applications, and Assessment
本文通过系统综述2023-2026年的同行评审文献，梳理基于LLM的软件与系统安全智能体的技术方法、应用及评估，指出当前智能体权限未受限、行为不可审计的局限，并展望未来研究方向。
2026-08-31 cs.AI cs.CR
SALLM: Security Assessment of Generated Code
University of Notre Dame（圣母大学）
针对现有基准忽视安全性和真实软件工程场景的问题，本文提出SALLM框架，通过安全中心化Python提示数据集、可配置评估技术和新指标，系统评估LLMs生成安全代码的能力。
2024-09-04 cs.AI cs.SE
ENACT-Heart -- ENsemble-based Assessment Using CNN and Transformer on Heart Sounds
The University of Michigan - Dearborn（密歇根大学迪尔伯恩分校）；SimPlatform Co. Ltd.（SimPlatform有限公司）；Affiliate Research Institute（附属研究院）
本研究提出ENACT-Heart集成方法，结合CNN与ViT通过专家混合框架分析心音，实现97.52%的分类准确率，优于单一模型，可提升心血管健康监测诊断性能。
2026-11-05 cs.AI cs.SD eess.AS
Automating the Correctness Assessment of AI-generated Code for Security Contexts
University of Naples Federico II（那不勒斯费德里科二世大学）
本文提出全自动方法 ACCA，利用符号执行评估 AI 生成安全相关汇编代码的正确性，实验表明其优于基线方案并与人工评估高度相关，且评估速度显著快于人工分析。
2024-06-08 cs.AI cs.SE
AI security and cyber risk in IoT systems
University of Oxford（牛津大学）；Huddersfield University（哈德斯菲尔德大学）；University of Warwick（华威大学）；University of Kent（肯特大学）；University College London（伦敦大学学院）；Keele University（基尔大学）
本文提出了一种针对当前数据策略挑战量身定制的依赖模型，为网络安全社区提供网络风险估计、评估及通用风险影响评估的建议。
2024-10-11 cs.AI cs.CR cs.SE
Where Do LLM-based Systems Break? A System-Level Security Framework for Risk Assessment and Treatment
Northern Arizona University（北亚利桑那大学）；Department of Software Science（软件科学系）；Tallinn University of Technology（塔林技术大学）
本文提出了一种系统级安全框架，用于评估和处理LLM系统中的风险，通过结合系统建模与攻击-防御树，分析医疗场景中的多步骤攻击路径，并提供可比较的防御策略。
2026-03-08 cs.AI cs.CR
Data-Driven Security Assessment of the Electric Power System
Monash University（莫纳什大学）
向新的低排放能源未来的过渡导致发电和负荷类型的组合发生变化，这是由于可再生能源渗透率的显着增长以及由于老化的化石燃料发电厂的退出而导致的系统惯性的减少。这增加了电网规划和运行的技术挑战。这项研究介绍了一种新的分解方法来考虑系统的安全性，使用传统的机器学习工具进行短期规划。这项工作的直接价值是，它提供了可扩展的和计算效率高的指导方针，使用监督学习工具，以评估第一摆动瞬态稳定状态。为了提供对训练数据集上的最终模型拟合的无偏评估，在先前未见过的测试集上检查了所提出的方法。该方法准确区分了测试集中的稳定和不稳定情况，误差仅为0.57%，对不稳定时间的预测精度较高，误差为6.8%，平均绝对误差为0.0145。
2020-08-28 cs.AI cs.SY eess.SY
Mapping LLM Security Landscapes: A Comprehensive Stakeholder Risk Assessment Proposal
Amrita Vishwa Vidyapeetham（阿米塔大学）；Bosch Global Software Technologies（博世全球软件技术公司）；AIShield
针对LLM集成系统缺乏面向从业者直接风险评估方法的问题，提出基于OWASP风险评级方法的评估流程，通过场景与影响分析构建威胁矩阵，为开发者、应用开发者及最终用户提供全面的风险评估与缓解决策支持。
2024-03-20 cs.AI cs.CR
JailBench: A Comprehensive Chinese Security Assessment Benchmark for Large Language Models
Beijing University of Posts and Telecommunications（北京邮电大学）
针对现有中文安全基准难以暴露LLM深层漏洞的问题，提出首个综合性中文基准JailBench，采用自动越狱提示工程师框架构建，在13个主流LLM上评估，对ChatGPT攻击成功率最高，有效识别潜在漏洞。
2025-02-26 cs.AI cs.CL
