Heimdallr: Characterizing and Detecting LLM-Induced Security Risks in GitHub CI Workflows
National University of Singapore(新加坡国立大学)
本文研究GitHub CI工作流中LLM引发的安全风险,提出Heimdallr框架,通过流程图规范化和威胁向量检测,实现高精度识别LLM节点和威胁向量。
2026-07-10 cs.CR cs.SE
Integrating Log-Based Security Analytics in Agile Workflows: A Real-World Experience Report
Virginia Tech(弗吉尼亚理工大学)
本文探讨了在敏捷工作流中整合基于日志的安全分析的挑战与实践,通过Red Flag项目案例,分析了开发人员对日志欺诈检测系统的接受度、遇到的挑战及对日常开发的影响,总结了关键经验与最佳实践。
2026-05-01 cs.CR cs.SE
Security in a Workflow: Exploring Role-Based Agentic Architectures for Vulnerability Handling
Chalmers University of Technology and University of Gothenburg(查尔姆斯理工大学和哥德堡大学)
本文提出基于角色的智能体工作流(规划、分析、修复、验证),结合CodeQL工具,在25个真实C/C++漏洞上实现44%检测准确率和19%修复准确率。
2026-06-15 cs.CR cs.SE
An Empirical Study on Workflows and Security Policies in Popular GitHub Repositories
本研究通过分析大量热门 GitHub 仓库,发现工作流和安全策略的采用率较低,强调维护者应优先配置 CI/CD 工作流、启用静态分析并制定安全策略以降低供应链风险。
2023-05-25 cs.CR cs.SE
Security Constraints in Temporal Role-Based Access-Controlled Workflows (Extended Version)
工作流和基于角色的访问控制模型需要适当地合并,以便允许用户根据给定的数据访问策略和时间约束以正确的方式执行流程。给出了工作流模型与不确定性的简单时态网络之间的映射,讨论了角色时态与简单时态网络之间的映射,以及如何将两个结果网络连接起来,以明确谁可以做什么,什么时候。如果连接的网络仍然是可执行的,我们将展示如何计算每个任务的授权用户集。最后,我们定义了安全约束(以防止用户进行未经授权的操作)和安全约束传播规则(在运行时传播安全约束)。我们还提供了一个算法来检查一组传播规则是否安全,我们扩展了现有的执行算法,以考虑到这些新的安全方面。
2016-01-11 cs.CR
Automatic Security Assessment of GitHub Actions Workflows
对快速可靠的DevOps操作的需求推动了存储库平台的分销商实施工作流。工作流程允许直接在托管软件的存储库上自动化代码管理操作。然而,这个特性也引入了直接影响存储库、其内容以及托管代码所涉及的所有软件供应链的安全问题。因此,利用易受攻击的工作流的攻击可能会破坏大型软件生态系统。为了实证评估这个问题的重要性,在本文中,我们专注于事实上的主要分销商(即,GitHub),我们为GitHub Actions工作流程开发了一种安全评估方法,该方法在软件供应链中得到广泛采用。我们在一个工具(GHAST)中实现了该方法,并将其应用于50个开源项目。实验结果令人担忧,因为它们允许确定总共24,905个安全问题(所有问题都报告给相应的利益相关者),从而表明问题是开放的,需要进一步研究和调查。
2022-11-10 cs.CR
Possibilistic Information Flow Control for Workflow Management Systems
在工作流程和业务流程中,往往对数据(即保密性和完整性)和流程(如职责分离)都有安全要求。存在用于指定工作流和相关安全要求的图形符号。我们提出了一种方法,正式验证工作流满足这样的安全要求。为了这个目的,我们定义的语义工作流作为一个状态事件系统和正式的安全属性在一个基于跟踪的方式,即在一个抽象的层次上,而不依赖于细节的执行机制,如基于角色的访问控制(RBAC)。这个正式的模型,然后让我们建立在众所周知的验证技术的信息流控制。我们描述了如何组成的可能性信息流的验证方法,可以适应验证一个规范的分布式工作流管理系统满足安全要求的数据和过程。
2014-04-08 cs.CR
AdProv: A Method for Provenance of Process Adaptations
University of Groningen(格罗宁根大学);University of Tartu(塔尔图大学)
本文提出AdProv方法,用于收集、存储、检索和可视化运行时工作流适配的溯源,并构建了包含溯源持有者服务、PROV-O映射及XES扩展的框架,以支持不同领域的溯源分析。
2025-10-07 cs.CR cs.SE
SecDocker: Hardening the Continuous Integration Workflow
当前的持续集成流程面临着重大的内在网络安全挑战。这个想法不仅是为了解决和测试源代码的正式或监管安全需求,而且还要坚持CI管道本身的相同原则。本文介绍了当前CI工作流中的安全问题的概述。它设计、开发和部署了一个新工具,用于安全部署基于容器的CI管道流,而不会减慢发布周期。该工具因其基于Docker的方法而被称为\SD,可在GitHub中公开使用。它基于配置机制实现了透明的应用程序防火墙,避免了CI工作流中与预期或非预期容器配置相关的问题。它与其他DevOps Engineers工具集成,仅提供来自匹配特定模式的场景的反馈,解决未来的容器安全问题。
2021-04-16 cs.CR cs.SE
Using LLMs to Automate Threat Intelligence Analysis Workflows in Security Operation Centers
本研究开发了一个利用LLM(如GPT-4)的AI代理,以自动化安全运营中心中分析CTI报告的重复性任务,无需人工干预。
2024-07-18 cs.CR
Verifying Security Policies in Multi-agent Workflows with Loops
我们认为基于Web的工作流,如会议提交系统,如EasyChair的信息流安全策略的自动验证。我们的工作流描述语言允许循环,非确定性的选择,和无限数量的参与代理。信息流策略在超属性的时态逻辑中指定。我们证明了验证问题可以归结为一阶线性时间时序逻辑公式的可满足性,并为相关类别的工作流和规范提供可判定性结果。我们报告的一系列基准上实现我们的方法所获得的实验结果。
2017-08-29 cs.CR cs.LO
Securing Generative AI Agentic Workflows: Risks, Mitigation, and a Proposed Firewall Architecture
本文针对生成式AI智能体工作流的安全风险,提出集成多种安全服务并利用GenAI增强防御的防火墙架构,以保障系统安全部署。
2025-06-10 cs.CR
Towards a Secure and Reliable IT-Ecosystem in Seaports
海港的数字化对各种参与者的IT基础设施造成了影响(例如,船运公司、码头、海关、港务局)来处理船运集装箱的复杂工作流程。这些工作流的安全不仅依赖于每个行为体的安全,而且行为体还必须向其他行为体提供额外的保证,例如,尊重与收到的数据有关的义务或检查迄今为止观察到的工作流的完整性。本文分析了全球安全需求(例如,问责制、保密性),并根据工作流数据的存储和分发方式将其分解为各个参与者的要求和义务。安全机制,以满足由此产生的要求,这与所有个人演员的保证将保证整个工作流程的安全。
2021-12-09 cs.CR
Security modeling and efficient computation offloading for service workflow in mobile edge computing
资源有限的移动设备在执行各种复杂、高能耗的移动应用时面临着巨大的挑战。边缘计算(MEC)作为一种新的计算模式,可以提供丰富的计算资源来执行MD的全部或部分任务,从而大大降低MD的能耗,提高应用的服务质量。然而,将工作流任务卸载到MEC服务器容易受到外部安全威胁(例如,窥探、改变)。提出了一种MEC环境下服务工作流的安全节能计算卸载(SEECO)策略,其目标是在风险概率和截止期限约束下优化能耗.首先,我们建立了一个安全开销模型来度量安全服务的执行时间。然后,我们制定了计算卸载问题,结合安全性,能源消耗和执行时间的工作流应用程序。最后,基于遗传算法,从任务执行顺序、位置和安全服务选择等方面设计了SEECO的编码策略。实验结果表明,SEECO策略能够有效地实现移动应用的安全性和节能性。
2019-07-04 cs.CR cs.DC cs.NI
ARGO-SLSA: Software Supply Chain Security in Argo Workflows
Informatics Institute of Technology(信息学技术学院)
本文提出 ARGO-SLSA,一个基于开源 Argo Workflows 的 Kubernetes 原生控制器,通过生成加密签名和来源证明使工作流制品符合 SLSA 标准,从而增强软件供应链安全。
2025-11-09 cs.CR cs.DC
On Secure Workflow Decentralisation on the Internet
分散式工作流管理系统是一个新的研究领域,迄今为止,大多数工作都集中在系统的整体架构。由于很少有人注意到在这样的系统中的安全方面,我们遵循安全驱动的方法,并考虑,从可用的安全构建块的角度来看,如何实现安全性,以及当赋予分散的环境与现代分布式安全协议时,会出现什么新的机会。我们的研究是出于一个更一般的问题,即如何将电子邮件交换所享有的积极推动因素与工作流系统的一般优势相结合,更具体地说,与分散环境中可以引入的优势相结合。这旨在为电子邮件用户提供一套工具,以管理信息交换的语义、内容、参与者及其在交换中的角色,并提供内在的安全和隐私保证。这项工作是基于当代分布式安全协议的调查,并考虑如何使用这些协议可以在实现分布式工作流管理系统与分散控制。我们审查了一组这些协议,重点是在审查协议所需的消息序列,并讨论这些安全协议如何提供基础,实现核心控制流,数据和资源模式在分布式工作流环境。
2010-06-08 cs.CR cs.DC
Why Trust Your Agent? Empirical Security Gains from TRiSM-Guided Agentic Workflows in Healthcare
AuraQ
本文应用AI信任、风险与安全管理(TRiSM)框架,将不安全的医疗报告生成智能体工作流转变为安全敏感的工作流,在五种大语言模型上评估,将平均攻击成功率从31%-42%降至10%-25%,同时报告准确率提升14个百分点。
2026-06-27 cs.AI cs.CR
An Empirical Analysis of Practitioners' Perspectives on Security Tool Integration into DevOps
背景:安全工具在使开发人员能够构建安全软件方面发挥着至关重要的作用。然而,在不影响DevOps范式中部署速度或频率的情况下引入和充分利用安全工具可能具有相当大的挑战性。目的:我们的目标是实证调查从业者在将安全工具集成到DevOps工作流程中时面临的关键挑战,以便提供克服这些挑战的建议。方法:我们进行了一项研究,涉及31个系统选择的关于在DevOps中集成安全工具的网络研讨会。我们使用了定性数据分析方法,即,专题分析,以确定与在快速部署环境中整合安保工具有关的挑战和新出现的解决办法。结果如下:我们发现,虽然传统的安全工具无法满足DevOps的需求,但该行业正在转向新一代的工具,这些工具已经开始关注这些需求。我们已经开发了一个DevOps工作流程,通过综合分析网络研讨会中从业者的建议,集成了安全工具和一组指导方针。结论:虽然最新的安全工具正在解决DevOps的一些要求,但仍有许多与工具相关的缺点尚未得到充分解决。
2021-07-19 cs.CR cs.SE
A Decentralized Authorization and Security Framework for Distributed Research Workflows
针对跨机构分布式研究工作流的安全需求,提出一个去中心化授权与安全框架,集成于Tapis平台,支持跨站点查询,并通过气候变化和系外行星搜索两个用例验证。
2023-05-13 cs.CR cs.DC
The Bi-Objective Workflow Satisfiability Problem and Workflow Resiliency
计算机化的工作流管理系统可以实施根据授权动作和约束规定的安全策略,从而限制哪些用户可以执行工作流中的特定步骤。安全策略的存在可能意味着不可能找到有效的计划(将步骤分配给授权用户以满足所有约束)。在文献中的工作集中在工作流可满足性问题,一个\emph{decision}问题,输出一个有效的计划,如果实例是可满足的(和一个负的结果,否则)。在本文中,我们介绍了\textsc{Bi-Objective Workflow Satisfiability Problem}(\BOWSP),它使我们能够解决\emph{optimization}问题的工作流程和安全策略。特别是,当安全策略的某些组件可能被违反时,我们能够计算出“最坏”的计划。一般来说,从经典复杂性和参数化复杂性的角度来看,\BOWSP都是难以处理的。我们证明了存在一个固定参数的易处理(FPT)算法来计算一个帕累托前\BOWSP,如果我们限制我们的注意力,用户无关的约束。我们还提出了第二个算法来计算一个Pareto前沿,它使用混合整数规划(MIP)。我们比较了我们的算法在合成实例上的性能,并表明FPT算法在大多数实例上优于基于MIP的算法几个数量级。最后,我们研究了工作流弹性的重要问题,并证明了新的结果,建立已知的决策问题是固定的参数易处理时,限制到用户独立的约束。然后,我们提出了一种新的方式建模的用户的可用性,并证明了许多问题的背…
2016-11-15 cs.CR cs.DS
The adaptation of Shamir's protocol for increasing the security of a mobile environment
本文的目的是提供一个解决方案,增加了个人和企业中的工人的移动环境的安全性。所提出的解决方案适应沙米尔的方法,用于共享加密密钥管理的秘密。密钥的一部分存储在蓝牙(或NFC)腕带或企业服务器上,而移动终端用于存储所有其余部分。该方法可以应用于保护文档和语音数据。该解决方案是由一个数学形式的支持,这是在目前已知的建议在加密民俗。
2016-09-22 cs.CR
Towards Model Co-evolution Across Self-Adaptation Steps for Combined Safety and Security Analysis
Ulm University(乌尔姆大学);University of Innsbruck(因斯布鲁克大学)
本文针对自适应系统在适应过程中暴露漏洞的问题,提出一种多模型建模方法,将系统、适应过程、安全危害与安全攻击统一组合为攻击-故障树,并通过模型转换实现协同演化,以支持组合安全与安全分析。
2023-09-18 cs.CR cs.FL cs.RO
A Simple and Agile Cloud Infrastructure to Support Cybersecurity Oriented Machine Learning Workflows
Sophos AI(Sophos人工智能)
为机器学习(ML)安全模型生成最新的、标记良好的数据集是一项独特的工程挑战,因为大量数据、标记的复杂性和不断的概念漂移使得难以生成有效的训练数据集。在这里,我们描述了一个简单、有弹性的云基础设施,用于生成ML训练和测试数据集,这提高了我们的团队研究和生产大量安全ML模型的速度。
2020-02-26 cs.CR cs.LG
Smarter Saboteurs, Better Fixers: Scaling & Security in Linear Multi-Agent Workflows
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
研究模型规模对线性多智能体工作流安全性的影响,发现大模型更易执行恶意指令,但轻量级修复阶段可恢复性能,表明线性结构在适当校正下具有鲁棒性。
2026-06-12 cs.CR cs.LG cs.MA
Self-Adaptation and Secure Information Flow in Multiparty Structured Communications: A Unified Perspective
我们提出了一个全面的结构化通信模型,其中自适应和安全问题共同解决的初步结果。更具体地说,我们提出了一个模型的自适应,多方通信的安全信息流的保证。在此模型中,当进程试图在定向交换中读取或写入不适当的安全级别的消息时,就会发生安全违规。这样的违反触发适配机制,该适配机制防止违反发生和/或在编排中传播它们的影响。我们的模型配备了本地和全局机制,用于对安全违规行为做出反应;类型可靠性结果确保全局协议仍然正确执行,同时系统自适应以保持安全性。
2014-08-26 cs.CR cs.LO cs.PL
Period Adaptation for Continuous Security Monitoring in Multicore Real-Time Systems
我们提出了一个设计时框架(名为HYDRA-C)的安全任务集成到分区的实时的【形】系统(RTS)运行在多核平台上。我们的目标是以“持续”的方式适时地执行安全监控机制--即,尽可能频繁地跨核运行,以确保安全任务在尽可能少的中断情况下运行。我们的框架将允许设计人员集成安全机制,而不扰乱现有的实时的【形】(RT)任务属性或执行顺序。我们展示了框架使用的概念验证实现与入侵检测机制作为安全任务。我们开发和使用两个,(a)一个自定义的入侵检测系统(IDS),以及(b)Tripwire -一个开放的源数据完整性检查工具。这些都是在一个现实的漫游者平台上实现的,该平台使用ARM多核芯片设计。我们将HYDRA-C的性能与基于多核RTS的最先进的RT安全集成方法进行了比较,发现我们的方法平均可以在不影响RT任务性能的情况下更快地检测到19.05%的入侵。
2020-03-14 cs.CR cs.OS
SCGAgent: Recreating the Benefits of Reasoning Models for Secure Code Generation with Agentic Workflows
本文提出主动式安全编码智能体 SCGAgent,通过安全编码指南与 LLM 生成的单元测试兼顾代码安全与功能正确性,并以非推理模型加智能体工作流达到或超过推理模型的安全代码生成表现。
2025-06-08 cs.CR
EncGPT: A Multi-Agent Workflow for Dynamic Encryption Algorithms
EncGPT提出一种基于大语言模型的多智能体框架,通过规则、加密和解密智能体动态生成并应用加密规则,平衡成本与安全性,并在替换加密工作流中实现平均15.99秒的执行时间。
2025-03-29 cs.CR cs.MA
Temporal Attack Pattern Detection in Multi-Agent AI Workflows: An Open Framework for Training Trace-Based Security Models
SAP;OWASP Gen AI Security Project(OWASP生成人工智能安全项目);Agentic Security Initiative (ASI)(代理安全倡议(ASI))
本文提出了一种开放框架,通过合成轨迹生成和微调语言模型,提升多智能体AI工作流中时间攻击模式检测的准确性,并公开了相关数据集和评估基准。
2025-12-29 cs.AI cs.CR
Biologically Inspired Execution Framework for Vulnerable Workflow Systems
研究的主要目的是引入一个生物启发的执行框架的工作流系统的威胁下,由于一些入侵攻击。通常情况下,脆弱的系统需要停止并进入等待状态,从而确保数据的安全性和隐私性,同时恢复。这项研究通过保持数据的安全性、隐私性和完整性,确保了服务和数据对最终用户的可用性。为了达到指定的目标,变色龙的行为和冬眠的概念被认为是相结合的。因此,工作流系统使用生物启发的方法变得更加健壮,即使在脆弱的状态下也可以安全地对业务消费者可用。
2009-11-02 cs.CR
An Empirical Evaluation of LLMs for Solving Offensive Security Challenges
本研究开发了人在回路和完全自动化两种工作流,评估大语言模型解决CTF挑战的能力,发现LLMs成功率高于普通人类,为网络安全教育及系统评估攻击性安全能力提供了参考。
2024-02-19 cs.CR
Vulnerability-Aware Resilient Networks: Software Diversity-based Network Adaptation
通过利用软件多元文化的原则,以确保在网络中的安全性,我们提出了一个基于可扩展性的软件多样性度量,以确定如何网络拓扑结构可以适应,以最大限度地减少安全漏洞,同时保持最大的网络连接。我们提出的基于软件多样性的自适应(SDA)方案估计一个节点的软件多样性的基础上的弱点,软件包安装在其他节点上的攻击路径可达的节点,并采用它的边缘适应,由于两个连接的节点使用相同的软件包或者相邻节点可能具有高软件漏洞或者添加具有较少或没有安全漏洞的另一节点的边,因为这两个节点使用不同的软件包或者具有与它们相关联的低漏洞。为了验证所提出的SDA方案,我们进行了大量的实验比较,建议SDA方案与对应的基线计划在真实的网络。我们的模拟实验结果证明了我们提出的SDA的性能优于现有的同行相比,并提供了深刻的调查结果的有效性和效率方面的建议SDA计划下的三个真实的网络拓扑结构具有很大的不同的网络密度。
2020-07-16 cs.CR
Towards Agentic Investigation of Security Alerts
University of Oslo(奥斯陆大学);Norwegian Defence Research Establishment (FFI)(挪威国防研究机构(FFI))
本文提出一种利用大语言模型自动化安全警报初步调查的代理工作流,通过预定义查询和结构化工具访问提高准确性,减少人工工作量。
2026-04-28 cs.AI cs.CR
Comments on a recently proposed Privacy Preserving Lightweight Biometric Authentication System for IoT Security
在本文中,我们表明,最近发布的轻量级适应指纹匹配算法称为细节特征识别码可能是不安全的入侵者可能能够非法但成功地验证自己的系统正在考虑。我们还表明,轻量级的适应有其他隐私相关的漏洞,使其不适合用于生物识别。我们明确表示,我们既不调查也不评论原始细节编码算法本身的安全性,而是强调轻量级适应的漏洞。在这个过程中,我们提供了一个高层次的概述单向函数在密码学和生物识别中的作用,为上述轻量级算法及其不足之处提供了一个背景。
2019-10-12 cs.CR
Argus: Reorchestrating Static Analysis via a Multi-Agent Ensemble for Full-Chain Security Vulnerability Detection
The Hong Kong Polytechnic University(香港理工大学);HKUST(香港科技大学);SF Express(顺丰速运);Great Bay University(大湾区大学)
Argus通过多智能体框架提升静态分析效率,结合RAG和ReAct技术减少漏洞误报,发现更多真实漏洞并降低运营成本。
2026-04-08 cs.CL cs.CR cs.SE
AI-Assisted Hardware Security Verification: A Survey and AI Accelerator Case Study
University of Florida(佛罗里达大学)
本文综述了AI辅助硬件安全验证的最新进展,通过NVDLA案例研究展示AI在自动化验证流程中的应用,强调AI输出需基于仿真证据和形式验证确保可信安全。
2026-04-02 cs.CR
Model Context Protocol for Vision Systems: Audit, Security, and Protocol Extensions
Adobe Research(Adobe研究);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
该研究首次对91个视觉类 MCP 服务器开展部署规模审计,构建可执行验证基准,量化模式、坐标和内存范围等协议违规及多智能体安全风险。
2025-09-26 cs.CR
Agentic AI for Cyber Resilience: A New Security Paradigm and Its System-Theoretic Foundations
Department of Systems Engineering, City University of Hong Kong(香港城市大学系统工程系);Department of Electrical and Computer Engineering, New York University(纽约大学电气与计算机工程系)
本文提出基于代理AI的网络韧性新范式,通过系统理论框架设计自主工作流,利用博弈论实现网络防御与攻击的动态平衡,提升系统在攻击下的持续适应能力。
2025-12-28 cs.AI cs.CR
VeriChat: An Agentic Conversational AI Assistant for Hardware Security Verification
University of Florida(佛罗里达大学)
提出VeriChat,一种基于检索增强的多智能体对话助手,通过三个专业智能体协作减少幻觉,并集成开源EDA工具进行语法检查、综合、仿真和形式验证,在硬件安全验证中达到87.73%的忠实度。
2026-07-03 cs.CR
Measuring the Security of Mobile LLM Agents under Adversarial Prompts from Untrusted Third-Party Channels
William & Mary(威廉与玛丽学院);Carnegie Mellon University(卡内基梅隆大学);Nanyang Technological University(南洋理工大学)
研究移动LLM代理在对抗性环境下的安全风险,设计评估一系列案例研究,涵盖多种攻击类型并涉及多个先进移动代理,通过大量试验揭示系统漏洞,映射攻击到相关框架发现新途径,证明其在现实中可被利用。
2026-07-08 cs.CR
Towards Secure and Leak-Free Workflows Using Microservice Isolation
数据泄露和违规行为正在增加。它们导致电影业等企业的巨额损失,以及制药业等处理用户数据的企业的用户隐私损失。防止数据泄露具有挑战性,因为此类事件的原因多种多样,从黑客攻击到错误配置的数据库。随着数据暴露的激增,微服务作为一种范式的兴起不仅需要在网络边界保护流量,而且还需要在内部采用新的安全模型,如零信任来保护业务流程。业务流程可以建模为工作流,其中有风险的数据的所有者与承包商进行交互,以实现此数据上的一系列任务。在本文中,我们将展示如何在防止数据泄露的同时实施这些工作流。遵循零信任原则,我们使用微服务架构提供的隔离来开发基础设施,以执行所有者策略。我们表明,我们的基础设施是弹性的攻击,在我们的安全模型中考虑。我们在公开的概念验证中使用我们的基础设施实现了一个简单而现实的工作流程。然后,我们通过测试部署是否违反策略来验证指定的策略是否得到正确实施,并估计授权的开销成本。
2020-12-11 cs.CR
Authenticated Workflows: A Systems Approach to Protecting Agentic AI
本文提出认证工作流,通过密码学和运行时策略结合,实现企业代理AI的确定性安全,有效防护多种安全风险。
2026-02-11 cs.AI cs.CR cs.DC
Last One Standing: A Comparative Analysis of Security and Privacy of Soft Prompt Tuning, LoRA, and In-Context Learning
CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全中心(CISPA));University of Virginia(弗吉尼亚大学);Azure Research(微软Azure研究院)
本研究系统比较了LoRA、软提示微调与上下文学习在成员推断、后门和模型窃取攻击下的隐私与安全鲁棒性,发现无万能方案,各技术优劣并存。
2023-10-17 cs.CR cs.LG
Rule-based Adaptations to Control Cybersickness in Social Virtual Reality Learning Environments
社交虚拟现实学习环境(VRLE)为用户提供沉浸式体验,增加了远程学习的可访问性。在关键VRLE应用领域(例如,军事训练、制造)可能会破坏应用程序功能并引发电脑病。在本文中,我们提出了一种新的基于规则的3QS自适应框架,执行风险和成本意识的权衡分析,以控制由于性能/安全异常事件在VRLE会话期间的网络病。我们的框架实现在一个社会VRLE即,vSocial监控网络/会话数据中的性能/安全异常事件。在出现异常的情况下,该框架具有基于规则的适应性,通过使用各种决策指标来触发。基于我们的实验结果,我们证明了我们的基于规则的3QS适应框架在减少晕网水平,同时保持应用程序的功能的有效性。利用我们的主要研究结果,我们为解决性能和安全问题提供了合适的实践,以实现更高性能和更强大的社交VRLE。
2021-08-27 cs.CR cs.DC cs.HC
From Neural Intent to Cryptographic Authorization: Securing AI-Driven Enterprise Workflows
Guangzhou University(广州大学);South China Normal University(华南师范大学);Dongguan University of Technology(东莞理工学院);Jinan University(暨南大学);Shandong University(山东大学)
研究人工智能驱动的智能代理工作流程中的安全问题,提出神经加密服务(NCS),通过神经符号设计,在大语言模型代理和特权工具间构建安全治理平面,经实验评估,能大幅降低攻击成功率,转变代理安全验证方式。
2026-08-11 cs.CR
PYPILINE: Malicious PyPI Package Detection via Suspicious API Knowledge and Agent Workflow
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
提出PYPILINE方法,结合可疑API知识库与Agent工作流,通过静态分析构建知识库并自动检测恶意PyPI包,在精度、召回率和F1分数上显著优于现有工具。
2026-06-29 cs.CR
Uncovering Adversarial Risks of Test-Time Adaptation
Princeton University(普林斯顿大学);Penn State University(宾夕法尼亚州立大学)
最近,测试时自适应(TTA)已被提出作为解决分布偏移的一个有前途的解决方案。它允许基础模型通过利用来自一批(未标记的)测试数据的信息来适应推理期间不可预见的分布。然而,我们发现了TTA的一个新的安全漏洞,基于对良性样本的预测可能会受到同一批次中恶意样本的影响。为了利用这个漏洞,我们提出了分布式入侵攻击(DIA),它将一小部分恶意数据注入到测试批次中。DIA导致使用TTA的模型错误地分类良性和未受干扰的测试数据,为对手提供了一种全新的能力,这在规范的机器学习管道中是不可行的。通过全面的评估,我们证明了我们的攻击在六个TTA方法的多个基准的高效率。在响应中,我们研究了两个对策,鲁棒性现有的不安全的TTA实现,遵循“安全设计”的原则。总之,我们希望我们的研究结果可以让社区意识到在部署TTA时的实用性-安全性权衡,并为开发强大的TTA方法提供有价值的见解。
2023-02-04 cs.CR cs.LG
AI-Driven Security Alert Screening and Alert Fatigue Mitigation in Security Operations Centers: A Survey
National Institute of Information and Communications Technology(信息通信研究机构);Kobe University(神户大学)
本文综述了从2015年到2026年利用人工智能驱动的安全警报筛选和警报疲劳缓解方法,总结了四个阶段的工作流程分类,并指出了在操作验证、对抗鲁棒性、跨环境泛化和评估实践方面的持续差距。
2026-05-18 cs.CR
AVIATOR: Towards AI-Agentic Vulnerability Injection Workflow for High-Fidelity, Large-Scale Code Security Dataset
National Institute of Standards and Technology, Software and Systems Division(美国国家标准与技术研究院软件与系统 division);Université Grenoble Alpes, CNRS, LIG(格勒诺布尔阿尔卑斯大学,法国国家科学研究中心,LIG实验室)
本文提出AVIATOR,首个AI代理漏洞注入框架,通过协调AI代理、工具分析和迭代自我纠正,生成高保真漏洞数据,提升漏洞检测模型性能。
2026-10-27 cs.AI cs.CR
Adapting Under Fire: Multi-Agent Reinforcement Learning for Adversarial Drift in Network Security
针对网络入侵检测中攻击持续演变的问题,本文构建红蓝双智能体强化学习环境,通过对抗扰动与漂移适应迭代提升防御,并以少量样本显著提高检测准确率。
2025-06-06 cs.CR
Constitutional Spec-Driven Development: Enforcing Security by Construction in AI-Assisted Code Generation
本研究提出宪法规范驱动开发方法,通过在规范层嵌入不可协商的安全原则,有效减少AI生成代码中的安全缺陷,提升开发过程中的安全性。
2026-01-31 cs.AI cs.CR cs.SE
On the Security & Privacy in Federated Learning
最近的隐私意识举措,如欧盟通用数据保护条例,使机器学习(ML)屈服于隐私和安全评估。联邦学习(FL)提供了一个隐私驱动的分散训练方案,可以提高ML模型的安全性。业界对FL技术的快速适应和安全评估暴露了各种威胁FL机密性、完整性或可用性的漏洞。这项工作通过审查最先进的(SoTA)并创建一个包含攻击的表面,敌对行为者,能力和目标的威胁模型来评估FL的CIA。我们提出了第一个统一的攻击和防御分类,并提供了有前途的未来研究方向。
2022-03-16 cs.CR
Trusted Credentials, Untrusted Behavior: Benchmarking LLM-Agent Security in High-Performance Computing
Texas Tech University(德克萨斯技术大学)
研究高性能计算中语言模型代理安全性,定义其威胁模型,识别攻击面及当前控制不足,提出研究议程和TaskBound实证基准测试计划,以应对代理按用户凭证运行时可能出现的劫持授权代理问题。
2026-07-22 cs.AI cs.CR
Optimizing Spot Instance Reliability and Security Using Cloud-Native Data and Tools
本文介绍了云原生实验室Cloudlab,基于Google Cloud与GitOps构建,集成Kubernetes、防火墙及自动化工作流等工具,为网络安全研究提供支持持续集成与高级安全实践的弹性环境。
2025-03-06 cs.CR cs.DC cs.ET