Encrypt Flip-Flop: A Novel Logic Encryption Technique For Sequential Circuits
逻辑加密是一种最流行的硬件安全技术,它可以防止IP盗版和非法IC生产过剩。它通过在设计中插入一些额外的硬件来隐藏其功能以防止未经授权的用户。加密设计的正确功能取决于正确密钥的应用,仅与授权用户共享。近年来,在提取加密设计的秘密密钥方面投入了大量的努力。与此同时,研究界也提出了一些对策,以挫败对逻辑加密的各种最新攻击。然而,大多数提出的对策未能防止强大的SAT攻击。虽然一些研究人员已经提出了不同的解决方案来抵御SAT攻击,这些解决方案遭受的几个缺点,如高的设计开销,低输出损坏,并对删除攻击的脆弱性。几乎所有已知的逻辑加密策略都容易受到基于扫描的攻击。在本文中,我们提出了一种新的加密技术,称为加密触发器,加密的输出选择触发器插入多路复用器(MUX)。提出的策略可以阻止所有已知的攻击,包括SAT和扫描为基础的攻击。该方案具有较低的设计开销和实现复杂度。在ISCAS '89和ITC' 99基准测试上的实验结果表明,该方法可以对错误的密钥产生合理的输出损坏。
2018-01-15 cs.CR
ChainWatch: A Kill Chain-Aligned Sequential Detection Framework for Multi-Step Attacks in MCP-Based AI Agent Systems
Computer Science New York University New York, USA(计算机科学 新 York 大学 新 York 美国);Cybersecurity University of Maryland, College Park MD, USA(网络安全 美国马里兰大学College Park分校 MD 美国);Carnegie Mellon University Pittsburgh, USA(卡内基梅隆大学 彭博 美国)
针对基于MCP的人工智能代理系统中现有防御无法可靠检测多步攻击的问题,提出ChainWatch框架,用六阶段杀伤链建模攻击进展,结合隐马尔可夫模型分类工具调用序列,能检测逃避传统机制的攻击链。
2026-07-23 cs.AI cs.CR
Query-Efficient and Scalable Black-Box Adversarial Attacks on Discrete Sequential Data via Bayesian Optimization
Seoul National University(首尔国立大学)
我们专注于对离散序列数据模型进行对抗攻击的问题,在黑盒设置中,攻击者的目标是制作对抗示例,对受害者模型进行有限的查询访问。现有的黑盒攻击,主要是基于贪心算法,发现敌对的例子使用预先计算的关键位置扰动,这严重限制了搜索空间,并可能导致次优的解决方案。为此,我们提出了一个查询高效的黑盒攻击,使用贝叶斯优化,动态计算重要的位置,使用自动相关性确定(ARD)分类内核。当输入序列变长时,我们引入块分解和历史子采样技术来提高贝叶斯优化的可扩展性。此外,我们开发了一个后优化算法,发现具有较小扰动大小的对抗性示例。在自然语言和蛋白质分类任务上的实验表明,与现有的方法相比,该方法具有更高的攻击成功率,查询次数和修改率显著降低.
2022-06-17 cs.CR cs.LG
Learning to Attack: Uncovering Privacy Risks in Sequential Data Releases
Department of Computer Science Duke University(计算机科学系 虔布大学)
该研究针对序列数据发布的隐私漏洞,提出结合隐马尔可夫模型与强化学习双向推理的攻击模型,在多类轨迹数据集上验证了单次受保护发布的集合泄露风险,为新型时间感知隐私保护框架的研发提供依据。
2025-10-28 cs.CR cs.LG
Black-Box Attacks against RNN based Malware Detection Algorithms
Peking University(北京大学)
最近的研究表明,基于机器学习的恶意软件检测算法在对抗性样本的攻击下非常脆弱。这些工作主要集中在使用具有固定维度的特征的检测算法,而一些研究人员已经开始使用递归神经网络(RNN)来检测基于序列API特征的恶意软件。本文提出了一种新的算法来生成序列对抗性的例子,这是用来攻击基于RNN的恶意软件检测系统。恶意攻击者通常很难知道受害RNN的确切结构和权重。替代RNN被训练成近似受害者RNN。然后,我们提出了一个生成RNN,从原始的序列恶意软件输入中输出序列对抗性示例。实验结果表明,基于RNN的恶意软件检测算法无法检测到大多数恶意对抗样本,这意味着该模型能够有效地绕过检测算法。
2017-05-23 cs.CR cs.LG
Backdoor Attack against One-Class Sequential Anomaly Detection Models
Utah State University(犹他州立大学)
本文提出一种针对深度序列异常检测模型的后门攻击策略,通过触发器生成和后门注入两步骤,在保持样本正常性的同时植入后门,并在两个单类异常检测模型上验证了攻击有效性。
2024-02-15 cs.AI cs.CR cs.IT
Adaptive Adversarial Attack on Scene Text Recognition
University of Florida(佛罗里达大学);Tongdun Technology(同盾科技)
最近的研究表明,最先进的深度学习模型容易受到小扰动输入的影响(对抗性示例)。我们在对抗性示例中观察到两个关键障碍:(i)强对抗攻击(例如,C&W攻击)需要手动调整超参数,并需要很长的时间来构建一个对抗的例子,使其不切实际的攻击实时系统;(ii)大多数的研究集中在非顺序的任务,如图像分类,但只有少数考虑顺序的任务。在这项工作中,我们加快了对抗攻击,特别是在顺序学习任务中。通过利用每个任务的不确定性,我们直接学习自适应多任务权重,而无需手动搜索超参数。一个统一的架构开发和评估非顺序任务和顺序的。为了验证该方法的有效性,我们以场景文本识别任务为例进行了研究。据我们所知,我们提出的方法是第一次尝试对抗攻击的场景文本识别。与最先进的对抗攻击相比,自适应攻击的成功率超过99.9\%,加速比为3- 6倍。
2020-04-01 cs.CR cs.CV cs.LG
Practicable Black-box Evasion Attacks on Link Prediction in Dynamic Graphs -- A Graph Sequential Embedding Method
Nanchang University(南昌大学);Illinois Institute of Technology(伊利诺伊理工学院)
本文提出首个可实践的黑盒逃避攻击方法,利用图序列嵌入和深度强化学习,在有限交互与扰动下有效攻击动态图链路预测模型,并经实验验证其有效性与实用性。
2024-12-17 cs.CR cs.LG
Quantitative Questions on Attack-Defense Trees
攻防树是一种新的图形化安全建模和评估方法。该方法包括可视化,直观的树模型,其分析是由一个严格的数学形式主义的支持。该方法的直观和形式两部分都可用于攻防场景的定量分析。在实践中,我们使用直观的问题来询问我们感兴趣的场景的各个方面。形式上,一个计算过程,定义的属性域和自底向上的算法的帮助下,被施加到导出相应的数值。本文弥合了直观和正式的方式定量评估攻击-防御场景之间的差距。我们讨论如何正确地指定一个问题,以便它可以得到明确的回答。给定一个明确的问题,然后我们展示了如何得到一个适当的属性域,构成相应的正式模型。由于任何攻击树都是一个攻击-防御树,因此我们的分析也是攻击树方法的一个进步。
2012-10-30 cs.CR
Design of intentional backdoors in sequential models
GE Research(通用电气研究院)
最近的工作已经证明了可以在机器学习模型上编排攻击的强大机制。与对抗性示例相反,后门或木马攻击在模型训练过程中嵌入具有目标标签的手术修改样本,以使目标模型在存在特定触发器的情况下学习对所选样本进行错误分类,同时在其他标称样本中保持模型性能稳定。然而,目前已发表的研究木马攻击主要集中在分类问题,忽略了输入之间的顺序依赖。在本文中,我们提出了在顺序决策代理(如强化学习代理)中谨慎引入和利用新型后门攻击的方法,通过在单个长短期记忆(LSTM)网络中训练多个良性和恶意策略。我们证明了这种攻击的有效性以及破坏性的影响,通过我们的方法,网格世界环境中使用的初始结果。我们还提供了证据,以及如何特洛伊木马触发器和恶意策略被激活的直觉。网络的大小和无意的触发器的挑战进行了识别和类比与对抗性的例子也进行了讨论。最后,我们提出了潜在的方法来抵御或作为早期检测此类攻击。我们的工作结果也可以扩展到LSTM和递归网络的许多应用中。
2019-02-26 cs.CR cs.LG
Monitoring Decomposition Attacks in LLMs with Lightweight Sequential Monitors
New York University(纽约大学);École Polytechnique Fédérale de Lausanne(瑞士联邦理工学院)
针对大语言模型现有安全防御无法应对分解攻击的问题,构建了多场景分解攻击数据集验证攻击有效性,提出轻量级序列监控框架,实现高防御成功率且成本、延迟大幅降低,具备部署可行性。
2025-06-14 cs.AI cs.CR
Defending Substitution-Based Profile Pollution Attacks on Sequential Recommenders
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
虽然顺序推荐系统在捕获用户动态方面取得了显着的改进,但我们认为顺序推荐系统容易受到基于替换的配置文件污染攻击。为了证明我们的假设,我们提出了一个基于替换的对抗攻击算法,该算法通过选择某些易受攻击的元素并将其替换为对抗项来修改输入序列。在无目标和有针对性的攻击情况下,我们观察到显着的性能恶化,使用建议的配置文件污染算法。受这些观察的启发,我们设计了一种有效的对抗性防御方法,称为Dirichlet邻域采样。具体来说,我们从多跳邻居构造的凸包中抽取项目嵌入,以替换输入序列中的原始项目。在采样过程中,使用狄利克雷分布来近似邻域中的概率分布,使得推荐器学习对抗局部扰动。此外,我们还设计了一种针对顺序推荐系统的对抗性训练方法。特别是,我们用独热编码表示选定的项,并对编码执行梯度上升,以搜索训练中项嵌入的最坏情况线性组合。因此,嵌入函数学习鲁棒的项目表示,并且训练的推荐器能够抵抗测试时的对抗性示例。大量的实验表明了我们的攻击和防御方法的有效性,这些方法在模型架构和数据集上的表现始终优于基线。
2022-07-19 cs.AI cs.CR cs.IR
TriLock: IC Protection with Tunable Corruptibility and Resilience to SAT and Removal Attacks
在过去的十年中,时序逻辑锁定作为一种保护时序电路免受逆向工程影响的方法而被研究。然而,大多数现有的顺序逻辑锁定技术受到越来越复杂的基于SAT的攻击的威胁,有效地使用输入查询到SAT求解器来排除不正确的键,以及基于结构分析的删除攻击。在本文中,我们提出了TriLock,一个顺序逻辑锁定方法,同时解决这些漏洞。TriLock可以实现高的,可调的功能损坏,同时仍然保证指数查询SAT求解器在基于SAT的攻击。此外,它采用了一种状态重新编码的方法来模糊原始状态寄存器和锁定方法插入的状态寄存器之间的边界,从而使得更难以检测和移除锁定相关组件。
2022-01-16 cs.CR cs.SY eess.SY
Few-shot Model Extraction Attacks against Sequential Recommender Systems
本文提出了一种针对顺序推荐系统的少样本模型提取框架,通过自回归增强生成策略和双向修复损失促进模型蒸馏,有效构建高功能相似性的代理模型。
2026-03-03 cs.CR cs.IR cs.LG
SeqMIA: Sequential-Metric Based Membership Inference Attack
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Zhongguancun Laboratory(中关村实验室)
针对现有成员推理攻击忽略训练过程中度量序列时间模式的问题,提出基于序列度量的SeqMIA方法,利用知识蒸馏和注意力RNN提升攻击性能,在低假阳性率下实现数量级改进。
2024-07-21 cs.CR cs.LG
Sequential Comics for Jailbreaking Multimodal Large Language Models via Structured Visual Storytelling
AI Security Lab(360人工智能安全实验室);Politecnico di Milano(米兰理工大学);Beihang University(北京航空航天大学)
本文提出利用连环漫画式视觉叙事分解恶意查询,通过扩散模型生成图像序列,以83.5%的攻击成功率越狱多模态大语言模型,并揭示安全机制漏洞。
2025-10-16 cs.AI cs.CR
A RAG-Based Question-Answering Solution for Cyber-Attack Investigation and Attribution
本文提出首个基于RAG和LLM的网络安全问答模型,用于网络攻击调查与归因,通过提供答案来源克服GPT幻觉问题,并在多种问题类型上优于GPT-3.5和GPT-4o。
2024-08-12 cs.CR
Sequential Membership Inference Attacks
Univ. Lille(里尔大学);Inria(法国国家科学研究中心);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工大学);UMR 9189-CRIStAL(9189号研究单位-CRIStAL)
本文提出顺序成员推断攻击,通过利用模型序列和可控插入时间注入目标信标,提升隐私审计效果。SeMI*攻击在特定插入步骤识别目标存在,实验显示其比传统方法更有效。
2026-11-13 cs.CR cs.LG math.ST
Sequential Attacks on Agents for Long-Term Adversarial Goals
Max-Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland University(萨尔兰大学)
强化学习(RL)在过去几年中随着在策略网络上使用有效的深度神经网络(DNN)而取得了很大的进步。随着DNN的巨大有效性出现了严重的脆弱性问题,即输入上的小对抗性扰动可能会改变网络的输出。一些研究已经指出,具有DNN策略网络的学习代理可以通过对输入状态的一系列小扰动来操纵,以实现原始任务。在本文中,我们进一步证明了通过一系列攻击对受害者策略网络施加任意对抗性奖励也是可能的。我们的方法涉及最新的对抗攻击技术,对抗性Transformer网络(ATN),它学习生成攻击,并且很容易集成到策略网络中。由于我们的攻击,受害者代理被误导,随着时间的推移优化对抗性奖励。我们的结果暴露了无人机、医学分析和自动驾驶汽车等安全关键系统中RL应用的严重安全威胁。
2018-07-05 cs.AI cs.CR cs.CV
SequentialBreak: Large Language Models Can be Fooled by Embedding Jailbreak Prompts into Sequential Prompt Chains
Bangladesh University of Engineering and Technology(孟加拉工程科技大学);Pennsylvania State University(宾夕法尼亚州立大学)
本文提出了一种名为SequentialBreak的新型越狱攻击方法,通过将恶意提示嵌入题库、对话补全等场景的顺序提示链中,利用上下文操纵欺骗LLMs生成有害响应,仅需单次查询即在开源和闭源模型上显著提升了攻击成功率。
2025-05-28 cs.AI cs.CL cs.CR
A Sequential Supervised Machine Learning Approach for Cyber Attack Detection in a Smart Grid System
现代智能电网系统严重依赖信息和通信技术,这种依赖性使它们容易受到网络攻击。近年来,网络攻击的发生率有所增加,对电力系统造成了重大损害。为了实现可靠和稳定的运行,网络保护、控制和检测技术变得至关重要。高精度地自动检测网络攻击是一项挑战。为了解决这个问题,我们提出了一个两层的分层机器学习模型,其准确率为95.44%,以提高对网络攻击的检测。模型的第一层用于区分两种操作模式(正常状态或网络攻击)。第二层用于将状态分类为不同类型的网络攻击。分层方法为模型提供了一个机会,使其将训练集中在层的目标任务上,从而提高模型的准确性。为了验证该模型的有效性,我们将其性能与文献中提出的其他最近的网络攻击检测模型进行了比较。
2021-08-01 cs.CR cs.SY eess.SY
Adjacent Words, Divergent Intents: Jailbreaking Large Language Models via Task Concurrency
CISPA Helmholtz Center for Information Security(CISPA 亥姆霍兹信息安全中心)
本研究提出词级任务并发方法及迭代攻击框架JAIL-CON,通过将有害任务与良性任务并发组合,显著降低护栏过滤概率,实现对大型语言模型的高隐蔽性越狱。
2025-10-24 cs.CR
Reflections and Fragments: Securing LLMs Against Sequential Mosaic Attacks
University of Oxford(牛津大学);Institute for Decentralized AI (IDAI)(去中心化人工智能研究所);University of Washington(华盛顿大学);University College London(伦敦大学学院)
本研究针对多轮对话中的序列马赛克攻击,提出马赛克防御理论,证明固定窗口不足,设计守望者机制实现零失败防御并保持良性有用性,实验验证了角色特定LoRA训练的有效性。
2026-10-06 cs.AI cs.CR cs.LG
SoK: Rethinking Sensor Spoofing Attacks against Robotic Vehicles from a Systematic View
机器人车辆(RV)在过去几年中非常受欢迎。同时,他们也被证明是脆弱的传感器欺骗攻击。虽然大量的研究工作已经提出了各种各样的攻击,一些关键的问题仍然没有答案:这些现有的工作是否足够完整,以涵盖所有的传感器欺骗威胁?如果不是,有多少攻击没有被探索,实现它们有多难?本文通过对RV传感器欺骗攻击相关知识的全面梳理,回答了上述问题。我们的贡献是三方面的。(1)我们确定了七个常见的攻击路径在RV系统管道。从欺骗性质、欺骗操作、受害者特征和攻击目标等方面对现有欺骗攻击进行了分类和评估。基于这种系统化,我们确定了关于欺骗攻击设计的4个有趣的见解。(2)我们提出了一个新的动作流模型,系统地描述机器人功能的执行和未开发的传感器欺骗威胁。利用该模型,我们成功发现了103个欺骗攻击向量,其中26个已被之前的工作验证过,而77个攻击从未被考虑过。(3)我们设计了两种新的攻击方法来验证新发现的欺骗攻击向量的可行性。
2023-03-02 cs.CR
Making Secure Software Insecure without Changing Its Code: The Possibilities and Impacts of Attacks on the DevOps Pipeline
公司被误导认为他们通过使用DevSecOps系统解决了安全问题。本文旨在回答这样一个问题:DevOps管道是否会被滥用,将安全开发的应用程序转换为不安全的应用程序?为了回答这个问题,我们利用Kubernetes(K8s)设计了一个典型的DevOps管道作为案例研究环境,并分析了适用的威胁。然后,我们针对案例研究环境开发了四种攻击场景:恶意滥用用户在K8s集群内部署容器的权限,在持续集成、交付和部署系统(CI/CD)构建阶段滥用Jenkins实例修改文件,修改K8s DNS层以将内部IP暴露给外部流量,以及通过创建、读取、更新和删除(CRUD)权限到root权限。这些攻击积极地回答了研究问题:公司应该设计和使用安全的DevOps管道,而不是期望仅使用DevSecOps环境就足以交付安全的软件。
2022-01-30 cs.CR
D-Score: An Expert-Based Method for Assessing the Detectability of IoT-Related Cyber-Attacks
众所周知,物联网设备容易受到各种网络攻击,例如数据泄露和作为DDoS攻击一部分的洪水攻击。当使用网络流量分析来检测此类攻击时,事实证明,如果某些攻击场景涉及不同的物联网模型,则并不总是同样容易检测到。也就是说,当针对某些物联网模型时,可以相当准确地检测到给定的攻击,而当针对其他模型时,相同的攻击可能会导致太多的错误警报。在这项研究中,我们试图解释物联网攻击可检测性的这种可变性,并设计一种风险评估方法,能够解决一个关键问题:基于异常的网络入侵检测系统检测涉及特定物联网模型的给定网络攻击有多容易?在解决这个问题的过程中,我们(a)调查物联网网络流量的可预测性,(b)提出一种新的物联网攻击检测分类法,该分类法还包含流量可预测性方面,(c)提出一种基于专家的攻击可检测性估计方法,该方法使用该分类法来获得可检测性得分(称为“D分数”),以及(d)在将我们的方法与数据驱动的方法进行比较时,对我们的方法进行经验评估。
2023-03-02 cs.CR
Critical Path Prioritization Dashboard for Alert-driven Attack Graphs
本文为基于无监督序列机器学习生成攻击图的SAGE系统,提出一个支持查询与优先级排序的可视化分析仪表板,包含Graph Explorer、Timeline Viewer和Recommender Matrix三个组件,用户研究表明其能有效描绘攻击者策略与进展,但可用性仍需改进。
2023-10-19 cs.CR
Secured Encryption scheme based on the Ree groups
本文提出基于小Ree群的改进密码系统,通过使用整个群的对数签名增强抗顺序密钥恢复攻击,并证明安全构建需用3参数小Ree群。
2025-04-24 cs.CR
Attack via Overfitting: 10-shot Benign Fine-tuning to Jailbreak LLMs
Nanyang Technological University(南洋理工大学)
通过10个良性QA对微调实现LLM劫持,利用过拟合增强敏感性,提升攻击效果与隐蔽性。
2025-11-26 cs.CR
A Distributed Sequential Algorithm for Collaborative Intrusion Detection Networks
与基于主机的入侵检测系统(IDS)相比,协作入侵检测网络通常用于获得更好的检测精度和成本效率。通过合作,本地IDS可以检测到其他有经验的熟人可能知道的新攻击。本文提出了一种序贯假设检验方法,用于网络中各个入侵检测系统的反馈聚合。我们的模拟结果证实了我们的理论结果,并证明了性能的成本效率和准确性相比,其他探试法。分析结果的平均熟人咨询数的下限是必要的设计和配置的IDS在协作环境中。
2010-02-17 cs.CR cs.NI
Indiscriminate Data Poisoning Attacks on Neural Networks
University of Waterloo(滑铁卢大学)
本文将数据投毒攻击与序列Stackelberg博弈算法相联系,利用二阶信息优化和自动微分包,设计了能同时生成数万个投毒点的高效攻击方法,并实证验证了其对神经网络的有效性。
2024-02-15 cs.CR cs.LG
CARE: Ensemble Adversarial Robustness Evaluation Against Adaptive Attackers for Security Applications
针对网络安全中集成防御能否抵御自适应攻击缺乏综合评估平台的问题,本文提出通用CARE平台以系统评估集成对抗攻击与防御。
2024-01-20 cs.CR cs.LG
SOME/IP Intrusion Detection using Deep Learning-based Sequential Models in Automotive Ethernet Networks
LTCI Telecom Paris, IP Paris(巴黎电信学院LTCI(LTCI Telecom Paris, IP Paris))
入侵检测系统被广泛用于检测网络攻击,特别是对易受黑客攻击的协议,如SOME/IP。针对SOME/IP应用层协议,提出了一种基于深度学习的离线入侵检测时序模型。为了评估我们的入侵检测系统,我们生成了一个数据集,并标记了几个类代表现实的入侵,和一个正常的类-一个显着的贡献,由于没有这样的公开可用的数据集。此外,我们还提出了一个递归神经网络(RNN),作为基于深度学习的序列模型的一个实例,我们将其应用于我们生成的数据集。数值结果表明,RNN在预测车内入侵方面表现出色,F1得分和AUC值大于0.8,具体取决于每种入侵类型。
2021-10-10 cs.CR cs.LG
SeqAR: Jailbreak LLMs with Sequential Auto-Generated Characters
Shanghai University of Finance and Economics(上海财经大学);Southern University of Science and Technology(南方科技大学);Ant Group(蚂蚁集团);The Chinese University of Hong Kong(香港中文大学)
本文提出 SeqAR 框架,通过在冷启动场景下使用开源 LLMs 自动生成并优化序列越狱角色,在单次查询中绕过目标模型安全防护,对 GPT-3.5-1106 和 GPT-4 分别实现 88% 和 60% 攻击成功率,并评估了模板可迁移性与防御策略。
2025-03-02 cs.AI cs.CL cs.CR
The Performance of Sequential Deep Learning Models in Detecting Phishing Websites Using Contextual Features of URLs
Texas Tech University(德克萨斯理工大学);San Jose State University(圣何塞州立大学)
针对钓鱼攻击日益增多的问题,本研究将URL视为序列,对比多头注意力、TCN、BI-LSTM、LSTM等深度学习模型的钓鱼网站检测性能,发现多头注意力与BI-LSTM在精确率、召回率、F1分数上表现更优。
2024-04-15 cs.CR cs.LG
Randomization matters. How to defend against strong adversarial attacks
Université Paris-Dauphine, PSL Research University(巴黎多芬大学,PSL研究大学);CNRS(法国国家科学研究中心);Institut LIST, CEA(法国原子能与替代能源委员会列表研究所);Université Paris-Saclay(巴黎萨克雷大学)
有没有一个分类器可以确保对所有对抗攻击的最佳鲁棒性?本文从博弈论的角度回答了这一问题。我们发现,对抗攻击和防御形成一个无限的零和游戏,经典的结果(如Sion定理)不适用。我们证明了当分类器和Advertisement都是确定性的时候,我们的博弈中不存在纳什均衡,因此在确定性的情况下对上述问题给出了否定的答案。尽管如此,在随机化方案中,这个问题仍然是开放的。我们解决这个问题,表明,在温和的条件下的数据集分布,任何确定性分类器可以优于随机的。这为使用随机化提供了论据,并引导我们构建一种新的算法,用于构建对强对抗攻击具有鲁棒性的随机分类器。实验结果验证了我们的理论分析,并表明我们的防御方法大大优于对抗性训练对最先进的攻击。
2021-01-06 cs.CR cs.LG stat.ML
A Wearables-Driven Attack on Examination Proctoring
多项选择题是世界各地学术机构许多标准化考试和考试的核心。在本文中,我们认为,最近的进步,在传感和人机交互暴露这些类型的问题,以高度有效的攻击,今天的学监的根本没有配备检测。我们设计了一个这样的攻击的基础上精心策划的手腕运动的协议结合触觉和视觉反馈机制设计的隐形。攻击是通过一个知识渊博的学生(即,雇佣兵)和弱学生(即,受益人),他们依靠雇佣军寻求解决办法。通过实验和理论建模相结合,我们证明了攻击是非常有效的。这篇论文提出了一个彻底禁止所有高科技设备进入考场的理由,不管它们的使用在普通人看来是否是良性的。
2022-03-15 cs.CR cs.HC
ML Attack Models: Adversarial Attacks and Data Poisoning Attacks
University of South Florida(南佛罗里达大学);Fordham University(福特汉姆大学)
许多最先进的ML模型在各种任务中表现优于人类,例如图像分类。凭借如此出色的性能,ML模型今天被广泛使用。然而,对抗攻击和数据投毒攻击的存在确实质疑了ML模型的鲁棒性。例如,Engstrom等人证明了最先进的图像分类器可以很容易地被任意图像上的小旋转所欺骗。随着机器学习系统越来越多地集成到安全和安全敏感的应用程序中,对抗攻击和数据投毒攻击构成了相当大的威胁。本章重点介绍ML安全的两个广泛而重要的领域:对抗攻击和数据投毒攻击。
2021-12-06 cs.CR cs.LG
Imposter.AI: Adversarial Attacks with Hidden Intentions towards Aligned Large Language Models
Meetyou AI Lab(Meetyou AI实验室);Osaka University(大阪大学);East China Normal University(华东师范大学)
本研究提出一种利用人类对话策略的新型对抗性攻击方法,通过分解、改写和增强示例三个策略从对齐大型语言模型中提取有害信息,实验证明其优于传统方法,并引发对对话最终意图识别的思考。
2024-07-22 cs.AI cs.CL cs.CR
Sequential Binary Classification for Intrusion Detection
Ericsson(爱立信)
针对IDS数据集类别不平衡影响ML模型性能的问题,提出序列二进制分类(SBC)分层级联结构方法,实验证明该结构方法在基准IDS数据集上是处理多分类类别不平衡的可行方案。
2025-02-13 cs.CR cs.LG cs.NI
HauntAttack: When Attack Follows Reasoning as a Shadow
State Key Laboratory for Multimedia Information Processing, School of Computer Science, Peking University(北京大学计算机学院多媒体信息处理国家重点实验室);StepFun;Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算机系);Institute of Artificial Intelligence, Beihang University(北航人工智能研究院)
提出HauntAttack黑盒对抗攻击框架,通过将有害指令嵌入推理问题,引导大型推理模型逐步产生不安全输出,在11个模型上平均攻击成功率超70%。
2026-06-26 cs.AI cs.CL cs.CR
Efficient Attack Graph Analysis through Approximate Inference
Imperial College London(帝国理工学院)
攻击图提供了攻击路径的紧凑表示,攻击者可以通过分析网络漏洞和拓扑来破坏网络资源。这些表示是安全风险评估的有力工具。攻击图上的贝叶斯推理能够估计系统组件在给定其漏洞和互连的情况下受到危害的风险,并解释通过系统传播的多步攻击。静态分析考虑静止状态下的风险状态,而动态分析也考虑了危害的证据,例如来自SIEM软件或法医调查的证据。然而,在这种情况下,精确的贝叶斯推理技术不能很好地扩展。在本文中,我们将展示如何循环的信念传播-一种近似推理技术-可以应用到攻击图,它的静态和动态分析的节点数线性缩放,使这种分析适用于更大的网络。我们在具有数千个节点的合成贝叶斯攻击图上进行了不同拓扑结构和网络聚类的实验,结果表明该算法的准确性是可以接受的,并且收敛到稳定的解决方案。我们比较了顺序和并行版本的循环信念传播与精确推理技术的静态和动态分析,近似推理技术的优势,规模更大的攻击图。
2016-06-22 cs.AI cs.CR stat.ML