Encrypt Flip-Flop: A Novel Logic Encryption Technique For Sequential Circuits
逻辑加密是一种最流行的硬件安全技术,它可以防止IP盗版和非法IC生产过剩。它通过在设计中插入一些额外的硬件来隐藏其功能以防止未经授权的用户。加密设计的正确功能取决于正确密钥的应用,仅与授权用户共享。近年来,在提取加密设计的秘密密钥方面投入了大量的努力。与此同时,研究界也提出了一些对策,以挫败对逻辑加密的各种最新攻击。然而,大多数提出的对策未能防止强大的SAT攻击。虽然一些研究人员已经提出了不同的解决方案来抵御SAT攻击,这些解决方案遭受的几个缺点,如高的设计开销,低输出损坏,并对删除攻击的脆弱性。几乎所有已知的逻辑加密策略都容易受到基于扫描的攻击。在本文中,我们提出了一种新的加密技术,称为加密触发器,加密的输出选择触发器插入多路复用器(MUX)。提出的策略可以阻止所有已知的攻击,包括SAT和扫描为基础的攻击。该方案具有较低的设计开销和实现复杂度。在ISCAS '89和ITC' 99基准测试上的实验结果表明,该方法可以对错误的密钥产生合理的输出损坏。
2018-01-15 cs.CR
ChainWatch: A Kill Chain-Aligned Sequential Detection Framework for Multi-Step Attacks in MCP-Based AI Agent Systems
Computer Science New York University New York, USA(计算机科学 新 York 大学 新 York 美国);Cybersecurity University of Maryland, College Park MD, USA(网络安全 美国马里兰大学College Park分校 MD 美国);Carnegie Mellon University Pittsburgh, USA(卡内基梅隆大学 彭博 美国)
针对基于MCP的人工智能代理系统中现有防御无法可靠检测多步攻击的问题,提出ChainWatch框架,用六阶段杀伤链建模攻击进展,结合隐马尔可夫模型分类工具调用序列,能检测逃避传统机制的攻击链。
2026-07-23 cs.AI cs.CR
Query-Efficient and Scalable Black-Box Adversarial Attacks on Discrete Sequential Data via Bayesian Optimization
Seoul National University(首尔国立大学)
我们专注于对离散序列数据模型进行对抗攻击的问题,在黑盒设置中,攻击者的目标是制作对抗示例,对受害者模型进行有限的查询访问。现有的黑盒攻击,主要是基于贪心算法,发现敌对的例子使用预先计算的关键位置扰动,这严重限制了搜索空间,并可能导致次优的解决方案。为此,我们提出了一个查询高效的黑盒攻击,使用贝叶斯优化,动态计算重要的位置,使用自动相关性确定(ARD)分类内核。当输入序列变长时,我们引入块分解和历史子采样技术来提高贝叶斯优化的可扩展性。此外,我们开发了一个后优化算法,发现具有较小扰动大小的对抗性示例。在自然语言和蛋白质分类任务上的实验表明,与现有的方法相比,该方法具有更高的攻击成功率,查询次数和修改率显著降低.
2022-06-17 cs.CR cs.LG
Learning to Attack: Uncovering Privacy Risks in Sequential Data Releases
Department of Computer Science Duke University(计算机科学系 虔布大学)
该研究针对序列数据发布的隐私漏洞,提出结合隐马尔可夫模型与强化学习双向推理的攻击模型,在多类轨迹数据集上验证了单次受保护发布的集合泄露风险,为新型时间感知隐私保护框架的研发提供依据。
2025-10-28 cs.CR cs.LG
Black-Box Attacks against RNN based Malware Detection Algorithms
Peking University(北京大学)
最近的研究表明,基于机器学习的恶意软件检测算法在对抗性样本的攻击下非常脆弱。这些工作主要集中在使用具有固定维度的特征的检测算法,而一些研究人员已经开始使用递归神经网络(RNN)来检测基于序列API特征的恶意软件。本文提出了一种新的算法来生成序列对抗性的例子,这是用来攻击基于RNN的恶意软件检测系统。恶意攻击者通常很难知道受害RNN的确切结构和权重。替代RNN被训练成近似受害者RNN。然后,我们提出了一个生成RNN,从原始的序列恶意软件输入中输出序列对抗性示例。实验结果表明,基于RNN的恶意软件检测算法无法检测到大多数恶意对抗样本,这意味着该模型能够有效地绕过检测算法。
2017-05-23 cs.CR cs.LG
Backdoor Attack against One-Class Sequential Anomaly Detection Models
Utah State University(犹他州立大学)
本文提出一种针对深度序列异常检测模型的后门攻击策略,通过触发器生成和后门注入两步骤,在保持样本正常性的同时植入后门,并在两个单类异常检测模型上验证了攻击有效性。
2024-02-15 cs.AI cs.CR cs.IT
Adaptive Adversarial Attack on Scene Text Recognition
University of Florida(佛罗里达大学);Tongdun Technology(同盾科技)
最近的研究表明,最先进的深度学习模型容易受到小扰动输入的影响(对抗性示例)。我们在对抗性示例中观察到两个关键障碍:(i)强对抗攻击(例如,C&W攻击)需要手动调整超参数,并需要很长的时间来构建一个对抗的例子,使其不切实际的攻击实时系统;(ii)大多数的研究集中在非顺序的任务,如图像分类,但只有少数考虑顺序的任务。在这项工作中,我们加快了对抗攻击,特别是在顺序学习任务中。通过利用每个任务的不确定性,我们直接学习自适应多任务权重,而无需手动搜索超参数。一个统一的架构开发和评估非顺序任务和顺序的。为了验证该方法的有效性,我们以场景文本识别任务为例进行了研究。据我们所知,我们提出的方法是第一次尝试对抗攻击的场景文本识别。与最先进的对抗攻击相比,自适应攻击的成功率超过99.9\%,加速比为3- 6倍。
2020-04-01 cs.CR cs.CV cs.LG
Practicable Black-box Evasion Attacks on Link Prediction in Dynamic Graphs -- A Graph Sequential Embedding Method
Nanchang University(南昌大学);Illinois Institute of Technology(伊利诺伊理工学院)
本文提出首个可实践的黑盒逃避攻击方法,利用图序列嵌入和深度强化学习,在有限交互与扰动下有效攻击动态图链路预测模型,并经实验验证其有效性与实用性。
2024-12-17 cs.CR cs.LG
Design of intentional backdoors in sequential models
GE Research(通用电气研究院)
最近的工作已经证明了可以在机器学习模型上编排攻击的强大机制。与对抗性示例相反,后门或木马攻击在模型训练过程中嵌入具有目标标签的手术修改样本,以使目标模型在存在特定触发器的情况下学习对所选样本进行错误分类,同时在其他标称样本中保持模型性能稳定。然而,目前已发表的研究木马攻击主要集中在分类问题,忽略了输入之间的顺序依赖。在本文中,我们提出了在顺序决策代理(如强化学习代理)中谨慎引入和利用新型后门攻击的方法,通过在单个长短期记忆(LSTM)网络中训练多个良性和恶意策略。我们证明了这种攻击的有效性以及破坏性的影响,通过我们的方法,网格世界环境中使用的初始结果。我们还提供了证据,以及如何特洛伊木马触发器和恶意策略被激活的直觉。网络的大小和无意的触发器的挑战进行了识别和类比与对抗性的例子也进行了讨论。最后,我们提出了潜在的方法来抵御或作为早期检测此类攻击。我们的工作结果也可以扩展到LSTM和递归网络的许多应用中。
2019-02-26 cs.CR cs.LG
Monitoring Decomposition Attacks in LLMs with Lightweight Sequential Monitors
New York University(纽约大学);École Polytechnique Fédérale de Lausanne(瑞士联邦理工学院)
针对大语言模型现有安全防御无法应对分解攻击的问题,构建了多场景分解攻击数据集验证攻击有效性,提出轻量级序列监控框架,实现高防御成功率且成本、延迟大幅降低,具备部署可行性。
2025-06-14 cs.AI cs.CR
Defending Substitution-Based Profile Pollution Attacks on Sequential Recommenders
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
虽然顺序推荐系统在捕获用户动态方面取得了显着的改进,但我们认为顺序推荐系统容易受到基于替换的配置文件污染攻击。为了证明我们的假设,我们提出了一个基于替换的对抗攻击算法,该算法通过选择某些易受攻击的元素并将其替换为对抗项来修改输入序列。在无目标和有针对性的攻击情况下,我们观察到显着的性能恶化,使用建议的配置文件污染算法。受这些观察的启发,我们设计了一种有效的对抗性防御方法,称为Dirichlet邻域采样。具体来说,我们从多跳邻居构造的凸包中抽取项目嵌入,以替换输入序列中的原始项目。在采样过程中,使用狄利克雷分布来近似邻域中的概率分布,使得推荐器学习对抗局部扰动。此外,我们还设计了一种针对顺序推荐系统的对抗性训练方法。特别是,我们用独热编码表示选定的项,并对编码执行梯度上升,以搜索训练中项嵌入的最坏情况线性组合。因此,嵌入函数学习鲁棒的项目表示,并且训练的推荐器能够抵抗测试时的对抗性示例。大量的实验表明了我们的攻击和防御方法的有效性,这些方法在模型架构和数据集上的表现始终优于基线。
2022-07-19 cs.AI cs.CR cs.IR
TriLock: IC Protection with Tunable Corruptibility and Resilience to SAT and Removal Attacks
在过去的十年中,时序逻辑锁定作为一种保护时序电路免受逆向工程影响的方法而被研究。然而,大多数现有的顺序逻辑锁定技术受到越来越复杂的基于SAT的攻击的威胁,有效地使用输入查询到SAT求解器来排除不正确的键,以及基于结构分析的删除攻击。在本文中,我们提出了TriLock,一个顺序逻辑锁定方法,同时解决这些漏洞。TriLock可以实现高的,可调的功能损坏,同时仍然保证指数查询SAT求解器在基于SAT的攻击。此外,它采用了一种状态重新编码的方法来模糊原始状态寄存器和锁定方法插入的状态寄存器之间的边界,从而使得更难以检测和移除锁定相关组件。
2022-01-16 cs.CR cs.SY eess.SY
Few-shot Model Extraction Attacks against Sequential Recommender Systems
本文提出了一种针对顺序推荐系统的少样本模型提取框架,通过自回归增强生成策略和双向修复损失促进模型蒸馏,有效构建高功能相似性的代理模型。
2026-03-03 cs.CR cs.IR cs.LG
SeqMIA: Sequential-Metric Based Membership Inference Attack
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Zhongguancun Laboratory(中关村实验室)
针对现有成员推理攻击忽略训练过程中度量序列时间模式的问题,提出基于序列度量的SeqMIA方法,利用知识蒸馏和注意力RNN提升攻击性能,在低假阳性率下实现数量级改进。
2024-07-21 cs.CR cs.LG
Sequential Comics for Jailbreaking Multimodal Large Language Models via Structured Visual Storytelling
AI Security Lab(360人工智能安全实验室);Politecnico di Milano(米兰理工大学);Beihang University(北京航空航天大学)
本文提出利用连环漫画式视觉叙事分解恶意查询,通过扩散模型生成图像序列,以83.5%的攻击成功率越狱多模态大语言模型,并揭示安全机制漏洞。
2025-10-16 cs.AI cs.CR
Sequential Membership Inference Attacks
Univ. Lille(里尔大学);Inria(法国国家科学研究中心);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工大学);UMR 9189-CRIStAL(9189号研究单位-CRIStAL)
本文提出顺序成员推断攻击,通过利用模型序列和可控插入时间注入目标信标,提升隐私审计效果。SeMI*攻击在特定插入步骤识别目标存在,实验显示其比传统方法更有效。
2026-11-13 cs.CR cs.LG math.ST
Sequential Attacks on Agents for Long-Term Adversarial Goals
Max-Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland University(萨尔兰大学)
强化学习(RL)在过去几年中随着在策略网络上使用有效的深度神经网络(DNN)而取得了很大的进步。随着DNN的巨大有效性出现了严重的脆弱性问题,即输入上的小对抗性扰动可能会改变网络的输出。一些研究已经指出,具有DNN策略网络的学习代理可以通过对输入状态的一系列小扰动来操纵,以实现原始任务。在本文中,我们进一步证明了通过一系列攻击对受害者策略网络施加任意对抗性奖励也是可能的。我们的方法涉及最新的对抗攻击技术,对抗性Transformer网络(ATN),它学习生成攻击,并且很容易集成到策略网络中。由于我们的攻击,受害者代理被误导,随着时间的推移优化对抗性奖励。我们的结果暴露了无人机、医学分析和自动驾驶汽车等安全关键系统中RL应用的严重安全威胁。
2018-07-05 cs.AI cs.CR cs.CV
Consistent and Compatible Modelling of Cyber Intrusions and Incident Response Demonstrated in the Context of Malware Attacks on Critical Infrastructure
本文提出将关键基础设施的入侵模型与应急响应剧本统一建模,通过安全建模框架实现攻击树到剧本格式的转换,增强风险评估与响应的集成,并提供了九个示例模型。
2025-05-22 cs.CR
SequentialBreak: Large Language Models Can be Fooled by Embedding Jailbreak Prompts into Sequential Prompt Chains
Bangladesh University of Engineering and Technology(孟加拉工程科技大学);Pennsylvania State University(宾夕法尼亚州立大学)
本文提出了一种名为SequentialBreak的新型越狱攻击方法,通过将恶意提示嵌入题库、对话补全等场景的顺序提示链中,利用上下文操纵欺骗LLMs生成有害响应,仅需单次查询即在开源和闭源模型上显著提升了攻击成功率。
2025-05-28 cs.AI cs.CL cs.CR
A Sequential Supervised Machine Learning Approach for Cyber Attack Detection in a Smart Grid System
现代智能电网系统严重依赖信息和通信技术,这种依赖性使它们容易受到网络攻击。近年来,网络攻击的发生率有所增加,对电力系统造成了重大损害。为了实现可靠和稳定的运行,网络保护、控制和检测技术变得至关重要。高精度地自动检测网络攻击是一项挑战。为了解决这个问题,我们提出了一个两层的分层机器学习模型,其准确率为95.44%,以提高对网络攻击的检测。模型的第一层用于区分两种操作模式(正常状态或网络攻击)。第二层用于将状态分类为不同类型的网络攻击。分层方法为模型提供了一个机会,使其将训练集中在层的目标任务上,从而提高模型的准确性。为了验证该模型的有效性,我们将其性能与文献中提出的其他最近的网络攻击检测模型进行了比较。
2021-08-01 cs.CR cs.SY eess.SY
Adjacent Words, Divergent Intents: Jailbreaking Large Language Models via Task Concurrency
CISPA Helmholtz Center for Information Security(CISPA 亥姆霍兹信息安全中心)
本研究提出词级任务并发方法及迭代攻击框架JAIL-CON,通过将有害任务与良性任务并发组合,显著降低护栏过滤概率,实现对大型语言模型的高隐蔽性越狱。
2025-10-24 cs.CR
Reflections and Fragments: Securing LLMs Against Sequential Mosaic Attacks
University of Oxford(牛津大学);Institute for Decentralized AI (IDAI)(去中心化人工智能研究所);University of Washington(华盛顿大学);University College London(伦敦大学学院)
本研究针对多轮对话中的序列马赛克攻击,提出马赛克防御理论,证明固定窗口不足,设计守望者机制实现零失败防御并保持良性有用性,实验验证了角色特定LoRA训练的有效性。
2026-10-06 cs.AI cs.CR cs.LG
SeqAR: Jailbreak LLMs with Sequential Auto-Generated Characters
Shanghai University of Finance and Economics(上海财经大学);Southern University of Science and Technology(南方科技大学);Ant Group(蚂蚁集团);The Chinese University of Hong Kong(香港中文大学)
本文提出 SeqAR 框架,通过在冷启动场景下使用开源 LLMs 自动生成并优化序列越狱角色,在单次查询中绕过目标模型安全防护,对 GPT-3.5-1106 和 GPT-4 分别实现 88% 和 60% 攻击成功率,并评估了模板可迁移性与防御策略。
2025-03-02 cs.AI cs.CL cs.CR
New Sequential Methods for Detecting Portscanners
在本文中,我们提出了新的顺序方法检测端口扫描攻击者定期执行随机的“端口扫描”的IP地址,以找到易受攻击的服务器妥协。除了严格控制错误地暗示为恶意的良性远程主机的概率,我们的方法执行速度明显快于其他当前的解决方案。此外,我们的方法保证了最大量的观测时间是有界的。与以往最有效的方法,阈值随机游动算法,这是明确的和分析的性质,我们提出的算法涉及参数确定的数值方法。我们已经开发了计算技术,如迭代极小极大优化的新的检测算法的参数的快速确定。还提出了一个用于测试端口扫描器的多值决策框架。
2012-04-09 cs.CR stat.AP
The Performance of Sequential Deep Learning Models in Detecting Phishing Websites Using Contextual Features of URLs
Texas Tech University(德克萨斯理工大学);San Jose State University(圣何塞州立大学)
针对钓鱼攻击日益增多的问题,本研究将URL视为序列,对比多头注意力、TCN、BI-LSTM、LSTM等深度学习模型的钓鱼网站检测性能,发现多头注意力与BI-LSTM在精确率、召回率、F1分数上表现更优。
2024-04-15 cs.CR cs.LG
Improved Adversarial Robustness via Logit Regularization Methods
University of Auckland(奥克兰大学)
虽然在使神经网络有效地处理各种视觉任务方面取得了很大进展,但大多数模型都非常脆弱。这种脆弱性表现为对输入的小的、精心选择的扰动,称为对抗性示例,这代表了野外学习视觉模型的安全威胁--在计算机视觉的安全关键型应用中,应该负责任地防御这种威胁。在本文中,我们倡导并实验性地研究了使用一系列logit正则化技术作为对抗性防御,该技术可以与其他方法结合使用,以很少或没有边际成本的方式创建对抗性鲁棒性。我们还证明了最近的一种对抗性防御机制的有效性实际上可以归因于logit正则化,并展示了如何提高其对白盒和黑盒攻击的防御能力,在此过程中创建更强大的黑盒攻击。我们在三个数据集上验证了我们的方法,包括无梯度攻击和基于梯度的迭代攻击的结果,这些攻击多达1,000步。
2019-06-10 cs.CR cs.LG stat.ML
Defending Medical Image Diagnostics against Privacy Attacks using Generative Methods
Johns Hopkins University(约翰霍普金斯大学);Applied Physics Laboratory(应用物理实验室);University of Virginia(弗吉尼亚大学)
医学成像诊断中使用的机器学习(ML)模型可能容易受到各种隐私攻击,包括成员推断攻击,这会导致违反医疗数据使用法规,并威胁到其在临床中的有效部署。与最近在隐私感知ML方面的工作主要集中在模型更改和后处理步骤相比,我们在这里提出了一种新颖的补充方案,通过控制数据共享过程来增强医疗数据的安全性。我们开发和评估的隐私防御协议的基础上使用生成对抗网络(GAN),允许医疗数据源(如医院)提供一个外部代理(建模)的代理数据集合成的原始图像,使所得的诊断系统提供给模型消费者呈现弹性隐私攻击者。我们验证了所提出的用于糖尿病视网膜病变的视网膜诊断AI方法,该方法具有可能泄露私人信息的风险。为了将隐私倡导者和建模者的关注,我们引入了一个指标来评估隐私和实用性能相结合,并证明,使用这些新颖的和经典的指标,我们的方法,本身或与其他防御,提供最先进的(SOTA)性能防御隐私攻击。
2021-08-20 cs.CR cs.CV cs.CY
Node Injection Attacks on Graphs via Reinforcement Learning
Pennsylvania State University(宾夕法尼亚州立大学)
真实世界的图应用,如广告和产品推荐,都是基于对节点标签的准确分类来获利的。然而,在这种情况下,有很高的激励对手攻击这样的图,以降低节点分类性能。以前的图对抗攻击的工作集中在修改现有的图结构,这是不可行的,在大多数现实世界的应用。相比之下,将对抗节点注入现有图中更实用,这也可能降低分类器的性能。在本文中,我们研究了新的节点注入中毒攻击问题,旨在中毒的图。我们描述了一种基于强化学习的方法,即NIPA,顺序修改注入节点的对抗信息。我们报告的实验结果,使用几个基准数据集,表现出优越的性能所提出的方法NIPA,相对于现有的国家的最先进的方法。
2019-09-14 cs.CR cs.LG cs.SI