首页/论文/2407.04551

arXiv 2407.045512024-07-05cs.CRcs.AIcs.LG

一种具备硬件木马分类与解释能力的AI架构

An AI Architecture with the Capability to Classify and Explain Hardware Trojans

Case Western Reserve University（凯斯西储大学）

Paul Whitten, Francis Wolff, Chris Papachristou

DOI：: 10.1109/NAECON61878.2024.10670684

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

AI总结：

本文提出一种可解释的AI架构，在现有ML硬件木马检测特征基础上，利用trust-hub基准实现对网表中数字硬件木马的分类与决策解释。

摘要：

基于机器学习（ML）技术的硬件木马检测方法主要识别可疑电路，但缺乏解释决策如何得出的能力。本文基于现有的硬件木马检测特征，引入了一种可解释的方法论和架构。文中给出了利用trust-hub木马基准对网表中的数字硬件木马进行解释的结果。

英文摘要：

Hardware trojan detection methods, based on machine learning (ML) techniques, mainly identify suspected circuits but lack the ability to explain how the decision was arrived at. An explainable methodology and architecture is introduced based on the existing hardware trojan detection features. Results are provided for explaining digital hardware trojans within a netlist using trust-hub trojan benchmarks.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

基于对抗性机器学习的无线信号分类木马攻击

Trojan Attacks on Wireless Signal Classification with Adversarial Machine Learning

Intelligent Automation, Inc.（智能自动化公司）

我们提出了一种特洛伊木马（后门或陷阱）攻击，目标是无线通信中的深度学习应用程序。深度学习分类器被认为使用原始（I/Q）样本作为特征并且使用调制类型作为标签来对无线信号进行分类。对手通过插入木马（即，触发器）通过修改它们的相位并将这些样本的标签改变为目标标签而仅对少数训练数据样本进行控制。该中毒的训练数据用于训练深度学习分类器。在测试（推断）时间，对手发送具有相同相移的信号，该相移在训练期间作为触发器添加。虽然接收器可以在没有触发器的情况下准确地对干净（未中毒）信号进行分类，但它不能可靠地对有触发器的中毒信号进行分类。这种隐形攻击保持隐藏，直到被有毒输入（特洛伊木马）激活以绕过信号分类器（例如，用于认证）。我们证明了这种攻击在不同的信道条件下是成功的，并且不能通过简单地用随机相位变化对训练数据和测试数据进行预处理来减轻。为了检测这种攻击，基于激活的离群值检测被认为是统计和聚类技术。我们发现，后者可以检测木马攻击，即使很少的样本中毒。

2019-10-23cs.CRcs.LGcs.NI

木马游戏：次模块拜占庭方法

Game of Trojans: A Submodular Byzantine Approach

University of Washington（华盛顿大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Western Washington University（西华盛顿大学）

野生环境中的机器学习模型在训练过程中容易受到特洛伊木马攻击。虽然已经提出了许多检测机制，强适应性攻击者已被证明是有效的。在本文中，我们的目标是回答的问题，考虑一个智能和自适应的对手：（一）什么是最小数量的实例需要木马的强大的攻击者？以及（ii）这样的攻击者是否有可能绕过强检测机制？我们提供了一个分析表征的对抗能力和战略之间的相互作用的对手和检测机制，发生在这样的模型。我们的特点是对手的能力，可以嵌入一个木马触发器的输入数据集的分数。我们发现，损失函数有一个子模块化的结构，这导致设计的计算效率高的算法，以确定这个分数与可证明的最优性的界限。我们提出了一个子模块木马算法来确定注入木马触发器的样本的最小比例。为了逃避检测的木马模型，我们模型的战略之间的相互作用的对手和木马检测机制作为一个两个玩家的游戏。我们表明，对手赢得比赛的概率为1，从而绕过检测。我们通过证明木马模型和干净模型的输出概率分布在遵循Min-Max（MM）木马算法时是相同的来建立这一点。我们在MNIST，CIFAR-10和EuroSAT数据集上对我们的算法进行了广泛的评估。结果表明：（i）使用子模块化木马算法，对手需要将木马触发器嵌入到非常小的样本中，以实现对木马和干净样本的高准确性，以及（ii）MM木马算法产生经过训练的木马模型，该模型以概率1逃避检测。

2022-07-13cs.CRcs.GTcs.LG

TrojanNet：使用机器学习检测量子电路中的木马

TrojanNet: Detecting Trojans in Quantum Circuits using Machine Learning

针对不可信量子编译器插入木马的安全风险，提出基于CNN的TrojanNet模型，通过检测和分类QAOA电路中的木马实现98.80%准确率，显著提升量子电路安全性。

2023-06-29cs.CRquant-ph

基于基线剪枝的神经网络木马检测方法

Baseline Pruning-Based Approach to Trojan Detection in Neural Networks

Information Technology Laboratory（信息技术实验室）；National Institute of Standards and Technology（美国国家标准与技术研究院）

通过系统地分析剪枝后的神经网络模型，研究了神经网络中木马的检测问题。我们基于修剪的方法包括三个主要步骤。首先，检测与模型文件大小和模型图的参考查找表的任何偏差。接下来，测量一组遵循多个修剪模式的系统修剪NN模型的准确性。最后，通过应用准确度测量和NN模型标签之间的映射，将NN模型分类为干净或中毒。这项工作概述了一个理论和实验框架，找到最佳的映射在一个大的搜索空间的修剪参数。基于我们使用Round 1和Round 2 TrojAI Challenge数据集的实验，该方法分别实现了69.73%和82.41%的平均分类准确率，每个模型的平均处理时间小于60 s。对于这两个数据集，随机猜测将产生50%的分类准确率。参考模型图和源代码可从GitHub获得。

2021-02-09cs.AIcs.CRcs.LG

通过监督学习和后处理的第三方硬件IP保证防止木马

Third-Party Hardware IP Assurance against Trojans through Supervised Learning and Post-processing

University of Kansas（堪萨斯大学）；University of Florida（佛罗里达大学）

片上系统（SoC）开发人员越来越依赖于从不受信任的第三方供应商处获得的预先验证的硬件知识产权（IP）块。这些IP可能包含隐藏的恶意功能或硬件木马，以危及制造的SoC的安全性。最近，监督机器学习（ML）技术在识别第三方IP（3 PIP）中的潜在木马网络方面显示出了很好的能力。然而，它们带来了几个重大挑战。首先，它们没有指导我们选择可靠地覆盖各种特洛伊木马的最佳功能。其次，它们需要多个无木马/受信任的设计来插入已知的木马并生成训练模型。即使有一组可信设计可用于训练，可疑IP也可能本质上与这组可信设计非常不同，这可能会对验证结果产生负面影响。第三，这些技术只能识别一组需要手动干预才能了解潜在威胁的可疑特洛伊木马网络。在本文中，我们提出了VIPR，一个系统的机器学习（ML）为3 PIP的信任验证解决方案，消除了需要可信的设计训练。我们提出了一个全面的框架，相关的算法和工具流，用于获得最佳的功能集，训练有针对性的机器学习模型，检测可疑网络，并从可疑网络中识别木马电路。我们在几个Trust-Hub特洛伊木马基准测试中评估了该框架，并对不同训练模型、特征选择和后处理技术的检测性能进行了比较分析。所提出的后处理算法减少了高达92.85%的误报。

2021-11-29cs.CRcs.LG

神经网络的硬件木马攻击

Hardware Trojan Attacks on Neural Networks

Clemson University（克莱姆森大学）

随着机器学习的日益普及和对计算能力的不断增长的需求，对神经网络和其他机器学习模型的硬件优化实现的需求不断增长。随着技术的发展，机器学习或人工智能将很快以训练有素的模型的形式成为消费电子产品和军事装备。不幸的是，制造硬件的现代无晶圆厂商业模式虽然经济，但却导致供应链的安全性不足。在本文中，我们阐明了这些安全问题，通过引入硬件木马攻击神经网络，扩大目前的分类神经网络安全，将这种性质的攻击。为了帮助这一点，我们开发了一个新的框架，用于插入恶意硬件木马的实施神经网络分类器。我们通过在卷积神经网络上实现攻击算法，同时控制对手可用的各种参数，来评估对手在这种情况下的能力。实验结果表明，该算法通过在任意7层卷积神经网络的第5隐层的$0.03\%$中注入硬件木马，可以有效地将输入触发器分类为MNIST数据集上的指定类，而在测试数据下无法检测到。最后，我们讨论了潜在的防御，以保护神经网络免受硬件木马攻击。

2018-06-14cs.CRcs.LGstat.ML

更多相关论文收起更多论文

一种利用深度学习架构漏洞的隐形硬件木马：输入拦截攻击（IIA）

A Stealthy Hardware Trojan Exploiting the Architectural Vulnerability of Deep Learning Architectures: Input Interception Attack (IIA)

Tennessee Technological University（田纳西理工大学）

深度学习架构（DLA）在计算机视觉、自然语言处理等领域表现出了令人瞩目的性能，由于计算量和内存要求较高，很多DLA都利用云计算来实现分类。由云计算引起的隐私和延迟问题激发了在嵌入式硬件加速器上部署DLA。为了缩短上市时间并获得全球专家的支持，硬件加速器上最先进的DLA部署技术被外包给不受信任的第三方。这种外包引起了安全问题，因为硬件特洛伊木马可以被插入到硬件加速器的映射DLA的硬件设计中。我们认为，现有的硬件木马攻击突出的文献中没有定性的手段如何确定他们是触发的木马。此外，大多数插入的特洛伊木马在触发特洛伊木马或有效负载处于活动状态时，加速器上使用的硬件资源数量会出现明显的峰值。在本文中，我们介绍了一种硬件木马攻击称为输入拦截攻击（IIA）。在这种攻击中，我们利用逐层输出的统计特性来确保不被窃取。我们的国际投资协定能够在一定程度上明确地触发。此外，该IIA攻击在用于分类MNIST和Cifar-10数据集的DLA上进行了测试。受攻击的设计使用大约高达2%以上的LUT分别相比，未妥协的设计。最后，本文讨论了潜在的防御机制，可用于打击这种硬件木马为DLA的硬件加速器为基础的攻击。

2021-01-27cs.CRcs.LGstat.ML

验证声明-击败HaTCh：构建恶意IP内核

Validating the Claim - Defeating HaTCh : Building Malicious IP cores

本文通过定义将其归类为确定性硬件木马所需满足的四个关键属性，为“Defeating HaTCh：Building Malicious IP Cores”一文中提出的硬件木马设计进行了辩护。这是为了反驳HaTCh的作者在他们的论文“关于击败HaTCh的评论”中的说法。

2018-09-18cs.CR

数字化制造软硬件木马调查

A survey of Digital Manufacturing Hardware and Software Trojans

数字化制造（DM）是指持续采用更智能、更敏捷的制造流程和网络物理系统。这包括增材制造（AM）/3D打印等现代技术和技术，以及工业物联网（IIoT）和更广泛的工业4.0趋势。然而，这种采用并非没有风险：随着复杂性和连接性的不断增长，网络物理攻击面也在增长。在这里，恶意行为者可能会试图窃取敏感信息或破坏产品或生产线，从而造成财务和声誉损失。特别值得关注的是，这种恶意攻击可能会作为特洛伊木马程序进入DM系统的复杂供应链-恶意修改可能会在产品生命周期的稍后时间或阶段触发其有效载荷。在这项工作中，我们因此提出了一个全面的概述木马在数字化制造所构成的威胁。我们涵盖了可能存在于产品或其生产和供应线中的硬件和软件木马。从这一点上，我们产生了一种新的分类法，用于分类和分析这些威胁，并详细说明如何不同的侧通道（如视觉，热，声学，功率和磁）可以用来增强给定的特洛伊木马的影响或利用作为防御策略的一部分。还介绍了其他防御措施-包括硬件，网络和软件相关。最后，我们讨论了七个不同的案例研究，并详细说明了它们如何适合我们的分类。总体而言，本文详细介绍了数字制造业的特洛伊木马形势：威胁，防御以及实施安全实践的重要性。

2023-01-24cs.CR

DeMiST：隐蔽型模拟硬件木马的检测与缓解

DeMiST: Detection and Mitigation of Stealthy Analog Hardware Trojans

针对基于电容的隐蔽模拟硬件木马难检测的问题，本文提出新型检测方法，设计更隐蔽的强化型AHT，并开发两阶段DeMiST框架，通过电压控制规避木马、占空比验证检测木马，还放大开关活动以适配现有检测技术。

2023-10-06cs.ARcs.CRcs.SY

利用机器学习算法辅助企业网集中安全的恶意软件检测模块

Malware Detection Module using Machine Learning Algorithms to Assist in Centralized Security in Enterprise Networks

Sardar Patel Institute of Technology（萨达尔·帕特尔技术学院）；University of Mumbai（孟买大学）

恶意软件在无数计算机用户的世界中非常丰富，他们不断面临来自互联网，本地网络和便携式驱动器等各种来源的威胁。恶意软件的风险可能从低到高，可能导致系统功能不正常，窃取数据甚至崩溃。恶意软件可以是病毒、蠕虫、木马形式的可执行文件或系统库文件，所有这些都旨在破坏系统的安全性并损害用户隐私。通常，防病毒软件基于签名定义系统，该系统从互联网上不断更新，从而跟踪已知的病毒。虽然这对于家庭用户可能足够了，但是来自新病毒的安全风险可能威胁整个企业网。本文提出了一种新的，更复杂的防病毒引擎，不仅可以扫描文件，但也建立知识和检测文件作为潜在的病毒。这是通过提取由各种正常和有害的可执行文件进行的系统API调用，并使用机器学习算法对文件进行分类，从而根据安全风险等级对文件进行排名来完成的。虽然这样的系统处理器很重，但是当集中使用来保护可能更容易受到这种威胁的企业网时，它非常有效。

2012-02-08cs.CRcs.LG

VulDetectBench：评估大型语言模型在漏洞检测中的深层能力

VulDetectBench: Evaluating the Deep Capability of Vulnerability Detection with Large Language Models

Institute of BigData, Fudan University（复旦大学大数据研究院）；School of Computer Science, Fudan University（复旦大学计算机科学学院）；School of Computer Science, Huazhong University of Science and Technology（华中科技大学计算机科学学院）；Purple Mountain Laboratories（紫金山实验室）；School of Software Engineering, Huazhong University of Science and Technology（华中科技大学软件学院）

本文提出VulDetectBench基准，通过五个递增难度任务评估17个LLM在漏洞识别、分类与定位上的能力，发现现有模型在精细分析任务上准确率不足30%，为漏洞检测研究提供基础。

2024-08-21cs.AIcs.CRcs.SE

AttackGNN：利用强化学习对硬件安全中的图神经网络进行红队攻击

AttackGNN: Red-Teaming GNNs in Hardware Security Using Reinforcement Learning

Texas A&M University（德克萨斯农工大学）；University of Delaware（特拉华大学）

本文提出首个针对硬件安全中GNN技术的红队攻击框架AttackGNN，利用强化学习生成对抗性电路，在IP盗版、硬件木马、逆向工程和硬件混淆四类任务上均实现100%攻击成功率。

2024-02-26cs.CRcs.LG

用于恶意软件检测和分析的工具和技术

Tools and Techniques for Malware Detection and Analysis

互联网今天面临的主要和严重的威胁之一是大量的数据和文件需要评估潜在的恶意意图。恶意软件，通常被称为由攻击者设计的恶意软件，在本质上是多态和变形的，其具有在传播时改变其代码的能力。此外，其变种的多样性和数量严重破坏了传统防御的有效性，传统防御通常使用基于签名的技术，无法检测到以前未知的恶意可执行文件。恶意软件家族的变种共享反映其起源和目的的典型行为模式。可以利用静态或动态获得的行为模式来使用机器学习技术检测未知恶意软件并将其分类到其已知家族中。本调查报告概述了用于检测和分析恶意软件的技术和工具。

2020-06-30cs.CR