RoPGen: Towards Robust Code Authorship Attribution via Automatic Coding Style Transformation
University of Texas at San Antonio(得克萨斯大学圣安东尼奥分校);Huazhong University of Science and Technology(华中科技大学);Center for Research in Computer Vision, University of Central Florida(中佛罗里达大学计算机视觉研究中心);Northeastern University(东北大学);University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
源代码作者归属是软件取证、缺陷修复和软件质量分析等应用中经常遇到的重要问题。最近的研究表明,当前的源代码作者归属方法可能会受到攻击者利用对抗性示例和编码风格操纵的影响。这就需要对代码作者归属问题的鲁棒解决方案。在本文中,我们开始研究使基于深度学习(DL)的代码作者归属鲁棒。我们提出了一个创新的框架,称为鲁棒编码风格模式生成(RoPGen),它本质上是学习作者的独特的编码风格模式,攻击者很难操纵或模仿。关键思想是在对抗训练阶段结合数据增强和梯度增强。这有效地增加了训练样本的多样性,对深度神经网络的梯度产生有意义的扰动,并学习编码风格的多样化表示。我们使用四个数据集的C,C++和Java编写的程序的有效性进行评估的RoPGen。实验结果表明,RoPGen能显著提高基于DL的代码作者归属的鲁棒性,分别降低了22.8%和41.0%的有针对性攻击和无针对性攻击的成功率.
2022-02-12 cs.AI cs.CR
Robust and Accurate Authorship Attribution via Program Normalization
Visa Research(维萨研究院);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
由于深度学习的快速发展,源代码归因方法已经实现了惊人的准确性。然而,最近的研究揭示了他们对对抗攻击的脆弱性。特别是,他们很容易被试图伪造另一作者或掩盖原作者的对手所欺骗。为了解决这些新出现的问题,我们制定了一个通用的威胁模型,$\textit{relational adversary}$,允许任意数量的语义保持转换应用到任何问题空间的输入,这个安全挑战。我们的理论研究表明,鲁棒性的条件和鲁棒性和精度之间的权衡深度。出于这些见解,我们提出了一种新的学习框架,$\textit{normalize-and-predict}$($\textit{N&P}$),在理论上保证了任何作者归属方法的鲁棒性。我们进行了广泛的评估$\textit{N&P}$在捍卫两个最新的作者归属的方法对国家的最先进的攻击方法。我们的评估表明,$\textit{N&P}$将对抗性输入的准确性提高了70%。更重要的是,$\textit{N&P}$还将鲁棒准确率提高到比对抗训练高45%,同时运行速度快40倍以上。
2022-02-25 cs.CR cs.LG stat.ML
Protecting Anonymous Speech: A Generative Adversarial Network Methodology for Removing Stylistic Indicators in Text
University of California, Berkeley(加州大学伯克利分校)
随着互联网用户不断地留下文本线索,无论是通过博客、电子邮件还是社交媒体帖子,匿名写作和抗议的能力正在受到侵蚀,因为人工智能在获得以前工作的样本时,可以从数百个可能的候选人中将文本与其作者进行匹配。现有的作者身份匿名化方法,也称为作者身份混淆,通常专注于保护二进制人口统计属性,而不是整体身份。即使是那些专注于混淆身份的人也需要手动反馈,失去了原始句子的连贯性,或者只在有限的作者子集中表现良好。在本文中,我们开发了一种新的方法,作者匿名化,通过构建一个生成对抗网络,保护身份和优化对应于匿名性,流畅性和内容保存三种不同的损失。我们的全自动方法在内容保存和流畅性方面达到了与其他方法相当的结果,但在匿名化方面大大优于基线。此外,我们的方法能够很好地推广到一个开放集的背景下,并匿名化的句子,它以前没有遇到过的作者。
2021-10-18 cs.CL cs.CR cs.LG
Adversarial Malware Binaries: Evading Deep Learning for Malware Detection in Executables
机器学习方法已经被用作检测恶意可执行文件的有用工具。它们利用从恶意软件样本中检索到的数据,例如头字段、指令序列甚至原始字节,来学习区分良性软件和恶意软件的模型。然而,也已经表明,机器学习和深度神经网络可以被逃避攻击(也称为对抗性示例)所欺骗,即,对输入数据的小的改变导致测试时的误分类。在这项工作中,我们研究了使用深度网络从原始字节中学习的恶意软件检测方法的漏洞。我们提出了一种基于梯度的攻击,它能够通过在每个恶意软件样本的末尾仅更改几个特定字节来规避最近提出的适合此目的的深度网络,同时保留其侵入性功能。有希望的结果表明,我们的对抗性恶意软件二进制文件以很高的概率逃避目标网络,即使它们的字节只有不到1%被修改。
2018-03-12 cs.CR
Explaining Vulnerabilities of Deep Learning to Adversarial Malware Binaries
最近的研究表明,用于恶意软件检测的深度学习算法也容易受到对抗性示例的影响,即,精心制作的干扰输入恶意软件,使误导分类。虽然这已经质疑他们是否适合这项任务,但目前还不清楚为什么这些算法在这个特定的应用领域也很容易被愚弄。在这项工作中,我们采取了第一步来解决这个问题,利用可解释的机器学习算法来解释深度神经网络的黑盒决策。特别是,我们使用一种可解释的技术,称为特征归因,以确定最有影响力的输入功能,有助于每个决定,并适应它提供有意义的解释恶意软件二进制文件的分类。在这种情况下,我们发现最近提出的卷积神经网络没有从可执行文件的数据和文本部分学习任何有意义的特征用于恶意软件检测,而是倾向于学习基于文件头中发现的特征区分良性和恶意软件样本。基于这一发现,我们提出了一种新的攻击算法,通过只改变文件头中的几十个字节来生成对抗性恶意软件二进制文件。相对于其他最先进的攻击算法,我们的攻击不需要在文件末尾注入任何填充字节,而且效率更高,因为它需要操作的字节少得多。
2019-01-24 cs.CR
OCEAN: Open-World Contrastive Authorship Identification
Institute for IT Security(信息技术安全研究所)
针对软件供应链安全中的二进制代码作者归属问题,提出基于对比学习的 OCEAN 框架,并构建 CONAN 与 SNOOPY 数据集,在开放世界高优化场景下取得 0.86 AUROC,且可检测未知作者的代码注入。
2024-12-06 cs.AI cs.CR
Analyzing PDFs like Binaries: Adversarially Robust PDF Malware Analysis via Intermediate Representation and Language Model
Wuhan University(武汉大学);Tulane University(杜兰大学)
通过中间表示和语言模型实现对抗鲁棒的PDF恶意软件分析,利用语义和结构特征提取提升检测性能。
2025-12-05 cs.CR
A Comparison of State-of-the-Art Techniques for Generating Adversarial Malware Binaries
U.S. Naval Research Laboratory(美国海军研究实验室);George mason university(乔治梅森大学)
我们考虑由网络攻击者生成对抗性恶意软件的问题,其中攻击者的任务是策略性地修改现有二进制恶意软件文件内的某些字节,使得修改后的文件能够逃避恶意软件检测器,例如基于机器学习的恶意软件分类器。我们已经评估了三种最近的对抗性恶意软件生成技术,这些技术使用从单个公开可用的恶意软件数据集中提取的二进制恶意软件样本,并比较了它们逃避基于机器学习的恶意软件分类器MalConv的性能。我们的研究结果表明,在比较的技术,最有效的技术是一个战略性地修改字节在二进制文件的头部。最后,我们讨论了关于对抗性恶意软件生成的经验教训和未来的研究方向。
2021-11-22 cs.CR cs.LG
StegoStylo: Squelching Stylometric Scrutiny through Steganographic Stitching
Department of Computer Science and Engineering, Mississippi State University, Mississippi State, Mississippi, USA(计算机科学与工程系,密苏里州立大学,密苏里州密苏里市,美国)
本文探讨了通过隐写术与对抗性风格分析结合来对抗风格分析的方法,提出改进的对抗攻击TraceTarnish,并量化隐写术对作者风格指纹的遮蔽效果,发现33%以上的隐写覆盖可有效隐藏作者身份。
2026-06-23 cs.CL cs.CR cs.IR
On the Robustness of Malware Detectors to Adversarial Samples
Macquarie University(麦考瑞大学)
本文研究对抗性恶意软件在不同检测器间的可迁移性,发现针对单一检测器的对抗二进制文件通常难以迁移,集成检测可缓解威胁,而大幅规避改动还可能暴露攻击技术。
2024-08-05 cs.CR cs.LG
Adversarial Malware Generation in Linux ELF Binaries via Semantic-Preserving Transformations
Faculty of Information Technology, Czech Technical University in Prague(信息技术学院,布拉格捷克技术大学)
本文提出了一种新的ELF格式对抗性恶意软件生成器,通过多种指标评估发现其 evasion rate 为67.74%,并发现目标分类器对可执行文件中的字符串敏感。
2026-04-24 cs.CR cs.LG
Madvex: Instrumentation-based Adversarial Attacks on Machine Learning Malware Detection
针对WebAssembly加密劫持的机器学习检测,提出Madvex方法,通过插桩在二进制代码段中注入对抗样本,以极小开销可靠绕过Minos等最先进分类器。
2023-05-24 cs.CR
Defending Against Adversarial Machine Learning
分析了一个对抗攻击的系统和一个防御攻击的作者归属系统。防御系统免受对抗性机器学习器的攻击可以通过在系统模型之间随机切换,通过检测和响应正常输入分布的变化,或通过使用其他方法来完成。对抗性机器学习用于识别用于将系统输入映射到输出的系统。三种类型的机器学习器用于被攻击的模型。用于对被攻击的系统建模的机器学习器是径向基函数支持向量机、线性支持向量机和前馈神经网络。使用准确度作为适应度度量来进化特征掩模。系统通过识别与正常输入的概率分布不匹配的输入来防御对抗性机器学习攻击。系统还通过在用于将系统输入映射到输出的特征掩码之间随机切换来防御对抗攻击。
2019-11-26 cs.AI cs.CR cs.LG
When Binaries Talk Back: Representation-Confusion Attacks on LLM-Assisted Reverse Engineering
International University of La Rioja(罗霍国际大学)
研究大语言模型辅助逆向工程中的表示混淆攻击,通过RARE-Bench衡量,测试RARE-Guard控制,发现无运行时控制时模型有不安全提议,工具授权、支持门和来源门在处理虚假声明上表现不同,二进制派生内容可指导分析且多工具视图不一定提供独立证据。
2026-07-15 cs.CR
Protecting from Malware Obfuscation Attacks through Adversarial Risk Analysis
Institute of Mathematical Sciences, ICMAT-CSIC(数学科学研究所(ICMAT-CSIC))
恶意软件是一个主要的全球风险,每年影响数百万用户。检测系统中的标准算法在处理通过混淆工具传递的恶意软件时执行不足。我们详细说明了这项研究的开源变形软件,利用混合框架,以获得相关功能的二进制文件。然后,我们提供了一个改进的替代解决方案的基础上,对抗性风险分析,我们说明描述一个例子。
2019-11-09 cs.CR cs.LG stat.ML
A Deep Learning-based Fine-grained Hierarchical Learning Approach for Robust Malware Classification
物联网(IoT)在家庭和工业应用中的广泛接受伴随着几个安全问题。一个主要的安全问题是它们可能被对手滥用,以达到其恶意目的。了解和分析物联网恶意行为至关重要,特别是随着它们在广泛应用中的快速增长和采用。然而,最近的研究表明,基于机器学习的方法容易受到对抗攻击,例如,通过向二进制文件中添加垃圾代码,意图欺骗那些基于机器学习或深度学习的检测系统。意识到解决这一挑战的重要性,本研究提出了一个恶意软件检测系统,是强大的对抗攻击。要做到这一点,请检查最先进的方法对使用图嵌入和增强技术制作的对抗性物联网软件的性能。特别是,我们研究了这种方法对两种黑盒对抗方法GEA和SGEA的鲁棒性,以减少开销并保持其实用性不变的方式生成对抗示例(AE)。我们与基于GEA的AE的综合实验显示了误分类与注入样本的图大小之间的关系。经过优化和小扰动,通过使用SGEA,所有物联网恶意软件样本都被错误分类为良性。这凸显了当前检测系统在对抗性环境下的脆弱性。随着景观可能的对抗攻击,我们然后提出DL-FHMC,细粒度的分层学习方法的恶意软件检测和分类,这是强大的AE检测能力的88.52%的恶意AE。
2020-05-15 cs.CR
Can Drift-Adaptive Malware Detectors Be Made Robust? Attacks and Defenses Under White-Box and Black-Box Threats
Purdue University(普渡大学)
本文研究了对抗适应性恶意软件检测器在白盒和黑盒威胁下的稳健性问题,提出了一种通用鲁棒化框架,通过微调预训练模型来提升检测器的鲁棒性,同时探讨了不同威胁模型下的最佳策略。
2026-04-08 cs.CR
Exploring Adversarial Examples in Malware Detection
University of Maryland, College Park(马里兰大学帕克分校);FireEye, Inc.(火眼公司)
卷积神经网络(CNN)架构正越来越多地应用于新的领域,例如恶意软件检测,其中它能够从可执行文件中提取的原始字节中学习恶意行为。这些架构达到了令人印象深刻的性能,没有涉及功能工程的努力,但他们对主动攻击者的鲁棒性还有待了解。这样的恶意软件检测器可能会面临一个新的攻击向量,其形式是对分类模型的对抗性干扰。现有的规避攻击,旨在造成错误分类的测试时的实例,这已被广泛研究的图像分类器,是不适用的,因为输入语义,防止任意更改的二进制文件。本文探讨了恶意软件检测的对抗性示例领域。通过在生产规模数据集上训练现有模型,我们发现以前的一些攻击不如最初报告的有效,同时突出了有助于恶意软件分类的新攻击策略的架构弱点。最后,我们探讨了如何推广不同的攻击策略,权衡时,旨在提高其有效性,以及单步攻击的可转移性。
2019-04-13 cs.CR cs.LG stat.ML
Binary Black-box Evasion Attacks Against Deep Learning-based Static Malware Detectors with Adversarial Byte-Level Language Model
The University of Arizona(亚利桑那大学);Covax Data Inc.(Covax Data公司)
反恶意软件引擎是防御恶意软件的第一道防线。虽然被广泛使用,但基于功能工程的反恶意软件引擎容易受到看不见的(零日)攻击。最近,基于深度学习的静态反恶意软件检测器在识别看不见的攻击方面取得了成功,而无需特征工程和动态分析。然而,这些检测器容易受到具有轻微扰动的恶意软件变体的影响,称为对抗性示例。生成有效的对抗性示例有助于揭示此类系统的脆弱性。用于发起这种攻击的当前方法需要访问目标反恶意软件模型的规范、反恶意软件响应的置信度分数或动态恶意软件分析,这要么是不现实的要么是昂贵的。我们提出了MalRNN,这是一种基于深度学习的新方法,可以自动生成规避恶意软件变体,而无需任何这些限制。我们的方法具有对抗性示例生成过程,该过程通过生成序列到序列递归神经网络来学习语言模型以增强恶意软件二进制文件。MalRNN有效地避开了三种最近基于深度学习的恶意软件检测器,并优于当前的基准方法。讨论了将我们的MalRNN应用于具有八个恶意软件类别的真实数据集的结果。
2020-12-14 cs.CR cs.LG
ALIBI: Adversarial Legitimacy Injection in Binary Input against LLM Malware Analyzers
ResearchLab(78研究实验室)
提出ALIBI攻击,通过向二进制文件注入虚假安全叙述的只读节,使LLM恶意软件分析器将恶意样本误判为良性,并验证了跨模型与格式的迁移性,强调需来源检查防御。
2026-09-18 cs.CR cs.LG
Stealing and Evading Malware Classifiers and Antivirus at Low False Positive Conditions
Czech Technical University in Prague(捷克布拉格技术大学)
本文针对低误报率下的恶意软件检测模型与杀毒软件,提出dualFFNN代理架构及融合迁移与主动学习的FFNN-TL窃取攻击,并验证其可高效构建高一致代理并生成规避样本。
2023-06-04 cs.AI cs.CR
Tuning for TraceTarnish: Techniques, Trends, and Testing Tangible Traits
Department of Computer Science and Engineering, Mississippi State University(密苏里州立大学计算机科学与工程系)
本文通过严格评估TraceTarnish攻击脚本,利用对抗性风格学原理匿名化文本消息的作者身份,通过Reddit评论数据和StyloMetrix增强,提取出显著的信息增益特征,用于检测文本篡改。
2026-06-19 cs.CL cs.CR cs.IR
Fool Me If You Can: On the Robustness of Binary Code Similarity Detection Models against Semantics-preserving Transformations
Sungkyunkwan University(首尔大学);Stony Brook University(石溪大学)
研究评估了二进制代码相似性检测模型在语义保持变换下的鲁棒性,揭示了模型鲁棒性依赖于处理流程、对抗性变换的有效性限制以及精心设计的变换对模型决策的破坏作用。
2026-02-13 cs.CR cs.LG
A Natural Language Processing Approach for Instruction Set Architecture Identification
University of Washington(华盛顿大学);Georgia Institute of Technology(佐治亚理工学院)
软件的二进制分析是网络取证应用中的关键步骤,例如程序漏洞评估和恶意软件检测。这涉及解释由软件执行的指令,并且通常需要将软件的二进制文件数据转换为汇编语言。转换过程需要有关二进制文件的目标指令集体系结构(ISA)的信息。但是,由于编译错误、部分下载或文件元数据的对抗性损坏,ISA信息可能不包含在二进制文件中。机器学习(ML)是一种很有前途的方法,可以使用二进制文件的目标代码部分中的二进制数据来识别目标ISA。在本文中,我们提出了一个二进制代码特征提取模型,以提高基于ML的ISA识别方法的准确性和可扩展性。我们的特征提取模型可以在没有关于ISA的领域知识的情况下使用。具体来说,我们适应模型从自然语言处理(NLP),以i)识别连续的字节模式,通常观察到的二进制代码,ii)估计每个字节模式的重要性,一个二进制文件,和iii)估计每个字节模式的相关性,以区分ISA。我们引入编码二进制文件的字符级功能,以识别每个ISA固有的细粒度位模式。我们使用的数据集与二进制文件从12个不同的ISA来评估我们的方法。经验评估表明,使用我们的字节级功能在ML为基础的ISA识别结果在8%的准确率比国家的最先进的功能的基础上字节直方图和字节模式签名。我们观察到,字符级特征允许将特征集的大小减少多达16倍,同时保持97%以上的准确率。
2022-04-13 cs.CR cs.LG