NLP Security and Ethics, in the Wild
Aalborg University(奥尔堡大学);NVIDIA Corporation(英伟达公司);IT University of Copenhagen(哥本哈根信息技术大学)
本文考察 NLP 安全领域的当代研究,发现其在伤害最小化和负责任披露等方面存在伦理空白,并提出“白帽 NLP”框架及具体建议,以弥合网络安全与 NLP 伦理之间的鸿沟。
2025-04-09 cs.AI cs.CL
Smart-LLaMA: Two-Stage Post-Training of Large Language Models for Smart Contract Vulnerability Detection and Explanation
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对智能合约漏洞检测中数据集质量差、LLM领域适应性弱和缺乏解释的问题,提出Smart-LLaMA,通过两阶段后训练实现检测与解释,F1提升6.49%。
2024-11-09 cs.AI cs.CR cs.SE
CVSS-BERT: Explainable Natural Language Processing to Determine the Severity of a Computer Security Vulnerability from its Description
SAMOVAR;Télécom SudParis(巴黎南电信学院);Institut Polytechnique de Paris(巴黎综合理工学院)
当一个新的计算机安全漏洞被公开披露时,只有一个文本描述。网络安全专家随后使用通用漏洞评分系统(CVSS)对漏洞的严重性进行了分析。具体而言,漏洞的不同特征被总结为一个向量(由一组度量组成),从中计算严重性分数。然而,由于每天都有大量漏洞被披露,这个过程需要大量的人力,并且在分析漏洞之前可能需要几天时间。我们建议利用自然语言处理(NLP)领域的最新进展,以可解释的方式从其文本描述中确定CVSS向量和相关的漏洞严重性分数。为此,我们训练了多个BERT分类器,每个分类器用于组成CVSS向量的每个度量。实验结果表明,我们训练的分类器能够确定的CVSS向量的度量值具有较高的精度。从预测的CVSS向量计算的严重性分数也非常接近由人类专家归因的真实严重性分数。为了便于解释,基于梯度的输入显着性方法被用来确定最相关的输入词由我们的分类器所作的一个给定的预测。通常,最重要的相关词汇包括与人类网络安全专家的基本原理一致的术语,使最终用户能够理解解释。
2021-11-16 cs.AI cs.CL cs.LG
ERAS: Evaluating the Robustness of Chinese NLP Models to Morphological Garden Path Errors
Tandon School of Engineering(坦登工程学院);New York University(纽约大学);Center for Data Science(数据科学中心)
本文提出基准ERAS,通过对比有无局部分割歧义的句子,揭示中文分词和情感分析模型因忽视形态句法上下文而易犯形态学花园路径错误。
2024-10-16 cs.AI cs.CL
A Qualitative Study on Using ChatGPT for Software Security: Perception vs. Practicality
The University of Adelaide(阿德莱德大学);Cyber Security Cooperative Research Centre(网络安全合作研究中心)
本文通过Twitter实证研究和漏洞检测实验,定性分析了ChatGPT在软件安全中的认知与实际可行性,发现其输出多为通用信息,尚不适合工业应用。
2024-08-01 cs.AI cs.CR cs.SE
Undesirable Biases in NLP: Addressing Challenges of Measurement
Institute for Logic, Language and Computation, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所);Department of Experimental Psychology, Utrecht University(乌得勒支大学实验心理学系)
本文从心理测量学视角出发,引入构念效度和信度两个核心概念,为NLP模型偏见测量提供方法学工具,以解决现有偏见测量方法存在严重问题且测量目标不明确的问题。
2024-01-14 cs.AI cs.CL
AI Adoption to Combat Financial Crime: Study on Natural Language Processing in Adverse Media Screening of Financial Services in English and Bangla multilingual interpretation
Institute of Business Administration - JU(贾达沃普尔大学商业管理学院)
本研究探讨利用NLP在孟加拉国MFS中进行负面媒体筛查以打击金融犯罪,准确率约94%,并指出AI接受度低及技术、成本、监管障碍,强调其预防潜力。
2024-12-12 cs.AI cs.CL
Debunking Disinformation: Revolutionizing Truth with NLP in Fake News Detection
本文探讨利用自然语言处理技术检测假新闻的方法,分析其挑战与机遇,以对抗虚假信息传播。
2023-11-15 cs.AI
Translational NLP: A New Paradigm and General Principles for Natural Language Processing Research
University of Pittsburgh(匹兹堡大学);Carnegie Mellon University(卡内基梅隆大学)
自然语言处理(NLP)研究通过基础科学将普遍原理的研究与针对特定用例和设置的应用科学相结合。然而,基础NLP和应用程序之间的交换过程通常被认为是自然出现的,导致许多创新未被应用,许多重要问题未被研究。我们描述了一个新的范式翻译NLP,其目的是结构和促进的过程中,基础和应用NLP研究相互告知。因此,翻译NLP提出了第三种研究范式,专注于理解应用需求带来的挑战,以及这些挑战如何推动基础科学和技术设计的创新。我们表明,许多重大进展,在自然语言处理研究已经出现的基本原则与应用需求的交叉,并提出了一个概念框架,概述了利益相关者和关键问题的翻译研究。我们的框架为将翻译NLP发展为一个专门的研究领域提供了路线图,并确定了一般的翻译原则,以促进基础研究和应用研究之间的交流。
2021-04-16 cs.AI cs.CL
Automated Software Vulnerability Assessment with Concept Drift
软件工程研究人员越来越多地使用自然语言处理(NLP)技术来自动化软件漏洞(SV)评估使用的描述在公共存储库。然而,现有的基于NLP的方法遭受概念漂移。这个问题是由于缺乏对新的(词汇表外的)术语的适当处理而导致的,这些术语用于随着时间的推移评估看不见的SV。为了使用SV的描述进行具有概念漂移的自动SV评估,我们提出了一种结合字符和单词特征的系统方法。该方法被用来预测七个脆弱性特征(VC)。每个VC的最佳模型是使用我们定制的基于时间的交叉验证方法从八个NLP表示和六个著名的机器学习模型中选择的。我们已经使用所提出的方法在国家漏洞数据库(NVD)中的100,000多个SV上进行了大规模实验。结果表明,即使不重新训练模型,我们的方法也可以有效地解决NVD中2000年至2018年报告的SV描述的概念漂移问题。此外,我们的方法相比,现有的单词的方法具有竞争力。我们还研究如何构建具有更少特征的紧凑概念漂移感知模型,并就SV评估的分类器和NLP表示的选择给出一些建议。
2021-03-21 cs.CR cs.SE
Towards Afrocentric NLP for African Languages: Where We Are and Where We Can Go
The University of British Columbia(不列颠哥伦比亚大学)
结合ACL 2022特别主题“语言多样性:从低资源到濒危语言”,我们讨论了非洲语言NLP技术发展所面临的主要语言和社会政治挑战。在类型学框架中的非洲语言,我们讨论如何利用这些语言的细节。为了促进未来的研究,我们还强调了当前的努力,社区,场地,数据集和工具。我们的主要目标是激励和倡导以非洲为中心的技术发展方法。考虑到这一点,我们建议根据当地非洲社区的需求,使用\textit{what}技术进行构建,并使用\textit{how}技术进行构建、评估和部署。
2022-03-17 cs.AI cs.CL
The Dangers of Underclaiming: Reasons for Caution When Reporting How NLP Systems Fail
New York University(纽约大学)
NLP的研究人员经常以贬低该领域成功的方式来框架和讨论研究结果,通常是为了回应该领域的广泛炒作。虽然这是善意的,但这产生了许多关于我们最好的技术局限性的误导或错误的说法。这是一个问题,而且可能比看起来更严重:它损害了我们的信誉,使我们更难减轻当今的危害,比如那些涉及内容审核或简历筛选的偏见系统。它还限制了我们为更遥远的未来进步的潜在巨大影响做准备的能力。本文敦促研究者对这些说法要小心,并提出了一些研究方向和沟通策略,使其更容易避免或反驳。
2022-03-10 cs.AI cs.CL
Evolution of Natural Language Processing Technology: Not Just Language Processing Towards General Purpose AI
INFORMATION-TECHNOLOGY PROMOTION AGENCY, JAPAN(日本信息通信技术促进机构)
本文探讨深度学习驱动的NLP如何通过海量文本数据实现“熟能生巧”,并推动向通用AI演进,同时提供商业应用案例。
2023-10-10 cs.AI cs.CL
NLP is Not enough -- Contextualization of User Input in Chatbots
Artificial Intelligence Institute, University of South Carolina(南卡罗来纳大学人工智能研究所)
人工智能聊天机器人近年来在技术改进方面取得了巨大进步,并已在许多行业投入使用。基于深度网络的高级自然语言处理技术可高效处理用户请求以执行其功能。随着聊天机器人越来越受欢迎,它们在医疗保健领域的适用性是一个有吸引力的命题,因为负担过重的系统可以降低经济和人力成本。然而,医疗保健机器人需要安全和医学上准确的信息捕获,由于用户文本和语音的变化,深度网络还无法实现。符号结构中的知识更适合于精确推理,但不能直接处理自然语言处理。因此,在本文中,我们研究了知识和神经表征相结合对聊天机器人安全性、准确性和理解的影响。
2021-05-13 cs.AI cs.CL
Exploiting the Vulnerability of Large Language Models via Defense-Aware Architectural Backdoor
University of Rhode Island(罗德岛大学)
本文提出一种隐藏于大语言模型架构中的防御感知后门,通过触发检测与高斯噪声注入模块实现免训练攻击,并证明其可抵御微调、重训练及 BDDR 防御。
2024-09-09 cs.AI cs.AR cs.CR
Natural Language Processing for Smart Healthcare
Jinan University(暨南大学);University of Macau(澳门大学)
智能医疗近年来取得了重大进展。新兴的人工智能(AI)技术使各种医疗保健场景中的各种智能应用成为可能。自然语言处理(NLP)作为人工智能驱动的关键技术,由于其分析和理解人类语言的能力,在智能医疗中发挥着关键作用。在这项工作中,我们从技术和应用的角度回顾了有关智能医疗的NLP的现有研究。我们首先从技术角度详细介绍了不同的NLP方法和智能医疗的NLP管道。然后,在采用NLP技术的智能医疗应用的背景下,我们介绍了代表性的智能医疗场景,包括临床实践,医院管理,个人护理,公共卫生和药物开发。我们进一步讨论两个具体的医疗问题,即,2019冠状病毒病(COVID-19)大流行和心理健康,其中NLP驱动的智能医疗保健发挥着重要作用。最后,我们讨论了当前工作的局限性,并确定了未来工作的方向。
2022-09-26 cs.AI cs.CL
Improving Academic Skills Assessment with NLP and Ensemble Learning
University of Chicago(芝加哥大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);san jose state university(圣何塞州立大学);Tulane University(杜兰大学)
本研究利用集成学习框架结合BERT等多个先进NLP模型,通过堆叠技术与伪标签学习优化性能,显著提升了学术技能评估的准确性与效率,为教育技术研究提供了新方案。
2024-10-13 cs.AI cs.CL cs.CY
Development of an NLP-driven computer-based test guide for visually impaired students
Nnamdi Azikiwe University(纳姆迪·阿齐基韦大学)
本文提出一种NLP驱动的计算机化考试指南,利用语音预训练模型将题目和选项转换并朗读,以支持视障学生实时答题,并通过20名视障学生的语音数据验证其性能。
2024-01-22 cs.AI cs.CL
From Bytes to Borsch: Fine-Tuning Gemma and Mistral for the Ukrainian Language Representation
PolyAgent;Mindee;O’Shaughnessy Ventures(奥肖内西风险投资);Tensoic
针对乌克兰语等低资源语言在大语言模型中表示不足的问题,本文微调开源Gemma和Mistral模型,发布UKID数据集,提升模型乌克兰语能力,推动AI语言多样性与数字包容性。
2024-04-14 cs.AI cs.CL cs.LG
Analysis of LLM Vulnerability to GPU Soft Errors: An Instruction-Level Fault Injection Study
School of Computer Science (National Pilot Software Engineering School), Beijing University of Posts and Telecommunications(计算机学院(国家试点软件工程学院),北京邮电大学);State Key Lab of Processors, Institute of Computing Technology, Chinese Academy of Sciences(处理器国家重点实验室,中国科学院计算技术研究所)
本文通过指令级故障注入研究,分析了LLM对GPU软错误的脆弱性,揭示了模型架构、参数规模和任务复杂性对可靠性的影响,为设计更有效的容错机制提供了新见解。
2026-11-06 cs.AI cs.AR cs.CR
HFContractFuzzer: Fuzzing Hyperledger Fabric Smart Contracts for Vulnerability Detection
区块链技术凭借其去中心化、不可变性等独特优势,近年来在各个领域得到广泛应用。运行在区块链上的智能合约也在去中心化应用场景中发挥着越来越重要的作用。因此,智能合约安全漏洞的自动检测成为区块链技术应用中亟待解决的问题。Hyperledger Fabric是一个基于企业级许可分布式账本技术的智能合约平台。然而,Hyperledger Fabric智能合约的漏洞检测技术研究仍处于起步阶段。在本文中,我们提出了HFContractFuzzer,这是一种基于Fuzzing技术来检测Hyperledger Fabric智能合约的方法,它结合了一个名为go-fuzz的golang Fuzzing工具和golang编写的智能合约。我们使用HFContractFuzzer从典型的来源中检测出五个合同中的漏洞,发现其中四个存在安全漏洞,证明了所提出的方法的有效性。
2021-06-21 cs.CR cs.SE
Agentic Adversarial Rewriting Exposes Architectural Vulnerabilities in Black-Box NLP Pipelines
Department of Information Systems and Cybersecurity, University of Texas at San Antonio(信息系统与网络安全系,德克萨斯大学圣安东尼奥分校)
本文提出一种双代理逃逸框架,通过语义扰动空间在无梯度反馈和严格查询预算下测试NLP流水线的鲁棒性,发现架构选择影响攻击面,并通过模式指导防御降低逃逸率。
2026-04-26 cs.AI
Balancing Innovation and Privacy: Data Security Strategies in Natural Language Processing Applications
University of Southern California(南加州大学);San Francisco State University(旧金山州立大学);Southwest Jiaotong University(西南交通大学);Columbia University(哥伦比亚大学);Carnegie Mellon University(卡内基梅隆大学)
本研究提出一种基于差分隐私的NLP隐私保护算法,在确保数据分析准确性的同时有效防止敏感信息泄露,在效率、扩展性与隐私-实用性平衡上优于传统方法。
2024-10-11 cs.AI cs.CL cs.CR
Molecular Representations for AI in Chemistry and Materials Science: An NLP Perspective
Center for Computational Engineering and Networking (CEN)(计算工程与网络中心);Amrita Vishwa Vidyapeetham(阿姆里塔大学)
本文从自然语言处理视角探讨分子表示在化学和材料科学中AI应用,介绍基于NLP的分子表示方法及其在化学信息学中的应用。
2026-02-24 cs.AI cs.CE physics.chem-ph
Thorny Roses: Investigating the Dual Use Dilemma in Natural Language Processing
Hasso Plattner Institute(哈索·普拉特纳研究院);University of Copenhagen(哥本哈根大学);Mohamed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文通过调查NLP研究人员和从业者对双重用途问题的认知与行动现状,提出面向NLP社区的双重用途定义,并设计可整合进ACL伦理框架的检查清单以缓解潜在危害。
2023-10-30 cs.AI cs.CL
On Adversarial Vulnerability of PHM algorithms: An Initial Study
GE Research Center(通用电气研究中心)
随着深度学习(DL)应用在不同领域的扩散,DL模型对对抗攻击的脆弱性已经成为计算机视觉(CV)和自然语言处理(NLP)领域中越来越有趣的研究课题。DL也被广泛采用到各种PHM应用中,其中数据主要是时间序列传感器测量。虽然这些先进的DL算法/模型已经导致了PHM算法的性能的改进,但是这些PHM算法对对抗攻击的脆弱性在PHM社区中没有引起太多的关注。在本文中,我们试图探讨PHM算法的脆弱性。更具体地说,我们研究的策略,攻击PHM算法,考虑与时间序列传感器测量数据的几个独特的特点。我们使用两个真实世界的PHM应用程序作为例子来验证我们的攻击策略,并证明PHM算法确实容易受到对抗攻击。
2021-10-14 cs.CR cs.LG
A Model for Assessing Network Asset Vulnerability Using QPSO-LightGBM
针对网络资产脆弱性主动评估需求,提出结合SMOTE数据平衡、QPSO参数优化与LightGBM建模的多分类预测模型,实验验证其各项预测性能指标均优于对比算法模型。
2024-03-11 cs.CR
CPE-Identifier: Automated CPE identification and CVE summaries annotation with Deep Learning and NLP
ST Engineering(科技工程公司)
针对NVD中CPE与CVE摘要关联耗时的问题,提出CPE-Identifier系统,利用深度学习与NLP自动识别CPE实体,F1达95.48%,性能优于先前工作9%以上。
2024-05-22 cs.AI cs.CL cs.CR
Dual-view Aware Smart Contract Vulnerability Detection for Ethereum
Institute of Cyberspace Security, Zhejiang University of Technology(浙江工业大学网络空间安全研究院);Binjiang Institute of Artificial Intelligence, ZJUT(浙江工业大学滨江人工智能研究院)
本文提出双视图感知智能合约漏洞检测框架DVDet,通过融合源代码加权图与字节码控制流序列捕获风险特征,在以太坊数据集上取得优于现有方法的漏洞检测效果。
2024-06-29 cs.CR cs.LG
SmartScan: An approach to detect Denial of Service Vulnerability in Ethereum Smart Contracts
区块链技术(BT)以太坊智能合约允许可编程交易,这些交易涉及独立于中央授权机构的BT网络上的同行之间的货币资产转移。以太坊智能合约是部署为去中心化应用程序的程序,具有区块链共识协议的构建块。这项技术使消费者能够在透明和无冲突的环境中达成协议。然而,这些智能合约中的安全漏洞对应用程序及其消费者构成了潜在威胁,并在过去造成了巨大的经济损失。在本文中,我们提出了一个框架,结合静态和动态分析来检测由于以太坊智能合约中的意外恢复而导致的拒绝服务(DoS)漏洞。我们的框架SmartScan静态扫描测试中的智能合约(SCUT),以识别这些SCUT中可能存在漏洞的模式,然后使用动态分析来精确确认其对DoS-Unexpected Revert漏洞的利用,从而实现更高的性能和更精确的结果。我们在从Etherscan收集的500个智能合约上评估了SmartScan。与现有的最先进的技术相比,我们的方法在精确度和召回率方面有所提高。
2021-05-20 cs.CR
Understanding the Quality of Container Security Vulnerability Detection Tools
虚拟化使信息和通信技术行业能够更好地管理计算资源。在这方面,虚拟化方法的改进以及对一致的运行时环境、更低的开销和更小的包大小的需求导致了容器的日益普及。这是一种技术,它将应用程序、其依赖项和操作系统(OS)打包为一个独立的单元运行。然而,使用容器的紧迫问题是它对安全攻击的敏感性。因此,许多集装箱扫描工具可用于检测集装箱安全漏洞。因此,在这项研究中,我们通过提出两个反映覆盖率和准确性的指标来调查现有集装箱扫描工具的质量。我们使用不同的容器扫描工具(如Clair,Closore和Microscanner)分析了DockerHub上托管的Java应用程序的59个流行的公共容器映像。我们的研究结果表明,现有的容器扫描方法不能检测应用程序包漏洞。此外,现有的工具不具有高准确性,因为34%的漏洞被性能最好的工具遗漏。最后,我们还通过评估完整的漏洞环境来展示托管在DockerHub上的Java应用程序的Docker映像的质量,即,在图像中检测到的漏洞数量。
2021-01-11 cs.CR
Blockchain Smart Contract Threat Detection Technology Based on Symbolic Execution
本文提出基于符号执行的智能合约威胁检测技术,通过递归下降算法恢复控制流图并编码为CHC约束,结合模型检查检测重入漏洞,显著提升检测效率与准确性。
2023-12-24 cs.CR cs.SE
Graph Neural Networks Enhanced Smart Contract Vulnerability Detection of Educational Blockchain
Central China Normal University(华中师范大学);CCNU Wollongong Joint Institute(华中师范大学伍伦贡联合研究院);Hubei University of Technology(湖北工业大学)
随着区块链技术的发展,区块链与教育的交叉越来越受到关注,各种教育评价系统和E-learning系统都是基于区块链技术开发的。其中,以太坊智能合约因其构建教育智能交易系统和智能学习平台的“事件触发”机制而备受开发者青睐。然而,由于区块链的不变性,发布的智能合约无法修改,因此无法通过修改教育区块链中的代码来修复有问题的合约。近年来,由于智能合约漏洞导致的安全事件造成了巨大的财产损失,因此教育区块链中智能合约漏洞的检测成为一个巨大的挑战。为了解决这个问题,本文提出了一种基于图神经网络(GNN)的教育区块链智能合约漏洞检测方法。首先对字节码进行反编译得到操作码。其次,划分基本块,并根据操作码执行逻辑添加基本块之间的边。然后,建立控制流图(CFG)。最后,我们设计了一个基于GNN的漏洞检测模型。实验结果表明,该方法对智能合约的漏洞检测是有效的。与传统方法相比,该方法在减少GCN模型层数的情况下也能得到较好的检测结果,表明契约字节码和GCN模型在漏洞检测方面是有效的。
2023-03-08 cs.CR cs.LG
Developing Hands-on Labs for Source Code Vulnerability Detection with AI
Florida Agricultural and Mechanical University(佛罗里达农工大学)
随着信息和通信技术在我们生活中的作用逐渐增加,源代码安全成为防止恶意尝试的重要问题。此外,随着数据驱动技术的出现,现在人们越来越有兴趣利用机器学习和自然语言处理作为源代码保证方法来构建可信赖的系统。因此,培训我们未来的软件开发人员编写安全的源代码在这篇论文中,我们提出了一个框架,包括学习模块和动手实验,以指导未来的IT专业人员在软件开发生命周期的早期阶段培养安全编程习惯和减轻源代码漏洞。在这篇论文中,我们的目标是设计一套动手实验的学习模块,向学生介绍使用源代码和日志文件的安全编程实践。分析工具来预测和识别漏洞在安全编码教育框架中,我们将提高学生对源代码漏洞检测工具和缓解技术的技能和意识,将源代码漏洞的概念从函数API和库级别整合到不良编程习惯和实践中,利用深度学习NLP和用于日志文件分析的静态分析工具来介绍源代码漏洞的根本原因
2023-02-01 cs.AI cs.CR
ETrace:Event-Driven Vulnerability Detection in Smart Contracts via LLM-Based Trace Analysis
针对传统智能合约漏洞检测多依赖源代码的局限,提出无需源码的ETrace框架,通过提取交易日志事件序列、结合LLM思维链推理与模式匹配检测漏洞,初步实验验证了其有效性。
2025-07-30 cs.CR cs.SE
ICSPatch: Automated Vulnerability Localization and Non-Intrusive Hotpatching in Industrial Control Systems using Data Dependence Graphs
在操作技术(OT)和信息技术(IT)设备之间实现广泛的相互通信的范式转变允许IT世界的典型漏洞传播到OT端。因此,过去通过空气间隙提供的安全层被移除,使得OT设备的安全补丁成为硬性要求。传统的修补涉及设备重新启动以将修补后的代码加载到主存储器中,这不适用于由于停机而控制关键进程的OT设备,从而需要在存储器中修补漏洞。此外,这些控制二进制文件通常由内部专有编译器编译,进一步阻碍了修补过程,并依赖OT供应商快速发现漏洞和开发补丁。当前最先进的热修补方法仅关注固件和/或RTOS。因此,在这项工作中,我们开发ICSPatch,一个框架,自动控制逻辑漏洞本地化使用数据依赖图(DDG)。在DDG的帮助下,ICSPatch精确定位了控制应用程序中的漏洞。作为独立的第二步,ICSPatch可以直接在可编程逻辑控制器的主存储器中非侵入性地修补控制应用程序中的漏洞,同时保持可靠的连续运行。为了评估我们的框架,我们在来自不同关键基础设施部门的24个易受攻击的控制应用程序二进制文件的合成数据集上测试ICSPatch。结果表明,ICSPatch能够成功定位所有漏洞并生成相应的补丁。此外,该补丁在执行周期中增加了可忽略不计的延迟,同时保持了正确性和对漏洞的保护。
2022-12-08 cs.CR cs.SY eess.SY
Bug Searching in Smart Contract
随着以太坊平台上智能合约的疯狂发展,其市值也节节攀升。2016年,人们对DAO重入攻击造成的近5000万美元的加密货币损失感到震惊。由于智能合约中流动的大量资金,其安全性引起了研究人员的广泛关注。在本文中,我们研究了几个常见的智能合约漏洞,并分析了它们可能的场景以及它们可能被利用的方式。此外,我们还调查了近年来以太坊平台的智能合约漏洞检测工具。我们发现这些工具在软件漏洞检测技术上有相似的原型。此外,针对以太坊等公共分发系统的特点,提出了这些软件漏洞检测技术面临的新挑战。
2019-05-02 cs.CR cs.SE
VulnSense: Efficient Vulnerability Detection in Ethereum Smart Contracts by Multimodal Learning with Graph Neural Network and Language Model
University of Information Technology(信息技术大学);Vietnam National University Ho Chi Minh City(胡志明市越南国家大学)
本文提出VulnSense框架,结合源代码、操作码序列和控制流图三种特征,利用BERT、BiLSTM和GNN多模态学习高效检测以太坊智能合约漏洞,在1.769个合约上平均准确率达77.96%。
2023-09-15 cs.AI cs.CR
Exposing and Defending Membership Leakage in Vulnerability Prediction Models
City University of Hong Kong(香港城市大学);Hong Kong Metropolitan University(香港都会大学)
本研究揭示漏洞预测模型易受成员泄露攻击,并提出轻量级防御策略NMID,有效降低攻击效果同时保持模型预测能力。
2025-12-09 cs.CR cs.SE
An Automated Vulnerability Detection Framework for Smart Contracts
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
随着区块链技术在为各种问题提供去中心化解决方案方面的应用越来越多,智能合约变得越来越受欢迎,目前每天通过这种技术交换数十亿美元。与此同时,智能合约中的各种漏洞被攻击者利用,窃取了价值数百万美元的加密货币。因此,智能合约漏洞的自动检测是一个重要的研究问题。这个问题的现有解决方案特别依赖于人类专家来定义特征或不同的规则来检测漏洞。然而,这往往会导致许多漏洞被忽略,并且它们在检测新漏洞时效率低下。在这项研究中,为了克服这些挑战,我们提出了一个框架来自动检测区块链上智能合约中的漏洞。更具体地说,首先,我们从智能合约的字节码中利用新的特征向量生成技术,因为智能合约的源代码很少公开。接下来,将收集到的向量输入到我们新的基于度量学习的深度神经网络(DNN)中,以获得检测结果。我们在大规模的基准测试上进行了全面的实验,定量的结果证明了我们的方法的有效性和效率。
2023-01-20 cs.CR cs.LG
Talking Trojan: Analyzing an Industry-Wide Disclosure
虽然漏洞研究通常侧重于技术发现和公开发布后的行业反应,但我们提供了对故事其余部分的分析:从发现到公开发布的协调披露过程。影响大多数编译器、解释器、代码编辑器和代码存储库的全行业“特洛伊木马源”漏洞提供了一个有趣的自然实验,使我们能够比较公司与非营利组织以及管理自己响应的公司与外包公司的响应。我们记录了与错误奖励计划、政府披露援助、学术同行评审和新闻报道的互动,以及其他一些话题。我们比较了对源代码攻击的响应与对采用机器学习技术的NLP系统的类似攻击的响应。最后,我们提出了改善全球协调披露体系的建议。
2022-09-22 cs.CR
NLP-based Cross-Layer 5G Vulnerabilities Detection via Fuzzing Generated Run-Time Profiling
Stevens Institute of Technology(史蒂文斯理工学院)
提出一种基于NLP和机器学习的方法,利用模糊测试生成的运行时性能分析文档自动检测5G栈漏洞,在srsRAN上实现93.4%-95.9%的准确率。
2023-05-14 cs.CR cs.LG cs.SE
VulMCI : Code Splicing-based Pixel-row Oversampling for More Continuous Vulnerability Image Generation
针对现有基于图像的漏洞检测方法中代码图像连续性不足导致CNN丢失语义信息的问题,提出基于代码行拼接的像素行过采样方法,构建VulMCI系统,在多个数据集上优于现有主流检测器。
2024-04-16 cs.CR
Examining the Effectiveness of Transformer-Based Smart Contract Vulnerability Scan
Bahcesehir University(巴希谢希尔大学)
本文提出VASCOT,一种基于Transformer的智能合约漏洞扫描器,通过序列分析和滑动窗口机制评估深度学习方法在检测以太坊智能合约漏洞中的有效性,并与LSTM模型进行对比分析。
2026-01-12 cs.CR cs.SY eess.SY
Automated Mapping of Vulnerability Advisories onto their Fix Commits in Open Source Repositories
Eindhoven University of Technology - JADS(埃因霍温理工大学-JADS);SAP Security Research(思爱普安全研究院);University of Trento(特伦托大学);University of Salerno(萨勒诺大学)
本文提出结合启发式规则与NLP的三阶段方法,并通过FixFinder自动将漏洞通告映射到开源仓库中的修复提交,在1,248条通告上Top-10命中率达84.03%。
2023-05-10 cs.CR cs.LG cs.SE
HyMo: Vulnerability Detection in Smart Contracts using a Novel Multi-Modal Hybrid Model
Urmia University of Technology(乌尔米耶技术大学)
针对智能合约漏洞检测依赖专家规则且复杂合约检测耗时的问题,提出融合多模态输入、FastText 嵌入与 BiGRU 的混合深度学习模型 HyMo,并在 ScrawlD 上验证其检测性能优于现有方法。
2023-04-25 cs.AI cs.CR
Assessing Vulnerability in Smart Contracts: The Role of Code Complexity Metrics in Security Analysis
Università della Svizzera italiana(瑞士意大利语大学)
本研究探讨了代码复杂度度量在识别智能合约安全漏洞中的作用,发现复杂度度量能有效区分安全与脆弱代码,但单一指标不足以直接导致漏洞。
2026-01-23 cs.CR cs.SE
LLM-BSCVM: An LLM-Based Blockchain Smart Contract Vulnerability Management Framework
提出LLM-BSCVM框架,结合检索增强生成与多智能体协作,实现智能合约漏洞的端到端检测、分析、修复与评估,检测准确率和F1超过91%,误报率降至5.1%。
2025-05-23 cs.CR
CrossInspector: A Static Analysis Approach for Cross-Contract Vulnerability Detection
本文提出 CrossInspector 框架,通过 Transformer 恢复语义信息并构建状态依赖图进行细粒度静态分析,有效检测智能合约字节码层面的跨合约漏洞,在精确率、召回率和检测时间上均优于现有工具。
2024-08-27 cs.CR cs.SE
The Code the World Depends On: A First Look at Technology Makers' Open Source Software Dependencies
针对当前开源软件依赖图景不明、难以确定优先级修复包的问题,研究调查108家主流科技厂商的公开OSS依赖信息,梳理信息可及性与细节,识别高频依赖包,为填补相关认知空白迈出第一步。
2024-04-17 cs.CR cs.SE
Vulnerability Detection in Ethereum Smart Contracts via Machine Learning: A Qualitative Analysis
Ca' Foscari University(卡萨里大学);University of Camerino(坎默里诺大学);University of Udine(乌迪内大学)
本文综述并批判性评估基于机器学习的以太坊智能合约漏洞检测工具与方法,指出漏洞覆盖和数据集构建等问题,并提出改进准确性、范围与效率的实践指南。
2024-07-26 cs.CR cs.LG
RowHammer Vulnerability Counter (RVC): Redefining RowHammer Detection with Victim-Centric Tracking
IIT Ropar(印度技术研究所罗帕尔分校)
本文提出RVC框架,通过评估行实际位翻转风险而非单纯跟踪激活次数,显著减少冗余刷新操作,提升防护效率和能效,优于现有方法。
2026-04-27 cs.AR cs.CR
TextDefense: Adversarial Text Detection based on Word Importance Entropy
Zhejiang University(浙江大学);Shandong University(山东大学);National University of Defense Technology(国防科技大学)
当前,自然语言处理(NLP)模型被广泛用于各种场景。然而,NLP模型,像所有的深度模型一样,很容易受到逆向生成文本的影响。许多工作一直致力于减轻来自对抗攻击的脆弱性。然而,有没有全面的防御,在现有的作品中,每个工作针对一个特定的攻击类别或遭受的计算开销的限制,不可抗拒的自适应攻击等。在本文中,我们详尽地调查了自然语言处理中的对抗攻击算法,我们的实证研究发现,攻击算法主要是破坏文本中的单词的重要性分布。一个经过良好训练的模型可以区分干净文本和对抗性文本之间细微的重要性分布差异。基于这种直觉,我们提出了TextDefense,这是一种新的对抗性示例检测框架,它利用目标模型的能力来防御对抗攻击,同时不需要先验知识。TextDefense与以前的方法不同,它利用目标模型进行检测,因此与攻击类型无关。我们广泛的实验表明,TextDefense可以应用于不同的架构,数据集和攻击方法,并优于现有的方法。我们还发现,影响TextDefense性能的主要因素是目标模型的泛化能力。通过分析目标模型的性质和对抗样本的性质,对自然语言处理中的对抗攻击进行了深入的分析,并提出了相应的防御方法。
2023-02-12 cs.AI cs.CL cs.CR
Smart Contract Vulnerability Detection Technique: A Survey
智能合约是区块链最成功的应用之一,正在席卷全球,在区块链生态系统中发挥着至关重要的作用。然而,频繁的智能合约安全事件不仅造成了巨大的经济损失,也破坏了基于区块链的信用体系。因此,智能合约的安全性和可靠性得到了全球研究人员的广泛关注。在本次调查中,我们首先从三个层面总结了智能合约漏洞的常见类型和典型案例,即:Solidity代码层、EVM执行层和Block依赖层。此外,我们回顾了智能合约漏洞检测的研究进展,并将现有的同行分为五类,即,形式化验证、符号执行、模糊检测、中间表示和深度学习。从经验上讲,我们以以太坊上部署的300个真实智能合约作为测试样本,并在准确性,F1分数和平均检测时间方面比较了代表性方法。最后讨论了智能合约漏洞检测领域面临的挑战,并结合深度学习技术展望了未来的研究方向。
2022-09-13 cs.CR cs.PL