Concolic Testing on Individual Fairness of Neural Network Models
National ChengChi University(国立中正大学)
本文提出PyFair框架,通过锥形测试工具PyCT生成公平性特定路径约束,系统探索DNN行为,采用双网络架构实现全面公平性评估并保证部分网络类型的完整性。
2026-05-01 cs.LG cs.SE
Influence-Guided Concolic Testing of Transformer Robustness
Department of Management Information Systems(管理信息系)
提出一种基于SHAP影响力排序路径谓词的具体化测试方法,通过纯Python实现多头注意力语义并显式化softmax边界,在CIFAR-10上对紧凑Transformer分类器实现60%攻击成功率,比差分进化基线高45%,且谓词优先级排序将中位攻击时间降低51%。
2026-06-19 cs.LG cs.SE
Legion: Best-First Concolic Testing
The University of Melbourne(墨尔本大学);LMU Munich(慕尼黑大学)
Concolic执行和模糊是两种互补的基于覆盖率的测试技术。如何实现两者的最佳效果仍然是一个公开的挑战。为了解决这个研究问题,我们提出并评估军团。Legion重新设计了人工智能文献中的蒙特卡罗树搜索(MCTS)框架,将自动测试生成视为不确定性下的顺序决策问题。它的最佳优先搜索策略提供了一种原则性的方法来学习最有希望的程序状态,以在每次搜索迭代时进行调查,基于从先前迭代中观察到的奖励。军团采用了一种形式的定向模糊,我们称之为近似路径保持模糊(APPFuzzing)调查程序状态选择的MCTS。APPFuzzing作为蒙特卡洛模拟技术,并通过扩展约束采样的先前工作来实现。我们在Test-Comp 2020覆盖类别的2531个基准上评估了Legion与竞争对手的对比,并测量了其对超参数的敏感性,证明了其在各种输入程序上的有效性。
2020-09-23 cs.LG cs.SE
Cottontail: Large Language Model-Driven Concolic Execution for Highly Structured Test Input Generation
本文提出LLM驱动的共模执行引擎Cottontail,通过ESCT路径表示、LLM约束求解器和历史引导种子获取,解决结构化测试输入生成问题,显著提升覆盖率并发现6个新漏洞。
2025-10-14 cs.SE
Prioritising Server Side Reachability via Inter-process Concolic Testing
内容:大多数自动化白盒测试的方法都将Web应用程序的客户端和服务器端相互隔离。这样的测试人员缺乏对被测Web应用程序的整体程序视角。询价:我们假设,一个额外的整个程序的角度将使测试人员发现哪些服务器端的错误可以触发一个实际的最终用户通过客户端访问应用程序,哪些只能在假设的情况下触发。方法:在本文中,我们探讨了在测试中采用这种全程序视角的想法。为此,我们开发了一种新颖的concolic测试器,它在全栈JavaScript Web应用程序上运行,其中客户端和服务器端都是通过异步消息进行通信的JavaScript进程-由WebSocket或Socket. IO库启用。知识:我们发现,整个程序的角度来看,能够辨别高优先级的错误,这是从一个特定的客户端,从低优先级的错误,这是不能通过测试的客户端访问。透视图的另一个好处是,它允许自动化测试人员从最终用户的角度构造实际的、逐步的场景来触发服务器端错误。基础:我们应用于一组Web应用程序,以评估测试在区分高优先级和低优先级错误方面的有效性。结果表明,正确分类的大多数服务器错误。重要性:本文展示了测试作为自动测试Web应用程序的新方法的可行性。将错误分类为高或低重要性有助于开发人员对用户可能遇到的错误进行优先级排序,并推迟对不太容易达到的错误的诊断。
2021-03-04 cs.SE
GreyConE: Greybox fuzzing+Concolic execution guided test generation for high level design
由于复杂的分支条件、循环结构和硬件设计固有的并发性,对高级设计进行详尽的测试是一个艰巨的挑战。测试工程师的目标是生成满足各种代码覆盖率指标的高质量测试用例,以确保设计中出现的错误最少。在测试SystemC设计之前的工作是时间效率低下的,这阻碍了在较短的时间跨度内实现所需的覆盖。我们交错灰盒模糊和concolic执行系统的方式,并生成质量测试用例加速测试覆盖率指标。我们的结果优于国家的最先进的方法在测试用例的数量和分支覆盖的一些基准,和运行时间为他们中的大多数。
2022-07-13 cs.CR cs.SE
Dynamic Symbolic Execution of Higher-Order Functions
concolic测试的有效性随着程序规模的增加而恶化。一个有希望的方法是模块化地测试程序,例如,在每个函数或类的基础上。唉,这种想法在现代程序设计语言中遇到了障碍。在现代语言中,组件需要函数、对象甚至类作为输入。问题的关键是,现有的concolic测试技术不能忠实地捕捉一个高阶程序和它的输入之间的复杂的相互作用,以提取它在一阶公式,SMT求解器可以工作。在本文中,我们采取的第一步解决问题,我们提供了一个设计,语义和原型concolic测试高阶函数。受高阶符号执行工作的启发,我们的模型构造了具有规范形状的高阶函数的输入。这使得concolic测试器能够跟踪高阶函数的控制流路径的哪些部分取决于其输入的形状,哪些部分不取决于其输入的形状。concolic测试器将不依赖于输入形状的部分编码为一阶公式。随后,类似于一阶concolic测试器,它利用SMT求解器产生另一个具有相同形状的输入,但探索高阶函数的不同控制流路径。作为一个单独的维度,concolic测试器迭代地探索输入的规范形状,并调查高阶函数与其输入交互的所有方式,搜索bug。为了验证我们的设计,我们证明,如果一个高阶函数有一个错误,我们的concolic测试最终将构建一个输入,触发错误。使用我们的设计作为蓝图,我们实现了一个原型concolic测试仪,并确认它发现了各种高阶程序从文献中的错误。
2020-06-20 cs.PL cs.SE
SAVIOR: Towards Bug-Driven Hybrid Testing
混合测试结合了模糊测试和concolic执行。它利用模糊测试来测试容易到达的代码区域,并使用concolic执行来探索由复杂分支条件保护的代码块。然而,其以代码覆盖为中心的设计在漏洞检测方面效率低下。首先,它盲目地选择concolic执行的种子,旨在不断探索新代码。然而,正如统计数据所显示的那样,所探索的代码的很大一部分通常是没有bug的。因此,在混合测试中对代码的每一部分给予同等的关注是一种非最优策略。它将真正漏洞的检测速度降低了43%以上。第二,传统的混合测试在到达一段代码后快速前进,而不是检查内部隐藏的缺陷。它可能经常错过微妙的漏洞,尽管它已经探索了易受攻击的代码路径。我们提出了SAVIOR,一个新的混合测试框架开创了错误驱动的原则。与现有的混合测试工具不同,SAVIOR优先考虑可能发现更多漏洞的种子的concolic执行。此外,SAVIOR还验证了程序执行路径上所有的漏洞位置,并通过SMT约束对故障情况进行建模,对漏洞的可行性进行推理,生成具体的测试用例作为证明。我们的评估表明,错误驱动的方法优于主流的自动化测试技术,包括最先进的混合测试系统驱动的代码覆盖率。平均而言,SAVIOR比DRILLER和QSYM分别快43.4%和44.3%,分别多发现了88个和76个独特的漏洞。根据对11个模糊基准测试程序的评估,在前24小时内,SAVIOR触发了481个UBSAN违规,其中24…
2019-06-18 cs.SE
Large Language Model assisted Hybrid Fuzzing
本文提出一种基于大型语言模型(LLM)的混合模糊测试器 HyLLfuzz,利用 LLM 作为求解器替代传统符号执行来生成修改输入以突破覆盖率障碍,相比 AFL、Intriguer 和 Qsym 展现出更优的覆盖率且执行速度提升 4-19 倍。
2024-12-20 cs.CR cs.SE
Exposing Go's Hidden Bugs: A Novel Concolic Framework
Telecom Paris(巴黎电信学院);Ledger Donjon
本文提出Zorya框架,结合具体和符号执行技术全面评估Go程序,通过系统探索执行路径发现传统测试无法检测的漏洞,并利用Ghidra的P-Code中间表示进行分析。
2025-05-26 cs.CR cs.SE
Coyote C++: An Industrial-Strength Fully Automated Unit Testing Tool
本文介绍了Coyote C++,一款基于混合符号执行的工业级C和C++全自动化单元测试工具,它无需用户参与即可一键完成测试生成与执行,持续达到约90%的代码覆盖率。
2023-10-23 cs.PL cs.SE
CUTECat: Concolic Execution for Computational Law
CUTECat利用合流执行结合默认逻辑,针对计算法实现生成测试用例,覆盖所有分支,提升法律程序正确性,推动形式化方法在立法中的应用。
2025-01-23 cs.PL cs.SE
ColorGo: Directed Concolic Execution
本文提出ColorGo,一种结合编译式符号执行与增量着色的定向白盒模糊测试器,在保持高精确性的同时实现高可扩展性,在真实程序上比AFLGo快达100倍。
2025-05-27 cs.CR cs.SE
Fuzzing Symbolic Expressions
近年来,软件测试取得了广泛的成果,探索了不同的方法和方法,从模糊器到符号引擎,以及介于两者之间的各种实例,如concolic执行和混合模糊。其中许多工具的一个关键组成部分是可满足性模理论(SMT)求解器,用于对分析期间收集的符号表达式进行推理。在本文中,我们研究是否可以借用模糊域的技术来检查是否符号公式是可满足的concolic和混合模糊引擎的背景下,提供了一个可行的替代经典SMT解决技术。我们设计了一个新的近似求解器,FUZZY-SAT,并表明它是竞争和互补的最先进的求解器,如Z3处理混合模糊器产生的查询。
2021-02-12 cs.CR cs.SE
Detecting Buggy Contracts via Smart Testing
Columbia University(哥伦比亚大学);The University of Chicago(芝加哥大学)
针对混合动态分析难发现智能合约深层缺陷的问题,本文提出可自主决策的 SmartSys,利用基础模型选择分析技术、生成模糊目标并结合动态反馈抑制幻觉,发现长期遗漏漏洞并提升覆盖率。
2024-09-06 cs.LG cs.PL cs.SE
Regression Testing in Remote and Hybrid Software Teams: An Exploratory Study of Processes, Tools, and Practices
CESAR School(CESAR学院);UFRPE(巴西雷西夫联邦大学);University of Calgary(卡尔加里大学)
本研究探讨远程和混合团队中回归测试的流程、工具和实践,发现其依赖文档、自动化和工具集成来支持异步协作,揭示了回归测试作为社会技术实践的演变。
2026-03-08 cs.SE
S$^2$F: Principled Hybrid Testing With Fuzzing, Symbolic Execution, and Sampling
College of Computer Science and Electronic Engineering, Hunan University(湖南大学计算机科学与电子工程学院);National University of Defense Technology(国防科技大学)
S$^2$F通过结合模糊测试、符号执行和采样,提升混合测试效率,发现更多崩溃。
2026-01-15 cs.SE
An Exploratory Survey of Hybrid Testing Techniques Involving Symbolic Execution and Fuzzing
最近在实际符号执行方面的努力已经成功地在一定程度上缓解了路径爆炸问题,基于搜索的算法和组合方法。类似地,由于廉价多核商品计算机的性能提高,模糊作为一种可行的基于随机变异的测试方法也有希望。然而,结合符号执行和模糊,从而提供一个机会,以减轻彼此的缺点的可能性,还没有得到充分的探讨。例如,模糊可以加速符号执行中的路径探索,符号执行可以使模糊中的种子输入生成更有效。在我们看来,只有很少的混合解决方案提案以象征性的执行和模糊为中心。通过对77篇相关文献的分析,本文(1)对符号执行和模糊化的混合解决方案进行了综述,(2)分析了改进普通符号执行和模糊化的混合技术研究的差距,(3)提出了混合测试用例生成技术的新思路。
2017-12-19 cs.SE
Improving Random Testing via LLM-powered UI Tarpit Escaping for Mobile Apps
East China Normal University(华东师范大学);Shanghai Innovation Institute(上海创新 institute)
本文提出基于LLM的随机GUI测试方法,通过监控UI相似性识别陷阱并建议事件逃离,提升移动应用测试覆盖率和bug发现率,实验显示HybridMonkey和HybridDroidbot在12个应用上平均覆盖率提升54.8%和44.8%。
2026-04-13 cs.SE
Tree-Based versus Hybrid Graphical-Textual Model Editors: An Empirical Study of Testing Specifications
本文通过22名参与者的用户研究比较树模型编辑器与混合图形-文本编辑器,发现用户更偏好混合编辑器且在理解复杂条件时更快更自信,而树编辑器在分析有序列表时表现更优。
2024-07-22 cs.SE
Hybrid Fault-Driven Mutation Testing for Python
Simon Fraser University(西蒙菲莎大学);University of Ottawa(渥太华大学)
本文提出了一种基于静态和动态分析混合技术的Python变异测试方法,通过七种新的变异算子生成补充现有工具的变异体,提高测试覆盖率和发现缺陷的能力。
2026-07-22 cs.SE
Agentic RAG for Software Testing with Hybrid Vector-Graph and Multi-Agent Orchestration
提出基于混合向量-图与多智能体编排的智能体RAG系统,自动化生成QE工件,在SAP迁移等项目中将准确率提升至94.8%并显著缩短测试时间。
2025-10-12 cs.AI cs.SE
Flaky Test Recognition when Testing CPSs Using Hybrid Models
North Carolina State University(北卡罗来纳州立大学)
本研究在HyTest基础上整合TReVa与FlaRe形成HyTestTF,可在CPS开发早期阶段仅一轮额外测试中用混合模型识别不稳定测试用例与条件,实证显示其能正确区分不稳定与非不稳定测试用例
2026-08-10 cs.SE
Hybrid Intelligent Testing in Simulation-Based Verification
University of Bristol(布里斯托大学);Infineon Technologies(英飞凌科技)
基于仿真的硬件验证的高效和有效的测试是具有挑战性的。使用受约束的随机测试生成,可能需要数百万个测试来实现覆盖目标。绝大多数测试对覆盖进度没有贡献,但是它们消耗了验证资源。在本文中,我们提出了一种混合智能测试方法相结合的两种方法,以前被单独对待,即覆盖率导向的测试选择和新颖性驱动的验证。覆盖导向测试选择从覆盖反馈中学习,以使测试偏向最有效的测试。新颖性驱动验证学习识别和模拟与以前的刺激不同的刺激,从而减少模拟的数量并提高测试效率。我们讨论了每种方法的优势和局限性,我们展示了我们的方法如何解决每种方法的局限性,从而实现高效和有效的硬件测试。
2022-10-16 cs.AI cs.AR cs.LG
Adaptive and AI-Augmented Security Testing: A Systematic Survey of Program Analysis, Feedback-Driven Testing, and Hybrid Learning-Based Approaches
Mississippi State University(密西西比州立大学)
本文系统综述了自适应和AI增强的安全测试研究,探讨了程序分析、DevSecOps、反馈驱动模糊测试、LLM自动化测试生成及混合系统等五个领域,揭示了结构化程序表示与自适应测试机制之间的断层,并提出五个开放研究挑战。
2026-04-29 cs.CR cs.PL cs.SE
GraphDroid: Asynchronous LLM-Based Mobile App GUI Testing via History-Aware Exploration and Hybrid Intent Fulfillment
The Hong Kong University of Science and Technology(香港科技大学);Southern University of Science and Technology(南方科技大学);Guangzhou HKUST Fok Ying Tung Research Institute(广州香港科技大学霍英东研究院校);City University of Hong Kong(香港城市大学)
GraphDroid提出异步LLM驱动的GUI测试框架,通过历史感知探索和混合意图实现,在41个Android应用上提升覆盖率36.4%,成本降低至八分之一,并发现19个错误。
2026-09-10 cs.SE
Fragility of Layout-Based and Visual GUI Test Scripts: An Assessment Study on a Hybrid Mobile Application
内容:尽管混合移动应用程序的自动GUI测试存在不同的方法,但开发人员似乎并不普遍采用这种做法。这种低扩散的一个可能原因是技术的脆弱性,即当应用程序的GUI发生变化时,经常需要维护测试用例。目标:在本文中,我们对混合移动应用程序的测试用例所需的维护以及相关的脆弱性原因进行了评估。研究方法:我们评估了一个小的测试套件与布局为基础的测试工具(Appium)和一个视觉(EyeAutomate),并观察测试过程中所需的变化与GUI的app. Results:我们发现,20%的布局为基础的测试方法和30%的视觉测试方法至少要修改一次,并在3-4%的测试方法,每个版本引起的脆弱性。结论:GUI测试的脆弱性会导致大型应用程序测试套件的相关维护工作。脆弱性的几个主要原因已被确定为测试的混合应用程序,并从中推导出开发人员的指导方针。
2019-07-27 cs.SE
Test Case Generation and Test Oracle Support for Testing CPSs using Hybrid Models
North Carolina State University(北卡罗来纳州立大学);University of Nebraska-Lincoln(内布拉斯加大学林肯分校)
本文提出了一种基于混合模型的测试用例生成技术HYTEST,并配备相应的测试预言机,用于在CPSs开发早期生成测试用例,实证表明其检测故障的效果和效率优于基线技术。
2023-09-14 cs.RO cs.SE cs.SY
The Impact of Software Testing with Quantum Optimization Meets Machine Learning
Campbellsville University(坎贝尔斯维尔大学)
本文提出一种量子退火与机器学习结合的混合框架,用于优化CI/CD测试用例优先级排序,在Defects4J上实现缺陷检测效率提升25%、执行时间减少30%,并验证了其在混合量子-经典生态系统中的可扩展性。
2025-06-02 cs.AI cs.LG cs.SE
Vulnerability Detection: From Formal Verification to Large Language Models and Hybrid Approaches: A Comprehensive Overview
Eötvös Loránd University (ELTE)(厄特沃什·罗兰大学(ELTE));Technology Innovation Institute (TII)(技术创新研究院(TII));University of Oslo(奥斯陆大学);Cyentific AS(赛恩蒂菲克公司);Guelma University(盖勒马大学);The University of Manchester(曼彻斯特大学);Federal University of Amazonas(亚马逊联邦大学)
本文综述软件漏洞检测中的经典形式化方法、基于 LLM 的分析及混合技术,探讨结合形式化保证与大模型洞见以提升验证有效性和可扩展性。
2025-03-13 cs.AI cs.SE
Symbolic Techniques for Deep Learning: Challenges and Opportunities
University of California Los Angeles(加利福尼亚大学洛杉矶分校);University of Southern California(南加利福尼亚大学);Portland State University(波特兰州立大学)
随着深度学习框架数量的增加和某些框架的流行,它刺激了对这些框架采用的方法及其背后的推理的讨论。本调查的目标是研究符号技术如何用于深度学习。为了做到这一点,我们研究了一些当今最流行的深度学习框架,包括TensorFlow、Keras、PyTorch和MXNet。虽然这些框架彼此之间有很大的不同,但它们中的许多都使用符号技术,无论是符号执行,图形还是编程。我们把本文的重点放在符号技术上,因为它们不仅影响神经网络的构建方式,还影响它们的执行方式。符号技术的局限性导致了在深度学习中整合符号和非符号方面的努力,为符号技术开辟了新的可能性。例如,Apache MXNet的Gluon API通过混合在命令式编程和符号执行之间架起了一座桥梁。JANUS等框架试图将命令式程序翻译为符号图,而DeepCheck等方法则试图使用符号执行来分析和验证命令式神经网络程序。符号分析也与一种称为concolic测试的技术中的具体执行配对,以便更好地测试深度神经网络。我们对这些发展的研究只是说明了流行框架所采用的符号技术有机会被改变和利用以实现更好性能的许多方法中的一小部分。
2020-10-01 cs.LG cs.PL cs.SE
Towards API Testing Across Cloud and Edge
IBM Research(IBM研究院);IBM Services(IBM服务部);IBM Systems(IBM系统部)
API经济正在推动混合云和边缘环境中业务应用的数字化转型。为了使这种转换成功,需要对应用程序API组合进行端到端测试。即使在集中式云环境中,API组合的测试也具有挑战性,因为它需要覆盖功能和可靠性要求。场景的组合空间是巨大的,例如,API输入参数、API执行顺序和网络故障。混合云和边缘环境加剧了API测试的挑战,因为需要在动态广域网(可能跨越网络边界)之间协调测试执行。为了应对这一挑战,我们设想了一个测试框架,名为分布式软件测试工具包(DSTK)。DSTK利用组合测试设计(CTD)来满足功能需求,然后通过测试执行反馈和基于人工智能的搜索算法之间的幕后闭环自动满足可靠性需求。在闭环的每一次迭代中,搜索算法生成更多的可靠性测试场景以供下一步执行。具体而言,设想了五种可靠性测试:API的乱序执行、网络延迟和故障、API性能和吞吐量、API调用图模式的变化以及应用拓扑的变化。
2021-09-06 cs.AI cs.DC cs.SE
Towards Reliable Vector Database Management Systems: A Software Testing Roadmap for 2030
本文针对向量数据库管理系统(VDBMS)的测试挑战,通过实证研究缺陷,提出首个综合软件测试研究路线图,旨在提升其可靠性,支撑LLM与AI应用发展。
2025-02-28 cs.SE