Cross-Cutting Security Analysis of LLM-Generated Code via Metamorphic Testing and Association Rule Mining
University of Montana（蒙大拿大学）；University of Oklahoma（俄克拉荷马大学）；Central Washington University（华盛顿中央大学）
研究针对LLM生成代码的安全漏洞，提出结合变形测试与关联规则挖掘的框架，定义九个MRs并应用于3700个代码片段，揭示共同违反结构与横切模式，还进行提示级风险分析，发现不安全代码生成具结构化和提示依赖性，推动相关验证与干预。
2026-07-15 cs.CR cs.SE
Prompt Structure Redistributes, Not Reduces: An Empirical Analysis of Security-Weaknesses in LLM-Generated Python Code
Toronto Metropolitan University（多伦多都会大学）；Colorado State University（科罗拉多州立大学）
该研究通过424个安全敏感Python任务，对比GPT-4o与LLaMA 3.1-8B在5种提示变体下的代码生成效果，发现结构化提示可提升合规性但会重新分布安全风险，无法替代稳健安全控制。
2026-08-26 cs.CR cs.SE
The Language of Security: How Prompt Syntax Shapes Secure Code Generation in Open LLMs
University of Salerno（萨莱诺大学）；Aalborg University（奥尔堡大学）；Hamburg University of Technology（汉堡工业大学）
研究开放语言模型中提示语法对安全代码生成的影响，采用解析器驱动方法生成句法变体并评估，发现特定句法元素及其位置影响代码安全性，为降低LLM辅助开发漏洞风险提供指导。
2026-07-20 cs.CR cs.SE
"You still have to study" -- On the Security of LLM generated code
该研究针对4款主流LLM生成代码的安全性展开分析，以MITRE CWE为标准测试Python与Javascript代码，发现初始生成代码不安全占比最高达65%，经熟练工程师人工引导后可接近100%安全，凸显人工安全指导的必要性。
2024-08-13 cs.CR cs.LG cs.SE
On Fixing Insecure AI-Generated Code through Model Fine-Tuning and Prompting Strategies
Massey University（梅西大学）；Wuhan University（武汉大学）；Polytechnique Montréal（蒙特利尔理工大学）
本文系统研究了通过模型微调和提示策略增强AI生成代码安全性的方法，分析了不同策略和模型对安全性的提升效果，发现安全改进高度依赖策略和模型，且修复某些漏洞可能引入新漏洞。
2026-05-07 cs.SE
Prompting Techniques for Secure Code Generation: A Systematic Investigation
Hamburg University of Technology（汉堡工业大学）
本研究系统调查了不同提示技术对LLM生成代码安全性的影响，在GPT-3、GPT-3.5和GPT-4上评估了多种技术，发现递归批评与改进（RCI）能有效减少安全弱点。
2025-02-26 cs.AI cs.CR cs.LG
Benchmarking Prompt Engineering Techniques for Secure Code Generation with GPT Models
University of Applied Sciences and Arts Northwestern Switzerland（西北瑞士应用科学与艺术大学）；University of Applied Sciences（应用科学大学）
本文构建基准测试多种提示工程技术对GPT模型生成安全代码的影响，发现安全聚焦提示前缀可使GPT-4o系列漏洞率降56%，迭代提示能让模型修复41.9%-68.7%漏洞，还提出可应用于开发工作流的提示智能体。
2025-02-09 cs.AI cs.CR cs.SE
iCodeReviewer: Improving Secure Code Review with Mixture of Prompts
针对安全代码审查自动化方法精确度和覆盖率有限的问题，提出基于LLM的iCodeReviewer，采用混合提示词架构和路由算法减少误报，在安全问题识别与定位上取得63.98%的F1分数，生产环境中审查评论接受率达84%。
2025-10-14 cs.SE
PromSec: Prompt Optimization for Secure Generation of Functional Source Code with Large Language Models (LLMs)
New Jersey Institute of Technology（新泽西理工学院）；Qatar Computing Research Institute（卡塔尔计算研究所）
PromSec提出一种结合生成对抗图神经网络与LLM的交互式提示词优化方法，通过双目标优化在保持代码功能的同时显著消除安全漏洞，并大幅降低推理成本，且提示词可跨模型迁移。
2024-09-19 cs.LG cs.SE
Are AI-assisted Development Tools Immune to Prompt Injection?
New York Institute of Technology（纽约理工学院）
本文研究了基于MCP协议的AI辅助开发工具在提示注入攻击下的安全性，分析了七种常用工具的检测与缓解机制，揭示了其在安全特性上的显著差异。
2026-03-23 cs.CR cs.SE
An Insight into Security Code Review with LLMs: Capabilities, Obstacles, and Influential Factors
School of Computer Science, Wuhan University, China（武汉大学计算机科学学院）；School of Mathematical and Computational Sciences, Massey University（梅西大学数学与计算科学学院）；School of Computing Technologies, RMIT University, Australia（皇家墨尔本理工学院计算技术学院）
本文通过实证研究探讨大语言模型在安全代码审查中的潜力，比较了七种LLM与静态分析工具的性能，发现LLM在检测安全缺陷方面表现优异，且特定提示策略对性能有显著影响。
2026-05-09 cs.AI cs.SE
Security-First Evaluation of Text-to-Terraform: Benchmarking LLMs and SLMs for Secure IaC Generation
AI Horizon Labs（AI地平线实验室）；Universidade Federal do Pampa (UNIPAMPA)（潘帕联邦大学）
该研究针对7款LLMs与SLMs开展Terraform生成基准测试，发现IaC的语法有效性与安全合规性正交，仅靠提示工程不足，自动化多工具扫描是必要补充。
2026-08-05 cs.AI cs.CR cs.ET
How Secure is Secure Code Generation? Adversarial Prompts Put LLM Defenses to the Test
University of Luxembourg（卢森堡大学）
本文评估了生成安全代码方法在对抗性条件下的鲁棒性，发现现有方法在安全性和功能性上存在显著缺陷，提出改进最佳实践。
2026-01-11 cs.CR cs.SE
Security Degradation in Iterative AI Code Generation -- A Systematic Analysis of the Paradox
Department of Analytics and Information Systems（分析与信息系统系）；University of San Francisco（旧金山大学）；Department of Applied AI and Industry Innovation（应用人工智能与产业创新系）；Vector Institute for Artificial Intelligence（人工智能研究院）；Department of Management Science and Information Systems（管理科学与信息系统系）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）
本文通过400个样本、40轮迭代的受控实验，发现AI代码生成经五次迭代后关键漏洞增加37.6%，挑战了迭代改进提升安全性的假设，并提出人工验证指南以缓解风险。
2025-09-26 cs.AI cs.CL cs.CR
AgentArmor: Enforcing Program Analysis on Agent Runtime Trace to Defend Against Prompt Injection
针对大语言模型智能体易受提示注入攻击的问题，提出程序分析框架AgentArmor，通过将运行时轨迹转为结构化程序表示开展安全检测，在AgentDojo基准上可将攻击成功率降至3%，效用损失仅1%。
2025-11-18 cs.AI cs.CL cs.CR
From Solitary Directives to Interactive Encouragement! LLM Secure Code Generation by Natural Language Prompting
本文提出SecCode框架，通过仅使用自然语言提示的交互式鼓励提示（EP）技术，经多阶段迭代实现代码生成、漏洞检测修复与安全精化，在多个大模型和基准上显著提升安全代码生成效果。
2024-10-18 cs.CR cs.PL cs.SE
PoCEvolve: Generating Proof-of-Concept Exploits from Security Patches with Vulnerability-Aware Prompt Evolution
The University of Sydney（悉尼大学）；Singapore Management University（新加坡管理大学）；Monash University（莫纳什大学）
研究修复提交与详细漏洞报告可用性的延迟问题，提出PoCEvolve框架，可从漏洞修复提交直接生成概念验证漏洞利用程序，通过评估相关上下文指导提示进化，在不同模型上有不同成功率提升。
2026-07-27 cs.CR cs.SE
Streamlining Security Vulnerability Triage with Large Language Models
提出CASEY方法，利用大语言模型结合提示工程和上下文信息，自动识别安全漏洞的CWE并评估严重性，准确率分别达68%和73.6%，有效提升漏洞分类效率。
2025-01-31 cs.SE
Minimal Prompt Perturbations Lead to Code Vulnerabilities: Prompt Fragility and Hidden-State Signals in Coding LLMs
IEM, HES-SO, Le Foyer, Techno-Pôle 1, Sierre, Switzerland（瑞士苏黎世联邦理工学院（HES-SO）技术园区1号，西尔尔）；Cyber-Defence Campus, armasuisse Science and Technology, Thun, Switzerland（瑞士图恩 Cyber-Defence 营地，armasuisse 科学与技术）
本文通过token级突变实验，发现微小提示扰动（如单字符变化）即可使LLM生成代码从安全变为脆弱，并利用隐藏状态分析揭示输入处理漏洞比安全默认值漏洞更可预测。
2026-05-28 cs.CL cs.CR cs.SE
WildCode Revisited: A Comprehensive Empirical Study on the Security of LLM-Generated Code
Sheridan College（谢里丹学院）；Queen’s University（女王大学）；Université du Québec en Outaouais (UQO)（魁北克大学瓦塔瓦校区）；Concordia University（康科迪亚大学）
通过大规模实证分析真实场景下 ChatGPT 生成的代码，研究其正确性与安全性，并评估常见提示工程策略的有效性，发现 LLM 生成的代码在安全性方面经常不足。
2026-06-03 cs.CR cs.SE
LLMs for Qualitative Data Analysis Fail on Security-specificComments in Human Experiments
University of Trento（特伦托大学）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
本文研究了大型语言模型在自动标注技术安全评论中的有效性，发现尽管模型在某些情况下表现提升，但无法可靠替代人工标注。
2026-04-12 cs.AI cs.SE
An Empirical Security Evaluation of LLM-Generated Cryptographic Rust Code
Texas A&M University–San Antonio（德克萨斯农工大学圣安东尼奥分校）
本文评估了三种LLM生成的加密Rust代码的安全性，发现通用工具不足，提示策略对结果影响显著，且存在nonce重用等系统性问题。
2026-04-29 cs.CR cs.SE
A Study of Cursorrules Files in GitHub Open Source Projects
Leiden Institute of Advanced Computer Science, Leiden University（莱顿大学高级计算机科学研究所）
本研究对GitHub开源项目中的.cursorrules文件开展实证研究，明确其分布、内容特征及与.mdc文件的主题连续性，揭示其多用于小型非专业项目的现状。
2026-08-12 cs.SE
Model Context Protocol Threat Modeling and Analyzing Vulnerabilities to Prompt Injection with Tool Poisoning
New York Institute of Technology（纽约理工学院）
本文基于STRIDE和DREAD框架对MCP五个关键组件进行威胁建模，发现工具污染是主要客户端漏洞，提出多层防御策略以提升AI代理生态的安全性。
2026-03-23 cs.CR cs.SE
Evaluating and Preventing Security Smells in AI-Generated Ansible Code
School of Computing and Mathematical Sciences, University of Waikato（怀卡托大学计算与数学科学学院）
该研究评估AI生成Ansible代码的安全隐患，提出扩展CO-STAR框架的方法，使4/16模型生成合规代码，领先模型CIS合规率达95%-100%，代码质量提升19%-49%。
2026-08-27 cs.AI cs.CR cs.SE
Do Influence Tactics Matter? Investigating Prompt Framing Effects in LLM Code Generation
Extended author information available on the last page of the article
本研究首次大规模实证探究基于心理学的影响策略诱导的提示词框架对LLM代码生成的影响，发现强调紧迫性的框架会降低代码正确性与安全性，为设计人机交互提供实践见解。
2026-08-13 cs.AI cs.CL cs.SE
From Retrieved Evidence to Security Outcomes: A Data-Driven Analysis of Java Security API Misuse in LLM-Generated Code
School of Computer Science University of Auckland Auckland, New Zealand
本研究复制并扩展了Mousavi等人的工作，评估GPT-5.5和Llama-3.3-70B-Instruct在Java安全API（JCA和JSSE）使用中的误用情况，发现外部安全知识能显著改善但效果依赖模型，且误用问题仍未消除。
2026-10-04 cs.CR cs.SE
Broken by Default: A Formal Verification Study of Security Vulnerabilities in AI-Generated Code
Cobalt AI
研究通过正式验证分析3500个由七个广泛部署的LLM生成的代码片段，发现55.8%存在安全漏洞，GPT-4o漏洞率最高，但无模型达到D级以上，运行时崩溃验证六项发现，辅助实验显示安全指令、行业工具和模型自身漏洞识别率差异显著。
2026-04-08 cs.AI cs.CR cs.SE
Compared to What? A Human-Anchored Security Benchmark for LLM-Generated Infrastructure-as-Code
该研究推出GenIaC-SecBench基准，对比大语言模型与人类生成IaC的漏洞密度，发现模型漏洞密度为人类的3.21-3.87倍，供应商扩展思维表现优于提示思维链，还得出可部署性与漏洞无关联等结论，相关代码数据已公开。
2026-09-22 cs.AI cs.CR cs.MA
