EXPEREPAIR: Dual-Memory Enhanced LLM-based Repository-Level Program Repair
University of Chinese Academy of Sciences(中国科学院大学);State Key Laboratory of Intelligent Game, Institute of Software, CAS(智能游戏国家重点实验室,软件研究所,中国科学院);Beihang University(北京航空航天大学);York University(约克大学)
ExpeRepair通过双记忆系统提升LLM在仓库级程序修复中的表现,通过动态提示生成和历史修复经验复用,实现更高效的修复性能。
2026-05-08 cs.SE
SWE-bench Science: Can Coding Agents Resolve Engineering Tasks in Science?
本研究推出SWE-bench Science基准,含20个领域98个仓库的119项任务,评估发现最优智能体pass@1低于50%,揭示科学软件工程的挑战,分析四类失败机制并经消融实验明确科学知识的作用,为编码智能体研究提供测试平台。
2026-09-02 cs.CL cs.SE
Adversarial Testing of Automated Program Repair Agents for Security Vulnerabilities
York University(约克大学);George Mason University(乔治梅森大学);Columbia University(哥伦比亚大学)
本研究通过构建SWEADV基准并测试多个APR智能体,发现对抗性问题描述可诱导51.7%的恶意修复,现有检测机制准确率低,表明自主APR智能体尚不能安全用于生产。
2026-09-15 cs.CR cs.SE
CI-Repair-Bench: A Repository-Aware Benchmark for Automated Patch Validation via CI Workflows
Software Performance, Analysis, and Reliability (SPEAR) Lab, Concordia University(康科迪亚大学软件性能、分析与可靠性实验室)
CI-Repair-Bench通过真实GitHub Actions执行构建,提供仓库级程序修复基准,包含567个CI失败实例,细粒度评估12种CI错误类型,揭示自动化修复在局部和工具强制失败上效果最佳,但环境依赖等问题仍具挑战。
2026-04-29 cs.SE
Red Teaming Program Repair Agents: When Correct Patches can Hide Vulnerabilities
Columbia University(哥伦比亚大学);University of Southern California(南加州大学)
本文提出SWExploit,通过对抗性GitHub issue诱导APR智能体生成功能正确但含漏洞的补丁,实验攻击成功率最高达0.91,揭示仅以测试通过评估补丁安全性的范式缺陷。
2026-10-30 cs.SE
Evaluating Agent-based Program Repair at Google
Google(谷歌)
本文针对企业场景下的程序修复问题,构建了含178个谷歌缺陷的评估集,实现了适配谷歌环境的智能体Passerine,建立了工业级程序修复基准的性能基线。
2025-01-13 cs.AI cs.SE
Empirical Review of Java Program Repair Tools: A Large-Scale Experiment on 2,141 Bugs and 23,551 Repair Attempts
在过去的十年中,基于测试套件的自动程序修复的研究有了显着增长。每年,新的方法和实现都会出现在主要的软件工程场所。然而,大多数这些方法都是在单一的bug基准上进行评估的,其他研究人员也很少复制这些bug。在本文中,我们提出了一个大规模的实验,使用11个Java测试套件为基础的修复工具和5个基准的错误。我们的目标是更好地了解自动程序修复工具在大量基准测试中的现状。我们的调查是指导的假设,修复工具的可修复性可能不会在不同的基准程序错误的一般化。我们发现,这11个工具1)能够为5个基准测试中21%的bug生成补丁,2)与其他基准测试相比,在Defects 4J上具有更好的性能,通过为Defects 4J中47%的bug生成补丁,而其他基准测试中的bug只有10-30%。我们的实验总共包括23,551次修复尝试,我们用来找到非补丁生成的原因。本文对这些原因进行了分析,有助于维修工具设计人员改进技术和工具。
2019-05-28 cs.SE
Bug Report Specification Refinement with Trajectory Guidance for Automated Program Repair
Concordia University(康考迪亚大学);DePaul University(德保罗大学);University of Manitoba(曼尼托巴大学)
研究针对自动程序修复中错误报告规范不完善的问题,提出TrajSpec方法,通过轨迹引导收集证据并组织成三级表示,经审查生成细化报告,实验表明该方法能有效提高修复性能。
2026-07-10 cs.SE
From Historical Patches to Repair Plans: Outcome-Conditioned Reasoning for Repository-Level Program Repair
Concordia University(康科迪亚大学)
提出条件推理蒸馏(ConRAD),通过从已验证补丁反向重构修复推理并蒸馏出结果一致的阶段性修复计划,在推理时引导故障定位和补丁生成,无需微调或搜索,在SWE-Bench Lite上显著提升Pass@1。
2026-05-27 cs.SE
How Safe Are AI-Generated Patches? A Large-scale Study on Security Risks in LLM and Agentic Automated Program Repair on SWE-bench
Drexel University(德雷塞尔大学);Virginia Commonwealth University(弗吉尼亚共同wealth大学)
本研究评估了LLM和代理框架生成补丁的安全性,发现LLM引入新漏洞,代理工作流在自主权高时也产生漏洞,需考虑上下文因素进行风险评估。
2026-11-03 cs.CR cs.LG cs.SE
HEJ-Robust: A Robustness Benchmark for LLM-Based Automated Program Repair
Concordia University(康科迪亚大学)
本文提出HEJ-Robust基准,通过八种语义保持的代码转换生成1450个实例,评估五种微调LLM,在多种转换下模型性能下降超50%,揭示当前LLM修复模型缺乏对细微语法变化的鲁棒性。
2026-05-08 cs.SE
Experimental Settings in LLM-Based Program Repair: A Study of Inputs, Tool Access, Feedback, and Validation
Pennsylvania State University(宾夕法尼亚州立大学)
本研究针对基于LLM的程序修复实验设置不明确的问题,提出显式规范框架和机器可读模式,以提升可复现性和跨系统比较的清晰度。
2026-09-17 cs.SE
Probe to Generate: Program Variant-Guided Test Augmentation for Repository-Level Repair Benchmarks
Concordia University(康考迪亚大学)
本文提出STING框架,通过语义改变的程序变体增强回归测试,提高基准测试的可靠性。实验显示,77%的实例存在至少一个存活变体,测试覆盖率提升,修复率下降,揭示了基准测试的不足。
2026-08-07 cs.SE
A Comprehensive Study of Automatic Program Repair on the QuixBugs Benchmark
自动程序修复论文倾向于重复使用相同的基准。这对程序修复研究团体的研究结果的外部有效性构成了威胁。在本文中,我们进行了一个实证研究的自动修复的基准称为菜的错误,这是很少研究。本文首先分析了菜bug的特点;其次研究了10种程序修复工具对菜bug的修复效果;最后采用三种补丁正确性评估技术对菜bug中过拟合补丁的存在进行了综合研究。我们的主要成果是:1)菜Bugs中有16/40的bug程序可以用至少一个测试集足够的补丁来修复; 2)所考虑的工具在菜Bugs上总共生成了338个合理的补丁,其中53.3%的补丁根据我们的人工评估是过拟合的; 3)RGT_Evosuite、RGT_InputSampling和GT_Invariants三种自动补丁正确性评估技术的准确率达到98.2%,过拟合检测率分别为80.8%和58.3%。据我们所知,这是最大的菜虫自动修复的实证研究,结合了定量和定性的见解。我们所有的实验结果都可以在GitHub上公开获得,以促进未来对自动程序修复的研究。
2020-09-28 cs.SE
Critical Review of BugSwarm for Fault Localization and Program Repair
基准测试在评估解决方案的效率和有效性以自动化软件开发生命周期的几个阶段方面发挥着重要作用。此外,如果设计得好,它们也可以作为一个重要的人工制品来比较不同的方法。BugSwarm是最近发布的一个基准测试,其中包含3,091对失败和通过的持续集成构建。根据作者的说法,基准测试的设计考虑到了自动程序修复和故障定位社区。鉴于针对这些社区的基准应该具有几个特征(例如,一个错误的声明需要存在),我们已经剖析了基准,以充分了解基准是否适合这些社区。我们的批判性分析发现,在基准测试中有几个限制:只有112/3,091(3.6%)适合评估自动故障定位或程序修复技术。
2019-05-22 cs.SE
Writing Bug Reports for Software Repair Agents: What Information Matters Most?
USI Università della Svizzera italiana(瑞士意大利语大学);University of Sannio(萨尼奥大学)
研究软件开发中为软件修复代理编写错误报告的问题,通过对错误报告分类标注,用三个LLM主干运行mini-swe-agent,拟合回归模型,发现定位线索和建议修复等信息对代理成功更重要,传统对人类有用的信息作用较小。
2026-07-13 cs.SE
SWE-Hub: A Unified Production System for Scalable, Executable Software Engineering Tasks
Qianfan Team, Baidu Inc.(百度公司)
SWE-Hub通过统一的生产系统解决软件工程任务中可执行、可扩展和现实数据的稀缺问题,整合环境自动化、大规模合成和多样化任务生成,实现持续交付可执行任务。
2026-02-28 cs.AI cs.SE
SWE-Sharp-Bench: A Reproducible Benchmark for C# Software Engineering Tasks
Microsoft(微软)
针对C#未被纳入软件工程基准的问题,本文引入含150个实例的可复现基准SWE-Sharp-Bench,评估发现C#任务解决率(40%)远低于Python(70%),并开源该基准与构建流程。
2025-11-18 cs.SE
AdaRepair-Mem: Adaptive Experience Orchestration for Repository-Level Program Repair
Zhejiang University(浙江大学);Tencent(腾讯)
针对仓库级程序修复中记忆不平衡、冗余和阶段错配问题,提出自适应经验检索框架,通过覆盖感知、质量选择和阶段路由提升修复性能。
2026-09-18 cs.AI cs.SE
To Run or Not to Run: Analyzing the Cost-Effectiveness of Code Execution in LLM-Based Program Repair
Beihang University(北京航空航天大学);Wuhan University(武汉大学);Singapore Management University(新加坡管理大学)
通过分析SWE-bench上的代理轨迹和端到端修复尝试,发现代码执行在LLM程序修复中普遍使用但效益不均,限制执行可节省成本且不影响修复成功率。
2026-06-26 cs.SE
DroidBugs: An Android Benchmark for Automated Program Repair
自动程序修复是一个新兴的研究领域。针对不同的程序设计语言和平台,已经提出了许多APR技术,并在几个基准上进行了评估。然而,据我们所知,目前还没有一个基于移动项目的定义良好的基准,因此,利用APR方法进行移动开发存在差距。因此,关于全球Android应用程序的数量,我们介绍了DroidBugs,这是一个基于对360个Android开放项目的分析的介绍性基准,每个项目的下载量都超过5,000次。从五个应用程序中,DroidBugs包含13个单一的bug,这些bug根据暴露它们的测试类型进行分类。通过使用一个名为Astor 4Android的APR工具和两个常见的故障定位策略,我们观察到发现和修复移动错误是多么具有挑战性。
2018-10-12 cs.SE
SWE-Synth: Synthesizing Verifiable Bug-Fix Data to Enable Large Language Models in Resolving Real-World Bugs
FPT Software AI Center, Viet Nam(越南FPT软件AI中心);Nanyang Technological University, Singapore(新加坡南洋理工大学);University of Texas at Dallas, US(美国德克萨斯大学达拉斯分校)
SWE-Synth通过合成可验证的bug修复数据集,提升大语言模型在解决现实bug中的性能。
2025-12-20 cs.AI cs.SE
Socratic-SWE: Self-Evolving Coding Agents via Trace-Derived Agent Skills
AI Data, Alibaba Group(阿里云数据);Shanghai Jiao Tong University(上海交通大学)
提出Socratic-SWE闭环自进化框架,通过将智能体历史求解轨迹蒸馏为结构化技能,生成针对性修复任务,实现编码智能体的持续自我改进。
2026-06-05 cs.AI cs.SE
SWE-Exp: Experience-Driven Software Issue Resolution
Shanghai Jiao Tong University(上海交通大学);Huawei(华为);Xidian University(西安电子科技大学)
SWE-Exp通过提炼历史经验实现软件问题解决的持续学习,显著提升修复效率。
2026-02-02 cs.CL cs.LG cs.SE
How Do LLMs Read Bug Reports? An Empirical Study of Attention in LLMs for Automated Program Repair
Drexel University(德雷塞尔大学);IBM Research(IBM研究院)
研究基于大语言模型的自动程序修复中模型注意力模式,通过分析319个真实错误,探究其在错误报告各部分的分布、成功与失败修复的注意力差异及与开发者重视信息的比较,发现注意力分配错误是失败关键因素,为改进系统提供见解。
2026-07-29 cs.AI cs.SE
Detect--Repair--Verify for LLM-Generated Code: A Multi-Language, Multi-Granularity Empirical Study
Concordia University(麦科德大学)
本文通过检测-修复-验证工作流评估LLM生成代码的安全性,发现多阶段修复能提升安全性和正确性,但修复可靠性依赖于修复范围和测试基础。
2026-03-24 cs.SE
FeedbackEval: A Benchmark for Evaluating Large Language Models in Feedback-Driven Code Repair Tasks
School of Software Engineering Sun Yat-sen University(中山大学软件学院);The Hong Kong University of Science and Technology(香港科技大学);School of Computer Science and Engineering Nanyang Technological University(南洋理工大学计算机科学与工程学院);School of Computer Science Fudan University(复旦大学计算机科学学院)
FeedbackEval通过系统性基准评估LLMs在反馈驱动的代码修复任务中的表现,揭示了不同反馈类型和提示结构对修复效果的影响。
2026-02-26 cs.SE
SWE-Bench+: Enhanced Coding Benchmark for LLMs
本研究针对SWE-bench编程基准开展数据质量实证分析,发现其存在解决方案泄露、测试用例薄弱、潜在数据泄露等问题,过滤问题样本后SWE-Agent+GPT-4的解决率大幅下降,相关问题也存在于该基准的两个变体中。
2024-10-10 cs.SE
Defects4C: Benchmarking Large Language Model Repair Capability with C/C++ Bugs
Singapore Management University(新加坡管理大学);Tianjin University(天津大学);State Key Laboratory for Novel Software Technology, Nanjing University(南京大学软件新技术国家重点实验室);Nanyang Technological University(南洋理工大学)
Defects4C通过提供高质量C/C++漏洞基准测试,评估大语言模型在修复C/C++程序中的有效性,揭示当前技术的局限性并推动未来研究。
2025-12-02 cs.SE
RepoRepair: Leveraging Code Documentation for Repository-Level Automated Program Repair
State Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学);Human Language Technology Research Institute, University of Texas at Dallas(人机语言技术研究院,德克萨斯大学达拉斯分校)
RepoRepair通过生成代码文档增强LLM能力,实现仓库级别的自动程序修复,取得高修复率和低成本的优异表现。
2026-03-01 cs.AI cs.SE
You Cannot Fix What You Cannot Find! An Investigation of Fault Localization Bias in Benchmarking Automated Program Repair Systems
适当的基准测试自动程序修复(APR)系统应有助于开发和采用的研究成果的从业者。为此,研究界必须通过可靠地比较最先进的工具,以更好地了解它们的优缺点,确保达到重要的里程碑。在这项工作中,我们确定和调查的故障定位(FL)在修复管道的步骤所造成的实际偏差。我们建议强调文献中使用的不同故障定位配置,以及它们在应用于Defects 4J基准测试时对APR系统的影响。然后,我们探讨的性能变化,可以通过“调整”FL步骤。最终,我们希望创造一个新的动力:(1)关于FL的APR实验程序的全面披露,(2)修复Defects 4J中错误的现实期望,以及(3)最先进的APR系统之间的可靠性能比较,以及我们彻底评估的kPAR修复工具的基线性能结果。我们的主要发现包括:(a)目前只有缺陷4J缺陷的一个子集可以通过常用的FL技术定位;(b)比较最先进的APR系统的当前实践(即,计算已修复错误的数量)由于FL配置的偏差而潜在地具有误导性;以及(c)APR作者没有适当地限定他们关于在APR系统中实现的不同调谐参数的性能成就。
2019-02-15 cs.SE
Specification-Driven Benchmarking for Automated Program Repair From Static Corpora to Executable Specifications
Algoma University(阿尔戈马大学)
提出规范驱动的基准测试范式,用可执行规范定义基准并通过生成流水线实现,实现基准的声明式实验设计。
2026-09-25 cs.SE
BoostAPR: Boosting Automated Program Repair via Execution-Grounded Reinforcement Learning with Dual Reward Models
State Key Laboratory of Networking and Switching Technology(网络与交换技术国家重点实验室);Beijing University of Posts and Telecommunications(北京邮电大学);University of Luxembourg(卢森堡大学)
BoostAPR通过基于执行的强化学习与双奖励模型,解决程序修复中反馈稀疏和奖励粗粒度的问题,实现40.7%的SWE-bench Verified准确率,展现强大的跨语言泛化能力。
2026-09-21 cs.AI cs.SE
MemRepair: Hierarchical Memory for Agentic Repository-Level Vulnerability Repair
Beihang University(北京航空航天大学);The University of Hong Kong(香港大学)
本研究提出MemRepair,一种增强记忆的代理框架,通过分层记忆和动态反馈循环提高漏洞修复的可靠性,实现了在多个仓库级别的漏洞修复基准上的高修复率。
2026-05-17 cs.AI cs.CL cs.SE
Automated Testing and Repair for Verified Compilers Generated by a Coding Agent
National University of Singapore(新加坡国立大学);Massachusetts Institute of Technology(麻省理工学院)
该研究针对编码智能体生成的验证编译器,提出了基于智能体的自动化测试与修复系统,经评估其在Axon编译器上无奖励黑客攻击问题,可有效开展测试与修复。
2026-08-03 cs.SE
Learning from Repair Experience: Self-Evolving Agents for Automated Vulnerability Repair
Nanjing University of Science and Technology(南京理工大学);Nanjing University(南京大学);Technical University of Munich(慕尼黑工业大学)
提出EvoRepair框架,通过循环学习-修复过程积累和复用漏洞修复经验,在多个基准上显著提升LLM的自动漏洞修复性能。
2026-10-22 cs.SE
SWE-ABS: Adversarial Benchmark Strengthening Exposes Inflated Success Rates on Test-based Benchmark
Lero, the Research Ireland Centre for Software, University of Limerick(利默里克大学 Lero 爱尔兰软件研究中心);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Hong Kong University of Science and Technology(香港科技大学);University of Ottawa(渥太华大学)
SWE-ABS通过对抗性测试揭示测试基准中被高估的成功率,显著提升测试套件质量并降低顶级代理的得分。
2026-02-28 cs.SE
ARISE: A Repository-level Graph Representation and Toolset for Agentic Program Repair and Fault Localization
针对现有图智能体缺乏过程内数据流建模的问题,提出多粒度程序图工具集ARISE,支持语句级数据流切片查询,大幅提升智能体故障定位与程序修复性能。
2026-07-07 cs.AI cs.SE
Does SWE-Bench-Verified Test Agent Ability or Model Memory?
Central Peel Secondary School(中央皮尔中学);University of Waterloo(滑铁卢大学)
研究发现SWE-Bench-Verified基准可能反映模型训练记忆而非真实问题解决能力,建议转向更注重污染控制的新数据集。
2025-12-22 cs.SE
Enhancing repository-level software repair via repository-aware knowledge graphs
针对仓库级软件修复中语义鸿沟等问题,提出融合仓库感知知识图谱与路径引导机制的KGCompass,在SWE-bench Lite上实现了跨多模型的显著修复性能提升,兼具模型无关性与成本效益。
2025-10-03 cs.SE
FailureMem: A Failure-Aware Multimodal Framework for Autonomous Software Repair
Nanjing University(南京大学);SenseTime(秒速);The Chinese University of Hong Kong(香港中文大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文提出FailureMem框架,通过融合工作流代理、主动感知工具和故障记忆库,提升多模态自动程序修复的效率与准确性,实验表明其在GUI修复任务中解决率提升3.7%。
2026-03-18 cs.AI cs.SE
ArkEval: Benchmarking and Evaluating Automated CodeRepair for ArkTS
Shanghai Jiao Tong University(上海交通大学);Zhejiang University(浙江大学)
ArkEval为ArkTS自动代码修复提供首个全面基准,通过挖掘官方仓库问题并采用LLM测试机制,评估了四种先进模型的修复能力,揭示了LLM在该领域的现状与局限。
2026-08-21 cs.SE
Rethinking Kernel Program Repair: Benchmarking and Enhancing LLMs with RGym
University of California, Riverside(加州大学河滨分校);Columbia University(哥伦比亚大学)
本研究提出RGym框架,通过改进的定位技术和提示结构,提升LLMs在Linux内核程序修复中的性能和效率。
2025-11-19 cs.SE
OdinEval: A Reproducible Benchmark for LLM-Based Program Repair in the Odin Programming Language
Shanghai Jiao Tong University(上海交通大学);Zhejiang University(浙江大学)
针对Odin语言程序修复的空白,本文构建可复现基准OdinEval,评估6个语言模型,Kimi-K3解决率66.7%、Qwen3.8-Max复现率96.4%,发布配套多类资源。
2026-08-20 cs.SE
Repair Ingredients Are All You Need: Improving Large Language Model-Based Program Repair via Repair Ingredients Search
提出ReinFix框架,使LLM在推理和解决阶段自主搜索修复要素,在Defects4J基准上显著超越SOTA基线,提升程序修复准确率。
2025-06-29 cs.SE
Can Language Models Go Beyond Coding? Assessing the Capability of Language Models to Build Real-World Systems
Nankai University(南开大学);Haihe Laboratory of Information Technology Application Innovation(海河信息技术应用创新实验室);Key Laboratory of Data and Intelligent System Security, Ministry of Education(教育部数据与智能系统安全重点实验室);Tianjin Key Laboratory of Software Experience and Human Computer Interaction(天津市软件体验与人机交互重点实验室);Tsinghua University(清华大学)
本文提出Build-bench基准,评估语言模型在跨指令集架构迁移中修复构建失败的能力,发现当前模型最大成功率为63.19%,并揭示了不同模型在工具使用上的差异。
2026-05-08 cs.SE
Towards a Benchmark Set for Program Repair Based on Partial Fixes
软件缺陷显著增加了软件成本,并增加了系统故障的风险。近年来,已经提出了许多自动程序修复方法来自动修复不期望的程序行为。尽管他们取得了巨大的成功,但一些具体的问题,如用部分修复来修复bug,仍然没有得到解决。对已知软件问题的部分修复是程序员第一次尝试修复问题失败。即使失败,此修复尝试仍然会传递重要信息,例如可疑软件区域和错误类型。在这项工作中,我们不提出一种方法,部分修复程序修复,而是回答一个初步的问题:部分修复经常发生足够的,一般来说,是相关的自动程序修复的研究领域?我们在GitHub上抓取了1500个开源C代码库来进行部分修复。其结果是基于部分修复的自动程序修复的2204个基准任务的基准集。基准集是开源的,并开放进一步的贡献和改进。
2021-07-16 cs.PL cs.SE
AppEval: A Unified Benchmark for LLM-Based Mobile Application Repair in ArkTS, Swift, and Kotlin
Shanghai Jiao Tong University(上海交通大学);Zhejiang University(浙江大学)
本研究提出AppEval基准框架,评估基于大语言模型的移动应用修复智能体在ArkTS、Swift、Kotlin平台的表现,发现其性能因智能体而异,且运行时感知的接受标准对有意义的比较至关重要。
2026-08-20 cs.SE
Attention Please: Consider Mockito when Evaluating Newly Proposed Automated Program Repair Techniques
自动程序修复(Automated program repair,APR)技术近年来引起了广泛的关注。与此同时,许多基准测试已经建立了评估APR技术的性能,其中Defects 4J是使用最广泛的基准测试之一。然而,在Mockito,一个项目中的缺陷增强后的版本的Defects 4J,没有得到太多的关注,最近的研究。在本文中,我们的目的是调查评估APR技术时考虑Mockito错误的必要性。我们的研究结果表明:1)与其他项目的bug相比,Mockito bug的修复并不复杂; 2)与修复Mockito bug所需的模式相比,最先进的工具修复的bug共享相同的修复模式;但是,在此情况下,3)最先进的工具在Mockito错误上表现不佳(Nopol只能正确修复一个bug,而SimFix和CapGen无法修复Mockito中的任何bug,即使所有bug位置都已暴露)。从这些结果中,我们得出结论,现有的APR技术可能是过拟合的评估科目,我们应该考虑Mockito,甚至更多的错误,从其他项目,当评估新提出的APR技术。我们进一步找出了一个独特的修复行动所需的修复Mockito错误命名为外部包添加。从与源代码相关联的测试代码中恢复外部包对于扩大搜索空间是可行的,并且该动作可以用现有的修复动作来增强以推进现有技术。
2019-01-08 cs.SE
SWE-Refactor: A Repository-Level Benchmark for Real-World LLM-Based Code Refactoring
Concordia University(康考迪亚大学)
SWE-Refactor是一个面向真实世界的基于大语言模型的代码重构仓库级基准,通过1099个Java项目中的重构实例评估九种LLMs,揭示复杂重构的失败率较高。
2026-02-03 cs.SE
Revisiting Feedback-Driven LLM Code Repair: A Replication and Exploratory Java Extension
Polytechnique Montréal(蒙特利尔高等理工学院)
该研究复现了FeedbackEval基准的Python代码修复实验,扩展构建了Java代码修复基准,发现Python与Java场景下反馈有效性排名存在差异,提示需开展更严谨的多语言评估。
2026-09-02 cs.SE
Are "Solved Issues" in SWE-bench Really Solved Correctly? An Empirical Study
本研究通过新颖的差分补丁测试技术PatchDiff,实证揭示SWE-bench验证机制存在缺陷,导致部分不正确补丁被误判为正确,从而高估了问题解决工具的实际性能。
2025-09-09 cs.SE
Vul4Py: Benchmarking Automated Vulnerability Repair in Python with Paired Exploit and Functional Oracles
Singapore Management University(新加坡管理大学);Monash University(蒙纳士大学);University of New South Wales(新南威尔士大学)
本研究提出Vul4Py基准测试,含100个Python真实漏洞及配对预言机,对比三类AVR方法,发现智能体OpenHands修复漏洞数远超同类方法,配对预言机保障结果可信。
2026-08-04 cs.SE
Specification Vibing for Automated Program Repair
The University of Manchester(曼彻斯特大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
VibeRepair通过行为规范修复替代传统代码编辑,提升自动化程序修复的准确性和泛化能力。
2026-02-09 cs.SE