LoCoBench-Agent: An Interactive Benchmark for LLM Agents in Long-Context Software Engineering
Salesforce AI Research(Salesforce AI研究院)
针对现有长上下文代码基准无法评估多轮交互编码智能体的问题,本文提出LoCoBench-Agent交互式评估框架,覆盖多场景多指标长上下文测评,通过实验揭示智能体长上下文性能规律。
2025-11-17 cs.AI cs.SE
A Decade in a Day: Synthesizing Agent-Native Interfaces from Human-Oriented Software Evolution
LIGHTSPEED(光速)
针对大型语言模型智能体与现有桌面界面不匹配的问题,引入DeskIF-Bench基准,开发ANIS框架合成智能体原生界面,实验显示其可提升智能体任务成功率并减少令牌用量。
2026-10-14 cs.AI cs.SE
Why Software Engineering Is Indispensable in the Age of Coding Agents
Politecnico di Milano(米兰理工大学)
本文论证AI编码智能体使软件工程和工程师更关键,指出LLM的结构性缺陷需通过方法论、领域、设计和过程四类知识杠杆来弥补,工程师在其中扮演核心角色。
2026-10-14 cs.AI cs.SE
Evaluating Software Development Agents: Patch Patterns, Code Quality, and Issue Complexity in Real-World GitHub Scenarios
Centre for Research on Intelligent Software Engineering(智能软件工程研究中心);School of Computing and Information Systems(计算与信息系统学院);Singapore Management University(新加坡管理大学)
本研究通过评估10个顶级智能体在SWE-Bench Verified中500个真实GitHub问题上生成的4,892个补丁,系统分析了补丁模式、代码质量与问题复杂度,揭示了现有基准的测试覆盖局限,并指出任务分解可提升智能体在复杂代码库上的表现。
2024-12-27 cs.AI cs.SE
OrcaLoca: An LLM Agent Framework for Software Issue Localization
University of California, San Diego, USA(加州大学圣迭戈分校);Intel Corporation(英特尔公司)
针对现有软件问题定位方法效果不佳的问题,本文提出集成优先级调度、相关性评分动作分解与距离感知上下文剪枝的OrcaLoca框架,在SWE-bench Lite上取得开源SOTA定位效果,还提升了下游补丁生成的解决率。
2025-10-10 cs.AI cs.SE
Supporting software engineering tasks with agentic AI: Demonstration on document retrieval and test scenario generation
Gratex International(格拉特克斯国际);Department of Applied Informatics Faculty of Mathematics, Physics and Informatics Comenius University(应用信息学院数学、物理和信息学院康门ius大学)
本文提出利用代理AI解决软件工程中的文档检索和测试场景生成问题,通过专用代理处理不同任务,提升软件开发效率。
2026-02-04 cs.AI cs.SE
Reliable and Developer-Aligned Evaluation of Agents for Software Engineering
Delft University of Technology(代尔夫特理工大学)
研究针对大语言模型驱动智能体评估技术的局限,提出基于实际软件开发实践的综合评估方法,通过污染感知、实际行为评估及轨迹感知基准指标,来弥合差距,实现可靠且与开发者一致的评估。
2026-07-09 cs.AI cs.SE
Large Language Model-Based Agents for Software Engineering: A Survey
Fudan University(复旦大学);Nanyang Technological University(南洋理工大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文综述了基于大型语言模型的软件工程代理,分析了其应用、挑战及未来方向。
2025-12-03 cs.AI cs.SE
Structurally Aligned Subtask-Level Memory for Software Engineering Agents
本文提出结构对齐的子任务级记忆方法,通过与代理功能分解对齐来提升软件工程代理的长周期推理能力,实验表明在多种backbone上均优于传统方法。
2026-02-25 cs.AI cs.SE
Live-SWE-agent: Can Software Engineering Agents Self-Evolve on the Fly?
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
Live-SWE-agent是一种能够在运行时自主进化其自身框架的软件代理,通过解决现实软件问题实现了77.4%的解决率,优于现有所有软件代理。
2025-11-24 cs.AI cs.CL cs.LG
Trae Agent: An LLM-based Agent for Software Engineering with Test-time Scaling
Trae Research(Trae研究)
针对现有基于提示的LLM集成推理方法在软件工程仓库级问题解决中存在的集成空间探索不足、缺乏仓库级理解的问题,提出模块化智能体架构的Trae Agent,在SWE-bench基准上性能超越基线,登顶SWE-bench Verified排行榜并开源。
2025-07-31 cs.AI cs.SE
SWE-Gate: Passing Functional Tests Is Not Enough for Software Engineering Agents
Sun Yat-sen University(中山大学);Zhejiang University(浙江大学);Chongqing University(重庆大学)
SWE-Gate基准结合功能测试与审查约束评估,发现仅通过功能测试的软件工程智能体中约34%未满足审查约束,仅功能评估会高估智能体的修复能力。
2026-09-04 cs.AI cs.SE
OSS-UAgent: An Agent-based Usability Evaluation Framework for Open Source Software
Shanghai Jiao Tong University(上海交通大学);East China Normal University(华东师范大学);Wuhan University of Technology(武汉理工大学);Alibaba Group(阿里巴巴集团);Tongji University(同济大学);University of New South Wales(新南威尔士大学)
针对开源软件可用性评估成本高且可扩展性低的问题,提出基于大语言模型智能体的自动化评估框架OSS-UAgent,通过模拟不同经验开发者执行编程任务并多维度自动评估代码,实现了高效的开源软件可用性自动化评估。
2025-05-29 cs.AI cs.SE
Can Agents Fix Agent Issues?
Fudan University(复旦大学);Nanyang Technological University(南洋理工大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究构建了AgentIssue-Bench基准,评估现有软件工程智能体解决智能体系统问题的能力,发现解决率仅0.67%-4.67%,凸显了维护智能体系统的独特挑战。
2025-10-24 cs.AI cs.SE
Collaborative LLM Agents for C4 Software Architecture Design Automation
Warsaw University of Technology(华沙技术大学)
本研究提出基于LLM的多智能体系统,通过模拟专家对话自动生成C4架构模型,结合混合评估框架,在五个系统简报上实现快速创建、高编译成功率和语义保真度,并比较了四种LLM的优劣。
2025-10-26 cs.AI cs.SE
Authoring Agent Skills: A Software-Engineering Approach
University College London(伦敦大学学院)
研究如何编写智能体技能,遵循软件工程原则,以Claude Code为参考实现阐述技能结构等,与其他塑造智能体行为机制比较并给出选择规则,还介绍评估驱动编写过程等,为智能体技能编写提供方法。
2026-07-29 cs.AI cs.SE
Beyond Final Code: A Process-Oriented Error Analysis of Software Development Agents in Real-World GitHub Scenarios
本文通过分析3977个解决阶段轨迹和3931个测试阶段日志,揭示了软件开发代理在解决GitHub问题时的错误模式,发现Python执行错误与较低的解决率和更高的推理开销相关,并识别了影响基准公平性的三个bug。
2026-04-09 cs.AI cs.SE
Understanding Software Engineering Agents: A Study of Thought-Action-Result Trajectories
CISPA Helmholtz Center for Information Security Germany(CISPA海德堡信息安全中心)
本研究通过分析三个LLM智能体的120条轨迹和2,822次交互,揭示思维-行动-结果模式,区分成功与失败执行,为改进智能体设计提供可操作见解。
2025-10-08 cs.AI cs.SE
Rethinking the Value of Agent-Generated Tests for LLM-Based Software Engineering Agents
Singapore Management University(新加坡管理大学);Shanghai Jiao Tong University(上海交通大学)
研究探讨了LLM软件工程代理生成测试的有效性,发现测试主要作为反馈渠道,而非提升问题解决效果。
2026-11-10 cs.AI cs.SE
Agentless: Demystifying LLM-based Software Engineering Agents
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究针对LLM软件工程智能体复杂度高的问题,提出无需智能体的三阶段方法Agentless,在SWE-bench Lite基准上取得32.00%的最高准确率且成本仅0.70美元,还构建了更严谨的评估基准SWE-bench Lite-S。
2024-10-29 cs.AI cs.CL cs.LG
From LLMs to LLM-based Agents for Software Engineering: A Survey of Current, Challenges and Future
School of Electrical and Computer Engineering, The University of Sydney(悉尼大学电气与计算机工程学院);University at Buffalo, SUNY(纽约州立大学布法罗分校);University of Chicago(芝加哥大学)
本文综述LLMs与基于LLM的智能体在软件工程中的应用现状,区分二者差异,分析六个关键主题的相关工作及模型基准,为该领域未来研究提供启示。
2025-04-13 cs.AI cs.CL cs.SE
OmniCode: A Benchmark for Evaluating Software Engineering Agents
Cornell University(康奈尔大学);Independent contributor(独立贡献者);UC Santa Barbara(加州大学圣巴巴拉分校);Jadavpur University(贾瓦伊普尔大学);New York University(纽约大学)
本文提出OmniCode,一个涵盖更广泛任务类别的软件工程基准,旨在评估软件代理在不同软件开发方面的性能。
2026-05-18 cs.AI cs.CL cs.SE
On Problems of Implicit Context Compression for Software Engineering Agents
JetBrains Research(JetBrains研究院);Technical University of Munich, Germany(慕尼黑技术大学,德国)
研究软件工程代理在长周期任务中因上下文长度限制导致的失败问题,探讨连续嵌入编码方法的适用性及多步骤编码任务中的性能不足。
2026-05-11 cs.AI cs.CL cs.LG
Specification Portability Across LLM Development Agents: Cross-Agent Compatibility in Specification-Driven Software Migration
EPAM Systems(EPAM系统公司)
本文以Oracle到PostgreSQL的软件迁移为任务,评估了Amazon Kiro等多个LLM开发智能体在规范驱动迁移中的表现,发现跨智能体迁移存在性能下降,提出需重视规范可移植性等问题。
2026-08-24 cs.AI cs.LO cs.SE
Process-Level Trajectory Evaluation for Environment Configuration in Software Engineering Agents
Youtu-LLM Team, Tencent Youtu Lab(腾讯优设实验室);Sun Yat-sen University(中山大学);The Hong Kong Polytechnic University(香港理工大学)
针对软件工程智能体环境配置评估仅看端到端结果、难定位问题的现状,提出Enconda-bench基准,通过自动构建带真实README错误的任务,从过程级评估智能体多维度能力,发现智能体定位错误易但修正反馈难的问题。
2025-10-29 cs.AI cs.CL cs.SE
Experiential Co-Learning of Software-Developing Agents
Dalian University of Technology(大连理工大学);Tsinghua University(清华大学);Beijing University of Posts and Telecommunications(北京邮电大学);Siemens(西门子)
针对LLM软件开发智能体因缺乏经验导致重复犯错的问题,提出Experiential Co-Learning框架,通过指导者与助手智能体从历史轨迹中提取并复用快捷经验,有效提升了处理未见任务的能力。
2024-06-05 cs.AI cs.CL cs.LG
SetupBench: Assessing Software Engineering Agents' Ability to Bootstrap Development Environments
Microsoft(微软)
本文提出 SetupBench 基准,通过 93 个实例评估软件工程智能体在裸 Linux 环境中引导开发环境的能力,发现当前先进智能体成功率低且存在大量无效操作。
2025-07-11 cs.AI cs.LG cs.SE
Human-In-the-Loop Software Development Agents
Monash University(莫纳什大学);The University of Melbourne(墨尔本大学);Atlassian(Atlassian公司)
本文提出并在 JIRA 中部署人在回路的 LLM 多智能体框架 HULA,让工程师在编码计划与代码生成各阶段提供反馈,评估表明其可减少简单任务的开发时间与工作量,但代码质量仍有挑战。
2025-01-10 cs.AI cs.HC cs.LG
How can we assess human-agent interactions? Case studies in software agent design
University of California, Berkeley(加州大学伯克利分校)
提出PULSE框架,通过用户反馈和模型预测结合评估人机交互,在15k用户实验中验证其能减少40%置信区间,并揭示基准测试与真实结果的差异。
2026-06-09 cs.AI
Domain-Specific Agents for Cherenkov Telescope Array Control Software and Gamma-Ray Data Analysis
Deutsches Elektronen-Synchrotron DESY(德意志电子同步辐射研究中心);JetBrains Limited(JetBrains有限公司);JetBrains GmbH(JetBrains德国公司);Jülich Supercomputing Centre(吕贝克超级计算中心)
提出领域自适应的大语言模型智能体,结合上下文知识、自动验证和迭代修正,支持切伦科夫望远镜阵列操作与数据分析,减少人工、提高一致性并加速工作流。
2026-06-25 astro-ph.IM cs.AI
Diversity Empowers Intelligence: Integrating Expertise of Software Engineering Agents
Salesforce AI Research(Salesforce AI研究院);Carnegie Mellon University(卡内基梅隆大学)
针对现有软件工程智能体各有优劣的问题,提出元模块框架DEI整合多智能体专业能力,在SWE-Bench Lite基准上实现性能大幅提升,最优组解决率达55%位居榜首。
2024-08-13 cs.AI cs.CL cs.LG
Gym-Anything: Turn any Software into an Agent Environment
CMU(卡内基梅隆大学)
本文提出Gym-Anything框架,通过多智能体任务将任意软件转化为交互式计算机使用环境,生成涵盖医疗、天文、工程等领域的10K+长周期任务,提升现实场景下的智能体研究效率。
2026-04-07 cs.AI cs.LG
Towards a copilot in BIM authoring tool using a large language model-based agent for intelligent human-machine interaction
Technical University of Munich(慕尼黑工业大学)
为降低BIM软件学习成本,提出基于LLM的自主智能体框架作为copilot,通过自然语言理解意图并调用工具自主执行建模任务,并在Vectorworks中验证了其规划与推理能力。
2024-06-02 cs.AI cs.CL cs.HC
Agentic AI for Software: thoughts from Software Engineering community
NUS(国立新加坡大学);SonarSource SA
针对AI智能体在软件工程领域的应用,分析其在代码及设计层面任务中的作用,指出解读开发者意图是核心难题,提出需通过智能体推进意图推断,并认为未来工作流应包含AI生成代码的验证与确认。
2025-09-22 cs.AI cs.SE
Agentic Software: How AI Agents Are Restructuring the Software Paradigm
Lingxi Intelligent Investment (Shenzhen) Development Co., Ltd.(灵犀智能投资(深圳)发展有限公司)
本文通过第一性原理分析,论证了以LLM为推理引擎的AI代理系统正在根本性地重构软件范式,从传统软件(代码承载决策逻辑)转向代理系统(代码作为临时工具),并提出了代理工程作为新兴学科。
2026-06-11 cs.AI cs.SE
Skills for the future software profession: beyond agentic AI!
National University of Singapore(新加坡国立大学);Columbia University(哥伦比亚大学)
本文通过2026年在纽约和新加坡举行的两场圆桌会议,总结未来软件工程师所需的核心技能,强调验证与确认在智能体处理实现时的重要性。
2026-09-01 cs.AI cs.SE
Querying Large Automotive Software Models: Agentic vs. Direct LLM Approaches
Technical University of Munich(慕尼黑技术大学);Tensor embedded GmbH(Tensor嵌入 GmbH)
针对大型汽车软件模型查询难的问题,对比直接提示与结合通用文件工具的LLM智能体方法,发现后者准确率相当且令牌效率更高,用小型可本地部署的LLM验证了其在汽车行业的可行性与合规优势。
2025-06-16 cs.AI cs.SE
CUA-SWE: When Computer-Use Agents Meet Visual Software Engineering
CUA-SWE提出一个基准、环境和评估流程,研究计算机使用智能体在仅通过运行软件视觉界面获取信息时,如何结合源码执行与GUI交互完成软件工程任务,并通过确定性测试验证修复。
2026-09-29 cs.AI cs.SE
Agentsway -- Software Development Methodology for AI Agents-based Teams
Old Dominion University(旧 Dominion 大学);Florida International University(佛罗里达国际大学);University of Sri Jayewardenepura(Sri Jayewardenepura 大学);Deloitte & Touche LLP;AnaletIQ;Nanyang Technological University(南洋理工大学);University of Colombo(科伦坡大学)
针对传统软件开发方法论不适用于AI智能体参与的开发场景的问题,提出面向AI智能体团队的Agentsway框架,定义多智能体角色与协作流程,整合微调LLM与负责任AI原则,推动AI原生软件开发方法论发展。
2025-10-26 cs.AI cs.SE
AgileCoder: Dynamic Collaborative Agents for Software Development based on Agile Methodology
FPT Software AI Center(FPT软件人工智能中心);Fulbright University(富布赖特大学)
针对现有软件智能体过度简化开发工作流的问题,提出融入敏捷方法论的多智能体系统AgileCoder,搭配动态代码图生成器,性能优于现有基准,展现多智能体在软件工程中的潜力。
2024-07-14 cs.AI cs.SE
Agentic RAG for Software Testing with Hybrid Vector-Graph and Multi-Agent Orchestration
提出基于混合向量-图与多智能体编排的智能体RAG系统,自动化生成QE工件,在SAP迁移等项目中将准确率提升至94.8%并显著缩短测试时间。
2025-10-12 cs.AI cs.SE
Self-Evolving Software Agents
University of Trento(特伦托大学)
本文提出自演化软件代理,结合BDI推理与大语言模型,使代理能自主进化目标、推理和可执行代码。实验显示代理可自主发现新目标并生成行为,验证了LLM驱动进化的可行性与局限性。
2026-04-29 cs.AI cs.SE
LLM-Based Agentic Systems for Software Engineering: Challenges and Opportunities
Siemens AG(西门子股份公司);Technical University of Munich(慕尼黑技术大学)
本文探讨了基于大语言模型的多代理系统在软件工程中的应用,分析了其挑战与未来研究方向。
2026-01-19 cs.AI cs.SE
AgentMesh: A Cooperative Multi-Agent Generative AI Framework for Software Development Automation
Toronto Metropolitan University(多伦多 Metropolitan 大学)
本文提出基于 Python 的多智能体框架 AgentMesh,通过 Planner、Coder、Debugger 和 Reviewer 协作完成需求分解、编码、调试与审查,并以案例验证其软件开发自动化能力。
2025-07-26 cs.AI cs.SE
ProSoftArena: Benchmarking Hierarchical Capabilities of Multimodal Agents in Professional Software Environments
Shanghai Innovation Institute(上海创新研究院);Shanghai AI Lab(上海人工智能实验室)
ProSoftArena通过构建专业软件环境下的多模态智能体能力评估基准,揭示了智能体在复杂专业工作流任务中的性能瓶颈和改进方向。
2025-12-30 cs.AI cs.SE
ALMAS: an Autonomous LLM-based Multi-Agent Software Engineering Framework
J.P. Morgan AI Research(摩根大通人工智能研究)
ALMAS是一种基于自主LLM的多智能体软件工程框架,旨在通过模块化集成与人类开发者协作,实现软件开发生命周期中的自动化任务。
2025-11-24 cs.AI cs.SE
An LLM Agentic Approach for Legal-Critical Software: A Case Study for Tax Prep Software
University of Illinois Chicago(伊利诺伊大学芝加哥分校);University of Colorado Boulder(科罗拉多大学波德分校);IBM Research(IBM研究院)
本文提出一种基于LLM的代理方法,用于开发法律关键软件,通过税务准备软件案例研究,展示了如何利用多代理系统和元测试技术提升法律规范到可执行代码的可靠性。
2026-03-04 cs.AI cs.SE
Agentic AI Software Engineers: Programming with Trust
National University of Singapore(新加坡国立大学);Carnegie Mellon University, KBR Inc., NASA Ames(卡内基梅隆大学、KBR公司、NASA阿姆斯特朗实验室);CISPA Helmholtz Center for Information Security, University of Stuttgart(CISPA海姆霍兹信息安全中心、斯图加特大学);Columbia University(哥伦比亚大学)
本文探讨了LLM智能体在软件工程中的应用前景,提出成功部署AI软件工程师需要建立不低于人类实践水平的信任,并主张编程重心应从规模化转向以信任为核心。
2025-09-21 cs.AI cs.SE
Human oversight of agentic systems in practice: Examining the oversight work, challenges, and heuristics of developers using software agents
Microsoft Redmond USA(微软红mond美国)
通过访谈17位经验丰富的开发者,探索人类对自主软件代理的监督实践,发现四种监督工作形式(先验控制、协同规划、实时监控、事后审查),并总结监督挑战与应对策略。
2026-06-03 cs.AI cs.SE
Professional Software Developers Don't Vibe, They Control: AI Agent Use for Coding in 2025
Cornell University(康奈尔大学)
本文探讨了2025年经验丰富的软件开发人员如何利用AI代理进行编程,发现开发人员通过保持自主权和专业知识来控制代理行为,以确保软件质量。
2026-08-20 cs.AI cs.HC cs.SE
Skillware: A Software Ontology and Engineering Lifecycle for Persistent Behavioral Artifacts
研究针对智能体技能成为持久行为工件却缺乏相关软件本体的问题,引入Skillware,通过Skill Artifact和Skillware Unit管理工件,阐述相关条件与证据,为智能体能力提供可识别、可组合、可维护及可演化的软件本体与工程生命周期。
2026-08-24 cs.AI cs.SE
SWE-Milestone: Evaluating AI Agents on Continuous Software Evolution
USC(美国斯克利普斯大学);UCR(加州大学河滨分校);UCSD(加州大学圣地亚哥分校);Army Research Office(陆军研究办公室);Stanford(斯坦福大学);Princeton(普林斯顿大学);Haven;OpenHands
针对现有基准测试忽视软件演化中时间依赖和技术债务的问题,提出EvoClaw基准,通过从提交日志重建可验证里程碑DAG,评估AI代理在持续开发中维持系统完整性和限制错误累积的能力。
2026-07-22 cs.AI cs.SE
The Rise of Agentic Testing: Multi-Agent Systems for Robust Software Quality Assurance
MUFG Bank(三菱日联银行);Cisco Systems Inc(思科系统公司);University of North Carolina(北卡罗来纳大学)
本文提出多代理系统用于提升软件测试质量,通过闭环反馈机制实现自适应测试生成和优化,显著提高测试覆盖率并减少无效测试。
2026-01-05 cs.AI cs.SE
Using Process Mining to Generate AI Agents from Software Engineering Process Records
Hasso Plattner Institute (HPI), University of Potsdam(波茨坦大学哈索·普拉特纳研究院(HPI));IBM Software Innovation Lab (SIL)(IBM软件创新实验室(SIL));University of Haifa(海法大学);paluno Institute, University of Duisburg Essen(杜伊斯堡-埃森大学paluno研究院)
研究如何在软件工程中结合人工智能代理,面临代理粒度和关注点分离难题。通过过程挖掘,用软件库事件日志发现特定项目代理角色,生成规范与实现,并进行测试和用户研究验证效果。
2026-10-06 cs.AI cs.SE