Generative Artificial Intelligence for Software Engineering -- A Research Agenda
本文通过文献综述和焦点小组研究,提出面向软件工程的生成式人工智能研究议程,识别出11个领域的78个开放研究问题,指出当前研究偏重实现与维护,并强调需求、设计和教育等方向亟待深入探索。
2023-10-28 cs.SE
Software engineering and the SP Theory of Intelligence
本文描述了一种新的方法,软件工程从“SP理论的智能”和它的实现“SP计算机模型”。尽管表面上看,它表明,在软件工程的许多关键思想有对应的SP系统的结构和工作。这种新的软件工程方法的潜在好处包括:软件开发的自动化或半自动化,在必要时支持SP系统的编程;允许程序员专注于“面向世界的”并行性,而不用担心并行性以加速处理;支持通过书面或口头自然语言对SP系统编程的长期目标;减少或消除“设计”和“实现”之间的区别;减少或消除编译或解释等操作;减少或消除对软件验证的需求;减少对软件验证的需求;程序和数据库之间没有正式的区别;大量减少数据文件类型和计算机语言数量的潜力;版本控制的好处;减少技术债务。
2018-08-05 cs.AI cs.SE
Tokalator: A Context Engineering Toolkit for Artificial Intelligence Coding Assistants
Kariyer.net, R&D Center(Kariyer.net 研发中心);Stanford University and iLab, Stanford, CA, U.S.A.(斯坦福大学及iLab);Centre Tecnològic de Telecomunicacions de Catalunya (CTTC/CERCA)(加泰罗尼亚电信技术中心)
Tokalator为AI辅助开发提供上下文管理工具,包含实时预算监控、11个命令、九个计算器及17种大语言模型支持,通过50名开发者的调研发现指令文件注入和低相关性标签是主要预算消耗来源。
2026-04-09 cs.SE
Now's the Time: Computer Science Must Evolve to Emphasize Software and Systems Engineering with Artificial Intelligence (AI)
Texas A&M University Corpus Christi(德克萨斯农工大学科珀斯克里斯蒂分校);Loyola University Chicago(芝加哥洛约拉大学)
本文主张计算机科学教育需转型,以软件和AI系统工程为核心,培养能设计和管理复杂AI系统的人才,应对未来技术变革。
2026-04-29 cs.SE
Can Requirements Engineering Support Explainable Artificial Intelligence? Towards a User-Centric Approach for Explainability Requirements
Institute of Software Engineering University of Stuttgart Stuttgart, Germany Email;Institute of Software Engineering University of Stuttgart Stuttgart, Germany
该立场论文探讨需求工程与可解释人工智能的协同作用,指出XAI领域挑战,提出借助RE实践缓解挑战的框架与研究方向,以回应AI系统可解释性需求。
2022-06-03 cs.AI cs.LG cs.SE
Requirements Intelligence with OpenReq Analytics
随着Twitter等社交媒体和应用商店等分发平台的兴起,用户有各种方式表达他们对软件产品的看法。受欢迎的软件供应商每天都能收到数千倍的用户反馈。研究表明,这样的反馈包含了对软件开发团队有价值的信息。然而,对用户反馈的手动分析是麻烦的并且难以管理。我们提出OpenReq Analytics,一个软件需求智能服务,收集,处理,分析和可视化用户反馈。
2019-09-12 cs.SE
SENAI: Towards Software Engineering Native Generative Artificial Intelligence
针对现有代码生成大模型忽略软件工程基础原则的问题,本文提出将软件工程知识融入大模型,并基于布鲁姆分类法构建评估框架,推动软件工程原生生成式AI发展。
2025-03-19 cs.SE
Trustworthy and Synergistic Artificial Intelligence for Software Engineering: Vision and Roadmaps
Singapore Management University(新加坡管理大学)
本文梳理了AI4SE的发展历程与核心挑战,提出实现可信、协同AI4SE的两大战略路线图,展望其推动软件工程迈向2.0的愿景,旨在激发领域进一步研究。
2023-10-04 cs.AI cs.SE
AI in Software Engineering: A Survey on Project Management Applications
本文综述了AI在软件工程项目管理中的应用,回顾并比较了11篇相关文献,分析了面临的挑战,并提出了未来研究与AI演进的方向。
2023-07-27 cs.SE
Artificial Intelligence as a Catalyst for Innovation in Software Engineering
本文探讨人工智能如何通过机器学习和自然语言处理提升软件工程的敏捷性和创新性,展示AI在自动化任务和优化开发流程中的关键作用。
2026-03-11 cs.AI cs.SE
Teaching Empathy in Software Engineering Education in the Age of Artificial Intelligence
University of Calgary(卡尔加里大学);Federal Rural University of Pernambuco(伯南布哥联邦农村大学);University College London(伦敦大学学院);Radboud University(拉德堡德大学);University of Otago(奥塔哥大学);University of Hawaii at Manoa(夏威夷大学马诺阿分校)
本文探讨了在软件工程教育中融入同理心的教学实践,识别出五个类别,使学生能思考偏见、可访问性、问责制和社会影响。
2026-04-06 cs.CY cs.SE
Emotion-Centric Requirements Change Handling in Software Engineering
背景资料:需求变更(RC)--软件产品中功能/非功能需求的添加/修改/删除--对软件从业者来说是一个挑战。处理一些变化可能会显着影响从业者的情绪。目的:我们想知道使RC处理困难的关键挑战,这些挑战如何影响软件从业者的情绪,是什么影响他们的RC处理,以及如何使RC处理在情绪上不那么具有挑战性。方法:我们采用混合方法。我们进行了两项调查研究,分别有40名参与者和201名参与者。介绍了关键的定量数据,然后进行描述性统计分析,定性数据进行了分析,使用施特劳斯-柯宾扎根理论,社会技术扎根理论分析技术。研究结果:我们发现(1)几个关键因素,使RC处理情绪的挑战,(2)不同的情绪,从业者觉得当它是具有挑战性的处理RC,(3)利益相关者,包括从业者自己,同行,经理和客户,如何影响RC处理和从业者的感觉,由于利益相关者的影响,和(4)的做法,可以用来更好地处理RC。结论:有些挑战是技术性的,有些是社会性的,这些挑战也属于敏捷实践、情商和认知智能的范畴。因此,为了更好地处理社会技术环境中具有积极情绪的RC,敏捷性,情绪智力和认知智力需要相互合作。
2022-05-12 cs.SE
On the Future of Software Reuse in the Era of AI Native Software Engineering
本文探讨AI原生软件工程时代生成式软件复用的兴起及其与货物崇拜式开发的相似性,提出关键问题并制定研究议程以应对相关核心挑战。
2025-08-27 cs.SE
Requirements Engineering Framework for Human-centered Artificial Intelligence Software Systems
Deakin University(迪肯大学);Monash University(莫纳什大学);CSIRO’s Data 61(澳大利亚联邦科学与工业研究组织数据61研究所)
本文提出了一个基于以人为本的AI指南和用户调查的需求工程框架,包含需求目录和概念模型,通过案例研究证明其能有效帮助项目团队理解并捕获以人为本的需求。
2023-05-18 cs.AI cs.SE
Software engineering for artificial intelligence and machine learning software: A systematic literature review
Institute of Computing, Universidade Federal do Amazonas(亚马逊联邦大学计算学院);School of Business, University of South-Eastern Norway(东南挪威大学商学院)
人工智能(AI)或机器学习(ML)系统已被所有行业的公司广泛采用作为价值主张,以创建或扩展他们提供的服务和产品。然而,开发AI/ML系统提出了一些工程问题,这些问题与非AI/ML软件开发中出现的问题不同。本研究旨在调查软件工程(SE)如何应用于AI/ML系统的开发,并确定适用的挑战和实践,并确定它们是否满足专业人员的需求。此外,我们评估了这些SE实践是否适用于不同的环境,以及它们可能适用于哪些领域。我们对1990年至2019年的文献进行了系统回顾,以(i)了解和总结该领域的最新技术水平,(ii)分析其局限性和开放性挑战,这些挑战将推动未来的研究。我们的研究结果表明,这些系统是在实验室环境或大公司中开发的,并遵循研究驱动的开发过程。专业人士面临的主要挑战是测试、人工智能软件质量和数据管理领域。大多数建议的SE实践的贡献类型是指南、经验教训和工具。
2020-11-07 cs.AI cs.SE
MDE4QAI: Towards Model-Driven Engineering for Quantum Artificial Intelligence
Technical University of Munich(慕尼黑工业大学);University of Antwerp(安特卫普大学);Flanders Make(法兰德斯制造研究院);University of Reading(雷丁大学);Munich Data Science Institute(慕尼黑数据科学研究所)
在过去的十年中,人工智能(AI)提供了巨大的新可能性和机会,但也为软件系统提出了新的需求和要求。特别是,机器学习(ML)已被证明在几乎每个垂直应用领域都很有用。在未来的十年中,从经典计算到量子计算(QC)的前所未有的范式转变,可能是量子-经典混合模型。我们认为,模型驱动工程(MDE)范式可以是一个推动者和促进者,当涉及到量子和量子经典混合应用。这不仅包括自动化的代码生成,还包括自动化的模型检验和验证,以及早期设计阶段的模型分析,以及设计时和运行时的模型到模型转换。在本文中,该愿景的重点是量子AI的MDE,特别是物联网(IoT)和智能网络物理系统(CPS)应用的量子ML。
2022-07-11 cs.AI cs.ET cs.SE
Model-Based Agentic Software Engineering
Purdue University(普渡大学);Amazon Robotics(亚马逊机器人)
针对编码智能体无法明确项目关键信息的问题,提出MAGE框架及理论,通过外化表征与分配权威构建可信自主系统,经案例与工业案例验证,可将商用智能转化为持久工程进展。
2026-08-27 cs.SE
Artificial Intelligence Impact On The Labour Force -- Searching For The Analytical Skills Of The Future Software Engineers
Alexandru Ioan Cuza University of Iasi(亚历山德鲁·伊万·库扎大学)
这篇系统的文献综述旨在调查人工智能(AI)对软件工程劳动力的影响,特别关注未来软件工程师所需的技能,AI对软件工程技能需求的影响,以及软件工程师工作的未来。该综述通过全面的搜索策略确定了42篇相关出版物,并分析了其结果。结果表明,未来的软件工程师将需要在编程能力和软技能,如解决问题和人际沟通。人工智能将对软件工程劳动力产生重大影响,有可能使目前由软件工程师完成的许多工作自动化。软件工程师的角色正在发生变化,并将在未来继续发生变化,人工智能辅助软件开发对软件工程行业提出了挑战。审查表明,软件工程专业必须适应不断变化的环境,以保持相关性和有效的未来。
2023-02-26 cs.AI cs.CY cs.SE
On-the-Fly Input Adaptation for Reliable Code Intelligence
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文提出了一种基于实时输入适应的策略,通过输入验证和输入适应两个阶段来提升代码语言模型在多样化的代码理解任务中的性能,无需修改参数或额外监督,从而减少误预测并提高模型可靠性。
2026-05-19 cs.SE
The application of artificial intelligence in software engineering: a review challenging conventional wisdom
George Mason University(乔治梅森大学);University of California, Berkeley(加利福尼亚大学伯克利分校)
人工智能(AI)领域最近在研究、工具开发和应用部署方面出现了热潮。多家软件公司正在将重点转移到开发智能系统上;许多其他公司正在将AI范式部署到其现有流程中。与此同时,学术研究界正在注入人工智能范式,为传统工程问题提供解决方案。类似地,人工智能显然已被证明对软件工程(SE)有用。当人们观察SE阶段(需求,设计,开发,测试,发布和维护)时,很明显,多种AI范式(如神经网络,机器学习,基于知识的系统,自然语言处理)可以应用于改进过程并消除SE领域一直面临的许多主要挑战。本调查章节回顾了应用于SE的最常见的AI方法。该综述涵盖了1975-2017年的方法,在需求阶段,发现了46种主要的人工智能驱动方法,其中19种用于设计,15种用于开发,68种用于测试,15种用于发布和维护。此外,本章的目的有三个:首先,回答以下问题:SE生命周期中是否有足够的智能?将AI应用于SE需要什么?其次,测量、公式化和评估SE阶段和AI学科的重叠。最后,本章旨在提出严肃的问题,挑战目前的传统智慧(即,现状)的最新技术水平,起草行动呼吁,并重新确定前进的道路。
2021-08-03 cs.AI cs.SE
AI-Augmented Closed-Loop Quality Engineering: A Reference Architecture for Continuous Software Quality Intelligence
Dimple Bajaj
提出一种AI增强的闭环参考架构,通过需求特征挖掘、风险测试优先级、缺陷预测和生产事件分析,结合有限反馈学习模型,在六个发布周期中减少缺陷泄漏、提高检测效率并缩短测试执行时间。
2026-06-07 cs.AI cs.SE
Leveraging Artificial Intelligence on Binary Code Comprehension
Vanderbilt University(范德堡大学)
对于逆向工程、恶意软件分析和编译器优化来说,理解二进制代码是一项必不可少但复杂的软件工程任务。与源代码不同,二进制代码具有有限的语义信息,这使得它对人类的理解具有挑战性。同时,将源代码编译为二进制代码,或者在不同的程序设计语言(PL)之间进行编译,可以提供一种将外部知识引入二进制理解的方法。我们建议开发人工智能(AI)模型,帮助人类理解二进制代码。具体来说,我们建议将来自大型源代码语料库的领域知识(例如,变量名,注释)来构建AI模型,以捕获二进制代码的可泛化表示。最后,我们将通过使用人类对理解的研究来研究评估适用于二进制代码的模型性能的指标。
2022-10-11 cs.AI cs.SE
Automated Quantum Software and AI Engineering
University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
本文系统回顾了量子软件工程和量子人工智能中半自动化方法的发展,探讨了自动化在提升量子和混合量子-经典应用效率中的作用及未来方向。
2026-04-21 cs.SE
Artificial Intelligence in Open Source Software Engineering: A Foundation for Sustainability
Dept. of Electrical & Computer Engineering University of Missouri(电气与计算机工程系 莫斯科大学);Dept. of Computer Science University of Missouri(计算机科学系 莫斯科大学)
本文探讨了人工智能在开源软件工程中用于提升可持续性的应用与挑战,分析了AI在维护贡献者参与、代码质量及社区动态中的作用,并指出未来研究方向。
2026-02-05 cs.AI cs.SE
Reclaiming Software Engineering as the Enabling Technology for the Digital Age
Informatics Europe WG on Software Research(欧洲信息学学会软件研究工作组)
本文呼吁重新确立软件工程作为数字时代战略赋能技术的核心地位,强调其在推动数字技术可持续发展中的关键作用。
2026-01-28 cs.SE
The Psychological Costs of Artificial Intelligence Adoption in Software Engineering
University of Southern Denmark(南丹麦大学);The Maersk Mc-Kinney Moller Institute(马士基麦克-金尼莫勒研究所);IT University of Copenhagen(哥本哈根信息技术大学)
本研究通过对一家大型软件开发服务公司的案例研究,发现软件专业人员在采用AI时会经历多种心理代价,并提出需将AI采用视为人类过渡以优化AI-人类协作。
2026-09-04 cs.AI cs.SE
Storytelling in human--centric software engineering research
背景:软件工程是一项人类活动。人们自然会通过讲故事来理解他们的活动和经历。但是,软件工程研究似乎并没有对讲故事进行适当的研究。目的:我们探讨这样一个问题:讲故事对以人为中心的软件工程研究有什么贡献?实验方法:我们定义概念,确定故事类型及其目的,结果和影响,简要回顾以前的文献,确定几个贡献,并提出下一步。研究结果:除其他贡献外,讲故事可以促进数据汇集、数据分析、了解方式、研究成果、实践中的干预措施和宣传,并可以与证据和论点相结合。与所有方法一样,讲故事也会带来风险。这些风险是可以管理的。结论:讲故事为抽象提供了一种潜在的平衡,也是一种在软件工程中保留和尊重人类意义的方法。
2021-04-30 cs.SE
Requirements Engineering Challenges in Building AI-Based Complex Systems
本文识别和解决的挑战时,应用于开发基于人工智能的复杂系统的需求工程学科。由于其复杂的行为,迫切需要为此类系统量身定制的开发过程。然而,仍然没有广泛使用的和专门定制的过程来有效且高效地处理适合于指定使用机器学习的软件解决方案的要求。通过分析软件工程和人工智能领域的相关工作,认识到基于Agent的软件工程和面向目标的需求工程研究以及大型产品开发公司的例子的潜在贡献。对这些挑战进行了讨论,并提出了如何以及何时应对这些挑战的建议。还概述了RE4AI分类,以告知开发过程的裁剪。
2019-08-30 cs.SE
LLM-Driven CI-CD Workflow Intelligence for Cyber Systems Engineering
Independent Researcher(独立研究者)
研究面向网络系统工程的CI/CD工作流智能,通过基于大语言模型的分析管道,结合多种方法处理大量GitHub库数据,发现问题并得出结果,强调CI/CD可观测性应结合诊断、上下文和人工审查。
2026-07-07 cs.AI cs.SE
Software Reuse in the Generative AI Era: From Cargo Cult Towards AI Native Software Engineering
University of Jyväskylä(于韦斯屈莱大学);Nokia Technologies(诺基亚技术)
本文探讨生成式AI时代下AI辅助软件复用带来的货崇拜风险,提出研究议程以推动AI原生软件工程发展。
2025-06-22 cs.AI cs.SE
Diversity Empowers Intelligence: Integrating Expertise of Software Engineering Agents
Salesforce AI Research(Salesforce AI研究院);Carnegie Mellon University(卡内基梅隆大学)
针对现有软件工程智能体各有优劣的问题,提出元模块框架DEI整合多智能体专业能力,在SWE-Bench Lite基准上实现性能大幅提升,最优组解决率达55%位居榜首。
2024-08-13 cs.AI cs.CL cs.LG
Adoption of Generative Artificial Intelligence in the German Software Engineering Industry: An Empirical Study
Technical University of Munich(慕尼黑技术大学);Heilbronn University of Applied Science(海德堡应用科学大学)
通过混合方法研究德国软件工程师采用生成式AI工具的情况,发现经验水平调节感知收益,组织规模影响工具选择和使用强度,项目上下文意识不足是主要障碍。
2026-06-09 cs.AI cs.ET cs.HC
A Survey on Artificial Intelligence for Source Code: A Dialogue Systems Perspective
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
在这篇调查论文中,我们概述了过去35年来自然语言处理(NLP)和源代码中使用的主要深度学习方法。接下来,我们将介绍人工智能(AI)在源代码中的应用,也称为代码智能(CI)和程序设计语言处理(PLP)。我们调查了超过287出版物,并提出了一个软件工程为中心的分类法CI放置到一个类别,描述它如何最好地协助软件开发周期的每一个作品。然后,我们概述了会话助理领域及其在软件工程和教育中的应用。最后,我们强调了人工智能与代码和会话助理交叉点的研究机会,并为研究具有CI功能的会话助理提供了未来的方向。
2022-02-10 cs.CL cs.CY cs.LG
AI for software engineering: from probable to provable
本文探讨了通过结合人工智能的创造性与形式化规范方法和验证技术,解决AI在编程中目标指定困难和幻觉现象的问题,提升程序正确性。
2026-04-22 cs.AI cs.SE
Memorization and Generalization in Neural Code Intelligence Models
University of Houston(休斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
深度神经网络(DNN)越来越多地用于软件工程和代码智能任务。这些都是强大的工具,能够通过数百万个参数从大型数据集中学习高度概括的模式。同时,它们的大容量可能使它们易于记忆数据点。最近的研究表明,当训练数据集是嘈杂的,涉及许多模糊或可疑的样本时,记忆风险表现得特别强烈,记忆是唯一的手段。本文的目的是评估和比较的程度记忆和泛化的神经代码智能模型。它旨在提供关于记忆如何影响代码智能系统中神经模型的学习行为的见解。为了观察模型中记忆的程度,我们将随机噪声添加到原始训练数据集中,并使用各种指标来量化噪声对训练和测试各个方面的影响。我们评估了几个基于Java、Python和Ruby代码库的最先进的神经代码智能模型和基准测试。我们的研究结果突出了重要的风险:数百万个可训练参数允许神经网络记住任何东西,包括噪声数据,并提供错误的泛化感。我们观察到所有模型都表现出某种形式的记忆。在大多数代码智能任务中,这可能会带来麻烦,因为它们依赖于相当容易产生噪音和重复的数据源,例如来自GitHub的代码。据我们所知,我们提供了第一个研究,以量化记忆效应领域的软件工程和代码智能系统。这项工作提高了人们的认识,并为在代码智能系统中训练神经模型的重要问题提供了新的见解,这些问题通常被软件工程研究人员忽视。
2022-09-12 cs.LG cs.PL cs.SE
Bringing Order Amidst Chaos: On the Role of Artificial Intelligence in Secure Software Engineering
本文通过实证评估SASTT、数据集与即时建模等方法,揭示安全软件工程中漏洞预测的工具局限和上下文重要性,以提升AI缺陷预测效果。
2025-01-09 cs.AI cs.CL cs.CR
Implications of MBTI in Software Engineering Education
有许多方法可以帮助理解个体差异及其对教学和学习的影响。教育工作者一直在使用迈尔斯-布里格斯类型指标(MBTI)来了解学习风格的差异,并制定适合不同个性风格的教学方法。受MBTI的启发,我们开发了一系列在软件工程课程中有效教学和学习的实践。我们的目标是达到每一个学生,但以不同的方式,通过设计各种教学方法。
2015-07-24 cs.CY cs.SE
The importance of visual modelling languages in generative software engineering
Business School, University of Edinburgh(爱丁堡大学商学院)
本文探讨可视化建模语言在生成式软件工程中的重要性,研究多模态GPT(如GPT-4)结合图像与文本输入的能力,填补了通过图表与自然语言提示执行软件工程任务相关用例的研究空白。
2025-08-20 cs.AI cs.SE
Superintelligence Safety: A Requirements Engineering Perspective
Institute of Computer Technology TU Wien(维也纳工业大学计算机技术研究所)
在“人工智能安全”的标题下,人们正在讨论一个影响广泛的问题,即未来某些“超人人工智能“/“超级智能”是否会对人类构成威胁。此外,已故的史蒂芬·霍金警告说,机器人的崛起可能对人类造成灾难性的影响。一个主要的担忧是,即使是仁慈的超人人工智能(AI),如果它的既定目标与我们的目标不完全一致,或者如果我们不能精确地指定它的目标功能,也可能变得非常有害。比喻上,这与希腊神话中的迈达斯国王相比较,他表示希望他所接触的一切都应该变成黄金,但显然这个愿望没有得到足够精确的说明。我们认为,这听起来像是需求问题,也像是精确制定需求的挑战。(To我们的最佳知识,这还没有被指出)。在需求工程(RE)中,模糊性或不完整性通常会导致问题。此外,整个问题需要一个重大的可再生能源努力,找出关于超级智能的愿望和需求,在我们看来,这很可能是一个非常复杂的基于人工智能的软件密集型系统。这甚至可能需要在理论上定义一个扩展的需求问题。
2019-09-26 cs.AI cs.SE
Explainable AI for Software Engineering
Monash University(莫纳什大学)
人工智能/机器学习技术已经广泛应用于软件工程中,以提高开发人员的生产力、软件系统的质量和决策制定。然而,这种用于软件工程的AI/ML模型仍然是不切实际的,不可解释的,也不可操作的。这些问题通常会阻碍AI/ML模型在软件工程实践中的采用。在本文中,我们首先强调了在软件工程中对可解释的人工智能的需求。然后,我们总结了三个成功的案例研究,说明如何通过使软件缺陷预测模型更加实用,可解释和可操作来使用可解释的人工智能技术来解决上述挑战。
2020-12-03 cs.AI cs.CY cs.SE
The Specification Paradox: Rethinking Requirements Engineering in the Age of AI
Rio de Janeiro State University(里约热内卢州立大学)
该研究探讨大型语言模型普及下软件工程从代码中心转向规范驱动开发的趋势,提出规范悖论,指出AI生成软件能力越强,越依赖高质量人类规范,强调需求工程的核心地位。
2026-08-18 cs.PL cs.SE
Global Software Engineering in the Age of GitHub and Zoom
自2006年首届ICGSE会议以来,情况发生了很大变化。工具得到了改进,对文化差异的认识得到了广泛传播,开源的前景化等发展都增强了我们跨越地理鸿沟的能力。但是软件在世界上的广泛而深远的影响-特别是对于社会规模的系统,如社交媒体-迫使开发人员和学者承担新的和极具挑战性的责任。我们必须找到更好的方法,将道德纳入我们的发展实践,并更加关注所部署的系统与关键的社会系统相互作用并经常破坏这些系统时产生的有害的意外后果。
2021-04-06 cs.CY cs.SE
Explainable Artificial Intelligence Techniques for Software Development Lifecycle: A Phase-specific Survey
Google(谷歌)
本文针对软件工程领域XAI研究阶段分布不均的问题,首次全面综述了多种XAI技术在软件开发生命周期全阶段的应用,以推动XAI落地与AI驱动软件开发发展。
2025-05-11 cs.AI cs.LG cs.SE
Towards Accountability for Machine Learning Datasets: Practices from Software Engineering and Infrastructure
Google(谷歌)
对人工智能系统的社会影响的日益关注激发了对更大透明度和问责制的需求。然而,赋予机器学习权力的数据集经常被使用、共享和重用,而对导致其创建的审议过程几乎没有可见性。在构思数据集时,哪些利益攸关方群体的观点被纳入其中?关于如何对子群和其他现象建模,咨询了哪些领域专家?如何衡量和解决代表性偏见的问题?是谁给数据贴上标签的?在本文中,我们介绍了一个严格的数据集开发透明度框架,支持决策和问责制。该框架利用数据集开发的周期性、基础设施和工程性质,从软件开发生命周期中汲取最佳实践。数据开发生命周期的每个阶段都会产生一组文档,这些文档有助于改善沟通和决策,并提请注意仔细数据工作的价值和必要性。拟议的框架旨在通过使数据集创建中经常被忽视的工作变得可见,从而有助于缩小人工智能系统中的问责制差距。
2021-01-30 cs.CY cs.DB cs.LG
Operationalising Artificial Intelligence Bills of Materials (AIBOMs) for Verifiable AI Provenance and Lifecycle Assurance
本文提出了一种扩展CycloneDX标准的AIBOM框架,用于捕捉AI特定的溯源、模型血统和披露元数据,通过结构化架构工程、密码学验证和智能体驱动自动化,实现可验证的软件溯源,展示了98.7%的可重复性保真度、96.2%的漏洞匹配精度和63%的手动监督减少,验证了自动化溯源保证和可重复AI生命周期验证的可行性。
2026-03-17 cs.AI cs.CR cs.LG
Teaching Software Engineering for AI-Enabled Systems
Carnegie Mellon University(卡内基梅隆大学)
软件工程师在构建智能系统时可以提供重要的专业知识,利用数十年的经验和方法来构建可扩展,响应和强大的系统,即使是在不可靠的组件上构建。具有人工智能或机器学习(ML)组件的系统提出了新的挑战,需要精心设计。我们设计了一门新课程,向具有ML背景的学生教授软件工程技能。我们特别超越了在人工条件下教授建模技术的传统ML课程,并在讲座和作业中专注于大型和不断变化的数据集,强大和可进化的基础设施以及考虑道德和公平的有目的的需求工程。我们描述了课程和我们的基础设施,并分享经验和第一次教授课程的所有材料。
2020-01-18 cs.AI cs.LG cs.SE