Opening the Software Engineering Toolbox for the Assessment of Trustworthy AI
Simula Research Laboratory（Simula研究实验室）
可信度是以人为中心的人工智能（AI）接受和成功的核心要求。要认为人工智能系统是值得信赖的，关键是要根据值得信赖的人工智能的黄金标准来评估其行为和特征，包括指导方针，要求或仅期望。虽然人工智能系统非常复杂，但它们的实现仍然基于软件。软件工程社区有一个长期建立的工具箱，用于评估软件系统，特别是在软件测试的背景下。在本文中，我们主张应用软件工程和测试实践来评估可信的人工智能。我们将欧盟委员会人工智能高级专家组定义的七个关键要求与软件工程的既定程序联系起来，并为未来的工作提出问题。
2020-08-30 cs.AI cs.CY cs.SE
TrustOps: Continuously Building Trustworthy Software
针对软件服务信任验证难、现有模型依赖假设存风险的问题，提出TrustOps方法，通过在软件全生命周期收集可验证证据并结合现有工具技术，为构建新信任模型提供适应性原则与未来研发布局。
2024-12-04 cs.SE
Software Engineering in the Agent Era From Trustworthy Change to Human Agent Software Organizations
Faculty of Computing Harbin Institute of Technology（哈尔滨工业大学计算机学院）
本文针对智能体时代软件工程中可扩展执行的管控问题，提出含可信变更、责任拓扑、人机单元的框架，明确权威为分类轴并推导相关影响，贡献理论构建与操作化方法。
2026-09-07 cs.SE
Trustworthy and Synergistic Artificial Intelligence for Software Engineering: Vision and Roadmaps
Singapore Management University（新加坡管理大学）
本文梳理了AI4SE的发展历程与核心挑战，提出实现可信、协同AI4SE的两大战略路线图，展望其推动软件工程迈向2.0的愿景，旨在激发领域进一步研究。
2023-10-04 cs.AI cs.SE
Is Your Automated Software Engineer Trustworthy?
针对LLM软件代理在模糊输入或错误输出时缺乏弃权机制的问题，提出BouncerBench基准，评估其拒绝能力，发现多数模型表现不佳，为构建更谨慎可信的代理提供基础。
2025-06-21 cs.SE
Towards Trustworthy AI Software Development Assistance
Technische Universität Darmstadt（德累斯顿技术大学）；Hessian Center for Artificial Intelligence (hessian.AI)（黑森人工智能中心）；National Research Center for Applied Cybersecurity ATHENE（应用网络安全国家研究中心ATHENE）
本文提出可信AI软件开发助手的架构，通过基础LLM训练、图表示和模块化框架提升代码质量和安全性。
2024-01-23 cs.LG cs.SE
Requirements-Augmented Generation for Trustworthy Acceptance Testing of LLM-Based Software
Monash University（蒙纳士大学）；Jiangnan University（江南大学）；Australian National University（澳大利亚国立大学）；Tianjin University（天津大学）；Yiwuyishi Intelligent Technology Co., Ltd.（义乌市一五二智能科技有限公司）
该研究针对基于大语言模型的软件的验收测试缺口，提出需求增强生成技术与置信度校准级联判定方法，经工业案例验证可提升预言机质量、准确率与成本效率，具备工业可行性。
2026-08-14 cs.SE
Facilitating Trustworthy Human-Agent Collaboration in LLM-based Multi-Agent System oriented Software Engineering
Chalmers University of Technology — University of Gothenburg（查尔姆斯理工大学——戈尔达堡大学）
本文针对基于LLM的多智能体系统在软件工程中人机任务分配的可信性问题，提出一个基于RACI的框架及实施指南，以促进高效协作、确保责任并降低自动化风险。
2025-05-07 cs.AI cs.MA cs.SE
Sustainable Software Ecosystems: Software Engineers, Domain Scientists, and Engineers Collaborating for Science
科学软件的开发通常是领域科学家和科学软件工程师之间的合作。在开发先进的科学软件时，接受这些合作尤为重要，因为可持续性，可重复性和可扩展性非常重要。在理想的情况下，正如本文所讨论的那样，这将由世界上最重要的科学专家组成的团队聚集在一起，这些专家在特定领域具有经验丰富的软件开发人员，他们在形成高度协作的软件团队以促进科学研究方面经验丰富。
2014-07-22 cs.SE
Involving before Evolving: A Vision for Trustworthy Enterprise Digital Twin Engineering
提出“先参与后演进”的可信企业数字孪生工程愿景，通过快速原型吸引利益相关者，再演进至联邦互操作，结合基础模型、本体论和可观测性工具，并在米其林合作中验证。
2026-09-14 cs.AI cs.HC cs.SE
Trustworthy Software Project Generation : a Case Study with an Interactive Theorem Prover
Key Laboratory of High Confidence Software Technologies (Peking University), Ministry of Education（教育部高可信软件技术重点实验室；北京大学计算机学院）；School of Computer Science Peking University
本文研究利用交互式定理证明器（ITP）从自然语言需求自动生成大规模可信软件项目，通过将纯逻辑与有副作用的代码分离，在Rocq中完成验证并提取C++代码，成功生成一个RISC-V RV32I CPU解释器，证明了ITP作为LLM生成软件验证后端的可行性。
2026-05-25 cs.SE
Test It Before You Trust It: Applying Software Testing for Trustworthy In-context Learning
Advanced Institute of So-Go-Chi (Convergence Knowledge) Informatics（融合知识研究院）；Tohoku University（东北大学）；Japan Advanced Institute of Science and Technology（日本先进科学研究院）；Faculty of Information and Communication Technology（信息与通信技术学院）；Mahidol University（玛希敦大学）
本文提出受软件测试启发的MMT4NL框架，通过构造蜕变对抗性示例评估大型语言模型上下文学习的可信度，并在情感分析和问答任务中揭示语言错误。
2025-09-08 cs.AI cs.SE
Generative AI for trustworthy systems - Towards a health check model
Chalmers University of Technology（查尔姆斯理工大学）；University of Hawai’i（夏威夷大学）；University of L’Aquila（拉奎拉大学）；Malmö University（马尔默大学）
本文提出可信自主健康检查模型，一种多维诊断工具，用于评估组织在生成式人工智能辅助软件工程中的信任建立，通过八个维度和四种信任范式支持跨组织比较与配置对齐。
2026-09-11 cs.SE
What Practitioners Really Think About Continuous Software Engineering: A Taxonomy of Challenges
持续软件工程是一种协作式的软件开发环境，它提供了在短时间内持续开发和部署高质量软件项目的能力。针对持续软件工程实践尚不成熟，软件组织对采用持续软件工程犹豫不决的问题，本研究的目的是：（1）通过系统的文献综述（SLR）和问卷调查研究获得行业专家的见解，以探索持续软件工程的挑战;（2）使用模糊层次分析法（FAHP）对调查的挑战进行优先级排序。研究结果提供了一套软件组织所面临的关键挑战，同时采用持续软件工程和基于优先级的分类的持续软件工程的挑战。FAHP的应用是新颖的，在这个研究领域，因为它有助于解决从业者的连续软件工程的影响因素的不确定性。我们相信，这项研究的结果将作为一个知识体系，为现实世界的从业者和研究人员修改和开发新的战略，成功地实施持续软件工程的做法在软件行业。
2023-03-30 cs.SE
How Research Software Engineers Can Support Scientific Software
我们是桑迪亚国家实验室软件工程和研究部的研究软件工程师和团队成员，该组织旨在推进计算科学领域的软件工程。我们的团队希望促进流程和原则，从而在科学软件中实现算法和应用程序的高质量，严谨性，正确性和可重复性。我们用我们的经验来论证，有一套容易实现的软件工具和最佳实践，具有很大的投资回报，可以传授给科学研究人员，这将显着提高软件的质量，因此，研究的质量。
2020-10-14 cs.SE
The Risk-Taking Software Engineer: A Framed Portrait
本研究通过124名软件工程师的问卷调查实验，发现框架效应显著影响其风险承担，而“大五”人格特质与风险承担无关，建议工程师及管理者重视并妥善处理框架效应。
2023-01-21 cs.SE
The Hitchhikers Guide to Production-ready Trustworthy Foundation Model powered Software (FMware)
Centre for Software Excellence, Huawei Canada（华为加拿大软件卓越中心）；Queen’s University, Canada（加拿大女王大学）；York University, Canada（加拿大约克大学）
本文以KDD 2025教程形式系统梳理FMware从模型选择、数据对齐、提示工程到测试部署的全链路挑战，并结合工业经验给出可信赖生产级系统的技术路线图。
2025-06-02 cs.AI cs.LG cs.SE
Software and Security Engineering in Digital Transformation
数字化转型是当前全球环境中的一个热门话题，因为许多组织一直在努力采用数字化解决方案。软件工程也已经成为一个更重要的角色，因为大量的系统，无论是传统的还是智能的，都依赖于收集、存储和处理数据的软件。软件工程师在数字化转型中的作用也变得至关重要。在这方面，本文旨在研究软件工程的趋势和软件工程师在数字化转型中的作用。此外，本文还探讨了安全软件开发在数字化转型中的重要性。可以得出结论，软件工程是数字化转型的一个组成部分，因为所有数字系统都使用软件来有效地执行其功能。软件作为数字系统和人类之间的桥梁，以交互和有效地使用系统。
2021-12-16 cs.SE
Personality Profiles of Software Engineers and Their Software Quality Preferences
软件工程（SE）中与人的方面相关的研究已经从不同的角度进行。这些观点包括研究软件生存周期不同阶段的人的因素，软件开发中团队绩效的影响，一个人格特质如何适合一个特定的任务，以及其他一些杂项问题。这项研究工作的目的是建立巴基斯坦的软件工程师使用迈尔斯-布里格斯类型指标（MBTI）仪器的个性概况。在这项调查中，我们收集了110名软件工程师的个性特征。此外，还收集了他们对软件质量属性的偏好。研究分析表明，最突出的人格类型是内向、敏感、思考和判断的组合。调查结果表明，大多数软件工程师认为可用性和功能性是最重要的软件质量属性。
2015-11-13 cs.SE
Rethinking Software Engineering in the Foundation Model Era: A Curated Catalogue of Challenges in the Development of Trustworthy FMware
Huawei Canada（华为加拿大）；Queen’s University（女王大学）；York University（约克大学）
本文梳理企业级可信 FMware 开发中的 10 个 SE4FMware 关键挑战，并提出覆盖全生命周期的 FMArts 平台，结合大型客户复杂系统实践验证其工程价值。
2024-03-04 cs.AI cs.SE
Do Research Software Engineers and Software Engineering Researchers Speak the Same Language?
本文研究研究软件工程师与软件工程研究者之间的术语分歧，通过系统化术语映射方法识别概念对齐与知识差距，为促进双方相互学习和协作奠定基础。
2025-07-03 cs.SE
Extending Behavioral Software Engineering: Decision-Making and Collaboration in Human-AI Teams for Responsible Software Engineering
本研究从认知视角探讨人机协作在软件工程决策中的挑战，设计人机团队以提升集体智能，促进负责任的软件工程。
2025-07-08 cs.SE
Understanding and measuring software engineer behavior: What can we learn from the behavioral sciences?
本文探讨了如何通过结合定量与定性数据的整体方法，利用行为科学的方法论技能来增强对软件工程师行为的理解与测量，从而改进软件工程实践。
2024-06-05 cs.SE
Identifying Talented Software Engineering Students through Data-driven Skill Assessment
对于软件开发公司来说，最重要的目标之一是识别和获得有才华的软件工程师，以保持一支能够生产有竞争力产品的熟练团队。传统的发掘年轻软件工程师人才的途径主要是通过各种形式的程序设计竞赛，主要是测试参与者的程序设计技能。然而，成功的软件工程在实践中需要更广泛的技能，从团队成员，包括分析，设计，编程，测试，沟通，协作和自我管理等，在本文中，我们探讨潜在的方法来识别人才软件工程学生在数据驱动的方式，通过敏捷项目管理（APM）平台。通过我们提出的HASE在线APM工具，我们在2014年进行了一项研究，涉及21个由100多名本科软件工程学生组成的STEM团队，他们参加了为期数周的课程项目。在这项研究中，学生们进行了超过10，000个由HASE记录的ASD活动。我们展示了这一新的研究方向的可能性和潜力，并讨论了其对软件工程教育和行业招聘的影响。
2014-11-23 cs.SE
Combining Design Thinking and Software Requirements Engineering to create Human-centered Software-intensive Systems
有效的需求工程是软件密集型开发项目中的一项重要活动。设计思维以人为中心的工作模式被认为是在设计创新系统时补充这些活动的有力方式。研究已经取得了很大的进展，说明了使用需求工程设计思维的好处。然而，如何真正实现两者的结合仍然是一个大问题。在这一章中，我们贡献了一个基于工件的模型，集成了创新的软件密集型系统的设计思维和需求工程。从我们的研究和项目经验，我们建议三个战略，剪裁和整合设计思维和需求工程互补的协同作用。
2021-12-10 cs.SE
Does social identity matter in software engineering? Assessing the case of research software engineers
The Open University（开放大学）；INSEAD（欧洲工商管理学院）；The University of Manchester（曼彻斯特大学）；Lancaster University（兰开斯特大学）
本文通过混合方法研究了研究软件工程师的社会身份，发现集体身份对职业幸福感有影响，并结合心理学与软件工程探讨了专业身份的演变。
2026-04-28 cs.SE
Sustaining Research Software via Research Software Engineers and Professional Associations
研究软件是为支持研究而开发的一类软件。今天，世界各地的大学、政府和商业研究企业每天都在创建大量这样的软件。这种软件的可持续性面临着特殊的挑战，至少部分是由于开发它的人的类型。这些研究软件工程师（RSE）在开发和维护软件方面面临的挑战与传统软件开发人员所面临的挑战不同。因此，专业协会已开始为RSE提供支持、宣传和资源。这些好处对于维持RSE至关重要，特别是在他们的贡献往往被低估和没有奖励的环境中。本文重点介绍专业协会，如美国研究软件工程师协会（US-RSE），可以提供这一点。
2021-03-02 cs.SE
Understanding LLM Usage Among Early-Career Software Engineers in Practice
CESAR School（CESAR学院）；UFRPE（巴西联邦农村大学）；University of Calgary（卡尔加里大学）；University of Hawaii at Manoa（夏威夷大学马诺阿分校）
本研究通过调查75名初级软件工程师，发现LLM已融入日常开发活动，其有效使用依赖传统工程能力与批判性思维，并指出职场期望与大学教育存在差距，为软件工程教育和培训提供启示。
2026-09-24 cs.SE
Requirements Engineering for Research Software: A Vision
本文通过访谈12名研究软件开发者，刻画其需求引出、记录与分析实践及挑战，提出将研究软件作为需求工程新应用领域的愿景。
2025-01-08 cs.SE
An Exploration of the Mentorship Needs of Research Software Engineers
研究型软件工程师（RSEs）作为一个新的专业名称，连接着软件工程和研究科学两个世界。他们缺乏明确的发展和培训机会，特别是在辅导领域。在本文中，我们讨论了导师制，因为它涉及到RSE的独特需求，并提出了组织和机构可以支持RSE的导师/学员关系的方法
2021-10-05 cs.SE
Enhancing Collaboration for Software Engineers through Matching
针对软件工程师缺乏一站式协作连接平台的问题，本研究开发了网页应用NEXAS，通过基于技术档案与兴趣的算法匹配推荐同行，支持项目发现与小组组建，构建专属软件工程师的协作社区。
2025-02-22 cs.SE
A Call to Promote Soft Skills in Software Engineering
多年来，我们一直在思考软件工程的其他方面;工程软件中缺少的环节是软件开发过程中必不可少的软技能集。虽然软技能是软件开发中最重要的方面之一，但它们往往被教育工作者和实践者所忽视。这种忽视的主要原因之一是，软技能通常与社会和个性因素有关，即，团队合作，动机，承诺，领导力，多元文化，情感，人际交往能力等。这篇社论是一个宣言，宣布软技能的重要性，在软件工程的意图，提请专业人士注意这些主题。我们已经通过提及我们对该领域的了解，我们认为是显而易见的，以及哪些主题需要进一步调查来解决这个问题。支持我们主张的重要参考资料也包括在内。软件工程师以其技术专长的深度为荣，这使他们从人群中脱颖而出。什么样的人才能成为一名优秀的软件工程师？首先，它是有关方法和技术的技术知识（即硬技能），以及在实践中应用这些知识所需的技能。第二，但仍然很重要，它是一套软技能，特别是协作，沟通，解决问题和类似的人际关系和批判性思维技能，这是软件工程专业人员所期望的。换句话说，软件工程师需要硬技能和软技能，才能在工作场所取得成功。
2018-12-12 cs.SE
Standards of Validity and the Validity of Standards in Behavioral Software Engineering Research: The Perspective of Psychological Test Theory
背景软件工程研究中有一些出版物旨在指导研究人员评估其研究的有效性威胁。尽管如此，许多研究人员未能解决许多方面的有效性是必不可少的定量研究人为因素。目标.本文的目标是引发思维方式的转变，在什么类型的研究是最有价值的行为软件工程领域，也提供了更多的细节，什么是结构效度。法该方法是基于心理测试理论，并借鉴了心理学中使用的方法与结构效度。结果在本文中，我提出了一种不同的方法来有效性威胁比什么是常见的行为软件工程研究。结论.虽然本文的重点是行为软件工程，我相信其他类型的软件工程研究也可能受益于越来越多的关注结构效度。
2018-09-06 cs.SE
What Pakistani Computer Science and Software Engineering Students Think about Software Testing?
本研究通过调查88名巴基斯坦计算机科学与软件工程专业学生，分析软件测试职业不受欢迎的原因，发现测试角色兼具社会污名与技术属性。
2023-06-01 cs.SE
Ten Simple Rules for Catalyzing Collaborations and Building Bridges between Research Software Engineers and Software Engineering Researchers
本文针对科研领域中研究软件工程师与软件工程研究者协作的需求，提出十条战略准则，涵盖差异尊重、协作培育、共寻挑战、互利共赢等方面，助力双方建立协同关系以提升研究质量与影响力。
2025-06-03 cs.SE
Leveraging AI for Productive and Trustworthy HPC Software: Challenges and Research Directions
Oak Ridge National Laboratory（奥克荷厄斯国家实验室）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；Carnegie Mellon University（卡内基梅隆大学）；Northeastern University（东北大学）；University of Maryland（马里兰大学）；SpiralGen Inc.（SpiralGen公司）
本文探讨了利用AI改进HPC软件的挑战与研究方向，提出通过Ellora和Durban项目推动AI在HPC软件发展中的应用。
2025-05-13 cs.AI cs.DC cs.PF
Defining Quality Requirements for a Trustworthy AI Wildflower Monitoring Platform
Fontys University of Applied Science（方提斯应用科学大学）；Naturalis Biodiversity Center（Naturalis生物多样性中心）
对于从经过训练的机器学习模型演变为生产就绪的AI系统的AI解决方案，需要考虑的不仅仅是机器学习模型的性能。生产就绪的AI系统需要值得信赖，即高质量。但在实践中如何确定这一点？对于传统的软件，ISO25000及其前身长期以来一直被用来定义和测量质量特性。最近，基于ISO25000的AI系统质量模型已经被引入。本文将一个这样的质量模型应用于现实生活中的案例研究：用于监测野花的深度学习平台。本文提出了三个现实场景，分别描述了使用、扩展和逐步改进用于野花识别和计数的深度学习平台的意义。接下来，它显示了如何质量模型可以被用作一个结构化的字典来定义数据，模型和软件的质量要求。未来的工作仍然是用指标、工具和最佳实践来扩展质量模型，以帮助人工智能工程从业者实施值得信赖的人工智能系统。
2023-03-23 cs.AI cs.SE
Towards a Policy-as-a-Service Framework to Enable Compliant, Trustworthy AI and HRI Systems in the Wild
OCAD University（安大略艺术设计大学）；University of Toronto Robotics Institute（多伦多大学机器人研究所）
构建值得信赖的自主系统是一项挑战，原因有很多，不仅仅是试图设计“总是做正确的事情”的代理。“在人工智能和HRI中，通常没有考虑到更广泛的背景：可信度问题本质上是社会技术问题，最终涉及一系列复杂的人为因素和多层面关系，这些因素和关系可能出现在代理人，人类，组织，甚至政府和法律机构之间，每个人都有自己对信任的理解和定义。这种复杂性对开发值得信赖的人工智能和HRI系统构成了重大障碍--虽然系统开发人员可能希望他们的系统“总是做正确的事情”，但他们通常缺乏法律、法规、政策和道德方面的实用工具和专业知识来确保这一结果。在本文中，我们强调可信度的“模糊”社会技术方面以及在设计和部署过程中仔细考虑这些方面的必要性。我们希望通过以下方式为人工智能和HRI中的可信工程讨论做出贡献：i）描述在解决可信计算和对可用信任模型的需求时必须考虑的政策环境，ii）强调系统工程过程中设计干预的机会，以及iii）引入“策略即服务”（PaaS）框架的概念，该框架可以由AI系统工程师容易地应用于解决开发和（最终）运行时过程中的信任模糊问题。我们设想的PaaS方法，卸载的政策设计参数和政策标准的维护政策专家的发展，将使运行时的信任能力的智能系统在野外。
2020-10-06 cs.CY cs.HC cs.RO
Trustworthy Self-Composable Big-Data-as-a-Service: An LLM-Orchestrated Multi-Agent Framework for Automated Data Engineering, AutoML, MLOps Deployment, and Drift-Aware Lifecycle Optimization
School of Information, Computer, and Communication Technology（信息、计算机与通信技术学院）；Sirindhorn International Institute of Technology, Thammasat University（素金国际技术研究所，泰国 Thammasat 大学）
提出一种基于LLM编排的多智能体BDaaS框架，通过分解生命周期为专用智能体并协调执行，实现自动化数据工程、AutoML、MLOps部署和漂移感知优化，提升生命周期级可靠性。
2026-06-17 cs.AI cs.DB cs.MA
Turning Software Engineers into AI Engineers
Fontys University of Applied Sciences（方堤斯应用科学大学）
在工业、教育和学术界，我们看到对如何在软件应用中应用机器学习的知识的需求越来越大。通过Fontys UAS的ICT & AI教育计划，我们必须找到问题的答案：“我们应该如何教育软件工程师成为AI工程师？“本文描述了我们的教育计划，我们使用的开源工具，以及它所基于的文献。经过三年的经验，我们为教育机构和软件工程师在实践中总结了经验教训。
2021-01-04 cs.AI cs.SE
Human Factors in Software Reliability Engineering
在本文中，我们提出了我们的愿景，人因工程集成到软件开发过程中。这种方法的目的是提高软件的质量，并以系统的方式处理人为错误。
2015-03-12 cs.HC cs.SE
Will AI replace Software Engineers? Do not hold your breath
National University of Singapore（新加坡国立大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
本文指出，尽管LLMs在代码生成中很流行，但软件工程还包括维护大型软件和保持可靠性等LLMs尚不具备能力的关键部分，因此AI不会完全取代软件工程师。
2025-03-03 cs.AI cs.SE
Unified Software Engineering Agent as AI Software Engineer
National University of Singapore（新加坡国立大学）；Purdue University（普渡大学）
本文提出统一软件工程代理USEagent，旨在通过协调多种能力提升软件开发效率，通过USEbench验证其效果，发现其在复杂任务中表现优于现有代理。
2025-12-08 cs.AI cs.SE
With Great Power Comes Great Responsibility: The Role of Software Engineers
本文针对软件工程领域快速演进下软件工程师角色职责转变的适应滞后问题，通过推动相关讨论反思，旨在培养能应对职业复杂性与伦理考量的新一代软件工程师。
2024-07-11 cs.CY cs.SE
Artificial Intelligence Impact On The Labour Force -- Searching For The Analytical Skills Of The Future Software Engineers
Alexandru Ioan Cuza University of Iasi（亚历山德鲁·伊万·库扎大学）
这篇系统的文献综述旨在调查人工智能（AI）对软件工程劳动力的影响，特别关注未来软件工程师所需的技能，AI对软件工程技能需求的影响，以及软件工程师工作的未来。该综述通过全面的搜索策略确定了42篇相关出版物，并分析了其结果。结果表明，未来的软件工程师将需要在编程能力和软技能，如解决问题和人际沟通。人工智能将对软件工程劳动力产生重大影响，有可能使目前由软件工程师完成的许多工作自动化。软件工程师的角色正在发生变化，并将在未来继续发生变化，人工智能辅助软件开发对软件工程行业提出了挑战。审查表明，软件工程专业必须适应不断变化的环境，以保持相关性和有效的未来。
2023-02-26 cs.AI cs.CY cs.SE
Designing Trustworthy User Interfaces
界面设计直接影响软件的可信度。从而影响用户使用工具的意图。然而，以前对用户信任的研究并没有全面地解决用户界面设计问题。我们缺乏对界面可信度的理解（1），以及提高可信度的可行措施（2）。我们通过解决这两个差距来为此做出贡献。在系统的文献回顾的基础上，我们对用户信任理论进行了全面的综述，并对影响用户界面可信度的因素进行了分类。然后，我们得出具体的措施，以解决这些因素在界面设计。我们使用结果来创建概念接口的证明。在初步的评估中，我们比较了一个变量，旨在引起信任，旨在减少it.Our结果表明，我们所采用的措施可以有效地促进用户的信任。
2022-02-25 cs.HC cs.SE
Python Fuzzing for Trustworthy Machine Learning Frameworks
Ivannikov Institute for System Programming of the RAS（俄罗斯科学院伊万尼科夫系统编程研究所）；Lomonosov Moscow State University（莫斯科罗蒙诺索夫大学）
本文提出一种基于Sydr-Fuzz工具集并集成于GitLab CI的Python动态分析流水线，通过分析攻击面并为PyTorch、TensorFlow等框架开发模糊测试目标，成功发现3个新漏洞并提出修复方案。
2024-12-23 cs.AI cs.CR cs.SE
Agentic AI for Software: thoughts from Software Engineering community
NUS（国立新加坡大学）；SonarSource SA
针对AI智能体在软件工程领域的应用，分析其在代码及设计层面任务中的作用，指出解读开发者意图是核心难题，提出需通过智能体推进意图推断，并认为未来工作流应包含AI生成代码的验证与确认。
2025-09-22 cs.AI cs.SE
Reflections on Cyberethics Education for Millennial Software Engineers
软件是21世纪问题解决方案的关键组成部分。这些问题通常是“邪恶的”，复杂的，不可预测的。为了提供最好的解决方案，千禧一代的软件工程师必须准备好做出道德决策，批判性地思考，并系统地采取行动。这一现实要求教育系统和课程设置不断变化，因为错误的判断可能会产生严重的社会影响。本研究旨在调查和反思软件工程（SE）计划，提出了一个概念框架，分析网络伦理教育和一套建议，如何将其整合到SE本科课程。
2017-03-02 cs.CY cs.SE
What Makes Research Software Sustainable? An Interview Study With Research Software Engineers
软件现在是一种重要的科学工具，为从生物信息学和计算物理学到人文学科的数据汇集和分析提供了工具。研究中使用的软件通常是自制的和定制的：它是为特定项目而构建的，并且很少在此之外进行维护，导致快速衰减和频繁的“车轮再造”。因此，了解如何开发可持续的研究软件，使其适合未来的重用，是研究人员和资助者感兴趣的，但如何实现这一目标仍然是一个悬而未决的问题。在这里，我们报告的采访研究的结果，研究如何研究软件工程师-在学术研究环境中积极开发软件的人-主观地定义软件的可持续性。数据的专题分析揭示了两个相互作用的方面：\emph{intrinsic sustainability}，涉及软件的内部质量，如模块化，封装和可测试性，以及\emph{extrinsic sustainability}，涉及文化和组织因素，包括软件如何获得资源，支持和共享。研究软件工程师认为，越来越多地关注质量和可扩展性是提高学术研究软件可持续性的关键因素。
2019-03-14 cs.CY cs.SE
Automated Quantum Software Engineering: why? what? how?
本文提供了一个关于自动化量子软件工程（AQSE）研究的个人观点。它阐明了研究AQSE的动机（为什么？），对这样一个框架的精确描述（什么？），以及对实现它所需的组件的思考（如何实现？）。
2022-12-01 cs.ET cs.SE quant-ph
The Fusion of Large Language Models and Formal Methods for Trustworthy AI Agents: A Roadmap
National University of Singapore（新加坡国立大学）；Peking University（北京大学）；Huazhong University of Science and Technology（华中科技大学）；Griffith University（格里菲斯大学）；Beijing Institute of Technology（北京理工大学）；Singapore Management University（新加坡管理大学）；University of Auckland（奥克兰大学）
该立场论文提出大语言模型与形式化方法融合的路线图，通过二者双向增强，既提升大模型输出的可靠性与形式化认证能力，又优化形式化方法工具的易用性等，推动可信AI软件系统发展。
2024-12-09 cs.AI cs.CL cs.SE
Understanding What Software Engineers Are Working on -- The Work-Item Prediction Challenge
Facebook Inc.（脸书公司）
了解软件工程师（开发人员，事件响应者，生产工程师等）是一个具有挑战性的问题--特别是当考虑软件密集型组织中更复杂的软件工程工作流时：i）工程师依赖于大量（可能数百个）松散集成的工具; ii）工程师参与并发和相对长时间运行的工作流; ii）基础设施（例如日志记录）不完全知道工作项; iv）工程过程（例如，对于事件响应）没有明确建模。在本文中，我们解释了相应的“工作项预测挑战”的理由，代表性的场景，报告在Facebook的相关工作，讨论了一些经验教训，并回顾相关的工作，呼吁武装利用，推进，并结合技术，从程序理解，挖掘软件库，过程挖掘，和机器学习。
2020-04-13 cs.IR cs.LG cs.SE
Making FPGAs Accessible to Scientists and Engineers as Domain Expert Software Programmers with LabVIEW
在本文中，我们提出了一个图形化的编程框架，LabVIEW，和相关的语言和库，以及编程技术和模式，我们发现有用的科学家和工程师作为领域专家软件程序员访问FPGA。
2014-08-20 cs.DC cs.OS cs.PL
