The Quest for Content: A Survey of Search-Based Procedural Content Generation for Video Games
University College of London(伦敦大学学院);Universidad San Jorge(圣豪尔赫大学)
针对视频游戏内容制作成本高的问题,本文综述2011-2022年基于搜索的程序内容生成(SBPCG)领域研究,梳理现状、指出挑战,为从业者提供建议并明确未来研究方向。
2023-11-08 cs.AI cs.SE
Code-Survey: An LLM-Driven Methodology for Analyzing Large-Scale Codebases
本文提出Code-Survey方法,将LLM视为人类参与者,通过设计调查问卷把提交记录和邮件等非结构化数据转化为结构化数据集,并在Linux内核eBPF子系统上构建Linux-bpf数据集进行定量分析,揭示了eBPF的演化模式、功能依赖关系及可靠性与安全性问题。
2024-09-24 cs.SE
Searching a Database of Source Codes Using Contextualized Code Search
考虑这样一种情况:程序员已经编写了程序的某一部分,但程序的某一部分(如方法或函数体)尚未完成。目标是使用缺失代码周围的上下文来自动“找出”数据库中的哪些代码对程序员有用,以帮助完成缺失的代码。搜索是“上下文化的”,在这个意义上,搜索引擎应该使用部分完成的代码中的线索来找出哪个数据库代码最有用。不应要求用户制定显式查询。我们将上下文化代码搜索视为一个学习问题,其目标是学习一个分布函数,计算每个数据库代码完成程序的可能性,并提出一个神经模型来预测哪个数据库代码可能最有用。由于在搜索时将神经模型应用于数百万或数十亿代码的数据库中的每个代码将是非常昂贵的,因此我们的关键技术问题之一是确保快速搜索。我们通过学习“反向编码器”来解决这个问题,该编码器可用于将评估每个数据库代码的问题减少到计算两个正态分布的卷积。
2020-07-26 cs.SE
Cross-Language Code Search using Static and Dynamic Analyses
随着代码搜索渗透到软件开发中的大多数活动中,代码到代码搜索已经出现,以支持使用代码作为查询并在搜索结果中检索相似的代码。应用程序包括用于重构的重复代码检测、用于程序修复的补丁识别和语言翻译。现有的代码到代码搜索工具依赖于静态相似性方法,例如比较标记和抽象语法树(AST)来近似动态行为,导致精度低。大多数工具不支持跨语言代码到代码搜索,而那些支持的工具依赖于需要标记训练数据的机器学习模型。我们提出了跨语言的代码到代码搜索(COSAL),一种跨语言技术,使用静态和动态分析来识别相似的代码,不需要机器学习模型。基于代码标记相似性、结构相似性和行为相似性,使用非支配排序对代码片段进行排名。我们在43,146个Java和Python文件和55,499个Java文件的两个数据集上对COSAL进行了经验评估,发现1)与单一或加权度量相比,基于静态和动态相似性度量的非支配排名的代码搜索更有效; 2)与最先进的语言内和跨语言代码到代码搜索工具相比,COSAL具有更好的精确度和召回率。我们探讨了在大型开源存储库上使用COSAL的潜力,并讨论了更多语言和相似性度量的可扩展性,为实用的多语言代码到代码搜索提供了一个网关。
2021-06-16 cs.SE
Enriching Query Semantics for Code Search with Reinforcement Learning
代码搜索是开发人员在软件实现过程中的常见做法。精确代码搜索的挑战主要在于源代码和自然语言之间的知识差距(即,查询)。由于有限的代码-查询对和大量的代码-描述对,基于深度学习技术的先前研究集中于学习源代码和任务的对应描述文本之间的语义匹配关系,并假设描述和用户查询之间的语义差距是边际的。在这项工作中,我们发现在代码描述对上训练的代码搜索模型可能在用户查询上表现不佳,这表明查询和代码描述之间的语义距离。为了减轻语义距离,更有效的代码搜索,我们提出了QueCos,查询丰富的代码搜索模型。QueCos通过强化学习(RL)学习生成语义丰富的查询以捕获给定查询的关键语义。使用RL,代码搜索性能被认为是产生准确的语义丰富查询的奖励。丰富的查询最终用于代码搜索。在基准数据集上的实验表明,QueCos可以显着优于最先进的代码搜索模型。
2021-05-20 cs.SE
Neural Code Search Evaluation Dataset
人们对使用自然语言进行代码搜索越来越感兴趣。如果没有现成的评估套件,评估这种代码搜索模型的性能可能会很困难。在本文中,我们提出了一个评估数据集组成的自然语言查询和代码片段对,希望在这一领域的未来工作可以使用这个数据集作为一个共同的基准。我们还提供了最近工作中的两个代码搜索模型([1]和[6])的结果。评估数据集可在https://github.com/facebookresearch/Neural-Code-Search-Evaluation-Dataset上获得
2019-10-02 cs.SE
A Survey of Deep Learning Models for Structural Code Understanding
Sun Yat-sen University(中山大学)
近年来,软件行业中深度学习和自动化需求的兴起将智能软件工程提升到了新的高度。代码理解的方法和应用程序的数量正在增长,其中许多方法和应用程序都使用了深度学习技术,以更好地捕获代码数据中的信息。在本调查中,我们对代码数据形成的结构进行了全面的概述。本文将近年来的代码理解模型分为基于序列的模型和基于图的模型两大类,并对它们进行了总结和比较。我们还介绍了指标,数据集和下游任务。最后,我们对结构化代码理解领域未来的研究提出了一些建议。
2022-05-03 cs.AI cs.GL cs.PL
Searching by Code: a New SearchBySnippet Dataset and SnippeR Retrieval Model for Searching by Code Snippets
Huawei Noah's Ark lab(华为诺亚方舟实验室);St. Petersburg Department of the Steklov Institute of Mathematics(斯捷克洛夫数学研究所圣彼得堡分部);Ivannikov Institute for System Programming(伊万尼科夫系统编程研究所)
本文提出按代码片段搜索的新任务,构建SearchBySnippet数据集并设计SnippeR单编码器模型,在Recall@10上达到0.451,超越现有基线,成为代码搜索新基准。
2024-05-27 cs.CL cs.SE
TranS^3: A Transformer-based Framework for Unifying Code Summarization and Code Search
代码摘要和代码搜索在软件开发和维护中得到了广泛的应用。然而,很少有研究探讨了统一它们的效果。在本文中,我们提出了一个基于transformer的框架,将代码摘要与代码搜索集成在一起。具体来说,对于代码摘要,Trans^3启用了一个Actor-Critic网络,在Actor网络中,我们通过基于Transformer和基于树的Transformer编码器对收集的代码片段进行编码,并对给定的代码片段进行解码以生成其注释。同时,我们通过评论家网络的反馈迭代地调整演员网络,以提高生成评论的质量。此外,我们将生成的注释导入代码搜索,以提高其准确性。为了评估TranS^3的有效性,我们进行了一系列实验研究和案例研究,实验结果表明,TranS^3在代码摘要和代码搜索方面都明显优于多种最先进的方法,并且从开发人员的角度来看,研究结果进一步加强了TranS^3的有效性。
2020-03-09 cs.SE
Accelerating Code Search with Deep Hashing and Code Classification
The Chinese University of Hong Kong(香港中文大学);Microsoft Research Asia(微软亚洲研究院);The University of Newcastle(纽卡斯尔大学)
代码搜索是基于自然语言查询从源代码语料库中搜索可重用的代码片段。基于深度学习的代码搜索方法已经显示出有希望的结果。然而,以前的方法集中在检索的准确性,但缺乏注意的检索过程的效率。我们提出了一种新的方法CoSHC来加速代码搜索与深度哈希和代码分类,旨在执行有效的代码搜索,而不会牺牲太多的准确性。为了评估CoSHC的有效性,我们将我们的方法应用于五个代码搜索模型。大量的实验结果表明,与以前的代码搜索基线相比,CoSHC可以节省90%以上的检索时间,同时保持至少99%的检索准确率。
2022-03-31 cs.AI cs.SE
A Survey of Automatic Generation of Source Code Comments: Algorithms and Techniques
作为源代码文件的一个组成部分,代码注释有助于提高程序的可读性和可理解性。然而,开发人员有时并没有对他们的程序代码进行充分的注释,这是由于额外的努力,缺乏相关知识,没有意识到代码注释的重要性或其他一些因素。因此,代码注释可能不充分、缺失甚至与源代码不匹配,影响了对软件的理解、重用和维护。为了解决代码注释的这些问题,研究人员一直关注自动生成代码注释。在这项工作中,我们的目标是进行自动代码注释研究的调查。首先,我们概括性地分析了程序注释自动生成的挑战和研究框架。其次,我们给出了代表性算法的分类,每类算法的设计原则,优缺点。同时,我们也提供了一个生成的评论的质量评估的概述。最后,我们总结了一些未来的发展方向,提高技术的自动生成代码注释和质量评估的意见。
2019-07-25 cs.SE
Software search is not a science, even among scientists: A survey of how scientists and engineers find software
改进的软件发现是提高软件重用的先决条件:毕竟,如果某人找不到用于特定任务的软件,他们就不能重用它。了解人们寻找软件时的方法和偏好有助于改进软件发现的设施。我们调查了在几个科学和工程领域工作的人,以更好地了解他们的方法和选择标准。我们发现,即使在受过高级训练的人中,依赖一般网络搜索、同事意见和文献的基本方法仍然是最常用的。然而,那些参与软件开发的人在使用社会帮助网站、软件项目存储库、软件目录和组织特定的邮件列表或论坛方面与非开发人员不同。例如,我们样本中的软件开发人员更有可能在Stack Overflow等社区网站上搜索,即使在寻找现成的软件而不是源代码时,同样,在寻找现成的软件时,询问同事也更重要。我们的调查还深入了解了人们在寻找现成软件时最重要的标准。最后,我们的调查还确定了一些可能阻止人们找到软件的因素。
2018-05-28 cs.CY cs.SE
Evaluating How Developers Use General-Purpose Web-Search for Code Retrieval
搜索是软件开发过程中不可或缺的一部分。开发人员经常使用搜索引擎在开发过程中查找信息,包括可重用的代码片段、API理解和参考示例。开发人员倾向于使用像Google这样的通用搜索引擎,这些搜索引擎通常不针对代码相关文档进行优化,而使用的搜索策略和排名技术更适合于通用的、非代码相关的信息。在本文中,我们将探讨是否一个通用的搜索引擎,如谷歌是一个最佳的选择代码相关的搜索。特别是,我们调查是否与谷歌搜索的性能不同的代码与非代码相关的搜索。为了分析这一点,我们收集了来自310名开发人员的搜索日志,其中包含来自Google的近150,000个搜索查询和相关的结果点击。为了区分代码相关的搜索和非代码相关的搜索,我们建立了一个模型,识别查询的代码意图。利用这个模型,我们建立了一个自动分类器,检测代码和非代码相关的查询。我们确认分类器的有效性手动注释的查询,分类器达到87%的精度,86%的召回率,和87%的F1分数。我们应用这个分类器来自动注释数据集中的所有查询。分析这个数据集,我们观察到与代码相关的搜索通常需要更多的努力(例如,时间、结果点击和查询修改),这表明使用通用搜索引擎的代码搜索性能不太有效。
2018-03-22 cs.IR cs.SE
Static Analysis of Infrastructure as Code: a Survey
在DevOps中越来越多地使用基础设施即代码(IaC),这带来了部署操作的速度和可靠性方面的好处,但也带来了软件系统典型的基础设施挑战。IaC脚本可能包含导致部署的基础设施中的安全性和可靠性问题的缺陷:需要检测和预防它们的技术。本文通过对IaC的静态分析技术的文献回顾,分析和综述了这方面的研究现状。我们描述了分析技术,缺陷类别和平台的工具在文献中。
2022-06-21 cs.SE
RACK: Code Search in the IDE using Crowdsourced Knowledge
传统的代码搜索引擎通常不能很好地执行自然语言查询,因为它们主要应用关键字匹配。因此,这些引擎需要精心设计的查询,其中包含有关代码搜索编程API的信息。不幸的是,现有的研究表明,准备一个有效的查询代码搜索是既具有挑战性和耗时的开发人员。在本文中,我们提出了一种新的代码搜索工具-RACK-返回相关的源代码为一个给定的代码搜索查询写在自然语言文本。该工具首先通过从Stack Overflow的众包知识中挖掘关键字-API关联来将查询转换为相关API类的列表,然后将重新定义的查询应用于GitHub代码搜索API以收集相关结果。一旦提交了与编程任务相关的查询,该工具就会自动从数千个开源项目中挖掘相关的代码片段,并在开发人员的编程环境(IDE)的上下文中将其显示为排名列表。工具页:http://www.usask.ca/~masud.rahman/rack
2018-07-12 cs.SE
A Survey on Artificial Intelligence for Source Code: A Dialogue Systems Perspective
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
在这篇调查论文中,我们概述了过去35年来自然语言处理(NLP)和源代码中使用的主要深度学习方法。接下来,我们将介绍人工智能(AI)在源代码中的应用,也称为代码智能(CI)和程序设计语言处理(PLP)。我们调查了超过287出版物,并提出了一个软件工程为中心的分类法CI放置到一个类别,描述它如何最好地协助软件开发周期的每一个作品。然后,我们概述了会话助理领域及其在软件工程和教育中的应用。最后,我们强调了人工智能与代码和会话助理交叉点的研究机会,并为研究具有CI功能的会话助理提供了未来的方向。
2022-02-10 cs.CL cs.CY cs.LG
Deep Learning Meets Software Engineering: A Survey on Pre-Trained Models of Source Code
近年来,深度学习在软件工程(SE)中得到了成功的应用。特别是,开发和使用源代码的预训练模型,使各种SE任务都能实现最先进的结果。本文概述了这一快速发展的研究领域,并对未来的研究方向进行了思考。
2022-05-24 cs.AI cs.SE
Clone-Seeker: Effective Code Clone Search Using Annotations
源代码搜索在软件开发中起着重要的作用,例如探索性开发或从代码库中重新使用现有代码。通常,需要探索具有相同功能的不同实现,以完成自动化软件移植、软件多样化和软件修复等任务。代码克隆是语法或语义相似的代码片段,是此类任务的理想候选者。搜索代码克隆涉及给定的搜索查询以检索相关的代码片段。我们提出了一种新的方法,称为克隆搜索器,专注于利用克隆类功能检索代码克隆。为此,我们以自然语言文档的形式为每个代码克隆生成元数据。元数据包括来自代码克隆的标识符的预处理列表,该标识符的预处理列表用指示代码克隆的语义的关键字的列表来扩充。这个关键字列表可以从克隆类的手动注释的一般描述中提取,也可以从整个克隆类的源代码中自动生成。此方法可帮助开发人员基于编写为源代码术语或自然语言的搜索查询来执行代码克隆搜索。在我们的定量评估中,我们表明(1)克隆搜索者在搜索语义代码克隆时具有更高的召回率(即,Type-4);(2)Clone-Seeker可以通过应用自然语言查询来准确地搜索相关的代码克隆。
2021-06-06 cs.IR cs.SE
RethinkMCTS: Refining Erroneous Thoughts in Monte Carlo Tree Search for Code Generation
Shanghai Jiao Tong University(上海交通大学);Huawei Noah’s Ark Lab(华为诺亚实验室)
针对现有树搜索代码生成方法忽略推理过程且反思缺乏正确路径的问题,提出RethinkMCTS框架,在生成前用MCTS搜索思维并结合执行反馈修正错误思维,提升搜索质量,实验优于基线。
2025-10-24 cs.CL cs.SE
CodeDSI: Differentiable Code Search
重新实现以前解决的软件工程问题的解决方案不仅效率低下,而且还会引入不充分和容易出错的代码。许多现有的方法通过使用在代码上训练的自回归文本生成模型在这个问题上取得了令人印象深刻的性能。然而,这些方法并非没有缺陷。从这些模型生成的代码可能存在错误,缺乏文档,并引入可能被开发人员忽视的漏洞。代码生成的另一种选择--神经代码搜索--是机器学习的一个领域,其中模型将自然语言查询作为输入,反过来,从数据库返回相关的代码样本。由于这个预先存在的数据库的性质,代码样本可以在开发人员在生产中使用之前进行记录,测试,许可和检查漏洞。在这项工作中,我们提出了CodeDSI,一个端到端的统一的代码搜索方法。CodeDSI被训练为直接将自然语言查询映射到它们各自的代码样本,这些代码样本可以在以后检索。为了提高代码搜索的性能,我们研究了docid表示策略,标记化对docid结构的影响,以及数据集大小对整体代码搜索性能的影响。我们的研究结果证明了CodeDSI的强大性能,在不同的数据集大小上超过传统的鲁棒基线2 - 6%。
2022-10-01 cs.IR cs.SE
Search4Code: Code Search Intent Classification Using Weak Supervision
Microsoft Research(微软研究院);Microsoft(微软公司)
开发人员使用搜索进行各种任务,如查找代码,文档,调试信息等。特别是,开发人员在编码过程中大量使用Web搜索查找代码示例和代码片段。近年来,基于自然语言的代码搜索已经成为一个活跃的研究领域。然而,缺乏真实世界的大规模数据集是一个重要的瓶颈。在这项工作中,我们提出了一个弱监督为基础的方法来检测代码搜索意图在搜索查询C#和Java程序设计语言。我们评估的方法对几个基线上的真实世界的数据集,包括超过100万个查询挖掘必应网络搜索引擎,并表明,基于CNN的模型可以达到77%和76%的准确性分别为C#和Java。此外,我们还发布了Search4Code,这是第一个从Bing Web搜索引擎中挖掘的代码搜索查询的大规模真实数据集。我们希望该数据集将有助于未来对代码搜索的研究。
2021-03-20 cs.AI cs.IR cs.LG
Large Language Models for Code Generation: A Comprehensive Survey of Challenges, Techniques, Evaluation, and Applications
School of Computer Science, University of Oklahoma(俄克拉荷马大学计算机科学学院)
本综述系统梳理了大型语言模型在代码生成任务中的挑战、微调技术、评估基准及实际应用,旨在帮助研究者全面理解当前最先进技术并有效利用 LLMs。
2025-04-02 cs.LG cs.SE
Neural Code Search Revisited: Enhancing Code Snippet Retrieval through Natural Language Intent
Nokia Bell Labs(诺基亚贝尔实验室)
在这项工作中,我们提出并研究注释代码搜索:检索的代码片段配对的简要说明,他们的意图使用自然语言查询。在三个基准数据集上,我们研究了如何通过利用描述来更好地捕获代码片段的意图来改进代码检索系统。基于迁移学习和自然语言处理的最新进展,我们为用自然语言描述注释的代码创建了一个特定于域的检索模型。我们发现,与不使用描述但试图仅从未注释的代码计算片段意图的最先进的代码检索方法相比,我们的模型产生了更相关的搜索结果(平均倒数排名的绝对增益高达20.6%)。
2020-08-27 cs.IR cs.LG cs.SE