HYSYNTH: Context-Free LLM Approximation for Guiding Program Synthesis
UC San Diego(加利福尼亚大学圣迭戈分校)
针对纯神经方法在陌生DSL下程序合成准确率低、纯符号方法扩展性差的问题,提出HYSYNTH混合方法,用LLM补全学习任务特定上下文无关代理模型指导合成,在三个领域性能优于现有方法。
2024-11-01 cs.AI cs.PL
Amortizing Pragmatic Program Synthesis with Rankings
本研究提出利用全局务实排序摊销RSA算法,在程序合成中实现数量级加速,同时保持务实推理性能并超越非务实合成器。
2024-07-11 cs.AI cs.PL
Geometry of Program Synthesis
University of Melbourne(墨尔本大学)
我们重新评估通用计算的基础上综合的图灵机。这导致了一种观点的程序作为奇点的分析品种,或等价地,作为阶段的贝叶斯后综合问题。这种新的观点揭示了程序合成的研究方向,其中神经网络是一个子集,例如在相变,复杂性和概括。我们也奠定了这些新方向的经验基础,报告我们的代码中的一些简单的实验实施。
2021-03-30 cs.AI cs.LG cs.PL
Synthesizing Programs with Continuous Optimization
Texas A&M University(德克萨斯农工大学);Intel Labs(英特尔实验室);Merly AI(Merly人工智能公司)
本文将程序合成重新表述为连续优化问题,采用协方差矩阵适应进化策略求解,并提出映射方案转换为实际程序,实验表明GENESYS系统在固定时间预算内比现有技术多合成28%的程序。
2023-04-03 cs.AI cs.PL
Human-Centric Program Synthesis
程序合成技术在搜索满足高级规范的程序方面提供了重要的新能力。虽然合成已被彻底探讨输入/输出对规范(编程的例子),本文问:什么样的程序合成看起来像超越的例子?日常发展中的哪些实际问题将从综合中获益最大?以人为中心的观点如何为合成的替代规约语言的探索提供信息?我为程序合成勾画了一个以人为中心的愿景,程序员在合成工具的帮助下探索和学习语言和API。
2019-09-26 cs.HC cs.PL
AbstractBeam: Enhancing Bottom-Up Program Synthesis using Library Learning
University of Mannheim(曼海姆大学)
针对现有程序合成算法LambdaBeam未利用重复程序结构的问题,提出集成库学习的AbstractBeam框架,将重复结构融入DSL,在整数列表操作领域显著提升合成效果与效率,拓展了库学习的适用范围。
2024-09-12 cs.AI cs.PL cs.SE
Amortizing Pragmatic Program Synthesis with Rankings
Autodesk AI Research(奥多克思人工智能研究院);Carnegie Mellon University(卡内基梅隆大学);Harvard SEAS(哈佛大学工程与应用科学学院)
本文提出用排序摊销语用程序合成,通过蒸馏全局排序加速推理,实验显示比精确RSA快数量级且更准确,单示例时近似精确。
2024-06-01 cs.AI cs.PL
Augmenting Type Signatures for Program Synthesis
有效的程序合成需要一种方法来最小化正在搜索的候选程序的数量。例如,类型签名对潜在候选者的结构设置了一些小的限制。我们介绍和激励蒸馏程序合成问题的类型签名是唯一的机器可读的信息,但没有充分减少搜索空间。为了解决这个问题,我们开发了一个系统的属性关系,可以用来灵活地编码和查询信息,以前是不可用的合成器。我们使用这些工具的经验是积极的:通过编码简单的属性和使用最小的合成原语集,我们已经能够在新的上下文中合成复杂的程序
2019-07-12 cs.PL
Stepping Stones to Inductive Synthesis of Low-Level Looping Programs
Parity Computing, Inc.(Parity Computing公司)
归纳程序合成,从输入/输出的例子,可以提供一个机会,自动从头开始创建程序,而无需预先假设的算法形式的解决方案。对于带有循环的通用程序的归纳(相对于无循环程序,或特定领域语言的综合),最先进的是入门编程作业的水平。大多数需要算法精细性的问题,如快速排序,如果没有重要的特定问题背景知识的帮助,仍然无法实现。一个关键的挑战是识别可用于引导搜索正确循环程序的线索。我们提出了MAKESPEARE,一个简单的延迟接受爬山法,从输入/输出的例子,合成低层次的循环程序。在搜索过程中,延迟接受绕过小的收益,以确定显着改进的垫脚石程序,往往推广和实现进一步的进展。该方法在一组已建立的基准上表现良好,并成功地解决了以前未解决的“Collatz数”程序合成问题。其他基准测试包括快速排序整数数组的问题,其中我们观察到梳状排序(一种Shell排序变体,根据经验快速)的出现。MAKESPEARE还合成了一个创纪录的程序,从TIS-100汇编语言编程游戏的难题之一。
2018-11-26 cs.AI cs.LG cs.PL
Inductive Program Synthesis Over Noisy Data
我们提出了一个新的框架和相关的合成算法的程序合成噪声数据,即,可能包含不正确/损坏的输入输出示例的数据。该框架是基于有限树自动机的扩展{ \em加权有限树自动机}。我们将展示如何应用这个框架来制定和解决各种程序合成问题的噪声数据。我们实现的系统运行在SyGuS 2018基准测试套件的问题上的结果突出了它在面对噪声数据集时成功合成程序的能力,包括即使数据集中的每个输入-输出示例都被损坏也能合成正确程序的能力。
2020-10-18 cs.PL
Programming-By-Example by Programming-By-Example: Synthesis of Looping Programs
程序合成近年来有了许多新的应用,这在很大程度上要归功于SyGuS的引入。然而,现有的SyGuS求解器都不支持合成递归函数。我们介绍了一个多阶段的算法,在SyGuS中的递归“loolike”程序的合成编程的例子。我们单独解决约束,并将其视为递归程序如何行为的“展开”示例,并求解广义递归解。我们的方法是模块化的,支持任何SyGuS求解器。
2021-08-19 cs.LO cs.PL
Herb.jl: A Unifying Program Synthesis Library
Technical University Delft(代尔夫特理工大学)
Herb.jl是一个用Julia编写的统一程序合成库,旨在通过分解底层算法为可扩展的子组件,简化程序合成的重用和调整过程。
2026-01-30 cs.AI cs.PL cs.SE
GPU accelerated program synthesis: Enumerate semantics, not syntax!
University of Sussex and Montanarius Ltd(苏塞克斯大学和蒙塔纳里乌斯有限公司);CNRS, LaBRI and Université de Bordeaux(国家科学研究中心、LaBRI和波尔多大学);Independent Researcher(独立研究者)
本文探讨了在GPU上实现基于搜索的程序合成器,通过利用公式语义最小化数据移动和减少依赖数据的分支等GPU友好技术,使合成器能处理更大规模问题且速度远超此前基于CPU的最先进方法。
2025-04-26 cs.AI cs.LO cs.PL
Efficient Bottom-Up Synthesis for Programs with Local Variables
University of Michigan, Ann Arbor, USA(密歇根大学安娜堡分校);University of Washington, USA(华盛顿大学)
针对含局部变量的程序自底向上综合时搜索空间难缩减、速度慢的问题,提出基于提升解释的新型综合算法,可系统枚举变量绑定上下文以缩减搜索空间,应用于网页自动化的工具Arborist性能优于现有前沿技术。
2023-11-07 cs.AI cs.PL cs.SE
Metric Program Synthesis
我们提出了一种新的域不可知的合成技术,从输入输出的例子生成程序。我们的方法,称为度量程序合成,放宽了众所周知的观测等价性的想法(广泛用于自下而上枚举合成)到一个较弱的观测相似性的概念,减少合成器需要探索的搜索空间的目标。我们的方法聚类程序到等价类的距离度量的基础上,并构造一个版本空间,competencies表示“近似正确”的程序。然后,给定一个“足够接近”的程序从这个版本空间采样,我们的方法使用的距离引导修复算法找到一个程序,完全匹配给定的输入输出的例子。我们已经实现了我们提出的度量程序合成技术中的一个工具,称为SyMetric和评估它在三个不同的领域考虑在以前的工作。我们的评估表明,SyMetric优于其他使用观测等效性的领域不可知合成器,并且它实现了与针对这些领域设计或训练的特定领域合成器竞争的结果。
2022-10-10 cs.PL
NAPS: Natural Program Synthesis Dataset
NEAR
我们提出了一个面向程序合成的数据集,由人类编写的问题陈述和解决方案,这些问题。问题陈述是通过众包收集的,程序解决方案是从编程竞赛中的人类书面解决方案中提取的,并附有输入/输出示例。我们建议使用此数据集的程序合成任务,旨在与真正的用户生成的数据。作为基线,我们提出了几个模型,最好的模型达到8.8%的准确率,展示了数据集的复杂性和未来研究的巨大空间。
2018-07-06 cs.AI cs.LG cs.PL
Hierarchical Neural Program Synthesis
USC(南加州大学);KAIST(韩国科学技术院);Naver AI Lab(Naver人工智能实验室);National Taiwan University(国立台湾大学)
程序合成的目标是自动构造满足给定任务规范的人类可读程序,例如输入/输出对或演示。最近的工作已经证明了令人鼓舞的结果,在各种领域,如字符串变换,张量操纵,并描述具体代理的行为。大多数现有的程序合成方法被设计成从头开始合成程序,逐行逐标记地生成程序。这从根本上阻止了这些方法扩展到合成更长或更复杂的程序。在这项工作中,我们提出了一个可扩展的程序合成框架,而不是合成一个程序的层次结构组成的程序。具体来说,我们首先学习一个任务嵌入空间和一个程序解码器,它可以解码嵌入到程序中的任务。然后,我们训练一个高级模块来理解任务规范(例如,输入/输出对或演示),并产生任务嵌入序列,然后由程序解码器解码并合成以产生合成程序。我们广泛地评估我们提出的框架中的字符串变换域的输入/输出对。实验结果表明,所提出的框架可以合成的程序是显着更长,更复杂的程序比以前的程序合成工程。网址:https://thoughtp0lice.github.io/hnps_web/
2023-03-09 cs.AI cs.LG cs.PL
Constraint-Based Type-Directed Program Synthesis
我们探讨了一种基于约束的类型推断技术的类型导向的程序合成方法。通过这样做,我们的目标是更有效地合成多态代码,同时也解决了高级类型功能,如基于多态性的GADT。一路上,我们还提出了一个实现这些技术的镰刀,原型活,类型导向的编程工具的Haskell程序设计语言,并反映了我们的初步经验的工具。
2019-07-06 cs.PL
Using Program Synthesis for Program Analysis
在本文中,我们确定了一个片段的二阶逻辑与限制量化,是表现力足以捕捉众多的静态分析问题(如安全证明,错误发现,终止和非终止证明,超优化)。我们将该片段称为{ \it合成片段}。合成片段中公式的可满足性在有限域上是可判定的;具体地说,判定问题是NEXPTIME完全的。如果这个片段中的公式是可满足的,则解由从二阶变量到\emph{functions over finite domains}的满足赋值组成。为了具体地找到这些解决方案,我们合成了计算函数的\emph{programs}。我们的程序合成算法对于有限状态程序是完全的,即有限域上的每个\emph{function}都是由我们可以合成的\emph{program}计算的。因此,我们可以使用我们的合成器作为二阶逻辑合成片段的决策过程,这反过来又允许我们使用它作为许多程序分析任务的强大后端。为了显示我们的方法的易处理性,我们评估了几个静态分析问题的程序合成器。
2015-08-31 cs.LO cs.PL
Synthesis in Uclid5
我们描述了一个集成的程序合成到UCLID 5,一个正式的建模和验证工具。据我们所知,Uclid 5的新版本是唯一的工具,支持程序合成有界模型检验,k-归纳,顺序程序验证,和超属性验证。我们使用集成来生成25个程序合成基准,这些基准具有简单的、已知的解决方案,这些解决方案是当前合成引擎无法实现的,我们将基准发布给社区。
2020-07-17 cs.PL
Scaling Neural Program Synthesis with Distribution-based Search
CNRS, LaBRI and Université de Bordeaux(法国国家科学研究中心、波尔多计算机科学实验室与波尔多大学);The Alan Turing Institute of data science(艾伦·图灵数据科学研究所);Cornell University(康奈尔大学);University of Paris(巴黎大学);Indian Institute of Technology Bombay(印度理工学院孟买分校)
我们考虑的问题,自动构造计算机程序从输入输出的例子。我们研究如何增加概率和神经程序合成方法与新的搜索算法,提出了一个框架,称为基于分布的搜索。在这个框架内,我们介绍了两个新的搜索算法:堆搜索,枚举方法,和SQRT采样,概率方法。我们证明了这两种方法的某些最优性保证,展示了它们如何与概率和神经技术相结合,并演示了它们如何在并行计算环境中大规模运行。总的来说,这些发现提供了搜索算法的理论和应用研究的程序合成,结合最近的发展,机器学习程序合成器。
2021-10-24 cs.AI cs.LG cs.PL
Relational Program Synthesis
本文提出了关系程序合成,一个新的问题,涉及合成一个或多个程序,集体满足关系规范。关系程序合成作为关系程序验证的对偶,是一个重要的问题,具有许多实际应用,如自动程序求逆和比较器的自动生成。然而,这种关系合成问题引入了新的挑战,其非关系的副本,由于组合更大的搜索空间。作为解决这个问题的第一步,本文提出了一种合成技术,结合了反例引导归纳合成框架与一种新的归纳合成算法,是基于关系版本空间学习。我们已经实现了所提出的技术,在一个框架称为Relish,它可以通过提供一个合适的特定于域的语言和相关的关系规范实例化到不同的应用领域。我们使用Relish框架来构建关系合成器,以自动生成字符串编码器/解码器以及比较器,并且我们根据之前的工作和在线论坛中的几个基准来评估我们的工具。我们的实验结果表明,所提出的技术可以解决几乎所有这些基准,它显着优于EUSolver,通用的合成框架,赢得了一般的轨道最近的SyGuS竞争。
2018-09-11 cs.PL
Connecting Program Synthesis and Reachability: Automatic Program Repair using Test-Input Generation
证明了程序合成和可达性的某些公式是等价的。具体来说,我们的建设性证明显示基于模板的合成问题,它生成一个程序在一个预先指定的形式,和可达性问题,这决定了可达性的程序位置之间的减少。这在两个研究领域之间建立了联系,并允许在它们之间转移技术和成果。为了证明等价性,我们使用可达性工具开发了一个程序修复原型。我们将一个有缺陷的程序和它所需的规格到一个特定的程序,包含一个位置可达只有当原始程序可以修复,然后应用现成的测试输入生成工具上的转换程序,找到测试值,以达到所需的位置。这些测试值对应于原始程序的修复。初步结果表明,我们的方法与其他修复方法相比是有利的。
2019-03-28 cs.PL
Structured Program Synthesis using LLMs: Results and Insights from the IPARC Challenge
Thoughtworks Technologies, Pune, India Dept. of CSIS \& APPCAIR, BITS Pilani, Goa Campus, India School of CSE, University of New South Wales, Sydney, Australia
本文提出一种结合LLMs的结构化归纳编程方法,成功解决IPARC挑战中600个受控程序合成任务,并揭示了预先结构化、代码冻结与复用等人类-LLM协作的关键机制。
2025-06-15 cs.AI cs.PL cs.SE
Concise Read-Only Specifications for Better Synthesis of Programs with Pointers -- Extended Version
在程序合成中,在简洁和强大的规范之间有一个众所周知的权衡:如果一个规范太冗长,它可能比程序更难写;如果它太弱,合成的程序可能不符合用户的意图。在这项工作中,我们探讨使用注释限制内存访问权限的程序合成,并表明,他们可以使规范更强大,同时保持令人惊讶的简洁。具体来说,我们增强了合成分离逻辑(SSL),一个框架,用于合成堆操作程序,只读借用的逻辑机制。我们观察到,这种简约和保守的SSL扩展在几个方面有利于合成,使其更具(a)表达性(以适度的注释开销实现更强的正确性保证),(b)有效(它产生更简洁和更易于阅读的程序),(c)高效(更快的合成),(d)鲁棒性(合成效率受搜索启发式选择的影响较小)。我们解释的直觉,并提供正式的治疗只读借用。我们证实了索赔(a)-(d)通过描述我们的量化评估的一系列标准的基准规格的各种堆操纵程序的感知合成实现。
2020-01-29 cs.LO cs.PL
Bottom-up Synthesis of Recursive Functional Programs using Angelic Execution
提出了一种新的自自底向上的【形】的函数递归程序综合方法。虽然自自底向上的【形】的合成技术在某些情况下比自顶向下的方法工作得更好,但没有一种技术可以以纯粹的自自底向上的【形】的方式从逻辑规范合成递归程序。主要的挑战是,有效的自自底向上的【形】方法需要执行正在合成的代码的子表达式,但不可能执行尚未完全构造的程序的递归子表达式。在本文中,我们使用天使语义的概念来解决这一挑战。具体来说,我们的方法找到一个程序,满足规范下天使的语义(我们称之为天使合成),分析其天使执行过程中所作的假设,使用这种分析,以加强规范,并最终重新尝试合成与加强规范。我们提出的天使合成算法是基于版本空间学习,因此有效地处理许多增量合成调用整个算法。我们已经实现了这种方法在一个原型称为突发和评估它的合成问题,从以前的工作。我们的实验表明,突发是能够合成的解决方案,94%的基准在我们的基准套件,优于以前的工作。
2021-12-08 cs.PL
Write, Execute, Assess: Program Synthesis with a REPL
MIT(麻省理工学院);Harvard University(哈佛大学)
我们提出了一个神经程序合成方法集成组件的编写,执行和评估代码导航的搜索空间的可能的程序。我们配备了一个解释器或读取-评估-打印循环(REPL),立即执行部分编写的程序,暴露他们的语义搜索过程。REPL解决了程序合成的一个基本挑战:语法上的微小变化可能导致语义上的巨大变化。我们训练了一对模型,一个建议编写新代码的策略,以及一个评估到目前为止编写的代码的前景的价值函数。在测试时,我们可以将这些模型与顺序蒙特卡罗算法结合起来。我们将我们的方法应用到两个领域:合成文本编辑程序和推断2D和3D图形程序。
2019-06-09 cs.AI cs.LG cs.PL
Program Synthesis Using Example Propagation
我们提出了Scrybe,一个基于示例的静态类型的函数式程序设计语言的合成工具,它结合了自顶向下的演绎推理风格的$λ^2$与Smyth-style活双向评价。在合成过程中,示例约束通过草图传播,以修剪和引导搜索。这使得Scrybe能够更有效地使用上下文中提供的函数。为了评估我们的工具,它运行在$λ^2$和Myth的组合基准上,这些基准在很大程度上是不相交的。Scrybe能够合成大多数组合基准任务。
2022-10-25 cs.PL
Program Synthesis using Conflict-Driven Learning
我们提出了一种新的冲突驱动的程序合成技术,能够从过去的错误中学习。给定一个违反所需规范的虚假程序,我们的合成算法识别冲突的根本原因,并学习新的引理,可以防止类似的错误在未来。具体来说,我们引入了等价模冲突的概念,并展示了如何使用这个想法来学习有用的引理,使合成器修剪大部分的搜索空间。我们已经实现了一个通用的CDCL风格的程序合成器称为新的,并评估它在两个不同的应用领域,即数据争吵在R和函数式编程列表。我们的实验证明了冲突驱动学习的实质性好处,并表明Neo优于两个最先进的合成工具Morpheus和Deepcoder,它们分别针对这些领域。
2017-11-25 cs.PL
Modular System Synthesis
本文提出利用模块化,由小程序逐层综合大程序,并通过保持各层综合子问题与搜索空间性质相似来提升程序综合的可扩展性。
2023-08-14 cs.PL
Synthesis through Unification
给定一个规格说明和一组候选程序(程序空间),程序合成问题是找到一个满足规格说明的候选程序。我们提出的综合通过统一(STUN)的方法,这是一个扩展的反例引导归纳综合(CEGIS)的方法。在CEGIS中,合成器维护输入的子集S和对于S正确的候选程序Prog。合成器反复检查是否存在反例输入c,从而导致Prog在c上的执行不正确。如果是,合成器将S放大到包括c,并从节目空间中挑选一个对新集合S正确的节目。STUN方法扩展了CEGIS的思想,即给定一个对输入子集正确的程序Prog,合成器可以尝试找到一个对其余输入正确的程序Prog'。如果Prog和Prog'可以统一到程序空间中的一个程序中,那么解决方案已经找到。我们提出了一个通用的综合过程的基础上STUN的方法,并专门为三个不同的域提供适当的统一运营商。我们实现了这些专业化的原型工具,我们表明,我们的工具往往表现形式显着优于标准的基准测试工具的基础上一个纯粹的CEGIS方法。
2015-05-21 cs.PL
Quantitative Synthesis for Concurrent Programs
我们提出了一种算法方法的定量,性能感知的并发程序的合成。输入包括一个不确定的部分程序和一个参数性能模型。不确定性允许程序员忽略在特定程序位置使用哪个(如果有的话)同步构造。指定为加权自动机的性能模型可以通过为锁定、上下文切换以及内存和缓存访问等操作分配不同的成本来捕获系统架构。定量综合问题是自动解决部分程序的不确定性,从而保证正确性和性能最优。作为共享内存并发的标准,正确性被形式化为“规范自由”,特别是竞争自由或死锁自由。对于最坏情况(平均情况下)的性能,我们表明,这个问题可以减少到2玩家的图形游戏(概率转换)与定量目标。虽然我们表明,使用博弈论的方法,合成问题是NEXP完成,我们提出了一种算法方法和实现,有效地为并发程序和性能模型的实际利益。我们实现了一个原型工具,并使用它来合成表现出不同编程模式的有限状态并发程序,用于代表不同体系结构的几个性能模型。
2011-04-21 cs.PL
Inductive Program Synthesis via Iterative Forward-Backward Abstract Interpretation
针对示例驱动程序综合的庞大搜索空间问题,提出迭代交替的前向与后向抽象解释方法,用于剪枝部分程序并应用于SyGuS,实验表明其显著优于现有方法。
2023-04-21 cs.PL
Are There Good Mistakes? A Theoretical Analysis of CEGIS
Intel(英特尔);UC Berkeley(加州大学伯克利分校)
反例引导的归纳综合CEGIS是用来综合程序从候选空间的程序。当候选程序空间有限时,该方法保证终止并综合出正确的程序。但是,如果程序的候选空间是无限的,该技术可能会或可能不会终止于正确的程序。本文对反例引导的归纳综合技术进行了理论分析。我们调查的候选空间,正确的程序可以使用CEGIS合成的集合是否取决于在归纳合成中使用的反例,也就是说,是否有好的错误,这将增加合成功率。我们调查是否使用最小的反例,而不是任意的反例扩大了一组候选空间的程序,归纳合成可以成功地合成一个正确的程序。我们考虑两类反例:极小反例和历史有界反例。在CEGIS的任何迭代中使用的历史有界反例由在归纳综合的先前迭代中使用的示例所限定。我们研究在这两种情况下归纳综合的功率的相对变化。我们发现,使用最小的反例MinCEGIS的合成技术具有相同的合成功率CEGIS,但使用历史有界反例HCEGIS的合成技术具有不同的功率比CEGIS,但没有占主导地位的其他。
2014-07-21 cs.AI cs.LG cs.LO
Interactive Program Synthesis
从不完整的规范(例如输入输出示例)的程序合成已经得到普及,并找到了现实世界的应用,主要是由于其易于使用。由于该技术通常用于交互式环境,因此效率和正确性通常是基于此类技术的系统的关键用户期望。确保效率是具有挑战性的,因为程序合成算法的高度组合性质不适合面向用户的系统的1-2秒响应期望。满足正确性的期望也是困难的,因为提供的规范是不完整的,并且这些系统的用户通常不是程序员。在本文中,我们描述了如何利用交互性来开发高效的合成算法,以及减少认知负担,用户忍受试图确保系统产生所需的程序。我们沿着三个维度建立了一个正式的用户交互模型:增量算法,基于步骤的问题制定和基于反馈的意图细化。然后,我们说明了每一个这些形式的互动合成性能和正确性方面的一组现实世界的案例研究的有效性。
2017-03-10 cs.PL
Program Synthesis from Polymorphic Refinement Types
我们提出了一种方法,用于合成递归函数,证明满足给定的规范的形式的多态细化类型。我们观察到,这样的规范是特别适合于程序合成的原因有两个。首先,他们提供了一个独特的组合的表达能力和可判定性,这使得自动验证-因此合成-非平凡的程序。第二,一个基于类型的规范的程序往往可以有效地分解成独立的规范,其组件,使合成器考虑更少的组件组合,并导致组合的搜索空间的大小减少。在我们的合成过程的核心是一个新的算法,细化类型检查,支持规格分解。我们已经评估了我们的原型实现的一个大的合成问题,发现它超过了最先进的可扩展性和可用性方面。该工具能够合成比以前的工作(几个排序算法和平衡搜索树上的操作),以及现有的合成器处理的大多数基准更复杂的程序,通常从更简洁和直观的用户输入开始。
2016-04-21 cs.PL
EcoSearch: A Constant-Delay Best-First Search Algorithm for Program Synthesis
CNRS(法国国家科学研究中心);LaBRI(波尔多计算机科学研究实验室);Université de Bordeaux(波尔多大学)
针对程序综合中的搜索空间爆炸问题,提出新型常数延迟最佳优先搜索算法EcoSearch,确保输出程序间计算量恒定,在两个经典领域实现显著加速。
2026-11-10 cs.AI cs.LG cs.PL
Toward Neural-Network-Guided Program Synthesis and Verification
The University of Tokyo(东京大学);National Institute of Informatics(国立情报学研究所);SOKENDAI(综合研究大学院大学);University of Tsukuba(筑波大学);RIKEN AIP(理化学研究所革新智能统合研究中心)
我们提出了一个新的框架的程序和不变量的合成称为神经网络指导合成。我们首先表明,通过适当的设计和训练神经网络,我们可以从训练好的神经网络的权重和偏差中提取整数上的逻辑公式。基于这一思想,我们实现了一个从正例/反例和蕴涵约束合成公式的工具,并获得了令人满意的实验结果。我们还讨论了我们的合成方法的两个应用。一个是使用我们的工具,限定符发现的框架ICE学习为基础的CHC解决,这反过来又可以应用于程序验证和归纳不变的合成。另一个应用是一个新的程序开发框架,称为基于甲骨文的编程,这是一个神经网络引导的变化Solar-Lezama的程序合成的草图。
2021-08-25 cs.LG cs.PL
Optimal Neural Program Synthesis from Multimodal Specifications
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
多模态程序合成利用不同类型的用户输入来合成所需的程序,是将程序合成扩展到具有挑战性的设置的有吸引力的方式;然而,它需要整合来自用户的噪声信号,如自然语言,对程序的行为有严格的约束。本文提出了一种最佳的神经合成方法,其目标是找到一个程序,满足用户提供的约束,同时也最大限度地提高程序的得分相对于神经模型。具体来说,我们专注于多模态合成任务,其中用户意图表示使用组合的自然语言(NL)和输入输出的例子。我们方法的核心是一个自上而下的递归神经模型,它将分布放置在以NL输入为条件的抽象语法树上。该模型不仅允许有效的搜索空间的语法有效的程序,但它允许我们利用自动化的程序分析技术修剪的搜索空间的基础上不可行的部分程序相对于用户的约束。在多模态合成数据集(StructuredRegex)上的实验结果表明,我们的方法在准确性和效率方面大大优于现有的最先进的技术,并且更频繁地找到模型最优程序。
2021-09-14 cs.CL cs.PL
Web Question Answering with Neurosymbolic Program Synthesis
本文提出了一种基于程序合成的网页信息抽取技术。给定一个自然语言查询和一些标记的网页,我们的方法合成一个程序,可以用来提取类似类型的信息,从其他未标记的网页。为了处理具有不同结构的网站,我们的方法采用了神经符号DSL,该DSL结合了神经NLP模型以及用于树导航和字符串操作的标准语言结构。我们还提出了一个最佳的合成算法,生成所有的DSL程序,达到最佳的F1分数的训练样本。我们的合成技术是合成的,修剪的搜索空间利用DSL的单调性,并使用转导学习选择具有良好的泛化能力的程序。我们已经在一个名为WebQA的新工具中实现了这些想法,并在多个领域的25个不同任务中对其进行了评估。我们的实验表明,WebQA显着优于现有的工具,如国家的最先进的问答模型和包装归纳系统。
2021-04-14 cs.PL
Relational program synthesis with numerical reasoning
University of Oxford(牛津大学)
程序合成方法努力学习具有数值的程序。一个特别困难的问题是在多个示例中学习连续值,例如区间。为了克服这个限制,我们引入了一个归纳逻辑程序设计方法,它结合了关系学习与数值推理。我们的方法,我们称之为NUMSYNTH,使用可满足性模理论求解器,有效地学习程序的数值。我们的方法可以识别线性算术片段中的数值,如实数差分逻辑,以及无穷域中的数值,如实数或整数。我们在四个不同领域的实验,包括游戏和程序合成,表明我们的方法可以(i)学习程序的数值线性算术推理,(ii)优于现有的方法在预测精度和学习时间。
2022-10-04 cs.LG cs.PL
Program Synthesis using Abstraction Refinement
提出了一种基于反例引导的抽象求精的示例引导程序合成方法。我们的方法使用的抽象语义的底层DSL找到一个程序$P$的抽象行为满足的例子。然而,由于程序$P$可能是虚假的具体语义,我们的方法迭代地细化抽象,直到我们找到一个程序,满足的例子或证明没有这样的DSL程序存在。由于许多程序在其抽象语义方面具有相同的输入-输出行为,因此与使用纯具体语义的现有技术相比,这种合成方法显著地减小了搜索空间。虽然合成使用抽象细化(SYNGAR)可以在不同的设置中实现,我们提出了一个基于细化的合成算法,使用抽象有限树自动机(AFTA)。我们的技术使用一个粗略的初始程序抽象来构建一个初始的AFTA,这是迭代完善,通过构建任何虚假程序的不正确性证明。除了排除以前的AFTA所接受的虚假程序外,不正确性的证明也有助于排除许多其他虚假程序。我们在一个名为\tool的框架中实现了这些想法。我们使用BLAZE框架来构建字符串和矩阵变换的合成器,并将BLAZE与现有技术进行比较。我们对字符串域的研究结果表明,BLAZE与FlashFill(一种现在部署在Microsoft PowerShell中的特定于域的合成器)相比毫不逊色。在矩阵操作的背景下,我们比较BLAZE对散文,一个国家的最先进的通用VSA为基础的合成器,并表明BLAZE结果在一个90倍的速度超过散文。
2017-10-21 cs.PL
Using human-in-the-loop synthesis to author functional reactive programs
响应异步事件的程序编写起来很有挑战性;它们很难推理,测试和调试也很棘手。因为这些程序可能有一个巨大的输入时间和交错空间,程序员可能很容易错过角落的情况。我们建议应用合成,以帮助程序员更容易地创建程序,并在其正确性有更高的信心。我们已经写了一个有效的编码的功能反应式编程(FRP)语义的基础上的功能编程在玫瑰解除列表。我们证明,这种技术是最先进的,首先比较其性能对现有的两个合成工具,产生列表操作程序,然后通过合成一套基准完整的规格。我们还提出了一个交互式工具,在该工具中,程序员以输入/输出示例或不变量的形式提供一些初始部分规范;该工具通过合成两个候选程序来发现规范中的歧义,并给用户一个区分它们的输入;用户更新规范并继续迭代直到找到正确的程序。作为评估,我们展示了使用该工具的一套基准测试,从网络编程和物联网领域,走查一个现实的网络基准测试的样本交互,表明我们可以收敛到目标程序与易处理的互动数量。作为未来的工作,我们讨论对其他FRP语言进行编码,以探索元语言特征、允许合成更大程序的分解策略以及改进的程序员工具(例如GUI),以更容易地得出规范。
2019-09-24 cs.PL
Decidable Synthesis of Programs with Uninterpreted Functions
我们确定了一个可判定的合成问题的一类程序的无限大小的条件和迭代工作在无限的数据域。我们类中的程序使用未解释的函数和关系,并遵守最近确定的产生可判定验证的称为一致性的限制。我们制定了一个功能强大的语法限制(语法指导)的合成问题,连贯的未解释的程序,我们的问题是可判定的,确定其精确的复杂性,并研究了几个变种的问题。
2020-07-22 cs.FL cs.LO cs.PL
Neural-Guided Deductive Search for Real-Time Program Synthesis from Examples
Georgia Tech(佐治亚理工学院);Microsoft Research India(微软研究院印度);Microsoft Research Redmond(微软研究院雷德蒙德)
从少量的输入输出示例中合成用户预期的程序是一个具有挑战性的问题,有几个重要的应用程序,如电子表格操作,数据处理和代码重构。现有的合成系统要么完全依赖于大量手工设计的演绎逻辑技术,要么依赖于需要大量数据的纯统计模型,并且通常无法在具有挑战性的基准上提供实时的【形】合成。在这项工作中,我们提出了神经引导演绎搜索(NGDS),一种混合合成技术,结合了最好的符号逻辑技术和统计模型。因此,它生成的程序通过构造满足所提供的规范,并在看不见的示例上很好地泛化,类似于数据驱动系统。我们的技术有效地利用了演绎搜索框架,以减少学习问题的神经组件到一个简单的监督学习设置。此外,这使我们能够在有限的真实世界数据上进行训练,并仍然利用强大的递归神经网络编码器。我们证明了我们的方法的有效性,通过对真实世界的客户场景进行评估,通过合成准确的程序,与最先进的系统相比,速度高达12倍。
2018-09-09 cs.AI cs.LG cs.PL
Type-driven Neural Programming by Example
University of Amsterdam(阿姆斯特丹大学)
在这篇论文中,我们研究了通过例子编程(PBE),这是关于找到一个程序映射给定的输入到给定的输出。传统上,PBE在形式方法与神经方法之间存在分歧,其中形式方法通常涉及演绎技术,如SAT求解器和类型,而神经方法涉及使用相应程序对样本输入-输出进行训练,通常使用基于序列的机器学习技术,如LSTM [41]。由于这种分裂,编程类型尚未用于神经程序合成技术。我们提出了一种方法,将编程类型到PBE的神经程序合成方法。我们介绍了基于这种想法的类型化神经符号程序合成(TNSPS)方法,并在函数式编程环境中对其进行测试,以经验验证类型信息可能有助于提高有限大小数据集上神经合成器的泛化能力。我们的TNSPS模型建立在现有的神经符号程序合成(NSPS),一个基于树的神经合成器结合信息的输入-输出的例子加上当前的程序,通过进一步暴露信息的类型,这些输入-输出的例子,的语法产生式规则,以及我们希望在程序中扩展的孔。我们进一步解释了如何在我们的领域内生成数据集,该领域使用Haskell的有限子集作为合成语言。最后,我们讨论几个感兴趣的话题,可能有助于进一步采取这些想法。为了可重复性,我们公开发布代码。
2020-09-17 cs.AI cs.PL cs.SE
Informal proceedings of the 32nd International Symposium on Logic-Based Program Synthesis and Transformation (LOPSTR 2022)
本卷是第32届基于逻辑的程序合成和转换国际研讨会的非正式会议录(LOPSTR 2022),于2022年9月21日至23日举行,作为混合(混合)会议,(在格鲁吉亚第比利斯的Ivane Javakhishvili Tbilisi State University -TSU)和虚拟,并与第24届声明式编程原理与实践国际研讨会(PPDP 2022)共同举办,作为2022年计算逻辑秋季峰会(CLAS 2022)的一部分。
2022-07-29 cs.LO cs.PL
Pre-proceedings of the 27th International Symposium on Logic-Based Program Synthesis and Transformation (LOPSTR 2017)
本卷是2017年10月10日至12日在比利时那慕尔举行的第27届基于逻辑的程序合成和转换国际研讨会(LOPSTR 2016)的预录,并与第19届声明式编程原理和实践国际研讨会(PPDP 2017)共同举办。在研讨会讨论后,论文将通过第二轮评审和选择的正式程序。
2017-08-31 cs.LO cs.PL
A Coq-based synthesis of Scala programs which are correct-by-construction
本文介绍了一个新的编译器,允许一个基于Coq的合成的Scala程序是“正确的建设”。一个典型的工作流程的特点是用户实现一个Coq函数程序,证明这个程序的正确性,并利用Scala-of-Coq来合成一个可以无缝集成到现有工业Scala或Java应用程序中的Scala程序。
2017-06-16 cs.LO cs.PL
Scaling Program Synthesis Based Technology Mapping with Equality Saturation
本文提出Churchroad技术映射器,将等价饱和与程序综合工具结合,解决FPGA映射中草图编写困难及SMT求解器乘法处理弱的问题,可处理更大更复杂的设计且无需用户提供草图。
2024-11-19 cs.AR cs.PL
Program Synthesis is $Σ_3^0$-Complete
本文证明程序合成在算术层级中是 $Σ_3^0$-完备的,通过构造性编码为一阶公式并归约COF问题,首次给出其一般一阶刻画,并分析变体难度。
2024-05-27 cs.CC cs.LO cs.PL
Automating Pruning in Top-Down Enumeration for Program Synthesis Problems with Monotonic Semantics
本文提出在通用SemGuS框架下,利用语言语义的单调性属性,自动从具体语义获取基于区间的抽象语义以实现自动化剪枝,无需手动设计抽象域,有效提升了程序综合的搜索效率。
2024-08-28 cs.PL
From Provable Correctness to Probabilistic Generation: A Comparative Review of Program Synthesis Paradigms
本文综述程序合成的五大核心范式,分析各方法的原理、系统与应用及关键权衡,梳理从符号到神经符号混合的演进脉络,指明可靠可扩展程序合成的未来方向。
2025-07-21 cs.PL
Solving Probability and Statistics Problems by Program Synthesis
Harvard University(哈佛大学);MIT(麻省理工学院);Columbia University(哥伦比亚大学)
我们使用OpenAI的Codex,一个经过文本训练和代码微调的Transformer,通过程序合成来解决大学水平的概率和统计问题。我们将麻省理工学院的18.05概率与统计导论和哈佛大学的STAT110概率转换为编程任务。然后我们执行生成的代码以获得解决方案。由于这些课程问题是基于概率的,我们通常的目标是让Codex生成概率程序,模拟大量的概率依赖关系来计算其解决方案。我们的方法需要提示工程将问题从其原始形式转换为一个明确的,易于处理的形式,从而产生正确的程序和解决方案。为了估计将原始问题翻译成易于处理的形式所需的工作量,我们测量原始问题和转换后的问题之间的相似性。我们的工作是第一次引入一个新的数据集的大学水平的概率和统计问题,并解决这些问题的可扩展的方式使用程序合成能力的大语言模型。
2021-11-16 cs.AI cs.CL cs.LG