A Lightweight Method for Generating Multi-Tier JIT Compilation Virtual Machine in a Meta-Tracing Compiler Framework
本文提出一种轻量级方法,通过在解释器定义中嵌入指令驱动现有编译器后端快速生成未优化本地代码,从而在元编译器框架生成的虚拟机中实现多层JIT编译,并基于RPython开发2SOM验证其有效性。
2025-07-03 cs.PL
Speculative Staging for Interpreter Optimization
解释器有一个比即时编译器性能低的坏名声。我们提出了一种新的方法来构建高性能的解释器,这是特别有效的执行动态类型的程序设计语言。其关键思想是结合投机分期优化解释器指令的一种新的技术,增量和迭代concerting他们在运行时。本文介绍了从现有的解释器指令派生优化指令背后的概念-逐步剥离复杂性层。当编译解释器时,这些优化的导数将与原始解释器指令一起编译。因此,我们的技术是可移植的建设,因为它利用现有的编译器的后端。在运行时,我们使用指令替换从解释器的原始和昂贵的指令优化指令衍生物,以加快执行。我们的技术将高性能与解释器的简单性和可移植性结合在一起-我们报告说,我们的优化使CPython解释器的速度提高了四倍以上,我们的解释器缩小了PyPy的即时编译器之间的差距,有时甚至优于PyPy的即时编译器。
2013-10-08 cs.PL
TPDE: A Fast Adaptable Compiler Back-End Framework
本文提出编译器后端框架TPDE,通过适应现有SSA形式代码表示并结合单遍编译,在保持运行性能的同时大幅提升编译速度,显著降低JIT编译延迟。
2025-05-28 cs.PL
Pydrofoil: accelerating Sail-based instruction set simulators
提出多阶段编译器Pydrofoil,结合AOT编译与基于PyPy的追踪JIT及领域特定优化,从Sail规范生成指令集模拟器,比Sail生成的C模拟器提速超230倍。
2025-03-06 cs.PL
An Attempt to Catch Up with JIT Compilers: The False Lead of Optimizing Inline Caches
本文尝试通过动态二进制修改优化内联缓存以提升 AoT JavaScript 编译器性能,但实验表明减少内存访问在当代架构上无法加速,揭示了编译器优化策略的新方向。
2025-02-27 cs.PL
Formally Verified Native Code Generation in an Effectful JIT -- or: Turning the CompCert Backend into a Formally Verified JIT Compiler
现代即时编译器(或JIT)通常交错使用几种机制来执行程序。为了更快的启动时间和观察执行的初始行为,最初可以使用解释。但是过了一段时间,JIT会动态地为它们经常执行的程序部分生成本机代码。尽管动态编译花费了一些时间,但这种机制使得程序执行的剩余时间更快。这样的编译器是具有各种组件的复杂软件,并且在很大程度上依赖于正在执行的不同语言之间的精确相互作用,包括栈上替换。像CompCert这样的传统静态编译器已经在证明助手中实现了机械化,但是JIT到目前为止几乎没有正式化,部分原因是它们的不纯性质和它们的众多组件。这项工作提出了一个模型JIT与动态生成的本地代码,实现和正式验证Coq。虽然JIT的某些部分不能用Coq编写,但我们提出了一种证明方法来界定,指定和推理JIT的不纯影响。我们认为,正式验证一个完整的JIT的艰巨任务应该利用现有的本地代码生成的证据。为此,我们的工作成功地重用CompCert及其正确性证明在动态编译。最后,我们的原型可以提取和执行。
2022-12-06 cs.PL
Just-In-Time compilation of OCaml byte-code
本文介绍了应用于OCaml字节码虚拟机的即时编译器OCamlJIT 2的各种改进。OCamlJIT 2目前运行在各种类Unix系统上,这些系统具有x86或x86-64处理器。详细描述了改进,包括新的x86端口,并给出了性能指标,包括OCamlJIT 2与OCamlJIT的直接比较。
2011-09-27 cs.PF cs.PL
Correctness of Speculative Optimizations with Dynamic Deoptimization
高性能的动态语言实现大量使用推测性优化,以达到接近静态编译语言的速度。这些优化通常由实时编译器执行,该编译器在一组关于程序状态及其环境的假设下生成代码。在某些情况下,程序可以执行在不再有效的假设下编译的代码。然后,实现必须在运行中对程序进行去优化;这需要找到不依赖于无效假设的语义等效代码,将程序状态转换为目标代码所期望的状态,并转移控制。本文着眼于优化和去优化之间的相互作用,并表明,推理投机是令人惊讶的容易时,假设是明确的程序表示。这种见解是证明了编译器的中间表示,命名为\sourir,建模后的动态语言的高层次表示。传统的编译器优化,如常数折叠,死代码消除,函数内联被证明是正确的存在的假设。此外,本文还建立了特定于去优化的编译器转换的正确性:即无限制去优化,谓词提升和假设组合。
2017-11-15 cs.PL
HOPE: A Python Just-In-Time compiler for astrophysical computations
Python编程语言由于其简单性、多功能性和广泛的库而在科学应用中越来越受欢迎。然而,这种动态语言的一个缺点是其低运行时性能,这限制了其适用性的大型模拟和大型数据集的分析,是常见的天体物理学和宇宙学。虽然已经开发了各种框架来解决这个限制,但大多数框架都专注于覆盖完整的语言集,并且要么迫使用户修改代码,要么无法达到优化的本地编译语言的全速。为了结合Python的易用性和C++的速度,我们开发了HOPE,这是一个专门为数值天体物理应用设计的Python即时(JIT)编译器。HOPE专注于语言的一个子集,能够将Python代码转换为C++,同时在运行时对数学表达式进行数值优化。要启用JIT编译,用户只需要向函数定义添加装饰器。我们通过执行一系列基准测试来评估HOPE的性能,并将其执行速度与普通Python,C++和其他现有框架的执行速度进行比较。我们发现,与普通Python相比,HOPE将性能提高了2到120倍,达到了与C++相当的速度,并且通常超过了现有解决方案的速度。我们讨论了希望和其他框架之间的差异,以及其功能的未来扩展。完整文档的HOPE包可在http://hope.phys.ethz.ch上获得,并在PyPI和GitHub上以GPL v3许可证发布。
2014-12-03 astro-ph.IM cs.MS cs.PL
ClangJIT: Enhancing C++ with Just-in-Time Compilation
C++程序设计语言不仅是高性能计算生态系统的基石,而且已被证明是可移植并行编程框架的成功基础。众所周知,C++程序员使用模板来专门化算法,从而允许编译器为特定参数、数据结构等生成高效的代码。这种能力仅限于在编译应用程序时可以识别的专门化,并且在许多关键情况下,编译所有潜在相关的专门化是不切实际的。ClangJIT提供了一个集成良好的C++语言扩展,允许在程序执行期间进行基于模板的专门化。这种能力已被实现用于大规模的应用程序,我们证明,即时编译为基础的动态专业化可以集成到应用程序中,往往需要最小的变化(或没有变化)的应用程序本身,提供显着的性能改进,程序员的生产力提高,并减少编译时间。
2019-04-27 cs.PL
Support Local Variables
Shopify
针对Ruby局部变量编译难题,提出基于方法的JIT编译器ZJIT,采用SSA形式中间表示将局部变量提升为SSA值,实现更高级优化并解决相关编译问题。
2026-09-02 cs.PL
Towards a native toplevel for the OCaml language
本文介绍了我们在OCaml语言的交互式顶层上的工作现状,该顶层是基于优化本机代码编译器和运行时的。我们的原生toplevel比默认的OCaml toplevel快100倍,默认的OCaml toplevel基于字节码编译器和解释器。它使用即时技术在运行时将顶级短语编译为本机代码,目前可用于运行在x86或x86-64处理器上的各种类Unix系统。
2011-10-27 cs.PF cs.PL
COGENT: Certified Compilation for a Functional Systems Language
我们提出了一个自证明编译器的COGENT系统语言。COGENT是一种受限制的、多态的、高阶的、纯函数式的语言,具有线性类型,不需要可信的运行时或垃圾收集器。它编译成高效的C代码,旨在与现有的C函数互操作。该语言适用于具有最小共享的分层系统代码,例如文件系统或网络协议控制代码。对于类型良好的COGENT程序,编译器生成C代码,在Isabelle/HOL中对其语义进行高级浅嵌入,并证明C代码正确实现了此嵌入。其目的是让证明工程师能够高效地、均衡地推理真实世界系统代码的全部语义,同时保持C语言的互操作性和简洁性。我们描述了编译器的形式化验证阶段,其中包括自动化的形式化细化演算,从命令式更新语义到函数值语义的切换,以及一些标准的编译器阶段,如类型检查和单态化。编译器证书是一系列语言级的Meta证明和每个程序的翻译验证阶段,在Isabelle/HOL中组合成一个连贯的顶级定理。
2016-01-21 cs.LO cs.PL
PolyBlocks: A Compiler Infrastructure for AI Chips and Programming Frameworks
Polymage Labs(Polymage实验室);Indian Institute of Science(印度科学研究院)
PolyBlocks是一种基于MLIR的编译器基础设施,通过自动代码生成和优化,实现AI编程框架到AI芯片的高效转换。
2026-03-10 cs.LG cs.PL
Deoptless: Speculation with Dispatched On-Stack Replacement and Specialized Continuations
即时编译为用动态语言编写的程序提供了显著的性能改进。这些好处来自于编译器推测可能的情况并为这些情况生成优化代码的能力。不可避免的是,推测有时会失败,优化必须恢复。在某些病态的情况下,这可能会使程序陷入次优代码。在本文中,我们提出deoptless,一种技术,取代deoptimization点与派遣专门的延续。deoptless的目标是向用户提供一个更透明的性能模型迈出一步,在这个模型中,神秘的减速不那么频繁和严重。
2022-04-05 cs.PL
Countering Trusting Trust through Diverse Double-Compiling
空军对Multics的评估,以及Ken Thompson著名的图灵奖演讲“对信任的反思”,表明编译器可以被颠覆,将恶意特洛伊木马插入关键软件,包括它们自己。如果这种攻击未被检测到,即使对系统源代码进行完整的分析也无法找到正在运行的恶意代码,并且检测这种特定攻击的方法并不广为人知。本文介绍了一种实用的技术,称为多样的双重编译(DDC),检测这种攻击和一些编译器的缺陷。只需重新编译源代码两次:一次使用第二个(受信任的)编译器,再次使用第一次编译的结果。如果结果与不受信任的二进制文件逐位相同,则源代码准确地表示二进制文件。这一技术已被非正式地提及,但其问题和后果尚未在同行审查的工作中确定或讨论,也没有公开演示。本文描述了该技术,证明了它,描述了如何克服实际挑战,并演示了它。
2010-04-30 cs.CR cs.PL
ShareJIT: JIT Code Cache Sharing across Processes and Its Practical Implementation
在动态规划语言实现中,结合代码缓存的即时(JIT)编译被广泛用于提高性能。但是,这些代码缓存以及热代码的相关分析数据会消耗大量内存。此外,它们的创建需要额外的JIT编译时间。在Android上,当前的标准JIT编译器及其代码缓存在进程之间不共享-也就是说,运行时系统为每个运行时进程维护一个私有代码缓存及其相关数据。但是,在同一平台上运行的应用程序往往会共享多个公共库。跨多个应用程序和多个进程共享缓存的代码可以减少内存使用。它可以直接减少编译时间。它还可以减少解释代码所花费的累积时间。所有这三种效果都可以提高实际的运行时性能。在本文中,我们描述了ShareJIT,这是一个用于JIT的全局代码缓存,可以跨多个应用程序和多个进程共享代码。我们在Android运行时(ART)的背景下实现了ShareJIT,Android运行时(ART)是一种广泛使用的最先进系统。为了增加共享,我们的实现限制了JIT编译器可以用来优化代码的上下文数量。这暴露了一个基本的折衷:增加对单个进程上下文的专门化会降低编译代码可以共享的程度。在ShareJIT中,我们限制了一些优化来增加可共享性。为了评估ShareJIT,我们在总共30个实验中测试了8个流行的Android应用程序。ShareJIT将整体性能平均提高了9%,同时将内存消耗平均降低了16%,JIT编译时间平均降低了37%。
2018-10-22 cs.PL
The Green Side of the Lua
University of Minho(米尼奥大学);INESC TEC(葡萄牙电信与计算机科学研究院)
本文研究了Lua的能耗和性能,发现LuaJIT编译器在能耗和速度上显著优于标准解释器,接近C语言的效率。
2026-01-30 cs.PL cs.SE
Live Objects All The Way Down: Removing the Barriers between Applications and Virtual Machines
提出活元循环运行时(LMRs),消除应用与虚拟机分离,使双方开发者都能用活编程工具调试和修改虚拟机,并在Bee/LMR中验证其可行性。
2023-12-28 cs.PL
Performance comparison between Java and JNI for optimal implementation of computational micro-kernels
在高性能计算(HPC)中使用的通用CPU支持向量指令集和专用于增加指令级并行的乱序引擎。因此,相关的优化是目前至关重要的,以提高需要数值计算的应用程序的性能。此外,在高性能计算中使用Java运行时环境(如HotSpot Java虚拟机(JVM))是一种有前途的替代方案。它受益于其编程灵活性,生产力和性能是由即时(JIT)编译器确保的。然而,JIT编译器有两个主要缺点。首先,JIT对于开发人员来说是一个黑盒子。我们无法控制生成的代码,也无法从其优化阶段(如向量化)获得任何反馈。其次,与GCC或LLVM等静态编译器相比,时间约束缩小了优化程度。因此,使用静态编译的代码是很有吸引力的,因为它可以从减少性能瓶颈的额外优化中受益。Java允许通过Java本机接口(JNI)从动态库调用本机代码。然而,JNI方法不是内联的,与Java方法相比,调用JNI方法需要额外的成本。因此,为了从更好的静态优化中获益,必须通过在每次JNI调用时执行的计算量来平衡这种调用开销。在本文中,我们解决这个问题,我们建议这样做的一组微内核的分析。我们的目标是根据调用上下文定义的计算量来选择最有效的实现。我们还研究了几种不同的优化方案,这是向量化,无序优化,数据对齐,方法内联和使用本机内存JNI方法的性能的影响。
2014-12-21 cs.DC cs.PF cs.PL
JITSPMM: Just-in-Time Instruction Generation for Accelerated Sparse Matrix-Matrix Multiplication
针对多核 CPU 上 SpMM 的 AOT 编译开销问题,提出 JITSPMM 即时汇编生成框架,结合负载划分、粗粒度列合并、寄存器缓存与 SIMD 指令,相较 icc 自动向量化实现和 Intel MKL 平均提速 3.8 倍和 1.4 倍。
2023-12-09 cs.DC cs.PF cs.PL