Composable and Modular Code Generation in MLIR: A Structured and Retargetable Approach to Tensor Compiler Construction
尽管在软件基础设施上进行了大量投资,但机器学习系统、运行时和编译器并没有正确组合。我们提出了一个新的设计,旨在提供前所未有的模块化程度,可组合性和通用性。本文讨论了一种结构化的方法来构建特定于域的代码生成器的张量编译器,与提高编译器工程师和最终用户的生产力的既定目标。该方法利用了张量代数的自然结构。它一直是\MLIR中逐步降低路径设计的主要驱动力。提出的抽象和转换跨越数据结构和控制流的功能(SSA形式)和命令(副作用)语义。我们讨论了这个基础设施的编译器建设的影响,并提出了初步的实验结果。
2022-02-07 cs.PL
Fully integrating the Flang Fortran compiler with standard MLIR
本文提出将 Flang Fortran 编译器与标准 MLIR 完全集成,通过构建 Fortran 与标准 MLIR 的映射,在多项基准测试中实现了比 Flang 现有方法最高达三倍的性能提升。
2024-09-27 cs.DC cs.PL
The MLIR Transform Dialect. Your compiler is more powerful than you think
本文提出 MLIR 中的 Transform dialect,使性能工程师无需编写新 pass 即可细粒度组合并复用编译器转换,从而精确优化不同计算负载。
2024-09-09 cs.PL
MLIR-Forge: A Modular Framework for Language Smiths
ETH Zurich(苏黎世联邦理工学院)
MLIR-Forge是一种利用MLIR灵活性的模块化随机程序生成框架,通过分解生成过程为语言特定和可重用的构建块,简化了领域特定编译器IR的测试和bug检测。
2026-01-14 cs.PL
Experiences Building an MLIR-based SYCL Compiler
本文介绍基于MLIR框架构建SYCL编译器的实践经验,通过方言机制建模主机与设备代码,实现强大优化与分析,相比LLVM实现最高提速4.3倍,并探讨了未来挑战。
2023-12-20 cs.DC cs.PF cs.PL
Building Bridges: Julia as an MLIR Frontend
本文探索将Julia作为MLIR的高级前端,利用其多重派发等特性设计并实现了一个易扩展的MLIR代码生成框架,并通过三个案例研究验证了其有效性。
2025-02-14 cs.PL
nelli: a lightweight frontend for MLIR
本文提出嵌入 Python 的轻量级领域特定语言 nelli,以 Pythonic 语法生成 MLIR 代码,从而简化 MLIR 基本变换的研究与运用,并支持将计算内核降低到多种硬件平台。
2023-08-14 cs.PL
Fortran performance optimisation and auto-parallelisation by leveraging MLIR-based domain specific abstractions in Flang
本研究将Flang MLIR通用编译器与Open Earth Compiler的MLIR stencil方言结合,开发Fortran模板提取转换与自动并行化方法,在Cray超算上实现2-10倍性能提升,支持多线程、分布式并行与GPU优化且无需修改串行源码。
2023-10-03 cs.DC cs.PL
Quantum Circuit Transformations with a Multi-Level Intermediate Representation Compiler
量子计算承诺处理信息的显着方法,但需要新的工具来将程序表示编译为量子计算机所需的物理指令。在这里,我们提出了一种新的适应的多级中间表示(MLIR)集成到一个量子编译器,可用于检查程序执行。我们首先介绍了MLIR如何使量子线路转换在量子计算设备上高效执行,然后给出了一个基于所谓的镜像电路的编译器转换的例子。我们证明,在编译过程中插入的镜像电路可以通过评估几个超导和离子阱硬件平台上的量子线路精度来测试硬件性能。我们的研究结果验证MLIR作为一种高效和有效的方法,收集硬件相关的诊断,通过自动化的量子线路的转换。
2021-12-20 cs.PL quant-ph
eqsat: An Equality Saturation Dialect for Non-destructive Rewriting
本文提出 MLIR 方言 eqsat,将 e-graph 与等饱和原生嵌入编译器 IR,以支持贯穿编译流程的非破坏性构造性重写并复用现有 MLIR 优化遍。
2025-05-15 cs.PL
Towards a high-performance AI compiler with upstream MLIR
Intel Corporation(英特尔公司)
提出基于开源 MLIR 的编译流程,通过缓存级优化与微内核降低技术,使线性代数抽象达到 ninja 级性能的 90% 以上。
2024-04-15 cs.AI cs.AR cs.DC
JLIR: A Julia-Native MLIR-Inspired Intermediate Representation with Automatic JACC Kernel Extraction
Oak Ridge National Laboratory(橡树岭国家实验室)
本文针对MLIR难以适配Julia的问题,提出JLIR框架,将MLIR的多级编译优势引入Julia生态,支持自动JACC内核生成,解决了领域库接口脱离编译器优化路径的痛点。
2026-09-07 cs.CL cs.PL
Nova: An End-to-End MLIR Compiler for Deep Learning
Blubridge AI(布鲁布里奇人工智能公司)
Nova是一款端到端MLIR编译器,通过整图优化等技术提升深度学习模型性能,在RTX 3060上的TF32矩阵乘法、模型吞吐量和内存占用等指标上优于PyTorch和XLA,可训练更大规模模型且避免OOM故障。
2026-09-03 cs.AI cs.AR cs.LG
WAMI: Compilation to WebAssembly through MLIR without Losing Abstraction
本文提出WAMI,一种基于MLIR的Wasm编译流水线,通过设计Wasm方言直接生成高级Wasm代码,保留抽象并支持栈切换等新特性,性能与LLVM相当。
2025-06-19 cs.PL
Hexagon-MLIR: An AI Compilation Stack For Qualcomm's Neural Processing Units (NPUs)
Qualcomm Technologies International, Ltd.(英伟达技术国际有限公司);Qualcomm Technologies, Inc.(英伟达技术公司);Qualcomm India Private Limited(英伟达印度私人有限公司)
Hexagon-MLIR是一种基于MLIR框架的开源编译栈,用于加速NPU上的AI工作负载,通过生成mega内核优化数据局部性,减少带宽瓶颈。
2026-02-23 cs.AI cs.PL
RISE & Shine: Language-Oriented Compiler Design
软件和硬件专业化的趋势--由摩尔定律的终结和对特定领域计算(如机器学习)的兴趣仍在加速推动--迫使我们从根本上重新思考我们的编译器设计。通用编译器框架围绕一个单一的通用中间表示(IR)构建的时代已经结束。这种认识引发了MLIR编译器框架的创建,该框架使编译器工程师能够设计和集成捕获特定抽象的IR。MLIR为基于SSA的IR提供了一个通用框架,但它并不能帮助我们决定如何设计易于开发、使用和组合成工作编译器的IR。为了解决IR设计的挑战,我们提倡面向语言的编译器设计,理解IR作为正式的程序设计语言,并通过伴随的类型系统强制其正确使用。我们认为,程序设计语言技术直接指导可扩展的IR设计,并提供了一个正式的框架,原因多个IR之间的转换。在本文中,我们讨论了设计的Shine编译器,编译的高级功能模式为基础的数据并行语言RISE通过混合函数命令式中间语言C,OpenCL和OpenMP。我们将我们的工作直接与密切相关的基于模式的Lift IR和编译器进行比较。我们表明,我们的面向语言的编译器设计结果在一个更强大的和可预测的编译器,可扩展的各种抽象级别。我们的实验评估表明,这种编译器设计是能够生成高性能的GPU代码。
2022-01-10 cs.PL
Verifying Peephole Rewriting In SSA Compiler IRs
本文在 Lean 中形式化了一个通用的基于 SSA 的 IR 核心演算,并结合自动化策略与交互式定理证明,为 MLIR 生态系统中领域特定 IR 的窥孔重写提供形式化验证框架,通过位向量、结构化控制流和全同态加密三个用例验证了其有效性。
2024-07-04 cs.LO cs.PL
mlirSynth: Automatic, Retargetable Program Raising in Multi-Level IR using Program Synthesis
University of Edinburgh(爱丁堡大学)
针对MLIR现有低级方言自动提升依赖手动规则的问题,提出mlirSynth方法,利用方言定义与类型约束等搜索程序空间实现自动提升,在多平台取得显著加速效果且支持加速器重定向。
2023-10-06 cs.CL cs.DC cs.PF
Sidekick compilation with xDSL
本文提出助手式编译器框架概念,通过文本交换格式和声明式抽象实现多框架互操作,并以xDSL为例展示其在教学、DSL编译和重写系统原型开发中简化从原型到生产过渡的作用。
2024-06-17 cs.PL
Bootstrapping Fuzzers for Compilers of Low-Resource Language Dialects Using Language Models
University of California San Diego(加州大学圣地亚哥分校);Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所)
通过语言模型构建编译器低资源语言方言的模糊测试器,利用语法和覆盖引导技术生成种子输入,提升测试效率和覆盖率。
2025-12-05 cs.LG cs.PL cs.SE
An MLIR Lowering Pipeline for Stencils at Wafer-Scale
Technische Universität Berlin(柏林工业大学);EPCC(爱丁堡计算中心);School of Informatics, The University of Edinburgh(爱丁堡大学信息学院);The University of Edinburgh(爱丁堡大学);Imperial College London(伦敦帝国理工学院);University of Cambridge(剑桥大学)
本文提出了一种编译器流水线,利用 stencil 领域信息,将 stencil 内核转换为 WSE 的 CSL 代码,实现了高效性能。
2026-01-25 cs.DC cs.ET cs.PL
MQSS-Selector: RL-Guided Pass Selection for an MLIR Compilation Pipeline
Leibniz Supercomputing Centre (LRZ)(莱布尼茨超级计算中心);Technical University of Munich (TUM)(慕尼黑工业大学);Munich Quantum Valley (MQV)(慕尼黑量子谷);Argonne National Laboratory (ANL)(阿贡国家实验室)
本文提出MQSS-Selector,一个基于强化学习与深度学习的统一选择器,将量子编译中的设备选择、Pass优化与调度整合,以同时优化保真度、编译时间和调度延迟。
2026-10-01 cs.DC cs.LG cs.PL
DSLHyPE-a DSL kernel language for the Exascale Hyperbolic PDE Engine ExaHyPE
Durham University(杜伦大学)
该研究提出DSLHyPE双语领域特定语言,分离双曲型PDE求解器的数值表示与物理实现,经引力波等求解器在x86和H200平台验证,可助力相关数值格式开发。
2026-08-21 cs.MS cs.NA cs.PL
Reading AI Model Compilation in MLIR Through the Lens of Formal Theories
Qualcomm Technologies International, Ltd.(高通国际有限公司)
本文通过形式理论(如项重写系统、精化演算、抽象解释)对应MLIR的匹配-重写引擎、阶段降低和范围分析,论证形式概念有助于明确抽象完备性、理想设计及实际权衡。
2026-06-25 cs.PL
Technical Report about Tiramisu: a Three-Layered Abstraction for Hiding Hardware Complexity from DSL Compilers
高性能DSL开发人员努力利用现代硬件。DSL编译器必须构建自己的复杂中间端,然后才能针对诸如LLVM之类的公共后端,LLVM仅处理具有SIMD指令的单个指令流。我们介绍Tiramisu,这是一个常见的中端,可以为现代处理器和加速器(如多核,GPU,FPGA和分布式集群)生成高效的代码。Tiramisu引入了一种新颖的三级IR,它将算法、算法的执行方式以及中间数据的存储位置分开。这种分离简化了优化,并使从同一算法中定位多个硬件架构变得更容易。因此,DSL编译器可以在不损失性能的情况下大大降低复杂性,同时立即针对多个硬件或硬件组合,例如具有CPU和GPU的分布式节点。我们通过为Halide和Julia编译器创建一个新的中间端来评估Tiramisu。我们表明,Tiramisu扩展了Halide和Julia的许多新功能,包括表达新算法(如递归滤波器和非矩形迭代空间),执行新的复杂循环嵌套变换(如波前并行化,循环移位和循环融合),并为更多架构(如分布式集群,多核,GPU和FPGA的组合)生成有效的代码。最后,我们展示了Tiramisu可以生成与高度优化的英特尔MKL gemm(广义矩阵乘法)实现相匹配的非常高效的代码,我们还展示了由于Tiramisu实现的优化,Halide中的加速倍数达到4倍,Julia中的加速倍数达到16倍。
2018-05-28 cs.PF cs.PL
TinyIREE: An ML Execution Environment for Embedded Systems from Compilation to Deployment
在过去十年中,用于训练和执行的机器学习模型部署一直是工业和学术研究的重要主题。大部分注意力都集中在开发特定的工具链来支持加速硬件。在本文中,我们提出了IREE,一个统一的编译器和运行时堆栈,其明确目标是将机器学习程序缩减到移动和边缘设备的最小占用空间,同时保持扩展到更大部署目标的能力。IREE采用基于编译器的方法,并通过使用MLIR编译器基础设施来优化异构硬件加速器,该基础设施提供了快速设计和实现多层编译器中间表示(IR)的方法。更具体地说,本文重点关注TinyIREE,这是IREE中的一组部署选项,可适应嵌入式系统和裸机平台中有限的内存和计算资源,同时还展示了IREE的直观工作流程,可通过LLVM为不同的ISA扩展和ABI生成工作负载。
2022-05-28 cs.PL
Mojo: MLIR-Based Performance-Portable HPC Science Kernels on GPUs for the Python Ecosystem
Oak Ridge National Laboratory(橡树岭国家实验室);Innovative Computing Laboratory. The University of Tennessee, Knoxville.(田纳西大学诺克斯维尔分校创新计算实验室)
本文评估Mojo语言在GPU上运行科学计算内核的性能与可移植性,证明其在内存受限任务上媲美CUDA/HIP,但在原子操作和快速数学计算上存在差距,有助于弥合Python生态系统的性能鸿沟。
2025-09-25 cs.CE cs.DC cs.ET
A Multi-level Compiler Backend for Accelerated Micro-kernels Targeting RISC-V ISA Extensions
本文提出一种多层编译器后端设计,通过渐进式lowering和结构化IR上的增量寄存器分配,为带硬件循环与流式寄存器的RISC-V加速器生成定制微内核,在关键DNN内核上实现高达90%的FPU利用率。
2025-02-06 cs.PL
Defeat the Heap: Zero-Copy Data Movement in AXI4MLIR
University of Glasgow(格拉斯哥大学);Northeastern University(东北大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对AXI4MLIR框架中非零拷贝数据移动导致的运行时开销,提出通过直接分配DMA映射内存实现零拷贝,消除冗余暂存拷贝,最高可减少2倍主存数据移动并提升加速器利用率。
2026-06-09 cs.AR cs.PL
The Program Hypergraph: Multi-Way Relational Structure for Geometric Algebra, Spatial Compute, and Physics-Aware Compilation
Braidpoint
提出程序超图(PHG)作为程序语义图的泛化,通过超边表示多重关系,解决空间数据流架构中的瓦片共置与路由约束以及几何代数计算中的分级多重积问题,实现几何正确性、内存布局、数值精度和硬件划分的联合推导。
2026-10-09 cs.AR cs.PL