Fully integrating the Flang Fortran compiler with standard MLIR
本文提出将 Flang Fortran 编译器与标准 MLIR 完全集成,通过构建 Fortran 与标准 MLIR 的映射,在多项基准测试中实现了比 Flang 现有方法最高达三倍的性能提升。
2024-09-27 cs.DC cs.PL
The MLIR Transform Dialect. Your compiler is more powerful than you think
本文提出 MLIR 中的 Transform dialect,使性能工程师无需编写新 pass 即可细粒度组合并复用编译器转换,从而精确优化不同计算负载。
2024-09-09 cs.PL
MLIR-Forge: A Modular Framework for Language Smiths
ETH Zurich(苏黎世联邦理工学院)
MLIR-Forge是一种利用MLIR灵活性的模块化随机程序生成框架,通过分解生成过程为语言特定和可重用的构建块,简化了领域特定编译器IR的测试和bug检测。
2026-01-14 cs.PL
Experiences Building an MLIR-based SYCL Compiler
本文介绍基于MLIR框架构建SYCL编译器的实践经验,通过方言机制建模主机与设备代码,实现强大优化与分析,相比LLVM实现最高提速4.3倍,并探讨了未来挑战。
2023-12-20 cs.DC cs.PF cs.PL
Building Bridges: Julia as an MLIR Frontend
本文探索将Julia作为MLIR的高级前端,利用其多重派发等特性设计并实现了一个易扩展的MLIR代码生成框架,并通过三个案例研究验证了其有效性。
2025-02-14 cs.PL
Analyzing Latency Hiding and Parallelism in an MLIR-based AI Kernel Compiler
Qualcomm Technologies International, Ltd.(高通技术国际有限公司);Qualcomm Technologies, Inc.(高通技术公司)
本文研究了基于MLIR的AI内核编译器中延迟隐藏与并行性的优化方法,通过实验验证了向量化、多线程和双缓冲技术对不同内核性能的影响。
2026-02-22 cs.AI cs.PL
nelli: a lightweight frontend for MLIR
本文提出嵌入 Python 的轻量级领域特定语言 nelli,以 Pythonic 语法生成 MLIR 代码,从而简化 MLIR 基本变换的研究与运用,并支持将计算内核降低到多种硬件平台。
2023-08-14 cs.PL
Fortran performance optimisation and auto-parallelisation by leveraging MLIR-based domain specific abstractions in Flang
本研究将Flang MLIR通用编译器与Open Earth Compiler的MLIR stencil方言结合,开发Fortran模板提取转换与自动并行化方法,在Cray超算上实现2-10倍性能提升,支持多线程、分布式并行与GPU优化且无需修改串行源码。
2023-10-03 cs.DC cs.PL
Quantum Circuit Transformations with a Multi-Level Intermediate Representation Compiler
量子计算承诺处理信息的显着方法,但需要新的工具来将程序表示编译为量子计算机所需的物理指令。在这里,我们提出了一种新的适应的多级中间表示(MLIR)集成到一个量子编译器,可用于检查程序执行。我们首先介绍了MLIR如何使量子线路转换在量子计算设备上高效执行,然后给出了一个基于所谓的镜像电路的编译器转换的例子。我们证明,在编译过程中插入的镜像电路可以通过评估几个超导和离子阱硬件平台上的量子线路精度来测试硬件性能。我们的研究结果验证MLIR作为一种高效和有效的方法,收集硬件相关的诊断,通过自动化的量子线路的转换。
2021-12-20 cs.PL quant-ph
eqsat: An Equality Saturation Dialect for Non-destructive Rewriting
本文提出 MLIR 方言 eqsat,将 e-graph 与等饱和原生嵌入编译器 IR,以支持贯穿编译流程的非破坏性构造性重写并复用现有 MLIR 优化遍。
2025-05-15 cs.PL
Towards a high-performance AI compiler with upstream MLIR
Intel Corporation(英特尔公司)
提出基于开源 MLIR 的编译流程,通过缓存级优化与微内核降低技术,使线性代数抽象达到 ninja 级性能的 90% 以上。
2024-04-15 cs.AI cs.AR cs.DC
JLIR: A Julia-Native MLIR-Inspired Intermediate Representation with Automatic JACC Kernel Extraction
Oak Ridge National Laboratory(橡树岭国家实验室)
本文针对MLIR难以适配Julia的问题,提出JLIR框架,将MLIR的多级编译优势引入Julia生态,支持自动JACC内核生成,解决了领域库接口脱离编译器优化路径的痛点。
2026-09-07 cs.CL cs.PL
Nova: An End-to-End MLIR Compiler for Deep Learning
Blubridge AI(布鲁布里奇人工智能公司)
Nova是一款端到端MLIR编译器,通过整图优化等技术提升深度学习模型性能,在RTX 3060上的TF32矩阵乘法、模型吞吐量和内存占用等指标上优于PyTorch和XLA,可训练更大规模模型且避免OOM故障。
2026-09-03 cs.AI cs.AR cs.LG
RISE & Shine: Language-Oriented Compiler Design
软件和硬件专业化的趋势--由摩尔定律的终结和对特定领域计算(如机器学习)的兴趣仍在加速推动--迫使我们从根本上重新思考我们的编译器设计。通用编译器框架围绕一个单一的通用中间表示(IR)构建的时代已经结束。这种认识引发了MLIR编译器框架的创建,该框架使编译器工程师能够设计和集成捕获特定抽象的IR。MLIR为基于SSA的IR提供了一个通用框架,但它并不能帮助我们决定如何设计易于开发、使用和组合成工作编译器的IR。为了解决IR设计的挑战,我们提倡面向语言的编译器设计,理解IR作为正式的程序设计语言,并通过伴随的类型系统强制其正确使用。我们认为,程序设计语言技术直接指导可扩展的IR设计,并提供了一个正式的框架,原因多个IR之间的转换。在本文中,我们讨论了设计的Shine编译器,编译的高级功能模式为基础的数据并行语言RISE通过混合函数命令式中间语言C,OpenCL和OpenMP。我们将我们的工作直接与密切相关的基于模式的Lift IR和编译器进行比较。我们表明,我们的面向语言的编译器设计结果在一个更强大的和可预测的编译器,可扩展的各种抽象级别。我们的实验评估表明,这种编译器设计是能够生成高性能的GPU代码。
2022-01-10 cs.PL
An MLIR pipeline for offloading Fortran to FPGAs via OpenMP
EPCC, The University of Edinburgh(爱丁堡大学 EPCC)
针对摩尔定律放缓下FPGA加速HPC工作负载的需求,首次在MLIR中实现通过OpenMP target指令将选择性代码卸载到FPGA的方案,结合OpenMP与HLS方言提供可移植编译流程,支持MLIR兼容前端,减少开发工作量并展示生态系统组合性优势。
2025-11-11 cs.DC cs.PL
Bootstrapping Fuzzers for Compilers of Low-Resource Language Dialects Using Language Models
University of California San Diego(加州大学圣地亚哥分校);Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所)
通过语言模型构建编译器低资源语言方言的模糊测试器,利用语法和覆盖引导技术生成种子输入,提升测试效率和覆盖率。
2025-12-05 cs.LG cs.PL cs.SE
Verifying Peephole Rewriting In SSA Compiler IRs
本文在 Lean 中形式化了一个通用的基于 SSA 的 IR 核心演算,并结合自动化策略与交互式定理证明,为 MLIR 生态系统中领域特定 IR 的窥孔重写提供形式化验证框架,通过位向量、结构化控制流和全同态加密三个用例验证了其有效性。
2024-07-04 cs.LO cs.PL
HIR: An MLIR-based Intermediate Representation for Hardware Accelerator Description
边缘设备上机器学习、图像和音频处理的出现推动了对高能效定制硬件加速器的研究。虽然FPGA是节能自定义加速器的理想目标,但硬件设计的难度以及缺乏与供应商无关的标准化硬件编译基础设施阻碍了它们的采用。本文介绍了HIR,一个基于MLIR的中间表示(IR)来描述硬件加速器的设计。HIR将诸如循环和多维张量的高级语言特征与程序员定义的显式调度相结合,以提供适合于DSL编译器流水线的高级IR,而不损害对加速器的微架构的控制。HIR的显式调度允许它表达细粒度、无同步的并行性和优化,如重定时和流水线。作为MLIR的一种方言,它借鉴了从LLVM等社区学到的最佳IR实践。在提供丰富的优化机会和高级抽象的同时,HIR还支持与软件编译器基础设施共享优化、实用程序和传递。我们的实现表明,在一系列内核上,HIR代码生成器的代码生成时间平均比Xilinx Vivado HLS低1112倍,而不会影响生成硬件的质量。我们相信,这些都是重要的一步,在设计IR的硬件合成和装备领域特定的语言与生产力和执行编译路径自定义硬件加速。
2021-02-27 cs.AR cs.PL
Compiler-Driven Simulation of Reconfigurable Hardware Accelerators
Cornell University(康奈尔大学);Xilinx Inc.(赛灵思公司(西灵克斯公司))
随着定制的加速器设计越来越受欢迎,以跟上高性能计算的需求,它提出了挑战,现代模拟器设计,以适应这样一个大的各种各样的加速器。现有的模拟器倾向于两个极端:低级和通用的方法,如RTL模拟,可以模拟任何硬件,但需要大量的工作和较长的执行时间;和更高级别的应用程序特定的模型,可以更快,更容易使用,但需要一次性的工程工作。本文提出了一种编译器驱动的仿真工作流程,可以对可配置的硬件加速器进行建模。其核心思想是通过开发一种能够灵活地表示各种硬件结构的中间语言,将结构表示与仿真分离。我们设计的事件队列(EQueue)方言MLIR,方言,可以模拟任意硬件加速器与显式的数据移动和分布式基于事件的控制,我们还实现了一个通用的模拟引擎模型EQueue程序与混合MLIR方言代表不同的抽象层次。我们展示了两个案例研究的Eccile实现的加速器:在现代FPGA的卷积和SIMD处理器的脉动阵列。在前者中,我们表明EQueue模拟是一个国家的最先进的模拟器一样准确,同时提供更高的可扩展性和更低的迭代成本,通过编译器通过。在后者中,我们证明我们的仿真流程可以指导设计人员有效地改善他们的设计使用可视化的仿真输出。
2022-02-01 cs.AR cs.LG cs.PL
Library Liberation: Competitive Performance Matmul Through Compiler-composed Nanokernels
Intel Advanced Technologies Group,\ Corporation, India.;Intel Advanced Technologies Group,\ Corporation, Switzerland.;Intel Advanced Technologies Group,\ Corporation, UK.;Intel Advanced Technologies Group,\ Corporation, USA.
针对AI/ML工作负载中高性能矩阵乘法实现依赖专家手工内核或专用库、可扩展性差的问题,提出基于MLIR的编译方案自动组合纳米内核生成高性能微内核,性能达到生产级,可媲美现有最优微内核库。
2025-11-14 cs.LG cs.PF cs.PL
MQSS-Selector: RL-Guided Pass Selection for an MLIR Compilation Pipeline
Leibniz Supercomputing Centre (LRZ)(莱布尼茨超级计算中心);Technical University of Munich (TUM)(慕尼黑工业大学);Munich Quantum Valley (MQV)(慕尼黑量子谷);Argonne National Laboratory (ANL)(阿贡国家实验室)
本文提出MQSS-Selector,一个基于强化学习与深度学习的统一选择器,将量子编译中的设备选择、Pass优化与调度整合,以同时优化保真度、编译时间和调度延迟。
2026-10-01 cs.DC cs.LG cs.PL
Hardware.jl - An MLIR-based Julia HLS Flow (Work in Progress)
本文介绍了一个基于MLIR的Julia高层次综合流程Hardware.jl,通过将Julia源码自动综合为Verilog,降低科学算法与硬件加速器协同开发的门槛和复杂度。
2025-03-12 cs.AR cs.PL cs.SE
An MLIR Lowering Pipeline for Stencils at Wafer-Scale
Technische Universität Berlin(柏林工业大学);EPCC(爱丁堡计算中心);School of Informatics, The University of Edinburgh(爱丁堡大学信息学院);The University of Edinburgh(爱丁堡大学);Imperial College London(伦敦帝国理工学院);University of Cambridge(剑桥大学)
本文提出了一种编译器流水线,利用 stencil 领域信息,将 stencil 内核转换为 WSE 的 CSL 代码,实现了高效性能。
2026-01-25 cs.DC cs.ET cs.PL
SEER: Super-Optimization Explorer for HLS using E-graph Rewriting with MLIR
Intel Corporation(英特尔公司);Imperial College London(伦敦帝国学院)
本文提出基于 e-graph 重写与 MLIR 的 HLS 超优化工具流 SEER,通过统一编排编译器与综合优化器大规模探索等价实现,在基准上取得最高 38 倍性能提升。
2023-08-15 cs.AR cs.CL cs.PL
Reading AI Model Compilation in MLIR Through the Lens of Formal Theories
Qualcomm Technologies International, Ltd.(高通国际有限公司)
本文通过形式理论(如项重写系统、精化演算、抽象解释)对应MLIR的匹配-重写引擎、阶段降低和范围分析,论证形式概念有助于明确抽象完备性、理想设计及实际权衡。
2026-06-25 cs.PL
PolyBlocks: A Compiler Infrastructure for AI Chips and Programming Frameworks
Polymage Labs(Polymage实验室);Indian Institute of Science(印度科学研究院)
PolyBlocks是一种基于MLIR的编译器基础设施,通过自动代码生成和优化,实现AI编程框架到AI芯片的高效转换。
2026-03-10 cs.LG cs.PL
E-Graphs as a Persistent Compiler Abstraction
Ghent University(根特大学);University of Cambridge(剑桥大学);University College London(伦敦大学学院);University of Edinburgh(爱丁堡大学)
本文提出了一种在编译器中间表示中原生表示e-graph的方法,通过引入eqsat方言,实现等价饱和在不同中间表示层次上的统一应用,提升编译器优化能力。
2026-08-04 cs.PL
TinyIREE: An ML Execution Environment for Embedded Systems from Compilation to Deployment
在过去十年中,用于训练和执行的机器学习模型部署一直是工业和学术研究的重要主题。大部分注意力都集中在开发特定的工具链来支持加速硬件。在本文中,我们提出了IREE,一个统一的编译器和运行时堆栈,其明确目标是将机器学习程序缩减到移动和边缘设备的最小占用空间,同时保持扩展到更大部署目标的能力。IREE采用基于编译器的方法,并通过使用MLIR编译器基础设施来优化异构硬件加速器,该基础设施提供了快速设计和实现多层编译器中间表示(IR)的方法。更具体地说,本文重点关注TinyIREE,这是IREE中的一组部署选项,可适应嵌入式系统和裸机平台中有限的内存和计算资源,同时还展示了IREE的直观工作流程,可通过LLVM为不同的ISA扩展和ABI生成工作负载。
2022-05-28 cs.PL
A Multi-level Compiler Backend for Accelerated Micro-kernels Targeting RISC-V ISA Extensions
本文提出一种多层编译器后端设计,通过渐进式lowering和结构化IR上的增量寄存器分配,为带硬件循环与流式寄存器的RISC-V加速器生成定制微内核,在关键DNN内核上实现高达90%的FPU利用率。
2025-02-06 cs.PL
ScaleHLS: A New Scalable High-Level Synthesis Framework on Multi-Level Intermediate Representation
高级综合(HLS)已被广泛采用,因为它显着提高了硬件设计的生产力,并使有效的设计空间探索(DSE)。现有的HLS工具是使用编译器基础设施构建的,主要基于单级抽象,如LLVM。然而,由于HLS设计通常具有内在的结构或功能层次,因此不同的HLS优化问题通常可以通过不同的抽象级别更好地解决。本文提出了ScaleHLS,一个新的可扩展和可定制的HLS框架,在一个多层次的编译器基础设施称为MLIR。ScaleHLS在多个表示级别上表示HLS设计,并提供了一个HLS专用的分析和转换库,以解决适当级别上的优化问题。使用这个库,我们提供了一个DSE引擎,自动生成优化的HLS设计。此外,我们还开发了一个HLS C前端和一个C/C++发射后端,用于将HLS设计转换为MLIR/从MLIR转换为端到端的编译流程。实验结果表明,与没有手动插入指令和代码重写的基线设计相比,ScaleHLS仅通过Xilinx Vivado HLS优化,其性能提高了惊人的结果质量-计算内核级程序的性能提高了768.1倍,神经网络模型的性能提高了3825.0倍。
2021-12-22 cs.AR cs.PL
Unifying Static and Dynamic Intermediate Languages for Accelerator Generators
Piezo通过单一中间语言统一加速器设计中的静态与动态控制,实现优化并支持从动态到静态的转换,作为Calyx扩展验证其有效性。
2023-12-26 cs.AR cs.PL
Compiler-Driven Approximation Tuning for Hyperdimensional Computing
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California San Diego(加州大学圣迭戈分校)
提出ApproxHDC框架,通过编译器自动识别和应用超维计算中的领域特定近似,结合高效搜索与多硬件后端支持,实现性能大幅提升且精度损失极小。
2026-06-26 cs.CL cs.PF cs.PL