AutoParLLM：利用 GNN 引导上下文生成以通过 LLM 实现零样本代码并行化
AutoParLLM: GNN-guided Context Generation for Zero-Shot Code Parallelization using LLMs
AI总结：
提出 AutoParLLM，用 GNN 引导生成 ICL 上下文，使 LLM 在零样本并行代码生成中显著提升 CodeBERTScore 与实际加速比。
摘要：
上下文学习（ICL）已被证明是一种强大的技术，可在多种任务中增强 LLM 的能力。本工作提出了 AutoParLLM，这是一种利用图神经网络（GNN）提供引导来生成上下文，从而生成高效并行代码的新颖方法。我们在来自两个著名并行代码基准套件（NAS Parallel Benchmark 和 Rodinia Benchmark）的 12 个应用程序上评估了 AutoParLLM。结果表明，在并行代码生成任务的 CodeBERTScore 方面，AutoParLLM 将最先进的 LLM（例如 GPT-4）在 NAS 上提升了 19.9%，在 Rodinia Benchmark 上提升了 6.48%。此外，AutoParLLM 通过实现约 17%（在 NAS Benchmark 上）和约 16%（在 Rodinia Benchmark 上）更优的加速比，提升了迄今最强大的 LLM——GPT-4 的能力。另外，我们提出了用于评估并行代码质量的 AutoParScore，并证明了其在评估并行代码方面的有效性。AutoParLLM 可在 https://github.com/quazirafi/AutoParLLM.git 获取。
英文摘要：
In-Context Learning (ICL) has been shown to be a powerful technique to augment the capabilities of LLMs for a diverse range of tasks. This work proposes \ourtool, a novel way to generate context using guidance from graph neural networks (GNNs) to generate efficient parallel codes. We evaluate \ourtool \xspace{} on $12$ applications from two well-known benchmark suites of parallel codes: NAS Parallel Benchmark and Rodinia Benchmark. Our results show that \ourtool \xspace{} improves the state-of-the-art LLMs (e.g., GPT-4) by 19.9\% in NAS and 6.48\% in Rodinia benchmark in terms of CodeBERTScore for the task of parallel code generation. Moreover, \ourtool \xspace{} improves the ability of the most powerful LLM to date, GPT-4, by achieving $\approx$17\% (on NAS benchmark) and $\approx$16\% (on Rodinia benchmark) better speedup. In addition, we propose \ourscore \xspace{} for evaluating the quality of the parallel code and show its effectiveness in evaluating parallel codes. \ourtool \xspace is available at https://github.com/quazirafi/AutoParLLM.git.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
