基于大语言模型的数据驱动动态算法调度
Data-Driven Dynamic Algorithm Dispatch with Large Language Models
- Massachusetts Institute of Technology(麻省理工学院)
机构由 AI 辅助整理,请以论文原文为准。
AI总结:
该研究提出基于LLaMA 3等的LLM驱动方法,结合性能数据库生成线性代数动态算法调度启发式算法,经LU分解案例验证可复制专家策略,为算法发现及自适应线性代数软件开发提供新方向。
AI中文摘要:
我们提出一种由大语言模型(LLM)驱动的方法,用于生成高性能线性代数中的动态算法调度启发式算法。通过将提示工程与LLaMA 3及精心整理的性能数据库相结合,该模型学习合成选择启发式算法,以利用结构模式识别快速算法选择。对LU分解的案例研究表明,该模型具备复制专家设计策略的能力。本工作作为DARPA-MIT SmartSolve项目的一部分开展,凸显了LLM在算法发现及开发更具适应性、快速线性代数软件方面的潜力。
英文摘要:
We introduce a large language model (LLM)-driven approach for generating dynamic algorithmic dispatch heuristics in high-performance linear algebra. By combining prompt engineering with LLaMA 3 and a curated performance database, the model learns to synthesize selection heuristics that exploit structural patterns to identify fast algorithmic choices. A case study on LU factorization demonstrates the model's ability to replicate expert-designed strategies. This work, developed as part of the DARPA-MIT SmartSolve project, highlights the promise of LLMs for algorithmic discovery and the development of more adaptive, fast linear algebra software.