Spyre-Accelerated Retrieval-Augmented Generation on IBM LinuxONE: A Cloud-Native Architecture for Secure, High-Throughput Enterprise AI Inference
基于IBM LinuxONE的Spyre加速检索增强生成:一种用于安全、高吞吐量企业AI推理的云原生架构
机构 * IBM ISDL
AI总结 该研究提出一种基于IBM LinuxONE的六子系统RAG架构,利用Spyre加速器等组件实现企业AI推理,使敏感数据不离开硬件边界,延迟低于2秒,较平台外推理降低20倍,满足受监管行业的安全与吞吐量需求。
Comments 8 pages, 1 figure, 3 tables