Spyre-Accelerated Retrieval-Augmented Generation on IBM LinuxONE: A Cloud-Native Architecture for Secure, High-Throughput Enterprise AI Inference
基于IBM LinuxONE的Spyre加速检索增强生成：一种用于安全、高吞吐量企业AI推理的云原生架构
机构 * IBM ISDL
AI总结 该研究提出一种基于IBM LinuxONE的六子系统RAG架构，利用Spyre加速器等组件实现企业AI推理，使敏感数据不离开硬件边界，延迟低于2秒，较平台外推理降低20倍，满足受监管行业的安全与吞吐量需求。
Comments 8 pages, 1 figure, 3 tables
