SLA-Aware Distributed LLM Inference Across Device-RAN-Cloud
面向SLA的分布式大语言模型推理跨设备-无线接入网-云
机构 * Singapore University of Technology and Design(新加坡科技设计大学)
专题命中 其他机器人 :embodied AI(abstract);分类 cs.AI
AI总结 该研究探讨了在设备-无线接入网-云架构中实现大语言模型推理的SLA可行性,发现量化模型在边缘和云层级表现各异,MIG隔离技术保障了基带处理的实时性。
Comments Accepted to IEEE INFOCOM Workshops 2026 (6G AI-RAN 2026), Tokyo, Japan. This arXiv version is a preprint / author version