Temporal-Aware GPU Resource Allocation for Distributed LLM Inference via Reinforcement Learning
专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract)
Comments 17 pages, 12 figures
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract)
Comments 17 pages, 12 figures
专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract)
Comments Accepted by ICSE '26 (The 48th IEEE/ACM International Conference on Software Engineering)
机构 * Department of Computer Science and Engineering(计算机科学与工程系) ; Hong Kong University of Science and Technology(香港科学与技术大学) ; Department of Pathology(病理学系) ; School of Medicine(医学院) ; Zhejiang University(浙江大学) ; Nanfang Hospital and School of Basic Medical Sciences(南方医科大学基础医学系) ; Southern Medical University(南方医学院) ; Guangdong Provincial Key Laboratory of Molecular Tumor Pathology(广东省分子肿瘤病理重点实验室) ; Jinfeng Laboratory(金凤实验室) ; Department of Radiology(放射科) ; Division of Life Science(生命科学系) ; HKUST Shenzhen-Hong Kong Collaborative Innovation Research Institute(香港科技大学深圳-香港协同创新研究院) ; State Key Laboratory of Nervous System Disorders(神经系统疾病国家重点实验室)
专题命中 效率与部署 :foundation model(title,abstract);分类 cs.AI、cs.LG
Comments 27 pages, 7 figures
专题命中 效率与部署 :language model(title,abstract);分类 cs.LG
专题命中 效率与部署 :language model(title);LLM(abstract);分类 cs.CL
Comments Accepted to EMNLP 2025 (Main Conference)
机构 * University of Michigan(密歇根大学)
专题命中 效率与部署 :foundation model(title,abstract);分类 cs.LG
Comments Published at ICML 2025
机构 * Shanghai Key Lab of Intell. Info. Processing, School of CS, Fudan University(上海智能信息处理实验室,计算机科学学院,复旦大学) ; The Chinese University of Hong Kong, Shatin, Hong Kong(香港中文大学,沙田,香港) ; The University of Hong Kong, Pokfulam, Hong Kong(香港大学,薄扶林,香港)
专题命中 效率与部署 :language model(title,abstract);分类 cs.AI
Comments This work has been submitted to the IEEE for possible publication
专题命中 效率与部署 :LLM(title,abstract)
Comments 10 pages
专题命中 效率与部署 :foundation model(title,abstract)
Comments This paper is under review in IEEE Network Magazine Special Issue on Large AI Models for the Internet of Everything
机构 * Harbin Institute of Technology(哈尔滨工业大学) ; Huawei Noah’s Ark Lab(华为诺亚实验室)
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG
机构 * ETH Zürich(苏黎世联邦理工学院)
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL
Comments Preprint
机构 * The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI
机构 * University of Michigan(密歇根大学) ; Jaseci Labs(Jaseci实验室)
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI
Comments OOPSLA 2025
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract)
机构 * Google(谷歌) ; Bar-Ilan University(巴伊兰大学)
专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI
专题命中 效率与部署 :large language model(abstract);language model(abstract)
Journal ref A&A 701, A207 (2025)
专题命中 效率与部署 :large language model(abstract);language model(abstract)
Comments 13 pages, 16 figures
专题命中 效率与部署 :large language model(abstract);language model(abstract)
机构 * KAUST(科威特科学与技术王国(KAUST)) ; CIIRC CTU(布拉格技术大学智能信息与计算研究中心(CIIRC CTU)) ; Adobe Research(Adobe研究)
专题命中 效率与部署 :foundation model(abstract);分类 cs.AI
机构 * DFKI(德意志联邦鹰隼研究所)
专题命中 效率与部署 :foundation model(abstract)
专题命中 效率与部署 :RLHF(abstract)
Comments 5 pages, 7 figures, conference
机构 * School of Electronics and Communication Engineering(电子与通信工程学院) ; Guangdong Provincial Key Laboratory of Advanced IntelliSense Technology(广东省先进智能感知技术重点实验室) ; Department of Radiology(放射科)
专题命中 效率与部署 :pretraining(abstract)
机构 * Delft University of Technology(代尔夫特理工大学) ; ASML(ASML公司)
专题命中 领域大模型 :large language model(title,abstract);language model(title,abstract);LLM(abstract);prompting(abstract)
Comments Accepted in the 40th IEEE/ACM International Conference on Automated Software Engineering, ASE 2025 (Industry track)
机构 * Darmstadt University of Applied Sciences(达姆施塔特应用技术大学) ; Veterinary Academy of Higher Learning(兽医高等学习学院) ; European University of Technology(欧洲技术大学)
专题命中 领域大模型 :large language model(title,abstract);language model(title,abstract);LLM(abstract);prompting(abstract)
Journal ref Computer Science Research Notes 3501(1) (2025) 27-38
机构 * Centre for Robotic Autonomy in Demanding and Long-lasting Environments(机器人自主性在恶劣和持久环境中的研究中心) ; Centre for Robotics and AI(机器人与人工智能中心) ; University of Manchester(曼彻斯特大学) ; Amentum Clean Energy Ltd(Amentum清洁能源有限公司)
专题命中 领域大模型 :language model(title,abstract);分类 cs.CL、cs.AI、cs.LG
专题命中 领域大模型 :prompting(title);large language model(abstract);language model(abstract)
Comments 45 pages, 16 figures, 1 table
专题命中 领域大模型 :foundation model(title,abstract)
专题命中 领域大模型 :LLM(abstract);large language model(abstract);language model(abstract)
机构 * SRI(SRI研究院) ; Johns Hopkins University(约翰霍普金斯大学)
专题命中 领域大模型 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
Comments Accepted to EMNLP 2025 main conference