LoongServe: Efficiently Serving Long-Context Large Language Models with Elastic Sequence Parallelism
Shanghai AI Lab(上海人工智能实验室)
针对长上下文LLM服务中资源利用率低的问题,提出弹性序列并行范式并构建LoongServe系统,从计算、通信、内存三方面优化,在真实数据集上实现最高5.81倍的吞吐量提升。
2024-10-29 cs.DC cs.LG
Fast Distributed Inference Serving for Large Language Models
Peking University(北京大学)
针对LLM推理服务中的队头阻塞和高延迟问题,提出分布式推理系统FastServe,采用基于输出token粒度的抢占式调度和跳过连接多级反馈队列调度器,并设计高效GPU内存管理机制,在相同延迟要求下相比vLLM显著提升吞吐量。
2024-09-25 cs.DC cs.LG
Efficient Memory Management for Large Language Model Serving with PagedAttention
UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);UC San Diego(加州大学圣地亚哥分校)
针对LLM服务中KV cache内存浪费限制批处理大小的问题,提出受操作系统分页技术启发的PagedAttention算法并构建vLLM系统,实现近乎零内存浪费与灵活共享,在同等延迟下将吞吐量提升2-4倍。
2023-09-12 cs.DC cs.LG
FastSwitch: Optimizing Context Switching Efficiency in Fairness-aware Large Language Model Serving
Purdue University(普渡大学);Shanghai Qi Zhi Institute(上海期智研究院);Tsinghua University(清华大学)
针对 LLM 服务系统公平性与上下文切换开销的矛盾,本研究提出 FastSwitch 系统,通过优化 KV 缓存策略解决 I/O 利用率不足等问题,在公平性与性能上超越 vLLM,加速比达 1.4-11.2 倍。
2024-11-27 cs.DC cs.LG
Enabling Efficient Serverless Inference Serving for LLM (Large Language Model) in the Cloud
Technische Universität München(慕尼黑工业大学)
本文综述了Serverless LLM推理的冷启动问题,重点介绍ServerlessLLM通过多层检查点加载、实时迁移和启动优化调度将启动时间缩短6到8倍,并回顾了Rainbowcake等其他方法及FaaS冷启动应对策略。
2024-11-23 cs.DC cs.LG
Helix: Serving Large Language Models over Heterogeneous GPUs and Network via Max-Flow
Carnegie Mellon University(卡内基梅隆大学)
本文提出Helix分布式系统,通过将异构GPU和网络的LLM推理转化为最大流问题并利用MILP算法联合优化模型放置与请求调度,显著提升了异构集群的服务吞吐量并降低了延迟。
2025-03-05 cs.CL cs.DC cs.LG
Understanding Efficiency: Quantization, Batching, and Serving Strategies in LLM Energy Use
Hugging Face
本文研究了LLM推理能耗中的量化、批量和服务策略,发现低精度和批量处理可显著降低能耗,同时强调服务堆栈的协调对可持续部署的重要性。
2026-01-29 cs.LG
Queue management for slo-oriented large language model serving
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IBM Research(IBM研究院)
提出QLM队列管理系统,通过请求等待时间估计和全局调度优化LLM服务中的批量与交互请求排序,提升SLO达成率40-90%和吞吐量20-400%。
2025-02-25 cs.CL cs.DC cs.LG
The CAP Principle for LLM Serving: A Survey of Long-Context Large Language Model Serving
Huawei Cloud(华为云);SJTU(上海交通大学);BUPT(北京邮电大学);UESTC(电子科技大学)
本综述提出 LLM 服务的 CAP 原理,指出上下文长度、准确性与性能三者最多同时优化两项,并分类梳理了长上下文服务相关研究。
2024-05-27 cs.DB cs.LG
The Synergy of Speculative Decoding and Batching in Serving Large Language Models
University of Toronto(多伦多大学);CentML Inc(CentML公司);Vector Institute(向量研究所)
本文研究大语言模型推理中批处理与投机解码的协同效应,通过定量建模发现最优投机长度取决于批大小,并提出自适应投机解码策略,在不同批大小下达到或超越固定长度方案。
2023-10-28 cs.DC cs.LG
DumpsterCluster: From Dumpster Diving to Serving LLaMA-70B on $60 GPUs
University of Cambridge(剑桥大学);University of Oxford(牛津大学);Quettaflop AI
本文搭建了二手GPU组成的DumpsterCluster,可在60美元级GPU上支撑LLaMA-70B推理,经济优势显著,但需结合低价电力与清洁能源以保障可持续性。
2026-08-18 cs.AI cs.AR cs.LG
Towards Resiliency in Large Language Model Serving with KevlarFlow
Department of XXX, University of YYY, Location, Country(XXX系,YYY大学,地点,国家);School of ZZZ, Institute of WWW, Location, Country(ZZZ学院,WWW研究所,地点,国家);Department of Computer Science, Purdue University, West Lafayette, IN, United States(计算机科学系,普渡大学,西拉法叶,印第安纳,美国)
KevlarFlow通过解耦模型并行初始化、动态流量重路由和背景KV缓存复制,显著提升了大语言模型服务的容错性和恢复效率。
2026-01-30 cs.CL cs.DC cs.LG
SpecInfer: Accelerating Generative Large Language Model Serving with Tree-based Speculative Inference and Verification
Carnegie Mellon University(卡内基梅隆大学);Tsinghua University(清华大学);Stanford University(斯坦福大学);Shanghai Jiao Tong University(上海交通大学);Peking University(北京大学)
SpecInfer通过小型推测模型生成令牌树预测,并用基于树的并行解码机制由LLM统一验证,在保持模型质量的同时将生成式LLM服务加速1.5至3.5倍。
2024-04-01 cs.CL cs.DC cs.LG
Comparative Analysis of Large Language Model Inference Serving Systems: A Performance Study of vLLM and HuggingFace TGI
Baltimore, MD, USA(美国马里兰州巴尔的摩)
本文比较了vLLM和HuggingFace TGI在大语言模型推理服务中的性能,发现vLLM在高并发场景下吞吐量更高,而TGI在交互式应用中延迟更低。
2025-11-17 cs.DC cs.LG cs.PF
Llumnix: Dynamic Scheduling for Large Language Model Serving
Alibaba Group(阿里巴巴集团)
Llumnix通过跨模型实例的运行时请求重调度和实时迁移机制,解决LLM服务中请求异构不可预测导致的延迟与SLO问题,显著改善尾部延迟、加速高优先级请求并降低成本。
2024-06-05 cs.AR cs.DC cs.LG
Towards Efficient Generative Large Language Model Serving: A Survey from Algorithms to Systems
Purdue University(普渡大学);Carnegie Mellon University(卡内基梅隆大学)
本文从 MLSys 视角综述生成式 LLM 高效服务,系统梳理算法修改与系统设计优化,以应对低延迟、高吞吐部署挑战并指明未来方向。
2025-07-23 cs.AI cs.DC cs.LG
Toward Sustainable GenAI using Generation Directives for Carbon-Friendly Large Language Model Inference
Northeastern University(东北大学);MIT(麻省理工学院)
本文提出Sprout框架,利用生成指令优化LLM推理的碳效率,在Llama2和全球电网数据上实现超40%碳排放削减,兼顾生成质量与可持续性。
2024-03-19 cs.AI cs.CL cs.DC
TeDiServe: High SLO Attainment Serving for Diffusion Language Models
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
针对扩散语言模型服务中吞吐与延迟SLO的权衡,提出DiLaServe系统,通过置信度阈值调整、质量感知优化和近似KV缓存建模,实现SLO达成率提升56.6个百分点,延迟降低46%。
2026-09-28 cs.LG
EPIC: Efficient Position-Independent Caching for Serving Large Language Models
Peking University(北京大学);Nanjing University(南京大学);Huawei Cloud(华为云)
EPIC提出位置无关缓存及LegoLink算法,解决LLM服务中前缀不匹配导致的缓存重用受限问题,实现高达8倍TTFT改进和7倍吞吐提升,且几乎不损失精度。
2025-05-27 cs.CL cs.DC cs.LG
Revisiting Service Level Objectives and System Level Metrics in Large Language Model Serving
State Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学);Alibaba Group(阿里巴巴集团)
针对现有大语言模型服务指标存在的反直觉问题,研究提出对齐用户体验的新型服务等级目标及整合两类指标的smooth goodput框架,可更全面评估系统并捕捉体验与性能的最优点。
2025-10-29 cs.AI cs.LG
Towards Efficient Large Language Model Serving: A Survey on System-Aware KV Cache Optimization
School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院);School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院)
该综述聚焦大语言模型服务中系统感知的键值缓存优化,从执行与调度、放置与迁移、表示与保留三个维度回顾相关工作,分析跨行为协同设计及行为与目标联系,为理解和创新键值缓存设计提供基础。
2026-07-10 cs.AI cs.CL cs.LG
ScaleLLM: A Resource-Frugal LLM Serving Framework by Optimizing End-to-End Efficiency
TensorOpera Inc.(TensorOpera公司)
针对当前LLM服务缺乏端到端全局优化框架的问题,研究提出资源节约型服务框架ScaleLLM,突破推理外的多环节效率瓶颈,在64并发请求下速度达vLLM的4.3倍,吞吐量较最优方案高1.5倍。
2024-09-10 cs.DC cs.LG
SpotServe: Serving Generative Large Language Models on Preemptible Instances
Carnegie Mellon University(卡内基梅隆大学);Peking University(北京大学);The Chinese University of Hong Kong(香港中文大学)
提出首个在可抢占实例上服务的分布式LLM系统SpotServe,通过动态调整并行化配置、二分图匹配优化迁移及有状态推理恢复技术,显著降低尾部延迟并节省54%成本。
2023-11-27 cs.CL cs.DC cs.LG
Mélange: Cost Efficient Large Language Model Serving by Exploiting GPU Heterogeneity
UC Berkeley(加州大学伯克利分校);National University of Singapore(新加坡国立大学)
Mélange提出一个GPU分配框架,通过成本感知装箱优化异构GPU选择,根据服务特征自动推导最小成本分配,对话、文档和混合场景分别降低部署成本77%、33%和51%。
2024-07-22 cs.DC cs.LG
Reasoning Language Model Inference Serving Unveiled: An Empirical Study
The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);HKBU(香港 Baptist University);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));The Hong Kong University of Science and Technology(香港科学与技术大学)
本文针对推理大语言模型(RLLM)服务性能未被探索的问题,对比其与传统LLM的服务行为差异,验证现有推理优化技术对RLLM的效果,并通过真实工作负载评估验证结论,为RLLM推理服务发展提供参考。
2025-10-21 cs.AI cs.LG
VoxServe: Streaming-Centric Serving System for Speech Language Models
University of Washington(华盛顿大学);Stanford University(斯坦福大学)
VoxServe是一种面向语音语言模型的流式服务系统,通过模型执行抽象和流式感知调度提高吞吐量和流式传输性能。
2026-11-03 cs.AI cs.DC cs.LG
IC-Cache: Efficient Large Language Model Serving via In-context Caching
University of Illinois Urbana-Champaign;Google;Google \& University of Washington
针对大语言模型大规模服务的高资源需求与高延迟问题,提出IC-Cache缓存系统,通过复用大模型历史请求-回复对增强小模型能力,结合自适应路由与成本感知缓存优化,在保证回复质量的同时大幅提升吞吐量、降低延迟。
2025-09-04 cs.LG
SLOs-Serve: Optimized Serving of Multi-SLO LLMs
Carnegie Mellon University(卡内基梅隆大学);Google(谷歌公司)
针对具有应用和阶段特定SLO的多阶段LLM请求服务问题,提出SLOs-Serve系统,通过基于多SLO动态规划的算法优化token分配,支持多SLO和多副本服务,平均提升每GPU服务容量2.2倍。
2025-04-05 cs.DC cs.LG
PASCAL: A Phase-Aware Scheduling Algorithm for Serving Reasoning-based Large Language Models
KAIST(韩国科学技术院)
PASCAL通过优先处理推理阶段和控制回答阶段的令牌节奏,有效降低了推理型大语言模型的TTFT并保持服务等级目标。
2026-02-12 cs.AR cs.LG
Recency/Frequency Adaptive KV Caching for Large Language Model Serving
Department of Computer Science, Johns Hopkins University, Baltimore, USA(约翰霍普金斯大学计算机科学系);Argonne National Laboratory, Lemont, USA(阿贡国家实验室);Parasail, Inc., San Mateo, USA(Parasail公司)
针对LRU策略在多工作负载下缓存失效问题,提出自适应KV缓存,动态分配近期与高频KV块的空间,在合成文档问答中缓存命中率提升10.8%,首令牌时间降低12.6%。
2026-06-23 cs.AI cs.DC cs.LG
Improving the Serving Performance of Multi-LoRA Large Language Models via Efficient LoRA and KV Cache Management
Shanghai Jiao Tong University(上海交通大学)
本文提出多LoRA缓存系统FASTLIBRA,通过依赖感知的缓存管理和性能驱动的缓存交换策略优化LoRA与KV缓存的HBM调度,相比现有方法平均降低首token时间63.4%。
2025-04-19 cs.AI cs.AR cs.LG
Scaling Up Efficient Small Language Models Serving and Deployment for Semantic Job Search
Anonymous Authors(匿名作者)
本文分享了在LinkedIn为语义职位搜索开发小型语言模型时,通过剪枝和上下文压缩技术分别将模型大小减少40%和输入长度减少10倍,并在GPU上优化服务,最终实现吞吐量提升10倍的经验。
2025-10-25 cs.IR cs.LG
MorphServe: Efficient and Workload-Aware LLM Serving via Runtime Quantized Layer Swapping and KV Cache Resizing
MorphServe通过运行时量化层交换和KV缓存调整,有效提升动态负载下的LLM服务效率和稳定性。
2026-01-07 cs.DC cs.LG
Conveyor: Efficient Tool-aware LLM Serving with Tool Partial Execution
Duke University(杜克大学)
针对LLM与外部工具集成导致服务复杂度增加的问题,提出高效LLM服务系统Conveyor,通过在LLM解码时进行工具部分执行及引入相关接口与调度器,将请求完成延迟降低高达38.8%。
2024-06-04 cs.CL cs.DC cs.LG
Characterizing High Bandwidth Flash for LLM Serving
University of California, Berkeley(加州大学伯克利分校);FuriosaAI;ICSI(国际计算机科学研究所);LBNL(劳伦斯伯克利国家实验室)
本研究针对LLM服务中的内存瓶颈,提出HBM-HBF-主机分层存储与缓冲缓存感知调度,通过轨迹驱动模拟证明HBF增强系统可显著降低完成时间并延长写入寿命。
2026-11-20 cs.AR cs.DC cs.LG
Insights into resource utilization of code small language models serving with runtime engines and execution providers
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
本研究针对代码生成小型语言模型的推理资源优化需求,通过多阶段实验测试12个模型在不同运行时引擎与执行提供方组合下的表现,发现TORCH+CUDA能效最优,为软件工程师选择服务配置提供参考。
2025-07-30 cs.AI cs.LG cs.SE
Echo: Efficient Co-Scheduling of Hybrid Online-Offline Tasks for Large Language Model Serving
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学现代软件技术国家重点实验室);Alibaba Group(阿里巴巴集团)
本文提出Echo系统,通过调度器、KV cache管理器和估算工具包协同工作,在满足在线任务SLO的同时最大化离线任务吞吐量,提高资源利用率。
2025-03-01 cs.AI cs.DC cs.LG
Efficient Vision-Language-Action Management and Serving for Robot Factories
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
针对机器人工厂中VLA模型推理的延迟关键性,提出Robion系统,通过GPU内流分离和智能调度,在边缘服务器上高效服务多机器人多模型,显著提升SLO达成率下的负载能力。
2026-09-14 cs.AR cs.DC cs.LG
MX+: Pushing the Limits of Microscaling Formats for Efficient Large Language Model Serving
Seoul National University(首尔国立大学)
本文提出MX+,一种非侵入式微缩放格式扩展,通过重用离群值的指数位提高精度,在可忽略开销下显著提升LLM推理性能,优于MXFP4和MXFP6。
2025-10-16 cs.AR cs.LG
M*: A Modular, Extensible, Serving System for Multimodal Models
Stanford University(斯坦福大学);University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学)
提出M*系统,通过将模型表示为数据流图并引入Walk Graph抽象,支持多模态复合模型的高效服务,在多个任务上降低延迟并提升吞吐量。
2026-06-16 cs.AI cs.DC cs.LG
LayerKV: Optimizing Large Language Model Serving with Layer-wise KV Cache Management
Ant Group(蚂蚁集团)
针对大语言模型上下文扩展导致首令牌生成时间(TTFT)飙升的问题,提出分层KV缓存管理方法LayerKV,通过细粒度内存控制与SLO感知调度,在不增硬件、不降性能的前提下大幅降低TTFT与SLO违反率。
2024-10-09 cs.AI cs.DC cs.LG
Accelerating Retrieval-Augmented Language Model Serving with Speculation
Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校);Google DeepMind(谷歌DeepMind)
针对迭代式RaLM频繁检索导致的高延迟问题,提出RaLMSpec框架,通过推测检索、批量验证、预取、调度和异步验证在保持输出不变的同时实现显著服务加速。
2024-01-25 cs.CL cs.IR cs.LG
Surveying Attitudinal Alignment Between Large Language Models Vs. Humans Towards 17 Sustainable Development Goals
University of California, Los Angeles(加州大学洛杉矶分校);Washington University in St. Louis(圣路易斯华盛顿大学);University of Florida(佛罗里达大学);Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);Xi’an Jiaotong-Liverpool University(西交利物浦大学);Fudan University(复旦大学);Northeastern University(东北大学);Reinsurance Group of America(美国再保险集团);Texas A&M University(德克萨斯农工大学)
本研究综述了大语言模型对17项联合国可持续发展目标的态度相关文献,分析了其与人类的态度差异及成因、潜在风险,并提出规范应用的策略以推动二者态度对齐,助力可持续发展。
2025-01-16 cs.AI cs.CL cs.CY
TimelyLLM: Segmented LLM Serving System for Time-sensitive Robotic Applications
Yale University(耶鲁大学)
本文提出TimelyLLM系统,通过分段生成与调度机制利用规划与执行阶段间的冗余,解决大语言模型服务在时间敏感机器人应用中的FCFS批处理缺陷,实现时间效用最高提升1.97倍、等待时间降低84%。
2024-12-24 cs.DC cs.LG cs.RO
PLoRA: Efficient Concurrent LoRA Training for Large Language Models
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
研究发现当前LoRA训练范式不能有效利用硬件资源,提出PLoRA,在给定硬件和模型约束下自动编排并发LoRA微调作业并开发高性能内核,提升训练效率。
2026-07-07 cs.LG
Kron-LoRA: Hybrid Kronecker-LoRA Adapters for Scalable, Sustainable Fine-tuning
Department of Statistics and Data Science(统计与数据科学系)
Kron-LoRA通过结合Kronecker分解与低秩压缩,在减少4倍参数的同时保持表达力,并在多个模型和基准上匹配或超越LoRA,实现可持续的多任务微调。
2025-09-24 cs.AI cs.LG
Fairness in Serving Large Language Models
UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);Duke University(杜克大学)
本文针对LLM服务因请求长度不可预测和并行加速器批处理特性带来的公平性挑战,基于处理token数量的成本函数定义了公平性,并提出基于连续批处理的新颖调度算法VTC,证明了2倍紧致上界且实验验证其性能卓越。
2024-06-05 cs.AI cs.LG cs.PF
Beyond Binary Priorities: Multi-Tier SLA Scheduling for Large Language Model Serving
UC Berkeley(加州大学伯克利分校)
本研究扩展Llumnix的优先级模型支持任意层级,在Vidur模拟器中对比多基线,发现四层优先级调度成本效益最优,10层时仍能维持收益且无尾部延迟崩溃。
2026-08-18 cs.AR cs.DC cs.LG
Synera: Synergistic LLM Serving across Device and Cloud at Scale
The Chinese University of Hong Kong Hong Kong SAR China(香港中文大学);Theory Lab, Central Research Institute, 2012 Labs, Huawei Technologies Co. Ltd.(理论实验室、中央研究院、2012实验室、华为技术有限公司)
针对移动LLM部署中生成质量下降和延迟延长的问题,本文提出设备-云协同服务系统Synera,通过选择性卸载、无停顿并行推理等设计,在延迟相当下生成质量提升1.20-5.47倍,云成本降低8.2-16.5%。
2025-10-17 cs.AI cs.DC cs.LG
Sustainable LLM Inference using Context-Aware Model Switching
Faculty of Computer Science and Information Technology, Universiti Malaya(马来亚大学计算机科学与信息技术学院)
本文提出一种基于上下文感知的模型切换方法,通过动态选择适合的模型来降低LLM推理的能量消耗,实验表明可减少67.5%的能耗并保持高质量响应。
2026-02-25 cs.LG
Towards Sustainable Deep Learning for Wireless Fingerprinting Localization
Jožef Stefan Institute(约瑟夫·斯特凡研究所);University of Ljubljana(卢布尔雅那大学)
基于位置的服务已经在终端用户中流行,现在不可避免地成为新的无线基础设施和新兴业务流程的一部分。越来越流行的深度学习(DL)人工智能方法在基于大量室内无线电测量数据的无线指纹定位中表现得非常好。然而,随着复杂性的增加,这些方法在训练和后续操作方面都变得计算非常密集和耗能。仅考虑移动用户,预计到2025年底将超过74亿,并假设服务于这些用户的网络平均每小时只需对每个用户执行一次定位,则用于计算的机器学习模型每年需要执行65*10^12次预测。再加上数百亿其他联网设备和应用程序严重依赖更频繁的位置更新,很明显,除非开发和使用更节能的模型,否则本地化将大大增加碳排放。这激发了我们对一种新的基于DL的室内定位架构的研究,与相关的最先进的方法相比,该架构更节能,同时仅显示出边际性能下降。详细的性能评估显示,与我们集团外部的最先进模型相比,所提出的模型只产生58%的碳足迹,同时保持98. 7%的整体性能。此外,我们详细介绍了一种方法来计算DL模型的复杂性,从而在其训练和操作过程中的CO2足迹。
2022-01-22 cs.LG cs.NI eess.SP
Exact Memory-Time Optimization for Prefix-Cached Language Model Serving
Independent Researcher(独立研究者)
针对前缀缓存语言模型服务,提出前缀证书保留(PCR)精确优化模型,通过最小割和断点定理求解,并在Mooncake数据集上验证,实现内存-时间权衡的优化。
2026-10-05 cs.LG
BestServe: Serving Strategies with Optimal Goodput in Collocation and Disaggregation Architectures
The University of Hong Kong(香港大学);Huawei Cloud, Huawei Technologies Co., Ltd(华为云、华为技术有限公司)
BestServe 框架通过改进的 roofline 模型和 CPU-GPU 调度动态构建推理模拟器,在并置与分解架构下快速估计有效吞吐,从而在单颗标准 CPU 上数分钟内确定最优 LLM 服务策略,预测误差不超过 20%。
2025-06-06 cs.DC cs.LG cs.PF
Cost-Efficient Large Language Model Serving for Multi-turn Conversations with CachedAttention
National University of Singapore(新加坡国立大学);Shanghai Jiaotong University(上海交通大学);Huawei Cloud(华为云)
本文提出CachedAttention注意力机制,通过分层KV缓存、预加载与异步保存、调度器感知的获取淘汰及位置编码解耦,显著降低多轮对话大语言模型服务的推理成本与延迟。
2024-06-30 cs.CL cs.LG