语言大模型 / LLM

An Explainable Emotion Alignment Framework for LLM-Empowered Agent in Metaverse Service Ecosystem

Qun Ma, Xiao Xue, Ming Zhang, Yifan Shen, Zihan Zhao

机构 * College of Intelligence and Computing（智能与计算学院） ； Tianjin University（天津大学） ； Tianjin Key Laboratory of Healhy Habitat and Smart Technology（天津健康人居环境与智能技术重点实验室） ； Laboratory of Computation and Analytics of Complex Management Systems（复杂管理系统计算与分析实验室） ； Faculty of Environment, Science and Economy（环境、科学与经济学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

TurboSpec: Closed-loop Speculation Control System for Optimizing LLM Serving Goodput

Xiaoxuan Liu, Jongseok Park, Langxiang Hu, Woosuk Kwon, Zhuohan Li, Chen Zhang, Kuntai Du, Xiangxi Mo, Kaichao You, Alvin Cheung, Zhijie Deng, Ion Stoica, Hao Zhang

机构 * UC Berkeley（伯克利大学） ； UCSD（圣地亚哥大学） ； Tsinghua University（清华大学） ； University of Chicago（芝加哥大学） ； SJTU（上海交通大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

DeltaLLM: A Training-Free Framework Exploiting Temporal Sparsity for Efficient Edge LLM Inference

Jiawen Qi, Chang Gao, Zhaochun Ren, Qinyu Chen

机构 * Leiden Institute of Advanced Computer Science (LIACS), Leiden University（莱顿先进计算机科学研究所（LIACS）、莱顿大学） ； Department of Microelectronics, Delft University of Technology（电子系、代尔夫特理工大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Explainable Mapper: Charting LLM Embedding Spaces Using Perturbation-Based Explanation and Verification Agents

Xinyuan Yan, Rita Sevastjanova, Sinie van der Ben, Mennatallah El-Assady, Bei Wang

机构 * University of Utah（犹他大学） ； ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Hybrid Annotation for Propaganda Detection: Integrating LLM Pre-Annotations with Human Intelligence

Ariana Sahitaj, Premtim Sahitaj, Veronika Solopova, Jiaao Li, Sebastian Möller, Vera Schmitt

机构 * Quality and Usability Lab, Technische Universität Berlin, Germany（柏林技术大学质量与可用性实验室） ； German Research Center for Artificial Intelligence (DFKI), Berlin, Germany（德国人工智能研究中心（DFKI）） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments NLP4PI at ACL

Streaming, Fast and Slow: Cognitive Load-Aware Streaming for Efficient LLM Serving

Chang Xiao, Brenda Yang

机构 * Boston University（波士顿大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Journal ref The 38th Annual ACM Symposium on User Interface Software and Technology (UIST 25), September 28-October 01, 2025, Busan, Republic of Korea

How Good LLM-Generated Password Policies Are?

Vivek Vaidya, Aditya Patwardhan, Ashish Kundu

机构 * Department of Computer Science（计算机科学系） ； Rutgers University（罗格斯大学） ； Stony Brook University（石溪大学） ； Cisco Research（思科研究） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments 11 pages, 2 Tables, 9 figures, 3 Algorithms

Multi-Stage Prompt Inference Attacks on Enterprise LLM Systems

Andrii Balashov, Olena Ponomarova, Xiaohua Zhai

机构 * Ukrainian State University of Science and Technologies, ESI "Prydniprovska State Academy of Civil Engineering and Architecture（乌克兰科学与技术国家大学，埃斯I普里皮亚特斯卡州立建筑与工程学院） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments 26 pages

Byzantine-Robust Decentralized Coordination of LLM Agents

Yongrae Jo, Chanik Park

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Pohang University of Science and Technology（波恩大学科学技术大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

LLaPipe: LLM-Guided Reinforcement Learning for Automated Data Preparation Pipeline Construction

Jing Chang, Chang Liu, Jinbin Huang, Rui Mao, Jianbin Qin

机构 * College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机科学与软件工程学院） ； School of Artificial Intelligence, Shenzhen University（深圳大学人工智能学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

LLM-Enhanced User-Item Interactions: Leveraging Edge Information for Optimized Recommendations

Xinyuan Wang, Liang Wu, Liangjie Hong, Hao Liu, Yanjie Fu

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

InstCache: A Predictive Cache for LLM Serving

Longwei Zou, Yan Liu, Jiamu Kang, Tingfeng Liu, Jiangang Kong, Yangdong Deng

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Mind the Memory Gap: Unveiling GPU Bottlenecks in Large-Batch LLM Inference

Pol G. Recasens, Ferran Agullo, Yue Zhu, Chen Wang, Eun Kyung Lee, Olivier Tardieu, Jordi Torres, Josep Ll. Berral

机构 * Barcelona Supercomputing Center（巴塞罗那超级计算中心） ； Universitat Politècnica de Catalunya - BarcelonaTech (UPC)（巴塞罗那技术大学 - 巴塞罗那技术学院） ； IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Comments Pol G. Recasens, Ferran Agullo: equal contribution. Paper accepted at IEEE CLOUD 2025

State-Inference-Based Prompting for Natural Language Trading with Game NPCs

Minkyung Kim, Junsik Kim, Hwidong Bae, Woongcheol Yang, Sangdon Park, Sohee Bae

机构 * Amazon（亚马逊） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments 9 pages main content, 4 pages appendix, 3 figures. Accepted to the KDD 2025 Workshop on Prompt Optimization

An Ensemble Embedding Approach for Improving Semantic Caching Performance in LLM-based Systems

Shervin Ghaffari, Zohre Bahranifard, Mohammad Akbari

机构 * Amirkabir Univ. of Tech.（阿美里卡比大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Comments 10 pages, 8 figures, 2 table. Submitted to the Journal of Information Science

Multi-Sense Embeddings for Language Models and Knowledge Distillation

Qitong Wang, Mohammed J. Zaki, Georgios Kollias, Vasileios Kalantzis

机构 * Rensselaer Polytechnic Institute（拉特格斯理工学院） ； IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

Comments 16 pages, 4 figures

Enhancing Robustness of LLM-Driven Multi-Agent Systems through Randomized Smoothing

Jinwei Hu, Yi Dong, Zhengtao Ding, Xiaowei Huang

机构 * Department of Computer Science（计算机科学系） ； Department of Electrical and Electronic Engineering（电子与电气工程系） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments Preprint accepted by Chinese Journal of Aeronautics

JoyTTS: LLM-based Spoken Chatbot With Voice Cloning

Fangru Zhou, Jun Zhao, Guoxin Wang

机构 * JD Health International Inc.（京东健康国际有限公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Dissecting the Impact of Mobile DVFS Governors on LLM Inference Performance and Energy Efficiency

Zongpu Zhang, Pranab Dash, Y. Charlie Hu, Qiang Xu, Jian Li, Haibing Guan

机构 * Shanghai Jiao Tong University, Shanghai, China（上海交通大学） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments equal contribution between Zhang and Dash

Fast-dLLM: Training-free Acceleration of Diffusion LLM by Enabling KV Cache and Parallel Decoding

Chengyue Wu, Hao Zhang, Shuchen Xue, Zhijian Liu, Shizhe Diao, Ligeng Zhu, Ping Luo, Song Han, Enze Xie

机构 * The University of Hong Kong（香港大学） ； NVIDIA ； MIT（麻省理工学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Efficient Out-of-Scope Detection in Dialogue Systems via Uncertainty-Driven LLM Routing

Álvaro Zaera, Diana Nicoleta Popa, Ivan Sekulic, Paolo Rosso

机构 * Telepathy Labs GmbH（Telepathy Labs） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Developing ChemDFM as a large language foundation model for chemistry

Zihan Zhao, Da Ma, Lu Chen, Liangtai Sun, Zihao Li, Yi Xia, Bo Chen, Hongshen Xu, Zichen Zhu, Su Zhu, Shuai Fan, Guodong Shen, Kai Yu, Xin Chen

机构 * X-LANCE Lab, Department of Computer Science and Engineering MoE Key Lab of Artificial Intelligence, SJTU AI Institute Shanghai Jiao Tong University, Shanghai, China（X-LANCE实验室，计算机科学与工程系，人工智能关键实验室，上海交通大学人工智能研究院，上海，中国） ； Suzhou Laboratory, Suzhou, China（苏州实验室，苏州，中国） ； Shanghai Key Laboratory for Molecular Engineering of Chiral Drugs School of Chemistry and Chemical Engineering Shanghai Jiao Tong University, Shanghai, China（上海分子工程学药物重点实验室，化学与化工学院，上海交通大学，上海，中国） ； AI Speech Co, .Ltd., Suzhou, China（AI Speech公司，苏州，中国） 纠错

专题命中 效率与部署 ：foundation model(title)；LLM(abstract)；large language model(abstract)；language model(abstract)

Comments 10 pages, 12 figures, 12 tables. Published on Cell Report Physical Science, DOI: https://doi.org/10.1016/j.xcrp.2025.102523

Journal ref Cell Rep. Phys. Sci. 6 (2025) 102523

AI Risk-Management Standards Profile for General-Purpose AI (GPAI) and Foundation Models

Anthony M. Barrett, Jessica Newman, Brandie Nonnecke, Nada Madkour, Dan Hendrycks, Evan R. Murphy, Krystal Jackson, Deepika Raman

专题命中 效率与部署 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Boosting CTC-Based ASR Using LLM-Based Intermediate Loss Regularization

Duygu Altinok

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments This is the accepted version of an article accepted to the TSD 2025 conference, published in Springer Lecture Notes in Artificial Intelligence (LNAI). The final authenticated version is available online at SpringerLink

MNN-AECS: Energy Optimization for LLM Decoding on Mobile Devices via Adaptive Core Selection

Zhengxiang Huang, Chaoyue Niu, Zhaode Wang, Jiarui Xue, Hanming Zhang, Yugang Wang, Zewei Xin, Xiaotang Jiang, Chengfei Lv, Fan Wu, Guihai Chen

机构 * Shanghai Jiao Tong University（上海交通大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Empowering Near-Field Communications in Low-Altitude Economy with LLM: Fundamentals, Potentials, Solutions, and Future Directions

Zhuo Xu, Tianyue Zheng, Linglong Dai

机构 * Department of Electronic Engineering, Tsinghua University（清华大学电子工程系） ； State Key Laboratory of Space Network and Communications（空间网络与通信国家重点实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

SecurityLingua: Efficient Defense of LLM Jailbreak Attacks via Security-Aware Prompt Compression

Yucheng Li, Surin Ahn, Huiqiang Jiang, Amir H. Abdi, Yuqing Yang, Lili Qiu

机构 * Microsoft Corporation（微软公司） ； University of Surrey（塞夫尔大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

The Foundation Cracks: A Comprehensive Study on Bugs and Testing Practices in LLM Libraries

Weipeng Jiang, Xiaoyu Zhang, Xiaofei Xie, Jiongchi Yu, Yuhan Zhi, Shiqing Ma, Chao Shen

机构 * Xi'an Jiaotong University, China（西安交通大学） ； Singapore Management University, Singapore（新加坡国立管理学院） ； University of Massachusetts Amherst, USA（马萨诸塞大学阿姆赫斯特分校） ； Nanyang Technological University, Singapore（南洋理工大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

SwiftSpec: Ultra-Low Latency LLM Decoding by Scaling Asynchronous Speculative Decoding

Ziyi Zhang, Ziheng Jiang, Chengquan Jiang, Menghan Yu, Size Zheng, Haibin Lin, Henry Hoffmann, Xin Liu

机构 * University of Chicago（芝加哥大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Multiverse: Your Language Models Secretly Decide How to Parallelize and Merge Generation

Xinyu Yang, Yuwei An, Hongyi Liu, Tianqi Chen, Beidi Chen

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Nvidia（英伟达） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.LG