语言大模型 / LLM

Adaptive Layer-Wise Transformations for Post-Training Quantization of Large Language Models

自适应层级变换用于大语言模型的后训练量化

Cuong Pham, Hoang Anh Dung, Cuong C. Nguyen, Trung Le, Gustavo Carneiro, Jianfei Cai, Thanh-Toan Do

机构 * Department of Data Science and AI, Monash University, Australia（墨尔本大学数据科学与人工智能系） ； Centre for Vision, Speech and Signal Processing, University of Surrey, UK（萨里大学视觉、语音和信号处理中心） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(title)；LLM(abstract)

AI总结 本文提出自适应层级变换方法，通过优化每层变换类型，提升大语言模型在低比特量化下的性能。

Layer-Wise High-Impact Parameter Ratio Optimization in Post-Training Quantization for Large Language Models

分层高影响参数比率优化在大语言模型后训练量化中的应用

Cuong Pham, Hoang Anh Dung, Cuong C. Nguyen, Trung Le, Gustavo Carneiro, Thanh-Toan Do

机构 * Department of Data Science and AI, Monash University, Australia（墨尔本大学数据科学与人工智能系） ； Centre for Vision, Speech and Signal Processing, University of Surrey, UK（萨里大学视觉、语音与信号处理中心） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(title,abstract)；分类 cs.LG

AI总结 本文提出了一种分层高影响参数比率优化方法，通过二次优化框架确定各层的高影响参数比例，以提升大语言模型后训练量化的效率与精度。

LLM4AMC: Adapting Large Language Models for Adaptive Modulation and Coding

LLM4AMC: 为自适应调制与编码适应大型语言模型

Xinyu Pan, Boxun Liu, Xiang Cheng, Chen Chen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；pretraining(abstract)

AI总结 LLM4AMC利用预训练大型语言模型优化自适应调制与编码，通过改进的网络架构提升信道质量预测精度，从而提升链路性能。

Nemotron-Flash: Towards Latency-Optimal Hybrid Small Language Models

Nemotron-Flash：迈向延迟优化的混合小型语言模型

Yonggan Fu, Xin Dong, Shizhe Diao, Matthijs Van keirsbilck, Hanrong Ye, Wonmin Byeon, Yashaswi Karnati, Lucas Liebenwein, Hannah Zhang, Nikolaus Binder, Maksim Khadkevich, Alexander Keller, Jan Kautz, Yingyan Celine Lin, Pavlo Molchanov

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；SLM(abstract)；分类 cs.AI、cs.LG

AI总结 Nemotron-Flash通过优化深度-宽度比和操作符选择，提升小型语言模型的准确率、降低延迟并提高吞吐量。

Comments Accepted by NeurIPS 2025

Comparative Analysis of Large Language Model Inference Serving Systems: A Performance Study of vLLM and HuggingFace TGI

大语言模型推理服务系统的比较分析：vLLM和HuggingFace TGI的性能研究

Saicharan Kolluru

机构 * Baltimore, MD, USA（美国马里兰州巴尔的摩） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,comments)；分类 cs.LG

AI总结 本文比较了vLLM和HuggingFace TGI在大语言模型推理服务中的性能，发现vLLM在高并发场景下吞吐量更高，而TGI在交互式应用中延迟更低。

Comments 10 pages, benchmarking study of LLM inference systems

Strategic Innovation Management in the Age of Large Language Models Market Intelligence, Adaptive R&D, and Ethical Governance

大语言模型时代的战略创新管理：市场洞察、自适应研发与伦理治理

Raha Aghaei, Ali A. Kiaei, Mahnaz Boush, Mahan Rofoosheh, Mohammad Zavvar

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究探讨大语言模型如何通过自动化知识发现和跨学科整合，提升研发效率并加速创新进程，同时强调伦理治理的重要性。

EventSTU: Event-Guided Efficient Spatio-Temporal Understanding for Video Large Language Models

EventSTU: 基于事件的高效空间-时间理解用于视频大语言模型

Wenhao Xu, Xin Dong, Yue Li, Haoyuan Shi, Zhiwei Xiong

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)

AI总结 EventSTU通过事件引导的方法，高效处理视频大语言模型的空间-时间理解，实现显著的计算效率提升和性能优化。

Comments 8 pages, 7 figures

FHE-Agent: Automating CKKS Configuration for Practical Encrypted Inference via an LLM-Guided Agentic Framework

FHE-Agent：通过LLM引导的代理框架自动化CKKS配置以实现实用的加密推断

Nuo Xu, Zhaoting Gong, Ran Ran, Jinwei Tang, Wujie Wen, Caiwen Ding

机构 * University of Minnesota -- Twin Cities（明尼苏达大学-双城分校） ； North Carolina State University（北卡罗来纳州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 FHE-Agent通过LLM引导的代理框架自动化CKKS配置，提升加密推断的精度与效率

Shadows in the Code: Exploring the Risks and Defenses of LLM-based Multi-Agent Software Development Systems

代码中的阴影：探索基于LLM的多智能体软件开发系统的风险与防御

Xiaoqing Wang, Keman Huang, Bin Liang, Hongyu Li, Xiaoyong Du

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了基于LLM的多智能体软件开发系统中的安全风险，提出IMBIA攻击及Adv-IMBIA防御机制，揭示了恶意智能体对软件开发过程的威胁及防御策略。

Comments Accepted by AAAI 2026 Alignment Track

Towards Efficient LLM-aware Heterogeneous Graph Learning

面向高效LLM-aware异构图学习

Wenda Li, Tongya Zheng, Shunyu Liu, Yu Wang, Kaixuan Chen, Hanyang Yuan, Bingde Hu, Zujie Ren, Mingli Song, Gang Chen

机构 * State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Zhejiang Lab（浙江实验室） ； College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； Zhejiang Provincial Engineering Research Center for Real-Time SmartTech in Urban Security Governance, School of Computer and Computing Science, Hangzhou City University（浙江省实时智能城市安全治理工程技术研究中心，杭州城市大学计算机与计算科学学院） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security, Hangzhou, Zhejiang, China（杭州高新技术区（滨江）区块链与数据安全研究院，杭州，浙江，中国） ； Nanyang Technological University（南洋理工大学） ； Bangsun Technology（邦sun科技） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ELLA框架，通过LLM-aware关系分词器和层次关系图变压器，高效解决异构图中复杂关系语义建模和任务间语义间隙问题，实现性能与效率的提升。

From Projection to Prediction: Beyond Logits for Scalable Language Models

从投影到预测：超越logits的可扩展语言模型

Jianbing Dong, Jianbin Chang

机构 * NVIDIA 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种将输出投影与损失预测整合的方法，通过直接计算损失减少内存和带宽消耗，提升大型语言模型的训练效率和可扩展性。

Comments 17 pages, 2 figures, 4 algorithms

LLM-Driven Stationarity-Aware Expert Demonstrations for Multi-Agent Reinforcement Learning in Mobile Systems

基于大语言模型的站稳意识专家示范的多智能体强化学习在移动系统中的应用

Tianyang Duan, Zongyuan Zhang, Zheng Lin, Songxiao Guo, Xiuxian Guan, Guangyu Wu, Zihan Fang, Haotian Meng, Xia Du, Ji-Zhe Zhou, Heming Cui, Jun Luo, Yue Gao

机构 * Division of Computer Science, The University of Hong Kong（计算机科学系，香港大学） ； Department of Electrical and Electronic Engineering, The University of Hong Kong（电气电子工程系，香港大学） ； Department of Computer Science and Technology, Peking University（计算机科学与技术系，北京大学） ； Department of Computer Science, City University of Hong Kong（计算机科学系，城市大学） ； China Unicom Digital Technology, China Unicom co.,Ltd（中国联合数字技术，中国联合有限公司） ； School of Computer and Information Engineering, Xiamen University of Technology（计算机与信息工程学院，厦门理工学院） ； School of Computer Science, Engineering Research Center of Machine Learning and Industry Intelligence, Sichuan University（计算机科学学院，机器学习与工业智能工程研究中心，四川大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学） ； Institute of Space Internet, Fudan University（空间互联网研究院，复旦大学） ； School of Computer Science, Fudan University（计算机科学学院，复旦大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出RELED框架，通过大语言模型驱动的专家示范与自主探索相结合，提升多智能体强化学习在移动系统中的性能和稳定性。

Comments 15 pages, 9 figures

The Locally Deployable Virtual Doctor: LLM Based Human Interface for Automated Anamnesis and Database Conversion

本地可部署的虚拟医生：基于LLM的人机接口用于自动化病史采集和数据库转换

Jan Benedikt Ruhland, Doguhan Bahcivan, Jan-Peter Sowa, Ali Canbay, Dominik Heider

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 MedChat是一种本地可部署的虚拟医生框架，结合LLM和扩散模型，实现自动化病史采集和数据库转换，兼顾隐私保护与效率。

Strategic Decision Framework for Enterprise LLM Adoption

企业LLM采纳的战略决策框架

Michael Trusov, Minha Hwang, Zainab Jamal, Swarup Chandra

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一个六步决策框架，帮助企业安全高效地采用LLM，平衡技术能力与业务目标。

Comments 14 pages, 1 key figure

URLs Help, Topics Guide: Understanding Metadata Utility in LLM Training

URL助益，主题引导：理解元数据在LLM训练中的效用

Dongyang Fan, Vinko Sabolčec, Martin Jaggi

机构 * EPFL（苏黎世联邦理工学院） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 本研究探讨了元数据在LLM训练中的效用，发现URL上下文能提升训练效率，而主题和格式信息则能引导生成输出，但不加速训练。

Comments NeurIPS 2025, Camera Ready

Attention Guided Alignment in Efficient Vision-Language Models

注意力引导的高效视觉-语言模型

Shweta Mahajan, Hoang Le, Hyojin Park, Farzad Farhadzadeh, Munawar Hayat, Fatih Porikli

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；small language model(abstract)；分类 cs.LG

AI总结 本文提出AGE-VLM，通过交错交叉注意力层和空间知识提取，减少高效视觉-语言模型中的幻觉问题。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop on Efficient Reasoning

Datacenters in the Desert: Feasibility and Sustainability of LLM Inference in the Middle East

沙漠中的数据中心：中东地区大型语言模型推理的可行性与可持续性

Lara Hassan, Mohamed ElZeftawy, Abdulrahman Mahmoud

机构 * Department of Computer Science（计算机科学系） ； MBZUAI（马斯克大学人工智能研究所） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了在中东沙漠地区部署大型语言模型推理数据中心的可行性与可持续性，通过实证分析能耗和碳足迹，评估不同地理区域的气候意识AI部署策略。

Comments 3 pages, 1 figure

Journal ref DCEE-2025@ISCA-2025

Skypilot: Fine-Tuning LLM with Physical Grounding for AAV Coverage Search

Skypilot: 通过物理现实 grounding 提升 LLM 在 AAV 覆盖搜索中的微调

Zhongkai Chen, Yihao Sun, Chao Yan, Han Zhou, Xiaojia Xiang, Jie Jiang

机构 * College of Intelligence Science and Technology, National University of Defense Technology（智能科学与技术学院，国防科技大学） ； College of Automation Engineering, Nanjing University of Aeronautics and Astronautics（自动化工程学院，南京航空航天大学） ； China Academy of Launch Vehicle Technology（中国运载火箭技术研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 Skypilot通过结合MCTS和物理感知奖励函数，提升LLM在AAV覆盖搜索中的微调效果，实现高效且高质量的决策与路径规划。

Hybrid LLM Routing for Efficient App Feedback Classification

混合LLM路由用于高效应用反馈分类

Yasaman Abedini, Abbas Heydarnoori

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出混合LLM路由策略，通过轻量模型处理低复杂度反馈，高容量LLM处理模糊情况，提升应用反馈分类的准确性和效率。

FastForward Pruning: Efficient LLM Pruning via Single-Step Reinforcement Learning

FastForward Pruning: 通过单步强化学习高效压缩大语言模型

Xin Yuan, Siqi Li, Jiateng Wei, Chengrui Zhu, Yanming Wu, Qingpeng Li, Jiajun Lv, Xiaoke Lan, Jun Chen, Yong Liu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过单步强化学习高效压缩大语言模型，实现优于启发式基线的剪枝效果，显著提升搜索效率。

Comments 5 pages, 2 figures, 4 tables

LLM and Agent-Driven Data Analysis: A Systematic Approach for Enterprise Applications and System-level Deployment

大语言模型与智能体驱动的数据分析：企业应用与系统级部署的系统方法

Xi Wang, Xianyao Ling, Kun Li, Gang Yin, Liang Zhang, Jiang Wu, Annie Wang, Weizhe Wang

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种系统方法，利用大语言模型和智能体技术，提升企业数据分析的效率和安全性，解决复杂查询和分布式部署中的关键挑战。

Plugging Schema Graph into Multi-Table QA: A Human-Guided Framework for Reducing LLM Reliance

将模式图嵌入多表问答：一种减少大语言模型依赖的人工引导框架

Xixi Wang, Miguel Costa, Jordanka Kovaceva, Shuai Wang, Francisco C. Pereira

机构 * Chalmers University of Technology（查尔姆斯理工大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种基于图的框架，利用人工整理的关系知识减少对大语言模型的依赖，有效解决多表问答中复杂表格模式链接的问题。

Comments Accepted to EMNLP 2025 findings

Journal ref Findings of the Association for Computational Linguistics: EMNLP 2025

Integrating Cognitive Processing Signals into Language Models: A Review of Advances, Applications and Future Directions

将认知处理信号整合进语言模型：关于进展、应用与未来方向的综述

Angela Lopez-Cardona, Sebastian Idesis, Ioannis Arapakis

机构 * Telefónica Scientific Research（Telefónica科学研究院） ； Universitat Politècnica de Catalunya（加泰罗尼亚理工大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文综述了将认知信号，特别是眼动数据整合到语言模型中的最新进展、应用及未来方向，探讨了其在提升模型性能和解决环境成本方面的潜力。

SlimInfer: Accelerating Long-Context LLM Inference via Dynamic Token Pruning

SlimInfer: 通过动态令牌修剪加速长上下文LLM推理

Lingkun Long, Rubing Yang, Yushi Huang, Desheng Hui, Ao Zhou, Jianlei Yang

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SlimInfer通过动态令牌修剪技术，显著提升了长上下文LLM推理速度和效率，实现了性能与延迟的双重优化。

From Pixels to Posts: Retrieval-Augmented Fashion Captioning and Hashtag Generation

从像素到帖子：基于检索的时尚描述与标签生成

Moazzam Umer Gondal, Hamad Ul Qudous, Daniya Siddiqui, Asma Ahmad Farhan

机构 * organization= School of Computing, National University of Computer \& Emerging Sciences (FAST) , city= Lahore , postcode= 54000 , country= Pakistan 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出一种基于检索的时尚描述与标签生成方法，结合多件服装检测、属性推理和大语言模型，提升描述准确性和标签生成的视觉相关性。

Comments Submitted to Expert Systems with Applications

Optimal Meal Schedule for a Local Nonprofit Using LLM-Aided Data Extraction

为本地非营利组织制定最优餐食计划：利用大语言模型辅助数据提取

Sergio Marin, Nhu Nguyen, Max, Zheng, Christina M. Weaver

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 利用大语言模型辅助数据提取，为本地非营利组织制定最优餐食计划，通过二元整数规划和营养约束优化，实现成本最小化和营养均衡。

Comments 12 pages, 4 figures, presented at 2025 INFORMS Data Science Workshop (Atlanta, Georgia, Oct. 25, 2025)

The Challenge of Using LLMs to Simulate Human Behavior: A Causal Inference Perspective

使用大型语言模型模拟人类行为的挑战：因果推断视角

George Gui, Olivier Toubia

机构 * Columbia Business School（哥伦比亚商学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文从因果推断视角探讨了使用LLM模拟人类行为的挑战，指出模糊提示策略导致混淆问题，并提出通过去盲化策略提升模型性能和鲁棒性。

VLM in a flash: I/O-Efficient Sparsification of Vision-Language Model via Neuron Chunking

VLM即刻：通过神经元分块实现高效的I/O压缩

Kichang Yang, Seonjun Kim, Minjae Kim, Nairan Zhang, Chi Zhang, Youngki Lee

机构 * Seoul National University（首尔国立大学） ； Meta ； Amazon（亚马逊公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Neuron Chunking方法，通过神经元分块实现高效的I/O压缩，提升边缘部署VLMs的性能。

FlowCut: Rethinking Redundancy via Information Flow for Efficient Vision-Language Models

FlowCut: 通过信息流重新思考冗余性以提高视觉-语言模型的效率

Jintao Tong, Wenwei Jin, Pengda Qin, Anqi Li, Yixiong Zou, Yuhong Li, Yuhua Li, Ruixuan Li

机构 * School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院） ； Xiaohongshu Inc.（小红书公司） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 FlowCut通过信息流视角改进视觉-语言模型的冗余识别，实现更高效的剪枝效果。

Comments Accepted by NeurIPS 2025

How Hungry is AI? Benchmarking Energy, Water, and Carbon Footprint of LLM Inference

AI有多渴求？LLM推理的能源、水资源和碳足迹基准测试

Nidhal Jegham, Marwan Abdelatti, Chan Young Koh, Lassad Elmoubarki, Abdeltawab Hendawi

机构 * URI（URI大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 本文通过基准测试框架量化LLM推理的环境足迹，揭示AI发展带来的资源消耗悖论，并提供可持续性评估的标准化方法。