语言大模型 / LLM

SWARM-LLM: Collaborative Inference for Edge-based Small Language Models

SWARM-LLM：基于边缘的小语言模型的协同推理

Mostafa Dahshan, Quazi Mamun, Tanmoy Debnath

专题命中 效率与部署 ：LLM(title,title_cn)；language model(title,abstract)；small language model(title,abstract)；SLM(summary_cn,abstract_cn)

AI总结 提出SWARM-LLM路由协作层，通过轻量级不确定性估计和安全信号，在边缘SLM、对等SLM协作和云端FM之间动态选择查询处理方式，实现精度、延迟和成本的平衡。

SLM, LLM or Agentic AI? Toward Intelligent UAV-Enabled WPT Systems in Low-Altitude Economy Networks

SLM、LLM 还是 Agentic AI？面向低空经济网络中智能无人机赋能WPT系统

Feibo Jiang, Li Dong, Lei Mao, Kezhi Wang, Xianbin Wang, Abbas Jamalipour

专题命中 效率与部署 ：LLM(title,title_cn)；SLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 研究在资源受限动态环境下，利用小语言模型（SLM）和基于大语言模型（LLM）的Agentic AI框架优化无人机无线充电（WPT）路径与能量，实现低复杂度、低延迟和高能效。

Journal ref IEEE Journal on Selected Areas in Communications, 2026

BiSCo-LLM: Lookup-Free Binary Spherical Coding for Extreme Low-Bit Large Language Model Compression

BiSCo-LLM：用于极低比特大语言模型压缩的无查找表二进制球面编码

Yuantian Shao, Peisong Wang, Zhilei Liu, Chuangyi Li, Yuanteng Chen, Pengcheng Xie, Yiwu Yao, Zhihui Wei, Jian Cheng

机构 * Nanjing University of Science and Technology（南京理工大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Huawei（华为） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 研究大语言模型部署时的压缩问题，提出BiSCo-LLM框架，通过将局部权重块映射到超球面二值化、编码重建误差、进行类别恢复蒸馏及设置保护通道路径等方法，实现极低比特权重压缩并减少存储开销。

Structured Driving-State Narratives for Small Language Model-Based GNSS Spoofing Detection

面向基于小型语言模型（SLM）的GNSS欺骗检测的结构化驾驶状态叙事

Abyad Enan, Sagar Dasgupta, Mizanur Rahman, Mashrur Chowdhury

专题命中 效率与部署 ：SLM(title_cn,summary_cn)；language model(title,abstract)；small language model(title,abstract)；large language model(abstract)

AI总结 本研究提出基于小型语言模型（SLM）的GNSS欺骗检测框架，通过对比多源驾驶状态的结构化叙事检测攻击，性能接近大模型且资源消耗更低，适用于车载平台。

Comments This work has been submitted to the Transportation Research Record: Journal of the Transportation Research Board for possible publication

Closing the Social-Semantic Gap: SPSD for Edge-Based Prompt Compression in Cloud LLM Inference

缩小社会-语义差距：SPSD用于云LLM推理中的边缘端提示压缩

Abhinit Sen, Ajeet Kumar, Manaranjan Pradhan

机构 * Indian School of Business（印度管理学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；SLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对云LLM推理中提示词预填充阶段能耗高的问题，提出SPSD边缘端管道，利用4比特量化小语言模型压缩用户提示，在保持响应质量非劣效的前提下，平均节省99.9个输入token，每调用净节能70-270 uWh。

Comments 19 pages, 7 tables, 1 figure, includes appendix

TQLite: Multi-LLM Jury Guided Distillation for Real-time MQM Translation Quality Evaluation

TQLite：多大语言模型评审团引导的蒸馏用于实时MQM翻译质量评估

Bhavin Jawade, Cameron R. Wolfe

机构 * Netflix（网飞公司） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；SLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究提出TQLite蒸馏框架，通过多LRM评审团生成合成训练数据，使SLMs的MQM翻译质量评估性能远超普通SLM，成为LLM/LRM评估器的高性价比替代方案。

Comments 16 pages, 9 figures

From Cloud to Crowd: Democratizing LLM Service with Decentralized Edge Collaboration for RAG

从云端到人群：通过去中心化边缘协作实现面向检索增强生成（RAG）的大语言模型服务民主化

Jiaxing Li, Hengzhi Wang, Feng Wang, Chi Xu, Danyang Song, Ruixiao Zhang, Edith C. H. Ngai, Jiangchuan Liu

专题命中 效率与部署 ：LLM(title,summary_cn)；SLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 该研究提出DEFRAG系统，通过异构边缘设备的去中心化协作优化RAG的检索与生成，缩小SLM与LLM的准确率差距，大幅降低成本并提升吞吐量，助力边缘LLM服务民主化。

Comments 15 pages

Distilling Knowledge from Large Language Models into Lightweight Reinforcement Learning Agents for Autonomous Cyber Operations

将大型语言模型中的知识蒸馏为用于自主网络操作的轻量级强化学习智能体

Konur Tholl, François Rivest, Mariam El Mezouar, Adrian Taylor, Ranwa Al Mallah

机构 * Royal Military College of Canada（加拿大皇家军事学院） ； Defence Research and Development Canada（加拿大国防研究与发展部） ； Polytechnique Montreal（蒙特利尔理工学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract)；分类 cs.LG

AI总结 该研究针对自主网络操作中强化学习智能体训练不稳定的问题，通过提示工程证明80亿参数网络安全LLM性能优于基线RL智能体，再经在线策略蒸馏将其防御知识迁移至仅64910参数的轻量级RL智能体，为前沿网络安全模型的实用化提供了可行方案。

P2Skill: Privacy Preserving Skill Distillation for Cloud-Local LLM Inference Systems

P2Skill：面向云-本地大语言模型推理系统的隐私保护技能蒸馏

Myunghoon Ryu, Geunpyo Park, Sungjoon Lee, XinYu Piao, Jong-Kook Kim

专题命中 效率与部署 ：LLM(title,summary_cn)；SLM(summary_cn,abstract)；language model(abstract)；small language model(abstract)

AI总结 针对云-本地LLM推理系统的P2Skill，通过技能提示实现本地SLM自主处理PII相关操作，无需隐私微调，在四领域基准上的隐私保护推理质量较基线提升1.69倍、3.66倍。

SQuaD-SQL: Efficient Text-to-SQL with Small Language Models via LLM-Guided Knowledge Distillation

SQuaD-SQL：通过大语言模型引导的知识蒸馏，利用小语言模型实现高效的文本到SQL转换

Wangyu Wu, Xiaojian Lin, Rong Fu, Zaiyang Yu, Xuhang Chen, Wenjun Yu, Zhenhong Chen

机构 * The University of Liverpool（利物浦大学） ； University of Macau（澳门大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Tsinghua University（清华大学） ； Microsoft（微软） ； Shanghai University of International Business and Economics（上海国际经贸管理大学） ； Huizhou University（惠州市大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；language model(title,abstract)；small language model(title,abstract)；large language model(abstract)

AI总结 研究如何让小语言模型在文本到SQL任务中接近大语言模型性能。核心方法是通过知识蒸馏和合成数据生成，包含基于大语言模型的合成数据生成、参数高效微调和领域自适应微调三个关键组件。主要贡献是在WikiSQL数据集上执行准确率达86.9%，推理更快、内存使用更低。

Comments Accepted at IEEE SMC 2026

TF-Engram: A Train-Free Engram with SSD-Backed Memory for Large Language Models

TF-Engram：一种用于大语言模型的基于固态硬盘支持内存的免训练印记

Yutang Ma, Kecheng Huang, Xikun Jiang, Zili Shao

机构 * The Chinese University of Hong Kong（香港中文大学） ； Beijing Institute of Technology, Zhuhai（北京理工大学珠海学院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)

AI总结 研究针对大语言模型知识扩展成本高问题，提出TF-Engram免训练印记系统，通过离线构建特定短语语义内存、跨层次存储及预测预取等方法，在Qwen3-0.6B上提升下游分数，证明可将其作为低开销组件集成到LLM推理中。

Comments 13 pages, 2 figures

PyroDash: Cost-Efficient Token-Level Small-Large Language Model Collaborative Inference

PyroDash：具有成本效益的令牌级小语言模型与大语言模型协作推理

Niqi Lyu, Pengtao Shi, Wei Qiu, Jianlin Zhong, Sicong Xia, Jianyao Ma, Yicheng Ding

机构 * Pyromind Dynamics Inc.（Pyromind动力学公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；SLM(abstract,abstract_cn)

AI总结 研究针对大语言模型推理成本高、小语言模型可靠性低的问题，提出PyroDash框架，通过令牌级协作推理，分三阶段训练小语言模型，在数学推理基准测试中能支持不同操作点，可减少大语言模型使用并保持推理性能。

Comments 19 pages, 3 figures

Efficient Skill Grounding via Code Refactoring with Small Language Models

通过小型语言模型的代码重构实现高效技能落地

Sera Choi, Wonje Choi, Saehun Chun, Daehee Lee, Jooyoung Kim, Chaeun Lee, Honguk Woo

机构 * KAIST（韩国科学技术院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract,abstract_cn)；SLM(abstract,abstract_cn)

AI总结 提出RECENT框架，通过将技能语义与执行绑定解耦，利用小型语言模型进行代码重构实现高效技能落地，在动态环境中达到与大型语言模型相当的性能。

Comments Accepted to ICML 2026

LLM-Aided A* Search in Non-Geometric Network Graphs

LLM辅助的非几何网络图中的A*搜索

Nouf Alabbasi, Esraa Ghourab, Omar Alhussein

机构 * KU 6G Research Centre, Department of Computer Science, Khalifa University, Abu Dhabi, UAE（KU 6G研究中心，计算机科学系，哈利法大学，阿布扎赫德，阿联酋） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 针对非几何网络图最短路径问题，提出LLM辅助A*算法，利用LLM生成中间路标点引导搜索，结合路标距离作为启发式，减少约50%扩展节点，路径成本略有增加。

Agentic Search for Counterfactual Recourse under Fixed LLM Budgets

固定LLM预算下的反事实追索的智能搜索

Yasuo Tabei

机构 * RIKEN Center for Advanced Intelligence Project（日本RIKEN高级智能项目中心） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出Comp-MCTS框架，在固定LLM调用预算下，通过树搜索最大化生成唯一且经oracle验证的反事实，平衡数量与质量。

BALANCE: Hybrid Autoregressive-Speculative LLM Inference in Wireless Edge Networks

BALANCE：无线边缘网络中的混合自回归-推测式大语言模型推理

Guanqiao Qu, Shuo Chen, Qian Chen, Kin K. Leung, Xianhao Chen

专题命中 效率与部署 ：LLM(title,summary_cn)；SLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对边缘LLM推理的延迟-内存权衡问题，提出混合自回归-推测式框架BALANCE，通过多项式时间算法优化资源分配，提升了任务吞吐量与服务用户数。

Comments 10 pages, 7 figures

A Security-Oriented Lifecycle Model for Large Language Model Systems

面向大型语言模型系统的安全导向生命周期模型

Eleftherios Batzolis, George Drosatos, Vassilis Katsouros, Konstantinos Rantos

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文针对LLM系统生命周期框架重效率轻安全、治理与生命周期阶段脱节的问题，提出含32个阶段的安全导向生命周期模型，整合多监管框架发现治理证据分布不均的结构特性。

Comments Accepted as: Batzolis, E., Drosatos, G., Katsouros, V., & Rantos, K. (2026). A Security-Oriented Lifecycle Model for Large Language Model Systems. In: Kieseberg, P., Skopik, F., Atli, B., Schrittwieser, S., & Asplund, M. (Eds.), Availability, reliability and security---ARES 2026 EU Projects Symposium workshops (Lecture Notes in Computer Science, pp. 1-18). Springer Nature Switzerland

F-WANDA: Fisher-Reweighted Post-Training Pruning for Sustainable Deployment of Large Language Models

F-WANDA：用于大语言模型可持续部署的Fisher重加权后训练剪枝方法

Himanshu Mishra

机构 * University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；post-training(title,abstract)；large language model(title)；LLM(abstract,abstract_cn)

AI总结 F-WANDA是WANDA的改进后训练剪枝方法，通过Fisher重加权分配保留预算，在LLAMA-2-7B上实现更优MMLU指标且能耗仅为SPARSEGPT的1/3，处于性能与剪枝成本的帕累托前沿。

Statistical Foundations of LLM-based A/B Testing: A Surrogacy Framework for Human Causal Inference

基于LLM的A/B测试的统计基础：用于人类因果推断的替代指标框架

Joel Persson, Mårten Schultzberg, Sebastian Ankargren

机构 * Spotify USA, Inc.（Spotify美国公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出替代指标理论框架，证明在弱于分布等价条件下，校准LLM输出可识别平均处理效应，并分析随机性带来的偏差与方差。

Steganography Without Modification: Hidden Communication via LLM Seeds

无需修改的隐写术：通过LLM种子进行隐藏通信

Felix Mächtle, Jonas Sander, Sebastian Berndt, Ben Weimar, Nils Loose, Thomas Eisenbarth

机构 * Institute for IT Security, University of Lübeck（吕贝克大学信息安全部） ； Technische Hochschule Lübeck（吕贝克技术大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 利用LLM推理栈中确定性解码的伪随机数生成器种子依赖性，提出一种无需修改模型权重或采样代码的隐写信道，通过种子编码秘密消息，接收者通过穷举搜索恢复。

Comments To appear in the Proceedings of the International Conference on Availability, Reliability and Security (ARES 2026)

Multi-Level Modeling of Large Language Model Inference Latency and Energy via Hybrid Analytical--Machine-Learning Predictors

基于混合分析-机器学习预测器的大语言模型推理延迟与能耗的多级建模

Saeid Shokoufa, Mohammad Erfan Sadeghi, Mehdi Kamal, Massoud Pedram

机构 * University of Southern California（南加州大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出混合三级框架HYMELL，结合分析建模与机器学习，在NVIDIA H100 GPU上对LLaMA 3 8B的预填充、解码阶段误差均低于5%，可实现LLM推理延迟与能耗的精准估计及能效优化。

LLM-ACES: Closed-Loop Discovery of Dynamical Systems with LLM-Guided Adaptive Search

LLM-ACES：基于LLM引导的自适应搜索的动力学系统闭环发现

Nikhil Abhyankar, Sha Li, Sanchit Kabra, Naren Ramakrishnan, Yulia Gel, Chandan K. Reddy

机构 * Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出LLM-ACES框架，利用大语言模型引导的主动闭环搜索，联合优化符号假设构建与自适应数据采集，从数据中发现常微分方程，在122个系统上取得最低中位NMSE和高达52.4%的符号准确率。

Evaluating LLM Usage for Efficient and Explainable Numerical and Classified Implicit Sentiment Analysis of Product Desirability

评估LLM在高效可解释的产品期望数值与分类隐式情感分析中的应用

Sherri Weitl-Harms, John Hastings

机构 * Creighton University（克雷顿大学） ； The Beacom College of Computer & Cyber Sciences, Dakota State University（达科他州立大学比肯计算机与网络科学学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出基于LLM的可扩展框架，从定性反馈中量化产品期望，零样本数值评分和分类情感分析分别达到0.97皮尔逊相关和94%准确率，GPT-4o-mini以94%更低成本实现可比性能，并集成置信度与可解释性。

Comments 20 pages, 6 figures, 11 tables. arXiv admin note: text overlap with arXiv:2408.01527

VCT: A Verifiable Transcript System for LLM Conversations

VCT: 一种用于LLM对话的可验证转录系统

Ruilin Xing, Feihong Li, Jiayue Liu, Jiali Zheng, Wei Liu, Wanzhi Xie

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 针对LLM对话非线性演化（如重提示、回复再生、会话删除等）导致传统日志无法保证完整性的问题，提出VCT系统，通过三层密码学数据结构（分支级哈希链、会话级Merkle树、账户级Merkle根）和带删除屏障的状态转换协议，实现账户级对话记录的完整性、一致性、可验证共享和不可否认性。

Comments 58 pages, 14 figures, 10 tables

OffQ: Taming Structured Outliers in LLM Quantization by Offsetting

OffQ：通过偏移驯服LLM量化中的结构化异常值

Haoqi Wang, Lorenz K. Mueller, Jiawei Zhuang, Mathieu Salzmann, Lukas Cavigelli

机构 * School of Computer and Communication Sciences, EPFL, Switzerland（瑞士联邦理工学院计算机与通信科学学院） ； Huawei, Switzerland（华为公司） ； Swiss Data Science Center, ETHZ & EPFL, Switzerland（瑞士数据科学中心，苏黎世联邦理工学院与联邦理工学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出OffQ方法，通过top-1 PCA识别异常值子空间、旋转集中异常值通道并转换为共享偏移，实现LLM的低比特均匀量化，在W4A4KV4下提升精度。

Towards general embodied intelligence: integrating large language models, knowledge bases, and reasoning capabilities to build the next generation of AI agents

迈向通用具身智能：整合大语言模型、知识库与推理能力以构建下一代AI智能体

Fujiang Yuan, Xia Huang, Lusheng Wang, Jun Ding, Zhen Tian, Yuxin Wang, Shaojie Gu, Yuki Funabora, Yanhong Peng, Zebing Mao

机构 * College of Mechanical Engineering, Chongqing University of Technology（重庆理工大学机械工程学院） ； James Watt School of Engineering, University of Glasgow（格拉斯哥大学詹姆斯·瓦特工程学院） ； School of Energy and Power, Jiangsu University of Science and Technology（江苏科技大学能源与动力学院） ； Magnesium Research Center, Kumamoto University（熊本大学镁研究中心） ； Department of Information and Communication Engineering, Nagoya University（名古屋大学信息与通信工程系） ； State Key Laboratory of Fluid Power and Mechatronic Systems, Zhejiang University（浙江大学流体动力与机电系统国家重点实验室） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文综述以LLM为核心的智能系统演进，提出整合LLMs、KBs、RA与具身性的概念框架，明确高效LLM部署等五大挑战，为开发复杂动态环境下的自适应多模态智能体提供路线图。

Journal ref International Journal of Hydromechatronics 9(2) (2026) 250-316

Interpreting Black-Box Large Language Models with Sentence-Level Energy Landscapes

基于句子级能量景观的黑盒大语言模型解释

Maryam Rezaee, Pooriya Safaei, Maryam Asgarinezhad, Fatemeh Seyyedsalehi

机构 * Sharif University of Technology（谢里夫理工大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 针对黑盒LLM的可解释性缺失问题，提出一种句子级模型无关后验归因解释器，通过EBM代理捕获概念一致性，无需额外API查询即可量化提示对目标输出的影响，实验验证其能有效识别关键提示。

LightRot: A Light-Weighted Rotation Scheme and Architecture for Accurate Low-Bit Large Language Model Inference

LightRot：用于精确低比特大语言模型推理的轻量级旋转方案与架构

Sangjin Kim, Yuseon Choi, Jungjun Oh, Byeongcheol Kim, Hoi-Jun Yoo

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本研究提出LightRot轻量级旋转方案与硬件加速器，通过算法创新结合28nm工艺实现4比特推理27.4 TOPS/W能效，适配LLaMA系列模型，为低比特LLM推理提供新范式。

Comments 13 pages, journal version. Published in IEEE Journal on Emerging and Selected Topics in Circuits and Systems (JETCAS), vol. 15, no. 2, pp. 231-243, 2025, DOI: 10.1109/JETCAS.2025.3558300

Journal ref IEEE Journal on Emerging and Selected Topics in Circuits and Systems, vol. 15, no. 2, pp. 231-243, June 2025

Improving Item Discoverability in e-Commerce Search via Related Intent Generation

通过相关意图生成提升电商搜索中的商品可发现性

Ji Xin, Xiao Xiao, Ishan Bhatt, Vinesh Gudla, Trace Levinson, Raochuan Fan, Shishir Kumar Prasad, Prakash Putta, Tejaswi Tenneti

专题命中 效率与部署 ：LLM(summary_cn,abstract)；SLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 该研究提出两阶段混合架构的发现增强型搜索系统，通过LLM和微调SLM提升电商搜索的商品可发现性，将查询流量发现覆盖率从60%提至80%，成本仅为教师模型的30%，还可平衡市场供给。

Comments Accepted to KDD 2026 TSMO

Harnessing Large Language Models for Intelligent Resource Allocation in the Internet of Everything

利用大语言模型实现万物互联环境下的智能资源分配

Haijun Zhang, Zhuojun Duan, Zijun Wu, Xu Ma, Yuzheng Ren

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 该研究针对万物互联的动态资源调度挑战，提出大语言模型驱动的资源分配方案，构建多维调度决策模型并引入反馈模块，仿真显示其在收敛速度等指标上表现优异。