语言大模型 / LLM

Cachemir: Fully Homomorphic Encrypted Inference of Generative Large Language Model with KV Cache

Cachemir: 生成式大语言模型的全同态加密推理与KV缓存

Ye Yu, Yifan Zhou, Yi Chen, Pedro Soto, Wenjie Xiong, Meng Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 Cachemir通过整合KV缓存优化同态加密推理，实现高效生成式大语言模型推理。

Comments 16 pages, 10 figures, 6 tables. Under review

Accelerating Streaming Video Large Language Models via Hierarchical Token Compression

通过分层令牌压缩加速流式视频大型语言模型

Yiyu Wang, Xuyang Liu, Xiyan Gui, Xinying Lin, Boxue Yang, Chenfei Liao, Tailai Chen, Linfeng Zhang

机构 * EPIC Lab, Shanghai Jiao Tong University（上海交通大学EPIC实验室） ； Sichuan University（四川大学） ； Huazhong University of Science and Technology（华中科技大学） ； Sun Yat-sen University（中山大学） ； Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 STC通过分层令牌压缩技术，显著降低流式视频大语言模型的处理延迟，同时保持高精度。

Comments Code is avaliable at \url{https://github.com/lern-to-write/STC}

A Systematic Literature Review on Large Language Models for Automated Program Repair

基于大型语言模型的自动程序修复系统文献综述

Quanjun Zhang, Chunrong Fang, Yang Xie, YuXiang Ma, Weisong Sun, Yun Yang, Zhenyu Chen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文系统综述了2020-2025年间基于大型语言模型的自动程序修复技术，分析了其应用、挑战与未来方向。

Comments Accepted to ACM Transactions on Software Engineering and Methodology (TOSEM 2026)

TiFRe: Text-guided Video Frame Reduction for Efficient Video Multi-modal Large Language Models

TiFRe: 基于文本的视频帧减少用于高效视频多模态大语言模型

Xiangtian Zheng, Zishuo Wang, Yuxin Peng

机构 * Wangxuan Institute of Computer Technology, Peking University（王轩计算机技术研究所，北京大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 TiFRe通过文本引导的帧采样和帧匹配机制，有效减少视频输入帧数，同时保留关键信息，提升视频多模态大语言模型的效率和性能。

FlashVID: Efficient Video Large Language Models via Training-free Tree-based Spatiotemporal Token Merging

FlashVID: 通过无训练树状时空标记合并实现高效的视频大语言模型

Ziyang Fan, Keyu Chen, Ruilong Xing, Yulin Li, Li Jiang, Zhuotao Tian

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 FlashVID通过无训练的树状时空标记合并技术，在保留99.1%性能的情况下将视频帧输入提升10倍，实现高效视频大语言模型加速。

Comments Accepted by ICLR 2026 (Oral)

DistillER: Knowledge Distillation in Entity Resolution with Large Language Models

DistillER: 基于大语言模型的实体解析中的知识蒸馏

Alexandros Zeakis, George Papadakis, Dimitrios Skoutas, Manolis Koubarakis

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 DistillER通过知识蒸馏方法，利用大语言模型和小型语言模型，提升实体解析的效率和效果。

BTGenBot-2: Efficient Behavior Tree Generation with Small Language Models

BTGenBot-2: 基于小语言模型的高效行为树生成

Riccardo Andrea Izzo, Gianluca Bardaro, Matteo Matteucci

机构 * Department of Electronics, Information, and Bioengineering（电子、信息与生物工程系） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)

AI总结 BTGenBot-2是一种基于小语言模型的高效行为树生成方法，通过开源模型实现零样本生成和快速推理，显著提升机器人任务规划效率。

DISPO: Enhancing Training Efficiency and Stability in Reinforcement Learning for Large Language Model Mathematical Reasoning

DISPO：提升大型语言模型数学推理中的训练效率和稳定性

Batuhan K. Karaman, Aditya Rawal, Suhaila Shakiah, Mohammad Ghavamzadeh, Mingyi Hong, Arijit Biswas, Ruida Zhou

机构 * Cornell University（康奈尔大学） ； Amazon AGI（亚马逊人工智能实验室） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 DISPO通过分离正确与错误响应的重要性采样权重裁剪，实现训练效率与稳定性的平衡，提升大型语言模型在数学推理任务中的性能。

Comments This work is accepted to the 29th International Conference on Artificial Intelligence and Statistics (AISTATS) 2026

A Universal Load Balancing Principle and Its Application to Large Language Model Serving

一种通用的负载均衡原理及其在大语言模型服务中的应用

Zixi Chen, Tianci Bu, Chendong Song, Xin Lu, Yinyu Ye, Zijie Zhou

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出了一种适用于屏障同步系统的通用负载均衡原理，通过减少负载不均衡实现能源节约，应用于大语言模型服务中，实现了28%的能耗降低和性能提升。

LLMs as High-Dimensional Nonlinear Autoregressive Models with Attention: Training, Alignment and Inference

基于注意力机制的高维非线性自回归模型：训练、对齐与推理

Vikram Krishnamurthy

机构 * Cornell University（康奈尔大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 本文将LLMs表述为具有注意力依赖的高维非线性自回归模型，探讨了训练、对齐与推理的原理及方法。

Comments 27 pages, 12 figures. Mathematical survey framing LLMs as high-dimensional nonlinear autoregressive models with attention, covering training, alignment, and inference, with nanoGPT/nanochat-style code examples. Feedback welcome

Streaming Speech Recognition with Decoder-Only Large Language Models and Latency Optimization

流式语音识别与解码器-only大型语言模型及延迟优化

Genshun Wan, Wenhui Zhang, Jing-Xuan Zhang, Shifu Xiong, Jianqing Gao, Zhongfu Ye

机构 * University of Science and Technology of China（科学技术大学） ； iFLYTEK Research, iFLYTEK Co., Ltd.（iFLYTEK研究院，iFLYTEK有限公司） ； School of Artificial Intelligence and Computer Science（人工智能与计算机科学学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出了一种结合解码器-only大型语言模型和延迟优化的流式语音识别方法，通过动态分割语音嵌入和联合训练策略，提升了识别性能并降低了延迟。

Comments accepted to ICASSP 2026

Opinion Consensus Formation Among Networked Large Language Models

网络化大语言模型中的意见共识形成

Iris Yazici, Mert Kayaalp, Stefan Taga, Ali H. Sayed

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 研究通过DeGroot模型分析网络化大语言模型的意见共识形成，发现共识依赖于讨论主题和内在偏见，而非初始条件，且收敛速度与图的特征值相关。

Comments Accepted at ICASSP 2026

Omni-AVSR: Towards Unified Multimodal Speech Recognition with Large Language Models

Omni-AVSR：迈向基于大语言模型的统一多模态语音识别

Umberto Cappellazzo, Xubo Liu, Pingchuan Ma, Stavros Petridis, Maja Pantic

机构 * Imperial College London, UK（伦敦帝国理工学院） ； University of Surrey, UK（萨里大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 Omni-AVSR通过统一多模态语音识别框架，结合高效多粒度训练与参数高效适应，实现跨任务协同，降低资源消耗并提升鲁棒性。

Comments Accepted to IEEE ICASSP 2026 (camera-ready version). Project website (code and model weights): https://umbertocappellazzo.github.io/Omni-AVSR/

Clustering-driven Memory Compression for On-device Large Language Models

基于聚类的记忆压缩用于设备端大语言模型

Ondrej Bohdal, Pramit Saha, Umberto Michieli, Mete Ozay, Taha Ceritli

机构 * University of Oxford（牛津大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种基于聚类的记忆压缩方法，通过分组和合并相似记忆以提升设备端大语言模型的上下文效率和生成质量。

Comments Accepted at ICASSP 2026

Stop Taking Tokenizers for Granted: They Are Core Design Decisions in Large Language Models

不要轻视分词器：它们是大型语言模型中的核心设计决策

Sawsan Alqahtani, Mir Tafseer Nayeem, Md Tahmid Rahman Laskar, Tasnim Mohiuddin, M Saiful Bari

机构 * Princess Nourah Bint Abdulrahman University（普里丝琴·努拉·本·阿卜杜勒拉赫曼大学） ； Saudi Data & AI Authority (SDAIA)（沙特数据与人工智能管理局） ； University of Alberta（阿尔伯塔大学） ； Dialpad（Dialpad公司） ； York University（约克大学） ； Qatar Computing Research Institute（卡塔尔计算研究所） ； Amazon AGI（亚马逊人工智能研究所） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出将分词视为大型语言模型的核心设计决策，强调上下文感知框架和标准化评估的重要性，以提升语言技术的公平性、效率和适应性。

Comments Accepted to EACL 2026 (long, main). The first two authors contributed equally

Kakugo: Distillation of Low-Resource Languages into Small Language Models

Kakugo：通过低资源语言名称训练通用小型语言模型的蒸馏方法

Peter Devine, Mardhiyah Sanni, Farid Adilazuarda, Julieta Gil Loizaga, Barry Haddow

机构 * School of Informatics, University of Edinburgh（信息学院，爱丁堡大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Kakugo通过仅使用语言名称作为输入，利用大型教师模型生成合成数据，有效训练小型语言模型以处理低资源语言，从而在多种NLP任务中提升性能，成本低于50美元每种语言。

PRIVMARK: Private Large Language Models Watermarking with MPC

PRIVMARK: 基于MPC的私有大语言模型水印技术

Thomas Fargues, Ye Dong, Tianwei Zhang, Jin-Song Dong

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 PRIVMARK通过MPC技术实现大语言模型的隐私保护水印，无需暴露模型权重，有效抵御攻击并保持性能。

Comments 8 pages, 4 figures, under peer-review

Journal ref ICC 2026

Assessing Small Language Models for Code Generation: An Empirical Study with Benchmarks

评估小型语言模型用于代码生成：基于基准的实证研究

Md Mahade Hasan, Muhammad Waseem, Kai-Kristian Kemell, Jussi Rasku, Juha Ala-Rantala, Pekka Abrahamsson

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)

AI总结 本研究评估了多种小型语言模型在代码生成中的性能，发现紧凑模型在效率与性能间取得平衡，但进一步提升需转向更大模型。

Comments 17 pages, 10 Tables, 57 figures. Includes benchmarks and multilingual evaluation. Submitted to the Journal of Systems and Software

Large Language Models Are Democracy Coders with Attitudes

大型语言模型是带有偏见的民主编码器

Nils B. Weidmann, Mats Faulborn, David García

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文利用大型语言模型对民主指标进行编码，发现其在某些情况下存在偏见，但结合两种模型可缓解问题，但仍难以完全替代人类编码者。

Journal ref APSC 59 (2026) 17-23

BALI: Branch-Aware Loop Invariant Inference with Large Language Models

BALI: 基于分支的循环不变式推断与大语言模型

Mingxiu Wang, Jiawei Wang, Xiao Cheng

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 BALI通过结合大语言模型和分支感知分析，提升循环不变式的推断和验证精度，实现更高效和自动化的不变式发现。

Comments 4 pages, 1 figure, AAAI-26 Bridge Program B10: Making Embodied AI Reliable with Testing and Formal Verification

Dynamic Strategy Adaptation in Multi-Agent Environments with Large Language Models

多智能体环境中基于大语言模型的动态策略适应

Shaurya Mallampati, Rashed Shelim, Walid Saad, Naren Ramakrishnan

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出基于大语言模型和博弈论的动态策略适应框架，提升多智能体协作效率和灵活性。

Phoneme-based speech recognition driven by large language models and sampling marginalization

基于大语言模型和采样边际化的音素语音识别

Te Ma, Nanjie Li, Hao Huang, Zhijian Ou

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出SKM策略，通过随机采样替代束搜索，提升语音识别模型的训练效率和识别性能。

Comments Published at NCMMSC 2025, in Chinese language

Trustworthy and Controllable Professional Knowledge Utilization in Large Language Models with TEE-GPU Execution

在大语言模型中实现可信且可控的专业知识利用：TEE-GPU执行

Yifeng Cai, Zhida An, Yuhan Meng, Houqian Liu, Pengli Wang, Hanwen Lei, Yao Guo, Ding Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出PKUS系统，通过将专业知识作为可分离的制品，实现大语言模型中可信且可控的专业知识利用，提升模型性能并降低延迟。

PerProb: Indirectly Evaluating Memorization in Large Language Models

PerProb：间接评估大语言模型中的记忆化

Yihan Liao, Jacky Keung, Xiaoxue Ma, Jingyu Zhang, Yicheng Sun

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 PerProb提出了一种无标签框架，通过比较困惑度和对数概率变化间接评估大语言模型的记忆化漏洞，并验证了多种缓解策略的有效性。

Comments Accepted at APSEC 2025

Adaptive Cache Pollution Control for Large Language Model Inference Workloads Using Temporal CNN-Based Prediction and Priority-Aware Replacement

基于时间卷积网络的自适应缓存污染控制：用于大语言模型推理工作负载

Songze Liu, Hongkun Du, Shaowen Wang

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出基于时间卷积网络的自适应缓存污染控制机制，通过预测和优先级替换策略优化LLM推理性能。

From Text to Returns: Using Large Language Models for Mutual Fund Portfolio Optimization and Risk-Adjusted Allocation

从文本到收益：利用大型语言模型进行共同基金投资组合优化与风险调整分配

Abrar Hossain, Mufakir Qamar Ansari, Haziq Jeelani, Monia Digra, Fayeq Jeelani Syed

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 利用大型语言模型优化共同基金投资组合并提升风险调整分配效果，Zypher 7B模型在收益与风险控制方面表现突出。

FastVID: Dynamic Density Pruning for Fast Video Large Language Models

FastVID: 动态密度修剪用于快速视频大语言模型

Leqi Shen, Guoqiang Gong, Tao He, Yifeng Zhang, Pengzhang Liu, Sicheng Zhao, Guiguang Ding

机构 * School of Software, Tsinghua University（清华大学软件学院） ； BNRist, Tsinghua University（清华大学BNRist） ； GRG Banking Equipment Co., Ltd.（GRG银行设备有限公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 FastVID通过动态密度修剪技术，显著降低视频大语言模型的计算开销，同时保持高准确性，实现高效的视频处理性能。

Comments NeurIPS 2025

An Efficient Interaction Human-AI Synergy System Bridging Visual Awareness and Large Language Model for Intensive Care Units

一种高效的交互人机协同系统：连接视觉意识与大语言模型用于重症监护室

Yibowen Zhao, Yiming Cao, Zhiqi Shen, Juan Du, Yonghui Xu, Lizhen Cui, Cyril Leung

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出一种基于云-边-端架构的人机协同系统，通过视觉感知数据提取和大语言模型驱动的语义交互，提升ICU中患者数据处理的效率和安全性。

Comments This paper has been accepted by the Late Breaking Papers of the 2025 International Conference on Human Computer Interaction (HCII 2025)

LaMoSys3.5D: Enabling 3.5D-IC-Based Large Language Model Inference Serving Systems via Hardware/Software Co-Design

LaMoSys3.5D：通过软硬件协同设计实现基于3.5D-IC的大语言模型推理服务系统

Qipan Wang, Zhe Zhang, Shuangchen Li, Hongzhong Zheng, Zheng Liang, Yibo Lin, Runsheng Wang, Ru Huang

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 LaMoSys3.5D通过软硬件协同设计，实现了基于3.5D-IC的大语言模型推理服务系统，提升了能效和端到端延迟性能。

An Empirical Study on Low-Code Programming using Traditional vs Large Language Model Support

基于传统与大语言模型支持的低代码编程实证研究

Yongkun Liu, Jiachi Chen, Tingting Bi, John Grundy, Yanlin Wang, Jianxing Yu, Ting Chen, Yutian Tang, Zibin Zheng

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本研究通过实证分析比较了传统与基于大语言模型的低代码编程方法在应用中的差异及影响。