语言大模型 / LLM

Efficient Table Retrieval and Understanding with Multimodal Large Language Models

基于多模态大语言模型的高效表格检索与理解

Zhuoyan Xu, Haoyang Fang, Boran Han, Bonan Min, Bernie Wang, Cuixiong Hu, Shuai Zhang

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； AWS（亚马逊网络服务） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 TabRAG通过多模态大语言模型实现高效表格检索与理解，显著提升检索召回率和答案准确率。

Comments Published at EACL 2026 Findings

Toward Efficient Exploration by Large Language Model Agents

迈向高效探索的大型语言模型代理

Dilip Arumugam, Thomas L. Griffiths

机构 * Department of Computer Science（计算机科学系） ； Princeton University（普林斯顿大学） ； Department of Psychology（心理学系） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出利用大型语言模型显式实现后验抽样强化学习算法，以提升自然语言任务中的探索效率。

Comments Accepted to the International Conference on Learning Representations (ICLR) 2026

Challenges and Research Directions for Large Language Model Inference Hardware

大语言模型推理硬件的挑战与研究方向

Xiaoyu Ma, David Patterson

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文探讨了大语言模型推理硬件面临的挑战，提出了高带宽闪存、内存-逻辑堆叠和低延迟互连等研究方向，以提升内存带宽和通信效率。

Comments Accepted for publication by IEEE Computer, 2026

Understanding Large Language Models in Your Pockets: Performance Study on COTS Mobile Devices

理解口袋中的大型语言模型：对商用移动设备上LLM性能的研究

Jie Xiao, Qianyi Huang, Xu Chen, Chen Tian

机构 * Sun Yat-Sen University（孙中山大学） ； Nanjing University（南京大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 研究评估了商用移动设备上轻量级LLM的性能，分析了用户体验和开发者关注的指标，以帮助优化移动LLM应用。

Comments Corrected a typographical error on page 12: "4604%" has been corrected to "60%."

TiFRe: Text-guided Video Frame Reduction for Efficient Video Multi-modal Large Language Models

TiFRe: 基于文本的视频帧减少用于高效视频多模态大语言模型

Xiangtian Zheng, Zishuo Wang, Yuxin Peng

机构 * Wangxuan Institute of Computer Technology, Peking University（王轩计算机技术研究所，北京大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 TiFRe通过文本引导的帧采样和帧匹配机制，有效减少视频输入帧数，同时保留关键信息，提升视频多模态大语言模型的效率和性能。

FlashVID: Efficient Video Large Language Models via Training-free Tree-based Spatiotemporal Token Merging

FlashVID: 通过无训练树状时空标记合并实现高效的视频大语言模型

Ziyang Fan, Keyu Chen, Ruilong Xing, Yulin Li, Li Jiang, Zhuotao Tian

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 FlashVID通过无训练的树状时空标记合并技术，在保留99.1%性能的情况下将视频帧输入提升10倍，实现高效视频大语言模型加速。

Comments Accepted by ICLR 2026 (Oral)

Investigating Data Pruning for Pretraining Biological Foundation Models at Scale

大规模预训练生物基础模型的数据剪枝研究

Yifan Wu, Jiyue Jiang, Xichen Ye, Yiqi Wang, Chang Zhou, Yitao Xu, Jiayang Chen, He Hu, Weizhong Zhang, Cheng Jin, Jiao Yuan, Yu Li

专题命中 效率与部署 ：foundation model(title,abstract)；pretraining(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种影响引导的数据剪枝方法，用于大规模预训练生物基础模型，通过有效减少计算成本和数据冗余，提升生物信息学任务的可重复性和可访问性。

Comments Accepted by AAAI 2026

SparseEval: Efficient Evaluation of Large Language Models by Sparse Optimization

SparseEval: 通过稀疏优化高效评估大语言模型

Taolin Zhang, Hang Guo, Wang Lu, Tao Dai, Shu-Tao Xia, Jindong Wang

机构 * College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机科学与软件工程学院） ； Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 SparseEval通过稀疏优化方法高效评估大语言模型，利用梯度下降和迭代细化策略提升基准测试效率，展现高鲁棒性和实用性。

Comments ICLR2026

Understanding and Guiding Layer Placement in Parameter-Efficient Fine-Tuning of Large Language Models

理解并指导大语言模型参数高效微调中的层放置

Yichen Xu, Yuyang Liang, Shan Dai, Tianyang Hu, Tsz Nam Chan, Chenhao Ma

机构 * University of California, Berkeley（加州大学伯克利分校） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen University（深圳大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Layer Card工具，通过分析层的残差信号强度、计算成本和性能，指导大语言模型参数高效微调中的层选择，以实现性能与成本的平衡。

Efficient Attention Mechanisms for Large Language Models: A Survey

大型语言模型中的高效注意力机制：综述

Yutao Sun, Zhenyu Li, Yike Zhang, Tengyu Pan, Bowen Dong, Yuyi Guo, Jianyong Wang

机构 * Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文综述了大型语言模型中高效注意力机制的发展，包括线性注意力和稀疏注意力方法，并分析了其在大规模预训练模型中的应用与设计。

Comments work in progress

HiFo-Prompt: Prompting with Hindsight and Foresight for LLM-based Automatic Heuristic Design

HiFo-Prompt: 基于前瞻性与回顾性的提示方法用于基于大语言模型的自动启发式设计

Chentong Chen, Mengyuan Zhong, Ye Fan, Jialong Shi, Jianyong Sun

机构 * School of Mathematics and Statistics, Xi’an Jiaotong University, Xi’an, China（西安交通大学数学与统计学院） ； School of Electronics and Information, Northwest Polytechnical University, Xi’an, China（西北工业大学电子与信息学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；prompting(title,abstract)；分类 cs.AI

AI总结 HiFo-Prompt通过前瞻性与回顾性提示策略，提升基于大语言模型的自动启发式设计效率与质量。

Comments Accepted at ICLR 2026

Dynamic Rank Reinforcement Learning for Adaptive Low-Rank Multi-Head Self Attention in Large Language Models

动态秩强化学习用于自适应低秩多头自注意力机制在大语言模型中

Caner Erden

机构 * Faculty of Technology, Department of Computer Engineering, Sakarya University of Applied Sciences（技术学院，计算机工程系，萨克萨大学应用科学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.LG

AI总结 本文提出动态秩强化学习方法，通过强化学习优化注意力机制，实现低秩多头自注意力在大语言模型中的自适应调整，显著降低计算成本并保持模型性能。

Journal ref International Journal of Complexity in Applied Science and Technology, 2026

Linguistic properties and model scale in brain encoding: from small to compressed language models

语言属性与模型规模在脑编码中的作用：从小型到压缩语言模型

Subba Reddy Oota, Vijay Rowtula, Satya Sai Srinath Namburi, Khushbu Pahwa, Anant Khandelwal, Manish Gupta, Tanmoy Chakraborty, Bapi S. Raju

机构 * TU Berlin（柏林技术大学） ； IIIT-Hyderabad（海得拉巴理工学院） ； GE HealthCare（通用电气医疗） ； AWS AI Labs, Amazon（亚马逊AI实验室） ； Microsoft Research, Bangalore, India（微软研究院，班加罗尔，印度） ； Microsoft, Hyderabad, India（微软，海得拉巴，印度） ； IIT Delhi（德里理工学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；small language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究发现小型语言模型在脑一致性上可与大模型媲美，压缩不影响脑可预测性，挑战了神经扩展的常见假设。

Comments 40 pages, 33 figures

Fast KVzip: Efficient and Accurate LLM Inference with Gated KV Eviction

快速KVzip：基于门控的KV缓存淘汰实现高效且准确的LLM推理

Jang-Hyun Kim, Dongyoon Han, Sangdoo Yun

机构 * NAVER AI Lab（NAVER AI实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 基于门控的KV缓存淘汰方法实现高效且准确的LLM推理，通过轻量级门控模块和任务无关的重建目标，实现高压缩比和低计算开销。

Comments Source code: https://github.com/Janghyun1230/FastKVzip

Your Language Model Secretly Contains Personality Subnetworks

你的语言模型秘密包含个性子网络

Ruimeng Ye, Zihan Wang, Zinan Ling, Yang Xiao, Manling Li, Xiaolong Ma, Bo Hui

机构 * University of Tulsa（图兰大学） ； Northwestern University（西北大学） ； University of Arizona（亚利桑那大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本研究发现大型语言模型内部已嵌入身份子网络，无需外部知识即可实现身份切换和行为调整。

Comments ICLR 2026

R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning

R-Stitch：动态轨迹拼接以实现高效的推理

Zhuokun Chen, Zeren Chen, Jiahao He, Lu Sheng, Mingkui Tan, Jianfei Cai, Bohan Zhuang

机构 * Monash University, Australia（墨尔本大学，澳大利亚） ； School of Software, Beihang University, China（北航软件学院，中国） ； South China University of Technology, China（华南理工大学，中国） ； ZIP Lab, Zhejiang University, China（浙江大学ZIP实验室，中国） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 R-Stitch通过熵引导的混合解码框架，实现高效推理，减少计算成本并保持精度。

Efficient and Adaptable Detection of Malicious LLM Prompts via Bootstrap Aggregation

通过Bootstrap聚合实现高效且适应性强的恶意LLM提示检测

Shayan Ali Hassan, Tao Ni, Zafar Ayyub Qazi, Marco Canini

机构 * KAUST（卡塔尔人工智能研究所在线中心） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 BAGEL通过Bootstrap聚合和专家混合方法，实现高效且适应性强的恶意LLM提示检测，以高F1得分超越现有大参数模型。

Rethinking Latency Denial-of-Service: Attacking the LLM Serving Framework, Not the Model

重新审视延迟拒绝服务：攻击LLM服务框架，而非模型

Tianyi Wang, Huawei Fan, Yuanchao Shu, Peng Cheng, Cong Wang

机构 * Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出Fill和Squeeze攻击策略，通过影响调度器状态转换，攻击LLM服务框架而非模型，降低攻击成本并造成显著延迟。

Pre-Filtering Code Suggestions using Developer Behavioral Telemetry to Optimize LLM-Assisted Programming

利用开发者行为 telemetry 预过滤代码建议以优化 LLM 协助编程

Mohammad Nour Al Awad, Sergey Ivanov, Olga Tikhonova

机构 * ITMO University（ITMO大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 通过开发者行为 telemetry 预过滤代码建议，提升 LLM 协助编程的接受率和效率

Comments \c{opyright} 2025 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses

Journal ref In Proceedings of the 40th IEEE/ACM International Conference on Automated Software Engineering Workshops (ASEW 2025)

Optimizing LLM Code Suggestions: Feedback-Driven Timing with Lightweight State Bounds

优化大语言模型代码建议：基于反馈的轻量级状态边界定时机制

Mohammad Nour Al Awad, Sergey Ivanov, Olga Tikhonova

机构 * ITMO University（ITMO大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于反馈的轻量级定时机制，通过动态调整延迟来优化大语言模型代码建议的接受率，显著提升了效率并减少了浪费的推理调用。

Comments \c{opyright} 2025 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses

Journal ref In Proceedings of the 40th IEEE/ACM International Conference on Automated Software Engineering Workshops (ASEW 2025)

OpenPhone: Mobile Agentic Foundation Models

OpenPhone: 移动代理基础模型

Yangqin Jiang, Chao Huang

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：foundation model(title)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 OpenPhone通过设备-云协作提升移动GUI代理性能，结合设备端高效模型与云端强大能力，实现成本降低与性能提升的平衡。

Software Performance Engineering for Foundation Model-Powered Software

面向基础模型驱动软件的软件性能工程

Haoxiang Zhang, Shi Chang, Arthur Leung, Kishanthan Thangarajah, Boyuan Chen, Hanan Lutfiyya, Ahmed E. Hassan

机构 * Centre for Software Excellence at Huawei（华为卓越软件中心） ； Western University（西方大学） ； Queen's University（皇后大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出面向基础模型驱动软件的性能工程重要性，探讨了认知架构设计、通信协议、调优与部署等四个关键挑战。

Flare: Anomaly Diagnostics for Divergent LLM Training in GPU Clusters of Thousand-Plus Scale

Flare：用于千级规模GPU集群中发散式LLM训练的异常诊断

Weihao Cui, Ji Zhang, Han Zhao, Chao Liu, Jian Sha, Bingsheng He, Minyi Guo, Quan Chen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 Flare是一种用于千级规模GPU集群中大规模分布式LLM训练的异常诊断框架，通过轻量级跟踪守护进程和自动诊断引擎提升异常检测与性能退化分析能力。

Rethinking Practical and Efficient Quantization Calibration for Vision-Language Models

重新思考视觉-语言模型的实用且高效的量化校准

Zhenhao Shang, Haizhao Jing, Guoting Wei, Haokui Zhang, Rong Xiao, Jianqing Gao, Peng Wang

机构 * Northwestern Polytechnical University, Xi'an, China（西北工业大学，西安，中国） ； Nanjing University of Science and Technology, Nanjing, China（南京理工大学，南京，中国） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；post-training(abstract)

AI总结 TLQ通过标记级重要性整合和多GPU层级校准，提升视觉-语言模型的量化稳定性与效率。

Towards High-Goodput LLM Serving with Prefill-decode Multiplexing

面向高吞吐量LLM服务的预填解码多路复用

Yukang Chen, Weihao Cui, Han Zhao, Ziyi Xu, Xiaoze Fan, Xusheng Chen, Yangjie Zhou, Shixuan Sun, Bingsheng He, Quan Chen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 MuxWise通过引入GPU内预填解码多路复用范式，实现了LLM服务在满足SLO要求的同时提升吞吐量。

Improving Variable-Length Generation in Diffusion Language Models via Length Regularization

通过长度正则化改进扩散语言模型的变长生成

Zicong Cheng, Ruixuan Jia, Jia Li, Guo-Wei Yang, Meng-Hao Guo, Shi-Min Hu

机构 * Tsinghua University（清华大学） ； Proxseer Inc.（Proxseer公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出LR-DLLM，通过长度正则化改进扩散语言模型的变长生成能力，提升了在未知长度下的生成效果。

Comments diffusion language models

FlexMoRE: A Flexible Mixture of Rank-heterogeneous Experts for Efficient Federatedly-trained Large Language Models

FlexMoRE: 一种灵活的秩异质专家混合模型，用于高效联邦训练的大型语言模型

Annemette Brok Pirchert, Jacob Nielsen, Mogens Henrik From, Lukas Galke Poech, Peter Schneider-Kamp

机构 * University of Southern Denmark（南丹麦大学） ； Ordbogen A/S（Ordbogen公司） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.LG

AI总结 FlexMoRE通过灵活的秩异质专家混合模型，在联邦训练的大型语言模型中实现更高效的性能，使用低秩适配器替代完整专家，提升任务表现并减少参数量。

OPUS: Towards Efficient and Principled Data Selection in Large Language Model Pre-training in Every Iteration

OPUS：在每次迭代中实现大语言模型预训练中的高效且原则性的数据选择

Shaobo Wang, Xuan Ouyang, Tianyi Xu, Yuzheng Hu, Jialin Liu, Guo Chen, Tianyu Zhang, Junhao Zheng, Kexin Yang, Xingzhang Ren, Dayiheng Liu, Linfeng Zhang

机构 * SJTU（上海交通大学） ； Alibaba（阿里巴巴） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.CL

AI总结 OPUS通过在优化器诱导的更新空间中动态选择数据，提升大语言模型预训练的效率和效果，尤其在数据稀缺和低质量情况下表现优异。

Comments 45 pages, 7 figures, 8 tables

Efficient and Stable Reinforcement Learning for Diffusion Language Models

高效且稳定的扩散语言模型强化学习

Jiawei Liu, Xiting Wang, Yuanyuan Zhong, Defu Lian, Yu Yang

机构 * State Key Laboratory of Cognitive Intelligence, University of Science（认知智能国家重点实验室，科学大学） ； City University of Hong Kong, Hong Kong, China（香港城市大学，香港，中国） ； Gaoling School of Artificial Intelligence, Renmin University of China, Beijing, China（人工智能学院，中国人民大学，北京，中国） ； School of Software and Microelectronics, Peking University, Beijing, China（软件与微电子学院，北京大学，北京，中国） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 本文提出STP框架，通过空间和时间剪枝提升扩散语言模型强化学习的效率和稳定性。

Comments 13 pages, 3 figures

VocalNet-MDM: Accelerating Streaming Speech LLM via Self-Distilled Masked Diffusion Modeling

VocalNet-MDM：通过自蒸馏掩码扩散建模加速流式语音大语言模型

Ziyang Cheng, Yuhao Wang, Heyang Liu, Ronghua Wu, Qunshan Gu, Yanfeng Wang, Yu Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 VocalNet-MDM通过自蒸馏掩码扩散建模实现流式语音LLM的高效解码与低延迟