语言大模型 / LLM

Accelerating Streaming Video Large Language Models via Hierarchical Token Compression

通过分层令牌压缩加速流式视频大型语言模型

Yiyu Wang, Xuyang Liu, Xiyan Gui, Xinying Lin, Boxue Yang, Chenfei Liao, Tailai Chen, Linfeng Zhang

机构 * EPIC Lab, Shanghai Jiao Tong University（上海交通大学EPIC实验室） ； Sichuan University（四川大学） ； Huazhong University of Science and Technology（华中科技大学） ； Sun Yat-sen University（中山大学） ； Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 STC通过分层令牌压缩技术，显著降低流式视频大语言模型的处理延迟，同时保持高精度。

Comments Code is avaliable at \url{https://github.com/lern-to-write/STC}

On the Use of a Large Language Model to Support the Conduction of a Systematic Mapping Study: A Brief Report from a Practitioner's View

在系统映射研究中使用大型语言模型以支持其开展：一名实践者视角的简要报告

Cauã Ferreira Barros, Marcos Kalinowski, Mohamad Kassab, Valdemar Vicente Graciano Neto

机构 * Federal University of Goiás\ Institute Goiânia Goiás Brazil ； Pontifical Catholic University of Rio de Janeiro\ of Informatics Rio de Janeiro Rio de Janeiro Brazil ； Boston University\ of Computer Science Boston Massachusetts USA ； Federal University of Goiás\ Institute ； Pontifical Catholic University of Rio de Janeiro\ of Informatics ； Boston University\ of Computer Science 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文从实践者视角报告了使用大型语言模型开展系统映射研究的经验，讨论了其在时间节省和数据标准化方面的优势，以及构建提示、幻觉和手动验证等挑战。

Comments 6 pages, includes 2 tables. Submitted and Accepted to the WSESE 2026 ICSE Workshop

Agentic Knowledge Distillation: Autonomous Training of Small Language Models for SMS Threat Detection

代理知识蒸馏：自主训练小型语言模型用于短信威胁检测

Adel ElZemity, Joshua Sylvester, Budi Arief, Rogério De Lemos

专题命中 效率与部署 ：language model(title)；small language model(title)；LLM(abstract)；SLM(abstract)

AI总结 本研究提出代理知识蒸馏方法，通过自主训练小型语言模型实现高效的短信威胁检测，实验显示教师LLM的选择对性能影响显著。

Unveiling Super Experts in Mixture-of-Experts Large Language Models

揭示混合专家大语言模型中的超级专家

Zunhai Su, Qingyuan Li, Hao Zhang, Weihao Ye, Qibo Xue, YuLei Qian, Yuchen Xie, Ngai Wong, Kehong Yuan

机构 * Tsinghua University（清华大学） ； Meituan（美团） ； Xiamen University（厦门大学） ； Nanjing University（南京大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；post-training(abstract)；分类 cs.CL

AI总结 研究揭示了混合专家大语言模型中起关键作用的超级专家，通过分析其影响发现其在数学推理中的重要性，并探讨了压缩这些专家对模型性能的显著影响。

Comments Published as a conference paper at ICLR 2026

Deep Learning-based Method for Expressing Knowledge Boundary of Black-Box LLM

基于深度学习的知识边界表达方法：黑盒大语言模型

Haotian Sheng, Heyong Wang, Ming Hong, Hongman He, Junqiu Liu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出LSCL方法，通过深度学习模型帮助黑盒LLMs准确表达其知识边界，显著提升准确率和召回率。

LLM-Mediated Guidance of MARL Systems

基于大语言模型的多智能体强化学习系统引导

Philipp D. Siedler, Ian Gemp

机构 * Aleph Alpha Research（Aleph Alpha研究机构） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用大语言模型介导的干预，通过自然语言和规则控制器提升多智能体强化学习系统的训练效率和性能。

Evaluating Kubernetes Performance for GenAI Inference: From Automatic Speech Recognition to LLM Summarization

评估Kubernetes性能用于生成式AI推理：从自动语音识别到LLM摘要

Sai Sindhur Malleni, Raúl Sevilla, Aleksei Vasilevskii, José Castillo Lema, André Bauer

机构 * Red Hat（红帽公司） ； NVIDIA（英伟达公司） ； Illinois Institute of Technology（伊利诺伊理工学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了Kubernetes在生成式AI推理中的性能，通过结合Kueue、DAS和GAIE等技术，提升多阶段AI工作流的效率与性能。

Comments A accepted at the 17th International Conference on Performance Engineering

LATA: A Tool for LLM-Assisted Translation Annotation

LATA：一个辅助翻译标注的工具

Baorong Huang, Ali Asiri

机构 * School of Foreign Languages, Huaihua University（怀化大学外语学院） ； Alith University College, Umm al-Qura University（乌姆·阿尔·库拉大学阿利思大学学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LATA是一个利用大语言模型辅助的翻译标注工具，旨在提高标注效率的同时保持语言学精度，适用于结构差异大的语言对。

ButterflyQuant: Ultra-low-bit LLM Quantization through Learnable Orthogonal Butterfly Transforms

ButterflyQuant: 通过可学习的正交蝴蝶变换实现超低比特LLM量化

Bingxin Xu, Zhen Dong, Oussama Elachqar, Yuzhang Shang

机构 * Bingxin Xu ； Zhen Dong ； Oussama Elachqar ； Yuzhang Shang 纠错

专题命中 效率与部署 ：LLM(title,comments)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ButterflyQuant通过可学习的正交蝴蝶变换实现超低比特LLM量化，有效抑制异常值并提升量化性能。

Comments Replace discrete Hadamard transforms with continuous Butterfly transforms to facilitate the learning of rotation matrices in LLM quantization

BOute: Cost-Efficient LLM Serving with Heterogeneous LLMs and GPUs via Multi-Objective Bayesian Optimization

BOute: 通过多目标贝叶斯优化实现高效的LLM服务

Youhe Jiang, Fangcheng Fu, Eiko Yoneki

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 BOute通过多目标贝叶斯优化实现高效LLM服务，优化路由和部署策略以提升成本效率。

Comments MLSys 2026

Are More Tokens Rational? Inference-Time Scaling in Language Models as Adaptive Resource Rationality

更多令牌是否理性？语言模型推理时的扩展作为适应性资源理性

Zhimin Hu, Riya Roshan, Sashank Varma

机构 * Georgia Tech（佐治亚理工学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过变量归因任务探讨语言模型在推理时扩展对资源理性的影响，发现模型能根据任务复杂性调整策略，即使无显式成本奖励。

Scaling Embeddings Outperforms Scaling Experts in Language Models

嵌入式扩展优于专家扩展在语言模型中

Hong Liu, Jiaqi Zhang, Chao Wang, Xing Hu, Linkun Lyu, Jiaqi Sun, Xurui Yang, Bo Wang, Fengcun Li, Yulei Qian, Lingtong Si, Yerui Sun, Rumei Li, Peng Pei, Yuchen Xie, Xunliang Cai

机构 * Meituan LongCat Team（美团LongCat团队） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究提出通过嵌入式扩展而非专家扩展来提升语言模型的稀疏性，展示了LongCat-Flash-Lite在推理速度上的显著提升。

Found-RL: foundation model-enhanced reinforcement learning for autonomous driving

Found-RL: 基于基础模型的强化学习用于自动驾驶

Yansong Qu, Zihao Sheng, Zilin Huang, Jiancong Chen, Yuhao Luo, Tianyi Wang, Yiheng Feng, Samuel Labi, Sikai Chen

专题命中 效率与部署 ：foundation model(title,abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Found-RL通过异步批量推理和多样化监督机制，提升自动驾驶中强化学习的效率与实时性。

Comments 39 pages

Vulnerabilities in Partial TEE-Shielded LLM Inference with Precomputed Noise

部分TEE防护LLM推断中的漏洞

Abhishek Saini, Haolin Jiang, Hang Liu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 研究揭示了部分TEE防护LLM推断中的漏洞，通过两种攻击证明了预计算静态秘密基础导致的加密漏洞，并展示了对先进LLMs的实际攻击效果。

KernelBand: Steering LLM-based Kernel Optimization via Hardware-Aware Multi-Armed Bandits

KernelBand: 通过硬件感知的多臂老虎机实现基于LLM的核优化

Dezhi Ran, Shuxiao Xie, Mingfang Ji, Anmin Liu, Mengzhou Wu, Yuan Cao, Yuzhe Guo, Hao Yu, Linyi Li, Yitao Hu, Wei Yang, Tao Xie

机构 * Key Lab of HCST (PKU), MOE（HCST关键实验室（北京大学）） ； SCS, Peking University, Beijing, China（SCS，北京大学，北京，中国） ； Hong Kong University of Science（香港科学大学） ； East China Normal University, Shanghai, China（华东师范大学，上海，中国） ； Department of Computer Science, Tianjin University, Tianjin, China（天津大学计算机科学系，天津，中国） ； School of Computing Science, Simon Fraser University, Burnaby, BC, Canada（Simon Fraser大学计算机科学学院，Burnaby，BC，加拿大） ； University of Texas at Dallas, USA（德克萨斯大学达拉斯分校，美国） ； Beijing Tongming Lake Information Technology Application Innovation Center, China（北京同铭湖信息技术应用创新中心，中国） ； Fudan University Institute of Systems for Advanced Computing, China（复旦大学高级计算系统研究所，中国） ； Shanghai Institute of Systems for Open Computing, China（上海开放计算系统研究所，中国） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 KernelBand通过硬件感知的多臂老虎机框架，实现基于LLM的核优化，显著提升性能。

Comments 19 pages (9 pages main text), 4 figures. v2: Full revision

Advancing Block Diffusion Language Models for Test-Time Scaling

推进块扩散语言模型用于测试时间扩展

Yi Lu, Deyang Kong, Jianing Wang, Linsen Guo, Xue Wang, Qi Guo, Tao Gui, Xuanjing Huang, Wei Ye, Shikun Zhang, Wei Wang

机构 * Fudan University（复旦大学） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出BACD和TCCF方法，提升块扩散语言模型在测试时间扩展中的推理效率和效果。

Towards Efficient Speech-Text Jointly Decoding within One Speech Language Model

迈向单个语音语言模型中的高效语音-文本联合解码

Haibin Wu, Yuxuan Hu, Ruchao Fan, Xiaofei Wang, Kenichi Kumatani, Bo Ren, Jianwei Yu, Heng Lu, Lijuan Wang, Yao Qian, Jinyu Li

机构 * Microsoft（微软公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出了一种早停交错解码方法，以提升语音-文本联合解码的效率和性能，并通过高质量QA数据集进一步优化语音问答性能。

Comments Accepted by ASRU 2025

Hardware Co-Design Scaling Laws via Roofline Modelling for On-Device LLMs

通过屋顶线建模为设备端大语言模型设计硬件协同缩放定律

Luoyang Sun, Jiwen Jiang, Yifeng Ding, Fengfa Li, Yan Song, Haifeng Zhang, Jian Ying, Lei Ren, Kun Zhan, Wei Chen, Yan Xie, Cheng Deng

机构 * AI Lab, The Yangtze River Delta Institution of Automation, Chinese Academy of Sciences（人工智能实验室，长江三角洲自动化研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； University College London（伦敦大学学院） ； Institution of Automation, Chinese Academy of Sciences（自动化研究所，中国科学院） ； The University of Edinburgh（爱丁堡大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出通过屋顶线建模为设备端大语言模型设计硬件协同缩放定律，通过训练170个模型建立架构与训练损失的缩放关系，实现准确度与延迟的直接对应，降低架构选择时间并提升模型性能。

Text summarization via global structure awareness

通过全局结构意识进行文本摘要

Jiaquan Zhang, Chaoning Zhang, Shuxu Chen, Yibei Liu, Chenghao Li, Qigan Sun, Shuai Yuan, Fachrina Dewi Puspitasari, Dongshen Han, Guoqing Wang, Sung-Ho Bae, Yang Yang

机构 * University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 GloSA-sum通过拓扑数据分析实现全局结构意识，高效摘要的同时保留语义和逻辑依赖，提升长文本处理效率和下游任务表现。

Comments 24pages

ClinAlign: Scaling Healthcare Alignment from Clinician Preference

ClinAlign: 从医生偏好扩展医疗对齐

Shiwei Lyu, Xidong Wang, Lei Liu, Hao Zhu, Chaohe Zhang, Jian Wang, Jinjie Gu, Benyou Wang, Yue Shen

机构 * Ant Group（蚂蚁集团） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ClinAlign通过HealthRubrics和HealthPrinciples实现医疗输出与医生偏好的高效对齐，验证了资源高效的临床对齐方法。

TableDART: Dynamic Adaptive Multi-Modal Routing for Table Understanding

TableDART: 表格理解的动态自适应多模态路由

Xiaobo Xing, Wei Yuan, Tong Chen, Quoc Viet Hung Nguyen, Xiangliang Zhang, Hongzhi Yin

机构 * The University of Queensland, Australia（昆士兰大学） ； Griffith University, Australia（格里菲斯大学） ； University of Notre Dame, USA（诺丁汉大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 TableDART通过动态选择文本、图像或融合视角，提升表格理解的准确性和效率，避免昂贵的多模态模型微调。

Comments Accepted to ICLR 2026. 26 pages, 11 figures

When Speculation Spills Secrets: Side Channels via Speculative Decoding In LLMs

当猜测泄露秘密：通过猜测解码的侧信道在大语言模型中

Jiankun Wei, Abdulrahman Abdulrazzag, Tianchen Zhang, Adel Muursepp, Gururaj Saileshwar

机构 * University of Toronto（多伦多大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究揭示了通过猜测解码在大语言模型中泄露用户信息的侧信道，并提出缓解措施。

Cross-Attention Speculative Decoding

跨注意力推测解码

Wei Zhong, Manasa Bharadwaj, Yixiao Wang, Yipeng Ji, Chul Lee

机构 * LGE（LGE公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 Beagle是一种基于跨注意力的新型推测解码模型，实现了与EAGLE-v2相当的性能，同时简化了架构，提高了训练效率并保持了稳定的内存使用。

Omni-Safety under Cross-Modality Conflict: Vulnerabilities, Dynamics Mechanisms and Efficient Alignment

跨模态冲突下的全方位安全：漏洞、动态机制和高效对齐

Kun Wang, Zherui Li, Zhenhong Zhou, Yitong Zhang, Yan Mi, Kun Yang, Yiming Zhang, Junhao Dong, Zhongxiang Sun, Qiankun Li, Yang Liu

机构 * Nanyang Technological University（南洋理工大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Tsinghua University（清华大学） ； Fudan University（复旦大学） ； University of Science and Technology of China（中国科学技术大学） ； Renmin University of China（中国人民大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出OmniSteer方法，通过提取黄金拒绝向量和轻量级适配器提升多模态模型的安全性与通用能力。

Generative Prompt Internalization

生成性提示内化

Haebin Shin, Lei Ji, Yeyun Gong, Sungdong Kim, Eunbi Choi, Minjoon Seo

机构 * KAIST AI（韩国科学技术院人工智能研究所） ； Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 生成性提示内化通过联合训练方法实现复杂提示的内化，减少计算开销并提升模型性能。

Comments NAACL 2025 (Main Conference)

Journal ref NAACL 2025

MoEEdit: Efficient and Routing-Stable Knowledge Editing for Mixture-of-Experts LLMs

MoEEdit: 高效且路由稳定的知识编辑用于专家混合语言模型

Yupu Gu, Rongzhe Wei, Andy Zhu, Pan Li

机构 * Tsinghua University（清华大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 MoEEdit提出一种高效且路由稳定的知识编辑方法，用于稀疏混合专家语言模型，通过空空间投影和块坐标下降求解器实现高效率和稳定性。

Meta Context Engineering via Agentic Skill Evolution

通过代理技能进化实现元上下文工程

Haoran Ye, Xuning He, Vincent Arak, Haonan Dong, Guojie Song

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出元上下文工程（MCE），通过代理技能进化提升上下文优化效果，实现更灵活的上下文生成与适应性。

Comments 46 pages, 4 figures

SeeDNorm: Self-Rescaled Dynamic Normalization

SeeDNorm: 自适应动态归一化

Wenrui Cai, Defa Zhu, Qingjie Liu, Qiyang Min

机构 * School of Computer Science and Engineering, Beihang University（计算机科学与工程学院，北航大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SeeDNorm通过动态调整缩放系数提升模型表示能力，在保持输入范数信息的同时实现自适应动态归一化，有效提升大语言模型及计算机视觉任务的性能。

Comments Accepted to ICLR 2026, 32 pages, 14 figures, 18 tables

DiffuTester: Accelerating Unit Test Generation for Diffusion LLMs via Mining Structural Pattern

DiffuTester: 通过挖掘结构模式加速扩散大语言模型的单元测试生成

Lekang Yang, Yuetong Liu, Yitong Zhang, Jia Li

机构 * College of AI, Tsinghua University（清华大学人工智能学院） ； School of Software, Beihang University（北航软件学院） ； School of Computer Science and Engineering, Beihang University（北航计算机科学与工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 DiffuTester通过挖掘结构模式提升扩散大语言模型在单元测试生成中的效率，实现高质量测试用例生成。

Comments Update format and add some experimental results

AFD-SLU: Adaptive Feature Distillation for Spoken Language Understanding

AFD-SLU: 适应性特征蒸馏用于语音语言理解

Yan Xie, Yibo Cui, Liang Xie, Erwei Yin

机构 * School of Advanced Manufacturing and Robotics（先进制造与机器人学院） ； Peking University（北京大学） ； National Institute of Defense Technology Innovation（国防科技创新国家研究院） ； Academy of Military Sciences（军事科学院） ； Tianjin Artificial Intelligence Innovation Center（天津人工智能创新中心） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 AFD-SLU通过自适应特征蒸馏框架，将教师模型的语义表示转移到轻量级学生模型，提升语音语言理解的准确率与效率。

Comments Accepted to IEEE ICASSP 2026