语言大模型 / LLM

SparseSwaps: Tractable LLM Pruning Mask Refinement at Scale

稀疏交换：在大规模上可计算的LLM剪枝掩码细化

Max Zimmer, Christophe Roux, Moritz Wagner, Deborah Hendrych, Sebastian Pokutta

机构 * Department for AI in Society, Science, and Technology, Zuse Institute Berlin, Germany（人工智能与社会、科学与技术部门，柏林Zuse研究所，德国） ； Institute of Mathematics, Technische Universität Berlin, Germany（数学研究所，柏林技术大学，德国） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 稀疏交换通过高效算法在大规模LLM中优化剪枝掩码，显著降低剪枝误差并提升模型性能。

Comments 13 pages, 2 figures, 5 tables

StefaLand: An Efficient Geoscience Foundation Model That Improves Dynamic Land-Surface Predictions

StefaLand：一种高效的地球科学基础模型，提升动态陆地表层预测

Nicholas Kraabel, Jiangtao Liu, Yuchen Bian, Daniel Kifer, Chaopeng Shen

机构 * Department of Civil and Environmental Engineering, The Pennsylvania State University, University Park, PA 16802-1408, USA（土木与环境工程系，宾夕法尼亚州立大学，University Park分校） ； Department of Computer Science and Engineering, The Pennsylvania State University, University Park, PA 16802-1408, USA（计算机科学与工程系，宾夕法尼亚州立大学，University Park分校） ； Amazon.com, Inc.（亚马逊公司） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 StefaLand是一种通过学习跨域交互提升动态陆地表层预测的高效地球科学基础模型，具备强空间泛化能力和低计算需求。

VoxServe: Streaming-Centric Serving System for Speech Language Models

VoxServe：面向语音语言模型的流式服务系统

Keisuke Kamahori, Wei-Tzu Lee, Atindra Jha, Rohan Kadekodi, Stephanie Wang, Arvind Krishnamurthy, Baris Kasikci

机构 * University of Washington（华盛顿大学） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 VoxServe是一种面向语音语言模型的流式服务系统，通过模型执行抽象和流式感知调度提高吞吐量和流式传输性能。

Comments The code is available at https://github.com/vox-serve/vox-serve

Reversible Diffusion Decoding for Diffusion Language Models

可逆扩散解码用于扩散语言模型

Xinyun Wang, Min Zhang, Sen Cui, Zhikang Chen, Bo Jiang, Kun Kuang, Mingbao Lin

机构 * East China Normal University（华东师范大学） ； Tsinghua University（清华大学） ； Zhejiang University（浙江大学） ； University of Oxford（牛津大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 可逆扩散解码通过引入可逆性，提升扩散语言模型生成的鲁棒性和质量，同时保持并行效率。

Diffusion Language Model Inference with Monte Carlo Tree Search

扩散语言模型推理中的蒙特卡洛树搜索

Zheng Huang, Kiran Ramnath, Yueyan Chen, Aosong Feng, Sangmin Woo, Balasubramaniam Srinivasan, Zhichao Xu, Kang Zhou, Shuai Wang, Haibo Ding, Lin Lee Cheong

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 MEDAL通过蒙特卡洛树搜索初始化提升扩散语言模型推理质量，实现生成质量随搜索预算提升而改进，无需额外训练。

PRISM: Parametrically Refactoring Inference for Speculative Sampling Draft Models

PRISM: 参数化重构推理用于推测采样草案模型

Xuliang Wang, Yuetao Chen, Maochan Zhen, Fang Liu, Xinzhou Zheng, Xingwu Liu, Hong Xu, Ming Li

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 PRISM通过参数化重构推理方法，有效解耦模型容量与推理成本，提升LLM解码效率。

DRAINCODE: Stealthy Energy Consumption Attacks on Retrieval-Augmented Code Generation via Context Poisoning

DRAINCODE: 通过上下文污染对基于检索增强的代码生成进行隐秘的能量消耗攻击

Yanlin Wang, Jiadong Wu, Tianyue Jiang, Mingwei Liu, Jiachi Chen, Chong Wang, Ensheng Shi, Xilin Liu, Yuchi Ma, Zibin Zheng

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 DrainCode通过上下文污染攻击，显著增加LLM的延迟和能耗，揭示了RAG代码生成系统在安全性和资源约束下的潜在风险。

Comments 16 pages, 4 figures

Self-Rewarding Sequential Monte Carlo for Masked Diffusion Language Models

自奖励序列蒙特卡洛方法用于掩码扩散语言模型

Ziwei Luo, Ziqi Jin, Lei Wang, Lidong Bing, Thomas B. Schön

机构 * Uppsala University, Sweden（乌普萨拉大学，瑞典） ； Nanyang Technological University, Singapore（南洋理工大学，新加坡） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 本文提出自奖励序列蒙特卡洛方法，用于提升掩码扩散语言模型的采样质量，通过引入轨迹级置信度信号改进生成多样性。

Comments Project page: https://algolzw.github.io/sr-smc

Quantized-Tinyllava: a new multimodal foundation model enables efficient split learning

量化-小TinyLLaVA：一种新的多模态基础模型实现了高效的分裂学习

Jiajun Guo, Xin Luo, Jiayin Zheng, Yiqun Wang, Kai-Wei Chang, Wei Wang, Jie Liu

机构 * Department of Statistics University of Michigan（统计学系密歇根大学） ； Department of Computational Medicine & Bioinformatics University of Michigan（计算医学与生物信息学系密歇根大学） ； Department of Biostatistics University of Michigan（生物统计学系密歇根大学） ； Department of Computer Science University of California, Los Angeles（计算机科学系加州大学洛杉矶分校） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 Quantized-TinyLLaVA通过量化压缩和高效分裂学习框架，在减少通信开销的同时保持模型性能，提升隐私保护能力。

CCF: A Context Compression Framework for Efficient Long-Sequence Language Modeling

CCF：一种用于高效长序列语言建模的上下文压缩框架

Wenhao Li, Bangcheng Sun, Weihao Ye, Tianyi Zhang, Daohai Yu, Fei Chao, Rongrong Ji

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 CCF通过层次化潜在表示和高效优化策略，实现高效长上下文语言建模，提升吞吐量和内存效率。

Comments The quality of this paper is low

Formal Semantic Control over Language Models

语言模型的正式语义控制

Yingji Zhang

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本研究通过VAE框架，探索了在潜在空间中解构语义特征以提升语言模型的可解释性和可控性。

Window-Diffusion: Accelerating Diffusion Language Model Inference with Windowed Token Pruning and Caching

窗口扩散：通过窗口化令牌修剪和缓存加速扩散语言模型推理

Fengrui Zuo, Zhiwei Ke, Yiming Liu, Wenqi Lou, Chao Wang, Xuehai Zhou

机构 * School of Computer Science and Technology, University of Science and Technology of China（计算机科学与技术学院，中国科学技术大学） ； Suzhou Institute of Advanced Research, University of Science and Technology of China（苏州先进研究院，中国科学技术大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 Window-Diffusion通过窗口化令牌修剪和缓存技术，显著提升扩散语言模型推理速度，同时保持生成性能。

EAQuant: Enhancing Post-Training Quantization for MoE Models via Expert-Aware Optimization

EAQuant: 通过专家意识优化提升MoE模型的后训练量化

Zhongqian Fu, Tianyi Zhao, Ning Ding, Xianzhi Yu, Xiaosong Li, Yehui Tang, Yunhe Wang

机构 * Huawei Noah's Ark Lab（华为诺亚实验室） ； Beihang University（北航大学） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；分类 cs.CL

AI总结 EAQuant通过专家意识优化创新，提升MoE模型在超低比特下的高精度量化性能，显著优于现有方法。

CAPA: Contribution-Aware Pruning and FFN Approximation for Efficient Large Vision-Language Models

CAPA：面向高效大视觉-语言模型的贡献感知剪枝与FFN近似

Samyak Jha, Junho Kim

机构 * Indian Institute of Technology (ISM) Dhanbad, India（印度理工学院（ISM）达翰巴德分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 CAPA通过贡献感知剪枝和FFN近似，提升大视觉-语言模型的效率与鲁棒性。

AnyBCQ: Hardware Efficient Flexible Binary-Coded Quantization for Multi-Precision LLMs

AnyBCQ: 面向多精度大语言模型的硬件高效灵活二进制编码量化

Gunho Park, Jeongin Bae, Beomseok Kwon, Byeongwook Kim, Se Jung Kwon, Dongsoo Lee

机构 * NAVER Cloud（NAVER云） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 AnyBCQ通过硬件高效灵活的二进制编码量化技术，实现多精度大语言模型在准确性和效率之间的平衡，显著提升低精度下的准确性并提高吞吐量。

Comments ICLR 2026

Draft-based Approximate Inference for LLMs

基于草案的近似推理用于大语言模型

Kevin Galim, Ethan Ewer, Wonjun Kang, Minjae Lee, Hyung Il Koo, Kangwook Lee

机构 * FuriosaAI ； UW-Madison（威斯康星大学麦迪逊分校） ； Seoul National University（首尔国立大学） ； Ajou University（全州大学） ； KRAFTON 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于草案的近似推理方法，通过结合lookahead技术和小模型预测，实现更精确的KV缓存丢弃和提示压缩，提升LLM在长上下文任务中的推理效率和准确性。

Comments Accepted to ICLR 2026

Journal ref ICLR 2026

EntroPIC: Towards Stable Long-Term Training of LLMs via Entropy Stabilization with Proportional-Integral Control

EntroPIC: 通过比例-积分控制实现LLM长期训练的稳定性

Kai Yang, Xin Xu, Yangkun Chen, Weijie Liu, Jiafei Lyu, Zichuan Lin, Deheng Ye, Saiyong Yang

机构 * Tencent Hunyuan（腾讯文言） ； The Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EntroPIC通过比例-积分控制实现LLM长期训练的熵稳定，提升探索效率和训练稳定性。

DuFFin: A Dual-Level Fingerprinting Framework for LLMs IP Protection

DuFFin：一种用于LLM知识产权保护的双层指纹框架

Yuliang Yan, Haochun Tang, Shuo Yan, Enyan Dai

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； Jilin University（吉林大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 DuFFin通过双层指纹框架在黑盒环境下实现LLM知识产权验证，准确识别模型来源并达到高验证精度。

Comments Accepted by EACL 2026, Findings

RaZeR: Pushing the Limits of NVFP4 Quantization with Redundant Zero Remapping

RaZeR: 推动NVFP4量化极限的冗余零重映射

Yuzong Chen, Xilai Dai, Jake Hyun, Chi-Chih Chang, Wonsuk Jang, Yuheng Wu, Thierry Tambe, Jae-sun Seo, Mohamed S. Abdelfattah

机构 * Cornell（康奈尔大学） ； CornellCS（康奈尔大学计算机科学系） ； Stanford（斯坦福大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 RaZeR通过冗余零重映射提升NVFP4量化精度，降低LLM推理的困惑度损失。

Comments Preprint. Under review

3D Foundation Model-Based Loop Closing for Decentralized Collaborative SLAM

基于3D基础模型的分布式协作SLAM中的回环闭合

Pierre-Yves Lajoie, Benjamin Ramtoula, Daniele De Martini, Giovanni Beltrame

机构 * Department of Computer and Software Engineering, Polytechnique Montréal（计算机与软件工程系，蒙特利尔理工学院） ； Oxford Robotics Institute, Dept. of Engineering Science, University of Oxford（牛津大学机器人研究所，工程科学系） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出基于3D基础模型的分布式协作SLAM回环闭合方法，通过整合基础模型提升多机器人建图的鲁棒性和效率。

Tail-Aware Post-Training Quantization for 3D Geometry Models

面向尾部的训练后量化用于3D几何模型

Sicheng Pan, Chen Tang, Shuzhao Xie, Ke Yang, Weixiang Zhang, Jiawei Li, Bin Chen, Shu-Tao Xia, Zhi Wang

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University, Shenzhen, China（清华大学深圳国际研究生院，清华大学，深圳，中国） ； MMLab, The Chinese University of Hong Kong, Hong Kong, China（MMLab，香港中文大学，香港，中国） ； Harbin Institute of Technology Shenzhen, China（哈尔滨工业大学深圳，中国） ； Huawei Technology, Shenzhen, China（华为技术，深圳，中国） 纠错

专题命中 效率与部署 ：post-training(title,abstract)

AI总结 TAPTQ通过面向尾部的训练后量化方法，提升3D几何模型的部署效率和准确性。

Attention-weighted Centered Kernel Alignment for Knowledge Distillation in Large Audio-Language Models Applied to Speech Emotion Recognition

基于注意力加权中心核对齐的知识蒸馏：用于大音频-语言模型的语音情感识别

Qingran Yang, Botao Zhao, Zuheng Kang, Xue Li, Yayun He, Chuhang Liu, Xulong Zhang, Xiaoyang Qu, Junqing Peng, Jianzong Wang

机构 * Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 PL-Distill通过结合投影层和输出层蒸馏方法，有效压缩大音频-语言模型并提升语音情感识别性能。

Comments Accepted to 2026 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2026)

Koo-Fu CLIP: Closed-Form Adaptation of Vision-Language Models via Fukunaga-Koontz Linear Discriminant Analysis

Koo-Fu CLIP：通过Fukunaga-Koontz线性判别分析实现视觉语言模型的闭式适应

Matej Suchanek, Klara Janouskova, Ondrej Vasatko, Jiri Matas

机构 * Visual Recognition Group（视觉识别组） ； Department of Cybernetics（cybernetics系） ； Faculty of Electrical Engineering（电气工程系） ； Czech Technical University in Prague（布拉格捷克技术大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 Koo-Fu CLIP通过Fukunaga-Koontz线性判别分析实现视觉语言模型的闭式适应，提升类别分离性和降维效率，实现高效的大规模分类与检索。

Distill3R: A Pipeline for Democratizing 3D Foundation Models on Commodity Hardware

Distill3R: 一种在通用硬件上普及3D基础模型的流水线

Brandon Leblanc, Charalambos Poullis

机构 * Immersive and Creative Technologies Lab（沉浸与创意技术实验室） ； Concordia University（康科迪亚大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 Distill3R通过压缩蒸馏技术，在通用硬件上实现3D基础模型的高效训练，使实验室能以低成本进行3D视觉研究与部署。

Comments Submitted to the Canadian Conference on Robotics and Vision (CRV). 10 pages, 5 figures

SAGE: Accelerating Vision-Language Models via Entropy-Guided Adaptive Speculative Decoding

SAGE：通过熵引导的自适应推测解码加速视觉-语言模型

Yujia Tong, Tian Zhang, Yunyang Wan, Kaiwei Lin, Jingling Yuan, Chuang Hu

机构 * School of Computer Science（计算机科学学院） ； Artificial Intelligence, Wuhan University of Technology, Hubei 430070, China（人工智能，武汉科技大学，湖北430070，中国） ； School of Computer Science, Wuhan University, Hubei 430072, China（计算机科学学院，武汉大学，湖北430072，中国） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 SAGE通过熵引导的自适应推测解码方法，动态调整树结构以提高视觉-语言模型的解码速度，实现高达3.36倍的加速效果。

CASE -- Condition-Aware Sentence Embeddings for Conditional Semantic Textual Similarity Measurement

CASE -- 基于条件的句子嵌入用于条件语义文本相似性度量

Gaifan Zhang, Yi Zhou, Danushka Bollegala

机构 * University of Liverpool（利物浦大学） ； Cardiff University（卡迪夫大学） ； Amazon（亚马逊） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 CASE通过条件感知嵌入方法提升基于LLM的文本在条件语义相似性任务中的表现。

Comments Accepted to EACL2026

Autoregressive, Yet Revisable: In Decoding Revision for Secure Code Generation

自回归 yet 可修订：在解码修订中实现安全代码生成

Chengran Yang, Zichao Wei, Heminghao Deng, Jinfeng Jiang, Zhensu Sun, Ting Zhang, Tianyi Wu, Ming Wen, David Lo

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出“修订流”范式，通过引入特定操作令牌实现代码生成的动态自我纠正，有效减少安全代码生成中的漏洞。

Verification Required: The Impact of Information Credibility on AI Persuasion

验证所需：信息可信度对AI说服力的影响

Saaduddin Mahmud, Eugene Bagdasarian, Shlomo Zilberstein

机构 * Manning College of Information and Computer Sciences, University of Massachusetts Amherst, Massachusetts, USA（信息与计算机科学学院，马萨诸塞大学阿默斯特分校，马萨诸塞州，美国） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究提出MixTalk游戏模型，通过验证与不可验证声明的结合，探讨信息可信度对AI说服力的影响，并提出TOPD方法提升接收者鲁棒性。

Comments 19 pages, 5 figures

Exploration of Unary Arithmetic-Based Matrix Multiply Units for Low Precision DL Accelerators

一元算术运算基矩阵乘法单元的探索用于低精度深度学习加速器

Prabhu Vellaisamy, Harideep Nair, Di Wu, Shawn Blanton, John Paul Shen

机构 * Department of Electrical and Computer Engineering, University of Central Florida（电气与计算机工程系，中央佛罗里达大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨了单元GEMM在低精度深度学习加速器中的应用，通过对比三种最新设计评估其性能与优化点。

Journal ref 2024 IEEE Computer Society Annual Symposium on VLSI (ISVLSI)

Efficient Thought Space Exploration Through Strategic Intervention

通过战略干预实现高效思维空间探索

Ziheng Li, Hengyi Cai, Xiaochi Wei, Yuchen Li, Shuaiqiang Wang, Zhi-Hong Deng, Dawei Yin

机构 * Baidu（百度） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 HPR框架通过战略干预减少计算成本，在保持高准确率的同时实现高效推理。

Comments AAAI 2026