语言大模型 / LLM

LASER: A Data-Centric Method for Low-Cost and Efficient SQL Rewriting based on SQL-GRPO

LASER: 一种数据驱动的低成本高效SQL重写方法基于SQL-GRPO

Jiahui Li, Tongwang Wu, Yuren Mao, Rong Kang, Tieying Zhang, Yunjun Gao

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 本文提出LASER，一种数据驱动的SQL重写方法，通过构建SQL-MCTS大规模语料库和SQL-GRPO专用对齐策略，提升小模型在SQL优化中的执行效率和零样本迁移能力。

Weakly Supervised Distillation of Hallucination Signals into Transformer Representations

弱监督蒸馏 hallucination 信号到 Transformer 表示

Shoaib Sadiq Salehmohamed, Jinal Prashant Thakkar, Hansika Aredla, Shaik Mohammed Omar, Shalmali Ayachit

机构 * LLM Lens 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出弱监督框架，通过子串匹配、句子嵌入相似性和LLM判官信号，无需人工标注即可标注生成响应是否 grounded 或 hallucinated，并通过五种探针分类器验证 hallucination 信号可被蒸馏到 Transformer 表示中。

Comments 20 pages, 6 figures, 6 tables. Introduces a 15k-sample representation-level hallucination dataset with full transformer hidden states and multi-signal weak supervision. Evaluates 5 probing architectures and demonstrates internal hallucination detection without external inference-time signals. Includes held-out test evaluation and deployment benchmarks

LongSpec: Long-Context Lossless Speculative Decoding with Efficient Drafting and Verification

LongSpec: 长上下文无损推测解码与高效草稿生成与验证

Penghui Yang, Cunxiao Du, Fengzhuo Zhang, Haonan Wang, Tianyu Pang, Chao Du, Bo An

机构 * Sea AI Lab（Sea AI实验室） ； Nanyang Technological University（南洋理工大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 LongSpec通过三种创新解决长上下文场景下的推测解码问题，实现3.26倍速度提升和2.25倍时间减少，适用于长上下文理解任务。

Comments Accepted by ACL'25 (Main)

Computer Environments Elicit General Agentic Intelligence in LLMs

计算机环境在大语言模型中激发通用代理智能

Daixuan Cheng, Shaohan Huang, Yuxian Gu, Huatong Song, Guoxin Chen, Li Dong, Wayne Xin Zhao, Ji-Rong Wen, Furu Wei

机构 * GSAI, Renmin University of China（中国人民大学高瓴人工智能学院） ； Microsoft Research（微软研究院） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(abstract,comments)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了计算机环境如何通过虚拟沙盒激发大语言模型的通用能力，展示了环境对任务解决的提升效果及训练方法。

Comments Project Page: https://llm-in-sandbox.github.io

Select-then-Solve: Paradigm Routing as Inference-Time Optimization for LLM Agents

选择后再解决：作为大语言模型代理推理时间优化的范式路由

Heng Zhou, Zelin Tan, Zhemeng Zhang, Yutao Fan, Yibing Lin, Li Kang, Xiufeng Song, Rui Li, Songtao Huang, Ao Yu, Yuchen Fan, Yanxu Chen, Kaixin Xu, Xiaohong Liu, Yiran Qin, Philip Torr, Chen Zhang, Zhenfei Yin

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL

AI总结 研究通过比较六种推理范式在四个前沿LLM和十个基准上的表现，发现推理结构对任务效果有显著影响，提出选择后再解决方法通过轻量级嵌入路由提升任务准确性。

Foundry: Template-Based CUDA Graph Context Materialization for Fast LLM Serving Cold Start

Foundry：基于模板的CUDA图上下文材料化用于快速LLM服务冷启动

Xueshen Liu, Yongji Wu, Yuncheng Yao, Danyang Zhuo, Ion Stoica, Z. Morley Mao

机构 * University of Michigan（密歇根大学） ； UC Berkeley（加州大学伯克利分校） ； Duke（杜克大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 Foundry通过模板化CUDA图上下文材料化，减少LLM服务冷启动延迟，提升启动速度并保持吞吐量。

VLMShield: Efficient and Robust Defense of Vision-Language Models against Malicious Prompts

VLMShield: 有效且稳健的视觉语言模型对抗恶意提示防御

Peigui Qi, Kunsheng Tang, Yanpu Yu, Jialin Wu, Yide Song, Wenbo Zhou, Zhicong Huang, Cheng Hong, Weiming Zhang, Nenghai Yu

机构 * University of Science and Technology of China（中国科学技术大学） ； University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 本文提出VLMShield，通过多模态聚合特征提取框架提升视觉语言模型对恶意提示的防御能力，实验显示其在鲁棒性、效率和实用性方面表现优异。

Visual prompting reimagined: The power of the Activation Prompts

视觉提示重新想象：激活提示的威力

Yihua Zhang, Hongkang Li, Yuguang Yao, Aochuan Chen, Shuai Zhang, Pin-Yu Chen, Meng Wang, Sijia Liu

机构 * Michigan State University（密歇根州立大学） ； University of Pennsylvania（宾夕法尼亚大学） ； New Jersey Institute of Technology（新泽西理工学院） ； IBM Research（IBM研究院） ； Rensselaer Polytechnic Institute（伦斯勒理工学院） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；分类 cs.LG

AI总结 本文提出激活提示（AP）以改进视觉提示（VP），通过在中间层激活图上引入通用扰动，揭示VP在性能和效率上的固有局限，并在29个数据集上验证AP在准确性和效率上的优势。

Comments AISTATS 2026

AHCQ-SAM: Toward Accurate and Hardware-Compatible Post-Training Segment Anything Model Quantization

AHCQ-SAM：迈向准确且兼容硬件的后训练分割任何模型量化

Wenlun Zhang, Yunshan Zhong, Weiqi Yan, Shengchuan Zhang, Shimpei Ando, Kentaro Yoshioka

机构 * Department of Electronics and Electrical Engineering, Keio University（庆应义塾大学电子与电气工程系） ； School of Computer Science and Technology, Hainan University（海南大学计算机科学与技术学院） ； Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China, Xiamen University（厦门大学多媒体可信感知与高效计算教育部重点实验室） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；分类 cs.LG

AI总结 本文提出AHCQ-SAM框架，通过四种协同组件解决SAM量化中的关键挑战，实现在4位SAM-B和SAM2-Tiny上的mAP和J&F指标提升，并在FPGA上验证了其硬件兼容性和能效优势。

Comments Update to AHCQ-SAM

SpecQuant: Spectral Decomposition and Adaptive Truncation for Ultra-Low-Bit LLMs Quantization

SpecQuant：基于频域分解和自适应截断的超低比特LLM量化

Zhixiong Zhao, Fangxin Liu, Junjie Wang, Chenyang Guan, Zongwu Wang, Li Jiang, Haibing Guan

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SpecQuant框架，通过频域分解和自适应截断实现超低比特LLM量化，提升模型压缩效率与精度，实现4比特量化，准确率损失仅1.5%，推理速度提升2倍，内存使用降低3倍。

Comments Accepted at AAAI 2026

UI-AGILE: Advancing GUI Agents with Effective Reinforcement Learning and Precise Inference-Time Grounding

UI-AGILE: 通过有效的强化学习和精确的推理时间接地提升GUI代理

Shuquan Lian, Yuhang Wu, Jia Ma, Yifan Ding, Zihan Song, Bingqi Chen, Xiawu Zheng, Hui Li, Rongrong Ji

机构 * Sino-Russian Research Center for Digital Economy（中俄数字经济研究中心） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

AI总结 UI-AGILE通过改进监督微调过程和推理中的分解接地，提升了GUI代理的接地性能和通用能力，在ScreenSpot-Pro和ScreenSpot-v2基准上实现了最佳表现，地面准确率提升23%。

Scheduling the Unschedulable: Taming Black-Box LLM Inference at Scale

无法调度的调度：在大规模上驯服黑盒LLM推理

Renzhong Yuan, Yijun Zeng, Xiaosong Gao, Linxi Yu, Haochun Liao, Han Wang

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出了一种三层客户端分解方法，通过适应性DRR分配、可行集评分排序和过载控制，解决黑盒LLM推理调度问题，实现高完成率和准时率。

Comments 10 pages, 8 figures. Code and reproduction artifacts available upon request

Beyond End-to-End: Dynamic Chain Optimization for Private LLM Adaptation on the Edge

超越端到端：面向边缘的私有大语言模型适应的动态链优化

Yebo Wu, Jingguang Li, Chunlin Tian, Kahou Tam, Zhijiang Guo, Li Li

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出动态链联邦微调方法，通过分层训练冻结过程提升边缘设备上大语言模型的适应性能，实验表明其在多个基准上平均准确率提升达46.46%。

Comments Accepted by ACL 2026

AudioKV: KV Cache Eviction in Efficient Large Audio Language Models

AudioKV: 在高效大音频语言模型中实现KV缓存淘汰

Yuxuan Wang, Peize He, Xiyan Gui, Xiaoqian Liu, Junhao He, Xuyang Liu, Zichen Wen, Xuming Hu, Linfeng Zhang

机构 * EPIC Lab, Shanghai Jiao Tong University（上海交通大学EPIC实验室） ； Xidian University（西安电子科技大学） ； HKUST (GZ)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出AudioKV框架，通过硬件友好的语义-音频对齐机制优先处理音频关键注意力头，结合Spectral Score Smoothing技术提升缓存效率，实验表明其在压缩比40%时保持高精度。

Multi-Turn Reasoning LLMs for Task Offloading in Mobile Edge Computing

面向移动边缘计算的任务卸载的多轮推理LLM

Ning Yang, Chuangxin Cheng, Haijun Zhang

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Machano-Electronic Engineering, Xidian University（西安电子科技大学机电工程学院） ； School of Computer and Communication Engineering, University of Science and Technology Beijing（北京科技大学计算机与通信工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.LG

AI总结 本文提出COMLLM框架，通过整合GRPO与LACS机制，实现移动边缘计算中的前瞻性决策，提升任务卸载效率与负载均衡公平性，支持零样本拓扑扩展。

FBS: Modeling Native Parallel Reading inside a Transformer

FBS：在Transformer中建模原生并行阅读

Tongxi Wang

机构 * Southeast University（东南大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 FBS通过引入Parafovea-Attention Window、Chunk-Head和Skip-Gate模块，改进了Transformer的推理效率与质量平衡，无需增加参数。

Comments Accept to ACL2026 as findings

ForkKV: Scaling Multi-LoRA Agent Serving via Copy-on-Write Disaggregated KV Cache

ForkKV: 通过写时复制的 disaggregated KV 缓存实现多LoRA代理服务的扩展

Shao Wang, Rui Ren, Lin Gui

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 ForkKV通过写时复制机制解耦KV缓存，解决多LoRA代理服务中的内存瓶颈问题，提升吞吐量3倍且不影响生成质量。

STDec: Spatio-Temporal Stability Guided Decoding for dLLMs

STDec：基于时空稳定性的解码方法用于dLLMs

Yuzhe Chen, Jiale Cao, Xuyang Liu, Jin Xie, Aiping Yang, Yanwei Pang

机构 * Tianjin University（天津大学） ； Sichuan University（四川大学） ； Chongqing University（重庆大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 STDec通过结合空间和时间稳定性，改进dLLM解码，提升吞吐量并保持性能。

Comments Homepage: https://yzchen02.github.io/STDec

NativeTernary: A Self-Delimiting Binary Encoding with Unary Run-Length Hierarchy Markers for Ternary Neural Network Weights, Structured Data, and General Computing Infrastructure

NativeTernary: 一种带有 unary 运行长度层级标记的自限二进制编码，用于三进制神经网络权重、结构化数据和通用计算基础设施

Maharshi Savdhariya

机构 * Indian Institute of Technology Bombay（印度理工学院孟买分校） ； IIM Udaipur（印度管理学院乌代浦尔分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 NativeTernary 提出了一种自限二进制编码，用于三进制神经网络权重和结构化数据，相比 GGUF 在存储效率和性能上有显著提升。

Comments v2: benchmark results added. Real BitNet b1.58 2B4T architecture analysis: NativeTernary framing overhead 460x smaller than GGUF tensor headers (91 bytes vs 42KB). 1.31x smaller than GGUF Q2_K. C implementation: https://github.com/sm45118/nativeternary

RLBoost: Harvesting Preemptible Resources for Cost-Efficient Reinforcement Learning on LLMs

RLBoost: 为在大语言模型上高效强化学习利用可中断资源

Yongji Wu, Xueshen Liu, Haizhong Zheng, Juncheng Gu, Beidi Chen, Z. Morley Mao, Arvind Krishnamurthy, Ion Stoica

机构 * UC Berkeley（加州大学伯克利分校） ； University of Michigan（密歇根大学） ； Google（谷歌） ； CMU（卡内基梅隆大学） ； University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 RLBoost通过高效利用可中断GPU资源提升大语言模型强化学习的效率和成本效益，采用混合架构和三种关键技术实现状态less和 embarrassingly parallel的rollout阶段与可中断资源的匹配。

Probabilistic Language Tries: A Unified Framework for Compression, Decision Policies, and Execution Reuse

概率语言树：压缩、决策策略和执行重用的统一框架

Gregory Magarshak

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出概率语言树（PLTs），通过显式表示生成模型隐含定义的前缀结构，实现最优无损压缩、序列决策问题的策略表示以及记忆化索引。核心成果是指导缓存定理，证明PLT缓存在查询次数低于阈值时具有更低的预期推理成本。

Comments 24 pages, 2 figures

FP4 Explore, BF16 Train: Diffusion Reinforcement Learning via Efficient Rollout Scaling

FP4探索，BF16训练：通过高效的回放缩放实现扩散强化学习

Yitong Li, Junsong Chen, Shuchen Xue, Pengcuo Zeren, Siyuan Fu, Dinghao Yang, Yangyang Tang, Junjie Bai, Ping Luo, Song Han, Enze Xie

机构 * NVIDIA（英伟达） ； HKU（香港大学） ； MIT（麻省理工学院） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Sol-RL框架，通过FP4量化与BF16训练结合，提升扩散模型的对齐性能，实现训练效率与精度的平衡，实验显示在多个指标上表现优异，训练收敛速度提升4.64倍。

Efficient Quantization of Mixture-of-Experts with Theoretical Generalization Guarantees

高效混合专家模型的量化方法及其理论泛化保证

Mohammed Nowaz Rabbani Chowdhury, Kaoutar El Maghraoui, Hsinyu Tsai, Naigang Wang, Geoffrey W. Burr, Liu Liu, Meng Wang

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） ； IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于专家路由L2范数变化的混合精度量化策略，提升大模型推理精度与效率，减少内存开销。

Journal ref The Fourteenth International Conference on Learning Representations, 2026

Self-Distilled RLVR

自蒸馏强化学习验证奖励

Chenxu Yang, Chuanyu Qin, Qingyi Si, Minghui Chen, Naibin Gu, Dingyu Yao, Zheng Lin, Weiping Wang, Jiaqi Wang, Nan Duan

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出RLSD方法，结合自蒸馏和RLVR，通过自蒸馏获取token级策略差异以确定细粒度更新幅度，同时利用RLVR获取环境反馈的可靠更新方向，提升收敛性和稳定性。

Comments Work in progress

MARS: Enabling Autoregressive Models Multi-Token Generation

MARS：使自回归模型实现多令牌生成

Ziqi Jin, Lei Wang, Ziwei Luo, Aixin Sun

机构 * Nanyang Technological University（南洋理工大学） ； Singapore Management University（新加坡管理大学） ； Uppsala University（乌普萨拉大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 MARS通过轻量级微调方法，使自回归模型在单次前向传递中生成多个令牌，提升生成效率和吞吐量，同时保持模型性能。

Comments 15 pages, 4 fugures

Does a Global Perspective Help Prune Sparse MoEs Elegantly?

从全局视角帮助优雅地剪枝稀疏MoEs吗？

Zeliang Zhang, Nikhil Ghosh, Jiani Liu, Bin Yu, Xiaodong Liu

机构 * University of Rochester（罗切斯特大学） ； Flatiron Institute（熨斗研究所） ； University of California, Berkeley（加州大学伯克利分校） ； Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 本文提出GRAPE方法，通过动态分配剪枝预算提升稀疏MoEs的效率，实验表明其在多个模型上均取得最佳性能。

Harnessing Hyperbolic Geometry for Harmful Prompt Detection and Sanitization

利用双曲几何进行有害提示检测与净化

Igor Maljkovic, Maria Rosaria Briglia, Iacopo Masi, Antonio Emanuele Cinà, Fabio Roli

机构 * University of Genoa（热那亚大学） ； Sapienza University of Rome（罗马大学） ； University of Cagliari（卡利亚里大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 本文提出HyPE和HyPS方法，利用双曲几何空间检测和净化有害提示，提升视觉语言模型的安全性与鲁棒性。

Comments Paper accepted at ICLR 2026. Webpage available at: https://hype-vlm.github.io

Space Filling Curves is All You Need: Communication-Avoiding Matrix Multiplication Made Simple

空间填充曲线足矣：一种简化且高效的通信避免矩阵乘法方法

Evangelos Georganas, Alexander Heinecke, Pradeep Dubey

机构 * Intel Corporation（英特尔公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 本文通过空间填充曲线技术简化了矩阵乘法，实现了平台和矩阵形状无关的高效计算，减少了数据传输并提升了性能，应用于LLM推理和分布式矩阵乘法中取得了显著加速。

LaScA: Language-Conditioned Scalable Modelling of Affective Dynamics

LaScA：语言条件下的可扩展情感动态建模

Kosmas Pinitas, Ilias Maglogiannis

机构 * University of Piraeus（比雷埃夫斯大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 本文提出LaScA框架，利用语言模型作为语义上下文条件器，结合手工制作的情感描述符建模情感变化，通过可解释的面部和声音特征提升预测准确性。

Comments This paper has been accepted at the CVPR 2026 Workshop on Affective Behavior Analysis in-the-wild (ABAW)

Motion Focus Recognition in Fast-Moving Egocentric Video

眼动视频中运动聚焦识别

Si-En Hong, James Tribble, Alexander Lake, Hao Wang, Chaoyi Zhou, Ashish Bastola, Siyu Huang, Eisa Chaudhary, Brian Canada, Ismahan Arslan-Ari, Abolfazl Razi

机构 * Clemson University（克莱姆森大学） ； University of South Carolina Beaufort（南卡罗来纳大学博福特分校） ； University of South Carolina（南卡罗来纳大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 本文提出一种实时运动聚焦识别方法，通过相机姿态估计基础模型和系统级优化，实现对眼动视频中主体运动意图的估计，适用于边缘部署的运动分析。