语言大模型 / LLM

TriSP: Tri-Signal Structured Pruning for Large Language Models

TriSP：用于大语言模型的三信号结构化剪枝

Manel Kara laoua, Soumia Bouyahiaoui, Aicha Boutorh

机构 * National School of Artificial Intelligence (ENSIA)（国家人工智能学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 研究针对大语言模型部署受参数成本限制问题，提出TriSP方法，结合权重幅度、激活范数与梯度敏感性产生通道级分数，联合自适应预算分配和低秩适应恢复，实现低困惑度、高零样本准确率及高推理吞吐量。

Keyword Matters: Unveiling the Energy Sensitivity of On-Device LLM Prompting

关键词很重要：揭示设备端大语言模型提示的能量敏感性

Ruiyi Tao, Xiaolong Tu, Haoxin Wang

机构 * Georgia State University（佐治亚州立大学） 纠错

专题命中 效率与部署 ：LLM(title)；prompting(title)；large language model(abstract)；language model(abstract)

AI总结 研究设备端大语言模型提示措辞与能耗关系，通过在智能手机上收集功率测量数据，量化语言特征对解码长度和总能量的影响，发现提示工程是提高能效的有效手段。

EasyOPD: An Easy-to-use On-Policy Distillation Framework for Large Language Models

EasyOPD：一种易于使用的大语言模型在线策略蒸馏框架

Jie Sun, Mao Zheng, Mingyang Song, Qiyong Zhong, Gengsheng Li, Zhepei Hong, Chang Wu, Pengfei Liu, Junfeng Fang, Xiang Wang

机构 * University of Science and Technology of China（中国科学技术大学） ； Tencent（腾讯） ； Shanghai Innovation Institute（上海创新研究院） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 研究针对传统语言模型蒸馏问题，提出基于verl构建的EasyOPD框架，分离用户配置等，为三种OPD设置实例化方法，经多基准测试，其实现可通过同一后端执行，还发布了相关配置、文档及演示包。

Comments 10 pages, 2 figures

TOLiD: Bridging the Architecture Gap in Vision Foundation Model to LiDAR Pretraining via Token Lifting for Distillation

TOLiD：通过用于蒸馏的令牌提升弥合视觉基础模型与激光雷达预训练之间的架构差距

Sutharsan Mahendran, Darshana Priyasad, Kaushik Roy, Tharindu Fernando, Sridha Sridharan, Clinton Fookes, Peyman Moghadam

机构 * SAIVT Group, School of Electrical Engineering and Robotics, Queensland University of Technology（澳大利亚昆士兰科技大学电气工程与机器人学院SAIVT组） ； CSIRO Robotics, CSIRO（澳大利亚联邦科学与工业研究组织机器人部） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；pretraining(title,abstract)；分类 cs.LG

AI总结 研究提出TOLiD方法，通过耦合激光雷达主干与从冻结VFM教师初始化的学生ViT，利用视锥体池化、注意力及掩码双线性采样等技术，解决模态和架构差距问题，在多数据集上评估显示能提升迁移效果。

Comments Accepted to The IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) 2026

Eigenvalue Calibration for Semantic Embeddings of Large Language Models

大语言模型语义嵌入的特征值校准

Sebastian G. Gruber, Nassim Walha, Francis Bach, Florian Buettner

机构 * KU Leuven（鲁汶大学） ； German Cancer Research Center (DKFZ)（德国癌症研究中心） ； German Cancer Consortium (DKTK)（德国癌症联盟） ； Goethe University Frankfurt（法兰克福歌德大学） ； PSL Research University / Inria（巴黎文理研究大学/法国国家信息与自动化研究所） ； Frankfurt Cancer Institute（法兰克福癌症研究所） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 针对大语言模型语义嵌入特征值校准问题，提出新框架，将其与生成答案的语义嵌入视为密度矩阵预测器，通过温度缩放校准，建立相关理论并经实验验证，推动语义嵌入不确定性量化发展。

SenseWalk: Agent-Based Semantic Trajectory Simulation Powered by Large Language Models in Zoned Environments

SenseWalk: 基于智能体的语义轨迹模拟——由大型语言模型在分区环境中驱动

Ziyue Lin, Xinhang Xie, Kangyi Wang, Siming Chen

机构 * School of Data Science, Fudan University（复旦大学数据科学学院） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出SenseWalk系统，结合大语言模型与社会力模型，通过智能体模拟语义轨迹，并提供用户界面以简化配置与分析，实验验证了其有效性和效率。

Comments 18 pages, 7 figures

DMuon: Efficient Distributed Muon Training with Near-Adam Overhead

DMuon: 高效分布式Muon训练，开销接近Adam

Vincent Chen, Starrick Liu, Regis Cheng, Dance Yang, Shalfun Li, Ryan Yu, Lucy Liang, Hang Su, Roy Gan, Hao Wang, Qian Wang

机构 * X SQUARE ROBOT TEAM（X SQUARE机器人团队） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 提出DMuon，一种分布式矩阵正交化优化器，通过减少通信和计算开销，使每步延迟接近AdamW，在基础模型和LLM训练中实现1.48-3.01倍端到端加速。

Predicate Importance Estimation and Decoupled Rationale-Score Distillation for Entity Alignment

谓词重要性估计与解耦理由-分数蒸馏用于实体对齐

Keunha Kim, Yoonjin Jang, Hyeon-gu Lee, Sihyung Kim, Youngjoong Ko

机构 * SungKyunKwan University（成均馆大学） ； NAVER 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；SLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出谓词重要性估计和解耦理由-分数蒸馏两个模块，通过谓词感知嵌入和蒸馏小语言模型提升知识图谱实体对齐性能，并利用分数与理由的不一致实现人机协同验证。

Comments 12 pages, 10 figures

Music Playlist Captioning at Scale with Large Language Models

基于大语言模型的音乐播放列表标题生成规模化方法

Mathieu Delcluze, Léa Briand, Benjamin Chapus, Deniz Mekik, Guillaume Salha-Galvan

机构 * Deezer Research SJTU Paris Elite Institute of Technology（Deezer研究 SJTU巴黎精英技术研究所） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 提出利用大语言模型从多源数据生成播放列表描述，部署于Deezer的Daily Mix功能，显著提升用户参与度。

Comments ECML-PKDD 2026

Understanding LLMs in Title-Abstract Screening: From Disagreements to Recommendations

理解LLM在标题-摘要筛选中的作用：从分歧到建议

Mika Mäntylä, Patricia Matsubara, Katia Romero Felizardo, Miikka Kuutila, Marco Gerosa, Savio de Sousa Sampaio, Tayana Conte, Igor Steinmacher

机构 * University of Helsinki, Finland（赫尔辛基大学，芬兰） ； UFMS, Brazil（巴西UFMS） ； UTFPR – Federal University of Technology - Paraná, Brazil（巴西UTFPR – 法定技术大学-帕拉那） ； LUT University, Finland（芬兰LUT大学） ； Northern Arizona University, United States（美国北亚利桑那大学） ； UFAM, Brazil（巴西UFAM） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究通过定性分析LLM与人类在系统综述标题-摘要筛选中的分歧原因，提出改进建议，如验证语义理解、使用多个LLM和关注边界案例。

Comments 14 pages + references. Accepted for publication in the 52nd Euromicro Conference on Software Engineering and Advanced Applications (SEAA 2026)

Equity with Efficiency: An Empirical Study of Tokenizers for Multilingual Large Language Models

公平与效率：多语言大语言模型分词器的实证研究

Kieron Seven Jun Wei Lee, Muhammad Reza Qorib, Andrew Ivan Soegeng, Hwee Tou Ng

机构 * National University of Singapore（新加坡国立大学） ； Carnegie Mellon University（卡内基梅隆大学） ； SAP 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文系统比较了11种东南亚语言上的公平分词器，发现Parity-aware BPE在效率与公平的权衡中处于帕累托前沿，而Morphology-Driven Byte Encoding在语义推理上表现最佳。

LLMs Contain Multitudes: How Deployment Context Reshapes Model-Level Preferences and Values

LLM 蕴含多重性：部署上下文如何重塑模型层面的偏好与价值观

Filip Trhlik, Aoife O'Flynn, Angela Yu, Arduin Findeis, Paula Buttery

机构 * University of Cambridge（剑桥大学） ； ALTA Institute（ALTA研究所） ； Leverhulme Centre for the Future of Intelligence（勒沃霍姆未来智能中心） ； Microsoft UK（微软英国） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究通过两个成对比较范式（国家偏好排序和效用判断）发现，部署上下文（如撰写Reddit帖子或新闻文章）对LLM偏好和价值观的影响远大于提示改写和温度控制，表明模型层面的偏好是上下文依赖的。

Comments 68 pages, 54 figures, 54 tables

BigPower: Hierarchical Source-Level Module Power Estimation for CPUs with Large Language Models

BigPower: 基于大型语言模型的CPU层次化源码级模块功耗估计

Honghua Zhu, Chunjie Luo, Jianfeng Zhan

机构 * State Key Lab of Processors, Institute of Computing Technology, Chinese Academy of Sciences Beijing China（处理器国家重点实验室，计算技术研究所，中国科学院北京中国） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 提出BigPower，利用大型语言模型表示和架构层次、模块连接、配置参数及工作负载上下文，直接从源码级设计信息估计CPU模块级功耗，无需仿真，在香山处理器上验证了有效性。

Comments 12 pages, 10 figures

BUDDY: BUdget-Driven DYnamic Depth Routing for Adaptive Large Language Model Inference

BUDDY: 预算驱动的动态深度路由用于自适应大型语言模型推理

Yuhua Zhou, Shaoqi Yu, Shichao Weng, Changhai Zhou, Mingze Yin, Fei Yang, Aimin Pan

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 提出BUDDY框架，通过轻量决策模块根据输入动态选择top-k层，并复用KV缓存支持解码时自适应路由，在严格预算控制下提升精度-计算权衡。

From Hazard Functions to Language Space: Cox-Supervised Distillation of Survival Risk into a Large Language Model

从风险函数到语言空间：Cox监督的生存风险蒸馏到大语言模型

Nicholas I-Hsien Kuo, Blanca Gallego, Louisa Jorm

机构 * Centre for Big Data Research in Health, the University of New South Wales（新南威尔士大学健康大数据研究中心） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 提出将Cox比例风险模型的时间事件风险信息迁移到大语言模型中的方法，通过文本提示微调Qwen模型，在三个数据集上取得有竞争力的区分度和校准性，并发现隐藏状态呈现连续风险梯度。

Flama: a Python framework for development and deployment of production-ready APIs, machine learning, and LLM services

Flama：用于开发和部署生产级API、机器学习及大语言模型服务的Python框架

José A. Perdiguero López, Miguel A. Durán-Olivencia

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI、cs.LG

AI总结 Flama是一款开源Python框架，基于ASGI构建，统一REST API开发、ML服务与LLM推理，含七大子系统及多项内置功能，可支持多后端LLM部署等场景。

Comments 83 pages, 6 figures, 1 table. Software available at https://github.com/vortico/flama, up-to-date documentation at https://flama.dev

TokenPowerSandbox: Evidence-Gated CPU-First Screening for Energy-Aware LLM Serving

TokenPowerSandbox：面向能源感知大语言模型服务的证据门控CPU优先筛选

Chenxu Niu

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI、cs.LG

AI总结 TokenPowerSandbox是面向能源感知LLM服务的证据门控CPU优先筛选工作流，结合CPU投影器、GPU探测等技术，在H100上评估Qwen2.5-7B-Instruct，验证了能源与延迟预测的关联及弃权门控的必要性。

MD-ProTector: Positioning Multiple Data-Driven Prototypes for LLM-Generated Text Detection

MD-ProTector：为大语言模型生成文本检测定位多个数据驱动原型

Jinmo Han, Jimin Hong, Chanyeong Moon, Ju Yeon Kang, Seonuk Kim, Nam Soo Kim

机构 * Seoul National University（首尔大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.CL、cs.AI

AI总结 该研究针对LLM生成文本检测的类别内部差异问题，提出MD-ProTector模型，通过原型定位损失优化，在多基准测试中取得优于同类编码器方法的检测性能。

DistillCache: KL-Guided Adaptive KV-Cache Eviction for Memory-Efficient LLM Inference

DistillCache：基于KL引导的自适应KV缓存驱逐的内存高效大语言模型推理

Asaad Althoubi

机构 * Oklahoma State University（俄克拉荷马州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 DistillCache是一种强化学习框架，将KV缓存驱逐建模为序列决策问题，在25%缓存预算下，在LongBench上保留全缓存94.2%的准确率，优于多种基线方法，可提升推理吞吐量。

Comments 20 pages, 5 figures

What We Observe as LLM Behavior Can Be a Side-effect of Inference Backend

我们所观察到的大语言模型（LLM）行为可能是推理后端的副作用

Shahed Masoudian, Passant Shafaei, Monorama Swain, Markus Schedl

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI、cs.LG

AI总结 该研究发现推理后端是影响LLM基准测试分数的不可忽视因素，约39%的分数变异性源于后端，建议披露后端信息及完整生成配置以提升结果可靠性。

Beyond Initialization Loss: A Systematic Study of Token Embedding Initialization Strategies for LLM Vocabulary Extension

超越初始化损失：大语言模型词汇扩展的词元嵌入初始化策略的系统研究

Raviraj Joshi, Utkarsh Vaidya, Sanjay Singh Chauhan, Niranjan Wartikar

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 该研究针对LLM词汇扩展，对比20余种初始化策略，发现子词组合方法更优，最优配置使CPT步骤减超6倍，轻量CPT可可靠选择最优初始化策略。

ATFlash: Per-RoPE-Wavelength Attention Windows for Compute/Memory-Efficient LLM Inference

ATFlash：用于计算/内存高效LLM推理的逐RoPE波长注意力窗口

Shun-ichiro Hayashi, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.LG

AI总结 ATFlash提出逐RoPE波长注意力窗口，修剪查询-键内积项，在保持长上下文任务性能的同时，可移植至FlashAttention-4等框架，在多款模型上实现LLM推理的计算与内存效率提升。

Efficient LLM Adversarial Training via Low-Rank Defense and Circuit-Guided Surrogates

基于低秩防御与电路引导代理的高效大语言模型对抗训练

Weiyi He, Yuping Lin, Jiliang Tang, Yue Xing

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究针对大语言模型对抗训练计算成本高的问题，从防御侧优化表示微调、攻击侧构建轻量代理模型两方面提出策略，使每步对抗训练FLOPs降48.1%，仅需0.0118%可训练参数。

LLM for the development of FCM

用于模糊认知图开发的语言模型

Alexis Kafantaris

机构 * Qwen2.5-32B 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究利用本地大语言模型开发模糊认知图，以Qwen2.5 - 32B从酒店评论提取数据构建模糊认知图，经训练、评估及外部验证，形成希腊评论的星型拓扑模糊认知图，关联评论星级与预测满意度。

SPORK: Self-Speculative Forking to Accelerate Agentic LLM Inference

SPORK：自我推测性分叉以加速智能体大语言模型推理

Huajun Bai, Weiwei Lv, Huichuan Zheng, Youyou Lu, Jiwu Shu

机构 * Tsinghua University（清华大学） ； Meituan（美团） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI、cs.LG

AI总结 研究LLM智能体推理中串行循环耗时问题，提出SPORK方法，利用模型自身预测提前调度推测工具调用，通过成本模型等组件优化，大幅提升推理效率且不影响任务准确性。

Comments 16 pages, 15 figures. Code: https://github.com/baihuajun24/spork

Enabling KV Caching of Shared Prefix for Diffusion Language Models

为扩散语言模型启用共享前缀的KV缓存

Younghun Go, Jaehoon Han, Changyong Shin, Chuck Yoo, Gyeongsik Yang

机构 * Korea University（高丽大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对扩散语言模型中双向注意力导致共享前缀KV不稳定的问题，提出双向前缀缓存（bicache），通过动态识别安全层深度重用KV，避免精度崩溃，提升吞吐量36.3%-98.3%。

On the Convergence of Self-Improving Online LLM Alignment

关于自改进在线大语言模型对齐的收敛性

Xudong Wu, Pangpang Liu, Vaneet Aggarwal, Jiayu Chen

机构 * The University of Hong Kong（香港大学） ； Yale University（耶鲁大学） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI、cs.LG

AI总结 针对SAIL算法收敛性分析缺失的问题，提出SAIL-RevKL正则化目标，证明其满足PL条件并实现近线性样本复杂度，在MuJoCo和LLM对齐任务上优于原始SAIL。

Comments Accepted at UAI 2026

RaBitQCache: Rotated Binary Quantization for KVCache in Long Context LLM Inference

RaBitQCache: 面向长上下文LLM推理中KVCache的旋转二值量化

Wenhao Li, Jinhao Dong, Hailin Zhang, Wenhang Shi, Wei Lu, Xiaoyong Du

机构 * School of Information, Renmin University of China（中国人民大学信息学院） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 针对长上下文大语言模型推理中KV缓存导致的瓶颈，提出RaBitQCache框架，利用随机旋转二值量化和高效二进制-INT4算术无偏估计注意力权重，实现自适应Top-p检索，加速推理并减少内存I/O。

Comments Accept by ICML 26

ViTL: Temporal Logic-Guided Zero-Shot Natural Language Navigation via Vision-Language Models

ViTL：基于视觉语言模型的时间逻辑引导零样本自然语言导航

Kaier Liang, Hengde Dai, Cristian-Ioan Vasile

机构 * Lehigh University（里海大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 提出ViTL框架，利用大语言模型将自然语言命令编译为线性时序逻辑公式，并引入方向性评分，实现零样本多目标时序约束导航。

End-to-End Dynamic Sparsity for Resource-Adaptive LLM Inference

端到端动态稀疏性用于资源自适应的大语言模型推理

Yuhang Chen, Jinhao Duan, Ruichen Zhang, Mingfu Liang, Xiaohan Wei, Yunchen Pu, Fei Tian, Chonglin Sun, Parish Aggarwal, Frank Shyu, Luke Simon, Sandeep Pandey, Tianlong Chen, Xi Liu

机构 * Meta AI ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出L2A框架，通过预算条件和输入感知的门控网络，实现层跳过、头剪枝和推理令牌减少的资源自适应推理，在Llama-3-8B和Qwen-3-4B上达到34%层稀疏性且性能损失小于0.6%。