语言大模型 / LLM

Sliced-Wasserstein Distribution Alignment Loss Improves the Ultra-Low-Bit Quantization of Large Language Models

切片瓦瑟斯坦分布对齐损失提高了大语言模型的超低比特量化

Deyu Cao, Yixin Yin, Samin Aref

机构 * Department of Information and Communication Engineering, The University of Tokyo（信息与通信工程系，东京大学） ； Department of Computer Science, University of Toronto（计算机科学系，多伦多大学） ； Department of Mechanical and Industrial Engineering, University of Toronto（机械与工业工程系，多伦多大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 切片瓦瑟斯坦分布对齐损失通过提升超低比特量化性能，有效恢复模型准确性。

Comments Post-peer-review accepted manuscript, 17 pages including the supplementary information

BenchOverflow: Measuring Overflow in Large Language Models via Plain-Text Prompts

BenchOverflow: 通过纯文本提示测量大语言模型中的溢出现象

Erin Feiglin, Nir Hutnik, Raz Lapid

机构 * Deepkeep（深保持） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 BenchOverflow通过纯文本提示策略评估大语言模型的溢出现象，揭示长度控制对可靠性、成本和可持续性的影响，提供标准化比较框架以优化部署和防御措施。

Comments Accepted at TMLR 2026

Q-realign: Piggybacking Realignment on Quantization for Safe and Efficient LLM Deployment

Q-realign: 量化驱动的对齐以实现安全高效的LLM部署

Qitao Tan, Xiaoying Song, Ningxi Cheng, Ninghao Liu, Xiaoming Zhai, Lingzi Hong, Yanzhi Wang, Zhen Xiang, Geng Yuan

机构 * University of Georgia（佐治亚大学） ； University of North Texas（北卡罗来纳州立大学） ； Hong Kong Polytechnic University（香港理工大学） ； Northeastern University（东北大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 Q-realign通过量化驱动的对齐方法，在部署流程中实现安全高效的LLM部署，有效减少不安全行为并降低计算开销。

Large Language Models Are Democracy Coders with Attitudes

大型语言模型是带有偏见的民主编码器

Nils B. Weidmann, Mats Faulborn, David García

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文利用大型语言模型对民主指标进行编码，发现其在某些情况下存在偏见，但结合两种模型可缓解问题，但仍难以完全替代人类编码者。

Journal ref APSC 59 (2026) 17-23

Vocabulary Expansion of Large Language Models via Kullback-Leibler-Based Self-Distillation

通过Kullback-Leibler基于的自蒸馏实现大语言模型词汇扩展

Max Rehman Linder

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI

AI总结 本研究通过基于KL散度的知识蒸馏方法，实现大语言模型在不改变原有词汇的情况下扩展新领域术语，提升代码生成任务性能。

Comments Master's Thesis

HIPPO: Accelerating Video Large Language Models Inference via Holistic-aware Parallel Speculative Decoding

HIPPO：通过整体感知并行推测解码加速视频大语言模型推理

Qitan Lv, Tianyu Liu, Wen Wu, Xuenan Xu, Bowen Zhou, Feng Wu, Chao Zhang

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Department of Electronic Engineering, Tsinghua University（清华大学电子工程系） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.AI

AI总结 HIPPO通过整体感知并行推测解码框架，有效提升视频大语言模型推理速度，实现高达3.51倍的加速效果。

Inferring Latent Intentions: Attributional Natural Language Inference in LLM Agents

推断潜在意图：在LLM代理中进行归因性自然语言推理

Xin Quan, Jiafeng Xiong, Marco Valentino, André Freitas

机构 * University of Manchester（曼彻斯特大学） ； University of Sheffield（谢菲尔德大学） ； Idiap Research Institute（Idiap研究 institute） ； National Biomarker Centre, CRUK-MI, University of Manchester（国家生物标志物中心，CRUK-MI，曼彻斯特大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出归因性NLI框架，通过文本游戏实验展示其在多智能体环境中提升LLM推理能力的潜力。

Hierarchical Sparse Plus Low Rank Compression of LLM

层级稀疏加低秩压缩LLM

Pawan Kumar, Aditi Gupta

机构 * International Institute of Information Technology, Hyderabad（国际信息科技研究所，海得拉巴） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出HSS压缩方法，通过稀疏和低秩分解实现LLM的高效压缩，实验表明在内存节省的同时保持高性能。

Comments 9 pages, 3 figures, Accepted in ACM International Conference on Data Science, CODS-2026

Quantization Error Propagation: Revisiting Layer-Wise Post-Training Quantization

量化误差传播：重新审视分层后训练量化

Yamato Arai, Yuma Ichikawa

机构 * Fujitsu Limited（富士通有限公司） ； Department of Basic Science（基础科学系） ； The University of Tokyo（东京大学） ； RIKEN center for AIP（理化学研究所AIP中心） 纠错

专题命中 效率与部署 ：post-training(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出QEP框架，通过显式传播量化误差以提升分层后训练量化在低比特下的性能。

Comments 29 pages, 3 figures, Accepted at NeurIPS 2025

AutoContext: Instance-Level Context Learning for LLM Agents

AutoContext：LLM代理的实例级上下文学习

Kuntai Cai, Juncheng Liu, Xianglin Yang, Zhaojie Niu, Xiaokui Xiao, Xing Chen

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 AutoContext通过解耦探索与任务解决，为LLM代理构建结构化的实例上下文，显著提升了任务执行效率。

Dialogue Response Prefetching Based on Semantic Similarity and Prediction Confidence of Language Model

基于语义相似度和语言模型预测置信度的对话响应预取

Kiyotada Mori, Seiya Kawano, Angel Fernando Garcia Contreras, Koichiro Yoshino

机构 * Nara Institute of Science and Technology（奈良科学技术研究所） ； RIKEN（理化学研究所） ； Tokyo Institute of Technology（东京技术大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出基于语义相似度和语言模型预测置信度的对话响应预取方法，旨在减少用户感知延迟。

Comments Corrected typographical errors, including the number of subjects in the response evaluation experiment

Relational Knowledge Distillation Using Fine-tuned Function Vectors

基于微调函数向量的关系知识蒸馏

Andrea Kang, Yingnian Wu, Hongjing Lu

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 通过微调函数向量提升关系知识表示，增强语言模型的类比推理能力。

Continuous Audio Language Models

连续音频语言模型

Simon Rouard, Manu Orsini, Axel Roebel, Neil Zeghidour, Alexandre Défossez

机构 * Kyutai ； UMR STMS ； IRCAM-CNRS ； Sorbonne Univ.（Sorbonne University） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 连续音频语言模型通过避免有损压缩提升音频生成质量与效率，同时发布开源文本到语音模型

Comments 17 pages, 3 figures

Global Compression Commander: Plug-and-Play Inference Acceleration for High-Resolution Large Vision-Language Models

全局压缩指挥者：面向高分辨率大视觉-语言模型的即插即用推理加速

Xuyang Liu, Ziming Wang, Junjie Chen, Yuhang Han, Yingyao Wang, Jiale Yuan, Jun Song, Siteng Huang, Honggang Chen

机构 * Alibaba（阿里巴巴） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出GlobalCom²框架，通过全局缩略图引导局部裁剪压缩，实现高分辨率LVLMs的高效推理加速。

Comments Accepted by AAAI 2026. Code is available at \url{https://github.com/xuyang-liu16/GlobalCom2}

Reducing Compute Waste in LLMs through Kernel-Level DVFS

通过内核级DVFS减少LLM中的计算浪费

Jeffrey Spaan, Kuan-Hsun Chen, Ana-Lucia Varbanescu

机构 * University of Twente（特文特大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究提出内核级DVFS方法，通过优化频率配置显著降低LLM训练能耗，同时仅小幅牺牲性能。

Large Artificial Intelligence Model Guided Deep Reinforcement Learning for Resource Allocation in Non Terrestrial Networks

大人工智能模型引导的深度强化学习用于非地面网络资源分配

Abdikarim Mohamed Ibrahim, Rosdiadee Nordin

机构 * Faculty of Engineering, Sunway University, Petaling Jaya, Malaysia（工程学院，Sunway大学，Petaling Jaya，马来西亚） ； Future Cities Research Institute, Sunway University, Petaling Jaya, Malaysia（未来城市研究 institute，Sunway大学，Petaling Jaya，马来西亚） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出利用大语言模型引导深度强化学习，以提升非地面网络资源分配的性能，在极端天气下表现优于传统方法。

Permission Manifests for Web Agents

基于Web代理的权限声明

Samuele Marro, Alan Chan, Xinxing Ren, Lewis Hammond, Jesse Wright, Gurjyot Wanga, Tiziano Piccardi, Nuno Campos, Tobin South, Jialin Yu, Sunando Sengupta, Eric Sommerlade, Alex Pentland, Philip Torr, Jiaxin Pei

机构 * University of Oxford（牛津大学） ； Institute for Decentralized AI（去中心化人工智能研究所） ； Centre for the Governance of AI（人工智能治理中心） ； Coral Protocol（珊瑚协议） ； Cooperative AI Foundation（协作人工智能基金会） ； Webair ； Johns Hopkins University（约翰霍普金斯大学） ； Witan Labs（Witan实验室） ； Stanford University（斯坦福大学） ； Microsoft（微软） ； UT Austin（得克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出 agent-permissions.json，一种轻量级声明，用于规范 Web 代理的交互权限，以提升自动化应用与网站所有者的协调性。

Comments Authored by the Lightweight Agent Standards Working Group https://las-wg.org/

Hardwired-Neurons Language Processing Units as General-Purpose Cognitive Substrates

硬连线神经元语言处理单元作为通用认知基质

Yang Liu, Yi Chen, Yongwei Zhao, Yifan Hao, Zifu Zheng, Weihao Kong, Zhangmai Li, Dongchen Jiang, Ruiyang Xia, Zhihong Ma, Zisheng Liu, Zhaoyong Wan, Yunqi Lu, Ximing Liu, Hongrui Guo, Zhihao Yang, Zhe Wang, Tianrui Ma, Mo Zou, Rui Zhang, Ling Li, Xing Hu, Zidong Du, Zhiwei Xu, Qi Guo, Tianshi Chen, Yunji Chen

机构 * State Key Lab of Processors, Institute of Computing Technology, CAS（处理器国家重点实验室，计算技术研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； University of Science and Technology of China（中国科学技术大学） ； Institute of Software, CAS（软件研究所，中国科学院） ； Cambricon Technologies 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出硬连线神经元语言处理单元，通过金属嵌入技术降低光掩模成本，实现高效能低能耗的语言处理基质。

Sherry: Hardware-Efficient 1.25-Bit Ternary Quantization via Fine-grained Sparsification

Sherry：通过细粒度稀疏化实现高效的1.25位三元量化

Hong Huang, Decheng Wu, Qiangqiang Hu, Guanghua Yu, Jinhai Yang, Jianchen Zhu, Xue Liu, Dapeng Wu

机构 * City University of Hong Kong（香港城市大学） ； Tencent（腾讯） ； McGill University（麦吉尔大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Sherry通过细粒度稀疏化实现高效的1.25位三元量化，显著减少模型大小并提升推理速度。

SUMMPILOT: Bridging Efficiency and Customization for Interactive Summarization System

SUMMPILOT：在交互式摘要系统中平衡效率与定制化

JungMin Yun, Juhwan Choi, Kyohoon Jin, Soojin Jang, Jinhee Jang, YoungBin Kim

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SUMMPILOT是一种通过交互式组件实现个性化摘要的系统，结合大型语言模型提升效率与定制化能力。

Comments Accepted to AAAI 2025 Demonstration Track

Hybrid Distillation with CoT Guidance for Edge-Drone Control Code Generation

混合指导的蒸馏用于边缘-无人机控制代码生成

Yizhan Feng, Hichem Snoussi, Yuhang Wang, Jing Teng, Abel Cherouat, Tian Wang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出混合指导的蒸馏方法，通过知识蒸馏、思维链指导和监督微调，提升UAV多SDK控制任务的代码生成效率与准确性。

Comments 2nd International Conference on Drones and Unmanned Systems (DAUS' 2026)

MixServe: An Automatic Distributed Serving System for MoE Models with Hybrid Parallelism Based on Fused Communication Algorithm

MixServe: 一种基于融合通信算法的混合并行机制的自动分布式服务系统，用于高效部署MoE模型

Bowen Zhou, Jinrui Jia, Wenhao He, Yong Zhang, Fang Dong

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 MixServe通过融合AR-A2A通信算法的混合并行机制，实现MoE模型的高效部署，显著提升了推理性能和吞吐量。

Comments Submitted to ICDCS 2026

Coordinated Cooling and Compute Management for AI Datacenters

AI数据中心的协调冷却与计算管理

Nardos Belay Abera, Yize Chen

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)

AI总结 本文提出了一种协调冷却与计算管理的方法，以提高AI数据中心的能效并减少碳排放。

Comments In Submission, 12 pages, 8 pages

H3PIMAP: A Heterogeneity-Aware Multi-Objective DNN Mapping Framework on Electronic-Photonic Processing-in-Memory Architectures

H3PIMAP：一种异质性感知的多目标深度神经网络映射框架，用于电子-光子处理在内存架构

Ziang Yin, Aashish Poonia, Ashish Reddy Bommana, Xinyu Zhao, Zahra Hojati, Tianlong Chen, Krishnendu Chakrabarty, Farshad Firouzi, Jeff Zhang, Jiaqi Gu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 H3PIMAP框架通过混合电子-光子-PIM架构，实现异质性感知的多目标深度神经网络映射，提升AI加速的效率与性能。

Ministral 3

Ministral 3：参数高效密集语言模型系列

Alexander H. Liu, Kartik Khandelwal, Sandeep Subramanian, Victor Jouault, Abhinav Rastogi, Adrien Sadé, Alan Jeffares, Albert Jiang, Alexandre Cahill, Alexandre Gavaudan, Alexandre Sablayrolles, Amélie Héliou, Amos You, Andy Ehrenberg, Andy Lo, Anton Eliseev, Antonia Calvi, Avinash Sooriyarachchi, Baptiste Bout, Baptiste Rozière, Baudouin De Monicault, Clémence Lanfranchi, Corentin Barreau, Cyprien Courtot, Daniele Grattarola, Darius Dabert, Diego de las Casas, Elliot Chane-Sane, Faruk Ahmed, Gabrielle Berrada, Gaëtan Ecrepont, Gauthier Guinet, Georgii Novikov, Guillaume Kunsch, Guillaume Lample, Guillaume Martin, Gunshi Gupta, Jan Ludziejewski, Jason Rute, Joachim Studnia, Jonas Amar, Joséphine Delas, Josselin Somerville Roberts, Karmesh Yadav, Khyathi Chandu, Kush Jain, Laurence Aitchison, Laurent Fainsin, Léonard Blier, Lingxiao Zhao, Louis Martin, Lucile Saulnier, Luyu Gao, Maarten Buyl, Margaret Jennings, Marie Pellat, Mark Prins, Mathieu Poirée, Mathilde Guillaumin, Matthieu Dinot, Matthieu Futeral, Maxime Darrin, Maximilian Augustin, Mia Chiquier, Michel Schimpf, Nathan Grinsztajn, Neha Gupta, Nikhil Raghuraman, Olivier Bousquet, Olivier Duchenne, Patricia Wang, Patrick von Platen, Paul Jacob, Paul Wambergue, Paula Kurylowicz, Pavankumar Reddy Muddireddy, Philomène Chagniot, Pierre Stock, Pravesh Agrawal, Quentin Torroba, Romain Sauvestre, Roman Soletskyi, Rupert Menneer, Sagar Vaze, Samuel Barry, Sanchit Gandhi, Siddhant Waghjale, Siddharth Gandhi, Soham Ghosh, Srijan Mishra, Sumukh Aithal, Szymon Antoniak, Teven Le Scao, Théo Cachet, Theo Simon Sorg, Thibaut Lavril, Thiziri Nait Saada, Thomas Chabal, Thomas Foubert, Thomas Robert, Thomas Wang, Tim Lawson, Tom Bewley, Tom Bewley, Tom Edwards, Umar Jamil, Umberto Tomasini, Valeriia Nemychnikova, Van Phung, Vincent Maladière, Virgile Richard, Wassim Bouaziz, Wen-Ding Li, William Marshall, Xinghui Li, Xinyu Yang, Yassine El Ouahidi, Yihan Wang, Yunhao Tang, Zaccharie Ramzi

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 Ministral 3系列提供三种参数规模的高效密集语言模型，支持图像理解，并通过级联蒸馏技术实现复杂问题解决能力。

Comments Release page: https://mistral.ai/news/mistral-3 ; Models available at https://huggingface.co/collections/mistralai/ministral-3

Greedy Is Enough: Sparse Action Discovery in Agentic LLMs

贪婪即足够：代理大语言模型中的稀疏动作发现

Angshul Majumdar

机构 * Angshul Majumdar（独立研究者） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于贪心算法的稀疏动作发现方法，通过结构稀疏性假设在代理大语言模型中有效识别关键动作，为动作修剪提供理论支持。

Embedded AI Companion System on Edge Devices

边缘设备上的嵌入式AI伴侣系统

Rahul Gupta, Stephen D. H. Hsu

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 本文提出了一种在边缘设备上运行的AI伴侣系统，通过交替的内存活动和非活动阶段，实现低延迟实时对话与长期个性化，实验表明其在多个指标上优于无内存LLM，接近GPT-3.5性能。

Comments 30 pages, 7 figures

EmbeddingRWKV: State-Centric Retrieval with Reusable States

EmbeddingRWKV: 基于可重用状态的检索方法

Haowen Hou, Jie Yang

机构 * Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东人工智能与数字经济实验室） ； Shenzhen Yuanshi Intelligence Co., Ltd（深圳元世智能科技有限公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 EmbeddingRWKV通过统一的嵌入模型和状态骨干，实现高效检索与重排序，提升系统效率。

Comments 23 pages, 3 figures, 6 tables

Edge-Optimized Multimodal Learning for UAV Video Understanding via BLIP-2

边缘优化的多模态学习用于无人机视频理解 via BLIP-2

Yizhan Feng, Hichem Snoussi, Jing Teng, Jian Liu, Yuyang Wang, Abel Cherouat, Tian Wang

专题命中 效率与部署 ：language model(abstract)

AI总结 本文提出基于BLIP-2的轻量级多模态学习平台，通过集成YOLO模型实现无人机视频理解的高效处理与多任务适应。

Comments The Tenth International Conference on Data Mining and Big Data (DMBD'2025)