语言大模型 / LLM

Sandwich: Joint Configuration Search and Hot-Switching for Efficient CPU LLM Serving

Sandwich：联合配置搜索与热切换的高效CPU LLM服务

Juntao Zhao, Jiuru Li, Chuan Wu

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 Sandwich通过联合配置搜索与热切换技术，解决CPU LLM服务中prefill/decode资源冲突问题，实现2.01倍端到端加速和3.40倍延迟降低，同时降低三次数量级的调优成本。

Comments DAC '26

GigaCheck: Detecting LLM-generated Content via Object-Centric Span Localization

GigaCheck：通过以对象为中心的跨度定位检测LLM生成内容

Irina Tolstykh, Aleksandra Tsybina, Sergey Yakubson, Aleksandr Gordeev, Vladimir Dokholyan, Maksim Kuprashevich

机构 * SALUTEDEV LLC 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL

AI总结 GigaCheck提出双策略框架检测AI生成文本，利用细调LLM的表示学习进行作者身份识别，结合DETR-like模型与语言编码器实现精准定位，实验验证了方法的鲁棒性。

Comments Accepted to Findings of the Association for Computational Linguistics: ACL 2026

Local-Splitter: A Measurement Study of Seven Tactics for Reducing Cloud LLM Token Usage on Coding-Agent Workloads

Local-Splitter：七种减少云LLM令牌使用量策略的测量研究

Justice Owusu Agyemang, Jerry John Kponyo, Elliot Amponsah, Godfred Manu Addo Boakye, Kwame Opuni-Boachie Obour Agyekum

机构 * Sperix Labs（Sperix实验室） ； VIA Cybersecurity Lab, KNUST（VIA网络安全实验室，科罗尼斯特大学） ； Quantum and Assistive Technologies Lab, KNUST（量子与辅助技术实验室，科罗尼斯特大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文研究了七种减少云LLM令牌使用量的策略，通过测量发现本地路由与提示压缩组合在编辑密集型任务中可节省45-79%的云令牌，而RAG密集型任务中完整策略集可节省51%。

Fully Homomorphic Encryption on Llama 3 model for privacy preserving LLM inference

在Llama 3模型上实现全同态加密以实现隐私保护的LLM推理

Anes Abdennebi, Nadjia Kara, Laaziz Lahlou

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文通过在Llama 3模型推理管道中集成基于后量子密码学的格基同态加密，提高模型对数据隐私攻击的防护能力，实验显示在i9 CPU上实现98%的文本生成准确率和237 ms的延迟，验证了方法的可行性。

MQuant: Unleashing the Inference Potential of Multimodal Large Language Models via Full Static Quantization

JiangYong Yu, Sifan Zhou, Dawei Yang, Shuo Wang, Shuoyu Li, Xing Hu, Chen Xu, Zukang Xu, Changyong Shu, Zhihang Yuan

机构 * Southeast University（东南大学） ； Xi'an Jiaotong University（西安交通大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.AI

Comments Accepted by ACM MM 2025. First PTQ solution for Multimodal large language models applicable to 5 mainstream MLLMs

Can Large Language Models (or Humans) Disentangle Text?

Nicolas Audinet de Pieuchon, Adel Daoud, Connor Thomas Jerzak, Moa Johansson, Richard Johansson

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

Comments To appear as: Nicolas Audinet de Pieuchon, Adel Daoud, Connor T. Jerzak, Moa Johansson, Richard Johansson. Can Large Language Models (or Humans) Disentangle Text? In: Sixth Workshop on NLP and Computational Social Science at NAACL, 2024

GEAR: Augmenting Language Models with Generalizable and Efficient Tool Resolution

Yining Lu, Haoping Yu, Daniel Khashabi

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；small language model(abstract)

Advanced Large Language Model (LLM)-Driven Verilog Development: Enhancing Power, Performance, and Area Optimization in Code Synthesis

Kiran Thorat, Jiahui Zhao, Yaotian Liu, Hongwu Peng, Xi Xie, Bin Lei, Jeff Zhang, Caiwen Ding

专题命中 效率与部署 ：language model(title,abstract)；LLM(title)；large language model(title)；分类 cs.LG

RPTQ: Reorder-based Post-training Quantization for Large Language Models

Zhihang Yuan, Lin Niu, Jiawei Liu, Wenyu Liu, Xinggang Wang, Yuzhang Shang, Guangyu Sun, Qiang Wu, Jiaxiang Wu, Bingzhe Wu

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；post-training(title)；分类 cs.CL

Comments 18 pages

A Survey of LLM $\times$ DATA

Xuanhe Zhou, Junxuan He, Wei Zhou, Haodong Chen, Zirui Tang, Haoyu Zhao, Xin Tong, Guoliang Li, Youmin Chen, Jun Zhou, Zhaojun Sun, Binyuan Hui, Shuo Wang, Conghui He, Zhiyuan Liu, Jingren Zhou, Fan Wu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； Alibaba Group（阿里巴巴集团） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

Comments Please refer to the paper list at: https://github.com/weAIDB/awesome-data-llm

CacheSpec: Finding the Sweet Spot for Small Models in Large Language Models

MiniCache：用于高效大语言模型推理的具有小模型接口的可重复使用程序缓存

Jingquan Chen, Jie Feng, Jinghua Piao, Shaogang Hu, Yong Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型推理成本高的问题，提出MiniCache框架，将PoT程序转换为参数化缓存对象，通过重用小模型进行语义变量提取和推测性起草，减少目标大语言模型调用，实验证明其能提升推理性能，平衡延迟、缓存重用和准确性。

Comments Accepted by EMNLP 2026, codes via https://github.com/chenjqQAQ/CacheSpec

Stable Miscalibration in Large Language Models: A Practical View of High-Confidence Errors

大语言模型中的稳定校准误差：高置信度错误的实用视角

Akira Okutomi

机构 * ToppyMicroServices OÜ 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出稳定校准误差概念，结合两类诊断方法，发现自我批判提示可降低模型隐藏状态敏感性，但高置信度错误未必是推理脆弱，部分或为稳定校准不当。

Comments Accepted at the 2nd Workshop on Epistemic Intelligence in Machine Learning (EIML)@ICML 2026. 7 pages, 4 figures

Jais 2: A Family of Arabic-Centric Open Large Language Models

Jais 2：以阿拉伯语为核心的开源大语言模型家族

Mohamed Anwar, Abed Alhakim Freihat, George Ibrahim, Mostafa Awad, Abdelrahman Sadallah, Gurpreet Gosal, Gokulakrishnan Ramakrishnan, Sarath Chandran, Biswajit Mishra, Rituraj Joshi, Ahmed Frikha, Etienne Goffinet, Abhishek Maiti, Ali El Filali, Sarah AlBarri, Samujjwal Ghosh, Rahul Pal, Parvez Mullah, Awantika Shukla, Sajid siddiki, Samta Kamboj, Onkar Pandit, Sunil Kumar Sahu, AbdelRahman Elbadawy, Amr Mohamed, Ahmad Chamma, Evan Dufraisse, Abdelaziz Bounhar, Dani Bouch, Hadi Abdine, Guokan Shang, Fajri Koto, Yuxia Wang, Zhuohan Xie, Ali Mekky, Rania Elbadry, Sarfraz Ahmad, Momina Ahsan, Omar El Herraoui, Daniil Orel, Hasan Iqbal, Kareem Elzeky, Mervat Abassy, Kareem Elozeiri, Saadeldine Eletter, Farah Atif, Nurdaulet Mukhituly, Haonan Li, Xudong Han, Aaryamonvikram Singh, Zainul Abedien Ahmed Quraishi, Neha Sengupta, Larry Murray, Avraham Sheinin, Joel Hestness, Natalia Vassilieva, Hector Xuguang Ren, Zhengzhong Liu, Michalis Vazirgiannis, Preslav Nakov

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 Jais 2是MBZUAI等联合开发的以阿拉伯语为核心的开源大语言模型家族，含70B、8B参数变体，在阿拉伯语及文化相关基准上表现领先，已开源并部署为多平台聊天应用，可支撑相关研究开发。

Reward Guidance for Reinforcement Learning Tasks Based on Large Language Models: The LMGT Framework

Yongxin Deng, Xihe Qiu, Jue Chen, Xiaoyu Tan

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

Journal ref Knowledge-Based Systems, 322 (2025) 113689

LLMs Remember First, Forget Last: Dual-Process Interference in Large Language Models

Transformer 优先记住，最后遗忘：大型语言模型中的双过程干扰

Sourav Chattaraj, Kanak Raj

机构 * Thomson Reuters（汤姆森路透） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.CL、cs.AI

AI总结 研究探讨了大型语言模型在面对冲突信息时的记忆保留机制，发现前瞻性干扰主导后置性干扰，揭示了Transformer注意力机制中的优先效应。

Comments NPIR, Springer book series: Lecture Notes in Networks and Systems, indexed by Scopus and Ei Compendex

Uncertainty-Aware Simulation-Based Inference for Operations Research with Large Language Models

面向运筹学的基于模拟的不确定性感知大语言模型推理

Liang Guo, Lin Shaochong, Shen Zuo-Jun Max, Zhang Kun

机构 * Institute of Statistics and Big Data, Renmin University of China（中国人民大学统计与大数据研究院） ； The University of Hong Kong（香港大学） ； School of Information, Renmin University of China（中国人民大学信息学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文针对大语言模型用于运筹学建模时的短视策略易引发下游错误的问题，提出一种不确定性感知无训练推理框架，通过短前瞻模拟与重要性重采样提升OR公式生成的可靠性，在多基准上表现优于基线。

Beyond Single-Dimensional Compression: The Compound Sparsity Frontier of Large Language Models

超越单维压缩：大语言模型的复合稀疏前沿

Chao Han, Haozhe Hu, Xiaoyu Shen

机构 * Ningbo Institute of Digital Twin, Eastern Institute of Technology（宁波数字孪生研究院，东方理工大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型压缩，提出复合稀疏框架，结合静态参数剪枝和动态令牌级计算，通过低秩近似、通道剪枝及引入轻量级路由器实现。实验表明其在相同总稀疏度下优于单机制压缩，揭示跨维度干扰及有效分配方式，为改进压缩提供实用途径。

RobustMAD: Evaluating Real-World Robustness of Multimodal Small Language Models for Deployable Anomaly Detection Assistants

RobustMAD：评估用于可部署异常检测助手的多模态小语言模型的现实世界鲁棒性

Anushiya Arunan, Xin Li, Yan Qin, U-Xuan Tan, Nhu Khue Vuong, Xiaoli Li, Chau Yuen

机构 * Singapore University of Technology and Design（新加坡科技设计大学） ； Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局） ； Nanyang Technological University（南洋理工大学） ； Chongqing University（重庆大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对多模态小语言模型现场部署的鲁棒性评估问题，开发RobustMAD基准测试，通过多种开放式查询评估模型，发现最佳模型虽有潜力但仍存差距及三种失败模式，为下一代多模态工业检测助手设计提供指导。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR), 2026 at https://openreview.net/forum?id=skrA9UYNIZ

SI-Agent: An Agentic Framework for Feedback-Driven Generation and Tuning of Human-Readable System Instructions for Large Language Models

SI-Agent: 一种用于反馈驱动生成和调优大型语言模型人类可读系统指令的代理框架

Jeshwanth Challagundla, Mantek Singh, Siddharth Raina, Smarth Behl, FNU Harsh, Jasmin Jarsania

机构 * University of Texas at Arlington（德克萨斯大学阿灵顿分校） ； Liverpool John Moores University（利物浦约翰·穆里斯大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 SI-Agent通过反馈驱动的代理框架自动生成和优化人类可读的系统指令，提升大型语言模型的可解释性和性能。

Generalized Fisher-Weighted SVD: Scalable Kronecker-Factored Fisher Approximation for Compressing Large Language Models

广义Fisher加权奇异值分解：用于压缩大语言模型的可扩展克罗内克分解Fisher近似

Viktoriia Chekalina, Daniil Moskovskiy, Tatiana Matveeva, Andrey Kuznetsov, Evgeny Frolov

机构 * Applied AI Institute（应用人工智能研究所） ； Innopolis University（因诺普利斯大学） ； HSE University（俄罗斯高等经济大学） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract,abstract_cn)；post-training(abstract)

AI总结 研究针对大语言模型压缩，提出广义Fisher加权奇异值分解（GFWSVD）技术，通过考虑Fisher信息矩阵对角和非对角元素，引入可扩展的克罗内克分解近似算法，有效提升压缩效果，优于现有压缩基线。

Improving Molecular Property Prediction in Small Language Models Using Graph-based Tools

使用基于图的工具改进小语言模型中的分子性质预测

Konstantinos Bougiatiotis, Dimitrios Kelesis, Georgios Paliouras

机构 * Institute of Informatics and Telecommunications, National Center for Scientific Research “Demokritos（信息与电信研究所，国家科学研究中心“德谟克利特”） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对小语言模型在分子性质预测时的结构盲目性问题，提出模块化上下文增强提示框架，通过GNN专家模型和提取子图来辅助预测，在MUTAG和Tox21数据集上实验表明该方法能显著提升预测准确性，验证了基序相关性，但与专门GNN模型仍有差距。

Comments Presented at the 2nd Causal Neuro-symbolic Artificial Intelligence (Causal NeSy): Toward Agentic LLMs with Neuro-Symbolic and Graph Based Reasoning Workshop @ ESWC2026

DarwinLM: Evolutionary Structured Pruning of Large Language Models

达尔文语言模型：大语言模型的进化结构化剪枝

Shengkun Tang, Oliver Sieberling, Eldar Kurtic, Zhiqiang Shen, Dan Alistarh

机构 * MBZUAI ； ETH Zurich（苏黎世联邦理工学院） ； ISTA ； Red Hat AI（红帽人工智能） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对大语言模型计算成本高的问题，提出达尔文语言模型（DarwinLM），基于进化搜索过程，通过变异生成后代模型并经多步训练选择最优者，在多个模型上实验验证，实现结构化剪枝最优性能，压缩后训练所需数据更少。

Comments Accepted by COLM 2026 Code: https://github.com/IST-DASLab/DarwinLM

Accelerating GPU Inference of Large Language Models with Moderately Unstructured Sparse Weight Matrices

使用适度非结构化稀疏权重矩阵加速大语言模型的GPU推理

Tao Lu, Haoyu Wang, Zonghui Wang, Keshen Xiang, Jiaheng Zhang, Wenzhi Chen

机构 * National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型推理成本挑战，提出含稀疏张量核层等的三层矩阵存储格式，设计联合稀疏张量核与CUDA核的SpMM内核，实现了在现代GPU上超越密集矩阵乘法，取得显著加速。

Comments DAC 2026

AP-BMM: Approximating Capability-Cost Pareto Sets of LLMs via Asynchronous Prior-Guided Bayesian Model Merging

AP-BMM: 通过异步先验引导的贝叶斯模型合并近似LLM的能力-成本帕累托集

Kesheng Chen, Yamin Hu, Zhenqian Zhu, Yiya Diao, Wenjian Luo

机构 * Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies（广东新型安全智能技术重点实验室） ； Institute of Cyberspace Security（网络空间安全研究院） ； School of Computer Science and Technology（计算机科学与技术学院） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出AP-BMM方法，通过异步贝叶斯优化和层间合并策略，提升LLM在准确性和成本之间的帕累托集质量与覆盖范围。

LUQ: Layerwise Ultra-Low Bit Quantization for Multimodal Large Language Models

LUQ: 多模态大语言模型的逐层超低位量化

Shubhang Bhatnagar, Andy Xu, Kar-Han Tan, Narendra Ahuja

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of California, Los Angeles（加州大学洛杉矶分校） ； HP Inc.（惠普公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 提出LUQ方法，通过逐层输出激活熵衡量功能复杂度，对简单层应用超低位量化，结合多模态校准，在LLaVA-1.5和Qwen-2.5-VL上实现低于4-bit量化，内存减少40%和31%，MME性能下降<10%。

Comments Published in Transactions on Machine Learning Research (2026)

When LLMs Analyze Scars: From Images to Clinically-Meaningful Features

当LLM分析疤痕：从图像到临床有意义的特征

Ruman Wang, Hangting Ye

机构 * Liaoning University of Traditional Chinese Medicine（辽宁中医药大学） ； School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出ScaFE框架，利用LLM作为知识驱动的特征工程师，将高维图像转化为低维临床可解释特征，在数据稀缺的疤痕分类中优于端到端深度学习方法。

X-OPD: Cross-Modal On-Policy Distillation for Capability Alignment in Speech LLMs

X-OPD：面向语音大语言模型能力对齐的跨模态在策略蒸馏

Di Cao, Dongjie Fu, Hai Yu, Siqi Zheng, Xu Tan, Tao Jin

机构 * Tencent Hunyuan（腾讯文心） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出X-OPD框架，通过跨模态在策略蒸馏对齐语音LLM与文本LLM的能力，利用文本教师模型评估语音模型的轨迹并提供令牌级反馈，显著缩小复杂任务性能差距。

Comments Accepted by Interspeech 2026

Ghosted Layers: Unconstrained Activation Alignment for Recovering Layer-Pruned LLMs

Ghosted Layers: 无约束激活对齐用于恢复层剪枝的LLM

Vincent-Daniel Yun, Junhyuk Jo, Sai Praneeth Karimireddy, Sunwoo Lee

机构 * University of Southern California（南加州大学） ； Inha University（inha大学） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Ghosted Layers方法，通过无约束优化解决层剪枝后激活分布不匹配问题，提升LLM准确性和 perplexity 而不牺牲效率。

Evaluating Zero-Shot and One-Shot Adaptation of Small Language Models in Leader-Follower Interaction

评估小语言模型在领导者-跟随者交互中的零样本和单样本适应

Rafael R. Baptista, André de Lima Salgado, Ricardo V. Godoy, Marcelo Becker, Thiago Boaventura, Gustavo J. G. Lahr

机构 * University of Sao Paulo（圣保罗大学） ； Federal University of Lavras（拉瓦尔联邦大学） ； Faculdade Israelita de Ensino e Pesquisa Albert Einstein（亚伯拉罕·林克·埃instein教育与研究学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过微调小语言模型（Qwen2.5-0.5B）在领导者-跟随者交互中实现角色分类，零样本微调达到86.66%准确率且延迟低至22.2毫秒，但单样本模式因上下文长度增加导致性能下降。

A Shared Valence Axis Across Modern LLMs and Human EEG: The Saturation Regularity

现代LLM与人脑EEG共享的效价轴：饱和规律

Yousef A. Radwan, Xuhui Liu, Kilichbek Haydarov, Yuqian Fu, Mohamed Elhoseiny

机构 * King Abdullah University of Science and Technology（卡布斯大学） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过构建从大型语言模型（LLM）中提取的一维效价方向（V轴），发现其与人类EEG神经活动对齐，但进一步对齐策略无法提升解码性能，并形式化为“饱和规律”，指出改进应来自监督无法触及的残差子空间。