语言大模型 / LLM

Fine-tuning Small Language Models as Efficient Enterprise Search Relevance Labelers

微调小型语言模型作为高效的企业搜索相关性标注器

Yue Kang, Zhuoyi Huang, Benji Schussheim, Diana Licon, Dina Atia, Shixing Cao, Jacob Danovitch, Kunho Kim, Billy Norcilien, Jonah Karpman, Mahmound Sayed, Mike Taylor, Tao Sun, Pavel Metrikov, Vipul Agarwal, Chris Quirk, Ye-Yi Wang, Nick Craswell, Irene Shaffer, Tianwei Chen, Sulaiman Vesal, Soundar Srinivasan

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 本文提出通过微调小型语言模型实现高效企业搜索相关性标注，利用合成数据生成提升标注质量和吞吐量，比大型模型更高效且成本更低。

Large Language Models can Achieve Social Balance

大语言模型可以实现社会平衡

Pedro Cisneros-Velarde

机构 * VMware Research（VMware研究） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 大语言模型通过分析相互作用类型、更新机制和种群规模，实现了社会平衡，并指导了代理系统的设计与部署。

E$^2$AT: Multimodal Jailbreak Defense via Dynamic Joint Optimization for Multimodal Large Language Models

E$^2$AT: 通过动态联合优化实现多模态对抗防御

Liming Lu, Xiang Gu, Shuchao Pang, Siyuan Liang, Haotian Zhu, Xiyu Zeng, Xu Zheng, Yongbin Zhou

机构 * School of Cyber Science and Engineering, Nanjing University of Science and Technology, China（南京理工大学信息科学与工程学院） ； HKUST(GZ) and INSAIT, Sofia University St. Kliment Ohridski（香港科技大学（广州）及INSAIT，索菲亚大学圣克莱门特·奥赫里迪斯学院） ； College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算与数据科学学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 E$^2$AT通过动态联合优化提升多模态大语言模型对对抗攻击的鲁棒性，实验显示其在文本和图像模态上性能优于现有方法34%。

ELMM: Efficient Lightweight Multimodal Large Language Models for Multimodal Knowledge Graph Completion

ELMM: 为多模态知识图谱补全设计的高效轻量多模态大语言模型

Wei Huang, Peining Li, Meiyu Liang, Xu Hou, Junping Du, Yingxia Shao, Guanhua Ye, Wu Liu, Kangkang Lu, Yang Yu

机构 * School of Computer Science, Beijing University of Posts and Telecommunications（计算机学院，北京邮电大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 ELMM通过多视图视觉标记压缩和注意力修剪策略，高效解决多模态知识图谱补全中的模态冲突和计算成本问题，实现最先进的性能。

Comments 14 pages, 5 figures

Iterative Structured Pruning for Large Language Models with Multi-Domain Calibration

迭代式结构剪枝用于具有多领域校准的大语言模型

Guangxin Wu, Hao Zhang, Zhang Zhibin, Jiafeng Guo, Xueqi Cheng

机构 * Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出了一种迭代式结构剪枝方法，通过多领域校准集和迭代策略实现高效模型压缩，减少计算开销和内存占用，同时保持性能稳定。

Comments 10 pages

Joint Encoding of KV-Cache Blocks for Scalable LLM Serving

KV缓存块的联合编码以实现可扩展的LLM服务

Joseph Kampeas, Emir Haleva

机构 * Distributed and Parallel Software Lab（分布式并行软件实验室） ； Huawei Technologies（华为技术） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过联合编码KV缓存块，实现高并发LLM服务，提升吞吐量并减少内存消耗。

Comments 12 pages, 16 figures, 2 tables

Revisiting Data Compression with Language Modeling

重新审视语言模型在数据压缩中的应用

Chen-Han Tsai

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文探讨了使用大型语言模型进行数据压缩的潜力，展示了在enwik9数据集上达到18%的调整压缩率，并探讨了LLM在压缩非英语数据、代码和字节流序列中的应用。

Comments Preprint

EvoRoute: Experience-Driven Self-Routing LLM Agent Systems

EvoRoute: 基于经验的自我路由LLM代理系统

Guibin Zhang, Haiyang Yu, Kaiming Yang, Bingli Wu, Fei Huang, Yongbin Li, Shuicheng Yan

机构 * National University of Singapore（新加坡国立大学） ； Tongyi Lab（通义实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 EvoRoute通过动态选择最优LLM模型，解决代理系统在性能、成本和延迟间的平衡问题，显著提升效率并降低成本

Learning an Efficient Multi-Turn Dialogue Evaluator from Multiple LLM Judges

从多个LLM裁判中学习高效的多轮对话评估器

Yuqi Tang, Kehua Feng, Yunfeng Wang, Zhiwen Chen, Chengfei Lv, Gang Yu, Qiang Zhang, Keyan Ding, Huajun Chen

机构 * ZJU–UIUC Institute（浙大UIUC研究院） ； ZJU–Hangzhou Global Scientific and Technological Innovation Center（浙大杭州全球科技创新中心） ； College of Computer Science and Technology（计算机科学与技术学院） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出一种高效多轮对话评估器，通过整合多个LLM裁判的偏好知识，减少计算开销并提升评估效率与鲁棒性。

Comments 20 pages, 4 pages, under review

Green LLM Techniques in Action: How Effective Are Existing Techniques for Improving the Energy Efficiency of LLM-Based Applications in Industry?

绿色大语言模型技术实践：现有技术在工业中提升大语言模型应用能效的有效性如何？

Pelin Rabia Kuran, Rumbidzai Chitakunye, Vincenzo Stoico, Ilja Heitlager, Justus Bogner

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文评估了四种技术在工业应用中提升大语言模型能效的有效性，发现提示优化和量化可显著降低能耗，但会损害准确性，而小模型与大模型协作在不显著影响其他指标的情况下实现了显著节能。

Comments Accepted for publication at the 2026 International Conference on Software Engineering: Software Engineering in Practice (ICSE-SEIP'26)

Communication Compression for Tensor Parallel LLM Inference

张量并行大语言模型推断中的通信压缩

Jan Hansen-Palmus, Michael Truong Le, Oliver Hausdörfer, Alok Verma

机构 * Recogni ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过压缩加速器间通信来减少张量并行大语言模型推断的延迟，实现TTFT减少2倍且性能损失可忽略。

Adversarial Contrastive Learning for LLM Quantization Attacks

对抗对比学习用于大语言模型量化攻击

Dinghong Song, Zhiwei Xu, Hai Wan, Xibin Zhao, Pengfei Su, Dong Li

机构 * Tsinghua University（清华大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出对抗对比学习方法，通过最大化良性与有害响应概率差距，有效提升大语言模型量化攻击的成功率。

Comments 14 pages, 5 figures

LoRA-Drop: Temporal LoRA Decoding for Efficient LLM Inference

LoRA-Drop：用于高效LLM推理的时序LoRA解码

Hossein Rajabzadeh, Maryam Dialameh, Chul B. Park, Il-Min Kim, Hyock Ju Kwon

机构 * University of Waterloo（滑铁卢大学） ； University of Toronto（多伦多大学） ； Queen’s University（皇后大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LoRA-Drop通过时序计算计划和低秩LoRA校正，实现高效LLM推理，提升解码速度2.6倍并减少45-55%的KV缓存占用。

DiffBench Meets DiffAgent: End-to-End LLM-Driven Diffusion Acceleration Code Generation

DiffBench 与 DiffAgent：端到端的 LLM 驱动扩散加速代码生成

Jiajun jiao, Haowei Zhu, Puyuan Yang, Jianghui Wang, Ji Liu, Ziqiong Liu, Dong Li, Yuejian Fang, Junhai Yong, Bin Wang, Emad Barsoum

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 本文提出DiffBench和DiffAgent，通过LLM驱动的闭环流程，实现端到端的扩散模型加速代码生成，显著提升生成策略的有效性。

Comments Accepted to AAAI 2026

CalliReader: Contextualizing Chinese Calligraphy via an Embedding-Aligned Vision-Language Model

CalliReader：通过嵌入对齐的视觉-语言模型 contextualizing 中文书法

Yuxuan Luo, Jiaqi Tang, Chenyi Huang, Feiyang Hao, Zhouhui Lian

机构 * Wangxuan Institute of Computer Technology, Peking University（北京大学计算机技术研究院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；instruction tuning(abstract)

AI总结 CalliReader通过字符级切片、视觉-文本对齐和嵌入指令微调，解决中文书法的上下文识别问题，实现比现有方法和专业书法家更高的准确性与更低的幻觉率。

Comments 11 pages

Journal ref Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV) 2025

IPA: An Information-Reconstructive Input Projection Framework for Efficient Foundation Model Adaptation

IPA: 一种信息重构的输入投影框架，用于高效的基础模型适应

Yuan Yin, Shashanka Venkataramanan, Tuan-Hung Vu, Andrei Bursuc, Matthieu Cord

机构 * Sorbonne Université（索邦大学） ； CNRS（国家科学研究中心） ； ISIR（信息科学研究所） 纠错

专题命中 效率与部署 ：foundation model(title)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 IPA通过信息重构的输入投影框架提升基础模型适应效率，实现更高准确率与更少参数消耗。

Comments Accepted to TMLR

ReCode: Unify Plan and Action for Universal Granularity Control

ReCode：统一计划与行动以实现通用粒度控制

Zhaoyang Yu, Jiayi Zhang, Huixue Su, Yufan Zhao, Yifan Wu, Mingyi Deng, Jinyu Xiang, Yizhang Lin, Lingxiao Tang, Yuyu Luo, Bang Liu, Chenglin Wu

机构 * DeepWisdom ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Renmin University of China（中国人民大学） ； Zhejiang University（浙江大学） ； Université de Montréal & Mila（蒙特利尔大学及Mila） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ReCode通过递归代码生成统一规划与行动，实现通用粒度控制，提升智能体在不同决策粒度上的灵活性和效率。

Linear Script Representations in Speech Foundation Models Enable Zero-Shot Transliteration

语音基础模型中的线性脚本表示可实现零样本转写

Ryan Soh-Eun Shim, Kwanghee Choi, Kalvin Chang, Ming-Hao Hsu, Florian Eichin, Zhizheng Wu, Alane Suhr, Michael A. Hedderich, David Harwath, David R. Mortensen, Barbara Plank

机构 * LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Carnegie Mellon University（卡内基梅隆大学） ； University of California, Berkeley（加州大学伯克利分校） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.CL

AI总结 通过在语音基础模型中引入线性脚本表示，实现对语音识别输出脚本的零样本控制，提升多语言转写性能。

Agent.xpu: Efficient Scheduling of Agentic LLM Workloads on Heterogeneous SoC

Agent.xpu: 高效调度代理LLM工作负载于异构SoC

Xinming Wei, Jiahao Zhang, Haoran Li, Jiayu Chen, Haoning Guan, Rui Qu, Maoliang Li, Xiang Chen, Guojie Luo

机构 * School of Computer Science, Peking University（北京大学计算机科学学院） ； The University of Hong Kong（香港大学） ； National Key Laboratory for Multimedia Information Processing, Peking University（北京大学多媒体信息处理国家重点实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 Agent.xpu通过异构执行图和流感知协调技术，高效调度代理LLM工作负载，提升主动吞吐量和反应性响应性能

When Prompting Meets Spiking: Graph Sparse Prompting via Spiking Graph Prompt Learning

当提示遇见脉冲：通过脉冲图提示学习进行图稀疏提示

Bo Jiang, Weijun Zhao, Beibei Wang, Jin Tang

机构 * School of Computer Science and Technology, Anhui University（计算机科学与技术学院，安徽大学） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；分类 cs.LG

AI总结 本文提出SpikingGPF，通过脉冲神经元机制学习稀疏图提示，提升图任务的鲁棒性和效率。

Making MoE-based LLM Inference Resilient with Tarragon

用Tarragon使基于MoE的LLM推理更加健壮

Songyu Zhang, Aaron Tam, Myungjin Lee, Shixiong Qi, K. K. Ramakrishnan

机构 * UC Riverside（加州大学河滨分校） ； Cisco Research（思科研究） ； University of Kentucky（肯塔基大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 Tarragon通过将故障影响限制在个别工作者上，实现了更健壮的MoE推理，显著降低了故障导致的停滞时间。

Audit Me If You Can: Query-Efficient Active Fairness Auditing of Black-Box LLMs

审计我：查询高效主动公平性审计黑盒大语言模型

David Hartmann, Lena Pohlmann, Lelia Hanslik, Noah Gießing, Bettina Berendt, Pieter Delobelle

机构 * Weizenbaum Institut Berlin（魏泽恩堡研究所柏林） ； Technische Universität Berlin（柏林技术大学） ； FIZ Karlsruhe（卡尔斯鲁厄FIZ） ； KU Leuven（鲁汶大学） ； Aleph Alpha（Aleph Alpha公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 BAFA通过主动查询减少资源消耗，实现高效黑盒LLM公平性审计

Comments Submitted to ACL ARR 2026

Leveraging the true depth of LLMs

利用大语言模型的真实深度

Ramón Calvo González, Daniele Paliotta, Matteo Pagliardini, Martin Jaggi, François Fleuret

机构 * University of Geneva（日内瓦大学） ； EPFL（瑞士联邦理工学院） ； FAIR at META（META 的 FAIR） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 通过重构计算图并并行评估连续层对，提升大语言模型的推理效率，同时保持较高的准确率。

Hypothesize-Then-Verify: Speculative Root Cause Analysis for Microservices with Pathwise Parallelism

假设-验证：基于路径并行的微服务推测根本原因分析

Lingzhe Zhang, Tong Jia, Yunpeng Zhai, Leyi Pan, Chiming Duan, Minghua He, Pei Xiao, Ying Li

机构 * Peking University（北京大学） ； Alibaba Group（阿里巴巴集团） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SpecRCA通过假设-验证范式提升微服务系统根本原因分析的准确性和效率。

Comments accepted by ICSE-NIER'26

TextBO: Bayesian Optimization in Language Space for Eval-Efficient Self-Improving AI

TextBO: 在语言空间中基于贝叶斯优化的评估高效自改进AI

Enoch Hyunwook Kang, Hema Yoganarasimhan

机构 * University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 TextBO是一种在语言空间中基于贝叶斯优化的评估高效自改进AI算法，通过结合文本梯度与最佳N选择策略，实现高效自改进。

Generative AI for Networking

生成式人工智能用于网络

Faisal Zaman, Ouns Bouachir, Moayad Aloqaily, Ismaeel Al Ridhawi

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文探讨生成式人工智能在提升网络性能和实现自适应网络中的作用，并展示利用transformers自注意力机制进行长期流量预测的案例。

Comments Accepted in IEEE AIMS-FLLM 2025

LTX-2: Efficient Joint Audio-Visual Foundation Model

LTX-2：高效的音频-视觉联合基础模型

Yoav HaCohen, Benny Brazowski, Nisan Chiprut, Yaki Bitterman, Andrew Kvochko, Avishai Berkowitz, Daniel Shalem, Daphna Lifschitz, Dudu Moshe, Eitan Porat, Eitan Richardson, Guy Shiran, Itay Chachy, Jonathan Chetboun, Michael Finkelson, Michael Kupchick, Nir Zabari, Nitzan Guetta, Noa Kotler, Ofir Bibi, Ori Gordon, Poriya Panet, Roi Benita, Shahar Armon, Victor Kulikov, Yaron Inger, Yonatan Shiftan, Zeev Melumian, Zeev Farbman

机构 * Lightricks（利光科技） 纠错

专题命中 效率与部署 ：foundation model(title)

AI总结 LTX-2是一种高效的音频-视觉联合基础模型，通过统一的双流变压器架构生成高质量的音频视觉内容，支持多语言提示和模态感知的可控生成。

LittiChoQA: Literary Texts in Indic Languages Chosen for Question Answering

LittiChoQA：用于问答的印度语言文学文本

Aarya Khandelwal, Ritwik Mishra, Rajiv Ratn Shah

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LittiChoQA是一个针对印度语言文学文本的大型问答数据集，通过完整上下文微调在性能上表现最佳，同时上下文缩短显著提升了处理效率。

Comments Submitted to ARR Jan cycle. Targetting AACL 2026

Aha Moment Revisited: Are VLMs Truly Capable of Self Verification in Inference-time Scaling?

顿悟时刻再审视：VLMs在推理时间缩放中真的能自我验证吗？

Mingyuan Wu, Meitang Li, Jingcheng Yang, Jize Jiang, Kaizhuo Yan, Zhaoheng Li, Hanchao Yu, Minjia Zhang, Klara Nahrstedt

机构 * University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Michigan Ann Arbor（密歇根大学安娜堡分校） ； Meta 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究发现VLMs在推理时间缩放中自我验证效果有限，生成能力优于验证策略，且视觉信息整合不足。

Comments Neurips 2025 Multimodal Algorithmic Reasoning Workshop Oral. In submission

Efficient Context Scaling with LongCat ZigZag Attention

高效上下文扩展与LongCat ZigZag注意力

Chen Zhang, Yang Bai, Jiahuan Li, Anchun Gui, Keheng Wang, Feifan Liu, Guanyu Wu, Yuwei Jiang, Defei Bu, Li Wei, Haihang Jing, Hongyin Tang, Xin Chen, Xiangzhou Huang, Fengcun Li, Rongxiang Weng, Yulei Qian, Yifan Lu, Yerui Sun, Jingang Wang, Yuchen Xie, Xunliang Cai

机构 * Meituan, China（美团，中国） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.CL、cs.AI

AI总结 LongCat ZigZag Attention通过稀疏化全注意力模型，提升长上下文处理效率，实现高效长期推理和代理能力。

Comments 10 pages, 3 figures, 3 tables