语言大模型 / LLM

Offline Reasoning for Efficient Recommendation: LLM-Empowered Persona-Profiled Item Indexing

离线推理用于高效推荐：基于LLM的个性化-属性化物品索引

Deogyong Kim, Junseong Lee, Jeongeun Lee, Changhoe Kim, Junguel Lee, Jungseok Lee, Dongha Lee

机构 * Yonsei University（延世大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Persona4Rec通过离线推理构建物品个性化表示，实现高效且可解释的推荐系统，减少推理时间并提供直观解释。

Comments Under review

Improving the Trade-off Between Watermark Strength and Speculative Sampling Efficiency for Language Models

提升语言模型中水印强度与推测采样效率之间的权衡

Weiqing He, Xiang Li, Li Shen, Weijie Su, Qi Long

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.LG

AI总结 本文提出了一种提升语言模型中水印强度与推测采样效率之间权衡的方法，通过定量指标和系统机制实现两者的平衡。

Comments Accepted at ICLR 2026

ODESteer: A Unified ODE-Based Steering Framework for LLM Alignment

ODESteer: 一种基于常微分方程的统一激活引导框架用于大语言模型对齐

Hongjue Zhao, Haosen Sun, Jiangtao Kong, Xiaochang Li, Qineng Wang, Liwei Jiang, Qi Zhu, Tarek Abdelzaher, Yejin Choi, Manling Li, Huajie Shao

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Northwestern University（西北大学） ； William & Mary（威廉与玛丽学院） ； University of Washington（华盛顿大学） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ODESteer通过基于常微分方程的理论框架，统一了激活引导方法，实现了在大语言模型对齐中的显著性能提升。

Comments Accepted by ICLR 2026 (Camera Ready Version)

SweetSpot: An Analytical Model for Predicting Energy Efficiency of LLM Inference

SweetSpot: 一种预测LLM推理能效的分析模型

Hiari Pizzini Cavagna, Andrea Proia, Giacomo Madella, Giovanni B. Esposito, Francesco Antici, Daniele Cesarini, Zeynep Kiziltan, Andrea Bartolini

机构 * University of Bologna（博洛尼亚大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SweetSpot通过分析Transformer架构，提出预测LLM推理能效的模型，通过实验验证其在不同输入输出长度下的高效能表现，减少能耗达33.41倍。

Comments To appear at ICPE 2026 (International Conference on Performance Engineering)

Teola: Towards End-to-End Optimization of LLM-based Applications

Teola：面向基于大语言模型应用的端到端优化

Xin Tan, Yimin Jiang, Yitao Yang, Hong Xu

机构 * The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Teola通过细粒度端到端编排方法优化基于大语言模型的应用，实现显著的速度提升。

Journal ref ASPLOS'25: Proceedings of the 30th ACM International Conference on Architectural Support for Programming Languages and Operating Systems, Vol. 2 (2025) 1302-1316

Test-Time Adaptation for LLM Agents via Environment Interaction

通过环境交互实现LLM代理的测试时适应

Arthur Chen, Zuxin Liu, Jianguo Zhang, Akshara Prabhakar, Zhiwei Liu, Shelby Heinecke, Silvio Savarese, Victor Zhong, Caiming Xiong

机构 * University of Waterloo（滑铁卢大学） ； Salesforce AI Research（Salesforce AI研究） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 通过环境交互实现LLM代理的测试时适应，利用语法对齐和动态接地策略提升代理在复杂环境中的泛化能力。

Comments Our code is available here: https://github.com/r2llab/GTTA

RankEvolve: Automating the Discovery of Retrieval Algorithms via LLM-Driven Evolution

RankEvolve: 通过LLM驱动的进化自动发现检索算法

Jinming Nian, Fangchen Li, Dae Hoon Park, Yi Fang

机构 * Santa Clara University Santa Clara CA USA ； Independent Researcher Bothell WA USA ； Santa Clara University ； Independent Researcher 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 RankEvolve通过LLM驱动的进化方法自动发现改进的检索算法，展示了在多个基准测试中的有效性。

A Few-Shot LLM Framework for Extreme Day Classification in Electricity Markets

一种用于电力市场极端日分类的少样本LLM框架

Saud Alghumayjan, Ming Yi, Bolun Xu

机构 * Columbia Data Science Institute（哥伦比亚数据科学研究所） ； Red River Clean Energy（红河清洁能源） ； King Abdulaziz City for Science and Technology (KACST)（国王阿卜杜勒阿齐兹城市科学技术城） ； National Science Foundation（国家科学基金会） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种基于LLM的少样本框架，用于预测电力市场价格激增日，实验证明其在数据有限时优于传统监督学习模型。

RoPE-LIME: RoPE-Space Locality + Sparse-K Sampling for Efficient LLM Attribution

RoPE-LIME: RoPE空间局部性 + 稀疏K采样用于高效的LLM归因

Isaac Picov, Ritesh Goru

机构 * University of Toronto（多伦多大学） ； DevRev 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 RoPE-LIME通过RoPE空间局部性和稀疏K采样，高效实现LLM归因，减少API调用并提升归因信息质量。

Improving LLM Reliability through Hybrid Abstention and Adaptive Detection

通过混合回避与自适应检测提升大语言模型可靠性

Ankit Sharma, Nachiket Tapas, Jyotiprakash Patra

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种基于上下文感知的自适应回避框架，通过动态调整安全阈值和级联检测机制，提升大语言模型在安全与效用之间的平衡能力。

Text Style Transfer with Parameter-efficient LLM Finetuning and Round-trip Translation

基于参数高效LLM微调和往返翻译的文本风格迁移

Ruoxi Liu, Philipp Koehn

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出基于参数高效LLM微调和往返翻译的文本风格迁移方法，通过合成平行语料库提升风格迁移效果，并结合RAG增强术语和名称知识的鲁棒性与一致性。

Comments 9 pages, 5 figures, 4 tables

LLM-Guided Knowledge Distillation for Temporal Knowledge Graph Reasoning

基于大语言模型的知识蒸馏的时序知识图谱推理

Wang Xing, Wei Song, Siyu Lin, Chen Wu, Man Wang

机构 * School of Computer Science and Technology, Xidian University（西安电子科技大学计算机科学与技术学院） ； School of Computing and Artificial Intelligence, Southwest Jiaotong University（西南交通大学计算机与人工智能学院） ； School of Information Science and Engineering, Chongqing Jiaotong University（重庆交通大学信息科学与工程学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出一种基于大语言模型的知识蒸馏框架，用于提升时序知识图谱推理性能，通过引入大语言模型作为辅助指导者，实现更高效的模型压缩与训练。

Evaluating the Impact of Post-Training Quantization on Reliable VQA with Multimodal LLMs

评估后训练量化对多模态大语言模型可靠视觉问答的影响

Paul Jonas Kurz, Tobias Jan Wieczorek, Mohamed A. Abdelsalam, Rahaf Aljundi, Marcus Rohrbach

机构 * TU Darmstadt（图宾根大学） ； Toyota Motor Europe（丰田欧洲公司） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了后训练量化对多模态大语言模型可靠视觉问答的影响，提出通过选择器置信度估计器提升可靠性，并在不同量化方法中实现了效率与可靠性的最佳平衡。

Comments Accepted poster at the 1st Workshop on Epistemic Intelligence in Machine Learning (EIML) @ EURIPS 2025

ParoQuant: Pairwise Rotation Quantization for Efficient Reasoning LLM Inference

ParoQuant: 基于成对旋转的量化方法用于高效推理大语言模型推理

Yesheng Liang, Haisheng Chen, Zihan Zhang, Song Han, Zhijian Liu

机构 * NVIDIA ； MIT（麻省理工学院） ； UC San Diego（加州大学圣地亚哥分校） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 ParoQuant通过结合硬件高效旋转与通道缩放，有效解决推理LLMs中的异常值问题，实现更高的准确性和更低的开销。

Comments ICLR 2026 | Project page: https://paroquant.z-lab.ai | GitHub: https://github.com/z-lab/paroquant

LO-BCQ: Block Clustered Quantization for 4-bit (W4A4) LLM Inference

LO-BCQ：用于4位（W4A4）大语言模型推理的块聚类量化

Reena Elangovan, Charbel Sakr, Anand Raghunathan, Brucek Khailany

机构 * NVIDIA Corporation（NVIDIA公司） ； Department of ECE（电子工程系） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 LO-BCQ通过块聚类量化方法，在W4A4格式下实现4位大语言模型推理，取得<1%的精度损失，提升推理效率。

Journal ref Transactions on Machine Learning Research, 2025

Semantic Caching for Low-Cost LLM Serving: From Offline Learning to Online Adaptation

语义缓存用于低成本LLM服务：从离线学习到在线适应

Xutong Liu, Baran Atalar, Xiangxiang Dai, Jinhang Zuo, Siwei Wang, John C. S. Lui, Wei Chen, Carlee Joe-Wong

机构 * University of Washington（华盛顿大学） ； Carnegie Mellon University（卡内基梅隆大学） ； The Chinese University of Hong Kong（香港中文大学） ； City University of Hong Kong（香港城市大学） ； Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出了一种基于学习的语义缓存框架，解决LLM服务中的缓存淘汰问题，通过离线优化和在线学习方法，在未知查询和成本分布下实现高效缓存管理。

Comments Accepted to INFOCOM 2026

TensorCommitments: A Lightweight Verifiable Inference for Language Models

张量承诺：一种轻量级可验证的语言模型推断

Oguzhan Baser, Elahe Sadeghi, Eric Wang, David Ribeiro Alves, Sam Kazemian, Hong Kang, Sandeep P. Chinchali, Sriram Vishwanath

机构 * The University of Texas at Austin（德克萨斯大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Theseus AI Labs（Theseus AI实验室） ； McGill University（麦吉尔大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI

AI总结 张量承诺通过轻量级的证明方案实现可验证的语言模型推断，提高对抗性攻击的鲁棒性。

Comments 23 pages, 8 figures, under review

DiffuRank: Effective Document Reranking with Diffusion Language Models

DiffuRank: 基于扩散语言模型的有效文档重排序

Qi Liu, Kun Ai, Jiaxin Mao, Yanzhao Zhang, Mingxin Li, Dingkun Long, Pengjun Xie, Fengbin Zhu, Ji-Rong Wen

机构 * Renmin University of China（中国人民大学） ； Alibaba Group（阿里巴巴集团） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

AI总结 DiffuRank利用扩散语言模型改进文档重排序，通过三种策略提升效率和可控性，实验表明其性能可与自回归模型媲美。

Comments The code is available at https://github.com/liuqi6777/DiffusionRank

Racka: Efficient Hungarian LLM Adaptation on Academic Infrastructure

Racka：在学术基础设施上高效地进行匈牙利语LLM适应

Zsolt Csibi, Bence György Gortka, Natabara Gyöngyössy, Kornél Nagy, Dávid Márk Nemeskey, Martin Sallai, András Simonyi, András Márk Szekeres, Gábor Palkó

机构 * ELTE Faculty of Humanities（ELTE人文学院） ； ELTE Faculty of Informatics（ELTE信息学院） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 Racka通过LoRA技术在学术基础设施上高效适应匈牙利语，平衡资源差距并提升多语言性能。

Comments 22 pages, 1 figures. Appeared, and received best paper award, at the XXII. Magyar Számítógépes Nyelvészeti Konferencia (MSZNY 2026)

VibeCodeHPC: An Agent-Based Iterative Prompting Auto-Tuner for HPC Code Generation Using LLMs

VibeCodeHPC: 基于大语言模型的多智能体迭代提示自动调优系统用于HPC代码生成

Shun-ichiro Hayashi, Koki Morita, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri

机构 * Graduate School of Informatics（信息学院研究生院） ； Nagoya University（名古屋大学） ； Information Technology Center（信息技术中心） 纠错

专题命中 效率与部署 ：prompting(title)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 VibeCodeHPC通过多智能体系统实现HPC代码的自动调优，利用大语言模型进行自然语言交互，提升代码性能与开发效率。

Effective MoE-based LLM Compression by Exploiting Heterogeneous Inter-Group Experts Routing Frequency and Information Density

通过利用异构组间专家路由频率和信息密度实现有效的MoE大语言模型压缩

Zhendong Mi, Yixiao Chen, Pu Zhao, Xiaodong Yu, Hao Wang, Yanzhi Wang, Shaoyi Huang

机构 * Department of Computer Science, Stevens Institute of Technology, Hoboken, NJ, USA（计算机科学系，史蒂文斯理工学院，新泽西州霍博肯） ； Northeastern University, Boston, MA, USA（东北大学，波士顿，马萨诸塞州） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 RFID-MoE通过异构组间专家路由频率和信息密度实现MoE大语言模型压缩，提升压缩效果和性能

Evaluating Kubernetes Performance for GenAI Inference: From Automatic Speech Recognition to LLM Summarization

评估Kubernetes性能用于生成式AI推理：从自动语音识别到LLM摘要

Sai Sindhur Malleni, Raúl Sevilla, Aleksei Vasilevskii, José Castillo Lema, André Bauer

机构 * Red Hat（红帽公司） ； NVIDIA（英伟达公司） ； Illinois Institute of Technology（伊利诺伊理工学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了Kubernetes在生成式AI推理中的性能，通过结合Kueue、DAS和GAIE等技术，提升多阶段AI工作流的效率与性能。

Comments A accepted at the 17th International Conference on Performance Engineering

LATA: A Tool for LLM-Assisted Translation Annotation

LATA：一个辅助翻译标注的工具

Baorong Huang, Ali Asiri

机构 * School of Foreign Languages, Huaihua University（怀化大学外语学院） ； Alith University College, Umm al-Qura University（乌姆·阿尔·库拉大学阿利思大学学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LATA是一个利用大语言模型辅助的翻译标注工具，旨在提高标注效率的同时保持语言学精度，适用于结构差异大的语言对。

SAGE: An Agentic Explainer Framework for Interpreting SAE Features in Language Models

SAGE: 一种用于解释语言模型SAE特征的代理解释框架

Jiaojiao Han, Wujiang Xu, Mingyu Jin, Mengnan Du

机构 * New Jersey Institute of Technology（新泽西理工学院） ； Rutgers University（罗格斯大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

AI总结 SAGE提出了一种基于代理的框架，通过主动解释驱动过程提升对语言模型SAE特征的解释准确性。

Comments EACL 2026 Industry Track

Selective KV-Cache Sharing to Mitigate Timing Side-Channels in LLM Inference

选择性KV缓存共享以缓解LLM推理中的定时侧信道

Kexin Chu, Zecheng Lin, Dawei Xiang, Zixu Shen, Jianchang Su, Cheng Chu, Yiwei Yang, Wenhui Zhang, Wenfei Wu, Wei Zhang

机构 * University of Connecticut Storrs（康涅狄格大学斯托尔斯分校） ； Independent（独立研究者） ； Indiana University Bloomington（印第安纳大学布卢明顿分校） ； UC Santa Cruz（圣克拉拉大学） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SafeKV通过选择性KV缓存共享缓解LLM推理中的定时侧信道问题，实现隐私保护与性能优化的平衡。

Comments 14 pages,15 figures

Efficient and Adaptable Detection of Malicious LLM Prompts via Bootstrap Aggregation

通过Bootstrap聚合实现高效且适应性强的恶意LLM提示检测

Shayan Ali Hassan, Tao Ni, Zafar Ayyub Qazi, Marco Canini

机构 * KAUST（卡塔尔人工智能研究所在线中心） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 BAGEL通过Bootstrap聚合和专家混合方法，实现高效且适应性强的恶意LLM提示检测，以高F1得分超越现有大参数模型。

Rethinking Latency Denial-of-Service: Attacking the LLM Serving Framework, Not the Model

重新审视延迟拒绝服务：攻击LLM服务框架，而非模型

Tianyi Wang, Huawei Fan, Yuanchao Shu, Peng Cheng, Cong Wang

机构 * Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出Fill和Squeeze攻击策略，通过影响调度器状态转换，攻击LLM服务框架而非模型，降低攻击成本并造成显著延迟。

Pre-Filtering Code Suggestions using Developer Behavioral Telemetry to Optimize LLM-Assisted Programming

利用开发者行为 telemetry 预过滤代码建议以优化 LLM 协助编程

Mohammad Nour Al Awad, Sergey Ivanov, Olga Tikhonova

机构 * ITMO University（ITMO大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 通过开发者行为 telemetry 预过滤代码建议，提升 LLM 协助编程的接受率和效率

Comments \c{opyright} 2025 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses

Journal ref In Proceedings of the 40th IEEE/ACM International Conference on Automated Software Engineering Workshops (ASEW 2025)

Optimizing LLM Code Suggestions: Feedback-Driven Timing with Lightweight State Bounds

优化大语言模型代码建议：基于反馈的轻量级状态边界定时机制

Mohammad Nour Al Awad, Sergey Ivanov, Olga Tikhonova

机构 * ITMO University（ITMO大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于反馈的轻量级定时机制，通过动态调整延迟来优化大语言模型代码建议的接受率，显著提升了效率并减少了浪费的推理调用。

Comments \c{opyright} 2025 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses

Journal ref In Proceedings of the 40th IEEE/ACM International Conference on Automated Software Engineering Workshops (ASEW 2025)

OpenPhone: Mobile Agentic Foundation Models

OpenPhone: 移动代理基础模型

Yangqin Jiang, Chao Huang

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：foundation model(title)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 OpenPhone通过设备-云协作提升移动GUI代理性能，结合设备端高效模型与云端强大能力，实现成本降低与性能提升的平衡。