语言大模型 / LLM

On-Policy Distillation for LLM Safety: A Routing Approach to Template-Robust Realignment

面向大语言模型安全的在线策略蒸馏：一种针对模板鲁棒性的重对齐路由方法

Yongjian Guo, Wanlun Ma, Lingyu Shen, Xi Xiao, Sheng Wen

机构 * Tsinghua University（清华大学） ； Swinburne University of Technology（斯威本科技大学） ； EPFL（洛桑联邦理工学院） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对现有LLM安全防御的模板鲁棒性不足等问题，提出ROPD框架，通过建模输出分布差异实现重对齐，大幅降低模板不匹配风险，在防御有效性和能力保留上优于基线方法，建立了新的鲁棒重对齐标准。

CRISP: Pre-LLM Yet Text-Driven Visual Token Pruning for Efficient LVLM Inference

CRISP：用于高效LVLM推理的预LLM文本驱动视觉令牌剪枝

Xu Li, Yi Zheng, Mengyang Zhao, Yuxuan Liang, Zhe Liu, Rui Zhu, Xiaolei Chen, Wei Zhou, Baoquan Zhao, Juncen Guo

机构 * College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学与人工智能学院） ； School of Computer Science and Informatics, Cardiff University（卡迪夫大学计算机科学与信息学院） ； School of Artificial Intelligence, Sun Yat-sen University（中山大学人工智能学院） ； College of Intelligent Robotics and Advanced Manufacturing, Fudan University（复旦大学智能机器人与先进制造学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；language model(abstract)

AI总结 针对大型视觉语言模型推理开销大的问题，提出CRISP框架，通过文本驱动在预LLM阶段剪枝视觉令牌，分两阶段工作，实验表明其在激进剪枝率下能保持高性能，降低推理成本和延迟，是高效LVLM推理的实用方案。

Comments Accepted by the 2026 IEEE International Conference on Multimedia and Expo (ICME 2026) as Oral

OmniPilot: An Uncertainty-Aware LLM Inference Advisor for Heterogeneous GPU Clusters

OmniPilot: 面向异构GPU集群的不确定性感知LLM推理顾问

D. Balamurugan, Thomas W. Bush

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 提出OmniPilot，通过共形校准分位数成本模型和分布外弃权层，为异构GPU集群上的LLM服务选择最优配置，预测吞吐量MAPE为6.2%，top-1准确率95%。

Comments 10 pages, 3 figures, 3 tables

ComplianceGate: Classifier-Gated Multi-Tier LLM Routing for Inference in Regulated Industries

ComplianceGate: 分类器门控的多层LLM路由用于受监管行业的推理

Abhishek Dey

机构 * Independent AI Researcher, India（印度独立人工智能研究员） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出分类器门控路由架构，在推理前评估查询复杂度和数据敏感性，将含PII的查询路由到本地端点，简单查询路由到小型模型，实现合规与成本效率。

Smaller Models, Unexpected Costs: Trade-offs in LLM Quantization for Automated Program Repair

更小的模型，意外的代价：LLM量化在自动程序修复中的权衡

Fernando Vallecillos-Ruiz, Giordano d'Aloisio, Max Hort, Luca Traini, Antinisca Di Marco, Leon Moonen

专题命中 效率与部署 ：LLM(title,title_cn)；language model(abstract)

AI总结 研究LLM量化在自动程序修复中的效果，发现量化虽减少内存但增加推理时间和能耗，且修复问题集差异大，权衡受模型架构和任务复杂度影响。

Comments Accepted for publication in the Research Papers Track of the 42nd IEEE International Conference on Software Maintenance and Evolution (ICSME 2026), 14-18 September 2026, Benevento, Italy

From Clicks to Intent: Cross-Platform Session Embeddings with LLM-Distilled Taxonomy for Financial Services Recommendations

从点击到意图：基于LLM提炼分类法的跨平台会话嵌入用于金融服务推荐

Dianjing Fan, Yao Li, Kyaw Hpone Myint, Dwipam Katariya, Alexandre G. R. Day, Pranab Mohanty, Giri Iyengar

机构 * Capital One 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对金融服务中网页匿名浏览与移动端登录行为差异导致的意图信号利用不足问题，提出自监督Transformer编码会话嵌入与LLM提炼分类法生成可解释标签的双用途框架，在移动端首页排序和用户转化预测任务上显著提升性能。

Comments Dianjing Fan and Yao Li equally contributed to this work. 7 pages, 1 figure

Context Recycling for Long-Horizon LLM Inference

长程LLM推理的上下文回收

Derek Thomas

机构 * Independent Researcher（独立研究员） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出ContextForge系统，通过结构化查询生成、外部记忆检索和受控合成实现上下文回收，在15轮对话基准中减少令牌消耗并保持回答质量。

Parameter-Efficient Neuroevolution for Diverse LLM Generation: Quality-Diversity Optimization via Prompt Embedding Evolution

参数高效神经进化用于多样化大语言模型生成：通过提示嵌入进化实现质量-多样性优化

Dongxin Guo, Jikun Wu, Siu Ming Yiu

机构 * The University of Hong Kong（香港大学） ； Stellaris AI Limited（Stellaris AI有限公司） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出QD-LLM框架，通过进化提示嵌入实现参数高效神经进化，提升大语言模型生成质量与多样性，实验显示其在多个基准测试中表现优异。

Comments 11 pages, 3 figures, 7 tables, 1 algorithm, 1 theorem. Accepted to GECCO 2026

LLM Features Can Hurt GNNs: Concatenation Interference on Homophilous Graph Benchmarks

LLM特征可能损害GNN：同配图基准上的拼接干扰

Zhongyuan Wang, Pratyusha Vemuri

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文发现将LLM特征通过纯输入拼接（而非联合训练）引入图神经网络时，会在同配基准上系统性地降低准确率，并提出了一个基于LLM单独判别性指标Delta_sig来预测拼接效果。

Comments 29 pages, 8 figures

Trainable Smooth-Rotation Transforms with Learned Channel Scales for LLM Quantization

可训练平滑旋转变换与学习通道尺度用于LLM量化

Patrik Czakó, Gábor Kertész, Sándor Szénási

机构 * Doctoral School of Applied Informatics and Applied Mathematics, Obuda University（应用信息学与应用数学博士学校，奥布达大学） ； John von Neumann Faculty of Informatics, Obuda University（约翰·冯·诺伊曼信息学系，奥布达大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 针对大语言模型量化中激活值量化困难的问题，提出基于分位数鲁棒的缩放策略和梯度优化的通道尺度学习，在W4A4量化下显著降低误差。

Comments 6 pages, 8 figures, 3 tables. Accepted to IEEE INES 2026 conference proceedings

Joint Optimization of Relevance and Engagement in Multi-Task Ranking for E-Commerce with Efficient LLM Supervision

电子商务中多任务排序的相关性与参与度联合优化与高效LLM监督

Luming Chen, Jiaqi Xi, Raghav Saboo, Kenny Chi, Martin Wang, Sudeep Das, Danny Nightingale, Aditya Dodda, Elyse Winer, Akshad Viswanathan

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 提出一个生产级多任务排序系统，通过序数相关头与统一价值模型联合优化相关性和参与度，并利用微调轻量级LLM生成三级序数相关标签，显著提升语义对齐同时保持核心参与目标。

Rethinking Layer Redundancy: Calibration Matters More Than Search in LLM Depth Pruning

重新思考层冗余：校准比搜索在LLM深度剪枝中更重要

Minkyu Kim, Vincent-Daniel Yun, Youngrae Kim, Suin Cho, Woosang Lim, Sunwoo Lee

机构 * Neural Superintelligence Lab, MODULABS（神经超智能实验室，MODULABS） ； University of Southern California（南加州大学） ； Boston University（波士顿大学） ； Seoul National University（首尔国立大学） ； Inha University（inha大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过实验发现，在大型语言模型深度剪枝中，校准配置对剪枝模式和性能的影响远大于搜索算法的选择。

Comments Preprint

Diagnosing Training Inference Mismatch in LLM Reinforcement Learning

诊断LLM强化学习中的训练推断不匹配

Tianle Zhong, Neiwen Ling, Yifan Pi, Zijun Wei, Tianshu Yu, Geoffrey Fox, Peng Wu, Xiao Yu

机构 * ByteDance（字节跳动） ； The University of Virginia（弗吉尼亚大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究揭示LLM强化学习中训练与推断阶段的不匹配问题，通过VeXact实验显示微小数值差异可能导致训练崩溃，并提出缓解措施。

Why Someone Asked "Why": Foil Inference in Human and LLM Question Interpretation

为何有人问“为何”：人类和LLM的问题解读中的 foil 推理

Britt Besch, Tobias Gerstenberg

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 研究探讨人类和LLM如何通过 hindsight expectation 判断 why 问题的 foil，发现人类选择 foil 的最佳预测因素是 hindsight expectation，而 LLM 的显式期望判断与 foil 选择存在不一致。

Comments Accepted at Proceedings of the 48th Annual Conference of the Cognitive Science Society (CogSci 2026)

DiP-SD: Distributed Pipelined Speculative Decoding for Efficient LLM Inference at the Edge

DiP-SD：分布式流水线推测解码用于边缘高效LLM推理

Yaodan Xu, Sheng Zhou, Zhisheng Niu

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出DiP-SD，通过设备级分布式生成与阶段级生成-验证流水线，优化边缘多用户LLM推理的吞吐量，实现比自回归解码高17.89倍的性能。

Comments Accepted by 2026 IEEE 103rd Vehicular Technology Conference (VTC2026-Spring)

Route to Rome Attack: Directing LLM Routers to Expensive Models via Adversarial Suffix Optimization

通往罗马的攻击：通过对抗性后缀优化引导LLM路由器选择昂贵模型

Haochun Tang, Yuliang Yan, Jiahua Lu, Huaxiao Liu, Enyan Dai

机构 * Key Laboratory of Symbolic Computation and Knowledge Engineering, MoE, Jilin University（符号计算与知识工程重点实验室，MoE，吉林大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出R$^2$A方法，通过对抗性后缀优化误导黑盒LLM路由器选择昂贵模型，解决现有攻击在黑盒场景下的不足。

Journal ref ACL 2026 Main Conference

Adaptive Layer Selection for Layer-Wise Token Pruning in LLM Inference

针对LLM推理中分层令牌剪枝的自适应层选择

Rei Taniguchi, Yuyang Dong, Makoto Onizuka, Chuan Xiao

机构 * NEC Corporation（日本电报电话株式会社） ； Osaka University（大阪大学） ； Nagoya University（名古屋大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出ASL方法，通过自适应选择KV缓存中的层，平衡不同任务性能并满足KV预算要求，优于现有分层令牌剪枝方法。

Comments ACL 2026 Findings. Source code available at https://github.com/TANIGUCHIREI/ASL

Lossless Prompt Compression via Dictionary-Encoding and In-Context Learning: Enabling Cost-Effective LLM Analysis of Repetitive Data

通过字典编码和上下文学习实现无损提示压缩：使LLM能够高效分析重复数据

Andresa Rodrigues de Campos, David Lee, Imry Kissos, Piyush Paritosh

机构 * Anonymous Institution, Anonymous City, Anonymous Region, Anonymous Country（匿名机构，匿名城市，匿名地区，匿名国家） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种无损提示压缩方法，利用字典编码和上下文学习，无需微调即可高效分析重复数据，压缩比达80%且保持高精度。

Knowledge Prompting: How Knowledge Engineers Use Large Language Models

Elisavet Koutsiana, Johanna Walker, Michelle Nwachukwu, Bohui Zhang, Albert Meroño-Peñuela, Elena Simperl

专题命中 效率与部署 ：prompting(title,abstract)；large language model(title)；language model(title)；LLM(abstract)

Not All Experts are Equal: Efficient Expert Pruning and Skipping for Mixture-of-Experts Large Language Models

Xudong Lu, Qi Liu, Yuhui Xu, Aojun Zhou, Siyuan Huang, Bo Zhang, Junchi Yan, Hongsheng Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Mixture-of-Experts Large Language Models, ACL2024

SCOPE: A Generative Approach for LLM Prompt Compression

SCOPE：一种用于大语言模型（LLM）提示压缩的生成式方法

Tinghui Zhang, Yifan Wang, Daisy Zhe Wang

机构 * University of Florida（佛罗里达大学） ； University of Hawaii - Manoa（夏威夷大学-曼诺亚） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.AI；language model(comments)

AI总结 针对LLM输入过长导致的高成本、延迟及超上下文限制问题，提出无需训练的SCOPE框架，通过分块重写实现提示压缩，在多数设置及高压缩率下均优于现有基线。

Comments Accepted at the Conference on Language Modeling (COLM 2026)

COEC: Calibrated Orthogonal-Equivalence Compensation for Structured Pruning of Large Language Models

COEC：面向大语言模型结构化剪枝的校准正交等价补偿

Peiqi Yu, Nam Ling, Wei Wang, Wei Jiang

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 本研究提出无训练补偿框架COEC，将其应用于Llama-3等模型的结构化剪枝，可提升剪枝后模型的困惑度与零样本准确率，在高稀疏度下增益更显著。

Conceptual Schema Inference for Tabular Datasets using Large Language Models

使用大型语言模型对表格数据集进行概念模式推断

Zhenyu Wu, Jiaoyan Chen, Norman W. Paton

机构 * The University of Manchester（曼彻斯特大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出两种基于大型语言模型的方法，从原始表格中自动推断概念模式，包括实体类型、属性和类型间关系，以解决异构表格数据的一致性问题。

TourSynbio-Search: A Large Language Model Driven Agent Framework for Unified Search Method for Protein Engineering

TourSynbio-Search：一种用于蛋白质工程的统一搜索方法的大语言模型驱动智能体框架

Yungeng Liu, Zan Chen, Yu Guang Wang, Yiqing Shen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 TourSynbio-Search是TourSynbio-7B驱动的双模块搜索智能体框架，可跨多平台检索文献与蛋白质数据，降低技术门槛，提升蛋白质工程研究的信息检索效率与生产力

Conformalized Large Language Models under Configuration Shift

配置偏移下的共形大语言模型

Yuqicheng Zhu, Jialin Yu, Lin Li, Gengyuan Zhang, Zhen Yang, Steffen Staab, Puneet Dokania, Philip Torr, Jie Tang, Evgeny Kharlamov

机构 * University of Stuttgart（斯图加特大学） ； Robert Bosch GmbH（罗伯特·博世有限公司） ； University of Oxford（牛津大学） ； LMU Munich（慕尼黑大学） ； Tsinghua University（清华大学） ； University of Southampton（南安普顿大学） ； University of Oslo（奥斯陆大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 该研究针对配置偏移对共形大语言模型有效性的影响展开系统分析，通过多维度实证研究揭示其削弱覆盖率的问题，提出两种实用缓解措施以恢复覆盖率并保留效率。

Comments Under Review

Guiding Large Language Models with Genetic Programming-Evolved Heuristic Knowledge for Dynamic Multi-Mode Project Scheduling

用遗传编程演化的启发式知识指导大语言模型解决动态多模式项目调度问题

Yuan Tian, Yi Mei, Mengjie Zhang

机构 * Centre for Data Science and Artificial Intelligence（数据科学与人工智能中心） ； School of Engineering and Computer Science（工程与计算机科学学院） ； Victoria University of Wellington（惠灵顿维多利亚大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究将遗传编程演化的调度规则知识反向转移，通过四种机制指导大语言模型决策，提升了调度性能、决策稳定性并降低 token 消耗。

Decision-Level Hijacking: Injecting Cognitive Bias into Large Language Models via Bit-Flip Attacks

决策级劫持：通过位翻转攻击向大语言模型注入认知偏差

Yu Yan, Jiahao Chen, Siqi Lu, Yongjuan Wang, Ziming Zhao, Zhaoxuan Li, Tianyu Du, Qingjun Yuan, Shouling Ji

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 研究大语言模型在高风险决策场景中的决策级劫持问题，提出CogBias框架，利用位翻转攻击，通过可微情感评估器等将主观偏好转化为优化信号，经实验验证该方法能在少量位翻转下诱导目标主题立场转变，破坏模型价值对齐。

CONSISTRE: A Unified Consistency-Aware Framework for Document-Level Relation Extraction with Large Language Models

CONSISTRE：用于文档级关系抽取的统一一致性感知框架及大语言模型

Mingxuan Sun

机构 * Université de Sherbrooke（舍布鲁克大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 研究针对文档级关系抽取中，大语言模型预测易违反关系约束的问题，提出CONSISTRE统一框架。通过推理时的约束感知等及训练时的知识蒸馏强化学习两条路径解决，实验表明该框架有效提升性能，缩小开源与专有模型差距，增强可靠性。

Comments 13 pages, 2 figures. Submitted to IEEE/ACM Transactions on Audio, Speech, and Language Processing

An MLIR-Based Compilation Method for Large Language Models

一种基于MLIR的大语言模型编译方法

Pengchao Hu, Zhibin Xin, Yifan Chen, Yangyang Zhou, Liang Wang, Xin Zhang

机构 * Sophgo Inc（算能科技有限公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 针对大语言模型在专用硬件部署的挑战，提出基于MLIR的编译方法，用TopOp和TpuOp方言表示模型，分阶段编译，在TPU-MLIR编译器等项目实现，支持多种模型及量化部署形式。

AdaHome: An Adaptive Smart Home Assistant using Local Small Language Models

AdaHome：一种使用本地小语言模型的自适应智能家居助手

Eu Jin Lim, Zhaoxing Li, Sebastian Stein

机构 * University of Southampton（南安普顿大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 研究旨在解决智能家居助手问题，提出AdaHome，通过意图感知规划框架、草稿链策略及偏好适应机制，在本地小语言模型上实现高效决策与个性化，实验显示其在命令准确性、延迟及多轮场景中有良好表现。