语言大模型 / LLM

FLAT-LLM: Fine-grained Low-rank Activation Space Transformation for Large Language Model Compression

FLAT-LLM: 细粒度低秩激活空间变换用于大语言模型压缩

Jiayi Tian, Ryan Solgi, Jinming Lu, Yifan Yang, Hai Li, Zheng Zhang

机构 * University of California, Santa Barbara（加州大学圣芭芭拉分校） ； Intel Corporation（英特尔公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 FLAT-LLM通过细粒度低秩激活空间变换实现大语言模型的高效结构压缩，无需训练即可完成权重压缩和校准，提升推理效率与性能。

Cost-Aware Model Selection for Text Classification: Multi-Objective Trade-offs Between Fine-Tuned Encoders and LLM Prompting in Production

面向成本的模型选择用于文本分类：在生产环境中细调编码器与LLM提示之间的多目标权衡

Alberto Andres Valdes Gonzalez

机构 * Pontifical Catholic University of Chile（天主教智利大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；prompting(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出在生产环境中细调编码器与LLM提示之间的多目标权衡，发现微调编码器在成本和性能上优于LLM提示。

Comments 26 pages, 12 figures. Empirical benchmark comparing fine-tuned encoders and LLM prompting for text classification under cost and latency constraints

R-MTLLMF: Resilient Multi-Task Large Language Model Fusion at the Wireless Edge

R-MTLLMF: 在无线边缘实现具有鲁棒性的多任务大语言模型融合

Aladin Djuhera, Vlad C. Andrei, Mohsen Pourghasemian, Haris Gacanin, Holger Boche, Walid Saad

机构 * Technical University of Munich（慕尼黑技术大学） ； RWTH Aachen University（亚琛工业大学） ； Virginia Tech（弗吉尼亚理工学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出R-MTLLMF，通过鲁棒的模型融合技术在无线边缘环境下提升多任务大语言模型的抗干扰能力。

Journal ref IEEE International Conference on Communications (ICC), 2025

Scalable Multi-Stage Influence Function for Large Language Models via Eigenvalue-Corrected Kronecker-Factored Parameterization

通过特征值校正的克罗内克因子化参数化实现大规模语言模型的可扩展多阶段影响函数

Yuntai Bao, Xuhong Zhang, Tianyu Du, Xinkui Zhao, Jiang Zong, Hao Peng, Jianwei Yin

机构 * Zhejiang University（浙江大学） ； Universal Identification Technology (Hangzhou) Co.,Ltd.（universal identification technology (hangzhou) co., ltd.） ； Zhejiang Normal University（浙江师范大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本文提出了一种基于特征值校正的克罗内克因子化参数化的多阶段影响函数，用于解释大规模语言模型在微调后的预测归因于预训练数据，展示了其在大规模模型中的可扩展性和解释能力。

Comments 17 pages, 4 figures; accepted by IJCAI 2025

Journal ref Proceedings of the Thirty-Fourth International Joint Conference on Artificial Intelligence Main Track (2025) 8022-8030

An item is worth one token in Multimodal Large Language Models-based Sequential Recommendation

在基于多模态大语言模型的序列推荐中，一个项目相当于一个标记

Qiyong Zhong, Jiajie Su, Ming Yang, Yunshan Ma, Xiaolin Zheng, Chaochao Chen

机构 * Zhejiang University（浙江大学） ； Singapore Management University（新加坡国立管理学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 Speeder通过多模态表示压缩、模态感知渐进优化和序列位置感知增强，提升多模态大语言模型在序列推荐中的效率与效果。

Next-generation cyberattack detection with large language models: anomaly analysis across heterogeneous logs

下一代基于大语言模型的网络攻击检测：跨异构日志的异常分析

Yassine Chagna, Antal Goldschmidt

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本研究提出基于大语言模型的下一代网络攻击检测方法，通过构建异构日志数据集和两阶段训练框架，实现高效准确的异常检测。

D$^2$Quant: Accurate Low-bit Post-Training Weight Quantization for LLMs

D$^2$Quant: 高精度低比特后训练权重量化用于大语言模型

Xianglong Yan, ChengZhu Bao, Zhiteng Li, Tianao Zhang, Shaoqiu Zhang, Ruobing Xie, Samm Sun, Yulun Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tencent Hunyuan（腾讯文心） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 D$^2$Quant通过双尺度量化器和偏差感知修正提升低比特权重量化精度，实现更高效的LLM部署。

TrailBlazer: History-Guided Reinforcement Learning for Black-Box LLM Jailbreaking

TrailBlazer: 基于历史的强化学习用于黑盒大语言模型劫持

Sung-Hoon Yoon, Ruizhi Qian, Minda Zhao, Weiyue Li, Mengyu Wang

机构 * Daegu Gyeongbuk Institute of Science and Technology（大邱庆 bun 科学技术研究院） ； Harvard University（哈佛大学） ； University of Southern California（南加州大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 TrailBlazer通过历史感知强化学习提升黑盒大语言模型劫持效率，实现更高效的攻击策略和更高的查询效率。

POP: Online Structural Pruning Enables Efficient Inference of Large Foundation Models

POP：在线结构剪枝实现大基础模型的高效推理

Yi Chen, Wonjin Shin, Shuhong Liu, Tho Mai, Jeongmo Lee, Chuanbo Hua, Kun Wang, Jun Liu, Joo-Young Kim

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） ； University of Tokyo, Tokyo, Japan（东京大学） ； Tokyo Institute of Technology, Tokyo, Japan（东京技术大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 POP通过在线结构剪枝提升大基础模型推理效率，实现动态剪枝与低计算开销。

Bridging 6G IoT and AI: LLM-Based Efficient Approach for Physical Layer's Optimization Tasks

连接6G物联网与AI：基于大语言模型的高效方法用于物理层优化任务

Ahsan Mehmood, Naveed Ul Hassan, Ghassan M. Kraidy

机构 * Department of Electronic Systems, Norwegian University of Science and Technology（电子系统系，挪威科学技术大学） ； Department of Electrical Engineering, Lahore University of Management sciences (LUMS)（电气工程系，拉合尔管理科学大学（LUMS）） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于大语言模型的PE-RTFV框架，通过迭代优化实现6G物联网物理层任务的高效优化。

Comments This paper is submitted to IEEE IoT Journal and is currently under review

PackInfer: Compute- and I/O-Efficient Attention for Batched LLM Inference

PackInfer: 用于批量LLM推理的计算和I/O高效注意力

Rui Ning, Wei Zhang, Fan Lai

机构 * Nanjing University, Nanjing, China（南京大学） ； Siebel Center for Computer Science, University of Illinois Urbana-Champaign, Urbana, IL, USA（伊利诺伊大学厄巴纳-香槟分校计算机科学中心） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 PackInfer通过高效计算和I/O机制优化批量LLM推理，显著降低延迟并提升吞吐量。

Dynamic Vocabulary Pruning: Stable LLM-RL by Taming the Tail

动态词汇剪枝：通过驯服尾部实现稳定的LLM强化学习

Yingru Li, Jiawei Xu, Jiacai Liu, Yuxuan Tong, Ziniu Li, Tianle Cai, Ge Zhang, Qian Liu, Baoxiang Wang

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Fudan University（复旦大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 动态词汇剪枝通过限制RL目标到安全词汇，减少尾部token的偏置误差，从而实现稳定的大语言模型强化学习。

dUltra: Ultra-Fast Diffusion Language Models via Reinforcement Learning

dUltra: 通过强化学习实现超快扩散语言模型

Shirui Chen, Jiantao Jiao, Lillian J. Ratliff, Banghua Zhu

机构 * University of Washington（华盛顿大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 dUltra通过端对端强化学习框架实现超快扩散语言模型，提升并行生成效率和准确性。

Do Prompts Guarantee Safety? Mitigating Toxicity from LLM Generations through Subspace Intervention

提示是否保证安全？通过子空间干预减轻大语言模型生成中的毒性

Himanshu Singh, Ziwei Xu, A. V. Subramanyam, Mohan Kankanhalli

机构 * Department of Computer Science（计算机科学系） ； School of Computing, National University of Singapore（新加坡国立大学计算机学院） ； Department of Electronics and Communications Engineering（电子与通信工程系） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出了一种子空间干预策略，通过减少大语言模型生成中的毒性，同时保持生成文本的流畅性。

Revisiting the Shape Convention of Transformer Language Models

重新审视变换器语言模型的形状约定

Feng-Ting Liao, Meng-Hsi Chen, Guan-Ting Yi, Da-shan Shiu

机构 * National Taiwan University（国立台湾大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文重新审视变换器语言模型的MLP形状约定，提出更深层但更轻的hourglass FFN作为传统FFN的竞争替代品，并通过实验证明其在不同模型规模下的优越性能。

AgentCPM-Explore: Realizing Long-Horizon Deep Exploration for Edge-Scale Agents

AgentCPM-Explore: 实现长horizon深度探索以实现边缘规模智能体

Haotian Chen, Xin Cong, Shengda Fan, Yuyang Fu, Ziqin Gong, Yaxi Lu, Yishan Li, Boye Niu, Chengjun Pan, Zijun Song, Huadong Wang, Yesai Wu, Yueying Wu, Zihao Xie, Yukun Yan, Zhong Zhang, Yankai Lin, Zhiyuan Liu, Maosong Sun

机构 * AgentCPM Team（AgentCPM 团队） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 AgentCPM-Explore通过深度探索实现边缘规模智能体的高性能表现，超越大模型在多个基准上的表现。

Efficient Perplexity Bound and Ratio Matching in Discrete Diffusion Language Models

离散扩散语言模型中的高效困惑度界与比率匹配

Etrit Haxholli, Yeti Z. Gurbuz, Ogul Can, Eli Waxman

机构 * MetaDialog Research（MetaDialog研究） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种改进的离散扩散语言模型框架，通过比率匹配和新的定理推导，提升了模型的生成性能和训练效率。

Constella: Supporting Storywriters' Interconnected Character Creation through LLM-based Multi-Agents

Constella：通过基于LLM的多智能体支持故事创作者的相互关联角色创作

Syemin Park, Soobin Park, Youn-kyung Lim

机构 * Department of Industrial Design, KAIST（韩国成均馆大学工业设计系） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 Constella通过基于LLM的多智能体系统，帮助故事创作者更高效地构建相互关联的角色群，提升角色关系的复杂性和多样性。

Comments Accepted to ACM Transactions on Computer-Human Interaction (TOCHI)

Calibration and Transformation-Free Weight-Only LLMs Quantization via Dynamic Grouping

无需校准和转换的权重-only LLMs 量化 via 动态分组

Xinzhe Zheng, Zhen-Qun Yang, Zishan Liu, Haoran Xie, S. Joe Qin, Arlene Chen, Fangzhen Lin

机构 * Division of Artificial Intelligence, School of Data Science, Lingnan University, Hong Kong, China（岭南大学人工智能学院） ； Department of Computer Science and Engineering, The Hong Kong University of Science and Technology, Hong Kong, China（香港理工大学计算机科学与工程系） ； Department of Computing, The Hong Kong Polytechnic University, Hong Kong, China（香港理工大学计算机系） ； Xiaoi Robot Inc., Shanghai, China（小蚁机器人有限公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 MSB提出一种无需校准和转换的低比特PTQ方法，通过动态分组优化实现多尺度量化，提升LLMs在内存和计算约束下的性能。

Comments 34 pages, 10 figures. Version 3 corrects the bit-length error and adds new experiments and analysis; the core methodology remains unchanged. Under review

Scalable In-Context Q-Learning

可扩展的上下文Q学习

Jinmei Liu, Fuhong Liu, Zhenhong Sun, Jianye Hao, Huaxiong Li, Bo Wang, Daoyi Dong, Chunlin Chen, Zhi Wang

机构 * Nanjing University（南京大学） ； Australian National University（澳大利亚国立大学） ； Tianjin University（天津大学） ； University of Technology Sydney（悉尼大学） 纠错

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出S-ICQL框架，通过动态规划和世界建模实现高效的奖励最大化和任务泛化，适用于决策领域。

Comments accepted by ICLR 2026

DualMap: Enabling Both Cache Affinity and Load Balancing for Distributed LLM Serving

DualMap: 为分布式大语言模型服务实现缓存亲和与负载均衡

Ying Yuan, Pengfei Zuo, Bo Wang, Zhangyu Chen, Zhipeng Tan, Zhou Yu

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 DualMap通过双映射策略实现分布式大语言模型服务中的缓存亲和与负载均衡，提升请求容量2.25倍。

Comments 23 pages, 15 figures

Causal Front-Door Adjustment for Robust Jailbreak Attacks on LLMs

因果前门调整用于对抗大语言模型的鲁棒性劫持攻击

Yao Zhou, Zeen Song, Wenwen Qiang, Fengge Wu, Shuyi Zhou, Changwen Zheng, Hui Xiong

机构 * Institute of Software Chinese Academy of Sciences, Beijing, China（中国科学院软件研究所） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学） ； Institute of Information Engineering Chinese Academy of Sciences, Beijing, China（中国科学院信息工程研究所） ； Hong Kong University of Science and Technology, China, Hong Kong, China（香港科学与技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出CFA²攻击方法，通过因果前门准则和稀疏自编码器实现对大语言模型的鲁棒性劫持，提升攻击成功率并提供机制解释。

Communication Enhances LLMs' Stability in Strategic Thinking

通信增强大语言模型在战略思维中的稳定性

Nunzio Lore, Babak Heydari

机构 * Network Science Institute Northeastern University（东北大学网络科学研究所） ； Department of Mechanical and Industrial Engineering, Institute of Experiential AI（机械与工业工程系，体验式人工智能研究所） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究通过通信机制提升大语言模型在战略思维任务中的稳定性，发现其能有效减少轨迹噪声，但效果受模型和上下文影响。

Comments 15 pages, 1 figure, 6 tables

Steering Safely or Off a Cliff? Rethinking Specificity and Robustness in Inference-Time Interventions

在悬崖边转向还是偏离？重新思考推断时间干预中的特异性和鲁棒性

Navita Goyal, Hal Daumé

机构 * University of Maryland College Park（马里兰大学学院市） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出模型转向中特异性和鲁棒性的评估框架，揭示转向方法在提升效率的同时可能牺牲安全性。

Comments EACL 2026 Main, Long Paper

AgentXRay: White-Boxing Agentic Systems via Workflow Reconstruction

AgentXRay: 通过工作流重建实现对代理系统的白盒化

Ruijie Shi, Houbin Zhang, Yuecheng Han, Yuheng Wang, Jingru Fan, Runde Yang, Yufan Dang, Huatao Li, Dewen Liu, Yuan Cheng, Chen Qian

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 AgentXRay通过基于搜索的框架实现对代理系统的白盒化，通过工作流重建生成可编辑的显式工作流，提高可解释性和可控性。

Dynamic Expert Quantization for Scalable Mixture-of-Experts Inference

动态专家量化用于可扩展的专家混合推理

Kexin Chu, Dawei Xiang, Zixu Shen, Yiwei Yang, Zecheng Liu, Wei Zhang

机构 * University of Connecticut（康涅狄格大学） ； University of California, Santa Cruz（加州大学圣克ruz分校） ； Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：LLM(abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 DynaExq通过动态调整专家精度实现高效MoE推理，提升准确性和吞吐量。

Comments 13 pages

DAWN: Dependency-Aware Fast Inference for Diffusion LLMs

DAWN: 依赖感知的快速扩散语言模型推理

Lizhuo Luo, Zhuoran Shi, Jiajun Luo, Zhi Wang, Shen Ren, Wenya Wang, Tianwei Zhang

机构 * Nanyang Technological University（南洋理工大学） ； AUMOVIO-NTU Corporate Lab, Nanyang Technological University（AUMOVIO-NTU企业实验室，南洋理工大学） ； Southern University of Science（南方科技大学） ； SIGS, Tsinghua University（系统所，清华大学） ； AUMOVIO Singapore Pte. Ltd.（AUMOVIO新加坡私人有限公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 DAWN通过依赖感知解码方法提升扩散语言模型推理效率，实现1.80-8.06倍的速度提升同时保持生成质量。

Spider-Sense: Intrinsic Risk Sensing for Efficient Agent Defense with Hierarchical Adaptive Screening

Spider-Sense: 基于内在风险感知的高效代理防御方法与分层自适应筛查

Zhenxiong Yu, Zhi Yang, Zhiheng Jin, Shuhe Wang, Heng Zhang, Yanlin Fei, Lingfeng Zeng, Fangqi Lou, Shuo Zhang, Tu Hu, Jingping Liu, Rongze Chen, Xingyu Zhu, Kunyi Wang, Chaofa Yuan, Xin Guo, Zhaowei Liu, Feipeng Zhang, Jie Huang, Huacan Wang, Ronghao Chen, Liwen Zhang

机构 * SUFE（上海财经大学） ； NUS（新加坡国立大学） ； QuantaAlpha（量子阿尔法） ； CMU（卡内基梅隆大学） ； SYSU（南方科技大学） ； USTC（中国科学技术大学） ； XJTU（西安交通大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Spider-Sense通过内在风险感知实现高效代理防御，结合分层自适应筛查机制，有效降低攻击成功率和误报率，仅引入微小延迟。

Balancing Sustainability And Performance: The Role Of Small-Scale LLMs In Agentic Artificial Intelligence Systems

平衡可持续性与性能：小型语言模型在代理人工智能系统中的作用

Anh Khoa Ngo Ho, Martin Chauvin, Simon Gosset, Philippe Cordier, Boris Gamazaychikov

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究小型语言模型在代理AI系统中如何平衡能耗与性能，提出可持续AI设计的实用指南。

Personagram: Bridging Personas and Product Design for Creative Ideation with Multimodal LLMs

Personagram: 通过多模态大语言模型连接人设与产品设计以促进创意构思

Taewook Kim, Matthew K. Hong, Yan-Ying Chen, Jonathan Q. Li, Monica P Van, Shabnam Hakimi, Matthew Kay, Matthew Klenk

机构 * Toyota Research Institute（丰田研究院） ； Northwestern University（西北大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Personagram利用多模态大语言模型帮助设计师探索基于人口普查的人设，提取并重新组合产品特征，提升创意构思的可行性和参与度。

Comments 22 pages, 10 figures, 4 tables