语言大模型 / LLM

Differentially Private and Communication Efficient Large Language Model Split Inference via Stochastic Quantization and Soft Prompt

通过随机量化和软提示实现差分隐私和通信高效的大型语言模型分拆推理

Yujie Gu, Richeng Jin, Xiaoyu Ji, Yier Jin, Wenyuan Xu

机构 * Zhejiang University, Hangzhou, China（浙江大学） ； University of Science and Technology of China, Anhui, China（中国科学技术大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 本文提出DEL框架，通过随机量化和软提示实现差分隐私和通信高效的LLM分拆推理，有效平衡隐私与效用。

Cachemir: Fully Homomorphic Encrypted Inference of Generative Large Language Model with KV Cache

Cachemir: 生成式大语言模型的全同态加密推理与KV缓存

Ye Yu, Yifan Zhou, Yi Chen, Pedro Soto, Wenjie Xiong, Meng Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 Cachemir通过整合KV缓存优化同态加密推理，实现高效生成式大语言模型推理。

Comments 16 pages, 10 figures, 6 tables. Under review

Pedagogically-Inspired Data Synthesis for Language Model Knowledge Distillation

教学启发式数据合成用于语言模型知识蒸馏

Bowei He, Yankai Chen, Xiaokun Zhang, Linghe Kong, Philip S. Yu, Xue Liu, Chen Ma

机构 * MBZUAI ； McGill（麦吉尔大学） ； CityUHK（城市大学香港分校） ； SJTU（上海交通大学） ； UIC（美国国际大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于教学原理的知识蒸馏框架，通过三阶段流程提升学生模型性能，在复杂推理任务中取得显著改进。

Comments Accepted by ICLR 2026

HybridRAG: A Practical LLM-based ChatBot Framework based on Pre-Generated Q&A over Raw Unstructured Documents

HybridRAG: 一种基于预生成问答的LLM聊天机器人框架

Sungmoon Kim, Hyuna Jeon, Dahye Kim, Mingyu Kim, Dong-Kyu Chae, Jiwoong Kim

机构 * Hanyang University（翰阳大学） ； Makebot Inc.（Makebot公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 HybridRAG通过预生成问答库和实时生成相结合，提升聊天机器人在处理无结构文档时的准确性和效率。

Unknown Attack Detection in IoT Networks using Large Language Models: A Robust, Data-efficient Approach

利用大语言模型在物联网网络中检测未知攻击：一种稳健且数据高效的方案

Shan Ali, Feifei Niu, Paria Shirani, Lionel C. Briand

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)

AI总结 本文提出SiamXBERT，一种基于Transformer语言模型的元学习框架，用于在物联网网络中高效检测未知攻击，通过双模态特征表示和元学习技术，在数据稀缺情况下实现显著的性能提升。

Comments 13 pages, 2 figures

Racka: Efficient Hungarian LLM Adaptation on Academic Infrastructure

Racka：在学术基础设施上高效地进行匈牙利语LLM适应

Zsolt Csibi, Bence György Gortka, Natabara Gyöngyössy, Kornél Nagy, Dávid Márk Nemeskey, Martin Sallai, András Simonyi, András Márk Szekeres, Gábor Palkó

机构 * ELTE Faculty of Humanities（ELTE人文学院） ； ELTE Faculty of Informatics（ELTE信息学院） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 Racka通过LoRA技术在学术基础设施上高效适应匈牙利语，平衡资源差距并提升多语言性能。

Comments 22 pages, 1 figures. Appeared, and received best paper award, at the XXII. Magyar Számítógépes Nyelvészeti Konferencia (MSZNY 2026)

VibeCodeHPC: An Agent-Based Iterative Prompting Auto-Tuner for HPC Code Generation Using LLMs

VibeCodeHPC: 基于大语言模型的多智能体迭代提示自动调优系统用于HPC代码生成

Shun-ichiro Hayashi, Koki Morita, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri

机构 * Graduate School of Informatics（信息学院研究生院） ； Nagoya University（名古屋大学） ； Information Technology Center（信息技术中心） 纠错

专题命中 效率与部署 ：prompting(title)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 VibeCodeHPC通过多智能体系统实现HPC代码的自动调优，利用大语言模型进行自然语言交互，提升代码性能与开发效率。

Effective MoE-based LLM Compression by Exploiting Heterogeneous Inter-Group Experts Routing Frequency and Information Density

通过利用异构组间专家路由频率和信息密度实现有效的MoE大语言模型压缩

Zhendong Mi, Yixiao Chen, Pu Zhao, Xiaodong Yu, Hao Wang, Yanzhi Wang, Shaoyi Huang

机构 * Department of Computer Science, Stevens Institute of Technology, Hoboken, NJ, USA（计算机科学系，史蒂文斯理工学院，新泽西州霍博肯） ； Northeastern University, Boston, MA, USA（东北大学，波士顿，马萨诸塞州） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 RFID-MoE通过异构组间专家路由频率和信息密度实现MoE大语言模型压缩，提升压缩效果和性能

OServe: Accelerating LLM Serving via Spatial-Temporal Workload Orchestration

OServe: 通过空间-时间工作负载编排加速大语言模型服务

Youhe Jiang, Fangcheng Fu, Taiyi Wang, Guoliang He, Eiko Yoneki

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 OServe通过空间-时间工作负载编排优化大语言模型服务，提升性能2倍

PAM: Processing Across Memory Hierarchy for Efficient KV-centric LLM Serving System

PAM：跨内存层次处理的高效键值中心LLM服务系统

Lian Liu, Shixin Zhao, Yutian Zhou, Yintao He, Mengdi Wang, Yinhe Han, Ying Wang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 PAM通过跨内存层次处理，优化键值中心LLM服务系统的带宽与容量，提升效率和可扩展性。

Comments 15 pages, 13 figures

The Script Tax: Measuring Tokenization-Driven Efficiency and Latency Disparities in Multilingual Language Models

脚本税：衡量基于分词驱动的效率和延迟差异在多语言语言模型中的表现

Aradhya Dixit, Shreem Dixit

机构 * Wake Technical Community College（韦克技术社区学院） ； University of North Carolina Charlotte（北卡罗来纳大学夏洛特分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 本研究发现多语言语言模型中基于分词的效率和延迟差异显著，通过比较不同正字法变体，揭示了分词对不同书写系统的影响，并提出脚本意识的分词和预训练方法。

PrefillShare: A Shared Prefill Module for KV Reuse in Multi-LLM Disaggregated Serving

PrefillShare: 一种用于多语言模型解耦服务中KV重用的共享预填模块

Sunghyeon Woo, Hoseung Kim, Sunghwan Shim, Minjung Jo, Hyunjoon Jeong, Jeongtae Lee, Joonghoon Kim, Sungjae Lee, Baeseong Park, Se Jung Kwon, Dongsoo Lee

专题命中 效率与部署 ：LLM(title,abstract)；language model(abstract)；分类 cs.LG

AI总结 PrefillShare通过共享预填模块和KV缓存，减少多语言模型解耦服务中的冗余计算和延迟，提升吞吐量和准确性。

Comments Preprint. 13 pages, 6 figures

Internalizing Multi-Agent Reasoning for Accurate and Efficient LLM-based Recommendation

内部化多智能体推理以实现准确且高效的基于LLM的推荐

Yang Wu, Haoze Wang, Qian Li, Jun Zhang, Huan Yu, Jie Jiang

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 本文提出STAR模型，通过轨迹驱动的内部化方法，将多智能体推理能力高效整合到单模型中，实现准确且高效的推荐系统。

Can LLMs Handle WebShell Detection? Overcoming Detection Challenges with Behavioral Function-Aware Framework

LLMs能否处理WebShell检测？通过行为功能感知框架克服检测挑战

Feijiang Han, Jiaming Zhang, Chuyi Deng, Jianheng Tang, Yunhuai Liu

机构 * University of Pennsylvania（宾夕法尼亚大学） ； Central South University（中南大学） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 基于行为功能感知框架，研究评估了七种LLM在WebShell检测中的表现，发现大模型精度高但召回率低，提出BFAD框架提升检测性能，F1值平均提升13.82%。

Comments Published as a conference paper at COLM 2025 (The new version has been polished and expanded with more detailed future work ideas)

BrainSymphony: A parameter-efficient multimodal foundation model for brain dynamics with limited data

BrainSymphony: 一种参数高效、多模态的基础模型，用于在有限数据下的脑动态

Moein Khajehnejad, Forough Habibollahi, Devon Stoliker, Adeel Razi

机构 * Turner Institute for Brain and Mental Health（大脑与心理健康Turner研究所） ； School of Psychological Sciences, Monash University（墨尔本大学心理学科学学院） ； Cortical Labs（皮层实验室） ； CIFAR Azrieli Global Scholars Program（CIFAR阿兹里埃利全球学者计划） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 BrainSymphony是一种参数高效、多模态的基础模型，通过整合fMRI和扩散MRI数据，实现有限数据下的脑动态分析，优于更大模型并提升神经科学应用。

Comments 32 pages, 14 figures

AM-FM: A Foundation Model for Ambient Intelligence Through WiFi

AM-FM：通过WiFi实现环境智能的基础模型

Guozhen Zhu, Yuqian Hu, Sakila Jayaweera, Weihang Gao, Wei-Hsiang Wang, Jiaxuan Zhang, Beibei Wang, Chenshu Wu, K. J. Ray Liu

机构 * Origin Research, Rockville, USA（起源研究, 罗克维尔, 美国） ； The University of Hong Kong, Hong Kong, China（香港大学, 香港, 中国） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 AM-FM通过WiFi实现环境智能的基础模型，利用大规模未标记数据预训练，提升跨任务性能和数据效率。

Structured Context Engineering for File-Native Agentic Systems: Evaluating Schema Accuracy, Format Effectiveness, and Multi-File Navigation at Scale

结构化上下文工程用于文件原生代理系统：评估模式准确性、格式有效性及大规模多文件导航

Damon McMillan

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究评估了文件原生代理系统中结构化上下文工程的准确性、格式有效性及多文件导航，发现模型能力是影响性能的关键因素，架构选择需根据模型能力调整。

Comments 8 pages, 8 figures, 10 tables, 26 references. v2: revised scale experiment analysis

EGG-SR: Embedding Symbolic Equivalence into Symbolic Regression via Equality Graph

EGG-SR: 通过等式图将符号等价性嵌入符号回归

Nan Jiang, Ziyi Wang, Yexiang Xue

机构 * University of Texas at El Paso（德克萨斯理工大学） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EGG-SR通过引入等式图模块，将符号等价性整合到符号回归方法中，以减少搜索空间并提升学习效率。

Comments Camera-ready version accepted for ICLR 2026

PhyNiKCE: A Neurosymbolic Agentic Framework for Autonomous Computational Fluid Dynamics

PhyNiKCE：一种用于自主计算流体动力学的神经符号代理框架

E Fan, Lisong Shi, Zhengtong Li, Chih-yung Wen

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 PhyNiKCE通过神经符号框架提升CFD模拟的可信度与效率，实现96%的性能提升并减少59%的自我校正循环。

Comments 30 pages, 10 figures

Compiler-Guided Inference-Time Adaptation: Improving GPT-5 Programming Performance in Idris

编译器引导的推理时适应：提升GPT-5在Idris中的编程性能

Minda Li, Bhaskar Krishnamachari

机构 * Ming Hsieh Department of Electrical and Computer Engineering（明希斯部门电子与计算机工程系） ； Viterbi School of Engineering, University of Southern California（维特比工程学院，南加州大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 本文研究GPT-5通过编译器反馈提升在低资源语言Idris中的编程性能，发现结合本地编译错误的改进策略显著提高了模型表现。

RELATE: A Reinforcement Learning-Enhanced LLM Framework for Advertising Text Generation

RELATE: 一种增强强化学习的大型语言模型框架用于广告文本生成

Jinfang Wang, Jiajie Liu, Jianwei Wu, Ziqin Luo, Zhen Chen, Chunlei Li, Biao Han, Tao Deng, Yi Li, Shuanglong Li, Lin Liu

机构 * Baidu Inc.（百度公司） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 RELAITE通过整合性能和合规性目标到生成过程中，提升广告文本的转化效果和实际应用效果。

Comments 10 pages, 3 figures

DSO: Direct Steering Optimization for Bias Mitigation

DSO：直接转向优化以减轻偏差

Lucas Monteiro Paes, Nivedha Sivakumar, Yinong Oliver Wang, Masha Fedzechkina, Barry-John Theobald, Luca Zappella, Nicholas Apostoloff

机构 * Apple（苹果公司） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 DSO通过强化学习优化激活转换，在VLMs和LLMs中实现公平性与能力的最佳平衡，提供推理时的偏见控制能力。

General Humanoid Whole-Body Control via Pretraining and Fast Adaptation

通用双足机器人全身控制 via 预训练和快速适应

Zepeng Wang, Jiangxing Wang, Shiqing Yao, Yu Zhang, Ziluo Ding, Ming Yang, Yuxuan Wang, Haobin Jiang, Chao Ma, Xiaochuan Shi, Zongqing Lu

机构 * Wuhan University（武汉大学） ； BeingBeyond ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：pretraining(title)

AI总结 本文提出FAST框架，通过预训练和快速适应实现双足机器人全身控制的通用性，提升鲁棒性和适应效率。

Comments 22 pages

Privacy Risks in Time Series Forecasting: User- and Record-Level Membership Inference

时间序列预测中的隐私风险：用户级和记录级成员推断

Nicolas Johansson, Tobias Olsson, Daniel Nilsson, Johan Östman, Fazeleh Hoseini

机构 * Chalmers University of Technology（查尔姆斯理工大学） ； AI Sweden（瑞典人工智能） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出两种针对时间序列预测的成员推断攻击方法，揭示预测模型在用户级攻击下的高脆弱性，并建立新的隐私风险评估基准。

LoRA-based Parameter-Efficient LLMs for Continuous Learning in Edge-based Malware Detection

基于LoRA的参数高效LLMs用于边缘恶意软件检测中的持续学习

Christian Rondanini, Barbara Carminati, Elena Ferrari, Niccolò Lardo, Ashish Kundu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于LoRA的参数高效LLMs方法，用于边缘恶意软件检测中的持续学习，通过本地适应与全局知识共享提升模型泛化能力，实现跨设备学习并降低资源消耗。

Test-Time Efficient Pretrained Model Portfolios for Time Series Forecasting

时间序列预测中的测试时高效预训练模型组合

Mert Kayaalp, Caner Turkmen, Oleksandr Shchur, Pedro Mercado, Abdul Fatir Ansari, Michael Bohlke-Schneider, Bernie Wang

机构 * Dalle Molle Institute for Artificial Intelligence (IDSIA) - USI/SUPSI, Switzerland（达摩信息技术研究所（IDSIA）- USI/SUPSI，瑞士） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 效率与部署 ：foundation model(abstract)；post-training(abstract)；分类 cs.LG

AI总结 本文提出了一种测试时高效的预训练模型组合方法，通过集成或模型选择在时间序列预测中实现高性能，且计算成本更低。

Comments Accepted as an ICLR 2026 conference paper

Learning to Route: A Rule-Driven Agent Framework for Hybrid-Source Retrieval-Augmented Generation

学习路由：一种基于规则的代理框架用于混合源检索增强生成

Haoyue Bai, Haoyu Wang, Shengyu Chen, Zhengzhang Chen, Lu-An Tang, Wei Cheng, Haifeng Chen, Yanjie Fu

机构 * Arizona State University（亚利桑那州立大学） ； NEC Laboratories America（NEC美国实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出基于规则的路由框架，通过系统规则选择合适来源提升检索增强生成的准确性和效率。

Meta-Sel: Efficient Demonstration Selection for In-Context Learning via Supervised Meta-Learning

Meta-Sel: 通过监督元学习实现高效的上下文学习演示选择

Xubin Wang, Weijia Jia

机构 * BNU-BNBU Institute of Artificial Intelligence（BNU-BNBU人工智能研究院） ； Future Networks, Beijing Normal-Hong Kong Baptist University（未来网络，北京师范大学-香港 Baptist大学） ； Beijing Normal University at Zhuhai（珠海北京师范大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Meta-Sel通过监督元学习实现高效的上下文学习演示选择，提升小模型表现并保持低开销。

LoGoSeg: Integrating Local and Global Features for Open-Vocabulary Semantic Segmentation

LoGoSeg：整合局部和全局特征以实现开放词汇语义分割

Junyang Chen, Xiangbo Lv, Zhiqiang Kou, Xingdong Sheng, Ning Xu, Yiguo Qiao

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)

AI总结 LoGoSeg通过整合局部和全局特征，提升开放词汇语义分割的精度与效率，减少幻觉和漏检问题。

SplitCom: Communication-efficient Split Federated Fine-tuning of LLMs via Temporal Compression

SplitCom: 通过时间压缩实现LLM的通信高效分裂联邦微调

Tao Li, Yulin Tang, Yiyang Song, Cong Wu, Xihui Liu, Pan Li, Xianhao Chen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 SplitCom通过时间压缩减少LLM联邦微调的通信开销，利用激活冗余和自适应阈值控制提升效率和性能。