语言大模型 / LLM

Design Structure Matrix Modularization with Large Language Models

基于大语言模型的Design Structure Matrix模块化设计

Shuo Jiang, Jianxi Luo

机构 * Department of Systems Engineering（系统工程系） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title)；language model(title)；分类 cs.AI

AI总结 本文提出利用大语言模型进行DSM模块化设计的方法，通过五个案例和三种基础LLM实现近参考质量的结果，在30次迭代内无需专用优化代码。发现领域知识在复杂DSM中会损害性能，提出语义对齐假设以指导LLM在工程设计优化中的应用。

Belief-Guided Inference Control for Large Language Model Services via Verifiable Observations

基于可验证观测的信念引导推理控制：通过可验证观测实现大语言模型服务

Wenhao Yuan, Chenchen Lin, Jian Chen, Jinfeng Xu, Shuo Yang, Edith Cheuk Han Ngai

机构 * The University of Hong Kong（香港大学） ； Sun Yat-sen University（中山大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出Veroic框架，通过构建轻量级可验证观测通道，利用聚合的异质质量信号形成信念状态，以实现更优的质量-成本权衡、更强的风险估计和更稳健的长期推理控制。

Comments Accepted by KnowFM@ACL2026

CoQuant: Joint Weight-Activation Subspace Projection for Mixed-Precision LLMs

CoQuant：混合精度LLM的联合权重-激活子空间投影

Zhe Ding, Su Pan, Duowei Pan

机构 * School of Internet of Things, Nanjing University of Posts and Telecommunications（南京邮电大学物联网学院） ； Amazon AGI（亚马逊人工智能） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 CoQuant通过联合建模权重和激活的子空间，提升混合精度LLM的量化效果，在WikiText perplexity和零样本常识推理准确率上优于现有方法。

Comments 14 pages, 3 figures

Unlocking the Power of Large Language Models for Multi-table Entity Matching

解锁大型语言模型在多表实体匹配中的潜力

Yingkai Tang, Taoyu Su, Wenyuan Zhang, Xiaoyang Guo, Tingwen Liu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出LLM4MEM框架，通过多风格提示增强模块、传递共识嵌入匹配模块和密度感知修剪模块，提升多表实体匹配的准确性和效率，实验表明在六个数据集上F1得分提升5.1%。

Comments Accepted by NLPCC 2025

SafeLM: Unified Privacy-Aware Optimization for Trustworthy Federated Large Language Models

SafeLM：面向可信联邦大语言模型的统一隐私意识优化

Noor Islam S. Mohammad, Uluğ Bayazıt

机构 * Istanbul Technical University（伊斯坦布尔技术大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 SafeLM通过整合隐私、安全、虚假信息和对抗鲁棒性四大支柱，提升联邦大语言模型的可信度，实现98%有害内容检测准确率，降低通信开销并提升隐私保护效率。

Spike-driven Large Language Model

基于脉冲的大型语言模型

Han Xu, Xuerui Qiu, Baiyu Chen, Xinhao Luo, Xingrun Xing, Jiahong Zhang, Bo Lei, Tiejun Huang, Bo Xu, Guoqi Li

机构 * Institute of Automation, Chinese Academy of Sciences, Beijing 100190, China ； School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing 100049, China ； Brain-Inspired Models Group, Beijing Academy of Artificial Intelligence, Beijing 100862, China ； School of Future Technology, University of Chinese Academy of Sciences, Beijing 101408, China ； Zhongguancun Academy, Beijing 100094, China ； Pengcheng Laboratory, Guangdong 518055, China ； School of Advanced Inter-disciplinary Sciences, University of Chinese Academy of Sciences, Beijing 101408, China ； School of Computer Science, Peking University, Beijing 100871, China ； Key Laboratory of Brain Cognition ； Spiking Intelligence Lab, Tianqiao \& Chirssy Chen Institute, Shanghai 201203, China 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出SDLLM，通过稀疏加法替代密集矩阵乘法，结合gamma-SQP编码和对称量化机制，有效降低脉冲 firing 率并提升性能，实验表明在脉冲基础上实现更高效且准确的大型语言模型。

Compressed-Sensing-Guided, Inference-Aware Structured Reduction for Large Language Models

基于压缩感知的、推理感知的结构化缩减用于大语言模型

Andrew Kiruluta

机构 * UC Berkeley School of Information（伯克利大学信息学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出一种统一的压缩感知指导框架，用于动态执行大语言模型，通过稀疏恢复估计任务条件和token自适应的支持集，实现高效硬件执行路径，提升推理速度与压缩效率。

RECOVER: Designing a Large Language Model-based Remote Patient Monitoring System for Postoperative Gastrointestinal Cancer Care

RECOVER：基于大语言模型的术后胃肠癌远程患者监测系统设计

Ziqi Yang, Yuxuan Lu, Jennifer Bagdasarian, Vedant Das Swain, Ritu Agarwal, Collin Campbell, Waddah Al-Refaire, Jehan El-Bayoumi, Guodong Gao, Dakuo Wang, Bingsheng Yao, Nawar Shara

机构 * University of California, Irvine（加州大学尔湾分校） ； Northeastern University（东北大学） ； Johns Hopkins University（约翰霍普金斯大学） ； New York University（纽约大学） ； MedStar Health Research Institute（梅斯塔健康研究院） ； Creighton University（克里普顿大学） ； Georgetown University（乔治城大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文设计了基于大语言模型的RECOVER系统，用于术后胃肠癌的远程患者监测，通过临床整合提升术后护理效率，并探讨了AI伦理与未来发展方向。

Forgetting as a Feature: Cognitive Alignment of Large Language Models

作为特征的遗忘：大型语言模型的认知对齐

Alexandros Christoforos

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 研究将遗忘视为大型语言模型的认知机制，通过建立基准测试评估时间推理、概念漂移适应和联想回忆，发现模型遗忘率与人类记忆效率的权衡相似，并提出概率记忆提示策略提升长期推理性能。

Comments arXiv admin note: This submission has been withdrawn by arXiv administrators due to incorrect authorship. Author list truncated

Search, Do not Guess: Teaching Small Language Models to Be Effective Search Agents

搜索，不要猜测：教小语言模型成为有效的搜索代理

Yizhou Liu, Qi Sun, Yulin Chen, Siyue Zhang, Chen Zhao

机构 * New York University（纽约大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 本文通过评估复杂多跳推理任务，发现小语言模型（SLMs）虽参数较少，但检索工具使用更少且易产生幻觉。提出轻量级微调方法\policy，使SLMs能可靠检索并生成基于证据的答案，提升Bamboogle和HotpotQA性能17.3和15.3分，达到LLM水平。

Comments 13 pages, 5 figures

Precise Robot Command Understanding Using Grammar-Constrained Large Language Models

利用语法约束大语言模型实现精确的机器人指令理解

Xinyun Huo, Raghav Gnanasambandam, Xinyao Zhang

机构 * Industrial and Manufacturing Engineering, Florida State University（佛罗里达州立大学工业与制造工程系） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；SLM(abstract)

AI总结 本文提出一种结合语法驱动NLU系统和微调LLM的混合模型，通过两阶段过程确保生成的指令在机器人可读的JSON格式中有效，提升工业人机协作的安全性和效率。

Comments Accepted at ASME MSEC2026

RUQuant: Towards Refining Uniform Quantization for Large Language Models

RUQuant: 向大语言模型的均匀量化精修迈进

Han Liu, Haotian Gao, Changya Li, Feng Zhang, Xiaotong Zhang, Wei Wang, Hong Yu

机构 * Dalian University of Technology（大连理工大学） ； Peking University（北京大学） ； Macao Polytechnic University（澳门理工大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；post-training(abstract)

AI总结 本文提出RUQuant方法，通过理论分析和两阶段正交变换，解决激活分布非均匀导致的量化精度下降问题，在不需微调的情况下实现高精度量化。

Comments Accepted to KDD 2026. 12 pages, 9 figures

Linear Predictability of Attention Heads in Large Language Models

大语言模型中注意力头的线性可预测性

Khalid Shaikh, Asmit Kumar Singh, Rebecca Christopher Dsouza, Shikhar Shiromani

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Santa Clara University（圣克拉拉大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；pretraining(abstract)

AI总结 研究发现预训练Transformer中注意力头激活存在线性结构，通过少量参考头可高精度重建目标头，利用此特性可减少KV缓存并提升效率。

Revolutionizing Mixed Precision Quantization: Towards Training-free Automatic Proxy Discovery via Large Language Models

颠覆混合精度量化：通过大语言模型实现无训练的自动代理发现

Haidong Kang, Jun Du, Lihong Lin

机构 * School of Computer and Communication Engineering, Northeastern University（东北大学计算机与通信工程学院） ； School of Software Engineering, Beijing Jiaotong University（北京交通大学软件工程学院） ； School of Software, Northeastern University（东北大学软件学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；preference optimization(abstract)

AI总结 本文提出TAP框架，利用大语言模型和进化搜索策略，实现无训练的自动代理发现，提升混合精度量化的性能。

Position: Vector Prompt Interfaces Should Be Exposed to Enable Customization of Large Language Models

位置：应暴露向量提示接口以实现大语言模型的定制

Liangwei Yang, Shiyu Wang, Haolin Chen, Rithesh Murthy, Ming Zhu, Jielin Qiu, Zixiang Chen, Juntao Tan, Jianguo Zhang, Zhiwei Liu, Wenting Zhao, Silvio Savarese, Caiming Xiong, Huan Wang, Shelby Heinecke

机构 * Salesforce AI Research（Salesforce人工智能研究） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 本文主张通过暴露向量提示接口实现大语言模型的定制化，指出向量提示微调优于文本提示优化，并强调在现实部署中仅推理的定制需求增加。

LiteLMGuard: Seamless and Lightweight On-Device Prompt Filtering for Safeguarding Small Language Models against Quantization-induced Risks and Vulnerabilities

LiteLMGuard: 无缝且轻量级的设备端提示过滤，用于保护小型语言模型免受量化引发的风险和漏洞

Kalyan Nakka, Jimmy Dani, Ausmit Mondal, Nitesh Saxena

机构 * SPIES Research Lab, Dept. of CSE, Texas A&M University（SPIES研究实验室，计算机科学与工程系，德克萨斯大学阿马尔科分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；SLM(abstract)

AI总结 LiteLMGuard通过设备端实时提示过滤，有效保护小型语言模型免受量化带来的安全风险。

Comments 18 pages, 19 figures, and 3 tables

Tiny-Critic RAG: Empowering Agentic Fallback with Parameter-Efficient Small Language Models

Tiny-Critic RAG：赋能代理回退的参数高效小型语言模型

Yichao Wu, Penghao Liang, Yafei Xiang, Mengwei Yuan, Jianan Liu, Jing Yang, Xianyou Li, Weiran Yan

机构 * Northeastern University（东北大学） ； Washington University in St. Louis（华盛顿大学圣路易斯分校） ； New York University（纽约大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；SLM(abstract)

AI总结 Tiny-Critic RAG通过参数高效的Small Language Model实现低延迟的二进制路由，有效降低代理部署成本。

SPQ: An Ensemble Technique for Large Language Model Compression

SPQ：一种用于大语言模型压缩的集成技术

Jiamin Yao, Eren Gultepe

机构 * Dept. of Computer Science, Southern Illinois University Edwardsville（计算机科学系，南方伊利诺伊大学爱德华兹维尔分校） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；post-training(abstract)

AI总结 SPQ通过结合SVD、剪枝和量化技术，实现大语言模型的有效压缩，提升推理效率并保持模型性能。

Comments Accepted to LREC 2026 Main Conference

Causality by Abstraction: Symbolic Rule Learning in Multivariate Timeseries with Large Language Models

通过抽象实现因果关系：利用大语言模型在多变量时间序列中进行符号规则学习

Preetom Biswas, Giulia Pedrielli, K. Selçuk Candan

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 ruleXplain利用大语言模型提取多变量时间序列中的因果规则，通过生成反事实输入轨迹和闭环细化确保规则的可验证性和有效性。

Jailbreaking Leaves a Trace: Understanding and Detecting Jailbreak Attacks from Internal Representations of Large Language Models

对大型语言模型进行劫持留有痕迹：从内部表示理解并检测劫持攻击

Sri Durga Sai Sowmya Kadali, Evangelos E. Papalexakis

机构 * University of California, Riverside（加州大学河滨分校） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 本文提出了一种基于张量的潜在表示框架，通过分析LLM内部表示差异来检测劫持攻击，并在推理阶段主动干扰劫持执行。

Floe: Federated Specialization for Real-Time LLM-SLM Inference

Floe：面向实时LLM-SLM推理的联邦专业化

Chunlin Tian, Kahou Tam, Yebo Wu, Shuaihang Zhong, Li Li, Nicholas D. Lane, Chengzhong Xu

专题命中 效率与部署 ：LLM(title,abstract)；SLM(title)；large language model(abstract)；language model(abstract)

AI总结 Floe通过结合云LLM和边缘SLM实现低延迟隐私保护推理，提升实时环境下的个性化与性能

Comments Accepted by IEEE Transactions on Parallel and Distributed Systems

Evaluating Prompt Engineering Techniques for RAG in Small Language Models: A Multi-Hop QA Approach

评估用于RAG的提示工程技术在小型语言模型中的表现：一种多跳问答方法

Amir Hossein Mohammadi, Ali Moeinian, Zahra Razavizade, Afsaneh Fatemi, Reza Ramezani

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；SLM(abstract)

AI总结 本文通过评估24种提示模板，发现优化RAG在小型语言模型上的表现提升显著，为资源受限环境下的RAG系统提供实用建议。

Comments 32 Pages, Submitted to Journal of Computing and Security

Luth: Efficient French Specialization for Small Language Models and Cross-Lingual Transfer

Luth：小语言模型和跨语言迁移的高效法语专业化

Maxence Lasbordes, Sinoué Gad

机构 * LightOn, Paris Inria Paris（LightOn 巴黎 国家信息与自动化所巴黎） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；post-training(abstract)

AI总结 Luth通过定向后训练提升法语小语言模型性能，同时保留英语能力，并通过模型合并增强跨语言迁移效果。

Comments Accepted at the EACL 2026 Student Research Workshop (SRW)

SNIP: An Adaptive Mixed Precision Framework for Subbyte Large Language Model Training

SNIP：一种用于子字节大语言模型训练的自适应混合精度框架

Yunjie Pan, Yongyi Yang, Hanmei Yang, Scott Mahlke

机构 * University of Michigan（密歇根大学） ； NTT Research, Inc.（NTT研究公司） ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；pretraining(abstract)

AI总结 SNIP通过自适应混合精度框架，有效提升大语言模型训练效率，减少FLOPs达80%并保持模型质量。

Comments Accepted to ASPLOS 2026

FutureMind: Equipping Small Language Models with Strategic Thinking-Pattern Priors via Adaptive Knowledge Distillation

FutureMind: 通过自适应知识蒸馏为小型语言模型配备战略思维模式先验

Shaoxiong Yang, Junting Li, Mengyuan Zhang, Chao Li, Wei Liu, Jian Luan

机构 * MiLM Plus, Xiaomi Inc.（小米公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；SLM(abstract)

AI总结 FutureMind通过自适应知识蒸馏为小型语言模型配备战略思维模式先验，提升其在复杂任务中的推理与检索能力。

Comments Accepted by ICLR 2026

A Vision-and-Knowledge Enhanced Large Language Model for Generalizable Pedestrian Crossing Behavior Inference

一种融合视觉与知识的大型语言模型用于可推广的行人过街行为推断

Qingwen Pu, Kun Xie, Hong Yang, Guocong Zhai

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；foundation model(abstract)

AI总结 本研究提出PedX-LLM，融合视觉与知识的大型语言模型，用于可推广的行人过街行为推断，通过整合视觉特征和领域知识提升模型性能。

W2S-AlignTree: Weak-to-Strong Inference-Time Alignment for Large Language Models via Monte Carlo Tree Search

W2S-AlignTree: 通过蒙特卡洛树搜索实现大语言模型的弱到强推理时对齐

Zhenyu Ding, Yuhao Wang, Tengyue Xiao, Haoying Wang, Caigui Jiang, Ning Ding

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；RLHF(abstract)

AI总结 W2S-AlignTree通过结合MCTS与弱到强泛化范式，实现大语言模型在推理时的高效对齐，提升摘要任务性能15.9%。

Comments AAAI 2026 Oral

Edge Deployment of Small Language Models, a comprehensive comparison of CPU, GPU and NPU backends

边缘部署的小语言模型：CPU、GPU和NPU后端的综合比较

Pablo Prieto, Pablo Abad

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；SLM(abstract)

AI总结 本研究比较了CPU、GPU和NPU在边缘部署小语言模型的性能和能效，发现NPU在性能和能效上表现最佳。

Comments 8 pages, 9 figures

Constrained Network Slice Assignment via Large Language Models

通过大语言模型实现受约束的网络切片分配

Sagar Sudhakara, Pankaj Rajak

机构 * University of Southern California（南加州大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 本文利用大语言模型实现网络切片分配，通过零样本提示生成初始分配方案，并结合优化求解器提升性能，实现高效的5G网络资源分配。

Comments Accepted at NeurIPS 2025 Workshop on AI and ML for Next-Generation Wireless Communications and Networking (AI4NextG), San Diego, CA

Experts are all you need: A Composable Framework for Large Language Model Inference

专家足矣：一种用于大语言模型推理的可组合框架

Shrihari Sridharan, Sourjya Roy, Anand Raghunathan, Kaushik Roy

机构 * School of Electrical and Computer Engineering（电气与计算机工程学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；pretraining(abstract)

AI总结 Comp-LLM通过可组合的推理框架实现跨专家协作，提升大语言模型的准确性和效率