语言大模型 / LLM

Evaluating Small Language Models for Agentic On-Farm Decision Support Systems

评估小型语言模型用于农场代理决策支持系统

Enhong Liu, Haiyu Yang, Miel Hostens

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 本文评估了小型语言模型在乳牛养殖决策支持系统中的可行性，开发了集成多个代理的 AI 系统，并展示了 Qwen-4B 在多数任务中的优异表现。

HyperVL: An Efficient and Dynamic Multimodal Large Language Model for Edge Devices

HyperVL: 一种高效的多模态大语言模型用于边缘设备

HyperAI Team, Yuchen Liu, Kaiyang Han, Zhiqiang Xia, Yuhang Dong, Chen Song, Kangyu Tang, Jiaming Xu, Xiushi Feng, WenXuan Yu, Li Peng, Mingyang Wang, Kai Wang, Changpeng Yang, Yang Li, Haoyu Lu, Hao Wang, Bingna Xu, Guangyao Liu, Long Huang, Kaibin Guo, Jinyang Wu, Dan Wu, Hongzhen Wang, Peng Zhou, Shuai Nie, Shande Wang, Runyu Shi, Ying Huang

机构 * HyperAI Team（HyperAI团队） ； Xiaomi Corporation（小米公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 HyperVL是一种为边缘设备优化的高效多模态大语言模型，通过图像分块、视觉分辨率压缩和双一致性学习技术，实现低延迟、低功耗的多模态推理。

Comments Technical report of Xiaomi HyperAI Team

Advanced Black-Box Tuning of Large Language Models with Limited API Calls

大语言模型有限API调用下的高级黑盒调优

Zhikang Xie, Weilin Wan, Peizhu Gong, Weizhong Zhang, Cheng Jin

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于高斯过程替代模型的高级黑盒调优方法，通过减少API调用次数提升大语言模型的准确性。

Comments 15 pages, 6 figures

PerProb: Indirectly Evaluating Memorization in Large Language Models

PerProb：间接评估大语言模型中的记忆化

Yihan Liao, Jacky Keung, Xiaoxue Ma, Jingyu Zhang, Yicheng Sun

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 PerProb提出了一种无标签框架，通过比较困惑度和对数概率变化间接评估大语言模型的记忆化漏洞，并验证了多种缓解策略的有效性。

Comments Accepted at APSEC 2025

Adaptive Cache Pollution Control for Large Language Model Inference Workloads Using Temporal CNN-Based Prediction and Priority-Aware Replacement

基于时间卷积网络的自适应缓存污染控制：用于大语言模型推理工作负载

Songze Liu, Hongkun Du, Shaowen Wang

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出基于时间卷积网络的自适应缓存污染控制机制，通过预测和优先级替换策略优化LLM推理性能。

SASQ: Static Activation Scaling for Quantization-Aware Training in Large Language Models

SASQ：用于大语言模型量化感知训练的静态激活缩放

Shizhuo Mao, Song Chen, Yi Kang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 SASQ通过优化激活量化因子，实现了大语言模型在量化感知训练中的高精度静态推理与高效部署。

Scaling and Transferability of Annealing Strategies in Large Language Model Training

在大语言模型训练中退火策略的扩展性与可迁移性

Siqi Wang, Zhengyu Chen, Teng Xiao, Zheqi Lv, Jinluan Yang, Xunliang Cai, Jingang Wang, Xiaomeng Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出了一种通用框架，用于优化大语言模型训练中的退火策略，通过实验表明退火策略可跨不同模型配置迁移，提高了学习率调度的效率和实用性。

Comments Accepted to AAAI 2026 (camera-ready version)

DART: Difficulty-Adaptive Reasoning Truncation for Efficient Large Language Models

DART: 为高效大语言模型的难度自适应推理截断

Ruofan Zhang, Bin Xia, Zhen Cheng, Cairen Jian, Minglun Yang, Ngai Wong, Yuan Cheng

机构 * School of Artificial Intelligence, Shanghai Jiao Tong University（上海交通大学人工智能学院） ； CSE Department, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系） ； Research and Development Department, SIMMIR Tech（Simmir科技研发部） ； School of Information Science and Technology, Xiamen University Tan Kah Kee College（厦门大学信息科学与技术学院） ； The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 DART通过自适应调整推理长度提升大语言模型效率，实现81.2%的推理截断和5.33倍的计算加速。

RADAR: Accelerating Large Language Model Inference With RL-Based Dynamic Draft Trees

RADAR: 通过基于强化学习的动态草稿树加速大语言模型推理

Junjie Ma, Jinlong Li

机构 * School of Computer Science（计算机科学学院） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 RADAR通过基于强化学习的动态草稿树方法，有效提升大语言模型推理速度，实现3.17至4.82倍的加速效果。

Comments 5 pages, 2 figures

Informing Acquisition Functions via Foundation Models for Molecular Discovery

通过基础模型指导获取函数以加速分子发现

Qi Chen, Fabio Ramos, Alán Aspuru-Guzik, Florian Shkurti

机构 * Department of Computer Science, University of Toronto（计算机科学系，多伦多大学） ； NVIDIA Research Seattle Robotics Lab (SRL)（NVIDIA研究塞班机器人实验室） ； University of Sydney（悉尼大学） ； Department of Chemical Engineering & Applied Chemistry, University of Toronto（化学工程与应用化学系，多伦多大学） ； Acceleration Consortium（加速联盟） ； Data Science Institute（数据科学研究所） ； Vector Institute（向量研究所） ； Robotics Institute（机器人研究所） ； Canadian Institute for Advanced Research (CIFAR)（加拿大高级研究研究院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出一种无需显式替代模型的贝叶斯优化方法，利用通用LLMs和化学基础模型的先验知识指导获取函数，提升分子发现的扩展性、鲁棒性和样本效率。

Neurosymbolic Inference On Foundation Models For Remote Sensing Text-to-image Retrieval With Complex Queries

面向遥感文本到图像检索的神经符号推理：为复杂查询的基座模型

Emanuele Mezzi, Gertjan Burghouts, Maarten Kruithof

机构 * Vrije Universiteit Amsterdam（瓦赫宁根大学阿姆斯特丹） ； TNO（荷兰国防研究院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 RUNE通过结合大型语言模型和神经符号AI，利用逻辑推理提升遥感文本到图像检索的性能与可解释性，针对复杂查询和图像不确定性提出新的评估指标。

EDGC: Entropy-driven Dynamic Gradient Compression for Efficient LLM Training

EDGC: 基于熵驱动的动态梯度压缩用于高效大语言模型训练

Qingao Yi, Jiaang Duan, Hanwen Hu, Qin Hua, Haiyan Zhao, Shiyou Qian, Dingyu Yang, Jian Cao, Jinghua Tang, Yinghao Yu, Chenzhi Liao, Kangjin Wang, Liping Zhang

机构 * University of Shanghai for Science and Technology（上海科学技术大学） ； Shanghai Jiao Tong University（上海交通大学） ； Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EDGC通过动态梯度压缩减少LLM训练的通信延迟和训练时间，提升效率的同时保持模型准确性。

PortAgent: LLM-driven Vehicle Dispatching Agent for Port Terminals

PortAgent: 基于大语言模型的港口终端车辆调度代理

Jia Hu, Junqi Li, Weimeng Lin, Peng Jia, Yuxiong Ji, Jintao Lai

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 PortAgent利用大语言模型实现港口终端车辆调度系统的自动化迁移，无需专家参与，降低数据需求并加快部署速度。

Adjudicator: Correcting Noisy Labels with a KG-Informed Council of LLM Agents

Adjudicator: 通过知识图谱指导的LLM代理委员会校正噪声标签

Doohee You, Sundeep Paul

机构 * Trusted Engagement \& AI Solutions 500 west 2nd street Trust \& Safety Google 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Adjudicator通过知识图谱指导的LLM代理委员会校正噪声标签，实现高精度数据验证，显著提升F1分数。

Comments 12 pages, 3 figures

Low-Rank Compression of Language Models via Differentiable Rank Selection

通过可微分秩选择实现语言模型的低秩压缩

Sidhant Sundrani, Francesco Tudisco, Pasquale Minervini

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 LLRC通过可微分方法实现语言模型的低秩压缩，在无需微调的情况下提升压缩率与下游任务准确性。

Astraea: A State-Aware Scheduling Engine for LLM-Powered Agents

Astraea：一种面向LLM代理的基于状态的调度引擎

Hongqiu Ni, Jiabao Zhang, Guopeng Li, Zilong Wang, Ruiqi Wu, Chi Zhang, Haisheng Tan

机构 * University of Science and Technology of China（中国科学技术大学） ； Hefei University of Technology（合肥工业大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 Astraea通过基于状态的分层调度算法优化LLM代理的全局作业完成时间，减少端到端延迟并提升系统效率与公平性。

Comments 12 pages, 8 figures

Fast and Accurate Causal Parallel Decoding using Jacobi Forcing

快速且准确的因果并行解码使用雅可比强迫

Lanxiang Hu, Siqi Kou, Yichao Fu, Samyam Rajbhandari, Tajana Rosing, Yuxiong He, Zhijie Deng, Hao Zhang

机构 * UC San Diego（UC圣迭戈大学） ； Shanghai Jiao Tong University（上海交通大学） ； Snowflake（Snowflake公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；post-training(abstract)

AI总结 本文提出雅可比强迫方法，通过渐进蒸馏将AR模型转化为高效的并行解码器，实现3.8倍的速度提升并保持性能，同时引入多块解码与拒绝回收进一步提升效率。

Light-Weight Benchmarks Reveal the Hidden Hardware Cost of Zero-Shot Tabular Foundation Models

轻量级基准揭示零样本表格基础模型的隐藏硬件成本

Ishaan Gangwani, Aayam Bansal

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过轻量级基准测试揭示了零样本表格基础模型在准确率与硬件开销之间的权衡，发现树形模型在多个数据集上表现优异且硬件消耗更低。

Comments ICML NewInML

REP: Resource-Efficient Prompting for Rehearsal-Free Continual Learning

REP：无回放持续学习的资源高效提示

Sungho Jeon, Xinyue Ma, Kwang In Kim, Myeongjae Jeon

机构 * POSTECH 纠错

专题命中 效率与部署 ：prompting(title,abstract)；分类 cs.AI、cs.LG

AI总结 REP通过高效提示方法提升无回放持续学习的资源效率，减少计算和内存消耗，同时保持较高的准确性。

Comments NeurIPS 2025

LLmFPCA-detect: LLM-powered Multivariate Functional PCA for Anomaly Detection in Sparse Longitudinal Texts

LLmFPCA-detect: 基于大语言模型的多变量功能主成分分析用于稀疏纵向文本中的异常检测

Prasanjit Dubey, Aritra Guha, Zhengyi Zhou, Qiong Wu, Xiaoming Huo, Paromita Dubey

机构 * H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（乔治亚理工学院H.Milton Stewart工业与系统工程学院） ； AT&T Chief Data Office（AT&T首席数据办公室） ； Department of Data Sciences and Operations, Marshall School of Business, University of Southern California（南加州大学马歇尔商学院数据科学与运营学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 LLmFPCA-detect结合大语言模型和功能主成分分析，用于稀疏纵向文本中的异常检测和模式推断，提升预测性能。

Differentially Private Knowledge Distillation via Synthetic Text Generation

通过合成文本生成实现差分隐私的知识蒸馏

James Flemings, Murali Annavaram

机构 * University of Southern California（南加州大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 DistilDP通过合成文本生成实现差分隐私的知识蒸馏，提升LLMs的实用性和隐私保护性能。

Reconsidering Conversational Norms in LLM Chatbots for Sustainable AI

重新审视LLM聊天机器人中的会话规范以实现可持续AI

Ronnie de Souza Santos, Cleyton Magalhães, Italo Santos

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文探讨了LLM聊天机器人中会话规范对可持续性的影响，指出交互行为、对话模式、用户习惯及上下文积累是影响系统能耗的关键因素，需重新设计交互方式以实现可持续发展。

Focus: A Streaming Concentration Architecture for Efficient Vision-Language Models

聚焦：一种高效的视觉-语言模型流式集中架构

Chiyue Wei, Cong Guo, Junyao Zhang, Haoxuan Shan, Yifan Xu, Ziyue Zhang, Yudong Liu, Qinsi Wang, Changchun Zhou, Hai "Helen" Li, Yiran Chen

专题命中 效率与部署 ：language model(title,abstract)

AI总结 Focus提出了一种高效的视觉-语言模型流式集中架构，通过分层压缩和细粒度冗余消除，实现2.4倍速度提升和3.3倍能效提升。

Comments HPCA 2026

Native Intelligence Emerges from Large-Scale Clinical Practice: A Retinal Foundation Model with Deployment Efficiency

原生智能源自大规模临床实践：一种具有部署效率的视网膜基础模型

Jia Guo, Jiawei Du, Shengzhu Yang, Shuai Lu, Wenquan Cheng, Kaiwen Zhang, Yihua Sun, Chuhong Yang, Weihang Zhang, Fang Chen, Yilan Wu, Lie Ju, Guochen Ning, Longfei Ma, Huiping Yao, Jinyuan Wang, Peilun Shi, Yukun Zhou, Jie Xu, Pearse A. Keane, Hanruo Liu, Hongen Liao, Ningli Wang, Huiqi Li

机构 * School of Biomedical Engineering, Tsinghua Medicine, Tsinghua University（生物医学工程学院，清华大学医学部，清华大学） ； School of Information and Electronics, Beijing Institute of Technology（信息与电子学院，北京理工大学） ； Beijing Key Laboratory of Intelligent Diagnosis Technology and Equipment for Optic Nerve-Related Eye Diseases（北京智能诊断技术与设备重点实验室） ； School of Medical Technology, Beijing Institute of Technology（医学技术学院，北京理工大学） ； Beijing Tongren Hospital, Capital Medical University（北京同仁医院，首都医科大学） ； School of Biomedical Engineering, Shanghai Jiaotong University（生物医学工程学院，上海交通大学） ； Beijing Visual Science and Translational Eye Research Institute (BERI), Beijing Tsinghua Changgung Hospital Eye Center, School of Clinical Medicine, Tsinghua Medicine, Tsinghua University Institute of Ophthalmology（北京视觉科学与转化眼研所（BERI），北京清华长庚医院眼科中心，临床医学学院，清华大学医学部，清华大学眼科学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 ReVision通过直接从真实临床数据中学习，实现了在低资源环境下高效部署的视网膜基础模型，无需额外标注即可在多种医学任务中取得优异性能。

VesSAM: Efficient Multi-Prompting for Segmenting Complex Vessel

VesSAM: 高效多提示分割复杂血管

Suzhong Fu, Rui Sun, Xuan Ding, Jingqi Dong, Yiming Yang, Yao Zhu, Min Chang Jordan Ren, Delin Deng, Angelica Aviles-Rivero, Shuguang Cui, Zhen Li

机构 * FNii-Shenzhen, CUHK-Shenzhen（FNii-Shenzhen，CUHK-Shenzhen） ； School of Science and Engineering, CUHK-Shenzhen（CUHK-Shenzhen科学与工程学院） ； Zhejiang University（浙江大学） ； Boston University（波士顿大学） ； Vanderbilt University（范德比大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：prompting(title)；foundation model(abstract)

AI总结 VesSAM通过多提示编码器和轻量级解码器提升血管分割性能，实现比现有方法更高的Dice和IoU指标，同时参数更少且泛化能力更强。

A Unified Sparse Attention via Multi-Granularity Compression

一种通过多粒度压缩的统一稀疏注意力机制

Siran Liu, Zane Cao, Yongchao He

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 UniSparse通过多粒度压缩和块级选择，实现高效稀疏注意力机制，提升LLM在长上下文理解和推理中的效率与准确性。

TEMP: A Memory Efficient Physical-aware Tensor Partition-Mapping Framework on Wafer-scale Chips

TEMP: 一种内存高效的物理感知张量分区映射框架在晶圆级芯片上

Huizheng Wang, Taiquan Wei, Zichuan Wang, Dingcheng Jiang, Qize Yang, Jiaxin Liu, Jingxiang Hou, Chao Li, Jinyi Deng, Yang Hu, Shouyi Yin

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 TEMP通过拓扑感知的张量流分区、流量意识映射和双层晶圆求解，提升晶圆级芯片上LLM训练的内存效率和吞吐量。

Comments Accepted by HPCA 2026

Retrieval Enhanced Feedback via In-context Neural Error-book

通过上下文神经错误本增强的检索反馈

Jongyeop Hyun, Bumsoo Kim

机构 * School of CSE Chung-Ang University（计算机科学与工程学院 Chung-Ang 大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 REFINE通过结构化反馈框架，系统分析并缓解多模态推理中的错误，提升推理效率和可扩展性。

Comments Accepted at EMNLP 2025 main

TiME: Tiny Monolingual Encoders for Efficient NLP Pipelines

TiME：用于高效NLP流水线的微型单语编码器

David Schulmeister, Valentin Hartmann, Lars Klein, Robert West

机构 * EPFL（瑞士联邦理工学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 TiME通过蒸馏技术训练小型单语模型，提升NLP流水线的效率与性能平衡。

Scalable Frameworks for Real-World Audio-Visual Speech Recognition

可扩展的音频视觉语音识别系统框架

Sungnyun Kim

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出了一种可扩展的音频视觉语音识别系统框架，通过分层方法提升模型在现实环境中的鲁棒性和可扩展性。

Comments PhD Dissertation