语言大模型 / LLM

EDGC: Entropy-driven Dynamic Gradient Compression for Efficient LLM Training

EDGC: 基于熵驱动的动态梯度压缩用于高效大语言模型训练

Qingao Yi, Jiaang Duan, Hanwen Hu, Qin Hua, Haiyan Zhao, Shiyou Qian, Dingyu Yang, Jian Cao, Jinghua Tang, Yinghao Yu, Chenzhi Liao, Kangjin Wang, Liping Zhang

机构 * University of Shanghai for Science and Technology（上海科学技术大学） ； Shanghai Jiao Tong University（上海交通大学） ； Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EDGC通过动态梯度压缩减少LLM训练的通信延迟和训练时间，提升效率的同时保持模型准确性。

PortAgent: LLM-driven Vehicle Dispatching Agent for Port Terminals

PortAgent: 基于大语言模型的港口终端车辆调度代理

Jia Hu, Junqi Li, Weimeng Lin, Peng Jia, Yuxiong Ji, Jintao Lai

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 PortAgent利用大语言模型实现港口终端车辆调度系统的自动化迁移，无需专家参与，降低数据需求并加快部署速度。

Adjudicator: Correcting Noisy Labels with a KG-Informed Council of LLM Agents

Adjudicator: 通过知识图谱指导的LLM代理委员会校正噪声标签

Doohee You, Sundeep Paul

机构 * Trusted Engagement \& AI Solutions 500 west 2nd street Trust \& Safety Google 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Adjudicator通过知识图谱指导的LLM代理委员会校正噪声标签，实现高精度数据验证，显著提升F1分数。

Comments 12 pages, 3 figures

Low-Rank Compression of Language Models via Differentiable Rank Selection

通过可微分秩选择实现语言模型的低秩压缩

Sidhant Sundrani, Francesco Tudisco, Pasquale Minervini

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 LLRC通过可微分方法实现语言模型的低秩压缩，在无需微调的情况下提升压缩率与下游任务准确性。

Astraea: A State-Aware Scheduling Engine for LLM-Powered Agents

Astraea：一种面向LLM代理的基于状态的调度引擎

Hongqiu Ni, Jiabao Zhang, Guopeng Li, Zilong Wang, Ruiqi Wu, Chi Zhang, Haisheng Tan

机构 * University of Science and Technology of China（中国科学技术大学） ； Hefei University of Technology（合肥工业大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 Astraea通过基于状态的分层调度算法优化LLM代理的全局作业完成时间，减少端到端延迟并提升系统效率与公平性。

Comments 12 pages, 8 figures

Fast and Accurate Causal Parallel Decoding using Jacobi Forcing

快速且准确的因果并行解码使用雅可比强迫

Lanxiang Hu, Siqi Kou, Yichao Fu, Samyam Rajbhandari, Tajana Rosing, Yuxiong He, Zhijie Deng, Hao Zhang

机构 * UC San Diego（UC圣迭戈大学） ； Shanghai Jiao Tong University（上海交通大学） ； Snowflake（Snowflake公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；post-training(abstract)

AI总结 本文提出雅可比强迫方法，通过渐进蒸馏将AR模型转化为高效的并行解码器，实现3.8倍的速度提升并保持性能，同时引入多块解码与拒绝回收进一步提升效率。

Light-Weight Benchmarks Reveal the Hidden Hardware Cost of Zero-Shot Tabular Foundation Models

轻量级基准揭示零样本表格基础模型的隐藏硬件成本

Ishaan Gangwani, Aayam Bansal

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过轻量级基准测试揭示了零样本表格基础模型在准确率与硬件开销之间的权衡，发现树形模型在多个数据集上表现优异且硬件消耗更低。

Comments ICML NewInML

REP: Resource-Efficient Prompting for Rehearsal-Free Continual Learning

REP：无回放持续学习的资源高效提示

Sungho Jeon, Xinyue Ma, Kwang In Kim, Myeongjae Jeon

机构 * POSTECH 纠错

专题命中 效率与部署 ：prompting(title,abstract)；分类 cs.AI、cs.LG

AI总结 REP通过高效提示方法提升无回放持续学习的资源效率，减少计算和内存消耗，同时保持较高的准确性。

Comments NeurIPS 2025

LLmFPCA-detect: LLM-powered Multivariate Functional PCA for Anomaly Detection in Sparse Longitudinal Texts

LLmFPCA-detect: 基于大语言模型的多变量功能主成分分析用于稀疏纵向文本中的异常检测

Prasanjit Dubey, Aritra Guha, Zhengyi Zhou, Qiong Wu, Xiaoming Huo, Paromita Dubey

机构 * H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（乔治亚理工学院H.Milton Stewart工业与系统工程学院） ； AT&T Chief Data Office（AT&T首席数据办公室） ； Department of Data Sciences and Operations, Marshall School of Business, University of Southern California（南加州大学马歇尔商学院数据科学与运营学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 LLmFPCA-detect结合大语言模型和功能主成分分析，用于稀疏纵向文本中的异常检测和模式推断，提升预测性能。

Differentially Private Knowledge Distillation via Synthetic Text Generation

通过合成文本生成实现差分隐私的知识蒸馏

James Flemings, Murali Annavaram

机构 * University of Southern California（南加州大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 DistilDP通过合成文本生成实现差分隐私的知识蒸馏，提升LLMs的实用性和隐私保护性能。

Reconsidering Conversational Norms in LLM Chatbots for Sustainable AI

重新审视LLM聊天机器人中的会话规范以实现可持续AI

Ronnie de Souza Santos, Cleyton Magalhães, Italo Santos

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文探讨了LLM聊天机器人中会话规范对可持续性的影响，指出交互行为、对话模式、用户习惯及上下文积累是影响系统能耗的关键因素，需重新设计交互方式以实现可持续发展。

Focus: A Streaming Concentration Architecture for Efficient Vision-Language Models

聚焦：一种高效的视觉-语言模型流式集中架构

Chiyue Wei, Cong Guo, Junyao Zhang, Haoxuan Shan, Yifan Xu, Ziyue Zhang, Yudong Liu, Qinsi Wang, Changchun Zhou, Hai "Helen" Li, Yiran Chen

专题命中 效率与部署 ：language model(title,abstract)

AI总结 Focus提出了一种高效的视觉-语言模型流式集中架构，通过分层压缩和细粒度冗余消除，实现2.4倍速度提升和3.3倍能效提升。

Comments HPCA 2026

Native Intelligence Emerges from Large-Scale Clinical Practice: A Retinal Foundation Model with Deployment Efficiency

原生智能源自大规模临床实践：一种具有部署效率的视网膜基础模型

Jia Guo, Jiawei Du, Shengzhu Yang, Shuai Lu, Wenquan Cheng, Kaiwen Zhang, Yihua Sun, Chuhong Yang, Weihang Zhang, Fang Chen, Yilan Wu, Lie Ju, Guochen Ning, Longfei Ma, Huiping Yao, Jinyuan Wang, Peilun Shi, Yukun Zhou, Jie Xu, Pearse A. Keane, Hanruo Liu, Hongen Liao, Ningli Wang, Huiqi Li

机构 * School of Biomedical Engineering, Tsinghua Medicine, Tsinghua University（生物医学工程学院，清华大学医学部，清华大学） ； School of Information and Electronics, Beijing Institute of Technology（信息与电子学院，北京理工大学） ； Beijing Key Laboratory of Intelligent Diagnosis Technology and Equipment for Optic Nerve-Related Eye Diseases（北京智能诊断技术与设备重点实验室） ； School of Medical Technology, Beijing Institute of Technology（医学技术学院，北京理工大学） ； Beijing Tongren Hospital, Capital Medical University（北京同仁医院，首都医科大学） ； School of Biomedical Engineering, Shanghai Jiaotong University（生物医学工程学院，上海交通大学） ； Beijing Visual Science and Translational Eye Research Institute (BERI), Beijing Tsinghua Changgung Hospital Eye Center, School of Clinical Medicine, Tsinghua Medicine, Tsinghua University Institute of Ophthalmology（北京视觉科学与转化眼研所（BERI），北京清华长庚医院眼科中心，临床医学学院，清华大学医学部，清华大学眼科学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 ReVision通过直接从真实临床数据中学习，实现了在低资源环境下高效部署的视网膜基础模型，无需额外标注即可在多种医学任务中取得优异性能。

VesSAM: Efficient Multi-Prompting for Segmenting Complex Vessel

VesSAM: 高效多提示分割复杂血管

Suzhong Fu, Rui Sun, Xuan Ding, Jingqi Dong, Yiming Yang, Yao Zhu, Min Chang Jordan Ren, Delin Deng, Angelica Aviles-Rivero, Shuguang Cui, Zhen Li

机构 * FNii-Shenzhen, CUHK-Shenzhen（FNii-Shenzhen，CUHK-Shenzhen） ； School of Science and Engineering, CUHK-Shenzhen（CUHK-Shenzhen科学与工程学院） ； Zhejiang University（浙江大学） ； Boston University（波士顿大学） ； Vanderbilt University（范德比大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：prompting(title)；foundation model(abstract)

AI总结 VesSAM通过多提示编码器和轻量级解码器提升血管分割性能，实现比现有方法更高的Dice和IoU指标，同时参数更少且泛化能力更强。

A Unified Sparse Attention via Multi-Granularity Compression

一种通过多粒度压缩的统一稀疏注意力机制

Siran Liu, Zane Cao, Yongchao He

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 UniSparse通过多粒度压缩和块级选择，实现高效稀疏注意力机制，提升LLM在长上下文理解和推理中的效率与准确性。

TEMP: A Memory Efficient Physical-aware Tensor Partition-Mapping Framework on Wafer-scale Chips

TEMP: 一种内存高效的物理感知张量分区映射框架在晶圆级芯片上

Huizheng Wang, Taiquan Wei, Zichuan Wang, Dingcheng Jiang, Qize Yang, Jiaxin Liu, Jingxiang Hou, Chao Li, Jinyi Deng, Yang Hu, Shouyi Yin

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 TEMP通过拓扑感知的张量流分区、流量意识映射和双层晶圆求解，提升晶圆级芯片上LLM训练的内存效率和吞吐量。

Comments Accepted by HPCA 2026

Retrieval Enhanced Feedback via In-context Neural Error-book

通过上下文神经错误本增强的检索反馈

Jongyeop Hyun, Bumsoo Kim

机构 * School of CSE Chung-Ang University（计算机科学与工程学院 Chung-Ang 大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 REFINE通过结构化反馈框架，系统分析并缓解多模态推理中的错误，提升推理效率和可扩展性。

Comments Accepted at EMNLP 2025 main

TiME: Tiny Monolingual Encoders for Efficient NLP Pipelines

TiME：用于高效NLP流水线的微型单语编码器

David Schulmeister, Valentin Hartmann, Lars Klein, Robert West

机构 * EPFL（瑞士联邦理工学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 TiME通过蒸馏技术训练小型单语模型，提升NLP流水线的效率与性能平衡。

Scalable Frameworks for Real-World Audio-Visual Speech Recognition

可扩展的音频视觉语音识别系统框架

Sungnyun Kim

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出了一种可扩展的音频视觉语音识别系统框架，通过分层方法提升模型在现实环境中的鲁棒性和可扩展性。

Comments PhD Dissertation

Grammar Search for Multi-Agent Systems

多智能体系统的语法搜索

Mayank Singh, Vikas Yadav, Shiva Krishna Reddy Malay, Shravan Nayak, Sai Rajeswar, Sathwik Tejaswi Madhusudhan, Eduardo Blanco

机构 * University of Arizona（亚利桑那大学） ； ServiceNow（ServiceNow公司） ； Mila - Quebec AI Institute（魁北克AI研究院） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出了一种结构化框架，通过固定组件生成多智能体系统，在数学和问答领域优于现有方法，且更经济高效。

CurvaDion: Curvature-Adaptive Distributed Orthonormalization

CurvaDion: 基于曲率的分布式正交化

Bhavesh Kumar, Roger Jin, Jeffrey Quesnelle

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 CurvaDion通过检测高曲率区域优化同步策略，实现99%的通信减少并保持模型收敛性。

Comments Nous Research

Pronunciation-Lexicon Free Training for Phoneme-based Crosslingual ASR via Joint Stochastic Approximation

无需音素词典的音素基跨语言语音识别联合随机近似训练

Saierdaer Yusuyin, Te Ma, Hao Huang, Zhijian Ou

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出无需音素词典的跨语言语音识别方法，通过联合随机近似算法提升模型性能，实现误差率降低。

Comments Accepted by IEEE TASLP

SDAR-VL: Stable and Efficient Block-wise Diffusion for Vision-Language Understanding

SDAR-VL: 稳定且高效的块状扩散用于视觉语言理解

Shuang Cheng, Yuhua Jiang, Zineng Zhou, Dawei Liu, Wang Tao, Linfeng Zhang, Biqing Qi, Bowen Zhou

机构 * Zhejiang University（浙江大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； ByteDance（字节跳动） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 SDAR-VL通过高效的块状扩散方法，在视觉语言理解中实现了更高的训练效率、收敛稳定性及任务性能，优于传统块扩散并匹敌强AR基线。

Developing Large Language Models for Clinical Research Using One Million Clinical Trials

利用一百万项临床试验开发大型语言模型用于临床研究

Zifeng Wang, Jiacheng Lin, Qiao Jin, Junyi Gao, Jathurshan Pradeepkumar, Pengcheng Jiang, Zhiyong Lu, Jimeng Sun

机构 * Usher Institute, Edinburgh Medical School, University of Edinburgh（埃丁堡大学埃丁堡医学院usher研究所） ； Health Data Research UK（英国健康数据研究） ； School of Computing and Data Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校计算与数据科学学院） ； Division of Intramural Research, National Library of Medicine, National Institutes of Health（国家卫生研究院国家医学图书馆内部研究部） ； Keiji AI 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 本文提出TrialPanorama，通过整合一百万项临床试验数据，训练出在八个关键临床研究任务中表现优于通用大语言模型的8B LLM。

MatTools: Benchmarking Large Language Models for Materials Science Tools

MatTools: 评估大型语言模型在材料科学工具中的基准测试

Siyu Liu, Bo Hu, Beilin Ye, Jiamin Xu, David J. Srolovitz, Tongqi Wen

机构 * Center for Structural Materials, Department of Mechanical Engineering, The University of Hong Kong（香港大学机械工程系结构材料中心） ； Materials Innovation Institute for Life Sciences（生命科学创新研究所） 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 MatTools通过代码生成和执行评估LLM在材料科学工具中的能力，揭示通用模型优于专业模型，AI理解AI，及简单方法更优的结论。

Comments 27 pages, 23 figures

Mixture-of-RAG: Integrating Text and Tables with Large Language Models

混合RAG：利用大语言模型整合文本和表格

Chi Zhang, Qiyang Chen, Mengqi Zhang

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 MixRAG通过三阶段框架整合文本和表格，提升异构文档检索性能，实现混合模态文档接地的最新成果。

Comments Accepted to SIGKDD 2026

Optimizing Large Language Models for ESG Activity Detection in Financial Texts

优化大型语言模型以检测金融文本中的ESG活动

Mattia Birti, Andrea Maurino, Francesco Osborne

机构 * Department of Informatics, Systems and Communication, University of Milano-Bicocca（信息学、系统与通信系，米兰-比科卡大学） ； University of Milano-Bicocca（米兰-比科卡大学） ； The Open University（开放大学） 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过微调优化大型语言模型，提升金融文本中ESG活动检测的准确性。

Comments Published in the Proceedings of the ACM International Conference on AI in Finance (ICAIF). ACM version

Journal ref Proceedings of the ACM International Conference on AI in Finance (ICAIF), 2024, ACM

Adapting General-Purpose Foundation Models for X-ray Ptychography in Low-Data Regimes

为低数据情形下的X射线衍射成像适应通用基础模型

Robinson Umeike, Neil Getty, Yin Xiangyu, Yi Jiang

机构 * The University of Alabama（阿拉巴马大学） ； Argonne National Laboratory（阿贡国家实验室） 纠错

专题命中 领域大模型 ：foundation model(title,abstract)；language model(abstract)；SFT(abstract)；prompting(abstract)

AI总结 本文提出PtychoBench基准，通过比较SFT和ICL策略，在低数据环境下优化X射线衍射成像任务的模型适应性，发现任务模态决定最佳专门化路径。

Adapting Speech Language Model to Singing Voice Synthesis

将语音语言模型适应于歌唱语音合成

Yiwen Zhao, Jiatong Shi, Jinchuan Tian, Yuxun Tang, Jiarui Hai, Jionghao Han, Shinji Watanabe

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Renmin University of China（中国人民大学） ； John Hopkins University（约翰霍普金斯大学） 纠错

专题命中 领域大模型 ：language model(title,abstract)；SLM(abstract)

AI总结 本文提出将预训练语音语言模型适应于歌唱语音合成，通过多流语言模型预测、条件流匹配生成梅尔频谱图及梅尔到波形 vocoder 实现，验证了模型在歌唱语音合成任务中的有效性。

Comments Accepted by NeurIPS 2025 workshop AI for Music

MIRA: Medical Time Series Foundation Model for Real-World Health Data

MIRA：面向真实世界健康数据的医学时间序列基础模型

Hao Li, Bowen Deng, Chang Xu, Zhiyuan Feng, Viktor Schlegel, Yu-Hao Huang, Yizheng Sun, Jingyuan Sun, Kailai Yang, Yiyao Yu, Jiang Bian

机构 * Microsoft Research（微软研究院） ； University of Manchester（曼彻斯特大学） ； Peking University（北京大学） ； Tsinghua University（清华大学） ； Nanjing University（南京大学） ； Imperial Global Singapore, Imperial College London（帝国理工学院伦敦分校） 纠错

专题命中 领域大模型 ：foundation model(title,abstract)；分类 cs.LG

AI总结 MIRA是一种专为医学时间序列预测设计的基础模型，通过连续时间旋转位置编码、频率特定混合专家层和连续动态外推块，实现对不规则时间间隔、异质采样率和缺失值的高效处理，提升医疗时间序列数据的预测精度和跨机构迁移能力。

Comments NeurIPS 2025 Main Conference