语言大模型 / LLM

FlashInfer-Bench: Building the Virtuous Cycle for AI-driven LLM Systems

FlashInfer-Bench: 构建 AI 驱动的 LLM 系统的良性循环

Shanli Xing, Yiyan Zhai, Alexander Jiang, Yixin Dong, Yong Wu, Zihao Ye, Charlie Ruan, Yingyi Huang, Yineng Zhang, Liangsheng Yin, Aksara Bayyapu, Luis Ceze, Tianqi Chen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 FlashInfer-Bench 提出了一种闭环框架，用于评估和部署 AI 生成的 GPU 内核，以提升大规模语言模型的推理性能。

70% Size, 100% Accuracy: Lossless LLM Compression for Efficient GPU Inference via Dynamic-Length Float (DFloat11)

Tianyi Zhang, Mohsen Hariri, Shaochen Zhong, Vipin Chaudhary, Yang Sui, Xia Hu, Anshumali Shrivastava

机构 * Department of Computer Science, Rice University（计算机科学系，里士大学） ； Department of Computer and Data Sciences, Case Western Reserve University（计算机与数据科学系，凯斯西储大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Comments Published in NeurIPS 2025

Sketch to Adapt: Fine-Tunable Sketches for Efficient LLM Adaptation

草图以适应：用于高效大语言模型适应的可调节草图

Tianyi Zhang, Junda Su, Aditya Desai, Oscar Wu, Zhaozhuo Xu, Anshumali Shrivastava

机构 * Rice University, Houston, TX（里士满大学） ； University of California, Berkeley, Berkeley, CA（加州大学伯克利分校） ； Stevens Institute of Technology, Hoboken, NJ（史蒂文斯理工学院） ； ThirdAI Corp.（ThirdAI公司） ； Ken Kennedy Institute（肯尼迪研究所） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SketchTune通过压缩和适应一体化的方法，实现更高效的大语言模型适应，优于现有PEFT方法。

Comments Published in ICML 2025

FedSEA-LLaMA: A Secure, Efficient and Adaptive Federated Splitting Framework for Large Language Models

FedSEA-LLaMA: 一种安全、高效且适应性的联邦分割框架用于大语言模型

Zishuai Zhang, Hainan zhang, Weihua Li, Qinnan zhang, jin Dong, Yongxin Tong, Zhiming Zheng

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.CL、cs.AI

AI总结 FedSEA-LLaMA通过注入噪声、压缩注意力掩码和动态调整分割点，实现安全高效的联邦分割学习，提升大语言模型的训练和推断速度。

Causal LLM Routing: End-to-End Regret Minimization from Observational Data

因果大语言模型路由：从观测数据实现端到端的遗憾最小化

Asterios Tsiourvas, Wei Sun, Georgia Perakis

机构 * MIT（麻省理工学院） ； IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种基于因果推理的端到端框架，通过最小化决策遗憾从观测数据中学习大语言模型路由策略，实现高效优化和异质成本偏好的处理，实验显示优于现有方法。

LLM Query Scheduling with Prefix Reuse and Latency Constraints

基于前缀重用和延迟约束的LLM查询调度

Gregory Dexter, Shao Tang, Ata Fatahi Baarzi, Qingquan Song, Tejas Dharamsi, Aman Gupta

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出k-LPM算法，通过平衡前缀重用与公平性，改进LLM查询调度的TTFT性能。

Sorbet: A Neuromorphic Hardware-Compatible Transformer-Based Spiking Language Model

Sorbet：一种兼容神经形态硬件的基于Transformer的脉冲语言模型

Kaiwen Tang, Zhanglu Yan, Weng-Fai Wong

机构 * School of Computing, National University of Singapore, Singapore, Singapore（新加坡国立大学计算机学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(abstract)；分类 cs.CL、cs.LG

AI总结 Sorbet是一种基于Transformer的脉冲语言模型，通过PTsoftmax和BSPN替代高能耗操作，实现高效能的神经形态硬件兼容性。

Comments Accepted by ICML 2025. Camera-ready version

Journal ref Proceedings of the 42nd International Conference on Machine Learning (ICML), 2025

FlexSpec: Frozen Drafts Meet Evolving Targets in Edge-Cloud Collaborative LLM Speculative Decoding

FlexSpec: 冻结草稿与演进目标在边缘-云协作大语言模型推测解码中的结合

Yuchen Li, Rui Kong, Zhonghao Lyu, Qiyang Li, Xinran Chen, Hengyi Cai, Lingyong Yan, Shuaiqiang Wang, Jiashu Zhao, Guangxu Zhu, Linghe Kong, Guihai Chen, Haoyi Xiong, Dawei Yin

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 FlexSpec通过共享骨干架构和通道感知机制，提升边缘-云协作大语言模型推测解码的效率与可扩展性。

Defensive M2S: Training Guardrail Models on Compressed Multi-turn Conversations

防御性M2S：在压缩的多轮对话上训练防护模型

Hyunjun Kim

机构 * KAIST（韩国科学技术院） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 Defensive M2S通过压缩多轮对话训练防护模型，显著降低训练和推理成本，提升攻击检测效率。

WiFo-MUD: Wireless Foundation Model for Heterogeneous Multi-User Demodulator

WiFo-MUD：面向异构多用户解调的无线基础模型

Zonghui Yang, Shijian Gao, Xuesong Cai, Xiang Cheng, Liuqing Yang

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 WiFo-MUD是一种基于扩散模型的多用户解调基础模型，通过定制化主干网络和动态用户分组策略提升解调性能，在异构环境中实现高效推理和强泛化能力。

Comments 13 pages, 9 figures, 10 tables

Semantic Anchor Transport: Robust Test-Time Adaptation for Vision-Language Models

语义锚点传输：面向视觉-语言模型的鲁棒性测试时间适应

Shambhavi Mishra, Julio Silva-Rodriguez, Ismail Ben Ayed, Marco Pedersoli, Jose Dolz

机构 * LIVIA, ÉTS Montréal, Canada（LIVIA，蒙特利尔ÉTS，加拿大） ； International Laboratory on Learning Systems (ILLS), McGILL - ETS - MILA - CNRS - Université Paris-Saclay - CentraleSupélec, Canada（学习系统国际实验室（ILLS），麦吉尔大学-ÉTS-MILA-CNRS-巴黎-萨克雷大学-中央超导大学，加拿大） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 语义锚点传输通过生成伪标签和多模板蒸馏方法，提升视觉-语言模型在分布偏移下的鲁棒性与计算效率。

Comments Added additional figures to communicate the algorithm

ECR: Manifold-Guided Semantic Cues for Compact Language Models

ECR: 用于紧凑语言模型的流形引导语义线索

Chung-Wei Victor Yuan

机构 * YVIC Research Lab（YVIC研究实验室） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.CL、cs.AI

AI总结 ECR通过流形引导语义线索提升紧凑语言模型的结构稳定性与任务适应性

Comments Preprint 13pages, 6 figures

Making Theft Useless: Adulteration-Based Protection of Proprietary Knowledge Graphs in GraphRAG Systems

让盗窃变得无用：基于掺假的专有知识图谱在GraphRAG系统中的保护

Weijie Wang, Peizhuo Lv, Yan Wang, Rujie Dai, Guokun Xu, Qiujian Lv, Hangcheng Liu, Weiqing Huang, Wei Dong, Jiaheng Zhang

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 AURA通过在知识图谱中注入虚假掺假物，使盗窃的知识图谱对攻击者无用，同时保持授权用户查询的准确性。

LLM Agents for Combinatorial Efficient Frontiers: Investment Portfolio Optimization

基于LLM代理的组合效率前沿：投资组合优化

Simon Paquette-Greenbaum, Jiangbo Yu

机构 * Department of Civil Engineering, McGill University（土木工程系，麦吉尔大学） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 本文提出了一种基于LLM代理的新型框架，用于解决组合效率前沿的投资组合优化问题，通过改进的算法开发和流程自动化，实现了更高效的投资组合解决方案。

Revati: Transparent GPU-Free Time-Warp Emulation for LLM Serving

Revati：面向LLM服务的透明GPU-free时间扭曲仿真

Amey Agrawal, Mayank Yadav, Sukrit Kumar, Anirudha Agrawal, Garv Ghai, Souradeep Bera, Elton Pinto, Sirish Gambhira, Mohammad Adain, Kasra Sohrab, Chus Antonanzas, Alexey Tumanov

专题命中 效率与部署 ：LLM(title)；分类 cs.LG

AI总结 Revati通过时间跳跃技术实现GPU-free的LLM服务性能仿真，比实际GPU执行快5-17倍，预测误差低于5%。

MotionPhysics: Learnable Motion Distillation for Text-Guided Simulation

MotionPhysics: 通过自然语言引导的模拟学习可学习的运动蒸馏

Miaowei Wang, Jakub Zadrożny, Oisin Mac Aodha, Amir Vaxman

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MotionPhysics通过自然语言引导模拟，利用可学习的运动蒸馏损失实现对3D物体物理参数的自动学习，提升动态模拟的逼真度和效率。

Comments AAAI2026 Accepted

Scaling Efficient LLMs

扩展高效大语言模型

B. N. Kausik

机构 * Independent（独立研究者） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出递归变换器，通过结合变换器和递归网络的优势，实现了高效的大语言模型，解决了参数规模与数据规模之间的非线性关系问题。

CIC: Circular Image Compression

循环图像压缩：CIC

Honggui Li, Sinan Chen, Dingtai Li, Zhengyang Zhang, Nahid Md Lokman Hossain, Xinfeng Xu, Yinlu Qin, Ruobing Wang, Maria Trocan, Dimitri Galayko, Amara Amara, Mohamad Sawan

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 本文提出循环图像压缩（CIC）方法，通过闭环架构提升LIC的动态和静态性能，实验表明其在重建能力和样本外测试图像处理方面优于现有方法。

Improving Router Security using BERT

使用BERT改进路由器安全

John Carter, Spiros Mancoridis, Pavlos Protopapas, Brian Mitchell, Benji Lilley

专题命中 效率与部署 ：language model(abstract)

AI总结 本研究通过改进的eBPF系统调用传感器和对比增强学习，提升路由器安全检测性能，并在物联网环境中验证其有效性。

Personalized Forecasting of Glycemic Control in Type 1 and 2 Diabetes Using Foundational AI and Machine Learning Models

使用基础AI和机器学习模型进行1型和2型糖尿病血糖控制的个性化预测

Simon Lebech Cichosz, Stine Hangaard, Thomas Kronborg, Peter Vestergaard, Morten Hasselstrøm Jensen

专题命中 效率与部署 ：foundation model(abstract)

AI总结 本文研究利用基础AI和机器学习模型，针对1型和2型糖尿病患者预测周提前的血糖控制指标，通过比较不同模型的性能，发现AutoGluon和tabPFN在部分指标上表现更优，但计算成本较高。

IKFST: IOO and KOO Algorithms for Accelerated and Precise WFST-based End-to-End Automatic Speech Recognition

IKFST: IOO和KOO算法用于加速和精确的基于WFST的端到端自动语音识别

Zhuoran Zhuang, Ye Chen, Chao Luo, Tian-Hao Zhang, Xuewei Zhang, Jian Ma, Jiatong Shi, Wei Zhang

机构 * Fliggy Alibaba（阿里巴巴飞猪） ； University of Science and Technology Beijing（北京科技大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 IKFST通过IOO和KOO算法优化WFST解码，提升端到端语音识别的效率与准确性。

FP4DiT: Towards Effective Floating Point Quantization for Diffusion Transformers

FP4DiT: 向有效浮点量化扩散变换器迈进

Ruichen Chen, Keith G. Mills, Di Niu

机构 * Department of Electrical and Computer Engineering, Faculty of Engineering University of Alberta（电气与计算机工程系，工程学院，阿尔伯塔大学） ； Division of Computer Science and Engineering, College of Engineering Louisiana State University（计算机科学与工程系，工程学院，路易斯安那州立大学） 纠错

专题命中 效率与部署 ：post-training(abstract)

AI总结 FP4DiT通过浮点量化技术实现更高效的扩散变换器量化，提升图像生成性能。

Comments The code is available at https://github.com/cccrrrccc/FP4DiT

One Trigger Token Is Enough: A Defense Strategy for Balancing Safety and Usability in Large Language Models

一个触发标记就足够：一种在大型语言模型中平衡安全性和可用性的防御策略

Haoran Gu, Handing Wang, Yi Mei, Mengjie Zhang, Yaochu Jin

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本研究提出D-STT算法，通过识别和解码安全触发标记，有效提升大型语言模型的安全性，同时保持其可用性与响应效率。

Benchmark Success, Clinical Failure: When Reinforcement Learning Optimizes for Benchmarks, Not Patients

基准成功，临床失败：当强化学习优化于基准，而非患者

Armin Berger, Manuela Bergau, Helen Schneider, Saad Ahmad, Tom Anglim Lagones, Gianluca Brugnara, Martha Foltyn-Dumitru, Kai Schlamp, Philipp Vollmuth, Rafet Sifa

机构 * Fraunhofer IAIS（弗劳恩霍夫人工智能研究所） ； University of Bonn（波恩大学） ； Lamarr Institute（拉马尔研究所） ； Department of Health Queensland（昆士兰健康部） ； Griffith University（格里菲斯大学） ； University Hospital Bonn（波恩大学医院） 纠错

专题命中 领域大模型 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.AI、cs.LG

AI总结 ChexReason通过低资源强化学习在医学影像基准上表现优异，但其跨数据集迁移性下降，揭示了RL范式在临床应用中的局限性。

Modeling the One-to-Many Property in Open-Domain Dialogue with LLMs

在开放式对话中利用大语言模型建模一对一多属性

Jing Yang Lee, Kong-Aik Lee, Woon-Seng Gan

机构 * School of Electrical and Electronic Engineering, Nanyang Technological University（南洋理工大学电子与电气工程学院） ； Department of Electrical and Electronic Engineering, The Hong Kong Polytechnic University（香港理工大学电子与电气工程系） 纠错

专题命中 领域大模型 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过分解生成任务和引入新策略，利用大语言模型提升开放式对话的回应多样性和质量。

AlignAR: Generative Sentence Alignment for Arabic-English Parallel Corpora of Legal and Literary Texts

AlignAR: 生成式句子对齐用于法律和文学文本的阿拉伯-英语平行语料库

Baorong Huang, Ali Asiri

机构 * School of Foreign Languages, Huaihua University（怀化大学外国语言学院） ； Al-lith University College, Umm al-Qura University（乌姆·盖拉大学阿尔利思学院） 纠错

专题命中 领域大模型 ：LLM(abstract)；分类 cs.CL

AI总结 AlignAR通过生成式句子对齐方法，提升阿拉伯-英语法律和文学文本的平行语料库质量，验证了大语言模型在对齐任务中的优越性。

Physically-Grounded Manifold Projection Model for Generalizable Metal Artifact Reduction in Dental CBCT

基于物理的流形投影模型用于通用金属伪影减少在牙科CBCT

Zhi Li, Yaqi Wang, Bingtao Ma, Yifan Zhang, Huiyu Zhou, Shuai Wang

机构 * School of Cyberspace, Hangzhou Dianzi University（电子科技大学信息学院） ； Innovation Center for Electronic Design Automation Technology, Hangzhou Dianzi University（电子科技大学电子设计自动化创新中心） ； Hangzhou Geriatric Stomatology Hospital, Hangzhou Dental Hospital Group（杭州老年口腔医院，杭州口腔医院集团） ； School of Computing and Mathematical Sciences, University of Leicester（莱斯特大学计算与数学科学学院） 纠错

专题命中 领域大模型 ：foundation model(abstract)

AI总结 本文提出基于物理的流形投影模型，通过合成数据和临床数据实验，实现了更高效且可靠的牙科CBCT中金属伪影减少。

Comments This manuscript has been submitted to Medical Image Analysis for peer review

Lamps: Learning Anatomy from Multiple Perspectives via Self-supervision in Chest Radiographs

Lamps: 通过自监督学习从多视角学习解剖结构

Ziyu Zhou, Haozhe Luo, Mohammad Reza Hosseinzadeh Taher, Jiaxuan Pang, Xiaowei Ding, Michael B. Gotway, Jianming Liang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Arizona State University（亚利桑那州立大学） ； University of Bern（伯尔尼大学） ； Mayo Clinic（梅奥诊所） 纠错

专题命中 领域大模型 ：foundation model(abstract)

AI总结 Lamps通过自监督学习从多视角学习解剖结构，提升医学影像基础模型的鲁棒性和临床应用潜力。

Robust Uncertainty Quantification for Factual Generation of Large Language Models

面向大型语言模型事实生成的鲁棒不确定性量化

Yuhao Zhang, Zhongliang Yang, Linna Zhou

机构 * School of Cyberspace Security, Beijing University of Posts and Telecommunications（网络安全学院，北京邮电大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 本文提出了一种新颖的鲁棒不确定性量化方法，用于评估大型语言模型在生成多事实任务中的可靠性，通过构建陷阱问题集验证了其有效性，提升了对抗性提问下的模型鲁棒性。

Comments 9 pages, 5 tables, 5 figures, accepted to IJCNN 2025

Journal ref 2025 International Joint Conference on Neural Networks (IJCNN), Rome, Italy, 2025, pp. 1-9

CRoPS: A Training-Free Hallucination Mitigation Framework for Vision-Language Models

CRoPS：一种用于视觉-语言模型的无训练幻觉缓解框架

Neeraj Anand, Samyak Jha, Udbhav Bamba, Rahul Rahaman

机构 * Indian Institute of Technology (ISM)（印度理工学院（ISM）） ； Transmute AI ； National University of Singapore（新加坡国立大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 CRoPS通过选择性移除关键文本标记和广义对比解码，有效缓解视觉-语言模型的幻觉问题，提升CHAIR分数20%并优于现有无训练方法。

Comments Accepted at TMLR 2026