语言大模型 / LLM

Scaling Multimodal Search and Recommendation with Small Language Models via Upside-Down Reinforcement Learning

通过倒置强化学习扩展小语言模型以支持多模态搜索与推荐

Yu-Chen Lin, Sanat Sharma, Hari Manikandan, Jayant Kumar, Tracy Holloway King, Jing Zheng

机构 * Adobe（Adobe公司） ； Meta 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；SLM(abstract)

AI总结 本文通过倒置强化学习和合成数据蒸馏，利用小语言模型实现高效多模态搜索与推荐，显著降低推理延迟和内存开销。

Comments Accepted by ICDM 2025 MMSR

Focusing on Language: Revealing and Exploiting Language Attention Heads in Multilingual Large Language Models

聚焦语言：揭示并利用多语言大语言模型中的语言注意力头

Xin Liu, Qiyang Song, Qihang Zhou, Haichao Du, Shaowen Xu, Wenbo Jiang, Weijuan Zhang, Xiaoqi Jia

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LAHIS方法，通过分析多语言大语言模型中的注意力头，揭示语言特定与通用头的作用，并通过轻量级适应提升多语言性能。

Comments Accepted by AAAI-2026

Entropy-Based Measurement of Value Drift and Alignment Work in Large Language Models

基于熵的大型语言模型价值漂移与对齐工作的测量

Samih Fadli

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于熵的框架，用于测量大型语言模型中的价值漂移和对齐工作，通过五种行为分类法和熵动态分析，实现对模型伦理熵的实时监控与警报。

Comments 6 pages. Companion paper to "The Second Law of Intelligence: Controlling Ethical Entropy in Autonomous Systems". Code and tools: https://github.com/AerisSpace/EthicalEntropyKit

KVNAND: Efficient On-Device Large Language Model Inference Using DRAM-Free In-Flash Computing

KVNAND：利用无DRAM闪存计算实现高效的设备端大语言模型推理

Lishuo Deng, Shaojie Xu, Jinwu Chen, Changwei Yan, Jiajie Wang, Zhe Jiang, Weiwei Shan

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 KVNAND通过无DRAM闪存计算实现高效设备端大语言模型推理，解决KV缓存存储问题，提升性能并减少资源消耗。

V-ITI: Mitigating Hallucinations in Multimodal Large Language Models via Visual Inference-Time Intervention

V-ITI: 通过视觉推理时间干预缓解多模态大语言模型中的幻觉

Nan Sun, Zhenyu Zhang, Xixun Lin, Kun Wang, Yanmin Shang, Naibin Gu, Shuohuan Wang, Yu Sun, Hua Wu, Haifeng Wang, Yanan Cao

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Baidu Inc.（百度公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 V-ITI通过视觉推理时间干预框架，有效缓解多模态大语言模型中的视觉相关幻觉问题，同时保持任务性能。

SELF: A Robust Singular Value and Eigenvalue Approach for LLM Fingerprinting

SELF：一种用于LLM指纹识别的鲁棒奇异值和特征值方法

Hanxiu Zhang, Yue Zheng

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SELF通过奇异值和特征值分解LLM注意力权重，提出一种鲁棒的指纹识别方法，有效抵御虚假声明和权重操纵，提升知识产权保护能力。

SLO-aware GPU Frequency Scaling for Energy Efficient LLM Inference Serving

具有SLO意识的GPU频率缩放用于能源高效的LLM推理服务

Andreas Kosmas Kakolyris, Dimosthenis Masouros, Petros Vavaroutsos, Sotirios Xydis, Dimitrios Soudris

机构 * ETH Zürich（苏黎世联邦理工学院） ； National Technical University of Athens（雅典国家技术大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 throttLL'eM通过预测KV缓存使用和批处理大小，利用机器学习模型减少GPU频率和实例规模，从而在满足SLOs的前提下降低LLM推理的能耗达43.8%并提升能效1.71倍。

FFTrainer: Fast Failover in Large-Language Model Training with Almost-Free State Management

FFTrainer: 大语言模型训练中的近免费状态管理快速故障转移

Bohan Zhao, Yuanhong Wang, Chenglin Liu, Jiagi Pan, Guang Yang, Ruitao Liu, Tingrui Zhang, Kai Luo, Wei Xu

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 FFTrainer通过利用多余网络容量实现快速故障转移，显著减少恢复时间和GPU利用率损失，提升大语言模型训练的效率和稳定性。

LLM-Guided Material Inference for 3D Point Clouds

基于大语言模型的3D点云材料推断

Nafiseh Izadyar, Teseo Schneider

机构 * University of Victoria（维多利亚大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出基于大语言模型的3D点云材料推断方法，通过两阶段推理实现材料属性推断，验证了语言模型在连接几何推理与材料理解中的作用。

MindGPT-4ov: An Enhanced MLLM via a Multi-Stage Post-Training Paradigm

MindGPT-4ov: 一种通过多阶段训练范式增强的多模态大语言模型

Wei Chen, Chaoqun Du, Feng Gu, Wei He, Qizhen Li, Zide Liu, Xuhao Pan, Chang Ren, Xudong Rao, Chenfeng Wang, Tao Wei, Chengjun Yu, Pengfei Yu, Yufei Zheng, Chunpeng Zhou, Pan Zhou, Xuhan Zhu

机构 * MindGPT-4o Team（MindGPT-4o 团队） ； Li Auto Inc.（利汽车公司） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 MindGPT-4ov通过多阶段训练范式提升多模态大语言模型的性能与泛化能力，实现低成本高效率的训练与部署。

Comments 33 pages, 14 figures

The promising potential of vision language models for the generation of textual weather forecasts

视觉语言模型在生成文本天气预报中的巨大潜力

Edward C. C. Steele, Dinesh Mane, Emilio Monti, Luis Orus, Rebecca Chantrill-Cheyette, Matthew Couch, Kirstine I. Dale, Simon Eaton, Govindarajan Rangarajan, Amir Majlesi, Steven Ramsdale, Michael Sharpe, Craig Smith, Jonathan Smith, Rebecca Yates, Holly Ellis, Charles Ewen

机构 * Met Office（英国气象局） ； Amazon Web Services（亚马逊网络服务） ； University of East Anglia（东安格利亚大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了视觉语言模型在直接生成文本天气预报中的潜力，通过视频编码的格网天气数据提升气象服务的生产效率与创新。

Comments 7 pages, 2 tables

Jupiter: Enhancing LLM Data Analysis Capabilities via Notebook and Inference-Time Value-Guided Search

木星：通过笔记本和推理时的价值引导搜索增强大语言模型的数据分析能力

Shuocheng Li, Yihao Liu, Silin Du, Wenxuan Zeng, Zhe Xu, Mengyu Zhou, Yeye He, Haoyu Dong, Shi Han, Dongmei Zhang

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Jupiter通过将数据分析建模为搜索问题，并结合价值模型和节点访问次数，提升大语言模型在多步推理和工具使用方面的性能。

Comments Accepted to AAAI 2026 (Main Technical Track)

Ensemble Privacy Defense for Knowledge-Intensive LLMs against Membership Inference Attacks

知识密集型大语言模型的集成隐私防御：对抗成员推断攻击

Haowei Fu, Bo Ni, Han Xu, Kunpeng Liu, Dan Lin, Tyler Derr

机构 * Vanderbilt University（范德比大学） ； University of Arizona（亚利桑那大学） ； Clemson University（克莱姆森大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文提出集成隐私防御框架EPD，通过聚合知识注入LLM、基础LLM和专用判断模型的输出，有效降低成员推断攻击的成功率，提升知识密集型大语言模型的隐私安全性。

Structuring Collective Action with LLM-Guided Evolution: From Ill-Structured Problems to Executable Heuristics

利用LLM引导的进化结构化集体行动：从无序问题到可执行启发式方法

Kevin Bradley Dsouza, Graham Alexander Watt, Yuri Leonenko, Juan Moreno-Cruz

机构 * University of Waterloo（滑铁卢大学） ； Royal Bank of Canada（加拿大皇家银行） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 ECHO-MIMIC通过LLM引导的进化搜索，将无序问题转化为可执行的启发式方法，实现集体行动的结构化解决方案。

AdaPower: Specializing World Foundation Models for Predictive Manipulation

AdaPower: 为预测操纵专门化世界基础模型

Yuhang Huang, Shilong Zou, Jiazhao Zhang, Xinwang Liu, Ruizhen Hu, Kai Xu

机构 * National University of Defense Technology（国防科技大学） ； Peking University（北京大学） ； Shenzhen University（深圳大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 AdaPower通过时空测试时间训练和记忆持久性机制，将通用世界基础模型转化为专门模型，提升机器人任务成功率41%

TokenScale: Timely and Accurate Autoscaling for Disaggregated LLM Serving with Token Velocity

TokenScale: 面向解耦大语言模型服务的及时准确自动扩展

Ruiqi Lai, Hongrui Liu, Chengzhi Lu, Zonghao Liu, Siyu Cao, Siyang Shao, Yixin Zhang, Luo Mai, Dmitrii Ustiugov

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 TokenScale通过引入Token Velocity和Convertible Decoders，提升解耦大语言模型服务的性能和效率，减少SLO违规率并降低成本。

Continuous Prompts: LLM-Augmented Pipeline Processing over Unstructured Streams

连续提示：基于大语言模型的流处理管道处理

Shu Chen, Deepti Raghavan, Uğur Çetintemel

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出连续提示框架，通过引入大语言模型的持续推理能力，实现对无结构流的持久语义处理，并通过动态优化提升效率与精度的平衡。

Sponsored Questions and How to Auction Them

赞助问题及如何拍卖它们

Kshipra Bhawalkar, Alexandros Psomas, Di Wang

机构 * Google Research（谷歌研究院） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究如何通过拍卖机制优化赞助建议与广告的交互流程，探讨端到端优化与模块化方法的效率对比。

DeepRule: An Integrated Framework for Automated Business Rule Generation via Deep Predictive Modeling and Hybrid Search Optimization

DeepRule：通过深度预测建模与混合搜索优化的自动化业务规则生成综合框架

Yusen Wu, Xiaotie Deng

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 DeepRule通过深度预测建模与混合搜索优化，实现自动化业务规则生成，提升零售定价与商品组合优化的效率和可解释性。

Context Cascade Compression: Exploring the Upper Limits of Text Compression

上下文级联压缩：探索文本压缩的极限

Fanfan Liu, Haibo Qiu

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 C3通过级联两个不同规模的LLM实现文本压缩，达到高压缩比和高解码准确率。

Globally optimized SVD compression of LLMs via Fermi-function-based rank selection and gauge fixing

通过费米函数基于的秩选择和规范固定实现全局优化的LLM SVD压缩

Roman Rausch, David Jansen, Sukhbinder Singh, Román Orús

机构 * Multiverse Computing（多维计算公司） ； Donostia International Physics Center（Donostia国际物理中心） ； Ikerbasque Foundation for Science（Ikerbasque科学基金会） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出FermiGrad和PivGa两种方法，通过费米函数优化秩选择和规范固定，实现LLM压缩的全局优化。

Comments Prepared for submission to ESANN 2026

RECAP: Transparent Inference-Time Emotion Alignment for Medical Dialogue Systems

RECAP：医疗对话系统中透明的推理时间情感对齐

Adarsh Srinivasan, Jacob Dineen, Muhammad Umar Afzal, Muhammad Uzair Sarfraz, Irbaz B. Riaz, Ben Zhou

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL

AI总结 RECAP通过结构化情感推理提升医疗对话系统的情感响应质量，实现透明和可审计的同理心沟通。

OD-MoE: On-Demand Expert Loading for Cacheless Edge-Distributed MoE Inference

OD-MoE：面向无缓存边缘分布式MoE推断的按需专家加载

Liujianfu Wang, Yuyang Du, Yuchen Pan, Soung Chang Liew, Jiacheng Liu, Kexin Chen

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 OD-MoE通过按需专家加载技术，实现无缓存边缘分布式MoE推断，显著提升内存利用率和推断效率。

Stabilizing Reinforcement Learning with LLMs: Formulation and Practices

通过大语言模型稳定强化学习：公式与实践

Chujie Zheng, Kai Dang, Bowen Yu, Mingze Li, Huiqiang Jiang, Junrong Lin, Yuqiong Liu, Hao Lin, Chencan Wu, Feng Hu, An Yang, Jingren Zhou, Junyang Lin

机构 * Alibaba Inc（阿里巴巴公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过大语言模型稳定强化学习的新方法，揭示了代理目标优化的条件，并通过实验验证了重要性采样校正和Routing Replay在提升训练稳定性中的作用。

Comparing Unsupervised and Supervised Semantic Speech Tokens: A Case Study of Child ASR

对比无监督和有监督的语义语音标记：儿童语音识别的案例研究

Mohan Shi, Natarajan Balaji Shankar, Kaiyuan Zhang, Zilai Wang, Abeer Alwan

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文对比了监督和无监督语义语音标记在儿童语音识别中的性能，发现监督方法在低资源环境下表现更优。

Comments ASRU-AI4CSL

SafePTR: Token-Level Jailbreak Defense in Multimodal LLMs via Prune-then-Restore Mechanism

SafePTR: 通过剪枝-恢复机制实现多模态大语言模型的令牌级 Jailbreak 防御

Beitao Chen, Xinyu Lyu, Lianli Gao, Jingkuan Song, Heng Tao Shen

机构 * Shenzhen Institute for Advanced Study, University of Electronic Science and Technology of China（电子科技大学深圳研究院） ； Southwestern University of Finance and Economics（西南财经大学） ； Engineering Research Center of Intelligent Finance, Ministry of Education（教育部智能金融工程研究中心） ； Tongji University（同济大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 SafePTR 提出一种无需训练的多模态大语言模型防御机制，通过剪枝有害令牌并恢复良性特征，有效提升安全性并保持效率。

Comments Accepted by NeurIPS 2025

AI Agents in Engineering Design: A Multi-Agent Framework for Aesthetic and Aerodynamic Car Design

工程设计中的AI代理：一种用于汽车外观和空气动力学设计的多代理框架

Mohamed Elrefaie, Janet Qian, Raina Wu, Qian Chen, Angela Dai, Faez Ahmed

机构 * Department of Mechanical Engineering, Massachusetts Institute of Technology, Cambridge, MA, USA（麻省理工学院机械工程系） ； Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology, Cambridge, MA, USA（麻省理工学院电气工程与计算机科学系） ； Department of Computer Science, Technical University of Munich, Munich, Germany（慕尼黑技术大学计算机科学系） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出了一种多代理框架，利用AI代理提升汽车设计的美学和空气动力学性能，通过自动化任务加速设计流程。

Test-time Correction: An Online 3D Detection System via Visual Prompting

测试时校正：通过视觉提示的在线3D检测系统

Hanxue Zhang, Zetong Yang, Yanan Sun, Li Chen, Fei Xia, Fatma Güney, Hongyang Li

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai AI Lab（上海人工智能实验室） ； GAC R&D Center（GAC研发中心） ； The University of Hong Kong（香港大学） ； Google（谷歌） ； Koç University（科克大学） 纠错

专题命中 效率与部署 ：prompting(title)

AI总结 本文提出一种通过视觉提示实现在线3D检测的测试时校正系统，旨在提升自动驾驶系统在部署后的实时纠错能力。

The Duality of Generative AI and Reinforcement Learning in Robotics: A Review

生成式人工智能与强化学习在机器人中的双重性：综述

Angelo Moroncelli, Vishal Soni, Marco Forgione, Dario Piga, Blerina Spahiu, Loris Roveda

机构 * SUPSI（瑞士苏黎世联邦理工学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文综述了生成式人工智能与强化学习在机器人中的双重性，探讨了两者的整合方法、挑战及未来研究方向。

Comments Submitted for publication to Information Fusion

Journal ref Information Fusion Volume 129, May 2026, 104003

BookRAG: A Hierarchical Structure-aware Index-based Approach for Retrieval-Augmented Generation on Complex Documents

BookRAG: 一种面向复杂文档的基于层次结构的索引方法用于检索增强生成

Shu Wang, Yingli Zhou, Yixiang Fang

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 BookRAG通过构建层次化索引结构，提升复杂文档在问答任务中的检索与生成性能。