语言大模型 / LLM

Attention-Free and Lightweight Token Reduction for Efficient Vision-Language Models

用于高效视觉语言模型的无注意力轻量级令牌约简

Xuanyi Hao, Zuoyuan Zhang, Zhibo Wang, Xiaoyi Pang, Jiahui Hu, Jiacheng Du, Shuguo Zhuo

机构 * Zhejiang University（浙江大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 针对视觉语言模型在边缘设备部署难的问题，提出无注意力轻量级令牌约简框架，通过基于熵的准则估计令牌重要性，引入一致性信号确保视觉覆盖，经实验验证该框架在精度和效率权衡上表现出色。

Comments This work has been submitted to the IEEE for possible publication

FM-Receiver: A Foundation Model Enabled Unified Inner and Outer Neural Receiver Towards AI-Native Wireless Communications

FM-接收机：一种基于基础模型的统一内外部神经接收机，迈向人工智能原生无线通信

Tianyue Zheng, Chao Jiang, Linglong Dai

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 针对多数神经接收机内外接收机未联合优化的问题，提出基于基础模型的FM-Receiver，利用分组纠错码Transformer实现符号级信道解码，集成内外接收机，并设计预训练策略，提升泛化能力，在不同配置下性能优于基线且有零样本泛化能力。

Artificial Foveated Perception for Mitigating Shortcut Learning in Robotic Foundation Models

用于减轻机器人基础模型中捷径学习的人工中央凹感知

Xiatao Sun, Yuan Zhuang, Mateo Sanchez Lopez Negrete, Matei-Victor Coldea, Chen Liang, Haoyang Zhang, Che Liu, Ziyao Zeng, Shawn Li, Qian Wang, Fei Miao, Daniel Rakita

机构 * Yale University（耶鲁大学） ； University of Connecticut（康涅狄格大学） ； Peking University（北京大学） ； Imperial College London（帝国理工学院） ； Digients 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 研究机器人基础模型因捷径学习难以稳健部署的问题，提出人工中央凹感知模块AFP，通过预测任务条件掩码辅助微调，使策略关注任务相关区域，实验证明其能减少微调时间、抑制过拟合并提升泛化能力。

SherAgent: Scaling Attack Investigation in the Wild via LLM-Empowered Iterative Query-Filter Backtracking

SherAgent：通过大语言模型赋能的迭代查询-过滤回溯在野外扩展攻击调查

Zhenyuan Li, Zhengkai Wang, Ling Jiang, Xiangmin Shen, Ruixiao Lin, Sen Nie, Shi Wu, Shouling Ji

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 研究针对野外攻击调查中依赖爆炸和因果链碎片化问题。提出SherAgent系统，基于大语言模型，采用迭代“查询-过滤”回溯范式处理非结构化数据，克服相关问题。相比传统方法，提高调查成功率，且运行高效，减轻专家分析负担。

MOSAIC: Adaptive Inter-layer Composition for Efficient Heterogeneous Vision-Language Models

MOSAIC：用于高效异构视觉语言模型的自适应层间组合

Yuncheng Yang, Feiyang Ye, Shixian Luo, Yinna Zhu, Lianlei Shan, Wangcai Zhao, Kuo Zhang, Yan Chen, Yong Wu, Yan Xie

机构 * LiAuto Inc.（理想汽车公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究针对视觉语言模型中异构结构依赖手工静态混合模式的问题，提出硬件感知搜索方法MOSAIC，通过多目标混合整数规划确定最优配置，并引入两阶段参数恢复过程，提升了模型推理效率且降低训练成本。

Comments 17 pages, 7 figures

SiFAR: Synchronization-Free All-Reduce for Low-Latency LLM Inference

SiFAR：用于低延迟大语言模型推理的无同步全规约算法

Hritvik Taneja, Anish Saxena, Abhishek Revinipati, Jae Hyung Ju, Neal C. Crago, Moinuddin Qureshi

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 研究针对大语言模型推理中令牌生成延迟瓶颈，提出无同步全规约算法SiFAR。通过消除一次性算法写后写依赖、利用交换机片上规约等方法，减少全规约延迟，提升端到端吞吐量，在特定条件下取得显著性能提升。

OPSD-V: On-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators

OPSD-V：用于训练后少步自回归视频生成器的策略内自蒸馏

Hongyu Liu, Chun Wang, Feng Gao, Xuanhua He, Yue Ma, Ziyu Wan, Yong Zhang, Xiaoming Wei, Qifeng Chen

机构 * Meituan（美团） ； HKUST（香港科技大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：post-training(title,abstract)

AI总结 研究针对训练后少步自回归视频生成器存在的问题，提出OPSD-V策略内自蒸馏范式。通过引入真实长视频数据提供监督，学生和教师模型按特定方式运行，应用该范式于相关模型后，实验及用户研究表明其在多方面有改进且更受青睐。

Comments Project page: https://meigen-ai.github.io/OPSD-V ; Code: https://github.com/MeiGen-AI/OPSD-V

InfraQR: Edge-Placed QR-Inspired Structured Patch Attacks on Infrared Vision-Language Models

InfraQR：对红外视觉语言模型的边缘放置的受QR码启发的结构化补丁攻击

Xin Li, Jiaju Han, Ma Yaqi, Chengyin Hu, Yingying Zhao, Jiahuan Long, Fengyu Zhang, Yahui Chai

机构 * China University of Petroleum-Beijing at Karamay（中国石油大学（北京）克拉玛依校区） ； Guizhou University（贵州大学） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究红外视觉语言模型对局部结构化扰动的鲁棒性，提出InfraQR攻击方法，沿图像边界放置结构化补丁并通过替代编码器优化网格单元，实验表明该方法能大幅降低分类器准确率，使对抗图像影响黑盒模型，凸显模型易受此类扰动影响。

AVA-VLM: Adaptive Visual Attention-Vision Language Model for In-the-Wild Construction Site Monitoring

AVA-VLM：用于野外建筑工地监测的自适应视觉注意力视觉语言模型

Younggun Kim, Taeheon Kim, Youngseo Kim, Seunghee Park

机构 * University of California, Los Angeles（加利福尼亚大学洛杉矶分校） ； AI+KCIR Global Resilience Research Center（人工智能与韩国气候变化影响韧性研究中心） ； SmartInside AI Co., Ltd.（思玛特因赛德人工智能有限公司） ； Sungkyunkwan University（成均馆大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 针对野外建筑工地监测，提出AVA-VLM自适应视觉注意力视觉语言模型，遵循粗到细推理策略，先对低分辨率全局图像推理，按需请求高分辨率局部裁剪，并引入区域感知思维链数据集，提升了低分辨率下的可靠性并减少视觉令牌使用。

SAMBA: A Scatter-Guided Masked Bidirectional Mamba Foundation Model for SAR Target Recognition

SAMBA：一种散射引导的掩码双向Mamba基础模型用于SAR目标识别

Ke Wang, Xiaoyi Pan, Zhaoyu Gu, Xiaofeng Ai, Zhiming Xu, Feng Zhao, Shunping Xiao

机构 * College of Electronic Science and Technology, National University of Defense Technology（国防科技大学电子科学学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 提出SAMBA模型，通过线性复杂度Mamba编码器、散射引导掩码策略和SpatialMix模块，解决SAR目标识别中标注数据稀缺和计算复杂度高的问题，在多个下游任务上达到SOTA性能。

Comments 15 pages, 5figures

Bridging the Semantic Gap in 6G: Tiny Language Models Under the Latency-Accuracy-Size Trilemma

弥合6G中的语义鸿沟：延迟-精度-大小三难困境下的微型语言模型

Arnav Mathur, Garima Mathur, Rahul Jashvantbhai Pandya

专题命中 效率与部署 ：language model(title,abstract)

AI总结 探讨6G语义通信中，深度学习语义编码器与受限物联网及边缘设备需求的矛盾。介绍微型语言模型，从理论基础、分类、模型压缩技术及资源分配框架等方面阐述，指出其能弥合差距及面临的挑战。

Comments 21 pages, 7 figures

GeoSAM-Lite: A Lightweight Foundation Model for Onboard Remote Sensing Segmentation

GeoSAM-Lite：用于机载遥感分割的轻量级基础模型

Yongcong Wang, Jie Zhang, Rui Jiang, Xubing Yang, Ting Yun, Li Zhang

机构 * College of Information Science and Technology & Artificial Intelligence, Nanjing Forestry University（南京林业大学信息科学技术学院 & 人工智能学院） ； College of Telecommunications and Information Engineering, Nanjing University of Posts and Telecommunications（南京邮电大学通信与信息工程学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 针对资源受限平台部署大规模基础模型的挑战，提出GeoSAM-Lite，采用领域感知预训练和特征融合层，在减少参数的同时保持竞争力，为边缘设备实时分割提供实用方案。

Comments 5 pages

CoRe: Combined Rewards with Vision-Language Model Feedback for Preference-Aligned Reinforcement Learning

CoRe: 结合视觉语言模型反馈的复合奖励用于偏好对齐强化学习

Hexian Ni, Tao Lu, Yinghao Cai

专题命中 效率与部署 ：language model(title,abstract)

AI总结 提出CoRe框架，将奖励分解为基于任务知识的正式奖励和从观察中学习的残差奖励，利用视觉语言模型迭代优化奖励，实现无需人工的偏好对齐，在机器人操作任务中优于现有方法。

Comments ICML 2026

ROSA: A Robotics Foundation Model Serving System for Robot Factories

ROSA: 面向机器人工厂的基础模型服务系统

Wenqi Jiang, Jason Clemons, Rowland O'Flaherty, Hugo Hadfield, Alperen Degirmenci, Shuran Song, Yashraj Narang, Christos Kozyrakis

机构 * NVIDIA Research（英伟达研究院） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 提出ROSA系统，通过共享GPU池服务、多模型流水线支持和工厂目标驱动调度，将机器人工厂的RFM推理性能提升12倍以上。

EPO: Boosting 3D Foundation Models with Edge-based Pose Optimization

EPO：基于边缘位姿优化的3D基础模型增强

Mattia D'Urso, Christian Sormann, Mattia Rossi, Friedrich Fraundorfer

机构 * Graz University of Technology（格拉茨技术大学） ； Sony Europe（索尼欧洲） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 提出EPO，一种无跟踪的几何优化框架，通过边缘图对齐替代特征提取和轨迹构建，提升3D基础模型的SfM重建精度，在降低运行时和内存的同时匹配或超越束调整方法。

Comments Accepted at ECCV 2026

Personalized Object Identification and Localization via In-Context Inference with Vision-Language Models

通过视觉语言模型的上下文推理实现个性化物体识别与定位

Kensuke Nakamura, Byung-Woo Hong

机构 * Artificial Intelligence Department, Chung-Ang University（中央大学人工智能系） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 提出个性化物体识别与定位（POIL）任务，并设计IPLoc-ID算法，通过自问自答机制在拒绝无目标图像的同时保持定位性能。

Closed-loop coupling of personalised and foundation models for real-time treatment guidance with MRI

个性化模型与基础模型的闭环耦合用于MRI实时治疗引导

James Grover, Emily A. Hewson, Andrew Phair, Michael Ferraro, Hilary L. Byrne, Paul Keall, Michael G. Jameson, David E. J. Waddington

机构 * Image X Institute, Sydney School of Health Sciences, Faculty of Medicine and Health, The University of Sydney, Sydney, Australia（悉尼大学医学与健康学院悉尼健康科学学院Image X研究所，悉尼，澳大利亚） ； GenesisCare, Sydney, Australia（GenesisCare，悉尼，澳大利亚） ； School of Clinical Medicine, Medicine & Health, University of New South Wales, Sydney, Australia（新南威尔士大学医学与健康学院临床医学系，悉尼，澳大利亚） ； Centre for Medical Radiation Physics, School of Mathematics and Physics, University of Wollongong, Wollongong, Australia（伍伦贡大学数学与物理学院医学辐射物理中心，伍伦贡，澳大利亚） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 提出一种闭环耦合框架，结合个性化时间预测模型与基础模型的连续分割解剖解释，实时补偿MRI引导治疗中的成像延迟，在400毫秒预测范围内改善解剖预测并减少剂量误差。

Comments 18 pages, 8 figures, 2 supplementary figures

MVPruner: Dynamic Token Pruning for Accelerating Multi-view Vision-Language Models in Autonomous Driving

MVPruner: 用于加速自动驾驶中多视图视觉语言模型的动态令牌剪枝

Nan Yang, Zhanwen Liu, Linfeng Zhang, Shangyu Xie, Yang Wang, Wenzhuo Zhou, Xiangmo Zhao

机构 * School of Information Engineering, Chang’an University, China（长安大学信息工程学院） ； School of Artificial Intelligence, Shanghai Jiaotong University, China（上海交通大学人工智能学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 提出MVPruner，一种两阶段自适应令牌剪枝方法，通过动态分配剪枝预算和基于指令的令牌选择，在保持精度的同时大幅降低计算量，实现多视图视觉语言模型的高效推理。

Comments accepted by ECCV26

Toward Low-Latency Vision-Language Models with Doubly-Correct Predictions in Egocentric Visual Understanding

面向低延迟视觉语言模型：在自我中心视觉理解中实现双重正确预测

Qitong Wang, Fan Du, Pranav Maneriker, Jihui Jin, Christopher Rasmussen

机构 * Dolby Laboratories, Inc.（杜比实验室公司） ； University of Delaware（特拉华大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 针对人机协作中低延迟需求，提出基于双重正确预测的剪枝策略，在保持证据定位的同时提升预测准确性，在自我中心视频数据集上实现最高精度与双重正确性。

Comments International Conference on Intelligent Robots and Systems (IROS) 2026

CAAD: Contrastive Audio-Aware Distillation for Efficient Speech Language Models

CAAD：对比音频感知蒸馏用于高效语音语言模型

Chun-Wei Chen, Tzu-Quan Lin, Ke-Han Lu, Wei-Ping Huang, Hung-Yi Lee

专题命中 效率与部署 ：language model(title,abstract)

AI总结 提出对比音频感知蒸馏（CAAD）框架，通过同步教师强制策略将教师模型的对比推理内化到学生模型权重中，在Dynamic-SUPERB上相对提升约8%，并减少语言偏倚。

Comments Accepted to interspeech 2026

Black-Box Continual Learning for Vision-Language Models

视觉语言模型的黑盒持续学习

Yuting Li, Weihang Fang, Haoyuan Gao, Linghe Kong, Yexin Li, Lichao Sun, Weiran Huang

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 提出黑盒持续学习基准Black-CL，仅通过输出嵌入或logits进行学习，并设计BETA方法，通过优化文本原型实现与白盒方法相当的性能。

ConsisFormer: Compute-Efficient Transformer for Wireless Foundation Models Based on Channel Consistency

ConsisFormer: 基于信道一致性的无线基础模型高效计算Transformer

Yuwei Wang, Li Sun, Tingting Yang, Liwen Jing, Yuxuan Shi, Maged Elkashlan, Mérouane Debbah

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 提出ConsisFormer，利用无线信道短时一致性，通过自适应令牌聚合和特征序列插值降低Transformer计算复杂度，在多种任务上减少83%以上计算量且性能损失极小。

Constraining to Generalize: Subspace Tuning for Few-shot Generalization of Audio-Language Models

约束泛化：音频-语言模型少样本泛化的子空间微调

Jaehyuk Jang, Kangwook Ko, Wonjun Lee, Changick Kim

机构 * KAIST（韩国科学技术院） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 针对音频-语言模型少样本微调导致的基类-新类权衡问题，提出子空间微调（SubT），通过结构化子空间参数化和残差锚定约束文本嵌入漂移，并利用子空间感知门控抑制负迁移，在11个音频基准上实现高效强泛化。

Tangram: Hiding GPU Heterogeneity for Efficient LLM Parallelization

Tangram: 隐藏GPU异构性以实现高效的大语言模型并行化

Yanda Tao, Pedro F. Silvestre, Marcel Wagenländer, Peter Pietzuch

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 提出Tangram系统，通过将并行化规划与GPU异构性解耦，利用同构GPU岛和模型切片组合成工作平衡流水线，实现现有异构不可知并行化器在异构集群中的高效使用，训练吞吐量提升高达2.3倍。

The Vision Encoder as a Privacy Boundary: Visual-Token Side Channels in Encoder-Free Vision-Language Models

视觉编码器作为隐私边界：无编码器视觉-语言模型中的视觉令牌侧信道

Chenyu Zhou, Qiliang Jiang, Shuning Wu, Xu Zhou

机构 * School of Engineering, Institute of Science Tokyo（东京科学大学工学院） ； College of Control Science and Engineering, Zhejiang University（浙江大学控制科学与工程学院） ； Department of Electrical and Computer Engineering, National University of Singapore（新加坡国立大学电气与计算机工程系） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究无编码器视觉-语言模型中视觉令牌侧信道导致的隐私泄露问题，通过解码器攻击从中间视觉令牌恢复图像和文本，发现空间采样保真度是关键因素，并指出KV缓存也存在泄露风险。

Real-Time Language Model Jamming: A Case Study for Live Music Accompaniment Generation

实时语言模型阻塞：现场音乐伴奏生成的案例研究

Bowen Zheng, Andrew H. Yang, Jiaqi Ruan, Jia He, Xinyue Li, Yuan-Hsin Chen, Ziyu Wang, Xiaosong Ma

机构 * MBZUAI（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 提出StreamMUSE系统，在客户端-服务器架构中实现帧同步流式推理，通过现场音乐伴奏任务验证了不同延迟环境下实时同步的有效性。

Comments Accepted to RTAS 2026. 14 pages, 5 figures, 3 tables

Spectral Allocation: Why Muon Outperforms Adam, and How to Improve Muon

频谱分配：为何Muon优于Adam，以及如何改进Muon

Xiaodong Wu, Wenyi Yu, Chao Zhang, Philip Woodland

机构 * University of Cambridge（剑桥大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 本文通过频谱分析揭示Muon优于Adam的机制，提出SAMuon及其简化版SAMuon-lite，在多规模modded-nanogpt模型上，二者均优于AdamW和Muon，且SAMuon可减少13.3%-24.0%训练令牌。

Comments 34 pages, 13 figures, 7 tables

DIAG: Diagnostic Iterative Alignment and Generation for Data-Efficient Mathematical Preference Distillation

DIAG：面向数据高效数学偏好蒸馏的诊断式迭代对齐与生成

Guhan Chen, Songtao Tian, Bohan Li, Hejin Wang, YeXin Xie, Zixiong Yu

机构 * Tsinghua University（清华大学） ； Kyoto University（京都大学） ； Nanjing University（南京大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；preference optimization(abstract)；分类 cs.CL

AI总结 DIAG是一种自适应调整训练分布的框架，通过诊断偏好对产出与生成针对性训练数据，提升数学推理任务中偏好监督的信息价值，在同等训练预算下增强模型性能。

Comments Accepted by EMNLP 2026 findings

Asymmetric Capacity Allocation in Self-Refinement Pipelines

自精化流水线中的非对称容量分配

Zhuoyi Yang, Ian G. Harris, Salar Hashemitaheri, Cassie Huang, Yuangang Li, Hyunwoo Oh, Paul Dourish, Tony Givargis, Mohsen Imani, Li Zhang

机构 * Drexel University（德雷塞尔大学） ； University of California Irvine（加州大学欧文分校） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)；分类 cs.LG

AI总结 本研究针对自精化流水线开展分阶段模型规模研究，发现生成、修订阶段需更大模型，批判阶段对规模不敏感，为多阶段语言模型系统的非对称容量分配提供了实用指导。

Open-Vocabulary 3D Object Detection with Co-Distillation Discovery and Dual Guidance Robust Training

基于协同蒸馏发现与双引导鲁棒训练的开放词汇三维目标检测

Shangbo Yuan, Jie Xu, Xiaofeng Zhu, Na Zhao

机构 * School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院） ； Singapore University of Technology and Design（新加坡科技设计大学） ； School of Computer Science and Technology, Hainan University（海南大学计算机科学与技术学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；foundation model(abstract)；分类 cs.AI

AI总结 本研究提出含协同蒸馏发现与双引导训练的开放词汇3D目标检测框架，在SUN RGB-D等数据集上性能优于现有最优方法。

Comments Accepted by ECCV26