语言大模型 / LLM

Imprint: Online Memory Compression for Long-Horizon Egocentric QA

Imprint: 面向长程自我中心问答的在线记忆压缩

Kousik Das, Debaditya Roy

机构 * IIT, Kharagpur（印度理工学院卡哈拉格普尔分校） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出交互中心记忆框架Imprint，将长程自我中心记忆建模为在线压缩问题，利用人类记忆巩固信号选择性保留和压缩交互，在7天基准上提升QA准确率并大幅降低存储和检索开销。

Distill to Detect: Exposing Stealth Biases in LLMs through Cartridge Distillation

蒸馏检测：通过弹药筒蒸馏揭露大语言模型中的隐蔽偏见

Shayan Talaei, Abhinav Chinta, Devvrit Khatri, Amin Karbasi, Azalia Mirhoseini, Amin Saberi

机构 * Stanford University（斯坦福大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Foundation AI–Cisco Systems Inc.（Foundation AI–思科系统公司） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出Distill to Detect (D2D)方法，通过蒸馏模型与基座之间的分布偏移到KV缓存前缀适配器中，放大隐蔽偏见信号至可检测程度，并基于Fisher加权投影理论解释其有效性。

Comments Accepted to the ICML 2026 Workshops on TAIGR, AI4GOOD, Mechanistic Interpretability, and CoLoRAI

ERA: Entropy-Guided Visual Token Pruning with Rectified Attention for Efficient MLLMs

ERA：基于熵引导的视觉令牌剪枝与修正注意力机制的高效多模态大语言模型

Yuhao Wang, Mu Qiao, Haiwen Diao, Yunzhi Zhuge, Pingping Zhang, Xindong Zhang, Lei Zhang, Huchuan Lu

机构 * School of Future Technology, Dalian University of Technology（大连理工大学未来技术学院） ； S-Lab, Nanyang Technological University（南洋理工大学S-Lab） ； OPPO Research Institute（OPPO研究院） ； Department of Computing, The Hong Kong Polytechnic University（香港理工大学计算机系） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出ERA框架，通过熵引导的视觉令牌剪枝和修正注意力机制，解决令牌减少导致的注意力对数坍塌问题，实现高效多模态大语言模型推理加速。

Comments 17 pages, 7 figures

MS-Resampler: Multi-Scope Visual Resampling for Efficient Multimodal LLMs

MS-Resampler: 用于高效多模态大语言模型的多范围视觉重采样

Zhongyang Li, Yaqian Li, Faming Fang, Rinyoichi Takezoe, Zi-Hao Bo, Cheng Qian, Mo Guang, Guixu Zhang, Kaiwen Long

机构 * Li Auto Inc.（理想汽车） ； East China Normal University（华东师范大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出MS-Resampler，通过多范围视觉重采样框架，注入显式空间范围先验，使模型在固定令牌预算内同时捕获局部细节和全局上下文，提升多模态理解与推理。

Incentivizing Data Trading via Profit Reallocation

通过利润再分配激励数据交易

Yunxuan Ma, Wu Xin, Jichen Li, Hongyin Chen, Xiaoqi Dong, Yusen Zheng, Yukun Cheng, Xiaotie Deng

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 针对数据交易中缺乏经济激励的问题，提出基于链式交易模型和利润再分配机制，通过算法计算序贯均衡，理论证明和实验表明该机制能扩大交易量并提升社会福利。

ViQ: Text-Aligned Visual Quantized Representations at Any Resolution

ViQ: 任意分辨率下的文本对齐视觉量化表示

Xumin Yu, Zuyan Liu, Zhenyu Yang, Yuhao Dong, Shengsheng Qian, Jiwen Lu, Han Hu, Yongming Rao

机构 * Tencent HY Vision Team（腾讯HY视觉团队） ； Tsinghua University（清华大学） ； Nanyang Technological University（南洋理工大学） ； Chinese Academy of Sciences（中国科学院） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；language model(abstract)

AI总结 提出ViQ框架，通过文本对齐预训练和特征离散化两阶段量化学习，平衡离散表示中的语义与细节，支持原生分辨率输入，在多模态任务中取得与连续高维特征编码器相当的性能，并实现20%-70%的训练加速。

Comments Accepted to ECCV 2026

SpikeVLA: Vision-Language-Action Models with Spiking Neural Networks

SpikeVLA：基于脉冲神经网络的视觉-语言-动作模型

Ruiqi Song, Dujun Nie, Siyu Teng, Baiyong Ding, Xiaotong Zhang, Dong Li, Chenming Zhang, Yuchen Li, Hangbin Wu, Long Chen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出SpikeVLA，一种脉冲VLA架构，通过事件驱动稀疏计算降低能耗，在导航和机器人控制任务中保持竞争力，适用于低功耗实时具身智能。

Comments Accepted by ICML 2026. 16 pages, 9 figures

Journal ref Proceedings of the 43rd International Conference on Machine Learning, 2026

Microparticles manipulation with a three-dimensional closed optical trap

利用三维封闭光阱操控微粒

Chunyu Zhang, Xinran Fang, Pengcheng Mao, Dongxu Zhao

专题命中 效率与部署 ：SLM(abstract,abstract_cn)

AI总结 提出一种无需空间光调制器的三维封闭光阱系统，通过腔内模式调制和腔外透镜调制生成零中心强度的暗势阱，实现单/多微粒稳定捕获及低功率下小鼠肝细胞捕获，降低光毒性并灵活调节尺寸。

Comments 20 pages,6 figures

Hierarchical Partial-Order Models for Ranking

用于排序的层次偏序模型

Dongqing Li, Geoff K. Nicholls, Jeong Eun Lee, Chuxuan, Jiang

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出层次偏序（HPO）模型，通过潜在偏序层次结构处理分组排序数据，扩展了基于偏序的模型，并在预测性能和结构可解释性上优于现有方法。

Comments 34 pages, 13 figures, 8 tables, 33 pages of appendices

Speculation at a Distance: Where Edge-Cloud Speculative Decoding Actually Pays Off

远距离推测：边缘-云推测解码何时真正有效

Yuan Lyu, Bharath Irukulapati, Jaya Prakash Champati

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 本文通过闭式不等式分析分布式推测解码（DSD）在广域网边缘-云通信下的延迟收益，指出其仅在低RTT场景下优于共置SD，并发现多租户容量是DSD的主要优势。

Explainable AI for Next-Generation Wireless Physical Layer: Basics, State-of-the-Art, and Open Challenges

下一代无线物理层的可解释人工智能：基础、最新进展与开放挑战

Bingnan Xiao, Shuyan Hu, Xiaojing Chen, Zhiyuan Zhai, Bingcong Li, Wei Ni, Xin Wang, Ekram Hossain

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 本文综述了无线物理层中可解释人工智能（XAI）的应用，提出了面向责任的目标，建立了系统分类法，并讨论了可解释性-性能权衡等开放挑战。

Comments 30 pages, 11 figures

Latent Visual States for Efficient Multimodal Reasoning

用于高效多模态推理的潜在视觉状态

Xiuwei Chen, Wentao Hu, Yongxin Wang, Zisheng Chen, Likui Zhang, Kun Xiang, Jianhua Han, Hui-Ling Zhen, Jingyuan Zou, Hang Xu, Xiaodan Liang

机构 * Sun Yat-sen University（中山大学） ； The Hong Kong Polytechnic University（香港理工大学） ； MBZUAI（穆罕默德·本·扎耶德人工智能大学） ； Huawei Noah’s Ark Lab（华为诺亚方舟实验室） ； Yinwang Intelligent Technology Co. Ltd（银旺智能科技有限公司） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)

AI总结 提出EVA框架，通过生成连续潜在视觉表示（Latent_slot tokens）作为中间推理思考，并设计D-GSPO解决优化策略偏差，构建EVA-230K数据集，在多个基准上提升性能与推理效率。

STAR-VAE: Structured Topology-Aware Regularization for Audio Reconstruction and Generation

STAR-VAE: 结构化拓扑感知正则化用于音频重建与生成

Huadai Liu, Wen Wang, Kaicheng Luo, Qian Chen, Xiangang Li, Wei Xue

机构 * Hong Kong University of Science（香港科学大学） ； Tongyi Fun Team, Alibaba Group（通义Fun团队，阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 针对连续VAE在压缩率、重建保真度和潜在空间拓扑之间的三难困境，提出结构化拓扑感知正则化（STAR），通过增长约束场重塑潜在空间几何，实现音频的高保真重建与生成。

Comments ICML 2026

LiveServe: Interaction-Aware Serving for Real-Time Omni-Modal LLMs

LiveServe：面向实时全模态大语言模型的交互感知服务系统

Xiangyu Zhi, Peiqi Yin, Sheng Guan, Chenguang Zheng, James Cheng, Xiao Yan

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出交互感知服务系统LiveServe，通过感知播放进度、语音活动和打断事件，优化调度与KV缓存管理，降低音频延迟并提升吞吐量。

OmniSpace: Efficient Geometry Awareness for Autonomous Vehicles MLLMs

OmniSpace: 自动驾驶多模态大语言模型的高效几何感知

Hao Vo, Phu Loc Nguyen, Khoa Vo, Sieu Tran, Duc Minh Nguyen, Ngo Xuan Cuong, Nghi D. Q. Bui, Anh Nguyen, Duy Minh Ho Nguyen, Ngan Le

机构 * University of Arkansas（阿肯色大学） ； Google Research, Google（谷歌研究院） ； University of Liverpool（利物浦大学） ； Max Planck Research School for Intelligent Systems（马克斯·普朗克智能系统研究所） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出OmniSpace，一种即插即用的几何感知范式，通过相机位姿注入器、多视图极线注意力模块和3D几何蒸馏目标，从纯2D观测中提升MLLM的空间推理能力，在多个自动驾驶基准上超越现有方法。

ASAP: A Disaggregated and Asynchronous Inference System for MoE Prefill

ASAP: 一种用于MoE预填充的去中心化和异步推理系统

Weiwei Chen, Shuang Chen, Lele Li, Qiang Hu, Han Li, Xin Ye, Ming Yan, Zhibin Yu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对MoE模型混合并行策略中的同步瓶颈，提出ASAP系统，通过解耦注意力与MoE阶段并实现全异步执行流水线，结合异步通信原语和调度优化，将SLO合规的预填充吞吐量提升90%。

Towards Error-Free Long Video Generation

迈向无错误的长视频生成

Shuning Chang, Weihua Chen, Jiasheng Tang, Hao Xu, Zeyu Zhang, Hangjie Yuan, Yu Lu, Ruigang Niu, Fan Wang, Bohan Zhuang, Yi Yang

机构 * Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出一种基于扩散模型的长视频生成框架，通过因果注意力、KV缓存和截断修正流技术解决误差累积和属性漂移问题，实现高质量、身份一致的单镜头长视频合成。

LEViL: Label-Efficient Video Learning via Zero-Shot Distillation over VLM-Generated Pseudo-Label Spaces

LEViL: 通过VLM生成的伪标签空间上的零样本蒸馏实现标签高效视频学习

Aslı Çelik

机构 * Kocaeli University（科贾埃利大学） 纠错

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)

AI总结 提出一种无需标注的视频预训练与目标标签集感知微调结合的标签高效视频学习框架，利用VLM生成伪标签空间进行零样本蒸馏，在有限标签下优于半监督方法。

Restart and Adaptive Acceleration in Stochastic Gradient Methods

随机梯度方法中的重启与自适应加速

Ali Elhishi, Chistophe Roux, Alexandre d'Aspremont

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对满足Kurdyka-Łojasiewicz不等式的非光滑弱凸随机优化问题，提出重启策略以利用KŁ不等式实现加速收敛，并证明其对参数误设具有鲁棒性。

Stellar: Scalable Multimodal Document Retrieval for Natural Language Queries

Stellar：面向自然语言查询的可扩展多模态文档检索

Yuxiang Guo, Zhonghao Hu, Yuren Mao, Yuhang Liu, Congcong Ge, Xiaolu Zhang, Jun Zhou, Yunjun Gao

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出Stellar框架，通过磁盘存储令牌级文档嵌入并动态加载候选嵌入，结合词汇表示过滤和高效磁盘支持的后交互，在保持检索效果的同时将内存开销和查询延迟降低1-2个数量级。

SpatialSV: Internalizing Interpretable 3D Spatial Awareness in MLLMs via Task-Oriented Visual Supervision

SpatialSV: 通过任务导向的视觉监督在多模态大语言模型中内化可解释的3D空间感知

Jiayu Tang, Yuchen Zhou, Chao Gou

机构 * School of Intelligent Systems Engineering, Sun Yat-sen University（中山大学智能工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出SpatialSV框架，通过任务导向的视觉监督将MLLM的2D特征提升为显式3D表示（深度图、相机姿态、点云），实现可解释的3D空间感知内化，无需外部工具，并在半监督设置中展现强泛化能力。

Comments Accepted by IJCAI 2026

ViCoStream: Streaming VideoLLMs Can Run Beyond 100 FPS with Stage-Wise Coordinated Inference

ViCoStream: 流式视频大模型通过阶段协调推理可运行超过100 FPS

Yang Tan, Junlong Tong, Linan Yue, Hao Wu, Pengfei Fang, Xiaoyu Shen

机构 * Southeast University（东南大学） ； Eastern Institute of Technology, Ningbo（宁波东方理工大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出ViCoStream框架，通过阶段协调的流水线（分块执行、CUDA流重叠、视觉令牌控制、有界视觉注意力、查询端检索）实现流式视频大模型的高吞吐低延迟推理，在单A100上达到134 FPS视频吞吐和<50 ms首令牌延迟，精度接近全历史基线。

Comments 19 pages, 7 figures, 13 tables

Language-Instructed Vision Embeddings for Controllable and Generalizable Perception

语言引导的视觉嵌入用于可控且可泛化的感知

Chengzhi Mao, Xudong Lin, Wen-Sheng Chu

机构 * Google（谷歌） 纠错

专题命中 效率与部署 ：language model(abstract)；foundation model(abstract)

AI总结 提出语言引导视觉嵌入（LIVE）方法，利用语言动态引导视觉编码器生成任务中心嵌入，无需任务特定重训练，减少视觉幻觉并提升泛化能力。

Journal ref Published as a conference paper at ICLR 2026

TurboServe: Serving Streaming Video Generation Efficiently and Economically

TurboServe: 高效经济地服务流式视频生成

Youhe Jiang, Haoxu Wang, Haotong Bao, Kai Jiang, Jianfei Chen, Jun Zhu, Fangcheng Fu, Jintao Zhang

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 针对流式视频生成的会话时长和用户需求异构性，提出TurboServe系统，通过在线调度联合优化会话放置与GPU配置，采用迁移感知放置和负载驱动自动缩放，降低延迟和成本。

One-Step Token-to-Waveform Generation with MeanFlow in Latent Space

基于潜在空间中MeanFlow的一步式Token到波形生成

Zheqi Dai, Guangyan Zhang, Zhen Ye, Jingyu Li, Haolin He, Chunyat Wu, Yiwen Guo, Qiuqiang Kong

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出MeanFlow在高度压缩潜在空间中实现一步式Token2Wav生成，解决多步流匹配解码器的速度-质量权衡，RTF提升17倍且质量损失可忽略。

Comments 5 pages, 1 figure

MLLMs Get It Right, Then Get It Wrong: Tracing and Correcting Late-Layer Textual Bias

MLLMs 先正确后错误：追踪并纠正后层文本偏见

Xingming Li, Ao Cheng, Qiyao Sun, Xixiang He, Xuanyu Ji, Runke Huang, Qingyong Hu

机构 * National University of Defense Technology（国防科技大学） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Intelligent Game and Decision Lab（智能博弈与决策实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 发现多模态大语言模型在中间层形成正确视觉预测，但最终输出时被文本覆盖，通过检测预测方向变化（85%失败转向文本，89%成功转向视觉）提出无训练方法CALRD，在冲突基准上提升高达9.4%。

Comments Accepted at IJCAI 2026. 16 pages, 10 figures

ITME: Inference Tiered Memory Expansion with Disaggregated CXL-Hybrid Memories

ITME：基于解耦CXL混合内存的分层推理内存扩展

Hakbeom Jang, Younghoon Min, Sunwoong Kim, Taeyoung Ahn, Hanyee Kim, Youngpyo Joo, Hoshik Kim, Jongryool Kim

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对大语言模型推理中TB级上下文状态的内存瓶颈，提出ITME架构，利用CXL混合内存实现字节可寻址的远程内存扩展，通过确定性访问模式优化数据移动，提升吞吐量达35.7%。

CoeusBI: A Comprehensive Interactive Business Intelligence System Powered by LLMs at Baidu [Extended Version]

CoeusBI：百度基于大语言模型的全面交互式商业智能系统 [扩展版]

Jinqing Lian, Chaofan Li, Yingxia Shao, Ming Wang, Yang Dong, Xinyi Liu, Wei Zhang, Chaoxian Gui, Tianqi Wan, Ming Dong

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 CoeusBI提出双智能体架构与分层模式链接，通过视图生成智能体自动简化JOIN查询、分层检索处理宽模式、动态路由智能体优化多轮对话，在公共和生产数据集上显著提升查询准确率、令牌效率与用户满意度，已部署于百度平台服务数千用户。

Comments Accepted by VLDB 2026

Solyx AI Grid: Hardware-Telemetry-Aware Routing Across Geographically Distributed GPU Clusters

Solyx AI Grid：跨地理分布式GPU集群的硬件遥测感知路由

Aleks Bernhard, Nithin Katla

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出Solyx AI Grid，一种结合GPU硬件遥测、vLLM应用指标和WAN信号的多站点推理路由控制平面，通过10信号加权压力评分器实现每请求放置决策，在实验中吞吐量提升1.56-1.75倍，能力错配泄漏降至0.43%，故障重路由p99延迟降低至1247ms。

Comments 15 pages, 9 tables

Steering Autoregressive Vision-Language-Action Policies via Action Token Intervention

通过动作令牌干预引导自回归视觉-语言-动作策略

Jason Chan, Jonathan C. Kao

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 效率与部署 ：language model(abstract)；foundation model(abstract)

AI总结 提出Token Steering方法，在推理时通过干预动作令牌空间动态引导VLA模型轨迹生成，无需训练或微调，显著提升家务操作任务成功率。

Comments 9 pages, 5 figures