IBM

Efficient Quantization of Mixture-of-Experts with Theoretical Generalization Guarantees

高效混合专家模型的量化方法及其理论泛化保证

Mohammed Nowaz Rabbani Chowdhury, Kaoutar El Maghraoui, Hsinyu Tsai, Naigang Wang, Geoffrey W. Burr, Liu Liu, Meng Wang

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） ； IBM Research（IBM研究院） 纠错

AI总结 本文提出基于专家路由L2范数变化的混合精度量化策略，提升大模型推理精度与效率，减少内存开销。

Journal ref The Fourteenth International Conference on Learning Representations, 2026

Visual prompting reimagined: The power of the Activation Prompts

视觉提示重新想象：激活提示的威力

Yihua Zhang, Hongkang Li, Yuguang Yao, Aochuan Chen, Shuai Zhang, Pin-Yu Chen, Meng Wang, Sijia Liu

机构 * Michigan State University（密歇根州立大学） ； University of Pennsylvania（宾夕法尼亚大学） ； New Jersey Institute of Technology（新泽西理工学院） ； IBM Research（IBM研究院） ； Rensselaer Polytechnic Institute（伦斯勒理工学院） 纠错

AI总结 本文提出激活提示（AP）以改进视觉提示（VP），通过在中间层激活图上引入通用扰动，揭示VP在性能和效率上的固有局限，并在29个数据集上验证AP在准确性和效率上的优势。

Comments AISTATS 2026

How to Embed Matters: Evaluation of EO Embedding Design Choices

如何嵌入至关重要：EO嵌入设计选择的评估

Luis Gilch, Isabelle Wittmann, Maximilian Nitsche, Johannes Jakubik, Arne Ewald, Thomas Brunschwiler

机构 * IBM Germany（IBM德国） ； IBM Research – Europe（IBM欧洲研究院） ； NORDAKADEMIE Germany（德国北方学院） 纠错

AI总结 本文评估了EO工作流中嵌入设计对性能和可扩展性的影响，通过系统分析发现Transformer架构与均值池化提供强默认嵌入，中间ResNet层表现更优，自监督目标具有任务特异性优势。

Fast Spatial Memory with Elastic Test-Time Training

快速空间记忆与弹性测试时间训练

Ziqiao Ma, Xueyang Yu, Haoyu Zhen, Yuncong Yang, Joyce Chai, Chuang Gan

机构 * MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室） ； University of Michigan（密歇根大学） ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） 纠错

AI总结 本文提出弹性测试时间训练方法，用于改进长上下文3D重建中的灾难性遗忘问题，通过引入弹性权重巩固，提升模型在处理任意长序列时的稳定性和适应性。

Comments Project Page: https://fast-spatial-memory.github.io/