多模态大模型

MODE: Modality-Decomposed Expert-Level Mixed-Precision Quantization for MoE Multimodal LLMs

MODE: 面向MoE多模态大语言模型的模态分解专家级混合精度量化

Yuanteng Chen, Nanxin Zeng, Peisong Wang, Zhilei Liu, Yuantian Shao, Shiqiang Lang, Tao Liu, Chuangyi Li, Qinghao Hu, Gang Li, Jing Liu, Jian Cheng

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 其他多模态 ：multimodal(title,abstract)；cross-modal(abstract)；分类 cs.AI

AI总结 针对MoE多模态大语言模型在专家重要性估计中存在的跨模态和视觉内偏差，提出模态分解的专家级混合精度量化框架MODE，通过分解选择频率、过滤冗余视觉令牌并评估模态敏感性，在给定预算下分配比特宽度，在W3A16下平均性能损失控制在2.9%以内。

Comments 19 pages, 8 figures

RAVE: Re-Allocating Visual Attention in Large Multimodal Models

RAVE: 重新分配大型多模态模型中的视觉注意力

Xi Leng, Xinhong Ma, Ziqiang Dong, Feng Zhang, Xiaoying Tang, Yang Yang, Guanjun Jiang

机构 * Qwen Business Unit of Alibaba（阿里巴巴文勤业务部） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 其他多模态 ：multimodal(title,abstract)；cross-modal(abstract)；分类 cs.CV

AI总结 针对大型多模态模型中标准注意力机制存在的跨模态误分配和视觉内不平衡问题，提出轻量级成对门控机制RAVE，通过学习查询-键偏置重新分配视觉注意力，在多个多模态基准上平均提升3个百分点，尤其对感知密集型任务效果显著。

Hierarchical MoE for Multi-Modal ILD Diagnosis

用于多模态间质性肺疾病诊断的分层混合专家模型

Alec K. Peltekian, Gorkem Durak, Halil Ertugrul Aktas, Carrie Lynn Richardson, Mary Carns, Kathleen Aren, GR Scott Budinger, Anthony J. Esposito, Alexander Misharin, Alok Nidhi Choudhary, Ankit Agrawal, Ulas Bagci

机构 * Northwestern University（西北大学） ； Northwestern University Feinberg School of Medicine（西北大学费恩伯格医学院） ； Simpson Querrey Lung Institute for Translational Science（辛普森奎雷转化科学肺研究所） 纠错

专题命中 其他多模态 ：multi-modal(title)；multimodal(abstract)；分类 cs.CV、cs.AI

AI总结 本研究提出分层多模态MoE模型，融合预训练影像专家与EHR，在ILD分类患者级交叉验证中AUC达0.8750±0.0443，优于REN和SwinUNETR，且提升了可解释性。

Comments 11 pages, 2 figures

Resolving Multi-Modal Regression by Difference-Quotient-Based Clustering:Fast Coarse Conditional-Label Assignment

基于差商聚类的多模态回归解决方法：快速粗粒度条件标签分配

Huang Weiquan

机构 * Guangdong Polytechnic Normal University（广东技术师范大学） 纠错

专题命中 其他多模态 ：multi-modal(title)；multimodal(abstract)

AI总结 针对多模态回归的均值崩溃问题，提出差商聚类（DQC）方法，通过最小化簇内差异分配标签，在合成基准上取得优于随机标签和均值崩溃的最小平方误差，为后续生成优化减轻负担。

Evidence for Quartet Binding of Valence Neutrons in $^8$He

^8He价中子四体重合的证据

Young-Ho Song, Yuan-Zhuo Ma, Dean Lee

专题命中 其他多模态 ：multimodal(abstract)

AI总结 本研究通过Daejeon16无芯壳模型计算的分波分析和密度累积量，证实^8He的四个价中子存在四体重合，其结合源于^1S_0配对与^3P_2吸引的协同作用。

Comments 15 pages, 4 figures

Bayesian Optimization for Self-Driving Materials Laboratories: From Algorithms to Physics-Informed Workflows

面向自主材料实验室的贝叶斯优化：从算法到物理信息驱动的工作流程

Yuki K. Wakabayashi, Takuma Otsuka

专题命中 其他多模态 ：multimodal(abstract)

AI总结 该综述针对材料自主实验室的实际挑战，介绍贝叶斯优化算法及物理信息驱动的贝叶斯优化，总结其在多类材料领域的应用成果，并展望其未来发展方向。

Multi-Touch and Bending Sensing Using Electrical Impedance Tomography for Robotics

面向机器人的基于电阻抗断层成像（EIT）的多点触控与弯曲感知

Haofeng Chen, Bedrich Himmel, Bin Li, Xiaojie Wang, Matej Hoffmann

机构 * Department of Cybernetics, Faculty of Electrical Engineering, Czech Technical University in Prague（捷克技术大学布拉格分校电子学系） ； Institute of Intelligent Machines, Hefei Institutes of Physical Science, Chinese Academy of Sciences（合肥物理科学研究院智能机器研究所） 纠错

专题命中 其他多模态 ：multimodal(abstract)

AI总结 本文针对机器人EIT触觉传感器弯曲时信号解读复杂的问题，提出集成深度神经网络与动态自适应参考策略的感知框架，实现了精准的弯曲角度估计与触控状态区分，为柔性EIT机器人皮肤奠定基础。