Shanghai Jiao Tong University（上海交通大学）

Task-State Adaptation with Prototype Memory for Multi-Task Dense Prediction

面向多任务密集预测的原型记忆任务-状态自适应

Yangyang Xu, Haobo Yuan, Yuzhu Wang, Duo Su, Xi Ye, Yibo Yang, Jun Zhu

机构 * Tsinghua University（清华大学） ； University of California, Merced（加州大学默塞德分校） ； Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 提出MemMTL多任务密集预测框架，结合原型记忆与稀疏路由，在NYUD-v2等数据集上评估其预测质量、计算成本及各模块贡献。

Comments Preprint

HyQuant: Hybrid-Precision Quantization for LLM Attention

HyQuant：面向大语言模型注意力机制的混合精度量化方法

Jiatong Ding, Bingxin Xing, Yu Zhang, Dian Ding, Xiaodong Yi, Xianbin Ouyang, Feihu Zhou, Kun Zhang, Zhenyu Guo, Hao Pan, Guangtao Xue, Yiming Zhang

机构 * Xiamen University（厦门大学） ； Tencent Penglai Lab（腾讯蓬莱实验室） ； Shanghai Jiao Tong University（上海交通大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

AI总结 HyQuant是一种面向LLM注意力的混合精度量化框架，通过保留关键区域高精度、量化其余部分，在各类任务上实现近乎无损精度，提升效率。