Xiaomi（小米）

Semantic Head Specialization Guides Hybrid ViT Attention for Multimodal LLMs

语义头专业化指导多模态大语言模型的混合视觉Transformer注意力机制

Chenhong He, Lei Li, Shicheng Li, Hanglong Lv, Lingpeng Kong, Qi Liu, Tong Yang, Shuhuai Ren

机构 * Peking University（北京大学） ； Xiaomi Corporation（小米公司） ； The University of Hong Kong（香港大学） 纠错

AI总结 该研究针对多模态LLM中混合ViT注意力设计不足的问题，提出语义头专业化（SHS）概念，据此设计Ariadne注意力机制，在22项图像视频任务上性能与全注意力相当，计算量降低6.5倍。

PersonaForge: Realistic Multi-Turn User Simulation for Agentic Systems

PersonaForge：面向智能体系统的逼真多轮用户模拟

Hanglong Lv, Dawei Zhu, Lei Li, Bowen Ye, Huaqiu Liu, Yifan Song, Bofei Gao, Weimin Xiong, Jinhao Dong, Chenhong He, Lingpeng Kong, Qi Liu, Tong Yang, Fuli Luo

机构 * Peking University（北京大学） ； Xiaomi（小米） ； The University of Hong Kong（香港大学） ； Renmin University of China（中国人民大学） 纠错

AI总结 该研究针对现有智能体系统训练评估中多轮用户交互数据不足的问题，提出PersonaForge模拟框架构建相关数据集与基准，实验证实其可提升智能体交互效率与任务表现。