QUEST: A robust attention formulation using query-modulated spherical attention
QUEST: 一种使用查询调节球面注意力的鲁棒注意力方法
机构 * Linköping University(林雪平大学) ; Qualcomm Auto Ltd Sweden Filial(高通汽车瑞典分公司)
AI总结 本文提出QUEST,通过将键约束在超球面潜在空间中,提升注意力机制的稳定性与鲁棒性,适用于视觉及其他领域,实现训练稳定性和性能提升。
Comments Accepted to ICLR 2026