Selective Rotary Position Embedding
选择性旋转位置嵌入
机构 * ELLIS Institute Tübingen(图宾根埃利斯研究所) ; LIONS, EPFL(日内瓦理工学院LIONS实验室) ; University of Freiburg(弗赖堡大学) ; Max-Planck-Institute for Intelligent Systems(智能系统马克斯·普朗克研究所) ; Prior Labs(Prior实验室)
AI总结 本文提出选择性RoPE,一种输入依赖的旋转嵌入机制,适用于线性和softmax变压器,通过任意角度旋转提升语言建模和复杂序列任务性能。
Comments ICLR 2026