The Expressive Limits of Diagonal SSMs for State-Tracking
对状态跟踪任务中对角复值DCD SSMs表达能力的限制
机构 * McGill University(麦吉尔大学) ; Mila – Quebec AI Institute(魁北克AI研究所) ; Polytechnique Montréal(蒙特利尔大学)
AI总结 本文研究了对角复值DCD SSMs在状态跟踪任务中的表达能力,证明了其在有限精度下无法表达非阿贝尔群的状态跟踪,并揭示了表达能力与可学习性之间的差距。
Comments 18 pages, 5 figures, 4 tables. Accepted at ICLR 2026