Muon$^p$: Muon with Fractional Spectral Powers
Muon$^p$: 具有分数谱幂的 Muon
机构 * Princeton University（普林斯顿大学）
AI总结 提出 Muon$^p$ 优化器，通过分数谱幂更新 $US^pV^\top$ 插值 Muon 与梯度下降，证明其无法用单变量多项式迭代计算，并推导低阶双变量递归近似，在保持矩阵乘法结构的同时提升微调性能。
高校专区
Princeton University（普林斯顿大学）
SuperThoughts: Reasoning Tokens in Superposition
SuperThoughts: 叠加中的推理令牌
机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Microsoft Research（微软研究院） ； Independent（独立机构） ； Princeton University（普林斯顿大学） ； Rice University（莱斯大学）
AI总结 提出SuperThoughts方法，通过将连续CoT令牌对压缩为单一潜在表示并利用多令牌预测模块解码，在保持训练监督的同时将推理吞吐量翻倍，实现约20-30%的CoT长度缩减且精度损失极小。
