SAS: Simulated Attention Score
SAS: 模拟注意力分数
机构 * Morgan Stanley(摩根大通) ; Stanford(斯坦福大学) ; Microsoft Research(微软研究院) ; NUS(新加坡国立大学) ; UT Austin(得克萨斯大学奥斯汀分校) ; HKU(香港大学)
AI总结 SAS通过模拟更多注意力头和特征维度,以低成本提升模型性能,同时保持参数效率。
Comments Tech Report
高校专区
SAS: 模拟注意力分数
机构 * Morgan Stanley(摩根大通) ; Stanford(斯坦福大学) ; Microsoft Research(微软研究院) ; NUS(新加坡国立大学) ; UT Austin(得克萨斯大学奥斯汀分校) ; HKU(香港大学)
AI总结 SAS通过模拟更多注意力头和特征维度,以低成本提升模型性能,同时保持参数效率。
Comments Tech Report
强对偶性与双上升方法在连续时间机会约束随机最优控制中的应用
机构 * Walker Department of Mechanical Engineering, University of Texas at Austin(德克萨斯大学奥斯汀分校机械工程系)
AI总结 本文提出了一种基于强对偶性的方法,用于求解连续时间机会约束随机最优控制问题,通过路径积分方法和梯度上升解决对偶问题,并验证了其在移动机器人导航中的有效性。
Comments arXiv admin note: substantial text overlap with arXiv:2504.17154