Huazhong University of Science and Technology（华中科技大学）

Analyzing the Mechanism of Attention Collapse in VGGT from a Dynamics Perspective

从动力学角度分析VGGT中注意力崩溃的机制

Huan Li, Longjun Luo, Yuling Shi, Xiaodong Gu

机构 * Huazhong University of Science and Technology（华中科技大学） ； Guangdong University of Technology（广东工业大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 VGGT中注意力崩溃现象从动力学角度进行数学解释，揭示token特征流收敛规律及token合并方法对延迟崩溃的作用。

Comments 8 pages, 4 figures

Online Convex Optimization with Memory and Limited Predictions

具有记忆和有限预测的在线凸优化

Zhengmiao Wang, Zhi-Wei Liu, Ming Chi, Xiaoling Wang, Housheng Su, Lintao Ye

机构 * School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（人工智能与自动化学院，华中科技大学） ； College of Automation and College of Artificial Intelligence, Nanjing University of Posts and Telecommunications（自动化学院和人工智能学院，南京邮电大学） 纠错

AI总结 本文提出了一种具有记忆和有限预测的在线凸优化算法，通过截断高斯平滑技术实现指数衰减的动态遗憾，并在一般凸优化中达到线性收敛速度。

Comments 35 pages, 3 figures