University of Michigan（密歇根大学安娜堡分校）

mHC-lite: You Don't Need 20 Sinkhorn-Knopp Iterations

mHC-lite: 你不需要20次Sinkhorn-Knopp迭代

Yongyi Yang, Jianyang Gao

机构 * CSE, University of Michigan, Ann Arbor, USA（计算机科学与工程系，密歇根大学，安娜堡，美国） ； CCDS, Nanyang Technological University, Singapore（计算机科学与数据科学系，南洋理工大学，新加坡） ； CBS-NTT Physics of Intelligence Program, Harvard University, Cambridge, USA（哈佛大学剑桥分校人工智能物理计划） ； Physics of Artificial Intelligence Group, NTT Research Inc, USA（人工智能物理研究组，NTT研究公司，美国） 纠错

AI总结 mHC-lite通过构造双随机矩阵消除残差不稳定性，实现更高训练吞吐量。