arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2403.15416cs.LGcs.AImath.OC
收藏

二阶优化中的模糊超参数更新

Fuzzy hyperparameters update in a second order optimization

LogicWizard EURL(逻辑巫师有限责任公司);School of Computing(计算机学院);University of Leeds(利兹大学)

Abdelaziz Bensadok, Muhammad Zeeshan Babar

AI总结:

本研究提出一种混合方法,通过在线有限差分近似对角 Hessian 矩阵并结合模糊推理更新超参数,有效加速了二阶优化的收敛并取得竞争力结果。

摘要:

本研究将提出一种加速二阶优化收敛的混合方法。将引入对角 Hessian 矩阵的在线有限差分近似,以及对几个超参数的模糊推理。已取得了具有竞争力的结果。

英文摘要:

This research will present a hybrid approach to accelerate convergence in a second order optimization. An online finite difference approximation of the diagonal Hessian matrix will be introduced, along with fuzzy inferencing of several hyperparameters. Competitive results have been achieved

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑