A Simple, Optimal and Efficient Algorithm for Online Exp-Concave Optimization
一个简单、最优且高效的在线指数凹优化算法
AI总结 本文提出LightONS算法,通过优化计算步骤,将在线指数凹优化的运行时间从O~(d^ω T)降至O(d²T + d^ω√(T log T)),并保持最优遗憾,解决了随机指数凹优化中的开放问题。
Comments COLT 2026
作者
Machine Learning
一个简单、最优且高效的在线指数凹优化算法
AI总结 本文提出LightONS算法,通过优化计算步骤,将在线指数凹优化的运行时间从O~(d^ω T)降至O(d²T + d^ω√(T log T)),并保持最优遗憾,解决了随机指数凹优化中的开放问题。
Comments COLT 2026
非线性带式赌博机
机构 * School of Mathematics, Nanjing University(南京大学数学系) ; School of Artificial Intelligence, Nanjing University, National Key Laboratory for Novel Software Technology(南京大学人工智能学院,计算机软件新技术国家重点实验室) ; School of Mathematics and Physics, Xi’an Jiaotong-Liverpool University(西交利物浦大学数理学院)
AI总结 研究重尾噪声下广义线性带式赌博机问题,基于在线镜像下降方法提出算法EHM,实现几乎最优遗憾值且无需常用参数,还研究了上下文特征分段常数时的情况及非线性带式赌博机特殊情况,给出相应算法并证明遗憾上界。
TreeLoRA:通过层级梯度相似性树引导的逐层LoRA实现高效持续学习
AI总结 提出TreeLoRA方法,利用层级梯度相似性构建逐层适配器,结合bandit技术高效探索任务结构,并通过稀疏梯度更新优化参数,实现大预训练模型的高效持续学习。
Comments ICML 2025