ICML

BanditSpec: Adaptive Speculative Decoding via Bandit Algorithms

BanditSpec: 通过多臂老虎机算法实现自适应推测解码

Yunlong Hou, Fengzhuo Zhang, Cunxiao Du, Xuan Zhang, Jiachun Pan, Tianyu Pang, Chao Du, Vincent Y. F. Tan, Zhuoran Yang

机构 * National University of Singapore（国立新加坡大学） ； Sea AI Lab（Sea人工智能实验室） ； Singapore Management University（新加坡管理学院） ； Yale University（耶鲁大学） 纠错

AI总结 BanditSpec通过多臂老虎机算法实现自适应推测解码，优化超参数选择以提升LLM推理效率。

Comments 35 pages, 4 figures, accepted to ICML, typos and affiliations are corrected

HGCN2SP: Hierarchical Graph Convolutional Network for Two-Stage Stochastic Programming

HGCN2SP：用于两阶段随机规划的层次图卷积网络

Yang Wu, Yifan Zhang, Zhenxing Liang, Jian Cheng

机构 * Institute of Automation, Chinese Academy of Sciences, Beijing, China（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, China（中国科学院大学人工智能学院） ； University of Chinese Academy of Sciences, Nanjing, Nanjing, China（中国科学院大学南京校区） 纠错

AI总结 HGCN2SP通过层次图卷积网络和强化学习方法，高效解决两阶段随机规划问题，提升求解速度与泛化能力。

Comments 17 pages, 4 figures

Journal ref Proceedings of the 41st International Conference on Machine Learning, PMLR 235:53999-54014, 2024