MixMin: Finding Data Mixtures via Convex Minimization
MixMin: 通过凸优化寻找数据混合
机构 * University of Toronto(多伦多大学) ; Vector Institute(向量研究所) ; Stanford University(斯坦福大学)
AI总结 MixMin通过凸优化方法改进数据混合,提升了语言模型和化学任务的性能,且在不同规模模型上均有效。
Comments Proceedings of the 42nd International Conference on Machine Learning