LLMSurgeon: Diagnosing Data Mixture of Large Language Models
LLMSurgeon: 诊断大型语言模型的数据混合
机构 * VILA Lab, MBZUAI(VILA实验室,MBZUAI) ; UCL
AI总结 提出LLMSurgeon框架,通过逆问题方法从目标LLM生成文本中估计预训练语料的领域分布,实现无需训练数据的后验审计。
Comments ACL 2026 Main. Code at https://github.com/Yaxin9Luo/LLMSurgeon