arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Apple(苹果)

2026-04-17 至 2026-04-17 共收录 4
2604.14198 2026-04-17 cs.LG cs.AI cs.CL

MixAtlas: Uncertainty-aware Data Mixture Optimization for Multimodal LLM Midtraining

MixAtlas: 多模态大语言模型中训练过程中的数据混合优化方法

Bingbing Wen, Sirajul Salekin, Feiyang Kang, Bill Howe, Lucy Lu Wang, Javier Movellan, Manjot Bilkhu

机构 * Apple(苹果公司) University of Washington(华盛顿大学) Virginia Tech(弗吉尼亚理工学院)

AI总结 MixAtlas通过双轴分解训练语料,结合小代理模型与高斯过程代理,优化多模态大语言模型的训练混合策略,提升性能和泛化能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.14191 2026-04-17 cs.CL cs.LG

Attention to Mamba: A Recipe for Cross-Architecture Distillation

对Mamba的注意力:一种跨架构蒸馏的配方

Abhinav Moudgil, Ningyuan Huang, Eeshan Gunesh Dhekane, Pau Rodríguez, Luca Zappella, Federico Danieli

机构 * Apple(苹果公司) MILA Research Institute(MILA研究机构) Flat Iron Institute(Flat Iron研究所)

AI总结 本文提出一种两阶段方法,通过将Transformer知识蒸馏到线性化的注意力模型,再蒸馏到无注意力块的Mamba模型,从而在下游任务中保持Pythia-1B的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.13592 2026-04-17 cs.CL

Foresight Optimization for Strategic Reasoning in Large Language Models

为大语言模型中的战略推理进行前瞻性优化

Jiashuo Wang, Jiawen Duan, Jian Wang, Kaitao Song, Chunpu Xu, Johnny K. W. Ho, Fenggang Yu, Wenjie Li, Johan F. Hoorn

机构 * Department of Computing, Hong Kong Polytechnic University(香港理工大学计算机系) Department of Language Science and Technology, Hong Kong Polytechnic University(香港理工大学语言科学与技术系) Apple(苹果公司) School of Design, Hong Kong Polytechnic University(香港理工大学设计学院) Research Institute for Quantum Technology, Hong Kong Polytechnic University(香港理工大学量子技术研究所) Department of Communication Science, Vrije Universiteit Amsterdam(阿姆斯特丹自由大学传播科学系)

AI总结 本文提出FoPO方法,通过整合对手建模原理提升大语言模型的战略推理能力,验证了其在不同规模和来源的LLM中的有效性及泛化能力。

Comments ACL 2026 Main Conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.18294 2026-04-17 cs.AI

The Validity Gap in Health AI Evaluation: A Cross-Sectional Analysis of Benchmark Composition

健康AI评估中的有效性缺口:基准组成的横断面分析

Alvin Rajkomar, Pavan Sudarshan, Angela Lai, Lily Peng

机构 * Apple(苹果公司)

AI总结 研究指出当前健康AI基准测试在临床需求与实际应用间存在有效性缺口,缺乏真实临床数据和脆弱群体代表,需建立标准化查询分析以提升评估准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏