Unmasking On-Policy Distillation: Where It Helps, Where It Hurts, and Why
揭示在线策略蒸馏：它何时有益，何时有害，以及原因
机构 * Apple（苹果公司）
AI总结 研究探讨在线策略蒸馏在不同场景下的有效性，提出基于梯度对齐度的诊断方法，发现蒸馏信号在学生表现不佳时更有效，且最优上下文依赖学生模型能力和任务需求。
大厂专区
Apple（苹果）
Locking Pretrained Weights via Deep Low-Rank Residual Distillation
通过深度低秩残差蒸馏锁定预训练权重
机构 * Apple（苹果公司）
AI总结 本文提出DLR-Lock方法，通过将预训练MLP替换为深度低秩残差网络，利用反向传播中的推理-训练不对称性，有效防御对抗性适应攻击，同时保持模型原始能力。
DynaMiCS: Fine-tuning LLMs with Performance Constraints using Dynamic Mixtures
DynaMiCS: 通过动态混合实现具有性能约束的LLM微调
机构 * Apple（苹果公司）
AI总结 本文提出DynaMiCS，通过动态混合优化解决多领域微调中目标领域性能提升与约束领域性能保持的矛盾，实现更高效且更稳定的模型优化。
Scaling Categorical Flow Maps
扩展分类流映射
机构 * Apple, University of Oxford（苹果公司，牛津大学）
AI总结 本文提出大规模分类流映射模型，通过自蒸馏生成高质量文本，同时引入半离散设置下的似然界，提升语言模型性能。
Comments Minor style changes
Annotations Mitigate Post-Training Mode Collapse
标注缓解训练后模式崩溃
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Apple（苹果公司） ； Johannes Kepler University Linz（林茨约翰尼斯·开普勒大学）
AI总结 本文提出标注锚定训练方法，通过在预训练中引入语义标注，减少训练后模型的语义模式崩溃，提升模型多样性。
Comments 21 pages, 8 figures, 11 tables. Accepted at ICML 2026
Do multimodal models imagine electric sheep?
多模态模型是否想象出电羊？
机构 * Apple（苹果公司）
AI总结 研究发现多模态模型在解决空间谜题时会形成心理图像，通过微调Qwen3.5 VLM解决多种视觉推理任务，发现动作序列预测能提升解谜准确率，尤其在需要空间推理的任务中效果显著。
A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models
单个神经元足以绕过大型语言模型的安全对齐
机构 * Apple（苹果公司） ； University of Maryland, College Park（马里兰大学 College Park 分校）
AI总结 研究通过针对单个神经元展示安全对齐的两种失效方向，证明在不训练或提示工程的情况下，通过抑制或放大特定神经元可绕过安全对齐。
PersonaTeaming: Supporting Persona-Driven Red-Teaming for Generative AI
PersonaTeaming: 支持基于人设的生成AI红队测试
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Apple（苹果公司）
AI总结 本文提出PersonaTeaming方法，通过整合人设提升红队测试的自动化与人机协作能力，实验显示其在攻击成功率和提示多样性方面优于现有方法，并通过用户界面促进人机协同创新。
HyperTransport: Amortized Conditioning of T2I Generative Models
HyperTransport：T2I生成模型的 amortized 条件控制
机构 * Apple（苹果公司）
AI总结 HyperTransport 通过超网络框架实现对T2I生成模型的amortized条件控制，结合连续可解释强度控制和跨模态条件，提升模型可控性与效率，验证结果在多个测试概念上优于传统方法。
