Anytime Pretraining: Horizon-Free Learning-Rate Schedules with Weight Averaging
任意时间预训练:无时间范围的学习率调度与权重平均
机构 * Harvard University(哈佛大学) ; Kempner Institute at Harvard University(哈佛大学凯默纳研究所)
AI总结 本研究提出了一种无需时间范围的学习率调度方法,通过权重平均实现与余弦调度相当的预训练效果。
高校专区
任意时间预训练:无时间范围的学习率调度与权重平均
机构 * Harvard University(哈佛大学) ; Kempner Institute at Harvard University(哈佛大学凯默纳研究所)
AI总结 本研究提出了一种无需时间范围的学习率调度方法,通过权重平均实现与余弦调度相当的预训练效果。
超越裁剪与轮换:利用生成模型自动化进化强大任务特定增强方法
机构 * Columbia University, New York, NY(哥伦比亚大学) ; University of Washington, Seattle, WA(华盛顿大学) ; Harvard University, Cambridge, MA(哈佛大学)
AI总结 本文提出EvoAug,利用生成模型和进化算法自动化学习任务特定增强方法,提升模型鲁棒性和性能。
加速自动驾驶中的结构化链式推理
机构 * NVIDIA ; University of Southern California(南加州大学) ; Harvard University(哈佛大学) ; Stanford University(斯坦福大学)
AI总结 FastDriveCoT通过并行解码方法加速自动驾驶中的结构化链式推理,实现3-4倍的生成速度提升和端到端延迟的显著降低,同时保持推理效果。
通过误差最小化重新映射和导航嵌入空间:认知在自然和人工系统中的基本组织原则
机构 * Allen Discovery Center at Tufts University(塔夫茨大学阿伦发现中心) ; Wyss Institute for Biologically Inspired Engineering at Harvard University(哈佛大学生物启发工程研究所)
AI总结 通过误差最小化重新映射和导航嵌入空间,揭示认知在自然和人工系统中的基本组织原则。
Comments 41 pages, 5 figures
DDTracking: 一种用于扩散磁共振成像束追踪的深度生成框架,结合流线局部-全局时空建模
机构 * University of Electronic Science and Technology of China(电子科技大学) ; Nanjing University of Science and Technology(南京理工大学) ; Brigham and Women’s Hospital(布里奇沃特医院) ; Harvard Medical School(哈佛医学院)
AI总结 DDTracking通过深度生成框架结合局部-全局时空建模,实现更精确的扩散磁共振成像束追踪。
Comments Preprint version. The content may be updated in the future
MedFrameQA: 一个多图像医学视觉问答基准用于临床推理
机构 * University of Pennsylvania(宾夕法尼亚大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; UC Santa Cruz(加州大学圣克鲁兹分校) ; Harvard University(哈佛大学) ; UC Berkeley(加州大学伯克利分校) ; Emory University(埃默里大学) ; UC San Francisco(旧金山加州大学)
AI总结 MedFrameQA是一个多图像医学视觉问答基准,旨在评估多图像医学推理能力,揭示现有模型在处理复杂医学叙述时的不足。
Comments 27 pages, 15 Figures Benchmark data: https://huggingface.co/datasets/SuhaoYu1020/MedFrameQA