On the Origin of Algorithmic Progress in AI
人工智能算法进步的起源
机构 * MIT(麻省理工学院) ; CSAIL(计算机科学与人工智能实验室) ; Olin College(奥林工程学院)
AI总结 研究发现算法效率增益与计算规模相关,通过实验和文献估计,人工智能算法在2012-2023年间效率提升达6930倍,其中LSTM到Transformer的转变贡献最大。
高校专区
人工智能算法进步的起源
机构 * MIT(麻省理工学院) ; CSAIL(计算机科学与人工智能实验室) ; Olin College(奥林工程学院)
AI总结 研究发现算法效率增益与计算规模相关,通过实验和文献估计,人工智能算法在2012-2023年间效率提升达6930倍,其中LSTM到Transformer的转变贡献最大。
在总变分距离下估计Ising模型
机构 * EECS Department MIT(MIT电子工程与计算机科学系) ; Data Science Institute Columbia University(哥伦比亚大学数据科学研究所)
AI总结 本文提出了一种统一分析框架,针对两种通用的Ising模型类,展示了最大伪似然估计量在总变分距离下的多项式时间算法及最优样本复杂性保证。
从风险学习:利用先验知识的LLM引导的安全关键场景生成
机构 * Chinese Academy of Sciences, China(中国科学院) ; Department of Urban Studies and Planning, Massachusetts Institute of Technology, USA(麻省理工学院城市研究与规划系) ; School of Vehicle and Mobility, Tsinghua University, China(清华大学车辆与移动系统学院)
AI总结 本文提出利用LLM和CVAE生成安全关键场景的方法,通过知识驱动优化提升自动驾驶系统在罕见高风险事件下的鲁棒性与可控性。
Comments 24 pages, 6 figures
Video-R4:通过视觉沉思强化文本丰富的视频推理
机构 * University of Rochester(罗切斯特大学) ; Sony Group Corporation(索尼集团) ; MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室)
AI总结 Video-R4通过视觉沉思机制提升文本丰富视频的推理能力,采用多阶段学习框架实现像素基础的多模态推理。
动作分块与探索性数据收集在连续控制行为克隆中的指数性改进
机构 * MIT(麻省理工学院)
AI总结 本文通过动作分块和探索性数据收集方法,在连续控制行为克隆中实现误差指数级减少,揭示了控制理论稳定性对模仿学习性能的关键作用。
Comments Updated manuscript. New visualization figures and control-theory primer
物理约束的流匹配:带有硬约束的采样生成模型
机构 * Massachusetts Institute of Technology(麻省理工学院)
AI总结 物理约束的流匹配通过强制执行任意非线性约束,提高生成模型在物理系统中的约束满足能力。
Comments 36 pages, 9 figures, 8 tables, Accepted to NeurIPS 2025