arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Massachusetts Institute of Technology(麻省理工学院)

共收录 2219
2608.17896 2026-08-19 cs.LG 新提交

Dynamic Compression in Recurrent Networks

循环网络中的动态压缩

Jyothish Pari, Ryan Bahlous-Boldi, Pulkit Agrawal

机构 * Massachusetts Institute of Technology(麻省理工学院)

AI总结 该研究提出动态压缩方法,允许循环模型选择性重访过去标记以修正固定状态,在少样本函数复用任务中,其所需循环状态更小、扩展性更优,实现了计算与内存的有效权衡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.17271 2026-08-19 cs.AI 新提交

ASI-Bench: At the Dawn of Artificial Superintelligence

ASI-Bench:人工智能超级智能的黎明

Junwei Zhou, Zhen Sun, Binyu Li, Jiangyu Zhou, Yuexi Pan, Hengyu Wang, Honghe Ren, Xiaohan Jia, Xueyang Zhou, Xiaoyu Cao, Yongchao Chen, Yuanning Feng, Junhao Wu, Cheng Zhang, Sijia Chen, Haoyu Xue, Chengsong You, Huan Wang, Koutian Wu, Peigan Gao, Jiakun Wu, Wenzhe Li, Ergan Shang, Qingyuan Zheng, Jingjing Zhou, Ruixuan Jia, Yan Xu, Hongrui Zhang, Xiao-Han Ma, Zhengxiang Cheng, Yuexing Hao, Liting Mai, Xianglin Ji, Wenjun Zhang, Zhuofan Chen, Yixiao Huang, Chi Wang, Wenyue Hua, Yilun Hao, Yuantao Zhai, Ziyan Zhao, Jingyan Xie

机构 * Tsinghua University(清华大学) Massachusetts Institute of Technology(麻省理工学院) Harvard University(哈佛大学) Carnegie Mellon University(卡内基梅隆大学) University of Michigan(密歇根大学) University of Illinois Urbana–Champaign(伊利诺伊大学厄巴纳-香槟分校) Boston University(波士顿大学) University of Queensland(昆士兰大学) University of Science and Technology of China(中国科学技术大学) Flatiron Institute(弗拉蒂伦研究所) Microsoft Research(微软研究院) AG2 AI(AG2 AI公司)

AI总结 研究人员推出首个联合评估AI创新探索与自主科学执行能力的基准ASI-Bench,逐步减少人类方法指导测试AI自主科研能力,发现当前AI仍严重依赖人类指导,该基准面向全球开放邀请贡献。

Comments 16 pages, 5 figures, 2 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.17180 2026-08-19 cs.LG cs.AI 新提交

Task Specialization Fine-Tuning for Contextual Reinforcement Learning

上下文强化学习的任务专业化微调

Jianan Zhou, Jung-Hoon Cho, Tianyue Zhou, Han Zheng, Jie Zhang, Roy Dong, Yining Ma, Cathy Wu

机构 * Nanyang Technological University(南洋理工大学) MIT(麻省理工学院) UIUC(伊利诺伊大学厄巴纳-香槟分校)

AI总结 针对上下文强化学习的任务专业化微调难题,提出TSFT框架,通过整数线性规划分配微调预算,在多领域实验中提升了任务覆盖性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.03631 2026-08-19 cs.LG math-ph nlin.CD q-bio.NC 版本更新

Scientific Machine Learning of Chaotic Systems Learns Reduced-Order Equations for Neural Populations

混沌系统的科学机器学习发现神经群体的支配方程

Anthony G. Chesebro, David Hofmann, Vaibhav Dixit, Earl K. Miller, Richard H. Granger, Alan Edelman, Christopher V. Rackauckas, Lilianne R. Mujica-Parodi, Helmut H. Strey

机构 * Department of Biomedical Engineering and Laufer Center for Physical and Quantitative Biology, State University of New York at Stony Brook, NY, USA(生物医学工程系和物理与定量生物学拉夫中心,石溪大学纽约州立大学 Stony Brook 分校) Athinoula A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital and Harvard Medical School, MA, USA(Athinoula A. Martinos 生物医学成像中心,麻省总医院和哈佛医学院) Computer Science and Artificial Intelligence Lab, Massachusetts Institute of Technology, MA, USA(计算机科学与人工智能实验室,麻省理工学院) Picower Institute for Learning and Memory, Massachusetts Institute of Technology, MA, USA(记忆学习研究所,麻省理工学院) Psychological and Brain Sciences, Dartmouth College, NH, USA(心理学与脑科学系,达特茅斯学院) Santa Fe Institute, NM, USA(圣菲研究所)

AI总结 该研究提出PEM-UDE方法,通过科学机器学习从混沌系统中发现可解释的支配方程,成功恢复噪声污染数据中的动态,并在神经群体中推导出符合生物约束的新方程。

Comments 54 pages, 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.06208 2026-08-19 cs.AR cs.LG hep-ex 版本更新

SparsePixels: Efficient Convolution for Sparse Data on FPGAs

SparsePixels: 用于FPGA上稀疏数据高效卷积的框架

Ho Fung Tsoi, Dylan Rankin, Vladimir Loncar, Philip Harris

机构 * University of Pennsylvania, USA(美国宾夕法尼亚大学) Institute of Physics Belgrade, Serbia(塞尔维亚贝尔格莱德物理研究所) Massachusetts Institute of Technology, USA(美国麻省理工学院) Institute for Artificial Intelligence and Fundamental Interactions, USA(美国人工智能与基本相互作用研究所)

AI总结 本文提出SparsePixels框架,通过只计算少量活跃像素实现稀疏卷积,降低FPGA上的推理延迟,实验显示在稀疏LArTPC图像中,稀疏CNN比传统CNN快73倍。

Comments Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16614 2026-08-18 cs.CV 新提交

Beyond Accuracy: Assessing Calibration of Geospatial Foundation Models and Their Sensitivity to Distribution Shifts

超越准确率:评估地理空间基础模型的校准度及其对分布偏移的敏感性

Nils Lehmann, Jakob Gawlikowski, Burak Ekim, Isaac Corley, Xiao Xiang Zhu

机构 * Technical University of Munich (TUM)(慕尼黑工业大学) German Aerospace Center (DLR)(德国航空航天中心) Massachusetts Institute of Technology (MIT)(麻省理工学院) Taylor Geospatial(泰勒地理空间公司)

AI总结 该研究指出GeoFMs仅用准确率排序的不足,分析其校准度与分布偏移敏感性,发现EO预训练模型更易过度自信,提出需多条件多指标评估以缩小实际部署差距。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16003 2026-08-18 cs.AI cs.CL 新提交

Prior Audit-Repair Context Shifts LLM Verifier Thresholds Toward Leniency

先验审计-修复上下文调整大语言模型验证器阈值以趋向宽松

Parsa Mazaheri, Kasra Mazaheri

机构 * University of California, Santa Cruz(加州大学圣克鲁兹分校) Massachusetts Institute of Technology(麻省理工学院)

AI总结 该研究发现,LLM检查器上下文中的审计→修复事件会降低误报率,调整了验证器阈值趋向宽松,且该效应与负性不对称性预测相反,不随推理启用而消失。

Comments 12 pages, 2 figures, 4 tables. Code and analysis artefacts: https://github.com/parsa-mz/crtitxer

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15938 2026-08-18 cs.RO 新提交

Revisiting Open-Loop Execution in Robotics: Toward Reactive, Higher-Performing Policies

机器人学中的开环执行再探讨:迈向反应式、高性能策略

Michael Zeng, Abhinav Agarwal, Ajay Bati, Brian Lee, Siddharth Ancha, Russ Tedrake

机构 * Massachusetts Institute of Technology(麻省理工学院) Mundane Systems Inc.(芒德系统公司) University of California, Berkeley(加州大学伯克利分校)

AI总结 本研究探讨机器人开环执行机制,发现长开环执行主要助短上下文策略模仿非马尔可夫示范,专家非马尔可夫性影响远超复合误差,长上下文下闭环策略更优,推动反应式策略范式发展。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15917 2026-08-18 cs.RO cs.AI cs.CV 新提交

Pre-training Visual Dexterity in Simulation

在仿真环境中预训练视觉灵巧性

Sarthak Kamat, Adam Rashid, Satvik Sharma, Aseem Doriwala, Chelsea Finn, Phillip Isola, C. Karen Liu

机构 * Stanford University(斯坦福大学) MIT(麻省理工学院) Scale AI(Scale AI公司)

AI总结 该研究提出SPD仿真预训练框架,采集75小时多任务灵巧操作数据预训练因果Transformer,经微调后在真实任务中优于从头训练的行为克隆策略,为真实世界灵巧操作提供可行预训练来源。

Comments Project page: https://spd.bot

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15621 2026-08-18 cs.AI cs.LG 新提交

Rotation-Invariant Multi-IMU Activity Recognition under Independent Per-Location Orientation Shifts

独立位置方向偏移下的旋转不变多IMU活动识别

Seungyeol Baek, Yoonbyung Chai, Yonghyeon Lee, Sungjoon Choi, Sungho Suh

机构 * Korea University(高丽大学) Massachusetts Institute of Technology(麻省理工学院)

AI总结 针对多IMU部署时各位置独立方向偏移的问题,提出TRI-HAR框架,通过结构设计实现旋转不变性,在多IMU基准测试中优于旋转增强基线。

Comments 6 pages, 2 figures. ACM International Symposium on Wearable Computing (ISWC) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15325 2026-08-18 cs.CL cs.AI 新提交

Logical Embeddings for Argument Analysis

用于论证分析的逻辑嵌入

Leander Heldring, Santiago Torres

机构 * Kellogg School of Management(凯洛格商学院) Northwestern University(西北大学) MIT(麻省理工学院)

AI总结 本文提出用于论证分析的新框架,用封装论证逻辑语义的逻辑嵌入替代传统上下文词嵌入,基于RKHS理论定义,在分类任务中性能优于多数标准嵌入方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14929 2026-08-18 cs.CL cs.LG 新提交

Training Leaves Traces: Centered Residual Signatures for Language Model Lineage Verification

训练留下痕迹:用于语言模型谱系验证的中心化残差特征

Aman Singh Thakur, Rayan Khoury

机构 * Amazon(亚马逊) Massachusetts Institute of Technology(麻省理工学院)

AI总结 本研究提出中心化残差特征方法,通过移除残差训练产生的共享身份对齐组件,对比残差块特有结构得到谱系分数,可高效准确验证开源权重语言模型检查点的谱系

Comments Preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14706 2026-08-18 cs.CV cs.AI cs.LG 新提交

Equilibrium Forcing: Adaptive Video Generation Without Noise Conditioning

均衡强迫:无需噪声条件的自适应视频生成

Hansen Jin Lillemark, Alex Rojas, Zachary Novack, Runqian Wang, Yilun Du, Yian Ma, Taylor Berg-Kirkpatrick, Rose Yu

机构 * UC San Diego(加州大学圣地亚哥分校) MIT(麻省理工学院) Harvard University(哈佛大学)

AI总结 该研究提出无需噪声条件的均衡强迫(EqF)框架,解耦去噪场学习与采样,实现自适应闭环推理,提升自回归视频生成的质量与一致性,性能优于传统噪声条件方法。

Comments Project page: https://equilibriumforcing.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.26228 2026-08-18 physics.data-an astro-ph.GA cs.LG hep-ph 版本更新

Interpreting "Interpretability" and Explaining "Explainability" in Machine Learning in Physics

解读物理学中机器学习的“可解释性”与解释“可解释性”

Rikab Gambhir, Luisa Lucie-Smith, Jesse Thaler

机构 * Department of Physics, University of Cincinnati(俄亥俄州辛辛那提大学物理系) Hamburger Sternwarte, Universität Hamburg(汉堡大学汉堡天文台) Center for Theoretical Physics – a Leinweber Institute, Massachusetts Institute of Technology(麻省理工学院理论物理中心——莱因韦伯研究所) Institut des Hautes Études Scientifiques(高等科学研究院) Institut de Physique Théorique, CEA Paris-Saclay(巴黎-萨克雷CEA理论物理研究所) NSF Institute for Artificial Intelligence and Fundamental Interactions(国家科学基金会人工智能与基本相互作用研究所)

AI总结 本文区分了机器学习在物理学中的可解释性(模型结构透明)与可解释性(映射到领域知识),讨论了权衡、应用场景及实现工具,强调它们是建模选择而非固有属性。

Comments 31 pages, 3 figures, Part of the VERaiPHY Initiative; v2: Minor revisions

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.19888 2026-08-18 cs.LG cs.AI 版本更新

SL-S4Wave: Self-Supervised Learning of Physiological Waveforms with Structured State Space Models

SL-S4Wave:基于结构化状态空间模型的生理波形自监督学习

Feng Wu, Harsh Deep, Eric Lehman, Sanyam Kapoor, Guoshuai Zhao, Rahul G. Krishnan, Gari Clifford, Li-wei H Lehman

机构 * Massachusetts Institute of Technology(麻省理工学院) OpenEvidence, USA(OpenEvidence(美国)) New York University(纽约大学) Xi’an Jiaotong University(西安交通大学) University of Toronto(多伦多大学) Emory University(埃默里大学)

AI总结 提出SL-S4Wave框架,结合对比学习与基于结构化状态空间模型的编码器,通过多尺度子核全局卷积捕获多通道生理波形的局部和长程依赖,在心律失常检测等任务中优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.01926 2026-08-18 cs.CL 版本更新

Mitigating Bias in Locally Constrained Decoding via Tractable Proposals

通过可处理提议缓解局部约束解码中的偏差

Meihua Dang, Linxin Song, Honghua Zhang, Jieyu Zhao, Guy Van den Broeck, Stefano Ermon

机构 * Stanford University(斯坦福大学) University of California, Berkeley(加州大学伯克利分校) Massachusetts Institute of Technology(麻省理工学院)

AI总结 针对局部约束解码中因短视掩码导致的采样偏差,提出基于张量化有限自动机的全局约束解码提议和概率全局约束解码提议,结合序贯蒙特卡洛方法实现无偏采样,在函数调用、关键词生成和SQL生成任务中显著减少所需粒子数并加速收敛。

Comments ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.18135 2026-08-18 cs.CV 版本更新

World-in-World: World Models in a Closed-Loop World

世界中的世界:闭环世界中的世界模型

Jiahan Zhang, Muqing Jiang, Nanru Dai, Taiming Lu, Arda Uzunoglu, Shunchi Zhang, Yana Wei, Jiahao Wang, Vishal M. Patel, Paul Pu Liang, Daniel Khashabi, Cheng Peng, Rama Chellappa, Tianmin Shu, Alan Yuille, Yilun Du, Jieneng Chen

机构 * JHU(约翰·霍普金斯大学) PKU(北京大学) Princeton(普林斯顿大学) MIT(麻省理工学院) Harvard(哈佛大学)

AI总结 研究人员推出首个具身场景闭环世界模型基准平台World-in-World,发现视觉质量不保障任务成功,后训练缩放比升级预训练视频生成器更有效,增加推理计算可提升闭环性能。

Comments ICLR 2026 Oral. Add acknowledgement in arxiv v2. Code is at https://github.com/World-In-World/world-in-world

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.21290 2026-08-18 cs.CL cs.AI cs.IR 版本更新

Efficient Code Embeddings from Code Generation Models

基于代码生成模型的高效代码嵌入

Daria Kryvosheieva, Saba Sturua, Michael Günther, Han Xiao

机构 * Massachusetts Institute of Technology(麻省理工学院) Jina AI GmbH(Jina AI公司)

AI总结 研究提出jina-code-embeddings代码嵌入模型套件,采用文本与代码预训练的自回归主干及最后token池化,以较小规模实现最优性能,可用于代码检索、问答及相似代码识别。

Comments 9 pages. Accepted at the NeurIPS 2025 Workshop on Deep Learning for Code (DL4CODE)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13719 2026-08-17 cs.AI cs.RO 新提交

Coverage Aware Active Evaluation for Failure Discovery with Paired Systems

面向配对系统故障发现的覆盖率感知主动评估

Anjali Parashar, Rachel Luo, Apoorva Sharma, Sushant Veer, Edward Schmerling, Carson Sobolewski, Mingxin Yu, Chuchu Fan, Marco Pavone

机构 * Laboratory of Information & Decision Systems (LIDS), MIT(麻省理工学院信息与决策系统实验室(LIDS)) NVIDIA Research(英伟达研究院)

AI总结 该研究针对自主系统故障发现难题,提出结合代理评估与残差建模、支持感知互信息目标的自适应方法,在三类任务中发现的故障数是基线的两倍。

Comments 9 main pages followed by Appendix, total 21 pages, 12 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13079 2026-08-17 cs.LG 版本更新

Learning Discrete Decisions for MIPs with Constraint-Aware Diffusion

基于约束感知扩散的混合整数规划离散决策学习

Vincenzo Di Vito, Mehdi Taghizadeh, Deepjyoti Deka, Kaarthik Sundar, Ferdinando Fioretto

机构 * University of Virginia(弗吉尼亚大学) MIT(麻省理工学院) Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)

AI总结 该研究提出Constrained Graph Diffusion(CGD)框架,结合图扩散模型与可行性投影算子求解混合整数规划,在两类任务上较基线方法提升可行性与质量,且最高加速425倍。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.15808 2026-08-17 q-bio.QM cs.AI cs.CV cs.LG

Foundation Models in Biomedical Imaging: Turning Hype into Reality

生物医学影像中的基础模型:从 hype 到现实

Amgad Muneer, Kai Zhang, Ibraheem Hamdi, Rizwan Qureshi, Muhammad Waqas, Shereen Fouad, Hazrat Ali, Syed Muhammad Anwar, Jia Wu

机构 * Department of Imaging Physics, The University of Texas MD Anderson Cancer Center(影像物理系,德克萨斯大学MD安德森癌症中心) Center for Secure Artificial Intelligence for Healthcare (SAFE), McWilliams School of Biomedical Informatics, UTHealth Houston(安全人工智能用于医疗保健中心(SAFE),麦威廉斯生物医学信息学学院,UTHealth休斯顿) Female Medicine in Machine Learning, Massachusetts Institute of Technology(机器学习中的女性医学,麻省理工学院) Department of Computer Science, Salim Habib University(计算机科学系,Salim Habib大学) School of Computer Science and Digital Technologies, Aston Centre for Artificial Intelligence Research and Application, Aston University(计算机科学与数字技术学院,阿斯顿人工智能研究与应用中心,阿斯顿大学) Division of Computing Science and Mathematics, University of Stirling(计算科学与数学系,斯特灵大学) School of Medicine and Health Sciences, George Washington University(医学与健康科学学院,乔治·华盛顿大学) Sheikh Zayed Institute for Pediatric Surgical Innovation, Children’s National Hospital(谢赫扎耶德儿童外科创新研究所,儿童医院) Department of Thoracic/Head and Neck Medical Oncology, The University of Texas MD Anderson Cancer Center(胸腔/头颈医学肿瘤科,德克萨斯大学MD安德森癌症中心)

AI总结 本文探讨了基础模型在生物医学影像中的应用,提出REAL-FM框架以评估模型的实际临床价值,指出基础模型在因果推理和安全性方面存在不足,强调需要协调的专业AI系统。

Comments 9 figures and 3 tables

Journal ref Nature Biomedical Engineering 10, 1557-1575 (2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.12745 2026-08-14 cs.LG cs.DC 新提交

A Cloud-Edge System for Multimodal Clinical Screening in Resource-Constrained Rural Settings

面向资源受限农村地区多模态临床筛查的云边协同系统

Hei Ting, Chan, Chenwei Wu, Xueshen Liu, Zesen Zhao, Boyuan Zheng, Luis Filipe Nakayama, Michael G. Morley, Liyue Shen, Jiasi Chen, Z. Morley Mao

机构 * University of Michigan(密歇根大学) Massachusetts Institute of Technology(麻省理工学院) Harvard Medical School(哈佛医学院)

AI总结 该研究针对资源受限农村地区的多模态临床筛查问题,提出云边协同架构,经实验验证其诊断性能优异且成本更低,可适配部署约束。

Comments 31 pages, 3 figures. In Proceedings of Machine Learning Research, Volume 340, 2026 (Machine Learning for Healthcare Conference)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13520 2026-08-14 cs.LG cs.AI cs.IT math.IT math.ST stat.ML stat.TH 新提交

The data geometry of masking diffusion: Certified-optimal schedules via unmasking growth complexity

掩码扩散的数据几何:通过去掩蔽增长复杂度实现可验证最优调度

Martin J. Wainwright

机构 * Massachusetts Institute of Technology(麻省理工学院)

AI总结 该研究引入去掩蔽增长复杂度(UGC)度量,推导了离散采样掩码扩散的可验证最优调度,得到适配数据几何的采样器,其迭代复杂度接近神谕过程,且在维度相关收益上优于粗调度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13335 2026-08-14 cs.LG cond-mat.dis-nn cond-mat.stat-mech 新提交

Neural Quadratic Forms: A Unified Minimal Model for Sudden Learning and Scaling Laws

神经二次型:用于突发学习与标度律的统一最小模型

Liu Ziyin, Yizhou Xu, Tomaso Poggio, Isaac Chuang

机构 * Massachusetts Institute of Technology(麻省理工学院) École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)

AI总结 该研究提出神经二次型模型,统一描述感知机等多种架构的突发学习与标度律,通过对称性推导其训练动力学为洛特卡-沃尔泰拉方程,经数值验证符合相关行为。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08874 2026-08-14 cs.CV 版本更新

AeroReformer2: Spoken-Query Referring Segmentation for Aerial Images

AeroReformer2:面向航拍图像的语音查询指称分割

Rui Li, Chenxi Duan, Haoyang Yang

机构 * Massachusetts Institute of Technology(麻省理工学院) The University of Manchester(曼彻斯特大学) The Hong Kong Polytechnic University(香港理工大学)

AI总结 本文针对现有指称遥感图像分割基准仅支持书面表达的问题,构建了首个语音查询指称分割基准RISBench-S,并提出高效双边网络模型AeroReformer2,在相关任务上取得优于基线的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.17897 2026-08-14 cs.CV cs.AI cs.LG cs.RO 版本更新

RadarGen: Automotive Radar Point Cloud Generation from Cameras

RadarGen:从摄像头生成汽车雷达点云

Tomer Borreda, Fangqiang Ding, Sanja Fidler, Shengyu Huang, Or Litany

机构 * Technion(技术学院) MIT(麻省理工学院) NVIDIA(英伟达) University of Toronto(多伦多大学) Vector Institute(向量研究所)

AI总结 RadarGen通过扩散模型从摄像头图像生成逼真的雷达点云,结合BEV对齐的深度、语义和运动线索,提升雷达生成的物理合理性与多模态模拟能力。

Comments ECCV 2026. Project page: https://radargen.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.12026 2026-08-13 cs.LG 新提交

SoftWater: Class-Aware Rate Allocation for Softmax Quantization

SoftWater:面向Softmax量化的类别感知速率分配

Joao V. Cavalcanti, Ashia C. Wilson

机构 * Massachusetts Institute of Technology(麻省理工学院)

AI总结 针对小型LLM的Softmax层量化问题,提出类别感知速率分配方法SoftWater,在多模型上优于现有量化器,可大幅降低输出层KL散度,使输出层量化的困惑度损失可控。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.08837 2026-08-13 cs.LG cs.AI 版本更新

Prompt-Driven Exploration

提示驱动的探索

Sunshine Jiang, John Marangola, David Zhang, Raghuram Kowdeed, Ruiyang Luo, Nitish Dashora, Richard Li, Pulkit Agrawal, Zhang-Wei Hong

机构 * Massachusetts Institute of Technology(麻省理工学院) MIT-IBM Computing Research Lab(麻省理工学院-IBM计算研究实验室) Improbable AI Lab(英普罗巴布尔人工智能实验室)

AI总结 研究针对强化学习中探索难的问题,提出提示驱动的探索策略(PDE),利用视觉-语言模型对轨迹视频推理,从弱策略轨迹中优化提示,实现后验采样,能让强化学习从零奖励起步学习成功策略并提升样本效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.07242 2026-08-13 cs.LG math.CT 版本更新

Weaves, Wires, and Morphisms: Formalizing and Implementing the Algebra of Deep Learning

编织、导线与态射:形式化和实现深度学习的代数

Vincent Abbott, Gioele Zardini

机构 * Laboratory for Information and Decision Systems, Massachusetts Institute of Technology(信息与决策实验室,麻省理工学院)

AI总结 本文提出一种基于范畴论的深度学习框架,通过轴步长和数组广播范畴形式化广播机制,实现模型架构的数学表达与组合操作,并提供Python和TypeScript实现展示其通用性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08020 2026-08-12 cs.AI 版本更新

Thought-Level Beam Search for Reasoning

用于推理的思维级束搜索

Lijie Yang, Hongyin Luo, Jiawei Zhao, Tri Dao, Ravi Netravali

机构 * Princeton University(普林斯顿大学) MIT(麻省理工学院) Meta AI

AI总结 针对大型推理模型测试时计算分配的低效问题,提出执行思维级束搜索的Gambit算法,在固定硬件预算下,其在准确率、吞吐量、token消耗等指标上均优于现有基线方法。

Comments Add the author Jiawei Zhao in Meta Data

详情

展开后加载摘要…

URL PDF HTML 收藏