Columbia University（哥伦比亚大学）

Understanding Sampler Stochasticity in Training Diffusion Models for RLHF

理解训练扩散模型用于RLHF中的采样随机性

Jiayuan Sheng, Hanyang Zhao, Haoxian Chen, David D. Yao, Wenpin Tang

机构 * Columbia University, IEOR Department（哥伦比亚大学，工业工程与运营研究系） 纠错

AI总结 本文研究了在训练扩散模型用于RLHF时随机采样与确定性采样之间的不匹配问题，通过理论分析和实验验证，提出了非空的界限和更尖锐的收敛速率，并展示了高随机性SDE训练对ODE采样质量的提升作用。

Adaptive Detector-Verifier Framework for Zero-Shot Polyp Detection in Open-World Settings

面向开放世界设置的零样本息肉检测自适应检测-验证框架

Shengkai Xu, Hsiang Lun Kao, Tianxiang Xu, Honghui Zhang, Junqiao Wang, Runmeng Ding, Guanyu Liu, Tianyu Shi, Zhenyu Yu, Guofeng Pan, Ziqian Bi, Yuqi Ouyang

机构 * College of Computer Science, Sichuan University（四川大学计算机学院） ； Columbia University（哥伦比亚大学） ； School of Software and Microelectronics, Peking University（北京大学软件与微电子学院） ； Apon AI and Brain-Computer Engineering Research Institute（Apon人工智能与脑机工程研究院） ； Faculty of Science and Technology, University of Macau（澳门大学科学与技术学院） ； Faculty of Applied Science and Engineering, University of Toronto（多伦多大学应用科学与工程学院） ； Faculty of Computer Science and Information Technology, University of Malaya（马来亚大学计算机科学与信息技术学院） ； Zhaolong Technology（智龙科技） ； Purdue University（普渡大学） 纠错

AI总结 本文提出AdaptiveDetector，通过自适应阈值调整和成本敏感强化学习，实现开放世界中零样本息肉检测，提升召回率并减少假阴性。

Small Batch Size Training for Language Models: When Vanilla SGD Works, and Why Gradient Accumulation Is Wasteful

小批量训练语言模型：当普通SGD有效，以及为何梯度累积是浪费

Martin Marek, Sanae Lotfi, Aditya Somasundaram, Andrew Gordon Wilson, Micah Goldblum

机构 * New York University（纽约大学） ； Columbia University（哥伦比亚大学） 纠错

AI总结 本研究发现小批量训练可稳定训练语言模型，优于大批次，且能使用普通SGD实现稳定训练，无需动量和优化器状态。

Comments NeurIPS 2025. Code available at: https://github.com/martin-marek/batch-size