Carnegie Mellon University（卡内基梅隆大学）

On the Interplay of Pre-Training, Mid-Training, and RL on Reasoning Language Models

在预训练、中训练和强化学习对推理语言模型的相互作用中

Charlie Zhang, Graham Neubig, Xiang Yue

机构 * Carnegie Mellon University, Language Technologies Institute（卡内基梅隆大学，语言技术研究所） 纠错

AI总结 研究探讨了预训练、中训练和强化学习在推理语言模型中的相互作用，发现RL需预训练留有余地才能提升能力，中训练提升性能，过程级奖励提高推理准确性。

JEPA as a Neural Tokenizer: Learning Robust Speech Representations with Density Adaptive Attention

JEPA作为一种神经令牌化器：利用密度自适应注意力学习鲁棒的语音表示

Georgios Ioannides, Christos Constantinou, Aman Chadha, Aaron Elkins, Linsey Pang, Ravid Shwartz-Ziv, Yann LeCun

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Amazon GenAI（亚马逊生成人工智能） ； James Silberrad Brown Center for Artificial Intelligence（詹姆斯·西伯拉德·布朗人工智能中心） ； University of Bristol（布里斯托大学） ； Stanford University（斯坦福大学） ； Northeastern University（东北大学） ； New York University（纽约大学） 纠错

AI总结 本文提出了一种结合JEPA和密度自适应注意力机制的两阶段自监督框架，用于高效学习鲁棒的语音表示，通过令牌化和高保真重建实现高效压缩。

Comments UniReps: Unifying Representations in Neural Models (NeurIPS 2025 Workshop)

Multi-Accent Mandarin Dry-Vocal Singing Dataset: Benchmark for Singing Accent Recognition

多语调普通话干声唱Dataset：歌唱语调识别基准

Zihao Wang, Ruibin Yuan, Ziqi Geng, Hengjia Li, Xingwei Qu, Xinyi Li, Songye Chen, Haoying Fu, Roger B. Dannenberg, Kejun Zhang

机构 * Zhejiang University（浙江大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Innovation Center of Yangtze River Delta, Zhejiang University（长江三角洲创新中心，浙江大学） ； Tsinghua University（清华大学） ； Hong Kong University of Science（香港科学大学） 纠错

AI总结 本文提出多语调普通话干声唱语料库，用于评估语音模型在歌唱场景中的表现，并探讨方言和元音对语调变化的影响。

Comments Accepted by ACMMM 2025

Journal ref Proceedings of the 33rd ACM International Conference on Multimedia (ACMMM 2025), Pages 12714-12721, October 27, 2025. Dublin, Ireland

Singing Timbre Popularity Assessment Based on Multimodal Large Foundation Model

基于多模态大基础模型的歌唱音色受欢迎程度评估

Zihao Wang, Ruibin Yuan, Ziqi Geng, Hengjia Li, Xingwei Qu, Xinyi Li, Songye Chen, Haoying Fu, Roger B. Dannenberg, Kejun Zhang

机构 * Zhejiang University（浙江大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； University of California, Berkeley（加州大学伯克利分校） ； University of Manchester（曼彻斯特大学） ； Innovation Center of Yangtze River Delta, Zhejiang University（长江三角洲创新中心，浙江大学） 纠错

AI总结 本文提出基于多模态大基础模型的歌唱音色受欢迎程度评估方法，通过引入Sing-MD数据集、VocalVerse架构和H-TPR基准，实现无参考、多维度的歌唱评估。

Comments Accepted to ACMMM 2025 oral

Journal ref Proceedings of the 33rd ACM International Conference on Multimedia (ACMMM 2025), Pages 12227-12236

Training Task Reasoning LLM Agents for Multi-turn Task Planning via Single-turn Reinforcement Learning

通过单次强化学习训练多轮任务规划的LLM代理

Hanjiang Hu, Changliu Liu, Na Li, Yebin Wang

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Harvard University（哈佛大学） ； Mitsubishi Electric Research Laboratories (MERL)（三菱电机研究实验室（MERL）） 纠错

AI总结 本文通过单次强化学习训练LLM代理进行多轮任务规划，利用GRPO实现高效策略优化，实验显示其在复杂任务规划中的表现优于大参数基线模型。

Comments Accepted by IEEE Control Systems Letters (L-CSS)

Networked Restless Multi-Arm Bandits with Reinforcement Learning

网络化 restless 多臂老虎机与强化学习

Hanmo Zhang, Zenghui Sun, Kai Wang

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

AI总结 本文提出网络化RMAB框架，结合RMAB与独立级联模型以捕捉网络环境中的臂间相互作用，并通过Q学习算法验证了网络效应的重要性。

Tracking-Guided 4D Generation: Foundation-Tracker Motion Priors for 3D Model Animation

基于跟踪的4D生成：用于3D模型动画的基础跟踪器运动先验

Su Sun, Cheng Zhao, Himangi Mittal, Gaurav Mittal, Rohith Kukkala, Yingjie Victor Chen, Mei Chen

机构 * Purdue University（普渡大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Microsoft（微软） 纠错

AI总结 Track4DGen通过结合基础跟踪器和混合4D高斯点划法，提升多视角视频生成和4D生成的稳定性与精度。

Comments 15 pages, 11 figures

ARC-AGI Without Pretraining

ARC-AGI无需预训练

Isaac Liao, Albert Gu

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 CompressARC通过最小化描述长度（MDL）在无需预训练的情况下解决ARC-AGI谜题，展示了深度学习在极低数据条件下产生智能的可行性。

Video Models Start to Solve Chess, Maze, Sudoku, Mental Rotation, and Raven' Matrices

视频模型开始解决国际象棋、迷宫、数独、心理旋转和雷文矩阵任务

Hokin Deng

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 视频模型通过强化学习提升推理能力，在多项任务上达到60%的成功率。

Comments See $\href{https://grow-ai-like-a-child.com/video-reason/}{results}$ and $\href{https://github.com/hokindeng/VMEvalKit}{code}$

TRELLISWorld: Training-Free World Generation from Object Generators

TRELLISWorld: 从物体生成器中无需训练的世界生成

Hanke Chen, Yuan Liu, Minchen Li

机构 * Carnegie Mellon University（卡内基梅隆大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

AI总结 TRELLISWorld通过无需训练的模块化瓷砖生成器实现通用语言驱动的3D场景生成，支持多样布局、高效生成和灵活编辑。

TimeAutoDiff: A Unified Framework for Generation, Imputation, Forecasting, and Time-Varying Metadata Conditioning of Heterogeneous Time Series Tabular Data

TimeAutoDiff：一个统一框架，用于生成、填补缺失数据、预测以及时间变化元数据条件下的异质时间序列表格数据

Namjoon Suh, Yuning Yang, Din-Yin Hsieh, Qitong Luan, Shirong Xu, Shixiang Zhu, Guang Cheng

机构 * UCLA（美国大学联盟） ； Microsoft（微软公司） ； Xiamen Univ.（厦门大学） ； CMU（卡内基梅隆大学） 纠错

AI总结 TimeAutoDiff通过统一框架实现时间序列生成、填补、预测及元数据条件生成，结合轻量级VAE和扩散模型，提升效率与泛化能力

A Survey on Diffusion Models for Time Series and Spatio-Temporal Data

时间序列和时空数据扩散模型综述

Yiyuan Yang, Ming Jin, Haomin Wen, Chaoli Zhang, Yuxuan Liang, Lintao Ma, Yi Wang, Chenghao Liu, Bin Yang, Zenglin Xu, Shirui Pan, Qingsong Wen

机构 * University of Oxford（牛津大学） ； Griffith University（格里菲斯大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Zhejiang Normal University（浙江师范大学） ； Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； The University of Hong Kong（香港大学） ； Salesforce Research（Salesforce研究） ； East China Normal University（东华大学） ； Fudan University（复旦大学） 纠错

AI总结 本文综述了扩散模型在时间序列和时空数据中的应用，系统梳理了模型类别、任务类型及实际应用场景，为后续研究提供基础。

Comments Accepted by ACM Computing Surveys; 37 pages; Github Repo: https://github.com/yyysjz1997/Awesome-TimeSeries-SpatioTemporal-Diffusion-Model