Google（谷歌）

Lost in Tokenization: Fundamental Trade-offs in Graph Tokenization for Transformers

迷失在标记化中：图标记化在Transformer中的基本权衡

Maya Bechler-Speicher, Gilad Yehudai, Gil Harari, Clayton Sanford, Amir Globerson, Joan Bruna

机构 * Courant Institute of Mathematical Sciences, New York University（纽约大学数学科学学院） ； John A. Paulson School of Engineering and Applied Sciences, Harvard University（哈佛大学工程与应用科学学院） ； Google Research（谷歌研究） ； Tel-Aviv University（特拉维夫大学） 纠错

AI总结 本文研究了图标记化在Transformer中的基本权衡，探讨了不同标记化方法对模型表达能力的影响，并通过实验验证了不同任务对不同结构视图的偏好。

On the Wasserstein Gradient Flow Interpretation of Drifting Models

关于漂移模型的Wasserstein梯度流解释

Arthur Gretton, Li Kevin Wenliang, Alexandre Galashov, James Thornton, Valentin De Bortoli, Arnaud Doucet

机构 * Google DeepMind（谷歌DeepMind） 纠错

AI总结 本文通过Wasserstein梯度流分析了漂移模型，揭示了GMD框架与WGF路径之间的关系，展示了三种主要结果：漂移模型中的算法对应于KL散度的WGF极限点，实际实现的算法对应于Sinkhorn散度的固定点但缺乏某些特性，同时该方法可以扩展到其他WGF的极限点，如MMD、切线Wasserstein距离和GAN批评者函数。

Swap Regret Minimization Through Response-Based Approachability

通过响应方法实现交换遗憾最小化

Ioannis Anagnostides, Gabriele Farina, Maxwell Fishelson, Haipeng Luo, Jon Schneider

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Massachusetts Institute of Technology（麻省理工学院） ； University of Southern California（南加州大学） ； Google Research（谷歌研究） 纠错

AI总结 本文提出了一种更简单高效的算法，通过预处理后的约翰椭球，保证了线性交换遗憾为O(d√T)，并建立了信息论下限，证明了经典算法在减少线性交换遗憾方面的最优性，同时扩展了该方法以处理多项式维度的交换偏差集。

Comments V3 makes certain clarifications and improves the upper bound for general sets via symmetrization

A KL-regularization Framework for Learning to Plan with Adaptive Priors

一种基于KL正则化的学习规划框架：具有自适应先验的规划

Álvaro Serra-Gomez, Daniel Jarne Ornia, Dhruva Tirumala, Thomas Moerland

机构 * LIACS, Leiden University, Leiden, The Netherlands（莱顿大学莱顿分校，荷兰） ； Google Deepmind, London, United Kingdom（谷歌DeepMind，英国伦敦） ； University of Oxford, Oxford, United Kingdom（牛津大学，英国牛津） 纠错

AI总结 本文提出了一种基于KL正则化的学习规划框架，通过将规划器的动作分布作为先验整合到策略优化中，提升了在高维连续控制任务中模型驱动强化学习的样本效率和长期性能。

Comments Published at ICML2026

An AI system to help scientists write expert-level empirical software

一种帮助科学家编写专家级经验软件的AI系统

Eser Aygün, Anastasiya Belyaeva, Gheorghe Comanici, Marc Coram, Hao Cui, Jake Garrison, Renee Johnston Anton Kast, Cory Y. McLean, Peter Norgaard, Zahra Shamsi, David Smalling, James Thompson, Subhashini Venugopalan, Brian P. Williams, Chujun He, Sarah Martinson, Martyna Plomecka, Lai Wei, Yuchen Zhou, Qian-Ze Zhu, Matthew Abraham, Erica Brand, Anna Bulanova, Jeffrey A. Cardille, Chris Co, Scott Ellsworth, Grace Joseph, Malcolm Kane, Ryan Krueger, Johan Kartiwa, Dan Liebling, Jan-Matthis Lueckmann, Paul Raccuglia, Xuefei, Wang, Katherine Chou, James Manyika, Yossi Matias, John C. Platt, Lizzie Dorfman, Shibl Mourad, Michael P. Brenner

机构 * Google DeepMind（谷歌DeepMind） ； Google Research（谷歌研究） ； Google Platforms and Devices（谷歌平台与设备） ； Massachusetts Institute of Technology（麻省理工学院） ； School of Engineering and Applied Sciences, Harvard University（哈佛大学工程与应用科学学院） 纠错

AI总结 本文提出Empirical Research Assistance (ERA)系统，利用大型语言模型和树搜索技术，自动创建高质量的科学软件，以加速计算实验的开发，从而提高科研效率。

Comments 78 pages, 31 figures, 22 tables