University of Oxford（牛津大学）

4RC: 4D Reconstruction via Conditional Querying Anytime and Anywhere

4RC: 通过条件查询随时任何地方进行4D重建

Yihang Luo, Shangchen Zhou, Yushi Lan, Xingang Pan, Chen Change Loy

机构 * S-Lab, Nanyang Technological University（南洋理工大学S实验室） ； VGG, University of Oxford（牛津大学视觉几何组） 纠错

AI总结 4RC通过条件查询实现4D重建，提供统一的前馈框架，同时捕捉密集场景几何和运动动态，优于现有方法。

Comments Project page: https://yihangluo.com/projects/4RC/

Code2World: A GUI World Model via Renderable Code Generation

Code2World: 通过可渲染代码生成实现一个GUI世界模型

Yuhao Zheng, Li'an Zhong, Yi Wang, Rui Dai, Kaikui Liu, Xiangxiang Chu, Linyuan Lv, Philip Torr, Kevin Qinghong Lin

机构 * University of Science（科学大学） ； AMAP, Alibaba Group（AMAP，阿里巴巴集团） ； University of Oxford（牛津大学） ； Sun Yat-sen University（中山大学） 纠错

AI总结 Code2World通过可渲染代码生成实现高保真UI预测，提升Android导航性能

Comments github: https://github.com/AMAP-ML/Code2World project page: https://amap-ml.github.io/Code2World/

Gradient Residual Connections

梯度残差连接

Yangchen Pan, Qizhen Ying, Philip Torr, Bo Liu

机构 * Department of Engineering Science, University of Oxford（牛津大学工程科学系） ； Computer Engineering Department, University of Arizona（亚利桑那大学计算机工程系） 纠错

AI总结 本文提出梯度残差连接，通过利用梯度信息提升神经网络对高频函数的近似能力，在超分辨率等任务中表现优异。

Comments Preprint

Attention Sinks and Compression Valleys in LLMs are Two Sides of the Same Coin

注意力沉降与压缩山谷是大语言模型中的双面现象

Enrique Queipo-de-Llano, Álvaro Arroyo, Federico Barbero, Xiaowen Dong, Michael Bronstein, Yann LeCun, Ravid Shwartz-Ziv

机构 * University of Oxford（牛津大学） ； AITHYRA ； New York University（纽约大学） 纠错

AI总结 本研究揭示了大语言模型中注意力沉降与压缩山谷的联系，提出信息流的Mix-Compress-Refine理论，解释LLM如何通过大规模激活控制注意力和压缩来组织深度计算。

Estimating Interventional Distributions with Uncertain Causal Graphs through Meta-Learning

通过元学习估计不确定因果图的干预分布

Anish Dhir, Cristiana Diaconu, Valentinian Mihai Lungu, James Requeima, Richard E. Turner, Mark van der Wilk

机构 * Imperial College London（伦敦帝国学院） ； University of Cambridge（剑桥大学） ； University of Toronto（多伦多大学） ； Vector Institute（向量研究所） ； Alan Turing Institute（艾伦·图灵研究所） ； University of Oxford（牛津大学） 纠错

AI总结 通过元学习提出MACE-TNP模型，用于估计不确定因果图的干预分布，优于传统贝叶斯方法。

Robust Reinforcement Learning from Human Feedback for Large Language Models Fine-Tuning

从人类反馈中鲁棒强化学习用于大语言模型微调

Kai Ye, Hongyi Zhou, Jin Zhu, Francesco Quinzan, Chengchun Shi

机构 * Department of Statistics, LSE（统计系，伦敦经济学院） ； Department of Mathematics, Tsinghua University（数学系，清华大学） ； School of Mathematics, University of Birmingham（数学学院，伯明翰大学） ； Department of Engineering Science, University of Oxford（工程科学系，牛津大学） 纠错

AI总结 本文提出了一种鲁棒的强化学习算法，用于改进大语言模型微调中从人类反馈学习奖励函数的性能，通过减少方差和改进后悔界，实验证明其在基准数据集上表现优异。