Meta

The IOL-AI Challenge: An Open Challenge towards Advancing Linguistic Reasoning

IOL-AI挑战赛：一项旨在推进语言推理的开放挑战赛

Eduardo Sánchez, Rita Berrada, Dan-Mircea Mirea, Sara Rajaee, Alexander Piperski, Ana Meta Dolinar, Boris Iomdin, Andrey Nikulin, Mariya Shmatova, Marzieh Fadaee, Julia Kreutzer

机构 * University College London（伦敦大学学院） ； Meta ； CentraleSupélec（中央高等电力学院） ； McGill University（麦吉尔大学） ； Cohere Labs（Cohere实验室） ； Princeton University（普林斯顿大学） ； University of Amsterdam（阿姆斯特丹大学） ； Stockholm University（斯德哥尔摩大学） ； Faculty of Liberal Arts and Sciences（文理学院） ； Universidade Federal de Goiás（戈亚斯联邦大学） 纠错

AI总结 本文介绍基于2026年IOL个人赛未公开题目的IOL-AI挑战赛，评估含自动与评审团评分，测试显示模型能力不由规模决定，语言推理是泛化推理技能的强基准代理。

MoE-ViE: Mixture of Experts Vision Encoder for Efficient Image and Video Understanding

MoE-ViE：用于高效图像与视频理解的混合专家视觉编码器

Bonan Zhang, Shiyu Dong, Quan Hung Tran, Katharina Gschwind, Shuqi Yang, Sijia Chen, Adel Ahmadyan, Seungwhan Moon, Lu Zhang, Ahmed Kirmani, Babak Damavandi, Anuj Kumar

机构 * Meta 纠错

AI总结 本研究提出MoE-ViE，通过细粒度MoE拓扑、无辅助损失平衡变体、专用MoE内核及帧级蒸馏等设计，实现高效图像与视频理解，性能优于对应密集模型及更大规模SOTA编码器。

Comments Accepted to ECCV 2026

How Do Large Language Models Learn Concepts During Continual Pre-Training?

大型语言模型在持续预训练中如何学习概念？

Barry Menglong Yao, Sha Li, Yunzhi Yao, Minqian Liu, Zaishuo Xia, Qifan Wang, Lifu Huang

机构 * UC Davis（加州大学戴维斯分校） ； Virginia Tech（弗吉尼亚理工大学） ； UCLA（加州大学洛杉矶分校） ； Meta AI 纠错

AI总结 本研究揭示了大型语言模型在持续预训练中概念学习的动态机制，通过分析概念电路揭示了概念获取、遗忘及相互作用的规律，为设计更可解释的训练策略提供依据。

Comments 19 pages, 27 figures

SCRIBES: Web-Scale Script-Based Semi-Structured Data Extraction with Reinforcement Learning

SCRIBES：基于脚本的网页级半结构化数据强化学习提取框架

Shicheng Liu, Kai Sun, Lisheng Fu, Xilun Chen, Xinyuan Zhang, Zhaojiang Lin, Rulin Shao, Yue Liu, Anuj Kumar, Wen-tau Yih, Xin Luna Dong

机构 * Stanford University（斯坦福大学） ； Meta Reality Labs（Meta现实实验室） ； FAIR at Meta（Meta的FAIR） ； University of Washington（华盛顿大学） 纠错

AI总结 SCRIBES是一种新型强化学习框架，利用同一网站内网页布局相似性生成可复用提取脚本，在脚本质量和下游问答准确率上均优于基线，实现高效网页级半结构化数据提取。