视频大模型

A Very Big Video Reasoning Suite

一个非常大的视频推理套件

Maijunxian Wang, Ruisi Wang, Juyi Lin, Ran Ji, Thaddäus Wiedemer, Qingying Gao, Dezhi Luo, Yaoyao Qian, Lianyu Huang, Zelong Hong, Jiahui Ge, Qianli Ma, Hang He, Yifan Zhou, Lingzi Guo, Lantao Mei, Jiachen Li, Hanwen Xing, Tianqi Zhao, Fengyuan Yu, Weihang Xiao, Yizheng Jiao, Jianheng Hou, Danyang Zhang, Pengcheng Xu, Boyang Zhong, Zehong Zhao, Gaoyun Fang, John Kitaoka, Yile Xu, Hua Xu, Kenton Blacutt, Tin Nguyen, Siyuan Song, Haoran Sun, Shaoyue Wen, Linyang He, Runming Wang, Yanzhi Wang, Mengyue Yang, Ziqiao Ma, Raphaël Millière, Freda Shi, Nuno Vasconcelos, Daniel Khashabi, Alan Yuille, Yilun Du, Ziming Liu, Bo Li, Dahua Lin, Ziwei Liu, Vikash Kumar, Yijiang Li, Lei Yang, Zhongang Cai, Hokin Deng

机构 * University of California, Berkeley（加州大学伯克利分校） ； Nanyang Technological University（南洋理工大学） ； Northeastern University（东北大学） ； University of Tübingen（图宾根大学） ； Johns Hopkins University（约翰霍普金斯大学） ； University of Michigan（密歇根大学） ； University of Southern California（南加州大学） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； Shanghai Jiao Tong University（上海交通大学） ； East China Normal University（华东师范大学） ； Stanford University（斯坦福大学） ； University of Texas at Austin（得克萨斯大学奥斯汀分校） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Cornell University（康奈尔大学） ； San Jose State University（圣何塞州立大学） ； University of California, Irvine（加州大学尔湾分校） ； Technical University of Munich（慕尼黑技术大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； Imperial College London（伦敦帝国学院） ； University of Wisconsin--Madison（威斯康星大学麦迪逊分校） ； University of Edinburgh（爱丁堡大学） ； Hong Kong University of Science（香港科学大学） ； New York University（纽约大学） ； Auburn University（阿伯丁大学） ； Columbia University（哥伦比亚大学） ； University of Bristol（布里斯托大学） ； University of Waterloo（滑铁卢大学） ； The Chinese University of Hong Kong（香港中文大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Oxford（牛津大学） ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 视频数据与评测 ：video reasoning(title,abstract)；分类 cs.CV、cs.MM

AI总结 VBVR数据集和评估框架旨在解决视频推理能力研究中的大规模数据缺乏问题，通过大规模实验观察到对未见任务的泛化能力。

Comments Homepage: this https URL (https://video-reason.com/?v=vbvr)

HUG-VIS: A Multimodal Benchmark for Human-centered Understanding and Generation in Visual Intelligence

HUG-VIS：面向视觉智能中以人为中心的理解与生成的多模态基准

Fei Ma, Zebang Cheng, Minghui Li, Hongbo Xu, Yuyong Tan, Yihua Shao, Hanling Wang, Zhou Liu, Yuqing Gao, Dong Wang, Long Ma, Laizhong Cui, Nicu Sebe, Qi Tian

机构 * Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） ； Shenzhen University（深圳大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Pengcheng Laboratory（鹏城实验室） ； Tongji University（同济大学） ； Tsinghua University（清华大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of Trento（特伦托大学） ； Huawei（华为） 纠错

专题命中 视频数据与评测 ：video generation(abstract)；分类 cs.CV

AI总结 该研究构建了HUG-VIS多模态基准，包含30名演员的8400段同步多模态视频等数据，评估了四类任务的模型，揭示了情感识别、生成等任务的关键特性与现存问题。