Evolving Safety Landscape of Multi-modal Large Language Models: A Survey of Emerging Threats and Safeguards
多模态大语言模型的演进安全态势：新兴威胁与防护措施综述
Xi Li, Shu Zhao, Xiaohan Zou, Fei Zhao, Fuxiao Liu, Yusen Zhang, Cheng Han, Yushun Dong, Jiaqi Wang
机构
*
University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
；
NVIDIA（英伟达公司）
；
Penn State University（宾夕法尼亚州立大学）
；
Columbia University（哥伦比亚大学）
；
University of Missouri-Kansas City（密苏里大学堪萨斯分校）
；
Florida State University（佛罗里达州立大学）
；
Auburn University（奥本大学）
机构
*
Singapore University of Technology and Design（新加坡科技设计大学）
；
Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局）
；
Nanyang Technological University（南洋理工大学）
；
Chongqing University（重庆大学）
专题命中
幻觉与鲁棒性
：grounding(abstract)；multimodal large language model(abstract)；分类 cs.AI、cs.LG
From Sign Language Generation to Humanoid Execution: Vision-Language Guided Retargeting with Collision Mitigation
从手语生成到仿人执行：具有碰撞缓解功能的视觉语言引导重定向
Nabeela Khan, Bowen Wu, Runwu Shi, Benjamin Yen, Takeshi Ashizawa, Carlos Toshinori Ishi, Takashi Minato, Kazuhiro Nakadai
机构
*
Department of Systems and Control Engineering, Institute of Science Tokyo（东京科学大学系统与控制工程系）
；
RIKEN Guardian Robot Project（理化学研究所守护机器人项目）
；
ATR Hiroshi Ishiguro Laboratories（ATR石黑浩实验室）
；
RIKEN Center for Biosystems Dynamics Research（理化学研究所生物系统动力学研究中心）
Benchmarking the Robustness of Autonomous Driving to Environmental Illusions: A Lane Perception Perspective
从车道感知角度评估自动驾驶对环境错觉的鲁棒性：基准测试
Tianyuan Zhang, Xianglong Liu, Aishan Liu, Lu Wang, Yitong Zhang, Peng Yue, Mingchuan Zhang, Siyuan Liang, Dacheng Tao
机构
*
SKLCCSE, the School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院软件安全技术与工程北京市重点实验室）
；
the School of Cyber Science and Technology, Sun Yat-sen University（中山大学网络空间科学与技术学院）
；
Henan University of Science and Technology（河南科技大学）
；
the School of Computing, National University of Singapore（新加坡国立大学计算学院）
；
College of Computing & Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）
Taming I2V models for Image HOI Editing: A Cognitive Benchmark and Agentic Self-Correcting Framework
驯服I2V模型用于图像HOI编辑：认知基准与智能体自校正框架
Jiayi Gao, Qingchao Chen, Yuxin Peng, Yang Liu
机构
*
Wangxuan Institute of Computer Technology, Peking University, Beijing, China（王轩计算机技术研究所，北京大学，北京，中国）
；
National Institute of Health Data Science, Peking University, Beijing, China（国家健康数据科学研究院，北京大学，北京，中国）
Pluralis v0.1: Towards a Multicultural, Multimodal, Multilingual Benchmark for AI Risk and Reliability
Pluralis v0.1：迈向用于人工智能风险与可靠性的多元文化、多模态、多语言基准测试
Alicia Parrish, Rajat Shinde, Sanket Badhe, Xinyi Bai, Sree Bhargavi Balija, Hua-Rong Chu, Emilio Ferrara, Armstrong Foundjem, Rajat Ghosh, Aakash Gupta, Xuanli He, Ong Chen Hui, Minji Jung, Madhangi Karimanal, Faiza Khan Khattak, Boryoung Kim, Eugenia Kim, Liliya Lavitas, Seok Min Lim, Victor Lu, Jim Moirangthem, Dhivya Nagasubramanian, Deepak Pandita, Sita Rajagopal, Geetha Raju, Evgeniia Razumovskaia, Aravind Reddy, Federico Ricciuti, Nobin Sarwar, Sungpil Shin, Sunayana Sitaram, Snehal Thorat, Tharindu Cyril Weerasooriya, Jasmijn Bastings, Joachim Baumann, Kongtao Chen, Murali Emani, Mariya Hendriksen, Jiho Jin, Jun Seong Kim, Younghoon Ko, Alicja Kwasniewska, Minjae Lee, Tom Wei-cyuan Lin Kashyap Ramanandula Manjusha, Junho Myung, Junyeong Park, Roma Patel, Shyam Ratan, Sudarsun Santhiappan, Priyanka Suresh, Tuesday, Ksheeraj Sai Vepuri Laura Amortegui-Ordonez, Claire Dennis, Minsuk Kahng, Chris Knotz, Alice Oh, Balaraman Ravindran, Soojung Ryu William Bartholomew, Hiwot Tesfaye, Lora Aroyo
机构
*
Google DeepMind（谷歌DeepMind）
；
University of Alabama in Huntsville（阿拉巴马大学亨茨维尔分校）
；
Google（谷歌）
；
University of Missouri Columbia（密苏里大学哥伦比亚分校）
；
Chunghwa Telecom Laboratories（春木电信实验室）
；
University of Southern California（南加州大学）
；
Polytechnique Montreal（蒙特利尔理工学院）
；
Nutanix
；
ThinkEvolve Labs（ThinkEvolve实验室）
；
UCL（伦敦大学学院）
；
Infocomm Media Development Authority（信息通信媒体发展局）
；
Monark Health（Monark健康）
；
Seoul National University（首尔国立大学）
；
Microsoft（微软）
；
Centre for Responsible AI (CeRAI), Wadhwani School of Data Science and AI (WSAI), Indian Institute of Technology Madras（负责任人工智能中心（CeRAI）、瓦达威人工智能学校（WSAI）、印度理工学院马德拉斯分校）
；
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
；
Microsoft Research India（微软印度研究院）
；
Stanford University（斯坦福大学）
；
Argonne National Laboratory（阿贡国家实验室）
；
University of Oxford（牛津大学）
；
KAIST（韩国科学技术院）
；
Yonsei University（延世大学）
；
Amazon（亚马逊）
；
UIUC（伊利诺伊大学香槟分校）
；
Rochester Institute of Technology（罗切斯特理工学院）
；
Xenoscube Inc.（Xenoscube公司）
；
Korea AI Safety Institute (K-AISI)（韩国人工智能安全研究所（K-AISI））
；
MLCommons
；
CommonGround
；
Artifex Labs（Artifex实验室）
