大模型对齐与安全

From Prediction to Explanation: Multimodal, Explainable, and Interactive Deepfake Detection Framework for Non-Expert Users

Shahroz Tariq, Simon S. Woo, Priyanka Singh, Irena Irmalasari, Saakshi Gupta, Dev Gupta

机构 * Sungkyunkwan University, S. Korea（顺天大学） ； University of Queensland, Australia（昆士兰大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

Comments 11 pages, 3 tables, 5 figures, accepted for publicaiton in the 33rd ACM International Conference on Multimedia (MM '25), October 27-31, 2025, Dublin, Ireland

LET-US: Long Event-Text Understanding of Scenes

Rui Chen, Xingyu Chen, Shaoan Wang, Shihan Kong, Junzhi Yu

专题命中 安全评测 ：alignment(abstract)

Exploring Micro Accidents and Driver Responses in Automated Driving: Insights from Real-world Videos

Wei Xiang, Chuyue Zhang, Jie Yan

专题命中 安全评测 ：safety(abstract)

Comments 31 pages, 5 figures, under review

Talk2Image: A Multi-Agent System for Multi-Turn Image Generation and Editing

Shichao Ma, Yunhe Guo, Jiahao Su, Qihe Huang, Zhengyang Zhou, Yang Wang

专题命中 安全评测 ：alignment(abstract)

DiffUS: Differentiable Ultrasound Rendering from Volumetric Imaging

Noe Bertramo, Gabriel Duguey, Vivek Gopalakrishnan

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments 10 pages, accepted to MICCAI ASMUS 25

VISTAR:A User-Centric and Role-Driven Benchmark for Text-to-Image Evaluation

Kaiyuan Jiang, Ruoxi Sun, Ying Cao, Yuqi Xu, Xinran Zhang, Junyan Guo, ChengSheng Deng

机构 * Peking University（北京大学） ； LinkSure ； University of Glasgow（格拉斯哥大学） ； Boston University（波士顿大学） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments 17 pages,8 figures

Hi3DEval: Advancing 3D Generation Evaluation with Hierarchical Validity

Yuhan Zhang, Long Zhuo, Ziyang Chu, Tong Wu, Zhibing Li, Liang Pan, Dahua Lin, Ziwei Liu

机构 * Fudan University（复旦大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Tsinghua University（清华大学） ； Stanford University（斯坦福大学） ； The Chinese University of Hong Kong（香港中文大学） ； S-Lab, Nanyang Technological University（南洋理工大学S实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments Page: https://zyh482.github.io/Hi3DEval/

From Detection to Correction: Backdoor-Resilient Face Recognition via Vision-Language Trigger Detection and Noise-Based Neutralization

Farah Wahida, M. A. P. Chamikara, Yashothara Shanmugarasa, Mohan Baruwal Chhetri, Thilina Ranbaduge, Ibrahim Khalil

机构 * RMIT University, Australia（皇家墨尔本理工大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

Comments 19 Pages, 24 Figures

TotalRegistrator: Towards a Lightweight Foundation Model for CT Image Registration

Xuan Loc Pham, Gwendolyn Vuurberg, Marjan Doppen, Joey Roosen, Tip Stille, Thi Quynh Ha, Thuy Duong Quach, Quoc Vu Dang, Manh Ha Luu, Ewoud J. Smit, Hong Son Mai, Mattias Heinrich, Bram van Ginneken, Mathias Prokop, Alessa Hering

机构 * Department of Imaging, Radboudumc, Nijmegen, the Netherlands（影像部，Radboudumc，尼姆egen，荷兰） ； Institute for Medical Informatics, University of Lübeck, Lübeck, Germany（医学信息研究所，吕贝克大学，吕贝克，德国） ； Department of Nuclear Medicine, Hospital 108, Hanoi, Vietnam（核医学部，108医院，河内，越南） ； Department of Diagnostic Imaging and Interventional Radiology, Thai Nguyen National Hospital, Thai Nguyen, Vietnam（诊断影像和介入放射科，Thai Nguyen国家医院，Thai Nguyen，越南） ； Interventional Radiology Center, Tam Anh Hospital, Hanoi, Vietnam（介入放射科中心，Tam Anh医院，河内，越南） ； FET, Vietnam National University, University of Engineering and Technology, Hanoi, Vietnam（FET，越南国家大学，工程与技术大学，河内，越南） 纠错

专题命中 安全评测 ：alignment(abstract)

Large Language Models Versus Static Code Analysis Tools: A Systematic Benchmark for Vulnerability Detection

Damian Gnieciak, Tomasz Szandala

专题命中 安全评测 ：safety(abstract)

CLIPVehicle: A Unified Framework for Vision-based Vehicle Search

Likai Wang, Ruize Han, Xiangqun Zhang, Wei Feng

机构 * College of Intelligence and Computing, Tianjin University（智能与计算学院，天津大学） ； Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院，中国科学院） ； Shenzhen University of Advanced Technology（深圳大学先进技术学院） 纠错

专题命中 安全评测 ：alignment(abstract)

GRASPing Anatomy to Improve Pathology Segmentation

Keyi Li, Alexander Jaus, Jens Kleesiek, Rainer Stiefelhagen

机构 * Karlsruhe Institute of Technology, Karlsruhe, Germany（卡尔斯鲁厄理工学院） ； Helmholtz Information and Data Science School for Health, Germany（海德堡信息与数据科学健康学校） ； Department of Nuclear Medicine, University of Duisburg-Essen（杜伊斯堡-埃森大学核医学系） ； German Cancer Consortium (DKTK)- University Hospital Essen, Essen, Germany（德国癌症研究中心（DKTK）-埃森大学医院） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments Accepted at 16th MICCAI Workshop on Machine Learning in Medical Imaging (MLMI2025)

Robot builds a robot's brain: AI generated drone command and control station hosted in the sky

Peter Burke

机构 * Department of Electrical Engineering and Computer Science, University of California, Irvine（电气工程与计算机科学系，加州大学伊文斯顿分校） 纠错

专题命中 安全评测 ：safety(abstract)

AudioGenie: A Training-Free Multi-Agent Framework for Diverse Multimodality-to-Multiaudio Generation

Yan Rong, Jinting Wang, Guangzhi Lei, Shan Yang, Li Liu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； Tencent AI Lab（腾讯人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

LMME3DHF: Benchmarking and Evaluating Multimodal 3D Human Face Generation with LMMs

Woo Yi Yang, Jiarui Wang, Sijing Wu, Huiyu Duan, Yuxin Zhu, Liu Yang, Kang Fu, Guangtao Zhai, Xiongkuo Min

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 安全评测 ：alignment(abstract)

Bearing-Distance Flocking with Zone-Based Interactions in Constrained Dynamic Environments

Hossein B. Jond

专题命中 安全评测 ：alignment(abstract)

Comments Video for Figure 4: https://youtu.be/5nSml5F2oQk?si=X0q51SXcZiTRBdFS Video for Figure 6 (2D): https://youtu.be/ANkAZ9FMq0o?si=px8oSAeKkUwBR7uf Video for Figure 6 (3D): https://youtu.be/AUlcCH7P73U?si=QFYYeCGLIGdsJCad

Journal ref Journal of Computational Science, Volume 87, 2025, 102574

S-RRG-Bench: Structured Radiology Report Generation with Fine-Grained Evaluation Framework

Yingshu Li, Yunyi Liu, Zhanyu Wang, Xinyu Liang, Lingqiao Liu, Lei Wang, Luping Zhou

机构 * University of Sydney（悉尼大学） ； University of Wollongong（沃林戈大学） ； University of Adelaide（阿德莱德大学） ； First Clinical Medical College, Guangzhou University of Chinese Medicine（广州中医药大学第一临床学院） 纠错

专题命中 安全评测 ：alignment(abstract)

Set Pivot Learning: Redefining Generalized Segmentation with Vision Foundation Models

Xinhui Li, Xinyu He, Qiming Hu, Xiaojie Guo

机构 * College of Intelligence and Computing, Tianjin University（智能与计算学院，天津大学） 纠错

专题命中 安全评测 ：alignment(abstract)

Scendi Score: Prompt-Aware Diversity Evaluation via Schur Complement of CLIP Embeddings

Azim Ospanov, Mohammad Jalali, Farzan Farnia

机构 * The Chinese University of Hong Kong, Department of Computer Science & Engineering（香港中文大学计算机科学与工程系） 纠错

专题命中 安全评测 ：alignment(abstract)

Distributionally Robust Cascading Risk Quantification in Multi-Agent Rendezvous: Effects of Time Delay and Network Connectivity

Vivek Pandey, Nader Motee

专题命中 安全评测 ：safety(abstract)

Trade-offs in Image Generation: How Do Different Dimensions Interact?

Sicheng Zhang, Binzhu Xie, Zhonghao Yan, Yuli Zhang, Donghao Zhou, Xiaofei Chen, Shi Qiu, Jiaqi Liu, Guoyang Xie, Zhichao Lu

机构 * Khalifa University（卡利法大学） ； The Chinese University of Hong Kong（香港中文大学） ； Queen Mary University of London（伦敦大学玛丽女王学院） ； Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments Accepted in ICCV 2025, Codebase: https://github.com/fesvhtr/TRIG

Unmasking Synthetic Realities in Generative AI: A Comprehensive Review of Adversarially Robust Deepfake Detection Systems

Naseem Khan, Tuan Nguyen, Amine Bermak, Issa Khalil

机构 * Department of Computer Science（计算机科学系） ； Hamad bin Khalifa University（哈马德·本·哈利法大学） ； Qatar Computing Research Institute（卡塔尔计算研究所） 纠错

专题命中 安全评测 ：trustworthy(abstract)

Comments 27 pages, 4 Tables, 3 Figures

ADIEE: Automatic Dataset Creation and Scorer for Instruction-Guided Image Editing Evaluation

Sherry X. Chen, Yi Wei, Luowei Zhou, Suren Kumar

机构 * Samsung AI Center（三星AI中心） ； Mountain View University of California, Santa Barbara（山景城加州大学圣巴巴拉分校） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments International Conference on Computer Vision (ICCV) 2025

A Convex Optimization Approach to Model-Free Inverse Optimal Control with Provable Convergence

Meiling Yu, Lechen Feng, Lei Jiang, Yuan-Hua Ni

专题命中 安全评测 ：safety(abstract)

GenM$^3$: Generative Pretrained Multi-path Motion Model for Text Conditional Human Motion Generation

Junyu Shi, Lijiang Liu, Yong Sun, Zhiyuan Zhang, Jinni Zhou, Qiang Nie

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） 纠错

专题命中 安全评测 ：alignment(abstract)

KITTEN: A Knowledge-Intensive Evaluation of Image Generation on Visual Entities

Hsin-Ping Huang, Xinyi Wang, Yonatan Bitton, Hagai Taitelbaum, Gaurav Singh Tomar, Ming-Wei Chang, Xuhui Jia, Kelvin C. K. Chan, Hexiang Hu, Yu-Chuan Su, Ming-Hsuan Yang

专题命中 安全评测 ：alignment(abstract)

Comments Project page: https://kitten-project.github.io/

Anticipate, Simulate, Reason (ASR): A Comprehensive Generative AI Framework for Combating Messaging Scams

Xue Wen Tan, Kenneth See, Stanley Kok

专题命中 安全评测 ：safety(abstract)

Comments arXiv admin note: text overlap with arXiv:2412.13528

Preserve Anything: Controllable Image Synthesis with Object Preservation

Prasen Kumar Sharma, Neeraj Matiyali, Siddharth Srivastava, Gaurav Sharma

专题命中 安全评测 ：alignment(abstract)

Comments Accepted at ICCV 2025 (main conference)

AgMMU: A Comprehensive Agricultural Multimodal Understanding Benchmark

Aruna Gauba, Irene Pi, Yunze Man, Ziqi Pang, Vikram S. Adve, Yu-Xiong Wang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Rice University（Rice大学） ； Carnegie Mellon University（卡内基梅隆大学） ； AIFARMS ； Center for Digital Agriculture at UIUC（伊利诺伊大学厄巴纳-香槟分校数字农业中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)

Comments Project Website: https://agmmu.github.io/ Huggingface: https://huggingface.co/datasets/AgMMU/AgMMU_v1/

PDB-Eval: An Evaluation of Large Multimodal Models for Description and Explanation of Personalized Driving Behavior

Junda Wu, Jessica Echterhoff, Kyungtae Han, Amr Abdelraouf, Rohit Gupta, Julian McAuley

机构 * Computer Science and Engineering University of California San Diego（计算机科学与工程大学加州大学圣地亚哥分校） ； InfoTech Labs Toyota Motor North America（信息科技实验室丰田北美） 纠错

专题命中 安全评测 ：safety(abstract)