大模型对齐与安全

NOMAD -- Navigating Optimal Model Application to Datastreams

Ashwin Gerard Colaco, Sharad Mehrotra, Michael J De Lucia, Kevin Hamlen, Murat Kantarcioglu, Latifur Khan, Ananthram Swami, Bhavani Thuraisingham

专题命中 安全评测 ：safety(abstract)

RL-U$^2$Net: A Dual-Branch UNet with Reinforcement Learning-Assisted Multimodal Feature Fusion for Accurate 3D Whole-Heart Segmentation

Jierui Qu, Jianchun Zhao

专题命中 安全评测 ：alignment(abstract)

Multi-scale Cascaded Foundation Model for Whole-body Organs-at-risk Segmentation

Rui Hao, Dayu Tan, Qiankun Li, Chunhou Zheng, Weimin Zhong, Zhigang Zeng

机构 * School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（人工智能与自动化学院，华中科技大学） ； Institute of Artificial Intelligence, Huazhong University of Science and Technology（人工智能研究院，华中科技大学） ； Hubei Key Laboratory of Brain-Inspired Intelligent Systems, Huazhong University of Science and Technology（湖北省脑启发智能系统重点实验室，华中科技大学） ； Key Laboratory of Image Processing and Intelligent Control (Huazhong University of Science and Technology), Ministry of Education（图像处理与智能控制重点实验室（华中科技大学），教育部） ； Key Laboratory of Intelligent Computing and Signal Processing, Ministry of Education, Anhui University（智能计算与信号处理重点实验室（安徽大学），教育部） ； College of Computing and Data Science (CCDS), Nanyang Technological University（计算与数据科学学院（CCDS），南洋理工大学） ； East China University of Science and Technology（东华大学） 纠错

专题命中 安全评测 ：safety(abstract)

VectorSynth: Fine-Grained Satellite Image Synthesis with Structured Semantics

Daniel Cher, Brian Wei, Srikumar Sastry, Nathan Jacobs

机构 * Washington University in St. Louis（华盛顿大学圣路易斯分校） 纠错

专题命中 安全评测 ：alignment(abstract)

Generating an Image From 1,000 Words: Enhancing Text-to-Image With Structured Captions

Eyal Gutflaish, Eliran Kachlon, Hezi Zisman, Tal Hacham, Nimrod Sarid, Alexander Visheratin, Saar Huberman, Gal Davidi, Guy Bukchin, Kfir Goldberg, Ron Mokady

机构 * BRIA AI（BRIA人工智能） 纠错

专题命中 安全评测 ：alignment(abstract)

NOVO: Bridging LLaVA and SAM with Visual-only Prompts for Reasoning Segmentation

Kyung-Yoon Yoon, Yeong-Jun Cho

机构 * Department of Artificial Intelligence Convergence（人工智能融合系） 纠错

专题命中 安全评测 ：alignment(abstract)

Selection and Stability of Functional Connectivity Features for Classification of Brain Disorders

Aniruddha Saha, Soujanya Hazra, Sanjay Ghosh

专题命中 安全评测 ：trustworthy(abstract)

Comments 10 pages, 5 figures, and 5 tables

SkinCaRe: A Multimodal Dermatology Dataset Annotated with Medical Caption and Chain-of-Thought Reasoning

Yuhao Shen, Liyuan Sun, Yan Xu, Wenbin Liu, Shuping Zhang, Shawn Afvari, Zhongyi Han, Jiaoyan Song, Yongzhi Ji, Tao Lu, Xiaonan He, Xin Gao, Juexiao Zhou

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen (CUHK–Shenzhen)（数据科学学院，香港中文大学（深圳）） ； Computer Science Program, CEMSE Division, King Abdullah University of Science and Technology (KAUST)（计算机科学项目，科学与工程学院，国王 Abdullah 科学技术大学） ； Center of Excellence on Smart Health, KAUST（智能健康卓越中心，国王 Abdullah 科学技术大学） ； Center of Excellence for Generative AI, KAUST（生成式人工智能卓越中心，国王 Abdullah 科学技术大学） ； Department of Dermatology, Beijing AnZhen Hospital, Capital Medical University（皮肤科，北京安贞医院，首都医科大学） ； Department of Dermatology, Tianjin Institute of Integrative Dermatology, Tianjin Academy of Traditional Chinese Medicine Affiliated Hospital（皮肤科，天津整合皮肤科研究院，天津中医药大学附属医院） ； Department of Dermatology, Beijing Aerospace General Hospital（皮肤科，北京航天总医院） ； Department of Dermatology, The First Affiliated Hospital, Shantou University Medical College（皮肤科，汕头大学医学院第一附属医院） ； DermAssure, LLC（DermAssure 公司） ； School of Medicine, New York Medical College（医学院，纽约医学院） ； Capital Medical University（首都医科大学） ； Department of Dermatology, Second Hospital of Jilin University（皮肤科，吉林大学第二医院） ； Emergency Critical Care Center, Beijing AnZhen Hospital, Capital Medical University（急诊重症中心，北京安贞医院，首都医科大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

PSD2Code: Automated Front-End Code Generation from Design Files via Multimodal Large Language Models

Yongxi Chen, Lei Chen

专题命中 安全评测 ：alignment(abstract)

A Tool for Benchmarking Large Language Models' Robustness in Assessing the Realism of Driving Scenarios

Jiahui Wu, Chengjie Lu, Aitor Arrieta, Shaukat Ali

专题命中 安全评测 ：safety(abstract)

Implementation Considerations for Automated AI Grading of Student Work

Zewei Tian, Alex Liu, Lief Esbenshade, Shawon Sarkar, Zachary Zhang, Kevin He, Min Sun

专题命中 安全评测 ：trustworthy(abstract)

SCALE-VLP: Soft-Weighted Contrastive Volumetric Vision-Language Pre-training with Spatial-Knowledge Semantics

Ailar Mahdizadeh, Puria Azadi Moghadam, Xiangteng He, Shahriar Mirabbasi, Panos Nasiopoulos, Leonid Sigal

机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute for AI（人工智能向量研究所） 纠错

专题命中 安全评测 ：alignment(abstract)

Quantitative Risk Assessment in Radiation Oncology via LLM-Powered Root Cause Analysis of Incident Reports

Yuntao Wang, Siamak P. Najad-Davarani, Elizabeth Bossart, Matthew T. Studenski, Mariluz De Ornelas, Yunze Yang

专题命中 安全评测 ：safety(abstract)

Towards LLM-Powered Task-Aware Retrieval of Scientific Workflows for Galaxy

Shamse Tasnim Cynthia, Banani Roy

专题命中 安全评测 ：alignment(abstract)

Aligning Speech to Languages to Enhance Code-switching Speech Recognition

Hexin Liu, Xiangyu Zhang, Haoyang Zhang, Leibny Paola Garcia, Andy W. H. Khong, Eng Siong Chng, Shinji Watanabe

专题命中 安全评测 ：alignment(abstract)

Comments Accepted to IEEE Trans. Audio Speech Lang. Process., copyright has been transferred to IEEE

Unveiling Uniform Shifted Power Law in Stochastic Human and Autonomous Driving Behavior

Wang Chen, Heye Huang, Ke Ma, Hangyu Li, Shixiao Liang, Hang Zhou, Xiaopeng Li

专题命中 安全评测 ：safety(abstract)

CueBench: Advancing Unified Understanding of Context-Aware Video Anomalies in Real-World

Yating Yu, Congqi Cao, Zhaoying Wang, Weihua Meng, Jie Li, Yuxin Li, Zihao Wei, Zhongpei Shen, Jiajun Zhang

专题命中 安全评测 ：safety(abstract)

Semantic-Aware Representation Learning via Conditional Transport for Multi-Label Image Classification

Ren-Dong Xie, Zhi-Fen He, Bo Li, Bin Liu, Jin-Yan Hu

机构 * School of Mathematics and Information Science（数学与信息科学学院） ； Key Laboratory of Jiangxi Province for Image Processing and Pattern Recognition（江西省图像处理与模式识别重点实验室） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments The paper is under consideration at Pattern Recognition Letters

D-HUMOR: Dark Humor Understanding via Multimodal Open-ended Reasoning -- A Benchmark Dataset and Method

Sai Kartheek Reddy Kasu, Mohammad Zia Ur Rehman, Shahid Shafi Dar, Rishi Bharat Junghare, Dhanvin Sanjay Namboodiri, Nagendra Kumar

机构 * Indian Institute of Information Technology Dharwad, India（印度达拉瓦德信息科技学院） ； Indian Institute of Technology Indore, India（印度印度理工学院） ； Malaviya National Institute of Technology Jaipur, India（马拉维亚国家理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments Accepted at IEEE International Conference on Data Mining (ICDM) 2025

Towards Automated Quality Assurance of Patent Specifications: A Multi-Dimensional LLM Framework

Yuqian Chai, Chaochao Wang, Weilei Wang

专题命中 安全评测 ：alignment(abstract)

SLIP-SEC: Formalizing Secure Protocols for Model IP Protection

Racchit Jain, Satya Lokam, Yehonathan Refael, Adam Hakim, Lev Greenberg, Jay Tenenbaum

专题命中 安全评测 ：safety(abstract)

Explicitly Modeling Subcortical Vision with a Neuro-Inspired Front-End Improves CNN Robustness

Lucas Piper, Arlindo L. Oliveira, Tiago Marques

机构 * INESC-ID ； Instituto Superior Técnico（理工学院） ； Universidade de Lisboa（里斯本大学） ； Breast Cancer Research Program（乳腺癌研究计划） ； Champalimaud Foundation（恰帕拉马德基金会） ； Faculdade de Medicina de Lisboa（里斯本医学院） 纠错

专题命中 安全评测 ：alignment(abstract)

A Survey on Collaborative SLAM with 3D Gaussian Splatting

Phuc Nguyen Xuan, Thanh Nguyen Canh, Huu-Hung Nguyen, Nak Young Chong, Xiem HoangVan

机构 * Institute of System Integration, Le Quy Don Technical University, Hanoi, 10000, Vietnam（越南吕文技术大学系统整合研究所） ； Graduate School of Advanced Science and Technology, Japan Advanced Institute of Science and Technology（日本先进科学技术研究院先进科学技术研究生院） ； University of Engineering and Technology, Vietnam National University, Hanoi, 10000, Vietnam（越南国家大学工程技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)

Machine Learning-Driven User Localization in RIS-Assisted Wireless Systems

M. T. Hassan, D. Zelenchuk, M. A. B. Abbasi

专题命中 安全评测 ：alignment(abstract)

AnyCap Project: A Unified Framework, Dataset, and Benchmark for Controllable Omni-modal Captioning

Yiming Ren, Zhiqiang Lin, Yu Li, Gao Meng, Weiyun Wang, Junjie Wang, Zicheng Lin, Jifeng Dai, Yujiu Yang, Wenhai Wang, Ruihang Chu

机构 * Tsinghua University（清华大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 安全评测 ：alignment(abstract)

P1GPT: a multi-agent LLM workflow module for multi-modal financial information analysis

Chen-Che Lu, Yun-Cheng Chou, Teng-Ruei Chen

专题命中 安全评测 ：trustworthy(abstract)

Probing the Representational Geometry of Color Qualia: Dissociating Pure Perception from Task Demands in Brains and AI Models

Jing Xu

专题命中 安全评测 ：alignment(abstract)

Self-Calibrated Consistency can Fight Back for Adversarial Robustness in Vision-Language Models

Jiaxiang Liu, Jiawei Du, Xiao Liu, Prayag Tiwari, Mingkun Xu

机构 * Guangdong Institute of Intelligence Science and Technology（广东智能科学与技术研究院） ； Agency for Science, Technology and Research（科技研究局） ； School of Information Technology（信息技术学院） 纠错

专题命中 安全评测 ：alignment(abstract)

T2ICount: Enhancing Cross-modal Understanding for Zero-Shot Counting

Yifei Qian, Zhongliang Guo, Bowen Deng, Chun Tong Lei, Shuai Zhao, Chun Pong Lau, Xiaopeng Hong, Michael P. Pound

机构 * University of Nottingham（诺丁汉大学） ； University of St Andrews（圣安德鲁大学） ； City University of Hong Kong（香港城市大学） ； Nanyang Technology University（南洋理工大学） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments Accepted by CVPR2025

Knowledge-Informed Neural Network for Complex-Valued SAR Image Recognition

Haodong Yang, Zhongling Huang, Shaojie Guo, Zhe Zhang, Gong Cheng, Junwei Han

机构 * School of Automation, Northwestern Polytechnical University（西北工业大学自动化学院） ； Shenzhen Research Institute of Northwestern Polytechnical University（西北工业大学深圳研究院） ； School of Artificial Intelligence, Chongqing University of Posts and Telecommunications（重庆邮电大学人工智能学院） ； Aerospace Information Technology University（航天信息大学） ； Suzhou Aerospace Information Research Institute（苏州航天信息研究所） ； National Key Laboratory of Microwave Imaging（微波成像国家重点实验室） ； Aerospace Information Research Institute, CAS（中国科学院航天信息研究所） ； School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences（中国科学院大学电子、电气与通信工程学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)