大模型对齐与安全

Lightweight Prompt Engineering for Cognitive Alignment in Educational AI: A OneClickQuiz Case Study

Antoun Yaacoub, Zainab Assaghir, Jérôme Da-Rugna

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.CY

Comments Published in the 36th Central European Conference on Information and Intelligent Systems(CECIIS)at: Varaždin, Croatia. September 17-19/2025. ISSN 1847-2001 (Print). ISSN 1848-2295 (Online)

Do LLMs Align with My Task? Evaluating Text-to-SQL via Dataset Alignment

Davood Rafiei, Morgan Lindsay Heisler, Weiwei Zhang, Mohammadreza Pourreza, Yong Zhang

机构 * University of Alberta（阿尔伯塔大学） ； Huawei Tech. Canada（华为技术加拿大） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

Spectral Alignment as Predictor of Loss Explosion in Neural Network Training

Haiquan Qiu, You Wu, Yingjie Tan, Yaqing Wang, Quanming Yao

机构 * Tsinghua University（清华大学） ； Beijing Institute of Mathematical Sciences and Applications（北京数学科学研究院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

Comments 18 pages, 8 figures

Automating construction safety inspections using a multi-modal vision-language RAG framework

Chenxin Wang, Elyas Asadi Shamsabadi, Zhaohui Chen, Luming Shen, Alireza Ahmadian Fard Fini, Daniel Dias-da-Costa

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL

Comments 33 pages, 11 figures, 7 tables

Bridging the Gap Between Multimodal Foundation Models and World Models

Xuehai He

机构 * Computer Science and Engineering University of California, Santa Cruz（计算机科学与工程大学加州大学圣克ruz分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments PhD thesis

The Hidden Game Problem

Gon Buzaglo, Noah Golowich, Elad Hazan

机构 * Princeton University（普林斯顿大学） ； Microsoft Research（微软研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

MulVuln: Enhancing Pre-trained LMs with Shared and Language-Specific Knowledge for Multilingual Vulnerability Detection

Van Nguyen, Surya Nepal, Xingliang Yuan, Tingmin Wu, Fengchao Chen, Carsten Rudolph

机构 * Monash University（墨尔本大学） ； CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61分部） ； The University of Melbourne（墨尔本大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

Empowering Denoising Sequential Recommendation with Large Language Model Embeddings

Tongzhou Wu, Yuhao Wang, Maolin Wang, Chi Zhang, Xiangyu Zhao

机构 * City University of Hong Kong（香港城市大学） ； Harbin Engineering University（哈尔滨工程大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments Accepted by CIKM2025

HNote: Extending YNote with Hexadecimal Encoding for Fine-Tuning LLMs in Music Modeling

Hung-Ying Chu, Shao-Yu Wei, Guan-Wei Chen, Tzu-Wei Hung, ChengYang Tsai, Yu-Cheng Lin

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Graph Generation Powered with LLMs for Boosting Multivariate Time-Series Representation Learning

Yucheng Wang, Min Wu, Ruibing Jin, Xiaoli Li, Lihua Xie, Zhenghua Chen

机构 * Institute for Infocomm Research, A ∗ STAR, Singapore（信息通信研究所，A*STAR，新加坡） ； School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore（电气电子工程学院，南洋理工大学，新加坡） ； College of Computing and Data Science, Nanyang Technological University, Singapore（计算与数据科学学院，南洋理工大学，新加坡） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Revolutionizing Validation and Verification: Explainable Testing Methodologies for Intelligent Automotive Decision-Making Systems

Halit Eris, Stefan Wagner

专题命中 其他安全 ：safety(abstract)

Comments Preprint to be published at SE4ADS

Journal ref 2025 IEEE/ACM 1st International Workshop on Software Engineering for Autonomous Driving Systems (SE4ADS), Ottawa, ON, Canada, 2025, pp. 34-37

RESCUE: Crowd Evacuation Simulation via Controlling SDM-United Characters

Xiaolin Liu, Tianyi Zhou, Hongbo Kang, Jian Ma, Ziwen Wang, Jing Huang, Wenguo Weng, Yu-Kun Lai, Kun Li

机构 * Tianjin University（天津大学） ； Tsinghua University（清华大学） ； Cardiff University（卡迪夫大学） 纠错

专题命中 其他安全 ：safety(abstract)

Machine-learning inference of stellar properties using integrated photometric and spectroscopic data

Ilay Kamai, Alex M. Bronstein, Hagai B. Perets

专题命中 其他安全 ：alignment(abstract)

Comments Accepted to ApJ

VisualChef: Generating Visual Aids in Cooking via Mask Inpainting

Oleh Kuzyk, Zuoyue Li, Marc Pollefeys, Xi Wang

机构 * ETH Zürich（苏黎世联邦理工学院） ； Microsoft（微软） ； TU Munich（慕尼黑工业大学） ； MCML 纠错

专题命中 其他安全 ：alignment(abstract)

Comments GCPR 2025 (oral presentation; Best Master's Thesis Award)

From Gaze to Insight: Bridging Human Visual Attention and Vision Language Model Explanation for Weakly-Supervised Medical Image Segmentation

Jingkun Chen, Haoran Duan, Xiao Zhang, Boyan Gao, Vicente Grau, Jungong Han

机构 * Department of Engineering Science, University of Oxford（工程科学系，牛津大学） ； Department of Automation, Tsinghua University（自动化系，清华大学） ； School of Information Science and Technology, Northwest University（信息科学与技术学院，西北大学） 纠错

专题命中 其他安全 ：alignment(abstract)

Comments 11 pages, 4 figures

Law of Vision Representation in MLLMs

Shijia Yang, Bohan Zhai, Quanzeng You, Jianbo Yuan, Hongxia Yang, Chenfeng Xu

机构 * Stanford University（斯坦福大学） ； UC Berkeley（加州大学伯克利分校） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 其他安全 ：alignment(abstract)

Comments The code is available at https://github.com/bronyayang/Law_of_Vision_Representation_in_MLLMs