大模型对齐与安全

Improving Model Fusion by Training-time Neuron Alignment with Fixed Neuron Anchors

Zexi Li, Zhiqi Li, Jie Lin, Tao Shen, Jun Xiao, Yike Guo, Tao Lin, Chao Wu

机构 * Zhejiang University（浙江大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Westlake University（西湖大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

Comments IEEE Transactions on Pattern Analysis and Machine Intelligence

deepSURF: Detecting Memory Safety Vulnerabilities in Rust Through Fuzzing LLM-Augmented Harnesses

Georgios Androutsopoulos, Antonio Bianchi

机构 * Purdue University（普渡大学） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.LG

Comments At IEEE S&P 2026

Distinct social-linguistic processing between humans and large audio-language models: Evidence from model-brain alignment

Hanlin Wu, Xufeng Duan, Zhenguang Cai

机构 * Department of Linguistics and Modern Languages, The Chinese University of Hong Kong（语言学与现代语言系，香港中文大学） ； Brain and Mind Institute, The Chinese University of Hong Kong（脑与心智研究所，香港中文大学） 纠错

专题命中 其他安全 ：alignment(title,comments)；分类 cs.CL

Comments Hanlin Wu, Xufeng Duan, and Zhenguang Cai. 2025. Distinct social-linguistic processing between humans and large audio-language models: Evidence from model-brain alignment. In Proceedings of the Workshop on Cognitive Modeling and Computational Linguistics, pages 135-143, Albuquerque, New Mexico, USA. Association for Computational Linguistics. https://aclanthology.org/2025.cmcl-1.18/

Journal ref In Proceedings of CMCL, pages 135-143, ACL (2025)

ENTP: Enhancing Low-Quality SFT Data via Neural-Symbolic Text Purge-Mix

Zile Yang, Ling Li, Na Di, Jinlong Pang, Yao Zhou, Hao Cheng, Bo Han, Jiaheng Wei

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； University of California, Santa Cruz（加州大学圣克鲁兹分校） ； Hong Kong Baptist University（香港 Baptist 大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

LLM/Agent-as-Data-Analyst: A Survey

Zirui Tang, Weizheng Wang, Zihang Zhou, Yang Jiao, Bangrui Xu, Boyu Niu, Dayou Zhou, Xuanhe Zhou, Guoliang Li, Yeye He, Wei Zhou, Yitong Song, Cheng Tan, Xue Yang, Chunwei Liu, Bin Wang, Conghui He, Xiaoyang Wang, Fan Wu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； Microsoft Research（微软研究院） ； MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； Shanghai AI Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments 31 page, 9 figures

Does Rationale Quality Matter? Enhancing Mental Disorder Detection via Selective Reasoning Distillation

Hoyun Song, Huije Lee, Jisu Shin, Sukmin Cho, Changgeon Ko, Jong C. Park

机构 * School of Computing（计算学院） ； Korea Advanced Institute of Science and Technology（韩国科学技术院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

DeepVigor+: Scalable and Accurate Semi-Analytical Fault Resilience Analysis for Deep Neural Network

Mohammad Hasan Ahmadilivani, Jaan Raik, Masoud Daneshtalab, Maksim Jenihhin

机构 * Tallinn University of Technology（塔林技术大学） ； Mälardalen University（马尔默大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

Comments 14 pages, 9 figures, 8 tables, 16 equations. The source code is accessible via: https://github.com/mhahmadilivany/DeepVigor

Semantic Relation-Enhanced CLIP Adapter for Domain Adaptive Zero-Shot Learning

Jiaao Yu, Mingjie Han, Jinkun Jiang, Junyu Dong, Tao Gong, Man Lan

机构 * School of Computer Science and Technology, East China Normal University, China（东华大学计算机科学与技术学院） ； College of Computer Science and Technology, Ocean University of China, China（中国海洋大学计算机科学与技术学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments 5 pages

Frame-Difference Guided Dynamic Region Perception for CLIP Adaptation in Text-Video Retrieval

Jiaao Yu, Mingjie Han, Tao Gong, Jian Zhang, Man Lan

机构 * School of Computer Science and Technology, East China Normal University, China（上海师范大学计算机科学与技术学院） ； School of Information Science and Technology, University of Science and Technology of China（中国科学技术大学信息科学与技术学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments 5 pages

TWC-SLAM: Multi-Agent Cooperative SLAM with Text Semantics and WiFi Features Integration for Similar Indoor Environments

Chunyu Li, Shoubin Chen, Dong Li, Weixing Xue, Qingquan Li

机构 * Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东人工智能与数字经济实验室） ； Shenzhen University（深圳大学） ； College of natural resources and environment（自然资源与环境学院） 纠错

专题命中 其他安全 ：alignment(abstract)

Comments Accepted by the IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) 2025

A Training-Free Framework for Open-Vocabulary Image Segmentation and Recognition with EfficientNet and CLIP

Ying Dai, Wei Yu Chen

专题命中 其他安全 ：alignment(abstract)

Phylogenetic Corrections and Higher-Order Sequence Statistics in Protein Families: The Potts Model vs MSA Transformer

Kisan Khatri, Ronald M. Levy, Allan Haldane

专题命中 其他安全 ：alignment(abstract)

Comments 7 pages, 5 figures, Also presented in BPS2025 Annual Meeting, Los Angeles, California