大模型对齐与安全

Can Finetuing LLMs on Small Human Samples Increase Heterogeneity, Alignment, and Belief-Action Coherence?

能否通过在小样本人类数据上微调LLM增加异质性、对齐性和信念-行为一致性？

Steven Wang, Kyle Hunt, Shaojie Tang, Kenneth Joseph

机构 * Department of Management Science and Systems, University at Buffalo（管理科学与系统系，布法罗大学） ； Department of Computer Science and Engineering, University at Buffalo（计算机科学与工程系，布法罗大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本研究探讨通过微调LLM在小样本人类数据上是否能提高模拟结果的异质性、对齐性和信念-行为一致性，发现虽有提升但无法完全替代人类数据。

Text-Routed Sparse Mixture-of-Experts Model with Explanation and Temporal Alignment for Multi-Modal Sentiment Analysis

基于解释和时序对齐的文本引导稀疏专家混合模型用于多模态情感分析

Dongning Rao, Yunbiao Zeng, Zhihua Jiang, Jujian Lv

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出基于解释和时序对齐的文本引导稀疏专家混合模型，用于提升多模态情感分析的性能。

Comments 9 pages, 9 figures, accepted by AAAI 2026

LVLM-Aided Alignment of Task-Specific Vision Models

通过大视觉语言模型辅助对齐任务特定视觉模型

Alexander Koebler, Lukas Kuhn, Ingo Thon, Florian Buettner

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 通过大视觉语言模型辅助对齐任务特定视觉模型，提升模型与人类规范的一致性。

Continuous Vision-Language-Action Co-Learning with Semantic-Physical Alignment for Behavioral Cloning

具有语义-物理对齐的连续视觉-语言-动作共学用于行为克隆

Xiuxiu Qi, Yu Yang, Jiannong Cao, Luyao Bai, Chongshan Fan, Chengtai Cao, Hongpeng Wang

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出CCoL框架，通过连续共学视觉、语言和动作，解决行为克隆中的语义-物理不一致问题，提升动作执行的准确性和鲁棒性。

Comments Accepted at AAAI 2026, the Project website is available at https://qhemu.github.io/CCoL/

GraphShaper: Geometry-aware Alignment for Improving Transfer Learning in Text-Attributed Graphs

GraphShaper: 图形感知对齐以提高文本属性图形中的迁移学习

Heng Zhang, Tianyi Zhang, Yuling Shi, Xiaodong Gu, Yaomin Shen, Haochen You, Zijian Zhang, Yilei Yuan, Jin Huang

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 GraphShaper通过多几何专门化框架提升文本属性图中迁移学习的性能，实现9.47%和7.63%的准确率提升。

Comments This submission has been withdrawn by the authors due to a fundamental error in the methodology that affects the validity of the main results

Enhancing Medical Large Vision-Language Models via Alignment Distillation

通过对齐蒸馏增强医学大视觉-语言模型

Aofei Chang, Ting Wang, Fenglong Ma

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出MEDALIGN方法，通过蒸馏CLIP模型的知识提升医学大视觉-语言模型的视觉对齐和生成质量。

Comments Accepted to AAAI'2026 (Main track)

Hierarchical Multimodal LLMs with Semantic Space Alignment for Enhanced Time Series Classification

具有语义空间对齐的层次多模态大语言模型用于增强的时间序列分类

Xiaoyu Tao, Tingyue Pan, Mingyue Cheng, Yucong Luo, Qi Liu, Enhong Chen

机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（认知智能国家重点实验室，中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 HiTime通过层次多模态大语言模型和语义空间对齐，提升时间序列分类的性能。

C-DGPA: Class-Centric Dual-Alignment Generative Prompt Adaptation

面向类别的双对齐生成提示适应：C-DGPA

Chao Li, Dasha Hu, Chengyang Li, Yuming Jiang, Yuncheng Shen

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 C-DGPA通过双分支架构协同优化边缘分布和条件分布对齐，提升无监督领域适应中提示学习的领域不变性和语义判别性。

MAIN: Mutual Alignment Is Necessary for instruction tuning

MAIN：互斥对齐是指令微调的必要条件

Fanyi Yang, Jianfeng Liu, Xin Zhang, Haoyu Liu, Xixin Cao, Yuefeng Zhan, Hao Sun, Weiwei Deng, Feng Sun, Qi Zhang

机构 * Peking University（北京大学） ； Microsoft Corporation（微软公司） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出MAIN框架，通过互斥约束增强指令与响应的一致性，提升LLM在多种基准上的性能。

Comments Accepted by EMNLP 2025

SIGMMA: Hierarchical Graph-Based Multi-Scale Multi-modal Contrastive Alignment of Histopathology Image and Spatial Transcriptome

SIGMMA：基于层次图的多尺度多模态对比对齐：组织病理图像与空间转录组

Dabin Jeong, Amirhossein Vahidi, Ciro Ramírez-Suástegui, Marie Moullet, Kevin Ly, Mohammad Vali Sanian, Sebastian Birk, Yinshui Chang, Adam Boxall, Daniyal Jafree, Lloyd Steele, Vijaya Baskar MS, Muzlifah Haniffa, Mohammad Lotfollahi

机构 * Wellcome Sanger Institute（沃森桑格研究所） ； Cambridge Centre for AI in Medicine（剑桥人工智能医学中心） ； Institute of AI for Health（人工智能与健康研究所） ； Cambridge Stem Cell Institute（剑桥干细胞研究所） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 SIGMMA通过多尺度多模态对比对齐，提升组织病理图像与空间转录组的跨模态对应表示，提高基因表达预测和跨模态检索性能。

Probability Estimation for Predicted-Occupancy Grids in Vehicle Safety Applications Based on Machine Learning

基于机器学习的车辆安全应用中预测占用网格的概率估计

Parthasarathy Nadarajan, Michael Botsch

机构 * Technische Hochschule Ingolstadt（图宾根工业大学） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.LG

AI总结 本文提出基于随机森林算法的机器学习方法，用于高效计算车辆安全应用中的预测占用网格，以提升关键性估计和轨迹规划能力。

Comments 2016 IEEE Intelligent Vehicles Symposium

Insight Miner: A Time Series Analysis Dataset for Cross-Domain Alignment with Natural Language

Insight Miner: 一个用于跨领域对齐的时间序列分析数据集与自然语言

Yunkai Zhang, Yawen Zhang, Ming Zheng, Kezhen Chen, Chongyang Gao, Ruian Ge, Siyuan Teng, Amine Jelloul, Jinmeng Rao, Xiaoyuan Guo, Chiang-Wei Fang, Zeyu Zheng, Jie Yang

机构 * UC Berkeley（加州大学伯克利分校） ； Mineral（矿石） ； Northwestern University（西北大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 Insight Miner 是一个大规模多模态模型，通过代理工作流生成高质量时间序列描述，提升跨领域时间序列分析能力。

Optimal Transportation and Alignment Between Gaussian Measures

高斯测度间的最优运输与对齐

Sanjit Dandapanthula, Aleksandr Podkopaev, Shiva Prasad Kasiviswanathan, Aaditya Ramdas, Ziv Goldfeld

机构 * Carnegie Mellon University, Department of Statistics（卡内基梅隆大学统计学系） ； Amazon Web Services (AWS) LogAnalytics（亚马逊网络服务（AWS）日志分析） ； Carnegie Mellon University, Machine Learning Department（卡内基梅隆大学机器学习系） ； Cornell University, Department of Electrical and Computer Engineering（康奈尔大学电子与计算机工程系） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出了一种针对高斯分布的最优运输与格罗莫夫-沃瑟斯坦对齐的闭式解，扩展到内积GW对齐，并应用于知识蒸馏和异构聚类。

RECAP: Transparent Inference-Time Emotion Alignment for Medical Dialogue Systems

RECAP：医疗对话系统中透明的推理时间情感对齐

Adarsh Srinivasan, Jacob Dineen, Muhammad Umar Afzal, Muhammad Uzair Sarfraz, Irbaz B. Riaz, Ben Zhou

专题命中 其他安全 ：alignment(title)；safety(abstract)；分类 cs.CL

AI总结 RECAP通过结构化情感推理提升医疗对话系统的情感响应质量，实现透明和可审计的同理心沟通。

Graph-Attention Network with Adversarial Domain Alignment for Robust Cross-Domain Facial Expression Recognition

具有对抗域对齐的图注意力网络用于鲁棒跨域面部表情识别

Razieh Ghaedi, AmirReza BabaAhmadi, Reyer Zwiggelaar, Xinqi Fan, Nashid Alam

机构 * Manchester Metropolitan University（曼彻斯特 Metropolitan 大学） ； University of Tehran（泰姬大学） ； Aberystwyth University（阿伯里斯特维斯大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 GAT-ADA通过结合图注意力网络与对抗域对齐技术，提升跨域面部表情识别的鲁棒性，实现98.0%的准确率。

Comments 17 pages, 5 figures. Accepted at the 17th Asian Conference on Machine Learning (ACML 2025), Taipei, Taiwan, December 9-12, 2025

Fighting AI with AI: Leveraging Foundation Models for Assuring AI-Enabled Safety-Critical Systems

用AI对抗AI：利用基础模型确保AI赋能的安全关键系统

Anastasia Mavridou, Divya Gopinath, Corina S. Păsăreanu

机构 * KBR Inc.（KBR公司） ； NASA Ames（美国国家航空航天局阿姆斯研究中心） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出利用AI技术解决安全关键系统中AI保证问题，通过REACT和SemaLens两个组件实现需求工程与感知系统验证。

EEG-VLM: A Hierarchical Vision-Language Model with Multi-Level Feature Alignment and Visually Enhanced Language-Guided Reasoning for EEG Image-Based Sleep Stage Prediction

EEG-VLM：一种具有多级特征对齐和视觉增强语言引导推理的分层视觉-语言模型，用于基于EEG图像的睡眠阶段预测

Xihe Qiu, Gengchen Ma, Haoyu Wang, Chen Zhan, Xiaoyu Tan, Shuo Li

机构 * School of Electronic and Electrical Engineering, Shanghai University of Engineering Science（上海工程技术大学电子与电气工程学院） ； Department of Control Science and Engineering, College of Electronics and Information Engineering, Tongji University（同济大学电子信息工程学院控制科学与工程系） ； Tencent Youtu Lab（腾讯云视觉实验室） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 EEG-VLM通过多级特征对齐和视觉增强语言引导推理，提升基于EEG图像的睡眠阶段分类的准确性和可解释性。

Assessing the alignment between infants' visual and linguistic experience using multimodal language models

利用多模态语言模型评估婴儿的视觉和语言经验一致性

Alvin Wei Ming Tan, Jane Yang, Tarun Sepuri, Khai Loong Aw, Robert Z. Sparks, Zi Yin, Virginia A. Marchman, Michael C. Frank, Bria Long

机构 * Department of Psychology, Stanford University（心理学系，斯坦福大学） ； Department of Psychology, University of California, San Diego（心理学系，加州大学圣地亚哥分校） ； Department of Psychology, Tsinghua University（心理学系，清华大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 基于多模态语言模型评估婴儿视觉与语言经验一致性，揭示日常学习中视觉与语言对齐的稀有性及跨儿童差异。

VideoLights: Feature Refinement and Cross-Task Alignment Transformer for Joint Video Highlight Detection and Moment Retrieval

VideoLights: 用于联合视频亮点检测和时刻检索的特征细化与跨任务对齐变换器

Dhiman Paul, Md Rizwan Parvez, Nabeel Mohammed, Shafin Rahman

机构 * North South University（北南大学） ； Qatar Computing Research Institute (QCRI)（卡塔尔计算研究 institute） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 VideoLights通过引入特征细化、跨模态融合和联合任务反馈机制，提升视频亮点检测与时刻检索的性能。

Superposition disentanglement of neural representations reveals hidden alignment

André Longon, David Klindt, Meenakshi Khosla

机构 * UC San Diego（圣迭戈大学） ； Cold Spring Harbor Laboratory（冷泉港实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

Routing Manifold Alignment Improves Generalization of Mixture-of-Experts LLMs

Zhongyang Li, Ziyue Li, Tianyi Zhou

机构 * Johns Hopkins University（约翰霍普金斯大学） ； University of Maryland, College Park（马里兰大学学院公园分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

Dynamics-Decoupled Trajectory Alignment for Sim-to-Real Transfer in Reinforcement Learning for Autonomous Driving

Thomas Steinecker, Alexander Bienemann, Denis Trescher, Thorsten Luettel, Mirko Maehlisch

机构 * University of the Bundeswehr Munich（联邦国防军慕尼黑大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

HiMo-CLIP: Modeling Semantic Hierarchy and Monotonicity in Vision-Language Alignment

Ruijia Wu, Ping Chen, Fei Shen, Shaoan Zhao, Qiang Hui, Huanlin Gao, Ting Lu, Zhaoxiang Liu, Fang Zhao, Kai Wang, Shiguo Lian

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

Comments Accepted by AAAI 2026 as an Oral Presentation (13 pages, 7 figures, 7 tables)

Journal ref AAAI2026

ExGra-Med: Extended Context Graph Alignment for Medical Vision-Language Models

Duy M. H. Nguyen, Nghiem T. Diep, Trung Q. Nguyen, Hoang-Bao Le, Tai Nguyen, Tien Nguyen, TrungTin Nguyen, Nhat Ho, Pengtao Xie, Roger Wattenhofer, James Zou, Daniel Sonntag, Mathias Niepert

机构 * German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Max Planck Research School for Intelligent Systems (IMPRS-IS)（马克斯·普朗克智能系统研究学校） ； University of Stuttgart（斯图加特大学） ； University Medical Center Gottingen（哥廷根大学医学中心） ； Max Planck Institute for Multidisciplinary Sciences（马克斯·普朗克多学科科学研究所） ； ARC Centre of Excellence for the Mathematical Analysis of Cellular Systems（细胞系统数学分析卓越中心） ； School of Mathematical Sciences, Queensland University of Technology（昆士兰科技大学数学科学学院） ； University of Oldenburg（奥尔登堡大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of California San Diego（加州大学圣地亚哥分校） ； MBZUAI（马克斯·普朗克人工智能研究所） ； ETH Zurich（苏黎世联邦理工学院） ； Stanford University（斯坦福大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

Comments Accepted at NeurIPS 2025

A Probabilistic Approach to Pose Synchronization for Multi-Reference Alignment with Applications to MIMO Wireless Communication Systems

Rob Romijnders, Gabriele Cesa, Christos Louizos, Kumar Pratik, Arash Behboodi

机构 * University of Amsterdam（阿姆斯特丹大学） ； QUvA-Lab（QUvA实验室） ； Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

Comments To appear in NeurIPS workshop: AI and ML for Next-Generation Wireless Communications (AI4NextG)

Post Persona Alignment for Multi-Session Dialogue Generation

Yi-Pei Chen, Noriki Nishida, Hideki Nakayama, Yuji Matsumoto

机构 * RIKEN AIP（日本理化学研究所Advanced Institute for Physical Research） ； The University of Tokyo（东京大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

Comments EMNLP 2025 Findings

Towards Stable and Personalised Profiles for Lexical Alignment in Spoken Human-Agent Dialogue

Keara Schaaij, Roel Boumans, Tibor Bosse, Iris Hendrickx

机构 * Centre for Language Studies, Centre for Language and Speech Technology, Radboud University,Nijmegen, The Netherlands（语言研究所以及语言与语音技术中心，拉德堡德大学，尼姆egen，荷兰） ； Behavioural Science Institute, Radboud University, Nijmegen, The Netherlands（行为科学研究所，拉德堡德大学，尼姆egen，荷兰） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

Comments This preprint has not undergone peer review or any post-submission improvements or corrections. The Version of Record of this contribution is published in TSD 2025. Lecture Notes in Computer Science, vol 16029

Adv-BMT: Bidirectional Motion Transformer for Safety-Critical Traffic Scenario Generation

Yuxin Liu, Zhenghao Peng, Xuanhao Cui, Bolei Zhou

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

DGTRSD & DGTRS-CLIP: A Dual-Granularity Remote Sensing Image-Text Dataset and Vision Language Foundation Model for Alignment

Weizhi Chen, Yupeng Deng, Jin Wei, Jingbo Chen, Jiansheng Chen, Yuman Feng, Zhihao Xi, Diyou Liu, Kai Li, Yu Meng

机构 * Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院 aerospace information research institute） ； School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences（中国科学院大学电子电气与通信工程学院） ； School of Information Network Security, People’s Public Security University of China（中国人民公安大学信息网络安全学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

Improving Model Fusion by Training-time Neuron Alignment with Fixed Neuron Anchors

Zexi Li, Zhiqi Li, Jie Lin, Tao Shen, Jun Xiao, Yike Guo, Tao Lin, Chao Wu

机构 * Zhejiang University（浙江大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Westlake University（西湖大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

Comments IEEE Transactions on Pattern Analysis and Machine Intelligence