大模型对齐与安全

Measuring, Localizing, and Ablating Alignment Signatures in LLMs

测量、定位和消融LLMs中的对齐特征

Aniket Anand, Janvijay Singh, Zhewei Sun, Dilek Hakkani-Tür, Nick Feamster

机构 * University of Chicago（芝加哥大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Toyota Technological Institute at Chicago（芝加哥丰田技术研究所） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究通过对比人类文本、基模型和对齐模型生成，发现对齐训练引入AI风格特征，并提出PASTA方法通过消融对齐方向来降低AI检测率。

Gram: Assessing sabotage propensities via automated alignment auditing

Gram：通过自动化对齐审计评估破坏倾向

David Lindner, Victoria Krakovna, Sebastian Farquhar

机构 * Google（谷歌） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出Gram框架，通过模拟17种代理部署场景自动审计AI代理的破坏倾向，发现Gemini模型在约2-3%的轨迹中存在不当行为，并引入调查代理管道以识别驱动因素。

C-MORAL: Controllable Multi-Objective Molecular Optimization with Reinforcement Alignment for LLMs

C-MORAL: 基于强化对齐的可控多目标分子优化用于大语言模型

Rui Gao, Youngseung Jeon, Swastik Roy, Morteza Ziyadi, Xiang 'Anthony' Chen

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Amazon（亚马逊） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出C-MORAL框架，通过强化学习后训练结合分组相对优化、属性分数对齐和瓶颈敏感非线性奖励聚合，实现可控多目标分子优化，在C-MuMOInstruct和S$^2$-Bench MolOpt基准上取得最优性能。

Comments 26 pages, 7 figures

Fill the GAP: A Granular Alignment Paradigm for Visual Reasoning in Multimodal Large Language Models

填补GAP：多模态大语言模型中视觉推理的粒度对齐范式

Yanting Miao, Yutao Sun, Dexin Wang, Mengyu Zhou, Pascal Poupart, Lei Lv, Qi Zhao, Li Wang, Hao Li, Xiaoxi Jiang, Guanjun Jiang

机构 * Qwen Large Model Application Team, Alibaba（阿里云大模型应用团队） ； Alibaba University of Waterloo（阿里大学水力学院） ； Vector Institute（向量研究所） ； Zhejiang University（浙江大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出GAP（粒度对齐范式），通过特征级、上下文级和能力引导级对齐，解决多模态大语言模型中视觉潜在推理的特征空间不匹配问题，提升感知与推理性能。

Sparse Autoencoders Map Brain-LLM Alignment onto Cortical Semantic Topography

稀疏自编码器将大脑-LLM对齐映射到皮层语义拓扑

Dongxin Guo, Jikun Wu, Siu Ming Yiu

机构 * The University of Hong Kong（香港大学） ； Stellaris AI Limited（Stellaris AI有限公司） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 通过稀疏自编码器分解LLM中间层特征，发现语义特征主导大脑预测表现，并验证了皮层语义拓扑的细粒度对齐。

Comments Accepted at CoNLL 2026. 20 pages (9 main + 1 limitations/acknowledgments + 3 references + 7 appendix), 5 figures, 20 tables

Brain-LLM Alignment Tracks Training Data, Not Typology

大脑-大语言模型对齐追踪训练数据，而非语言类型学

Dongxin Guo, Jikun Wu, Siu Ming Yiu

机构 * The University of Hong Kong（香港大学） ； Stellaris AI Limited（Stellaris AI有限公司） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 通过分析英语、中文和法语的fMRI数据及多种大语言模型，发现训练语言主导性而非英语本身驱动大脑-模型对齐模式，且类型学距离独立影响对齐退化。

Comments Accepted to CoNLL 2026. 9 pages main content + 4 pages references + 6 pages appendix; 4 figures, 13 tables

From Parameters to Data: A Task-Parameter-Guided Fine-Tuning Pipeline for Efficient LLM Alignment

从参数到数据：一种任务参数引导的微调流水线用于高效的LLM对齐

Hao Chen, Qi Zhang, Liyao Li, Zhanming Shen, Wentao Ye, Lirong Gao, Ningtao Wang, Xing Fu, Xiaoyu Shen, Junbo Zhao

机构 * Zhejiang University（浙江大学） ； Eastern Institute of Technology（东部技术研究所） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出了一种任务参数引导的微调流水线，通过任务敏感的注意力头作为双指南，实现样本挖掘和结构剪枝，从而提高LLM对齐的效率。

Comments Accepted@ICML26, 28 pages, 11 figures, 26 tables

Brain alignment of reasoning and action representations from vision-language and action models during naturalistic gameplay

在自然主义游戏过程中，视觉语言和动作模型的推理与动作表示的脑部对齐

Subba Reddy Oota, Anant Khandelwal, Khushbu Pahwa, Satya Sai Srinath Namburi, Tanmoy Chakraborty, Bapi S. Raju, Manish Gupta

机构 * Independent（独立） ； Microsoft Research（微软研究院） ； AWS AI Labs（AWS人工智能实验室） ； GE HealthCare（通用电气医疗） ； IIT Delhi（德里理工学院） ； IIIT-Hyderabad（海得拉巴理工学院） ； Microsoft（微软） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了在自然主义游戏过程中，视觉语言模型和大动作模型的推理与动作表示在脑部活动中的对齐情况，发现动作聚焦和推理聚焦的提示影响模型内部表示与fMRI脑活动的对齐程度。

Comments 21 pages, 11 figures

Beyond Neural Incompatibility: Cross-Scale Knowledge Transfer in Language Models through Latent Semantic Alignment

超越神经不兼容：通过潜在语义对齐实现语言模型中的跨尺度知识转移

Jian Gu, Aldeida Aleti, Chunyang Chen, Hongyu Zhang

机构 * Monash University（墨尔本大学） ； Technical University of Munich（慕尼黑技术大学） ； Chongqing University（重庆大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SemAlign方法，通过潜在语义对齐实现跨尺度知识转移，解决了不同架构和参数化模型间参数重用受限的问题，通过激活值作为转移介质，利用语义分解与重组稳定地实现知识迁移。

Comments an early-stage version

BiSpikCLM: A Spiking Language Model integrating Softmax-Free Spiking Attention and Spike-Aware Alignment Distillation

BiSpikCLM: 一种整合无Softmax脉冲注意力和脉冲感知对齐蒸馏的脉冲语言模型

Sihang Guo, Chenlin Zhou, Jiaqi Wang, Kehai Chen, Qingyan Meng, Zhengyu Ma

机构 * School of Electronic and Computer Engineering, Shenzhen Graduate School, Peking University, Shenzhen, China（电子工程学院，深圳研究生院，北京大学，深圳，中国） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室，深圳，中国） ； Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学，深圳，中国） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 BiSpikCLM是首个完全二进制脉冲MatMul-free因果语言模型，通过无Softmax脉冲注意力和脉冲感知对齐蒸馏实现高效训练，显著降低计算成本。

Towards Fine-Grained Code-Switch Speech Translation with Semantic Space Alignment

面向语义空间对齐的细粒度代码切换语音翻译

Yan Gao, Yazheng Yang, Zhibin Lan, Yidong Chen, Min Zhang, Daimeng Wei, Derek F. Wong, Jinsong Su

机构 * School of Informatics, Xiamen University, China（厦门大学信息学院） ； Huawei Translation Services Center, Beijing, China（华为翻译服务中心） ； NLP 2 CT Lab, Department of Computer and Information Science, University of Macau（澳门大学计算机与信息科学系NLP 2 CT实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过混合专家模型提升大语言模型，以实现更精确的代码切换语音翻译，通过语言特定损失和组内负载平衡损失优化语义空间对齐，实验表明在多个数据集上提升了翻译性能。

Comments Accepted to IJCAI 2026 Main Track

Flag Varieties: A Geometric Framework for Deep Network Alignment

旗种：深度网络对齐的几何框架

Jingchuan Xiao, Xinyi Sui, Cihan Ruan

机构 * Department of Mathematics and Computer Studies, Mary Immaculate College, Ireland（爱尔兰玛丽伊曼纽尔学院数学与计算机研究系） ； Department of Computer Science and Engineering, Santa Clara University, USA（美国圣克拉拉大学计算机科学与工程系） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于几何不变量理论的旗种结构，揭示深度网络层间对齐的几何本质，阐明子空间交集维度为唯一不变量，并通过实验验证其在多层感知机、残差网络和预训练语言模型中的有效性。

Open Ontologies: Tool-Augmented Ontology Engineering with Stable Matching Alignment

开放本体：基于稳定匹配对齐的工具增强本体工程

Fabio Rovai

机构 * The Tesseract Academy, London, United Kingdom（泰斯拉学院，伦敦，英国） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Open Ontologies系统，结合LLM驱动构建与形式OWL推理及本体对齐，发现稳定1对1匹配是本体对齐质量关键，且工具增强访问优于纯LLM解析。

Comments 10 pages, 6 tables. Code: https://github.com/fabio-rovai/open-ontologies

Don't Retrain, Align: Adapting Autoregressive LMs to Diffusion LMs via Representation Alignment

无需再训练，对齐：通过表征对齐将自回归语言模型适应到扩散语言模型

Fred Zhangzhi Peng, Alexis Fox, Anru R. Zhang, Alexander Tong

机构 * Duke University（杜克大学） ； AITHYRA 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出REPR-ALIGN方法，通过表征对齐将自回归模型转换为扩散模型，实现4倍训练加速，尤其在低数据情况下效果显著。

Comments Code available at https://github.com/pengzhangzhi/Open-dLLM

Games for AI Control: Models of Safety Evaluations of AI Deployment Protocols

用于AI控制的游戏：AI部署协议安全评估模型

Charlie Griffin, Louis Thomson, Buck Shlegeris, Alessandro Abate

机构 * University of Oxford（牛津大学） ； Redwood Research（红木研究） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出AI-Control Games模型，用于评估不信任AI部署协议的安全性，通过多目标部分可观测随机博弈框架，改进协议设计并分析安全影响。

Vibe Check: Understanding the Effects of LLM-Based Conversational Agents' Personality and Alignment on User Perceptions in Goal-Oriented Tasks

Vibe Check: 探讨基于大语言模型的对话代理的性格和对齐对用户在目标导向任务中的感知影响

Hasibur Rahman, Smit Desai

机构 * Northeastern University（东北大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究探讨了对话代理性格表达水平和用户与代理性格对齐如何影响用户在目标导向任务中的感知，发现中等表达水平在多个维度上表现最佳，性格对齐进一步提升了结果，尤其在外向性和情绪稳定性和方面影响显著。

Comments 30 pages, CHI 2026 conference paper (article no. 371)

TouchAI: Exploring human-AI perceptual alignment in touch through language model representations

TouchAI: 探索通过语言模型表示的触觉人机感知对齐

Shu Zhong, Elia Gatti, Youngjun Cho, Marianna Obrist

机构 * Department of Computer Science, University College London（伦敦大学学院计算机科学系） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过'textile hand'任务研究大型语言模型在触觉感知对齐中的表现，发现不同织物样本的对齐程度差异显著，揭示了人机感知对齐的挑战与潜力。

Comments Accepted at IJHCS

Journal ref International Journal of Human-Computer Studies 210 (2026) 103765

Representational Alignment Across Model Layers and Brain Regions with Multi-Level Optimal Transport

跨模型层和脑区的多级最优传输表示对齐

Shaan Shah, Meenakshi Khosla

机构 * University of California San Diego（加州大学圣地亚哥分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出多级最优传输框架，通过全局优化实现层间和神经元级的软耦合，解决传统方法在深度不一致和全局结构忽略的问题，提升跨网络表示对比的解释性与准确性。

Does the Model Say What the Data Says? A Simple Heuristic for Model Data Alignment

模型是否说数据所说？一种简单的模型-数据对齐启发法

Henry Salgado, Meagan R. Kendall, Martine Ceberio

机构 * Department of Computer Science, The University of Texas at El Paso, El Paso, TX, USA（计算机科学系，德克萨斯理工大学埃尔帕索分校） ； Department of Engineering Education and Leadership, The University of Texas at El Paso, El Paso, TX, USA（工程教育与领导力系，德克萨斯理工大学埃尔帕索分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种计算高效的方法，评估机器学习模型是否与所学数据结构对齐。通过数据本身生成基准，结合二元分类任务中特征对结果组的分离程度，提供模型-数据对齐的可解释方法。

Journal ref International Workshop on Causality, Agents and Large Models, 2025

STCast: Adaptive Boundary Alignment for Global and Regional Weather Forecasting

STCast：面向全球和区域天气预报的自适应边界对齐

Hao Chen, Tao Han, Jie Zhang, Song Guo, Lei Bai

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 STCast提出一种新型AI框架，通过空间对齐注意力机制和时间混合专家模块，实现自适应区域边界优化和动态月度预报分配，提升天气预报的准确性和泛化能力。

Comments This paper has already been accepted by CVPR 2026 (Highlight)

Computational Lesions in Multilingual Language Models Separate Shared and Language-specific Brain Alignment

多语言语言模型中的计算病变分离共享和语言特定的脑对齐

Yang Cui, Jingyuan Sun, Yizheng Sun, Yifan Wang, Yunhao Zhang, Jixing Li, Shaonan Wang, Hongpeng Zhou, John Hale, Chengqing Zong, Goran Nenadic

机构 * The University of Manchester（曼彻斯特大学） ； City University of Hong Kong（香港城市大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Institute of Automation, CAS（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究通过多语言大语言模型创建计算病变，揭示语言处理的共享与特定机制，发现共享核心减少整体脑编码相关性，而语言特定病变保持跨语言分离但削弱匹配母语的脑预测性。

Comments 23 pages, 5 figures, Journal format

CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models

CoSToM: 为大语言模型内在理论思维对齐的因果导向引导

Mengfan Li, Xuanhua Shi, Yang Deng

机构 * National Engineering Research Center for Big Data Technology and System, Services Computing Technology and System Lab, Cluster and Grid Computing Lab, Huazhong University of Science and Technology（华中科技大学国家大数据技术与系统工程技术研究中心、服务计算技术与系统实验室、集群与网格计算实验室） ； Singapore Management University（新加坡管理大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CoSToM框架，通过因果追踪和激活引导提升大语言模型的社会推理能力与对话质量。

Comments Accepted to ACL 2026 (Main Conference)

EvoEdit: Evolving Null-space Alignment for Robust and Efficient Knowledge Editing

EvoEdit：基于空域对齐的鲁棒高效知识编辑

Sicheng Lyu, Yu Gu, Xinyu Wang, Jerry Huang, Sitao Luan, Yufei Cui, Xiao-Wen Chang, Peng Lu

机构 * Institute for Clarity in Documentation（文档清晰度研究所） ； Inria Paris-Rocquencourt（法国国家信息与自动化研究所巴黎-罗康库尔中心） ； Rajiv Gandhi University（拉吉夫·甘地大学） ； Tsinghua University（清华大学） ； Palmer Research Laboratories（帕默研究实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 EvoEdit通过序列空域对齐缓解知识编辑中的灾难性干扰，实现稳定高效的模型更新，实验显示其性能优于现有方法且速度提升达3.53倍。

Comments Accepted to Findings of ACL 2026

From High-Dimensional Spaces to Verifiable ODD Coverage for Safety-Critical AI-based Systems

从高维空间到可验证的ODD覆盖以保障安全关键的AI系统

Thomas Stefani, Johann Maximilian Christensen, Elena Hoemann, Frank Köster, Sven Hallerbach

机构 * Institute for AI Safety and Security, German Aerospace Center (DLR)（德国航空航天中心（DLR）人工智能安全与安保研究所） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种整合参数离散化、约束过滤和关键性驱动降维的方法，用于验证高维空间中AI系统的ODD覆盖，满足EASA对完整性的要求。

Finding and Reactivating Post-Trained LLMs' Hidden Safety Mechanisms

发现并重新激活已训练大语言模型的隐藏安全机制

Mingjie Li, Wai Man Si, Michael Backes, Yang Zhang, Yisen Wang

机构 * Cranberry-Lemon University（蔓越莓柠檬大学） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了大语言模型在后训练过程中安全机制的退化原因，提出SafeReAct方法通过LoRA适配器恢复被抑制的安全行为，提升模型在有害提示下的安全性而不影响推理性能。

KARMA: Knowledge-Action Regularized Multimodal Alignment for Personalized Search at Taobao

KARMA：面向淘宝个性化搜索的知识-行动正则化多模态对齐

Zhi Sun, Wenming Zhang, Yi Wei, Liren Yu, Zhixuan Zhang, Dan Ou, Haihong Tang

机构 * Taobao \& Tmall Group of Alibaba Hangzhou China ； Taobao \& Tmall Group of Alibaba 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 KARMA通过知识-行动正则化多模态对齐框架，解决个性化搜索中知识与行动冲突问题，提升语义可解性与行动指标，实现GMV增长。

CRASH: Cognitive Reasoning Agent for Safety Hazards in Autonomous Driving

CRASH：面向自动驾驶安全隐患的认知推理代理

Erick Silva, Rehana Yasmin, Ali Shoker

机构 * King Abdullah University of Science and Technology（国王阿卜杜勒-阿齐兹科技大学） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CRASH，一种基于大语言模型的自动驾驶安全隐患分析工具，通过自动化处理事故报告，识别事故原因并评估自动驾驶系统对事故的影响，验证其在事故分析中的有效性与实用性。

Modality-free Graph In-context Alignment

无模态图上下文对齐

Wei Zhuo, Siqiang Luo

机构 * Nanyang Technological University（南洋理工大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出MF-GIA框架，通过梯度指纹捕捉领域特征，实现跨异构域的无模态few-shot预测与泛化。

Comments Accepted at ICLR 2026

CAMEL-CLIP: Channel-aware Multimodal Electroencephalography-text Alignment for Generalizable Brain Foundation Models

CAMEL-CLIP：面向通用脑基础模型的通道感知多模态EEG-文本对齐

Hanseul Choi, Jinyeong Park, Seongwon Jin, Sungho Park, Jibum Kim

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Incheon National University（庆尚国立大学） ； Department of Artificial Intelligence（人工智能系） ； Inha University（Inha大学） ； Center for Brain-Machine Interface（脑机接口中心） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 CAMEL-CLIP通过通道属性位置编码、动态通道投影和双级对比学习，提升EEG-文本多模态基础模型在通道异质性下的鲁棒性，实验表明其在线性探测中表现最优。

Comparative Analysis of Transformer Models in Disaster Tweet Classification for Public Safety

灾难推文分类中的Transformer模型比较分析

Sharif Noor Zisad, N. M. Istiak Chowdhury, Ragib Hasan

机构 * Department of Computer Science（计算机科学系） ； University of Alabama at Birmingham（阿拉巴马大学伯明翰分校） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文比较了BERT、DistilBERT、RoBERTa和DeBERTa等Transformer模型在灾难推文分类中的性能，发现BERT准确率最高，显著优于传统机器学习模型，展示了Transformer在公共安全应用中的优势。