大模型对齐与安全

Beyond Surface Alignment: Grounding the Dynamics of Situational Understanding and Generative Control in LLMs

超越表面对齐：基于情境理解与生成控制的动态机制研究

Chenghao Yang

专题命中 其他安全 ：alignment(title,abstract)；safety(abstract)；分类 cs.CL

AI总结 本研究针对LLM表面对齐导致的情境脆弱问题，提出根基对齐框架，通过多维度评估缺陷并开发动态控制方法，实现锚定上下文与生成的智能体。

Comments PhD Thesis submitted to UChicago ( this https URL (https://knowledge.uchicago.edu/records/5jrnc-nvp13) ). Update Branching Factor, AI Realtor, and BACo to the latest versions

SMART: MLLM-guided Temporal Alignment for Unifying Sign Language Recognition and Spotting

SMART：用于统一手语识别与定位的多模态大语言模型（MLLM）引导的时间对齐框架

Eunjee Choi, JungHoon Sung, Seongwhan Cho, Chu Xin, Younggeun Choi

机构 * Dankook University（檀国大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；safety(abstract)

AI总结 本研究提出 MLLM 引导的 SMART 框架，整合多尺度时间适配器与 CSFormer 模块，在四个手语基准数据集上实现了手语识别与定位任务的性能提升。

Comments 19 pages, Accepted 37th British Machine Vision Conference, BMVC 2026

SGM: Safety Glasses for Multimodal Large Language Models via Neuron-Level Detoxification

SGM: 通过神经层面的净化为多模态大语言模型提供安全眼镜

Hongbo Wang, AprilPyone MaungMaung, Isao Echizen

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 SGM通过神经层面的净化技术，有效降低多模态大语言模型的毒性，同时保持生成流畅性和推理能力。

Comments Accepted to the EMNLP 2026 Main Conference

From Isolation to Alignment: Unified LoRA for Efficient Multi-Task Learning

从孤立到对齐：用于高效多任务学习的统一LoRA

Jinda Liu, Yi Chang, Yuan Wu

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究针对多任务PEFT中复杂LoRA变体的范式提出挑战，提出统一高效的Align-LoRA框架，通过显式对齐损失实现表示对齐，保留标准LoRA架构并实现零推理延迟，性能优于现有方法。

Comments To appear

Learning Concepts, Not Tokens: Self-Supervised Semantic Alignment for Language Models

学习概念，而非词元：语言模型的自我监督语义对齐

Christine Zhang, Dan Jurafsky, Chen Shani

机构 * Stanford University（斯坦福大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 提出一种自我监督框架，通过预测语义等价词元集合（概念）替代下一个词元预测，提升语言模型的语义对齐能力，并在分类、聚类、重排序及下游推理任务中取得更优性能。

ACE-Align: Attribute Causal Effect Alignment for Cultural Values under Varying Persona Granularities

ACE-Align：属性因果效应对齐用于不同人格粒度下的文化价值观

Jiatang Luo, Bingbing Xu, Rongxin Chen, Xiaoyan Zhao, Yang Zhang, Liang Pang, Zhiyong Huang, Huawei Shen

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CY

AI总结 ACE-Align通过属性因果效应对齐，提升不同人格粒度下文化价值观的公平性，减少高低资源地区差距。

Comments Accepted to the Main Conference of EMNLP 2026. 20 pages, 27 figures

Temporal Forcing: 4D Representation Alignment for Vision-Language-Action Models

时序强制：面向视觉-语言-动作模型的四维表示对齐

Xingyu Ding, Yuzhong Zhao, Chunhai Zhao, Yinghuan Shi, Chaoyang Zhao, Yifan Zhang

机构 * Nanjing University（南京大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 该研究针对视觉-语言-动作模型缺乏时序信息的问题，提出 Temporal Forcing 方法，通过历史通路与时序一致的四维几何特征对齐，在 LIBERO 等任务上取得性能提升。

Agent-Driven Verification of Memory Safety for liblzma Decoder Components with VST

基于VST的Agent驱动liblzma解码器组件内存安全验证

Prokhor Shlyakhtun, Alexander Gryzlov, Vladimir Kukharenko, Vasilii Nesterov, Nikolai Vasiliev, Kirill Ziborov, Eugene Zolotarev, Alex Pokras

专题命中 其他安全 ：safety(title,abstract)

AI总结 该研究基于VST，通过AI智能体辅助验证了liblzma生产级C解码器组件的内存安全，发现了其中的未定义行为，并解决了智能体驱动形式化验证的相关工程问题。

DINOspec: Efficient Multimodal Alignment of Vision and Spectral Foundation Models for Astronomy

DINOspec：面向天文学的视觉与光谱基础模型的高效多模态对齐

Erica Lastufka, Mariia Drozdova, Daniel Schaerer, Svyatoslav Voloshynovskiy

专题命中 其他安全 ：alignment(title,abstract)

AI总结 DINOspec框架通过轻量适配器和对比学习，对齐冻结的DINOv3图像编码器与预训练的AION-1光谱分词器，在20472对天体数据上提升了星系形态和光谱分类性能，验证了科学基础模型可通过轻量表征对齐组合。

Comments 4 pages, 1 figure, submitted to NeurIPS Representations for the Physical Sciences Workshop

Evolutionary Soups: Evolving Mixture-of-Experts for Multi-Objective LLM Alignment

进化组合模型：面向多目标大语言模型对齐的进化型专家混合模型

Lingxiao Kong, Steffen Staab, Cong Yang, Oya Beyan, Zeyd Boukhers

机构 * Fraunhofer Institute for Applied Information Technology FIT（弗劳恩霍夫应用信息技术研究所FIT） ； University of Cologne（科隆大学） ； University of Stuttgart（斯图加特大学） ； University of Southampton（南安普顿大学） ； Soochow University（苏州大学） ； University Hospital of Cologne（科隆大学医院） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.LG

AI总结 针对大语言模型多目标对齐需求，提出进化型专家混合框架，通过进化算法训练门控网络，在多任务上实现了优于基线的超体积、线性效用和切比雪夫效用，提升约20%。

Comments Accepted at EMNLP 2026 (Main Conference)

Whose Assessment of Distress? Community Perspectives and LLM Alignment on Well-Being Posts

谁来评估心理困扰？社区视角与大语言模型在福祉帖子上的对齐

Andrew Aquilina, Xiang Lorraine Li, Yu-Ru Li

机构 * School of Computing and Information, University of Pittsburgh（匹兹堡大学计算与信息学院） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 该研究通过标注Reddit社区帖子的心理困扰判断，发现LLM存在无至轻度困扰高估问题，其先验判断异于人类，这对心理健康领域公平AI部署有重要启示。

Measurement Validity in LLM Cultural Alignment

大语言模型文化对齐中的测量有效性

An Duy Nguyen, Muhammad Aurangzeb Ahmad

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本研究针对多个LLM区分调查回复、采样噪声与问题框架，发现多数模型的表观文化位置无法与噪声区分，提示需先验证测量可靠性才能将LLM调查回复用于文化归因。

GRASP: Geometry-aware Residual Alignment for Scalable Pretraining Data Attribution

GRASP：面向可扩展预训练数据归因的几何感知残差对齐

Yue Min, Ruining Chen, Yujun Li

机构 * Wizard Quant ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 提出GRASP方法，通过二次几何惩罚建模子集交互，结合低维特征草图与有限置信度选择协议，实现可扩展的预训练数据归因，显著提升反事实子集保真度并降低计算成本。

TRIPPULSE: Multi-Agent Travel Planning with Review-Grounded Reasoning

TRIPPULSE：基于评论推理的多智能体旅行规划

Priyanshu Karmakar, Borru Vijay Sai, Shubhojit Mallick, Abhik Jana, Shreya Ghosh, Manish Gupta

机构 * Microsoft（微软公司） ； IIT Bhubaneswar（布巴内斯瓦尔印度理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.CL

AI总结 TRIPPULSE是基于评论推理的多智能体旅行规划框架，分解行程生成任务为多智能体并结合10万+评论与RGPA指标，可兼顾约束满足与个性化体验。

Comments 31 pages, EMNLP 2026

How Identity and Opinion Shape Political Sycophancy in LLMs

身份与观点如何塑造大语言模型（LLM）中的政治奉承行为

Li-Ni Fu, Chang-Chih Meng, Chien-Hua Chen, Hen-Hsen Huang, I-Chen Wu

机构 * National Yang Ming Chiao Tung University（国立阳明交通大学） ； Academia Sinica（中央研究院） ； Research Center for Information Technology Innovation, Academia Sinica（中央研究院资讯科技创新研究中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 该研究提出框架区分LLM政治奉承的观点与身份触发因素，经450个政治困境评估13个指令调优LLM，发现二者易感性解离、信号次可加，表明LLM政治立场具交互可引导脆弱性。

Comments Accepted to EMNLP 2026 (Main Conference)

Vision-Language Models Suppress Female Representations Under Ambiguous Input

视觉-语言模型在模糊输入下抑制女性表征

Arnau Marin-Llobet, Simon Henniger, Mahzarin R. Banaji

机构 * School of Engineering and Applied Sciences（工程与应用科学系） ； Department of Psychology（心理学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本研究通过引入零样本度量LALS，发现视觉-语言模型在模糊输入下内部编码与输出存在系统性解耦，女性信号在生成前被抑制，揭示了模型对性别偏见的内部处理机制。

Comments Accepted at EMNLP 2026

Mechanism Shift During Post-training from Autoregressive to Masked Diffusion Language Models

从自回归到掩码扩散语言模型的后训练中的机制转变

Injin Kong, Hyoungjoon Lee, Yohan Jo

机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院） ； Department of Biosystems & Biomaterials Science and Engineering, Seoul National University（首尔国立大学生物系统与生物材料科学与工程系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过比较电路分析，发现后训练得到的掩码扩散模型在结构上根据任务保留或重组自回归电路，在语义上从局部专业化转向分布式整合，表明扩散后训练是内部计算的深度重组。

Comments This Paper has been accepted for publication at EMNLP 2026

TopoCompress: Long Context Compression via Graph-Wired Semantic Trajectories

TopoCompress：基于图连接语义轨迹的长上下文压缩

Daniel Agyei Asante, Yang Li

机构 * Iowa State University（爱荷华州立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 针对现有长上下文压缩方法的缺陷，本文提出无需训练、与模型无关的TopoCompress框架，通过语义片段打分与图传播实现压缩，在5项任务中表现优于基线，压缩预算仅为最强基线的1/4、时间比最快基线缩短1.41倍。

Comments 13 pages

BAITBENCH: Measuring Agent Reward Hacking with Optional Shortcuts Planted in ML Tasks

BAITBENCH：通过植入ML任务中的可选捷径测量智能体的奖励黑客行为

Pradyumna Shyama Prasad, Meiri Anto, Leon Eshuijs, Julian Moncarz, Kaustubh Kislay, Juan J. Vazquez

机构 * National University of Singapore（新加坡国立大学） ； MIT（麻省理工学院） ； Vrije Universiteit Amsterdam（阿姆斯特丹自由大学） ； University of Toronto（多伦多大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Arb Research（Arb研究机构） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 BAITBENCH是含三个合成表格型ML任务的基准，用于测量智能体利用可选捷径获得虚高分的奖励黑客行为，实验显示57.1%的运行存在该行为，发布相关资源作为缓解措施评估测试平台。

SemPOI-RL: Aligning LLM Semantic Reasoning for Interpretable Out-of-Town POI Sequential Generation

SemPOI-RL：对齐大语言模型语义推理以实现可解释的异地兴趣点序列生成

Yunqi Liu, Yang Zhang, Ruixing Zhang, Liangzhe Han, Yi Qiao, Tongyu Zhu, Leilei Sun

机构 * State Key Laboratory of Complex & Critical Software Environment（复杂与关键软件环境国家重点实验室） ； Beihang University（北京航空航天大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 SemPOI-RL框架通过微调LLM、引入SPAM模块并结合推荐导向强化学习，实现LLM语义推理与结构化序列生成的对齐，在两个真实数据集上优于传统推荐器和LLM基线，可生成可解释的异地POI序列。

Comments 19 pages in total, including 9 pages of main text and 4 figures

Stratified Consistency Distillation for Natural Language Formalization

面向自然语言形式化的分层一致性蒸馏

Zhichao Hou, Ferhat Erata, Joe Lilien, MohamadAli Torkamani

机构 * North Carolina State University（北卡罗来纳州立大学） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对自然语言到逻辑公式翻译准确率提升难题，提出分层一致性蒸馏方法，经实验在Pass@K与等价逻辑相似度指标上获显著稳定提升，推进了逻辑翻译技术发展。

LaMoC: Loss-Aware Modular Compression for LLMs

LaMoC：面向大语言模型的损失感知模块化压缩方法

Mohanad Odema, Jacob Song

机构 * LG Electronics USA（美国LG电子公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出损失感知模块化压缩方法LaMoC，通过融合激活与经验费舍尔统计优化LLM压缩，在4-8B模型上较最优方法实现困惑度降2.5%、任务精度升1%。

Comments EMNLP 2026 Findings

Emulate or Estimate? The Divergent Strengths of Base and Post-Trained Language Models for Opinion Simulation

模拟还是估计？基础语言模型与后训练语言模型在观点模拟中的差异化优势

Seth Grief-Albert, Jessica Bo, Difan Jiao, Ashton Anderson

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对大型语言模型用于观点模拟的矛盾结果，区分了模拟与估计任务，发现基础模型更适合模拟、后训练模型更适合估计，为相关模型选择提供了依据。

Comments EMNLP Findings 2026

Concepts Whisper: Spectral Anti-Concentration and the Dual Geometry of Transformer Representations

概念低语而语法高呼：频谱反集中与Transformer表示的双几何

Pratyush Acharya, Nuraj Rimal, Habish Dhakal

机构 * Pratyush Acharya ； Nuraj Rimal ； Habish Dhakal 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过跨语言概念传输测试，发现因果内积在频谱正则化下无显著差异，揭示了残差流中反集中现象及静态解嵌行对比的高方差集中特性，支持语法优先编码于高方差子空间。

Comments Accepted to EMNLP(Main Conference), Camera Ready Version

Overreliance on AI in Information-seeking from Video Content

对视频内容信息检索中过度依赖AI的研究

Anders Giovanni Møller, Elisa Bassignana, Francesco Pierri, Luca Maria Aiello

机构 * IT University of Copenhagen（丹麦技术大学） ； Bocconi University（博科尼大学） ； Politecnico di Milano（米兰理工学院） ； Pioneer Centre for AI（先锋人工智能中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.CY

AI总结 研究探讨生成式AI对视频信息检索准确性、效率及信心的影响，发现AI辅助提升准确率但易导致过度依赖，进而引发安全风险。

Comments Accepted at EMNLP 2026 (Main)

Segmentation of Bovid Dentition Under Imperfect Annotations: A Comparative Study of Convolutional and Attention Models

非完美标注下牛科动物牙列的分割：卷积模型与注意力模型的对比研究

Keith G. Mills, Evan B. Sanders, Gregory J. Matthews, Juliet K. Brophy

机构 * Episcopal High School of Baton Rouge（巴吞鲁日圣公会高中） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文针对B.O.V.I.D.数据集的非完美标注，对比卷积模型与注意力模型的牙列分割性能，发现预处理技术对定量指标影响有限但定性影响显著。

Comments 13 pages, 2 Tables, 13 Figures

RailGen: Improving Railway Intrusion Detection via Agent-Guided Small-Scale Foreign Object Generation

RailGen：通过智能体引导的小规模异物生成改进铁路入侵检测

Quan Hao, Ziyang Tao, Chenxi Zhang, Yudong Wang, Rui Shi, Liguo Zhang

机构 * School of Information Science and Technology, Beijing University of Technology（北京工业大学信息科学与技术学院） ； College of Computer Science, Beijing University of Technology（北京工业大学计算机学院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 该研究针对铁路异物检测的长尾小样本问题，提出RailGen智能体生成高质量小异物样本，结合FocalDEIM框架优化检测，显著提升了检测性能。

Automatic Conversion of NICE Guidelines to an Executable Computational Model Using Large Language Models

利用大语言模型将NICE指南自动转换为可执行计算模型

Ashvin Gupta, Denys Prociuk, Alessandra Russo, Brendan C. Delaney

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本研究提出基于大语言模型的端到端方法，将NICE临床指南转换为可执行模型，在胰腺癌案例中F1达82.5%，证明了自动化生成可计算临床指南的可行性。

Comments 18 pages. Published in Learning Health Systems (2026)

Towards Continual Test-Time Adaptation of Vision-Language Models in Open-Vocabulary Semantic Segmentation

面向开放词汇语义分割中视觉-语言模型的持续测试时适应

Chandler Timm C. Doloriel, Yunbei Zhang, Sarthak Kumar Maharana, Muhammad Salman Siddiqui, Tor Kristian Stevik, Fadi Al Machot, Kristian Hovde Liland, Habib Ullah

机构 * Norwegian University of Life Sciences (NMBU)（挪威生命科学大学） ； Tulane University（杜兰大学） ； University of Texas at Dallas（德克萨斯大学达拉斯分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 针对开放词汇语义分割中视觉-语言模型在持续测试时分布偏移下的对齐脆弱问题，提出DAF框架，在多数据集上实现mIoU显著提升且鲁棒性良好。

Comments under review. code available at this https URL (https://github.com/chandlerbing65nm/DAF.git)

Not the Same Protector: Deployment-Dependent Protective Intervention in LLMs

并非相同的保护者：大语言模型（LLM）中依赖部署方式的保护性干预

Eunna Lee, Soomyoung Lee, Jungpyo Nam, Heonjin Ha, Jamin Jung, Kyunam Choi, Sunjun Hwang, Yeonghun Kim, Seok-Jae Lim

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 该研究探究大语言模型（LLM）的保护性干预是否随部署方式变化，发现语音界面下模型的医疗指令占比低于文本与API条件，且该差异无法仅由响应长度解释。