大模型对齐与安全

Language Models as Semantic Teachers: Post-Training Alignment for Medical Audio Understanding

语言模型作为语义教师：面向医学音频理解的后训练对齐

Tsai-Ning Wang, Lin-Lin Chen, Neil Zeghidour, Aaqib Saeed

机构 * Eindhoven University of Technology, The Netherlands（埃因霍温理工大学，荷兰） ； Kyutai, France（Kyutai公司，法国） ； Eindhoven Artificial Intelligence Systems Institute, The Netherlands（埃因霍温人工智能系统研究所，荷兰） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出AcuLa框架，通过将音频编码器与医学语言模型对齐，提升医学音频的语义理解能力，在18个心血管任务中取得最佳性能，显著提升诊断准确性。

LLM-based Realistic Safety-Critical Driving Video Generation

基于LLM的现实安全关键驾驶视频生成

Yongjie Fu, Ruijian Zha, Pei Tian, Xuan Di

机构 * Department of Civil Engineering and Engineering Mechanics, Columbia University（哥伦比亚大学土木工程与工程力学系） ； Department of Computer Science, Columbia University（哥伦比亚大学计算机科学系） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出利用LLM生成少样本代码实现安全关键驾驶场景生成，结合CARLA模拟器与Cosmos-Transfer1和ControlNet生成真实驾驶视频，提升自动驾驶测试效率。

Assessing the Feasibility of a Video-Based Conversational Chatbot Survey for Measuring Perceived Cycling Safety: A Pilot Study in New York City

评估基于视频的对话式聊天机器人调查在测量感知骑行安全性的可行性：纽约市试点研究

Feiyang Ren, Zhaoxi Zhang, Tamir Mendel, Takahiro Yabe

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CY

AI总结 本文提出利用大语言模型结合视频调查和对话式AI聊天机器人，评估骑行安全感知的可行性，并通过纽约市九个街区的试点调查验证方法的有效性。

Yale-DM-Lab at ArchEHR-QA 2026: Deterministic Grounding and Multi-Pass Evidence Alignment for EHR Question Answering

耶鲁-DM实验室参加ArchEHR-QA 2026：用于电子病历问答的确定性接地和多轮证据对齐

Elyas Irankhah, Samah Fodeh

机构 * Yale University（耶鲁大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出确定性接地和多轮证据对齐方法，用于电子病历问答任务，通过模型多样性与投票策略提升性能，实验结果显示对齐准确率受限于推理能力。

Comments 9 pages, 2 figures. System description for ArchEHR-QA 2026 shared task

Cross-Modal Coreference Alignment: Enabling Reliable Information Transfer in Omni-LLMs

跨模态指代对齐：在全模态大语言模型中实现可靠信息传输

Hongcheng Liu, Yuhao Wang, Zhe Chen, Pingjie Wang, Zhiyuan Zhu, Yixuan Hou, Yanfeng Wang, Yu Wang

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 研究提出跨模态指代对齐问题，通过CrossOmni数据集和两种方法提升全模态推理能力，揭示指代意识缺失是跨模态推理弱化的主要原因。

Multi-Drafter Speculative Decoding with Alignment Feedback

多草案生成与对齐反馈

Taehyeon Kim, Hojung Jung, Se-Young Yun

机构 * LG AI Research（LG AI研究院） ； KAIST AI（韩国科学技术院人工智能学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出MetaSD框架，通过整合多个草案生成器并利用对齐反馈，提升大规模语言模型推理效率和生成质量。

Comments ACL 2026 Findings

Where to Steer: Input-Dependent Layer Selection for Steering Improves LLM Alignment

转向何处：输入依赖的层选择用于转向以改进LLM对齐

Soham Gadgil, Chris Lin, Su-In Lee

机构 * University of Washington（华盛顿大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出W2S框架，通过输入依赖的层选择改进LLM对齐，证明固定层方法不足，展示适应性层选择的重要性。

Comments Preprint

Fusion and Alignment Enhancement with Large Language Models for Tail-item Sequential Recommendation

基于大语言模型的尾项序列推荐融合与对齐增强

Zhifu Wei, Yizhou Dang, Guibing Guo, Chuang Zhao, Zhu Sun

机构 * Northeastern University（东北大学） ； Tianjin University（天津大学） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出FAERec框架，通过自适应门控机制和双层对齐方法提升尾项序列推荐中物品表示的质量，解决协同信号与语义知识融合不足及嵌入空间结构不一致的问题。

Image Hashing via Cross-View Code Alignment in the Age of Foundation Models

基于基础模型的跨视图代码对齐图像哈希

Ilyass Moummad, Kawtar Zaher, Hervé Goëau, Alexis Joly

机构 * INRIA（法国国家信息与自动化研究所） ； LIRMM（蒙彼利埃计算机科学、机器人及微电子实验室） ； INA（法国国家视听研究所） ； CIRAD（法国农业研究发展国际合作中心） ； AMAP（植物建模与生态学联合实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出CroVCA方法，通过统一的二进制交叉熵损失和编码率最大化正则化，在少量训练轮次内实现高效图像哈希，适用于多种视觉检索任务。

Disrupting Cognitive Passivity: Rethinking AI-Assisted Data Literacy through Cognitive Alignment

打破认知惰性：通过认知对齐重新思考人工智能辅助的数据素养

Yongsu Ahn, Nam Wook Kim, Benjamin Bach

机构 * Boston College（波士顿学院） ； Inria（法国国家信息与自动化研究所） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出通过认知对齐框架，重新设计人工智能辅助的数据素养，以避免认知惰性，促进主动思考。

The More, the Merrier: Contrastive Fusion for Higher-Order Multimodal Alignment

更多更好：用于高阶多模态对齐的对比融合

Stefanos Koutoupis, Michaela Areti Zervou, Konstantinos Kontras, Maarten De Vos, Panagiotis Tsakalides, Grigorios Tsagkatakis

机构 * Foundation for Research and Technology-Hellas（希腊研究与技术基金会） ； University of Crete（克里特大学） ； KU Leuven（鲁汶大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出对比融合框架，通过联合嵌入个体模态及其融合组合，捕捉高阶依赖关系，提升多模态对齐效果。

Comments Accepted to CVPR 2026

The Geometry of Compromise: Unlocking Generative Capabilities via Controllable Modality Alignment

妥协的几何学：通过可控的模态对齐解锁生成能力

Hongyuan Liu, Qinli Yang, Wen Li, Zhong Zhang, Jiaming Liu, Wei Han, Zhili Qin, Jinxia Guo, Junming Shao

机构 * University of Electronic Science and Technology of China（电子科技大学） ； University of Bristol（布里斯托大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文通过几何分析揭示模态间隙的两个组成部分，提出TPC-CMA框架以减少两者，显著提升跨模态对齐性能，实验显示在不同目标α下模态间隙大幅降低，同时保持高准确性。

A Safety-Aware Role-Orchestrated Multi-Agent LLM Framework for Behavioral Health Communication Simulation

一种安全意识导向的角色协调多智能体LLM框架用于行为健康沟通模拟

Ha Na Cho

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出一种安全导向的角色协调多智能体LLM框架，通过协调不同角色的智能体模拟支持性行为健康对话，通过分解对话责任并动态激活智能体以确保安全审计。

Knowledge-Guided Failure Prediction: Detecting When Object Detectors Miss Safety-Critical Objects

基于知识的故障预测：检测对象检测器何时错过安全关键对象

Jakob Paul Zimmermann, Gerrit Holzbach, David Lerch

机构 * Fraunhofer HHI（弗劳恩霍夫海因里希·赫兹研究所） ； Fraunhofer IOSB（弗劳恩霍夫光电、系统技术及图像处理研究所） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.LG

AI总结 本文提出KGFP框架，通过检测内部特征与视觉基础模型嵌入之间的语义偏差来识别对象检测器的故障，提升安全关键对象的召回率。

SSAM: Singular Subspace Alignment for Merging Multimodal Large Language Models

SSAM：奇异子空间对齐用于融合多模态大语言模型

Md Kaykobad Reza, Ameya Patil, Edward Ayrapetian, M. Salman Asif

机构 * University of California Riverside（加州大学河滨分校） ； Amazon（亚马逊） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 SSAM通过参数空间对齐融合多模态大语言模型，无需训练数据实现跨模态统一，提升性能并降低资源消耗。

Comments 25 Pages, 9 Figures, 5 Tables

RoboAlign: Learning Test-Time Reasoning for Language-Action Alignment in Vision-Language-Action Models

RoboAlign：学习测试时推理以改进视觉-语言-动作模型中的语言-动作对齐

Dongyoung Kim, Sumin Park, Woomin Song, Seungku Kim, Taeyoung Kim, Huiwon Jang, Jinwoo Shin, Jaehyung Kim, Younggyo Seo

机构 * Yonsei University（延世大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出RoboAlign框架，通过零样本自然语言推理生成动作标记并结合强化学习提升动作准确性，从而在视觉-语言-动作模型中实现语言与低级动作之间的对齐，提升模型性能。

Comments 15 pages, 7 figures, 9 Tables

Interpretable Cross-Domain Few-Shot Learning with Rectified Target-Domain Local Alignment

可解释的跨领域少样本学习与修正的目标域局部对齐

Yaze Zhao, Yixiong Zou, Yuhua Li, Ruixuan Li

机构 * School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出CC-CDFSL方法，通过循环一致性解决CLIP-based CDFSL中的局部对齐问题，提升局部视觉语言对齐和可解释性，实现SOTA性能。

Comments Accepted to CVPR 2026

Taxonomy-Aware Representation Alignment for Hierarchical Visual Recognition with Large Multimodal Models

面向层次视觉识别的分类意识表示对齐

Hulingxiao He, Zhi Tan, Yuxin Peng

机构 * Wangxuan Institute of Computer Technology, Peking University（北京大学计算机系王轩研究所） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出TARA方法，通过生物基础模型的层次对比学习将分类知识注入大模态模型，提升层次视觉识别中对已知和新类别的识别性能。

Comments Published as a conference paper at CVPR 2026

Test-Time Alignment for Large Language Models via Textual Model Predictive Control

通过文本模型预测控制对大型语言模型进行测试时对齐

Kuang-Da Wang, Teng-Ruei Chen, Yu Heng Hung, Guo-Xun Ko, Shuoyang Ding, Yueh-Hua Wu, Yu-Chiang Frank Wang, Chao-Han Huck Yang, Wen-Chih Peng, Ping-Chun Hsieh

机构 * National Yang Ming Chiao Tung University ； NVIDIA ； National Taiwan University 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出TMPC方法，通过文本模型预测控制解决测试时对齐问题，通过分层强化学习原理改进生成过程，提升不同任务的性能。

Comments Accepted for ICLR 2026. Project page: https://rl-bandits-lab.github.io/TMPC/

DeSTA2.5-Audio: Toward General-Purpose Large Audio Language Model with Self-Generated Cross-Modal Alignment

DeSTA2.5-Audio：迈向通用大规模音频语言模型的自我生成跨模态对齐

Ke-Han Lu, Zhehuai Chen, Szu-Wei Fu, Chao-Han Huck Yang, Sung-Feng Huang, Chih-Kai Yang, Chee-En Yu, Chun-Wei Chen, Wei-Chih Chen, Chien-yu Huang, Yi-Cheng Lin, Yu-Xiang Lin, Chi-An Fu, Chun-Yi Kuan, Wenze Ren, Xuanjun Chen, Wei-Ping Huang, En-Pei Hu, Tzu-Quan Lin, Yuan-Kuei Wu, Kuan-Po Huang, Hsiao-Ying Huang, Huang-Cheng Chou, Kai-Wei Chang, Cheng-Han Chiang, Boris Ginsburg, Yu-Chiang Frank Wang, Hung-yi Lee

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出DeSTA2.5-Audio，一种通用大规模音频语言模型，通过自我生成的跨模态对齐策略解决知识保留与音频感知的平衡问题，展示了在多个音频-语言基准测试中的优异性能。

Comments Published in IEEE Transactions on Audio, Speech and Language Processing (TASLP). Model and code available at: https://github.com/kehanlu/DeSTA2.5-Audio

Safety is Non-Compositional: A Formal Framework for Capability-Based AI Systems

安全性非组合性：一种基于能力的AI系统形式化框架

Cosimo Spera

机构 * Minerva CQ 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本文首次证明在存在联合能力依赖时安全性非组合性，两个单独无法达到禁止能力的智能体组合后可能通过涌现的联合依赖达成禁止目标。

Alignment-Process-Outcome: Rethinking How AIs and Humans Collaborate

对齐-过程-结果：重新思考AI和人类如何协作

Haichang Li, Anjun Zhu, Arpit Narechania

机构 * George Mason University（乔治·马歇尔大学） ； Simon Fraser University（西蒙·弗雷泽大学） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出通过任务和意图两个视角重新理解AI与人类协作的结构关系，揭示对齐、过程和结果之间的动态联系。

Comments Accepted by Extended Abstracts of the 2026 CHI Conference on Human Factors in Computing Systems (CHI EA 26), Barcelona, Spain, 2026

ALARM: Audio-Language Alignment for Reasoning Models

ALARM：用于推理模型的音频-语言对齐

Petr Grinberg, Hassan Shahmohammadi

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 ALARM通过自我改写和多编码器融合，提升推理模型的音频理解能力，实现更高效的音频推理性能。

Comments Submitted to Interspeech2026

From 2D Alignment to 3D Plausibility: Unifying Heterogeneous 2D Priors and Penetration-Free Diffusion for Occlusion-Robust Two-Hand Reconstruction

从二维对齐到三维合理性：统一异构二维先验和无穿透扩散以实现抗遮挡的双手重建

Gaoge Han, Yongkang Cheng, Zhe Chen, Shaoli Huang, Tongliang Liu

机构 * AgiBot ； Mohamed bin Zayed University of Artificial Intelligence ； The University of Sydney ； La Trobe University 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出统一异构二维先验和无穿透扩散模型，以实现抗遮挡的双手重建，提升交互对齐和穿透抑制性能。

Comments Accepted by CVPR 2026 Main, Project: https://gaogehan.github.io/A2P/

CAReDiO: Cultural Alignment via Representativeness and Distinctiveness Guided Data Optimization

CAReDiO：通过代表性与独特性引导的数据优化实现文化对齐

Jing Yao, Xiaoyuan Yi, Jindong Wang, Zhicheng Dou, Xing Xie

机构 * Microsoft Research Asia（微软亚洲研究院） ； Renmin University of China（中国人民大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 CAReDiO通过代表性与独特性引导的数据优化，提升多文化环境下LLM的对齐效果与文化建模精度。

Coordinated Semantic Alignment and Evidence Constraints for Retrieval-Augmented Generation with Large Language Models

协同语义对齐与证据约束在大型语言模型检索增强生成中的应用

Xin Chen, Saili Uday Gadgil, Jiarong Qiu

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出一种通过协同语义对齐与证据约束提升检索增强生成效果的方法，增强事实可靠性和生成流畅性。

PSQE: A Theoretical-Practical Approach to Pseudo Seed Quality Enhancement for Unsupervised Multimodal Entity Alignment

PSQE：一种伪种子质量增强的理论-实践方法用于无监督多模态实体对齐

Yunpeng Hong, Chenyang Bu, Jie Zhang, Yi He, Di Wu, Xindong Wu

机构 * Key Laboratory of Knowledge Engineering with Big Data (the Ministry of Education of China), Hefei University of Technology（大数据知识工程重点实验室（教育部）、合肥工业大学） ； Department of Data Science, College of William and Mary（威廉与玛丽学院数据科学系） ； College of Computer and Information Science, Southwest University（西南大学计算机与信息科学学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 PSQE通过多模态信息和聚类重采样提升伪种子质量，改善无监督多模态实体对齐的精度与图覆盖平衡性。

Comments 2026 SIGKDD Accept

RAISE: Requirement-Adaptive Evolutionary Refinement for Training-Free Text-to-Image Alignment

RAISE：基于需求的进化精炼用于无训练文本到图像对齐

Liyao Jiang, Ruichen Chen, Chao Gao, Di Niu

机构 * Department of ECE, University of Alberta, Canada（阿尔伯塔大学电子工程系） ； Huawei Technologies, Canada（华为技术有限公司） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 RAISE是一种无训练、需求驱动的进化框架，通过动态调整生成过程实现高效且通用的文本到图像对齐。

Comments CVPR 2026

LEDA: Latent Semantic Distribution Alignment for Multi-domain Graph Pre-training

LEDA：用于多领域图预训练的潜在语义分布对齐

Lianze Shan, Jitao Zhao, Dongxiao He, Siqi Liu, Jiaxu Cui, Weixiong Zhang

机构 * Tianjin University（天津大学） ； Jilin University（吉林大学） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 LEDA通过潜在语义分布对齐方法，提升多领域图预训练的通用性和跨领域性能。

Comments Accepted by WWW-26, 12 pages, 2 figures

Mind the Gap in Cultural Alignment: Task-Aware Culture Management for Large Language Models

注意文化契合差距：面向任务的文化管理用于大语言模型

Binchi Zhang, Xujiang Zhao, Jundong Li, Haifeng Chen, Zhengzhang Chen

机构 * University of Virginia（弗吉尼亚大学） ； NEC Laboratories America（NEC美洲实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出CultureManager，一种面向任务的文化管理方法，通过任务感知的文化数据对齐和文化路由器管理，提升大语言模型在文化敏感任务中的表现。