大模型对齐与安全

CommandSwarm: Safety-Aware Natural Language-to-Behavior-Tree Generation for Robotic Swarms

CommandSwarm: 为机器人群体提供安全意识的自然语言到行为树生成

Mohammed Majid, Amjad Yousef Majid

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出CommandSwarm系统，通过多语言翻译、安全过滤和约束提示生成XML行为树，验证了紧凑量化领域适应的LLM在机器人群体控制中的有效性，强调了解析器接受和安全过滤的重要性。

The Causally Emergent Alignment Hypothesis: Causal Emergence Aligns with and Predicts Final Reward in Reinforcement Learning Agents

因果涌现对齐假说：因果涌现与强化学习代理最终奖励对齐并预测

Federico Pigozzi, Michael Levin

专题命中 其他安全 ：alignment(title,abstract)

AI总结 研究探讨因果涌现与强化学习代理奖励之间的关系，发现因果涌现能预测最终奖励并促进表示动态与奖励提升对齐。

Comments 10 pages, 6 figures

Decoding Alignment without Encoding Alignment: A critique of similarity analysis in neuroscience

无需编码对齐的解码对齐：对神经科学中相似性分析的批评

Johannes Bertram, Luciano Dyballa, T. Anderson Keller, Savik Kinger, Steven W. Zucker

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文指出解码相似性分析的局限性，揭示解码表示可能受少量神经元影响，提出编码 manifold 作为对比神经系统的补充工具。

Comments 40 pages, 27 figures

Directional Alignment and Narrative Agency in Human-LLM Co-Writing

方向对齐与人类-大语言模型共写中的叙事自主性

Halfdan Nordahl Fundal, Yuri Bizzoni

专题命中 其他安全 ：alignment(title,abstract)

AI总结 研究人类-大语言模型共写中的叙事自主性，探讨谁主导故事发展。通过87个共写故事分析，发现人类引入更多语义新颖性，而大语言模型则扩展人类元素，情感层面也呈现双向互动。

Comments 11 pages, 13 figures

Rethinking Semantic Collaborative Integration: Why Alignment Is Not Enough

重新思考语义协作整合：为什么对齐不够

Maolin Wang, Dongze Wu, Jianing Zhou, Hongyu Chen, Beining Bao, Yu Jiang, Chenbin Zhang, Chang Wang, Jian Liu, Lei Sha

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文挑战了传统语义与协作表示对齐的假设，提出互补融合视角，强调共享与私有因素的区分，通过实验揭示语义与协作视图的低一致性及互补性，倡导以互补性为核心的推荐系统设计。

Comments Accepted by SIGIR 2026

LLM-Guided Safety Agent for Edge Robotics with an ISO-Compliant Perception-Compute-Control Architecture

基于ISO合规感知-计算-控制架构的LLM引导安全代理用于边缘机器人

Xu Huang, Ruofan Zhang, Lu Cheng, Yuefeng Song, Xu Huang, Huayu Zhang, Sheng Yin, Anyang Liang, Chen Qian, Yin Zhou, Xiaoyun Yuan, Yuan Cheng

机构 * Shanghai Jiao Tong University（上海交通大学） ； SIMMIR Tech（SIMMIR科技） 纠错

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出一种基于ISO合规架构的LLM引导安全代理，通过将安全规范转化为可执行谓词，实现边缘机器人中的功能安全，支持ISO 13849 Category 3和PL d的实用部署。

"Label from Somewhere": Reflexive Annotating for Situated AI Alignment

从某处获取标签：反思性标注用于情境化AI对齐

Anne Arzberger, Celine Offerman, Ujwal Gadiraju, Alessandro Bozzon, Jie Yang

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文通过反思性标注方法探讨 annotator 的社会位置如何影响标注判断，发现其能捕捉超越静态人口统计数据的元数据，并揭示标注者的位置谦逊与观点转变。

Bridging Time and Space: Decoupled Spatio-Temporal Alignment for Video Grounding

弥合时空：解耦的时空对齐用于视频定位

Xuezhen Tu, Jingyu Wu, Fangyu Kang, Qingpeng Nong, Kaijin Zhang, Chaoyue Niu, Fan Wu

机构 * Shanghai Jiao Tong University（上海交通大学） ； ZTE Corporation（中兴通讯） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出Bridge-STG框架，通过解耦时空定位并保持语义连贯性，解决视频定位中时空对齐和视觉token冗余问题，实验表明其在多个基准上达到SOTA性能。

MApLe: Multi-instance Alignment of Diagnostic Reports and Large Medical Images

MApLe：多实例诊断报告与大医学图像的对齐

Felicia Bader, Philipp Seeböck, Anastasia Bartashova, Ulrike Attenberger, Georg Langs

机构 * Computational Imaging Research Lab, Department of Biomedical Imaging and Image-guided Therapy, Medical University of Vienna（计算成像研究实验室，生物医学成像与影像引导治疗系，维也纳医学大学） ； Comprehensive Center for Artificial Intelligence in Medicine, Medical University of Vienna（医学人工智能综合中心，维也纳医学大学） ； Medical Anomaly Detection (MANO) Group, Computational Imaging Research (CIR), Department of Biomedical Imaging and Image-guided Therapy, Medical University of Vienna（医学异常检测（MANO）组，计算成像研究（CIR），生物医学成像与影像引导治疗系，维也纳医学大学） ； Department of Biomedical Imaging and Image-Guided Therapy, Medical University of Vienna（生物医学成像与影像引导治疗系，维也纳医学大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 MApLe通过多任务多实例对齐方法，解决诊断报告与图像局部区域的关联问题，提升医学图像与文本的对齐性能。

Comments Accepted for MIDL 2026; Reviews available at https://openreview.net/forum?id=M8OO3CRbL9#discussion

TIPSv2: Advancing Vision-Language Pretraining with Enhanced Patch-Text Alignment

TIPSv2：通过增强的补丁-文本对齐推进视觉-语言预训练

Bingyi Cao, Koert Chen, Kevis-Kokitsi Maninis, Kaifeng Chen, Arjun Karpur, Ye Xia, Sahil Dua, Tanmaya Dabral, Guangxing Han, Bohyung Han, Joshua Ainslie, Alex Bewley, Mithun Jacob, René Wagner, Washington Ramos, Krzysztof Choromanski, Mojtaba Seyedhosseini, Howard Zhou, André Araujo

机构 * Google（谷歌） ； DeepMind（深度Mind） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出TIPSv2，通过改进的预训练方法提升视觉-语言模型的补丁-文本对齐能力，实验表明其在多种任务和数据集上表现优异。

Comments CVPR2026 camera-ready + appendix

When Drawing Is Not Enough: Exploring Spontaneous Speech with Sketch for Intent Alignment in Multimodal LLMs

当绘画不够时：探索通过草图进行意图对齐的自发性言语在多模态大语言模型中的应用

Weiyan Shi, Dorien Herremans, Kenny Tsu Wei Choo

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文探讨了在多模态大语言模型中，通过草图与自发性言语的结合来提升设计初期意图对齐的效果，通过实验表明加入自发性言语能显著提高生成图像的意图匹配度。

Comments Accepted at DIS 2026 PWiP

CogInstrument: Modeling Cognitive Processes for Bidirectional Human-LLM Alignment in Planning Tasks

CogInstrument: 为规划任务中的双向人-大语言模型对齐建模认知过程

Anqi Wang, Dongyijie Pan, Xin Tong, Pan Hui

专题命中 其他安全 ：alignment(title,abstract)

AI总结 CogInstrument通过认知动机建模实现人与大语言模型在规划任务中的双向对齐，通过可编辑的图形结构揭示隐含推理过程，提升用户对协作的控制力和信任度。

ProPhy: Progressive Physical Alignment for Dynamic World Simulation

ProPhy：渐进式物理对齐用于动态世界模拟

Zijun Wang, Panwen Hu, Jing Wang, Terry Jingchen Zhang, Yuhao Cheng, Long Chen, Yiqiang Yan, Zutao Jiang, Hanhui Li, Xiaodan Liang

机构 * Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区） ； Peng Cheng Laboratory（鹏城实验室） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； ETH Zürich（苏黎世联邦理工学院） ； Lenovo Research（联想研究院） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 ProPhy通过渐进式物理对齐框架，实现物理感知的视频生成，提升动态物理现象的准确性与物理一致性。

ReAlign: Optimizing the Visual Document Retriever with Reasoning-Guided Fine-Grained Alignment

ReAlign：通过推理引导的细粒度对齐优化视觉文档检索

Hao Yang, Yifan Ji, Zhipeng Xu, Zhenghao Liu, Yukun Yan, Zulong Chen, Shuo Wang, Yu Gu, Ge Yu

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出ReAlign方法，利用VLM推理能力生成细粒度视觉描述作为监督信号，提升视觉文档检索性能，实验表明在不同领域数据集上均取得2%的相对提升。

Measuring Geopolitical Alignment and Economic Growth

衡量地缘政治一致性与经济增长

Tianyu Fan

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出了一种基于事件的地缘政治一致性的新衡量方法，并证明其影响经济增长。研究发现地缘政治一致性提升可使人均GDP增长约10%。

Multi-Agent Cooperative Learning for Robust Vision-Language Alignment under OOD Concepts

多智能体协作学习用于应对异常概念下的鲁棒视觉语言对齐

Philip Xu

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出多智能体协作学习框架，通过结构化信息传递缓解模态不平衡，提升视觉语言模型在异常概念下的对齐性能，实验表明在少样本和零样本设置中精度提升1-5%。

Comments arXiv admin note: This submission has been withdrawn by arXiv administrators due to incorrect authorship. Author list truncated

FoleyDesigner: Immersive Stereo Foley Generation with Precise Spatio-Temporal Alignment for Film Clips

FoleyDesigner：基于精确时空对齐的沉浸式立体声 Foley 生成

Mengtian Li, Kunyan Dai, Yi Ding, Ruobing Ni, Ying Zhang, Wenwu Wang, Zhifeng Xie

机构 * Shanghai Film Academy, Shanghai University（上海大学上海电影学院） ； Shanghai Engineering Research Center of Motion Picture Special Effects（上海电影特效工程技术研究中心） ； University of Surrey, UK（英国萨里大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出 FoleyDesigner 框架，结合视频分析与可控 Foley 生成，引入 FilmStereo 数据集，实现高质量立体声生成与专业音频混合，提升电影沉浸体验。

Generative Event Pretraining with Foundation Model Alignment

基于基础模型对齐的生成事件预训练

Jianwen Cao, Jiaxu Xing, Nico Messikommer, Davide Scaramuzza

机构 * Robotics and Perception Group, University of Zurich（苏黎世大学机器人感知组） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出GEP框架，通过将互联网级图像数据集中的语义知识迁移到事件数据，并学习事件特有的时间动态，提升事件视觉基础模型在跨任务迁移学习中的性能。

Journal ref CVPR 2026 Findings

Distributed Predictive Control Barrier Functions: Towards Scalable Safety Certification in Modular Multi-Agent Systems

分布式预测性控制屏障函数：迈向模块化多智能体系统中的可扩展安全性认证

Jonas Ohnemus, Alexandre Didier, Ahmed Aboudonia, Andrea Carron, Melanie N. Zeilinger

机构 * Institute for Dynamic Systems and Control, ETH Zurich（苏黎世联邦理工学院动态系统与控制研究所） ； University of California Berkeley（加州大学伯克利分校） 纠错

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出分布式预测性控制屏障函数（D-PCBF）作为多智能体系统的安全框架，通过模型预测确保在动态网络拓扑变化下的可恢复安全性，并通过仿真和实验证明其有效性。

Comments This work has been submitted to the IEEE for possible publication

SafeDrive: Fine-Grained Safety Reasoning for End-to-End Driving in a Sparse World

SafeDrive: 为稀疏世界中的端到端驾驶进行细粒度安全推理

Jungho Kim, Jiyong Oh, Seunghoon Yu, Hongjae Shin, Donghyuk Kwak, Jun Won Choi

机构 * Seoul National University（首尔大学） 纠错

专题命中 其他安全 ：safety(title,abstract)

AI总结 SafeDrive提出了一种端到端规划框架，通过轨迹条件化的稀疏世界模型进行显式且可解释的安全推理，实现了在开放循环和闭合循环基准上的最佳性能，有效降低了碰撞率。

Comments Accepted to CVPR 2026, 19 pages, 9 figures

World2Rules: A Neuro-Symbolic Framework for Learning World-Governing Safety Rules for Aviation

World2Rules: 一种用于航空领域学习世界治理安全规则的神经符号框架

Haichuan Wang, Jay Patrikar, Sebastian Scherer

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他安全 ：safety(title,abstract)

AI总结 World2Rules通过结合神经网络和符号方法，从航空多模态数据中学习安全规则，提升规则的准确性和可解释性，实验显示其在F1得分上优于纯神经和单步神经符号基线。

Comments 19 pages, 6 figures

Decompose and Transfer: CoT-Prompting Enhanced Alignment for Open-Vocabulary Temporal Action Detection

分解与迁移：基于CoT提示的对齐增强开放词汇时序动作检测

Sa Zhu, Wanqian Zhang, Lin Wang, Xiaohua Chen, Chenxu Cui, Jinchao Zhang, Bo Li

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院） ； State Key Laboratory of Cyberspace Security Defense（网络空间安全防御国家重点实验室） ； Hangzhou Dianzi University（杭州电子科技大学） ； Department of Automation, Tsinghua University（清华大学自动化系） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出PDA框架，通过CoT提示语义分解和适应性相位对齐，提升开放词汇时序动作检测的跨类别迁移能力。

Comments Accepted by CVPR 2026

Consistent but Dangerous: Per-Sample Safety Classification Reveals False Reliability in Medical Vision-Language Models

一致却危险：每样本安全分类揭示医疗视觉-语言模型中的虚假可靠性

Binesh Sadanandan, Vahid Behzadan

机构 * SAIL Lab, University of New Haven（SAIL实验室，新罕布什尔大学） 纠错

专题命中 其他安全 ：safety(title,abstract)

AI总结 研究揭示医疗VLMs中一致性指标的缺陷，通过四象限分类发现危险样本高准确率且低熵，建议部署评估需结合文本基线以识别虚假可靠性。

Comments CVPR 2026 Workshop on Medical Reasoning with Vision Language Foundation Models

Time-Layer Adaptive Alignment for Speaker Similarity in Flow-Matching Based Zero-Shot TTS

基于流匹配的零样本文本到语音系统中的时间层自适应对齐

Haoyu Li, Mingyang Han, Yu Xi, Dongxiao Wang, Hankun Wang, Haoxiang Shi, Boyu Li, Jun Song, Bo Zheng, Shuai Wang, Kai Yu

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出TLA-SA方法，通过联合利用时间与层次变化提升说话人一致性，在研究和工业数据集上显著提高说话人相似度，并在不同模型架构中表现良好。

Comments Submitted to INTERSPEECH 2026

Boosting Latent Diffusion Models via Disentangled Representation Alignment

通过解耦表征对齐提升潜在扩散模型

John Page, Xuesong Niu, Kai Wu, Kun Gai

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出Semantics-Disentangled VAE，通过非线性映射架构提升VAE的语义解耦能力，实现高质量图像生成，FID达1.21。

Multi-Grained Vision-Language Alignment for Domain Generalized Person Re-Identification

多粒度视觉-语言对齐用于领域泛化的人员重识别

Jiachen Li, Xiaojin Gong, Dongping Zhang

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出基于CLIP的多粒度视觉-语言对齐框架，通过引入多粒度提示和自适应掩码模块提升领域泛化人员重识别性能。

PhysAlign: Physics-Coherent Image-to-Video Generation through Feature and 3D Representation Alignment

PhysAlign：通过特征和3D表示对齐实现物理一致的图像到视频生成

Zhexiao Xiong, Yizhi Song, Liu He, Wei Xiong, Yu Yuan, Feng Qiao, Nathan Jacobs

专题命中 其他安全 ：alignment(title,abstract)

AI总结 PhysAlign通过特征和3D表示对齐，解决图像到视频生成中的物理一致性问题，提升复杂物理推理和时间稳定性，同时保持零样本视觉质量。

Noise-aware few-shot learning through bi-directional multi-view prompt alignment

通过双向多视图提示对齐实现噪声感知的少样本学习

Lu Niu, Cheng Xue

机构 * Southeast University（东南大学） ； AIIA, Ministry of Education, China（教育部人工智能研究院，中国） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 NA-MVP通过双向多视图提示对齐实现噪声感知少样本学习，有效区分干净与噪声线索，提升模型在噪声环境下的鲁棒性。

Hierarchical Granularity Alignment and State Space Modeling for Robust Multimodal AU Detection in the Wild

层次粒度对齐与状态空间建模用于野外多模态面部动作单元检测

Jun Yu, Yunxiang Zhang, Naixiang Zheng, Lingsi Zhu, Guoyuan Wang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出了一种基于层次粒度对齐和状态空间模型的多模态框架，通过强大的基础模型提取高保真视觉和音频表示，并引入视觉-马尔可夫模型和不对称交叉注意机制，实现对野外环境中面部动作单元的高效检测。

Comments 8 pages, 1 figures

OnFly: Onboard Zero-Shot Aerial Vision-Language Navigation toward Safety and Efficiency

OnFly：面向安全与效率的机载零样本空中视觉语言导航

Guiyong Zheng, Yueting Ban, Mingjie Zhang, Juepeng Zheng, Boyu Zhou

机构 * School of Artificial Intelligence, Sun Yat-Sen University（中山大学人工智能学院） ； Southern University of Science and Technology（南方科技大学） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 其他安全 ：safety(title,abstract)

AI总结 OnFly通过共享感知双智能体架构和混合记忆机制，实现高效稳定的零样本空中视觉语言导航，提升安全性和效率。