大模型对齐与安全

Semantic Fusion: Verifiable Alignment in Decentralized Multi-Agent Systems

语义融合：去中心化多智能体系统的可验证对齐

Sofiya Zaichyk

专题命中 其他安全 ：alignment(title,abstract)；safety(abstract)

AI总结 语义融合通过本地本体验证实现去中心化多智能体系统的可验证语义对齐，支持动态更新提案并确保安全性和鲁棒性。

Comments 29 pages

Journal ref ACM Trans. Auton. Adapt. Syst. (2026)

Evaluating Alignment of Behavioral Dispositions in LLMs

评估大语言模型中行为倾向的对齐情况

Amir Taubenfeld, Zorik Gekhman, Lior Nezry, Omri Feldman, Natalie Harris, Shashir Reddy, Romina Stella, Ariel Goldstein, Marian Croak, Yossi Matias, Amir Feder

机构 * Google（谷歌） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 本研究通过情境判断测试评估大语言模型行为倾向与人类倾向的对齐情况，发现模型在不同共识场景下表现出过度自信、偏离共识及跨模型特质模式，揭示了LLMs声明价值与实际行为之间的差距。

Chatting with Images for Introspective Visual Thinking

与图像对话以进行反思性视觉思维

Junfei Wu, Jian Guan, Qiang Liu, Shu Wu, Liang Wang, Wei Wu, Tieniu Tan

机构 * NLPR, MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Nanjing University（南京大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 ViLaVT通过语言引导的特征调节框架，实现多图像区域的联合重编码，提升跨模态对齐与复杂空间推理能力。

From Atoms to Trees: Building a Structured Feature Forest with Hierarchical Sparse Autoencoders

从原子到树：构建具有层次稀疏自编码器的结构化特征森林

Yifan Luo, Yang Zhan, Jiedong Jiang, Tianyang Liu, Mingrui Wu, Zhennan Zhou, Bin Dong

机构 * School of Mathematical Science, Peking University, Beijing, China（北京大学数学科学学院） ； Beijing International Center for Mathematical Research（北京国际数学研究中心） ； the New Cornerstone Science Laboratory, Peking University, Beijing, China（北京大学新基石科学实验室） ； Center for Machine Learning Research, Peking University, Beijing, China（北京大学机器学习研究中心） ； School of Information and Electronics, Beijing Institute of Technology, Beijing, China（北京理工大学信息与电子学院） ； Institute for Theoretical Sciences, Westlake University, Hangzhou, China（西湖大学理论科学研究院） ； School of Science, Westlake University, Hangzhou, China（西湖大学理学院） ； School of Informatics, University of Edinburgh, Edinburgh, UK（爱丁堡大学信息学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出层次稀疏自编码器HSAE，通过结构约束和随机扰动机制，联合学习LLM中的层次化特征结构，实现语义有意义的多尺度概念分析。

FormalJudge: A Neuro-Symbolic Paradigm for Agentic Oversight

FormalJudge: 一种用于代理监管的神经符号范式

Jiayi Zhou, Yang Sheng, Hantao Lou, Yaodong Yang, Jie Fu

机构 * Institute for Artificial Intelligence, Peking University（人工智能研究院，北京大学） ； State Key Laboratory of General Artificial Intelligence, Peking University（通用人工智能国家重点实验室，北京大学） ； Fudan University（复旦大学） ； Shanghai AI Lab（上海人工智能实验室） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 FormalJudge通过神经符号框架结合形式验证，提升代理行为安全性和欺骗检测能力，实现数学保证而非概率评分。

Comments 27 pages

Beyond Parameter Arithmetic: Sparse Complementary Fusion for Distribution-Aware Model Merging

超越参数运算：用于分布感知模型融合的稀疏互补融合

Weihong Lin, Lin Sun, Qilong Shi, Aomufei Yuan, Yuxuan Tian, Zhengyang Wang, Guangxiang Zhao, Xiangzheng Zhang, Tong Yang

机构 * Beijing Qiyuan Technology Co., Ltd.（北京启元科技有限公司） ； Peking University（北京大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文提出SCF-RKL方法，通过稀疏、分布感知的更新控制功能干扰，提升模型融合的稳定性与泛化能力。

ViTaS: Visual Tactile Soft Fusion Contrastive Learning for Visuomotor Learning

ViTaS: 用于视觉-运动学习的视觉触觉软融合对比学习

Yufeng Tian, Shuiqi Cheng, Tianming Wei, Tianxing Zhou, Yuanhang Zhang, Zixian Liu, Qianwei Han, Zhecheng Yuan, Huazhe Xu

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 ViTaS通过融合视觉和触觉信息，利用软融合对比学习提升视觉-运动学习的性能。

Comments Published to ICRA 2026

NarraScore: Bridging Visual Narrative and Musical Dynamics via Hierarchical Affective Control

NarraScore: 通过分层情感控制弥合视觉叙事与音乐动态

Yufan Wen, Zhaocheng Liu, YeGuo Hua, Ziyi Guo, Lihua Zhang, Chun Yuan, Jian Wu

机构 * Tsinghua University（清华大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 NarraScore通过分层情感控制，实现视觉叙事与音乐动态的融合，以高密度压缩叙事逻辑，提升长视频配乐生成的连贯性与自主性。

Learning to Route: A Rule-Driven Agent Framework for Hybrid-Source Retrieval-Augmented Generation

学习路由：一种基于规则的代理框架用于混合源检索增强生成

Haoyue Bai, Haoyu Wang, Shengyu Chen, Zhengzhang Chen, Lu-An Tang, Wei Cheng, Haifeng Chen, Yanjie Fu

机构 * Arizona State University（亚利桑那州立大学） ； NEC Laboratories America（NEC美国实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出基于规则的路由框架，通过系统规则选择合适来源提升检索增强生成的准确性和效率。