大模型对齐与安全

Seedance 1.5 pro: A Native Audio-Visual Joint Generation Foundation Model

Seedance 1.5 pro: 一种原生音频视频联合生成基础模型

Team Seedance, Heyi Chen, Siyan Chen, Xin Chen, Yanfei Chen, Ying Chen, Zhuo Chen, Feng Cheng, Tianheng Cheng, Xinqi Cheng, Xuyan Chi, Jian Cong, Jing Cui, Qinpeng Cui, Qide Dong, Junliang Fan, Jing Fang, Zetao Fang, Chengjian Feng, Han Feng, Mingyuan Gao, Yu Gao, Dong Guo, Qiushan Guo, Boyang Hao, Qingkai Hao, Bibo He, Qian He, Tuyen Hoang, Ruoqing Hu, Xi Hu, Weilin Huang, Zhaoyang Huang, Zhongyi Huang, Donglei Ji, Siqi Jiang, Wei Jiang, Yunpu Jiang, Zhuo Jiang, Ashley Kim, Jianan Kong, Zhichao Lai, Shanshan Lao, Yichong Leng, Ai Li, Feiya Li, Gen Li, Huixia Li, JiaShi Li, Liang Li, Ming Li, Shanshan Li, Tao Li, Xian Li, Xiaojie Li, Xiaoyang Li, Xingxing Li, Yameng Li, Yifu Li, Yiying Li, Chao Liang, Han Liang, Jianzhong Liang, Ying Liang, Zhiqiang Liang, Wang Liao, Yalin Liao, Heng Lin, Kengyu Lin, Shanchuan Lin, Xi Lin, Zhijie Lin, Feng Ling, Fangfang Liu, Gaohong Liu, Jiawei Liu, Jie Liu, Jihao Liu, Shouda Liu, Shu Liu, Sichao Liu, Songwei Liu, Xin Liu, Xue Liu, Yibo Liu, Zikun Liu, Zuxi Liu, Junlin Lyu, Lecheng Lyu, Qian Lyu, Han Mu, Xiaonan Nie, Jingzhe Ning, Xitong Pan, Yanghua Peng, Lianke Qin, Xueqiong Qu, Yuxi Ren, Kai Shen, Guang Shi, Lei Shi, Yan Song, Yinglong Song, Fan Sun, Li Sun, Renfei Sun, Yan Sun, Zeyu Sun, Wenjing Tang, Yaxue Tang, Zirui Tao, Feng Wang, Furui Wang, Jinran Wang, Junkai Wang, Ke Wang, Kexin Wang, Qingyi Wang, Rui Wang, Sen Wang, Shuai Wang, Tingru Wang, Weichen Wang, Xin Wang, Yanhui Wang, Yue Wang, Yuping Wang, Yuxuan Wang, Ziyu Wang, Guoqiang Wei, Wanru Wei, Di Wu, Guohong Wu, Hanjie Wu, Jian Wu, Jie Wu, Ruolan Wu, Xinglong Wu, Yonghui Wu, Ruiqi Xia, Liang Xiang, Fei Xiao, XueFeng Xiao, Pan Xie, Shuangyi Xie, Shuang Xu, Jinlan Xue, Shen Yan, Bangbang Yang, Ceyuan Yang, Jiaqi Yang, Runkai Yang, Tao Yang, Yang Yang, Yihang Yang, ZhiXian Yang, Ziyan Yang, Songting Yao, Yifan Yao, Zilyu Ye, Bowen Yu, Jian Yu, Chujie Yuan, Linxiao Yuan, Sichun Zeng, Weihong Zeng, Xuejiao Zeng, Yan Zeng, Chuntao Zhang, Heng Zhang, Jingjie Zhang, Kuo Zhang, Liang Zhang, Liying Zhang, Manlin Zhang, Ting Zhang, Weida Zhang, Xiaohe Zhang, Xinyan Zhang, Yan Zhang, Yuan Zhang, Zixiang Zhang, Fengxuan Zhao, Huating Zhao, Yang Zhao, Hao Zheng, Jianbin Zheng, Xiaozheng Zheng, Yangyang Zheng, Yijie Zheng, Jiexin Zhou, Jiahui Zhu, Kuan Zhu, Shenhan Zhu, Wenjia Zhu, Benhui Zou, Feilong Zuo

专题命中 偏好对齐 ：RLHF(abstract)

AI总结 Seedance 1.5 pro是一款专为原生音频视频联合生成设计的基础模型，通过双分支扩散变压器架构实现高质量生成，支持多语言唇形同步和动态摄像机控制，提升专业内容创作效率。

Comments Seedance 1.5 pro Technical Report

Reinforcement Learning for Large Model: A Survey

为大模型设计强化学习：综述

Weijia Wu, Chen Gao, Joya Chen, Kevin Qinghong Lin, Qingwei Meng, Yiming Zhang, Yuke Qiu, Hong Zhou, Mike Zheng Shou

机构 * National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 偏好对齐 ：RLHF(abstract)

AI总结 本文综述了视觉强化学习领域，探讨了多模态大语言模型、视觉生成等四个主题，分析了算法设计、奖励工程及评估协议，并指出了样本效率、泛化能力等开放挑战。

Comments 22 pages

VSA:Visual-Structural Alignment for UI-to-Code

VSA：面向UI到代码的视觉-结构对齐

Xian Wu, Ming Zhang, Zhiyu Fang, Fei Li, Bin Wang, Yong Jiang, Hao Zhou

专题命中 安全训练 ：alignment(title,abstract)

AI总结 VSA通过视觉-结构对齐提升UI到代码的模块化和一致性，生成类型安全的组件以提高软件工程效率。

Offline Safe Policy Optimization From Heterogeneous Feedback

基于异质反馈的离线安全策略优化

Ze Gong, Pradeep Varakantham, Akshat Kumar

机构 * Shenzhen Institute of Advanced Technology (SIAT), CAS（深圳先进技术研究院（SIAT）、中国科学院） ； Singapore Management University（新加坡管理学院） 纠错

专题命中 安全训练 ：alignment(abstract)；RLHF(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文提出PreSa方法，通过直接学习基于偏好和安全性的策略，解决离线安全强化学习中的性能下降问题。

Comments Accepted at AAMAS 2026 (Extended Abstract)

Persistent Instability in LLM's Personality Measurements: Effects of Scale, Reasoning, and Conversation History

大语言模型人格测量中的持久不稳定性：规模、推理和对话历史的影响

Tommaso Tosato, Saskia Helbling, Yorguin-Jose Mantilla-Ramos, Mahmood Hegazy, Alberto Tosato, David John Lemay, Irina Rish, Guillaume Dumas

专题命中 安全训练 ：alignment(abstract,comments)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究发现大语言模型在人格测量中存在持续不稳定性，规模扩大、推理和对话历史等干预措施未能有效提升稳定性。

Comments Accepted at AAAI 2026, Track on AI Alignment

Graph-Symbolic Policy Enforcement and Control (G-SPEC): A Neuro-Symbolic Framework for Safe Agentic AI in 5G Autonomous Networks

图符号政策执行与控制（G-SPEC）：一种用于5G自治网络安全代理AI的神经符号框架

Divya Vijay, Vignesh Ethiraj

机构 * NetoAI Solutions Ltd（NetoAI解决方案有限公司） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 G-SPEC是一种神经符号框架，通过确定性验证约束概率规划，提升5G自治网络中代理AI的安全性和可靠性。

Comments 15 pages, 3 figures, 3 tables

SACTOR: LLM-Driven Correct and Idiomatic C to Rust Translation with Static Analysis and FFI-Based Verification

SACTOR：基于大语言模型的C到Rust翻译工具，结合静态分析和FFI验证

Tianyang Zhou, Ziyi Zhang, Haowen Lin, Somesh Jha, Mihai Christodorescu, Kirill Levchenko, Varun Chandrasekaran

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Google（谷歌） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 SACTOR通过结合静态分析和FFI验证，利用大语言模型实现C到Rust的正确且习惯性翻译，提升了代码安全性和效率

Comments 35 pages, 15 figures Previously named as "LLM-Driven Multi-step Translation from C to Rust using Static Analysis"

Odysseus: Jailbreaking Commercial Multimodal LLM-integrated Systems via Dual Steganography

奥德赛：通过双隐写术对集成多模态大语言模型系统的商业系统进行劫持

Songze Li, Jiameng Cheng, Yiming Li, Xiaojun Jia, Dacheng Tao

机构 * S3IC-Lab（S3IC实验室） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI、cs.LG

AI总结 奥德赛通过双隐写术劫持多模态大语言模型集成系统，揭示现有安全过滤器的局限性，实现高达99%的攻击成功率。

Comments This paper is accepted by Network and Distributed System Security Symposium (NDSS) 2026

Enhancing Uncertainty Estimation in LLMs with Expectation of Aggregated Internal Belief

通过聚合内部信念期望增强大语言模型的不确定性估计

Zeguan Xiao, Diyang Dou, Boya Xiong, Yun Chen, Guanhua Chen

专题命中 幻觉与事实性 ：RLHF(abstract)；分类 cs.CL

AI总结 本文提出EAGLE方法，通过聚合内部信念期望提升大语言模型的不确定性估计，改进校准性能。

Comments Accepted by AAAI 2026

The Erasure Illusion: Stress-Testing the Generalization of LLM Forgetting Evaluation

擦除幻觉：对LLM遗忘评估泛化能力的压测试

Hengrui Jia, Taoran Li, Jonas Guan, Varun Chandrasekaran

机构 * University of Toronto and Vector Institute（多伦多大学和向量研究所） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出PSG框架，通过生成语义衍生但嵌入空间不同的替代数据集，揭示LLM无学习评估中普遍存在的度量不准确问题。

QE-Catalytic: A Graph-Language Multimodal Base Model for Relaxed-Energy Prediction in Catalytic Adsorption

QE-Catalytic: 一种图-语言多模态基础模型，用于催化吸附中放松能量的预测

Yanjie Li, Jian Xu, Xueqing Chen, Lina Yu, Shiming Xiang, Weijun Li, Cheng-lin Liu

机构 * AnnLab（安实验室） ； Institute of Semiconductors, Chinese Academy of Sciences（半导体研究所，中国科学院） ； Zhongguancun Academy（中关村学院） ； State Key Laboratory of Multimodal Artificial Intelligence Systems（多模态人工智能系统国家重点实验室） ； Institute of Automation, Chinese Academy of Sciences（自动化研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； Computer Network Information Center（计算机网络信息中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 QE-Catalytic结合语言模型与图Transformer，实现高精度催化吸附能量预测及逆向设计

Comments 25 pages

Memory-T1: Reinforcement Learning for Temporal Reasoning in Multi-session Agents

Memory-T1: 基于强化学习的多会话代理时间推理

Yiming Du, Baojun Wang, Yifan Xiang, Zhaowei Wang, Wenyu Huang, Boyang Xue, Bin Liang, Xingshan Zeng, Fei Mi, Haoli Bai, Lifeng Shang, Jeff Z. Pan, Yuxin Jiang, Kam-Fai Wong

机构 * The Chinese University of Hong Kong（香港中文大学） ； Huawei Technologies Co.,Ltd（华为技术有限公司） ； HKUST（香港科技大学） ； The University of Edinburgh（爱丁堡大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 Memory-T1通过强化学习提升多会话代理的时间推理能力，实现7B模型在Time-Dialog基准上的67.0%高分，优于基线模型。

A Comparative Analysis of Ensemble-Based Machine Learning Approaches with Explainable AI for Multi-Class Intrusion Detection in Drone Networks

基于可解释AI的多类入侵检测在无人机网络中的集成机器学习方法比较分析

Md. Alamgir Hossain, Waqas Ishtiaq, Md. Samiul Islam

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出基于集成机器学习和可解释AI的无人机网络入侵检测方法，通过比较随机森林等模型，实现高准确率和可解释性，适用于实时安全关键应用。

Comments 27 pages, 18 figures, 10 tables

Journal ref SECURITY AND PRIVACY, 2025

Low-Resource Domain Adaptation for Speech LLMs via Text-Only Fine-Tuning

通过文本仅微调实现语音大模型的低资源领域适应

Yangui Fang, Jing Peng, Xu Li, Yu Xi, Chengwei Zhang, Guohui Zhong, Kai Yu

机构 * Huazhong University of Science and Technology, School of Electronic Information and Communications（华中科技大学电子信息与通信学院） ； MoE Key Lab of Artificial Intelligence, AI Institute, X-LANCE Lab, Shanghai Jiao Tong University, Shanghai, China（人工智能MoE重点实验室、AI研究院、X-LANCE实验室、上海交通大学、上海，中国） ； Jiangsu Key Lab of Language Computing, Suzhou, China（江苏省语言计算重点实验室、苏州，中国） ； AISpeech Co., Ltd., Suzhou, China（AISpeech公司、苏州，中国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出通过文本仅微调实现语音大模型在低资源环境下的领域适应，有效提升识别性能并减少领域迁移中的性能下降。

Comments This paper has been ACCEPTED for publication in ASRU

Fine-Grained Instruction-Guided Graph Reasoning for Vision-and-Language Navigation

细粒度指令引导的图推理用于视觉-语言导航

Yaohua Liu, Xinyuan Song, Yunfu Deng, Yifan Xie, Binkai Ou, Yan Zhong

机构 * Guangdong Institute of Intelligence Science and Technology（广东智能科学与技术研究院） ； Department of Computer Science, Emory University（埃默里大学计算机科学系） ； Department of Computer Science, University of Wisconsin-Madison（威斯康星大学麦迪逊分校计算机科学系） ； Tsinghua University（清华大学） ； Innovation and Research and Development Department, BoardWare Information System Company（BoardWare信息系统公司创新与研发部） ； School of Mathematics, Peking University（北京大学数学学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出细粒度指令引导的图推理框架OIKG，通过解耦角度与视觉提示并增强空间表示，提升视觉-语言导航中指令理解和跨模态对齐能力。

Comments 10 pages, 4 figures

FlashVLM: Text-Guided Visual Token Selection for Large Multimodal Models

FlashVLM: 大规模多模态模型中的文本引导视觉令牌选择

Kaitong Cai, Jusheng Zhang, Jing Yang, Yijia Fan, Pengtao Xie, Jian Wang, Keze Wang

机构 * Sun Yat-sen University（中山大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； Snap Inc.（Snap公司） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 FlashVLM通过文本引导的视觉令牌选择，实现了高效压缩和高准确率，在大规模多模态模型中表现出色。

Comments Under submission

Bridging Modalities and Transferring Knowledge: Enhanced Multimodal Understanding and Recognition

弥合模态与知识转移：增强多模态理解和识别

Gorjan Radevski

机构 * University of Bristol（布里斯托大学） ； University of Würzburg（乌尔姆大学） ； Processing Speech and Images (PSI)（语音与图像处理组） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出多模态对齐、翻译、融合和转移方法，提升复杂输入的理解与识别能力，涵盖空间语言、医学文本、知识图谱和动作识别等多个领域。

Comments Ph.D. manuscript; Supervisors/Mentors: Marie-Francine Moens and Tinne Tuytelaars

Reaching Agreement Among Reasoning LLM Agents

使推理LLM代理达成一致

Chaoyi Ruan, Yiliang Wang, Ziji Shi, Jialin Li

专题命中 安全评测 ：safety(abstract)

AI总结 Aegean通过引入基于共识的协议，为多代理推理提供正式模型，有效减少延迟并保持答案质量。

Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships

亲密的幻觉：情感动态如何塑造人与人工智能的关系

Minh Duc Chu, Patrick Gerard, Kshitij Pawar, Charles Bickham, Kristina Lerman

专题命中 安全评测 ：safety(abstract)

AI总结 本文研究了人与人工智能关系中情感动态的形成过程，通过分析用户与聊天机器人的对话数据，揭示了AI如何通过模仿用户情绪来增强亲密感，并提出了对社交聊天机器人设计和监管的建议。

Computational Basis of LLM's Decision Making in Social Simulation

大语言模型在社会模拟中的决策机制计算基础

Ji Ma

机构 * LBJ School of Public Affairs, University of Texas at Austin（德克萨斯大学奥斯汀分校公共事务学院LBJ学院） ； Gradel Institute of Charity, New College, University of Oxford（牛津大学格拉德尔慈善研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本研究通过独裁者游戏探索LLM内部表示的变量变化，揭示社会概念在Transformer模型中的编码机制，为社会模拟和AI对齐提供新方法。

Comments Forthcoming: Sociological Methodology; USPTO patent pending

Journal ref Sociological Methodology, 2025

Bias Beneath the Tone: Empirical Characterisation of Tone Bias in LLM-Driven UX Systems

音调下的偏见：LLM驱动的UX系统中音调偏见的实证刻画

Heet Bodara, Md Masum Mushfiq, Isma Farah Siddiqui

机构 * Faculty of Information Technology, Monash University（信息技术学院，莫纳什大学） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文研究了LLM驱动UX系统中的音调偏见问题，通过合成数据集和弱监督方法，揭示了模型在对话中存在系统性的音调偏差，为设计公平可信的对话AI提供了依据。

Conservative Bias in Multi-Teacher Learning: Why Agents Prefer Low-Reward Advisors

多教师学习中的保守偏见：为什么智能体更偏好低奖励顾问

Maher Mesto, Francisco Cruz

机构 * School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院） ； Escuela de Ingeniería, Universidad Central de Chile（智利中央大学工程学院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 本文揭示了多教师学习中智能体偏好保守低奖励顾问的现象，发现其受保守偏见主导，并在特定阈值下失效，同时在概念漂移情况下显著优于基线Q学习。

Comments 10 pages, 5 figures. Accepted at ACRA 2025 (Australasian Conference on Robotics and Automation)

Continuous Vision-Language-Action Co-Learning with Semantic-Physical Alignment for Behavioral Cloning

具有语义-物理对齐的连续视觉-语言-动作共学用于行为克隆

Xiuxiu Qi, Yu Yang, Jiannong Cao, Luyao Bai, Chongshan Fan, Chengtai Cao, Hongpeng Wang

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出CCoL框架，通过连续共学视觉、语言和动作，解决行为克隆中的语义-物理不一致问题，提升动作执行的准确性和鲁棒性。

Comments Accepted at AAAI 2026, the Project website is available at https://qhemu.github.io/CCoL/

Brain-Grounded Axes for Reading and Steering LLM States

基于大脑活动的阅读与操控LLM状态的轴

Sandro Andric

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出利用人类大脑活动作为坐标系，通过ICA提取潜在轴，操控LLM状态，实现可解释和可控的LLM行为。

Comments 10 pages, 4 figures. Code: https://github.com/sandroandric/Brain-Grounded-Axes-for-Reading-and-Steering-LLM-States

Toward Explaining Large Language Models in Software Engineering Tasks

向软件工程任务解释大型语言模型

Antonio Vitale, Khai-Nguyen Nguyen, Denys Poshyvanyk, Rocco Oliveto, Simone Scalabrino, Antonio Mastropaolo

机构 * University of Molise \& Politecnico di Torino Termoli Italy ； University of Molise Italy ； University of Molise \& Politecnico di Torino ； University of Molise 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 FeatureSHAP为软件工程任务提供首个自动化、模型无关的可解释性框架，通过Shapley值归因模型输出，提升代码生成和总结任务的解释性与准确性。

BRIDGE: Budget-aware Reasoning via Intermediate Distillation with Guided Examples

BRIDGE：通过引导示例的中间蒸馏实现预算感知推理

Xuan-An Le, Minh-Nam Tran, Son Nguyen

机构 * Faculty of Information Technology, VNU University of Engineering and Technology（信息技术学院，越南工程技术大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 BRIDGE通过中间蒸馏和预算不对称性，在减少教师查询的同时提升小型模型性能，实现更高效的模型蒸馏

Unified Brain Surface and Volume Registration

统一的脑表面和体积配准

S. Mazdak Abulnaga, Andrew Hoopes, Malte Hoffmann, Robin Magnet, Maks Ovsjanikov, Lilla Zöllei, John Guttag, Bruce Fischl, Adrian Dalca

机构 * MIT Computer Science and Artificial Intelligence Laboratory（MIT计算机科学与人工智能实验室） ； Massachusetts General Hospital, Harvard Medical School（麻省总医院，哈佛医学院） ； Université Paris Cité, INRIA（巴黎Cité大学，INRIA） ； LIX, CNRS, École Polytechnique（LIX，CNRS，巴黎高等理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 NeurAlign通过统一的体积和表面表示，实现了更准确、快速且易用的脑皮层和皮下区域配准，提升了Dice分数并显著提高了效率。

Dialectics for Artificial Intelligence

人工智能的辩证法

Zhengmian Hu

机构 * Adobe Research（Adobe研究） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出了一种基于算法信息的辩证法框架，通过信息过剩和可逆一致性关系，实现多智能体概念的动态生成与对齐。