大模型对齐与安全

VLMLight: Safety-Critical Traffic Signal Control via Vision-Language Meta-Control and Dual-Branch Reasoning Architecture

VLMLight：通过视觉-语言元控制与双分支推理架构实现安全关键的交通信号控制

Maonan Wang, Yirong Chen, Aoyu Pang, Yuxin Cai, Chung Shue Chen, Yuheng Kan, Man-On Pun

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shanghai AI Laboratory（上海人工智能实验室） ； Nanyang Technological University（南洋理工大学） ； Nokia Bell Labs（诺基亚贝尔实验室） ； Fourier Intelligence（Fourier智能） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.LG

AI总结 VLMLight通过视觉-语言元控制与双分支推理架构，实现安全关键的交通信号控制，显著减少紧急车辆等待时间并提升系统安全性。

Comments 25 pages, 15 figures

GTPO: Stabilizing Group Relative Policy Optimization via Gradient and Entropy Control

GTPO：通过梯度和熵控制稳定群体相对策略优化

Marco Simoni, Aleksandar Fontana, Giulio Rossolini, Andrea Saracino, Paolo Mori

机构 * National Doctorate on Artificial Intelligence, Sapienza Università di Roma（人工智能国家博士学院，罗马萨皮恩扎大学） ； Department of Excellence in Robotics and AI, TeCIP, Scuola Superiore Sant’Anna, Pisa（机器人与人工智能卓越部门，TeCIP，圣安娜高等学院，比萨） ； Institute of Informatics and Telematics, National Research Council of Italy, Pisa（信息与电信研究所，意大利国家研究理事会，比萨） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 GTPO通过梯度和熵控制稳定群体相对策略优化，提升大语言模型对齐的训练稳定性与性能。

Natural Language Interface for Firewall Configuration

防火墙配置的自然语言接口

F. Taghiyev, A. Aslanbayli

机构 * Tandon School of Engineering（塔恩顿工程学院） ； Department of Electrical and Computer Engineering（电气与计算机工程系） ； New York University（纽约大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出了一种基于自然语言的防火墙配置接口，通过中间表示和验证层实现策略翻译与安全检查，旨在提升防火墙管理的可审计性和人机交互性。

Comments 7 pages, 3 figures. Preliminary version of an ongoing research project on natural language interfaces for firewall configuration

Collision-Aware Density-Driven Control of Multi-Agent Systems via Control Barrier Functions

考虑碰撞的密度驱动多智能体系统控制方法 via 控制屏障函数

Sungjun Seo, Kooktae Lee

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出了一种结合密度驱动控制与控制屏障函数的多智能体系统控制方法，用于在存在障碍物的环境中实现安全高效的区域覆盖。

Comments 6 pages, 7 figures, Accepted for presentation at the 5th Modeling, Estimation and Control Conference (MECC 2025), Pittsburgh, USA