大模型对齐与安全

Distributed Safe Control Design and Probabilistic Safety Verification for Multi-Agent Systems

分布式安全控制设计与多智能体系统的概率安全验证

Han Wang, Antonis Papachristodoulou, Kostas Margellos

专题命中 安全训练 ：safety(title,abstract)

AI总结 本文提出了一种分布式算法，用于多智能体系统的安全控制设计和概率安全验证，通过合作机制解决不可行性问题，并通过场景方法量化安全性。

Comments manuscript accepted by Automatica

Journal ref Automatica, Vol. 179, 2025

APRIL: Annotations for Policy evaluation with Reliable Inference from LLMs

APRIL：利用LLM可靠推断进行策略评估的标注

Aishwarya Mandyam, Kalyani Limaye, Barbara E. Engelhardt, Emily Alsentzer

机构 * Stanford University（斯坦福大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 APRIL利用大语言模型生成医疗领域的反事实注释，以提高离线策略评估的准确性与可扩展性。

VCE: Safe Autoregressive Image Generation via Visual Contrast Exploitation

VCE：通过视觉对比利用实现安全的自回归图像生成

Feng Han, Chao Gong, Zhipeng Wei, Jingjing Chen, Yu-Gang Jiang

专题命中 安全训练 ：DPO(abstract)

AI总结 VCE通过视觉对比利用方法，有效保护自回归图像生成模型，实现对不安全内容的精确擦除并保持安全内容的完整性。

Tapas Are Free! Training-Free Adaptation of Programmatic Agents via LLM-Guided Program Synthesis in Dynamic Environments

Tapas Are Free! 通过LLM引导的程序合成实现动态环境下的免训练程序代理适应

Jinwei Hu, Yi Dong, Youcheng Sun, Xiaowei Huang

专题命中 安全训练 ：safety(abstract)

AI总结 TAPA通过LLM引导的程序合成，在动态环境中实现免训练的程序代理适应，提升网络安全和群体智能任务的性能与可靠性。

Comments Extended version of the paper accepted at AAAI-26 Oral to comply with the AAAI camera-ready requirements with minor revisions