Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
思维链可监控性：AI安全的新且脆弱的机会
Tomek Korbak, Mikita Balesni, Elizabeth Barnes, Yoshua Bengio, Joe Benton, Joseph Bloom, Mark Chen, Alan Cooney, Allan Dafoe, Anca Dragan, Scott Emmons, Owain Evans, David Farhi, Ryan Greenblatt, Dan Hendrycks, Marius Hobbhahn, Evan Hubinger, Geoffrey Irving, Erik Jenner, Daniel Kokotajlo, Victoria Krakovna, Shane Legg, David Lindner, David Luan, Aleksander Mądry, Julian Michael, Neel Nanda, Dave Orr, Jakub Pachocki, Ethan Perez, Mary Phuong, Fabien Roger, Joshua Saxe, Buck Shlegeris, Martín Soto, Eric Steinberger, Jasmine Wang, Wojciech Zaremba, Bowen Baker, Rohin Shah, Vlad Mikulik
机构
*
UK AI Security Institute（英国人工智能安全研究所）
；
Apollo Research（阿波罗研究）
；
METR
；
University of Montreal（蒙特利尔大学）
；
Mila
；
Anthropic
；
OpenAI（开放人工智能研究所）
；
Google DeepMind（谷歌DeepMind）
；
Truthful AI
；
UC Berkeley（伯克利大学）
；
Center for AI Safety（人工智能安全中心）
；
AI Futures Project（人工智能未来项目）
；
Amazon（亚马逊）
；
Scale AI
；
Magic
；
Meta
；
Redwood Research（红木研究）
Subgoal Graph-Augmented Planning for LLM-Guided Open-World Reinforcement Learning
子目标图增强的规划用于LLM引导的开放世界强化学习
Shanwei Fan, Bin Zhang, Zhiwei Xu, Yingxuan Teng, Siqi Dai, Lin Cheng, Guoliang Fan
机构
*
The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences（认知与决策智能复杂系统重点实验室，自动化研究所，中国科学院）
；
School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
；
School of Artificial Intelligence, Shandong University（山东大学人工智能学院）
机构
*
College of Computer and Information Science, Southwest University, Chongqing, China（计算机与信息科学学院，西南大学，重庆，中国）
；
College of Vehicle Engineering, Chongqing Industry and Trade Polytechnic, Chongqing, China（车辆工程学院，重庆工业贸易职业技术学院，重庆，中国）
机构
*
University of Pennsylvania（宾夕法尼亚大学）
；
Massachusetts Institute of Technology（麻省理工学院）
；
University of Washington（华盛顿大学）
；
University of California Santa Barbara（加州大学圣巴巴拉分校）
；
Meta
；
University of Southern California（南加州大学）
；
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
；
Microsoft Corporation（微软公司）
