Full-Stack Alignment: Co-Aligning AI and Institutions with Thick Models of Value
全栈对齐：通过厚价值模型对齐人工智能与机构
Joe Edelman, Tan Zhi-Xuan, Ryan Lowe, Oliver Klingefjord, Vincent Wang-Mascianica, Matija Franklin, Ryan Othniel Kearns, Ellie Hain, Atrisha Sarkar, Michiel Bakker, Fazl Barez, David Duvenaud, Jakob Foerster, Iason Gabriel, Joseph Gubbels, Bryce Goodman, Andreas Haupt, Jobst Heitzig, Julian Jara-Ettinger, Atoosa Kasirzadeh, James Ravi Kirkpatrick, Andrew Koh, W. Bradley Knox, Philipp Koralus, Joel Lehman, Sydney Levine, Samuele Marro, Manon Revel, Toby Shorin, Morgan Sutherland, Michael Henry Tessler, Ivan Vendrov, James Wilken-Smith
机构
*
Meaning Alignment Institute（意义对齐研究所）
；
Massachusetts Institute of Technology（麻省理工学院）
；
University College London（伦敦大学学院）
；
University of Oxford（牛津大学）
；
Western University（西方大学）
；
University of Toronto（多伦多大学）
；
McGill University（麦吉尔大学）
；
Stanford University（斯坦福大学）
；
Potsdam Institute for Climate Impact Research（波茨坦气候影响研究所）
；
Yale University（耶鲁大学）
；
Carnegie Mellon University（卡内基梅隆大学）
；
UT Austin（德克萨斯大学奥斯汀分校）
；
New York University（纽约大学）
；
Harvard University（哈佛大学）
；
Midjourney Core contributor（Midjourney核心贡献者）
Evaluating Generalization Capabilities of LLM-Based Agents in Mixed-Motive Scenarios Using Concordia
利用Concordia评估基于LLM的智能体在混合动机场景中的泛化能力
Chandler Smith, Marwa Abdulhai, Manfred Diaz, Marko Tesic, Rakshit S. Trivedi, Alexander Sasha Vezhnevets, Lewis Hammond, Jesse Clifton, Minsuk Chang, Edgar A. Duéñez-Guzmán, John P. Agapiou, Jayd Matyas, Danny Karmon, Akash Kundu, Aliaksei Korshuk, Ananya Ananya, Arrasy Rahman, Avinaash Anand Kulandaivel, Bain McHale, Beining Zhang, Buyantuev Alexander, Carlos Saith Rodriguez Rojas, Caroline Wang, Chetan Talele, Chenao Liu, Chichen Lin, Diana Riazi, Di Yang Shi, Emanuel Tewolde, Elizaveta Tennant, Fangwei Zhong, Fuyang Cui, Gang Zhao, Gema Parreño Piqueras, Hyeonggeun Yun, Ilya Makarov, Jiaxun Cui, Jebish Purbey, Jim Dilkes, Jord Nguyen, Lingyun Xiao, Luis Felipe Giraldo, Manuela Chacon-Chamorro, Manuel Sebastian Rios Beltran, Marta Emili García Segura, Mengmeng Wang, Mogtaba Alim, Nicanor Quijano, Nico Schiavone, Olivia Macmillan-Scott, Oswaldo Peña, Peter Stone, Ram Mohan Rao Kadiyala, Rolando Fernandez, Ruben Manrique, Sunjia Lu, Sheila A. McIlraith, Shamika Dhuri, Shuqing Shi, Siddhant Gupta, Sneheel Sarangi, Sriram Ganapathi Subramanian, Taehun Cha, Toryn Q. Klassen, Wenming Tu, Weijian Fan, Wu Ruiyang, Xue Feng, Yali Du, Yang Liu, Yiding Wang, Yipeng Kang, Yoonchang Sung, Yuxuan Chen, Zhaowei Zhang, Zhihan Wang, Zhiqiang Wu, Ziang Chen, Zilong Zheng, Zixia Jia, Ziyan Wang, Dylan Hadfield-Menell, Natasha Jaques, Tim Baarslag, Jose Hernandez-Orallo, Joel Z. Leibo
机构
*
Cooperative AI Foundation（合作人工智能基金会）
；
University of Oxford（牛津大学）
；
UC Berkeley（伯克利大学）
；
Quebec Artificial Intelligence Institute（魁北克人工智能研究所）
；
Leverhulme Centre for the Future of Intelligence, University of Cambridge（未来智能研究中心，剑桥大学）
；
MIT（麻省理工学院）
；
Google DeepMind（谷歌DeepMind）
；
Center on Long-Term Risk（长期风险中心）
；
Google Research（谷歌研究）
；
University of Washington（华盛顿大学）
；
Centrum Wiskunde & Informatica（数学与信息研究所）
；
Utrecht University（乌得勒支大学）
；
Universitat Politècnica de València（瓦伦西亚理工大学）
；
Concordia Contest Participants with Notable Contributions（康科德比赛有显著贡献的参与者）
Ioannis Gasteratos, Antoine Jacquier, Maud Lemercier, Terry Lyons, Cristopher Salvi
机构
*
Institute of Mathematics TU Berlin（柏林技术大学数学研究所）
；
Department of Mathematics Imperial College London（伦敦帝国理工学院数学系）
；
Mathematical Institute University of Oxford（牛津大学数学研究所）
Dan Hendrycks, Dawn Song, Christian Szegedy, Honglak Lee, Yarin Gal, Erik Brynjolfsson, Sharon Li, Andy Zou, Lionel Levine, Bo Han, Jie Fu, Ziwei Liu, Jinwoo Shin, Kimin Lee, Mantas Mazeika, Long Phan, George Ingebretsen, Adam Khoja, Cihang Xie, Olawale Salaudeen, Matthias Hein, Kevin Zhao, Alexander Pan, David Duvenaud, Bo Li, Steve Omohundro, Gabriel Alfour, Max Tegmark, Kevin McGrew, Gary Marcus, Jaan Tallinn, Eric Schmidt, Yoshua Bengio
机构
*
Center for AI Safety（AI安全中心）
；
University of California, Berkeley（加州大学伯克利分校）
；
Virtue AI
；
Morph Labs（Morph实验室）
；
University of Michigan（密歇根大学）
；
LG AI Research（LG人工智能研究）
；
University of Oxford（牛津大学）
；
Stanford University（斯坦福大学）
；
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
；
Gray Swan AI
；
Carnegie Mellon University（卡内基梅隆大学）
；
Cornell University（康奈尔大学）
；
Hong Kong Baptist University（香港 Baptist大学）
；
HKUST（香港科技大学）
；
Nanyang Technological University（南洋理工大学）
；
KAIST（韩国科学技术院）
；
University of California, Santa Cruz（加州大学圣克鲁兹分校）
；
Massachusetts Institute of Technology（麻省理工学院）
；
University of Tübingen（图宾根大学）
；
University of Washington（华盛顿大学）
；
University of Toronto（多伦多大学）
；
Vector Institute（向量研究所）
；
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
；
Beneficial AI Research（有益AI研究）
；
Conjecture
；
Institute for Applied Psychometrics（应用心理测量研究所）
；
New York University（纽约大学）
；
CSER
；
Université de Montréal（蒙特利尔大学）
；
LawZero
