大模型对齐与安全

TeraSim-World: Worldwide Safety-Critical Data Synthesis for End-to-End Autonomous Driving

Jiawei Wang, Haowei Sun, Xintao Yan, Shuo Feng, Jun Gao, Henry X. Liu

机构 * University of Michigan（密歇根大学） ； SaferDrive AI ； The University of Hong Kong（香港大学） ； Tsinghua University（清华大学） ； NVIDIA（英伟达） 纠错

专题命中 安全训练 ：safety(title,abstract)

Comments 8 pages, 6 figures

Iterative Prompt Refinement for Safer Text-to-Image Generation

Jinwoo Jeon, JunHyeok Oh, Hayeong Lee, Byung-Jun Lee

机构 * Korea University（韩国大学） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)

Breaking the Cycle of Incarceration With Targeted Mental Health Outreach: A Case Study in Machine Learning for Public Policy

Kit T. Rodolfa, Erika Salomon, Jin Yao, Steve Yoder, Robert Sullivan, Kevin McGuire, Allie Dickinson, Rob MacDougall, Brian Seidler, Christina Sung, Claire Herdeman, Rayid Ghani

机构 * Machine Learning Department（机器学习部门） ； Heinz College of Public Policy（公共政策学院） ； Carnegie Mellon University（卡内基梅隆大学） ； Center for Data Science and Public Policy（数据科学与公共政策中心） ； University of Chicago（芝加哥大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CY、cs.LG