大模型对齐与安全

Formalising Human-in-the-Loop: Computational Reductions, Failure Modes, and Legal-Moral Responsibility

Maurice Chiodo, Dennis Müller, Paul Siewert, Jean-Luc Wetherall, Zoya Yasmine, John Burden

机构 * Centre for the Study of Existential Risk（存在风险研究中心） ； University of Cambridge（剑桥大学） ； Institute of Mathematics Education（数学教育研究所） ； University of Cologne（科隆大学） ； Department of Computer Science and Technology（计算机科学与技术系） ； DeepFin Research（DeepFin研究） ； Faculty of Law（法学院） ； University of Oxford（牛津大学） ； Leverhulme Centre for the Future of Intelligence（未来智能中心） 纠错

专题命中 AI治理与伦理 ：safety(abstract,comments)；分类 cs.AI、cs.CY；trustworthy(comments)；AI safety(comments)

Comments 31 pages. Keywords: Human-in-the-loop, Automated decision making system, Human oversight in sociotechnical systems, Oracle machine, AI safety, Trustworthy AI

How Strategic Agents Respond: Comparing Analytical Models with LLM-Generated Responses in Strategic Classification

Tian Xie, Pavan Rauch, Xueru Zhang

机构 * The Ohio State University（俄亥俄州立大学） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.LG

Comments Add GPT 5 experiments

Biospheric AI

Marcin Korecki

机构 * TU Delft（代尔夫特理工大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

Psychological and behavioural responses in human-agent vs. human-human interactions: a systematic review and meta-analysis

Jianan Zhou, Fleur Corbett, Joori Byun, Talya Porat, Nejra van Zalk

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

Desiderata for a biomedical knowledge network: opportunities, challenges and future Directions

Chunlei Wu, Hongfang Liu, Jason Flannick, Mark A. Musen, Andrew I. Su, Lawrence Hunter, Thomas M. Powers, Cathy H. Wu

专题命中 AI治理与伦理 ：trustworthy(abstract)

Comments 6 pages, 2 figures