大模型对齐与安全

Emergence of psychopathological computations in large language models

大语言模型中精神病理计算的出现

Soo Yong Lee, Hyunjin Hwang, Taekwan Kim, Yuyeong Kim, Kyuri Park, Jaemin Yoo, Denny Borsboom, Kijung Shin

机构 * KAIST, Kim Jaechul Graudate School of AI（KAIST人工智能研究生院） ； KAIST, School of Electrical Engineering（KAIST电子工程学院） ； UCL, Mental Health Neuroscience Department（伦敦大学学院心理健康神经科学系） ； UvA, Informatics Institute（乌得勒支大学信息学院） ； UvA, Department of Psychology（乌得勒支大学心理学系） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过建立计算理论框架，证明大语言模型中已出现精神病理学的网络计算结构，并揭示其可能带来的安全风险。

Comments pre-print

Discovery of Sustainable Refrigerants through Physics-Informed RL Fine-Tuning of Sequence Models

通过结合物理信息的强化学习微调序列模型发现可持续制冷剂

Adrien Goldszal, Diego Calanzone, Vincent Taboga, Pierre-Luc Bacon

机构 * École Polytechnique（巴黎政治学院） ； Mila Quebec AI Institute（魁北克人工智能研究所） ； Université de Montréal（蒙特利尔大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 Refgen通过结合物理信息的强化学习微调序列模型，有效发现新型可持续制冷剂。

Comments Accepted to 1st SIMBIOCHEM Workshop at EurIPS 2025

Law-Strength Frontiers and a No-Free-Lunch Result for Law-Seeking Reinforcement Learning on Volatility Law Manifolds

法律强度前沿与在波动率法律流形上寻求法律的强化学习的无免费午餐结果

Jian'an Zhang

专题命中 其他安全 ：alignment(abstract)

AI总结 本文研究了在波动率法律流形上强化学习的法律强度权衡及无免费午餐问题，通过实验揭示法律寻求RL在波动率建模中的局限性。

Comments 61 pages, 14 figures

POMA-3D: The Point Map Way to 3D Scene Understanding

POMA-3D：点地图方式的3D场景理解

Ye Mao, Weixun Luo, Ranran Huang, Junpeng Jing, Krystian Mikolajczyk

机构 * Imperial College London（伦敦帝国学院） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 POMA-3D通过点地图实现3D场景理解，结合自监督学习和多视角对齐策略，提升3D任务表现。

Comments 11 pages, 6 tables, 5 figures