大模型对齐与安全

Beyond Surface Alignment: Rebuilding LLMs Safety Mechanism via Probabilistically Ablating Refusal Direction

Yuanbo Xie, Yingjie Zhang, Tianyun Liu, Duohe Ma, Tingwen Liu

专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；jailbreak(abstract)

Comments Accepted by EMNLP2025 Finding

MedFact-R1: Towards Factual Medical Reasoning via Pseudo-Label Augmentation

Gengliang Li, Rongyu Chen, Bin Li, Linlin Yang, Guodong Ding

机构 * Baosight（博思特） ； NUS（新加坡国立大学） ； SIAT（深圳先进技术研究院） ； CUC（中国科学技术大学） ； Microsoft（微软） ； ANU（澳大利亚国立大学） 纠错

专题命中 安全训练 ：trustworthy(abstract)

Comments Tech report

Digital Twin-based Cooperative Autonomous Driving in Smart Intersections: A Multi-Agent Reinforcement Learning Approach

Taoyuan Yu, Kui Wang, Zongdian Li, Tao Yu, Kei Sakaguchi, Walid Saad

专题命中 安全训练 ：safety(abstract)