大模型对齐与安全

PIXEL: Adaptive Steering Via Position-wise Injection with eXact Estimated Levels under Subspace Calibration

Manjiang Yu, Hongji Li, Priyanka Singh, Xue Li, Di Wang, Lijie Hu

机构 * University of Queensland（昆士兰大学） ； Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学） ； Provable Responsible AI and Data Analytics (PRADA) Lab（可证责任AI与数据分析师实验室） ； King Abdullah University of Science and Technology (KAUST)（国王 Abdullah 科学与技术大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

Comments 20 pages,3 figures