大模型对齐与安全

Feature-Selective Representation Misdirection for Machine Unlearning

特征选择性表示误导用于机器去学习

Taozhao Chen, Linghan Huang, Kim-Kwang Raymond Choo, Huaming Chen

机构 * University of Sydney（悉尼大学） ； University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 SRMU通过特征意识的激活编辑框架，实现安全驱动的模型去学习，有效抑制有害表示并保持模型效用。

From Essence to Defense: Adaptive Semantic-aware Watermarking for Embedding-as-a-Service Copyright Protection

从本质到防御：面向嵌入即服务版权保护的自适应语义感知水印技术

Hao Li, Yubing Ren, Yanan Cao, Yingjie Li, Fang Fang, Xuebin Wang

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 隐私与版权 ：harmlessness(abstract)；分类 cs.CL

AI总结 SemMark是一种基于语义的嵌入即服务版权保护水印技术，通过语义感知水印和自适应权重机制提升防护效果。