IKnow: Instruction-Knowledge-Aware Continual Pretraining for Effective Domain Adaptation
机构 * University of Bonn(波恩大学) ; Lamarr Institute for Machine Learning and Artificial Intelligence(拉玛尔机器学习与人工智能研究所)
专题命中 其他安全 :safety(abstract);分类 cs.CL、cs.AI
AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
机构 * University of Bonn(波恩大学) ; Lamarr Institute for Machine Learning and Artificial Intelligence(拉玛尔机器学习与人工智能研究所)
专题命中 其他安全 :safety(abstract);分类 cs.CL、cs.AI
机构 * Indian Institute of Technology Gandhinagar(印度古吉拉特邦理工学院加尔文加尔)
专题命中 其他安全 :safety(abstract);分类 cs.CL、cs.AI
Comments Accepted at MELT Workshop @ COLM 2025
机构 * Zhejiang University(浙江大学)
专题命中 其他安全 :safety(abstract);分类 cs.LG
机构 * Yonsei University(延世大学) ; LG Electronics(LG电子)
专题命中 其他安全 :alignment(abstract);分类 cs.LG
Comments Comments: 28 pages, including appendix. 5 figures. Full version of the NeurIPS 2025 paper
机构 * School of Software, Shandong University(山东大学软件学院) ; Shenzhen Loop Area Institute(深圳河套学院) ; School of Computing and Artificial Intelligence, Shandong University of Finance and Economics(山东财经大学计算机与人工智能学院)
专题命中 其他安全 :alignment(abstract);分类 cs.LG
Comments Accepted by NeurIPS 2025
机构 * University of California, Merced(加州大学默塞德分校) ; The University of Queensland(昆士兰大学) ; Google DeepMind(谷歌DeepMind)
专题命中 其他安全 :alignment(abstract);分类 cs.CL
机构 * Courant Institute of Mathematical Sciences, New York University(纽约大学数学科学学院) ; Tandon School of Engineering, New York University(纽约大学工程学院) ; Cerebras Systems Inc.(Cerebras Systems公司) ; University of Pennsylvania(宾夕法尼亚大学)
专题命中 其他安全 :alignment(abstract);分类 cs.CL
机构 * MoE Key Lab of Artificial Intelligence, Shanghai Jiao Tong University(人工智能MoE实验室,上海交通大学) ; Ant Group(蚂蚁集团) ; Ningbo Institute of Digital Twin, Eastern Institute of Technology, Ningbo(宁波数字孪生研究所,东部技术研究所,宁波)
专题命中 其他安全 :alignment(abstract)