大模型对齐与安全

Don't Break the Boundary: Continual Unlearning for OOD Detection Based on Free Energy Repulsion

不要破坏边界：基于自由能排斥的持续性无学习用于OOD检测

Ningkang Peng, Kun Shao, Jingyang Mao, Linjing Qian, Xiaoqian Peng, Xichen Yang, Yanhui Gu

机构 * School of Computer and Electronic Information, Nanjing Normal University（计算机与电子信息学院，南京师范大学） ； School of Artificial Intelligence and Information Technology, Nanjing University of Chinese Medicine（人工智能与信息科技学院，南京中医药大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；trustworthy(abstract)；分类 cs.LG

AI总结 本文提出TFER框架，通过自由能原理构建Push-Pull机制，实现边界保持的持续无学习，提升OOD检测性能和模型稳定性。

Evaluating an evidence-guided reinforcement learning framework in aligning light-parameter large language models with decision-making cognition in psychiatric clinical reasoning

评估一种证据引导的强化学习框架在对齐光参数大语言模型与精神科临床推理决策认知中的作用

Xinxin Lin, Guangxin Dai, Yi Zhong, Xiang Li, Xue Xiao, Yixin Zhang, Zhengdong Wu, Yongbo Zheng, Runchuan Zhu, Ming Zhao, Huizi Yu, Shuo Wu, Jun Zhao, Lingming Hu, Yumei Wang, Ping Yin, Joey W. Y. Chan, Ngan Yin Chan, Sijing Chen, Yun Kwok Wing, Lin Lu, Xin Ma, Lizhou Fan

机构 * The Chinese University of Hong Kong, Shatin, N.T., Hong Kong SAR, China（香港中文大学） ； Shandong University, Jinan, China（山东大学） ； Peking University Sixth Hospital, Beijing, China（北京大学第六医院） ； Inspur Cloud Information Technology Co., Ltd., Jinan, China（Inspur 云技术有限公司） ； Fudan University, Shanghai, China（复旦大学） ； Shandong Provincial Hospital Affiliated to Shandong First Medical University, Jinan, China（山东第一医科大学附属山东省人民医院） ； Jilin University, Changchun, China（吉林大学） ； Hong Kong ICI Cloud Service Limited, Hong Kong SAR, China（香港ICI云服务有限公司） ； Shandong First Medical University, Jinan, China（山东第一医科大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL

AI总结 本研究提出ClinMPO框架，通过证据引导的强化学习使轻量LLM在复杂精神病学推理任务中达到超越人类的准确率。

Comments 21 pages, 8 figures