大模型对齐与安全

Advancing credit mobility through stakeholder-informed AI design and adoption

通过利益相关者导向的AI设计与采用推进信用流动性

Yerin Kwak, Siddharth Adelkar, Zachary A. Pardos

机构 * Berkeley School of Education, University of California, Berkeley, CA（伯克利教育学院，加州大学伯克利分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本研究通过与纽约州立大学系统合作，利用AI提出课程衔接建议，提升学生学分流动性，减少人工审查成本，提高衔接效率。

Comments 17 pages, 8 figures

Do LLMs Need Inherent Reasoning Before Reinforcement Learning? A Study in Korean Self-Correction

LLMs是否需要在强化学习前具备内在推理能力？韩国自我修正研究

Hongjin Kim, Jaewook Lee, Kiyoung Lee, Jong-hun Shin, Soojong Lim, Oh-Woog Kwon

机构 * ETRI 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究探讨LLMs在强化学习前是否需要具备内在推理能力，通过韩国自我修正研究发现，对齐模型内部推理与韩语输入关键，提升多语言推理效果。

Comments IJCNLP-AACL 2025 (Main), Outstanding Paper Award

AI-Educational Development Loop (AI-EDL): A Conceptual Framework to Bridge AI Capabilities with Classical Educational Theories

AI教育发展循环（AI-EDL）：一种将AI能力与经典教育理论相结合的概念框架

Ning Yu, Jie Zhang, Sandeep Mitra, Rebecca Smith, Adam Rich

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 AI-EDL框架通过结合经典教育理论与AI技术，提升学生学习效果，通过透明、自我调节和教学监督机制，实现反馈的即时性与具体性，促进学生成长。

Comments This work has been submitted to Journal of Educational Technology Systems. It is under review

Multi-task Cross-modal Learning for Chest X-ray Image Retrieval

多任务跨模态学习用于胸部X射线图像检索

Zhaohui Liang, Sivaramakrishnan Rajaraman, Niccolo Marini, Zhiyun Xue, Sameer Antani

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出多任务学习框架，通过改进BiomedCLIP模型，提升胸部X射线图像与文本的跨模态检索性能。

LEKA:LLM-Enhanced Knowledge Augmentation

LEKA：大语言模型增强的知识增强

Xinhao Zhang, Jinghan Zhang, Fengran Mo, Dongjie Wang, Yanjie Fu, Kunpeng Liu

机构 * Portland State University（波特兰州立大学） ； University of Montreal（蒙特利尔大学） ； University of Kansas（堪萨斯大学） ； Arizona State University（亚利桑那州立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 LEKA通过主动检索合适知识源，提升跨领域知识转移效率，减少计算成本并优化迁移学习效果。

Comments Accepted by IJCAI 2025

DQ-LoRe: Dual Queries with Low Rank Approximation Re-ranking for In-Context Learning

DQ-LoRe：双查询与低秩近似重排序用于上下文学习

Jing Xiong, Zixuan Li, Chuanyang Zheng, Zhijiang Guo, Yichun Yin, Enze Xie, Zhicheng Yang, Qingxing Cao, Haiming Wang, Xiongwei Han, Jing Tang, Chengming Li, Xiaodan Liang

机构 * Sun Yat-Sen University（中山大学） ； The Chinese University of Hong Kong（香港中文大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； MBZUAI ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； Shenzhen MSU-BIT University（深圳MSU-BIT大学） ； DarkMatter AI Research（DarkMatter AI研究） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 DQ-LoRe通过双查询与低秩近似重排序方法提升GPT-4上下文学习性能，实现94.2%的性能提升。

Comments Accepted in ICLR 2024