AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-01-15 至 2026-01-15 共收录 3 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 偏好对齐 3 篇

2601.08842 2026-01-15 cs.CL cs.AI 88%

Resisting Correction: How RLHF Makes Language Models Ignore External Safety Signals in Natural Conversation

对抗修正：RLHF如何使语言模型在自然对话中忽视外部安全信号

Felipe Biava Cataneo

机构 * Felipe Biava Cataneo（独立研究者）

专题命中偏好对齐：RLHF(title,abstract)；safety(title,abstract)；分类 cs.CL、cs.AI

AI总结 RLHF使语言模型在自然对话中忽视外部安全信号，影响安全纠正的有效性。

2601.08848 2026-01-15 cs.CL cs.AI 81%

PediaMind-R1: A Temperament-Aware Language Model for Personalized Early Childhood Care Reasoning via Cognitive Modeling and Preference Alignment

PediaMind-R1: 一种基于气质的个性化婴幼儿护理推理语言模型：通过认知建模与偏好对齐

Zihe Zhang, Can Zhang, Yanheng Xu, Xin Hu, Jichao Leng

机构 * School of Future Information and Innovation, Fudan University（未来信息与创新学院，复旦大学）； Corporate Research, Bosch (China) Investment Ltd.（博世（中国）投资有限公司研发部）

专题命中偏好对齐：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 PediaMind-R1通过整合认知建模与偏好对齐，实现基于婴幼儿气质的个性化护理推理。

Comments Accepted at EMNLP 2025 PALS Workshop (PALS: EXPLORING ACTIVE AND PASSIVE LLM PERSONALIZATION)

2508.06475 2026-01-15 cs.CL 70%

HapticLLaMA: A Multimodal Sensory Language Model for Haptic Captioning

HapticLLaMA：一种多模态感官语言模型用于触觉描述

Guimin Hu, Daniel Hershcovich, Hasti Seifi

机构 * University of Copenhagen（哥本哈根大学）； Arizona State University（亚利桑那州立大学）

专题命中偏好对齐：alignment(abstract)；RLHF(abstract)；分类 cs.CL

AI总结 HapticLLaMA是一种多模态感官语言模型，通过触觉信号生成描述，利用两种分词器和强化学习提升触觉感知描述能力。