大模型对齐与安全

Mitigating Gender Bias via Fostering Exploratory Thinking in LLMs

通过促进大语言模型的探索性思维来缓解性别偏见

Kangda Wei, Hasnat Md Abdullah, Ruihong Huang

专题命中 AI治理与伦理 ：DPO(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 通过生成性别中性故事对并利用直接偏好优化，该研究旨在减少大语言模型中的性别偏见，同时保持模型能力。

STaR: Sensitive Trajectory Regulation for Unlearning in Large Reasoning Models

STaR：用于大推理模型中去学习的敏感轨迹调节

Jingjing Zhou, Gaoxiang Cong, Li Su, Liang Li

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 STaR通过敏感轨迹调节方法，实现了大推理模型中高效且稳定的隐私保护去学习，减少隐私泄露风险。

Identity-Robust Language Model Generation via Content Integrity Preservation

通过内容完整性保护实现身份鲁棒的语言模型生成

Miao Zhang, Kelly Chen, Md Mehrab Tanjim, Rumi Chunara

机构 * New York University（纽约大学） ； Adobe Research（Adobe研究） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 本文提出了一种轻量级、无需训练的框架，通过保留语义关键属性并中和非关键身份信息，实现身份鲁棒的语言模型生成，有效减少身份依赖性偏见。

LERA: Reinstating Judgment as a Structural Precondition for Execution in Automated Systems

LERA：将判断作为执行的结构性前提重新引入自动化系统中

Jing, Liu

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY

AI总结 LERA提出判断作为执行的结构性前提，通过治理门将执行合法性绑定到判断完成，确保执行权威的问责性。

Comments 12 pages, 1 figure. Conceptual architecture paper

Bias Detection and Rotation-Robustness Mitigation in Vision-Language Models and Generative Image Models

视觉-语言模型和生成图像模型中的偏见检测与旋转鲁棒性缓解

Tarannum Mithila

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出旋转鲁棒缓解策略，通过数据增强、表征对齐和模型正则化，提升视觉-语言和生成图像模型在旋转和分布偏移下的鲁棒性和公平性。

Comments Preprint. This work is derived from the author's Master's research. Code and supplementary materials will be released separately