大模型对齐与安全

Exploring the Effects of Alignment on Numerical Bias in Large Language Models

探索对大型语言模型中数值偏差的影响

Ayako Sato, Hwichan Kim, Zhousi Chen, Masato Mita, Mamoru Komachi

机构 * Tokyo Metropolitan University（东京 Metropolitan 大学） ； Hitotsubashi University（立命馆大学） ； CyberAgent Inc.（CyberAgent 公司） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文研究了对齐对大型语言模型数值偏差的影响，发现对齐会增加偏差，并提出分数范围调整作为缓解策略。

Comments Accepted at AIBSD 2026 (Workshop at AAAI 2026)

PEARL: Prototype-Enhanced Alignment for Label-Efficient Representation Learning with Deployment-Driven Insights from Digital Governance Communication Systems

PEARL：基于原型增强的标签高效表示学习方法，结合数字治理通信系统的部署驱动洞察

Ruiyu Zhang, Lin Nie, Wai-Fung Lam, Qihao Wang, Xin Zhao

机构 * Department of Politics and Public Administration（政治与公共行政系） ； The University of Hong Kong（香港大学） ； Department of Applied Social Sciences（应用社会科学系） ； The Hong Kong Polytechnic University（香港理工大学） ； School of Physical Science and Technology（物理科学与技术学院） 纠错

专题命中 AI治理与伦理 ：alignment(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 PEARL通过有限监督对齐嵌入向类原型，提升标签稀缺环境下嵌入几何质量，显著改善最近邻检索性能。

Comments 15 pages, 1 figure

AI, Metacognition, and the Verification Bottleneck: A Three-Wave Longitudinal Study of Human Problem-Solving

人工智能、元认知与验证瓶颈：人类问题解决的三波纵向研究

Matthias Huemmer, Franziska Durner, Theophile Shyiramunda, Michelle J. Cummings-Koether

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 本研究探讨了生成式AI对人类问题解决的影响，发现验证成为瓶颈，提出ACTIVE框架以应对认知负荷问题。

Comments 62 pages, 2 figures, 23 tables