arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2506.06751cs.CL
收藏

大语言模型中的地缘政治偏见:当代语言模型眼中的“好”与“坏”国家

Geopolitical biases in LLMs: what are the "good" and the "bad" countries according to contemporary language models

ACL Proceedings(ACL会议)

Mikhail Salnikov, Dmitrii Korzh, Ivan Lazichny, Elvir Karimov, Artyom Iudin, Ivan Oseledets, Oleg Y. Rogov, Natalia Loukachevitch, Alexander Panchenko, Elena Tutubalina

AI总结:

本研究通过新数据集评估大语言模型对多国历史事件解读中的地缘政治偏见,发现模型倾向特定国家叙事,简单去偏提示效果有限,并提供了研究框架与数据集。

摘要:

本文通过分析大语言模型(LLMs)对具有冲突国家视角(美国、英国、苏联和中国)的历史事件的解读,评估了模型对不同国家的地缘政治偏见。我们引入了一个新颖的数据集,包含中性事件描述及来自不同国家的对比观点。研究结果显示,模型存在显著的地缘政治偏见,倾向于支持特定的国家叙事。此外,简单的去偏提示在减少这些偏见方面效果有限。通过操纵参与者标签的实验表明,模型对归因具有敏感性,有时会放大偏见或识别出不一致之处,尤其是在标签互换的情况下。这项工作揭示了LLMs中的国家叙事偏见,挑战了简单去偏方法的有效性,并为未来的地缘政治偏见研究提供了框架和数据集。

英文摘要:

This paper evaluates geopolitical biases in LLMs with respect to various countries though an analysis of their interpretation of historical events with conflicting national perspectives (USA, UK, USSR, and China). We introduce a novel dataset with neutral event descriptions and contrasting viewpoints from different countries. Our findings show significant geopolitical biases, with models favoring specific national narratives. Additionally, simple debiasing prompts had a limited effect in reducing these biases. Experiments with manipulated participant labels reveal models' sensitivity to attribution, sometimes amplifying biases or recognizing inconsistencies, especially with swapped labels. This work highlights national narrative biases in LLMs, challenges the effectiveness of simple debiasing methods, and offers a framework and dataset for future geopolitical bias research.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑