大语言模型的伦理推理与道德价值对齐取决于我们提示它们所使用的语言
Ethical Reasoning and Moral Value Alignment of LLMs Depend on the Language we Prompt them in
AI总结：
本文研究 GPT-4、ChatGPT 和 Llama2-70B-Chat 在六种语言下的伦理推理表现，发现语言会显著影响其道德判断，其中 GPT-4 跨语言一致性最高，但所有模型均存在语言相关的道德价值偏差。
摘要：
伦理推理是大语言模型（LLMs）的一项关键能力。然而，道德价值并非普适，而是受到语言和文化的影响。本文探讨了三种主流大语言模型——GPT-4、ChatGPT 和 Llama2-70B-Chat——在不同语言中进行伦理推理的表现，以及它们的道德判断是否取决于提示所使用的语言。我们将 Rao 等人（2023）关于大语言模型伦理推理的研究扩展到多语言设置，沿用其框架，用来自规范伦理学三个分支——义务论、德性伦理和后果论——的伦理困境和政策来探测大语言模型。我们在六种语言上进行了实验：英语、西班牙语、俄语、中文、印地语和斯瓦希里语。我们发现，GPT-4 是跨语言最一致且最无偏的伦理推理者，而 ChatGPT 和 Llama2-70B-Chat 在切换到英语以外的语言时表现出显著的道德价值偏差。有趣的是，对于所有大语言模型（包括 GPT-4），这种偏差的性质在不同语言之间存在显著差异。
英文摘要：
Ethical reasoning is a crucial skill for Large Language Models (LLMs). However, moral values are not universal, but rather influenced by language and culture. This paper explores how three prominent LLMs -- GPT-4, ChatGPT, and Llama2-70B-Chat -- perform ethical reasoning in different languages and if their moral judgement depend on the language in which they are prompted. We extend the study of ethical reasoning of LLMs by Rao et al. (2023) to a multilingual setup following their framework of probing LLMs with ethical dilemmas and policies from three branches of normative ethics: deontology, virtue, and consequentialism. We experiment with six languages: English, Spanish, Russian, Chinese, Hindi, and Swahili. We find that GPT-4 is the most consistent and unbiased ethical reasoner across languages, while ChatGPT and Llama2-70B-Chat show significant moral value bias when we move to languages other than English. Interestingly, the nature of this bias significantly vary across languages for all LLMs, including GPT-4.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
