arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2510.03384cs.CLcs.AI
收藏

人类与大语言模型完成主观日常任务时嵌入的隐性价值

Implicit Values Embedded in How Humans and LLMs Complete Subjective Everyday Tasks

Florida International University(佛罗里达国际大学);University of Chicago(芝加哥大学);Purdue University(普渡大学)

Arjun Arunasalam, Madison Pickering, Z. Berkay Celik, Blase Ur

AI总结:

该研究针对AI助手完成主观日常任务时的隐性价值对齐问题,通过审计6款主流LLM完成30项日常任务的表现,并与100名美国众包工人对比,发现LLM的隐性价值既与人类不一致,不同LLM间也存在差异。

摘要:

大语言模型(LLM)可作为AI助手的基础,帮助用户处理日常任务,例如提供推荐或执行基础计算。尽管AI助手前景广阔,但人们对其在完成主观日常任务时展现的隐性价值知之甚少。人类可能会考量环保主义、慈善事业与多样性等价值观。LLM在完成日常任务时会在多大程度上展现这些价值观?它们与人类相比情况如何?我们通过审计6款主流LLM完成30项日常任务的方式,对比不同LLM之间以及LLM与100名美国众包工人的表现,解答了上述问题。研究发现,LLM所展现的隐性价值通常既与人类不一致,也与其他LLM存在差异。

英文摘要:

Large language models (LLMs) can underpin AI assistants that help users with everyday tasks, such as by making recommendations or performing basic computation. Despite AI assistants' promise, little is known about the implicit values these assistants display while completing subjective everyday tasks. Humans may consider values like environmentalism, charity, and diversity. To what extent do LLMs exhibit these values in completing everyday tasks? How do they compare with humans? We answer these questions by auditing how six popular LLMs complete 30 everyday tasks, comparing LLMs to each other and to 100 human crowdworkers from the US. We find LLMs often do not align with humans, nor with other LLMs, in the implicit values exhibited.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑