arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2409.19450cs.HCcs.AI
收藏

大型语言模型(LLM)的秘密使用

Secret Use of Large Language Model (LLM)

Northeastern University(东北大学)

Zhiping Zhang, Chenxinran Shen, Bingsheng Yao, Dakuo Wang, Tianshi Li

AI总结:

本文通过混合方法研究用户秘密使用LLM的情境与原因,发现特定任务类型通过影响感知外部评判驱动秘密行为,为设计透明度干预措施提供依据。

摘要:

大型语言模型(LLMs)的进步使AI使用透明度的责任发生了分散化。具体而言,现在鼓励或要求LLM用户在各种类型的现实世界任务中披露LLM生成内容的使用情况。然而,一种新兴现象——用户秘密使用LLM——给确保最终用户遵守透明度要求带来了挑战。我们的研究采用混合方法,包括一项探索性调查(报告了125个现实世界中的秘密使用案例)和一项涉及300名用户的受控实验,以调查秘密使用LLM背后的情境和原因。我们发现,这种秘密行为通常由特定任务触发,超越了用户之间的人口统计学和人格差异。研究发现,任务类型会影响用户采取秘密行为的意图,主要通过影响对LLM使用所感知的外部评判来实现。我们的结果为未来设计干预措施以鼓励更透明地披露LLM或其他AI技术使用情况的工作提供了重要见解。

英文摘要:

The advancements of Large Language Models (LLMs) have decentralized the responsibility for the transparency of AI usage. Specifically, LLM users are now encouraged or required to disclose the use of LLM-generated content for varied types of real-world tasks. However, an emerging phenomenon, users' secret use of LLM, raises challenges in ensuring end users adhere to the transparency requirement. Our study used mixed-methods with an exploratory survey (125 real-world secret use cases reported) and a controlled experiment among 300 users to investigate the contexts and causes behind the secret use of LLMs. We found that such secretive behavior is often triggered by certain tasks, transcending demographic and personality differences among users. Task types were found to affect users' intentions to use secretive behavior, primarily through influencing perceived external judgment regarding LLM usage. Our results yield important insights for future work on designing interventions to encourage more transparent disclosure of the use of LLMs or other AI technologies.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑