LLMs作为神谕：对主观个人问题中LLM的依赖
LLMs as Oracles: Reliance on LLMs for Subjective Personal Questions
浏览论文内容
中文总结 AI 辅助
本研究通过类型学和LLM方法分析大规模数据，发现人们日益将LLM视为神谕依赖其回答主观问题，且此行为随时间增加，尤其在年轻人中，并识别出驱动因素以支持干预。
中文摘要 AI 辅助
我们刻画了人们如何将LLM视为神谕：即对主观个人问题无所不知的权威。出于对用户自主性和福祉风险的动机，我们开发了一个类型学和基于LLM的方法，以大规模衡量这种AI依赖形式，并理解人们如何将判断和决策外包给AI。将我们的类型学应用于公开使用数据（来自WildChat和ThoughtTrace的68K提示），我们发现LLM作为神谕的使用随时间（2023-2026年）增加，并且在年轻用户中更为普遍。我们进一步构建了一个隐私保护的数据捐赠工具，以分析个体的纵向使用数据（来自52名参与者的140K提示），识别出相似的趋势。人们往往没有意识到自己使用LLM作为神谕的行为，并在看到我们工具的分析后对此行为表示不满。最后，我们确定了LLM作为神谕使用的两个驱动因素：人们对AI的感知和AI模型本身的行为，这激发了支持用户自我深思的可能干预措施。
英文摘要
We characterize how people are turning to LLMs as oracles: all-knowing authorities on subjective personal questions. Motivated by risks to users' autonomy and well-being, we develop a typology and LLM-based methods to measure this form of AI reliance at scale and understand how people are offloading judgment and decision-making to AI. Applying our typology to public usage data (68K prompts from WildChat and ThoughtTrace), we find that LLM-as-oracle use has increased over time (2023-2026) and is more prevalent among younger users. We further build a privacy-preserving data donation tool to analyze individuals' longitudinal usage data (140K prompts from 52 participants), identifying similar trends. People are often unaware of their own LLM-as-oracle use, and express dissatisfaction with this behavior after seeing our tool's analysis. Finally, we identify two drivers of LLM-as-oracle use: people's perceptions of AI and the behavior of AI models themselves, which motivate possible interventions to support users' self-deliberation.
发表机构
- Stanford University（斯坦福大学）
- University of Oxford（牛津大学）
- Carnegie Mellon University（卡内基梅隆大学）
机构由 AI 辅助整理，请以论文原文为准。
