与大型语言模型签订契约——关于大型语言模型对齐的代理理论视角
Getting In Contract with Large Language Models -- An Agency Theory Perspective On Large Language Model Alignment
AI总结：
本研究提出基于代理理论的LLM ATLAS框架，以解决组织采用大型语言模型时的对齐问题，通过概念性文献分析提供扩展分析流程和问题-解决方案空间。
摘要：
在组织中采用大型语言模型（LLMs）可能彻底改变我们的生活和工作方式。然而，它们可能生成偏离主题、具有歧视性或有害的内容。这一AI对齐问题通常源于LLM采用过程中的规范错误，而由于LLM的黑箱特性，委托人往往未能察觉。尽管多个研究学科对AI对齐进行了探讨，但它们既未解决组织采用者与黑箱LLM代理之间的信息不对称问题，也未考虑组织AI采用流程。因此，我们提出LLM ATLAS（LLM代理理论引导的对齐策略），这是一个基于代理（契约）理论的概念框架，旨在缓解组织采用LLM过程中的对齐问题。我们使用组织LLM采用阶段和代理理论作为概念，进行了概念性文献分析。我们的方法产生了（1）一个针对组织LLM采用期间AI对齐方法的扩展文献分析流程，以及（2）一个初步的LLM对齐问题-解决方案空间。
英文摘要：
Adopting Large language models (LLMs) in organizations potentially revolutionizes our lives and work. However, they can generate off-topic, discriminating, or harmful content. This AI alignment problem often stems from misspecifications during the LLM adoption, unnoticed by the principal due to the LLM's black-box nature. While various research disciplines investigated AI alignment, they neither address the information asymmetries between organizational adopters and black-box LLM agents nor consider organizational AI adoption processes. Therefore, we propose LLM ATLAS (LLM Agency Theory-Led Alignment Strategy) a conceptual framework grounded in agency (contract) theory, to mitigate alignment problems during organizational LLM adoption. We conduct a conceptual literature analysis using the organizational LLM adoption phases and the agency theory as concepts. Our approach results in (1) providing an extended literature analysis process specific to AI alignment methods during organizational LLM adoption and (2) providing a first LLM alignment problem-solution space.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
