arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2512.05929cs.CY
收藏

LLM 危害:分类与讨论

LLM Harms: A Taxonomy and Discussion

Kevin Chen, Saleh Afroogh, Abhejay Murali, David Atkinson, Amit Dhurandhar, Junfeng Jiao

AI总结:

本研究针对大型语言模型(LLM)在人工智能领域中的危害进行分类,提出开发前、直接输出、误用与恶意应用以及下游应用五类危害,并讨论缓解策略与动态审计系统。

摘要:

本研究针对人工智能领域中大型语言模型(LLM)相关的危害类别进行了探讨。它涵盖了在AI应用开发之前、期间和之后出现的五类危害:开发前、直接输出、误用与恶意应用以及下游应用。通过强调需要定义当前环境中的风险,以确保在将LLM应用于实际场景时的问责制、透明度和偏见导航。它提出了针对特定领域的缓解策略和未来方向,以及一个动态审计系统,以标准化方案指导LLM的负责任开发和集成。

英文摘要:

This study addresses categories of harm surrounding Large Language Models (LLMs) in the field of artificial intelligence. It addresses five categories of harms addressed before, during, and after development of AI applications: pre-development, direct output, Misuse and Malicious Application, and downstream application. By underscoring the need to define risks of the current landscape to ensure accountability, transparency and navigating bias when adapting LLMs for practical applications. It proposes mitigation strategies and future directions for specific domains and a dynamic auditing system guiding responsible development and integration of LLMs in a standardized proposal.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑