arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2407.04997cs.SEcs.AIcs.HC
收藏

仅使用提示工程而不进行微调,在 LLM 中实现工具调用功能

Achieving Tool Calling Functionality in LLMs Using Only Prompt Engineering Without Fine-Tuning

Hunan University(湖南大学)

Shengtao He

AI总结:

针对许多 LLM 缺乏稳定工具调用能力且微调成本高的问题,本文提出仅依靠提示工程与巧妙代码设计的方法,并在多个模型和任务上实现 100% 成功率。

摘要:

当前,绝大多数本地部署的开源大型语言模型(LLM)以及部分商业模型接口都不支持稳定的工具调用功能。现有解决方案涉及对 LLM 进行微调,这会导致大量时间和计算资源消耗。本文提出一种方法,仅使用提示工程和一些巧妙的代码设计,就能使 LLM 获得稳定的工具调用能力。我们在多个缺乏工具调用能力的 LLM 上,针对各类工具调用任务开展了实验,成功率达到 100%。

英文摘要:

Currently, the vast majority of locally deployed open-source large language models (LLMs) and some commercial model interfaces do not support stable tool calling functionality. The existing solution involves fine-tuning LLMs, which results in significant time and computational resource consumption. This paper proposes a method that enables LLMs to achieve stable tool calling capabilities using only prompt engineering and some ingenious code design. We conducted experiments on multiple LLMs that lack tool calling capabilities across various tool calling tasks, achieving a success rate of 100%.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑