arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2307.06985cs.CLcs.DBcs.IR
收藏

使用工程设计知识的检索增强生成

Retrieval Augmented Generation using Engineering Design Knowledge

Singapore University of Technology and Design(新加坡科技设计大学);City University of Hong Kong(香港城市大学)

L. Siddharth, Jianxi Luo

AI总结:

提出一种从专利描述中提取工程设计事实的方法,构建包含超293万条事实的知识库,以引导LLMs生成连贯的技术响应,支持设计过程中的RAG。

摘要:

为了在设计过程中支持检索增强生成(RAG),我们提出了一种从专利人工制品描述中识别显式工程设计事实({头实体 :: 关系 :: 尾实体})的方法。给定一个以独特方式标记了一对实体(基于名词短语)的句子,我们的方法会提取句子中明确传达的关系。为此任务,我们创建了一个包含375,084个示例的数据集,并对语言模型进行微调,以用于关系识别(token分类)和关系引出(序列到序列)。token分类方法实现了高达99.7%的准确率。将该方法应用于包含4,870项风扇系统专利的领域后,我们填充了一个包含超过293万条事实的知识库。利用该知识库,我们展示了大型语言模型(LLMs)如何受显式事实引导,以在寻求设计过程中的知识检索任务时合成知识并生成具有技术性和连贯性的响应。

英文摘要:

Aiming to support Retrieval Augmented Generation (RAG) in the design process, we present a method to identify explicit, engineering design facts - {head entity :: relationship :: tail entity} from patented artefact descriptions. Given a sentence with a pair of entities (based on noun phrases) marked in a unique manner, our method extracts the relationship that is explicitly communicated in the sentence. For this task, we create a dataset of 375,084 examples and fine-tune language models for relation identification (token classification) and elicitation (sequence-to-sequence). The token classification approach achieves up to 99.7 % accuracy. Upon applying the method to a domain of 4,870 fan system patents, we populate a knowledge base of over 2.93 million facts. Using this knowledge base, we demonstrate how Large Language Models (LLMs) are guided by explicit facts to synthesise knowledge and generate technical and cohesive responses when sought out for knowledge retrieval tasks in the design process.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑