arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2502.18842cs.ROcs.AIcs.CV

注意力引导的CLIP与SAM集成用于机器人操作中的精确物体掩码

Attention-Guided Integration of CLIP and SAM for Precise Object Masking in Robotic Manipulation

National Institute of AIST(日本国立AIST研究所)

Muhammad A. Muttaqien, Tomohiro Motoda, Ryo Hanai, Domae Yukiyasu

AI总结:

本文提出一种集成CLIP与SAM并利用梯度注意力机制和定制数据集的流水线,以提高便利店商品场景下机器人操作的物体掩码精度,实现更精确的自适应操作。

摘要:

本文提出了一种新颖的流水线,旨在提高机器人操作中物体掩码的精度,具体应用于便利店商品掩码领域。该方法集成了两个先进的AI模型——CLIP和SAM,重点在于它们的协同组合以及多模态数据(图像和文本)的有效利用。本文强调利用基于梯度的注意力机制和定制数据集来微调性能。虽然CLIP、SAM和Grad-CAM是已建立的组件,但它们在结构化流水线中的集成代表了对该领域的重大贡献。通过这种组合方法生成的分割掩码可以有效地用作机器人系统的输入,从而在便利店商品的背景下实现更精确和自适应的物体操作。

英文摘要:

This paper introduces a novel pipeline to enhance the precision of object masking for robotic manipulation within the specific domain of masking products in convenience stores. The approach integrates two advanced AI models, CLIP and SAM, focusing on their synergistic combination and the effective use of multimodal data (image and text). Emphasis is placed on utilizing gradient-based attention mechanisms and customized datasets to fine-tune performance. While CLIP, SAM, and Grad- CAM are established components, their integration within this structured pipeline represents a significant contribution to the field. The resulting segmented masks, generated through this combined approach, can be effectively utilized as inputs for robotic systems, enabling more precise and adaptive object manipulation in the context of convenience store products.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑