arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2408.04785cs.CV

BRAT:用于架构无关文本反演的奖励正交 Token(Bonus oRthogonAl Token)

BRAT: Bonus oRthogonAl Token for Architecture Agnostic Textual Inversion

University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)

James Baker

AI总结:

本文提出 BRAT,通过奖励正交 token 与视觉 Transformer 实现架构无关的文本反演,在不依赖 UNet 的同时提升图像与提示词遵循度。

摘要:

文本反演(Textual Inversion)仍然是个性化扩散模型以教会模型新主体和风格的常用方法。我们注意到,在使用 UNet 的替代方案方面,文本反演尚未得到充分探索,因此我们尝试结合视觉 Transformer 进行文本反演实验。我们还寻求通过一种无需显式使用 UNet 及其特殊层的策略来优化文本反演,为此我们加入奖励 token 并强制正交性。我们发现,使用奖励 token 提升了对源图像的遵循度,而使用视觉 Transformer 则提升了对提示词的遵循度。代码可在 https://github.com/jamesBaker361/tex_inv_plus 获取。

英文摘要:

Textual Inversion remains a popular method for personalizing diffusion models, in order to teach models new subjects and styles. We note that textual inversion has been underexplored using alternatives to the UNet, and experiment with textual inversion with a vision transformer. We also seek to optimize textual inversion using a strategy that does not require explicit use of the UNet and its idiosyncratic layers, so we add bonus tokens and enforce orthogonality. We find the use of the bonus token improves adherence to the source images and the use of the vision transformer improves adherence to the prompt. Code is available at https://github.com/jamesBaker361/tex_inv_plus.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑