arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2306.02903cs.CV

Instruct-Video2Avatar:基于指令的视频到化身生成

Instruct-Video2Avatar: Video-to-Avatar Generation with Instructions

Shaoxu Li

AI总结:

本文提出Instruct-Video2Avatar,结合图像条件扩散模型、视频风格化和可变形神经辐射场,从单目RGB视频与文本指令生成可动画的照片级真实3D头部化身,并在实验中优于现有方法。

摘要:

我们提出了一种利用文本指令合成经编辑的照片级真实感数字化身的方法。给定一段单目RGB短视频和文本指令,该方法使用图像条件扩散模型编辑一张头部图像,并采用视频风格化方法完成其他头部图像的编辑。通过迭代训练与更新(三次或更多),该方法借助可变形神经辐射场头部合成方法,合成经编辑的、照片级真实感且可动画的3D神经头部化身。在针对不同对象的定量与定性研究中,该方法优于最先进的方法。

英文摘要:

We propose a method for synthesizing edited photo-realistic digital avatars with text instructions. Given a short monocular RGB video and text instructions, our method uses an image-conditioned diffusion model to edit one head image and uses the video stylization method to accomplish the editing of other head images. Through iterative training and update (three times or more), our method synthesizes edited photo-realistic animatable 3D neural head avatars with a deformable neural radiance field head synthesis method. In quantitative and qualitative studies on various subjects, our method outperforms state-of-the-art methods.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑