arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2205.10351cs.CV

StyLitGAN:提示StyleGAN生成新的光照条件

StyLitGAN: Prompting StyleGAN to Produce New Illumination Conditions

University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)

Anand Bhattad, D. A. Forsyth

AI总结:

本研究提出StyLitGAN方法,在无标注数据下,通过本征图像分解、StyleGAN隐空间方向搜索与前向选择,实现图像重新打光,生成含真实光照效果的图像,经量化与定性评估验证有效。

摘要:

我们提出了一种名为StyLitGAN的新方法,用于在无标注数据的情况下对生成图像进行重新打光和表面重设。该方法无需配对数据或CGI数据,就能生成具有真实光照效果的图像,包括投射阴影、软阴影、互反射和光泽效果。StyLitGAN采用本征图像方法分解图像,随后在预训练StyleGAN的隐空间中搜索,识别出一组方向。通过提示模型固定一个分量(如反照率)并改变另一个分量(如着色),我们将识别出的方向添加到隐风格编码中,生成重新打光的图像。反照率变化和光照多样性的量化指标使我们能通过前向选择过程挑选有效方向。定性评估证实了该方法的有效性。

英文摘要:

We propose a novel method, StyLitGAN, for relighting and resurfacing generated images in the absence of labeled data. Our approach generates images with realistic lighting effects, including cast shadows, soft shadows, inter-reflections, and glossy effects, without the need for paired or CGI data. StyLitGAN uses an intrinsic image method to decompose an image, followed by a search of the latent space of a pre-trained StyleGAN to identify a set of directions. By prompting the model to fix one component (e.g., albedo) and vary another (e.g., shading), we generate relighted images by adding the identified directions to the latent style codes. Quantitative metrics of change in albedo and lighting diversity allow us to choose effective directions using a forward selection process. Qualitative evaluation confirms the effectiveness of our method.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑