Exploiting Radiance Fields for Grasp Generation on Novel Synthetic Views
Centre for Applied Autonomous Sensor Systems (AASS)(应用自主传感器系统中心);Örebro University(奥雷布罗大学)
针对多视角抓取成像耗时且受可达性限制的问题,提出利用高斯溅射等场景表示合成新视图辅助抓取生成,在Graspnet-1billion数据集上验证可增加力闭合抓取、提升覆盖率,为单图辐射场抓取提取优化提供方向。
2025-05-16 cs.CV cs.RO
3DGEN: A GAN-based approach for generating novel 3D models from image data
Criteo AI Lab(Criteo人工智能实验室)
针对3D模型生成领域探索不足的问题,提出结合神经辐射场与GAN的3DGEN模型,可生成同类别合理3D网格,质量优于现有最优基线。
2023-12-13 cs.CV
NeRF-LiDAR: Generating Realistic LiDAR Point Clouds with Neural Radiance Fields
Fudan University(复旦大学)
提出 NeRF-LiDAR,利用真实图像和点云学习三维场景表示并生成带标签的逼真 LiDAR 点云,可支持分割模型训练并通过预训练减少真实标注需求。
2024-01-20 cs.CV
Points2NeRF: Generating Neural Radiance Fields from 3D point cloud
Jagiellonian University(亚捷隆大学);Warsaw University of Technology(华沙理工大学);IDEAS NCBR
本文提出Points2NeRF,利用超网络从带颜色的3D点云生成NeRF权重,以高效表示3D物体并提升未见物体的泛化能力。
2024-06-12 cs.CV
MVHuman: Tailoring 2D Diffusion with Multi-view Sampling For Realistic 3D Human Generation
ShanghaiTech University(上海科技大学)
针对现有3D人体生成依赖微调/蒸馏且数据集不足的问题,提出MVHuman方案,通过多视角采样策略定制预训练Stable Diffusion的去噪过程,无需微调蒸馏即可生成一致多视角图像,结合后续处理实现高质量3D人体生成,性能优于现有最优方法。
2023-12-15 cs.CV
GO-NeRF: Generating Objects in Neural Radiance Fields for Virtual Reality Content Creation
The University of Hong Kong(香港大学);Google(谷歌)
GO-NeRF提出一种在NeRF场景中根据文本提示和用户区域生成并集成3D物体的流程,通过组合渲染和定制优化提升场景和谐度与新视角质量。
2024-09-20 cs.CV
Point-DynRF: Point-based Dynamic Radiance Fields from a Monocular Video
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
提出Point-DynRF框架,通过神经点云与动态辐射场分别建模全局几何与体渲染,解决单目视频新视角合成中全局几何一致性不足的问题。
2023-10-24 cs.CV
AltNeRF: Learning Robust Neural Radiance Field via Alternating Depth-Pose Optimization
Nanjing University of Science and Technology(南京理工大学);Nanjing University, Suzhou Campus(南京大学苏州校区);Nankai University(南开大学)
AltNeRF提出利用自监督单目深度估计学习深度与位姿先验,并通过交替优化和一致性驱动机制逐步细化NeRF,实现无需已知相机位姿的高保真新视角合成。
2024-02-23 cs.CV
ARF: Artistic Radiance Fields
Cornell University(康奈尔大学);Adobe Research(奥多比研究院)
提出了一种将任意风格图像的艺术特征转化为三维场景的方法。对于复杂的真实世界场景,以前的方法对点云或网格进行3D风格化对几何重建误差敏感。相反,我们建议styphiles更强大的辐射场表示。我们发现,常用的革兰氏矩阵为基础的损失往往会产生模糊的结果,没有忠实的笔触,并介绍了最近的邻居为基础的损失,是非常有效的捕捉风格的细节,同时保持多视图的一致性。我们还提出了一种新的延迟反向传播方法,使内存密集型辐射场的优化使用风格损失定义的全分辨率渲染图像。我们广泛的评估表明,我们的方法优于基线生成的艺术外观,更接近的风格图像。请查看我们的项目页面以获取视频结果和开源实现:https://www.cs.cornell.edu/projects/arf/。
2022-06-13 cs.CV
CG-NeRF: Conditional Generative Neural Radiance Fields
KAIST Graduate School of AI, Korea Advanced Institute of Science and Technology(韩国科学技术院人工智能研究生院)
虽然最近基于NeRF的生成模型实现了生成各种3D感知图像,但这些方法在生成包含用户指定特征的图像时存在局限性。在本文中,我们提出了一种新的模型,称为条件生成神经辐射场(CG-NeRF),它可以生成多视图图像,反映额外的输入条件,如图像或文本。在保留给定输入条件的共同特征的同时,该模型生成了细节丰富的不同图像。我们建议:1)新颖的统一架构,其从以各种形式给出的条件中解开形状和外观,以及2)用于生成多模态输出的姿态一致的多样性损失,同时保持视图的一致性。实验结果表明,该方法保持一致的图像质量在各种条件类型,并实现了更好的保真度和多样性相比,现有的基于NeRF的生成模型。
2021-12-07 cs.CV cs.GR
Geometry-Aware Diffusion Models for Multiview Scene Inpainting
York University(约克大学);Vector Institute for AI(Vector人工智能研究院);Samsung AI Centre Toronto(三星多伦多人工智能中心);Google DeepMind(谷歌DeepMind)
本文提出一种几何感知条件生成模型,通过学习空间中的跨视角信息融合实现多视角一致的三维场景修复,尤其在少视角条件下优于现有基于辐射场的方法。
2025-03-10 cs.CV
HFNeRF: Learning Human Biomechanic Features with Neural Radiance Fields
INRIA(法国国家信息与自动化研究所);I3S-CNRS(法国国家科学研究中心I3S研究所)
本文提出 HFNeRF,结合预训练基础模型与神经体渲染,使可泛化人体 NeRF 能同时学习颜色、几何及骨骼等生物力学特征。
2024-04-09 cs.AI cs.CV
Semantically-aware Neural Radiance Fields for Visual Scene Understanding: A Comprehensive Review
Huawei Paris Research Center(华为巴黎研究中心);Centrale Lille(里尔中央理工学院);University of Lille(里尔大学);The University of Western Australia(西澳大学)
本综述分析了超250篇论文,全面探讨了语义感知神经辐射场在视觉场景理解中的作用,及其在3D表示推断、视点生成、场景补全分割和物体识别等任务中的多样化应用与发展。
2024-02-17 cs.CV
PANeRF: Pseudo-view Augmentation for Improved Neural Radiance Fields Based on Few-shot Inputs
Samsung Advanced Institute of Technology (SAIT)(三星先进技术研究院(SAIT))
神经辐射场(NeRF)方法是近年来发展起来的一种新方法,该技术在复杂场景的新视点合成方面具有广阔的应用前景。然而,NeRF需要密集的输入视图,通常有数百个,以生成高质量的图像。随着输入视图数量的减少,NeRF对未见过视点的渲染质量往往会急剧下降。为了克服这一挑战,我们提出了NeRF的伪视图增强,该方案通过考虑Few-Shot输入的几何形状来扩展足够量的数据。我们首先通过利用扩展的伪视图来初始化NeRF网络,这有效地减少了渲染不可见视图时的不确定性。随后,我们通过使用包含精确几何和颜色信息的稀疏视图输入来微调网络。通过各种设置下的实验,我们验证了我们的模型忠实地合成优质的新视图图像,并优于现有的多视图数据集的方法。
2022-11-23 cs.CV
BerfScene: Bev-conditioned Equivariant Radiance Fields for Infinite 3D Scene Generation
CUHK(香港中文大学);Stanford(斯坦福大学);Ant Group(蚂蚁集团);Shanghai AI Laboratory(上海人工智能实验室);UCLA(加州大学洛杉矶分校)
BerfScene提出一种鸟瞰图条件等变辐射场表示,通过局部场景合成与平滑拼接实现大规模乃至无限规模三维场景生成,并支持通过操控鸟瞰图编辑场景物体。
2023-12-04 cs.CV
DyBluRF: Dynamic Neural Radiance Fields from Blurry Monocular Video
School of AIA, Huazhong University of Science and Technology(华中科技大学AIA学院);School of EIC, Huazhong University of Science and Technology(华中科技大学EIC学院)
本文提出DyBluRF,一种从模糊单目视频合成清晰新视角的动态神经辐射场方法,通过捕捉相机和物体DCT轨迹并采用全局跨时间渲染,在自制数据集上优于现有方法。
2024-03-19 cs.CV
Registering Neural Radiance Fields as 3D Density Images
HKUST(香港科技大学)
本文提出将传统3D配准流程推广至3D密度场,通过关键点检测与点集配准实现部分重叠场景预训练NeRF模型的刚体变换对齐,为大规模NeRF构建奠定基础。
2023-05-22 cs.CV
AD-NeRF: Audio Driven Neural Radiance Fields for Talking Head Synthesis
University of Science and Technology of China(中国科学技术大学);Beijing Dilusense Technology Corporation(北京谛听视界科技有限公司);Zhejiang University(浙江大学);Tsinghua University(清华大学)
通过对输入音频序列的拟合来生成高保真的说话人头部视频是一个具有挑战性的问题,近年来受到了相当大的关注。在本文中,我们解决这个问题的帮助下,神经场景表示网络。我们的方法与现有的方法完全不同,现有的方法依赖于2D地标或3D人脸模型等中间表示来弥合音频输入和视频输出之间的差距。具体地,输入音频信号的特征被直接馈送到条件隐式函数中以生成动态神经辐射场,使用体渲染从动态神经辐射场合成与音频信号对应的高保真头部讲话视频。我们的框架的另一个优点是,不仅头部(与头发)区域是合成的,因为以前的方法,但也通过两个单独的神经辐射场生成上半身。实验结果表明,我们的新框架可以(1)产生高保真和自然的结果,(2)支持自由调整音频信号,观看方向和背景图像。代码可在https://github.com/YudongGuo/AD-NeRF上获得。
2021-08-19 cs.CV
Neural radiance fields-based holography [Invited]
Graduate School of Engineering, Chiba University(千叶大学大学院工程学研究院)
提出一种由NeRF、深度预测器和全息图生成器组成的全神经网络流水线,直接从二维图像重建三维光场并快速生成任意视角全息图,且无需物理计算。
2024-05-09 cs.CV cs.GR eess.IV
ZIGNeRF: Zero-shot 3D Scene Representation with Invertible Generative Neural Radiance Fields
Chung-Ang University(中央大学)
本文提出 ZIGNeRF,通过新型 GAN 反演器将单张域外图像映射到生成器潜空间,实现零样本多视图生成、前景背景解耦及三维旋转平移。
2023-06-05 cs.CV
TUVF: Learning Generalizable Texture UV Radiance Fields
UC San Diego(加州大学圣地亚哥分校);NVIDIA(英伟达)
针对给定3D形状生成高保真可控纹理的研究缺口,提出TUVF方法,在可学习UV球面空间结合辐射场生成纹理,实现纹理与形状解耦及跨形状迁移,在纹理控制编辑上优于现有方法。
2023-10-06 cs.CV
NeRF-To-Real Tester: Neural Radiance Fields as Test Image Generators for Vision of Autonomous Systems
IT University of Copenhagen(丹麦哥本哈根IT大学);Robotics Innovation Centre, DFKI(机器人创新中心,DFKI)
针对自主水下航行器与无人机的控制器易过拟合模拟环境、缺乏真实多样测试数据的问题,研究提出N2R-Tester工具,利用神经辐射场生成测试图像并集成到蜕变测试框架,经8种视觉组件验证有效且通用。
2025-05-15 cs.CV
ConRad: Image Constrained Radiance Fields for 3D Generation from a Single Image
Salesforce AI Research(赛富时人工智能研究院)
针对现有文本生成3D方法难以适配单RGB图像输入、易出现外观对齐偏差的问题,提出图像约束辐射场ConRad,结合预训练扩散模型优化参数,实现更忠实于输入、一致性更强的3D重建,在ShapeNet基准上量化性能显著提升。
2023-11-09 cs.CV
SSNeRF: Sparse View Semi-supervised Neural Radiance Fields with Augmentation
National University of Singapore(新加坡国立大学);CtrsVision
针对稀疏视角下NeRF因输入不足产生伪影的问题,提出基于师生框架的半监督方法SSNeRF,通过稀疏视角特定增强和高置信度伪标签学习提升模型鲁棒性,实验验证其能生成退化更少的新视图。
2024-08-17 cs.CV
AugSplat: Radiance Field-Informed Gaussian Splatting for Sparse-View Settings
Google(谷歌);ETH Zurich(苏黎世联邦理工学院)
针对稀疏视图下高斯泼溅对初始几何敏感的问题,提出AugSplat,利用辐射场合成新视角图像作为辅助监督,提升重建质量并保持实时渲染。
2026-07-01 cs.CV
ArtNeRF: A Stylized Neural Field for 3D-Aware Cartoonized Face Synthesis
Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院)
提出ArtNeRF框架,结合3D感知GAN、对比学习风格编码器与自适应风格混合模块,实现了高质量、任意风格的3D感知卡通人脸合成与实时渲染。
2024-04-26 cs.CV
Optimized View and Geometry Distillation from Multi-view Diffuser
Huazhong University of Science and Technology(华中科技大学);Zhejiang University(浙江大学)
本文提出USD无偏分数蒸馏与二维扩散模型两步特化方法,利用多视图扩散模型优化辐射场,从而在保持相机定位自由的同时生成一致多视图并恢复高质量几何纹理。
2025-05-13 cs.CV
ViewFusion: Learning Composable Diffusion Models for Novel View Synthesis
Aalto University(阿alto大学);System 2 AI
本文提出ViewFusion,一种端到端生成式新视角合成方法,通过对任意数量无姿态输入视角同时进行扩散去噪并用推断的像素加权掩码组合噪声梯度,实现跨场景泛化和欠定条件下的高质量视角生成。
2025-06-04 cs.CV cs.LG
CeRF: Convolutional Neural Radiance Fields for New View Synthesis with Derivatives of Ray Modeling
School of Computer Science and Technology, East China Normal University(华东师范大学计算机科学与技术学院);School of Data Science and Engineering, East China Normal University(华东师范大学数据科学与工程学院)
本文提出CeRF卷积神经辐射场,用一维卷积建模沿射线的辐射导数,并结合循环模块消除几何歧义,从而提升新视角合成质量。
2024-06-15 cs.CV cs.GR
WaveNeRF: Wavelet-based Generalizable Neural Radiance Fields
Nanyang Technological University(南洋理工大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Wenzhou University(温州大学);UCAS-Terminus AI Lab, UCAS(中国科学院大学-特米纳斯人工智能实验室,中国科学院大学)
WaveNeRF将小波频率分解融入MVS与NeRF,通过小波域多视图立体、混合神经渲染器和频率引导采样,在仅三张输入图像下实现无需逐场景优化的高质量可泛化新视角合成。
2023-10-26 cs.CV
G3DST: Generalizing 3D Style Transfer with Neural Radiance Fields across Scenes and Styles
Technical University of Munich(慕尼黑工业大学)
本研究提出G3DST方法,通过将超网络融入可泛化NeRF实现无需逐场景或逐风格优化的3D风格迁移,并引入基于流的多视图一致性损失,显著提升了效率、适用性和视觉质量。
2024-08-24 cs.CV
High-Fidelity Eye Animatable Neural Radiance Fields for Human Face
本文提出动态眼部感知NeRF(DeNeRF),通过拟合FLAME模型并设计眼部形变场将多视角3D点变换至规范空间,实现了高保真且眼球旋转准确的人脸渲染,并有效提升了注视估计性能。
2023-09-12 cs.CV
DreamHOI: Subject-Driven Generation of 3D Human-Object Interactions with Diffusion Priors
University of Oxford(牛津大学);Carnegie Mellon University(卡内基梅隆大学)
针对人-物交互数据集稀缺、直接用扩散模型梯度优化3D人体网格关节效果差的问题,提出DreamHOI方法,结合NeRF与骨骼驱动网格的双重表示,利用扩散先验零样本生成真实3D人-物交互。
2024-09-12 cs.CV
Unaligned 2D to 3D Translation with Conditional Vector-Quantized Code Diffusion using Transformers
Durham University(杜伦大学)
针对2D转3D合成中的域间隙与几何未对齐问题,提出基于向量量化码条件扩散的2D到3D合成方法,在真实体成像数据集上多项指标达SOTA。
2023-08-27 cs.CV
EvDNeRF: Reconstructing Event Data with Dynamic Neural Radiance Fields
University of Pennsylvania(宾夕法尼亚大学);Microsoft(微软);Scaled Foundations(Scaled基金会);Poly Corporation(Poly公司)
本文提出 EvDNeRF 流水线,通过生成事件数据并训练基于事件的动态 NeRF,实现快速刚性与非刚性场景中任意时间戳事件流的预测与仿真。
2023-12-06 cs.CV
NeRF-AD: Neural Radiance Field with Attention-based Disentanglement for Talking Face Synthesis
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部)
针对现有基于NeRF的说话人脸合成方法唇形不准确的问题,提出带注意力解耦的NeRF-AD方法,通过AU信息解耦人脸并监督音频与音频人脸的融合,在图像质量和唇形同步上优于现有最优方法。
2024-01-23 cs.CV cs.MM
FROMAT: Multiview Material Appearance Transfer via Few-Shot Self-Attention Adaptation
Trinity College Dublin(都柏林三一学院);Arcade AI;AMD
FROMAT通过少样本自注意力适应实现多视图材料外观迁移,提供了一种简单有效的生成方法,提升多视图内容创作的外观多样性。
2025-12-10 cs.CV
SceneCraft: Layout-Guided 3D Scene Generation
Shanghai Jiao Tong University(上海交通大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
SceneCraft通过将三维语义布局渲染为多视角二维代理图,并利用语义与深度条件扩散模型生成图像来学习NeRF,实现了超越单房间的复杂室内场景生成。
2025-05-08 cs.CV
DatasetNeRF: Efficient 3D-aware Data Factory with Generative Radiance Fields
Technical University of Munich(慕尼黑工业大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);University of Freiburg(弗莱堡大学)
针对3D视觉任务数据标注成本高的问题,提出DatasetNeRF方法,利用3D生成模型的语义先验训练解码器,仅需少量标注即可生成无限3D一致的多任务数据,性能优于基线且通用性强。
2024-08-19 cs.CV
Depth Priors in Removal Neural Radiance Fields
Manchester Metropolitan University(曼彻斯特城市大学)
本文提出结合 SpinNeRF 与单目深度估计模型的新流程,以更低成本高效获取深度先验,从而提升 NeRF 在物体移除中的性能和合成视图保真度。
2024-07-03 cs.CV
3D Density-Gradient based Edge Detection on Neural Radiance Fields (NeRFs) for Geometric Reconstruction
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
针对NeRF密度阈值依赖经验的问题,本文提出基于Sobel、Canny和高斯拉普拉斯算子的3D密度梯度边缘检测方法,实现高精度、完整且稳健的几何重建。
2023-09-26 cs.CV
DeRF: Decomposed Radiance Fields
University of British Columbia(不列颠哥伦比亚大学);Simon Fraser University(西蒙弗雷泽大学);University of Toronto(多伦多大学);Google Research(谷歌研究院)
随着神经辐射场(NeRF)的出现,神经网络现在可以渲染3D场景的新视图,其质量可以欺骗人眼。然而,生成这些图像是非常计算密集型的,限制了它们在实际场景中的适用性。在本文中,我们提出了一种基于空间分解的技术,能够缓解这个问题。我们的主要观察结果是,使用更大(更深和/或更广)的网络会带来收益递减。因此,我们建议对场景进行空间分解,并为每个分解部分专用更小的网络。当这些网络一起工作时,它们可以渲染整个场景。这使得我们几乎恒定的推理时间,而不管分解部分的数量。此外,我们表明,Voronoi空间分解是最好的为此目的,因为它是可证明兼容的高效和GPU友好的渲染与画家的算法。我们的实验表明,对于真实世界的场景,我们的方法提供了高达3倍的效率比NeRF的推理(具有相同的渲染质量),或高达1.0 dB的提高PSNR(相同的推理成本)。
2020-11-25 cs.CV cs.GR
Creating Visual Effects with Neural Radiance Fields
University of California, Berkeley(加州大学伯克利分校)
本文提出基于Nerfstudio和Blender的管线,通过对齐相机路径并合成NeRF、网格与环境效果,将NeRF无缝集成到传统视觉特效流程中。
2023-12-11 cs.CV cs.GR
Learning Effective NeRFs and SDFs Representations with 3D Generative Adversarial Networks for 3D Object Generation
University of Toronto(多伦多大学);York University(约克大学);Huawei Noah Ark’s Lab(华为诺亚方舟实验室)
本文提出一种基于几何感知三维GAN并结合标签嵌入与颜色映射的三维物体生成方法,同时学习NeRF和SDF表示,仅需少量图像即可跨类别训练,并在ICCV 2023 OmniObject3D挑战赛中进入前三。
2025-02-05 cs.CV
Leveraging Neural Radiance Field in Descriptor Synthesis for Keypoints Scene Coordinate Regression
Graduate School of Information Science and Engineering, Ritsumeikan University(立命馆大学信息科学与工程研究生院);College of Information Science, Ritsumeikan University(立命馆大学信息科学学院)
针对 KSCR 在数据不足时性能受限的问题,本文提出利用 NeRF 生成新视角合成关键点描述子,以低成本将定位精度提升至多 50%。
2024-03-20 cs.CV
Instance Neural Radiance Field
The Hong Kong University of Science and Technology(香港科技大学);Carnegie Mellon University(卡内基梅隆大学);Dartmouth College(达特茅斯学院)
本文提出 Instance NeRF,一种基于学习的 NeRF 三维实例分割方法,利用三维提议掩码网络和二维全景分割监督,实现新视图一致分割及任意三维点实例查询,性能超越现有方法。
2023-09-04 cs.CV
Mip-Grid: Anti-aliased Grid Representations for Neural Radiance Fields
Sungkyunkwan University(成均馆大学);AI2XL, KT(KT AI2XL)
本文提出mip-Grid,将抗锯齿技术融入基于网格的辐射场表示中,通过多尺度网格和尺度感知坐标缓解混叠伪影,在保持快速训练的同时提升渲染性能,并在多尺度数据集上优于mip-NeRF。
2024-02-22 cs.CV cs.GR
4D Gaussian Splatting SLAM
Technical University of Munich(慕尼黑工业大学);Hangzhou Dianzi University(杭州电子科技大学);Zhejiang University(浙江大学);Google(谷歌)
在动态场景中同时定位摄像机位姿和构造高斯辐射场是连接二维图像和四维真实世界的重要桥梁。本文提出了一种有效的架构,而不是删除动态对象作为干扰和重建静态环境,增量跟踪相机姿势,并建立了4D高斯辐射场在未知的情况下,通过使用一系列的RGB-D图像。首先,通过生成运动掩模,我们获得每个像素的静态和动态先验。为了消除静态场景的影响,提高学习动态对象运动的效率,我们将高斯基元分为静态和动态高斯集,而稀疏控制点和MLP被用来建模的动态高斯变换场。为了更准确地学习动态高斯物体的运动,设计了一种新的二维光流图重建算法来绘制相邻图像之间的动态物体的光流,并进一步用于监督4D高斯辐射场以及传统的光度和几何约束。实验结果表明,该方法在真实环境中具有良好的跟踪性能和高质量的视点合成性能。
2025-03-20 cs.CV
Is-NeRF: In-scattering Neural Radiance Field for Blurred Images
Nan Luo 1(Luo 纳恩 1);Chenglin Ye 2(Ye 常林 2);Jiaxu Li 1(Li 蒹旭 1);Gang Liu 1(Liu 刘刚 1);Bo Wan 1(Wan 宝万 1);Di Wang 1(Wang 二迪 1);Lupeng Liu 2(Liu 刘鲁鹏 2);Jun Xiao 2(Xiao 姜军 2)
本文提出 Is-NeRF,通过入散射表示显式建模复杂光路并联合优化 NeRF 参数、散射参数和相机运动,以从运动模糊图像中恢复高保真场景表示,性能优于现有方法。
2025-08-19 cs.CV cs.GR
Relighting Scenes with Object Insertions in Neural Radiance Fields
National University of Defense Technology(国防科技大学)
针对现有AR物体插入方法场景受限的问题,提出基于NeRF的物体插入与重光照流水线,采用球谐与球面高斯混合光照表示及深度图对比的软阴影渲染方法,实现逼真的新视角合成与重光照效果。
2024-06-21 cs.CV cs.GR
DialogueNeRF: Towards Realistic Avatar Face-to-Face Conversation Video Generation
Shanghai Jiao Tong University(上海交通大学)
本文提出基于 NeRF 的统一框架 DialogueNeRF,联合建模说话者与听者以生成逼真面对面对话视频,并构建含34段视频的数据集验证其真实感与个体风格保持能力。
2023-08-12 cs.CV eess.IV
OneTo3D: One Image to Re-editable Dynamic 3D Model and Video Generation
Monash University(莫纳什大学)
本文提出OneTo3D,利用Gaussian Splatting、骨架自动生成与自适应绑定及动作控制算法,从单图生成可编辑动态3D模型和语义连续、时长不限的3D视频。
2024-05-10 cs.CV
Dream3D: Zero-Shot Text-to-3D Synthesis Using 3D Shape Prior and Text-to-Image Diffusion Models
ARC Lab(ARC实验室);ShanghaiTech University(上海科技大学);Tencent PCG(腾讯平台与内容事业群);Shanghai Engineering Research Center of Intelligent Vision and Imaging(上海智能视觉与成像工程技术研究中心);Shanghai Engineering Research Center of Energy Efficient and Custom AI IC(上海能效与定制人工智能集成电路工程技术研究中心)
首次将显式3D形状先验引入CLIP引导的3D优化,利用文本到图像扩散模型生成高质量3D形状并优化神经辐射场,显著提升了零样本文本到3D合成的视觉质量与形状准确性。
2023-04-03 cs.CV
IL-NeRF: Incremental Learning for Neural Radiance Fields with Camera Pose Alignment
Middle Tennessee State University(中田纳西州立大学);University of Central Florida(中佛罗里达大学);University of Miami(迈阿密大学)
针对顺序训练NeRF时相机位姿未知且易灾难性遗忘的问题,本文提出IL-NeRF框架,通过历史位姿参考对齐新位姿并联合优化回放蒸馏,渲染质量较基线最高提升54.04%。
2023-12-10 cs.AI cs.CV