NeRF-LiDAR: Generating Realistic LiDAR Point Clouds with Neural Radiance Fields
Fudan University(复旦大学)
提出 NeRF-LiDAR,利用真实图像和点云学习三维场景表示并生成带标签的逼真 LiDAR 点云,可支持分割模型训练并通过预训练减少真实标注需求。
2024-01-20 cs.CV
Pre-NeRF 360: Enriching Unbounded Appearances for Neural Radiance Fields
Universitat de Barcelona(巴塞罗那大学)
神经辐射场(NeRF)是近年来出现的一种用于生成物体和受限区域的真实感视图的强大工具。尽管如此,他们仍然面临着开放场景的严峻挑战,在开放场景中,相机可以不受限制地移动,内容可以出现在任何距离。在这种情况下,当前受NeRF启发的模型经常产生模糊或像素化的输出,训练时间缓慢,并且可能显示不规则性,因为从有限数量的图像重建广泛场景的任务具有挑战性。我们提出了一个新的框架,以提高性能的NeRF为基础的架构产生显着优于以前的工作相比,结果。我们的解决方案克服了困扰NeRF早期版本的几个障碍,包括处理多个视频输入,选择关键帧,以及从模糊和对称的真实世界帧中提取姿势。此外,我们应用了我们的框架,被称为“Pre-NeRF 360”,以便在NeRF中使用Nutrition 5 k数据集,并引入了该数据集的更新版本,称为N5 k360数据集。
2023-03-21 cs.CV
Instance Neural Radiance Field
The Hong Kong University of Science and Technology(香港科技大学);Carnegie Mellon University(卡内基梅隆大学);Dartmouth College(达特茅斯学院)
本文提出 Instance NeRF,一种基于学习的 NeRF 三维实例分割方法,利用三维提议掩码网络和二维全景分割监督,实现新视图一致分割及任意三维点实例查询,性能超越现有方法。
2023-09-04 cs.CV
Leveraging NeRF-Rendered Images for 3D Gaussian Splatting
Institute of Science Tokyo(东京科学研究所)
提出利用NeRF渲染图像辅助3DGS训练,通过去除瞬态物体和生成鸟瞰视图,结合扩散增强,在保持3DGS速度的同时提升街景渲染质量。
2026-06-08 cs.CV
Matching Query Image Against Selected NeRF Feature for Efficient and Scalable Localization
Binjiang Institute, Zhejiang University(浙江大学滨江学院);The Hong Kong Polytechnic University(香港理工大学);National University of Defense Technology(国防科技大学)
针对 NeRF 视觉定位在大规模场景中的低效与扩展难题,本文提出 MatLoc-NeRF,通过可学习特征选择、位姿感知场景划分及粗略位姿预测提升定位效率与精度。
2024-06-17 cs.CV
HeadNeRF: A Real-time NeRF-based Parametric Head Model
University of Science and Technology of China(中国科学技术大学)
在本文中,我们提出了HeadNeRF,一种新的基于NeRF的参数化头部模型,该模型将神经辐射场集成到人体头部的参数化表示中。它可以在现代GPU上实时的【形】渲染高保真的头部图像,并支持直接控制生成图像的渲染姿态和各种语义属性。与现有的相关参数化模型不同,我们使用神经辐射场作为一种新的3D代理,而不是传统的3D纹理网格,这使得HeadNeRF能够生成高保真图像。然而,原始NeRF的计算昂贵的渲染过程阻碍了参数化NeRF模型的构建。为了解决这个问题,我们采用了将二维神经渲染集成到NeRF渲染过程中的策略,并设计了新的损失项。因此,HeadNeRF的渲染速度可以显著加快,一帧的渲染时间从5s减少到25ms。精心设计的损失项也提高了渲染精度,并且人类头部的精细细节,例如牙齿之间的间隙,皱纹和胡须,可以由HeadNeRF表示和合成。大量的实验结果和几个应用证明了它的有效性。经训练的参数模型可在https://github.com/CrisHY1995/headnerf上获得。
2022-04-30 cs.CV
TriNeRFLet: A Wavelet Based Triplane NeRF Representation
Tel Aviv University(特拉维夫大学)
提出TriNeRFLet,一种基于二维小波的多尺度三平面NeRF表示,缩小了三维恢复性能差距,并融合扩散模型实现超分辨率。
2024-07-17 cs.CV
Point-NeRF: Point-based Neural Radiance Fields
University of Southern California(南加州大学);Adobe Research(奥多比研究院)
像NeRF这样的体积神经渲染方法可以生成高质量的视图合成结果,但会针对每个场景进行优化,导致重建时间过长。另一方面,深度多视图立体视觉方法可以通过直接网络推理快速重建场景几何。Point-NeRF结合了这两种方法的优点,通过使用神经3D点云和相关的神经特征来建模辐射场。Point-NeRF可以通过聚集场景表面附近的神经点特征,在基于光线推进的渲染管道中有效地渲染。此外,Point-NeRF可以通过预训练的深度网络的直接推理来初始化,以产生神经点云;可以对该点云进行微调,以超过NeRF的视觉质量,训练时间快30倍。Point-NeRF可以与其他3D重建方法相结合,并通过一种新的修剪和生长机制来处理这些方法中的错误和离群值。在DTU、NeRF Synthetics、ScanNet和Tanks and Temples数据集上的实验表明,Point-NeRF可以超越现有的方法,达到最先进的结果。
2023-03-15 cs.CV
Open-NeRF: Towards Open Vocabulary NeRF Decomposition
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出Open-NeRF,利用大规模分割模型生成分层2D掩码提案,通过整合与蒸馏范式将其对齐并融入3D场,实现开放词汇查询的灵活性与高精度3D分割,在开放词汇场景下优于LERF和FFD。
2023-10-25 cs.CV
InceptionHuman: Controllable Prompt-to-NeRF for Photorealistic 3D Human Generation
The Hong Kong University of Science and Technology(香港科技大学);Dartmouth College(达特茅斯学院)
本文提出 InceptionHuman,通过融合文本、姿态、边缘和分割等多模态提示,并结合 IPAR 与 PAR 两个模块,在渐进 NeRF 空间中生成可 360 度渲染的照片级真实感 3D 人体,实验达到当前最优质量。
2024-08-06 cs.CV
NeRFmentation: NeRF-based Augmentation for Monocular Depth Estimation
ETH Zürich(苏黎世联邦理工学院);Microsoft(微软公司);University of Alicante(阿利坎特大学);University of Amsterdam(阿姆斯特丹大学)
针对自动驾驶场景下单目深度估计模型受数据集多样性不足限制的问题,提出基于NeRF的数据增强 pipeline NeRFmentation,通过生成新视角合成RGB-D图像扩充训练集,在KITTI等数据集上验证了性能与鲁棒性提升。
2024-09-16 cs.CV
Ev-NeRF: Event Based Neural Radiance Field
Seoul National University(首尔国立大学)
我们提出了Ev-NeRF,一个来自事件数据的神经辐射场。虽然事件摄像机可以测量高帧速率下的细微亮度变化,但低光照或极端运动下的测量会受到复杂噪声的显著域差异的影响。因此,基于事件的视觉任务的性能不会转移到具有挑战性的环境中,在这种环境中,事件摄像机预计会比普通摄像机更出色。我们发现,NeRF的多视图一致性提供了一个强大的自我监督信号,用于消除虚假的测量和提取一致的底层结构,尽管高噪声输入。Ev-NeRF的输入不是原始NeRF的姿势图像,而是伴随着传感器移动的事件测量。使用反映传感器测量模型的损失函数,Ev-NeRF创建了一个集成的神经卷,可以汇总约2-4秒捕获的非结构化和稀疏数据点。生成的神经体积还可以从具有合理深度估计的新颖视图中生成强度图像,这可以作为各种基于视觉的任务的高质量输入。我们的研究结果表明,Ev-NeRF在极端噪声条件下和高动态范围成像的强度图像重建方面具有竞争力的性能。
2023-03-05 cs.CV
Knowledge NeRF: Few-shot Novel View Synthesis for Dynamic Articulated Objects
Southeast University(东南大学);Northeastern University(东北大学)
本文提出 Knowledge NeRF,通过预训练 NeRF、融合历史知识与当前极少观测并引入投影模块,实现动态关节物体在单状态5张图像下的少样本新视角合成。
2024-04-07 cs.CV
NeRFocus: Neural Radiance Field for 3D Synthetic Defocus
Peking University, Shenzhen Graduate School(北京大学深圳研究生院);Peng Cheng Laboratory(鹏城实验室)
神经辐射场(NeRF)带来了3D交互体验的新浪潮。然而,作为沉浸式体验的重要组成部分,散焦效应在NeRF中尚未得到充分研究。最近的一些基于NeRF的方法通过利用多平面技术以后处理方式生成3D散焦效果。但是,它们要么是耗时的,要么是消耗内存的。本文提出了一种新的薄透镜成像的NeRF框架,可以直接渲染各种3D散焦效果,被称为NeRFocus。与针孔不同,薄透镜折射场景点的光线,因此其在传感器平面上的成像被散射为混淆圈(CoC)。一个直接的解决方案采样足够的光线来近似这个过程是计算昂贵的。相反,我们建议逆薄透镜成像明确建模的光束路径的传感器平面上的每个点,并推广到每个像素的光束路径,然后使用基于锥台的体渲染渲染每个像素的光束路径。我们进一步设计了一个有效的概率训练(p-训练)策略,大大简化了训练过程。大量的实验表明,我们的NeRFocus可以实现各种3D散焦效果与可调相机的姿态,焦距和光圈大小。现有的NeRF可以被视为我们的特殊情况下,通过设置光圈大小为零,渲染大景深图像。尽管有这些优点,NeRFocus并没有牺牲NeRF的原始性能(例如,训练和推理时间,参数消耗,渲染质量),这意味着它具有更广泛的应用和进一步改进的巨大潜力。代码和视频可在https://github.com/wyhuai/NeRFocus上获得。
2022-08-10 cs.CV
NoPe-NeRF: Optimising Neural Radiance Field with No Pose Prior
University of Oxford(牛津大学)
NoPe-NeRF提出利用校正后的单目深度先验约束连续帧相对位姿,通过新型损失函数联合优化NeRF与相机位姿,在剧烈相机运动场景中提升了新视角渲染质量和位姿估计精度。
2023-04-14 cs.CV
C-NERF: Representing Scene Changes as Directional Consistency Difference-based NeRF
College of Computer Science and Technology, Civil Aviation University of China(中国民航大学计算机科学与技术学院);IHPC, Agency for Science, Technology and Research(新加坡科技研究局高性能计算研究所);CFAR, Agency for Science, Technology and Research(新加坡科技研究局CFAR研究所)
提出C-NERF,通过方向一致性差异表示场景变化,结合空间对齐与变化点识别,实现任意视角变化图渲染,显著优于现有方法。
2023-12-23 cs.CV
WaterHE-NeRF: Water-ray Tracing Neural Radiance Fields for Underwater Scene Reconstruction
Dalian Maritime University(大连海事大学)
针对水下光衰减与真实 GT 缺乏问题,提出 WaterHE-NeRF,利用 Retinex 水线追踪场及 Wasserstein 距离、HE 伪 GT 实现水下场景重建与图像复原。
2024-01-19 cs.CV
NeRF-Supervised Feature Point Detection and Description
University College London(伦敦大学学院)
本文提出利用NeRF生成多样真实数据集,通过透视投影几何监督训练特征点检测与描述模型,在相对位姿估计等任务上以更少数据和时间取得竞争或更优性能。
2024-09-20 cs.CV
SyncDreamer for 3D Reconstruction of Endangered Animal Species with NeRF and NeuS
Huawei Türkiye R&D Center(华为土耳其研发中心)
本研究利用SyncDreamer生成新视角,结合NeRF和NeuS从单目RGB图像重建四种濒危动物的三维模型,验证了技术可行性并指出NeuS模糊、NeRF清晰但含噪的特点。
2023-12-21 cs.CV
LC-NeRF: Local Controllable Face Generation in Neural Randiance Field
Tsinghua University(清华大学);Stanford University(斯坦福大学);Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
由于神经辐射场(NeRF)的发展,三维人脸生成已经实现了高视觉质量和三维一致性。近年来,针对NeRF表示的三维面的生成和编辑,提出了一些方法,并在几何和纹理解耦方面取得了良好的效果。这些生成模型的潜在代码会影响整个面部,因此对这些代码的修改会导致整个面部发生变化。但是,用户通常在编辑面时编辑局部区域,并且不希望其他区域受到影响。由于潜在代码的变化会影响全局生成结果,因此这些方法不允许对局部面部区域进行细粒度控制。为了提高基于NeRF的人脸编辑的局部可控性,我们提出了LC-NeRF,它由一个局部区域生成器模块和一个空间感知融合模块组成,允许局部面部区域的局部几何和纹理控制。定性和定量的评估表明,我们的方法提供了更好的本地编辑比国家的最先进的人脸编辑方法。我们的方法在下游任务中也表现良好,例如文本驱动的面部图像编辑。
2023-02-19 cs.CV
Aleth-NeRF: Illumination Adaptive NeRF with Concealing Field Assumption
The University of Tokyo(东京大学);Shanghai AI Laboratory(上海人工智能实验室);RIKEN AIP(日本理化学研究所);University of Oxford(牛津大学)
本文提出 Aleth-NeRF,通过 Concealing Field 建模空气对光线的衰减或过曝影响,使 NeRF 可在恶劣光照下无监督恢复正常光照新视角,并发布多视图数据集。
2024-01-24 cs.CV
CG-NeRF: Conditional Generative Neural Radiance Fields
KAIST Graduate School of AI, Korea Advanced Institute of Science and Technology(韩国科学技术院人工智能研究生院)
虽然最近基于NeRF的生成模型实现了生成各种3D感知图像,但这些方法在生成包含用户指定特征的图像时存在局限性。在本文中,我们提出了一种新的模型,称为条件生成神经辐射场(CG-NeRF),它可以生成多视图图像,反映额外的输入条件,如图像或文本。在保留给定输入条件的共同特征的同时,该模型生成了细节丰富的不同图像。我们建议:1)新颖的统一架构,其从以各种形式给出的条件中解开形状和外观,以及2)用于生成多模态输出的姿态一致的多样性损失,同时保持视图的一致性。实验结果表明,该方法保持一致的图像质量在各种条件类型,并实现了更好的保真度和多样性相比,现有的基于NeRF的生成模型。
2021-12-07 cs.CV cs.GR
NERFIFY: A Multi-Agent Framework for Turning NeRF Papers into Code
University of California, San Diego(加州大学圣地亚哥分校)
NERFIFY通过多智能体框架将NeRF论文转化为可训练的代码,提升复现效率和质量。
2026-02-28 cs.CV cs.MA
NeRFEditor: Differentiable Style Decomposition for Full 3D Scene Editing
Australian National University(澳大利亚国立大学)
NeRFEditor是一个高效的3D场景编辑学习框架,它将360°以上拍摄的视频作为输入,并输出高质量的、保持身份的风格化3D场景。我们的方法支持不同类型的编辑,如参考图像,文本提示和用户交互的指导。我们通过鼓励预先训练的StyleGAN模型和NeRF模型相互学习来实现这一点。具体来说,我们使用NeRF模型来生成许多图像角度对来训练调整器,该调整器可以调整StyleGAN潜在代码以生成任何给定角度的高保真风格化图像。为了将编辑外推到GAN域外视图,我们设计了另一个以自监督学习方式训练的模块。该模块将新视图图像映射到StyleGAN的隐藏空间,允许StyleGAN在新视图上生成风格化图像。这两个模块一起在360°视图中产生引导图像,以微调NeRF以产生风格化效果,其中提出了稳定的微调策略来实现这一点。实验表明,NeRFEditor在基准测试和真实场景上的性能优于先前的工作,具有更好的可编辑性,保真度和身份保护。
2022-12-08 cs.CV cs.GR eess.IV
NeRF-NQA: No-Reference Quality Assessment for Scenes Generated by NeRF and Neural View Synthesis Methods
the University of Sydney(悉尼大学);the University of Cambridge(剑桥大学);Beijing Technology and Business University(北京工商大学);Shandong University(山东大学)
针对现有质量评估方法不适配神经视图合成场景、密集真实视角缺失导致全参考评估难的问题,提出首个无参考评估方法NeRF-NQA,通过逐视角+逐点的联合策略评估,性能显著优于23种主流方法。
2024-12-11 cs.AI cs.CV cs.HC
Dynamic Depth-Supervised NeRF for Multi-View RGB-D Operating Room Images
Meander Medisch Centrum(梅ander医疗中心);University of Twente(特文特大学)
本研究利用动态深度监督NeRF,从多视角RGB-D手术室图像合成新视图,通过深度正则化提升质量,在膝关节手术场景中实现平均PSNR 18.2和深度误差2.0%。
2023-08-30 cs.CV
Plug-and-Play Acceleration of Occupancy Grid-based NeRF Rendering using VDB Grid and Hierarchical Ray Traversal
NTT Communications(NTT通信公司)
针对 OG 稠密二进制网格在 NeRF 光线追踪中的冗余问题,提出用 VDB 网格和 HDDA 实现免微调的即插即用加速,并在两个数据集上取得无损渲染的 12% 与 4% 平均提速。
2024-04-16 cs.CV
Enhance-NeRF: Multiple Performance Evaluation for Neural Radiance Fields
NJAU(南京农业大学);NJCIT(南京工业职业技术大学)
针对 NeRF 受雾状噪声干扰、无边界场景重建不稳定且收敛慢的问题,提出 Enhance-NeRF,通过联合色彩、先验解码和多层性能评估实现单卡一小时内户外重建。
2023-06-08 cs.CV
PaletteNeRF: Palette-based Color Editing for NeRFs
Tsinghua University(清华大学);Kuaishou Technology(快手科技)
神经辐射场(NeRF)是一个强大的工具,可以忠实地为只有稀疏捕获图像的场景生成新视图。尽管它具有很强的表现3D场景及其外观的能力,但它的编辑能力非常有限。在本文中,我们提出了一个简单但有效的扩展香草NeRF,命名为PaletteNeRF,使高效的色彩编辑NeRF表示的场景。受最近基于调色板的图像分解工作的启发,我们将每个像素的颜色近似为由附加权重调制的调色板颜色的总和。我们的方法不是像香草NeRF那样预测像素颜色,而是预测加性权重。底层NeRF主干也可以被更新的NeRF模型(如KiloNeRF)取代,以实现实时编辑。实验结果表明,我们的方法实现了高效的,视图一致的,和无伪影的颜色编辑在广泛的NeRF代表的场景。
2022-12-25 cs.CV cs.GR
NeRF-LOAM: Neural Implicit Representation for Large-Scale Incremental LiDAR Odometry and Mapping
Shanghai Jiao Tong University(上海交通大学);College of Intelligence Science and Technology, NUDT(国防科技大学智能科学与技术学院)
同时使用LiDAR数据进行里程计和地图绘制是移动系统在大规模环境中实现完全自主的重要任务。然而,大多数现有的基于LiDAR的方法优先考虑跟踪质量而不是重建质量。虽然最近开发的神经辐射场(NeRF)在室内环境的隐式重建方面取得了可喜的进展,但使用增量LiDAR数据的大规模场景的同步测距和映射问题仍未得到解决。为了弥补这一差距,在本文中,我们提出了一种新的基于NeRF的激光雷达里程计和映射方法,NeRF-LOAM,由三个模块神经里程计,神经映射,和网格重建。所有这些模块都利用了我们提出的神经符号距离函数,该函数将LiDAR点分为地面点和非地面点以减少Z轴漂移,同时优化里程计和体素嵌入,并最终生成环境的密集平滑网格地图。此外,这种联合优化使我们的NeRF-LOAM能够自由地进行预训练,并在应用于不同环境时表现出强大的泛化能力。对三个公开数据集的广泛评估表明,我们的方法实现了最先进的里程计和映射性能,以及在利用LiDAR数据的大规模环境中的强大泛化能力。此外,我们进行了多次消融研究,以验证我们的网络设计的有效性。我们的方法的实施将在https://github.com/JunyuanDeng/NeRF-LOAM上提供。
2023-03-19 cs.CV
AD-NeRF: Audio Driven Neural Radiance Fields for Talking Head Synthesis
University of Science and Technology of China(中国科学技术大学);Beijing Dilusense Technology Corporation(北京谛听视界科技有限公司);Zhejiang University(浙江大学);Tsinghua University(清华大学)
通过对输入音频序列的拟合来生成高保真的说话人头部视频是一个具有挑战性的问题,近年来受到了相当大的关注。在本文中,我们解决这个问题的帮助下,神经场景表示网络。我们的方法与现有的方法完全不同,现有的方法依赖于2D地标或3D人脸模型等中间表示来弥合音频输入和视频输出之间的差距。具体地,输入音频信号的特征被直接馈送到条件隐式函数中以生成动态神经辐射场,使用体渲染从动态神经辐射场合成与音频信号对应的高保真头部讲话视频。我们的框架的另一个优点是,不仅头部(与头发)区域是合成的,因为以前的方法,但也通过两个单独的神经辐射场生成上半身。实验结果表明,我们的新框架可以(1)产生高保真和自然的结果,(2)支持自由调整音频信号,观看方向和背景图像。代码可在https://github.com/YudongGuo/AD-NeRF上获得。
2021-08-19 cs.CV
Strata-NeRF : Neural Radiance Fields for Stratified Scenes
IISc Bangalore(印度科学学院班加罗尔分院);Samsung R & D Institute India - Bangalore(三星印度班加罗尔研发研究院);Brown University(布朗大学)
针对现有NeRF难以建模多层级分层场景的问题,提出Strata-NeRF,通过基于VQ隐表示的条件建模实现多层级场景的隐式捕获,在合成与真实数据集上均表现更优。
2023-08-20 cs.CV
Spike-NeRF: Neural Radiance Field Based On Spike Camera
National Engineering Research Center of Visual Technology (NERCVT), Peking University(北京大学视觉技术国家工程研究中心);College of Future Technology, Peking University(北京大学未来技术学院)
本文提出首个基于脉冲数据的神经辐射场Spike-NeRF,通过设计脉冲掩码与独特损失函数,从移动脉冲相机极短时间内捕获的连续脉冲流中,实现高速场景的正确三维重建与新视点合成。
2024-03-25 cs.CV
NerfDiff: Single-image View Synthesis with NeRF-guided Distillation from 3D-aware Diffusion
Apple(苹果公司);University of California, San Diego(加州大学圣地亚哥分校);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);University of Pennsylvania(宾夕法尼亚大学)
新颖的视图合成从一个单一的图像需要推断遮挡区域的对象和场景,同时保持语义和物理的一致性与输入。现有的方法将神经辐射场(NeRF)条件化到局部图像特征上,将点投影到输入图像平面,并且聚合2D特征以执行体渲染。然而,在严重遮挡的情况下,这种投影无法解决不确定性,导致缺乏细节的模糊渲染。在这项工作中,我们提出了NerfDiff,它解决了这个问题,通过在测试时合成和改进一组虚拟视图,将3D感知的条件扩散模型(CDM)的知识提取到NeRF中。我们进一步提出了一种新的NeRF引导蒸馏算法,同时生成3D一致的虚拟视图的CDM样本,并微调NeRF的基础上改进的虚拟视图。我们的方法在具有挑战性的数据集(包括ShapeNet、ABO和Berr3D)上的性能明显优于现有的基于NeRF和无几何方法。
2023-02-20 cs.CV cs.LG
GO-NeRF: Generating Objects in Neural Radiance Fields for Virtual Reality Content Creation
The University of Hong Kong(香港大学);Google(谷歌)
GO-NeRF提出一种在NeRF场景中根据文本提示和用户区域生成并集成3D物体的流程,通过组合渲染和定制优化提升场景和谐度与新视角质量。
2024-09-20 cs.CV
BeyondPixels: A Comprehensive Review of the Evolution of Neural Radiance Fields
The University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
本文综述神经辐射场(NeRF)的演进,按架构设计分类最新进展,聚焦新视角合成,弥补以往综述未充分探索其潜力的不足。
2024-03-18 cs.CV
Multivariate Gaussian NeRF for Wide Field-of-View Ultrasound Reconstruction
Chair for Computer Aided Medical Procedures (CAMP), Technical University of Munich, Germany(计算机辅助医学程序系(CAMP),慕尼黑技术大学,德国);Munich Center for Machine Learning (MCML), Munich, Germany(慕尼黑机器学习中心,慕尼黑,德国);LUMA Vision, Beech Hill Road, Dublin, Ireland(LUMA视觉,Beech Hill Road,都柏林,爱尔兰)
本文提出基于多变量3D高斯的NeRF方法,用于宽视野超声重建,通过建模复杂声束几何减少伪影并提升反锯齿效果,验证了其在心脏超声中的应用。
2026-04-27 cs.CV
Density Uncertainty Quantification with NeRF-Ensembles: Impact of Data and Scene Constraints
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院);Institute of Photogrammetry and Remote Sensing (IPF)(摄影测量与遥感研究所)
本研究提出利用NeRF集成来量化密度不确定性,证明数据与场景约束影响不确定性,并展示其在鲁棒性和伪影去除方面的优势,在三个数据集上验证了方法有效性。
2023-12-22 cs.CV
TFS-NeRF: Template-Free NeRF for Semantic 3D Reconstruction of Dynamic Scene
Faculty of IT, Monash University(莫纳什大学信息技术学院);Indian Institute of Technology (IIT), Bombay(印度理工学院孟买分校)
针对动态场景中任意实体交互的三维重建挑战,提出无模板的TFS-NeRF,采用INN预测LBS权重、解耦实体运动,实现稀疏/单视角RGB视频的高效语义三维重建,性能优于现有方法。
2024-12-04 cs.CV
Adaptive Multi-NeRF: Exploit Efficient Parallelism in Adaptive Multiple Scale Neural Radiance Field Rendering
Cygames Inc.(赛博游戏公司)
针对NeRF大场景渲染因复杂度不均导致的速度慢、GPU利用率低问题,提出自适应多NeRF方法,通过树结构细分场景、引导密度网格优化分配小型MLP,结合高效采样策略提升并行度与GPU利用率,加速渲染。
2023-10-03 cs.CV
NeRF-VPT: Learning Novel View Representations with Neural Radiance Fields via View Prompt Tuning
Sun Yat-sen University(中山大学);University of Oxford(牛津大学)
本文提出即插即用的 NeRF-VPT,通过级联视角提示调优将前序渲染 RGB 作为视觉先验,提升新视角合成质量、PSNR 及稀疏输入适应性。
2024-03-02 cs.CV
DoF-NeRF: Depth-of-Field Meets Neural Radiance Fields
Huazhong University of Science and Technology(华中科技大学);Huawei(华为)
神经辐射场(NeRF)及其变体在表示3D场景和合成照片级逼真的新颖视图方面取得了巨大成功。然而,它们通常基于针孔相机模型,并假设全聚焦输入。这限制了它们的适用性,因为从现实世界捕获的图像通常具有有限的景深(DoF)。为了解决这个问题,我们引入了DoF-NeRF,这是一种新的神经渲染方法,可以处理浅DoF输入,并可以模拟DoF效果。特别地,它扩展了NeRF来模拟透镜的孔径遵循几何光学的原则。这样的物理保证允许DoF-NeRF操作具有不同焦点配置的视图。受益于显式光圈建模,DoF-NeRF还可以通过调整虚拟光圈和焦点参数来直接操纵DoF效果。它是即插即用的,可以插入基于NeRF的框架。在合成数据集和真实数据集上的实验表明,DoF-NeRF不仅可以在全聚焦条件下实现与NeRF的融合,而且可以在浅DoF输入条件下合成全聚焦的新视图。一个有趣的应用DoF-NeRF的自由度渲染也被证明。源代码将在https://github.com/zijinwuzijin/DoF-NeRF上提供。
2022-08-01 cs.CV
Delicate Textured Mesh Recovery from NeRF via Adaptive Surface Refinement
Peking University(北京大学);Baidu Inc.(百度公司)
针对 NeRF 隐式表示难以兼容传统三维工具的问题,本文提出从 NeRF 初始化几何与外观、提取粗网格并依据重投影误差自适应细化表面,最终烘焙纹理以获得高质量可实时渲染网格。
2023-08-19 cs.CV
CodecNeRF: Toward Fast Encoding and Decoding, Compact, and High-quality Novel-view Synthesis
Sungkyunkwan University(成均馆大学)
本文提出CodecNeRF,一种用于NeRF表示的神经编解码器,通过编码器-解码器架构在单次前向传播中生成NeRF表示,并结合参数高效微调方法,实现超过100倍压缩、显著减少编码时间且保持或提升图像质量。
2024-09-25 cs.CV
Connecting NeRFs, Images, and Text
University of Bologna(博洛尼亚大学)
本研究探索连接NeRF模态与图像、文本模态的新方向,提出结合NeRF预训练模型与图文多模态模型的框架,学习三者嵌入的双向映射,可实现NeRF零样本分类、图文检索等应用。
2024-04-11 cs.CV
Multispectral-NeRF:a multispectral modeling approach based on neural radiance fields
State Key Laboratory of Climate System Prediction and Risk Management, Nanjing Normal University(南京师范大学气候系统预测与风险管理国家重点实验室);Key Lab of Virtual Geographic Environment (MOE), Nanjing Normal University(南京师范大学虚拟地理环境教育部重点实验室);State Key Laboratory Cultivation Base of Geographical Environment Evolution (Jiangsu Province)(地理环境演化国家重点实验室培育基地(江苏省));Jiangsu Center for Collaborative Innovation in Geographical Information Resource Development and Application(江苏省地理信息资源开发与利用协同创新中心)
本文提出Multispectral-NeRF,通过扩展隐藏层维度、重新设计残差函数和调整数据压缩模块,使神经辐射场能够处理6波段多光谱信息,实现高精度多光谱三维重建。
2025-11-10 cs.CV
LLaNA: Large Language and NeRF Assistant
University of Bologna(博洛尼亚大学)
本文提出LLaNA,首个直接处理NeRF的MLP权重以理解物体几何与外观的通用NeRF-语言助手,无需渲染图像或实体化3D数据,并构建无人工干预的标注数据集与基准,验证其优于提取2D/3D表示的方法。
2024-11-22 cs.CV
Boosting3D: High-Fidelity Image-to-3D by Boosting 2D Diffusion Prior to 3D Prior with Progressive Learning
Alibaba Group(阿里巴巴集团)
提出Boosting3D多阶段单图像到3D生成方法,通过渐进式训练策略使对象级LoRA与NeRF相互促进,将2D扩散先验提升为3D先验,解决视图一致性问题并实现最先进性能。
2023-11-22 cs.CV
SAMSNeRF: Segment Anything Model (SAM) Guides Dynamic Surgical Scene Reconstruction by Neural Radiance Field (NeRF)
Vanderbilt University(范德堡大学)
本文提出SAMSNeRF,结合SAM与NeRF,利用SAM生成手术工具分割掩码引导NeRF重建动态手术场景,在公开内窥镜视频上实现高保真重建和准确3D位置预测,提升手术导航与自动化。
2024-02-06 cs.CV
D-NeRF: Neural Radiance Fields for Dynamic Scenes
Institut de Robòtica i Informàtica Industrial CSIC-UPC(西班牙高等科学研究委员会-加泰罗尼亚理工大学 工业机器人与信息学研究所);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
结合机器学习和几何推理的神经渲染技术已经成为从稀疏图像集合合成场景的新视图的最有前途的方法之一。其中,神经辐射场(NeRF)脱颖而出,它训练深度网络将5D输入坐标(表示空间位置和观察方向)映射到体积密度和视图相关的发射辐射。然而,尽管在生成的图像上实现了前所未有的照相现实主义水平,但NeRF仅适用于静态场景,其中可以从不同的图像查询相同的空间位置。在本文中,我们介绍了D-NeRF,一种方法,扩展神经辐射场的动态域,允许重建和渲染新的图像下的刚性和非刚性运动的对象从\emph{single}相机移动的场景。为此,我们考虑时间作为系统的额外输入,并将学习过程分为两个主要阶段:一个将场景编码到规范空间中,另一个将此规范表示映射到特定时间的变形场景中。这两个映射是使用全连接网络同时学习的。一旦网络经过训练,D-NeRF就可以渲染新的图像,控制相机视图和时间变量,从而控制对象的移动。我们证明了我们的方法在场景中的物体刚性,关节和非刚性运动的有效性。代码,模型权重和动态场景数据集将被释放。
2020-11-27 cs.CV
SCALAR-NeRF: SCAlable LARge-scale Neural Radiance Fields for Scene Reconstruction
National University of Singapore(新加坡国立大学)
SCALAR-NeRF提出编码器-解码器架构与由粗到细的分块训练策略,通过共享全局解码器对齐局部特征并融合多块输出,实现优于现有方法的大规模神经场景重建。
2023-11-28 cs.CV
From NeRFLiX to NeRFLiX++: A General NeRF-Agnostic Restorer Paradigm
SmartMore Corporation, Ltd.(思谋科技有限公司);The Chinese University of Hong Kong(香港中文大学);Shenzhen Institute of Big Data, The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳)深圳大数据研究院);South China University of Technology(华南理工大学)
针对 NeRF 新视角合成存在渲染伪影的问题,提出通用的 NeRF 无关修复范式 NeRFLiX 及升级版 NeRFLiX++,通过退化建模、视角间聚合等实现高质量修复,性能与效率均显著提升。
2023-12-13 cs.CV
BRDF-NeRF: Neural Radiance Fields with Optical Satellite Images and BRDF Modelling
Université de Paris(巴黎大学);Institut de Physique du Globe de Paris(巴黎地球物理研究所);CNRS(法国国家科学研究中心);Université de Gustave Eiffel(古斯塔夫·埃菲尔大学);IGN-ENSG(法国国家地理信息与林业学院)
针对卫星成像视角少且地表复杂的挑战,提出BRDF-NeRF,结合RPV BRDF模型与引导式体积采样及深度监督,仅需3-4张图像即可合成新视角并生成高质量数字表面模型。
2024-09-25 cs.CV
CorresNeRF: Image Correspondence Priors for Neural Radiance Fields
The University of Hong Kong(香港大学);Zhejiang Lab(之江实验室);Zhejiang University(浙江大学);Intel Labs(英特尔实验室)
本文提出 CorresNeRF,通过现成方法生成并自适应筛选密集图像对应,以重投影和深度损失监督稀疏视角下的 NeRF 训练,在新视角合成与表面重建上均提升性能。
2023-12-11 cs.CV