BASED: Bundle-Adjusting Surgical Endoscopic Dynamic Video Reconstruction using Neural Radiance Fields
University of California, San Diego(加利福尼亚大学圣地亚哥分校);Intel Labs(英特尔实验室)
本文提出 BASED,利用 NeRF 在未知相机位姿下联合重建内窥镜动态可变形手术场景,摆脱对静态场景部分的依赖,并在多个数据集上验证其适应性与应用前景。
2025-03-17 cs.CV
NerfingMVS: Guided Optimization of Neural Radiance Fields for Indoor Multi-view Stereo
Department of Automation, Tsinghua University(清华大学自动化系);State Key Lab of Intelligent Technologies and Systems(智能技术与系统国家重点实验室);ETH Zurich(苏黎世联邦理工学院);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
在这项工作中,我们提出了一种新的多视图深度估计方法,利用传统的重建和基于学习的先验最近提出的神经辐射场(NeRF)。与现有的基于神经网络的优化方法依赖于估计的对应关系不同,我们的方法直接优化隐式体积,消除了室内场景中匹配像素的挑战性步骤。我们的方法的关键是利用基于学习的先验知识来指导NeRF的优化过程。我们的系统首先通过对COLMAP的稀疏SfM+MVS重建进行微调,在目标场景上适应单目深度网络。然后,我们表明,形状辐射的模糊性NeRF仍然存在于室内环境中,并提出解决这个问题,采用适应深度先验监测采样过程的体渲染。最后,通过对渲染图像的误差计算获得的每像素置信度图可以用于进一步提高深度质量。实验表明,我们提出的框架显着优于国家的最先进的方法在室内场景中,与令人惊讶的发现,基于对应的优化和基于NeRF的优化在适应深度先验的有效性。此外,我们表明,引导优化方案不牺牲原来的合成能力的神经辐射场,提高了渲染质量上看到的和新的意见。代码可在https://github.com/weiyithu/NerfingMVS上获得。
2021-10-04 cs.CV
NeRF-HuGS: Improved Neural Radiance Fields in Non-static Scenes Using Heuristics-Guided Segmentation
Sun Yat-sen University(中山大学);Cardiff University(卡迪夫大学);University of Pennsylvania(宾夕法尼亚大学);SmartMore Corporation(思谋科技)
本文提出NeRF-HuGS,通过结合手工启发式与先进分割模型,显著提升非静态场景中静态与瞬态干扰物的分离,有效减少NeRF伪影。
2024-03-26 cs.CV
NeRF2Real: Sim2real Transfer of Vision-guided Bipedal Motion Skills using Neural Radiance Fields
DeepMind(深度思维)
我们提出了一个系统,应用sim2real的方法,以“在野外”的场景与逼真的视觉效果,并依赖于主动感知使用RGB相机的政策。给定一个短视频的静态场景收集使用一个通用的手机,我们学习场景的接触几何和新的视图合成使用神经辐射场(NeRF)的功能。我们通过覆盖其他动态对象(例如机器人自己的身体,球)的渲染来增强静态场景的NeRF渲染。然后使用物理模拟器中的渲染引擎创建模拟,该物理模拟器根据静态场景几何形状(根据NeRF体积密度估计)和动态对象的几何形状和物理属性(假设已知)计算接触动态。我们证明,我们可以使用这个模拟来学习基于视觉的全身导航和球推政策的20自由度人形机器人与驱动头戴式RGB摄像头,我们成功地将这些政策,以一个真正的机器人。项目视频可在https://sites.google.com/view/nerf2real/home上获得
2022-10-10 cs.AI cs.CV cs.LG
AG-NeRF: Attention-guided Neural Radiance Fields for Multi-height Large-scale Outdoor Scene Rendering
South China University of Technology(华南理工大学)
AG-NeRF提出一种注意力引导的端到端框架,通过源图像选择与特征融合解决多高度户外场景渲染,半小时训练即达SOTA性能。
2024-04-18 cs.CV
Segmentation-Guided Neural Radiance Fields for Novel Street View Synthesis
Institute of Science Tokyo(东京科学大学);Micware Mobility Co., Ltd.(Micware 移动有限公司);Micware Automotive Co., Ltd.(Micware 汽车有限公司);Micware Navigations Co., Ltd(Micware 导航有限公司)
针对大规模街景中瞬态物体、稀疏纹理和光照变化问题,本文扩展ZipNeRF并以Grounded SAM分割引导天空、地面和瞬态物体建模,结合外观嵌入提升新视图合成质量。
2025-03-18 cs.CV eess.IV
InNeRF360: Text-Guided 3D-Consistent Object Inpainting on 360-degree Neural Radiance Fields
School of Computer and Communication Sciences, EPFL(EPFL计算机与通信科学学院)
提出InNeRF360系统,通过深度空间变换和3D扩散几何先验,解决360度神经辐射场中无界场景文本指定对象的移除与无伪影3D一致性修复问题,显著增强了NeRF的可编辑性。
2024-03-26 cs.CV
Reference-guided Controllable Inpainting of Neural Radiance Fields
Samsung AI Centre Toronto(三星人工智能中心多伦多分部);University of Toronto(多伦多大学);York University(约克大学);Vector Institute for AI(Vector人工智能研究所)
本文提出仅用单张参考修复图像和视图掩码实现可控、多视图一致的 NeRF 修复,结合单目深度反投影、双边求解器及图像修复器引导几何与外观,性能优于现有基线。
2023-04-20 cs.CV
ReplaceAnything3D:Text-Guided 3D Scene Editing with Compositional Neural Radiance Fields
University College London(伦敦大学学院);Alan Turing Institute(阿兰·图灵研究所);Reality Labs Research, Meta(元现实实验室研究部门)
该研究提出文本引导的3D场景编辑模型ReplaceAnything3D(RAM3D),采用“擦除-替换”方法,可基于文本提示替换场景中特定物体,同时保持多视图3D一致性,在多种真实场景中实现了前景物体与场景的良好融合。
2024-01-31 cs.AI cs.CV cs.GR
ResNeRF: Geometry-Guided Residual Neural Radiance Field for Indoor Scene Novel View Synthesis
ResNeRF提出几何引导的两阶段框架,先基于SDF重建场景几何,再学习残差密度编码外观细节,从而在大规模室内场景中实现高保真新视角合成并达到最先进性能。
2023-07-11 cs.CV
Global-guided Focal Neural Radiance Field for Large-scale Scene Rendering
AMAP;Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院)
针对现有大规模NeRF分块独立训练导致的场景一致性差、渲染质量提升有限的问题,提出采用两阶段架构与全局引导训练策略的GF-NeRF,在不依赖场景先验的前提下实现大规模场景高保真渲染。
2024-09-13 cs.CV
Neural Radiance Fields for the Real World: A Survey
Queensland University of Technology(昆士兰理工大学);Australian National University(澳大利亚国立大学)
本文综述了神经辐射场在现实世界中的应用,总结了其在3D场景重建、计算机视觉和机器人技术中的影响,并探讨了当前研究的挑战与未来方向。
2026-07-30 cs.CV cs.GR
Bilateral Guided Radiance Field Processing
The Chinese University of Hong Kong(香港中文大学);Shanghai AI Laboratory(上海人工智能实验室)
本文提出利用双边网格在3D空间中建模相机ISP处理,通过解耦训练阶段增强并学习低秩4D双边网格实现用户可调的三维后期处理,以去除NeRF重建中的漂浮物并提升新视角合成质量。
2024-08-06 cs.CV cs.GR
OR-NeRF: Object Removing from 3D Scenes Guided by Multiview Segmentation with Neural Radiance Fields
Nanyang Technological University(南洋理工大学)
本文提出OR-NeRF,利用单视图点或文本提示,结合3D几何传播、SAM分割、2D修复及深度与感知监督,高效实现一致的3D场景物体移除。
2023-09-29 cs.CV
HG3-NeRF: Hierarchical Geometric, Semantic, and Photometric Guided Neural Radiance Fields for Sparse View Inputs
College of Control Science and Engineering, Zhejiang University(浙江大学控制科学与工程学院);School of Computer Science, Hangzhou Dianzi University(杭州电子科技大学计算机学院)
针对稀疏视图下NeRF性能退化问题,本文提出HG3-NeRF,通过分层几何引导融合SfM稀疏深度先验,并以分层语义引导学习由粗到细语义,实现跨视图几何、语义与外观一致性提升。
2024-01-22 cs.CV
MU-GeNeRF: Multi-view Uncertainty-guided Generalizable Neural Radiance Fields for Distractor-aware Scene
School of Computer Science and Technology, Tongji University, Shanghai, China(同济大学计算机科学与技术学院,上海,中国);MOE Key Lab of Embedded System and Service Computing, Tongji University, Shanghai, China(同济大学嵌入式系统与服务计算MOE重点实验室,上海,中国);College of Surveying and Geographic Informatics, Tongji University, Shanghai, China(同济大学测绘地理信息学院,上海,中国)
本文提出MU-GeNeRF,通过多视角不确定性组件提升神经辐射场在存在瞬时干扰时的鲁棒性,实验表明其在场景重建中优于现有方法。
2026-04-20 cs.CV
Depth-Guided Bundle Sampling for Efficient Generalizable Neural Radiance Field Reconstruction
Key Laboratory of Media Audio and Video (Communication University of China), Ministry of Education(媒体音频与视频重点实验室(中国传媒大学),教育部);School of Electronic Science and Engineering, Nanjing University(南京大学电子科学与工程学院)
针对可泛化神经辐射场渲染计算量大、采样冗余的问题,提出深度引导的束采样策略,通过分组采样和自适应分配采样点,在DTU数据集上实现1.27 dB PSNR提升和47% FPS增加,并达到2倍渲染加速。
2025-05-26 cs.CV
ID-NeRF: Indirect Diffusion-guided Neural Radiance Fields for Generalizable View Synthesis
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区)
针对可泛化NeRF因错误重投影特征导致次优结果的问题,提出ID-NeRF框架,利用预训练扩散先验通过间接注入策略引导特征细化,实现高质量稀疏输入下的新视图合成。
2024-05-19 cs.CV
Grid-guided Neural Radiance Fields for Large Urban Scenes
Zhejiang University(浙江大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Adobe Research(奥多比研究中心);Shanghai AI Laboratory(上海人工智能实验室);The Chinese University of Hong Kong(香港中文大学)
基于PPEMLP的神经辐射场(NeRF方法)由于模型容量有限,在大规模场景中经常会出现模糊渲染的欠拟合问题。最近的方法建议在地理上划分场景,并采用多个子NeRF单独对每个区域进行建模,从而导致训练成本和子NeRF数量随着场景的扩展而线性增加。另一种解决方案是使用特征网格表示,其计算效率高,并且可以自然地扩展到具有增加的网格分辨率的大场景。然而,特征网格往往受到较少的约束,并且经常达到次优的解决方案,在渲染中产生噪声伪影,特别是在具有复杂几何形状和纹理的区域中。在这项工作中,我们提出了一个新的框架,实现了高保真渲染的大型城市场景,同时计算效率。我们建议使用一个紧凑的多分辨率地面特征平面表示来粗略地捕捉场景,并通过另一个NeRF分支的位置编码输入来补充它,以联合学习的方式进行渲染。我们表明,这样的集成可以利用两种替代解决方案的优点:一个轻量级的NeRF是足够的,在特征网格表示的指导下,渲染具有精细细节的逼真的新视图;和联合优化的地面特征平面,同时可以获得进一步的细化,形成一个更准确和紧凑的特征空间,并输出更自然的渲染结果。
2023-03-24 cs.CV
EGGS: Edge Guided Gaussian Splatting for Radiance Fields
Shenzhen University(深圳大学)
针对高斯泼溅方法忽略图像边缘信息的问题,提出边缘引导高斯泼溅(EGGS)方法,通过在损失函数中为边缘区域赋予更高权重,在不增加计算成本的情况下,显著提升了多种场景下的渲染质量。
2024-04-22 cs.AI cs.CV cs.GR
RGB-D Neural Radiance Fields: Local Sampling for Faster Training
I3S-CNRS/Université Cote d’Azur(I3S-法国国家科学研究中心/蔚蓝海岸大学)
几十年来,学习场景的3D表示一直是计算机视觉中具有挑战性的问题。利用神经辐射场(NeRF)从图像中隐式神经表示的最新进展已经显示出有希望的结果。以前基于NeRF的方法的一些局限性包括较长的训练时间和不准确的底层几何结构。所提出的方法利用RGB-D数据,通过利用深度感测来改善局部采样,从而减少训练时间。本文提出了一种深度引导的局部采样策略和一个较小的神经网络架构,以实现更快的训练时间,而不影响质量。
2022-11-07 cs.CV
AegisRF: Adversarial Perturbations Guided with Sensitivity for Protecting Intellectual Property of Neural Radiance Fields
School of Computing, Korea Advanced Institute of Science and Technology (KAIST)(计算学院,韩国科学技术院(KAIST))
针对神经辐射场(NeRF)知识产权保护难题,提出AegisRF框架,通过可学习灵敏度场自适应约束几何扰动,在保证渲染质量的同时注入对抗扰动,可有效破坏多类下游未授权应用。
2025-10-22 cs.CV
E-NeRF: Neural Radiance Fields from a Moving Event Camera
Technical University of Munich(慕尼黑工业大学);University of Zurich(苏黎世大学)
从“理想”图像估计神经辐射场(NeRFs)已经在计算机视觉社区中被广泛研究。大多数方法假设最佳照明和缓慢的相机运动。这些假设在机器人应用中经常被违反,其中图像可能包含运动模糊,并且场景可能没有合适的照明。这可能会给下游任务(如导航、检查或场景可视化)带来严重问题。为了缓解这些问题,我们提出了E-NeRF,第一种方法,估计体积场景表示的形式从一个快速移动的事件相机的NeRF。我们的方法可以在非常快的运动期间和基于帧的方法失败的高动态范围条件下恢复NeRF。我们表明,渲染高质量的帧是可能的,只提供一个事件流作为输入。此外,通过组合事件和帧,我们可以在严重运动模糊的情况下估计比最先进方法更高质量的NeRF。我们还表明,结合事件和帧可以克服失败的情况下NeRF估计只有几个输入视图,而不需要额外的正则化。
2023-01-24 cs.CV cs.RO
Reinforcement Learning with Neural Radiance Fields
TU Berlin(柏林工业大学);Google(谷歌);MIT(麻省理工学院)
寻找有效的表征方法来训练强化学习(RL)智能体是一个长期存在的问题。本文证明,与其他学习表示或甚至低维手工设计的状态信息相比,从神经辐射场(NeRFs)中监督学习状态表示可以提高RL的性能。具体来说,我们建议训练编码器,将多个图像观测映射到描述场景中对象的潜在空间。从潜在条件NeRF构建的解码器作为监督信号来学习潜在空间。然后,RL算法对学习的潜在空间进行操作,作为其状态表示。我们称之为NeRF-RL。我们的实验表明,NeRF作为监督导致一个潜在的空间更适合下游RL任务,涉及机器人对象操作,如挂在钩子上的杯子,推动物体,或打开门。视频:https://dannydriess.github.io/nerf-rl
2022-06-03 cs.CV cs.LG cs.RO
RePose-NeRF: Robust Radiance Fields for Mesh Reconstruction under Noisy Camera Poses
Bellatrix Aerospace(贝尔拉克斯航空航天)
针对现实场景中相机位姿嘈杂导致现有NeRF方法实用性受限的问题,提出RePose-NeRF鲁棒框架,联合优化位姿与隐式场景表示,直接重建高质量可编辑3D网格,在标准基准上实现准确鲁棒重建,弥合神经隐式表示与机器人应用的差距。
2025-11-11 cs.CV
PolarNet: 3D Point Clouds for Language-Guided Robotic Manipulation
Inria(法国国家信息与自动化研究所);École normale supérieure(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL Research University(巴黎文理研究大学)
针对2D图像表示难以融合多视角并推断3D关系的问题,本文提出PolarNet,用点云编码器与多模态transformer融合语言和3D信息,在RLBench及真实机器人上取得优于现有方法的表现。
2023-09-27 cs.CV cs.RO
Reconstructive Latent-Space Neural Radiance Fields for Efficient 3D Scene Representations
Samsung AI Centre Toronto(三星AI多伦多中心);University of Toronto(多伦多大学);York University(约克大学);Vector Institute for AI(向量人工智能研究所)
本文提出将自编码器与NeRF结合,在潜空间渲染特征并卷积解码,以提升渲染速度并校正视觉伪影,同时通过缩小AE架构实现效率与质量的灵活权衡。
2023-10-27 cs.CV
GSNeRF: Generalizable Semantic Neural Radiance Fields with Enhanced 3D Scene Understanding
Graduate Institute of Communication Engineering, National Taiwan University(台湾大学通讯工程研究所);NVIDIA, Taiwan(英伟达(台湾))
针对NeRF难以同时生成新视角图像与语义图且泛化性不足的问题,提出包含语义几何推理与深度引导渲染两阶段的GSNeRF,在未见过场景的相关任务上性能优于现有方法。
2024-03-06 cs.AI cs.CV cs.LG
P2GS: Physical Prior-guided Gaussian Splatting for Photometrically Consistent Urban Reconstruction
Chubu University(名古屋大学);Turing Inc.(图灵公司)
本文提出P2GS,一种基于物理先验的高斯点云法,用于解决自动驾驶中由于异质相机管道和动态户外照明导致的光度不一致问题,通过联合分解视图不变的线性HDR光场、每视图曝光尺度和色调映射函数,提升光度一致性与光照一致性。
2026-05-16 cs.CV
Camera Relocalization in Shadow-free Neural Radiance Fields
Institute for AI Industry Research, Tsinghua University(清华大学人工智能产业研究院);Beihang University(北京航空航天大学)
本文提出一种两阶段流水线,利用哈希编码NeRF和动态低通滤波及梯度平均技术,在光照变化下实现相机重定位,达到最先进性能。
2024-05-23 cs.CV cs.RO
Laser: Efficient Language-Guided Segmentation in Neural Radiance Fields
Durham University(杜伦大学);Institute of High Performance Computing (IHPC), ASTAR(高性能计算研究所(IHPC),新加坡科技研究局);School of Computer Science, China University of Geosciences(中国地质大学计算机学院);School of Computing, Newcastle University(纽卡斯尔大学计算机学院);University of Chinese Academy of Sciences(中国科学院大学)
本文提出Laser方法,利用CLIP特征蒸馏实现高效的语言引导3D场景分割,通过引入适配器模块、自交叉训练策略、低秩瞬态查询注意力机制及标签体分类策略,显著提升了分割精度、边缘准确性与颜色一致性,并在速度和性能上超越现有技术。
2025-01-31 cs.CV
Point2Pix: Photo-Realistic Point Cloud Rendering via Neural Radiance Fields
The Chinese University of Hong Kong(香港中文大学);SmartMore(思谋科技)
由于点云表示的稀疏性,从点云合成照片级真实感图像是具有挑战性的。最近提出的神经辐射场和扩展用于从2D输入合成逼真的图像。在本文中,我们提出了Point2Pix作为一种新的点渲染器连接的3D稀疏点云与2D密集的图像像素。利用点云3D先验和NeRF渲染管道,我们的方法可以从彩色点云合成高质量的图像,通常用于新颖的室内场景。为了提高射线采样的效率,我们提出了点引导采样,它侧重于有效样本。此外,我们提出了点编码来构建多尺度辐射场,提供有区别的3D点特征。最后,我们提出了融合编码,以有效地合成高质量的图像。在ScanNet和ArkitScenes数据集上的大量实验证明了该方法的有效性和推广性。
2023-03-29 cs.CV
High-fidelity 3D reconstruction for planetary exploration
本文提出了一种结合NeRF和高斯点绘的自动化3D重建管道,用于在极端环境下实现高保真的行星探测
2026-02-14 cs.CV cs.RO
RGB-D Mapping and Tracking in a Plenoxel Radiance Field
Norwegian University of Science and Technology (NTNU)(挪威科技大学);Mobiltech(Mobiltech公司)
针对NeRF类视角合成模型因RGB数据歧义导致3D几何不准的问题,提出基于RGB-D的无神经网络Plenoxel辐射场建图跟踪方法,在两项任务上达SOTA且速度更快。
2023-11-07 cs.CV cs.RO
Thermal-NeRF: Neural Radiance Fields from an Infrared Camera
Shanghai Jiao Tong University(上海交通大学);Hefei University of Technology(合肥工业大学);Shanghai Slamtec Research(上海思岚科技研究院)
针对低光或视觉遮挡场景下RGB重建失效的问题,提出首个仅用红外图像估计NeRF的Thermal-NeRF方法,利用热映射与结构热约束实现高质量重建,并贡献了IR-NeRF数据集。
2024-03-15 cs.CV cs.RO
Animatable Neural Radiance Fields from Monocular RGB Videos
我们提出了动画神经辐射场(动画NeRF)的详细的人类化身创建从单眼视频。我们的方法通过在学习场景表示网络的同时引入显式的姿势引导变形,将神经辐射场(NeRF)扩展到具有人体运动的动态场景。特别是,我们估计每个帧的人的姿势,并学习一个恒定的规范空间的详细的人的模板,这使得自然的形状变形从观察空间的规范空间下的姿势参数的显式控制。为了补偿不准确的姿态估计,我们引入了姿态细化策略,在学习过程中更新初始姿态,这不仅有助于学习更准确的人体重建,而且还加速了收敛。在实验中,我们表明,所提出的方法实现1)隐式人体几何和外观重建与高质量的细节,2)照片真实感渲染的人从新的观点,和3)动画的人与新的姿态。
2021-09-07 cs.CV
NeuralLabeling: A versatile toolset for labeling vision datasets using Neural Radiance Fields
Tohoku University(东北大学);National Institute of Advanced Industrial Science and Technology(独立行政法人产业技术综合研究所)
本文提出NeuralLabeling工具集,利用神经辐射场标注3D场景并生成多种标注,通过深度补全提升机器人抓取透明物体准确率至83.3%。
2024-07-22 cs.CV cs.RO
MM-NeRF: Multimodal-Guided 3D Multi-Style Transfer of Neural Radiance Field
University of Science and Technology Beijing(北京科技大学);Alibaba DAMO Academy(阿里巴巴达摩院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);University of Sydney(悉尼大学)
针对三维风格迁移中纹理细节模糊和多模态引导难题,提出MM-NeRF,通过统一多模态特征、多头学习与多视图一致性损失,实现高质量三维多风格化,并支持低成本增量学习新风格。
2025-01-24 cs.AI cs.CV
NeRF-Loc: Transformer-Based Object Localization Within Neural Radiance Fields
Stanford University(斯坦福大学);Chinese University of Hong Kong(香港中文大学);UC Berkeley(加州大学伯克利分校);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Baidu Inc.(百度公司);Baidu Research(百度研究院)
本文提出基于Transformer的NeRF-Loc框架,通过粗细双分支编码与注意力融合,从预训练NeRF中检测带标签的朝向3D边界框,效果优于传统RGB(-D)基线。
2023-07-15 cs.CV cs.RO
Occupancy Network-Guided Autonomous Robotic Partial Nephrectomy
Johns Hopkins University(约翰斯·霍普金斯大学)
本研究提出首个视觉引导的自主机器人系统,利用条件占用网络从点云推断3D解剖结构,实现肾部分切除术中完整肿瘤切除,并在体模实验中达到阴性切缘与1.61毫米的平均误差。
2026-09-16 cs.CV cs.RO
NeRF-Art: Text-Driven Neural Radiance Fields Stylization
City University of Hong Kong(香港城市大学);The Hong Kong Polytechnic University(香港理工大学);Snap Inc.(Snap公司);Netflix(奈飞);Microsoft Cloud AI(微软云人工智能部门)
神经辐射场(NeRF)作为一种强有力的三维场景表示方法,能够从多视点图像中合成高质量的新视点。然而,风格化NeRF仍然具有挑战性,特别是在模拟同时改变外观和几何形状的文本引导风格时。在本文中,我们提出了NeRF-Art,这是一种文本引导的NeRF风格化方法,它可以通过简单的文本提示操作预训练的NeRF模型的风格。与以前的方法,要么缺乏足够的几何变形和纹理细节,或需要网格来指导风格化,我们的方法可以将3D场景的目标风格,其特征在于所需的几何形状和外观变化,没有任何网格的指导。这是通过引入一种新的全局-局部对比学习策略,结合方向约束,同时控制目标风格的轨迹和强度来实现的。此外,我们采用了一种权重正则化方法,有效地抑制了在几何风格化过程中密度场变换时容易出现的云状伪影和几何噪声。通过对各种风格的大量实验,我们证明了我们的方法是有效的和强大的单视图风格化质量和跨视图的一致性。代码和更多结果可以在我们的项目页面中找到:https://cassiepython.github.io/nerfart/。
2022-12-15 cs.CV cs.GR
AtomGS: Atomizing Gaussian Splatting for High-Fidelity Radiance Field
University of Southern California(南加州大学);Institute for Creative Technologies(创意技术研究所)
提出 AtomGS 框架,通过 Atomized Proliferation 将高斯约束为统一尺寸并引入 Edge-Aware Normal Loss 优化几何,解决了 3DGS 几何噪声和模糊伪影问题,提升了渲染质量与训练速度。
2024-11-09 cs.CV
Automating 3D Dataset Generation with Neural Radiance Fields
Otto von Guericke University(奥托·冯·格里克大学)
针对公开3D数据集数量少、类别有限且创建成本高的问题,提出基于神经辐射场的任意物体3D数据集自动生成流水线,可生成高质量3D模型用于合成数据集,训练的3D姿态估计网络性能优异。
2025-03-20 cs.CV
Removing Objects From Neural Radiance Fields
Niantic(Niantic公司);ETH Zurich(苏黎世联邦理工学院);University College London(伦敦大学学院)
神经辐射场(NeRFs)作为一种无处不在的场景表示而出现,其允许新颖的视图合成。NeRF将越来越多地与其他人共享。然而,在共享NeRF之前,可能需要删除个人信息或难看的对象。这样的删除在当前的NeRF编辑框架中并不容易实现。我们提出了一个框架,以删除对象从RGB-D序列创建的NeRF表示。我们的NeRF修复方法利用了最近在2D图像修补方面的工作,并由用户提供的掩码进行指导。我们的算法是基于信心的视图选择过程的基础上。它选择在创建NeRF时使用哪个单独的2D修复图像,以便得到的修复NeRF是3D一致的。我们表明,我们的NeRF编辑方法是有效的合成合理的inpaintings在多视图连贯的方式。我们使用一个新的和仍然具有挑战性的数据集来验证我们的方法,用于NeRF修复任务。
2022-12-22 cs.CV
GM-NeRF: Learning Generalizable Model-based Neural Radiance Fields from Multi-view Images
Dalian University of Technology(大连理工大学);ZMO AI Inc.(ZMO人工智能公司)
在这项工作中,我们专注于合成高保真的新的视图图像为任意人类表演者,给定一组稀疏的多视图图像。这是一个具有挑战性的任务,由于关节的身体姿势和严重的自闭塞之间的大变化。为了缓解这一问题,我们引入了一个有效的可推广的框架广义模型为基础的神经辐射场(GM-NeRF)来合成自由视点图像。具体来说,我们提出了一个几何引导的注意力机制注册的外观代码从多视图的2D图像的几何代理,可以减轻不准确的几何先验和像素空间之间的错位。在此基础上,我们进一步进行神经渲染和部分梯度反向传播,以实现有效的感知监督和提高合成的感知质量。为了评估我们的方法,我们在合成数据集THuman2.0和Multi-garment以及真实世界数据集Genebody和ZJUMocap上进行了实验。结果表明,我们的方法优于国家的最先进的方法,在新的视图合成和几何重建。
2023-03-24 cs.CV
SAMSNeRF: Segment Anything Model (SAM) Guides Dynamic Surgical Scene Reconstruction by Neural Radiance Field (NeRF)
Vanderbilt University(范德堡大学)
本文提出SAMSNeRF,结合SAM与NeRF,利用SAM生成手术工具分割掩码引导NeRF重建动态手术场景,在公开内窥镜视频上实现高保真重建和准确3D位置预测,提升手术导航与自动化。
2024-02-06 cs.CV
OpenObj: Open-Vocabulary Object-Level Neural Radiance Fields with Fine-Grained Understanding
School of Automation, Beijing Institute of Technology(北京理工大学自动化学院)
本文提出 OpenObj 框架,通过融合对象级实例与部件级特征构建开放词汇 NeRF,在零样本分割、检索及多尺度机器人任务中表现优异。
2024-06-12 cs.AI cs.CV cs.RO
Reducing Shape-Radiance Ambiguity in Radiance Fields with a Closed-Form Color Estimation Method
University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团)
针对NeRF的形状-辐射模糊性问题,提出一种基于密度场闭式估计颜色场的方法,以光度损失引导正则化,更自适应地提升密度场质量。
2023-12-20 cs.CV
Neural Radiance Fields: Past, Present, and Future
University of Southern California(南加州大学)
本文系统综述了神经辐射场(NeRFs)的发展历史、研究进展、应用前景与影响,并按数据集、目标函数、应用和评估标准对相关研究进行分类。
2024-01-15 cs.CV
GNeRP: Gaussian-guided Neural Reconstruction of Reflective Objects with Noisy Polarization Priors
AI Thrust, HKUST(GZ)(香港科技大学(广州)AI方向);HKUST(香港科技大学);Sun Yat-sen University(中山大学);SmartMore(思谋科技)
针对反射场景中神经辐射场重建几何精度不足的问题,提出基于高斯法线表示和偏振先验监督的SDF方法,并引入重加权策略抑制噪声,在PANDORA数据集上大幅超越现有方法。
2024-03-18 cs.CV
DeLiRa: Self-Supervised Depth, Light, and Radiance Fields
Toyota Research Institute(丰田研究院);Toyota Technological Institute of Chicago(芝加哥丰田理工学院);Massachusetts Institute of Technology(麻省理工学院)
提出 DeLiRa 架构,利用自监督多视图光度目标作为体积渲染的几何正则化器,通过通用 Transformer 联合学习辐射场、深度和光场,在 ScanNet 基准上实现高质量体积渲染与实时合成。
2023-04-06 cs.CV
Learning Object-Compositional Neural Radiance Field for Editable Scene Rendering
State Key Lab of CAD&CG, Zhejiang University(浙江大学CAD&CG国家重点实验室);Google(谷歌);The Chinese University of Hong Kong(香港中文大学)
隐式神经渲染技术在新的视图合成中显示出了很好的效果。然而,现有的方法通常将整个场景作为一个整体进行编码,这通常不知道对象的身份,并限制了移动或添加家具等高级编辑任务的能力。在本文中,我们提出了一种新的神经场景渲染系统,学习对象组成的神经辐射场,并产生具有编辑能力的集群和真实世界的场景逼真的渲染。具体来说,我们设计了一种新的双通道架构,其中场景分支编码场景的几何形状和外观,对象分支编码每个独立的对象条件下学习对象激活码。为了在严重混乱的场景中生存训练,我们提出了一种场景引导的训练策略来解决遮挡区域中的3D空间模糊性,并为每个对象学习清晰的边界。大量的实验表明,我们的系统不仅达到了竞争力的性能,静态场景的新视图合成,但也产生逼真的渲染对象级编辑。
2021-09-04 cs.CV
Nerfstudio: A Modular Framework for Neural Radiance Field Development
University of California, Berkeley(加州大学伯克利分校)
Nerfstudio是一个模块化PyTorch框架,通过即插即用组件、实时可视化和数据导出工具简化NeRF开发,并推出Nerfacto方法平衡速度与质量,开源促进社区发展。
2023-10-17 cs.CV cs.GR
Improving Robustness for Joint Optimization of Camera Poses and Decomposed Low-Rank Tensorial Radiance Fields
National Yang Ming Chiao Tung University(国立阳明交通大学)
本文针对相机位姿与场景几何联合优化易陷入次优解的问题,提出基于分解低秩张量辐射场和卷积高斯滤波的由粗到细联合优化框架,并辅以多种鲁棒性技术,实现高精度新视角合成与快速收敛。
2024-02-20 cs.CV