FlowIBR: Leveraging Pre-Training for Efficient Neural Image-Based Rendering of Dynamic Scenes
Chalmers University of Technology(查尔姆斯理工大学)
针对现有动态场景新视角合成方法单场景优化耗时长的问题,提出FlowIBR方法,结合静态场景预训练的神经IBR模型与逐场景优化的场景流场,在消费级GPU上将优化时间降一个数量级且渲染质量相当。
2024-04-15 cs.CV
Learning-based Inverse Rendering of Complex Indoor Scenes with Differentiable Monte Carlo Raytracing
Zhejiang University(浙江大学);Adobe Research(奥多比研究院);Zhejiang Lab(之江实验室);Manycore(众核)
室内场景通常表现出复杂的,空间变化的外观从全局光照,使逆渲染一个具有挑战性的不适定问题。这项工作提出了一个端到端的,基于学习的逆渲染框架,结合可微蒙特卡洛光线跟踪与重要性采样。该框架将单个图像作为输入,以联合恢复底层几何形状,空间变化的照明和真实感材料。具体来说,我们引入了一个基于物理的微分渲染层与屏幕空间的光线追踪,从而产生更逼真的镜面反射,匹配输入的照片。此外,我们还创建了一个大规模的真实感室内场景数据集,其中包含更丰富的细节,如复杂的家具和专用装饰。此外,我们设计了一种新的视图外照明网络,利用基于超网络的神经辐射场来预测输入照片视图外的照明。通过对常见基准数据集的广泛评估,我们证明了与最先进的基线相比,我们的方法具有出色的逆渲染质量,从而实现了各种应用,例如复杂对象插入和高保真材质编辑。代码和数据将在\url{https://jingsenzhu.github.io/invrend}上提供。
2022-11-23 cs.AI cs.CV cs.GR
RenderFormer-V2: Neural Rendering with Heterogeneous Scene Primitives
Stanford University(斯坦福大学);Microsoft Research(微软研究院);College of William & Mary(威廉与玛丽学院)
RenderFormer-V2提出一种基于Transformer的神经渲染模型,通过两阶段序列变换和组合窗口注意力机制,支持异构场景基元,无需逐场景训练即可处理多种光传输效应。
2026-09-09 cs.CV cs.GR cs.LG
NeRFlex: Resource-aware Real-time High-quality Rendering of Complex Scenes on Mobile Devices
UM-SJTU Joint Institute(上海交通大学密西根学院);Shanghai Jiao Tong University(上海交通大学)
NeRFlex 是一个移动设备上复杂场景的资源感知实时高质量渲染框架,通过多 NeRF 表示分解场景并结合动态规划算法优化配置,在商用移动设备上实现了实时高质量渲染。
2025-04-04 cs.CV cs.GR cs.LG
Sim2Real Docs: Domain Randomization for Documents in Natural Scenes using Ray-traced Rendering
Fidelity Investments, Artificial Intelligence Center of Excellence(富达投资人工智能卓越中心)
在过去,数字化文档的计算机视觉系统可以依赖于系统捕获的高质量扫描。今天,涉及数字文档的交易更有可能始于非专业人士拍摄的手机照片上传。因此,用于文档自动化的计算机视觉现在必须考虑在自然场景上下文中捕获的文档。另一个挑战是,文档处理的任务目标可能是高度特定于用例的,这使得公开可用的数据集在其实用性方面受到限制,而手动数据标记也是昂贵的,并且在用例之间转换得很差。为了解决这些问题,我们创建了Sim2Real的框架,用于合成数据集并在自然场景中执行文档的域随机化。Sim2Real可使用Blender实现文档的编程3D渲染,Blender是一种用于3D建模和光线跟踪渲染的开源工具。通过使用渲染,模拟光,几何,相机和背景的物理相互作用,我们合成的文档数据集在一个自然场景的上下文中。每个渲染都与指定感兴趣的潜在特征的特定于用例的地面实况数据配对,从而产生无限的适合任务的训练数据。然后,机器学习模型的作用是解决由渲染流水线引起的逆问题。这样的模型可以通过微调或调整域随机化参数来进一步迭代真实世界的数据。
2021-12-16 cs.AI cs.CV cs.LG
PSDR-Room: Single Photo to Scene using Differentiable Rendering
University of California, Irvine(加州大学欧文分校);Adobe Research(Adobe研究院)
PSDR-Room系统利用路径空间可微渲染和单图像场景理解,从单张室内照片自动优化光照、物体位姿与材质,实现可编辑的3D场景重建。
2023-07-06 cs.CV cs.GR
Advances in Neural Rendering
MPI for Informatics(马克斯·普朗克信息学研究所);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);Google Research(谷歌研究院);ETH Zürich(苏黎世联邦理工学院);Reality Labs Research(现实实验室研究院);MIT(麻省理工学院);Technical University of Munich(慕尼黑工业大学);Stanford University(斯坦福大学)
合成照片级逼真的图像和视频是计算机图形学的核心,也是几十年来研究的焦点。传统上,使用诸如光栅化或光线追踪之类的渲染算法来生成场景的合成图像,这些渲染算法将具体定义的几何和材料属性的表示作为输入。总的来说,这些输入定义了实际的场景和渲染的内容,并被称为场景表示(其中场景由一个或多个对象组成)。示例场景表示是具有伴随纹理的三角形网格(例如,由艺术家创建),点云(例如,来自深度传感器),体积网格(例如,来自CT扫描),或隐式表面函数(例如,截断的有符号距离字段)。使用可微分的渲染损失从观察重构这样的场景表示被称为逆图形或逆渲染。神经渲染是密切相关的,它结合了经典计算机图形学和机器学习的思想,创建了从现实世界的观察合成图像的算法。神经渲染是向合成照片级真实感图像和视频内容的目标的飞跃。近年来,我们已经看到了这一领域的巨大进步,通过数百个出版物展示了将可学习组件注入渲染管道的不同方法。这份关于神经渲染进展的最新报告重点介绍了将经典渲染原理与学习的3D场景表示(现在通常称为神经场景表示)相结合的方法。这些方法的一个关键优势是它们在设计上是3D一致的,从而实现了诸如捕获场景的新颖视点合成等应用。除了处理静态场景的方法外,我们还介绍了用于建模非刚性变形对象的神经场景表示。
2022-03-30 cs.CV cs.GR
MAIR: Multi-view Attention Inverse Rendering with 3D Spatially-Varying Lighting Estimation
Korea University(高丽大学);University of Science and Technology(韩国科学技术联合大学院大学);Yonsei University(延世大学)
我们提出了一个场景级的逆渲染框架,使用多视图图像分解成几何,SVBRDF和三维空间变化的照明场景。由于多视点图像提供了关于场景的各种信息,因此多视点图像在对象级逆绘制中已被视为理所当然。然而,由于缺乏多视点HDR合成数据集,场景级逆绘制主要是使用单视点图像进行研究。我们能够通过扩展OpenRooms数据集和设计有效的管道来处理多视图图像,并分割空间变化的照明,成功地使用多视图图像执行场景级逆渲染。实验结果表明,该方法不仅比基于单视图的方法具有更好的性能,而且对不可见的真实场景也具有鲁棒性。此外,我们先进的3D空间变化照明体积允许在任何3D位置插入逼真的对象。
2023-03-27 cs.CV cs.GR
OccluGaussian: Occlusion-Aware Gaussian Splatting for Large Scene Reconstruction and Rendering
Huawei Noah’s Ark Lab(华为诺亚实验室);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳));Shenzhen Institutes of Advanced Technology(深圳先进技术研究院);The University of Hong Kong(香港大学);Huawei Embodied Intelligence Lab(华为具身智能实验室)
OccluGaussian通过遮挡感知的场景划分和区域渲染技术,提升大规模场景重建与渲染的质量和效率。
2025-11-29 cs.CV cs.GR
Learning Object-Compositional Neural Radiance Field for Editable Scene Rendering
State Key Lab of CAD&CG, Zhejiang University(浙江大学CAD&CG国家重点实验室);Google(谷歌);The Chinese University of Hong Kong(香港中文大学)
隐式神经渲染技术在新的视图合成中显示出了很好的效果。然而,现有的方法通常将整个场景作为一个整体进行编码,这通常不知道对象的身份,并限制了移动或添加家具等高级编辑任务的能力。在本文中,我们提出了一种新的神经场景渲染系统,学习对象组成的神经辐射场,并产生具有编辑能力的集群和真实世界的场景逼真的渲染。具体来说,我们设计了一种新的双通道架构,其中场景分支编码场景的几何形状和外观,对象分支编码每个独立的对象条件下学习对象激活码。为了在严重混乱的场景中生存训练,我们提出了一种场景引导的训练策略来解决遮挡区域中的3D空间模糊性,并为每个对象学习清晰的边界。大量的实验表明,我们的系统不仅达到了竞争力的性能,静态场景的新视图合成,但也产生逼真的渲染对象级编辑。
2021-09-04 cs.CV
Dynamic Scene Reconstruction: Recent Advance in Real-time Rendering and Streaming
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);School of Computer Science, Peking University(北京大学计算机学院)
本综述系统梳理了动态场景重建与渲染的演进,重点总结基于NeRF和3D Gaussian Splatting的方法、数据集、基准性能及未来方向,覆盖170余篇论文。
2025-03-11 cs.CV cs.GR
Efficient Scene Appearance Aggregation for Level-of-Detail Rendering
University of California, Santa Barbara(加州大学圣芭芭拉分校);University of California, San Diego(加州大学圣地亚哥分校)
本文提出了一种基于ABSDF的高效体素表示方法,用于实现保持外观的细节层次渲染,能够在不增加内存和渲染成本的情况下提升渲染质量。
2024-08-19 cs.CV cs.GR
Inverse Rendering for Complex Indoor Scenes: Shape, Spatially-Varying Lighting and SVBRDF from a Single Image
University of California, San Diego(加州大学圣地亚哥分校);Adobe Research(Adobe研究院)
我们提出了一个室内场景的深度逆绘制框架。从一个单一的RGB图像的任意室内场景,我们创建一个完整的场景重建,估计形状,空间变化的照明,和空间变化的,非朗伯表面反射。为了训练这个网络,我们用真实世界的材料来增强SUCG室内场景数据集,并使用快速,高质量,基于物理的GPU渲染器来渲染它们,以创建一个大规模的,逼真的室内数据集。我们的逆渲染网络结合了物理见解-包括空间变化的球形高斯照明表示,用于模拟场景外观的可微分渲染层,用于迭代优化预测的级联结构和用于优化的双边求解器-使我们能够共同推理形状,照明和反射率。实验表明,我们的框架优于以前的方法,估计个别场景组件,这也使各种新的应用增强现实,如照片级真实感的对象插入和材料编辑。代码和数据将公开提供。
2019-05-07 cs.CV
BRDFusion: Physics Meets Generation for Urban Scene Inverse Rendering
National Yang Ming Chiao Tung University;University of Illinois Urbana-Champaign;National Taiwan University
提出BRDFusion框架,结合物理建模与生成先验,实现城市场景逆渲染,在保持物理一致性的同时修复伪影,支持新视角重光照、夜间模拟和动态物体编辑。
2026-06-16 cs.CV
Real-Time Scene Reconstruction using Light Field Probes
University of Cambridge(剑桥大学);McGill University(麦吉尔大学)
本文提出一种基于光场探针数据结构的实时场景重建方法,通过多尺度隐式表示避免显式几何依赖,使渲染成本与场景复杂度无关,并适用于VR/AR应用。
2025-07-19 cs.CV cs.GR
Neural Sparse Voxel Fields
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Facebook AI Research(Facebook人工智能研究院);National University of Singapore(新加坡国立大学)
使用经典的计算机图形技术对真实世界场景进行照片级真实感的自由视点绘制是具有挑战性的,因为它需要捕获详细的外观和几何模型的困难步骤。最近的研究表明,通过学习场景表示,隐式编码的几何形状和外观没有3D监督有希望的结果。然而,在实践中,现有的方法往往显示模糊渲染所造成的有限的网络容量或难以找到准确的交叉点的相机射线与场景几何。从这些表示合成高分辨率图像通常需要耗时的光线行进。在这项工作中,我们介绍了神经稀疏体素场(NSVF),一个新的神经场景表示快速和高质量的自由视点渲染。NSVF定义了一组组织在稀疏体素八叉树中的体素边界隐式字段,以对每个单元中的局部属性进行建模。我们逐步学习的基础体素结构与微分射线行进操作,从一组构成的RGB图像。利用稀疏体素八叉树结构,可以通过跳过不包含相关场景内容的体素来加速渲染新视图。我们的方法通常比现有技术(即NeRF(Mildenhall等人,2020)),同时实现更高质量的结果。此外,通过利用显式稀疏体素表示,我们的方法可以很容易地应用到场景编辑和场景合成。我们还演示了几个具有挑战性的任务,包括多场景学习,自由视点渲染的一个移动的人,和大规模的场景渲染。代码和数据可在我们的网站上获得:https://github.com/facebookresearch/NSVF。
2021-01-06 cs.CV cs.GR cs.LG
DGNR: Density-Guided Neural Point Rendering of Large Driving Scenes
Zhejiang University(浙江大学);Baidu Research(百度研究院)
DGNR通过从场景中学习密度空间来引导基于点的渲染,无需几何先验即可实现大规模驾驶场景的高质量、实时神经渲染。
2023-11-28 cs.CV
CaT-GS: Efficient 3DGS Rendering for Large Scale Scenes via Inter-frame Caching and Tile Scheduling
Shanghai Jiao Tong University(上海交通大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对3DGS在大规模场景中性能下降问题,CaT-GS提出通过推测性多帧预处理、帧间缓存机制及重构光栅化任务来消除冗余与减轻负载不平衡,实验证明其显著提升渲染速度,为大规模场景高保真实时渲染建立新基准。
2026-07-21 cs.AI cs.CV
UrbanIR: Large-Scale Urban Scene Inverse Rendering from a Single Video
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Maryland, College Park(马里兰大学学院公园分校)
针对大基线单视频城市场景逆渲染中几何与材质估计差的问题,提出UrbanIR模型,通过新型损失函数提升推断精度,支持可控编辑与真实感渲染,性能显著优于现有方法。
2025-01-14 cs.CV
UE4-NeRF:Neural Radiance Field for Real-Time Rendering of Large-Scale Scene
Xidian University(西安电子科技大学);Edith Cowan University(伊迪丝·考恩大学);The University of Western Australia(西澳大利亚大学)
本文提出 UE4-NeRF 神经渲染系统,通过将大场景划分为 sub-NeRFs 并结合正八面体网格优化与 LOD 技术,在 UE4 中实现了大规模场景 4K 分辨率下高达 43 FPS 的实时高质量渲染。
2023-10-20 cs.CV
ENVIDR: Implicit Differentiable Renderer with Neural Environment Lighting
University of Toronto(多伦多大学);Vector Institute(向量研究所);Intel Labs(英特尔实验室)
神经渲染的最新进展显示了从多视点图像重建场景的巨大潜力。然而,精确地表示具有光滑表面的对象对于现有方法来说仍然是一个挑战。在这项工作中,我们介绍了ENVIDR,渲染和建模框架的高质量渲染和重建具有挑战性的镜面反射表面。为了实现这一目标,我们首先提出了一种新的神经渲染器,它具有分解的渲染组件来学习表面和环境照明之间的交互。该渲染器使用现有的基于物理的渲染器进行训练,并与实际场景表示解耦。然后,我们提出了一个基于SDF的神经表面模型,利用这个学习的神经渲染器来表示一般场景。我们的模型还合成了间接照明所造成的相互反射,从闪亮的表面进行表面反射光线。我们证明了我们的方法在具有挑战性的闪亮场景上优于最先进的方法,提供了高质量的镜面反射渲染,同时还支持材质编辑和场景重新照明。
2023-03-23 cs.CV cs.GR cs.LG
Efficient Gaussian Splatting for Monocular Dynamic Scene Rendering via Sparse Time-Variant Attribute Modeling
National University of Singapore(新加坡国立大学)
针对单目动态场景渲染中高斯冗余导致速度慢的问题,提出高效动态高斯泼溅(EDGS),通过稀疏时变属性建模与无监督静态锚点过滤,显著提升渲染速度并保持高质量。
2025-02-27 cs.CV
4D Gaussian Splatting with Scale-aware Residual Field and Adaptive Optimization for Real-time Rendering of Temporally Complex Dynamic Scenes
School of Electronic and Computer Engineering, Peking University(北京大学电子与计算机工程学院);Pengcheng Laboratory(鹏城实验室)
针对动态场景重建渲染慢、难处理时间复杂度的问题,提出结合尺度感知残差场与自适应优化的4D高斯泼溅方法SaRO-GS,实现实时渲染且在多数据集上达SOTA性能。
2024-12-09 cs.CV cs.MM
CityGaussian: Real-time High-quality Large-Scale Scene Rendering with Gaussians
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Shandong University(山东大学);TuSimple(图森未来);University of Science and Technology Beijing(北京科技大学)
提出CityGaussian,采用分而治之训练与细节层次策略,实现大规模3DGS的高效训练和跨尺度实时高质量渲染。
2024-07-17 cs.CV
Photorealistic Object Insertion with Diffusion-Guided Inverse Rendering
NVIDIA(英伟达);University of Toronto(多伦多大学);Vector Institute(向量研究所)
针对现有扩散模型无法在单图场景中生成一致光照的真实感物体插入效果的问题,提出以个性化大扩散模型引导物理逆渲染,恢复光照与色调映射参数,实现真实感合成及材质、色调映射自动优化。
2024-08-19 cs.AI cs.CV cs.GR
RadSplat: Radiance Field-Informed Gaussian Splatting for Robust Real-Time Rendering with 900+ FPS
Google(谷歌公司)
RadSplat利用辐射场作为先验和监督,结合剪枝与测试时过滤,实现复杂场景900+ FPS的实时高质量渲染。
2025-03-31 cs.CV cs.GR
Neural Voxel Renderer: Learning an Accurate and Controllable Rendering Tool
Google Research(谷歌研究院)
我们提出了一个神经渲染框架,将体素化场景映射到高质量的图像。高度纹理化的对象和场景元素的相互作用,现实地呈现我们的方法,尽管有一个粗略的表示作为输入。此外,我们的方法允许可控渲染:输入中的几何和外观修改准确地传播到输出。用户可以移动,旋转和缩放对象,更改其外观和纹理或修改灯光的位置,所有这些编辑都在最终渲染中表示。我们证明了我们的方法的有效性,通过渲染不同外观的场景,从单一的颜色每个对象复杂的,高频纹理。我们表明,我们的重新渲染网络可以生成非常详细的图像,精确地表示输入场景的外观。我们的实验表明,与替代方案相比,我们的方法实现了更准确的图像合成结果,并且还可以处理低体素网格分辨率。最后,我们展示了我们的神经渲染框架如何从真实图像和不同的类集合中捕获和忠实地渲染对象。
2020-04-06 cs.CV cs.GR
Meshtryoshka: Differentiable Rendering of Real-World Scenes via Mesh Rasterization
Massachusetts Institute of Technology(麻省理工学院);University of Washington(华盛顿大学);Google DeepMind(谷歌DeepMind)
提出Meshtryoshka框架,利用嵌套网格壳表示和现成三角形光栅化器,通过符号距离函数间接更新顶点位置,实现大规模无界场景的高质量可微分渲染。
2026-07-14 cs.CV cs.GR
Neural Inverse Rendering of an Indoor Scene from a Single Image
NVIDIA(英伟达);University of Maryland, College Park(马里兰大学帕克分校);University of Washington(华盛顿大学);SenseTime(商汤科技)
逆渲染旨在估计场景的物理属性,例如,反射率、几何体和照明。反向渲染主要针对单个对象或仅求解场景属性之一的方法进行了研究。我们提出了第一个基于学习的方法,联合估计从一个单一的图像的室内场景的亮度,法线和照明。我们的主要贡献是残余外观渲染器(RAR),它可以被训练来合成复杂的外观效果(例如,相互反射、投射阴影、近场照明和真实阴影),否则这些将被忽略。这使得我们能够使用重建损失对真实数据执行自监督学习,基于从估计的分量重新合成输入图像。我们在用合成数据进行预训练后,用真实数据进行微调。为此,我们使用基于物理的渲染创建一个大规模的合成数据集,这是一个显着的改进,比以前的数据集。实验结果表明,我们的方法优于国家的最先进的方法,估计一个或多个场景属性。
2019-09-14 cs.CV
Abstract Rendering: Computing All that is Seen in Gaussian Splat Scenes
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出抽象渲染方法,通过图像矩阵约束对Gaussian splat场景进行连续相机位置渲染与不确定性传播,实现高效大规模分析,为安全关键视觉应用提供严格验证工具。
2025-03-04 cs.CV
NeRFusion: Fusing Radiance Fields for Large-Scale Scene Reconstruction
University of California, San Diego(加州大学圣地亚哥分校);Adobe Research(Adobe研究院)
虽然NeRF在神经重建和渲染方面取得了巨大的成功,但其有限的MLP容量和较长的每个场景优化时间使得对大规模室内场景建模具有挑战性。相比之下,经典的3D重建方法可以处理大规模的场景,但不产生逼真的渲染。我们提出了NeRFusion,一种结合了NeRF和TSDF融合技术的优点的方法,以实现高效的大规模重建和照片级真实感渲染。我们处理输入图像序列,通过直接网络推理预测每帧局部辐射场。然后使用一种新型的递归神经网络将这些融合,该网络以22 fps的速度实时增量重建全局稀疏场景表示。这个全局体积可以进一步微调,以提高渲染质量。我们证明了NeRFusion在大规模室内和小规模物体场景上都达到了最先进的质量,并且比NeRF和其他最近的方法重建速度更快。
2022-03-21 cs.CV cs.GR
RenderFormer++: Scalable and Physics-Informed Feed-Forward Neural Rendering
University of Science and Technology of China(中国科学技术大学)
提出RenderFormer++框架,通过物理信息传输引导(PITG)和层次化对象中心分词(HOCT)解决现有Transformer神经渲染的物理一致性和可扩展性问题,实现大规模场景的高效全局光照渲染。
2026-08-10 cs.CV cs.GR cs.LG
SplatCo: Structure-View Collaborative Gaussian Splatting for Detail-Preserving Rendering of Large-Scale Unbounded Scenes
SplatCo通过结构-视图协作机制,实现大规模无界场景的高保真渲染,结合全局与局部特征融合、视图修剪和共学模块,提升渲染质量和存储效率。
2025-12-11 cs.CV
RainyScape: Unsupervised Rainy Scene Reconstruction using Decoupled Neural Rendering
City University of Hong Kong(香港城市大学);Saint Francis University(圣弗朗西斯大学)
本研究提出无监督框架RainyScape,通过解耦神经渲染与降雨预测模块,结合自适应方向敏感梯度损失,从多视角雨图中重建干净场景,在两类基准上实现最优性能。
2024-04-17 cs.CV
Neural directional distance field object representation for uni-directional path-traced rendering
National Institute of Science Education and Research(国家科学教育与研究所);Homi Bhabha National Institute(霍米·巴巴国家研究所)
本文针对计算机图形学中路径追踪渲染的查询瓶颈,提出方向距离场作为物体的函数表示,将其存储为神经网络进行优化,并设计了修改后的路径追踪算法以实现该物体表示的快速渲染。
2023-06-28 cs.CV cs.GR
4D Gaussian Splatting for Real-Time Dynamic Scene Rendering
School of CS, Huazhong University of Science and Technology(华中科技大学计算机学院);School of EIC, Huazhong University of Science and Technology(华中科技大学电子信息与通信学院);Huawei Inc.(华为公司)
针对动态场景渲染难兼顾效率与质量的问题,提出融合3D高斯与4D神经体素的4D-GS方法,通过分解式神经体素编码和轻量MLP预测高斯形变,实现高分辨率实时渲染且质量优于或持平SOTA。
2024-07-15 cs.CV cs.GR
GLoD-LVSM: Learning Geometry-Grounded Continuous-LoD Scene Representations for Large View Synthesis Models
University of Rochester(罗切斯特大学);Reality Labs, Meta(Meta Reality Labs)
本文提出GLoD-LVSM,一种基于几何的连续多细节层次场景表示,用于解决大视角合成模型的令牌冗余问题,可在保证渲染质量的同时大幅减少令牌数量、提升渲染速度,还支持场景语义理解。
2026-10-14 cs.CV cs.GR
SIRe-IR: Inverse Rendering for BRDF Reconstruction with Shadow and Illumination Removal in High-Illuminance Scenes
State Key Laboratory of CAD&CG, Zhejiang University(浙江大学CAD&CG国家重点实验室);Tencent(腾讯)
针对强光照场景下阴影和间接光照导致逆渲染困难的问题,提出 SIRe-IR 方法,通过非线性映射与正则化可见性估计同时建模多种光照因素,实现无阴影干扰的高质量材质分解与 BRDF 重建。
2023-11-19 cs.CV
TransmissiveGS: Residual-Guided Disentangled Gaussian Splatting for Transmissive Scene Reconstruction and Rendering
HKUST(香港理工大学)
本文提出TransmissiveGS框架,通过双高斯表示和延迟着色函数解耦透射场景的反射与透射,利用多视图不一致性分离反射和透射,并引入高频正则化和新合成数据集提升重建与渲染质量。
2026-05-11 cs.CV
MACE: Mixture-of-Experts Accelerated Coordinate Encoding for Large-Scale Scene Localization and Rendering
PICO, ByteDance Inc.(字节跳动公司)
针对大规模场景定位与渲染的计算成本问题,提出基于混合专家与无辅助损失负载均衡的MACE方法,实现高效定位与高质量渲染,仅需10分钟训练。
2025-10-16 cs.CV
Semantics-Controlled Gaussian Splatting for Outdoor Scene Reconstruction and Rendering in Virtual Reality
Technical University of Munich(慕尼黑工业大学);University of Otago(奥塔哥大学);TUM University Hospital Erlangen(慕尼黑工业大学埃尔朗根大学医院)
提出语义控制的Gaussian Splatting (SCGS)方法,解决户外大场景3D环境编辑难题,实现高质量分割与渲染,在视觉质量、分割性能及用户体验上超越现有技术。
2024-09-24 cs.CV cs.GR
TraGraph-GS: Trajectory Graph-based Gaussian Splatting for Arbitrary Large-Scale Scene Rendering
School of Future Technology, South China University of Technology(未来技术学院,华南理工大学)
针对大规模场景新视角合成中刚性划分与高斯重叠导致的泛化问题,提出TraGraph-GS,通过轨迹图空间划分、正则化约束和渐进式渲染提升质量与效率。
2025-06-10 cs.CV
HDGS: Textured 2D Gaussian Splatting for Enhanced Scene Rendering
University of Pennsylvania(宾夕法尼亚大学);Archimedes, Athena RC(阿基米德雅典娜研究中心)
针对 2DGS 任意视点渲染中的细节丢失与锯齿问题,本文提出 HDGS,通过面元纹理对齐、逐射线深度排序、fisher 剪枝和视锥采样提升渲染质量与效率。
2024-12-02 cs.CV cs.GR
DeRenderNet: Intrinsic Image Decomposition of Urban Scenes with Shape-(In)dependent Shading Rendering
Beijing University of Posts and Telecommunications(北京邮电大学);Peking University(北京大学);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院)
我们提出了DeRenderNet,一个深度神经网络,用于分解阴影和潜在照明,并渲染形状相关的阴影,给定一个室外城市场景的单个图像,以自我监督的方式进行训练。为了实现这一目标,我们建议使用从视频游戏场景中提取的深度图作为直接监督,并根据作为间接监督提供的深度图预先计算正常和阴影先验图。与最先进的固有图像分解方法相比,DeRenderNet生成了无阴影的无阴影地图,具有清晰的细节和形状无关阴影中阴影的准确预测,这在重新渲染和提高城市场景高级视觉任务的准确性方面是有效的。
2021-04-28 cs.CV
IBRNet: Learning Multi-View Image-Based Rendering
Google Research(谷歌研究院);Cornell Tech Cornell University(康奈尔大学康奈尔科技校区);Princeton University(普林斯顿大学)
我们提出了一种方法,通过插值稀疏的附近的意见,合成复杂场景的新观点。我们的方法的核心是一个网络架构,包括一个多层感知器和一个射线Transformer,估计辐射和体积密度在连续的5D位置(3D空间位置和2D观看方向),绘制外观信息的飞行从多个源视图。通过在渲染时绘制源视图,我们的方法可以追溯到基于图像的渲染(IBR)的经典工作,并允许我们渲染高分辨率的图像。与神经场景表示工作,优化每个场景的渲染功能,我们学习一个通用的视图插值函数,概括到新的场景。我们使用经典的体渲染渲染图像,这是完全可区分的,并允许我们训练只使用多视图构成的图像作为监督。实验表明,我们的方法优于最近的新的视图合成方法,也寻求推广到新的场景。此外,如果对每个场景进行微调,我们的方法与最先进的单场景神经渲染方法相比具有竞争力。项目页面:https://ibrnet.github.io/
2021-04-06 cs.CV
LaVR: Scene Latent Conditioned Generative Video Trajectory Re-Rendering using Large 4D Reconstruction Models
Meta;University of Maryland(马里兰大学);University of Oxford(牛津大学);UC Davis(加州大学戴维斯分校)
本文提出LaVR模型,通过利用大规模4D重建模型的潜在空间中的隐式几何知识,解决视频重绘中几何未条件化模型的空间感知不足和几何条件化模型对深度不准确的依赖问题,实现状态-of-the-art结果。
2026-04-02 cs.CV cs.LG
3D Scene Rendering with Multimodal Gaussian Splatting
UCSD Centers for Machine intelligence, computing, and security (MICS) and Wireless Communications (CWC)(UCSD 机器智能、计算与安全中心(MICS)和无线通信中心);UCSD;NVIDIA
本文提出多模态框架,结合射频传感与高斯散射技术,实现高效且鲁棒的3D场景渲染。
2026-02-19 cs.AI cs.CV cs.RO
PRoGS: Progressive Rendering of Gaussian Splats
Hasselt University(哈塞尔特大学);Flanders Make(佛兰德制造);Expertise Centre for Digital Media(数字媒体专长中心)
本文提出PRoGS方法,通过计算每个高斯的贡献并建立优先级顺序,实现3D高斯泼溅场景的渐进式渲染与流式传输,无需加载整个场景即可尽早显示近似内容,并可与现有压缩方法结合以优化带宽使用。
2024-09-03 cs.CV cs.MM
Global-guided Focal Neural Radiance Field for Large-scale Scene Rendering
AMAP;Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院)
针对现有大规模NeRF分块独立训练导致的场景一致性差、渲染质量提升有限的问题,提出采用两阶段架构与全局引导训练策略的GF-NeRF,在不依赖场景先验的前提下实现大规模场景高保真渲染。
2024-09-13 cs.CV
Equivariant Neural Rendering
University of Oxford(牛津大学);Apple Inc(苹果公司)
我们提出了一个直接从图像中学习神经场景表示的框架,而无需3D监督。我们的关键见解是,3D结构可以通过确保学习的表示像真实的3D场景一样转换来实现。具体来说,我们引入了一个损失,强制执行的场景表示相对于3D变换的等方差。我们的公式使我们能够推断和渲染场景在实时的,同时实现可比的结果需要几分钟的推理模型。此外,我们还介绍了两个具有挑战性的新数据集,用于场景表示和神经渲染,包括具有复杂光照和背景的场景。通过实验,我们证明了我们的模型在这些数据集以及标准ShapeNet基准上取得了令人信服的结果。
2020-12-21 cs.CV stat.ML
iVR-GS: Inverse Volume Rendering for Explorable Visualization via Editable 3D Gaussian Splatting
Department of Computer Science and Engineering, University of Notre Dame(计算机科学与工程系,诺特大学)
本文提出iVR-GS,一种基于可编辑3D高斯泼溅的逆体渲染新视角合成方法,通过组合多个模型实现低渲染成本下的交互式体场景探索,在多个数据集上优于现有方法。
2025-04-24 cs.CV cs.GR cs.LG
4D Neural Voxel Splatting: Dynamic Scene Rendering with Voxelized Guassian Splatting
National Taiwan University(国立台湾大学);Academia Sinica(中央研究院)
本文提出4D神经体素溅射方法,结合体素表示与神经高斯溅射,实现高效的动态场景建模,减少内存消耗并提升渲染质量。
2026-05-11 cs.CV
Leveraging 2D Priors and SDF Guidance for Dynamic Urban Scene Rendering
IIIT Hyderabad(海得拉尔印度理工学院);MBZUAI(穆罕默德·本·拉希德智能研究院);University of Heidelberg(海德堡大学);VLM Run;IIT Kharagpur(克达尔理工学院)
本文提出结合2D对象无关先验与SDF表示的方法,用于动态城市场景渲染,无需LiDAR数据,提升几何精度和变形建模能力。
2025-10-15 cs.CV cs.GR
Triplet: Triangle Patchlet for Mesh-Based Inverse Rendering and Scene Parameters Approximation
本文提出基于网格的Triangle Patchlet(Triplet)框架,通过光栅化、光线追踪及迭代网格提取等技术,在无先验条件下统一估计光照、材质与几何,实现了最先进的视觉质量与高精度逆向渲染。
2024-10-16 cs.CV cs.GR