Leveling3D: Leveling Up 3D Reconstruction with Feed-Forward 3D Gaussian Splatting and Geometry-Aware Generation
The Chinese University of Hong Kong(香港中文大学)
Leveling3D结合前馈3D重建与几何一致生成,解决传统方法在 extrapolated view 中的缺失区域问题,通过几何感知适配器提升3D重建质量,实现生成与重建的同步优化。
2026-03-17 cs.CV
AlignCVC: Aligning Cross-View Consistency for Single-Image-to-3D Generation
AlignCVC通过分布对齐而非回归损失,提升单图像到3D生成的跨视图一致性与效率。
2025-11-25 cs.CV
UniForge3D: Joint 3D Reconstruction and Generation in a Shared Anchor-Guided Space
Peking University(北京大学);Math Magic;The Hong Kong University of Science and Technology(香港科技大学)
UniForge3D在共享锚点引导空间中联合建模3D重建与生成,解决坐标不匹配问题,通过双向特征交换等技术,在Toys4K和GSO上实现最先进结果,生成高保真完整3D资产。
2026-10-14 cs.CV
GRM: Large Gaussian Reconstruction Model for Efficient 3D Reconstruction and Generation
Stanford University(斯坦福大学);The Hong Kong University of Science and Technology(香港科技大学);Shanghai AI Laboratory(上海人工智能实验室);Zhejiang University(浙江大学);Ant Group(蚂蚁集团)
本文提出大规模前馈式transformer模型GRM,通过将输入像素转换为像素对齐的3D高斯分布实现高效3D重建,并在质量和效率上超越现有方法,还可结合扩散模型支持文本和图像到3D的生成。
2024-03-21 cs.CV
Single-Stage Diffusion NeRF: A Unified Approach to 3D Generation and Reconstruction
Tongji University(同济大学);Apple(苹果公司);ETH Zürich(苏黎世联邦理工学院);University of California, San Diego(加利福尼亚大学圣地亚哥分校);University of Pennsylvania(宾夕法尼亚大学)
针对3D感知图像合成任务通用模型构建难题,提出统一框架SSDNeRF,通过单阶段端到端训练联合优化NeRF自解码器与潜在扩散模型,可同时实现3D重建与先验学习,在多类任务上性能比肩或优于专用方法。
2023-08-25 cs.CV
Collision-Aware and Observation-Aligned Object-Centric Scene Reconstruction from Point Cloud
Zhejiang University(浙江大学)
提出COOL框架,利用实例与背景点云条件化生成,结合碰撞损失与联合优化,实现碰撞感知、观测对齐的面向对象场景重建。
2026-09-30 cs.CV
Rethinking Content and Style: Exploring Bias for Unsupervised Disentanglement
HKUST(香港科技大学);Microsoft Research Asia(微软亚洲研究院)
内容与风格(C-S)解纠缠的目的是将对象的潜在解释因素分解为两个独立的子空间。从无监督解纠缠的角度来看,我们重新思考的内容和风格,并提出了一个公式的无监督C-S解纠缠的基础上,我们假设不同的因素是不同的重要性和流行性的图像重建,这作为一个数据偏差。我们提出的C-S解纠缠模块(C-S DisMo)引入了相应的模型归纳偏差,在逼近真实数据分布时,为内容和风格分配了不同且独立的角色。具体地,假设从数据集嵌入的每个内容(其编码用于图像重建的最主要因素)是从跨数据集的共享分布中采样的。特定图像的样式嵌入(对剩余因子进行编码)用于通过仿射变换定制共享分布。在几个流行的数据集上的实验表明,我们的方法实现了最先进的无监督C-S解纠缠,这是可比的,甚至更好的监督方法。我们通过下游任务:域转换和单视图3D重建来验证我们方法的有效性。项目页面https://github.com/xrenaa/CS-DisMo。
2021-09-03 cs.AI cs.CV cs.LG
Unifi3D: A Study on 3D Representations for Generation and Reconstruction in a Common Framework
Intel Corporation(英特尔公司)
针对3D表示碎片化的问题,提出Unifi3D统一评估框架,从多维度对比各类3D表示在生成与重建中的表现,总结流水线最佳实践,证明联合评估的必要性,为3D模型选型提供参考。
2025-09-02 cs.CV cs.GR cs.LG
Learning Efficient Point Cloud Generation for Dense 3D Object Reconstruction
Carnegie Mellon University(卡内基梅隆大学)
传统的3D对象生成建模方法使用具有3D卷积操作的深度网络来学习体积预测,这与经典的2D卷积操作直接类似。然而,这些方法在试图预测3D形状时在计算上是浪费的,其中信息仅在表面上丰富。在本文中,我们提出了一种新的三维生成建模框架,以有效地生成密集的点云形式的对象形状。我们使用2D卷积运算从多个视角预测3D结构,并将几何推理与2D投影优化联合应用。我们引入了伪渲染器,一个可微的模块来近似真实的渲染操作,以合成新的深度图进行优化。单图像三维物体重建任务的实验结果表明,我们优于国家的最先进的方法在形状相似性和预测密度。
2017-06-21 cs.CV cs.LG
RenderDiffusion: Image Diffusion for 3D Reconstruction, Inpainting and Generation
University of Edinburgh(爱丁堡大学);Adobe Research(奥多比研究院);University of Glasgow(格拉斯哥大学);UCL(伦敦大学学院)
本文提出RenderDiffusion,首个仅用单目二维监督的三维扩散模型,通过在去噪过程中生成并渲染中间三维表示实现三维生成与推断,并支持二维修复编辑三维场景。
2024-02-20 cs.CV cs.LG
ComplexGen: CAD Reconstruction by B-Rep Chain Complex Generation
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院);University of Science and Technology of China(中国科学技术大学)
我们认为,在边界表示(B-Rep)的CAD模型的重建作为不同的顺序,即顶点,边缘和表面补丁,和图元的对应关系,这是整体建模为一个链复杂的几何图元的检测,并表明,通过建模这样的综合结构更完整和正则化的重建可以实现。我们分两步解决复杂的生成问题。首先,我们提出了一种新的神经框架,由一个稀疏的CNN编码器的输入点云处理和三路径Transformer解码器生成几何图元和它们的相互关系与估计的概率。其次,给定的概率结构预测的神经网络,我们恢复一个明确的B-Rep链复杂的解决方案的全局优化最大化的可能性下的结构有效性的约束和应用几何细化。在大规模CAD数据集上的大量测试表明,B-Rep链复杂结构的建模能够更准确地检测学习和更受约束的重建优化,导致结构上更忠实和完整的CAD B-Rep模型比以前的结果。
2022-05-29 cs.AI cs.CV cs.GR
Flex3D: Feed-Forward 3D Generation with Flexible Reconstruction Model and Input View Curation
GenAI, Meta(Meta 生成式人工智能部门);University of Oxford(牛津大学)
提出Flex3D两阶段框架,通过候选视图生成与筛选流程处理任意数量高质量输入视图,并基于Transformer的FlexRM输出3D高斯点,在3D生成任务中取得超92%用户研究胜率。
2025-06-02 cs.CV cs.GR eess.IV
NinjaDesc: Content-Concealing Visual Descriptors via Adversarial Learning
Reality Labs, Meta(Meta现实实验室);Imperial College London(帝国理工学院)
根据最近的分析隐私有关的场景启示视觉描述符,我们开发的描述符,隐藏输入图像内容。特别是,我们提出了一个对抗性学习框架,用于训练防止图像重建的视觉描述符,同时保持匹配精度。我们让特征编码网络和图像重建网络相互竞争,使得特征编码器试图用其生成的描述符来阻止图像重建,而重建器试图从描述符中恢复输入图像。实验结果表明,与我们的方法获得的视觉描述符显着恶化的图像重建质量与对应匹配和摄像机定位性能的影响最小。
2022-03-29 cs.CV
Detail-preserving and Content-aware Variational Multi-view Stereo Reconstruction
Harbin Institute of Technology(哈尔滨工业大学);The Hong Kong Polytechnic University(香港理工大学);Xi’an Jiaotong University(西安交通大学)
从标定后的二维多视点图像中精确恢复三维几何表面是计算机视觉中一个基本而又活跃的研究领域。尽管多视图立体视觉重建技术取得了长足的进步,但现有的方法在抑制噪声的同时,仍难以恢复细节和尖锐特征,而且在纹理较少的区域重建时可能会失败。为了解决这些问题,本文提出了一种细节保持和内容感知的变分(DCV)多视图立体视觉方法,该方法通过重投影误差最小化和网格去噪之间的交替来重建3D表面。在重投影误差最小化中,我们提出了一种新的图像间相似性度量,该度量有效地保留了重建表面的精细尺度细节,并在引导图像滤波和图像配准之间建立了联系。在网格去噪中,我们提出了一个内容感知的$\ell_{p}$ -最小化算法,通过自适应估计$p$值和正则化参数的基础上,当前的输入。与传统的各向同性网格光顺算法相比,该算法在抑制噪声的同时更能保持网格的尖锐特征。在基准数据集上的实验结果表明,我们的DCV方法能够恢复更多的表面细节,并获得更干净,更准确的重建比国家的最先进的方法。特别是,我们的方法在Middlebury dino环和dino稀疏环数据集上的完整性和准确性方面都取得了最好的结果。
2015-05-03 cs.CV
SO-Mamba: State-Ownership Mamba for Unrolled MRI Reconstruction
University of Southampton(南安普顿大学);University of Queensland(昆士兰大学);Soochow University(苏州大学)
本文提出SO-Mamba,一种用于展开MRI重建的态所有权Mamba正则化器,通过分配每个Mamba阶段的重建证据到递归驻留、态接口访问和非态输出校正,以提升重建质量与效率。
2026-05-21 cs.CV
CNeRV: Content-adaptive Neural Representation for Visual Data
University of Maryland(马里兰大学)
在深度学习普及之前,视觉数据的压缩和重建就已经在计算机视觉界得到了广泛的研究。最近,一些人使用深度学习来改进或完善现有的管道,而另一些人则提出了端到端的方法,包括自动编码器和隐式神经表示,如SIREN和NeRV。在这项工作中,我们提出了神经视觉表示与内容自适应嵌入(CNeRV),它结合了自编码器的概括性与隐式表示的简单性和紧凑性。我们介绍了一种新的内容自适应嵌入,是统一的,简洁的,内部(视频内)概括,恭维一个强大的解码器与单层编码器。我们匹配NeRV(一种最先进的隐式神经表示)在训练期间看到的帧的重建任务上的性能,同时远远超过在训练期间跳过的帧(看不见的图像)。为了在看不见的图像上实现类似的重建质量,NeRV需要120倍的时间来过拟合每帧,因为它缺乏内部泛化。在相同的潜在代码长度和相似的模型大小下,CNeRV在重建可见和不可见图像方面优于自动编码器。我们也显示了有前途的结果,视觉数据压缩。更多详情请访问项目页面haochen-rye.github.io/CNeRV/
2022-11-18 cs.CV
Beyond pixels and regions: A non local patch means (NLPM) method for content-level restoration, enhancement, and reconstruction of degraded document images
提出了一种基于分块的降质文档图像非局部恢复与重建方法。该方法从整个输入图像中收集相关数据,而图像数据首先由基于块的内容级描述符表示。然后,基于使用修改的遗传算法(GA)识别的类似块来校正输入图像的块等效表示,从而导致低计算负荷。然后将校正的块等效物转换为输出恢复图像。该方法在内容级别使用补丁的事实允许它以客观和自给自足的方式合并高级恢复。该方法已被应用到几个退化的文档图像,包括DIBCO'09竞赛数据集与有前途的结果。
2011-11-08 cs.CV cs.IR
GenFirst: Generation Before Reconstruction for Stable End-to-End Latent Generative Modeling
University of Science and Technology of China(中国科学技术大学)
该研究提出GenFirst策略,实现无隐空间塌陷的端到端隐空间生成建模,在图像生成任务上取得优异指标,并将框架扩展至多模态生成场景。
2026-09-01 cs.CV
Cycle3D: High-quality and Consistent Image-to-3D Generation via Generation-Reconstruction Cycle
Peking University(北京大学);National University of Singapore(新加坡国立大学);Pengcheng Laboratory(鹏城实验室)
提出统一3D生成框架Cycle3D,在多步扩散过程中循环利用2D扩散模型生成高质量纹理和前馈3D重建模型保证多视图一致性,显著提升了图像到3D生成的质量与一致性。
2024-07-28 cs.CV
LHDR: HDR Reconstruction for Legacy Content using a Lightweight DNN
Communication University of China(中国传媒大学);Peng Cheng Laboratory(鹏城实验室)
高动态范围(HDR)图像因其包含的丰富信息而在图形学和摄影学中得到广泛应用。最近,社区已经开始使用深度神经网络(DNN)将标准动态范围(SDR)图像重建为HDR。尽管目前基于DNN的方法具有优越性,但它们的应用场景仍然受到限制:(1)沉重的模型阻碍实时处理,(2)不适用于具有更多降级类型的遗留SDR内容。因此,我们提出了一种轻量级的基于DNN的方法,用于处理遗留SDR。为了更好的设计,我们对问题建模进行了改革,强调退化模型。实验结果表明,我们的方法达到了令人满意的性能与最小的计算成本相比,与其他。
2022-11-21 cs.CV cs.MM
One4D: Unified 4D Generation and Reconstruction via Decoupled LoRA Control
The Hong Kong University of Science and Technology(香港科技大学)
One4D通过解耦LoRA控制实现4D生成与重建的统一框架,提升视频扩散模型在几何重建中的性能
2025-11-24 cs.CV
Few-shot Image Generation Using Discrete Content Representation
Shanghai Jiao Tong University(上海交通大学)
Few-Shot图像生成和Few-Shot图像翻译是两个相关的任务,它们都旨在为只有少量图像的不可见类别生成新图像。在这项工作中,我们第一次尝试适应Few-Shot图像翻译方法的Few-Shot图像生成任务。Few-Shot图像翻译将图像分解为样式向量和内容映射。看不见的样式向量可以与不同的可见内容映射组合以产生不同的图像。然而,它需要存储看到的图像以提供内容映射,并且看不见的样式向量可能与看到的内容映射不兼容。为了适应Few-Shot图像生成任务,我们通过将连续内容映射量化为离散内容映射来学习本地内容向量的紧凑字典,而不是存储看到的图像。此外,我们建立了以风格向量为条件的离散内容映射的自回归分布模型,从而缓解了内容映射和风格向量之间的不兼容性。三个真实数据集上的定性和定量结果表明,我们的模型可以产生更高的多样性和保真度的图像看不见的类别比以前的方法。
2022-07-22 cs.CV
Gen3R: 3D Scene Generation Meets Feed-Forward Reconstruction
Zhejiang University(浙江大学);ByteDance Project(字节跳动项目)
Gen3R通过结合基础重建模型的强先验与视频扩散模型,实现3D场景生成,生成RGB视频及3D几何数据,实验显示其在单图和多图条件下达到SOTA结果。
2026-03-23 cs.CV
Neural Template: Topology-aware Reconstruction and Disentangled Generation of 3D Meshes
The Chinese University of Hong Kong(香港中文大学);Hunan University(湖南大学)
本文介绍了一种新的框架DTNet三维网格重建和生成通过解开拓扑。除了以前的工作,我们学习了一个特定于每个输入的拓扑感知神经模板,然后变形模板以重建详细的网格,同时保留学习的拓扑。一个关键的见解是将复杂的网格重建分解为两个子任务:拓扑制定和形状变形。由于解耦,DT-Net隐式地学习了潜在空间中拓扑和形状的解纠缠表示。因此,它可以实现用于支持各种形状生成应用的新颖的解纠缠控制,例如,重新混合3D对象的拓扑结构,这是以前的重建工作无法实现的。大量的实验结果表明,我们的方法是能够产生高质量的网格,特别是与不同的拓扑结构,与国家的最先进的方法相比。
2022-06-10 cs.CV
RoGe: Novel View Synthesis via End-to-End Implicit Reconstruction and Generation
Xiaomi EV(小米汽车);Northeastern University(东北大学)
本文提出RoGe框架,通过端到端统一的隐式重建与生成实现新视角合成,在DL3DV数据集上,其性能优于各类基线,且联合训练及射线查询隐式特征均能提升效果。
2026-10-27 cs.CV
Content-Aware Preserving Image Generation
Seoul National University of Science and Technology(首尔科学技术大学)
本文提出一种内容感知保持的图像生成框架,通过频率编码和内容融合模块将参考图像内容与噪声融合,在保持内容一致的同时实现多样风格变化,并在多个基准数据集上验证了有效性。
2024-11-15 cs.CV
Human Motion Prediction, Reconstruction, and Generation
AI Geeks
本报告综述人体运动预测、重建与生成的最新进展,涵盖关键方法、数据集、挑战及未来方向,推动机器人、游戏和虚拟化身等应用。
2025-02-21 cs.CV
UniCSG: Unified High-Fidelity Content-Constrained Style-Driven Generation via Staged Semantic and Frequency Disentanglement
China University of Mining and Technology(中国矿业大学);OPPO Artificial Intelligence Center(OPPO人工智能中心)
UniCSG通过分阶段语义和频率解耦,解决风格迁移中内容与风格纠缠问题,提升生成内容的忠实度和稳定性。
2026-08-06 cs.CV
Towards Automating the Retrospective Generation of BIM Models: A Unified Framework for 3D Semantic Reconstruction of the Built Environment
The Chinese University of Hong Kong(香港中文大学);Hong Kong Metropolitan University(香港都会大学)
本文提出SRBIM统一语义重建架构,解决3D模型向BIM转换缺乏统一可扩展框架的问题,并通过定性定量评估验证其有效性,为自动化BIM建模确立新范式。
2024-06-03 cs.CV
MoCoGAN: Decomposing Motion and Content for Video Generation
Snap Research(Snap 研究院);NVIDIA(英伟达)
视频中的视觉信号可以分为内容和运动。虽然内容指定了视频中的对象,但运动描述了它们的动态。在此基础上,我们提出了运动和内容分解的生成对抗网络(MoCoGAN)的视频生成框架。所提出的框架通过将随机向量序列映射到视频帧序列来生成视频。每个随机向量由内容部分和运动部分组成。当内容部分保持固定时,运动部分被实现为随机过程。为了以无监督的方式学习运动和内容分解,我们引入了一种利用图像和视频鉴别器的新型对抗学习方案。在几个具有挑战性的数据集上进行的大量实验结果与最先进的方法进行了定性和定量比较,验证了所提出的框架的有效性。此外,我们表明,MoCoGAN允许生成具有相同内容但不同运动的视频以及具有不同内容和相同运动的视频。
2017-12-14 cs.CV
FreeGen: Feed-Forward Reconstruction-Generation Co-Training for Free-Viewpoint Driving Scene Synthesis
School of Electronic and Computer Engineering, Peking University(电子与计算机工程学院,北京大学)
FreeGen通过重建-生成协同训练框架,提升自由视角驾驶场景合成的插值一致性与外推真实感,实现最先进的性能。
2025-12-04 cs.CV
Scene Graph Generation with External Knowledge and Image Reconstruction
Nanyang Technological University(南洋理工大学);Adobe Research(奥多比研究院);University of Georgia(佐治亚大学);Google Cloud AI(谷歌云人工智能)
随着目标检测、属性和关系预测、~ \etc等图像理解任务的发展,场景图生成得到了越来越多的关注。然而,现有的数据集在对象和关系标签方面存在偏差,或者经常带有噪声和缺失的注释,这使得开发可靠的场景图预测模型非常具有挑战性。在本文中,我们提出了一种新的场景图生成算法与外部知识和图像重建损失,以克服这些数据集的问题。特别是,我们从外部知识库中提取常识知识,以改进场景图生成中的对象和短语特征,以提高泛化能力。为了解决噪声对象注释的偏差,我们引入了辅助图像重建路径来正则化场景图生成网络。大量的实验表明,我们的框架可以生成更好的场景图,在两个基准数据集上实现了最先进的性能:视觉关系检测和视觉基因组数据集。
2019-04-01 cs.CV
Data-Efficient Networks for Multi-Contrast MRI Reconstruction based on a Generalized Content/Style Prior
Leiden University Medical Center(莱顿大学医学中心);Philips Innovative Technologies(飞利浦创新技术公司);Philips Cardiologs(飞利浦Cardiologs公司);Eindhoven University of Technology(埃因霍温理工大学)
本研究提出模块化框架CoSMo-RecNet,基于广义内容/风格先验实现低数据场景下的多对比MRI重建,在低场M4Raw及超低场Halbach数据集上,其性能优于MoDL、经典重建等策略。
2026-09-03 cs.CV eess.IV
Decoupling Degradation and Content Processing for Adverse Weather Image Restoration
University of Science and Technology of China(中国科学技术大学);vivo Mobile Communication Co., Ltd(维沃移动通信有限公司)
针对单一网络复原多类恶劣天气图像时混淆退化去除与内容重建的问题,提出DDCNet,在特征层依据通道统计解耦二者并引入傅里叶域信息与退化映射损失,在多个基准上达到SOTA。
2023-12-08 cs.CV
SignAvatar: Sign Language 3D Motion Reconstruction and Generation
University at Buffalo(布法罗大学)
针对孤立手语单词3D动作重建与生成的难点,提出基于transformer条件变分自编码器的SignAvatar框架,结合课程学习提升效果,同时发布ASL3DWord数据集,实验验证其性能优越。
2024-12-07 cs.CV
Phy124: Fast Physics-Driven 4D Content Generation from a Single Image
School of Informatics(信息学院);Xiamen University(厦门大学);The Hong Kong Polytechnic University(香港理工大学)
针对现有4D内容生成方法不符合物理规律、生成速度慢的问题,提出物理驱动的Phy124方法,通过整合物理模拟、摒弃扩散模型实现单图快速可控4D生成,性能达SOTA。
2024-09-11 cs.CV
From Feed-Forward to Flow: Unifying Reconstruction and Generation Is Easier Than You Think
本文提出一种统一的基于流的公式,使重建与生成共享同一预测器和主干网络,通过单步与多步去噪配置切换,在3D任务中同时提升重建质量与生成细节保真度。
2026-09-29 cs.CV
DecQ: Detail-Condensing Queries for Enhanced Reconstruction and Generation in Representation Autoencoders
Zhejiang University(浙江大学);Shanghai Innovation Institute(上海创新研究院);Fudan University(复旦大学);Westlake University(西湖大学)
本文提出DecQ框架,通过引入轻量级细节压缩查询,有效缓解了表示自编码器中重建与生成之间的权衡问题,提升了重建质量和生成性能。
2026-05-21 cs.CV
Reconstruct and Represent Video Contents for Captioning via Reinforcement Learning
Shandong University(山东大学);Tencent AI Lab(腾讯人工智能实验室)
本文研究了用自然语言描述视频序列的视觉内容的问题。不同于以往的视频描述工作主要利用视频内容的线索,使语言描述,我们提出了一种新的编码器-解码器-重建器架构的重建网络(RecNet),它利用正向(视频到句子)和反向(句子到视频)流的视频描述。具体地,编码器-解码器组件利用前向流来基于编码的视频语义特征产生句子描述。随后提出了两种类型的重构器,分别从局部和全局的角度,利用解码器生成的隐藏状态序列,采用反向流和再现视频特征。此外,为了使一个全面的视频特征的重建,我们建议将这两种类型的重建器融合在一起。编码器-解码器组件产生的生成损失和重建器引入的重建损失以端到端的方式共同投入到训练所提出的RecNet中。此外,RecNet通过强化学习由CIDER优化进行微调,这显著提高了字幕性能。在基准数据集上的实验结果表明,该重构器可以持续提高视频描述的性能。
2019-06-03 cs.CV
Retrieval-Augmented Layout Transformer for Content-Aware Layout Generation
The University of Tokyo(东京大学);CyberAgent(CyberAgent公司)
针对高维布局训练数据有限的问题,提出 RALF,利用基于输入图像检索到的最近邻布局增强自回归 Transformer,在统一架构中完成多种可控布局生成并显著优于基线。
2024-04-15 cs.CV
Streaming4D: Accelerate 4D World Models via Block-wise Video Generation and Incremental Reconstruction
The Chinese University of Hong Kong(香港中文大学);The Hong Kong Polytechnic University(香港理工大学);The University of New South Wales(新南威尔士大学);Southeast University(东南大学)
Streaming4D提出分块视频生成与增量重建结合的同步流水线,在RTX 4090上实现1.24倍运行时加速,同时保持4D几何与多视图一致性,解决传统4D生成延迟高的问题。
2026-09-11 cs.CV
VQRAE: Representation Quantization Autoencoders for Multimodal Understanding, Generation and Reconstruction
Tsinghua University(清华大学);Huazhong University of Science and Technology(华中科技大学);Kolors Team, Kuaishou Technology(快手科技Kolors团队)
VQRAE通过统一的分词器生成连续语义特征和离散标记,提升多模态理解、生成和重建的性能。
2025-11-28 cs.CV
AnimatableDreamer: Text-Guided Non-rigid 3D Model Generation and Reconstruction with Canonical Score Distillation
Tongji University(同济大学);Tsinghua University(清华大学);ShengShu(商汤科技(注:此处为机构音译,原文为ShengShu));Xi’an Research Institute of High-Tech(西安高技术研究所);Fudan University(复旦大学);Zhejiang University(浙江大学);Didi(滴滴出行)
本文提出AnimatableDreamer文本到4D生成框架,通过规范得分蒸馏(CSD)从单目视频骨架生成非刚性可动画3D模型,并提升单目非刚性重建保真度。
2024-03-28 cs.CV
Beyond Token Accuracy: Prioritizing What Matters for Visual Reconstruction
Zhejiang University(浙江大学)
针对现有视觉令牌通信静态策略无法适应图像内容与信道条件的问题,提出AdapToC自适应框架,协同设计令牌数量、不等保护与可靠性感知恢复,在匹配通信成本下实现4.20 dB峰值PSNR增益,达到最先进性能。
2026-10-06 cs.CV
Registering Explicit to Implicit: Towards High-Fidelity Garment mesh Reconstruction from Single Images
CUHKSZ(香港中文大学(深圳));SRIBD(深圳研究院)
在深度学习技术和隐式形状学习的推动下,单图像人体数字化的最新进展已经达到了前所未有的准确性,并且可以恢复细粒度的表面细节,如衣服褶皱。然而,基于隐式的方法的一个共同问题是,它们不能为每个服装件产生分离的和拓扑一致的网格,这对于当前的3D内容创建流水线至关重要。为了解决这个问题,我们提出了一种新的几何推理框架ReEF,通过将显式服装模板注册到从单个图像预测的全身隐式场来重建拓扑一致的分层服装网格。实验表明,我们的方法显着优于同类产品的单图像分层服装重建,并可以带来高质量的数字资产,为进一步的内容创建。
2022-03-28 cs.CV
EmoCtrl: Controllable Emotional Image Content Generation
CSSE, Shenzhen University(深圳大学计算机科学与软件工程学院)
EmoCtrl通过结合内容描述与目标情绪生成图像,实现内容忠实与情绪表达的平衡,优于现有方法。
2026-04-10 cs.CV
ContentV: Efficient Training of Video Generation Models with Limited Compute
ByteDance Douyin Content Group(字节跳动抖音内容团队)
针对视频生成训练计算成本高的问题,提出8B参数的ContentV文本生成视频模型,通过复用预训练图像模型、流匹配多阶段训练和无额外标注的人类反馈强化学习,仅用256块64GB NPU训练四周就在VBench上达SOTA性能。
2025-06-11 cs.CV
Generation then Reconstruction: Accelerating Masked Autoregressive Models via Two-Stage Sampling
Beijing Institute of Technology(北京理工大学);EPIC Lab, SJTU(上海交通大学EPIC实验室);Tsinghua University(清华大学)
GtR通过两阶段采样加速遮蔽自回归模型,实现3.72倍速度提升并保持高质量生成。
2026-01-27 cs.CV
LLM-Enabled Style and Content Regularization for Personalized Text-to-Image Generation
School of Software, Shandong University(软件学院,山东大学);Shandong Research Institute of Shandong University(山东大学山东研究院);Inspur Technology(Inspur技术公司)
针对个性化文本到图像生成中风格化不足和内容不准确的问题,本文提出风格细化和内容保持策略,利用视觉推理提示优化风格嵌入并保持模型泛化能力,实验证明该方法生成效果更优。
2025-04-19 cs.CV
VASCAR: Content-Aware Layout Generation via Visual-Aware Self-Correction
D3 Center, Osaka University(大阪大学D3中心);LY Corporation(LY公司)
本文提出无需训练的VASCAR方法,通过让大型视觉语言模型参照渲染布局图像进行视觉感知自校正,解决了LLMs无法感知图像导致的内容感知布局生成局限,并在GPT-4o和Gemini上取得SOTA效果。
2025-03-11 cs.CV
BizGenEval: A Systematic Benchmark for Commercial Visual Content Generation
Microsoft Corporation(微软公司);Shanghai Jiao Tong University(上海交通大学);Xi'an Jiaotong University(西安交通大学);Fudan University(复旦大学)
本文提出BizGenEval基准测试,系统评估商业视觉内容生成模型在文档类型和多约束下的能力,包含20个任务和8000个检查问题,揭示现有模型与专业需求间的差距。
2026-03-26 cs.CV
A Plug-and-Play Method for Guided Multi-contrast MRI Reconstruction based on Content/Style Modeling
University of Amsterdam(阿姆斯特丹大学);Erasmus University Rotterdam(埃因霍温理工大学);Erasmus University Medical Center(埃因霍温医学院);University of Utrecht(乌得勒支大学)
提出一种无需k空间训练数据的模块化即插即用方法PnP-CoSMo,通过内容/风格解耦利用参考扫描引导欠采样对比度重建,在公共和内部数据集上达到或超越端到端方法,并实现更高加速比。
2026-06-05 cs.CV eess.IV physics.med-ph
Boundary Content Graph Neural Network for Temporal Action Proposal Generation
Key Laboratory of Machine Perception (MOE), School of EECS, Peking University(北京大学信息科学技术学院机器感知与智能教育部重点实验室);iQIYI, Inc.(爱奇艺公司)
时间动作建议生成在视频动作理解中起着重要的作用,它要求精确定位高质量的动作内容。然而,生成具有精确边界和高质量动作内容的时间建议极具挑战性。为了解决这个问题,我们提出了一种新的边界内容图神经网络(BC-GNN)建模的时间建议的图神经网络的边界和行动内容之间的深刻关系。在BC-GNN中,时间建议的边界和内容分别被视为图神经网络的节点和边,在那里它们被自发地连接。然后提出了一种新的图计算操作来更新边和节点的特征。之后,一条更新的边和它连接的两个节点被用来预测边界概率和内容置信度,它们将被组合以生成最终的高质量建议。实验在两个主流数据集上进行:ActivityNet-1.3和THUMOS 14。在没有花里胡哨的情况下,BC-GNN在时间动作建议和时间动作检测任务方面都优于以前最先进的方法。
2020-08-04 cs.CV
Scene Text Image Super-Resolution via Content Perceptual Loss and Criss-Cross Transformer Blocks
文本图像的超分辨率是提高文本图像可读性的一项独特而重要的任务。它被广泛应用于场景文本识别的预处理。然而,由于自然场景的复杂退化,从低分辨率输入中恢复高分辨率文本是模糊和具有挑战性的。现有的方法主要利用深度神经网络,这些神经网络经过针对自然图像重建而设计的像素级损失训练,忽略了文本的独特字符特征。一些作品提出了基于内容的损失。然而,他们只关注文本识别器的准确性,而重建的图像可能仍然是模糊的人类。此外,它们在处理跨语言时通常具有较弱的通用性。为此,我们提出了TATSR,一个文本感知的文本超分辨率框架,它有效地学习独特的文本特征,使用交叉Transformer块(CCTBs)和一种新的内容感知(CP)损失。CCTB通过两个正交Transformers分别从文本图像中提取垂直和水平内容信息。CP Loss通过多尺度文本识别特征来监督文本内容语义重构,有效地将内容感知融入框架。在各种语言数据集上进行的大量实验表明,TATSR在识别精度和人类感知方面都优于最先进的方法。
2022-10-13 cs.CV