Exploring Vision Transformers as Diffusion Learners
International Digital Economy Academy (IDEA)(国际数字经济研究院(IDEA));The Hong Kong University of Science and Technology(香港科技大学)
基于分数的扩散模型已经引起了广泛的关注,并资助了最近的视觉生成任务的快速进展。本文主要研究了以前被忽视的扩散模型主干。我们系统地探讨了视觉Transformer作为扩散学习器的各种生成任务。通过我们的改进,基于vanilla ViT的骨干网(IU-ViT)的性能被提升到与传统的基于U-Net的方法相当。我们进一步提供了一个假设的含义解开生成骨干作为编码器-解码器结构,并显示验证的概念验证实验的有效性,一个更强大的编码器生成任务与AsymmetriC编码器解码器(ASCEND)。我们的改进在CIFAR-10、CelebA、LSUN、CUB Bird和大分辨率文本到图像任务上取得了有竞争力的结果。据我们所知,我们是第一个成功地训练一个单一的扩散模型的文本到图像的任务超过64 x64分辨率。我们希望这将激励人们重新思考基于扩散的生成模型的建模选择和训练管道。
2022-12-28 cs.CV
All are Worth Words: A ViT Backbone for Diffusion Models
Tsinghua University(清华大学);Renmin University of China(中国人民大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院)
视觉Transformer(ViT)在各种视觉任务中表现出了希望,而基于卷积神经网络(CNN)的U-Net在扩散模型中仍然占主导地位。我们设计了一个简单和通用的基于ViT的架构(命名为U-ViT)的扩散模型的图像生成。U-ViT的特征在于将包括时间、条件和噪声图像块的所有输入作为令牌,并在浅层和深层之间采用长跳跃连接。我们在无条件和类条件图像生成以及文本到图像生成任务中评估了U-ViT,其中U-ViT与类似大小的基于CNN的U-Net相当。特别是,具有U-ViT的潜空间扩散模型在ImageNet 256 x256上的类条件图像生成中实现了破纪录的FID分数2.29,在MS-COCO上的文本到图像生成中实现了破纪录的FID分数5.48,这些方法在生成模型的训练期间不访问大型外部数据集。我们的研究结果表明,对于基于扩散的图像建模,长跳跃连接是至关重要的,而基于CNN的U-Net中的下采样和上采样算子并不总是必要的。我们相信,U-ViT可以为未来扩散模型的主干研究提供见解,并有利于大规模跨模态数据集的生成建模。
2023-03-25 cs.AI cs.CV cs.LG
Conditioning Residuals for Diffusion Models via Representation Feedback
State Key Laboratory of Virtual Reality Technology and Systems, Beihang University(虚拟现实技术与系统国家重点实验室,北京航空航天大学);Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院)
研究扩散模型中能否利用固有路径路由内部推断语义,提出条件残差这一轻量级反馈机制,通过反馈紧凑特征摘要提供自适应指导,实验显示其提升了生成性能及下游任务表现,还揭示了训练动态和特征结构的改进。
2026-07-17 cs.CV
A Decomposable Probe for Few-Step Diffusion Models: Prompt, Latent, and Score Selectivity across Backbone Families and Distillation Paradigms
Independent Researcher(独立研究者)
研究少步蒸馏扩散模型质量差距,用可分解探测器沿三层在三种模式六种强度下注入扰动,报告选择性比率。结果表明不同层读取不同因素,潜在层是整流流主干的近二元探测器。
2026-07-07 cs.CV
Accelerate High-Quality Diffusion Models with Inner Loop Feedback
University of Maryland(马里兰大学);NVIDIA(英伟达)
提出内循环反馈(ILF),通过轻量模块预测未来特征并冻结骨干,以蒸馏损失训练,实现扩散模型1.7-1.8倍加速,保持高质量生成。
2025-03-27 cs.CV
ForensicConcept: Transferable Forensic Concepts for AIGI Detection
University of Science and Technology of China(中国科学技术大学)
提出ForensicConcept框架,通过Transformer归因定位关键补丁、构建概念码本并利用扩散特征对齐,实现AI生成图像检测中可迁移取证概念的提取与跨骨干网络迁移。
2026-06-05 cs.CV
Local Patches Meet Global Context: Scalable 3D Diffusion Priors for Computed Tomography Reconstruction
EECS Department, University of Michigan(密歇根大学电子工程与计算机科学系)
本文提出一种3D片段基扩散模型,通过学习3D片段先验实现高效高分辨率3D CT重建,优于现有方法。
2025-12-20 cs.CV
Scalable Diffusion Models with Transformers
UC Berkeley(加州大学伯克利分校);New York University(纽约大学)
我们探索一类新的扩散模型的基础上的Transformer架构。我们训练图像的潜空间扩散模型,用一个在潜在补丁上运行的Transformer代替常用的U-Net主干。我们分析了我们的扩散Transformer(DiTs)的可扩展性,通过镜头的前向通过复杂性测量的Gflops。我们发现,具有更高Gflops的DiT-通过增加Transformer深度/宽度或增加输入令牌的数量-始终具有较低的FID。除了具有良好的可扩展性外,我们最大的DiT-XL/2模型在类条件ImageNet 512 x512和256 x256基准测试中的表现优于所有先前的扩散模型,后者达到了最先进的FID 2.27。
2023-03-02 cs.CV cs.LG
MatFusion: A Generative Diffusion Model for SVBRDF Capture
College of William & Mary(威廉玛丽学院)
本文提出 MatFusion,先以大规模合成材质训练无条件 SVBRDF 扩散骨干,再微调为光照条件模型,从单张照片生成多个材质估计并达到更优精度。
2024-04-24 cs.CV cs.GR
MonoFormer: One Transformer for Both Diffusion and Autoregression
Baidu VIS(百度VIS);University of Technology Sydney(悉尼科技大学)
提出MonoFormer,通过共享一个Transformer同时处理自回归和扩散任务,在保持文本生成能力的同时实现与当前最先进方法相当的图像生成性能。
2024-09-24 cs.CV
Jointly Conditioned Diffusion Model for Multi-View Pose-Guided Person Image Synthesis
Nanjing University of Science and Technology, China(南京理工大学,中国);NExT++ Research Centre, National University of Singapore, Singapore(NExT++研究中心,新加坡国立大学)
针对单参考视角姿态引导人物图像生成存在纹理缺失、跨视角交互不足的问题,本文提出联合条件扩散模型JCDM,通过APM和JCI模块融合多视角先验,实现了SOTA的生成保真度与跨视角一致性。
2025-11-19 cs.CV
LLaDA2.0-Uni: Unifying Multimodal Understanding and Generation with Diffusion Large Language Model
AGI Research Center, Inclusion AI(AGI研究中心,Inclusion AI)
LLaDA2.0-Uni结合全语义离散分词器、MoE-based dLLM和扩散解码器,实现多模态理解和生成,通过SigLIP-VQ离散化视觉输入,提升推理效率,支持交错生成与推理,展现强大的图像生成与编辑能力。
2026-04-22 cs.CV
FreeU: Free Lunch in Diffusion U-Net
Nanyang Technological University(南洋理工大学)
本文提出FreeU方法,通过策略性重新加权扩散U-Net的跳跃连接和骨干特征图,无需额外训练即可显著提升Stable Diffusion等现有扩散模型的图像与视频生成质量。
2023-10-18 cs.CV
DiffSplat: Repurposing Image Diffusion Models for Scalable Gaussian Splat Generation
Peking University(北京大学);ByteDance(字节跳动)
提出DiffSplat框架,通过驾驭文本到图像扩散模型原生生成3D高斯泼溅,结合轻量级重建模型与3D渲染损失,在统一模型中利用2D先验保持3D一致性,在文本和图像条件生成任务中表现优越。
2025-01-28 cs.CV
MVDiff: Scalable and Flexible Multi-View Diffusion for 3D Object Reconstruction from Single-View
University of Oxford(牛津大学);Imperial College London(伦敦帝国学院)
本文提出MVDiff通用框架,结合场景表示Transformer、视图条件扩散模型、极线几何约束与多视图注意力,从单张图像生成一致多视图并重建三维网格,在PSNR、SSIM和LPIPS上超越基线方法。
2024-06-13 cs.CV cs.LG
Muddit: Liberating Generation Beyond Text-to-Image with a Unified Discrete Diffusion Model
M-E-AGI-Lab(M-E-AGI实验室)
提出Muddit,一种统一离散扩散Transformer,结合预训练文本到图像骨干的强视觉先验与轻量文本解码器,实现跨文本和图像模态的快速并行生成,在质量和效率上优于大型自回归模型。
2026-05-26 cs.CV cs.LG
SiT: Exploring Flow and Diffusion-based Generative Models with Scalable Interpolant Transformers
New York University(纽约大学)
本文提出SiT生成模型,基于DiT骨干网络,利用灵活的插值框架模块化研究动态传输生成模型的设计选择,在相同结构和参数下于ImageNet基准上全面超越DiT。
2024-09-23 cs.CV cs.LG
BlendFusion -- Scalable Synthetic Data Generation for Diffusion Model Training
Samaya AI, Inc.(Samaya AI公司);Stanford University(斯坦福大学);Independent Researcher(独立研究员)
本文提出BlendFusion框架,通过路径追踪生成高质量图像-描述对,构建FineBLEND数据集,并分析其质量及与现有数据集的对比。
2026-04-10 cs.CV
HiddenObjects: Scalable Spatial Prior Extraction for Object Placement from Diffusion Models
Technical University of Denmark(丹麦技术大学);University of Copenhagen(哥本哈根大学);Pioneer Centre for AI(人工智能先锋中心)
本文提出通过扩散模型蒸馏学习显式的类别条件空间先验,用于自然场景中的物体放置。通过自动化框架构建大规模数据集,实验表明其优于人类标注和现有基线模型。
2026-11-06 cs.CV
Point Cloud Pre-training with Diffusion Models
Shandong University(山东大学);Shanghai AI Laboratory(上海人工智能实验室);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
本文提出一种新型点云预训练方法PointDif,将预训练视为条件点对点生成问题,通过条件点生成器引导从噪声点云中恢复点云,帮助骨干网络捕获几何先验和密度分布,并结合循环均匀采样优化策略,在分类、分割和检测等下游任务上取得显著提升。
2023-11-25 cs.CV
Diffusion Autoencoders are Scalable Image Tokenizers
Meta;GenAI, Meta(元公司生成式人工智能部门)
提出扩散分词器DiTo,利用单一扩散L2损失训练可扩展图像分词器,简化训练流程,在图像重建与生成任务中达到与有监督最先进方法相当或更优的质量。
2025-01-30 cs.AI cs.CV cs.LG
CRISP: Fixing Flying Pixels in Latent LiDAR Generation via Diffusion Decoding
TU München(慕尼黑工业大学);BMW AG(宝马集团)
针对潜在激光雷达生成中卷积VAE导致的飞行像素问题,提出CRISP扩散解码器,替换后在多数据集上显著降低相关误差,缩小模拟到真实的差距。
2026-11-03 cs.AI cs.CV
Wavelet Diffusion Models are fast and scalable Image Generators
VinAI Research(VinAI研究院)
扩散模型正在成为高保真图像生成的强大解决方案,在许多情况下,它的质量超过了GANs。然而,它们缓慢的训练和推理速度是一个巨大的瓶颈,阻碍了它们在实时应用中的使用。最近的DiffusionGAN方法通过将采样步骤的数量从数千减少到几个来显着减少模型的运行时间,但是它们的速度仍然大大落后于GAN的同行。本文旨在通过提出一种新的基于小波的扩散方案,以减少速度差距。我们通过小波分解从图像和特征级别提取低频和高频分量,并自适应地处理这些分量,以实现更快的处理,同时保持良好的生成质量。此外,我们建议使用重建项,这有效地提高了模型训练的收敛性。在CelebA-HQ、CIFAR-10、LSUN-Church和STL-10数据集上的实验结果证明,我们的解决方案是提供实时和高保真扩散模型的垫脚石。我们的代码和预先训练的检查点可在\url{https://github.com/VinAIResearch/WaveDiff.git}上找到。
2023-03-22 cs.CV eess.IV
PEO: Training-Free Aesthetic Quality Enhancement in Pre-Trained Text-to-Image Diffusion Models with Prompt Embedding Optimization
KU Leuven(鲁文大学);Université Paris-Saclay(巴黎-萨克雷大学);Meta
本研究提出免训练的PEO方法,通过三重目标函数优化文本嵌入,在不依赖特定主干、无需训练的前提下提升预训练文本到图像扩散模型的生成美学质量,性能达当前最优水平。
2025-10-02 cs.CV
Diffusion Templates: A Unified Plugin Framework for Controllable Diffusion
Alibaba Group(阿里巴巴集团)
本文提出Diffusion Templates框架,通过解耦基础模型推理与可控能力注入,统一了扩散模型的可控能力,支持多种任务和不同backbone的兼容性,提升了模块化和可扩展性。
2026-04-27 cs.AI cs.CV cs.LG
Direct3D: Scalable Image-to-3D Generation via 3D Latent Diffusion Transformer
DreamTech(梦工厂);Nanjing University(南京大学);University of Oxford(牛津大学)
本文提出原生3D生成模型Direct3D,包含D3D-VAE和D3D-DiT,通过半连续表面采样和融合三平面位置信息,实现无需多视角扩散或SDS优化的高质量图像到3D生成,确立了新的SOTA。
2024-06-01 cs.CV
Omni-Diffusion: Unified Multimodal Understanding and Generation with Masked Discrete Diffusion
Nanjing University(南京大学);Tencent Youtu Lab(腾讯云科技实验室);CASIA(中国科学院自动化研究所)
受离散扩散模型在多领域成功应用启发,提出全模态扩散模型,基于掩码离散扩散模型构建,统一文本、语音和图像的理解与生成,用统一模型直接捕捉离散多模态令牌联合分布,性能优于现有多模态系统。
2026-07-07 cs.CV
Neural Residual Diffusion Models for Deep Scalable Vision Generation
Tsinghua University(清华大学)
针对深度堆叠网络在视觉生成中的数值误差问题,提出Neural-RDM框架,引入门控残差参数,提升图像视频生成质量并支持大规模训练。
2024-07-21 cs.AI cs.CV
InstantCharacter: Personalize Any Characters with a Scalable Diffusion Transformer Framework
Hunyuan, Tencent(腾讯混元);InstantX Team(InstantX团队)
针对现有角色定制方法泛化能力弱、文本可控性差等问题,提出基于扩散Transformer的InstantCharacter框架,通过可扩展适配器和千万级双结构数据集,实现开放域高保真个性化,树立角色驱动图像生成新基准。
2025-04-16 cs.CV
TRIM: Scalable 3D Gaussian Diffusion Inference with Temporal and Spatial Trimming
Department of Computer Science and Engineering, Michigan State University(计算机科学与工程系,密歇根州立大学)
TRIM通过引入时间和空间剪裁策略,提升3D高斯扩散模型的推断效率与生成质量。
2025-11-20 cs.CV
ReState: Noise-Level-Aware State Correction for Training-Free Object Removal in Few-Step Diffusion Models
ReState针对少步扩散模型无训练物体移除的时间不匹配问题,通过噪声水平感知权重修正掩码预测,在多个基准上优于现有无训练方法,延迟更低且可迁移。
2026-10-16 cs.CV
DMin: Scalable Training Data Influence Estimation for Diffusion Models
Rochester Institute of Technology(罗切斯特理工学院);Tufts University(塔夫茨大学)
本文提出DMin框架,用于高效估计扩散模型中每个训练样本对生成图像的影响,解决了传统方法在大规模模型上的计算限制问题,实现了存储和计算效率的显著提升。
2026-04-09 cs.AI cs.CV cs.LG
LN3DIFF++: Scalable Latent Neural Fields Diffusion for Speedy 3D Generation
LN3DIFF++通过3D感知架构和变分自编码器实现快速高质量的3D生成,优于现有方法在推理速度和生成质量上。
2025-12-19 cs.CV
Leveraging Prior Knowledge of Diffusion Model for Person Search
GSAIM, Chung-Ang University(Chung-Ang大学图像信息研究所);IPAI, Seoul National University(首尔国立大学图像感知研究所);Department of Mathematical Sciences and RIMS, Seoul National University(首尔国立大学数学科学系和RIMS)
针对行人搜索中现有方法的不足,提出DiffPS框架,利用预训练扩散模型,消除子任务优化冲突,通过分析扩散先验属性设计三个专门模块,在CUHK-SYSU和PRW数据集上取得新的最优成果。
2026-07-15 cs.CV
NanoControl: A Lightweight Framework for Precise and Efficient Control in Diffusion Transformer
AI Research(360人工智能研究院);Nanjing University of Science and Technology(南京理工大学);University of Science and Technology Beijing(北京科技大学);Beijing University of Aeronautics and Astronautics(北京航空航天大学)
针对Diffusion Transformer可控生成中ControlNet范式参数和计算开销大的问题,提出轻量级框架NanoControl,通过LoRA风格控制模块和KV-Context Augmentation机制实现高效且精确的条件控制,在极低开销下达到最先进性能。
2025-08-14 cs.CV
Reviving ConvNeXt for Efficient Convolutional Diffusion Models
KAIST(韩国科学技术院);ETH Zürich(苏黎世联邦理工学院);ISTI-CNR(意大利国家研究理事会信息与自动化研究所);University of Pisa(比萨大学)
本文提出全卷积扩散模型 FCDM-XL,通过使用 ConvNeXt 结构实现高效扩散模型,以更少的 FLOPs 和训练步骤达到与 DiT-XL 相当的性能。
2026-03-10 cs.AI cs.CV cs.LG
Dual Prototype-Conditioned Diffusion Model for Scalable Multi-Class Unsupervised Anomaly Detection in Large Category Spaces
National Key Laboratory of Radar Signal Processing(雷达信号处理国家重点实验室)
提出DPDiff-AD,一种通过局部和全局原型建模异构正态分布并利用扩散重建实现可扩展多类异常检测的方法。
2026-05-23 cs.CV
SIGMark: Scalable In-Generation Watermark with Blind Extraction for Video Diffusion
Lenovo Research(联想研究院)
SIGMark是一种用于视频扩散模型的可扩展生成内水印框架,通过盲提取技术实现无损水印并提升鲁棒性。
2026-03-03 cs.CV
Efficient and Scalable Point Cloud Generation with Sparse Point-Voxel Diffusion Models
University of Patras(帕特雷大学);Industrial Systems Institute (ISI) - Athena Research Center(雅典娜研究中心工业系统研究所);Vrije Universiteit Brussel(布鲁塞尔自由大学)
本研究提出结合点高分辨率表征与稀疏体素效率的双分支点云U-Net扩散架构SPVD,在多类点云生成及相关任务中取得SOTA结果,生成速度更快且具备可扩展性。
2024-08-12 cs.CV
DiCo: Revitalizing ConvNets for Scalable and Efficient Diffusion Modeling
CASIA(中国科学院自动化研究所);UCAS(中国科学技术大学);ByteDance(字节跳动)
本文提出DiCo,一种完全基于标准卷积模块的扩散模型,通过紧凑通道注意力机制降低通道冗余,在ImageNet生成上以2.7-3.1倍加速超越DiT,并展现出文本到图像生成潜力。
2025-09-22 cs.CV
Scalable Motion Style Transfer with Constrained Diffusion Generation
KTH Royal Institute of Technology(瑞典皇家理工学院);National Institute of Informatics(日本国立信息学研究所);University of Copenhagen(哥本哈根大学)
针对现有运动风格迁移依赖跨域一致性损失、可扩展性差的问题,提出带有关键帧流形约束梯度的约束扩散生成框架,实现多域独立训练,在10种舞蹈风格迁移的内容保留上显著优于基线,主观评估也验证了其竞争力。
2023-12-12 cs.AI cs.CV cs.LG
DiffMoE: Dynamic Token Selection for Scalable Diffusion Transformers
Tsinghua University(清华大学)
针对扩散模型统一处理输入的性能局限,提出DiffMoE方法,通过全局token池促进专家专业化、容量预测器动态分配算力,在1倍激活参数量下实现ImageNet基准SOTA,且适用于文本生成图像等多类任务。
2025-03-18 cs.AI cs.CV
Decoding Diffusion: A Scalable Framework for Unsupervised Analysis of Latent Space Biases and Representations Using Natural Language Prompts
University of Waterloo(滑铁卢大学)
本文提出一种利用自然语言提示和图像描述映射潜在方向的无监督框架,无需训练特定向量即可自动分析扩散模型潜在空间中的偏差和表示,实现更可扩展和可解释的理解。
2024-11-04 cs.AI cs.CL cs.CV
SPEED: Scalable, Precise, and Efficient Concept Erasure for Diffusion Models
University of Science and Technology of China(中国科学技术大学);Hefei University of Technology(合肥工业大学)
SPEED通过直接编辑模型参数,高效精准地擦除扩散模型中的多个概念,同时保护非目标概念的质量。
2026-02-28 cs.CV
DiffPano: Scalable and Consistent Text to Panorama Generation with Spherical Epipolar-Aware Diffusion
State Key Lab of CAD&CG, Zhejiang University(浙江大学CAD&CG国家重点实验室);Shanghai AI Laboratory(上海人工智能实验室);Tongji University(同济大学)
针对360°全景生成受数据集和多视图一致性限制的问题,研究构建大规模全景视频-文本数据集,提出DiffPano框架,通过LoRA微调单视图扩散模型并设计球面极感知多视图模型,实现可扩展、一致且多样的文本驱动全景生成。
2024-10-31 cs.AI cs.CV cs.GR
Assembler: Scalable 3D Part Assembly via Anchor Point Diffusion
Tencent ARC Lab(腾讯ARC实验室);Tsinghua University(清华大学)
Assembler通过扩散模型和锚点云表示,将三维部件装配视为生成问题,构建32万级数据集,在PartNet上达到最先进性能,并支持从图像生成可编辑对象。
2025-06-20 cs.CV
Scalable Diffusion Transformer for Conditional 4D fMRI Synthesis
Seoul National University(首尔国立大学);Brookhaven National Laboratory(布鲁赫斯旺国家实验室);Seoul National Laboratory(首尔国立实验室)
本文提出了一种可扩展的扩散变换器,用于条件4D fMRI合成,通过结合3D VQ-GAN和CNN-Transformer结构,实现了高精度的任务条件生成。
2025-11-28 cs.CV q-bio.NC
ImAgent: A Unified Multimodal Agent Framework for Test-Time Scalable Image Generation
University of Maryland, College Park(马里兰大学帕克分校)
ImAgent通过统一的多模态代理框架,在测试时间实现高效的图像生成扩展,通过内部推理、生成和自评估模块提升图像质量和语义一致性。
2026-03-28 cs.AI cs.CV
Scalable High-Resolution Pixel-Space Image Synthesis with Hourglass Diffusion Transformers
Birchlabs, England, United Kingdom(英国英格兰Birchlabs实验室);Independent Researcher, Florida, United States(美国佛罗里达独立研究员)
本文提出Hourglass Diffusion Transformer,通过线性扩展像素数量实现高分辨率图像生成,无需传统高分辨率训练技术, 在ImageNet和FFHQ数据集上取得新突破。
2026-03-25 cs.AI cs.CV cs.LG
Is Energy Guidance All You Need? Training-Free Norm Injection for Driving World Models
Institute of Automotive Technology, Technical University of Munich(慕尼黑工业大学汽车技术研究所)
研究基于大型视频扩散主干的驾驶世界模型难以控制的问题,提出通过可微能量函数在采样时操控规划轨迹,无需重新训练主干,以Open-Sora 2.0 MM-DiT主干模型为例验证,指出跨流耦合是端到端可控关键。
2026-07-14 cs.CV cs.RO
VFusion3D: Learning Scalable 3D Generative Models from Video Diffusion Models
GenAI, Meta(Meta GenAI部门);University of Oxford(牛津大学)
本文提出VFusion3D,利用预训练视频扩散模型生成大规模合成多视图数据,训练前馈3D生成模型,实现单图秒级生成3D资产,性能超越现有最先进模型。
2024-07-18 cs.CV cs.GR cs.LG
Pixel-Level Residual Diffusion Transformer: Scalable 3D CT Volume Generation
School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院)
提出像素级残差扩散Transformer(PRDiT),通过两阶段训练(局部MLP盲估计器分离低频结构+全局残差扩散Transformer建模高频残差)实现高保真3D CT体生成,在LIDC-IDRI和RAD-ChestCT数据集上优于现有方法。
2026-06-19 cs.CV eess.IV
Erasing Thousands of Concepts: Towards Scalable and Practical Concept Erasure for Text-to-Image Diffusion Models
Dept. of Electrical and Computer Engineering(电气与计算机工程系);INMC(智能纳米研究中心);IPAI(人工智能研究所);Seoul National University(首尔国立大学)
本文提出ETC框架,通过tMM模型和MoEraser模块实现大规模概念消除,提升生成质量与鲁棒性,验证了在2000多个概念上的优越性能。
2026-04-12 cs.AI cs.CV
DiG: Scalable and Efficient Diffusion Models with Gated Linear Attention
Huazhong University of Science & Technology(华中科技大学);ByteDance(字节跳动)
针对DiT模型处理长序列时的二次复杂度问题,本文提出DiG模型,将GLA的次二次建模能力融入二维扩散主干,在多分辨率下性能优于DiT等模型,且效率显著提升,还提供两种架构变体。
2024-11-26 cs.AI cs.CV