LSReGen: Large-Scale Regional Generator via Backward Guidance Framework
Zhejiang University(浙江大学);Hangzhou University(杭州大学)
针对可控图像生成中现有方法的局限,提出广义反向引导框架及LSReGen大规模布局到图像方法,实验证明其生成高质量且符合布局的图像,优于现有方法。
2024-07-21 cs.CV
RealCamo: Boosting Real Camouflage Synthesis with Layout Controls and Textual-Visual Guidance
College of Artificial Intelligence, Nankai University, Tianjin, China(人工智能学院,南开大学,天津,中国);School of Data Science, Fudan University, Shanghai, China(数据科学学院,复旦大学,上海,中国)
RealCamo通过布局控制和文本-视觉引导提升真实伪装合成,解决现有方法在伪装效果和背景一致性上的不足。
2026-01-15 cs.CV
Semantic Layout Manipulation with High-Resolution Sparse Attention
University of Rochester(罗切斯特大学);Adobe Research(奥多比研究院)
我们解决了语义图像布局操作的问题,其目的是通过编辑其语义标签映射来操作输入图像。该任务的核心问题是如何将视觉细节从输入图像转移到新的语义布局,同时使生成的图像在视觉上逼真。最近关于学习跨域对应的工作已经显示出具有密集的基于注意力的变形的全局布局转移的有希望的结果。然而,由于分辨率的限制和缺乏对应关系的平滑度约束,这种方法容易丢失纹理细节。为了适应这种模式的布局操作任务,我们提出了一个高分辨率的稀疏注意力模块,有效地将视觉细节转移到新的布局,分辨率高达512x512。为了进一步提高视觉质量,我们引入了一种新的生成器架构,包括一个语义编码器和一个两级解码器的粗到细的合成。在ADE20k和Places365数据集上的实验表明,我们提出的方法比现有的修复和布局操作方法实现了实质性的改进。
2022-04-15 cs.CV
STAY Diffusion: Styled Layout Diffusion Model for Diverse Layout-to-Image Generation
Bosch Center for Artificial Intelligence(博世人工智能中心);Institute of Industrial Manufacturing and Management IFF, University of Stuttgart(斯图加特大学工业制造与管理研究所);Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所)
针对布局到图像生成,本文提出 STAY Diffusion,通过 EA Norm、自监督语义图与 SM Attention 增强全局条件和对象关系建模,提升图像质量、多样性、准确性与可控性。
2025-03-15 cs.CV
Cross-Domain Document Layout Analysis Using Document Style Guide
Fudan University(复旦大学);East China Normal University(华东师范大学);Videt Lab(维德实验室)
本文提出一种基于文档风格指导的无监督跨域文档布局分析框架,集成质量评估与跨域分析,包含GLD、GED和DSD三个组件,通过美学指导算法和对比学习实现显著性能。
2024-07-23 cs.CV
Scene Generation at Absolute Scale: Utilizing Semantic and Geometric Guidance From Text for Accurate and Interpretable 3D Indoor Scene Generation
提出GuidedSceneGen框架,通过文本预测全局3D布局并利用全景扩散模型和视频扩散模型生成绝对尺度的室内场景,实现高一致性、可导航的3D重建。
2026-06-29 cs.CV
LIFT: Layout-In-Future Video Generation under Large Viewpoint Change via On-Policy Self-Distillation
UC San Diego(加州大学圣迭戈分校);University of Virginia(弗吉尼亚大学);Meta;Amazon(亚马逊);Lambda
LIFT提出统一框架,通过未来布局控制与在线策略自蒸馏,解决大视角变化下视频生成的内容与布局可控性问题,提升视频质量与可控性。
2026-09-30 cs.CV
Training-Free Layout-to-Image Generation with Marginal Attention Constraints
Sony AI(索尼人工智能);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出MAC方法,无需额外模块或微调,通过边缘注意力约束优化潜在特征,提升布局生成的精确度和空间可控性。
2026-03-23 cs.CV
Spatial-Aware Latent Initialization for Controllable Image Generation
The Hong Kong University of Science Technology(香港科技大学)
针对文本到图像扩散模型布局控制效果差的问题,提出基于空间感知初始化噪声的即插即用方法,可集成到免训练布局框架中,在Stable Diffusion和COCO上验证了其提升布局引导效果且保留生成质量的作用。
2024-01-29 cs.AI cs.CV
ToLo: A Two-Stage, Training-Free Layout-To-Image Generation Framework For High-Overlap Layouts
Beijing University of Technology(北京工业大学)
本文提出ToLo,一种面向高重叠布局的两阶段免训练布局到图像生成框架,通过聚合和分离阶段优化注意力图损失,有效解决属性泄漏与实体缺失问题,显著提升现有方法在高重叠布局上的性能。
2025-03-03 cs.CV
CompoNeRF: Text-guided Multi-object Compositional NeRF with Editable 3D Scene Layout
HKUST(GZ)(香港科技大学(广州));OPPO(OPPO公司);HKUST(香港科技大学)
提出CompoNeRF框架,通过集成可编辑3D场景布局与双层文本引导机制,解决多物体场景生成中的引导崩溃问题,实现高保真、可编辑重组的多物体3D场景生成。
2024-09-24 cs.CV
InstanceAssemble: Layout-Aware Image Generation via Instance Assembling Attention
Fudan University(复旦大学);Xiaohongshu Inc.(小红书公司);Shanghai Innovation Institute(上海创新研究院)
针对现有布局到图像生成方法性能欠佳的问题,提出InstanceAssemble架构,通过实例组装注意力结合布局条件实现多模态控制,还构建了Denselayout基准和LGS评估指标,在复杂布局下达到最优性能且兼容性强。
2025-10-28 cs.CV
Beyond Flat Text: Dual Self-inherited Guidance for Visual Text Generation
Nankai University(南开大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
针对扩散模型在倾斜、弯曲等复杂文本布局下易生成扭曲文本且与背景不协调的问题,本文提出免训练框架STGen,通过语义校正与结构注入双分支实现高质量协调的复杂布局视觉文本生成。
2025-03-22 cs.CV
RSGen: Enhancing Layout-Driven Remote Sensing Image Generation with Diverse Edge Guidance
School of Future Science and Engineering, Soochow University, Suzhou, China(未来科学与工程学院,苏州大学);D-Robotics, Beijing, China(北京D-机器人);Fraunhofer Institute for Applied Information Technology, Sankt Augustin, Germany(弗劳恩霍夫应用信息技术研究所);School of Mathematical and Computing Sciences, Heriot-Watt University Malaysia, Putrajaya, Malaysia(数学与计算科学学院,赫瑞-瓦德大学马来西亚分校);Institute of Automation, Chinese Academy of Sciences, Beijing, China(自动化研究所,中国科学院北京分院)
RSGen通过多样边缘引导提升布局驱动的遥感图像生成,增强细粒度控制并严格遵守边界框约束,实验表明其显著提升了现有L2I模型性能。
2026-03-17 cs.AI cs.CV
Layered Rendering Diffusion Model for Controllable Zero-Shot Image Synthesis
Beihang University(北京航空航天大学);University of Bristol(布里斯托大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
针对文本驱动扩散模型空间可控性不足的问题,提出视觉引导优化零样本搜索空间,并构建分层渲染扩散(LRDiff)框架,通过多图层独立视觉引导控制对象去噪方向,在两类布局转图像任务中性能优于现有技术,还支持空间可控编辑。
2024-11-29 cs.CV
Integrating Meshes and 3D Gaussians for Indoor Scene Reconstruction with SAM Mask Guidance
IPAI, Seoul National University(首尔国立大学 IPAI)
提出结合3DGS与网格的室内场景重建方法,利用SAM掩码损失指导基元选择以解决联合训练难题,并引入额外致密化阶段提升图像质量。
2024-07-23 cs.CV
Pick-and-Draw: Training-free Semantic Guidance for Text-to-Image Personalization
针对文本到图像个性化方法过拟合导致生成多样性不足的问题,提出免训练的Pick-and-Draw语义引导方法,通过外观拾取与布局绘制双组件,在单参考图像下提升身份一致性与生成多样性,推动保真度权衡达到新帕累托前沿。
2024-01-30 cs.CV
PlanGen: Towards Unified Layout Planning and Image Generation in Auto-Regressive Vision Language Models
AI Research(360人工智能研究院)
提出统一模型PlanGen,仅用下一个token预测将布局规划与图像生成联合建模于自回归transformer中,通过统一提示实现多任务训练并支持布局引导的图像操作,实验验证其在多任务上有效。
2025-03-30 cs.CV
Layout-to-Image Generation with Localized Descriptions using ControlNet with Cross-Attention Control
Ruhr University Bochum(波鸿鲁尔大学)
本文针对 ControlNet 无法利用局部文本描述的问题,提出一种无需训练的交叉注意力操控方法,在保持图像质量的同时提升布局到图像生成的控制精度。
2024-02-20 cs.CV
LayoutTransformer: Layout Generation and Completion with Self-attention
University of California, San Diego(加利福尼亚大学圣地亚哥分校);Amazon AWS(亚马逊云科技);University of Maryland, College Park(马里兰大学学院公园分校)
我们解决的问题,场景布局生成不同的领域,如图像,移动应用程序,文档和3D对象。大多数复杂的场景,无论是自然的还是人为设计的,都可以表示为简单的组成图形基元的有意义的排列。生成新的布局或扩展现有布局需要理解这些原语之间的关系。为此,我们提出了LayoutTransformer,一个新的框架,利用自我注意力来学习布局元素之间的上下文关系,并在给定的域中生成新的布局。我们的框架允许我们生成一个新的布局,无论是从一个空的集合或从一个初始的种子集的原语,并可以很容易地扩展到支持任意的每个布局的原语。此外,我们的分析表明,该模型是能够自动捕获的原语的语义属性。我们提出了简单的改进,在这两个表示的布局图元,以及训练方法,以证明在非常不同的数据域,如对象边界框在自然图像(COCO限界框),文件(PubLayNet),移动应用程序(RICO数据集)以及三维形状(Part-Net)的竞争力的表现。代码和其他材料将在https://kampta.github.io/layout上提供。
2021-09-30 cs.CV cs.LG
CountLoop: Training-Free High-Instance Image Generation via Iterative Agent Guidance
University of Surrey(萨里大学);Universitat Autònoma de Barcelona(巴塞罗那自治大学);Simon Fraser University(西蒙菲莎大学)
CountLoop通过迭代反馈机制实现高密度场景下的精确实例控制,结合视觉语言模型生成布局和评估反馈,减少计数误差并提升空间质量。
2026-10-01 cs.CV
Learning Features, Not Layouts: Feature-Axis Attention as a Transfer Prior for Medical Imaging
University College Dublin(都柏林大学学院)
该研究设计了解耦空间与特征轴注意力的FAD-ViT,发现将全局注意力转向特征轴可在不损失从零训练性能的前提下,大幅提升医学成像任务的迁移能力,且参数与计算成本更低。
2026-10-12 cs.CV
LAW-Diffusion: Complex Scene Generation by Diffusion with Layouts
Sun Yat-Sen University(中山大学);Jinan University(暨南大学);University of Oxford(牛津大学)
本文提出 LAW-Diffusion,通过空间依赖解析、跨对象注意力、自适应布局引导和潜在嫁接实现可控、和谐且可局部重构的复杂场景生成,并以 SRS 指标验证其达到最优效果。
2023-08-13 cs.CV
Multi-Scale Diffusion: Enhancing Spatial Layout in High-Resolution Panoramic Image Generation
Zhejiang University(浙江大学)
本文提出多尺度扩散(MSD)框架,利用梯度下降将低分辨率结构信息融入高分辨率输出,解决了高分辨率全景图生成中空间布局不一致的问题,显著提升了生成连贯性。
2025-04-06 cs.CV
ConsistCompose: Unified Multimodal Layout Control for Image Composition
ConsistCompose通过将布局坐标直接嵌入语言提示,实现布局可控的多实例图像生成,并构建了3.4M的多实例生成数据集,提升了布局控制的精度和多模态理解能力。
2026-03-16 cs.CV
Attention Guidance Mechanism for Handwritten Mathematical Expression Recognition
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部)
针对手写数学表达式识别中的过解析、欠解析问题,提出含自引导和邻域引导的注意力引导机制,优化注意力权重,在多个CROHME数据集上取得优于现有SOTA的识别率。
2024-03-05 cs.CV
LayoutDiffuse: Adapting Foundational Diffusion Models for Layout-to-Image Generation
Amazon Web Services(亚马逊云科技);USC Information Sciences Institute(南加州大学信息科学研究所);Shanghai Jiao Tong University(上海交通大学)
布局到图像生成是指基于语义布局合成照片级逼真图像的任务。在本文中,我们提出了LayoutDiffuse,它采用了在大规模图像或文本图像数据集上预训练的基础扩散模型,用于生成布局到图像。通过采用一种基于布局注意力和任务感知提示的新型神经适配器,我们的方法有效地训练,生成具有高感知质量和布局对齐的图像,并且需要较少的数据。在三个数据集上的实验表明,我们的方法明显优于其他10个基于GANs,VQ-VAE和扩散模型的生成模型。
2023-02-16 cs.CV
High Fidelity Text to Image Generation with Contrastive Alignment and Structural Guidance
Columbia University(哥伦比亚大学)
针对文本驱动图像生成在语义对齐与结构一致性上的瓶颈,提出整合文本-图像对比约束与结构引导机制的高保真生成方法,通过联合优化多项损失提升图像质量,在COCO-2014上验证了优越性能。
2025-08-14 cs.CV
No More Ambiguity in 360° Room Layout via Bi-Layout Estimation
UC Merced(加州大学默塞德分校);National Tsing Hua University(国立清华大学);Amazon(亚马逊公司)
针对360°房间布局估计中的标注歧义问题,提出Bi-Layout双布局预测模型与特征引导模块,可天然检测歧义区域,同时提出消歧新指标,在MatterportLayout等基准上取得性能提升。
2024-04-15 cs.CV
Layout-Bridging Text-to-Image Synthesis
Beihang University(北京航空航天大学);Harbin Institute of Technology at Shenzhen(哈尔滨工业大学(深圳))
文本到图像合成的关键在于难以保持输入文本和合成图像之间的跨模态语义一致性。典型的方法,试图直接建模的文本到图像的映射,只能捕获文本中的关键字,表示共同的对象或动作,但不能学习他们的空间分布模式。规避这种限制的有效方法是生成图像布局作为指导,这是通过几种方法尝试的。然而,由于输入文本和对象位置的多样性,这些方法无法生成实际有效的布局。在本文中,我们推动在文本到布局生成和布局到图像合成有效的建模。具体来说,我们制定的文本到布局生成序列到序列建模任务,并建立我们的模型上Transformer学习对象之间的空间关系,通过建模它们之间的顺序依赖关系。在布局到图像合成阶段,我们专注于学习布局中每个对象的文本视觉语义对齐,以精确地将输入文本纳入布局到图像合成过程中。为了评估生成的布局的质量,我们专门设计了一个新的度量标准,称为布局质量分数,它既考虑了布局中边界框的绝对分布误差,也考虑了它们之间的相互空间关系。在三个数据集上进行的大量实验表明,我们的方法在预测布局和从给定文本合成图像方面的性能优于最先进的方法。
2022-08-12 cs.CV
Griffin: Generative Reference and Layout Guided Image Composition
Simon Fraser University(西蒙弗雷泽大学);Huawei(华为);University of Toronto(多伦多大学)
针对多图像布局控制问题,本文提出无需训练的 Griffin 方法,以单张参考图像和布局信息实现对象级与部件级的可控图像合成。
2025-09-30 cs.CV
Grounded Text-to-Image Synthesis with Attention Refocusing
University of Maryland(马里兰大学)
针对扩散模型难以精确遵循多对象、属性与空间关系提示的问题,本文提出两种注意力重聚焦损失,并利用 LLM 生成空间布局,在多个基准上提升了文本到图像合成的可控性。
2023-12-02 cs.CV
Control and Realism: Best of Both Worlds in Layout-to-Image without Training
University of Chinese Academy of Sciences, Beijing, China(中国科学院大学);National University of Singapore, Singapore(新加坡国立大学)
提出免训练方法WinWinLay,通过非局部注意力能量函数和自适应更新策略,在布局到图像生成中同时提升控制精度与真实感,超越现有最先进方法。
2025-06-18 cs.CV
ContextGen: Contextual Layout Anchoring for Identity-Consistent Multi-Instance Generation
ReLER Lab, CCAI, Zhejiang University(ReLER实验室、中国计算机学会、浙江大学)
ContextGen通过情境布局锚定和身份一致性注意力机制,实现多实例生成中的布局控制与身份一致性,首次构建了IMIG-100K数据集并取得新突破。
2026-02-12 cs.CV
Normalized Attention Guidance: Universal Negative Guidance for Diffusion Models
University of Surrey(萨里大学)
本文提出归一化注意力引导(NAG),一种无需训练、基于L1归一化注意力外推的通用负向引导方法,解决了少步采样下CFG失效问题,可跨架构和模态即插即用,并显著提升文本对齐、保真度和人类感知质量。
2025-06-03 cs.CV
A Parse-Then-Place Approach for Generating Graphic Layouts from Textual Descriptions
Xi’an Jiaotong University(西安交通大学);Microsoft Research Asia(微软亚洲研究院)
针对文本生成图形布局需处理隐含、组合、不完整约束的难题,提出先解析后放置的两阶段方法,引入中间表示分解任务,结合Transformer模型与预微调策略,经自建数据集实验验证有效。
2023-08-24 cs.CV
ROAP: A Reading-Order and Attention-Prior Pipeline for Optimizing Layout Transformers in Key Information Extraction
ROAP通过优化布局变换器的注意力分布,提升关键信息提取的性能,解决阅读顺序建模和视觉干扰问题。
2026-01-09 cs.CL cs.CV
AnyMS: Bottom-up Attention Decoupling for Layout-guided and Training-free Multi-subject Customization
Zhejiang University(浙江大学);HKUST(香港科技大学);Zhejiang Tobacco Monopoly Administration(浙江烟草专卖局)
AnyMS通过从下到上的双层注意力解耦机制,实现无训练的布局引导多主体定制,有效解决文本对齐、主体身份保持和布局控制的平衡问题。
2026-01-02 cs.AI cs.CV
ET-Net: A Generic Edge-aTtention Guidance Network for Medical Image Segmentation
Tianjin University(天津大学);Inception Institute of Artificial Intelligence(起源人工智能研究院)
分割是医学图像分析中的一项基本任务。然而,大多数现有的方法集中在主区域提取,而忽略了边缘信息,这是有用的,以获得准确的分割。在本文中,我们提出了一种通用的医学分割方法,称为边缘注意力引导网络(ET-网),它嵌入了边缘注意力表示来指导分割网络。具体地,边缘引导模块用于学习早期编码层中的边缘注意表示,然后将其转移到多尺度解码层,使用加权聚合模块进行融合。四个分割任务的实验结果(即,视网膜图像中的视盘/杯和血管分割,以及胸部X射线和CT图像中的肺部分割)表明,保留边缘注意表示有助于最终的分割精度,并且我们提出的方法优于当前最先进的分割方法。我们的方法的源代码可以在https://github.com/ZzzJzzZ/ETNet上获得。
2019-07-25 cs.CV
Zero-Painter: Training-Free Layout Control for Text-to-Image Synthesis
Picsart AI Research (PAIR)(Picsart人工智能研究院(PAIR));UT Austin(德克萨斯大学奥斯汀分校);Georgia Tech(佐治亚理工学院)
Zero-Painter提出免训练的布局条件文本到图像合成框架,通过PACA和ReGCA两阶段交叉注意力机制,实现对象与文本提示及掩码形状的精确对齐,在文本细节保留和掩码形状遵循上超越现有方法。
2024-06-06 cs.CV
Learning to Generate Multiple Objects from Dense and Occluded Layouts
University of Science, Ho Chi Minh City(胡志明市科学大学)
研究文本到图像扩散模型在密集场景中对象计数错误问题,提出布局感知注意力偏差和无模态平衡损失方法,引入基准测试,提高计数准确性并防止实例合并且保持图像质量。
2026-07-07 cs.CV
Self-Cross Diffusion Guidance for Text-to-Image Synthesis of Similar Subjects
University of California Merced(加州大学默塞德分校)
针对扩散模型合成相似主体时的主体混合问题,提出自交叉扩散引导,通过惩罚交叉与自注意力图重叠,免训练提升Unet及Transformer模型性能,并发布SSD基准。
2025-03-24 cs.CV
Freestyle Layout-to-Image Synthesis
Shanghai Jiao Tong University(上海交通大学);Singapore Management University(新加坡管理大学);University of Southampton(南安普顿大学)
典型的布局到图像合成(LIS)模型为语义类的封闭集合生成图像,例如,COCO-Stuff中的182个常见对象。在这项工作中,我们探讨了模型的自由式能力,即,它能在多大程度上生成看不见的语义(例如,类、属性和样式)添加到给定布局上,并将任务称为Freestyle LIS(FLIS)。由于大规模预训练语言图像模型的发展,许多区分模型(例如,图像分类和目标检测)被赋予了不可见类预测的能力。受此启发,我们选择利用大规模预训练的文本到图像扩散模型来实现不可见语义的生成。FLIS的关键挑战是如何使扩散模型能够从很可能违反其预先学习的知识的特定布局合成图像,例如,模型在预训练期间从未看到“独角兽坐在长凳上”。为此,我们引入了一个新的模块,称为纠正交叉注意力(RCA),可以方便地插入到扩散模型集成语义掩码。这个“插件”应用于模型的每个交叉注意层,以纠正图像和文本标记之间的注意力映射。RCA的关键思想是强制每个文本标记作用于指定区域中的像素,允许我们将来自预先训练的知识(一般)的各种语义自由地放置到给定的布局(特定)上。大量的实验表明,所提出的扩散网络产生逼真的和自由风格的布局到图像生成结果与不同的文本输入,这有很高的潜力,产生一堆有趣的应用程序。代码可在https://github.com/essunny310/FreestyleNet上获得。
2023-03-25 cs.CV
LoCo: Locally Constrained Training-Free Layout-to-Image Synthesis
Suzhou Institute for Advanced Research, University of Science and Technology of China(中国科学技术大学苏州高等研究院)
本文提出免训练布局到图像合成方法 LoCo,通过引入局部注意力约束(LAC)和填充令牌约束(PTC),精确控制对象放置并提升外观与布局的一致性,在多个基准上超越现有免训练方法。
2024-03-26 cs.CV
DepthGAN: GAN-based Depth Generation of Indoor Scenes from Semantic Layouts
University of Chinese Academy of Sciences(中国科学院大学);Chongqing University(重庆大学)
受计算效率和精度的限制,生成复杂的3D场景仍然是现有生成网络的一个挑战性问题。在这项工作中,我们提出了DepthGAN,这是一种只使用语义布局作为输入生成深度图的新方法。首先,我们引入了一个精心设计的Transformer块级联作为我们的生成器来捕获深度图中的结构相关性,这使得全局特征聚合和局部注意力之间取得了平衡。同时,我们提出了一个交叉注意融合模块,以指导边缘保护有效地在深度生成,它利用额外的外观监督信息。最后,我们在Structured3d全景数据集上进行了大量的实验,实验结果表明,本文提出的深度GAN算法在深度生成任务中,无论是在量化结果还是视觉效果上都取得了优异的性能,而且我们生成的深度图可以重建出具有合理结构和空间一致性的室内三维场景。
2022-03-22 cs.CV
DyST-XL: Dynamic Layout Planning and Content Control for Compositional Text-to-Video Generation
Zhejiang University(浙江大学)
提出免训练框架DyST-XL,通过动态布局规划、双提示注意力控制和实体一致性约束,显著提升了组合式文本到视频生成中多实体交互与时空关系的准确性。
2025-04-30 cs.CV
Layout-Guided Novel View Synthesis from a Single Indoor Panorama
ShanghaiTech University(上海科技大学);KooLab;Shanghai Engineering Research Center of Intelligent Vision and Imaging(上海智能视觉与成像工程技术研究中心)
现有的视图合成方法主要针对透视图像,并取得了良好的效果。然而,由于针孔摄像机的视场有限,当采用大的摄像机运动时,性能迅速下降。在本文中,我们第一次尝试从一个单一的室内全景图生成新的意见,并考虑到大型摄像机的平移。为了解决这个具有挑战性的问题,我们首先使用卷积神经网络(CNN)从源视图图像中提取深度特征并估计深度图。然后,我们利用房间布局先验,一个强的室内场景的结构约束,以指导目标视图的生成。更具体地说,我们在源视图中估计房间布局,并将其转换为目标视点作为指导。同时,我们还约束生成的目标视图图像的房间布局,以加强几何一致性。为了验证我们的方法的有效性,我们进一步构建了一个包含小型和大型相机平移的大规模照片级真实感数据集。在我们具有挑战性的数据集上的实验结果表明,我们的方法达到了最先进的性能。该项目的页面位于https://github.com/bluestyle97/PNVS。
2021-03-31 cs.CV
MFTF: Mask-free Training-free Object Level Layout Control Diffusion Model
针对扩散模型仅靠文本难以精确控制物体位置且现有方法依赖额外掩码或重训练的局限,提出无需掩码免训练的物体级布局控制扩散模型(MFTF),通过源与目标扩散模型并行去噪及交叉注意力掩码引导自注意力查询调整,实现精确的单/多物体位置与语义编辑。
2024-12-18 cs.AI cs.CV
SpotActor: Training-Free Layout-Controlled Consistent Image Generation
Xi’an Jiaotong University(西安交通大学);Zhejiang University of Technology(浙江工业大学);SGIT AI Lab(SGIT人工智能实验室);China Telecom Artificial Intelligence Technology Co.Ltd(中国电信人工智能科技有限公司);Baidu Inc(百度公司)
本文提出无需训练的 SpotActor 流程,通过双重能量引导、布局反向更新及 RISA/SFCA 跨图像交互,实现由布局和文本控制的一致性组合图像生成。
2024-09-07 cs.CV
StyleSSP: Sampling StartPoint Enhancement for Training-free Diffusion-based Method for Style Transfer
Zhejiang University(浙江大学);Dcar(懂车帝)
针对免训练扩散风格迁移中的内容布局改变与风格图内容泄漏,本文提出 StyleSSP,通过优化 DDIM 潜变量频率成分和反演负向引导改进采样起点,提升内容保持并减少泄漏。
2025-03-14 cs.CV
LAMIC: Layout-Aware Multi-Image Composition via Scalability of Multimodal Diffusion Transformer
University of Science and Technology of China(中国科学技术大学);Onestory Team(Onestory团队);East China Normal University(华东师范大学)
LAMIC通过无训练方式实现多参考图像合成,提升布局控制与背景一致性。
2025-12-23 cs.CV
Semantics-Aware Attention Guidance for Diagnosing Whole Slide Images
University of Washington(华盛顿大学);David Geffen School of Medicine, UCLA(加州大学洛杉矶分校大卫·格芬医学院)
针对全切片图像尺寸大、空间关系复杂导致传统MIL癌症诊断准确率不足的问题,提出包含注意力信号转换技术与灵活注意力损失的SAG框架,在两个癌症数据集上提升了诊断性能,且可适配任意基于注意力的诊断模型。
2024-04-16 cs.CV
SSMG: Spatial-Semantic Map Guided Diffusion Model for Free-form Layout-to-Image Generation
State Grid Corporation of China(中国国家电网公司);SGIT AI Lab(SGIT人工智能实验室)
提出SSMG扩散模型,利用布局导出的特征图作为引导,结合关系敏感和位置敏感注意力机制,实现自由形式布局到图像生成,在保真度、多样性和可控性上达到新最先进水平。
2024-03-13 cs.AI cs.CV
LTOS: Layout-controllable Text-Object Synthesis via Adaptive Cross-attention Fusions
National University of Defense Technology(国防科技大学);Nanyang Technological University(南洋理工大学);Huawei Technologies Ltd(华为技术有限公司)
本文针对可控文本到图像生成中单一模态任务方法存在差距的问题,提出LTOS任务并构建相关数据集,设计TOF框架实现文本与对象的协调生成,实验表明其在多任务上优于现有技术。
2024-11-26 cs.AI cs.CV