Improving Diffusion Generalization with Weak-to-Strong Segmented Guidance
Westlake University(西湖大学);Tongji University(同济大学);Zhejiang University(浙江大学);University of California at Merced(加州大学默塞德分校)
本文提出SGG方法,通过弱到强原则结合CFG和AG的优势,提升扩散模型泛化能力,并在训练和推理阶段验证其有效性。
2026-03-21 cs.CV
Improving Subject-Driven Image Synthesis with Subject-Agnostic Guidance
Google(谷歌)
本文提出主体无关引导(SAG)方法,通过构建主体无关条件和双分类器无关引导,解决主体驱动图像合成中文本提示属性被忽略的问题,显著提升生成质量。
2024-05-02 cs.CV
Improving Diffusion-based Image Translation using Asymmetric Gradient Guidance
KAIST(韩国科学技术院)
针对扩散图像翻译中风格转换与内容保留的权衡及高微调成本,提出非对称梯度引导扩散采样反向过程,无需额外训练即可提升文本与图像引导翻译的速度、稳定性和效果。
2023-06-07 cs.AI cs.CV cs.LG
Hierarchical Prompt Decision Transformer: Improving Few-Shot Policy Generalization with Global and Adaptive Guidance
University of Virginia(弗吉尼亚大学);Amazon(亚马逊公司)
针对决策Transformer少样本泛化中静态提示缺乏上下文针对性的问题,提出带检索增强的分层提示方法,通过全局与自适应两层软令牌实现动态引导,在7项基准任务上优于所有基线。
2024-12-13 cs.LG
Improving Tuning-Free Real Image Editing with Proximal Guidance
Rutgers University(罗格斯大学);Laval University(拉瓦尔大学);New York University(纽约大学);UT Austin(德克萨斯大学奥斯汀分校);MIT-IBM AI Lab(麻省理工学院-IBM人工智能实验室)
本文提出近端引导并结合交叉注意力与互自注意力控制来增强负提示反演,在保持免训练特性的同时减少伪影并支持几何布局编辑,从而以最小计算开销改进免调优真实图像编辑。
2023-07-06 cs.CV
Diffusion Model with Perceptual Loss
ByteDance Inc.(字节跳动公司)
本文提出扩散模型生成质量差的根源在于均方误差损失目标与数据假设不一致,并从感知监督视角解释引导方法,进而设计自感知损失目标,在无需引导的情况下训练出生成更真实样本的扩散模型。
2025-03-08 cs.AI cs.CV cs.LG
Improving Viewpoint Consistency in 3D Generation via Structure Feature and CLIP Guidance
The Australian National University(澳大利亚国立大学);CSIRO;The University of Hong Kong(香港大学)
本文提出免微调的Attention and CLIP Guidance (ACG)机制,通过自适应控制交叉注意力图、利用CLIP相似度过滤错误视点及由粗到细优化策略,有效解决了文本到3D生成中的Janus Problem,且不牺牲生成速度。
2025-08-14 cs.CV
Improving Geo-diversity of Generated Images with Contextualized Vendi Score Guidance
FAIR at Meta(Meta FAIR研究院);Mila(米拉计算科学研究所);McGill University(麦吉尔大学)
本文提出推理时干预方法 c-VSG,通过引导潜在扩散模型的反向步骤并利用真实世界示例集约束变化范围,在保持图像质量的同时显著提升生成图像的地理多样性。
2024-08-02 cs.AI cs.CV cs.LG
Probability-Conserving Flow Guidance
University of Bristol(布里斯托大学);KAIST(韩国科学技术院)
本文提出了一种概率守恒的流引导方法AdaMaG,通过分析连续方程,将引导效果分解为发散项和分数平行项,并通过时间依赖的调度和分数平行衰减来控制这两个项,从而在不增加推理成本的情况下提高生成质量并减少幻觉。
2026-11-09 cs.AI cs.CV cs.LG
RFG: Self-Improving Diffusion Large Language Models with Reward-Free Guidance
Stanford University(斯坦福大学)
本文提出无奖励引导框架 RFG,通过增强型与参考 dLLM 的对数似然比隐式参数化过程奖励,实现免训练的测试时推理扩展,实验显示最高 9.2% 的准确率提升。
2026-10-06 cs.CL cs.LG
Momentum Guidance: Plug-and-Play Guidance for Flow Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出动量引导方法,通过扩展当前速度远离过去速度的指数移动平均,提升样本质量并保持成本,优于现有引导技术,实验显示在ImageNet-256上FID显著降低。
2026-06-28 cs.CV cs.LG
Steer Away From Mode Collisions: Improving Composition In Diffusion Models
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出通过纠正采样策略改进文本到图像扩散模型中多概念提示的保真度,避免模式碰撞,提升概念平衡性和鲁棒性。
2026-03-13 cs.CV cs.LG
Improving Classifier-Free Guidance of Flow Matching via Manifold Projection
Department of Mathematics, The Hong Kong University of Science;IAS Center for AI for Scientific Discoveries, The Hong Kong University of Science;School of Mathematics;Statistics \& Institute of Interdisciplinary Research for Mathematics;Applied Science \& Hubei Key Laboratory of Engineering Modeling;Scientific Computing, Huazhong University of Science;Department of Statistics;Data Science, Southern University of Science
本文通过优化视角解释无分类器引导,提出流形约束下的同伦优化方法,提升生成质量与鲁棒性,验证在DiT-XL-2-256等大模型上的有效性。
2026-05-13 cs.AI cs.CV
Bridging the Gap: Addressing Discrepancies in Diffusion Model Training for Classifier-Free Guidance
University of California, Los Angeles(加州大学洛杉矶分校);Swiss Data Science Center, ETH Zürich(苏黎世联邦理工学院瑞士数据科学中心);Swiss Data Science Center, Paul Scherrer Institute(保罗·谢勒研究所瑞士数据科学中心)
本文针对扩散模型中无分类器引导训练与采样行为不一致的问题,提出一种更新后的损失函数,在 CIFAR-10 上以更少采样步数获得更高质量样本,并对引导尺度更鲁棒,同时在 Stable Diffusion 上初步验证了其有效性。
2023-11-02 cs.AI cs.CV cs.LG
Layout Control and Semantic Guidance with Attention Loss Backward for T2I Diffusion Model
Suning(苏宁)
本文提出一种基于注意力损失反向传播的无训练方法,通过控制交叉注意力图,解决T2I扩散模型在可控生成中的属性不匹配和布局完成度不足问题,无需训练或微调即可实现显式布局约束。
2024-11-11 cs.CV
DIFFNAT: Improving Diffusion Image Quality Using Natural Image Statistics
Johns Hopkins University(约翰霍普金斯大学)
本文提出峰度集中(KC)损失函数,利用自然图像统计特性提升扩散模型生成图像质量,无需额外指导,在少样本微调、无条件生成和超分辨率任务中均改善FID和MUSIQ评分。
2023-11-16 cs.CV
REG: Rectified Gradient Guidance for Conditional Diffusion Models
Massachusetts Institute of Technology(麻省理工学院)
本文提出校正梯度引导(REG),通过修正理论无效的缩放边际分布目标为联合分布目标,提升条件扩散模型性能,实验证明其在多个任务上优于现有引导方法。
2025-05-22 cs.AI cs.CV cs.LG
Entropy Rectifying Guidance for Diffusion and Flow Models
FAIR at Meta(Meta 的 FAIR 部门);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化技术研究院);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔研究所);LJK, France(法国劳埃德-约瑟夫-克劳德实验室);McGill University(麦吉尔大学);Mila, Quebec AI institute(魁北克人工智能研究所);Canada CIFAR AI chair(加拿大 CIFAR 人工智能主席)
ERG是一种基于注意力机制变化的简单有效引导方法,能同时提升图像质量、多样性及提示一致性,适用于扩散和流模型的多种生成任务。
2025-11-28 cs.AI cs.CV
Motion Guidance: Diffusion-Based Image Editing with Differentiable Motion Estimators
University of Michigan(密歇根大学)
针对扩散模型难以精确编辑图像中物体布局、姿态等的问题,提出零样本运动引导技术,通过光流网络梯度引导扩散采样,实现指定运动场的高质量图像运动编辑。
2024-01-31 cs.CV
End-to-End Diffusion Latent Optimization Improves Classifier Guidance
Salesforce Research(赛富时研究院);Stanford University(斯坦福大学)
本文提出DOODL方法,通过直接优化扩散潜在并利用可逆扩散过程实现内存高效反向传播,解决了传统分类器引导中梯度错位问题,在多种引导任务上优于一步分类器引导。
2023-05-31 cs.AI cs.CV cs.LG
KB-DMGen: Knowledge-Based Global Guidance and Dynamic Pose Masking for Human Image Generation
Shibang Liu;Xuemei Xie;Guangming Shi
针对人体图像生成中姿态对齐牺牲图像质量的问题,提出KB-DMGen框架,通过在扩散过程不同阶段注入知识库全局引导和动态姿态掩码局部控制,在不损害图像质量的前提下增强姿态准确性,并在HumanArt数据集上取得最先进结果。
2025-09-15 cs.CV
ContrastiveCFG: Guiding Diffusion Sampling by Contrasting Positive and Negative Concepts
EverEx
研究在条件扩散模型采样中,针对简单否定CFG引导存在的问题,提出用对比损失实现对给定条件引导的新方法,能在多样场景下有效注入或去除给定概念并保持样本质量。
2026-07-09 cs.AI cs.CV cs.LG
Fine color guidance in diffusion models and its application to image compression at extremely low bitrates
INRIA Rennes(法国国家信息与自动化研究所雷恩分部)
本研究提出无需训练微调的扩散模型精细色彩引导方法,推导新引导方程并保持高引导缩放系数,将其应用于极低码率图像压缩,结合语义与色彩信息低成本解码,提升压缩图像的保真度与真实感。
2024-04-10 cs.CV
A Noise is Worth Diffusion Guidance
Korea University(高丽大学);KAIST(韩国科学技术院);Sookmyung Women’s University(淑明女子大学);Hugging Face
针对扩散模型需引导生成可靠图像的问题,提出NoiseRefine方法,通过优化初始噪声为无引导噪声,利用小幅度低频分量增强去噪,无需引导即可提升推理效率和图像质量,仅需50K数据即可实现高效学习。
2024-12-05 cs.AI cs.CV cs.LG
Single-step Diffusion-based Video Coding with Semantic-Temporal Guidance
Communication University of China(中国通信大学);University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
S2VC通过单步扩散与语义-时间引导,实现低比特率下的高质量视频编码,比特率节省达52.73%。
2026-09-15 cs.CV
RectifiedHR: High-Resolution Diffusion via Energy Profiling and Adaptive Guidance Scheduling
Fordham University(福特汉姆大学)
RectifiedHR通过能量分析和自适应引导调度提升高分辨率扩散模型的稳定性和图像质量。
2025-12-11 cs.CV cs.GR
High Fidelity Text to Image Generation with Contrastive Alignment and Structural Guidance
Columbia University(哥伦比亚大学)
针对文本驱动图像生成在语义对齐与结构一致性上的瓶颈,提出整合文本-图像对比约束与结构引导机制的高保真生成方法,通过联合优化多项损失提升图像质量,在COCO-2014上验证了优越性能。
2025-08-14 cs.CV
Classifier-Free Guidance in Flow Matching: Non-Autonomous Potentials, Overshoot, and Posterior-Mean Control
School of Mathematical Sciences, Shanghai Jiao Tong University(上海交通大学数学科学学院);Institute of Natural Sciences, MOE-LSC, Shanghai Jiao Tong University(上海交通大学自然科学研究院);Qing Yuan Research Institute, Shanghai Jiao Tong University(上海交通大学清源研究院);CMA-Shanghai, Shanghai Jiao Tong University(上海交通大学上海数学中心)
本文提出PMC-CFG,通过几何视角分析流匹配中CFG的失真问题,并利用终端后验均值自适应控制引导强度,在无需额外训练下改善对齐与多样性的权衡。
2026-09-22 cs.CV
Steering Your Generalists: Improving Robotic Foundation Models via Value Guidance
UC Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学)
本文提出价值引导策略转向(V-GPS),通过离线强化学习学到的价值函数对通才机器人策略的动作重新排序,无需微调即可提升多种策略在12个任务上的性能。
2025-02-24 cs.LG cs.RO
Analyzing Multimodal Objectives Through the Lens of Generative Diffusion Guidance
Seoul National University(首尔国立大学)
近年来,多模态表示学习领域取得了惊人的进展,其中对比学习是重大突破的基石。最新的作品通过将不同的目标(如掩码建模和字幕)纳入框架中,提供了进一步的改进,但我们对这些目标如何促进学习的理解仍然非常不完整。在本文中,我们利用分类器引导的扩散模型生成反映分类器提供的语义信号的图像来研究多模态学习目标的特征。具体来说,我们比较对比,匹配和字幕损失方面的语义信号,并引入一个简单的基线,不仅支持我们的分析,但也提高了生成指导的质量在一个简单的方式。
2023-02-10 cs.AI cs.CV cs.LG
Diffusion Models with Implicit Guidance for Medical Anomaly Detection
Technical University of Munich(慕尼黑工业大学);Helmholtz AI(亥姆霍兹人工智能研究所);Klinikum Rechts der Isar(雷克右岸医院);Imperial College London(帝国理工学院)
本文提出THOR方法,通过时间异常图提供隐式引导,改进扩散模型的去噪过程,以更准确地检测和分割医学图像中的异常,在脑部MRI和腕部X射线中优于现有方法。
2024-03-13 cs.CV cs.LG eess.IV
Feedback Guidance of Diffusion Models
Ghent University - imec(根特大学 - imec);Donders Institute for Brain Cognition and Behaviour(大脑认知与行为研究所)
提出反馈引导(FBG),通过状态依赖系数动态调节扩散模型引导量,在ImageNet512x512上优于CFG且与LIG相当,并能自适应提示复杂度。
2025-10-09 cs.CV
Improving MMD-GAN Training with Repulsive Loss Function
University of Melbourne(墨尔本大学);RMIT University(皇家墨尔本理工大学)
生成对抗网络(GANs)被广泛用于学习数据采样过程,并且在给定有限的计算预算的情况下,它们的性能可能在很大程度上取决于损失函数。本研究重新审视MMD-GAN,使用最大平均差异(MMD)作为GAN的损失函数,并作出两个贡献。首先,我们认为,现有的MMD损失函数可能会阻碍学习数据中的细节,因为它试图合同的真实数据的输出。为了解决这个问题,我们提出了一个排斥损失函数,通过简单地重新排列MMD中的项来主动学习真实数据之间的差异。其次,受铰链损失的启发,我们提出了一个有界高斯核来稳定MMD-GAN的训练与排斥损失函数。所提出的方法适用于CIFAR-10,STL-10,CelebA和LSUN卧室数据集上的无监督图像生成任务。结果表明,排斥损失函数显着改善了MMD损失在没有额外的计算成本,并优于其他代表性的损失函数。所提出的方法使用单个DCGAN网络和光谱归一化在CIFAR-10数据集上实现了16.21的FID分数。
2019-02-08 cs.CV cs.LG stat.ML
SemGeoMo: Dynamic Contextual Human Motion Generation with Semantic and Geometric Guidance
ShanghaiTech University(上海科技大学);The Chinese University of Hong Kong(香港中文大学)
本文提出 SemGeoMo 方法,利用文本-可供性-关节多级语义和几何引导生成动态上下文人体运动,在三个数据集上达到SOTA并具备卓越泛化能力。
2025-03-03 cs.CV
Guidance Free Image Editing via Explicit Conditioning
Samsung AI Cambridge(三星AI剑桥研究院)
针对条件扩散模型中无分类器引导(CFG)计算成本高的问题,提出显式条件调节(EC)技术,通过对噪声建模引导扩散过程,在图像编辑任务中以更低计算量实现更优的多样化高质量图像生成效果。
2025-03-22 cs.CV
Applying Guidance in a Limited Interval Improves Sample and Distribution Quality in Diffusion Models
Aalto University(阿尔托大学);NVIDIA(英伟达公司)
本文发现扩散模型采样链中引导仅在中间噪声水平有益,提出将引导限制在有限区间,显著提升ImageNet-512的FID(从1.81降至1.40),并在多种设置下验证了其通用性。
2024-11-06 cs.AI cs.CV cs.LG
Text-to-Image Generation via Implicit Visual Guidance and Hypernetwork
University of Chicago(芝加哥大学);Adobe Research(奥多比研究院);University of Surrey(萨里大学)
我们开发了一种方法,文本到图像的生成,包括额外的检索图像,隐含的视觉指导损失和生成目标的组合驱动。与大多数现有的文本到图像的生成方法,仅仅把文本作为输入,我们的方法动态饲料的跨模态搜索结果到一个统一的训练阶段,从而提高质量,可控性和多样性的生成结果。我们提出了一种新的超网络调制的视觉-文本编码方案来预测编码层的权重更新,使视觉信息(例如布局,内容)有效地转移到相应的潜在域。实验结果表明,我们的模型指导额外的检索视觉数据优于现有的基于GAN的模型。在COCO数据集上,与最先进的方法相比,我们用最多$3.5 \times$更少的生成器参数实现了$9.13$的更好的FID。
2022-08-17 cs.CV
TAG: Tangential Amplifying Guidance for Hallucination-Resistant Sampling
Korea University(韩国大学);University of California, Berkeley(加州大学伯克利分校);University of Washington(华盛顿大学)
提出一种无需训练、与架构无关的即插即用引导方法TAG,通过放大估计分数的切向分量来纠正采样轨迹,减少语义不一致性并提高保真度。
2026-05-26 cs.CV
Diagnosing and Improving Diffusion Models by Estimating the Optimal Loss Value
State Key Laboratory of General Artificial Intelligence(通用人工智能国家重点实验室);Zhongguancun Academy(中关村学院)
本文通过估计扩散模型的最优损失值,提出了一种诊断和改进扩散模型的方法,开发了有效的估计器,并发现减去最优损失后,功率律更明显。
2026-04-16 cs.AI cs.CV cs.LG
DMA$^2$: Pixel-space Distribution Matching with Adversarial and Anchor Losses
UC San Diego(加州大学圣迭戈分校);Adobe Research(Adobe研究院);University of Virginia(弗吉尼亚大学);UC Merced(加州大学默塞德分校)
提出DMA$^2$,通过固定高噪声匹配带、DINO-Adv对抗指导和AF-Loss分布目标,实现像素空间少步扩散蒸馏,四步生成超越25步教师。
2026-09-30 cs.CV
UniGeo: Unifying Geometric Guidance for Camera-Controllable Image Editing via Video Models
ReLER, CCAI, Zhejiang University(ReLER、CCAI、浙江大学);DBMI, HMS, Harvard University(DBMI、HMS、哈佛大学)
UniGeo通过统一的几何指导在三个层面提升相机可控图像编辑的几何一致性与视觉质量,克服传统方法在连续相机运动下的几何漂移和结构退化问题。
2026-06-29 cs.CV
Improving Consistency in Diffusion Models for Image Super-Resolution
Tsinghua University(清华大学);vivo Mobile Communication Co., Ltd(vivo移动通信有限公司)
针对扩散超分辨率中的语义和训练-推理不一致性,提出ConsisSR,结合混合提示适配器与时间感知潜在增强,实现最先进性能。
2025-04-24 cs.CV
EMAG: Self-Rectifying Diffusion Sampling with Exponential Moving Average Guidance
Australian Institute for Machine Learning(澳大利亚机器学习研究所);The University of Adelaide(阿德莱德大学)
EMAG通过无训练机制改进扩散模型的引导技术,生成更困难的负样本以提升生成质量和人类偏好分数。
2026-09-01 cs.CV
Kaleido Diffusion: Improving Conditional Diffusion Models with Autoregressive Latent Modeling
Apple(苹果公司);Virginia Tech(弗吉尼亚理工大学)
针对扩散模型在高无分类器引导权重下样本多样性受限的问题,提出Kaleido方法,通过自回归语言模型生成多种离散潜在表示作为先验,有效提升了生成图像的多样性与质量,并增强了对生成过程的控制。
2024-05-31 cs.CV
VPG: Visual Prefix Guidance for Autoregressive Image and Video Generation
National University of Singapore(新加坡国立大学);Huazhong University of Science & Technology(华中科技大学)
提出VPG,一种无需训练、推理时引导的方法,通过对比生成前缀与损坏前缀下的模型输出来改进自回归图像和视频生成的下一步预测,提升生成质量。
2026-05-28 cs.CV
SP-Guard: Selective Prompt-adaptive Guidance for Safe Text-to-Image Generation
Department of Electrical and Computer Engineering, Seoul National University, Seoul, South Korea(电气与计算机工程系,首尔国立大学,首尔,韩国);IPAI / ASRI / INMC, Seoul National University, Seoul, South Korea(IPAI/ASRI/INMC,首尔国立大学,首尔,韩国)
针对基于扩散的T2I模型易生成有害内容的问题,提出SP-Guard方法,通过估计提示有害性并应用选择性引导掩码仅引导不安全区域,在提升生成安全性的同时减少非预期内容改变,还强调了图像生成中透明度和可控性的重要性。
2025-11-14 cs.CV cs.CY
Improving Regression Performance with Distributional Losses
University of Alberta(阿尔伯塔大学)
越来越多的证据表明,在监督学习中将目标转换为软目标可以提供相当大的性能增益。这项工作的大部分都考虑了分类,将硬0 - 1值转换为软标签-例如通过添加标签噪声,合并标签模糊性或使用蒸馏。与此同时,强化学习中的回归设置也有一些证据表明,学习分布可以提高性能。在这项工作中,我们调查的原因,这种改善,在回归设置。我们引入了一种新的分布回归损失,同样发现它显着提高了预测精度。我们研究了几个常见的假设,围绕减少过拟合和改进表示。相反,我们找到了一个备择假设的证据:这种损失更容易优化,具有更好的行为梯度,从而提高泛化能力。我们提供了理论支持,这个备择假设,通过表征这种损失的梯度的范数。
2018-06-12 cs.LG stat.ML
CharDiff-LP: A Diffusion Model with Character-Level Guidance for License Plate Image Restoration
Handong Global University(韩东国际大学)
提出CharDiff-LP扩散框架,通过字符级引导(CHARM模块)恢复严重退化车牌图像,在Roboflow-LP数据集上字符错误率相对降低28.3%。
2026-07-01 cs.AI cs.CV
Enhancing Diffusion Model Guidance through Calibration and Regularization
UC San Diego(加州大学圣迭戈分校);Politecnico di Milano(米兰理工学院)
本文通过校准和正则化方法提升扩散模型引导效果,改进分类器校准和采样策略,提升图像生成质量。
2025-12-21 cs.AI cs.CV cs.IT
Improving Proactive AI Assistance with Hierarchical Procedural Understanding
Sungkyunkwan University(成均馆大学);Nanyang Technological University(南洋理工大学)
本文提出ProactiveCoach套件,通过层次化程序指导数据训练VLM,提升主动式AI助手在正确时间提供恰当指导的能力,相比固定粒度监督性能提升9.6%,自适应系统比基线高57.1%。
2026-10-07 cs.CV cs.LG
Improving Discriminator Guidance in Diffusion Models
École Normale Supérieure Paris, PSL University(巴黎高等师范大学,巴黎大学);Mila, Quebec AI Institute, Université de Montréal(魁北克人工智能研究所,蒙特利尔大学);LAMSADE, CNRS, Université Paris-Dauphine-PSL(LAMSADE,国家科学研究中心,巴黎-dauphine-巴黎大学)
针对扩散模型中标准判别器引导易增大KL散度的问题,提出理论可靠的训练目标以正确最小化KL散度,经多数据集验证,该方法生成样本质量优于传统方法。
2025-06-11 cs.LG
Improving Classifier-Free Guidance in Masked Diffusion: Low-Dim Theoretical Insights with High-Dim Impact
Georgia Institute of Technology(佐治亚理工学院);Sony AI(索尼人工智能)
本文提出了一种改进的分类器自由引导方法,通过理论分析和实验验证,解决了早期采样阶段引导过强导致的生成质量下降问题,并通过简单代码调整提升了样本质量。
2026-03-02 cs.AI cs.LG stat.ML
ReGuide: From Test-Time Guidance to Self-Improving Diffusion Policies
Texas A&M University(德克萨斯A&M大学)
提出ReGuide框架,利用引导轨迹作为可重用的策略内恢复数据,通过相位条件引导和微调或从头训练,在多个机器人任务上将基础策略成功率提升1.3-7.7倍。
2026-06-27 cs.LG cs.RO
Improving Disentangled Text Representation Learning with Information-Theoretic Guidance
Duke University(杜克大学);NEC Labs America(NEC美国实验室);Microsoft Dynamics 365 AI(微软Dynamics 365人工智能);Microsoft Research(微软研究院)
学习自然语言的分解表示对于许多NLP任务是必不可少的,例如,条件文本生成、风格转换、个性化对话系统等。对于其它形式的数据,例如图像和视频,已经广泛地研究了类似的问题。然而,自然语言的离散性质使得文本表示的解开更具挑战性(例如,不能容易地实现对数据空间的操纵)。受信息论的启发,我们提出了一种新的方法,有效地体现了解开表示的文本,没有任何监督的语义。一个新的互信息上限推导和杠杆来衡量风格和内容之间的依赖性。通过最小化这个上界,所提出的方法将风格和内容嵌入到两个独立的低维空间中。两个有条件的文本生成和文本风格转移的实验表明,我们的解纠缠表示的内容和风格保存方面的高品质。
2022-01-12 cs.LG stat.ML