Self-Speculative Masked Diffusions
Google DeepMind(谷歌DeepMind)
自推测掩码扩散通过非因子化预测减少计算负担,实现文本和蛋白质序列生成的高效样本生成。
2026-03-06 cs.LG stat.ML
Query-Efficient Rejection Sampling for Parallel Masked Diffusion
University of California, Los Angeles(加州大学洛杉矶分校)
针对掩码扩散模型并行采样忽略token相关性的问题,提出单增量拒绝采样器SIRS,通过单次查询估计对数接受概率并结合Rao-Blackwell化减少截断,降低了查询成本且界定了KL散度。
2026-10-16 cs.LG math.PR stat.ML
The Cosine Schedule is Fisher-Rao-Optimal for Masked Discrete Diffusion Models
University of Oxford(牛津大学);University of British Columbia(不列颠哥伦比亚大学)
本文从信息几何角度研究掩码离散扩散模型的采样调度,证明Fisher-Rao几何下的最优调度即常用的余弦调度。
2025-10-05 cs.LG stat.ML
Parallel Sampling from Masked Diffusion Models via Conditional Independence Testing
Department of Statistics University of Oxford(统计学系牛津大学)
PUNT通过近似条件独立性检验识别并移除冲突的低置信度令牌,在掩码扩散模型中实现并行采样,平衡独立性与置信度,提升长序列生成准确率高达16%。
2025-10-24 cs.CL cs.LG
Masked Diffusion Models as Energy Minimization
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学首都人工智能学院);Beijing Key Laboratory of Research on Large Models and Intelligent Governance(北京大模型与智能治理重点实验室);Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE(下一代智能搜索与推荐工程技术研究中心,教育部);Huawei Noah’s Ark Lab(华为诺亚实验室)
本文提出将掩码扩散模型解释为离散最优传输中能量最小化问题的理论框架,证明三种能量形式在MDM结构下等价,并通过Beta分布参数化插值调度,提升采样效率。
2026-03-23 cs.AI cs.CL cs.LG
Twist, Don't Tilt: Trajectory-Exact Constrained Decoding for Masked Diffusion Models
Cisco Research(思科研究院);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对掩码扩散语言模型约束解码中的轨迹偏差问题,提出TWISTER解码器,利用自动机扭曲序贯蒙特卡洛与Feynman-Kac校正,实现无偏的Doob h变换路径采样。
2026-09-29 cs.AI cs.CL cs.LG
Learning Sampling Distributions for Robot Motion Planning
Google Brain(谷歌大脑);Stanford University(斯坦福大学)
基于采样的运动规划的定义特征是依赖于状态空间的隐式表示,这是由一组探测样本实现的。传统上,这些样本被概率性地或确定性地绘制以均匀地覆盖状态空间。然而,许多机器人系统的运动通常被限制在状态空间的“小”区域,例如,由于微分约束或碰撞避免约束。为了加速规划过程,因此期望设计非均匀采样策略,该非均匀采样策略有利于在可能存在最优解的那些区域中进行采样。本文提出了一种非均匀抽样的方法,即从示范中学习抽样分布,然后用于偏置抽样。通过条件变分自编码器计算采样分布,允许从以特定规划问题为条件的潜在空间生成样本。这种方法是通用的,可以与任何基于采样的规划器结合使用,并且可以有效地利用规划问题的底层结构,同时保持基于采样的方法的理论保证。具体而言,在几个规划问题,所提出的方法,有效地学习表示的状态空间的相关区域,导致在一个数量级的改善,成功率和收敛到最佳成本。
2019-03-12 cs.LG cs.RO
Learning Generation Orders for Masked Discrete Diffusion Models via Variational Inference
University of Bristol(布里斯托尔大学);Mistral AI
本文提出了一种基于变分推断的学习框架,用于优化掩码离散扩散模型的并行生成顺序,通过实验展示了其在生成效率与质量上的竞争力。
2026-02-27 cs.LG
Exposing the Implicit Energy Networks behind Masked Language Models via Metropolis--Hastings
Carnegie Mellon University(卡内基梅隆大学);Deepmind(深度思维);UC San Diego(加州大学圣地亚哥分校)
虽然最近的工作表明,由无处不在的掩蔽语言建模(MLM)目标训练的模型的分数有效地区分了可能的序列和不可能的序列,但这些MLM是否指定了可能序列空间上的原则概率分布仍然是一个悬而未决的问题。在本文中,我们解释MLMs的能量为基础的序列模型,并提出了两个能源参数化可从训练MLMs。为了正确地从这些模型中抽取样本,我们开发了一个基于Metropolis-Hastings Monte Carlo算法的易处理的抽样方案。在我们的方法中,从用于训练掩蔽语言模型的相同掩蔽条件中提出样本,并且根据目标分布基于它们的能量值来接受或拒绝它们。我们通过探索从这些基于能量的模型中提取的样本的质量来验证所提出的参数化的有效性,这些样本用于开放式无条件生成和机器翻译的条件生成任务。我们从理论上和经验上证明了我们的采样算法,表明掩蔽条件本身不会产生其平稳分布是我们的目标分布的马尔可夫链,并且我们的方法比最近提出的其他无向生成方法生成更高质量的样本(Wang et al.,2019年,Ghazvininejad等人,2019年)。
2022-03-15 cs.CL cs.LG
Generation Order and Parallel Decoding in Masked Diffusion Models: An Information-Theoretic Perspective
University of California, Riverside, CA, US(加州大学河滨分校)
本文从信息论视角探讨了掩码扩散模型中生成顺序与并行解码的理论机制,揭示了顺序敏感性与并行化偏差的内在关系,并通过实验验证了理论框架的有效性。
2026-01-30 cs.LG
Training-Free Self-Correction for Multimodal Masked Diffusion Models
University of California, Los Angeles(加州大学洛杉矶分校);Mohamed bin Zayed University of Artificial Intelligence(莫莫德·本·扎耶德人工智能大学);East China Normal University(华东师范大学);University of Virginia(弗吉尼亚大学);University of Minnesota(明尼苏达大学);Drexel university(德雷塞尔大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));University of Toronto(多伦多大学)
本文提出无需训练的多模态掩码扩散模型自校正方法,通过减少采样步骤提升生成质量,适用于文本到图像和多模态理解任务。
2026-02-02 cs.LG stat.ML
Sampling for Model Predictive Trajectory Planning in Autonomous Driving using Normalizing Flows
IEEE
本文提出基于归一化流的采样方法,用于提高自动驾驶轨迹规划的效率和探索能力。
2026-02-06 cs.LG cs.RO
Active Markov Information-Theoretic Path Planning for Robotic Environmental Sensing
National University of Singapore(新加坡国立大学);Carnegie Mellon University(卡内基梅隆大学)
最近的研究在多机器人探索和地图集中在采样环境领域,这是典型的高斯过程(GP)建模。现有的信息理论的探索策略,学习基于GP的环境场地图采用非马尔可夫问题结构,因此规模差的历史观测的长度。因此,使用这些策略进行原位、实时主动采样在计算上变得不切实际。为了减轻这种计算负担,本文提出了一种基于马尔可夫的方法,有效的信息理论的路径规划主动采样的GP为基础的领域。我们分析了解决基于马尔可夫路径规划问题的时间复杂度,并分析表明,它的规模优于得出的非马尔可夫策略,随着规划范围的长度增加。对于一类称为样带采样任务的探索任务,我们提供了理论上的保证,我们的主动采样性能的马尔可夫为基础的政策,从理想的环境场条件和采样任务设置可以建立限制其性能下降,由于违反马尔可夫假设。对实际温度和浮游生物密度场数据的实证评估表明,我们的基于马尔可夫的政策通常可以实现主动采样性能相比,广泛使用的非马尔可夫贪婪政策在不太有利的现实条件和任务设置,同时享受显着的计算增益。
2011-01-28 cs.AI cs.LG cs.MA
Learn from Your Mistakes: Self-Correcting Masked Diffusion Models
Cornell(康奈尔大学);NVIDIA(英伟达)
提出ProSeCo框架,通过训练模型同时进行掩码去除和错误纠正,在生成过程中迭代修正已解码标记,提升样本质量并实现更快的采样速度。
2026-10-21 cs.LG
What Exactly Does Guidance Do in Masked Discrete Diffusion Models
Georgia Institute of Technology(佐治亚理工学院)
该研究针对带无分类器引导的掩码离散扩散模型,推导出引导反向动力学显式解,揭示引导强度对采样分布、轨迹动力学的影响及维度差异,理论结果获实验验证。
2025-06-12 cs.LG stat.ML
Bag of Design Choices for Inference of High-Resolution Masked Generative Transformer
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文针对掩码生成Transformer(MGT)的推理过程,提出并重新设计了一套增强推理技术,并通过实验验证这些设计选择可合并以提升性能,如Meissonic上取得约70%胜率。
2025-02-27 cs.CV cs.LG
Active model learning and diverse action sampling for task and motion planning
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
这项工作的目的是增加机器人的基本能力,通过学习使用新的感觉运动原语,使复杂的长期问题的解决方案。解决复杂领域的长期问题需要灵活的生成式规划,可以将原始能力以新颖的组合方式结合起来,以解决世界上出现的问题。为了计划组合原语动作,我们必须有这些动作的前提条件和效果的模型:在什么情况下执行这个原语会在世界上实现某种特定的效果?我们使用,并开发新的改进,国家的最先进的方法,主动学习和采样。我们使用高斯过程的方法来学习操作员的有效性的条件,从少量的昂贵的训练样本收集的机器人实验。我们开发了自适应采样方法,用于在规划解决新任务时生成连续集(如机器人配置和对象姿态)的各种元素,以便规划尽可能高效。我们在一个集成系统中演示了这些方法,将新学习的模型与一个高效的连续空间机器人任务和运动规划器相结合,学习比以前更有效地解决长时间问题。
2018-08-12 cs.AI cs.LG cs.RO
Error Bounds and Optimal Schedules for Masked Diffusions with Factorized Approximations
Bocconi University, Department of Decision Sciences and BIDSA(博科尼大学决策科学系和BIDSA)
本文研究了掩码扩散模型中计算成本与准确性之间的权衡,通过因子化近似提供误差界,并提出基于数据分布信息轮廓的最优调度方案。
2025-12-17 cs.IT cs.LG math.IT
Transformer-Based Masked Diffusion Models Provably Learn Distributions with Latent Structure
University of Michigan(密歇根大学)
该研究针对现有掩码扩散模型(MDMs)理论存在的维度灾难问题,提出基于Transformer的MDMs,通过隐马尔可夫树混合模型建模潜在结构,证明其可自动适应未知潜在结构,以Õ(LK_par/ε)样本复杂度实现ε精度采样,为MDMs的经验有效性提供理论支撑。
2026-10-12 cs.IT cs.LG math.IT
Content Masked Loss: Human-Like Brush Stroke Planning in a Reinforcement Learning Painting Agent
Carnegie Mellon University(卡内基梅隆大学)
大多数强化学习绘画代理的目标是最小化目标图像和画布之间的损失。人类画家的艺术性强调目标图像的重要特征,而不是简单地复制它(DiPaola 2007)。在RL绘画模型中使用对抗性或L2损失,尽管其最终输出通常是精细的工作,但产生的笔划序列与人类产生的笔划序列大不相同,因为模型不知道目标图像中的抽象特征。为了在不使用昂贵的人类数据的情况下增加模型的人性化规划,我们引入了一个新的损失函数与模型的奖励函数一起使用:内容掩蔽损失。在机器人绘画的上下文中,内容掩蔽丢失采用目标检测模型来提取特征,这些特征用于将较高权重分配给人类将发现对于识别内容重要的画布区域。基于332名人类评估者的结果表明,由我们的内容掩蔽模型产生的数字绘画在笔划序列中比现有方法更早地显示可检测的主题,而不会影响最终绘画的质量。我们的代码可在https://github.com/pschaldenbrand/ContentMaskedLoss上获得。
2021-02-27 cs.AI cs.CV cs.LG
Masked Generative Modeling with Enhanced Sampling Scheme
Norwegian University of Science and Technology(挪威科技大学);BI Norwegian Business School(BI挪威商学院);Abelee;Telenor Research(Telenor研究院)
针对掩码非自回归生成模型采样过程的局限,提出增强采样方案ESS,通过三阶段策略平衡样本多样性与保真度,并在128个UCR数据集上取得显著性能提升。
2023-09-14 cs.AI cs.LG stat.ML
CanvasMAR: Improving Masked Autoregressive Video Prediction With Canvas
Institute for Artificial Intelligence, Peking University, Beijing, China(人工智能研究院,北京大学,北京,中国);School of Intelligence Science and Technology, Peking University, Beijing, China(智能科学与技术学院,北京大学,北京,中国);State Key Laboratory of General Artificial Intelligence, Peking University, Beijing, China(通用人工智能国家重点实验室,北京大学,北京,中国)
CanvasMAR通过引入canvas机制和运动感知采样顺序,提升视频生成的保真度和效率,实现更高质量的视频生成。
2026-03-06 cs.AI cs.CV cs.LG
Text-Conditioned Sampling Framework for Text-to-Image Generation with Masked Generative Models
KAIST(韩国科学技术院);Yonsei University(延世大学);NAVER AI Lab(NAVER人工智能实验室)
针对基于token的掩码生成模型并行采样未考虑token依赖的问题,提出文本条件采样框架TCTS及频率自适应采样策略FAS,显著提升了图像质量与图文对齐度,并将推理时间减少50%以上。
2023-04-04 cs.CL cs.CV cs.LG
Variable Input Masked Autoencoders for Wrist-Worn Accelerometry
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Google(谷歌公司)
该研究提出VarMAE可变输入掩码自编码器,通过跨分辨率掩码重建目标学习通用表示,在NHANES数据集预训练后,以382万参数在8个基准数据集上实现跨传感配置的高效迁移。
2026-10-14 cs.LG
Self-Rewarding Sequential Monte Carlo for Masked Diffusion Language Models
Uppsala University, Sweden(乌普萨拉大学,瑞典);Nanyang Technological University, Singapore(南洋理工大学,新加坡)
本文提出自奖励序列蒙特卡洛方法,用于提升掩码扩散语言模型的采样质量,通过引入轨迹级置信度信号改进生成多样性。
2026-11-10 cs.LG
MaCow: Masked Convolutional Generative Flow
Carnegie Mellon University(卡内基梅隆大学)
基于流的生成模型,由于精确的对数似然计算和潜变量推理的易处理性以及训练和采样的效率,在概念上很有吸引力,已经取得了许多令人印象深刻的经验成功,并产生了许多先进的变体和理论研究。尽管具有计算效率,但基于流的生成模型的密度估计性能显着落后于最先进的自回归模型。在这项工作中,我们介绍了掩码卷积生成流(MaCow),这是一种使用掩码卷积的简单而有效的生成流架构。通过限制小内核中的局部连通性,MaCow具有快速稳定的训练和高效采样的特性,同时在标准图像基准的密度估计方面实现了Glow的显着改进,大大缩小了与自回归模型的差距。
2019-10-27 cs.AI cs.CV cs.LG
Planning-Augmented Sampling with Early Guidance for High-Reward Discovery
University of Science(科学大学);Shanghai AI Laboratory, Shanghai, China(上海人工智能实验室)
本文提出一种规划增强的采样框架,通过结合蒙特卡洛树搜索和可控软贪婪机制,提升高回报发现的速度和样本质量,同时保持多样性。
2026-02-01 cs.AI cs.LG
Equivariant Action Sampling for Reinforcement Learning and Planning
Northeastern University(东北大学)
本文提出等变动作采样方法,在强化学习与规划中保持问题对称性,显著优于朴素采样,并开发了基于MPPI的通用采样规划框架,实证验证其有效性。
2024-12-16 cs.AI cs.LG cs.RO
How to make the most of your masked language model for protein engineering
BigHat Biosciences(BigHat生物科学公司)
本文提出一种灵活有效的掩码语言模型采样方法,通过系统评估模型和方法在抗体工程中的实际应用,揭示采样方法对生物性质优化的重要性。
2026-11-03 cs.LG q-bio.QM
Bayesian Local Sampling-based Planning
The University of Sydney(悉尼大学);NVIDIA(英伟达)
基于采样的规划是机器人运动规划的主要范例。大多数基于抽样的规划者使用全局随机抽样方案来保证概率的完整性。然而,大多数计划往往是低效的,因为样本来自全球的建议分布,并没有利用相关的本地结构。另一方面,基于局部采样的运动规划器采取随机行走的顺序决策来采样配置空间中的有效轨迹。然而,目前的方法不适应他们的战略,根据过去的样本的成功和失败。在这项工作中,我们介绍了一个局部采样为基础的运动规划与贝叶斯学习计划建模的自适应采样建议分布。基于先前的样本顺序地更新建议分布,从而根据配置空间中的局部障碍和约束对其进行成形。因此,通过从过去观察到的结果中学习,我们最大限度地提高了在狭窄通道内形成轨迹的概率较高的区域中进行采样的可能性。我们提供了一个样本有效分布的制定,以及按顺序更新此分布的理论基础。我们的实验表明,通过使用贝叶斯建议分布,解决方案被发现更快,需要更少的样本,没有任何明显的性能开销。
2020-01-19 cs.AI cs.LG cs.RO
Efficient Parallel Audio Generation using Group Masked Language Modeling
Seoul National University(首尔大学);Samsung Research(三星研究院);Samsung Electronics Co.,Ltd.(三星电子株式会社)
针对并行音频模型 SoundStorm 迭代采样推理慢的问题,提出 G-MLM 与 G-IPD,并结合交叉注意力捕捉说话人风格,以更少迭代实现高质量、高效率的提示音频生成。
2024-01-02 cs.AI cs.LG eess.AS
Better Optimism By Bayes: Adaptive Planning with Rich Models
UCL(伦敦大学学院)
推理和规划的计算成本将贝叶斯基于模型的强化学习限制在两个悲惨的命运之一:强大的贝叶斯自适应规划,但仅适用于简单的模型,或者强大的贝叶斯非参数模型,但使用简单的短视规划策略,如汤普森采样。我们要问的是,将丰富的概率模型与更接近完全贝叶斯规划的近似值相结合是否可行,是否真正有益。首先,我们使用了一系列的反例来显示汤普森抽样固有的过度乐观的正式问题。然后,我们利用国家的最先进的技术,在有效的贝叶斯自适应规划和非参数贝叶斯方法进行定性优于现有的传统算法和汤普森采样的两个上下文土匪样的问题。
2014-02-09 cs.AI cs.LG stat.ML
Learning Sampling Distributions Using Local 3D Workspace Decompositions for Motion Planning in High Dimensions
Rice University(莱斯大学)
早期的工作表明,重用以前的运动规划问题的经验,可以提高类似的,未来的运动规划查询的效率。然而,对于具有许多自由度的机器人,这些方法在不同环境中表现出较差的泛化能力,并且通常需要收集不切实际的大型数据集。我们提出了SPARK和FLAME,两个基于经验的框架采样为基础的规划适用于复杂的机械手在三维环境中。两者都将与来自工作空间分解的特征相关联的采样器组合成全局有偏采样分布。SPARK基于精确的几何结构来分解环境,而FLAME更一般,并使用从传感器数据获得的基于八叉树的分解。我们证明了SPARK和FLAME的有效性,一个取机器人的任务具有挑战性的拾取和放置操作问题。我们的方法可以进行增量训练,并且仅用少数几个例子就可以显着提高性能,与以前的方法相比,可以更好地概括各种任务和环境。
2021-10-15 cs.AI cs.LG cs.RO
Plug-and-Play Controllable Generation for Discrete Masked Models
Georgia Institute of Technology(佐治亚理工学院)
本文提出一种基于重要性采样的可插拔框架,使离散掩码模型无需微调和梯度信息即可实现后验采样、约束生成和奖励优化,并在蛋白质设计等任务中验证了有效性。
2024-10-03 cs.LG stat.ML
Graph Neural Networks for Motion Planning
University of Pennsylvania(宾夕法尼亚大学);Google Brain(谷歌大脑)
本文研究了使用图神经网络(GNNs)的经典运动规划问题的可行性。我们建议使用GNN的能力来指导连续和离散规划算法,该能力使用称为置换不变性的属性来鲁棒地编码规划空间的拓扑结构。我们提出了两种技术,在密集的固定图的低维问题和基于采样的GNNs高维问题的GNNs。我们研究了GNN解决规划问题的能力,例如识别关键节点或学习快速探索随机树(RRT)中的采样分布。临界采样、钟摆和六自由度机器人手臂的实验表明,GNN改进了传统的分析方法以及使用全连接或卷积神经网络的学习方法。
2020-12-14 cs.AI cs.LG cs.RO
Parallelised Diffeomorphic Sampling-based Motion Planning
The University of Sydney(悉尼大学);University of Utah(犹他大学);NVIDIA(英伟达)
我们提出了一种基于简化同构采样的运动规划(PPERS)。PSTOM是一种新型的并行框架,它使用双射和可微映射或同构来转换基于采样的运动规划器的采样分布,其方式类似于标准化流。与使用可逆神经网络结构来表示这些非线性同态的正常化流模型不同,我们从所需成本的梯度信息中开发它们,并对理想的行为进行编码,例如避障。然后,这些变换的采样分布可以用于基于采样的运动规划。一个特殊的例子是,当我们希望将环境几何体的知识注入采样分布时,这样绘制的样本就不太容易发生碰撞。为此,我们建议从环境占用数据中学习连续占用表示,使得表示的梯度定义了有效的自同构,并且可以进行快速并行评估。我们使用它来“变形”采样分布,以绘制更少的易碰撞样本。PINK能够利用成本的梯度信息,以类似于基于优化的运动规划方法的方式注入规范,但依赖于从采样分布中提取,保持找到更多全局解决方案的趋势,从而弥合轨迹优化和基于采样的规划方法之间的差距。
2021-09-23 cs.LG cs.RO
MaskHand: Generative Masked Modeling for Robust Hand Mesh Reconstruction in the Wild
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
针对单张RGB图像手部3D网格重建的歧义性难题,提出由VQ-MANO和上下文引导掩码Transformer构成的MaskHand生成式掩码模型,通过学习2D-3D映射概率分布实现高精度鲁棒重建,性能达SOTA。
2025-03-19 cs.AI cs.CV cs.LG
Efficient Sampling in POMDPs with Lipschitz Bandits for Motion Planning in Continuous Spaces
FZI Research Center for Information Technology(FZI信息技术研究中心);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
不确定性下的决策过程可以看作是一个部分可观测的马尔可夫决策过程(POMDP)。寻找POMDPs的精确解通常在计算上是难以处理的,但是该解可以通过基于采样的方法来近似。这些基于采样的POMDP求解器依赖于多臂强盗(MAB)算法,该算法假设不同动作的结果是不相关的。在某些应用中,如连续空间中的运动规划,类似的动作会产生类似的结果。在本文中,我们利用MAB启发式算法的变体,对行动结果进行Lipschitz连续性假设,以提高基于采样的规划方法的效率。我们证明了这种方法的有效性的背景下,自动驾驶的运动规划。
2021-06-08 cs.LG cs.RO
Learning to Predict Ego-Vehicle Poses for Sampling-Based Nonholonomic Motion Planning
Robert Bosch GmbH(罗伯特·博世股份有限公司);FZI Research Center for Information Technology(FZI信息技术研究中心)
基于采样的运动规划是自动车在复杂环境中安全轨迹计算的有效工具。然而,快速收敛到最佳解决方案,只能确保使用特定问题的抽样分布。由于在自动驾驶的背景下有各种各样的驾驶情况,手动设计这样的分布是非常具有挑战性的。因此,本文介绍了一种利用深度卷积神经网络(CNN)的数据驱动方法:给定当前驾驶情况,可以直接从CNN的输出中生成未来的自我车辆姿态,从而有效地引导运动规划器朝向最佳解决方案。基准测试强调,与均匀采样和最先进的基于A* 的方法相比,CNN预测未来车辆姿态的准确度更高。将这种CNN引导的采样与运动规划器Bidirectional RRT* 相结合,可将计算时间减少多达一个数量级,并以更低的成本实现更快的收敛,在测试场景中成功率为100%。
2019-02-01 cs.AI cs.LG cs.RO
Optimal Multi-Debris Mission Planning in LEO: A Deep Reinforcement Learning Approach with Co-Elliptic Transfers and Refueling
Department of Computer Science, Julius-Maximilians-Universität Würzburg, Germany(计算机科学系,乌尔姆-马克西米利安大学,德国)
本文提出一种结合共椭圆转移与补给的深度强化学习方法,用于近地轨道多碎片任务规划,实验显示其在任务效率和计算性能上优于传统方法。
2026-02-04 cs.LG cs.RO physics.space-ph
Forecasting Corpus-Sampling Disagreement in Masked Text Reconstruction
University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究针对掩码文本重构,推导了预测器在两个独立语料库间预期分歧的一阶公式,在三个数据集上验证了该预测方法,并提出校正方案以提升预测准确性。
2026-10-12 cs.CL cs.LG stat.ML
Partition Generative Modeling: Masked Modeling Without Masks
EPFL(苏黎世联邦理工学院)
PGMs通过分区替代掩码,实现高效生成模型,提升吞吐量并降低生成困惑度,兼容现有MGM方法。
2026-02-17 cs.LG
Diffusion-State Policy Optimization for Masked Diffusion Language Models
Institute of Science Tokyo(东京科学研究院)
本文提出Diffusion-State Policy Optimization(DiSPO),一种用于掩码扩散语言模型的插件信用分配层,通过直接优化中间填充决策来改进生成过程,实验表明其在数学和规划基准测试中优于现有基线方法。
2026-05-19 cs.CL cs.LG
Control-Geometry Straightening for Sampling-Based Latent Planning
Texas A&M University(德克萨斯农工大学)
本文提出控制几何拉直(CGS)辅助损失,通过匹配动作与潜在差异的余弦相似度,在多个控制环境中提升采样型规划器的成功率,并给出理论保证。
2026-10-08 cs.LG stat.ML
Scalable Multirobot Planning for Informed Spatial Sampling
University of Pennsylvania(宾夕法尼亚大学);McGill University(麦吉尔大学)
本文提出了一种分布式可扩展多机器人规划算法的准静态空间场的知情采样。我们解决的问题,有效的数据汇集使用多个自动驾驶汽车,并考虑多个机器人之间的通信,独立行事,对团队的整体采样性能的影响。我们专注于分布式采样的问题,机器人独立于他们的队友,但有能力沟通他们的当前状态,在一个固定的通信范围内的其他邻居。我们提出的方法是可扩展的,并适应各种环境场景,不断变化的机器人团队配置,并实时运行,这是许多现实世界的应用程序的重要功能。我们比较了我们提出的算法的性能,通过模拟实验,利用来自合成和现场部署数据的模型的基线策略。结果表明,即使团队中的机器人在有限的通信范围内工作,我们的采样算法也是有效的,从而证明了我们的方法在大规模环境采样中的可扩展性。
2022-06-03 cs.LG cs.RO
Deeply Informed Neural Sampling for Robot Motion Planning
University of California San Diego(加州大学圣地亚哥分校)
基于采样的运动规划(SMPs)已经变得越来越受欢迎,因为它们提供无碰撞路径解决方案,而不管给定环境中的障碍物几何形状。然而,它们的计算复杂性随着运动规划问题的维数而显著增加。自适应采样是通过对更可能包含最优路径解的配置空间的特定区域进行采样来加速SMP的方式之一。虽然有各种各样的自适应采样算法,但它们依赖于手工制作的算法;此外,它们的性能在高维空间中显着下降。在本文中,我们提出了一种基于神经网络的自适应采样器的运动规划称为基于深度采样的运动规划器(DeepSMP)。DeepSMP为SMP生成样本并显着提高其整体速度,同时对高维问题表现出高效的可扩展性。DeepSMP的神经架构包括一个压缩自动编码器,它直接从原始点云数据中编码给定的路径,以及一个基于丢弃的随机深度前馈神经网络,它采用工作空间编码,开始和目标配置,并迭代生成SMP的可行样本,以计算端到端的无冲突最佳路径。DeepSMP不仅在所有测试环境中始终具有计算效率,而且在完全不可见的环境中也表现出显着的泛化能力。我们评估DeepSMP在多个规划问题,包括规划的点质量机器人,刚体,6连杆机器人机械手在各种2D和3D环境。结果表明,平均而言,我们的方法是至少7倍的速度在点质量和刚体的情况下,约28倍的速度在6连杆机器人的情况下,比现有的国家的最先进的。
2018-09-26 cs.LG cs.RO
Obstacle Aware Sampling for Path Planning
University of Haifa(海法大学)
许多路径规划算法都是基于状态空间的采样。虽然这种方法非常简单,但当障碍物未知时,它可能会变得昂贵,因为击中这些障碍物的样本会被浪费。本文的目标是有效地识别地图中的障碍物,并将它们从采样空间中移除。为此,我们提出了一个预处理算法的空间探索,使更有效的采样。我们表明,它可以提高其他空间采样方法和路径规划器的性能。我们的方法是基于这样一个事实,即一个凸的障碍物可以近似证明以及由其最小体积封闭椭球(MVEE),和一个非凸的障碍物可以被分割成凸的形状。我们的主要贡献是一个算法,战略上找到一个小样本,称为\emph{active-coreset},自适应采样的空间,通过成员资格预言,使MVEE的coreset近似MVEE的障碍。实验结果证实了我们的方法在多个规划器的基础上快速探索随机树的有效性,在时间和路径长度方面显着改善。
2022-03-08 cs.LG cs.RO
Not All Denoising Steps Are Equal: Model Scheduling for Faster Masked Diffusion Language Models
ITMO University(ITMO大学)
本文研究了掩码扩散语言模型的模型调度,通过在部分去噪步骤中替换较小模型,减少计算量并保持生成质量,实验表明中间步骤对替换最敏感,整体FLOPs减少17%。
2026-04-11 cs.CL cs.LG
M2T: Masking Transformers Twice for Faster Decoding
Google Research(谷歌研究院)
本文提出M2T方法,将双向掩码Transformer用于神经图像压缩,采用预定义确定性调度并结合掩码注意力与激活缓存,在码率略增的情况下实现约4倍推理加速。
2023-04-14 cs.LG eess.IV
Masked Vector Quantization
提出掩码向量量化(MVQ)框架,通过多重假设丢弃机制学习掩码配置以增加每个码向量的表示能力,显著降低FID并加速采样,同时识别可迁移的视觉表示。
2024-03-25 cs.CV cs.LG
Schedule optimization for tau-leaping in masked discrete diffusion
Bocconi University(博科尼大学)
本文分析掩码离散扩散模型中tau-leaping采样器的因子分解误差,通过依赖密度刻画调度优化问题,证明在非退化情形下调度仅改善常数项,在退化情形下可改善渐近阶。
2026-10-07 cs.LG math.ST stat.ML
Real-Time Sampling-based Online Planning for Drone Interception
Massachusetts Institute of Technology(麻省理工学院)
针对动态环境下高速在线规划的约束与不确定性问题,提出基于采样、用神经网络推理替代非线性优化的在线规划算法,经仿真与真实环境验证,可高效实现无人机拦截的高速实时规划与非结构化场景适应。
2025-02-20 cs.LG cs.RO cs.SY