Active Domain Adaptation via Clustering Uncertainty-weighted Embeddings
Georgia Tech（佐治亚理工学院）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Boston University（波士顿大学）
将深度神经网络推广到新的目标域对其现实世界的效用至关重要。在实践中，它可能是可行的，以获得一些目标数据标记，但成本效益，它是可取的，选择一个最大的信息子集通过主动学习（AL）。我们研究了主动领域自适应（Active DA）领域转移下的人工智能问题。我们展示了现有的AL方法仅基于模型的不确定性或多样性采样是不太有效的主动DA。我们提出了聚类不确定性加权嵌入（CLUE），主动DA，执行不确定性加权聚类，以确定目标实例的标签是不确定的模型和不同的特征空间的一种新的标签采集策略。CLUE在图像分类的6个不同域移位的学习设置中始终优于Active DA和AL的竞争标签获取策略。
2021-10-10 cs.CV cs.LG
Importance Weighted Adversarial Variational Autoencoders for Spike Inference from Calcium Imaging Data
Janelia Research Campus（珍妮亚研究园区）；HHMI（霍华德·休斯医学研究所）
重要性加权自动编码器（IWAE）目标已被证明可以改善标准变分自动编码器（VAE）目标的生成模型的训练。在这里，我们得到的重要性加权扩展AVB和AAE。这些潜变量模型使用隐式定义的推理网络，其近似后验密度q_∞（z| x）不能直接评估，这是重要性加权的基本要素。我们使用对抗训练的重要性加权方法改进了潜变量模型的训练和推理，并推导出对抗生成模型训练标准和基于边际似然的方法之间的新理论联系。我们将这些方法应用于从钙成像数据推断尖峰神经活动的重要问题，这是神经科学中一个具有挑战性的后验推理问题，并表明对抗方法的后验样本优于VAE中使用的因子化后验。
2019-10-23 cs.LG eess.IV stat.ML
Learning with Importance Weighted Variational Inference
ESSEC Business School（ESSEC商学院）
本文通过渐近分析比较了IWAE、VR和VR-IWAE边界下的重参数化和双重重参数化梯度估计器，揭示了偏差-方差权衡并证明了DREP的优越性，同时分析了困难区域中梯度估计器的方向合理性。
2026-05-27 cs.LG stat.ML
U-Statistics for Importance-Weighted Variational Inference
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Carnegie Mellon University（卡内基梅隆大学）
我们提出了使用U-统计量来减少重要加权变分推理中梯度估计的方差。关键的观察结果是，给定需要$m > 1$样本和用于估计的全部$n > m$样本的基本梯度估计器，通过对大小为$m$的重叠批次的基本估计器进行平均而不是像目前所做的那样对不相交批次进行平均，可以实现更低的方差。我们使用经典的U-统计量理论来分析方差的减少，并提出了新的近似与理论保证，以确保计算效率。我们发现经验，U-统计方差减少可以导致适度的显着改善推理性能的一系列模型，几乎没有计算成本。
2023-02-27 cs.LG stat.ML
Hierarchical Importance Weighted Autoencoders
Mila, University of Montreal（蒙特利尔大学Mila）；Element AI；CIFAR（加拿大高等研究院）
重要性加权变分推理（Burda等人，2015）使用多个i.i.d.样本具有更严格的变分下限。我们相信，联合提案有可能减少冗余样本的数量，并引入层次结构，以诱导相关性。希望这些建议能够协调起来，以弥补彼此造成的误差，从而减少重要性估计值的方差。在理论上，我们分析了估计方差的收敛性与下界的收敛性相联系的条件。从经验上讲，我们确认，最大化的下限隐含最小化方差。进一步的分析表明，这是由所提出的分层Meta采样方案引起的负相关的结果，并且随着样本数量的增加，推理性能也有所改善。
2019-05-13 cs.LG stat.ML
Active Weighted Aging Ensemble for Drifted Data Stream Classification
Wrocław University of Science and Technology（弗罗茨瓦夫科技大学）
流数据分类的一个重要问题是概念漂移的发生，包括分类任务的概率特性的变化。这种现象使分类模型的性能不稳定，并严重降低其质量。一个适当的策略抵消这种现象是需要适应分类器的变化的概率特性。实现这种解决方案的一个重要问题是对数据标签的访问。它通常是昂贵的，因此为了最小化与该过程相关的费用，提出了基于半监督学习的学习策略，例如，采用主动学习方法来指示哪些传入对象有价值被标记以改进分类器的性能。本文提出了一种新的基于分类器集成学习的非平稳数据流的基于块的方法和一种考虑有限预算的主动学习策略，可以成功地应用于任何数据流分类算法。所提出的方法已通过计算机实验，使用真实的和生成的数据流进行评估。结果证实了所提出的算法的高品质的国家的最先进的方法。
2021-12-19 cs.LG
IW-GAE: Importance Weighted Group Accuracy Estimation for Improved Calibration and Model Selection in Unsupervised Domain Adaptation
Northwestern University（西北大学）
针对无监督域适应中的分布偏移，提出重要性加权组精度估计器（IW-GAE），通过优化重要性权重实现准确组精度估计，在模型校准和选择任务上分别提升22%和14%。
2024-07-17 cs.LG stat.ML
Active Learning On Weighted Graphs Using Adaptive And Non-adaptive Approaches
University of Southern California（南加州大学）
本文研究了基于图的主动学习，其目标是通过在一个小的节点子集上采样来重构定义在加权图的节点上的二进制信号。提出了一种新的采样算法，该算法基于对信号在图上的边界的积极搜索，顺序地选择要采样的图节点。该算法推广了最近的一种方法，在无权图中的节点采样。泛化使用从可用图权重获得的信息来提高采样性能。所提出的算法所需的样本数的分析，并在未加权的方法的增益进一步证明了在模拟中。此外，所提出的方法相比，与另一种状态的最先进的方法，这是基于图的频谱特性。结果表明，所提出的方法显着优于频谱采样方法，如果信号需要预测的高精度。另一方面，如果更高级别的不准确性是可以容忍的，那么谱方法优于所提出的积极的搜索方法。因此，我们提出了一种混合方法，这是结合两种方法的优点。
2016-05-18 cs.LG
On weighted uncertainty sampling in active learning
Seal Software
本文探讨了主动学习中不确定性加权的概率抽样。这种方法以前曾被使用过，作者对它的有效性进行了简要的评论。该方案具有几个优点：（1）它在计算上是便宜的，（2）它可以以单通道流式方式实现，这在部署在不同子系统执行建议评分和用户反馈提取的现实世界系统中时是有益的，以及（3）它是容易参数化的。在本文中，我们在公开的数据集上表明，使用概率加权通常是有益的，并且在探索和表示之间取得了很好的折衷，特别是当标记点的起始集有偏差时。
2019-09-11 cs.LG stat.ML
Online Importance Weight Aware Updates
Cornell University（康奈尔大学）；Yahoo! Research（雅虎研究院）
重要性权重量化了一个例子相对于另一个例子的相对重要性，出现在提升，不对称分类成本，减少和主动学习的应用中。在梯度下降中处理重要性权重的标准方法是通过梯度的乘法。我们首先证明了这种方法的问题时，重要性权重很大，并主张更复杂的方法来处理它们。然后，我们开发了一种方法，享有不变性：更新两次重要性权重$h$相当于更新一次重要性权重$2h$。对于许多重要的损失，当所有例子都有$h=1$时，它有一个满足标准后悔保证的封闭形式更新。我们还简要讨论了其他两个合理的方法来处理大的重要性权重。从经验上讲，这些方法在降低算法对学习率的精确设置的灵敏度的同时，以类似的计算性能产生显著更优的预测。我们将这些应用于在线主动学习，产生了一个非常快的主动学习算法，即使在存在对抗性噪声的情况下也能工作。
2011-06-18 cs.LG
DRIFT: Decoupled Rollouts and Importance-Weighted Fine-Tuning for Efficient Multi-Turn Optimization
The Hong Kong University of Science（香港科学与技术大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
针对多轮交互中在线强化学习成本高而离线监督微调存在分布偏移的问题，提出DRIFT框架，通过将KL正则化强化学习目标等价转化为重要性加权监督学习，实现高效且稳定的多轮优化。
2026-05-29 cs.CL cs.LG
Importance Weighted Autoencoders
University of Toronto（多伦多大学）
变分自编码器（VAE; Kingma，Welling（2014））是最近提出的生成模型，其将自顶向下的生成网络与近似后验推理的自底向上的识别网络配对。它通常对后验推断做出强假设，例如后验分布近似为阶乘，并且其参数可以通过观察值的非线性回归近似。正如我们经验所示，VAE目标可能导致过度简化的表示，无法使用网络的整个建模能力。我们提出的重要性加权自动编码器（IWAE），生成模型与相同的架构的VAE，但它使用严格的更严格的对数似然下界来自重要性加权。在IWAE中，识别网络使用多个样本来近似后验，从而增加了对不符合VAE建模假设的复杂后验建模的灵活性。我们的经验表明，IWAE学习更丰富的潜在空间表示比VAE，导致密度估计基准测试对数似然改进。
2016-11-07 cs.LG stat.ML
Learning under Target Shift: Optimal Density Ratio Estimation and Importance-Weighted Regression
School of Mathematical Sciences, Zhejiang University（浙江大学数学科学学院）
针对连续输出目标偏移问题，提出RKHS谱正则化密度比估计方法，达到极小极大最优速率，并分析其在重要性加权回归中的误差传播，建立有限样本理论。
2026-09-15 cs.LG stat.ML
Actor-Critic with Active Importance Sampling
Politecnico di Milano（米兰理工学院）
本文提出主动重要性采样Actor-Critic算法，通过优化行为策略减少策略梯度估计方差，提升连续动作空间下的学习效率与稳定性。
2026-05-08 cs.LG
Importance Weighted Generative Networks
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；ASAPP, Inc.（ASAPP公司）；Amazon, Inc.（亚马逊公司）；CognitiveScale（CognitiveScale公司）
深度生成网络可以从复杂的目标分布进行模拟，通过最小化来自该分布的样本的损失。然而，我们通常无法直接访问目标分布-我们的数据可能会受到样本选择偏差的影响，或者可能来自不同但相关的分布。我们提出的方法的基础上的重要性加权，可以估计相对于目标分布的损失，即使我们不能直接访问该分布，在各种设置。这些估计，差异加权数据的损失函数的贡献，提供了理论保证和令人印象深刻的经验表现。
2020-09-06 cs.LG stat.ML
Optimal Variance Control of the Score Function Gradient Estimator for Importance Weighted Bounds
Technical University of Denmark（丹麦技术大学）；University of Copenhagen（哥本哈根大学）；Rigshospitalet, Copenhagen University Hospital（哥本哈根大学医院国立医院）
本文介绍了重要加权变分界（IWAE）的得分函数梯度估计的新结果。我们证明，在大的$K$（重要性样本数）的限制，可以选择控制变量，使信号噪声比（SNR）的估计增长为$\sqrt{K}$。这与标准路径梯度估计器相反，在标准路径梯度估计器中，SNR随着$1/\sqrt{K}$而减小。基于我们的理论研究结果，我们开发了一种新的控制变量，扩展到VIMCO。经验上，对于连续和离散生成模型的训练，所提出的方法产生优异的方差减小，从而导致IWAE的SNR随着$K$而增加，而不依赖于重新参数化技巧。在训练生成模型时，新的估计器与最先进的无重新参数化梯度估计器（如重新加权唤醒-睡眠（RWS）和热力学变分目标（TVO））具有竞争力。
2020-12-08 cs.LG stat.ML
Importance Weighted Evolution Strategies
Barcelona Supercomputing Center（巴塞罗那超级计算中心）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
进化策略（ES）作为流行的强化学习（RL）技术的可扩展替代方案出现，由于减少了通信开销，当分布在数百个CPU核心时，它提供了几乎完美的加速。尽管在挂钟时间上提供了很大的改进，但与竞争的RL方法相比，ES的数据效率很低。这种低效率的主要原因之一是收集了大量的经验，这些经验在每次策略更新后都会被丢弃。在这项工作中，我们研究了如何执行一个以上的更新，每批经验的重要性抽样，同时保持原有方法的可扩展性。所提出的方法，重要性加权进化策略（IW-ES），显示出良好的效果，是设计高效的ES算法的第一步。
2018-11-12 cs.LG cs.NE stat.ML
Importance Weighted Score Matching for Diffusion Samplers with Enhanced Mode Coverage
School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院）；Shenzhen Research Institute of Big Data（深圳大数据研究院）；The Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；The School of Statistics and Data Science, LPMC & KLMDASR, Nankai University（南开大学统计与数据科学学院）
本文提出重要性加权分数匹配方法，通过重加权分数匹配损失优化前向KL目标，训练扩散采样器以增强模式覆盖，在复杂多模态分布上取得最优性能。
2025-05-26 cs.LG
High-Dimensional Importance-Weighted Information Criteria: Theory and Optimality
Institute of Statistics, National Tsing Hua University（国立清华大学统计研究所）；Graduate School of Advanced Science and Engineering, Hiroshima University（广岛大学研究生院先进科学与工程学）
本文针对协变量偏移下高维误设定回归的模型选择问题，在合理假设下证明 IWOGA 与 HDIWIC 联合使用可实现方差—平方偏差最优权衡及最优预测误差收敛速率。
2025-05-10 cs.LG math.ST stat.ML
SMT-Based Active Learning of Weighted Automata
University College London（伦敦大学学院）；Cornell University（康奈尔大学）
本文提出基于SMT的加权自动机主动学习算法，能生成最小自动机，实验表明其在有限和无限半环上均优于基线方法，且生成更小自动机。
2026-09-24 cs.FL cs.LG
Importance Weighted Adversarial Discriminative Transfer for Anomaly Detection
Alibaba DAMO Academy（阿里巴巴达摩院）
以前的异常检测传输方法通常假设源域或目标域中标记数据的可用性。然而，这样的假设是不成立的，在大多数实际应用中，大规模的标记数据是太昂贵了。因此，本文提出了一种基于重要性加权对抗自动编码器的方法，以无监督的方式传输异常检测知识，特别是对于很少研究的情况下，目标域没有标记的正常/异常数据，而只有来自相关源域的正常数据存在。具体而言，该方法学习对齐源域和目标域中正常数据的分布，但保持目标域中异常数据的分布不变。通过这种方式，可以在目标域中的正常数据和异常数据的分布之间产生明显的间隙，从而实现域中的异常检测。在多个合成数据集和UCSD基准上的实验证明了该方法的有效性。
2021-05-19 cs.AI cs.LG
Weighted Ensembles for Active Learning with Adaptivity
University of Minnesota（明尼苏达大学）
在包括医学成像、机器人技术和计算机视觉在内的多个应用领域中，获取标记数据的成本可能很高。为了在如此高的标记成本下有效地训练机器学习模型，主动学习（AL）明智地选择信息量最大的数据实例来进行动态标记。这种主动采样过程可以受益于通常由高斯过程（GP）捕获的统计函数模型。虽然大多数基于GP的AL方法依赖于一个单一的核函数，目前的贡献主张GP模型的权重适应递增收集的标记数据的合奏。基于这种新的EGP模型，出现了一套基于不确定性和分歧规则的获取函数。一个自适应加权合奏的EGP为基础的采集功能，还介绍了进一步鲁棒性能。合成和真实数据集上的广泛测试显示了所提出的基于EGP的方法相对于基于单个GP的AL替代方案的优点。
2022-06-10 cs.LG stat.ML
Not All are Made Equal: Consistency of Weighted Averaging Estimators Under Active Learning
University of Michigan（密歇根大学）
主动学习试图通过顺序选择下一个要标记的点来构建具有标记数据预算的最佳模型。然而，训练集不再是\textit{iid}，违反了现有一致性结果所要求的条件。受Stone定理成功的启发，我们的目标是在主动学习下重新获得加权平均估计的一致性。基于\citet{dasgupta2012consistency}中的思想，我们的方法是通过运行底层主动学习算法的增强版本来执行少量的随机采样。我们推广斯通定理在无噪声设置，证明一致性，众所周知的分类，如$k$ -NN，直方图和内核估计的条件下，反映经典的结果。然而，在噪声的存在下，我们不能再处理这些估计在一个统一的方式;对于一些满足这个条件也保证足够的噪声的情况下，而对于其他人，我们可以实现接近完美的不一致，而这个条件成立。最后，我们提供了在存在噪声的情况下的一致性条件，这使得我们能够深入了解为什么这些估计器在噪声和主动学习的组合下表现得如此不同。
2019-10-11 cs.LG stat.ML
Active Learning with Importance Sampling
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
我们考虑一个主动学习设置，其中算法可以访问一个大的未标记数据池和一个小的标记数据池。在每次迭代中，该算法选择少数未标记的数据点，并从Oracle中获得它们的标签。在本文中，我们考虑一个概率查询过程来选择要标记的点。我们提出了一种主动学习算法与重要性采样（ALIS），并推导出上界的任何概率抽样过程中的算法所产生的真实损失。此外，我们提出了一个最佳的抽样分布，最大限度地减少了上界的真实损失。
2019-10-10 cs.LG stat.ML
Weighted Empirical Risk Minimization: Sample Selection Bias Correction based on Importance Sampling
LTCI, Télécom Paris（巴黎电信学院LTCI实验室）；IDEMIA（艾德米亚）
当训练观测值$Z'_1,\; \ldots,\; Z'_n$的分布$P'$不同于人们寻求最小化的风险所涉及的分布$P$时，我们考虑统计学习问题（称为检验分布），但仍然定义在与$P$相同的可测量空间上并支配它。在似然比$Φ(z)=dP/dP'(z)$已知的不现实情况下，可以使用与重要性抽样背后的思想相同的思想将经验风险最小化（ERM）方法直接扩展到该特定的迁移学习设置，通过最小化从具有权重$Φ(Z'_i)$的“有偏”训练数据$Z'_i$计算的经验风险泛函的加权版本。虽然在实践中的重要性函数$Φ(z)$一般是未知的，我们表明，在实践中经常遇到的各种情况下，它采取一种简单的形式，可以直接估计从$Z'_i$的和一些辅助信息的统计人口$P$。通过线性化技术，我们证明了当将$Φ(Z'_i)$的估计插入到加权经验风险中时，上述方法的推广能力是保持的。除了这些理论保证，数值结果提供了强有力的实证证据的相关性，在这篇文章中提出的方法。
2020-02-19 cs.LG stat.ML
CWP: Instance complexity weighted channel-wise soft masks for network pruning
Ningxia University（宁夏大学）；Collaborative Innovation Center for Ningxia Big Data and Artificial Intelligence co-founded by Ningxia Municipality and Ministry of Education（宁夏大数据与人工智能省部共建协同创新中心）
现有的可微通道修剪方法通常在通道后附加缩放因子或掩码来修剪重要性较低的滤波器，并隐含地假设输入样本对滤波器重要性的贡献是均匀的。具体而言，实例复杂性对剪枝性能的影响尚未在静态网络剪枝中得到充分研究。本文提出了一种简单有效的基于实例复杂度加权过滤器重要性得分的可微网络剪枝方法CWP。我们定义实例复杂度相关的权重为每个实例，通过赋予更高的权重，硬实例，并衡量加权和的实例特定的软掩模模型的非均匀贡献的不同的输入，这鼓励硬实例占主导地位的修剪过程和模型的性能得到很好的保留。此外，我们引入了一个正则化最大化偏振的面具，这样一个甜蜜点可以很容易地找到识别过滤器修剪。对各种网络架构和数据集的性能评估表明，CWP在修剪大型网络方面优于现有技术。例如，CWP在CIFAR-10数据集上删除了64.11%的FLOP后，将ResNet 56的准确性提高了0.32%，并在ImageNet数据集上修剪了ResNet 50的87.75%的FLOP，仅损失了0.93%的Top-1准确性。
2022-10-11 cs.LG
Switching EEG Headsets Made Easy: Reducing Offline Calibration Effort Using Active Weighted Adaptation Regularization
DataNova；U.S. Army Research Laboratory（美国陆军研究实验室）；University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
头戴式脑电图仪是脑机接口中最常用的传感设备。在实际应用中，将数据从一个用户会话外推到另一个用户会话是有优势的。然而，如果数据来自不同的硬件系统，这些优点是有限的，这往往是不同的应用空间之间的变化。目前，这需要重新校准分类器，这对人们使用此类系统的兴趣产生了负面影响。在本文中，我们采用主动加权自适应正则化（AwAR），它集成了加权自适应正则化（WAR）和主动学习，以加快校准过程。WAR利用来自先前耳机的标记数据并处理类别不平衡，并且主动学习从新耳机中选择最具信息量的样本进行标记。单次试验的事件相关电位分类实验表明，AwAR可以显着提高分类精度，给定相同数量的标记样本从新的耳机。换句话说，AwAR可以有效地减少新耳机所需的标记样本数量，给定所需的分类精度，这表明在整理数据以用于大规模迁移学习应用中的价值。
2017-02-09 cs.HC cs.LG
Alpha-divergence Variational Inference Meets Importance Weighted Auto-Encoders: Methodology and Asymptotics
University of Oxford（牛津大学）
针对现有基于变分Rényi界的alpha散度最小化算法梯度有偏、缺乏理论保证的问题，提出并研究IWAE界的推广形式VR-IWAE界，证明其重参数化下梯度无偏且流程与VR界一致，给出两种互补理论分析并通过实验验证结论。
2023-07-19 cs.LG stat.ML
Control Variate Design for Score-Function Gradient Estimators in Importance-Weighted Variational Inference
ESSEC Business School（埃塞克高等商学院）；The University of Sydney Business School（悉尼大学商学院）；Peking University（北京大学）
本文提出了一种改进的VIMCO-$\star$梯度估计器，解决了现有VIMCO估计器在样本数增加时信号噪声比下降的问题，提升了在无重参数化梯度场景下的性能。
2026-10-20 cs.LG stat.ML
On importance-weighted autoencoders
National University of Singapore（新加坡国立大学）
重要性加权自动编码器（IWAE）（Burda等人，2016）是一种流行的变分推理方法，其通过优化多样本目标（即，可表达为$K > 1$蒙特卡罗样本上的积分的目标）来实现比标准变分自编码器更严格的证据界限（并且因此更低的偏差）。不幸的是，IWAE关键地依赖于重新参数化的可用性，并且即使这些重新参数化存在，多样本目标也导致推理网络梯度，该推理网络梯度随着$K$的增加而分解（Rainforth等人，2018年）。这种分解只能通过删除高方差得分函数项来规避，要么通过排除性地忽略它们（这会产生Roeder等人的“粘附着陆”IWAE（IWAE-STL）梯度。（2017））或通过Tucker等人的身份。（2019）（这会产生“双重重新参数化”IWAE（IWAE-DREG）梯度）。在这项工作中，我们认为，直接优化重要性抽样中的建议分布，如Bornschein & Bengio（2015）的重新加权唤醒-睡眠（RWS）算法，比优化IWAE型多样本目标更可取。为了正式证明这一点，我们引入了一个自适应重要性抽样框架，称为自适应重要性抽样学习（AISLE），它稍微概括了RWS算法。然后，我们表明，AISLE承认IWAE-STL和IWAE-DREG（即IWAE梯度，避免故障）作为特殊情况。
2019-09-19 cs.LG stat.CO stat.ML
IMPALA: Scalable Distributed Deep-RL with Importance Weighted Actor-Learner Architectures
DeepMind Technologies（DeepMind科技公司）
在这项工作中，我们的目标是解决一个大的任务集合使用一个单一的强化学习代理与一组参数。一个关键的挑战是处理增加的数据量和延长的训练时间。我们已经开发了一种新的分布式代理IMPALA（重要性加权的演员-学习者架构），它不仅在单机训练中更有效地使用资源，而且可以扩展到数千台机器，而不会牺牲数据效率或资源利用率。我们实现了稳定的学习，在高吞吐量相结合的解耦代理和学习与一种新的偏离政策的校正方法，称为V-跟踪。我们在DMLab-30（来自DeepMind实验室环境的一组30个任务）上证明了IMPAL用于多任务强化学习的有效性（Beattie等人，2016））和Atari-57（Arcade Learning Environment中所有可用的Atari游戏（Bellemare等人，2013年a））。我们的研究结果表明，IMPALA是能够实现更好的性能比以前的代理与更少的数据，关键是表现出积极的任务之间的转移，由于其多任务的方法。
2018-06-28 cs.AI cs.LG
Importance Weighted Transfer of Samples in Reinforcement Learning
Politecnico di Milano（米兰理工大学）；INRIA Lille（法国国家信息与自动化研究所里尔分所）；SequeL Team（SequeL团队）
我们认为经验样本的转移（即，在强化学习（RL）中，从一组源任务中收集元组< s，a，s '，r >），以改进给定目标任务中的学习过程。大多数相关的方法集中于选择最相关的源样本来解决目标任务，但是然后使用所有转移的样本，而不再考虑任务模型之间的差异。在本文中，我们提出了一种基于模型的技术，自动估计的相关性（重要性权重）的每个源样本解决目标任务。在所提出的方法中，所有的样本都被转移，并由一个批处理RL算法来解决目标任务，但它们对学习过程的贡献与它们的重要性权重成正比。通过扩展监督学习文献中提供的重要性加权的结果，我们开发了一个有限样本分析所提出的批量RL算法。此外，我们经验比较所提出的算法，以国家的最先进的方法，表明它实现了更好的学习性能，是非常强大的负迁移，即使当一些源任务是显着不同的目标任务。
2018-05-28 cs.LG stat.ML
Gaussian Switch Sampling: A Second Order Approach to Active Learning
在主动学习中，获取函数直接在模型流形内的表示位置上定义信息量。然而，对于大多数机器学习模型（特别是神经网络），由于主动学习轮之间的训练池波动，这种表示不是固定的。因此，几种流行的策略对实验参数（例如结构）敏感，并且不考虑模型对分布外设置的鲁棒性。为了缓解这个问题，我们提出了一个接地的二阶定义的信息内容和样本的重要性范围内的主动学习。具体来说，我们通过神经网络在训练过程中“忘记”样本的频率来定义重要性-二阶表示移位的伪影。我们表明，我们的定义产生高度准确的重要性分数，即使在模型表示的限制缺乏训练数据。出于我们的分析，我们开发高斯开关采样（GauSS）。我们表明，GauSS是设置不可知的和鲁棒的异常分布与详尽的实验，在三个分布基准，三个分布基准，和三种不同的架构。我们报告了高达5%的改进时，对四个流行的查询策略相比。
2023-02-16 cs.LG
Weighted Sparse Subspace Representation: A Unified Framework for Subspace Clustering, Constrained Clustering, and Active Learning
University of Cambridge（剑桥大学）；Lancaster University（兰卡斯特大学）
基于谱的子空间聚类方法在许多具有挑战性的应用中已经被证明是成功的，例如基因测序、图像识别和运动分割。在这项工作中，我们首先提出了一种新的基于谱的子空间聚类算法，旨在表示每个点作为一个稀疏的凸组合的几个附近的点。然后，我们将算法扩展到约束聚类和主动学习设置。我们开发这样一个框架的动机源于这样一个事实，即通常可以提前获得少量的标记数据;或者有可能以一定的成本标记某些点。后一种情况通常在验证集群分配的过程中遇到。仿真和真实数据集上的实验表明，该方法是有效的，具有竞争力的国家的最先进的方法。
2021-06-08 cs.LG stat.ML
Mitigating Long-Tailed Anomaly Score Distributions with Importance-Weighted Loss
R\&D Division ELROILAB Inc. Seoul, Republic of Korea
本文提出了一种重要加权损失方法，用于缓解长尾异常分数分布问题，通过重要性采样对齐分布，提升异常检测性能。
2026-01-05 cs.AI cs.LG stat.ML
IMPACT: Importance Weighted Asynchronous Architectures with Clipped Target Networks
UC Berkeley（加州大学伯克利分校）
强化学习代理的实际使用经常受到训练时间持续时间的影响。为了加速训练，实践者经常转向分布式强化学习架构来并行化和加速训练过程。然而，用于可扩展强化学习（RL）的现代方法经常在RL代理可以学习的样本的吞吐量（样本吞吐量）和从每个样本学习的质量（样本效率）之间进行权衡。在这些可扩展的RL架构中，随着样本吞吐量的增加（即，增加IMPALA中的并行化），样本效率显著下降。为了解决这个问题，我们提出了一个新的分布式强化学习算法，IMPACT。IMPACT扩展IMPALA有三个变化：一个目标网络稳定的代理目标，一个循环缓冲区，截断重要性采样。在离散的动作空间环境中，我们表明，IMPACT获得更高的奖励，同时，实现了高达30%的减少训练墙时间比IMPALA。对于连续控制环境，IMPACT的训练速度比现有的可扩展代理更快，同时保持同步PPO的样本效率。
2020-01-23 cs.LG stat.ML
Importance-Weighted Offline Learning Done Right
Universitat Pompeu Fabra（庞培法布拉大学）；Politecnico di Milano（米兰理工大学）
针对随机上下文赌博机的离线策略优化，本文提出基于 implicit exploration 估计量的重要性加权方法，去除均匀覆盖假设并获得更强保证，还扩展至 PAC-Bayesian 无限策略类。
2023-09-27 cs.LG stat.ML
Bures-Wasserstein Importance-Weighted Evidence Lower Bound: Exposition and Applications
The University of Sydney Business School（悉尼大学商学院）；School of Mathematics, The University of Edinburgh（爱丁堡大学数学学院）
研究在布雷斯 - 瓦瑟斯坦空间中优化重要性加权证据下界（IW - ELBO），推导其瓦瑟斯坦梯度并投影到该空间以用于高斯变分推理，证明其梯度估计器稳定性良好，实验显示该框架比其他基线有更优近似性能。
2026-07-14 cs.LG stat.CO stat.ME
A Generative Framework for Causal Estimation via Importance-Weighted Diffusion Distillation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对观测数据因果估计中协变量失衡与混杂偏倚问题，提出融合IPW与扩散预训练的IWDD生成框架，通过随机化调整简化计算并降低梯度方差，实现了最优的样本外预测性能。
2025-05-16 cs.LG stat.AP stat.ME
Policy Gradient with Active Importance Sampling
Politecnico di Milano（米兰理工大学）；Gran Sasso Science Institute（格兰萨索科学研究所）
本文研究离策略强化学习中的行为策略优化问题，提出结合防御性IS与交叉熵估计的主动重要性采样策略梯度算法，并从理论和实验上验证其方差与学习速度优势。
2024-05-09 cs.LG
Rebalancing Token Importance in Language Models with TF-IDF Weighted Cross-Entropy Loss
University of Southern California（南加州大学）；Vanderbilt University（范德堡大学）
针对语言模型均匀词元加权导致记忆表面文本的问题，提出TF-IDF加权交叉熵损失，在保持性能的同时显著减少记忆子串长度，且计算开销低。
2026-09-11 cs.CL cs.LG
Deep Active Learning for Regression Using $ε$-weighted Hybrid Query Strategy
Vanderbilt University（范德堡大学）
设计一个廉价的近似代理模型，捕捉一个昂贵的高保真行为的显着特征是一种流行的设计优化方法。近年来，深度学习（DL）模型正被用作工程问题的有前途的替代计算模型。然而，创建基于DL的代理的主要挑战是模拟/标记大量的设计点，这对于计算成本高和/或高维工程问题来说是耗时的。在目前的工作中，我们提出了一种新的采样技术相结合的主动学习（AL）方法与DL。我们称这种方法为$ε$ -加权混合查询策略（$ε$ -HQS），它侧重于在每个学习迭代的代理的评估，并提供在设计空间中的代理的失败概率的估计。通过重用已经收集的训练和测试数据，学习的故障概率将下一次迭代的采样过程引导到故障概率高的区域。在实证评估过程中，观察到更好的准确性的替代品相比，其他方法的样本选择。我们经验评估这种方法在两个不同的工程设计领域，基于有限元的潜艇压力容器（计算成本高的过程）和第二潜艇螺旋桨设计（高维问题）的静态应力分析。https://github.com/vardhah/epsilon_weighted_Hybrid_Query_Strategy
2022-07-10 cs.AI cs.LG
Bandwidth Reduction using Importance Weighted Pruning on Ring AllReduce
State Key Laboratory of Reliability and Intelligence of Electrical Equipment（可靠性与智能电气设备国家重点实验室）；Hebei University of Technology（河北工业大学）
在配备加速器系统的大规模集群上训练大型深度学习模型是必然的。深度梯度压缩可以大大提高带宽利用率，加快训练过程，但难以在环形结构上实现。在本文中，我们发现冗余梯度和梯度老化对训练有负面影响。我们观察到，在不同的时期和不同的步骤，神经网络的重点是更新不同的层和不同的参数。为了节省更多的通信带宽，同时保持环结构的准确性，突破节点增加时的限制，提出了一种基于参数计算梯度与参数值之比大小的大规模集群环全归约梯度重要性度量算法。我们的重要性加权剪枝方法在AlexNet和ImageNet上分别实现了64倍和58.8倍的梯度压缩比。同时，为了保持梯度传播的稀疏性，我们在每个节点上随机广播重要梯度的索引。而其余节点准备好索引梯度并执行all-reduce更新。这将加快模型的收敛速度并保持训练精度。
2019-01-06 cs.DC cs.LG stat.ML
W-RST: Towards a Weighted RST-style Discourse Framework
University of British Columbia（不列颠哥伦比亚大学）
为了更好地整合数据驱动和语言启发的方法，我们探讨了在文本段之间分配二进制重要性评估的“核”是否可以被自动生成的实值分数所取代，我们称之为“加权核”框架。特别是，我们发现，与以核为中心的方法相比，来自辅助任务的加权话语树可以使关键的NLP下游应用受益。我们进一步表明，实值的重要性分布部分和有趣的是与人类注释者的评估和不确定性。
2021-06-04 cs.AI cs.CL cs.LG
Tighter Variational Bounds are Not Necessarily Better
University of Oxford（牛津大学）；University of British Columbia（英属哥伦比亚大学）
我们提供了理论和经验证据，证明使用更严格的证据下限（ELBO）可能会通过降低梯度估计器的信噪比而不利于学习推理网络的过程。我们的研究结果质疑常见的隐式假设，即更紧的ELBO是更好的变分目标，同时模型学习和推理摊销计划。基于我们的见解，我们介绍了三种新的算法：部分重要性加权自动编码器（PIWAE），多重要性加权自动编码器（MIWAE），和组合重要性加权自动编码器（CIWAE），其中每一个包括标准的重要性加权自动编码器（IWAE）作为一个特殊情况。我们表明，每一个可以提供改进的IWAE，即使性能是衡量的IWAE目标本身。此外，我们的研究结果表明，PIWAE可能能够同时改善推理和生成网络的训练。
2019-03-05 cs.LG stat.ML
Meta Adaptation using Importance Weighted Demonstrations
University of Southern California（南加州大学）
提出一种基于重要性加权过去示范的元适应算法，解决任务分布动态变化下的模仿学习泛化问题，并在视觉导航任务上验证了其少样本适应能力。
2023-07-03 cs.AI cs.LG stat.ML
Learning $ω$-Powered Conditional Distributions with Importance-Weighted Flow Matching
University of Geneva（日内瓦大学）；HES-SO/HEG Genéve（HES-SO/HEG日内瓦（瑞士应用科学与艺术大学/日内瓦高等经济学院））；Google Deepmind（谷歌DeepMind）；Apple（苹果公司）
该研究提出重要性加权条件流匹配（IW-CFM），可显式学习ω驱动的条件分布，在合成数据和ImageNet上均表现优于传统CFG，为相关分布的研究与近似提供了实用方法。
2026-10-14 cs.CV cs.LG
Importance Weighted Policy Learning and Adaptation
Google（谷歌）
利用先前经验快速解决新问题的能力是生物学习系统的标志，对人工系统也具有重要的实际意义。在Meta强化学习文献中，最近的许多工作都集中在优化学习过程本身的问题上。在本文中，我们研究了一种互补的方法，这是概念上简单，一般，模块化，并建立在最近的改进离策略学习。该框架的灵感来自于概率推理文献中的思想，并将鲁棒的离策略学习与行为先验或默认行为相结合，该行为约束解决方案的空间并作为探索的偏差;以及价值函数的表示，这两者都很容易从多任务场景中的许多训练任务中学习到。与Meta强化学习基线相比，我们的方法在坚持任务上实现了有竞争力的适应性能，并且可以扩展到复杂的稀疏奖励场景。
2021-06-04 cs.AI cs.LG stat.ML
Importance Weighted Hierarchical Variational Inference
Samsung AI Center Moscow（三星莫斯科人工智能中心）；National Research University Higher School of Economics（国立研究型高等经济学院）；NRU HSE（国立研究型高等经济学院）
变分推断是贝叶斯建模工具包中的一个强有力的工具，然而，它的有效性取决于所使用的变分分布在其匹配真实后验分布的能力方面的表达能力。反过来，变分族的表达能力在很大程度上受到具有易处理的密度函数的要求的限制。为了克服这一障碍，我们引入了一个新的家庭的边际对数密度的情况下，分层模型（也称为潜变量模型）的变分上界。然后，我们给出了一个上界的库尔贝克-莱布勒散度，并推导出一个家庭越来越紧密的变分下界，否则难以处理的标准证据下界分层变分分布，使使用更有表现力的近似后验。我们表明，以前已知的方法，如分层变分模型，半隐式变分推断和双半隐式变分推断可以被看作是所提出的方法的特殊情况下，并在一组实验中的经验证明所提出的方法的优越性能。
2019-05-08 cs.LG stat.ML
Sharp analysis of out-of-distribution error for "importance-weighted" estimators in the overparameterized regime
Georgia Institute of Technology（佐治亚理工学院）；School of Electrical & Computer Engineering（电气与计算机工程学院）；H. Milton School of Industrial & Systems Engineering（H. Milton工业与系统工程学院）
针对过参数化模型在分布外数据上性能下降的问题，本文通过含虚假特征的高斯混合模型精确分析重要性加权插值解，给出匹配上下界并揭示鲁棒性与平均准确率的新权衡。
2024-05-10 cs.IT cs.LG math.IT
Variational autoencoder with weighted samples for high-dimensional non-parametric adaptive importance sampling
ONERA（法国航空航天研究院）；Université de Toulouse（图卢兹大学）；Institut de Mathématiques de Toulouse（图卢兹数学研究所）；CNRS（法国国家科学研究中心）；Zurich University of Applied Sciences（苏黎世应用科技大学）
本研究提出用变分自编码器参数化分布进行高维非参数自适应重要性采样，通过新目标函数处理加权样本，并引入可学习先验和预训练防止后验坍缩，在多模态问题上有效估计稀有事件概率。
2023-10-13 cs.LG math.ST stat.TH
Distribution Shift in Missing Data Imputation: A Risk-Based Perspective and Importance-Weighted Correction under MAR
School of Mathematics（数学系）；University of Bristol（布里斯托尔大学）；School of Business and Economics（经济与商业学院）；Humboldt University of Berlin（柏林洪堡大学）
本文从风险角度出发，提出一种新的填补算法，通过显式考虑分布偏移来改进填补模型的学习，实验显示在RMSE和Wasserstein距离上分别减少3%和7%。
2026-05-13 cs.LG stat.ML
Numerical Optimizations for Weighted Low-rank Estimation on Language Model
Samsung Research America（三星美国研究院）
奇异值分解（SVD）是最流行的压缩方法之一，它用较小的矩阵近似目标矩阵。然而，标准SVD将矩阵中的参数视为同等重要，这是一个简单但不切实际的假设。训练好的神经网络模型的参数对任务性能的影响可能是不均匀的，这表明参数之间的重要性不相等。与奇异值分解相比，考虑参数重要性的分解方法在实际应用中更具有实用价值。与标准SVD不同，加权值分解是一个非凸优化问题，缺乏封闭形式的解决方案。我们系统地研究了多种优化策略来解决这个问题，并通过压缩基于transformer的语言模型来检验我们的方法。此外，我们设计了一个指标来预测SVD何时可能会引入显着的性能下降，我们的方法可以作为一种救援策略。广泛的评估表明，我们的方法可以比目前的SOTA方法在压缩基于transformer的语言模型。
2022-12-15 cs.CL cs.LG
Finding Needles in the Haystack: Transductive Active Labeling in Ecology
Massachusetts Institute of Technology（麻省理工学院）
本文提出转导式主动标注方法，通过发现稀有类样本解决生态数据长尾分布问题，并设计混合停止准则提升稀有类恢复。
2026-07-01 cs.LG
