Subspace Clustering with Active Learning
Lancaster University(兰卡斯特大学)
子空间聚类是一个不断发展的无监督学习领域,在计算机视觉社区中非常受欢迎。可以在运动分割和人脸聚类等领域找到应用。它假设数据来自子空间的并集,并根据相应的子空间对数据进行聚类。在实践中,合理的假设是,可以获得有限数量的标签,可能是有成本的。因此,算法,可以有效地和高效地将这些信息,以改善聚类模型是可取的。在本文中,我们提出了一个主动学习框架的子空间聚类,顺序查询信息点和更新的子空间模型。所提出的框架的查询阶段依赖于从扰动理论的主成分分析的结果,以确定有影响力的和潜在的误分类点。提出了一种约束子空间聚类算法,该算法在标签数据约束条件下,单调递减目标函数。我们表明,我们提出的框架是适合的子空间聚类算法,包括迭代方法和谱方法。在合成数据集、运动分割数据集和Yale Faces数据集上的实验证明了我们提出的主动策略优于最先进的主动策略。
2019-11-11 cs.LG stat.ML
Classification Tree-based Active Learning: A Wrapper Approach
Grenoble-INP(格勒诺布尔国立综合理工学院);CNRS(法国国家科学研究中心);University of Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
针对监督学习标记数据获取困难的问题,提出一种基于分类树的包装器主动学习方法,通过树结构分解低熵区域并分配抽样,在标记数据受限场景下显著提升了分类模型精度。
2024-04-15 cs.LG stat.ML
Human-in-the-loop Active Covariance Learning for Improving Prediction in Small Data Sets
Department of Computer Science, Aalto University(阿尔托大学计算机科学系);Helsinki Institute for Information Technology (HIIT)(赫尔辛基信息技术研究所(HIIT))
从高维数据中学习预测模型是高维统计学中的一个关键问题。专家知识启发可以提供帮助,一个强大的工作线集中在直接引出参数的信息先验分布。这要么需要大量统计专门知识,要么很费力,因为重点是准确性,而不是过程的效率。另一种工作是一次查询一个特征的重要性,假设它们是独立的,因此缺少协方差信息。相比之下,我们建议引发专家知识的成对特征相似性,借用统计强度的预测,并使用顺序决策技术,以尽量减少专家的努力。实证结果表明,在高维线性回归任务中,基于顺序启发,我们用高斯过程学习协方差结构,从而提高了模拟和真实数据的预测性能。
2019-03-18 cs.HC cs.LG stat.ML
Active, anytime-valid risk controlling prediction sets
Carnegie Mellon University(卡内基梅隆大学);Microsoft(微软公司)
该研究将风险控制预测集(RCPS)拓展至序贯主动标注场景,提出任意时刻有效的风险保证框架,刻画了固定标签预算下的最优策略与预测器,实验验证其用更少标签实现更高效用。
2024-10-31 cs.LG stat.ML
Active Learning for Regression with Aggregated Outputs
NTT Communication Science Laboratories(NTT通信科学实验室)
由于隐私保护或数据收集的困难,我们无法观察每个实例的单独输出,但我们可以观察在一些现实世界应用程序中对多个实例进行汇总的聚合输出。为了降低这种聚合数据的回归模型训练的标记成本,我们提出了一种主动学习方法,该方法顺序选择要标记的集合,以提高具有较少标记集合的预测性能。对于选择度量,该方法使用互信息,通过观察聚合输出来量化模型参数的不确定性的减少。利用贝叶斯线性基函数对给定输入的输出进行建模,包括近似高斯过程和神经网络,我们可以有效地计算封闭形式的互信息。通过使用不同数据集的实验,我们证明了所提出的方法比现有方法具有更少的标记集,实现了更好的预测性能。
2022-10-04 cs.AI cs.LG stat.ML
Learning to Route with Sparse Trajectory Sets---Extended Version
Aalborg University(奥尔堡大学)
由于车辆轨迹数据的可用性越来越高,我们提出了学习路线,一个全面的基于概率的路由解决方案。具体来说,我们首先从轨迹构建一个图形结构作为路由基础设施。其次,我们启用基于冗余的路由给定任意(源,目的地)对。在第一步中,给定一个道路网络和一组轨迹,我们提出了一个基于概率的聚类方法,确定道路网络中的区域。如果一对区域由轨迹连接,我们将维护这些轨迹使用的路径,并学习区域之间旅行的路由偏好。由于轨迹是倾斜和稀疏的,许多区域对不通过轨迹连接。因此,我们将路由偏好从具有足够轨迹的区域对转移到这样的区域对,然后使用转移的偏好来识别区域之间的路径。在第二步中,我们利用上面的图形结构来实现一个全面的基于冗余的路由解决方案。两个大量的轨迹数据集的实证研究提供了深入了解所提出的解决方案,表明它是实用的。与领先的路由服务的比较提供了证据,该文件的建议是能够提高路由质量。这是“学习稀疏轨迹集路由”的扩展版本[1],将出现在IEEE ICDE 2018中。
2018-02-22 cs.LG
Learning Algorithms for Active Learning
Microsoft Maluuba(微软Maluuba)
我们介绍了一个模型,通过元学习学习主动学习算法。对于相关任务的分布,我们的模型联合学习:数据表示,项目选择启发式,以及从标记的训练集构建预测函数的方法。我们的模型使用项目选择启发式来收集标记的训练集,从中构建预测函数。使用Omniglot和MovieLens数据集,我们在合成和实际设置中测试了我们的模型。
2017-07-31 cs.LG
Large Scale Model Predictive Control with Neural Networks and Primal Active Sets
University of Pennsylvania(宾夕法尼亚大学);University of California San Diego(加利福尼亚大学圣迭戈分校)
本文提出了一种显式-隐式方法来计算模型预测控制(MPC)律,并保证其递归可行性和渐近稳定性。该方法结合了离线训练的全连接神经网络与在线原始有效集求解器。神经网络提供了一个控制输入初始化,而原始有效集方法确保递归的可行性和渐近稳定性。该神经网络的训练与原始-对偶损失函数,旨在生成控制序列,是原始可行的,并满足所需的次优水平。由于单独的神经网络不能保证约束满足,它的输出被用来在线热启动原始有效集方法。我们证明了这种方法可以扩展到具有数千个优化变量的大型问题,这对于当前的方法来说是具有挑战性的。我们的方法实现了2倍减少在线推理时间相比,在不同的求解器和初始化策略的基准套件的最佳方法。
2021-07-05 cs.LG cs.SY eess.SY
A Hierarchical Approach to Scaling Batch Active Search Over Structured Data
Stanford University(斯坦福大学)
主动搜索是在大型且通常是高维的参数空间中识别高值数据点的过程,这些参数空间的评估成本可能很高。传统的主动搜索技术(如贝叶斯优化)在连续评估中权衡了探索和利用,并且历史上专注于每轮评估的单个或少量(<5)示例。随着现代数据集的增长,需要将主动搜索扩展到大型数据集和批量大小。在本文中,我们提出了一个一般的层次框架的基础上,强盗算法的规模积极搜索大批量的大小,最大限度地提高信息来自每个数据集的独特结构。我们的分层框架,分层批量Bandit搜索(HBBS),通过促进对数据集内不同结构元素的广泛探索,在学习的嵌入空间中战略性地分布批量选择。我们将HBBS的应用集中在现代生物学上,大批量实验通常是研究过程的基础,并演示了生物序列(蛋白质和DNA)的批量设计。我们还提出了一个新的Gym环境,可以轻松地模拟不同的生物序列,并能够更全面地评估跨异构数据集的主动搜索方法。HBBS框架通过在结构化数据的每个分区内使用跨粗分区的广泛探索策略和细粒度利用,改进了用于批处理搜索的标准性能、挂钟和可扩展性基准。
2020-07-20 cs.LG q-bio.QM stat.ML
On Discarding, Caching, and Recalling Samples in Active Learning
Microsoft Research(微软研究院)
我们解决的挑战,主动学习在非静态环境下的信息资源稀缺。在现实环境中,标记并集成到预测模型中的数据可能会随着时间的推移而变得无效。然而,随着上下文中的切换,数据可以再次变得信息丰富,并且这样的变化可以指示未建模的循环或其他时间动态。我们探讨原则丢弃,缓存,并召回标记的数据点在主动学习的基础上计算的信息的价值。我们审查的关键概念和研究的价值的方法,通过调查的预测性能和成本的模拟和真实世界的数据集获取数据。
2012-06-20 cs.LG stat.ML
Active learning for binary classification with variable selection
University of Science Technology of China(中国科学技术大学);Korea University(高丽大学)
现代计算和通信技术可以使数据收集程序非常有效。然而,我们分析大型数据集和/或从中提取信息的能力很难跟上我们收集数据的能力。在这些庞大的数据集中,有些并不是为了任何特定的研究目的而收集的。对于一个分类问题,这意味着在现有的数据集中,基本的标签信息可能不容易获得,需要一个额外的标签过程,这样我们就可以有足够的标签信息用于构建分类模型。当一个数据集的规模很大时,对其中的每个主题进行标记将花费大量的资金和时间。因此,它是一个重要的问题,以决定哪些科目应首先标记,以有效地减少训练成本/时间。主动学习方法是解决这一问题的有效途径,因为主动学习的思想可以在不知道被试的标签信息的情况下,顺序地选择未标记的被试。此外,将没有关于用于构造有效分类规则的基本变量的确认信息。因此,如何将变量选择方案与主动学习过程合并是令人感兴趣的。在本文中,我们提出了一个建立二进制分类模型的过程中,完整的标签信息是不可用的训练阶段的开始。我们研究了一个基于模型的主动学习过程与顺序变量选择方案,并讨论了所提出的过程从理论和数值方面的结果。
2019-01-29 cs.LG stat.ML
Balanced Split: A new train-test data splitting strategy for imbalanced datasets
Indian Institute of Technology Guwahati(古瓦哈提印度理工学院)
具有偏斜类比例的分类数据集称为不平衡。类别不平衡是一个问题,因为大多数机器学习分类算法都是在假设训练数据集中所有类别的平等表示的情况下构建的。因此,为了解决类不平衡问题,已经开发了许多算法级和数据级方法。这些技术主要包括集成学习和数据增强技术。本文提出了一种新的方法来对付类的不平衡问题,通过一个新的数据分裂策略称为平衡分裂。数据分裂可以在正确分类不平衡数据集方面发挥重要作用。我们发现,常用的数据分裂策略有一些缺点,我们提出的平衡分裂解决了这些问题。
2022-12-17 cs.LG
SoQal: Selective Oracle Questioning in Active Learning
University of Oxford(牛津大学)
医疗保健领域内的大量未标记数据仍然没有得到充分利用。主动学习提供了一种利用这些数据集的方法,它通过迭代地请求oracle(例如医疗专业人员)来标记实例。这个过程可能是昂贵和耗时的,过度依赖于Oracle。为了减轻这一负担,我们提出了SoQal,一个提问策略,动态地确定何时应该从Oracle请求标签。我们在五个公开的数据集上进行了实验,并说明了SoQal相对于基线方法的优越性,包括其将Oracle标签请求减少高达35%的能力。SoQal在存在标签噪声的情况下也具有竞争力:这种情况模拟了临床医生在面临困难的分类任务时的不确定诊断。
2020-04-22 cs.LG stat.ML
Impact of Stop Sets on Stopping Active Learning for Text Classification
The College of New Jersey(新泽西学院)
主动学习是机器学习的一个日益重要的分支,也是自然语言处理的一种强大技术。主动学习的主要优点是它可以减少学习高性能模型所需的标记数据量。有效的主动学习算法的一个重要方面是确定何时停止获取额外的标记数据。几种领先的最先进的停止方法使用停止集来帮助做出此决定。然而,已经有相对较少的关注给予停止集的选择比停止算法,应用于停止集。停止集的不同选择会导致停止方法性能的显著差异。我们调查的影响,不同的停止设置选择不同的停止方法。本文表明,停止集的选择可以有显着的影响,停止方法的性能和影响是不同的基于稳定性的方法从基于置信度的方法。此外,无偏的代表停止集的方法的原作者建议的工作优于最近发表的工作中使用的系统偏置停止集,和停止方法的基础上稳定的预测有更强的性能比基于置信度的停止方法时,使用无偏的代表停止集。我们提供了最大数量的实验结果的影响,停止集的日期。这些发现对于帮助阐明停止方法的这一重要方面的影响非常重要,该方法在最近发表的工作中未得到充分考虑,并且可以对重要语义计算应用(如技术辅助审查和更广泛的文本分类)的停止方法的性能产生重大实际影响。
2022-04-02 cs.CL cs.IR cs.LG
MCAL: Minimum Cost Human-Machine Active Labeling
University of Southern California(南加州大学);Microsoft Research(微软研究院)
如今,地面实况生成使用由基于云的注释服务注释的数据集。这些服务依赖于人工注释,这可能非常昂贵。在本文中,我们考虑混合人机标记的问题,训练分类器准确地自动标记数据集的一部分。然而,训练分类器也可能是昂贵的。我们提出了一种迭代方法,通过在每一步共同确定使用人类标记哪些样本以及使用训练的分类器标记哪些样本,来最大限度地降低总成本。我们在Fashion-MNIST、CIFAR-10、CIFAR-100和ImageNet等公知的公共数据集上验证了我们的方法。在某些情况下,我们的方法相对于人类标记整个数据集的总成本低6倍,并且总是比最便宜的竞争策略便宜。
2023-02-27 cs.CV cs.LG stat.ML
Targeting Negative Flips in Active Learning using Validation Sets
Georgia Institute of Technology(佐治亚理工学院)
针对主动学习中负翻转与整体错误率解耦的问题,提出利用小型验证集限制获取函数的即插即用算法ROSE,有效提升了预测准确率并降低了负翻转率。
2024-11-16 cs.CV cs.LG
Towards Explainable, Safe Autonomous Driving with Language Embeddings for Novelty Identification and Active Learning: Framework and Experimental Analysis with Real-World Data Sets
University of California San Diego(加利福尼亚大学圣迭戈分校);Laboratory for Intelligent and Safe Automobiles(智能与安全汽车实验室)
本研究提出一种基于CLIP语言嵌入的自动驾驶主动学习框架,通过聚类检测意外新颖场景并生成文本解释,实现安全接管与数据整理。
2024-02-11 cs.AI cs.CV cs.LG
Active Learning for Argument Strength Estimation
LMU Munich(慕尼黑大学);Germany(德国(注:根据提取范围,仅提取到大学/学院/公司/研究院级别,此处“Germany”为国家,非机构,实际有效机构为“LMU Munich”))
高质量的论证是决策的重要组成部分。自动预测论点的质量是一个复杂的任务,最近得到了很多关注的论点挖掘。然而,这个任务的注释工作量非常高。因此,我们测试基于不确定性的主动学习(AL)方法在两个流行的参数强度数据集,以估计是否可以启用样本有效的学习。我们广泛的经验评估表明,基于不确定性的采集功能不能超过这些数据集上的随机采集所达到的精度。
2021-09-23 cs.AI cs.CL cs.LG
Efficient Chemical Space Exploration Using Active Learning Based on Marginalized Graph Kernel: an Application for Predicting the Thermodynamic Properties of Alkanes with Molecular Simulation
Shanghai Jiao Tong University(上海交通大学);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Purdue University(普渡大学)
提出了一种基于高斯过程回归和边缘化图核的探索性主动学习算法(GPR-MGK),以最小代价探索化学空间。采用高通量分子动力学模拟生成数据和图神经网络(GNN)进行预测,构建了一个用于热力学性质预测的主动学习分子模拟框架。具体而言,针对由4至19个碳原子组成的251,728个烷烃分子及其液体物理性质:密度,热容和汽化率,我们使用AL算法选择最具信息性的分子来表示化学空间。计算和实验测试集的验证表明,只有313(总的0.124\%)分子是足够的训练一个准确的GNN模型与$\rm R^2 > 0.99$的计算测试集和$\rm R^2 > 0.94$的实验测试集。我们强调了所提出的AL算法的两个优点:与高通量数据生成和可靠的不确定性量化的兼容性。
2022-09-01 cs.LG physics.chem-ph
Cascaded V-Net using ROI masks for brain tumor segmentation
Universitat Politècnica de Catalunya. BarcelonaTech(加泰罗尼亚理工大学巴塞罗那理工)
在这项工作中,我们采用V-Net架构\cite{VNet}中启发的两个CNN级联来处理脑肿瘤分割问题,重新制定剩余连接并利用ROI掩模将网络限制为仅在相关体素上进行训练。这种架构允许对具有高度偏斜的类分布的问题进行密集训练,例如脑肿瘤分割,通过仅将训练集中在肿瘤区域的附近。我们报告了BraTS 2017训练和验证集的结果。
2018-12-30 cs.AI cs.CV cs.CY
Ramen: Robust Test-Time Adaptation of Vision-Language Models with Active Sample Selection
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出Ramen框架,通过主动样本选择实现视觉语言模型在混合域下的鲁棒测试时适应,通过领域一致性与预测平衡准则提升适应性能,实验表明其在多种图像退化和领域偏移基准上表现优异。
2026-04-27 cs.CV cs.LG
A Markov Decision Process Approach to Active Meta Learning
School of Electrical and Computer Engineering, Cornell University(康奈尔大学电气与计算机工程学院);U.S. Army Research Laboratory(美国陆军研究实验室)
在监督学习中,我们将单个统计模型拟合到给定的数据集,假设数据与单个任务相关联,这会产生针对特定用途的优化模型,但不能很好地适应新的上下文。相比之下,在元学习中,数据与许多任务相关联,我们寻求一种可以同时在所有任务上表现良好的模型,以追求更大的泛化能力。元学习中的一个挑战是如何利用任务和类之间的关系,这被常用的随机或循环数据所忽视。在这项工作中,我们建议积极选择样本上的训练识别协变量内和元训练集之间。具体来说,我们将从多个元训练集中选择样本的问题转换为多臂强盗或马尔可夫决策过程(MDP),这取决于如何封装任务之间的相关性。我们开发调度方案的基础上的置信上限(UCB),Gittins指数和表格马尔可夫决策问题(MDP)解决线性规划,其中的奖励是缩放的统计精度,以确保它是一个时不变的函数的状态和动作。在各种实验环境中,我们观察到相对于循环或i.i.d.,主动选择方案的样本复杂性显著降低。抽样,证明了在实践中利用协变量的优点。
2020-09-10 cs.LG math.OC stat.ML
Low Budget Active Learning via Wasserstein Distance: An Integer Programming Approach
NVIDIA(英伟达);University of Toronto(多伦多大学);Vector Institute(向量研究所)
主动学习是通过选择未标记数据池的核心子集进行标记来训练具有有限标记数据的模型的过程。深度学习中使用的大规模数据集迫使大多数样本选择策略采用有效的统计学。本文介绍了一个整数优化问题,选择一个核心集,最大限度地减少离散Wasserstein距离从未标记的池。我们证明了这个问题可以用广义Benders分解算法来解决。我们的策略使用高质量的潜在特征,可以通过无监督学习获得的未标记的池。几个数据集的数值结果表明,我们的优化方法与基线相比具有竞争力,特别是在低预算制度下,只有不到百分之一的数据集被标记。
2023-03-07 cs.LG math.OC
Benchmark time series data sets for PyTorch -- the torchtime package
Newcastle University(纽卡斯尔大学)
电子健康记录数据模型的开发是一个活跃的研究领域,具有少量的公共基准数据集。研究人员通常会编写自定义数据处理代码,但这会阻碍可重复性并可能引入错误。Python包torchtime为PyTorch提供了常用的PhysioNet和UEA & UCR时间序列分类存储库数据集的可重复实现。提供了用于处理不规则采样和部分观测的不等长度时间序列的功能。它旨在简化对PhysioNet数据的访问,并在这一令人兴奋的研究领域实现模型的公平比较。
2022-08-01 cs.LG
Active Learning for Matching Problems
University of Toronto(多伦多大学)
有效地学习用户偏好对于减轻用户在各种类型的匹配问题中的负担至关重要。同样重要的是主动查询选择,以进一步减少用户必须提供的偏好信息量。我们解决的问题,主动学习的用户偏好的匹配问题,引入一种新的方法来确定概率匹配,并开发了几个新的主动学习策略,是敏感的特定的匹配目标。在不同领域的真实数据集上的实验表明,匹配敏感的主动学习
2012-06-18 cs.AI cs.IR cs.LG
Pool-based sequential active learning with multi kernels
University of Southern California(南加州大学);Hanyang University(汉阳大学)
我们研究了一个基于池的顺序主动学习(AL),其中一个样本查询在每一次从一个大的池的未标记的数据根据一个选择标准。对于这个框架,我们提出了两个选择标准,命名为预期的内核差异(EKD)和预期的内核损失(EKL),利用多核学习(MKL)的特定结构。此外,它被确定,建议EKD和EKL成功地推广流行的查询由委员会(QBC)和预期模型变化(EMC)的概念,分别。通过对真实数据集的实验结果,与现有方法进行了比较,验证了所提准则的有效性。
2020-10-22 cs.LG
Beyond a Bag of Features: Set-Level Instability in Sparse Autoencoders
Heidelberg University(海德堡大学)
该研究以稀疏自编码器(SAE)隐集合重叠度为相似度度量,发现SAE特征不通过简单特征袋语义组合,其激活集合与人类概念判断存在显著不匹配。
2026-08-12 cs.CL cs.LG
Active Sampling of Pairs and Points for Large-scale Linear Bipartite Ranking
National Taiwan University(国立台湾大学)
二分排序是一个基本的排序问题,它学习将相关的实例排在不相关的实例之前。二分排序的逐对方法构造了二次数量的对来解决问题,这对于大规模数据集是不可行的。逐点方法虽然更有效,但通常会导致较差的性能。也就是说,很难同时准确和有效地进行双方排名。在本文中,我们开发了一种新的主动抽样方案内的成对的方法进行有效的二分排名。该方案的灵感来自于主动学习,可以达到一个有竞争力的排名性能,而在训练过程中只关注许多对的一个小子集。此外,我们提出了一个通用的组合排名和分类(CRC)框架,以准确地进行二分排名。该框架统一了逐点和逐对方法,并且简单地基于将每个实例点视为伪对的想法。在14个真实大规模数据集上的实验表明,该算法与线性支持向量机相结合,在精度和效率上均优于现有的逐点排序和逐对排序方法.
2017-08-24 cs.IR cs.LG
ATLAS-AL: Adaptive Trust-Region for Latent Adversarial Searches via Active Learning
University of California, Berkeley(加州大学伯克利分校)
ATLAS提出基于主动学习的自适应信赖域框架,通过水平集估计和局部-全局采样高效发现黑盒模型的对抗输入集,在多个基准上优于现有查询型攻击方法。
2026-10-07 cs.CR cs.CV cs.LG
Active Decision Boundary Annotation with Deep Generative Models
Aiir Innovations(Aiir创新公司);Delft University of Technology(代尔夫特理工大学)
本文是关于主动学习的,其目标是通过在训练期间与(人类)Oracle交互来减少数据注释负担。标准的主动学习方法要求oracle注释数据样本。相反,我们采取了一种完全不同的方法:我们要求对决策边界进行注释。我们使用深度生成模型来沿着1D线创建新颖的实例来实现这一目标。在决策边界上的一个点上,实例改变了类。实验中,我们在三个数据集上显示,我们的方法可以插入到其他主动学习方案中,人类预言机可以有效地注释决策边界上的点,我们的方法对注释噪声具有鲁棒性,并且决策边界注释比注释数据样本更好。
2017-08-02 cs.CV cs.LG
Safe Active Dynamics Learning and Control: A Sequential Exploration-Exploitation Framework
Stanford University(斯坦福大学)
自主机器人在不同场景中的安全部署需要能够有效适应新环境的代理,同时满足约束条件。在这项工作中,我们提出了一个实际的和理论上合理的方法来保持安全的存在动力学的不确定性。我们的方法利用贝叶斯元学习和最后一层适应。离线训练的神经网络特征的表现力,再加上有效的最后一层在线自适应,使得能够推导出紧密的置信集,这些置信集在模型在线自适应时围绕真实动态收缩。我们利用这些信心集规划轨迹,保证系统的安全性。我们的方法处理高动态不确定性的问题,安全地达到目标是可能最初是不可行的,通过第一\textit{exploring}收集数据和减少不确定性,自主\textit{exploiting}获取的信息之前,安全地执行任务。在合理的假设下,我们证明了我们的框架保证了所有约束在任何时候联合,即在总任务持续时间的高概率满足。这种理论分析还激发了最后一层元学习模型的两个正则化器,它们通过减少置信集的大小来提高在线适应能力和性能。我们在仿真和硬件上广泛地展示了我们的方法。
2022-02-16 cs.LG cs.RO cs.SY
6VecLM: Language Modeling in Vector Space for IPv6 Target Generation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
快速IPv6扫描在网络测量领域具有挑战性,因为它需要探索整个IPv6地址空间,但受到当前计算能力的限制。研究人员提出通过算法分析活动种子集来获得可能的活动目标候选集进行探测。然而,IPv6地址缺乏语义信息,包含众多的寻址方案,导致设计有效的算法的困难。在本文中,我们介绍了我们的方法6VecLM探索实现这样的目标生成算法。该架构可以将地址映射到一个向量空间来解释语义关系,并使用一个Transformer网络来构建IPv6语言模型来预测地址序列。实验结果表明,该方法可以对地址空间进行语义分类。与传统的语言模型相比,通过增加新的生成方法,我们的模型具有可控的词创新能力。这项工作通过达到更多的质量候选集,在两个活动地址数据集上优于最先进的目标生成算法。
2020-08-05 cs.CL cs.LG cs.NI
Active learning with binary models for real time data labelling
NIT Surathkal(苏拉特卡尔国家理工学院)
机器学习(ML)和深度学习(DL)任务主要依赖于数据。大多数ML和DL应用都涉及监督学习,这需要标记数据。在ML领域的初始阶段,缺乏数据曾经是一个问题,现在我们正处于一个大数据的新时代。监督ML算法要求数据被标记并且具有良好的质量。标签任务需要大量的金钱和时间投资。数据标签需要一个熟练的人谁将收取高昂的这项任务,考虑的情况下,医疗领域或数据是在批量,需要分配给它的标签很多人.这是足够好的训练需要知道的数据量,金钱和时间不能浪费标记整个数据.本文的主要目的是提出一种策略,有助于标记的数据与Oracle实时。在家具类型和英特尔场景图像数据集上,对标记的模型贡献分别为89和81.1。进一步与平衡被保持关闭模型的贡献被发现是83.47和78.71家具类型和花卉数据集分别。
2022-05-03 cs.CV cs.LG eess.IV