Time Series Classification from Scratch with Deep Neural Networks: A Strong Baseline
GE Global Research(通用电气全球研究中心);University of Maryland Baltimore County(马里兰大学巴尔的摩分校)
我们提出了一个简单但强大的基线,用于从头开始使用深度神经网络进行时间序列分类。我们提出的基线模型是纯端到端的,没有对原始数据或特征制作进行任何繁重的预处理。提出的全卷积网络(FCN)实现了其他最先进的方法的优异性能,我们对具有ResNet结构的非常深的神经网络的探索也具有竞争力。我们的卷积模型中的全局平均池化使得能够利用类激活图(CAM)来找出特定标签的原始数据中的贡献区域。我们的模型为现实世界的应用提供了一个简单的选择,并为未来的研究提供了一个很好的起点。全面的分析,讨论我们的模型,学习功能,网络结构和分类语义的泛化能力。
2016-12-14 cs.LG cs.NE stat.ML
The Optimal Input-Independent Baseline for Binary Classification: The Dutch Draw
Centrum Wiskunde & Informatica(数学与计算机科学研究中心);Vrije Universiteit(阿姆斯特丹自由大学)
在将任何二元分类模型付诸实践之前,重要的是在适当的测试集上验证其性能。如果没有基准方法提供的参照系,就不可能确定一个分数是“好”还是“坏”。本文的目标是检查所有的基线方法,是独立的特征值,并确定哪个模型是“最好的”,为什么。通过确定哪些基线模型是最佳的,简化了评估过程中的关键选择决策。我们证明,最近提出的荷兰画基线是最好的输入无关分类器(独立的特征值)的所有位置不变的措施(独立的序列顺序)假设样本随机洗牌。这意味着荷兰式抽签基线是这些直观要求下的最佳基线,因此应在实践中使用。
2023-01-09 cs.LG math.ST stat.ME
EC3: Combining Clustering and Classification for Ensemble Learning
Indraprastha Institute of Information Technology Delhi(德里因陀罗普拉斯塔信息技术学院)
分类和聚类算法已被证明是成功的,在不同的背景下。两者都有各自的优点和局限性。例如,虽然分类算法在预测对象的类别标签方面比聚类方法更强大,但当缺乏足够的手动标记的可靠数据时,它们的表现并不好。另一方面,尽管聚类算法不产生对象的标签信息,但是它们提供补充约束(例如,如果两个对象被聚类在一起,则更可能的是,相同的标签被分配给它们两者),可以利用该标签来对一组未知对象进行标签预测。因此,系统地利用这两种类型的算法一起可以导致更好的预测性能。在本文中,我们提出了一种新的算法,称为EC3,合并分类和聚类在一起,以支持二进制和多类分类。EC3基于使用优化函数的多分类和多聚类方法的原则组合。我们从理论上证明了问题的凸性和最优性,并用块坐标下降法求解。我们还提出了iEC 3,一个处理不平衡训练数据的EC 3变体。我们通过在13个标准基准数据集上比较EC3和iEC3与14种基线方法(7种知名的独立分类器,5种集成分类器和2种现有的合并分类和聚类的方法)进行了广泛的实验分析。我们表明,我们的方法在每个数据集上都优于其他基线,最多可以提高10%的AUC。此外,我们的方法更快(比最佳基线快1.21倍),比最佳基线方法更能适应噪声和类不平衡。
2017-08-29 cs.LG stat.ML
Intrusion Detection: Machine Learning Baseline Calculations for Image Classification
PeopleTec, Inc.(PeopleTec公司)
网络安全可以通过应用机器学习来增强,方法是将网络攻击数据重新转换为图像格式,然后应用监督计算机视觉和其他机器学习技术来检测恶意样本。探索性数据分析显示,本研究中使用的十类恶意软件之间的相关性很小,也没有什么区别。一个一般的模型比较表明,最有前途的候选人考虑轻梯度提升机,随机森林分类器,额外的树分类器。卷积网络无法提供其出色的分类能力,被简单、完全连接的架构所超越。大多数测试未能突破80%的分类准确性,并且F1得分较低,表明更复杂的方法(例如,自举、随机采样和特征选择)以最大化性能。
2021-11-03 cs.LG
A Baseline for Multi-Label Image Classification Using An Ensemble of Deep Convolutional Neural Networks
Department of Computer Science, Durham Univeristy, United Kingdom
最近关于多标签图像分类的研究集中在设计更复杂的深度神经网络架构,例如使用注意力机制和区域建议网络。虽然已经报告了性能增益,但所提出的方法的骨干深度模型和不同作品中采用的评估指标各不相同,因此很难公平地比较每种方法。此外,由于缺乏适当调查的基线,所提出的技术所带来的优势往往是模糊的。为了解决这些问题,我们对用于多标签图像分类的主流深度卷积神经网络架构进行了深入研究,并提出了一个强大的基线。通过使用适当的数据增强技术和模型集成,基本的深度架构可以在三个基准数据集上实现比许多现有的更复杂的架构更好的性能,为未来多标签图像分类的研究提供了很好的见解。
2019-05-09 cs.CV cs.LG cs.MM
Image Evolution Trajectory Prediction and Classification from Baseline using Learning-based Patch Atlas Selection for Early Diagnosis
University of Dundee(邓迪大学);Istanbul Technical University(伊斯坦布尔理工大学)
最初诊断为早期轻度认知障碍(eMCI)的患者已知是临床异质性组,具有非常微妙的脑萎缩模式。为了检查正常对照(NC)和eMCI之间的边界,磁共振成像(MRI)被广泛用作一种非侵入性成像方式,以确定MCI患者脑图像的细微变化。然而,eMCI研究仍然受到可用MRI采集时间点数量的限制。理想情况下,人们将学习如何从单个时间点获得的MRI数据中早期诊断MCI患者,同时利用“不存在”的随访观察结果。为此,我们提出了新的监督和无监督框架,学习如何联合预测和标记强度补丁的演变轨迹,每个种子在一个特定的大脑地标,从基线强度补丁。具体而言,这两种策略的目的是在基线时间点识别最佳训练图谱块,以预测和分类给定测试基线块的演变轨迹。监督技术学习如何选择最好的地图集补丁,通过训练双向映射从空间的成对补丁相似性,以其相应的预测误差-当一个补丁被用来预测其他。另一方面,无监督技术使用多个内核学习多种基线图谱和测试补丁,以很好地捕获多个尺度的补丁分布。一旦最好的基线图谱补丁被选中,我们检索它们的演化轨迹,并平均它们来预测测试基线补丁的演化轨迹。接下来,我们将预测的轨迹输入到线性分类器的集合中,每个分类器都在特定的地标上训练。与基于单个时间点的分类方法相比,我们的分类准确率提高了10%。
2019-07-13 cs.CV cs.LG eess.IV
A Simple yet Effective Baseline for Robust Deep Learning with Noisy Labels
Tsinghua University(清华大学);Google Cloud AI(谷歌云人工智能)
最近,深度神经网络已经显示出它们记忆训练数据的能力,即使带有噪声标签,这会损害泛化性能。为了缓解这个问题,我们提供了一个简单但有效的基线方法,即使在严重的噪声下,该方法对噪声标签也具有鲁棒性。我们的目标涉及一个方差正则化项,该项隐含地惩罚整个训练集(包括带有噪音标签的数据)上的神经网络的雅可比范数,这鼓励泛化并防止对损坏的标签的过拟合。在合成生成的错误标签和现实的大规模噪声数据集上的实验表明,我们的方法实现了最先进的性能,对严重噪声具有很高的容忍度。
2019-09-27 cs.LG stat.ML
Overhead-MNIST: Machine Learning Baselines for Image Classification
PeopleTec, Inc.(PeopleTec 公司)
对23种机器学习算法进行了训练,然后进行评分,以建立基线比较指标,并选择一种值得嵌入关键任务卫星成像系统的图像分类算法。Overhead-MNIST数据集是卫星图像的集合,其风格类似于机器学习文献中普遍存在的MNIST手写数字。在PyCaret一般比较中,CatBoost分类器、轻度梯度提升机器和极端梯度提升模型产生了最高的准确度、曲线下面积(AUC)和F1分数。单独的评估表明,深度卷积架构是最有前途的。我们将整体性能最佳算法的结果作为边缘可部署性和未来性能改进的基线:卷积神经网络(CNN)在看不见的测试数据上的分类准确度为0.965。
2021-10-19 cs.AI cs.CV cs.LG
Virus-MNIST: Machine Learning Baseline Calculations for Image Classification
PeopleTec, Inc.(PeopleTec 公司)
病毒-MNIST数据集是缩略图图像的集合,其风格类似于无处不在的MNIST手写数字。然而,这些是通过将可能的恶意软件代码重塑成图像阵列来投射的。自然,它准备在病毒分类器模型训练的基准测试中发挥作用。目前有十种类型:九种被归类为恶意软件,一种是良性的。粗略的检查显示,在选择分类和预处理方法时,必须考虑到不平等的类别群体和其他关键方面。探索性分析显示了聚合指标中可能的可识别特征(例如,像素中值),以及通过识别强相关性来减少特征数量的方法。模型比较显示,轻型梯度提升机器、梯度提升分类器和随机森林算法产生了最高的准确性分数,从而显示出更深入审查的前景。
2021-11-03 cs.LG
A Baseline for Few-Shot Image Classification
Amazon Web Services(亚马逊云科技);University of Pennsylvania(宾夕法尼亚大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
微调使用标准交叉熵损失训练的深度网络是少样本学习的强大基线。当进行微调时,这在标准数据集上的表现优于当前最先进的技术,例如Mini-ImageNet,Tiered-ImageNet,CIFAR-FS和FC-100,具有相同的超参数。这种方法的简单性使我们能够在ImageNet-21 k数据集上展示前少样本学习结果。我们发现,使用大量的元训练类的结果在高的Few-Shot精度,即使是大量的Few-Shot类。我们并不提倡我们的方法作为解决方案的少样本学习,但只是使用的结果,以突出当前的基准和Few-Shot协议的局限性。我们对基准数据集进行了广泛的研究,提出了一个度量标准,量化了“硬度”的Few-Shot插曲。该度量可用于以更系统的方式报告Few-Shot算法的性能。
2020-10-21 cs.CV cs.LG stat.ML
Compensated Integrated Gradients to Reliably Interpret EEG Classification
Osaka University(大阪大学)
集成梯度被广泛用于评估分类模型中输入特征的贡献,因为它满足预测属性的公理。然而,这一方法需要一个适当的基线,以便可靠地确定贡献。我们提出了一种补偿集成梯度方法,不需要一个基线。事实上,该方法补偿了在任意基线处使用Shapley采样通过积分梯度计算的属性。我们证明了如果分类器中输入特征的处理是相互独立的,并且它们像卷积神经网络中的共享权重一样相同,则该方法检索到可靠的属性。使用三个脑电数据集,我们的实验表明,该方法的属性比原始积分梯度的属性更可靠,并且其计算复杂性远低于Shapley采样。
2018-11-21 cs.LG eess.SP stat.ML
Linear Classifier: An Often-Forgotten Baseline for Text Classification
National Taiwan University(国立台湾大学);ASUS Intelligent Cloud Services(华硕智能云服务);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文指出直接训练部署BERT等预训练语言模型做文本分类未必最优,提出应搭配基于词袋特征的线性分类器作为简单基准以验证先进模型结果的合理性,并通过实验证实了线性方法的性能优势与该基准的必要性。
2023-06-12 cs.AI cs.CL cs.LG
Never a Dull Moment: Distributional Properties as a Baseline for Time-Series Classification
The University of Sydney(悉尼大学)
本文提出将基于时间序列均值和标准差的简单线性分类器作为基线,发现其在128个问题中69个优于随机猜测,并在精神分裂症分类案例中优于动态特征模型,为评估复杂时间序列分类模型的必要性提供了重要参考。
2023-03-31 cs.LG stat.AP stat.ME
Investigating a Baseline Of Self Supervised Learning Towards Reducing Labeling Costs For Image Classification
监督学习中的数据标注被认为是一种昂贵的工具,在某些情况下是不可行的。提出了自监督学习方法来解决具有较少标记数据的学习有效性,然而,对实现足够结果所需的标记数据的大小缺乏信心。这项研究的目的是绘制一个基线的标记数据的比例,模型可以欣赏,以产生合格的准确性相比,训练与额外的标签。该研究实现了www.example.com 'cats-vs-dogs数据集Mnist和Fashion-Mnist,通过在原始数据集上实现随机旋转增强来研究自监督学习任务。为了揭示自监督学习中借口过程的真实有效性,原始数据集被分成较小的批次,并且在每个批次上重复学习,有和没有借口预训练。结果表明,与普通监督学习相比,自监督学习中的借口过程在下游分类任务中提高了约15%的准确率。
2021-08-17 cs.CV cs.LG
SortScrews: A Dataset and Baseline for Real-time Screw Classification
University of Toronto(多伦多大学);Vector Institute(向量研究所);Project Neura;UTMIST;Amplimit
本文提出SortScrews数据集,用于解决工业自动化中螺钉分类问题,通过标准化采集设置获取6种螺钉类型和背景类图像,采用EfficientNet-B0和ResNet-18进行迁移学习,验证了在小数据集下可控采集条件下的有效学习能力。
2026-03-13 cs.AI cs.CV cs.LG
A Baseline for Self-state Identification and Classification in Mental Health Data: CLPsych 2025 Task
Cornell University(康奈尔大学)
针对 CLPsych 2025 任务,提出基于少样本学习和句子分块的自我状态分类基线,在 Reddit 心理健康数据上取得第三名,召回率 0.579。
2025-04-18 cs.CL cs.LG
Polar Encoding: A Simple Baseline Approach for Classification with Missing Values
Leiden Institute of Advanced Computer Science, Leiden University(莱顿大学高级计算机科学研究所);Ghent University(根特大学);imec(微电子中心)
本研究提出适用于含缺失值分类任务的极性编码基线方法,无需插补且保留缺失信息,在20个真实数据集上性能优于MICE、MIDAS等前沿插补策略,可适配任意分类算法。
2024-05-15 cs.LG
Neural Architecture Search on Acoustic Scene Classification
Xiaomi AI Lab(小米人工智能实验室)
卷积神经网络被广泛应用于声场景分类(ASC)任务中,但它们通常具有沉重的计算负担。在这项工作中,我们提出了一个受MobileNetV 2启发的轻量级但高性能的基线网络,它用单向卷积核取代了方形卷积核,以在时间和频率维度上交替提取特征。此外,我们探索了一个动态的架构空间的基础上提出的基线与最近的神经架构搜索(NAS)范式,首先训练一个超网,包括所有候选网络,然后应用一个著名的进化算法NSGA-II发现更高效的网络,具有更高的精度和更低的计算成本。实验结果表明,我们搜索的网络能够胜任ASC任务,在DCASE 2018任务5评估集上达到90.3%的F1分数,标志着新的最先进的性能,同时与我们的基线网络相比节省了25%的FLOP。
2020-08-05 cs.LG cs.SD eess.AS
Detection of Word Adversarial Examples in Text Classification: Benchmark and Baseline via Robust Density Estimation
Seoul National University(首尔国立大学);NAVER WEBTOON AI(NAVER WEBTOON人工智能部门)
词级对抗攻击在NLP模型中取得了成功,近年来大大降低了基于transformer的模型的性能。作为一种对策,对抗性防御已被探索,但相对较少的努力已经检测到对抗性的例子。然而,检测对抗性示例对于自动化任务(例如,审查情感分析)可能是至关重要的,这些任务希望收集有关特定人群的信息,并且另外是迈向强大防御系统的一步。为此,我们在四个数据集和四个模型上发布了四种流行攻击方法的数据集,以鼓励在这一领域的进一步研究。与此同时,我们提出了一个基于密度估计的竞争性基线,该基线在30种攻击模型组合中的29种组合中具有最高的AUC。源代码可在https://github.com/anoymous92874838/text-adv-detection上获得。
2022-03-03 cs.CL cs.CR cs.LG
Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment
University of Hong Kong(香港大学);A*STAR(新加坡科技研究局)
机器学习算法通常容易受到对抗性示例的影响,这些示例与原始示例相比具有难以察觉的变化,但可以欺骗最先进的模型。通过暴露恶意制作的对抗性示例,有助于评估甚至提高这些模型的鲁棒性。在本文中,我们提出了TextFocal,一个简单但强大的基线来生成自然的对抗文本。通过将其应用于两个基本的自然语言任务,文本分类和文本蕴涵,我们成功地攻击了三个目标模型,包括强大的预训练BERT,以及广泛使用的卷积和递归神经网络。我们从三个方面证明了这个框架的优势:(1)有效-它在成功率和扰动率方面优于最先进的攻击,(2)实用性保留-它保留了语义内容和语法,并保持了人类的正确分类,(3)高效-它生成的对抗性文本具有与文本长度线性相关的计算复杂性。* 代码、预训练的目标模型和测试示例可在https://github.com/jind11/TextFooler上获得。
2020-04-08 cs.AI cs.CL cs.LG
A Simple Algorithm for Maximum Margin Classification, Revisited
University of Illinois(伊利诺伊大学)
在本文中,我们重温了Har-Peled等的算法。用于计算线性最大余量分类器。我们的演示是自包含的,并且算法本身比原始算法稍微简单。该算法本身是一个简单的类似于Perceptron的迭代算法。欲了解更多细节和背景,请读者参阅原始文件。
2015-07-06 cs.LG
Comparing published multi-label classifier performance measures to the ones obtained by a simple multi-label baseline classifier
Federal Technological University of Paraná (UTFPR)(巴拉那联邦理工大学(UTFPR))
在监督学习中,简单的基线分类器可以通过只查看类来构建,即,忽略来自数据集的任何其他信息。单标签学习社区经常使用总是预测多数类的标签作为参考。虽然分类器的性能可能比这个简单的基线分类器差,但这种行为需要特殊的解释。为了激励社区比较实验结果与多标签基线分类器提供的结果,呼吁关注与表现比基线差的分类器相关的特殊解释的需要,在这项工作中,我们提出使用General_B,一个多标签基线分类器。通过与文献中发表的结果进行对比,对General_B进行了评价,这些结果是使用系统综述过程精心选择的。结果发现,在10个常用数据集上,相当数量的已发表结果差于或等于General_B的结果,其中一个数据集差于或等于General_B的结果的比例高达43%。此外,尽管这些出版物中没有考虑简单的基线分类器,但据观察,即使对于非常差的结果,其中大多数也没有提供特殊的解释。我们希望这项工作的结果将鼓励多标签社区考虑使用简单的基线分类器的想法,以便在分类器的性能比基线差时提供进一步的解释。
2015-03-24 cs.LG
Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning
UC San Diego(加州大学圣迭戈分校);UC Berkeley(加州大学伯克利分校);Penn State University(宾夕法尼亚州立大学)
近年来,元学习一直是少样本学习最常见的框架。它从Few-Shot分类任务的集合中学习模型,这被认为具有使训练目标与测试目标一致的关键优势。然而,最近的一些工作报告说,通过训练整体分类,即对整个标签集进行分类,它可以获得与许多Meta学习算法相当甚至更好的嵌入。这两种方法之间的差异尚未被充分探索,元学习在少样本学习中的有效性仍然不清楚。在本文中,我们探索了一个简单的过程:在整个分类预训练模型上对其评估指标进行元学习。我们观察到这种简单的方法在标准基准测试中达到了与最先进方法相比具有竞争力的性能。我们的进一步分析有助于理解少样本学习中元学习目标和整体分类目标之间的权衡。
2021-08-19 cs.CV cs.LG
Parametric Classification for Generalized Category Discovery: A Baseline Study
The University of Hong Kong(香港大学);University of Edinburgh(爱丁堡大学)
本研究针对广义类别发现中参数化分类器易过拟合的问题,探究其失效原因,指出伪标记不可靠及两类预测偏差问题,提出带熵正则化的参数化分类方法,在多个基准上达SOTA且对未知类别数鲁棒,可作为该领域强基线。
2023-12-15 cs.CV cs.LG
PCANet: A Simple Deep Learning Baseline for Image Classification?
Advanced Digital Sciences Center(高级数字科学中心);ShanghaiTech University(上海科技大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
在这项工作中,我们提出了一个非常简单的深度学习网络用于图像分类,它只包括非常基本的数据处理组件:级联主成分分析(PCA),二进制哈希和块直方图。在所提出的架构中,PCA是用来学习多级滤波器组。接下来是简单的二进制哈希和用于索引和池化的块直方图。因此,这种架构被命名为PCA网络(PCANet),并且可以非常容易和有效地设计和学习。为了比较和更好地理解,我们还介绍和研究了PCANet的两个简单变体,即RandNet和LDANet。它们共享PCANet的相同拓扑结构,但它们的级联滤波器是随机选择的或从LDA学习的。我们已经在许多用于不同任务的基准视觉数据集上广泛测试了这些基本网络,例如用于人脸验证的LFW,MultiPIE,Extended Yale B,AR,用于人脸识别的FERET数据集,以及用于手写数字识别的MNIST。令人惊讶的是,对于所有任务,这样一个看似幼稚的PCANet模型与最先进的功能不相上下,无论是前缀,高度手工制作还是精心学习(通过DNN)。更令人惊讶的是,它在Extended Yale B、AR、FERET数据集和MNIST变体中为许多分类任务创造了新的记录。在其他公共数据集上的其他实验也证明了PCANet作为纹理分类和对象识别的简单但极具竞争力的基线的潜力。
2014-08-28 cs.CV cs.LG cs.NE
EmoGator: A New Open Source Vocal Burst Dataset with Baseline Machine Learning Classification Methodologies
University of Florida(佛罗里达大学)
本文介绍了开源的EmoGator数据集,包含357名说话者的32130个非语音情绪发声样本,并提出了构建分类器识别30种情绪类别的基线机器学习方法。
2023-04-06 cs.LG cs.SD eess.AS
Analysis of Dimensional Influence of Convolutional Neural Networks for Histopathological Cancer Classification
Fr. Conceicao Rodrigues Institute of Technology, Vashi(康塞桑·罗德里格斯理工学院,瓦希)
卷积神经网络可以根据手头的任务设计不同的复杂程度。本文分析了CNN架构的维度变化对其在组织学癌症分类任务上的性能的影响。研究从基线10层CNN模型开始,具有(3 X 3)卷积滤波器。此后,基线架构在多个维度上进行缩放,包括宽度、深度、分辨率以及所有这些的组合。宽度缩放涉及每CNN层灌输更多数量的神经元,而深度缩放涉及加深分层结构。分辨率缩放是通过增加输入图像的尺寸来执行的,而复合缩放涉及宽度、深度和分辨率缩放的混合组合。结果表明,组织病理学癌症扫描本质上非常复杂,因此需要将高分辨率图像馈送到卷积、最大池化、丢弃和批量归一化层的大层次结构中,以提取所有的复杂性并执行完美的分类。由于复合缩放基线模型可确保所有三个维度(宽度、深度和分辨率)都得到缩放,因此使用复合缩放可获得最佳性能。这项研究表明,CNN模型的更好的性能是通过对基线模型进行复合缩放来实现的。
2020-12-22 cs.CV cs.LG
A Simple and Fast Baseline for Tuning Large XGBoost Models
New York University(纽约大学);Amazon(亚马逊)
XGBoost是一种可扩展的树提升算法,已被证明对许多实际感兴趣的预测任务是有效的,特别是使用表格数据集。超参数调整可以进一步提高预测性能,但与神经网络不同的是,在大型数据集上对许多模型进行全批训练可能非常耗时。由于发现(i)数据集大小与训练时间之间存在强线性关系,(ii)XGBoost模型满足排名假设,以及(iii)低保真度模型可以发现有希望的超参数配置,我们表明,均匀子采样可以提供一个简单而快速的基线,以加快使用多个以数据子集作为保真度维的保真度超参数优化。我们证明了这个基线的有效性,大规模的表格数据集,从$15-70\mathrm{GB}$的大小。
2021-11-12 cs.LG
PATTERN Can Be Solved from Memory: Testing Graph Neural Networks on Unseen Patterns
University of Zanjan(赞詹大学)
该研究针对合成节点分类基准PATTERN,提出无需训练参数的匹配器基线,其准确率优于现有模型,还建议合成基准报告新模板得分等。
2026-11-16 cs.LG
Multilingual Relation Classification via Efficient and Effective Prompting
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
预训练的语言模型在各种NLP任务中取得了令人印象深刻的性能,特别是在低数据状态下。尽管在单语环境中的提示取得了成功,但由于手工制作多语言提示的成本很高,因此在多语言场景中应用基于提示的方法仅限于一组狭窄的任务。在本文中,我们提出了第一个工作基于XML的多语言关系分类(RC),通过引入一个高效和有效的方法,从关系三元组构造提示,只涉及最小的翻译类标签。我们评估了它在完全监督,Few-Shot和zero-shot场景中的性能,并分析了它在14种语言,提示变体和跨语言设置的英语任务训练中的有效性。我们发现,在完全监督和Few-Shot的情况下,我们的提示方法击败竞争基线:微调XLM-R_EM和空提示。在zero-shot实验中,它也大大优于随机基线。我们的方法需要很少的语言知识,可以作为一个强大的基线类似的多语言分类任务。
2022-10-26 cs.CL cs.LG
Enabling Quartile-based Estimated-Mean Gradient Aggregation As Baseline for Federated Image Classifications
University of Miami(迈阿密大学)
本文提出估计均值聚合(EMA)方法,通过四分位数截尾均值处理恶意离群点并应对数据异质性,为联邦学习聚合技术提供兼具安全性与适应性的稳健基线。
2023-09-21 cs.AI cs.CR cs.LG
Revisiting Point Cloud Shape Classification with a Simple and Effective Baseline
Princeton University(普林斯顿大学)
处理点云数据是许多现实世界系统的重要组成部分。因此,已经提出了各种各样的基于点的方法,随着时间的推移,报告稳定的基准改进。我们研究了这一进展的关键因素,并发现了两个关键结果。首先,我们发现,辅助因素,如不同的评估方案,数据增强策略,和损失函数,这是独立的模型架构,使性能有很大的差异。差异之大足以掩盖建筑的影响。当控制这些因素时,PointNet++,一个相对较老的网络,与最近的方法相比具有竞争力。第二,一个非常简单的基于投影的方法,我们称之为SimpleView,表现令人惊讶地好。它比ModelNet 40上复杂的最先进方法取得了同等或更好的结果,同时大小只有PointNet++的一半。它还优于ScanObjectNN(一个真实世界的点云基准)上的最先进方法,并展示了更好的跨数据集泛化。代码可在https://github.com/princeton-vl/SimpleView上获得。
2021-06-09 cs.CV cs.LG
High-resolution land cover change from low-resolution labels: Simple baselines for the 2021 IEEE GRSS Data Fusion Contest
Yale University(耶鲁大学);Microsoft AI for Good(微软AI造福全球);Microsoft Research(微软研究院)
我们在2021年IEEE GRSS数据融合竞赛中提出了土地覆盖变化检测的简单算法。比赛的任务是根据多分辨率图像和标签数据,绘制美国马里兰州一个研究区的高分辨率(1米/像素)土地覆盖变化图。我们研究了这项任务的几个基线模型,并讨论了进一步研究的方向。数据见https://dfc2021.blob.core.windows.net/competition-data/dfc2021_index.txt,这些基线的实施见https://github.com/calebrob6/dfc2021-msd-baseline。
2021-01-04 cs.AI cs.CV cs.LG
Tune It or Don't Use It: Benchmarking Data-Efficient Image Classification
Sapienza University of Rome(罗马第一大学);Friedrich Schiller University Jena(耶拿大学)
在只有少量标记数据可用的情况下,使用深度神经网络进行数据高效的图像分类在最近的过去一直是一个活跃的研究领域。然而,很难在已发表的方法之间进行客观比较,因为现有的工作使用不同的数据集进行评估,并且经常与默认超参数的未调优基线进行比较。我们设计了一个数据有效的图像分类的基准,包括六个不同的数据集跨越各个领域(例如,自然图像、医学图像、卫星数据)和数据类型(RGB、灰度、多光谱)。使用这个基准,我们重新评估了2017年至2021年期间在知名场所发布的标准交叉熵基线和八种数据高效深度学习方法。为了进行公平和现实的比较,我们仔细调整了每个数据集上所有方法的超参数。令人惊讶的是,我们发现,调整学习率,权重衰减和批量大小在一个单独的验证分裂的结果在一个高度竞争性的基线,它优于所有,但一个专门的方法,并执行竞争力的其余一个。
2021-08-30 cs.CV cs.LG
Multimodal Techniques for Malware Classification
San Jose State University(圣何塞州立大学)
本研究利用多模态机器学习方法,基于Windows PE文件不同部分提取的特征训练SVM、LSTM和CNN模型,并组合其输出概率,发现多模态模型优于基线,提高了恶意软件分类准确性。
2025-01-19 cs.CR cs.LG
Standardized CycleGAN training for unsupervised stain adaptation in invasive carcinoma classification for breast histopathology
Primaa
为解决乳腺浸润性癌分类中的染色泛化难题,本文提出基于CycleGAN的无监督染色转换与增强策略,并引入一种无需视觉检查的标准化停止准则来优化CycleGAN训练,显著提升了多中心不同染色数据下的分类性能。
2024-01-08 cs.CV cs.LG eess.IV
No Mean Feat: Simple, Strong Baselines for Context Compression
Department of Computer Science and Cornell Tech(计算机科学系和康奈尔科技)
本文提出BenchPress评估套件和简单高效基线,用于上下文压缩,通过双向注意力和均值池化方法提升性能。
2026-05-10 cs.AI cs.CL cs.LG
A Simple Baseline for Beam Search Reranking
The Blavatnik School of Computer Science(布拉瓦尼克计算机科学学院);Tel Aviv University(特拉维夫大学)
机器翻译中的重排序方法旨在缩小公共评估度量(例如BLEU)与最大似然学习和解码算法之间的差距。之前的工作通过训练模型来解决这一挑战,根据预测的BLEU分数对束搜索候选人进行重新排名,建立在大规模单语语料库上预训练的大型模型上-这是基线翻译模型从未获得的特权。在这项工作中,我们研究了一种简单的方法,用于训练重新排序器来预测翻译候选人的BLEU分数,而无需引入额外的数据或参数。我们的方法可以作为一个干净的基线,从外部因素解耦,在这一领域的未来研究。
2022-12-17 cs.AI cs.CL cs.LG
Retinal Disease Classification from Fundus Images using CNN Transfer Learning
CliftonLarsonAllen (CLA)(CliftonLarsonAllen)
本文提出了一种可重复的深度学习管道,用于从公开的视网膜图像中二分类视网膜疾病风险。通过比较基线CNN和使用预训练VGG16的迁移学习方法,展示了迁移学习在提高分类性能上的优势。
2026-03-24 cs.CV cs.LG
Baseline Method for the Sport Task of MediaEval 2022 with 3D CNNs using Attention Mechanisms
Max Planck Institute for Evolutionary Anthropology(马克斯·普朗克进化人类学研究所)
本文介绍了为MediaEval 2022基准测试的体育视频任务部分提出的基线方法。该任务提出了两个子任务:修剪视频中的笔划分类和未修剪视频中的笔划检测。此基线处理两个子任务。我们提出了两种类型的3D-CNN架构来解决这两个子任务。这两种3D-CNN都使用时空卷积和注意力机制。体系结构和训练过程是针对解决所解决的子任务而定制的。这种基线方法在网上公开共享,以帮助参与者进行调查,并最终减轻任务的某些方面,例如视频处理、培训方法、评估和提交程序。基线方法达到86.4%的准确率与我们的v2模型的分类子任务。对于检测子任务,使用我们的v1模型,基线达到0.131的mAP和0.515的IoU。
2023-02-06 cs.AI cs.CV cs.LG
Baseline Drift Tolerant Signal Encoding for ECG Classification with Deep Learning
King’s College London(伦敦国王学院)
本文提出派生峰值(DP)编码,利用信号一阶和二阶导数过零点生成带符号尖峰,对偏移和缩放伪影具有不变性,在PTB-XL数据集上训练1D-ResNet-18进行心电图分类,显著提升了对基线漂移、偏移和重缩放等常见伪影的鲁棒性。
2024-04-26 cs.LG eess.SP
Leveraging Emotion-specific Features to Improve Transformer Performance for Emotion Classification
PVG’s COET(PVG工程学院);Savitribai Phule Pune University(萨维特里巴伊·普勒·浦那大学)
本文描述了PVGs AI Club团队在WASSA 2022举行的情绪分类共享任务的方法。此轨道2子任务侧重于构建模型,该模型可以基于新闻文章中的文章预测多类情感标签,其中一个人,一个团体或另一个实体受到影响。基线Transformer模型在序列分类任务上表现出良好的效果,我们的目标是在集成技术的帮助下,并通过利用两种不同的情感表达来提高这种性能。我们观察到比我们的基线模型更好的结果,并在情感分类任务上实现了0.619的准确度和0.520的宏观F1得分。
2022-04-30 cs.AI cs.CL cs.LG
Few-shot Image Classification: Just Use a Library of Pre-trained Feature Extractors and a Simple Classifier
Rice University(莱斯大学);University of Texas, Austin(德克萨斯大学奥斯汀分校)
最近的论文表明,迁移学习在Few-Shot图像分类中的表现优于复杂的元学习方法。我们把这个假设的逻辑结论,并建议使用高质量的,预先训练的特征提取器的合奏Few-Shot图像分类。我们的实验表明,一个库的预训练的特征提取器结合一个简单的前馈网络学习与L2正则化可以是一个很好的选择,解决跨域Few-Shot图像分类。我们的实验结果表明,这种更简单的样本效率的方法远远优于几个完善的Meta学习算法在各种Few-Shot任务。
2021-08-20 cs.AI cs.CV cs.LG