Neural Architecture Search for Energy Efficient Always-on Audio Models
X, The Moonshot Factory（X，登月工厂）；Google Research（谷歌研究院）
针对常开音频分类的能耗与内存约束，提出同时优化准确率、能耗和内存的 NAS 策略，在 AudioSet 上获得十倍级推理节能并小幅提升准确率。
2023-06-01 cs.LG cs.SD eess.AS
A multi-task learning model for malware classification with useful file access pattern from API call sequence
The University of Hong Kong（香港大学）
基于API调用序列，可以构建基于语义感知和机器学习（ML）的恶意软件分类器以用于恶意软件检测或分类。以前的工作集中于通过静态或动态分析从恶意软件二进制文件、反汇编二进制文件或API调用中制作和提取各种特征，并诉诸ML来构建分类器。然而，它们往往涉及太多的特征工程，无法提供可解释性。我们通过深度学习的最新进展解决了这两个问题：1）基于RNN的自动编码器（RNN-AE）可以从原始API调用序列中自动学习恶意软件的低维表示。2)多个解码器可以在不同的监督下进行训练，以提供更多的信息，而不是恶意软件的类别或家族标签。受文档分类和自动句子摘要工作的启发，每个API调用序列都可以被视为一个句子。在本文中，我们首次尝试建立一个基于API调用序列的多任务恶意软件学习模型。该模型由两个解码器组成，一个用于恶意软件分类，另一个用于给定恶意软件的API调用序列的$\emph{file access pattern}$（FAP）生成。我们的模型基于一般的seq 2seq框架。实验表明，我们的模型可以提供有竞争力的分类结果，以及有见地的FAP信息。
2016-10-19 cs.CR cs.LG cs.SD
Reachable Distance Function for KNN Classification
Central South University（中南大学）
距离函数是机器学习中度量两个数据点之间相似度的主要度量。在实际应用中，现有的距离函数通常提供不可达的距离值。这可能导致对数据点之间的亲和力的不正确测量。本文提出了一种用于KNN分类的可达距离函数。可达距离函数不是两个数据点之间的几何直线距离。它在测量数据点之间的亲和力时考虑了训练数据集的类属性。具体地说，数据点之间的可达距离包括类中心距离和实距离。它的形状看起来像“Z”，我们也称之为Z距离函数。通过这种方式，同一类中的数据点之间的亲和力总是比不同类中的数据点之间的亲和力更强。或者，组内数据点总是比组间数据点更接近。实验结果表明，该距离函数在KNN分类中具有更好的性能。
2022-06-29 cs.AI cs.LG
Deep Learning Hyperspectral Image Classification Using Multiple Class-based Denoising Autoencoders, Mixed Pixel Training Augmentation, and Morphological Operations
Mississippi State University（密西西比州立大学）
在这里，我们提出了一个系统的高光谱图像分割，利用多个类-基于去噪自动编码器，有效地训练。此外，我们提出了一种新的高光谱数据增强方法标记HSI数据使用线性混合像素从每个类，这有助于系统的边缘像素几乎总是混合像素。最后，我们利用深度神经网络和形态学孔洞填充来提供鲁棒的图像分类。在Salinas数据集上的运行结果验证了该算法的高性能。
2018-07-11 cs.CV cs.LG stat.ML
Scalable Classifier-Agnostic Channel Selection for Multivariate Time Series Classification
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学）
准确性是当前时间序列分类工作的一个重点。然而，在许多应用程序中，速度和数据减少同样重要，特别是当数据规模和存储需求迅速增加时。目前的MTSC算法需要数百个计算小时来完成训练和预测。这是由于多变量时间序列数据的性质，它随着时间序列的数量、长度和通道的数量而增长。在许多应用中，并不是所有的通道是有用的分类任务，因此，我们需要的方法，可以有效地选择有用的通道，从而节省计算资源。我们提出并评估两种方法进行信道选择。我们的技术的工作原理是通过一个原型时间序列来表示每个类，并根据类之间的原型距离进行通道选择。主要的假设是，有用的通道可以更好地区分类;因此，类原型之间的距离越大的通道越有用。在UEA多变量时间序列分类（MTSC）基准测试中，我们证明了这些技术在相似的分类精度水平下实现了显着的数据减少和分类器加速。信道选择作为训练最先进的MTSC算法之前的预处理步骤，并节省约70%的计算时间和数据存储，保持精度。此外，我们的方法甚至使有效的分类器，如火箭，实现更好的准确性比不使用通道选择或前向通道选择。为了进一步研究我们的技术的影响，我们提出了对具有100多个通道的合成多变量时间序列数据集进行分类的实验，以及对具有50个通道的数据集进行的真实案例研究。我们的通道选择方法导致显着的数据减少与保存或提高精度。
2022-12-05 cs.LG
Metrics for Multi-Class Classification: an Overview
CRIF S.p.A.（CRIF股份公司）；Università degli Studi di Bologna（博洛尼亚大学）；University of Bologna（博洛尼亚大学）
机器学习中涉及两个以上类的分类任务被称为“多类分类”。当目标是评估和比较不同的分类模型或机器学习技术时，性能指标非常有用。许多指标都可以用来测试多类分类器的能力。这些指标在开发过程的不同阶段都很有用，例如，比较两个不同模型的性能或通过调整不同参数来分析同一模型的行为。在本白皮书中，我们回顾了一系列最有前途的多类指标，强调了它们的优点和缺点，并展示了它们在分类模型开发过程中的可能用途。
2020-08-13 cs.LG stat.ML
Leveraging Generative AI: Improving Software Metadata Classification with Generated Code-Comment Pairs
Sri Sivasubramaniya Nadar College of Engineering（斯里·西瓦苏布拉马尼亚·纳达尔工程学院）
本研究针对代码注释有用性二分类问题，结合BERT上下文嵌入与生成式AI扩充代码-注释对数据集，测试多种机器学习算法，验证了生成式AI提升分类模型效果的潜力。
2023-10-14 cs.AI cs.CL cs.LG
PAC-Learning for Strategic Classification
Khoury College of Computer Science, Northeastern University（东北大学库利计算机学院）；University of Virginia（弗吉尼亚大学）；Biocomplexity Institute and Initiative, University of Virginia（弗吉尼亚大学生物复杂性研究所）
最近，对测试数据进行策略性或对抗性操作以欺骗分类器的研究引起了人们的广泛关注。大多数以前的作品都集中在两种极端情况下，任何测试数据点要么是完全敌对的，要么总是同样喜欢积极的标签。在本文中，我们通过一个统一的战略分类框架来概括这两个概念，并引入战略VC维度（SVC）的概念来捕捉我们的一般战略设置中的PAC学习能力。SVC可证明地推广了最近由Cullina等人arXiv：1806.01471引入的对抗VC维度（AVC）的概念。我们实例化我们的基本战略线性分类问题的框架。我们充分描述：（1）线性分类器的统计可学习性，通过固定其SVC;（2）其计算易处理性，通过固定经验风险最小化问题的复杂性。有趣的是，线性分类器的SVC总是由其标准VC维上界。该特征也严格地概括了arXiv：1806.01471中线性分类器的AVC界限。
2021-06-11 cs.LG stat.ML
Improving State-of-the-Art in One-Class Classification by Leveraging Unlabeled Data
JetBrains Research（JetBrains研究院）
当处理只有一个标记类的数据的二进制分类时，数据科学家采用两种主要方法，即单类（OC）分类和正未标记（PU）学习。前者只从标记的正数据中学习，而后者也利用未标记的数据来提高整体性能。由于PU学习使用更多的数据，我们可能倾向于认为当未标记的数据可用时，转到算法应该总是来自PU组。然而，我们发现，如果未标记的数据是不可靠的，即包含有限或有偏见的潜在负数据，情况并非总是如此。我们进行了广泛的实验研究的国家的最先进的OC和PU算法在各种情况下，只要未标记的数据的可靠性。此外，我们提出了PU修改的国家的最先进的OC算法，是强大的不可靠的未标记的数据，以及一个指导方针，以类似地修改其他OC算法。我们的主要实际建议是使用国家的最先进的PU算法时，未标记的数据是可靠的，否则使用国家的最先进的OC算法的修改建议。此外，我们概述了程序，以区分可靠和不可靠的未标记数据的情况下，使用统计检验。
2022-03-14 cs.LG
Are screening methods useful in feature selection? An empirical study
Florida State University（佛罗里达州立大学）
过滤或筛选方法通常用作预处理步骤，用于减少学习算法在获得分类或回归模型时使用的变量数量。虽然有许多这样的过滤方法，但需要对这些方法进行客观评价。需要这样的评估来将它们相互比较，并回答它们是否有用，或者没有它们的学习算法可以做得更好。为此，本文将许多流行的筛选方法与三个回归学习器和五个分类学习器合作，并在十个真实数据集上进行评估，以获得准确性标准，如R平方和ROC曲线下面积（AUC）。通过曲线图和比较表比较所获得的结果，以找出筛选方法是否有助于提高学习算法的性能，以及它们之间的关系。我们的研究结果表明，筛选方法在提高对10个评估数据集中的两个回归和两个分类数据集的最佳学习者的预测方面很有用。
2019-07-09 cs.LG stat.ML
Graph Attention is Not Always Beneficial: A Theoretical Analysis of Graph Attention Mechanisms via Contextual Stochastic Block Models
Northwestern Polytechnical University（西北工业大学）；Shanghai Jiao Tong University（上海交通大学）
本文基于CSBM从理论上界定图注意力何时优于图卷积，并提出多层GAT以缓解过平滑、放宽完美节点分类的SNR条件。
2025-05-13 cs.LG stat.ML
Task-Prior Conditional Variational Auto-Encoder for Few-Shot Image Classification
在Few-Shot图像分类的场景中，Transductive方法总是优于归纳方法。然而，现有的Few-Shot方法包含一个潜在的条件：每个类中的样本数是相同的，这可能是不现实的。为了应对这些情况下，每个类的查询镜头是不均匀的（即不均匀的少样本学习），我们提出了一个任务先验条件变分自动编码器模型TP-VAE，条件支持镜头和任务级先验正则化的约束。我们的方法在更具挑战性的非均匀Few-Shot场景中获得了高性能。此外，我们的方法在广泛的标准Few-Shot图像分类场景中优于现有技术。其中，单发命中率提高了约3%。
2022-05-30 cs.CV cs.LG eess.IV
A Comparative Analysis of classification data mining techniques : Deriving key factors useful for predicting students performance
Anjuman-I-Islam Kalsekar Technical Campus (AIKTC), Mumbai University（安朱曼伊斯兰卡尔塞卡尔技术学院（AIKTC），孟买大学）；GIET, JNTU-HYD（GIET 工程技术学院，贾瓦哈拉尔·尼赫鲁理工大学海得拉巴分校）
选择工程作为学科的学生正在迅速增加。但由于各种因素和印度不适当的小学教育，失败率很高。由于复杂的数学科目，学生无法在核心工程方面出类拔萃。因此，他们在这些科目上失败了。借助数据采掘技术，我们可以预测学生的成绩和学科不及格情况。本文对朴素贝叶斯、LibSVM、J48、随机森林和JRip等分类技术进行了比较分析，并试图从中选择最佳方法。根据所获得的结果，我们发现，朴素贝叶斯是最准确的方法，在学生失败的预测和JRip是最准确的学生成绩预测。我们还发现，JRip在学生失败预测的准确性方面与朴素贝叶斯略有不同，并为我们提供了一套规则，从中我们可以得出影响学生表现的关键因素。最后，我们提出了各种方法来减轻这些因素。本研究仅限于印度教育系统的场景。然而，发现的因素在其他情况下也可能有帮助。
2016-11-11 cs.AI cs.CY cs.LG
Extracting useful rules through improved decision tree induction using information entropy
分类是数据采掘领域中广泛使用的一种技术，而可扩展性和效率是大型数据库分类算法中亟待解决的问题。我们建议改进现有的C4.5决策树算法。本文将面向属性的归纳（AOI）和相关性分析与概念层次知识和HeightBalancePriority算法相结合，构造决策树并进行多层次挖掘。属性优先级的分配是通过评估不同抽象级别的信息熵来完成的，以便使用HeightBalancePriority算法构建决策树。使用改进的DMQL查询来理解和探索C4. 5分类器生成的决策树在教育数据集上的不足，并将结果与所提出的方法进行比较。
2013-02-11 cs.LG
On the Fragility of Active Learners for Text Classification
[24]7.ai
本文针对预训练表示下的文本分类，跨数据集、表示与分类器严格评估新旧主动学习技术，揭示其相对随机采样的可靠性、预热时间与“始终开启”可行性，并发布基准框架。
2024-10-04 cs.CL cs.LG
Feature Dimensionality Reduction for Video Affect Classification: A Comparative Study
Wuhan University（武汉大学）；Huazhong University of Science and Technology（华中科技大学）
情感计算已经成为人机交互领域的一个重要研究方向。然而，影响是主观的、微妙的和不确定的。因此，与我们可以提取的可能特征的数量相比，很难获得大量的标记训练样本。因此，降维在情感计算中至关重要。本文介绍了我们的初步研究降维的影响分类。介绍并比较了五种常用的降维方法。在DEAP数据集上的实验表明，没有一种方法可以普遍优于其他方法，直接使用原始特征进行分类可能并不总是一个坏的选择。
2018-08-08 cs.CV cs.HC cs.LG
When BERT Fails -- The Limits of EHR Classification
Brown University（布朗大学）
Transformers是强大的文本表示学习器，可用于各种临床决策支持任务。尽管它们在再入院预测方面优于基线，但它们并非绝对可靠。在这里，我们研究了一个这样的失败案例，并报告了导致预测性能低下的模式。
2022-07-26 cs.CL cs.LG
Enhancing Binary Code Comment Quality Classification: Integrating Generative AI for Improved Accuracy
Sri Sivasubramaniya Nadar College of Engineering（斯里·西瓦苏布拉马尼亚·纳达尔工程学院）
本研究通过整合生成式AI生成的代码与注释对，构建了包含9048对C语言数据的增强数据集，训练出两个二进制代码注释质量分类模型，有效提升了分类准确率。
2023-10-14 cs.AI cs.LG cs.SE
Spectro Temporal EEG Biomarkers For Binary Emotion Classification
TCS Research（塔塔咨询服务研究部）
脑电信号是情感检测中最可靠的生理信号之一。由于脑电本质上是非平稳的，因此用频谱时间表示法可以更好地分析脑电。像离散小波变换（DWT）这样的标准特征可以表示EEG的频谱动态中的时间变化，但是不足以提取其他方式的信息，即时间动态中的频谱变化。另一方面，基于经验模式分解（EMD）的特征可以用于弥合上述差距。为此，我们在EMD基础上提取了两个新的特征，即（a）边缘希尔伯特谱（MHS）和（b）基于EMD的全息希尔伯特谱分析（HHSA），以更好地表示二维A-V空间中的情感。这些功能的有用性EEG情绪分类研究通过广泛的实验，使用国家的最先进的分类器。此外，在DEAP数据集上进行的实验，在A-V空间中的二进制情感分类，揭示了所提出的功能的时间和频谱特征的标准集的有效性。
2022-02-02 cs.LG eess.SP
TIER-MoE: Trust-Informed Expert Routing via Conditional Modality Risk for Multimodal Fusion in Biomedical Classification
该研究提出TIER-MoE风险引导子空间混合专家模型，用于生物医学分类多模态融合，可提升预测性能与概率校准，在多数据集上优于现有最优方法且具备强零样本泛化能力。
2026-07-31 cs.LG
One-to-one Mapping between Stimulus and Neural State: Memory and Classification
China Mobile Research Institute（中国移动研究院）
突触强度可以看作是传递冲动的概率，根据突触可塑性，从传递活动到突触强度都可能存在功能。如果函数满足连续性、单调性等约束条件，则神经网络在外界刺激作用下总是趋于不动点，并且在不动点处外界刺激与突触强度之间可能存在一一对应的映射关系。换句话说，神经网络在其突触中“记忆”外部刺激。提出了一种利用这种映射的生物分类器。
2019-04-24 cs.LG q-bio.NC stat.ML
Quadruple-star systems are not always nested triples: a machine learning approach to dynamical stability
Max-Planck-Institut für Astrophysik（马克斯·普朗克天体物理研究所）；Monash University（莫纳什大学）
本文利用多层感知机直接对2+2和3+1型四星系统进行动力学稳定性分类，证明其准确率显著优于传统嵌套三合星方法，为四星族群合成研究提供了高效工具。
2023-08-07 astro-ph.SR cs.LG
Adding more data does not always help: A study in medical conversation summarization with PEGASUS
Curai（Curai公司）；Duke University（杜克大学）
医疗会话摘要是在患者和医生之间的互动过程中收集信息的组成部分。摘要对话用于促进医生之间的患者交接，并作为未来提供护理的一部分。然而，摘要的制作可能很耗时，而且需要领域专门知识。现代预训练的NLP模型（如PEGASUS）已经成为人类摘要的有力替代品，在许多摘要基准测试中达到了最先进的性能。然而，许多下游任务仍然需要至少中等大小的数据集来实现令人满意的性能。在这项工作中，我们（1）探索数据集大小对使用PEGASUS的迁移学习医学会话摘要的影响，（2）评估低数据状态下的各种迭代标记策略，以及它们在分类设置中的成功。我们发现，模型性能随着数据集大小的增加而饱和，并且评估的各种主动学习策略都显示出与简单数据集大小增加一致的等效性能。我们还发现，天真的迭代伪标签是在标准杆或略差于没有伪标签。我们的工作揭示了将分类中的低数据机制技术转化为医学会话摘要的成功和挑战，并有助于指导该领域的未来工作。相关代码见\url{https://github.com/curai/curai-research/tree/main/medical-summarization-ML4H-2021}。
2021-11-28 cs.AI cs.CL cs.LG
Regularized Classification-Aware Quantization
University of Toronto（多伦多大学）
传统上，量化被设计为最小化数据源的重构误差。当考虑下游分类任务时，其他失真度量可能是感兴趣的;例如0-1分类损失。此外，理想的是，这些量化器的性能不会恶化，一旦它们被部署到生产中，因为重新学习的方案在线并不总是可能的。在这项工作中，我们提出了一类学习分布式量化方案的二进制分类任务的算法。我们的方法在看不见的数据上表现良好，并且比以前的方法更快，与数据集大小的二次项成比例。它的工作原理是用重建误差正则化0-1损失。我们目前的实验合成混合和双变量高斯数据和比较训练，测试和泛化误差与一个家庭的基准量化方案的文献。我们的方法被称为正则化分类感知量化。
2021-07-12 cs.LG eess.SP
Online Classification with Predictions
本文研究带预测的在线分类，设计一种学习器，其遗憾随预测质量提升而改善且不劣于最坏情况，并证明在预测容易时可达直推式在线学习的性能。
2024-05-22 cs.DS cs.LG stat.ML
Accelerating L-shaped Two-stage Stochastic SCUC with Learning Integrated Benders Decomposition
Louisiana State University（路易斯安那州立大学）
本文提出三种基于机器学习的Benders分解增强变体，通过回归和分类方法生成更紧的割并精简主问题，有效降低了两阶段随机SCUC的计算成本与内存使用。
2023-11-17 cs.LG math.OC
Evaluation and Improvement of Chatbot Text Classification Data Quality Using Plausible Negative Examples
jobpal Ltd.（Jobpal有限公司）
我们描述并验证了一种基于交叉验证的多类分类器性能估计指标，该指标适用于改善聊天机器人设计中使用的小型，不平衡的自然语言数据集。我们的经验来自于构建招聘聊天机器人，通过向招聘团队展示ML/NLP数据集来调解求职者和招聘人员之间的沟通。评估方法必须对各种利益相关者都是可以理解的，并且对提高聊天机器人的性能有用。该指标nex-cv在文本分类的评估中使用了负面示例，并满足三个要求。首先，它是可操作的：它可以被非开发人员使用。其次，与人类评级相比，它并不过于乐观，使其成为比较分类器的快速方法。第三，它允许与模型无关的比较，这使得它在比较系统时很有用，尽管实现存在差异。我们在一年的时间里，基于英语和德语的七个招聘领域数据集验证了该指标。
2019-06-05 cs.CL cs.IR cs.LG
Generalization error bounds in semi-supervised classification under the cluster assumption
当部分可用数据未标记时，我们考虑半监督分类。当我们假设回归函数的行为与边缘分布的行为相关时，这些未标记的数据对于分类问题是有用的。Seeger（2000）提出了著名的“集群假设”。我们提出了一个数学公式的假设和方法的基础上密度水平集估计，利用它来实现快速的收敛速度都在未标记的例子和标记的例子的数量。
2006-04-11 cs.LG math.ST stat.TH
Measuring the Sensitivity of Classification Models with the Error Sensitivity Profile
Università degli studi di Milano Bicocca Dipartimento di Informatica, Sistemistica e Comunicazione（米兰大学Bicocca校区信息学院、系统学与通信系）
本文提出误差敏感性轮廓(ESP)以量化模型对单个或多个特征误差的敏感性，通过整合工具dirty进行实验研究，揭示性能下降不总是可通过简单相关性预测。
2026-04-28 cs.AI cs.LG
