Neural Collapse Inspired Attraction-Repulsion-Balanced Loss for Imbalanced Learning
Zhejiang University(浙江大学);JD Explore Academy(京东探索研究院);Fabu Inc.(Fabu公司)
类不平衡分布广泛存在于实际工程中。然而,寻求最小化误差的主流优化算法在面对极端的类不平衡时会将深度学习模型困在次优中。它严重损害了分类精度,特别是对小类。其根本原因是分类器权重的梯度在不同类别的分量之间不平衡。在本文中,我们提出吸引-排斥-平衡损失(ARB-Loss)来平衡梯度的不同分量。我们在大规模分类和分割数据集上进行了实验,我们的ARB-Loss可以通过一个阶段的训练而不是像现在SOTA那样的两个阶段的学习来实现最先进的性能。
2023-02-21 cs.LG stat.ML
Nonvisual Classification of Ground-Condition by Artificial Proprioception in an Amoeba-Inspired Autonomous Walking Robot
该研究为变形虫启发的自主步行机器人,整合传感器与储备池计算实现人工本体感觉,完成地面状况非视觉分类,可依地面切换步态并分析传感器贡献。
2026-08-07 cs.AI cs.LG cs.RO
QIBONN: A Quantum-Inspired Bilevel Optimizer for Neural Networks on Tabular Classification
University of South Florida(佛罗里达州立大学);Fordham University(福坦布卢克斯大学)
针对表格数据神经网络超参数优化的挑战,提出量子启发式双层优化器QIBONN,统一编码特征选择等超参数,结合量子启发式旋转与随机突变平衡探索利用,在噪声下实验显示其与现有方法具竞争力。
2025-11-12 cs.LG quant-ph
Higgs Boson Classification: Brain-inspired BCPNN Learning with StreamBrain
KTH Royal Institute of Technology(瑞典皇家理工学院)
受大脑模型启发的机器学习技术是数据分析和探索大型数据集的最有前途的方法之一。这种方法使用替代的学习规则可能比建立的学习规则更有效。在这项工作中,我们专注于大脑启发的ML利用高性能计算(HPC)资源来解决ML问题的潜力:我们讨论了BCPNN和HPC实现,称为StreamBrain,其计算成本,对HPC系统的适用性。作为一个例子,我们使用StreamBrain来分析来自高能物理的希格斯玻色子数据集,并在高能粒子对撞机的碰撞中区分背景和信号类。总体而言,我们达到了69.15%的准确度和76.4%的曲线下面积(AUC)性能。
2021-08-17 cs.CE cs.DC cs.LG
Energy-Efficient Information Representation in MNIST Classification Using Biologically Inspired Learning
KEIM Institute, Albstadt-Sigmaringen University, Germany(凯姆研究所,阿尔布施塔特-西格马林根大学,德国);Department of Computer Science, Chemnitz University of Technology, Germany(计算机科学系,化学工业大学,德国)
本文提出了一种生物启发式学习规则,用于在MNIST分类中实现高效节能的信息表示,通过优化突触使用减少冗余,提升模型效率和适应性。
2026-02-28 cs.LG cs.NE
NeuRN: Neuro-inspired Domain Generalization for Image Classification
Tibbling Technologies(提布林技术公司)
本文提出受哺乳动物视觉皮层启发的NeuRN归一化层,并结合Needleman-Wunsch架构相似性筛选方法,提升多种网络在跨域图像分类上的泛化性能。
2025-05-11 cs.AI cs.CV cs.LG
Two Heads are Better than One: A Bio-inspired Method for Improving Classification on EEG-ET Data
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California Santa Barbara(加州大学圣巴巴拉分校);Palo Alto High School(帕洛阿尔托高中)
本文受神经科学启发,提出一种结合特征选择与时间分割的EEG数据分类方法,在EEGEyeNet数据集上显著提升机器学习分类器性能并降低计算复杂度。
2023-03-25 cs.HC cs.LG eess.SP
Dance Style Classification using Laban-Inspired and Frequency-Domain Motion Features
Heinrich-Heine-University Düsseldorf, Germany(杜伊斯堡-埃森海因-海因里希大学)
本文提出轻量框架,通过姿态估计提取运动特征,结合时空描述符和频域特征实现舞蹈风格分类,具有低计算成本和可解释性。
2025-11-25 cs.CV cs.LG
Neural Neighborhood Encoding for Classification
Wichita State University(威奇托州立大学);IBM Research(IBM研究院)
受果蝇嗅觉回路的启发,Fly Bloom过滤器[Dasgupta等人,2018年]能够有效地总结数据与一个单一的通行证,并已用于新颖性检测。我们提出了一个新的分类器(二进制和多类分类),有效地编码不同的本地社区为每个类与每类Fly Bloom Filter。对测试数据的推断需要有效的{ \tt FlyHash} [Dasgupta等人,2017]操作之后是高维的,但是{ \em sparse},与每个类的布隆过滤器的点积。学习是平凡的并行化。在理论方面,我们建立的条件下,我们提出的分类器的任何测试示例的预测同意与最近邻分类器的预测具有很高的概率。我们广泛地评估我们提出的计划与不同数据维度的$50$数据集,以证明我们提出的神经科学启发分类器的预测性能是有竞争力的最近邻分类器和其他单通道分类器。
2020-08-19 cs.LG stat.ML
Binary Classifier Inspired by Quantum Theory
University of Padova(帕多瓦大学);Department of Information Engineering(信息工程系);Via Gradenigo 6/b 35131 - Padova, Italy(意大利帕多瓦市Gradenigo街6/b号,邮编35131)
机器学习(ML)帮助我们从原始数据中识别模式。ML被用于许多领域,即生物医学,农业,食品技术等,尽管最近的技术进步,预测仍有很大的改进空间。目前的ML模型基于概率和统计的经典理论,现在可以用量子理论(QT)取代,以提高ML的有效性。在本文中,我们提出了由量子理论启发的二进制分类器(BCIQT)模型,它在每个类别的召回率方面都优于最先进的分类。
2019-03-04 cs.LG stat.ML
Quantum neural networks facilitating quantum state classification
Indian Institute of Technology Jodhpur(印度理工学院焦特布尔分校)
本文提出结合问题启发电路与定制及预定义ansätz的量子神经网络,构建资源高效的量子态分类方法,在二分类和多分类任务中验证了其有效性,为多量子比特量子态分类奠定基础。
2025-04-09 cs.LG quant-ph
A Photonic-Circuits-Inspired Compact Network: Toward Real-Time Wireless Signal Classification at the Edge
Princeton University(普林斯顿大学);Queen’s University(女王大学);Vector Institute(矢量研究所);Lockheed AI center(洛克希德人工智能中心);the Chinese University of Hong Kong(香港中文大学)
机器学习(ML)方法在无线通信系统中无处不在,并且已经证明对于包括射频(RF)指纹识别、自动调制分类和认知无线电的应用是强大的。然而,ML模型的大尺寸可能使它们难以在边缘设备上实现对延迟敏感的下游任务。在无线通信系统中,亚毫秒级的ML数据处理将实现实时网络监控,以提高安全性并防止渗透。此外,可以在芯片级实现ML模型的紧凑且可集成的硬件平台将在无线通信网络中得到更广泛的应用。对于边缘的实时无线信号分类,我们提出了一种新型的紧凑型深度网络,该网络由光子硬件启发的递归神经网络模型与简化的卷积分类器相结合组成,并通过随机传输演示了其在识别RF发射器中的应用。与所提出的模型,我们实现了96.32%的分类准确率在一组30个相同的ZigBee设备时,使用的训练参数比现有的最先进的CNN分类少50倍。由于网络规模大幅缩小,我们使用小型FPGA板PYNQ-Z1演示了延迟为0.219 ms的实时RF指纹识别。
2021-06-25 cs.LG eess.SP
A Biologically Inspired Visual Working Memory for Deep Networks
University of Southampton(南安普顿大学)
通过一系列姿势调整的一瞥多次观看的能力是人类视觉的基础。这种批判性的能力使我们能够理解高度复杂的视觉场景。短期记忆在汇总从这些瞥见中获得的信息并告知我们对场景的解释方面起着不可或缺的作用。计算模型试图解决瞥见和视觉注意,但未能纳入记忆的概念。我们介绍一种新颖的,生物启发的视觉工作记忆架构,我们的赫布-罗森布拉特记忆。我们随后介绍了一个完全可区分的短期注意工作记忆模型(STAWM),它使用转换注意来学习它所看到的每一幅图像的记忆。我们的Hebb-Rosenblatt记忆的状态被嵌入到STAWM中作为层的权重空间。通过投影不同的查询通过这一层,我们可以获得面向目标的潜在表示的任务,包括分类和视觉重建。我们的模型在MNIST和CIFAR-10上获得了极具竞争力的分类性能。如CelebA数据集所示,为了执行重建,模型学习对画布进行一系列更新,这些更新构成了基于部件的表示。从MNIST获得的自监督表示的分类被证明是符合最先进的模型(其中没有一个使用视觉注意力机制)的状态。最后,我们证明了STAWM可以在分类和重建的双重约束下进行训练,以提供一个可解释的视觉画板,这有助于打开深度学习的“黑盒子”。
2019-01-09 cs.CV cs.LG stat.ML
OPFython: A Python-Inspired Optimum-Path Forest Classifier
São Paulo State University(圣保罗州立大学);University of Campinas(坎皮纳斯大学)
机器学习技术在过去几年中一直是至关重要的,被应用于广泛的任务,如分类,对象识别,人员识别和图像分割。然而,传统的分类算法,例如,逻辑回归、决策树和贝叶斯分类器可能缺乏复杂性和多样性,不适合处理真实世界的数据。最近的图形启发分类器,称为最优路径森林,已被证明是一种最先进的技术,可与支持向量机媲美,甚至在某些任务中超过它。本文提出了一个基于Python的Optimum-Path Forest框架,表示为OPFython,其中所有的函数和类都基于原始的C语言实现。此外,由于OPFython是一个基于Python的库,它提供了一个比C语言更友好的环境和更快的原型工作区。
2021-07-30 cs.CV cs.LG stat.ML
Mapping of Real World Problems to Nature Inspired Algorithm using Goal based Classification and TRIZ
Robert Bosch Engineering and Business Solutions Private Limited(罗伯特·博世工程与商业解决方案私人有限公司);HEC Paris(巴黎高等商学院)
技术和算法正以指数级速度增长。这些技术足以解决技术上具有挑战性和复杂的问题,这些问题似乎是不可能完成的任务。然而,趋势方法和途径在数据、算法、软件、计算复杂性和能量效率的各个方面面临多重挑战。自然界也面临着类似的挑战。大自然已经解决了这些挑战,这些挑战的公式可以作为自然启发算法(NIA),它是基于对自然的研究而衍生的。本文介绍了一种基于TRIZ理论的将现实问题映射为自然问题的新方法。使用所提出的框架,最好的NIA可以被确定为解决现实世界中的问题。为了使这个框架发挥作用,我们设计了一种基于自然界试图实现的最终目标的NIA新分类。本文还讨论了该框架的应用以及实例。
2020-10-08 cs.LG cs.MA cs.NA
SSI-GAN: Semi-Supervised Swin-Inspired Generative Adversarial Networks for Neuronal Spike Classification
Deakin University(迪肯大学);CSIRO Health and Biosecurity(联邦科学与工业研究组织健康与生物安全部);University of Southern Queensland(南昆士兰大学)
SSI-GAN通过半监督学习方法,利用Swin启发式架构实现神经元尖峰分类,仅用1-3%的标记数据即可达到99.93%的准确率,显著降低手动标注工作量。
2026-01-01 cs.AI cs.LG
Classification with Costly Features as a Sequential Decision-Making Problem
Czech Technical University in Prague(布拉格捷克理工大学)
这项工作的重点是一个具体的分类问题,其中有关样本的信息是不容易获得的,但必须获得的成本,并有一个每个样本的预算。受现实世界用例的启发,我们分析了直接指定预算的平均和硬变化。我们假设问题的显式公式,然后将其转换为等价的MDP,可以用深度强化学习解决。此外,我们评估了一个真实世界的启发设置与稀疏训练数据集缺失的功能。所提出的方法在几个不同的数据集的所有设置中表现良好,优于其他现有技术的算法。该方法是灵活的,正如所有提到的修改所展示的那样,并且可以通过RL中的任何领域独立的进步来改进。
2019-09-05 cs.AI cs.LG stat.ML
BRIEF: BRain-Inspired network connection search with Extensive temporal feature Fusion enhances disease classification
McGovern Brain Imaging Institute, State Key Laboratory of Cognitive Neuroscience and Learning, Beijing Normal University(北京师范大学认知神经科学与学习国家重点实验室麦戈文脑成像研究所);Tsinghua University(清华大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Georgia Institute of Technology(佐治亚理工学院);Emory University(埃默里大学);Georgia State University(佐治亚州立大学);Beijing Normal University(北京师范大学)
本文提出受大脑启发的BRIEF框架,通过改进的神经网络连接搜索和Transformer多特征融合自动优化fMRI精神障碍分类,在SZ和ASD数据集上显著超越21种现有模型。
2025-08-15 cs.AI cs.LG
Multi-Class classification of vulnerabilities in Smart Contracts using AWD-LSTM, with pre-trained encoder inspired from natural language processing
NetTantra Technologies (India) Pvt. Ltd.(NetTantra技术(印度)私人有限公司);Virtual and Augmented Reality Centre of Excellence, IIT Bhubaneswar(布巴内斯瓦尔印度理工学院虚拟与增强现实卓越中心);School of Minerals, Metallurgical and Materials Engineering, IIT Bhubaneswar(布巴内斯瓦尔印度理工学院矿物、冶金与材料工程学院);Centre of Excellence for Novel Energy Materials, IIT Bhubaneswar(布巴内斯瓦尔印度理工学院新型能源材料卓越中心)
智能合约的漏洞检测和安全性至关重要,因为它们具有不可变的性质。OYENTE和MAIAN等符号工具通常用于智能合约中的漏洞预测。由于这些工具在计算上是昂贵的,它们通常用于检测漏洞,直到某个预定义的调用深度。随着调用深度的增加,这些工具需要更多的搜索时间。由于智能合约的数量呈指数级增长,因此很难使用这些传统工具分析合约。最近,一种称为长短期记忆(LSTM)的机器学习技术已被用于二进制分类,即,来预测智能合约是否脆弱。随着调用深度的增加,这种技术需要几乎恒定的搜索时间。在本文中,我们展示了一个多类分类,我们将智能合约分为自杀,挥霍,贪婪或正常类别。我们使用平均随机梯度下降加权LSTM(AWD-LSTM)来执行分类,AWD-LSTM是LSTM的变体。我们通过只考虑普通合约的不同操作码组合来减少类别不平衡(与其他类别相比,大量的普通合约)。我们的加权平均Fbeta评分为90.0%。因此,这些技术可以用来分析大量的智能合约,并帮助提高这些合约的安全性。
2020-03-21 cs.CR cs.IR cs.LG
Image classification via a quantum-inspired strategy involving a mixture of experts
Centre for High Energy Physics, Indian Institute of Science(印度科学研究所高能物理中心)
研究提出一种经典 - 量子混合的图像分类策略,量子部分含图像幅度编码等操作,多个专家用不同参数处理图像并提取特征,经典部分联合处理特征进行预测。实验表明该策略优于单个专家分析,降低预测失败率,在GPU上开销适中,还可在量子处理器执行。
2026-08-05 cs.LG quant-ph
HAND: A Biologically-Inspired Activation Function that Improves Generalisation and Sample Efficiency in Image Classification
该研究提出受生物启发的激活函数HAND,可减少图像分类任务的训练时间与数据量,提升样本效率,在ConvNeXt-tiny等模型及ImageNet等数据集上验证了其有效性。
2026-10-09 cs.CV cs.LG
Imaging Time-Series to Improve Classification and Imputation
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
受最近深度学习在计算机视觉中取得的成功的启发,我们提出了一种新的框架,用于将时间序列编码为不同类型的图像,即Gramian角和/差场(GASF/GADF)和马尔可夫转移场(MTF)。这使得能够使用来自计算机视觉的技术进行时间序列分类和插补。我们在20个标准数据集上使用平铺卷积神经网络(平铺CNN)来从单个和复合GASF-GADF-MTF图像中学习高级特征。我们的方法相比,目前最好的时间序列分类方法的九个具有很强的竞争力的结果。受GASF在0/1重标度数据上的双射性质的启发,我们在四个标准和一个合成的复合数据集的GASF图像上训练去噪自动编码器(DA)。与使用原始数据相比,测试数据的插补MSE降低了12.18%-48.02%。对通过平铺CNN和DA学习的特征和权重的分析解释了这些方法的工作原理。
2015-06-01 cs.LG cs.NE stat.ML
A CEFR-Inspired Classification Framework with Fuzzy C-Means To Automate Assessment of Programming Skills in Scratch
Universidad Rey Juan Carlos(雷昂卡洛斯大学)
提出一种基于CEFR的Scratch项目评估框架,使用模糊C均值聚类对200万+项目分级,识别B2瓶颈并引入分类确定性指标以平衡自动反馈与人工审核。
2026-06-18 cs.AI cs.CY cs.LG
Clinically-Inspired Hierarchical Multi-Label Classification of Chest X-rays with a Penalty-Based Loss Function
Gina Cody School of Engineering and Computer Science, Concordia University(康考迪亚大学吉娜·科迪工程与计算机科学学院);YULCOM Technologies(YULCOM科技公司);Division of Radiation Oncology, McGill University Health Centre(麦吉尔大学健康中心放射肿瘤科)
本文提出一种临床启发的胸部X光分层多标签分类方法,通过自定义分层二元交叉熵损失函数建模标签依赖关系,在CheXpert数据集上取得0.903 AUROC,并增强了模型可解释性。
2025-02-05 cs.AI cs.CV cs.LG
QSMOTE-PGM/kPGM: QSMOTE Based PGM and kPGM for Imbalanced Dataset Classification
Università degli Studi di Cagliari(卡利亚里大学);Technische Universität München(慕尼黑技术大学);Institute for Advanced Study (IAS)(高级研究院)
本文提出三种QSMOTE变体,结合PGM和kPGM分类器,通过量子启发方法提升不平衡数据集中的少数类表示,实验表明在召回率和平衡F1分数上优于传统随机森林。
2026-05-12 cs.LG quant-ph
QiVC-Net: Quantum-Inspired Variational Convolutional Network, with Application to Biosignal Classification
College of Engineering and Computer Science(工程与计算机科学学院);VinUniversity Hanoi, Vietnam(河内越南 Vin 大学);Shannon School of Business(沙纳汉商学院);Cape Breton University(Cape Breton 大学);Faculty of Computer Science(计算机科学学院);Chemnitz University of Technology(化学蒂茨技术大学);College of Engineering & Computer Science and College of Health Science, VinUniversity, Vietnam(工程与计算机科学学院及健康科学学院,越南 Vin 大学);Institute of Psychiatry, Psychology & Neuroscience, King’s College London, UK(精神病学、心理学与神经科学研究所,伦敦国王学院,英国)
介绍结合概率推理、变分优化和量子变换几何操作的学习框架,核心是量子启发旋转集成机制,用于卷积权重旋转,在生物信号分类中验证,QiVC-Net性能优异。
2026-07-07 cs.LG eess.SP
Informed deep hierarchical classification: a non-standard analysis inspired approach
University of Pisa(比萨大学)
本研究提出受非标准分析启发的词典序混合深度神经网络LH-DNN,通过多输出网络加层前投影算子实现深度层次分类,在多个基准上以更少参数和计算量取得了与B-CNN相当甚至更优的性能。
2024-10-04 cs.AI cs.LG math.LO
RUMC: A Rule-based Classifier Inspired by Evolutionary Methods
McMaster University(麦克马斯特大学)
针对数据分析中有效分类的需求,本文提出受进化方法启发的RUMC规则突变分类器,通过创新规则突变技术提升准确率,在40个数据集测试中优于20种知名分类器。
2024-12-10 cs.LG cs.NE
DDDM: a Brain-Inspired Framework for Robust Classification
Institute of Neuroscience, Center for Excellence in Brain Science and Intelligence Technology, Chinese Academy of Sciences(中国科学院脑科学与智能技术卓越创新中心神经科学研究所);University of Chinese Academy of Sciences(中国科学院大学);Shanghai Center for Brain Science and Brain-Inspired Technology(上海脑科学与类脑研究中心);University of Science and Technology of China(中国科学技术大学)
尽管深度人工神经网络在广泛的现实任务中表现出色,但它对输入噪声非常敏感,特别是对抗性扰动。相反,人类和动物的大脑就不那么脆弱了。与大多数深度神经网络执行的一次性推理相反,大脑通常通过证据积累机制来解决决策问题,当面对嘈杂的输入时,这种机制可能会以时间换取准确性。漂移-扩散模型(DDM)很好地描述了这一机制。在DDM中,决策被建模为一个过程,在这个过程中,有噪声的证据朝着一个阈值积累。受DDM的启发,提出了一种结合测试阶段丢弃和DDM的基于丢弃的漂移扩散模型(DDDM),用于提高任意神经网络的鲁棒性。丢弃在网络中产生时间上不相关的噪声,以对抗扰动,而证据积累机制则保证了合理的决策精度。在图像,语音和文本分类任务中测试的DDDM增强的神经网络都显着优于其本地同行,证明了DDDM作为针对对抗攻击的任务不可知防御。
2022-05-01 cs.LG cs.NE
Convolution goes higher-order: a biologically inspired mechanism empowers image classification
Institut de la Vision & Laboratoire des Systèmes Perceptifs INSERM, CNRS, Sorbonne University & École Normale Supérieure - PSL(视觉研究所及感知系统实验室,INSERM、CNRS、索邦大学及巴黎高等师范学院);CHT Erzelli & Laboratoire des Systèmes Perceptifs IIT & École Normale Supérieure - PSL(埃兹尔医疗技术公司及感知系统实验室,IIT及巴黎高等师范学院);Institut de la Vision INSERM, CNRS, Sorbonne University(视觉研究所,INSERM、CNRS、索邦大学)
本文提出了一种生物启发的高阶卷积机制,通过Volterra展开提升图像分类性能,验证了不同阶次卷积对视觉信息处理的差异。
2025-12-02 cs.CV cs.LG q-bio.NC
A Clinically Inspired Approach for Melanoma classification
IIIT-H(海得拉巴国际信息技术学院)
黑素瘤是由于皮肤癌死亡导致的死亡的主要原因,因此,黑素瘤的早期和有效诊断是令人感兴趣的。目前用于黑素瘤的自动诊断的方法使用模式识别或分析识别,如ABCDE(不对称、边界、颜色、直径和演变)标准。然而,在实践中,检测异常值(丑小鸭)并用于评估痣/病变的差异方法。在计算机辅助诊断(CAD)系统中引入差异识别尚未探索,但可能是有益的,因为它可以为派生决策提供临床依据。我们提出了一种识别和量化丑小鸭进行患者内比较分析(IPCA)相邻痣的方法。然后将其并入用于黑素瘤检测的CAD系统设计中。这种设计确保了处理IPCA不可能的情况的灵活性。我们在公共数据集上的实验表明,离群值信息有助于将检测的灵敏度提高至少4.1%,特异性提高4.0%至8.9%,具体取决于使用强(EfficientNet)或中等强度(VGG或ResNet)分类器。
2021-06-15 cs.AI cs.CV cs.LG
Hybrid Spiking Neural Network -- Transformer Video Classification Model
University of Tehran(德黑兰大学)
本文提出一种受大脑皮层柱启发、融合SNN与Transformer的时间序列分类混合架构,配套多种编码与训练流程,并公开全部实现。
2024-11-29 cs.CV cs.LG
Boosting Classification with Quantum-Inspired Augmentations
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);RPTU Kaiserslautern-Landau(科隆-兰道大学);Department of Computer Science and Research Initiative QC-AI(计算机科学系和量子人工智能研究计划);Department of Physics(物理系)
本文提出利用随机 Bloch 球旋转这一基本 SU(2) 变换作为量子启发的数据增强技术,直接应用于经典数据,在 ImageNet 上使图像分类的 Top-1 准确率提升 3%,并探讨了其在差分隐私方面的局限性。
2025-06-27 cond-mat.dis-nn cs.CV cs.LG
NeuroLingua: A Language-Inspired Hierarchical Framework for Multimodal Sleep Stage Classification Using EEG and EOG
Université du Québec à Trois-Rivières(魁北克大学三河分校);Shiraz University(设拉子大学)
针对自动睡眠阶段分类缺乏时间层次、多模态融合难和模型可解释性低的问题,提出受语言启发的NeuroLingua框架,通过CNN分词器和双层Transformer实现分层建模与多模态融合,提升分类性能和临床可解释性。
2025-11-12 cs.LG eess.SP
BoostLLM: Boosting-inspired LLM Fine-tuning for Few-shot Tabular Classification
SinoPac Holdings(SinoPac控股公司)
本文提出BoostLLM框架,通过多轮残差优化提升LLM微调性能,在少样本表格分类中超越传统方法,匹配甚至超越XGBoost,并在强树模型和延长提升周期下进一步提升。
2026-05-11 cs.LG
Quantum-Inspired Support Vector Machine
University of Science and Technology of China(中国科学技术大学);CAS Centre for Excellence and Synergetic Innovation Centre in Quantum Information and Quantum Physics(中国科学院量子信息与量子科技创新卓越中心);University of Oxford(牛津大学);Hefei National Laboratory for Physical Sciences at Microscale(合肥微尺度物质科学国家实验室)
支持向量机(Support Vector Machine,SVM)是一种功能强大且灵活的监督学习模型,它可以对数据进行分类和回归分析,通常的算法复杂度与数据空间的维数和数据点的数量呈多项式关系。为了解决大数据问题,提出了一种量子支持向量机算法,该算法能够实现最小二乘支持向量机(LS-SVM)的指数加速比。在这里,受量子SVM算法的启发,我们提出了一个量子启发的经典算法LS-SVM。在我们的方法中,一种改进的快速采样技术,即间接采样,提出了采样的核矩阵和分类。我们首先考虑线性核的LS-SVM,然后讨论我们的方法推广到非线性核。理论分析表明,对于低秩、低条件数和高维数据矩阵,该算法可以在数据空间维数和数据点数均为对数的运行时间内以任意的成功概率进行分类,与量子SVM的运行时间相匹配。
2021-03-16 cs.CC cs.LG quant-ph
Quantum-inspired Machine Learning on high-energy physics data
Tensor Solutions(张量解决方案公司);Institute for Complex Quantum Systems, University of Ulm(乌尔姆大学复杂量子系统研究所);Università di Padova(帕多瓦大学);INFN(意大利国家核物理研究所);Universität des Saarlandes(萨尔大学);Padua Quantum Technologies Research Center, Università degli Studi di Padova(帕多瓦大学帕多瓦量子技术研究中心)
张量网络是一种最初设计用于模拟量子多体系统的数值工具,最近已被应用于解决机器学习问题。利用树张量网络,我们将量子启发的机器学习技术应用于高能物理中一个非常重要且具有挑战性的大数据问题:CERN大型强子对撞机产生的数据的分析和分类。特别是,我们提出了如何有效地分类所谓的b-射流,射流起源于b-夸克从质子-质子碰撞的LHCb实验,以及如何解释分类结果。我们利用张量网络方法来选择重要的特征,并根据学习过程中获得的信息调整网络几何形状。最后,我们展示了如何调整树张量网络以及时实现最佳精度或快速响应,而无需重复学习过程。这些结果为高频实时应用的实施铺平了道路,这是当前和未来LHCb事件分类所需的关键因素,能够在数十MHz尺度上触发事件。
2021-07-09 cond-mat.stat-mech cs.LG hep-ex
Deep Connectomics Networks: Neural Network Architectures Inspired by Neuronal Networks
Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);UnifyID AI Labs(UnifyID人工智能实验室)
神经元间网络拓扑结构与认知之间的相互作用已被连接组学研究者和网络科学家深入研究,这对于理解生物神经网络的显著功效至关重要。奇怪的是,复兴神经网络的深度学习革命并没有太多关注拓扑方面。深度神经网络(DNN)的架构在拓扑意义上与其生物学对应物并不相似。我们通过将深度连接组学网络(DCN)的初步结果作为DNN与现实世界神经元网络启发的拓扑结构来弥合这一差距。我们展示了由DCN获得的高分类精度,DCN的架构受到C. Elegans和小鼠视觉皮层。
2019-12-19 cs.LG cs.NE stat.ML
Domain-knowledge Inspired Pseudo Supervision (DIPS) for Unsupervised Image-to-Image Translation Models to Support Cross-Domain Classification
Arizona State University(亚利桑那州立大学);University of Arkansas(阿肯色大学);University of Cincinnati(辛辛那提大学)
针对无监督图像翻译模型缺乏标注无法用传统监督指标评估的问题,提出DIPS方法利用领域信息驱动的高斯混合模型生成伪标注以支持跨域分类,其表现优于FID等指标并与真实监督指标高度相关。
2023-09-30 cs.CV cs.LG eess.IV
Centroid Based Concept Learning for RGB-D Indoor Scene Classification
The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出了一种新的认知启发的RGB-D室内场景分类方法。高的类内方差和低的类间方差使得室内场景分类成为一项极具挑战性的任务。为了解决这个问题,我们提出了一个聚类方法的灵感来自概念学习模型的海马和新皮层,产生集群和质心为不同的场景类别。描述不同场景的测试图像通过使用它们到最近质心(概念)的距离来分类。将RGB-D场景建模为质心不仅可以在基准数据集(SUN RGB-D和NYU Depth V2)上实现最先进的分类性能,还提供了一种检查和解释质心空间的方法。通过对我们的方法在RGB-D数据集上生成的质心的检查,我们提出了一种合并概念上相似的类别的方法,从而提高了所有方法的准确性。
2020-08-15 cs.AI cs.CV cs.LG
Triad State Space Construction for Chaotic Signal Classification with Deep Learning
Xi’an Jiaotong University(西安交通大学)
受排列熵的启发,提出了一种有效的混沌时间序列图像编码方案--三重态空间构造(TSSC)。TSSC图像可以识别更高阶的时间模式,并确定新的禁止区域的时间序列图案超出Bandt-Pompe概率。卷积神经网络(ConvNet)广泛应用于图像分类中。基于TSSC图像的ConvNet分类器(TSSC-ConvNet)在混沌信号分类中具有很高的精度和鲁棒性。
2020-03-26 cs.LG nlin.CD physics.data-an
An Explainable Probabilistic Classifier for Categorical Data Inspired to Quantum Physics
Institute of Financial Analysis(金融分析研究所);Université de Neuchâtel(纳沙泰尔大学);Università degli Studi di Milano(米兰大学)
本文提出了稀疏张量分类器(STC),一个监督分类算法的分类数据的启发,在量子物理学的状态叠加的概念。通过将观测视为特征的叠加,我们在机器学习中引入了波粒二象性的概念,并提出了一个统一经典和量子概率的广义框架。我们表明,STC具有广泛的理想属性,大多数其他机器学习方法中没有,但它是在同一时间非常容易理解和使用。STC对结构化数据和文本分类的实证评估表明,与标准分类器和深度学习相比,我们的方法实现了最先进的性能,额外的好处是需要最少的数据预处理和超参数调整。此外,STC为单个实例和全局每个目标标签提供了其预测的本地解释。
2021-05-26 cs.AI cs.LG quant-ph
Bio-inspired visual attention for silicon retinas based on spiking neural networks applied to pattern classification
Université Côte d’Azur(蔚蓝海岸大学);CNRS(法国国家科学研究中心)
视觉注意可以被定义为选择性地集中在感官线索的一个离散方面而忽略其他可感知信息的行为和认知过程。这种生物学机制,更具体地说是显着性检测,长期以来一直用于多媒体索引,以仅对图像或视频的相关部分进行分析,以便进一步处理。最近出现的硅视网膜(或事件相机-传感器,测量亮度的像素变化并相应地输出异步事件)提出了一个问题,即如何使注意力和显着性适应这种非常规类型的传感器输出。硅视网膜旨在再现生物视网膜行为。在这方面,它们在时间上产生准时的事件,这些事件可以被解释为神经尖峰,并被神经网络解释为神经尖峰。特别是,脉冲神经网络(SNN)代表了一种异步类型的人工神经网络,比传统的人工网络更接近生物学,主要是因为它们试图模仿神经膜和动作电位随时间的动态变化。SNN以尖峰序列的形式接收和处理信息。因此,它们是硅视网膜测量的传入事件模式的有效处理和分类的合适候选者。在本文中,我们回顾了注意力机制背后的生物学背景,并介绍了一个案例研究的事件视频分类与SNN,使用生物学接地低层次的计算注意力机制,有趣的初步结果。
2021-05-31 cs.CV cs.LG cs.NE
Supervised Learning with Quantum-Inspired Tensor Networks
Perimeter Institute for Theoretical Physics(圆周理论物理研究所);University of California, Irvine(加利福尼亚大学尔湾分校);Northwestern University(西北大学)
张量网络是高维张量的有效表示,在物理和数学应用中非常成功。我们演示了如何优化这些网络的算法可以适应监督学习任务,通过使用矩阵乘积状态(张量列车)来参数化图像分类模型。对于MNIST数据集,我们得到小于1%的测试集分类错误。我们讨论了张量网络形式如何为学习模型赋予额外的结构,并提出了一种可能的生成解释。
2017-05-18 cond-mat.str-el cs.LG stat.ML
Empirical Analysis of Nature-Inspired Algorithms for Autism Spectrum Disorder Detection Using 3D Video Dataset
Aneesh Panchal;Kainat Khan;Rahul Katarya
本文提出利用三维视频数据集和受自然启发的优化算法进行自闭症谱系障碍检测,通过随机森林与引力搜索算法组合实现100%分类准确率。
2026-01-24 cs.LG cs.NE
Speech Emotion Recognition Using Deep Sparse Auto-Encoder Extreme Learning Machine with a New Weighting Scheme and Spectro-Temporal Features Along with Classical Feature Selection and A New Quantum-Inspired Dimension Reduction Method
Razi University(拉齐大学)
情感计算在人机关系中占有重要地位。本文提出了一种基于语音信号的语音情感识别系统。该系统包括三个阶段:特征提取,特征选择,最后特征分类。在第一阶段中,使用诸如韵律、频谱和频谱-时间特征的新的和不同的特征的组合从语音信号和声门波形信号两者中提取长期统计特征的复杂集合。SER系统的挑战之一是区分相关的情绪。这些特征是语音情感的良好鉴别器,并且增加了SER识别相似和不同情感的能力。这种具有大量维度的特征向量自然具有冗余性。在第二阶段,使用经典的特征选择技术以及一个新的量子启发的技术,以减少特征向量的维数,减少了特征向量的维数。在第三阶段中,通过加权深度稀疏极端学习机(ELM)分类器对优化的特征向量进行分类。分类器进行分类在三个步骤:稀疏随机特征学习,正交随机投影使用奇异值分解(SVD)技术,并在最后一步使用广义吉洪诺夫正则化技术的判别分类。此外,许多现有的情感数据集遭受的问题,数据分布不平衡,这反过来又增加了分类错误,降低系统性能。本文还提出了一种新的加权方法来处理类不平衡,这是比现有的加权方法更有效。所提出的方法进行了评估三个标准的情感数据库。
2021-11-13 cs.LG cs.SD eess.AS
Quantum Inspired Encoding Strategies for Machine Learning Models: Proposing and Evaluating Instance Level, Global Discrete, and Class Conditional Representations
本文提出并比较三种量子启发数据编码策略(ILS、GDS、CCVS),在纯经典机器学习模型中降低编码时间并保持编码正确性,通过分类任务评估其效率、准确率与计算成本,为优化经典机器学习中的量子启发数据转换提供指导。
2025-06-15 cs.AI cs.LG quant-ph
Adversarial Attacks on Brain-Inspired Hyperdimensional Computing-Based Classifiers
UC Riverside(加州大学河滨分校)
作为一类新兴的存内计算架构,脑启发超维计算(HDC)模仿脑认知并利用随机超向量(即,具有数千甚至更多维度的向量)来表示特征并执行分类任务。独特的超向量表示使HDC分类器能够表现出高能效、低推理延迟和对硬件引起的比特错误的强大鲁棒性。因此,它们越来越被认为是传统深度神经网络(DNN)的有吸引力的替代或甚至替代,用于本地设备分类,特别是在低功耗物联网设备上。尽管如此,与DNN不同的是,HDC分类器的最新设计大多是安全性无关的,这让人怀疑它们的安全性和对抗性输入的免疫力。在本文中,我们首次研究了对HDC分类器的对抗攻击,并强调HDC分类器即使在最小干扰的对抗样本下也很脆弱。具体而言,以手写数字分类为例,我们构建了一个HDC分类器,并制定了一个灰箱攻击问题,其中攻击者的目标是误导目标HDC分类器产生错误的预测标签,同时保持尽可能少的扰动噪声量。然后,我们提出了一种改进的遗传算法,以产生对抗样本内的一个合理的少量的查询。我们的研究结果表明,由我们的算法生成的对抗图像可以成功地误导HDC分类器以高概率产生错误的预测标签(即,78%,当HDC分类器使用固定多数规则进行决策时)。最后,我们还提出了两种防御策略-对抗训练和再训练-以加强HDC分类器的安全性。
2020-06-10 cs.CR cs.LG
Geometrically Inspired Kernel Machines for Collaborative Learning Beyond Gradient Descent
University of Rostock(罗斯托克大学);Software Competence Center Hagenberg GmbH(哈根堡软件能力中心有限公司);University of St Andrews(圣安德鲁斯大学);Primetals Technologies Austria GmbH(普锐特冶金技术奥地利有限公司);Johannes Kepler University Linz(约翰内斯·开普勒大学林茨分校)
本文提出几何启发核机器框架,在RKHS中利用凸优化学习数据点周围的有界几何结构,无需局部SGD多轮训练或客户端/服务器通信即可完成协作分类,并提供误差界与样本复杂度保证。
2024-07-05 cs.AI cs.LG
Boltzmann Classifier: A Thermodynamic-Inspired Approach to Supervised Learning
National Institutes of Health(美国国立卫生研究院);University of Groningen(格罗宁根大学)
本文提出受Boltzmann分布启发的基于距离的概率分类器,在分子活性、氧化态和乳腺癌任务上达到或超越标准模型,输出概率与物理性质相关,提供可解释的监督学习替代方案。
2025-06-20 cs.LG physics.comp-ph
Link Prediction with Physics-Inspired Graph Neural Networks
Italian Ministry of Education and Research(意大利教育科研部)
针对异配数据集下的链接预测问题,提出GRAFF-LP模型和受物理启发的读出函数,通过隐式分离边梯度有效区分边,提升基线性能并指出需为链接预测定制异配性度量。
2025-06-26 cs.IR cs.LG cs.SI
Bridging Computational Social Science and Deep Learning: Cultural Dissemination-Inspired Graph Neural Networks
AxelGNN通过融合文化传播模型,解决图神经网络在处理同质与异质图时的过平滑问题,实现高效且通用的图学习方法。
2026-03-04 cs.AI cs.LG
A quantum inspired predictor of Parkinsons disease built on a diverse, multimodal dataset
Valley Christian High School(谷基督高中);Dougherty Valley High School(多尔蒂谷高中);UC Davis Graduate School of Management(加州大学戴维斯分校管理研究生院)
针对帕金森病早期诊断的需求,该研究利用mPower多模态数据集,结合随机森林特征选择与可模拟量子支持向量机(qSVM),实现了90%准确率和0.98 AUC的预测,为全球可及的筛查提供新途径。
2024-11-25 cs.LG q-bio.QM
An EMG Gesture Recognition System with Flexible High-Density Sensors and Brain-Inspired High-Dimensional Classifier
Berkeley Wireless Research Center, EECS Department, University of California, Berkeley(加州大学伯克利分校电气工程与计算机科学系伯克利无线研究中心);Integrated System Laboratory, ETH Zurich(苏黎世联邦理工学院集成系统实验室);DEI, University of Bologna(博洛尼亚大学DEI(可能是Department of Electrical Engineering and Information Technology的缩写,常见译为电气工程与信息技术系))
基于肌电信号的手势识别显示了人机交互的前景。系统经常受到信号和电极变化的影响,这会随着时间的推移降低性能。我们提出了一个端到端的系统,打击这种变化,使用大面积,高密度的传感器阵列和一个强大的分类算法。EMG电极制造在柔性基板上,并连接到定制的无线设备,用于64通道信号采集和流传输。我们使用大脑启发的高维(HD)计算在一次性学习中处理EMG特征。HD算法对噪声和电极错位具有耐受性,并且可以在没有梯度下降或反向传播的情况下从少数手势快速学习。我们对五种手势的平均分类准确率达到了96.64%,在不同的日子里训练和测试时只有7%的下降。我们的系统在仅用三次手势试验进行训练时保持了这种准确性;当用一次试验进行训练时,它也表现出与最先进技术相当的准确性。
2018-04-05 cs.HC cs.LG eess.SP