Prediction of Occurrence of Extreme Events using Machine Learning
Bharathidasan University（巴拉蒂达桑大学）；Nehru Memorial College（尼赫鲁纪念学院）
机器学习模型在多个研究领域的预测任务中发挥着至关重要的作用。在这项工作中，我们利用机器学习算法的能力来预测极端事件在非线性机械系统中的发生。极端事件是自然界中普遍发生的罕见事件。在我们的预测任务中，我们考虑了四种机器学习模型，即Logistic回归，支持向量机，随机森林和多层感知器。我们使用训练集数据训练这四个机器学习模型，并使用测试集数据计算每个模型的性能。我们发现，多层感知器模型在所考虑的系统中的极端事件的预测表现更好的四个模型。所考虑的机器学习模型的持久性行为与随机混洗的训练集和测试集数据进行交叉检查。
2021-12-02 cs.LG nlin.CD
Efficient Inverse-Free Incremental and Decremental Algorithms for Multiple Hidden Nodes in Extreme Learning Machine
Shenzhen University（深圳大学）
文献[4]中提出的无逆极端学习机（ELM）算法是基于无逆算法来计算正则化伪逆的，该正则化伪逆是从更新Hermitian矩阵的逆的无逆递归算法推导出来的。在文献[4]中应用递归算法之前，其改进版本已在以前的文献[9]，[10]中使用。[13]在改进的递归算法[9]、[10]的基础上，提出了几种有效的ELM无逆算法，以降低计算复杂性。在本文中，我们提出了两个逆自由算法的ELM与Tikhonov正则化，这可以增加多个隐藏节点的迭代。另一方面，我们还提出了两个有效的递减学习算法ELM与Tikhonov正则化，它可以删除多个冗余节点的迭代。
2020-04-27 cs.LG stat.ML
Trans-Bifurcation Prediction of Dynamics in terms of Extreme Learning Machines with Control Inputs
Hokkaido University（北海道大学）；Fukuoka Institute of Technology（福冈工业大学）；Sapporo City University（札幌市立大学）
本文通过给极限学习机增加控制输入，仅用少量参数值的瞬态动力学训练即可近乎完整复现动力系统的分岔结构，并提出机制解释该学习能力。
2024-10-17 cs.LG nlin.CD stat.ML
Deep Transfer Convolutional Neural Network and Extreme Learning Machine for Lung Nodule Diagnosis on CT images
文章的某些内容需要保密
2020-04-28 cs.CV cs.LG eess.IV
A Novel Update Mechanism for Q-Networks Based On Extreme Learning Machines
University of Strathclyde（思克莱德大学）
强化学习是一种流行的机器学习范式，它可以找到复杂问题的近似最优解。大多数情况下，这些程序涉及使用具有基于梯度的更新的神经网络的函数逼近，以优化所考虑问题的权重。虽然这种常见的方法通常工作得很好，但还有其他更新机制在强化学习中基本上未被探索。其中一个机制是极端学习机器。这些最初被提出来大大提高神经网络的训练速度，并已看到许多应用。在这里，我们尝试将极端学习机器应用于强化学习问题，其方式与基于梯度的更新相同。这种新算法被称为极端Q学习机（EQLM）。我们将其性能与典型的Q-网络在推车杆任务上的性能进行了比较-这是一个基准强化学习问题-并显示EQLM具有与Q-网络相似的长期学习性能。
2020-06-04 cs.LG cs.NE
Multi-Label Classification Method Based on Extreme Learning Machines
Nanyang Technological Institute（南洋理工学院）
在本文中，极端学习机（ELM）为基础的技术多标签分类问题的建议和讨论。在多标签分类中，每个输入数据样本属于一个或多个类别标签。传统的二分类和多分类问题是多标签问题的子集，每个样本对应的标签数限制为1。建议ELM的多标签分类技术进行了评估与六个不同的基准多标签数据集，从不同的领域，如多媒体，文本和生物。通过比较所提出的方法与来自九种最先进技术的五种不同评价指标的结果，对结果进行了详细的比较。这九种方法是从不同类别的多标记方法中选择的。比较结果表明，所提出的基于极端学习机的多标签分类技术是一个更好的选择比现有的最先进的多标签问题的方法。
2016-08-30 cs.AI cs.LG cs.NE
Extreme Entropy Machines: Robust information theoretic classification
Jagiellonian University（雅盖隆大学）
大多数现有的分类方法的目的是最大限度地减少经验风险（通过一些简单的基于点的误差与损失函数测量）与添加正则化。我们建议通过研究熵测度作为分类模型目标函数的适用性，以更多信息理论的方式来处理这个问题。我们专注于二次Renyi熵和连接Cauchy-Schwarz发散，导致极端熵机（EEM）的建设。本文的主要贡献是提出了一个模型的基础上的信息理论的概念，这一方面显示了新的，熵的角度对已知的线性分类器，另一方面导致建设一个非常强大的方法competitive与国家的最先进的非信息理论的（包括支持向量机和极端学习机）。对从UCI存储库中的小问题到大问题（成千上万个样本的数百个）的大量问题的评估表明，EEM在现实生活中的问题中具有广泛的适用性，并且具有很好的扩展性。
2015-01-21 cs.LG
A High Speed Multi-label Classifier based on Extreme Learning Machines
Marine Engineering College, Dalian Maritime University（大连海事大学轮机工程学院）
本文提出并讨论了一种基于极限学习机的高速神经网络分类器，用于多标签分类问题。多标签分类是传统的二进制和多类分类问题的超集。所提出的工作扩展了极端学习机技术，以适应多标签问题。与单标签问题相反，样本所属的标签数量以及这些目标标签中的每一个都要被识别用于多标签分类，从而增加了复杂性。提出的高速多标签分类器被应用到六个基准数据集，包括不同的应用领域，如多媒体，文本和生物。与现有的方法相比，该分类器的训练时间和测试时间都有较大的提高。实验结果表明，对于所有6个数据集，该方法具有更快的执行速度和更好的性能，从而优于现有的多标签分类方法.
2016-08-31 cs.AI cs.LG cs.NE
Parameter Transfer Extreme Learning Machine based on Projective Model
Zhejiang University（浙江大学）
近年来，迁移学习在机器学习领域引起了广泛的关注。本文主要研究极限学习机框架下的参数传递问题。与现有的参数传递方法不同，该方法通过正则化源和目标域参数之间的差异来将源模型信息并入目标，提出了一种直观吸引人的投影模型来桥接源和目标模型参数。具体地说，我们通过参数投影的方式来表达ELM网络中的参数传递，并通过联合优化投影矩阵和分类器参数来训练模型。此外，对源域参数施加“L2，1-范数”结构稀疏惩罚，促进了特征选择和参数传递的联合。为了评估该方法的有效性，在几种常用的领域自适应数据集上进行了综合实验。实验结果表明，该方法的学习性能明显优于非迁移ELM网络和其他经典的迁移学习方法。
2018-09-14 cs.LG stat.ML
Hybrid Machine Learning Model of Extreme Learning Machine Radial basis function for Breast Cancer Detection and Diagnosis; a Multilayer Fuzzy Expert System
Obuda University（欧布达大学）
乳房X线摄影术通常被用作检测乳腺癌的最常见的实验室方法，但与高成本和许多副作用相关。机器学习预测作为一种替代方法已经显示出有希望的结果。本文提出了一种基于多层模糊专家系统的乳腺癌检测方法，采用极端学习机（ELM）分类模型集成径向基函数（RBF）内核称为ELM-RBF，考虑威斯康星数据集。所提出的模型的性能进一步比较与线性SVM模型。该模型的RMSE、R2和MAPE分别为0.1719、0.9374和0.0539，优于线性支持向量机模型。此外，这两个模型的准确性，精密度，灵敏度，特异性，验证，真阳性率（TPR）和假阴性率（FNR）的标准进行了研究。与SVM模型相比，ELM-RBF模型对这些标准具有更好的性能。
2019-10-29 cs.CV cs.LG eess.IV
LARSEN-ELM: Selective Ensemble of Extreme Learning Machines using LARS for Blended Data
Ocean University of China（中国海洋大学）；University of Strathclyde（思克莱德大学）；Aalto University（阿尔托大学）
极限学习机（ELM）作为一种神经网络算法，具有速度快、结构简单等优点，但原有ELM算法对混合数据鲁棒性不强的缺点也是不可避免的。我们提出了一个新的机器学习框架称为LARSEN-ELM克服这个问题。在我们的论文中，我们想展示LARSEN-ELM中的两个关键步骤。在第一步，预处理，我们使用最小角度回归（LARS）选择与输出高度相关的输入变量。在第二步训练中，我们使用基于遗传算法的选择性集成和原始ELM。在实验中，我们应用了两个正弦和四个数据集从UCI库，以验证我们的方法的鲁棒性。实验结果表明，与原始ELM算法以及OP-ELM、GASEN-ELM和LSBoost算法相比，LARSEN-ELM算法在保持较高速度的同时，显著提高了鲁棒性。
2014-08-27 cs.LG stat.ML
Multi-period Trading Prediction Markets with Connections to Machine Learning
The University of Edinburgh（爱丁堡大学）
我们提出了一个新的预测市场模型，在该模型中，我们使用风险措施来模拟代理人，并引入一个做市商来描述交易过程。这种对建模工具的特定选择给我们带来了数学上的方便。分析表明，整个市场有效地接近一个全球目标，尽管市场的设计，每个代理人只关心自己的目标。此外，市场动态为优化全球目标提供了一个合理的算法。因此，机器学习和我们的市场之间建立了密切的联系，这样我们就可以1）通过将机器学习方法应用于全球目标来分析市场，2）通过建立和运行某些市场来解决机器学习问题。
2014-03-04 cs.GT cs.LG q-fin.TR
Superiorities of Deep Extreme Learning Machines against Convolutional Neural Networks
Iskenderun Technical University（伊斯肯德伦技术大学）
深度学习（DL）是用于人工智能的机器学习过程，其通过增加神经元大小和隐藏层的数量来详细分析输入数据。深度学习随着图形处理单元能力的共同改进而流行。每层和隐层神经元大小的增加与分类器模型的计算时间和训练速度直接相关。分类参数，包括神经元的权重，输出权重，和偏见需要进行优化，以获得最佳的模型。大多数流行的DL算法需要很长的训练时间来优化特征学习过程和反向传播训练过程的参数。减少训练时间和提供实时决策系统是新方法的基本焦点。深度极限学习机器（Deep Extreme Learning Machines，简称DEEP ELM）分类器模型是解决快速分类问题的最快、最有效的方法之一。本文讨论了Deep ELM模型及其优缺点，以及基于卷积神经网络的深度学习算法更适合于分类器的问题。
2021-01-21 cs.AI cs.LG
Extreme Learning Machine-Based Receiver for MIMO LED Communications
University of Wollongong（伍伦贡大学）
本工作涉及发光二极管（LED）多输入多输出（MIMO）通信的接收机设计，其中LED的非线性会严重降低通信的性能。在本文中，我们提出了一种极端学习机（ELM）的接收机，以联合处理的LED非线性和交叉LED干扰，并采用循环输入权重矩阵，这显着降低了接收机的复杂度与快速傅里叶变换（FFT）。结果表明，该接收机可以有效地处理LED非线性和交叉LED干扰。
2019-02-27 cs.LG eess.SP
XAI4Extremes: An interpretable machine learning framework for understanding extreme-weather precursors under climate change
National University of Singapore（新加坡国立大学）；Brown University（布朗大学）；NVIDIA AI Technology Centre（英伟达人工智能技术中心）；Centre for Climate Research Singapore（新加坡气候研究中心）
本文提出XAI4Extremes框架，利用事后可解释性方法构建相关性天气图，识别深度学习模型发现的极端天气前兆，并结合领域知识与分时期分析揭示气候变化对前兆的影响。
2025-03-11 cs.AI cs.CE cs.LG
Uncertainty Quantification in Extreme Learning Machine: Analytical Developments, Variance Estimates and Confidence Intervals
University of Lausanne（洛桑大学）
不确定性量化对于评估机器学习模型的预测质量至关重要。在极端学习机（ELM）的情况下，文献中提出的大多数方法对数据进行强假设，忽略输入权重的随机性或忽略置信区间估计中的偏差贡献。本文提出了新的估计，克服这些限制，提高ELM变异的理解。在一般假设下提供了分析推导，支持识别和解释不同变异性来源的贡献。根据同性和异方差，提出了几个方差估计，调查，并进行了数值测试，显示其有效性，在复制预期的方差行为。最后，置信区间估计的可行性进行了讨论，通过采用一个关键的方法，从而提高意识的ELM用户有关他们的一些陷阱。本文附带了一个兼容scikit-learn的Python库，可以有效计算本文讨论的所有估计值。
2020-11-03 cs.LG stat.ME stat.ML
Extreme Learning Machines for Fast Training of Click-Through Rate Prediction Models
AI Enablement Huawei Türkiye R&D Center（华为土耳其研发中心AI赋能部门）
本文提出一种结合嵌入层的极限学习机（ELM）模型用于点击率（CTR）预测，在Avazu和Criteo数据集上实现了具竞争力的F1结果并显著减少训练时间。
2024-06-25 cs.AI cs.LG
Consistency of Extreme Learning Machines and Regression under Non-Stationarity and Dependence for ML-Enhanced Moving Objects
RWTH Aachen University（亚琛工业大学）
分别由极限学习机进行监督学习。研究了具有随机权重的神经网络在非平稳空间-时间采样设计下的性能，该设计特别针对在非平稳空间环境中移动的自主对象收集和分析数据的设置。随机模型特别考虑到空间异质性和弱依赖性。作为有效的和计算成本低的学习方法（无约束）最小二乘法，岭回归和$\ell_s$ -惩罚最小二乘法（包括LASSO）进行了研究。最小二乘和岭回归估计的一致性和渐近正态性，以及相应的一致性结果的$\ell_s$ -罚款弱条件下。结果还涵盖了样本平方预测误差的界限。
2021-09-01 cs.LG math.ST stat.ML
Backward-Forward Algorithm: An Improvement towards Extreme Learning Machine
National Institute of Technology Rourkela（鲁尔克拉国家理工学院）
极限学习机需要大量的隐层节点来对给定的训练数据集推广单个隐层神经网络。需要更多的隐藏节点表明，神经网络是记忆而不是概括模型。因此，这里描述了一种监督学习方法，该方法使用Moore-Penrose近似来确定两个时期（即，向后传递和向前传递）中的输入权重和输出权重。所提出的技术在所需的迭代方面优于反向传播方法，并且在泛化所需的隐藏单元的数量方面优于极端学习机。
2019-10-07 cs.CV cs.LG
OCKELM+: Kernel Extreme Learning Machine based One-class Classification using Privileged Information (or KOC+: Kernel Ridge Regression or Least Square SVM with zero bias based One-class Classification using Privileged Information)
IIT Indore（印度理工学院印多尔分校）
基于核方法的单类分类器主要用于离群点或新颖性检测。在这封信中，基于核岭回归（KRR）的一类分类器（KOC）已被扩展为使用特权信息的学习（LUPI）。基于LUPI的KOC方法被称为KOC+。此特权信息可作为数据集的一个特征，但仅用于训练（不用于测试）。KOC+通过使用所谓的校正功能，与正常特征信息相比，以不同的方式利用特权信息。隐藏的信息有助于KOC+实现更好的泛化性能，这是在这封信中通过测试分类器与没有特权信息。现有的和建议的分类器进行评估的数据集从UCI机器学习库和MNIST数据集。实验结果表明，KOC+算法优于KOC算法和基于支持向量机（SVM）的单类分类器。
2019-04-13 cs.LG stat.ML
Constrained Extreme Learning Machines: A Study on Classification Cases
极限学习机（ELM）是一种非常快速的学习方法，在模式识别任务中具有强大的性能。但其良好的泛化能力是建立在大量隐层神经元的基础上的，不利于测试过程的实时的响应。在本文中，我们提出了新的方法，命名为“约束极端学习机”（CELM），随机选择隐藏的神经元的样本分布的基础上。与ELM中完全随机选择隐藏节点相比，CELM从包含原始样本向量的一些基本组合的约束向量空间中随机选择隐藏节点。实验结果表明，该方法比传统的ELM、SVM等方法具有更好的泛化能力。此外，CELM具有与ELM类似的快速学习速度。
2015-02-04 cs.CV cs.LG cs.NE
Solving Partial Differential Equations with Equivariant Extreme Learning Machines
Paderborn University（帕德博恩大学）；KTH（皇家理工学院）；University of Oslo（奥斯陆大学）
本研究提出用等变极限学习机求解偏微分方程，通过划分状态空间窗口单模型分别预测，仅需少量数据甚至单快照即可实现高精度长时间预测，还能利用对称性提升样本效率并保证等变性。
2024-08-17 cs.LG
Privacy-Preserving Chaotic Extreme Learning Machine with Fully Homomorphic Encryption
Institute for Development and Research in Banking Technology（银行技术发展与研究所）；University of Hyderabad（海得拉巴大学）
机器学习和深度学习模型在训练过程中需要大量数据，在某些情况下，可能会有一些敏感数据，例如涉及的客户信息，组织可能会犹豫是否将其外包用于模型构建。一些隐私保护技术，如差分隐私、同态加密和安全多方计算，可以与不同的机器学习和深度学习算法集成，为数据和模型提供安全性。本文提出了一种混沌极限学习机及其加密形式，使用全同态加密，其中的权重和偏差使用Logistic映射而不是均匀分布生成。我们提出的方法在大多数数据集上的表现都比传统的极端学习机更好或相似。
2022-08-04 cs.CR cs.LG
A short note on extension theorems and their connection to universal consistency in machine learning
University of Bayreuth（拜罗伊特大学）；Zhejiang Normal University（浙江师范大学）
统计机器学习在现代统计学和计算机科学中占有重要地位。统计机器学习的一个主要目标是提供普遍一致的算法，即，估计器在概率上或在某种更强的意义上收敛于贝叶斯风险或贝叶斯决策函数。基于再生核希尔伯特空间（RKHS）上正则化风险最小化的核方法属于这些统计机器学习方法。一般来说，对于特定的数据集或对于未知的概率测度，哪个内核产生最佳结果是未知的。因此，提出了各种核学习方法来选择核，因此也以数据自适应的方式选择其RKHS。然而，许多从业者经常使用经典的高斯RBF核或某些Sobolev核，并取得了很好的成功。这篇短文的目的是为这一经验事实提供一种可能的理论解释。
2016-04-15 cs.LG stat.ML
Global convergence of Negative Correlation Extreme Learning Machine
Universidad Loyola Andalucía（洛约拉安达卢西亚大学）
极限学习机（ELM）文献中引入的包围方法主要来自依赖于数据采样过程的方法，假设训练数据足够异质以建立不同的基础学习器。为了克服这一假设，提出了一种基于负相关学习（NCL）框架的ELM集成方法，称为负相关极端学习机（NCELM）。该模型分两个阶段工作：i）在隐层中生成不同的ELM作为具有随机权重的基本学习器，以及ii）在每个ELM最小化问题中引入具有集成预测信息的NCL惩罚项，更新基本学习器，iii）迭代第二步，直到集成收敛。虽然这种NCL集成方法通过多个基准数据集的实验研究进行了验证，但没有给出关于这种收敛的条件的信息。本文从数学上给出了保证NCELM全局收敛的充分条件。在每次迭代中，系综的更新被定义为一个压缩映射函数，并通过Banach定理证明了系综的全局收敛性。
2021-03-30 cs.LG cs.NE stat.ML
Classification with Extreme Learning Machine and Ensemble Algorithms Over Randomly Partitioned Data
TÜBİTAK BİLGEM（土耳其科学技术研究委员会信息与信息安全高级研究中心）
在这个大数据时代，基于机器学习的数据采掘方法被广泛用于检查大规模数据集。从这些类型的数据集导出适用的预测建模是一个具有挑战性的障碍，因为它们的高度复杂性。随着数据可用性水平的提高，数据集的自动分类已成为一项关键而复杂的功能。本文探讨了应用基于MapReduce的分布式AdaBoosting的极限学习机（ELM）来构建可靠的分类模型预测包的能力。因此，（i）构建数据集集合;（ii）使用ELM算法来构建弱分类模型;以及（iii）从一组弱分类模型构建强分类模型。该训练模型被应用于公开的知识发现和数据采掘数据集。
2015-04-12 cs.LG
Early Stage Diabetes Prediction via Extreme Learning Machine
University of Cincinnati（辛辛那提大学）
糖尿病是几十年来发现的慢性疾病之一。然而，有几个病例在晚期被诊断出来。世界上每11个成年人中就有一个患有糖尿病。46%的糖尿病患者没有被诊断出来。糖尿病可以发展成其他几种严重的疾病，可能导致患者死亡。发展中地区和农村地区由于医疗服务提供者有限和财政状况而受害最深。本文提出了一种基于极端学习机的糖尿病预测新方法，该方法基于数据问卷，可以早期提醒用户寻求医疗帮助，防止晚期诊断和严重疾病的发展。
2022-02-22 cs.LG
Rank Based Pseudoinverse Computation in Extreme Learning Machine for Large Datasets
Vellore Institute of Technology - Chennai Campus（韦洛尔理工学院金奈校区）
极限学习机（ELM）是一种基于单隐层前馈神经网络（SLFN）的基于最小二乘的高效学习算法。已有文献表明，该算法对中等规模的数据集具有较快的收敛速度和较好的泛化能力。但是，当存在大量的隐藏节点或大量的实例来训练复杂的模式识别问题时，在计算伪逆中涉及到大量的挑战。为了解决这个问题，一些方法，如EM-ELM，DF-ELM已在文献中提出。本文提出了一种新的基于秩的隐层矩阵分解方法，针对隐层中存在大量隐节点的情况，使隐层矩阵具有最优的训练时间，降低了计算复杂性。结果表明，它具有恒定的训练时间，这是接近最小的训练时间和非常远离DF-ELM算法的最坏情况下的训练时间，已被证明是有效的，在最近的文献。
2020-11-04 cs.LG stat.ML
A physics-aware machine to predict extreme events in turbulence
Technical University of Munich（慕尼黑工业大学）；University of Cambridge（剑桥大学）
我们提出了一种物理感知的机器学习方法来准确地预测湍流中的极端事件。该方法结合了两种完全不同的方法：基于水库计算的经验建模，仅从数据中学习混沌动力学，以及基于守恒定律的物理建模。我们表明，这两种方法的结合是能够预测的发生和幅度的极端事件的自我维持过程中的连续性的突然转变，从湍流准层流状态，这不能通过单独使用任何一种方法来实现。这为增强协同数据驱动方法与物理知识的可能性开辟了新的可能性，以准确预测混沌动力系统中的极端事件。
2019-12-23 cs.LG nlin.CD physics.flu-dyn
A 128 channel Extreme Learning Machine based Neural Decoder for Brain Machine Interfaces
Nanyang Technological University（南洋理工大学）
目前，脑机接口中最先进的运动意图解码算法大多在PC上实现，并且消耗大量的功率。提出了一种用于脑-机接口中运动意图解码的机器学习协处理器。它采用极限学习机算法和低功耗模拟处理，在50 Hz的分类速率下实现了290 GMAC/W的能效。第二级中的学习和相应的数字存储系数用于增加核心模拟处理器的鲁棒性。利用猴子手指运动实验记录的神经元数据对芯片进行验证，运动类型解码准确率达到99.3%。同样的协处理器也用于从异步神经尖峰解码运动时间。在输入通道数有限的情况下，通过延时特征维数增强，分类精度可提高5%。此外，稀疏性促进训练方案使得能够将可编程权重的数量减少约2X。
2015-09-27 cs.HC cs.LG
Machine learning for prediction of extreme statistics in modulation instability
Tampere University of Technology（坦佩雷理工大学）
非线性科学研究的一个中心领域是研究驱动极端事件出现的不稳定性。不幸的是，测量这种现象的实验技术往往只能提供部分特征。例如，非线性光纤不稳定性的实时研究通常只使用光谱数据，无法详细预测相关的时间特性。在这里，我们展示了机器学习如何通过仅基于光谱测量来预测调制不稳定性中时间峰值的最大强度的统计数据来克服这一限制。具体来说，我们训练一个基于神经网络的机器学习模型，使用数值模拟的数据将光纤调制不稳定性的光谱和时间特性关联起来，然后我们使用这个模型来预测基于实验的高动态范围光谱数据的时间概率分布。这些结果在所有表现出混沌和不稳定的系统中打开了新的视角，直接的时域观测是困难的。
2018-05-28 cs.LG physics.comp-ph physics.optics
Robustness of Humans and Machines on Object Recognition with Extreme Image Transformations
Northeastern University（东北大学）
最近的神经网络架构声称可以解释来自人类视觉皮层的数据。然而，他们的表现仍然是有限的依赖于利用低层次的功能来解决视觉任务。这种策略限制了它们在分布外/对抗性数据的情况下的性能。与此同时，人类学习抽象概念，即使是极端的图像扭曲也不会影响人类。人类和网络使用截然不同的策略来解决视觉任务。为了探索这一点，我们引入了一组新的图像变换，并在对象识别任务中评估人类和网络。我们发现，一些常见网络的性能迅速下降，而人类能够以高精度识别物体。
2022-05-27 cs.AI cs.CV cs.LG
A General Framework for Hypercomplex-valued Extreme Learning Machines
University of Campinas（坎皮纳斯大学）
本文的目的是建立一个框架，极端学习机（ELM）的一般超复代数。超复杂神经网络是一种机器学习模型，其特征在于将高维数作为参数、输入和输出。首先，我们回顾了广义超复代数，并给出了一个框架，通过实值线性代数运算在这些代数中以一种稳健的方式进行操作。我们继续探索一些著名的四维例子。然后，我们提出了超复值ELMs，并使用超复值最小二乘问题推导出它们的学习。最后，我们在时间序列预测和彩色图像自动编码的实验中比较了实值和超复值ELM模型的性能。计算实验突出了超复值ELMs处理高维数据的优异性能，包括基于不寻常的超复代数的模型。
2021-01-15 cs.LG
Physics Informed Extreme Learning Machine (PIELM) -- A rapid method for the numerical solution of partial differential equations
Indian Institute of Technology, Madras（印度理工学院马德拉斯分校）
最近，在将深度网络应用于求解偏微分方程方面取得了快速进展，统称为物理信息神经网络（PINN）。在本文中，我们开发了物理信息极端学习机（PIELM），一个快速版本的PINNs，可应用于静态和时间依赖的线性偏微分方程。我们证明，PIELM匹配或超过PINN的一系列问题的准确性。我们还讨论了神经网络为基础的方法，包括我们的PIELM，在大的域上的偏微分方程的解决方案的局限性，并提出了一个扩展，我们的算法的分布式版本-{}- DPIELM。我们表明，DPIELM产生优秀的结果相比，传统的数值技术在解决时间相关的问题。总的来说，这项工作有助于利用神经网络在复杂域的偏微分方程的解决方案作为一个有竞争力的替代传统的离散化技术。
2019-07-08 cs.LG physics.comp-ph stat.ML
DexDeepFM: Ensemble Diversity Enhanced Extreme Deep Factorization Machine Model
Zhejiang University（浙江大学）
预测用户肯定响应（例如，购买和点击）概率是Web应用程序中的一项关键任务。为了从原始数据中识别预测特征，最先进的极深因子分解机器模型（xDeepFM）引入了一个新的交互网络，以显式地利用矢量级别的特征交互。然而，由于交互网络中的每个隐藏层都是特征图的集合，因此它本质上可以被视为不同特征图的集合。在这种情况下，仅使用单个目标来最小化预测损失可能导致过拟合并产生相关误差。本文提出了一种集成多样性增强的极深因子分解机器模型（DexDeepFM），该模型在每个隐层设计集成多样性度量，在目标函数中同时考虑集成多样性和预测精度。此外，引入注意力机制来区分不同特征交互顺序的集合多样性度量的重要性。在三个公开的真实世界数据集上进行了广泛的实验，以显示所提出的模型的有效性。
2021-12-10 cs.LG
Extreme Image Transformations Affect Humans and Machines Differently
Northeastern University（东北大学）
本文提出一组受神经生理学启发的新型图像变换，通过对比人类与人工神经网络在物体识别任务上的表现，揭示二者对极端图像失真的敏感性差异，并探讨如何借鉴人类视觉特性提升机器在困难变换下的性能。
2023-04-11 cs.AI cs.CV cs.LG
ELM-DeepONets: Backpropagation-Free Training of Deep Operator Networks via Extreme Learning Machines
Konkuk University（建国大学）
针对深度算子网络（DeepONets）训练计算资源消耗大的问题，提出基于极限学习机（ELM）的ELM-DeepONets框架，将训练转化为最小二乘问题实现无反向传播训练，在基准问题上精度更优且计算成本大幅降低，为科学计算的算子学习提供高效可扩展的新方案。
2025-01-16 cs.AI cs.LG cs.NA
A Rapid Physics-Informed Machine Learning Framework Based on Extreme Learning Machine for Inverse Stefan Problems
School of Qilu Transportation, Shandong University（山东大学齐鲁交通学院）；School of Mechanical Engineering, Qilu University of Technology (Shandong Academy of Sciences)（齐鲁工业大学（山东省科学院）机械工程学院）
本文提出基于极限学习机的物理信息框架PIELM，用于快速求解反斯蒂芬问题，通过最小二乘优化损失向量，相比传统PINNs提高精度3-7个数量级并节省94%以上训练时间。
2025-10-24 cs.LG
A Critical Analysis of the Theoretical Framework of the Extreme Learning Machine
University of Ostrava（俄斯特拉发大学）；Cracow University of Technology（克拉科夫工业大学）；Universidad de Málaga（马拉加大学）；University of Warmia and Mazury in Olsztyn（奥尔什丁瓦尔米亚玛祖里大学）
本文批判性分析了极限学习机（ELM）的理论基础，通过反驳两个核心命题的证明并构建反例数据集揭示其缺陷，同时提出了替代性基础命题以论证ELM在特定理论情形下的有效性。
2024-06-25 cs.LG cs.NE
Classification with Boosting of Extreme Learning Machine Over Arbitrarily Partitioned Data
TÜBİTAK BİLGEM, Cyber Security Institute（土耳其科学技术研究理事会 信息与信息安全研究中心 网络安全研究所）
在大数据时代，基于机器学习的计算智能方法被广泛用于分析大规模数据集。从这些类型的数据集中提取有用的预测模型是一个具有挑战性的问题，因为它们的高度复杂性。分析可用于获取业务价值的大量流数据是另一个需要解决的复杂问题。随着数据可用性（\textit{i.e. Big Data}）水平的提高，对它们的自动分类已成为一项重要而复杂的任务。因此，我们探索了应用基于MapReduce的分布式AdaBoosting的极限学习机（ELM）来构建分类模型的预测包的能力。因此，（i）创建数据集集合;（ii）使用ELM算法来构建弱学习器（分类器函数）;以及（iii）从一组弱学习器构建强学习器。我们将此训练模型应用于基准知识发现和数据采掘数据集。
2016-02-09 cs.LG
SELM: Siamese Extreme Learning Machine with Application to Face Biometrics
King Mongkut's Institute of Technology Ladkrabang（泰国国王科技大学）；Universidad Autonoma de Madrid（马德里自治大学）
本文提出孪生极限学习机 SELM，通过双流并行结构和依赖性别与种族的 triplet 特征提升人脸验证性能，实验表明其准确率和 AUC 显著优于极限学习机与 DCNN。
2021-08-06 cs.CV cs.LG
Extreme Theory of Functional Connections: A Physics-Informed Neural Network Method for Solving Parametric Differential Equations
在这项工作中，我们提出了一种新的，准确的，强大的物理信息的方法来解决涉及参数微分方程（DE）的问题，称为函数连接的极值理论，或X-TFC。所提出的方法是一个协同作用的两个最近开发的框架，用于解决问题，涉及参数DE，1）理论的功能连接，TFC和物理信息神经网络，PINN。虽然本文的重点是解决涉及参数DE（即建模误差可以忽略不计的问题）与已知参数的精确问题，X-TFC也可以用于数据驱动的解决方案和数据驱动的参数DE的发现。在所提出的方法中，参数DE的潜在解决方案是近似的TFC约束表达式，使用神经网络（NN）作为自由函数。这种近似解形式总是解析地满足DE的约束，同时保持具有无约束参数的NN，如Deep-TFC方法。X-TFC与PINN和Deep-TFC不同; PINN和Deep-TFC使用深度NN，X-TFC使用单层NN，或者更准确地说，是极限学习机ELM。这种选择是基于ELM算法的属性。为了数值验证的方法，它被测试了一系列的问题，包括线性和非线性的普通DE（ODE），系统的ODE（SODE），和部分DE（PDE）的解决方案的近似。此外，其中一些问题在物理和工程中是感兴趣的，例如经典的Emden-Fowler方程，辐射传递（RT）方程和热传递（HT）方程。结果表明，X-TFC实现了高精度与低的计算时间，因此它是与其他国家的最先进的方法相媲美。
2020-05-15 cs.LG cs.NA math.NA
Data-Driven Threshold Machine: Scan Statistics, Change-Point Detection, and Extreme Bandits
Georgia Tech（佐治亚理工学院）
我们提出了一种新的分布免费的方法，数据驱动的阈值机（DTM），在许多学习任务的核心的一个基本问题：选择一个阈值为一个给定的预先指定的水平，边界的最大值（可能依赖，但平稳）随机序列的尾部概率。我们不假设数据分布，而是依赖于极值的渐近分布，并减少了问题的极值分布和极值指数的三个参数估计。我们通过估计极值索引来特别关注数据依赖性，因为在许多设置中，例如扫描统计，变点检测和极端强盗，其中统计序列中的依赖性可能很重要。我们的DTM的主要特点还包括鲁棒性和计算效率，它只需要一个样本路径，以形成一个可靠的估计阈值，相比之下，蒙特卡洛采样方法，需要绘制大量的样本路径。我们证明了良好的性能DTM通过数值例子在各种相关的设置。
2016-10-14 cs.LG math.ST stat.ML
Machine Learning Promoting Extreme Simplification of Spectroscopy Equipment
Shaanxi Normal University（陕西师范大学）；Nanjing University（南京大学）
光谱测量是探索和认识自然的主要途径之一。如今，赛车人工智能似乎将重塑其风格。庞大的神经网络所包含的算法能够取代许多昂贵而复杂的光谱仪器组件。在这项工作中，我们提出了一种用于测量吸光度曲线的智能机器学习策略，并初步验证了一种非常简化的设备足以满足这种策略的需求。此外，由于其简单性，该设置有望以多种形式渗透到许多科学领域。
2019-09-14 cs.LG physics.ins-det stat.ML
Multi-Antenna Channel Interpolation via Tucker Decomposed Extreme Learning Machine
University of California, Davis（加州大学戴维斯分校）；Beijing Jiaotong University（北京交通大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Institute of Computing Technology, Chinese Academy of Science（中国科学院计算技术研究所）
在多天线信道的频率空间结构相关性通常以矩阵或张量形式隐藏的无线系统设计中，信道插值是提供高精度信道状态信息（CSI）估计的必要技术。在这封信中，一个修改的极端学习机（ELM），可以处理张量数据，或ELM模型与张量输入（TELM），提出了处理通道插值任务。TELM继承了ELM的许多优良特性。在TELM的基础上，提出了Tucker分解极端学习机（TDELM），进一步提高了性能。此外，我们建立了一个理论参数来衡量建议的学习机的插值能力。实验结果表明，我们提出的学习机可以实现可比的均方误差（MSE）的性能对传统的ELM，但与15%的运行时间缩短，并优于其他方法的20%余量测量的MSE通道插值。
2019-05-17 cs.IT cs.LG eess.SP
Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting
Carnegie Mellon University（卡内基梅隆大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
当机器学习算法应用于敏感数据时，会对隐私构成明显的威胁。越来越多的先前工作表明，由这些算法产生的模型可能会通过模型的结构或其可观察到的行为将训练数据中的特定私有信息泄露给攻击者。然而，这种隐私风险的根本原因并没有得到很好的理解，除了少数轶事，表明过度拟合和影响可能发挥作用。本文研究了过拟合和影响对攻击者从机器学习模型中学习有关训练数据的信息的能力的影响，无论是通过训练集成员推理还是属性推理攻击。使用正式和实证分析，我们说明了这些因素和隐私风险，出现在几个流行的机器学习算法之间的明确关系。我们发现，过拟合是足以让攻击者进行成员推理，当目标属性满足一定的条件，其影响，属性推理攻击。有趣的是，我们的正式分析还表明，过拟合对于这些攻击来说并不是必需的，并开始揭示其他因素可能在起作用。最后，我们探讨了成员推理和属性推理之间的联系，表明两者之间存在着深刻的联系，导致有效的新攻击。
2018-05-04 cs.CR cs.LG stat.ML
Machine learning phase transitions: Connections to the Fisher information
University of Basel（巴塞尔大学）；Massachusetts Institute of Technology（麻省理工学院）；CSAIL, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）
本研究将机器学习相变检测指标与信息几何中的Fisher信息建立联系，证明其从下方逼近Fisher信息平方根，并数值验证了该界在经典与量子系统中的有效性。
2023-11-17 cond-mat.dis-nn cs.LG quant-ph
Minimum Variance Embedded Auto-associative Kernel Extreme Learning Machine for One-class Classification
Indian Institute of Technology Indore（印度理工学院印多尔分校）
单类分类（OCC）只需要一个类的样本来训练分类器。最近，一个自联想核极端学习机开发的OCC任务。本文介绍了一种新的扩展，这种分类器通过嵌入最小方差信息在其架构，被称为VAAKELM。最小方差嵌入迫使网络输出权重集中在低方差区域，并减少类内方差。这导致更好地分离目标样本和离群值，从而提高分类器的泛化性能。该分类器遵循基于重构的OCC方法，并通过使用核极端学习机作为基础分类器来最小化重构误差。它使用重建误差的偏差来识别异常值。我们在15个小型和10个中型单类基准数据集上进行了实验，以证明所提出的分类器的效率。我们将结果与13个现有的一类分类器进行比较，考虑平均F1分数作为比较指标。实验结果表明，VAAKELM始终优于现有的分类器，使其成为一个可行的替代OCC任务。
2020-11-24 cs.LG
Over-The-Air Extreme Learning Machines with Nonlinear Stacked Intelligent Metasurfaces
National and Kapodistrian University of Athens（雅典国立卡波季斯特里安大学）；University of Bologna（博洛尼亚大学）；CNIT（意大利国家电信研究所）
本文提出一种基于非线性堆叠智能超表面的超大MIMO系统作为极限学习机，实现空中二分类，其分类精度接近理想数字模型，验证了低复杂度波域OTA学习的可行性。
2026-08-28 cs.LG eess.SP
Fast fluorescence lifetime imaging analysis via extreme learning machine
University of Strathclyde（思克莱德大学）
我们提出了一种快速，准确的分析方法，荧光寿命成像显微镜（FLIM）使用极端学习机（ELM）。我们使用了广泛的指标来评估ELM和现有的算法。首先，我们使用合成数据集比较了这些算法。结果表明，ELM可以获得更高的保真度，即使在低光子条件下。之后，我们使用ELM从装载有金纳米传感器的人前列腺癌细胞中检索寿命成分，表明ELM也优于迭代拟合和非拟合算法。通过将ELM与计算效率高的神经网络进行比较，ELM以更少的训练和推理时间实现了相当的准确性。由于ELM在训练阶段没有反向传播过程，因此训练速度远远高于现有的神经网络方法。所提出的策略是有前途的边缘计算与在线训练。
2022-03-25 cs.LG physics.bio-ph
Massive MIMO As an Extreme Learning Machine
University of Wollongong（伍伦贡大学）；Weizmann Institute of Science（魏茨曼科学研究所）
这项工作表明，一个大规模的多输入多输出（MIMO）系统与低分辨率的模数转换器（ADC）形成一个自然的极端学习机（ELM）。基站处的接收天线充当ELM的隐藏节点，并且低分辨率ADC充当ELM激活函数。通过向接收信号添加随机偏置和优化ELM输出权重，该系统可以有效地解决硬件损伤，例如功率放大器的非线性和低分辨率ADC。此外，ELM的快速自适应能力允许自适应接收机的设计，以解决MIMO信道的时变效应。仿真结果表明，基于ELM的接收机相比，传统的接收机在处理硬件损伤的有前途的性能。
2020-12-28 cs.LG eess.SP
Physics-Informed Extreme Learning Machine (PIELM): Opportunities and Challenges
Shandong University（山东大学）；Qilu University of Technology (Shandong Academy of Sciences)（齐鲁工业大学（山东省科学院））；University of Naples Federico II（那不勒斯费德里科二世大学）；University of Leeds（利兹大学）；Shandong Institute of Mechanical Design and Research（山东省机械设计研究院）
本文回顾了物理信息极限学习机（PIELM）的发展，指出其在求解复杂微分方程时的高效性与准确性，并分析了当前面临的挑战与未来构建更鲁棒框架的机遇。
2025-11-02 cs.LG
A study on effectiveness of extreme learning machine
China Jiliang University（中国计量大学）
极限学习机（ELM），由Huang等人提出，提出了一种单隐层前馈神经网络的学习算法。然而，由于输入权值和偏置的随机选择，ELM算法有时会使SLFN的隐层输出矩阵H不满列秩，从而降低了ELM的有效性。本文讨论了ELM算法的有效性，提出了一种改进算法EELM，该算法在计算输出权值之前，对输入权值和偏置进行了适当的选择，从理论上保证了H的列满秩。这在一定程度上提高了网络的学习率（测试精度、预测精度、学习时间）和鲁棒性。基于基准函数逼近和实际问题（包括分类和回归应用）的实验结果表明，EELM具有良好的性能。
2014-09-13 cs.LG cs.NE
Predicting extreme events from data using deep machine learning: when and where
Xi’an Jiaotong University（西安交通大学）；Arizona State University（亚利桑那州立大学）；University of Aberdeen（阿伯丁大学）
我们开发了一个基于深度卷积神经网络（DCNN）的框架，用于无模型预测空间维度为2的非线性物理系统中极端事件在时间（“何时”）和空间（“何处”）上的发生。测量或数据是一组二维快照或图像。对于期望的预测时间范围，可以指定适当的标记方案以使得能够成功训练DCNN和随后及时预测极端事件。假设已经预测极端事件将在时间范围内发生，则可以应用基于空间的标记方案来在一定分辨率内预测事件将发生的位置。我们使用来自2D复杂Ginzburg-Landau方程的合成数据和北大西洋的经验风速数据来演示和验证我们基于机器学习的预测框架。讨论了极端事件发生的空间偏差对预报精度的不利影响。深度学习框架对于预测现实世界中的极端事件是可行的。
2022-03-31 cs.LG eess.SP math.DS
