Constructing Multilayer Perceptrons as Piecewise Low-Order Polynomial Approximators: A Signal Processing Approach
University of Southern California（南加利福尼亚大学）；Army Research Laboratory（陆军研究实验室）
在这项工作中提出了一个多层感知器（MLP）作为一个分段低阶多项式逼近器使用的信号处理方法的建设。所构造的MLP包含一个输入层、一个中间层和一个输出层。它的构造包括神经元数目和所有滤波器权重的指定。通过构造，建立了MLP的逼近与分段低阶多项式的逼近之间的一一对应关系。分段多项式和MLP近似之间的比较。由于分段低阶多项式的逼近能力是很好的理解，我们的研究结果揭示了MLP的通用逼近能力。
2020-10-15 cs.LG
Continuous Function Structured in Multilayer Perceptron for Global Optimization
Soft Foundry Institute, Seoul National University（首尔国立大学软铸造研究所）
针对全局最小搜索基准测试问题，利用函数导数修正线性神经元多层感知器的梯度信息。通过这种方法，我们证明了使用函数导数从给定的连续函数导出的梯度的景观可以是具有ax+b神经元的MLP形式。在此范围内，所提出的算法提高了优化过程的可用性，同时处理问题集中的所有参数。该方法的功能可以通过有意设计的凸函数和Kullack-Liebler散度应用于成本值以及改善。
2023-03-07 cond-mat.dis-nn cs.LG
Constructing the Matrix Multilayer Perceptron and its Application to the VAE
Uppsala University（乌普萨拉大学）；SICS Computer Systems Laboratory, RISE Research Institutes of Sweden AB（瑞典信息通信技术研究所（RISE）计算机系统实验室（SICS））；Department of Information Technology, Division of Systems and Control, Uppsala University（乌普萨拉大学信息技术系系统与控制部）
像大多数学习算法一样，多层感知器（MLP）被设计为从数据中学习参数向量。然而，在某些情况下，我们有兴趣学习对称正定矩阵形式的结构化参数（预测）。在这里，我们介绍了MLP的一个变体，称为矩阵MLP，专门用于学习对称正定矩阵。我们还介绍了该模型在变分自动编码器（VAE）背景下的应用。我们的VAE公式将香草公式扩展到识别和生成网络可以来自具有密集协方差阵的参数分布族的情况。两个具体的例子进行了更详细的讨论：密集的协方差高斯及其推广，功率指数分布。我们的新发展使用合成数据和真实数据来说明。
2019-02-04 cs.AI cs.LG stat.ML
A comparative study of back propagation and its alternatives on multilayer perceptrons
Cornell University（康奈尔大学）
用于训练前馈神经网络的反向传递的实际算法是反向传播（BP）。几乎处处可微的激活函数的使用使得通过深层神经网络层向后传播梯度变得高效和有效。然而，近年来，人们对反向传播的替代方案进行了大量研究。这种分析主要集中在多层感知器（MLP）和卷积神经网络（CNN）中达到最先进的精度。在本文中，我们分析了MLP中预测和神经元的稳定性和相似性，并提出了一种新的算法。
2022-05-31 cs.LG cs.NE
PAC-Bayesian Generalization Bounds for MultiLayer Perceptrons
University of Delaware（特拉华大学）
研究了交叉熵损失下多层感知器的PAC-Bayes推广界。首先，我们从两个方面对MLP问题进行了概率解释：（i）MLP问题形成了一个Gibbs分布族;（ii）MLP问题的交叉熵损失最小化等价于贝叶斯变分推理，这为研究MLP问题的PAC-Bayesian界奠定了坚实的概率基础。基于证据下界（ELBO），证明了具有交叉熵损失的MLP本质上保证了PAC-Bayesian泛化界，并且最小化MLP的PAC-Bayesian泛化界等价于最大化ELBO.最后，我们在基准数据集上验证了所提出的PAC-Bayesian泛化界。
2020-06-17 cs.LG stat.ML
Batch Matrix-form Equations and Implementation of Multilayer Perceptrons
Eindhoven University of Technology（埃因霍温理工大学）；University of Luxembourg（卢森堡大学）
针对多层感知机（MLPs）算法细节缺乏完整批量矩阵形式呈现的问题，本文推导其前向和反向方程并验证，构建多框架参考实现，为透明分析和稀疏计算优化提供基础。
2025-11-14 cs.AI cs.LG
Learning Bilingual Sentence Embeddings via Autoencoding and Computing Similarities with a Multilayer Perceptron
RWTH Aachen University（亚琛工业大学）；eBay, Inc.（易趣公司）
我们提出了一种新的模型架构和训练算法，从并行和单语数据的组合中学习双语句子嵌入。我们的方法连接了自动编码和神经机器翻译，以迫使源和目标句子嵌入共享相同的空间，而无需枢轴语言或额外的转换。我们在句子嵌入的基础上训练一个多层感知器，从非并行或有噪声的并行数据中提取好的双语句子对。我们的方法在句子对齐恢复和WMT 2018并行语料库过滤任务上表现出良好的性能，只有一个模型。
2019-06-05 cs.CL cs.LG
Detection and Forecasting of Parkinson Disease Progression from Speech Signal Features Using MultiLayer Perceptron and LSTM
Bahria University（巴哈里亚大学）
本研究利用LSTM和MLP模型，基于帕金森患者语音信号的特征，分别预测疾病进展（阶段2和3）并检测疾病存在，提高了诊断准确性。
2024-12-24 cs.AI cs.LG cs.SD
ECO-AMLP: A Decision Support System using an Enhanced Class Outlier with Automatic Multilayer Perceptron for Diabetes Prediction
National University of Sciences & Technology（国家科学与技术大学）；Manchester Metropolitan University（曼彻斯特城市大学）
随着先进的数据分析技术，为疾病预测提供更准确的决策支持系统的努力正在增加。世界卫生组织（WHO）的调查表明，糖尿病患者和相关死亡人数每年都在大幅增加。糖尿病的早期诊断是研究人员和从业人员的主要关注点。本文提出了一个应用\textit{Automatic Multilayer Perceptron }，\textit{ }结合离群检测方法\textit{Enhanced Class Outlier Detection using distance based algorithm }，创建一个预测框架命名为增强类离群自动多层感知器（ECO-AMLP）。一系列的实验进行公开的皮马印度糖尿病数据集比较ECO-AMLP与其他个人分类器以及集成为基础的方法。与其他预处理和分类技术相比，我们框架中使用的离群值技术得到了更好的结果。最后，将结果与文献中报道的其他最先进的方法进行比较，预测PIDD糖尿病的准确性为88.7%，优于所有其他报道的研究。
2017-06-23 cs.LG
Long-Term Prediction of Lane Change Maneuver Through a Multilayer Perceptron
Columbia University（哥伦比亚大学）
行为预测在自动驾驶系统和高级驾驶员辅助系统（ADAS）中起着至关重要的作用，因为它增强了车辆对周围环境中即将发生的危险的意识。许多现有的车道变换预测模型将横向或角度信息作为输入，并进行短期（< 5秒）机动预测。在这项研究中，我们提出了一个长期（5~10秒）的预测模型，没有任何横向或角度信息。介绍了三种预测模型，包括逻辑回归模型，多层感知器（MLP）模型，和递归神经网络（RNN）模型，并使用真实世界的NGSIM数据集的性能进行了比较。为了正确地标记轨迹数据，本研究提出了一种新的时间窗口标记方案，通过在正样本和负样本之间添加时间间隔。还提出了两种方法来解决不稳定的预测问题，其中积极的方法传播每个积极的预测一定的秒数，而保守的方法采用滚动窗口平均平滑的预测。评价结果表明，开发的预测模型是能够捕捉75%的真实换道机动的平均提前预测时间为8.05秒。
2020-06-23 cs.AI cs.LG stat.ML
The Mechanical Neural Network(MNN) -- A physical implementation of a multilayer perceptron for education and hands-on experimentation
Institute of Cognitive Science, University of Osnabrück（奥斯纳布吕克大学认知科学研究所）
本文提出机械神经网络 MNN，以木制杠杆和线物理实现含 ReLU 的 2-4-2 结构 MLP，支持学生手动调节权重并学习 XOR 等函数。
2022-07-15 cs.LG
Co-Design of Approximate Multilayer Perceptron for Ultra-Resource Constrained Printed Circuits
National Technical University of Athens（雅典国立技术大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University of Patras（帕特雷大学）
印刷电子（PE）因其增材制造工艺而展示出按需、极低成本的硬件，使机器学习（ML）应用能够应用于硅基系统无法满足的超低成本、一致性和无毒要求的领域。然而，PE中的大特征尺寸禁止实现复杂的印刷ML电路。在这项工作中，我们提出，第一次，一个自动化的印刷感知的软件/硬件协同设计框架，利用近似计算原理，使超资源约束的印刷多层感知器（MLP）。我们的评估表明，与最先进的基线相比，我们的电路的面积（功耗）平均降低了6倍（5.7倍），精度损失不到1%。
2023-02-28 cs.AR cs.LG
Multi-gauge Hydrological Variational Data Assimilation: Regionalization Learning with Spatial Gradients using Multilayer Perceptron and Bayesian-Guided Multivariate Regression
INRAE（法国国家农业食品与环境研究院）；Aix-Marseille Université（艾克斯-马赛大学）；Institut de Mécanique des Fluides de Toulouse (IMFT)（图卢兹流体力学研究所）；Université de Toulouse（图卢兹大学）；CNRS（法国国家科学研究中心）
本文提出一种面向高分辨率水文模型的无缝区域化学习方法，通过多层感知机或贝叶斯引导的多元回归构建区域传递函数，并结合变分数据同化与多测站空间梯度优化，解决无测站水道洪水参数估计难题。
2023-07-04 cs.LG
Theoretical Compression Bounds for Wide Multilayer Perceptrons
MIT（麻省理工学院）
本文提出了一种随机贪心算法，用于宽多层感知机的剪枝和量化，证明了其在保持性能的同时实现网络压缩的理论界限。
2025-12-06 cs.LG math.ST stat.TH
Comparing Multilayer Perceptron and Multiple Regression Models for Predicting Energy Use in the Balkans
Mathematical Institute of the S.A.S.A（塞尔维亚科学与艺术学院数学研究所）；University of Calabria（卡拉布里亚大学）
全球人口和经济变化对能源消耗总量产生关键影响，这就是为什么在预测能源消耗时必须考虑人口和经济参数。本研究是基于应用多元线性回归模型和神经网络模型，特别是多层感知器，预测能源消耗。1995-2014年期间的分析考虑了来自五个巴尔干国家的数据。以国内生产总值、人口总数和CO2排放量为预测变量，以能源消费量为因变量。分析表明，CO2排放量对能源消耗的影响最大，其次是国内生产总值，而人口数量的影响最小。然后将两种分析的结果用于对相同数据进行预测，然后将获得的值与实际值进行比较。据观察，多层感知器模型预测更好的能源消耗比回归模型。
2018-10-26 cs.LG stat.ML
Universal Equivariant Multilayer Perceptrons
McGill University（麦吉尔大学）；Mila - Quebec AI Institute（米拉 - 魁北克人工智能研究所）
群不变和等变多层感知器（MLP），也称为等变网络，在学习各种数据结构（如序列、图像、集合和图形）方面取得了显著的成功。利用群论的工具，本文证明了一个广泛的类的等变MLP与一个单一的隐藏层的普遍性。特别是，它表明，有一个隐藏的层上的组定期行为是足够的普遍等变性（不变性）。一个推论是阿贝尔群的等变MLP的无条件普适性，例如具有单个隐藏层的CNN。第二个推论是具有高阶隐藏层的等变MLP的普遍性，其中我们给出了组不可知的界限和用于计算组特定的界限的方法，该方法保证了普遍等变（不变性）的隐藏层的顺序。
2020-06-24 cs.LG cs.NE math.GR
MLPGradientFlow: going with the flow of multilayer perceptrons (and finding minima fast and accurately)
MLPconvenentFlow是数值求解梯度流微分方程$\dot θ= -\nabla \mathcal L(θ; \mathcal D)$的软件包，其中$θ$是多层感知器的参数，$\mathcal D$是某个数据集，而$\nabla \mathcal L$是损失函数的梯度。我们数值计算表明，自适应的一阶或高阶积分方法的基础上龙格库塔计划有更好的精度和收敛速度比梯度下降与亚当优化。然而，我们发现牛顿的方法和近似BFGS更好地找到固定点（局部和全局最小值的$\mathcal L$）有效和准确。对于小型网络和数据集，梯度的计算速度通常比pytorch快，Hessian的计算速度至少快$5\times$。此外，该软件包还提供了一个师生设置的积分器，该积分器具有无偏的两层网络，该网络在无限数据的限制下使用标准高斯输入进行训练。该代码可在https://github.com/jbrea/MLPGradientFlow.jl上访问。
2023-01-25 cs.LG
Hierarchical Automatic Power Plane Generation with Genetic Optimization and Multilayer Perceptron
Carnegie Mellon University（卡内基梅隆大学）；Cadence Design Systems（楷登电子）
提出了一种多层电源层自动生成方法，以加速印制电路板（PCB）的设计。在PCB设计中，虽然已经开发了自动求解器来预测IR压降、电源完整性和信号完整性等重要指标，但电源层本身的生成仍然在很大程度上依赖于费力的手动方法。我们的自动电源平面生成方法是基于遗传优化结合多层感知器，并能够自动生成电源平面在不同的困难程度的问题。我们的方法GOMLP由一个外环遗传优化器（GO）和一个内环多层感知器（MLP），自动生成电源平面。我们的方法的关键要素包括轮廓检测，功能扩展，距离测量，使岛屿最小化复杂的电源平面生成。我们将我们的方法与基于A* 的基线解决方案进行比较。A* 方法由连续的岛生成和合并过程组成，该过程可能产生不太理想的解决方案。我们的实验结果表明，在单层电源平面问题，我们的方法优于A* 在71%的问题与不同程度的电路板布局的难度。我们进一步描述H-GOMLP，它扩展GOMLP多层电源平面问题，使用层次聚类和网络相似性的基础上的Hausdorff距离。
2022-11-02 cs.LG cs.NE
Comparative study of variational quantum circuit and quantum backpropagation multilayer perceptron for COVID-19 outbreak predictions
Delhi Technological University（德里理工大学）；CHRIST (Deemed to be University)（克里斯大学（被视为大学））
有许多量子神经网络模型已被应用于各种问题，如图像分类，模式识别等。量子启发算法已经有相当一段时间了。最近，在NISQ时代，混合量子经典模型已经显示出有希望的结果。多特征回归是经典机器学习中常见的问题。因此，我们提出了一个连续变量量子神经网络（变分电路）和量子反向传播多层感知器（QBMLP）的比较分析。我们选择了预测印度和美国COVID-19病例增加的当代问题。我们提供了两个模型之间的统计比较，这两个模型的性能优于经典的人工神经网络。
2020-08-19 cs.LG quant-ph
Training Multilayer Perceptrons by Sampling with Quantum Annealers
The University of Adelaide（阿德莱德大学）
量子退火在机器学习中的一个成功应用是训练受限玻尔兹曼机（RBM）。然而，许多用于视觉应用的神经网络是前馈结构，例如多层感知器（MLP）。反向传播是目前训练用于监督学习的MLP的最有效的技术。本文旨在通过探索使用量子退火器训练MLP来进行前瞻性研究。我们利用MLP和基于能量的模型（EBM），这是一个变化的RBM与最大条件似然目标之间的等价性。这导致了一种策略，训练MLP与量子退火作为采样引擎。我们证明了我们的设置与sigmoid激活函数和一个隐藏层的MLP，并展示了训练的二进制图像分类器的小子集的MNIST和时尚MNIST数据集使用的D波量子退火。虽然问题的大小是可行的，目前的退火炉是有限的，我们得到了全面的结果，验证我们的想法可行的情况下。我们的工作确立了量子计算在训练MLP方面的潜力。
2023-03-22 cs.LG quant-ph
Latent Space Topology Evolution in Multilayer Perceptrons
Department of Applied Mathematics I, University of Sevilla（应用数学一系，塞维利亚大学）
本文提出基于单纯塔和双持续性分析的拓扑框架，用于解释多层感知机内部表示，并通过组合算法与轨迹可视化识别冗余层和关键拓扑转变。
2025-06-02 cs.LG math.AT
Improving Multilayer-Perceptron(MLP)-based Network Anomaly Detection with Birch Clustering on CICIDS-2017 Dataset
Massey University（梅西大学）；Central Queensland University（中央昆士兰大学）；Ajou University（亚洲大学）
机器学习算法在入侵检测系统中得到了广泛的应用，其中包括多层感知器（MLP）。在这项研究中，我们提出了一个两阶段的模型，结合Birch聚类算法和MLP分类器，以提高网络异常多分类的性能。在我们提出的方法中，我们首先将Birch或Kmeans作为无监督聚类算法应用于CICIDS-2017数据集，以预分组数据。然后将生成的伪标签作为附加特征添加到基于MLP的分类器的训练中。实验结果表明，使用Birch和K-Means聚类进行数据预分组可以提高入侵检测系统的性能。我们的方法可以达到99.73%的准确率在多分类使用Birch聚类，这是优于类似的研究，使用一个独立的MLP模型。
2022-10-30 cs.CR cs.LG
Universal Approximation Theorem for Input-Connected Multilayer Perceptrons
本文提出输入连接多层感知机，证明其在单变量和向量输入情况下均能逼近任意连续函数，关键在于激活函数的非线性性。
2026-03-24 cs.LG cs.NE math.FA
Learning Dynamic Classes of Events using Stacked Multilayer Perceptron Networks
Aalborg University（奥尔堡大学）
人们经常使用网络搜索引擎来查找关于感兴趣的事件的信息，例如，体育比赛、政治选举、节日和娱乐新闻。在本文中，我们研究的问题，检测事件相关的查询，这是第一步，然后选择一个合适的时间感知检索模型。通常，可以通过用户搜索行为的各种时间模式在查询流中观察事件相关信息需求，例如，流行事件的尖峰和重复事件的周期性。然而，用户搜索不受欢迎的事件也是常见的，这些事件可能不会在查询流中表现出时间变化，例如，最近发生的过去事件、由纪念日或类似事件引发的历史事件以及预期发生的未来事件。为了解决检测事件的动态类别的挑战，我们提出了一种新的深度学习模型来将给定的查询分类为预定的多个事件类型的集合。我们提出的模型，堆叠多层感知器（S-MLP）网络，由多层感知器作为一个基本的学习单元。我们组装堆叠单元，以进一步了解连续层中中子之间的复杂关系。为了评估我们提出的模型，我们使用真实世界的查询和一组手动创建的地面实况进行实验。初步结果表明，我们提出的深度学习模型明显优于最先进的分类模型。
2016-07-01 cs.IR cs.LG
Multilayer Perceptron Network Discriminates Larval Zebrafish Genotype using Behaviour
The University of Adelaide（阿德莱德大学）
斑马鱼是用于鉴定新疾病疗法的常见模式生物。高通量药物筛选可以通过观察治疗后的行为变化在多孔板中的斑马鱼幼虫上进行。然而，由于所获得的数据的高维性，这种行为的分析可能是困难的。个体统计数据（如旅行距离）的统计分析通常不足以检测治疗组之间有意义的差异。在这里，我们提出了一种方法，在5天大的基因型帕金森病斑马鱼模型进行分类。使用一组二维行为特征，我们训练一个多层感知器神经网络。我们进一步表明，使用集成梯度可以深入了解每个行为特征对模型的基因型分类的影响。通过这种方式，我们提供了一种新的管道来分类斑马鱼幼虫，从特征准备开始，以所述特征的影响分析结束。
2022-11-08 cs.LG q-bio.QM
A Practical Method for Constructing Equivariant Multilayer Perceptrons for Arbitrary Matrix Groups
New York University（纽约大学）；University of Amsterdam（阿姆斯特丹大学）
对称性和等变性是神经网络在图像、图形和点云等领域推广的基础。现有的工作主要集中在少数群体，如平移，旋转和置换群。在这项工作中，我们提供了一个完全通用的算法求解矩阵群的等变层。除了从其他作品中恢复解决方案作为特殊情况下，我们构建多层感知器等变的多个群体，从来没有被处理过，包括$\mathrm{O}(1,3)$，$\mathrm{O}(5)$，$\mathrm{Sp}(n)$，和魔方组。我们的方法优于非等变基线，粒子物理和动力系统的应用。我们发布我们的软件库，使研究人员能够构建任意矩阵群的等变层。
2021-04-19 cs.LG math.DS stat.ML
EfficientBERT: Progressively Searching Multilayer Perceptron via Warm-up Knowledge Distillation
Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区）；University of Oxford（牛津大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；DarkMatter AI Research（暗物质人工智能研究院）
预训练的语言模型在各种NLP任务中表现出了显着的效果。然而，由于它们体积庞大，推理速度慢，很难在边缘设备上部署它们。在本文中，我们有一个关键的洞察力，改善前馈网络（FFN）在BERT有一个更高的增益比改善多头注意力（MHA），因为FFN的计算成本是2 $\sim$ 3倍大于MHA。因此，紧凑的BERT，我们致力于设计高效的FFN，而不是以前的作品，注意MHA。由于FFN包括一个多层感知器（MLP），这是必不可少的BERT优化，我们进一步设计了一个彻底的搜索空间向先进的MLP和执行一个由粗到细的机制，以寻找一个有效的BERT架构。此外，为了加快搜索速度和增强模型的可移植性，我们在每个搜索阶段采用了一种新的预热知识蒸馏策略。大量的实验表明，我们所搜索的EfficientBERT是6.9 $\times$小，4.4 $\times$快于BERT $\rm_{BASE}$，并具有竞争力的性能在GLUE和SQuAD基准。具体而言，即使没有数据增强，EfficientBERT在GLUE \emph{test}上的平均得分为77.7，比MobileBERT $\rm_{TINY}$高0.7，在SQuAD v1.1/v2.0 \emph{dev}上的F1得分为85.3/74.5，比TinyBERT $_4$高3.2/2.7。该代码在https://github.com/cheneydon/effi…
2021-09-16 cs.AI cs.CL cs.LG
Penalty Learning for Optimal Partitioning using Multilayer Perceptron
针对最优划分中固定惩罚难以预测的问题，提出用带 ReLU 的 MLP 学习连续惩罚，提升非线性建模能力，并在基因组基准上提高准确率与 F1。
2025-06-10 cs.LG stat.ML
Adaptive Neuro-Fuzzy Inference System and a Multilayer Perceptron Model Trained with Grey Wolf Optimizer for Predicting Solar Diffuse Fraction
Kalman Kando Faculty of Electrical Engineering, Obuda University（欧布达大学卡尔曼·坎多电气工程学院）；John von Neumann Faculty of Informatics, Obuda University（欧布达大学约翰·冯·诺依曼信息学院）
太阳散射比（DF）的准确预测是太阳能研究的一个重要课题。在本研究中，漫辐射研究的现状进行了讨论，然后三个强大的，机器学习（ML）模型，检查使用一个大的数据集（近8年）从西班牙阿尔梅里亚每小时的读数。本文使用的ML模型是混合的基于自适应网络的模糊推理系统（ANFIS）、单个多层感知器（MLP）和混合的多层感知器-灰狼优化器（MLP-GWO）。这些模型的预测精度进行了评估，使用各种太阳能和漫射分数（DF）辐照度数据，从西班牙。然后使用两个常用的评价标准，平均绝对误差（MAE）和均方根误差（RMSE）对结果进行评价。结果表明，MLP-GWO模型，其次是ANFIS模型，提供了更高的性能，在培训和测试过程中。
2020-09-13 cs.LG eess.SP
Learning Entropy and Spatial Adaptation Dynamics of Multilayer Perceptrons for Structural Point Extraction
Czech Technical University in Prague（捷克技术大学布拉格分校）；University of South Bohemia in Ceske Budejovice（南捷克大学捷克布杰约维采分校）
提出空间学习熵（SLEM）方法，通过分析MLP在图像样本学习中的权重自适应，识别对网络学习重要的图像点与区域，为特征提取提供新视角。
2026-06-08 cs.LG
Forecasting Hyponatremia in hospitalized patients Using Multilayer Perceptron and Multivariate Linear Regression Techniques
GITAM University（吉塔姆大学）
因低钠血症住院的患者比例越来越高。低钠血症是人体血清中钠电解质的缺乏。如果不积极治疗和管理，这种缺陷可能会导致不良反应，并与住院时间延长或死亡率相关。这项工作预测未来的钠水平的患者的基础上，他们的健康问题的历史，使用多层感知器和多元线性回归算法。这项工作分析了患者的年龄，其他疾病的信息，如糖尿病，肺炎，肝病，恶性肿瘤，肺，败血症，SIADH和钠水平的患者在入院期间。最后将MLP算法的结果与基于MLR算法的结果进行了比较。MLP算法的预测结果比MLR算法的预测结果高23-72。因此，在预测患者未来钠浓度范围时，提出的MLR算法的均方误差率比MLR结果降低了57.1。此外，提出的MLR算法产生27-50的较高的预测精度率。
2020-08-04 cs.LG cs.NE q-bio.QM
Biologically Inspired Mechanisms for Facilitating Grokking in Multilayer Perceptrons
Faculty of Automatic Control and Computer Engineering（自动控制与计算机工程学院）；“Gheorghe Asachi” Technical University of Iași（雅西“格奥尔基·阿萨奇”技术大学）
该研究探究生物启发机制能否促进多层感知机的Grokking转变，经在稀疏奇偶校验和带噪异或分类基准上实验，发现稳态调节增益最强，为相关机制应用于大语言模型提供支撑。
2026-08-31 cs.LG
Predicting the Masses of Exotic Hadrons with Data Augmentation Using Multilayer Perceptron
Mimar Sinan Fine Arts University（米马尔·锡南美术大学）
最近，神经网络有了重大的发展，这导致了神经网络在物理学文献中的频繁使用。这项工作的重点是预测质量的奇异强子，双魅和底重子使用神经网络训练的介子和重子的质量，由实验确定。使用最近提出的人工数据增强方法对原始数据集进行了扩展。我们已经观察到，神经网络的预测能力随着增强数据的使用而增加。结果表明，数据增强技术在改善神经网络预测中起着至关重要的作用，而且神经网络对奇异强子、双魅重子和双底重子都能做出合理的预测.计算结果与高斯过程和组分夸克模型的计算结果也具有可比性。
2023-01-20 cs.LG hep-lat hep-ph
Multilayer Perceptron Based Stress Evolution Analysis under DC Current Stressing for Multi-segment Wires
Shanghai Jiao Tong University（上海交通大学）；University of Hong Kong（香港大学）；Southern University of Science and Technology（南方科技大学）
随着工艺规模的不断扩大，电迁移问题成为超大规模集成（VLSI）系统可靠性分析的主要问题之一。准确预测集成电路（IC）的失效时间对于现代IC设计变得越来越重要。然而，传统的方法往往不够准确，导致不希望的过度设计，特别是在先进的技术节点。在本文中，我们提出了一种方法，使用多层感知器（MLP）来计算应力演化的互连树在空洞成核阶段。一个定制的试验功能的可用性神经网络培训持有的承诺，发现动态无网格应力演化复杂的互连树下随时间变化的温度。具体而言，我们制定了一个新的目标函数，考虑EM诱导耦合偏微分方程（PDE），边界条件（BC），和初始条件，以执行基于物理的约束在时空域。该模型避免了网格划分，并减少了时间迭代相比，传统的数值方法，如有限元。数值结果证实了它在精度和计算性能上的优势。
2022-05-17 cs.LG eess.SP
Speech & Song Emotion Recognition Using Multilayer Perceptron and Standard Vector Machine
City University of London（伦敦大学城市学院）
在这里，我们比较了SVM和MLP在RAVDESS数据集的语音和歌曲通道的情感识别中的性能。我们已经开始了提取各种音频特征的旅程，为我们的模型确定最佳缩放策略和超参数。为了增加样本量，我们进行了音频数据增强，并使用SMOTE解决了数据不平衡问题。我们的数据表明，优化的SVM优于MLP，准确率为82%，而不是75%。经过数据增强后，两种算法的性能相同，约为79%，但SVM的过拟合很明显。我们最后的探索表明，SVM和MLP的性能是相似的，都导致较低的准确度为语音通道相比，歌曲通道。我们的研究结果表明，支持向量机和MLP是强大的分类器，情感识别的声音依赖的方式。
2021-05-19 cs.LG cs.SD eess.AS
Forecasting Drought Using Multilayer Perceptron Artificial Neural Network Model
Quaid-i-Azam University（真纳大学）；University of Bradford（布拉德福德大学）；Bradford Institute for Health Research, Bradford Teaching Hospitals NHS Foundation Trust（布拉德福德教学医院NHS基金会信托布拉德福德健康研究所）；COMSATS Institute of Information Technology（COMSATS信息技术学院）；King Saud University（沙特国王大学）；Workers University（工人大学）
干旱灾害频繁发生，人类面临着诸多环境挑战。它可能对国家的环境、社区和工业产生影响。巴基斯坦继续受到干旱灾害的一些不利影响，包括其他灾害。然而，干旱的早期测量和检测可以为水资源管理提供指导，以采用干旱缓解政策。在本文中，我们使用多层感知器神经网络（MLPNN）算法的干旱预测。应用MLPNN算法对巴基斯坦北部地区和KPK（巴基斯坦）17个气象站的标准化降水蒸散指数（SPEI）的月时间序列数据进行了检验。我们发现，MLPNN具有基于性能指标（即，平均误差（MAE）、相关系数R和均方根误差（RMSE）。水资源和管理规划者可以提前采取必要行动（例如，在缺水地区），通过使用MLPNN模型作为其决策的一部分。
2019-04-17 cs.LG physics.ao-ph stat.ML
Group-Connected Multilayer Perceptron Networks
University of California, Los Angeles (UCLA)（加州大学洛杉矶分校）
尽管深度学习在图像、语音和图形等领域取得了成功，但在特征之间没有已知结构的领域，深度表示学习的进展甚微。例如，不同人口统计学和临床因素的表格数据集，其中特征相互作用未作为先验给出。在本文中，我们提出了组连接多层感知器（GMLP）网络，以实现这些领域的深度表示学习。GMLP基于学习表达特征组合（组）并通过定义局部组操作来利用它们来降低网络复杂性的思想。在训练阶段，GMLP使用温度退火softmax学习稀疏特征分组矩阵，并添加熵损失项以鼓励稀疏性。此外，提出了一种类似于二叉树的架构，其中分组操作之后是池化操作以组合信息;随着网络深度的增长，减少了组的数量。为了评估所提出的方法，我们在不同的真实世界数据集上进行了实验，涵盖了各种应用领域。此外，我们还提供MNIST和合成数据的可视化。根据结果，GMLP能够成功地学习和利用表达性特征组合，并在不同的数据集上实现最先进的分类性能。
2020-11-25 cs.LG cs.NE stat.ML
Development of a Multiprocessing Interface Genetic Algorithm for Optimising a Multilayer Perceptron for Disease Prediction
University of Maiduguri（迈杜古里大学）；Abubakar Tafawa Balewa University（阿布巴卡尔·塔法瓦·巴勒瓦大学）
本研究提出一种集成核主成分分析、多层感知机与多进程遗传算法的框架，通过并行优化超参数，在三个疾病数据集上分别达到99.12%、94.87%和100%的准确率，并显著缩短调优时间。
2025-05-27 cs.LG
Quantifying the Optimization and Generalization Advantages of Graph Neural Networks Over Multilayer Perceptrons
RIKEN AIP（日本学术振兴会先进研究所）；The University of Hong Kong（香港大学）；National University of Singapore（新加坡国立大学）；The University of New South Wales（新南威尔士大学）；University of Tokyo（东京大学）
本文通过特征学习理论和信号-噪声数据模型，定量比较两层GCN与MLP的优化和泛化差异，证明GNN优先学习信号并将低测试误差范围扩大D^{q-2}倍，并在合成与真实数据集上验证了该结论。
2025-06-06 cs.LG
Simple Full-Spectrum Correlated k-Distribution Model based on Multilayer Perceptron
Beijing Information Science and Technology University（北京信息科技大学）；Beijing Aerospace Petrochemical EC and EP Technology Corporation Limited（北京航天石化EC和EP技术有限公司）；Beijing Jiaotong University（北京交通大学）
针对FSCK方法中a值实时计算和现有MLP模型复杂低效的问题，提出基于FSCK本质的简单SFM模型，在极低计算成本下实现了优于查找表的精度与高可移植性。
2024-03-05 cs.LG
Ranked Set Sampling-Based Multilayer Perceptron: Improving Generalization via Variance-Based Bounds
Institute of Big Data Science and Industry（大数据科学与产业研究院）；Shanxi University（山西大学）；Key Laboratory of Evolutionary Science Intelligence of Shanxi Province（山西省进化智能重点实验室）
本文提出基于秩次集抽样的 RSS-MLP，通过在训练集中引入有序结构降低经验损失方差，并在十二个基准数据集上验证其泛化性能。
2025-08-28 cs.LG
From Two-Class Linear Discriminant Analysis to Interpretable Multilayer Perceptron Design
University of Southern California（南加州大学）；Army Research Laboratory（陆军研究实验室）
两类线性判别分析（LDA）在多维特征空间中判别两个高斯分布的类，存在一个封闭形式的解。在这项工作中，我们解释的多层感知器（MLP）作为一个两类LDA系统的推广，使它可以处理由多个高斯模态属于多个类的输入。除了输入层$l_{in}$和输出层$l_{out}$之外，感兴趣的MLP由两个中间层$l_1$和$l_2$组成。我们提出了一个前馈设计，有三个阶段：1）从$l_{in}$到$l_1$：半空间划分完成多个并行LDA，2）从$l_1$到$l_2$：子空间隔离，其中一个高斯模态由一个神经元表示，3）从$l_2$到$l_{out}$：类的子空间合并，其中每个高斯模态连接到它的目标类。通过这个过程，我们提出了一个自动的MLP设计，可以指定网络架构（即，层数和一层上的神经元数）以及前馈一遍方式的所有滤波器权重。该设计可以通过利用高斯混合模型（GMM）推广到任意分布。通过实验比较了传统的基于反向传播的MLP（BP-MLP）和新的前馈MLP（FF-MLP）的性能。
2020-09-09 cs.LG stat.ML
Predicting the clinical citation count of biomedical papers using multilayer perceptron neural network
Huazhong University of Science and Technology（华中科技大学）；Tongji Medical College（同济医学院）；Central China Normal University（华中师范大学）；Wuhan University（武汉大学）
从临床指南或临床试验中收到的临床引文数量被认为是量化生物医学论文临床影响的最合适指标之一。因此，早期预测生物医学论文的临床引文数量对于生物医学领域的科学活动，如研究评估、资源分配和临床翻译至关重要。在这项研究中，我们设计了一个四层多层感知器神经网络（MPNN）模型来预测未来的生物医学论文的临床引用计数使用9,822,620发表的生物医学论文1985年至2005年。我们从三个维度中提取了91个论文特征作为模型的输入，其中论文维度21个，参考文献维度35个，引用论文维度35个。在每个维度上，特征可以被分为三类，即，引文相关特征、临床诊断相关特征和主题相关特征。此外，在论文维度中，我们还考虑了以前被证明与研究论文的引用次数有关的特征。结果表明，所提出的MPNN模型优于其他五个基线模型，在参考维度的特征是最重要的。
2022-10-21 cs.CL cs.LG
Fisher Simplicity in Kolmogorov-Arnold Networks and Multilayer Perceptrons
研究 KAN 与 MLP 中架构简单性与 Fisher 简单性的一致性，发现死亡 ReLU 一致而固定基 KAN 不一致，并提出有效边度量以识别 Fisher 零方向，表明系数大小不能作为 KAN 的剪枝标准。
2026-10-01 cs.LG
A comparative analysis of a neural network with calculated weights and a neural network with random generation of weights based on the training dataset size
Institute of Control Systems, Azerbaijan National Academy of Sciences（阿塞拜疆国家科学院控制系统研究所）
本文对比了多层感知器在预计算权重与随机初始化权重下的表现，发现预计算权重能显著加快训练速度并提升对数据集缩减的鲁棒性。
2025-05-29 cs.AI cs.LG
Application of multilayer perceptron with data augmentation in nuclear physics
Mimar Sinan Fine Arts University（米马尔·希南美术大学）；University of Leuven (KU Leuven)（鲁汶大学（KU Leuven））；Yildiz Technical University（耶尔德兹技术大学）
神经网络作为一种有前途的、可靠的、功能强大的工具，已经在许多科学领域得到了广泛的应用。在这项工作中，我们研究了数据增强对核物理数据的神经网络模型的预测能力的影响。我们提出了两种不同的数据增强技术，我们进行了详细的分析，在不同的深度，优化，激活函数和随机种子值，以显示模型的成功和鲁棒性。首次利用实验不确定性进行数据增强，人为地增大训练数据集的大小，并研究了测试集和实验数据上的模型预测值之间的均方根误差的变化。我们的研究结果表明，数据增强减少了预测误差，稳定了模型，并防止过拟合。对AME2020质量表中新测核的外推能力进行了检验，结果表明，采用数据增强后，预测结果有了明显的改善。
2022-07-05 cs.LG nucl-th
Bespoke Approximation of Multiplication-Accumulation and Activation Targeting Printed Multilayer Perceptrons
University of Patras（帕特雷大学）；Aristotle University of Thessaloniki（亚里士多德大学塞萨洛尼基分校）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
针对印刷电子特征尺寸大阻碍复杂电路实现的问题，提出一种自动化框架，首次采用整体方法近似MLP神经元的乘法、累加和激活功能，实现超低功耗MLP分类器的电池供电运行，显著超越现有技术水平。
2024-11-14 cs.AR cs.LG
FantastIC4: A Hardware-Software Co-Design Approach for Efficiently Running 4bit-Compact Multilayer Perceptrons
Technical University of Berlin（柏林工业大学）；Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）
随着将深度学习模型部署到“边缘”的需求不断增长，开发允许在非常严格和有限的资源约束下执行最先进模型的技术至关重要。在这项工作中，我们提出了一个软件-硬件优化范例，以获得基于全连接层的深度神经网络（DNN）的高效执行引擎。我们的方法是围绕压缩作为一种手段，减少面积以及功率要求，具体地说，多层感知器（MLP）具有高预测性能。首先，我们设计了一种名为FantastIC 4的新型硬件架构，它（1）支持全连接层的多个紧凑表示的高效片上执行，（2）将推理所需的乘法器数量最小化到只有4个（因此得名）。此外，为了使模型能够在FantastIC 4上有效执行，我们引入了一种新的熵约束训练方法，使它们对4位量化具有鲁棒性，同时在大小上具有高度可压缩性。实验结果表明，在Virtual Ultrascale FPGA XCVU 440器件实现上，总功耗为3.6W，吞吐量为2.45 TOPS，在22 nm工艺ASIC版本上，总功耗效率为20.17 TOPS/W。与其他为Google Speech Command（GSC）数据集设计的最先进的加速器相比，FantastIC 4在吞吐量方面优于51 $\times$，在面积效率（GOPS/W）方面优于145 $\times$。
2020-12-17 cs.AR cs.LG
Embed Me If You Can: A Geometric Perceptron
Linköping University（林雪平大学）
利用机器学习解决涉及点云的几何任务是一个具有挑战性的问题。标准的前馈神经网络结合了线性层，或者如果包括偏置参数，则结合了仿射层和激活函数。他们的几何建模是有限的，这激励了以前的工作，介绍多层超球感知器（MLHP）。其组成部分，即，超球神经元，通过应用欧氏空间的共形嵌入而获得。借助Clifford代数，它可以实现为输入和权重的笛卡尔点积。如果以与输入空间几何的维度一致的方式应用嵌入，则模型单元的决策表面变成超球面的组合，并且使得决策过程在几何上可为人类解释。我们的MLHP模型的扩展，多层几何感知器（MLGP），及其各自的层单元，即，几何神经元与3D几何结构一致，并提供学习系数的几何处理。特别地，几何神经元激活在3D中是等距的，这对于旋转和平移等方差是必要的。当分类的3D俄罗斯方块形状，我们定量地表明，我们的模型不需要激活函数在隐藏层以外的嵌入优于香草多层感知器。在数据中存在噪声的情况下，我们的模型也优于MLHP。
2021-08-18 cs.LG stat.ML
Perceptron Theory Can Predict the Accuracy of Neural Networks
University of California, Berkeley（加州大学伯克利分校）；Research Institutes of Sweden（瑞典研究院）；University of Rome “La Sapienza”（罗马第一大学）；Intel Labs（英特尔研究院）
本研究提出一种单层感知机统计理论，仅需输出神经元突触后总和分布的前两阶矩，即可预测多种架构神经网络的性能，在三类实验中表现优于同类无估计器训练的方法。
2023-07-20 cs.AI cs.LG
A Multilayer Perceptron-based Fast Sunlight Assessment for the Conceptual Design of Residential Neighborhoods under Chinese Policy
Glodon Company Limited（广联达科技股份有限公司）；Tsinghua University（清华大学）；Institute for Urban Governance and Sustainable Development, Tsinghua University（清华大学城市治理与可持续发展研究院）
针对中国住宅概念设计中官方日照仿真耗时的问题，提出基于多层感知器的单阶段遮挡区间预测方法，并通过Rhino/Grasshopper插件验证其可大幅提速且保持高准确率。
2023-08-15 cs.CY cs.LG
Beyond Multilayer Perceptrons: Investigating Complex Topologies in Neural Networks
University of Rome Tor Vergata（罗马第二大学）；Harvard Medical School（哈佛医学院）
本研究提出基于多种复杂拓扑结构构建人工神经网络的方法，发现复杂拓扑在高难度任务中优于传统多层感知器，但会增加计算时间并降低对图损伤的鲁棒性，且性能差异无法由单一拓扑属性解释。
2023-10-23 cond-mat.dis-nn cs.LG cs.NE
A Minimal-Input Multilayer Perceptron for Predicting Drug-Drug Interactions Without Knowledge of Drug Structure
McMaster University（麦克马斯特大学）
预测模型在药物发现行业的必要性不容低估。随着被考虑使用的潜在有用化合物的绝对数量，研究药物之间的重叠相互作用在计算上变得越来越困难。了解这一点对于需要知道他们可以和不可以混合的外行也很重要，特别是对于那些使用娱乐性药物的人-这些药物没有处方药那样严格的警告。如果无法获得每种药物组合的确定性实验结果，则需要其他方法来弥合这一知识差距。理想情况下，这种方法需要最少的输入，具有高精度，并且在计算上是可行的。我们还没有遇到一个符合所有这些标准的模型。为此，我们提出了一个最小输入的多层感知器，预测两种药物之间的相互作用。这种模型的一大优点是不需要所讨论的分子的结构知识，而是只使用实验上可获得的化学和物理性质-每个化合物总共20个。使用一组已知的药物相互作用以及相关药物的相关特性，我们在大约65万个条目的数据集上训练了我们的模型。我们报告了模型训练的药物之间相互作用的未知样本的准确度为0.968，未知药物之间相互作用的未知样本的准确度为0.942。我们相信这是一个有前途的和高度可扩展的模型，具有进一步调整的高广义预测准确性的潜力。
2020-05-20 cs.LG q-bio.QM
Kolmogorov-Arnold Networks in Low-Data Regimes: A Comparative Study with Multilayer Perceptrons
University of Colorado Denver（科罗拉多大学丹佛分校）
针对低数据场景下KANs参数量大、效果存疑的问题，提出带神经元级个性化参数化激活函数的MLP，实验证明其在小样本下准确率显著优于默认超参数的KANs，为激活函数选择提供参考。
2024-09-16 cs.LG stat.CO stat.ML
