Structured Fluctuations and the Information Dynamics of Self-Maintenance in Growing Neural Cellular Automata
The University of Tokyo(东京大学);Atomi University(Atomi大学);Alternative Machine Inc.(Alternative Machine公司)
研究生长神经细胞自动机中内部波动作用,通过多种分析表明其具有空间结构且与损伤恢复相关,损伤会引发状态偏差再收敛,抑制相关更新会损害恢复,还呈现差异化修复反应及计算转变,揭示其自我修复源于高维非线性集体动力学。
2026-07-15 cs.NE nlin.AO nlin.CG
Visual Character Recognition using Artificial Neural Networks
光学字符的识别是人工神经网络最早的应用之一,它在人工智能领域部分地模仿了人类的思维。在本文中,一个简化的神经识别方法的光学或视觉字符的描绘和讨论。该文件预计将作为学习者和业余研究人员在模式识别,神经网络和相关学科的资源。
2005-05-07 cs.NE
Fractional Artificial Neural Networks for Growth Models
本文提出分数人工神经网络用于求解分数增长模型初值问题,并通过实例比较了分析解与神经网络近似解。
2025-11-08 cs.NE
An Introductory Review of Spiking Neural Network and Artificial Neural Network: From Biological Intelligence to Artificial Intelligence
Tsinghua University(清华大学);McGill University(麦吉尔大学)
本文综述了脉冲神经网络与人工神经网络,从生物神经元基础、模型、回路连接到学习机制与架构,旨在推动类脑智能和通用人工智能发展。
2022-04-09 cs.AI cs.NE
Artificial Neural Networks and their Applications
人工神经网络是对生物神经元简化模型的功能性模仿,其目标是构造出解决实际问题的计算机。在过去的几年里,人工神经网络的应用急剧增加,在各种各样的应用中的理论和实际应用都很火。简要介绍了人工神经网络的理论,并确定了潜在的领域和未来的发展趋势进行了讨论。
2005-05-10 cs.NE
Evolutionary Artificial Neural Network Based on Chemical Reaction Optimization
进化算法是设计和进化人工神经网络,特别是训练人工神经网络的常用工具。这些方法具有传统的反向传播(BP)方法的优势,因为它们的低计算要求时,在一个大的解决方案空间搜索。在本文中,我们使用化学反应优化(CRO),一个新发展的全局优化方法,以取代BP在训练神经网络。CRO是一种基于群体的元胞动力学,模拟化学反应中的分子跃迁及其相互作用。仿真结果表明,CRO优于许多EA策略通常用于训练神经网络。
2015-02-01 cs.NE
The Comparison of Methods Artificial Neural Network with Linear Regression Using Specific Variables for Prediction Stock Price in Tehran Stock Exchange
在本文中,研究人员估计了德黑兰(伊朗)证券交易所的激活公司的股票价格。本文采用线性回归和人工神经网络方法进行了预测,并对这两种方法进行了比较。在人工神经网络中,一般采用广义回归神经网络方法(GRNN)进行结构设计.本文首先考虑了10个宏观经济变量和30个财务变量,然后利用独立成分分析(ICA)得到了包括3个宏观经济变量和4个财务变量在内的7个最终变量,并对股票价格进行了估计。因此,我们提出了两种方法的方程,并比较了它们的结果,表明人工神经网络方法比线性回归方法更有效。
2010-03-14 cs.NE
Application of artificial neural networks and genetic algorithms for crude fractional distillation process modeling
本文介绍了用遗传算法训练和结构优化的人工神经网络在PKN ORLEN公司原油蒸馏过程建模中的应用。炼油厂使用历史数据开发了主分馏塔蒸馏塔产品的模型。基于几个选择的工艺变量预测馏分的质量。使用测试数据验证了模型的性能。与遗传算法配合使用的神经网络证明,它们可以准确地预测馏分质量变化,重现标准实验室分析的结果。并对所建立的神经网络模型进行了简单的知识提取。遗传算法可以成功地用于大型神经网络的有效训练和寻找其最优结构。
2016-04-30 cs.NE
Scalable Training of Artificial Neural Networks with Adaptive Sparse Connectivity inspired by Network Science
Eindhoven University of Technology(埃因霍温理工大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Derby(德比大学)
通过深度学习在各个领域的成功,人工神经网络目前是最常用的人工智能方法之一。从生物神经网络的网络特性(例如稀疏性、无标度性)中获得灵感,我们认为(与一般实践相反)人工神经网络也不应该具有完全连接的层。在这里,我们提出了人工神经网络的稀疏进化训练,在学习过程中,将两个连续神经元层的初始稀疏拓扑(Erdens-Rényi随机图)进化为无标度拓扑的算法。我们的方法取代人工神经网络全连接层与稀疏的训练前,减少了二次参数的数量,而不降低精度。我们在15个数据集上证明了我们对限制玻尔兹曼机,多层感知器和卷积神经网络的无监督和监督学习的要求。我们的方法有可能使人工神经网络的规模超过目前的可能。
2018-06-20 cs.AI cs.LG cs.NE
A Neural Network Model of Continual Learning with Cognitive Control
UC Davis(加州大学戴维斯分校)
神经网络在持续学习的环境中挣扎,避免灾难性的遗忘:当尝试被阻止时,新的学习可能会覆盖以前的学习。人类在这些环境中有效地学习,在某些情况下甚至表现出阻塞的优势,这表明大脑包含克服这个问题的机制。在这里,我们建立在以前的工作,并表明,神经网络配备了认知控制的机制,不表现出灾难性的遗忘时,审判被阻止。我们进一步展示了当控制信号中存在用于主动维护的偏置时,阻塞超过交织的优点,这意味着维护和控制强度之间的权衡。对网络学习到的类似地图的表示的分析为这些机制提供了更多的见解。我们的工作突出了认知控制在神经网络中帮助持续学习的潜力,并为在人类中观察到的阻塞优势提供了解释。
2022-11-03 cs.LG cs.NE q-bio.NC
Large Scale Artificial Neural Network Training Using Multi-GPUs
本文描述了一种通过将向前和向后传递减少到矩阵乘法来使用多GPU加速大规模人工神经网络(ANN)训练的方法。我们提出了一种核外多GPU矩阵乘法,并将算法与人工神经网络训练相结合。实验结果表明,我们的矩阵乘法算法在多个非同构GPU上实现了线性加速比。该项目的完整论文可以在[1]中找到。
2015-11-13 cs.DC cs.NE
An Artificial Neural Network Functionalized by Evolution
CEDRIC(CEDRIC实验室);CNAM(法国国立工艺学院);INSEP(法国国家体育学院);RELAIS(RELAIS机构)
人工神经网络的拓扑结构对其性能有重要影响。有效拓扑的刻画是人工智能中一个很有前途的研究领域。然而,这不是一个简单的任务,它主要是通过卷积神经网络进行实验。我们提出了一个混合模型,结合张量演算的前馈神经网络与伪达尔文机制。这允许找到非常适合策略制定、控制问题或模式识别任务的拓扑结构。特别是,该模型可以在早期进化阶段提供自适应拓扑结构,以及“结构收敛”,这可以在机器人,大数据和人工生命中找到应用。
2022-05-16 cs.AI cs.LG cs.NE
CHNNet: An Artificial Neural Network With Connected Hidden Neurons
BRAC University(布拉克大学)
针对传统人工神经网络缺乏层内神经元连接、限制层内信息整合的问题,本文提出隐层神经元互联的CHNNet,理论上其收敛速度快于传统前馈神经网络,且该结论得到实验验证。
2025-11-14 cs.LG cs.NE
Simulation of neural function in an artificial Hebbian network
人工神经网络已经偏离了它们在神经学中的早期灵感。尽管它们在技术和商业上取得了成功,但它们有几个缺点,最明显的是需要大量的训练样本和迭代学习所需的计算资源。在这里,我们描述了一种神经网络模拟的方法,包括架构和算法,它更紧密地遵循既定的生物学原理,并克服了传统网络的一些缺点。
2019-12-02 cs.NE q-bio.NC
Particle Swarm Optimization Based Demand Response Using Artificial Neural Network Based Load Prediction
University of Central Florida(中佛罗里达大学)
提出了一种基于粒子群优化算法的电力需求响应模型,并利用人工神经网络进行负荷预测。以美国德克萨斯州奥斯汀市某居民区的电力负荷和气候数据作为人工神经网络的输入,结合日前电价数据求解负荷转移和成本降低问题。结果表明,该模型具有降低支付费用和峰值负荷的能力。
2022-07-10 cs.LG cs.NE
Training a Functional Link Neural Network Using an Artificial Bee Colony for Solving a Classification Problems
Universiti Tun Hussein Onn Malaysia(马来西亚敦胡先翁大学)
人工神经网络已经成为一种重要的分类工具,并且已经被广泛用于对非线性可分离模式进行分类。最流行的人工神经网络模型是多层感知器(MLP),因为它能够成功地执行分类任务。然而,由于MLP结构的复杂性以及局部极小值捕获、过拟合和权值干扰等问题,使得神经网络训练困难。因此,避免这些问题的简单方法是删除隐藏层。本文提出了功能链接神经网络(FLNN)的能力,以克服MLP的复杂结构,通过使用单层结构,并提出了一种人工蜂群(ABC)优化训练FLNN。该方法有望为分类器提供更好的学习机制,以获得更准确的分类结果
2012-12-31 cs.LG cs.NE
Collaboration between parallel connected neural networks -- A possible criterion for distinguishing artificial neural networks from natural organs
Sun Yat-sen University(中山大学)
本研究发现并联人工神经网络存在子网络非最优、优劣子网络贡献相当、全子网络错误仍能输出正确结果的特性,提出以此作为区分人工神经网络与天然器官、衡量仿生水平的准则,并验证ReLU激活函数比sigmoid、Tanh更能提升网络仿生度。
2022-08-21 cs.LG cs.NE
Web spam classification using supervised artificial neural network algorithms
Integral University(英特拉尔大学)
由于垃圾邮件发送者所采用的技术的快速增长,需要更有效、通用和高度自适应的分类器。基于神经网络的技术具有很强的自适应能力和泛化能力。据我们所知,在这一领域中使用神经网络的工作很少。我们提出本文来填补这一空白。本文通过创建分类器来评估人工神经网络的三种监督学习算法的性能,以解决最新Web垃圾邮件模式分类的复杂问题。这些算法是共轭梯度算法,弹性反向传播学习和Levenberg-Marquardt算法。
2015-02-12 cs.LG cs.NE
Stochastic resonance neurons in artificial neural networks
Aston Institute of Photonic Technologies(阿斯顿光子技术研究所);Aston University(阿斯顿大学)
人工神经网络的许多现代应用随之而来的是大量的层,使得传统的数字实现越来越复杂。光学神经网络在高带宽下提供并行处理,但具有噪声累积的挑战。我们在这里提出了一种新的类型的神经网络使用随机共振作为一个固有的一部分的架构,并证明了显着减少所需的神经元的数量为一个给定的性能精度的可能性。我们还表明,这样的神经网络是更强大的对噪声的影响。
2022-08-23 cs.ET cs.LG cs.NE
Combining Spiking Neural Network and Artificial Neural Network for Enhanced Image Classification
University of Tsukuba(筑波大学)
随着深度神经网络的不断创新,更接近生物大脑突触的脉冲神经网络(SNN)因其低功耗而引起关注。然而,对于连续数据值,它们必须采用编码过程将值转换为脉冲序列。因此,它们尚未超过直接处理此类值的人工神经网络(ANN)的性能。为此,我们将人工神经网络和SNN结合起来,构建了多功能的混合神经网络(HNN),以提高相关性能。为了使这种性能合格,MNIST和CIFAR-10图像数据集被用于各种分类任务,其中训练和编码方法发生了变化。此外,我们提出了同时和单独的方法来训练人工层和尖峰层,考虑到每种编码方法。我们发现,以牺牲尖峰层为代价增加人工层的数量可以提高HNN的性能。对于像MNIST这样简单的数据集,通过使用重复编码和单独学习很容易达到与ANN相同的性能。然而,对于更复杂的任务,发现使用高斯编码和同时学习来提高HNN的准确性,同时利用较少数量的人工层。
2021-02-28 cs.CV cs.LG cs.NE
HiveNAS: Neural Architecture Search using Artificial Bee Colony Optimization
Staffordshire University(斯塔福德郡大学)
针对传统神经网络开发依赖经验试错、NAS领域元启发式算法研究不足的问题,提出基于人工蜂群优化的NAS框架HiveNAS,其以远少于现有顶尖群智能NAS框架的耗时实现了更优性能。
2023-06-15 cs.AI cs.LG cs.NE
Massively Deep Artificial Neural Networks for Handwritten Digit Recognition
Aberystwyth University(阿伯里斯特威斯大学)
贪婪限制玻尔兹曼机产生一个相当低的出错率的著名的MNIST数据库的手写数字。实现这一结果所需要的只是由许多神经元组成的大量隐藏层,以及一张图形卡,以大大加快学习速度。
2015-07-17 cs.CV cs.LG cs.NE
Activation Functions in Artificial Neural Networks: A Systematic Overview
Ruhr-University Bochum(波鸿鲁尔大学)
激活函数塑造人工神经元的输出,因此,一般来说是神经网络的组成部分,特别是深度学习。一些激活函数,如logistic和relu,已经使用了几十年。但随着深度学习成为主流研究课题,新的激活函数如雨后春笋般涌现,导致理论和实践上的混乱。本文提供了流行的激活函数及其属性的分析性但最新的概述,这使得它成为任何研究或应用神经网络的人的及时资源。
2021-01-25 cs.AI cs.LG cs.NE
Artificial Neural Networks for Detection of Malaria in RBCs
The Maharaja Sayajirao University of Baroda(巴罗达大君萨亚吉拉奥大学)
疟疾是由蚊子引起的最常见的疾病之一,是世界范围内的重大公共卫生问题。目前,诊断疟疾的标准技术是对染色的血膜进行显微镜检查。我们建议使用人工神经网络(ANN)的红细胞疾病的诊断。为此目的,根据通过血细胞的数字全息图像获得的数据计算特征/参数,并将其作为输入提供给ANN,ANN将细胞分类为感染细胞或其他细胞。
2016-08-23 cs.CV cs.NE physics.med-ph
Motion Planning Of an Autonomous Mobile Robot Using Artificial Neural Network
Mody Institute of Technology and Science(莫迪理工学院);PEC University of Technology(旁遮普工程学院大学)
本文介绍了电子设计和运动规划的机器人决策的基础上,关于它的直线运动和精确转弯的人工神经网络(ANN)。人工神经网络有助于机器人的学习,使其自主执行运动。计算的权重在微控制器中实现。性能经测试是优秀的。
2012-07-20 cs.AI cs.LG cs.NE
An Artificial Neural Network Architecture Based on Context Transformations in Cortical Minicolumns
皮质微柱被认为是皮质组织的模型。它们的功能仍然是一个研究的来源,并没有在人工智能算法的现代网络结构中得到适当的反映。我们假设它的功能,并在本文中描述它。此外,我们展示了这个建议如何允许构建一个新的架构,这不是基于卷积神经网络,测试它的MNIST数据和接收接近卷积神经网络的准确性。我们还表明,所提出的架构具有训练少量的样本的能力。为了实现这些结果,我们使minicolumns记住上下文转换。
2017-12-16 cs.CV cs.LG cs.NE
Diagnostic Method for Hydropower Plant Condition-based Maintenance combining Autoencoder with Clustering Algorithms
Électricité de France Hydro Sud-Ouest(法国电力公司西南水电分部);Laboratoire Génie de Production(生产工程实验室);Université de Toulouse(图卢兹大学);Université de Technologie Tarbes Occitanie Pyrénées(塔布-奥克西塔尼-比利牛斯技术大学)
本文提出一种结合聚类算法与自编码器神经网络的水电站状态检修诊断方法,通过降维投影、聚类分组和重构误差计算实现状态检测与邻近指数构建。
2025-02-24 cs.AI cs.LG cs.NE
Estimation for Compositional Data using Measurements from Nonlinear Systems using Artificial Neural Networks
Schlumberger(斯伦贝谢)
我们的目标是通过一个未知的系统,估计逆的原始系统的训练集后,从其输出响应估计未知的成分输入。所提出的方法,使用人工神经网络(ANN)可以竞争的线性系统,凸优化理论适用的最佳界限,并展示了有前途的结果,为非线性系统反演。我们通过设计许多不同类型的非线性系统进行了广泛的实验。
2020-01-24 cs.LG cs.NE math.OC
Towards NeuroAI: Introducing Neuronal Diversity into Artificial Neural Networks
The Chinese University of Hong Kong(香港中文大学);Southeast University(东南大学);Cornell University(康奈尔大学)
纵观历史,人工智能特别是人工神经网络的发展一直是开放的,并不断受到对大脑日益加深的理解的启发,比如神经认知机的启发,它是卷积神经网络的开创性工作。根据新兴领域NeuroAI的动机,大量的神经科学知识可以通过赋予网络更强大的功能来帮助催化下一代AI。正如我们所知,人类大脑有许多形态和功能不同的神经元,而人工神经网络几乎完全建立在一个单一的神经元类型。在人类大脑中,神经元的多样性是各种生物智能行为的一个使能因素。由于人工网络是人类大脑的缩影,因此引入神经元多样性对于解决人工网络的基本问题(如效率、可解释性和记忆)应该是有价值的。在本书中,我们首先讨论了生物神经元多样性的分类以及生物神经元中信息传递和处理的特征。然后,我们回顾了人工网络设计新的神经元的研究。接下来,我们将讨论神经元多样性可以为人工网络带来什么好处,以及在几个重要领域的示例性应用。最后,我们讨论了神经元多样性的挑战和未来方向,以探索NeuroAI的潜力。
2023-03-11 cs.AI cs.ET cs.LG