Online training for high-performance analogue readout layers in photonic reservoir computers
导论.储备池计算是用于处理时间依赖信号的生物启发计算范例。其硬件实现的性能可与一系列基准任务上的最先进数字算法相媲美。这些实现的主要瓶颈是读出层,基于缓慢的离线后处理。已经提出了一些模拟解决方案,但由于设置的复杂性增加,所有的模拟解决方案都遭受了明显的性能下降。方法.在这里,我们建议使用在线培训来解决这些问题。我们研究了这种方法的适用性,使用模拟读出层的实验可行的油藏计算机的数值模拟。我们还考虑了非线性输出层,用传统方法训练该层非常困难。结果我们用数字表明,在线学习可以规避模拟层增加的复杂性,并获得与数字层相同的性能水平。结论这项工作铺平了道路,高性能的全模拟油藏计算机通过使用在线培训的输出层。
2020-12-19 cs.NE
Bayesian optimisation of large-scale photonic reservoir computers
导论.储备池计算是一种不断发展的循环神经网络简化训练范例,具有很高的硬件实现潜力。在光学和电子学方面的大量实验产生了与最先进的数字算法相当的性能。该领域的许多最新工作都集中在大规模光子系统上,这些系统具有数万个物理节点和任意互连。虽然这种趋势显著地扩展了光子储备池计算的潜在应用,但它也使系统的大量超参数的优化复杂化。方法.在这项工作中,我们提出了使用贝叶斯优化的超参数空间的有效探索在最小数量的迭代。结果我们测试这种方法在以前报道的大规模实验系统,比较常用的网格搜索,并报告显着的改进性能和优化超参数所需的实验迭代次数。结论因此,贝叶斯优化有可能成为调整光子储备池计算中的超参数的标准方法。
2020-04-06 cs.NE
Analysis and Fully Memristor-based Reservoir Computing for Temporal Data Classification
School of Electrical Engineering and Computer Science, Gwangju Institute of Science and Technology(光州科学技术院 电气工程与计算机科学学院);University of California, Santa Barbara(加州大学圣巴巴拉分校);Korea University(高丽大学)
本研究提出融合WOx基忆阻器短期存储与TiOx基忆阻器长期存储的双存储储层计算系统,在口语数字识别和时间序列预测基准任务中表现优异,为神经形态计算创新奠定基础。
2025-03-21 cs.AI cs.NE
Optoelectronic Reservoir Computing
Ghent University(根特大学)
储备池计算是最近引入的用于处理时间相关数据的高效生物启发方法。储备池计算的基本方案由耦合到单个输入层和单个输出层的非线性递归动力系统组成。在这些约束条件下,许多实现是可能的。在这里,我们报告了光电实现的储备池计算的基础上,最近提出的架构组成的一个单一的非线性节点和延迟线。我们的实现是足够快的实时的信息处理。我们说明了它的性能,如非线性信道均衡和语音识别的实际重要性的任务,并获得的结果相比,最先进的数字实现。
2011-11-30 cs.ET cs.LG cs.NE
Time Shifts to Reduce the Size of Reservoir Computers
US Naval Research Lab(美国海军研究实验室)
针对储备池计算因节点规模大导致分析难、模拟构建难的问题,提出将其拆分为小型非线性节点储备池加时间偏移输出信号的结构,提升秩与记忆能力,在少量虚拟节点的光电延迟储备池计算上实现优异性能,降低构建难度并提升运行速度。
2022-05-03 cs.LG cs.NE
Reservoir Computation with Networks of Differentiating Neuron Ring Oscillators
College of Computer \& Information Sciences, University of Massachusetts Amherst;Department of Mathematics, Virginia Tech;Allen Discovery Center, Tufts University
本研究提出以微分神经元构成的小世界网络作为储备池计算的新基底,找到适配的耦合强度与拓扑结构,在MNIST任务上取得90.65%的准确率,为低功耗AI提供了新的可行方向。
2025-07-28 cs.LG cs.NE
Neuro-Inspired Visual Pattern Recognition via Biological Reservoir Computing
Institute of Information Science and Technologies of the National Research Council of Italy (ISTI-CNR)(意大利国家研究理事会信息科学与技术研究所);Institute of Biophysics of the National Research Council of Italy (IBF-CNR)(意大利国家研究理事会生物物理研究所)
本文提出利用体外培养的皮层神经网络作为生物共振器,通过高密度电极阵列和线性感知机实现静态视觉模式识别,展示了生物神经系统的应用潜力。
2026-02-05 cs.CV cs.NE
Reservoir Computing Hardware with Cellular Automata
Universitat de les Illes Balears(巴利阿里群岛大学)
基本元胞自动机(ECA)是一种被广泛研究的一维处理方法,其中自动机的连续迭代可以导致丰富的模式动态的重建。最近,元胞自动机已被提出作为一种可行的方式来实现储备池计算(RC)系统,其中自动机规则是固定的,并使用线性回归进行训练。在这项工作中,我们进行了详尽的研究不同的ECA规则的性能时,适用于模式识别的时间无关的输入信号,使用RC计划。一旦测试了不同的ECA规则,就选择最准确的一个(规则90)来实现数字电路。规则90很容易复制使用一组减少的“异”门和移位寄存器,因此代表了一个高性能的替代RC硬件实现的处理时间,电路面积,功耗和系统精度。该模型(无论是在软件和硬件实现)已被测试使用的模式识别任务的手写数字(MNIST数据库),我们获得了竞争力的结果,在准确性,速度和功耗。该模型可以被认为是一种低成本的方法来实现快速模式识别数字电路。
2018-06-21 cs.CV cs.NE nlin.CG
Biomembrane-based Memcapacitive Reservoir Computing System for Energy Efficient Temporal Data Processing
University of Mississippi(密西西比大学);The Pennsylvania State University(宾夕法尼亚州立大学)
本研究提出基于生物膜忆容器的储备池计算系统,实现高能效时序数据处理,在语音分类、非线性回归和实时癫痫检测中达到高精度,且能耗远低于忆阻器。
2023-11-15 cs.AI cs.ET cs.LG
Deep Binarized Photonic Reservoir Computing for Ultrafast Multimedia Signal Processing
Université de Lorraine(洛林大学);CentraleSupélec(中央理工-高等电力学院);LMOPS Laboratory(LMOPS实验室);Chaire Photonique(光子学教席)
提出一种基于数字微镜器件超快二进制光学调制、随机介质光学散射、CMOS传感器高速光电探测和时分复用深层结构的深度光子神经网络,在储层计算框架下实现Gb/s级处理速率,并在视频、图像和语音识别等多媒体任务中达到最优性能。
2026-05-28 cs.NE physics.optics
Hardware-Friendly Implementation of Physical Reservoir Computing with CMOS-based Time-domain Analog Spiking Neurons
本文提出一种基于CMOS时域模拟脉冲神经元的物理储备池计算实现方案,利用双VCO神经元和4邻域连接构建规则SNN,并通过计数器读出电路简化硬件设计,在短期记忆、异或和口语数字识别任务中验证了其有效性与实用性。
2024-09-18 cs.AR cs.NE
Reservoir computing based on solitary-like waves dynamics of film flows: a proof of concept
Charles Sturt University(查尔斯特大学);Swinburne University of Technology(斯威本科技大学)
该研究提出并实验验证了基于倾斜表面液膜流类孤波动力学的新型储备池计算系统,证实其可预测混沌时间序列并通过记忆容量、Mackey-Glass模型等关键基准测试,为物理储备池计算提供了新的实现路径。
2023-03-03 cs.LG cs.NE nlin.PS
Protein Structured Reservoir computing for Spike-based Pattern Recognition
如今,我们见证了半导体行业的纳米化趋势,这得益于纳米级表征和制造方面的突破性发现和设计。为了促进这一趋势并生产更小,更快和更便宜的计算设备,纳米电子设备的尺寸现在达到原子或分子的规模-这无疑是对新型设备的技术目标的要求。遵循这一趋势,我们探索了一种非常规的路线,在单个蛋白质分子上实现储备池计算,并引入具有小世界网络属性的神经形态连接。我们选择Izhikevich尖峰神经元作为基本处理器,对应于verotoxin蛋白的原子,其分子作为连接处理器的通信网络的“硬件”架构。我们在单个读出层上以监督的方式应用各种训练方法,以调查分子结构的储备池计算(RC)系统是否能够处理机器学习基准。我们从基于Spike-Timing-Dependent-Plasticity的远程监督方法开始,并进行线性回归和尺度共轭梯度反向传播训练方法。RC网络的评估作为一个概念验证的手写数字图像从MNIST数据集,并表现出可接受的分类精度相比,与其他类似的方法。
2021-03-29 cs.NE
Large-scale spatiotemporal photonic reservoir computer for image classification
我们提出了一个可扩展的光子架构,用于实现前馈和递归神经网络,以执行MNIST数据库中的手写数字的分类。我们的实验利用现成的光学和电子元件,目前实现了16,384个节点的网络规模。两种网络类型都是在具有随机加权输入和隐藏层的储备池计算范例内设计的。使用各种特征提取技术(如直方图的梯度,分区,Gabor滤波器)和一个简单的训练过程,包括线性回归和赢家通吃的决策策略,我们证明了数值和实验,前馈网络允许分类出错率为1%,这是在国家的最先进的实验实现,并保持竞争力与更先进的算法方法。我们还研究了经常性的网络在数值模拟中明确激活的时间动态,并预测性能改善的前馈配置。
2020-04-06 cs.NE eess.IV
CMOS Implementation of Field Programmable Spiking Neural Network for Hardware Reservoir Computing
u-tokyo(东京大学)
本文提出一种基于CMOS的场可编程脉冲神经网络架构,用于硬件共振计算,通过集成电压控制振荡器和可编程权重互连,实现任意共振配置,并在仿真和芯片测量中展示了FORCE算法、线性与非线性记忆容量和NARMA10任务的高效实现。
2025-09-22 cs.NE
Reservoir Computing with Evolved Critical Neural Cellular Automata
本文提出利用演化策略优化神经元胞自动机(NCA)使其达到临界状态,并将其作为储备池计算的基底,在5-bit记忆任务中获得满分,在图像分类任务上表现优异,且对极端初始条件具有鲁棒性。
2025-08-13 cs.NE
Temporal and Spatial Reservoir Ensembling Techniques for Liquid State Machines
IIT Bombay(印度理工学院孟买分校)
针对液态状态机(LSM)扩大规模收益递减的问题,提出多尺度与时间激励分区两种集成方法,结合感受野输入权重,在N-MNIST等基准上取得领先性能。
2024-11-18 cs.LG cs.NE
From Neurons to Computation: Biological Reservoir Computing for Pattern Recognition
Institute of information science and technologies (CNR-ISTI)(信息科学与技术研究所);Institute of biophysics (CNR-IBF)(生物物理学研究所)
本文提出一种利用培养神经元作为储层基底、通过MEA记录神经活动的生物储层计算范式,实验验证其可有效完成模式识别任务,为神经形态与生物混合计算开辟新途径。
2025-08-04 cs.AI cs.CV cs.NE
Photonic Delay Systems as Machine Learning Implementations
Instituto de Física Interdisciplinar y Sistemas Complejos, IFISC (UIB-CSIC)(跨学科物理与复杂系统研究所(IFISC,巴利阿里群岛大学-西班牙国家研究委员会));Ghent University(根特大学)
非线性光子延迟系统为机器学习模型提供了有趣的实现平台。它们可以非常快,提供很大程度的并行性,并且可能比数字处理器消耗更少的功率。到目前为止,它们已经成功地用于使用储备池计算范例的信号处理。在本文中,我们表明,它们的适用范围可以大大扩展,如果我们使用梯度下降与反向传播通过时间的系统模型,以优化输入编码等系统。我们进行的物理实验表明,所获得的输入编码工作以及在现实中,我们表明,优化的系统比常见的储备池计算的方法执行显着更好。这里给出的结果表明,来自机器学习的常见梯度下降技术可以很好地应用于物理神经启发的模拟计算机。
2015-01-12 cs.LG cs.NE