A complete, parallel and autonomous photonic neural network in a semiconductor multimode laser
Univ. Bourgogne Franche-Comté（勃艮第-弗朗什-孔泰大学）；Technische Universität Berlin（柏林工业大学）
神经网络是我们这个时代的颠覆性计算概念之一。然而，它们在许多基本方面与经典的算法计算根本不同。这些差异导致使用当前计算基板的神经网络计算同样基本的、严重的和相关的挑战。神经网络迫切需要在整个处理器上实现并行性，以及内存和算术的协同定位，即超越冯·诺依曼架构。特别是光子学使光子学成为一个非常有前途的平台，但到目前为止，可扩展和可集成的概念还很少见。在这里，我们第一次展示了如何使用高效快速的半导体激光器的空间分布模式来实现完全并行和完全实现的光子神经网络。重要的是，所有的神经网络连接都是在硬件中实现的，我们的处理器无需预处理或后处理就能产生结果。在大面积垂直腔面发射激光器中实现了130+个节点，输入和输出权值分别通过多模光纤的复传输矩阵和数字微镜阵列实现。我们训练读出权重以执行2位报头识别、2位XOR和2位数字模拟转换，并分别获得数字识别和XOR的< 0.9 × 10^-3和2.9 × 10^-2出错率。最后，可以实现数模转换，标准偏差仅为5.4 × 10^-2。我们的系统可扩展到更大的尺寸和超过20 GHz的带宽。
2020-12-21 cs.ET cs.LG cs.NE
Photonic Extreme Learning Machine based on frequency multiplexing
由于光学的速度和并行性，光学域是物理实现神经网络的一个有前途的领域。极限学习机（ELM）是前馈神经网络，其中仅训练输出权重，而随机选择内部连接并保持未训练。在这里，我们报告的光子ELM的频率复用光纤设置的基础上。乘以输出权重可以在计算机上离线执行，或者通过可编程光谱滤波器光学执行。我们提出了分类任务和非线性信道均衡任务的数值模拟和实验结果。
2021-07-08 cs.ET physics.optics
Heuristic Recurrent Algorithms for Photonic Ising Machines
传统的电子架构无法有效地解决大型组合问题，激发了新型计算硬件的发展。最近，在许多不同的工程领域（如集成电路、忆阻器和光子学）中，已经有许多努力朝着开发新颖的、特定于应用的硬件。然而，释放这种新型架构的真正潜力需要开发最佳利用其基本属性的特色算法。在这里，我们提出了光子递归伊辛采样器（PRIS），一个启发式的方法，为并行架构，允许快速和有效的采样组合硬伊辛问题的分布。由于PRIS基本上依赖于向量到固定矩阵乘法，我们建议在光子并行网络中实现PRIS，以前所未有的速度实现这些操作。PRIS提供了任意伊辛模型的基态的样本解，通过概率收敛到它们相关的吉布斯分布。通过在各种噪声水平下运行PRIS，我们探测了普适类的临界行为及其临界指数。除了光子网络的吸引人的特征之外，PRIS依赖于固有的动态噪声和本征值丢失来更有效地找到基态。我们的工作建议通过光子实现的PRIS的启发式方法的加速。我们还暗示了一个更广泛的类（Meta）启发式算法来自PRIS，如结合模拟退火的噪声和特征值的辍学水平。我们的算法也可以实现在快速并行电子硬件，如FPGA和ASIC的竞争方式。
2019-11-19 cs.ET physics.app-ph physics.optics
A Photonic In-Memory Computing primitive for Spiking Neural Networks using Phase-Change Materials
脉冲神经网络（SNN）提供了一种事件驱动的，更生物现实的替代标准人工神经网络的基础上模拟信息处理。这可以潜在地实现神经形态系统的节能硬件实现，该神经形态系统模拟大脑的功能单元，即神经元和突触。基于相变材料（PCM）的超快光子计算设备的最新演示显示出解决电驱动神经形态系统的局限性的希望。然而，将这些独立计算设备缩放到并行存内计算原语是一个挑战。在这项工作中，我们利用的PCM，Ge \textsubscript{2} Sb \textsubscript{2} Te \textsubscript{5}（GST）的光学特性，提出了一个光子脉冲神经网络计算原语，包括一个非易失性突触阵列无缝集成与以前探索的“集成和消防”神经元。所提出的设计实现了一个“内存中”的计算平台，利用波分复用（WDM）的固有并行性。我们表明，所提出的计算平台可以用来模拟SNN推理引擎的图像分类任务。所提出的设计不仅弥合了隔离计算设备和并行大规模实现之间的差距，而且为超快速计算和本地化片上学习铺平了道路。
2018-10-24 cs.ET
Massively Scalable Wavelength Diverse Integrated Photonic Linear Neuron
随着大数据、云连接和物联网对计算资源的需求不断升级，开发新的低功耗、可扩展的架构势在必行。神经形态光子学，或光子神经网络，已经成为一个可行的解决方案，直接在芯片上的有效算法的物理实现。这种应用主要是由于光的线性性质和硅光子学的可扩展性，特别是利用用于制造微电子芯片的大规模互补金属氧化物半导体（CMOS）制造基础设施。目前的神经形态光子实现源于两个范例：波长相干和非相干。在这里，我们介绍了一种新的架构，支持相干和非相干操作，以增加光子神经网络的能力和容量，与以前的演示相比，在足迹显着减少。作为一个原则的证明，我们实验证明了简单的加法和减法运算的晶圆制造的硅光子芯片。此外，我们通过实验验证了片上网络，以预测逻辑2位门AND，OR和XOR的精度分别为$96.8\%, 99\%,$和$98.5\%$。该架构与高波长并行源兼容，从而实现大规模可扩展的光子神经网络。
2022-08-25 cs.ET physics.optics
Prospects and applications of photonic neural networks
神经网络已经通过机器学习和类脑计算实现了在人工智能中的应用。神经网络在具有单独的存储器和处理器（并且顺序地操作）的常规计算机上的软件实现在速度和能量效率方面受到限制。神经形态工程旨在构建处理器，其中硬件模仿大脑中的神经元和突触，以进行分布式和并行处理。由光子学（光学物理学）实现的神经形态工程可以提供亚纳秒的延迟和低能量的高带宽，以将人工智能和类脑计算应用领域扩展到机器学习加速、非线性规划、智能信号处理等。光子神经网络已经在集成平台和自由空间光学上得到了验证，这取决于所针对的应用类别。在这里，我们讨论了这些光子神经网络的前景和示范应用。
2021-05-20 cs.ET physics.optics
High-order tensor flow processing using integrated photonic circuits
张量分析为多路信号处理的蓬勃发展奠定了数学基础。为了提高计算吞吐量，主流处理器将张量卷积转换为矩阵乘法以增强计算的并行性。然而，这种降阶转换会产生数据副本并消耗额外的内存。在这里，我们展示了一个集成的光子张量流处理器没有张量矩阵变换，输出卷积张量作为输入张量'流'通过处理器。这种对波长、时间和空间光学维的混合操作使得高阶张量在光域中的直接表示和处理成为可能。在概念验证实验中，在20 GHz的频率下完成了多通道图像和视频的处理。在该处理器上实现了一个卷积神经网络，动作识别的准确率达到97.9%。
2021-12-23 cs.ET physics.optics
Photonic Convolution Neural Network Based on Interleaved Time-Wavelength Modulation
卷积神经网络（CNN）自1989年问世以来，在图像和视频分类方面取得了显著的进展，是目前最强大和最流行的技术之一。然而，随着高清晰度视频数据的爆炸式增长，由于矩阵乘累加运算的计算复杂度较高，CNN结构中的卷积层将占用大量的计算时间和存储资源。本文提出了一种新的集成光子CNN，通过交织时间波长调制的双相关运算。利用基于微环的多波长操纵和单色散介质实现卷积运算，取代传统的光延迟线。在MNIST数据集上对200幅图像进行了测试，光子CNN的准确率为85.5%，在64位计算机上的准确率为86.5%，并分析了不同微环参数、运算波特率和微环加权组特性对光子CNN计算误差的影响。在此基础上，提出了一种基于4 × 4网格的张量处理单元，在20 G波特率下具有1.2 TOPS（operation per second when 100% utilization）的计算能力，并分析了该处理单元的结构，构成了一个光子卷积神经网络（CNN）。
2021-02-18 cs.ET physics.optics
Parallel bandit architecture based on laser chaos for reinforcement learning
The University of Tokyo（东京大学）；Kanazawa University（金泽大学）；Saitama University（埼玉大学）
利用光子学加速人工智能是一个活跃的研究领域，旨在利用光子的独特性质。强化学习是机器学习的一个重要分支，光子决策原理已经在多臂强盗问题中得到了证明。然而，强化学习可能涉及大量的状态，不像以前演示的状态数只有一个的强盗问题。Q学习是强化学习中一种众所周知的方法，可以处理许多状态。然而，由于Q学习的更新规则和动作选择的分离，Q学习的架构并不适合光子实现。在这项研究中，我们组织了一个新的架构，多状态强化学习作为一个并行阵列的强盗问题，以受益于光子决策者，我们称之为并行强盗架构强化学习或PBRL在短期内。以推车杆平衡问题为例，我们证明了PBRL比Q学习在更少的时间步长内适应环境。此外，PBRL产生更快的适应混沌激光时间序列比均匀分布的伪随机数的情况下，在激光混沌中固有的自相关提供了积极的影响。我们还发现，系统在学习阶段经历的各种状态在PBRL和Q学习之间表现出完全不同的特性。通过本研究获得的见解也有利于现有的计算平台，而不仅仅是光子实现，在加速性能的PBRL算法和相关的随机序列。
2022-05-19 cs.ET cs.LG physics.app-ph
A spiking photonic neural network of 40.000 neurons, trained with rank-order coding for leveraging sparsity
本研究针对电子脉冲神经网络的可扩展性与并行性瓶颈，构建了含40000个神经元的商用组件光子SNN，结合修正Ikeda映射、延迟编码与SPSA算法，在低神经元利用率下实现MNIST不错的准确率，为大规模光子神经形态系统铺路。
2025-10-02 cs.ET cs.NE
Optical Neural Networks: The 3D connection
我们激发了一种新的规范策略，通过利用3D打印来集成光子神经网络（NN）。我们相信，如果没有3D集成，NN的并行和密集连接是不可扩展的。与光子信号转导互补的3D增材制造可以显著增强2D CMOS和集成光子学的当前能力。在这里，我们回顾了我们最近取得的一些进展，这样一个突破性的架构。
2020-08-28 cs.ET
PCNNA: A Photonic Convolutional Neural Network Accelerator
The George Washington University（乔治华盛顿大学）
卷积神经网络（CNN）已经成为许多应用的核心，包括但不限于计算机视觉、语音处理和自然语言处理（NLP）。然而，计算上昂贵的卷积运算对CNN的性能和可扩展性提出了许多挑战。并行地，传统上用于数据通信的光子系统由于其高带宽、低功耗和可重构性而近来在数据处理方面受到欢迎。在这里，我们提出了一个光子卷积神经网络加速器（PCNNA）作为概念设计的证明，以加速卷积神经网络的卷积运算。我们的设计是基于最近推出的硅光子微权重银行，它使用广播和重量协议来执行乘法和累加（MAC）操作和移动数据通过层的神经网络。在这里，我们的目标是利用波分复用（WDM）形式的光子学固有并行性与CNN中输入特征映射和内核之间连接的稀疏性之间的协同作用。虽然我们的完整系统设计在执行时间上提供了超过3个数量级的加速，但与最先进的电子同行相比，其光学核心可能提供超过5个数量级的加速。
2018-07-23 cs.ET cs.LG eess.SP
ChatGPT at the Speed of Light: Optical Comb-Based Monolithic Photonic-Electronic Linear-Algebra Accelerators
本文提出一种基于光梳的单片硅光子片上系统光电线性代数加速器，通过协同设计实现连续矩阵乘法并降低光电转换开销，大幅提升计算密度与能效，以支持大型语言模型中的注意力机制。
2023-11-21 cs.ET cs.SY eess.SY
High-Performance Data Mapping for BNNs on PCM-based Integrated Photonics
针对深度神经网络硬件实现的高延迟高成本问题，提出适配存内计算架构的BNN数据映射TacitMap，及基于oPCM、结合波分复用的加速器EinsteinBarrier，大幅提升执行速度且控制能耗。
2024-01-31 cs.AR cs.ET
Developing of a photonic hardware platform for brain-inspired computing based on $5\times5$ VCSEL arrays
人工神经网络等受大脑启发的计算概念已经成为经典冯·诺依曼计算机体系结构的有前途的替代方案。光子神经网络的目标是在光子衬底上实现神经元、网络连接和潜在的学习。在这里，我们报告的纳米光子硬件平台的快速和节能的光子神经元通过阵列的高品质垂直腔面发射激光器（VCSEL）的发展。所开发的$5\times5$ VCSEL阵列通过均匀制造结合对激光波长的单独控制来提供高的光学注入锁定效率。注入锁定对于基于VCSEL的光子神经元中信息的可靠处理至关重要，并且我们通过注入锁定测量和电流诱导的光谱微调来证明VCSEL阵列的适用性。我们发现，我们研究的阵列可以很容易地调整到所需的光谱均匀性，并因此表明，VCSEL阵列的基础上，我们的技术可以作为下一代光子神经网络的高能效和超快的光子神经元。结合完全并行的光子网络，我们的衬底有望实现超快操作，达到10 GHz的带宽，并且我们表明，基于我们的激光器的非线性变换每个VCSEL仅消耗约100 fJ，与其他平台相比，这具有很强的竞争力。
2020-06-24 cs.ET physics.app-ph
