多路复用神经元组使更小的光学神经网络成为可能

2024-05-07 14:40:55深情的哈密瓜

为了提高使用波分复用的光学神经网络的实用性,一个研究小组开发了一种称为复用神经元集的结构和相应的反向传播训练算法。

多路复用神经元组使更小的光学神经网络成为可能

利用这些技术,他们能够缩小网络的规模,从而将能源效率提高10倍,同时实现与使用传统算法训练的传统光学神经网络相当的性能。他们的研究成果于2024年2月20日发表在《智能计算》杂志上。

光学神经网络比传统的人工神经网络更加节能,传统的人工神经网络需要大量的计算能力,因此消耗大量的能量。然而,通道之间的串扰会降低使用波分复用进行并行化的光学系统的性能。

波分复用是一种使用不同波长的信号通过同一连接同时传输更多信息的方法。这些不同的波长是不同的信号通道。

此前,通道组合已用于执行光学神经网络的矢量矩阵乘法。在本研究中,多路复用神经元集用于压缩属于多个神经元的求和函数和非线性激活函数。

这组神经元的功能被编码在不同的信号通道上,因此可以通过具有多个波长输入的非线性光学器件来实现,并且可以使用一系列这些光学器件来构建多层网络。

不幸的是,相邻信道中的信号仍然相互干扰,从而产生噪声信号。为了减少通道间串扰以及由此产生的计算错误的可能性,设计了一种考虑串扰的新反向传播训练算法。

使用手写数字和时尚图像的分类任务,通过新的反向传播算法评估多路神经元集架构的性能。当复用量增加时,发现新方法具有更大的性能优势。

类似地,功耗的理论分析表明,当复用量增加时,网络的复用神经元集实现具有更大的效率优势。

研究人员使用半导体光放大器实现了他们的方法,这些放大器是商业上成熟的设备,但他们的工作是“在高度抽象的水平上进行演示的”,因此与具有类似特性的其他光子设备以及人工智能辅助光信号处理相关具有通道间串扰。

推荐阅读

阅读排行