基于深度学习的多维度衍射涡旋光束识别

Multidimensional Diffractive Vortex Beam Recognition Based on Deep Learning

摘要: 文章提出了一种基于深度学习算法的多维度衍射涡旋光束识别方法，旨在解决自由空间光通信(FSO)系统中因大气湍流和传播距离导致的涡旋光束(Vortex Beam)轨道角动量(OAM)模式的识别难题。涡旋光束因其携带的OAM模式具有正交性和无限扩展潜力，在光通信、量子计算和光镊系统等领域具有广泛应用。然而，传统OAM识别方法依赖精密光学设备，且对光路稳定性要求苛刻，难以应对湍流和传播距离带来的光束畸变和模式串扰。文章通过模拟涡旋光的衍射场，并结合深度学习算法，提出了一种能够同时识别涡旋光OAM模式和传播距离的方案。具体而言，利用空间光调制器(SLM)生成多束相干叠加的涡旋光，并通过改进的Non-Kolmogorov大气湍流模型和角谱衍射法模拟真实通信环境中的光束传播。通过引入Swin-Transformer深度学习模型，实现了对涡旋光OAM模式和传播距离的高效识别。实验结果表明，采用OAM模式集合(如{1, 2, 3}和{1, 2, 3, 4})扩展OAM复用类型的方法，相比单一OAM模式，在识别准确率和鲁棒性方面均有显著提升。在32类和64类分类任务中，实验组的验证集准确率分别达到99.4%和99.8%，显著优于对照组。该方法为自由空间OAM通信系统的解调提供了新的解决方案，并展示了深度学习在涡旋光束识别中的巨大潜力。本研究为克服涡旋光在湍流和传播距离影响下的OAM模式识别难题提供了新的思路，对推动自由空间光通信、量子通信和光学传感等领域的发展具有重要意义。

Abstract: This paper proposes a multidimensional diffraction vortex beam recognition method based on deep learning algorithms, aiming to address the challenges of Orbital Angular Momentum (OAM) mode recognition in vortex beams (Vortex Beam) caused by atmospheric turbulence and propagation distance in Free-Space Optical Communication (FSO) systems. Vortex beams, due to their orthogonal and infinitely scalable OAM modes, have broad applications in optical communications, quantum computing, and optical tweezer systems. However, traditional OAM recognition methods rely on precision optical equipment and stringent optical path stability, making them ill-suited to handle beam distortion and mode crosstalk induced by turbulence and propagation distance. In this paper, by simulating the diffraction field of vortex beams and incorporating deep learning algorithms, we propose a solution capable of simultaneously recognizing the OAM modes and propagation distances of vortex beams. Specifically, we generate multiple coherently superimposed vortex beams using a Spatial Light Modulator (SLM) and simulate beam propagation in real communication environments using an improved non-Kolmogorov atmospheric turbulence model and angular spectrum diffraction method. By introducing the Swin-Transformer deep learning model, we achieve efficient recognition of vortex beam OAM modes and propagation distances. Experimental results demonstrate that expanding OAM multiplexing types using OAM mode sets (such as {1, 2, 3} and {1, 2, 3, 4}) significantly improve recognition accuracy and robustness compared to single OAM modes. In 32-class and 64-class classification tasks, the validation set accuracy of the experimental group reaches 99.4% and 99.8%, respectively, significantly outperforming the control group. This method provides a new solution for demodulation in free-space OAM communication systems and demonstrates the immense potential of deep learning in vortex beam recognition. The research offers novel insights into overcoming the challenges of OAM mode recognition in vortex beams under the influence of turbulence and propagation distance, contributing significantly to the advancement of free-space optical communications, quantum communications, and optical sensing fields.

1. 引言

涡旋光一般指具有螺旋型波前结构，环形光强分布的光束。并且，涡旋光携带轨道角动量(OAM)，其复振幅方程中带有相位因子$\exp \left(il\theta \right)$ [1]，其中θ为柱坐标下的方位角，l是拓扑量子数称为该涡旋光束的拓扑荷。由于观测到OAM可以向物质转移且在任意轴测量下OAM不发生改变，其被描述为一种“准内在”[2]特性。每一个光子都具有OAM，OAM = lh [3]，h是普朗克常量。l在理论上是无限的[4]，不同的l对应的OAM模式相互正交，衍生出理论上无限的OAM模式，所以OAM在同一物理空间中具有巨大的光信息复用的潜力。光子OAM目前涉及领域十分广泛，诸如驱动微型机器[1] [5]、构建光镊系统[6] [7]、量子密码学[8] [9]、量子计算机[10]-[13]以及光通信等。想要计算出轨道角动量，识别不同的涡旋光束，就需要确定l的值。目前，传统的涡旋光识别方法包括使用具有特殊结构的螺旋相位板(SSP) [14]对复用OAM系统进行解复用、自由空间干涉仪[14]测量单一光子角动量、2022年Yu等提出的一种改进的马赫–曾德尔干涉仪[15]可以有效直接地获取拉盖尔–高斯(LG)光束的OAM模式等。但是这些传统方法普遍需要精密的光学设备，对光路的稳定性要求苛刻。但遗憾的是涡旋光在传播的过程中会受到诸多因素的干扰，尤其在自由空间光通信(FSO)系统中，在空气湍流的影响下，光束会发生明显的扭曲，造成随机的相位波前失真[16]，破坏不同OAM模式的正交性，从而造成信道中不同OAM模式的串扰，使系统的误码率(BER)性能变差[17]。因此，当引入湍流、衍射等光束传播中的客观影响因素时，准确识别涡旋光的OAM仍然是一个关键且具有挑战的课题。

近年来，人工神经网络逐渐进入了涡旋光OAM识别领域，许多文章也证明了深度学习算法在OAM模式识别和空间校正等方面有着优于传统方法的效果[18]-[20]。但是由于光束传播过程中复杂的衍射效应，涡旋光束的中间孔径会随着传播距离Z的变化而变化[21]。改变涡旋光束的拓扑荷值也会改变光束中间孔径的大小。目前，鲜有将传播距离作为变量的OAM识别研究，传输信道中剧烈的湍流更是增加了这一任务的难度。

在本文中，我们模拟涡旋光的夫琅禾费衍射场，提出一种利用深度学习算法识别涡旋光OAM以及传播距离的方案。相比单一整数阶涡旋光束，本文生成光强信息更集中、拓扑形态更丰富的叠加态涡旋光，在湍流作用下，实现更加精确的涡旋光OAM和传播距离的多维识别。这使得当涡旋光束传输距离作为新的编码变量时，FSO系统具有更好的解调性能。

2. 涡旋光的仿真和湍流模型

2.1. 涡旋光的仿真

首先在发射端，空间光调制器(SLM)将入射的高斯光束调制成不同OAM模式的涡旋光束。理论上，通过SLM调制后的光束振幅为[22]：

$E\left(r,\theta ,z=0\right)=\exp \left(-\frac{r^2}{{\omega }_0^2}\right)\exp \left(-il\theta \right)$ (1)

其中$l$ 表示拓扑荷，$w_0$ 表示高斯光束束腰，r、θ分别表示径向和方位角坐标。

本文需要通过将两束甚至多束传播方向一致，并且相干的涡旋光进行同轴叠加，丰富涡旋光光场结构，从而大幅提升OAM复用的信息容量。波动叠加的基本原理是线性叠加，即当两个或多个波在同一点相遇时，总电场是各个电场的矢量和。我们可以将数量为$S$ 的相干光束叠加后的涡旋光束在源平面(z = 0)处的振幅表示为：

$E_{total}\left(r,\theta ,z=0\right)={\displaystyle {\sum }_{n=1}^S{a}_n{E}_n}\left(r,\theta ,z=0\right)$ (2)

其中$a_n$ 表示每一个单模涡旋光叠加时的复数权重，由于涡旋光同轴叠加需要同步相位，在这里$a_n$ 的值与对应单一涡旋光束的相位调整量$\exp \left(i\Delta \phi \right)$ 直接相关。

2.2. 湍流信道模拟

在实际通信系统中，湍流会导致光束空间分布和相位的畸变，因此在我们的实验中，引入了一种综合Non-Kolmogorov噪声和AWGN接收机噪声的仿真模型来模拟大气湍流，结合角谱衍射法，以仿真真实的通信模式。在实验中，通常采用分步传输法来模拟大气湍流，在这里我们采用了一种改进的Non-Kolmogorov大气湍流模型，大气湍流相位屏可表示为[23]：

${\Phi }_{\phi }\left(k\right)=\frac{2{\pi }^2{k}^2\Delta z{C}_n^2{\left(\frac{k}{2\pi }\right)}^{-\alpha }\Gamma \left(\alpha -1\right)\cos \left(\frac{\alpha \pi }{2}\right)}{4{\pi }^2}\times \left[1+{\alpha }_1\left(\frac{k}{k_1}\right)-b_1{\left(\frac{k}{k_1}\right)}^{\beta }\right]{\text{e}}^{-{\left(\frac{k}{k_1}\right)}^2}\left[1-{\text{e}}^{-{\left(\frac{k}{k_0}\right)}^2}\right]$ (3)

式中，$C_n^2$ 是大气折射率结构常数，用来表示大气湍流强度的大小，$\Delta z$ 是湍流相位屏的间隔，$k$ 是波数，$\text{α}=\frac{22}{6}$ ，$\text{β}=\frac{7}{6}$ ，$k_0=\frac{2\pi }{L_0}$ ，$L_0$ 为外标度，$a_1=1.802$ ，$b_1=0.254$ 。

$K_1=\left\{\pi \cdot \frac{\Gamma \left(\alpha -1\right)\cos \left(\frac{\alpha \pi }{2}\right)}{{\left(4{\pi }^2\cdot \left[\Gamma \left(\frac{3-\alpha }{2}\right)\cdot \frac{3-\alpha }{3}+a_1\cdot \Gamma \left(\frac{4-\alpha }{2}\right)\cdot \frac{4-\alpha }{3}-b_1\cdot \Gamma \left(\frac{3-\alpha +\beta }{2}\right)\cdot \frac{3-\alpha +\beta }{3}\right]\right)}^{\frac{l}{\alpha -5}}}\right\}/10$ (4)

然后，我们通过分步光束传播法来实现大气湍流介质的传播模拟，在等间距的湍流相位屏间隔下通过N个相位屏，我们得到了输出的分数阶涡旋光振幅$E\left(r_{N+1}\right)$ ，并添加高斯白噪声(AWGN)，其中[24]：

$E\left(r_{i+1}\right)=D\left[\frac{\Delta z_i}{2},r_i,{\tilde{r}}_{i+1}\right]T\left[z_i,z_{i+1}\right]D\left[\frac{\Delta z_i}{2},r_i,{\tilde{r}}_{i+1}\right]E\left(r_i\right)$ (5)

式中，$T\left[z_i,z_{i+1}\right]$ 是表示相位累计的操作符，${\tilde{r}}_{i+1}$ 是第$i$ 个和第$i+1$ 个平面中间的坐标，操作符表示为[24]：

$T\left[\Delta z_i,\Delta z_{i+1}\right]=\exp \left[-i\phi \left(r_{i+1}\right)\right]$ (6)

最后，叠加后的分数阶涡旋光光强分布为$I_{out}=E\left(i_{N+1}\right)E^{*}\left(i_{N+1}\right)$ 。本文由此方式，利用仿真实验生成单模以及多模涡旋光通过大气湍流以及接收机噪声之后的光强分布数据集。在此基础之上对不同的OAM模式进行分类识别。湍流信道下，涡旋光束传播不同距离的OAM识别系统示意图见图1。

Figure 1. Schematic diagram of OAM recognition system for vortex beam propagation at different distances

图1. 涡旋光束传播不同距离的OAM识别系统示意图

3. 湍流下涡旋光的检测分类

3.1. 深度学习算法

本文引入Swin-Transformer模型来完成OAM模式的识别任务。Swin-Transformer借鉴了CNN中常用的层次化构建方式构建层次化Transformer。Swin-Transformer的层次化结构通过逐级降采样生成多尺度特征图，能够捕捉不同传播距离下涡旋光束的局部形态(如中心孔径)与全局畸变(如湍流引起的相位失真)，对比卷积神经网络(CNN)的固定感受野更能动态适应多变的湍流模式。

并且区别于传统Transformer，Swin-Transformer采用了移位窗口策略，有效将Transformer模型从自然语言处理领域应用到计算机视觉领域。Swin-Transformer中的移位窗口操作将注意力计算集中于一系列不重合的局部窗口内，从而大大地降低了计算复杂度，同时通过相邻窗口连接机制保证模型全局建模能力。Swin-Transformer主要模块由窗口多头自注意(W-MSA)、基于移位窗口的多头自注意(SW-MSA)、多层感知器(MLP)和层归一化(LN)组成。在两个连续的Swin-Transformer模块中，交替使用W-MSA和SW-MSA，并利用SW-MSA模块的滑动窗口操作帮助上一层实现不同窗口信息的交互，从而解决了相邻窗口间无法交互的问题。Swin-Transformer的整体网络结构见图2 [25]-[27]。

Figure 2. Structure diagram of Swin-Transformer

图2. Swin-Transformer整体网络结构图

Figure 3. Working principle diagram of SW-MSA

图3. SW-MSA工作原理图

由于Swin-Transformer采用W-MSA模块，计算时只会在每个窗口内进行自注意力计算，所以窗口与窗口之间是无法进行信息传递的。为了解决这个问题，作者引入了基于移位窗口的多头自注意(SW-MSA)模块，即进行偏移的W-MSA，其工作原理见图3。图3左侧是上一节介绍的W-MSA (假设是第L层)，那么根据之前介绍的W-MSA和SW-MSA是成对使用的，那么第L + 1层使用的就是SW-MSA。根据L层和L + 1层两幅图对比能够发现窗口发生了偏移(可以理解成窗口从左上角分别向右侧和下方各偏移了M/2个patch)。偏移后的窗口，比如对于L + 1层的窗口1，它能够使第L层第一排的两个窗口信息进行交流；窗口4他能够使第L层的四个窗口信息进行交流，其他的同理。那么这就解决了不同窗口之间无法进行信息交流的问题。但是根据图3可以发现，通过将窗口进行偏移后，原来的4个窗口变成了9个窗口。由于每个窗口的尺度不同，要对每个窗口内部进行子注意力计算较为复杂。为了解决这个麻烦，模型采用了Efficient Batch Computation for Shifted Configuration，一种更加高效的计算方法。将不同的窗口组合移动，4是一个单独的窗口，将5和3合并成一个窗口，7和1合并成一个窗口，8、6、2、0合并成一个窗口。这样能够保证每个窗口的计算量相同，便于处理。

3.2. 实验方案

如图4所示，本文生成具有不同拓扑荷和不同传播距离的涡旋光束的光强空间分布。图4(A)显示出了三种不同的叠加态涡旋光束在湍流信道中分别传播400米、700米、1000米、1300米时的空间分布。图4(B)显示了三种具有单一拓扑荷的涡旋光束在相同条件下传播后的空间分布。一般情况下，我们将涡旋光束中心位置的暗点称为“中心孔径”，其他外部孔径称为“衍射孔径”[22]。可以观察到在图4(B)中随着涡旋光束在湍流信道中传播的距离不断增大，涡旋光束的畸变、扭曲愈加严重，中心环的尺寸特征被逐渐破坏，与此同时其中心孔径也发生了缓慢的增大。同时，对于固定的传播距离，中心孔径的尺寸会随着拓扑荷的增大而增大。这造成了不同拓扑荷、不同传播距离涡旋光束中心孔径大小相同的情况，这加大了同时识别拓扑荷和传播距离的难度。在图4(A)中可以观察到叠加态涡旋光束相比单一涡旋光束虽然也存在着随着传播距离增加中心孔径变大的现象，但是由于具有不同拓扑荷涡旋光束的组合，其空间分布拥有更加多样的形态，相比单一涡旋光束的传播，在一定程度上避免了OAM模式的混淆。

Figure 4. Spatial distribution of light intensity of vortex beams with different topological charges and different propagation distances

图4. 具有不同拓扑荷和不同传播距离的涡旋光束的光强空间分布

本文选用OAM模式集合{1, 2, 3}和{1, 2, 3, 4}来扩展OAM模式的复用类型，分别实现8种和16种不同的相干复用类型。并引入传播距离这一变量，这样一来分别得到32和64个不同的类型。采用OAM模式集合来扩展OAM复用类型相比采用单一OAM模式，在同样编码数量的情况下需要更少的单一OAM类型。本文采用拓扑荷数较小的OAM模式集合{1, 2, 3}和{1, 2, 3, 4}，使涡旋光束在湍流中传播一定距离之后其光场信息更加集中于光束的中心孔径附近。采用这种方式能够有效缓解当编码数量增加时，使用具有较大拓扑荷的涡旋光束在湍流和传播距离的影响下其空间分

布扩散而造成的信息丢失。每个类型本文分别收集了500张光强度图像，设定$C_{n2}=1\times {10}^{-16}{\text{m}}^{-\frac{2}{3}}$ 的湍流强

度参数。其中375张划入训练集，125张划入验证集。另外，本文设置一组l = 1、2、3、4、5、6、7、8和一组l = 1、2、3、4、5、6、7、8、9、10、11、12、13、14、15、16的对照组用于比较在同样编码数量下两种方式的性能。本实验通过使用来自公开的ImageNet数据集的预训练权重参数初始化模型，然后在我们自己的OAM模式数据集上训练它。在深度学习模型训练中，学习率调度策略对模型收敛速度和最终性能至关重要。余弦衰减是一种平滑调整学习率的策略，其核心思想是通过余弦函数曲线逐渐降低学习率，平衡训练初期的快速收敛与后期的精细调优。确保模型的较高效收敛。余弦衰减的公式可以表达为：

${\eta }_t={\eta }_{\min }+\frac{1}{2}\left({\eta }_{\max }-{\eta }_{\min }\right)\left(1+\cos \left(\frac{\pi t}{T}\right)\right)$

其中，${\eta }_t$ 为第t步的学习率；${\eta }_{\max }$ 为学习率最大值；${\eta }_{\min }$ 为学习率最小值；T为总训练步数。

此外，本文选用随机梯度下降(SGD)优化器，其他一系列参数根据训练平台配置进行设置。表1列出了训练参数配置的详细信息。

Table 1. Training parameter configuration

表1. 训练参数配置

Argument	Value
Batch-size	24
Momentum	0.9
Initial learning-rate	1e−2
Minimum learning-rate	0.01×1e−2
Decay	5e−4
Epochs	110

3.3. 实验结果分析

在本实验中，我们选择基于自然语言模型改进得到的Swin-Transformer模型对数据进行训练。首先，在32个类别的分类任务中，实验组和对照组分别有12000个图像用于训练，4000个图像用于验证与测试。为了进一步验证OAM复用类型在OAM模式和传播距离识别中的性能，继续进行64个类别的分类任务。其中实验组和对照组分别有24000个图像用于训练，8000个图像用于验证与测试。为了直观展示实验的结果，我们在图5中绘制了模型训练中训练集和验证集的准确率作为模型的评估指标。图5(A)、图5(B)分别显示了32个类别分类任务和64个类别分类任务中的训练集准确率和验证集准确率。相比对照组，采用OAM模式集合拓展OAM模式复用的方法无论是在收敛速度还是在准确率上都有所提升。在经历90 epochs的训练后，实验组的训练集准确率达到96.9%，验证集准确率达到99.4%，对照组的训练集和验证集的准确度则分别为95.2%和98.6%，相比之下分别提升了1.7%和0.8%。从图5(C)、图5(D)可以看出，这样的提升在64个类别任务中更加显著。在经历90 epochs的训练后训练集准确率达到97%，验证集准确率达到99.8%，对比对照实验的93.5%和95.6%提升了3.5%和4.2%。这表明随着编码量的增加，我们的方法对于识别不同OAM模式和涡旋光传播距离具有更高的鲁棒性。最后，我们的方法可以应用于传感器测距、自由空间OAM通信，尤其是系统的解调步骤。随着涡旋光与深度学习算法更深层次的结合，这项研究将具有巨大的潜力。

Figure 5. Comparison of accuracy of training set and validation set between experimental group and control group

图5. 实验组和对照组的训练集准确率和验证集准确率对比

Figure 6. The local confusion matrix of 64 classification

图6. 64分类的局部混淆矩阵

将训练好的模型保存，放入测试集中进行测试，得到混淆矩阵。由于64分类矩阵过于庞大，本文选取部分矩阵，如图6所示。可以发现模型在较远传输距离光强图像中仍保持着优秀的分类性能。但是我们发现模型对于不同传输距离的相同OAM模式与相同传输距离下的相邻OAM模式的分类存在较低的误差概率。

4. 总结

由于涡旋光中不同OAM模式的正交性，其在光通信领域具有巨大的潜力。然而这些光束在实际传播中非常容易受到各种客观因素的影响，比如距离、大气湍流、接收机噪声等。在本研究中，用拓扑荷绝对值较小的涡旋光集合扩展OAM复用类型的方式代替单一涡旋光的方式，并利用深度学习算法来识别涡旋光的拓扑荷和传播距离(距离范围从400米到1300米)。结果证明我们的方法可以为识别提供更强的鲁棒性，对于自由空间OAM通信等领域有着积极的意义。