APP下载

基于改进型Transformer 网络的高阶QAM调制分类研究

2024-01-05移,项

光学仪器 2023年6期
关键词:载波信噪比向量

安 移,项 澜

(上海理工大学 光电信息与计算机工程学院,上海 200093)

引言

随着5G,6G 等通信技术的快速发展,用户对通信速率的要求变得越来越高[1]。高阶正交振幅调制(quadrature amplitude modulation,QAM)信号可以提高单个符号所携带的比特量,因此可以通过增加M阶QAM 信号的调制数M来提高通信速率。随着调制数M的不断增加,QAM 信号的调制格式变得越来越多,为了在接收端准确地恢复出原始发送信号,就需要对接收到的QAM 信号进行调制分类。

目前针对QAM 信号的调制分类的主流方式有2 种:基于特征提取的分类方法和基于深度学习的分类方法。文献[2] 通过对信号进行希尔伯特变换来获得信号的瞬时包络,然后提取瞬时能量分布向量作为特征向量来对QAM 信号进行调制分类。文献[3] 通过计算QAM 信号矢量图的最小环带方差进行QAM 信号的调制分类。文献[4] 通过聚类算法并结合模板匹配来对QAM信号进行调制分类。文献[5] 通过信号的四阶累积量以及减法聚类等方法识别QAM信号的调制格式。文献[6] 通过模糊C 均值与反向传播(back propagation, BP)神经网络相结合来对QAM 信号进行调制分类。文献[7] 研究了卷积神经网络模型和特征参数结合深度神经网络模型对QAM 信号的调制分类效果。文献[8] 通过密集连接网络来对QAM 信号进行调制分类。

上述国内外研究现状为调制识别提供了丰富的研究基础,但最高只研究到了256 QAM 信号的调制分类,并没有研究512 及以上的高阶QAM 信号的调制分类。针对高阶QAM 信号的调制分类问题,结合了QAM 信号的分解特征与Transformer 编码器的自动调制分类网络[9],提出了一种改进Transformer 编码器网络的自动调制分类网络,将QAM 信号的同相分量与正交分量并行通过2 个Transformer 的编码器,再将2 个编码器的输出结果拼接并进行调制分类。研究了该网络在信噪比(signal to noise ratio, SNR)从-10 dB 到30 dB(间隔为2 dB)的21 种加性高斯白噪声(additive white Gaussian noise,AWGN)信道条件下,从4 QAM 到4 096 QAM 的10 种QAM 调制格式的分类效果。

1 信号模型与网络结构

1.1 信号模型

接收到的QAM 信号模型可表示为

式中:sk为QAM 信号的基带码元信号序列,序列长度为N;j 为虚数单位;ak为QAM 信号的同相分量 ;bk为QAM 信号的正交分量;g(t) 为成形滤波器的冲激响应;Tb为码元宽度;fc为载波频率;φ为载波相位;w(t) 为加性高斯白噪声。

假设已经对接收到的QAM 信号序列r(t) 进行了预处理操作,包括:信号的下变频,匹配滤波,定时同步以及下采样等操作,得到了sk。当信噪比为20 dB 时,没有载波频率偏移和载波相位偏移的16 QAM 和32 QAM 星座图分别如图1(a)和(b)所示。

图1 没有载波频率偏移和相位偏移的QAM 星座图(SNR 为 20 dB)Fig. 1 QAM constellation diagram without carrier frequency offset and phase offset (SNR is 20 dB)

图2 (a)和(c)分别为信噪比为20 dB 时,没有载波频率偏移和相位偏移的16 QAM 和32 QAM的ak时域散点图;图2(b)和(d)分别为16 QAM和32 QAM 的bk时域散点图。

图2 16 QAM 和32 QAM 的ak与 bk 时域散点图(SNR 为 20 dB)Fig. 2 Time-domain scatter plots of ak and bk for 16 QAM and 32 QAM (SNR is 20 dB)

如图2 所示,不同调制阶数的QAM信号的ak与bk具有不同的分布特征。因此,可以根据ak与bk的组合来对QAM 信号进行分类。

当信噪比为20 dB 时,载波频率偏移为500 Hz和载波相位偏移为 π/6 的16 QAM 信号的星座图如图3(a)和(b)所示,相同条件下的32 QAM 信号的星座图如图3(c)和(d)所示。

图3 载波频偏为500 Hz 或载波相偏为π/6 时16 QAM 和32 QAM 的星座图(SNR 为 20 dB)Fig. 3 Constellation diagrams of 16 QAM and 32 QAM with carrier frequency offset of 500 Hz or carrier phase offset of π/6(SNR is 20 dB)

图4 为在信噪比为20 dB 时,QAM 信号受载波频率偏移500 Hz 影响下的ak和bk的时域散点图。

图4 载波频偏为500 Hz 时16 QAM 和32 QAM 的ak与 bk 时域散点图(SNR 为 20 dB)Fig. 4 Time-domain scatter plots of ak and bk for 16 QAM and 32 QAM with a carrier frequency offset of 500 Hz(SNR is 20 dB)

从图4 中可以发现,当载波频率偏移500 Hz时,不同调制阶数的QAM 信号的ak与bk具有不同的分布。因此,可以根据ak与bk的组合来对QAM 信号进行分类。

图5 为在信噪比为20 dB 下QAM 信号受载波相位偏移 π/6 影响下ak和bk的时域散点图。

从图5 中可以发现,当载波频率偏移500 Hz时,不同调制阶数的QAM 信号的ak与bk具有不同的分布。因此,可以根据ak与bk的组合来对QAM 信号进行分类。

综上所述,无论是否有载波频率偏移或相位偏移,不同QAM 信号的ak和bk具有不同的分布组合。因此,可以根据信号的ak和bk的组合来对QAM 信号进行分类。

1.2 网络结构

Transformer 网络主要由编码器和解码器组成[10]。编码器可以提取输入序列的特征,因此可以用Transformer 的编码器结构来提取QAM 的ak和bk的特征。

图6 为本文提出的网络结构框架图。其中输入数据Data 为AWGN 干扰后的QAM 信号的基带码元序列sk;数据处理(data preprocessing)模块首先将sk的实部和虚部提取出来,得到同相分量ak和正交分量bk,然后对ak和bk进行标准化处理并乘以量化系数res 转为序列编码处理,最后在序列编码的起始位添加序列标识符CLK, CLK 会随着编码序列一起在网络进行训练,并能够很好地保留本组编码序列的特征,最后根据训练好的CLK 对序列进行分类;词嵌入(embedding)模块将输入的一维序列编码转为多维序列向量,有利于在高维空间向量中捕捉一维编码序列的特征;位置嵌入(position embedding)模块用于添加序列编码的位置信息;将位置嵌入模块的位置向量与词嵌入模块的编码序列向量相加,形成编码器(encoder)层的输入数据x。

编码器层由残差连接与层归一化层(Add &Norm)、前向传播网络(feed forward network,FFN)以及多头注意力层(mutil-head attention)构成。

残差连接(residual connection)的作用是用于解决深度神经网络中的梯度消失和梯度爆炸问题,同时也可以帮助网络更好地学习到输入数据的特征;层归一化(layer normalization, LN)是一种类似于批归一化的归一化方法,但是它是在每个样本的每个神经元上进行归一化处理,这样可以使得每个神经元的输入分布相同,从而提高网络的稳定性,加速网络的训练,LN 层输出的计算式为

式中:γ和 β 为可学习的缩放和偏移参数; µ 和σ为x的均值和标准差; ⊙ 表示元素乘法; ε 为一个很小的常数,防止分母为零。

全连接层是将输出转换为最终预测结果的关键组成部分,它可以降低数据维度和提取数据特征,增加网络的表达能力,提高网络的泛化能力。

多头注意力机制是一种在Transformer 模型中广泛使用的注意力机制,它可以将注意力机制应用于多个查询、键和值向量上,从而提高模型的表达能力和泛化能力。图7 为多头注意力机制的计算流程示意图。首先将输入向量x分别通过线性变换映射为查询向量Q(query),键向量K(key)和值向量V(value),然后将Q,K,V3 个向量映射到h个子空间中,得到h组子向量;接着对每组子向量分别计算注意力得分向量A(如式(4)所示);将h个子向量的注意力得分拼接在一起,得到最终的输出向量Z(如式(5)所示)。最后,将向量Z通过线性变换映射回原始空间,得到最终的输出向量[10]

图7 多头注意力机制计算流程图Fig. 7 Computational process of multi-head attention mechanism

式中:Q,K,V为查询向量、键向量和值向量;dmodel为每个编码数字的词向量维度;,i为第i个子空间的参数;dK=dV=dmodel/h,h为注意力头数。

通过编码器层的标识符CLK 已经保留了序列的特征信息,可以通过1 层线性层将序列的特征信息取出。最后将2 路信号的特征进行拼接,通过线性层和Softmax 层就可以判断QAM 信号的调制格式。

假设输入的QAM 信号的基带码元序列sk的调制类型共M种,输入网络的数据大小为(Batch,N-1),Batch为输入的batch size 大小,表示每次输入网络的序列有多少组,N-1 为每组输入的序列长度,以同相分量分路(Data I)为例(Data Q 路与Data I 路中间的参数大小都相同),每层网络的参数输出大小如表1 所示。

表1 每层网络的参数输出Tab. 1 Parameter output of each layer network

2 实 验

2.1 数据集

使用MATLAB 生成3 组QAM 数据集,分别是没有载波频率偏移和载波相位偏移的QAM数据集,载波频率偏移500 Hz 的QAM 数据集以及载波相位偏移 π/6 的QAM 数据集。每个码元的采样点数为8 个,成型滤波器与匹配滤波器使用的都是 α = 1 的根升余弦滤波器。3 种数据集的格式都一样,每组数据集一共有10 种调制格式的QAM(4 QAM,16 QAM,32 QAM,64 QAM,128 QAM,256 QAM,512 QAM,1 024 QAM,2 048 QAM 和4 096 QAM)信号,每一种调制格式共有2 000 组QAM 信号序列,每组QAM 信号序列共有500 个码元。信道噪声为AWGN,每种QAM 有21 种信噪比(从-10 dB到30 dB,间隔2 dB)。每组数据集的大小为(mod, snr, groups, length):mod 为调制格式种类,大小为10;snr 为信噪比种类,大小为26;groups 代表每种调制格式每个信噪比下有多少组信号序列,大小为2 000;length 为每组信号序列的长度,大小为500。

2.2 实验设置

实验使用的服务器GPU 型号为3 080 Ti,显存12 G;CPU 型号为AMD EPYC 7 451,核心数为6 核。数据处理部分(data preprocessing)将输入数据等比量化到0~255。提出的网络总参数大小为13.9 k,网络的训练参数batch_size设置为300,epoch 设置为500,词嵌入的词向量参数dmodel设置为24,多头注意力层的头数h设置为2,Add & Norm 层的dropout 设置为0.1,优化器使用的是Adam,损失函数使用的是交叉熵损失函数(cross entropyloss),学习率lr设置为可变学习率,初始lr设置为每个batch_size 的迭代式为

式中,y为迭代次数。

2.3 实验结果与分析

图8 为没有载波频率偏移与载波相位偏移的10 种调制格式信号的QAM 在不同信噪比下的调制分类准确率。

图8 没有频率偏移与相位偏移的识别率Fig. 8 Recognition rate without frequency offset and phase offset

如图8 所示,当信噪比大于20 dB 时,本文提出的网络可以100%识别出所有的调制格式;当信噪比介于2~20 dB 时,随着信噪比的提升,网络可以逐渐识别出更高阶的QAM 信号;当信噪比低于2 dB 时,网络无法识别QAM 信号的调制格式。由此证明当信噪比大于20 dB时,本文提出的网络可以准确识别出没有载波频率偏移与载波相位偏移的QAM 信号的调制格式。

图9 所示为载波频率偏移500 Hz 的10 种调制格式的QAM 信号在不同信噪比下的调制分类准确率。

图9 频率偏移500 Hz 的识别率Fig. 9 Recognition rate with frequency offset 500 Hz

从图9 中可以发现,当信噪比大于等于26 dB时,4 QAM 到1 024 QAM 的调制分类准确率为100%, 2 048 QAM 的调制分类准确率大于96%,4 096 QAM 的调制分类准确率大于91%;当信噪比介于2~26 dB 时,随着信噪比的提升,网络能够识别更高阶的QAM 信号;当信噪比低于2 dB 时,网络不能准确识别出QAM 信号的调制格式。与图8 对比发现,网络对载波频率偏移500 Hz 的QAM 信号序列识别难度较大。在同等识别准确率条件下,载波频率偏移500 Hz的QAM 信号序列的信噪比大约是没有载波频率偏移的QAM 信号序列的信噪比的1.5 倍。证明了载波的频率偏移对本文提出的网络影响较大,只有当信噪比大于30 dB 时,网络才有可能准确识别出载波频率偏移500 Hz的QAM 信号的调制格式。

图10 所示为载波相位偏移 π/6 的10 种调制格式的QAM 信号在不同信噪比下的调制分类准确率。

图10 相位偏移π/6 的识别率Fig. 10 Recognition rate with phase shift π/6

从图10 中可以发现,当信噪比大于等于20 dB 时,本文提出的网络可以100%识别出所有QAM 信号的调制格式;当信噪比介于2~20 dB 时,随着信噪比的增加,网络可以识别更高阶的QAM 信号的调制格式;当信噪比低于2 dB 时,网络无法准确识别出QAM 信号的调制格式。与图8 对比发现,网络对载波相位偏移π/6的QAM 信号与没有载波相位偏移的QAM信号具有几乎相同的识别准确率。证明了本文提出的网络几乎不受载波相位偏移的影响,在信噪比大于20 dB 时,网络能准确地识别出载波相位偏移π/6 的QAM 调制格式。

图11 为3 个数据集在信噪比为20 dB 时,本文提出的网络对QAM 信号的调制分类准确率的混淆矩阵图。

图11 3 个数据集的混淆矩阵(SNR 为 20 dB)Fig. 11 Confusion matrix on three datasets (SNR is 20 dB)

图12 显示了3 个数据集在20 dB 信噪比下模型的训练集与测试集的调制分类准确率和损失曲线。

图12 3 个数据集的调制分类准确率和损失曲线(SNR 为 20 dB)Fig. 12 Training and testing modulation classification accuracy and loss curves of three datasets (SNR is 20 dB)

2.4 与其他方法对比

表2 列出了本文提出的调制分类方法与文献[5]、文献[8] 的调制分类方法的对比结果,以5 种调制方式分类准确率大于95%为条件,对比3 种方法所需的最小信噪比的大小,所需最小信噪比越小则说明该调制分类方法效果越好。

表2 本文网络与其他方法对比Tab. 2 Comparison of the results in this article and the results obtained by the other methods

如表2 所示,本文提出的方法在满足较高准确率的同时所需信噪比最小,证明了本文提出的方法优于其他2 篇文献中的方法。

3 结论

本文提出的改进型Transformer 网络的高阶QAM 自动调制分类网络具有网络结构简单,训练参数少的优点,且对所有从4 QAM 到4 096 QAM 调制信号具有很好的分类效果。当信噪比大于20 dB 时,网络可以准确识别出没有载波频率偏移影响的所有QAM 信号的调制格式;当信噪比大于30 dB 时,网络可以识别出所有QAM信号的调制格式。与其他方法对比,本文提出的方法在同样的调制分类准确率条件下所需信噪比比其他方法低,而且本文研究了512 QAM 及以上的高阶的QAM 信号的调制分类,这对使用高阶QAM 调制通信的研究具有重要意义。

猜你喜欢

载波信噪比向量
向量的分解
聚焦“向量与三角”创新题
基于深度学习的无人机数据链信噪比估计算法
低信噪比下LFMCW信号调频参数估计
低信噪比下基于Hough变换的前视阵列SAR稀疏三维成像
向量垂直在解析几何中的应用
应急广播系统中副载波的构建与应用
向量五种“变身” 玩转圆锥曲线
保持信噪比的相位分解反褶积方法研究
低压载波通讯测试仪的开发与应用