潘成胜,蔡 韧,石怀峰,2,施建锋,3,王钰玥

(1.南京信息工程大学 电子与信息工程学院,南京 210044;2.南京理工大学 自动化学院,南京 210094;3.东南大学 移动通信国家重点实验室,南京 211189)

0 引 言

随着通信网络技术的不断发展,无线通信呈现出多种异构网络共存、多样化业务需求繁多的场景,如在5G超密集网络、物联网、战术通信网络中,各种用频终端在有限地域内密集开设、自由进出,导致频谱环境时空分布复杂,频谱资源异常紧张。同时,传统授权分配策略导致频谱利用率不高以及系统内部互相干扰严重。认知无线电技术通过频谱感知和智能学习实现频谱的动态分配,在不干扰授权用户通信的前提下,非授权用户可以在时间、空间和频率上进行多维频谱复用,提高频谱资源的整体利用率[1]。频谱感知作为认知无线电的重要环节,只有可靠准确的感知才能有正确的分析和决策。

现有的频谱感知方法按照感知节点的个数可以分为单用户感知和多用户协同感知,其中单用户感知又可以分为模型驱动和数据驱动算法。模型驱动算法主要包括能量检测[2-4]、循环平稳特征检测[5-6]、匹配滤波检测[7]以及协方差检测[8-9]等。这些算法难以在检测成本和检测性能之间取得较好的平衡。近年来,随着机器学习技术的发展,学者们通过机器学习、深度学习等数据驱动算法实现了高效频谱感知的方法。例如,Gao等人[10]提出了一种利用调制信号固有结构信息的深度学习检测模型,对调制方案具有良好的泛化能力。Yang等人[11]提出了一种盲频谱感知方法,将序列输入到卷积神经网络和长短时记忆网络提取特征后由全连接层实现分类,与传统能量检测算法相比,在低信噪比下具有更好的性能。

然而在复杂电磁环境中,由于多径衰落、隐藏终端和低信噪比等问题,单用户的检测性能降低。为了解决这一问题,学者们通过采用多用户协同感知,利用不同空间的感知结果来提高检测性能。多用户协同感知可以分为集中式协同感知和分布式协同感知。集中式协同感知结构简单,效率高,应用较为广泛:文献[12]对协方差矩阵进行归一化灰度处理并作为神经网络的输入,通过图像分类的方式解决频谱感知问题;文献[13]通过连续小波变换得到采样信号的时频矩阵,同样将频谱感知问题转换为图像分类问题进行处理;文献[14]提出了基于多特征组合网络的协同频谱感知算法,利用CNN-GRU获取单用户感知的局部信息,然后将每个用户的局部信息组合后通过分类网络实现协同感知。

现有协同感知的研究虽然能够在一定程度上提高感知性能,但多是通过收集采样信号,计算协方差矩阵并从中获取特征值。在这种方式下,本地用户只负责数据采样和上传,计算任务全部集中于融合中心,导致本地用户不能及时应对频谱环境变化。针对这些问题,本文在由用户感知层和边缘融合层构成的系统架构下,提出一种分层协同频谱智能感知算法。该算法主要分两个阶段实现:第一阶段由各个感知用户独立采样数据,通过多分支卷积门控循环神经网络(Multi-branch Convolutional Gated Cycle Network,MBCGN)完成本地感知并将感知结果报告给边缘融合层;第二阶段边缘融合层基于自注意力机制进行消息传播,每个感知结果以不同权重融合其他感知结果,然后通过非线性层对表示学习后的特征分类得出最终决策下发给感知用户。分层设计将终端设备部署在电磁环境中,能够快速响应频谱环境变化,将计算任务适当卸载给终端设备,可以提高总体运行效率。

1 问题定义与系统模型

1.1 问题定义

用户感知是针对某个窄带在特定的时间内是否有授权用户占用情况的判断,因此可建模为二元假设检验问题[1]。

(1)

式中:y(n)是本地感知机的接收信号;x(n)是授权用户发送信号;h(n)表示信道增益;ω(n)代表信道噪声;假设H0表示信道中只有噪声信号,H1表示信道中有主用户占用。

协同频谱智能感知是对用户感知结果的融合,感知用户对接收信号y(n)进行检验得到感知概率向量p,然后融合法则完成感知融合,如式(2)所示:

s=f(p1;p2;…;pM)。

(2)

式中:pi(i=1,2,…;M)是第i个用户的感知概率向量;f是融合法则;s是最终融合结果。

1.2 系统模型

如图1所示,基于协同学习的频谱智能感知系统模型分为用户感知层和边缘融合层。在用户感知层中,有一组授权通信终端和M个非授权通信终端。通信终端具有监测频谱、收集数据和用户计算的能力。每个终端从频谱环境中独立采集数据并通过神经网络模型训练后做出推断,将本地感知结果上报给边缘融合层。在边缘融合层中,基站具有数据通信、数据存储和更为强大的边缘计算的能力。基站通过接收通信终端的本地感知结果,利用神经网络融合算法做出最终决策,并下发给各个参与感知的终端用户。

图1 分层协同频谱智能感知模型

2 分层协同频谱感知模型

2.1 用户感知模型

2.1.1 网络结构

如图2所示,本文提出一种多分支卷积门控循环神经网络实现本地感知。将原始归一化能量信号作为输入,分别通过卷积网络分支和循环门控单元(Gated Cycle Unit,GRU)分支提取频谱数据的局部特征和全局特征,然后将多分支提取到的特征合并后输入到全连接网络得到本地感知概率向量。

图2 MBCGN网络模型结构

MBCGN网络有3个分支,第一个分支是卷积核大小为10的一维卷积网络,第二个分支是卷积核大小为5的一维卷积网络,第三个分支是双向门控循环神经网络(Bi-directional Gated Cycle Unit,Bi-GRU)。具体来说,一方面,使用一个大卷积核和一个小卷积核来捕获局部特征。每个分支两层卷积之后使用全局平均池化对卷积提取特征进行降维。使用全局平均池化操作的优点有两个方面:一是维持和第三个分支提取的全局特征维度相近,便于特征合并;二是对所有卷积学习到的特征进行全局平均池化操作可以提高学习的稳定性。另一方面,使用Bi-GRU提取输入信号的全局特征,并利用注意力网络降低噪声数据的影响。此后,3个分支的输出通过一个级联层输入到两个全连接层,得到本地感知概率向量。为了防止过拟合,在每层卷积后都使用了Dropout。

2.1.2 卷积模块

卷积神经网络局部连接、权值共享、平移不变性等特性使其具有强大的表征学习能力和高效的深度计算能力,已广泛应用于语音、传感器数据等时间序列的分析与处理。同样地,频谱数据也是一种典型的时间序列,每条序列可以表示为x∈Lin×Cin,其中,Lin表示采样长度,Cin表示每条序列采样I路和Q路两个通道数据。因此,本文引入卷积神经网络实现对原始归一化能量信号的特征提取,计算方式如式(3)所示[15]:

(3)

式中:z=Cout×Lout表示输入序列经过卷积层后的输出矩阵;*表示卷积运算;w和b是可学习参数,分别表示权重矩阵和偏置矩阵;σ表示非线性激活函数。

2.1.3 GRU模块

虽然卷积神经网络能够很好地提取局部特征,但其无法充分捕获长距离信息。循环神经网络则可以通过重复执行单元网络结构来捕获当前时刻状态与之前状态的关系,具有处理任意长度时间序列的能力。GRU是长短期记忆网络(Long Short-Term Memory,LSTM)结构简化的变体,通过减少一个隐藏状态降低计算开销,同时也达到了LSTM相近的性能[16]。为了提高感知的实时性,本文使用双向GRU网络提取频谱数据的全局特征。

图3 GRU模型结构

(4)

双向GRU中包含了前向隐藏状态和后向隐藏状态,每个方向的计算方式和上述一致,双向网络能够较好地捕获频谱数据的前后联系。对于双向GRU捕获的全局特征通过乘性注意力降低噪声影响,计算方式如式(5)所示[17]:

(5)

式中:S是注意力隐藏状态;α是注意力系数。

2.2 边缘融合模型

协同感知的融合准则可以分为硬判决和软判决两类,硬判决主要有AND准则、OR准则和K秩准则,软判决有对数似然比算法和线性加权算法[18]。硬判决由于只是对感知结果进行逻辑运算,存在一定的缺陷,例如AND准确检测概率低,OR准确虚警概率高,而K秩融合准则需要选择合适判断阈值;软判决算法是将采集信息直接发送至融合中心,这个过程开销较大,系统实现复杂,实时性较差。本文提出的基于自注意力机制的消息融合网络(Messages Fusion Based on Self-attention,SA-MF)是对感知结果的融合,以自注意力的方式引入感知信息交流,在保持感知实时性的同时提高感知的可靠性。

2.2.1 网络结构

融合网络具体结构如图4所示,网络的输入是M个终端用户通过MBCGN网络进行本地感知的概率矩阵P∈M×2,然后使用金字塔型一维卷积学习概率矩阵的高维表示,即输入矩阵通过3个一维卷积组成的嵌入层得到d维特征表示,嵌入特征通过基于自注意力机制的自注意力编码器模块完成感知信息交互,最后经全局平均池化得到最终融合特征,再由一个全连接层得到融合决策。

图4 SA-MF网络模型结构

2.2.2 自注意力编码器模块

Transformer是谷歌提出的一种编解码网络结构,最初应用在机器翻译任务上,通过自注意力机制实现快速并行计算,解决循环神经网络训练慢的缺点。随后,Transformer各种变体广泛应用在自然语言、计算机视觉、语音等领域。编码器网络能够有效地学习特征表示,并且自注意力机制模型是一种弱归纳偏置的学习方式,每个感知用户可以利用这种学习方式进行感知结果交流。本文使用一维卷积完成概率矩阵的嵌入表示,然后由编码器学习感知信息交互的过程。对于编码器表示学习后的特征采用全局平局池化的方式进行降维,能够有效融合各个感知用户的特征表示,实现共同决策。

如图5所示,编码器结构主要由多头自注意力模块和位置全连接前馈网络模块组成,多头自注意力模块帮助节点关注其他的节点的内容,位置全连接前馈网络提供非线性变化,同时保证输出特征维度和输入特征维度相同。在网络层连接上使用了残差连接解决梯度消失和权重矩阵的退化问题,使用了层归一化对同一层神经元做归一化,避免变长输入和批处理大小的影响[19]。

图5 自注意力编码器网络结构

编码器的计算过程如式(6)所示:

(6)

式中:MultiHead为多头注意力层;LayerNorm为层归一化运算;FFN是位置前馈神经网络。多头注意力层的计算方式如下:

(7)

式中:Q,V,K分别为查询矩阵、键矩阵和值矩阵,在自注意力模型中Q=V=K;Con运算表示将多头学习到的特征合并;Wo为权重矩阵,引入线性变化;Wi为对应多头中的投影矩阵;Attention是缩放点积注意力;dk是缩放系数。

3 实验与结果分析

3.1 数据集构造

为了模拟真实的环境,本文采用文献[20]中提供的基准数据集,模拟了正交相移键控(Quadrature Phase Shift Keying,QPSK)调制信号。信道模拟考虑了中心频率偏移、采样率偏移、加性高斯白噪声、多径和衰落的随机过程。数据采集是从仿真输出中随机采样时间片段,同时保持了I路和Q路两个通道数据。为了考虑低信噪比的通信环境,设定数据信噪比范围为-20～5 dB,间隔为1 dB,每个信噪比下分别设置64,128,256,512个采样点情况,各采集1 000个样本。对于协同感知任务,本文设定了有1,3,5和8个终端用户的情况,每种情况下数据结构和上述一致。对于授权用户不存在的负样本,本文采用循环对称复高斯噪声表示,按照1∶1的比例和正样本组成最终频谱感知数据集,数据集按照6∶2∶2划分为训练集、验证集和测试集。

3.2 模型训练

检测算法有两个重要的衡量指标,分别是检测概率Pd和虚警概率Pf,它们在传统能量检测算法中可以表示为

Pd=P(Tr>γ|H1),

(8)

Pf=P(Tr>γ|H0)。

(9)

式中:Tr和γ分别为能量统计值和能量检测门限。能量检测算法可以通过设定检测门限实现恒虚警检测,但是基于深度学习方法以分类概率作为判定结果并不存在预设的门限值,所以无法实现精准性能控制。本文参照文献[11]将验证集虚警概率作为额外的训练指标指导模型训练,训练损失函数采用交叉熵损失函数。如果验证集虚警概率处于预设虚警概率范围内,则结束模型训练。通过此方法可以解决模型上限后检测概率与虚警概率此消彼长的问题,实现了近似恒虚警检测,提高了模型的稳定性。

在分层协同频谱感知模型中,首先在本地感知数据集上训练MBCGN网络,具体的网络超参数设置如表1所示;然后使用训练好的MBCGN网络在多用户协作数据集上推断两种假设的概率矩阵并作为SA-MF网络的数据集;最后对SA-MF网络进行训练,训练损失函数也采用交叉熵损失函数,网络的超参数设置如表2所示。

表1 MBCGN网络参数

表2 SA-MF网络超参数

3.3 MBCGN网络性能

图6所示是本文模型与其他几种同样以时间序列处理方式模型在采样长度为128的QPSK信号的检测性能的对比。为了实验的公平性,对比模型的参数依照相应给出的超参数进行设定。文献[10]提出的DetectNet先通过两层一维卷积提取局部,然后通过两个神经元的全连接层组合特征后与输入进行残差连接,残差连接后的特征再通过LSTM提取时间特征,最后通过全连接层实现分类。文献[11]提出的CNN-LSTM网络将序列输入到卷积神经网络和长短时记忆网络提取特征后由全连接层实现分类。

图6 本地感知模型对比实验结果

从不同信噪比下的检测概率结果可以看出,在这3种模型中,本文提出的MBCGN模型具有更好的检测性能,尤其是在信噪比为-15～-5 dB时,检测概率明显高于另外两种模型,如信噪比为-10 dB时,MBCGN的检测概率为74.3%,DetectNet的检测概率为66.2%,CNN-LSTM的检测概率为60%,本文模型在检测概率上相对提升了8.1%和14.3%,同时MBCGN的虚警概率在这3个模型中只比最低的并行CNN-LSTM模型高0.08%,但检测概率却有着明显的提升。在表3中,参数量是模型可训练参数的个数,训练时间为模型单个epoch所用时间,感知时间为单个样本的在线感知时间。由于使用大卷积核的原因,MBCGN网络在参数量上大于DetectNet,但多分支并行计算以及使用GRU代替LSTM使得其在训练时间和在线感知时间上有较为明显的提升,说明MBCGN网络取得了感知性能与感知成本的较好平衡。

表3 用户感知模型的参数量和训练时间

采样长度是影响检测性能的重要因素。从图7所示的结果中可以直观看出,随着采样长度的增加检测的性能就越好。当采样长度为512,在信噪比为-7.5 dB时就已经达到了100%的检测概率;而采样长度为64,在信噪比为2.5 dB时才达到100%检测概率。然而在信噪比为-20 ～-16 dB时,长采样序列的检测概率并没有比短采样序列高很多。这是因为长序列需要更大的卷积核和更深层次的卷积神经网络来捕获局部特征,本文主要针对采样长度为128时优化参数设置,这自然使得在低信噪比时长采样序列的优势没有发挥出来。但采样长度越长,意味采样所需时间就越长,计算和存储消耗就越大,对实时性检测有一定的影响。本文通过适中的采样长度和多用户协作感知的方式提高检测性能。

图7 不同采样长度结果

3.4 SA-MF网络性能

为了验证SA-MF网络的检测性能,本文选择采样长度为128的QPSK调制模式数据进行实验。首先是与文献[10]的柔性组合网络(Soft Combination Network,SCN) 模型、文献[14]的多特征组合网络(Multifeatures Combination Network,MCN)模型以及传统的硬判决法则的对比,结果如图8所示,非智能的OR硬判决融合准则实现了最高的检测概率,但也有着最高的虚警概率,而AND准则有着最低的虚警概率和最低的检测概率。过高的虚警概率和过低的检测概率会系统资源的浪费,传输效率低下。K秩融合准则、SCN和MCN模型的检测概率较为接近,其中组合多特征的MCN具有较低的虚警概率,而本文模型实现了更高检测概率和更低的虚警概率,整体检测概率相对于这三种模型分别提高1.93%,1.62%和1.92%,虚警概率分别降低了1.24%,0.31%和0.03%。这得益于自注意力机制消息融合能够充分利用终端用户感知结果。

图8 融合模型对比结果

最后,本文对终端用户的个数对检测性能的影响进行了实验,如图9所示,分别是1,3,5,8个用户的检测结果,可以直观看出随着感知用户的增加,检测性能也得到显著的提升。当信噪比为-15 dB时,4种情况下的检测概率分别为29.4%,43.9%,77.6%和98.9%,虚警概率分别为6.02%,2.96%,1.91%和1.24%。因此,多用户协作感知可以很好地解决单用户由于多径衰落、隐藏终端和低信噪比等造成检测性能降低的问题。

图9 不同感知用户个数结果

4 结束语

面对无线通信网络中复杂多变的频谱环境,而现有多用户协同感知方法存在数据预处理繁琐、感知效率低下的问题,本文在由用户感知层和边缘融合层构成的系统架构下,提出了一种基于协同学习的频谱智能感知算法。用户感知层采用多分支卷积循环门控神经网络利用原始归一化能量信号的底层结构信息,实现本地感知;边缘融合层基于自注意力机制进行消息传播,融合用户感知层中各个非授权用户的感知结果得出最终决策。实验结果表明,所提本地感知模型不仅提高了检测概率,降低了虚警概率,而且减少了模型参数量和训练时间,取得了检测性能与检测成本的较好平衡;感知融合模型有效融合多个用户感知结果,在低信噪比时检测性能有显著提升。

后续将主要针对本地感知模型进行优化,进一步提高感知融合的性能。