（江西理工大学，江西 赣州 341000）

基于毫米波大规模MIMO的混合RZF预编码算法

谢斌，谢舒闽，刘述睿

（江西理工大学，江西 赣州 341000）

针对毫米波大规模MIMO系统采用全数字预编码时，系统所需射频链路数量较大而导致实现成本和能耗较高的问题，提出了一种在基站端和用户端分别采用混合预编码和模拟合并的方案。在充分考虑信道特性的基础上，根据收发两端的天线阵列响应矢量分别设计模拟预编码矩阵和模拟合并矩阵，然后根据生成的有效信道矩阵，在基带部分设计低维的数字预编码，从而消除系统中噪声和用户间干扰的影响。仿真结果表明，在有效减少系统所需射频链路数量的基础上，所提混合预编码方案能够接近传统全数字预编码方案的性能。

毫米波；大规模MIMO；混合预编码；模拟合并；和速率

1 引言

随着移动通信数据量的爆炸式增长和移动通信设备能量消耗的不断增加，人们对5G移动通信系统的系统容量和能量效率提出了更高的要求[1]。由于受到频谱资源稀缺的限制，现有的低频段移动通信系统已经很难满足用户日益增长的数据业务需求，因此未被充分利用的毫米波频段得到了研究者和工程师的广泛关注[2]。毫米波是指频谱范围为30～300 GHz、波长范围为1～10 mm的电磁波波段，它的带宽可达到10 GHz，能够大幅度提高系统的传输速率，因此被视为5G通信系统的候选频谱之一[3]。然而，毫米波容易受氧气和雨水的影响，导致传播损耗较大，使毫米波通信面临巨大的挑战。另一方面，由于毫米波的波长较小，适合在发送端和接收端部署大量的天线，并且能够通过预编码技术来获得较大的天线阵列增益以补偿毫米波信道的路径损失，从而改善信道传输质量。因此，毫米波与大规模多输入多输出 （multiple input multiple output，MIMO）技术的结合被视为5G的新兴技术之一[4]。

在无线通信系统传输过程中，需要使用射频（radio frequency，RF）链路（包括数模转换器、混频器和功率放大器等）对经过预处理的基带信号进行上变频调制后通过天线进行发射。在传统MIMO系统中，通常采用数字预编码技术在基带部分对发射信号进行预处理，从而消除系统中的干扰，达到提升系统性能的目的[5]。然而在数字预编码方案中，每根天线需要对应一个RF链路，随着系统收发两端天线数量的增加，势必会导致系统实现成本和能量消耗的大幅度增加，为毫米波大规模MIMO技术的应用带来阻碍。为了克服这一问题，有些学者提出了模拟预编码的方案[6,7]。与数字预编码不同，模拟预编码的基本思想是利用低成本和低功耗的移相器来控制每一根天线发射信号的相位，因此，相对于数字预编码，模拟预编码的实现成本和能量消耗通常更低。但是，与能够同时改变信号幅度和相位的数字预编码不同，模拟预编码只能改变信号的相位，因此，它的性能通常要比数字预编码更差[8]。

近年来有些学者综合了数字预编码和模拟预编码的优点，提出了模拟和数字相结合的混合预编码方案。混合预编码器包含一个低维的数字预编码器和一个高维的模拟预编码器，它们之间通过少量的 RF链路连接，从而减小了系统的实现成本和能量消耗，同时又能够实现较好的系统性能。参考文献[9]在考虑毫米波信道空间稀疏特性的基础上，将基站端预编码器和用户端合并器的设计问题视为稀疏信号重构问题，提出了一种基于正交匹配追踪（orthogonal matching pursuit，OMP）的混合预编码算法，该算法的性能能够接近全数字预编码算法的性能。参考文献[10]在充分考虑模拟预编码器受电路条件限制以及基站端只能获得部分信道信息的基础上，提出了一种基于迭代的混合预编码算法，在单用户的毫米波信道中，该算法的性能能够达到接近传统全数字预编码算法的性能。参考文献[11]利用半酉最佳预编码器提出了一种低复杂度的混合预编码和合并方案，该方案能有效减小阵列流行的搜索空间，相比于参考文献[9]所提算法，该方案具有较低的计算复杂度。参考文献[12]推导出了达到最佳性能时系统所需RF链路数量的下界值。然而，参考文献[9-12]所提的混合预编码方案只考虑了单用户的MIMO系统，没有考虑多用户的场景。对于多用户场景，参考文献[13]在考虑发射总功率限制的基础上，提出了一种能够最大化各个子载波上最小信干噪比的混合预编码算法，该算法所能达到的平均信干噪比非常接近甚至优于传统的迭代算法，然而该算法没有考虑模拟预编码矩阵中各元素要满足恒模条件的限制。参考文献[14]充分考虑了大规模MIMO系统信道渐近正交的特性，提出了一种两级结构的低复杂度混合预编码算法，其中模拟部分用来提供较大的功率增益，数字部分则用来消除多用户之间的干扰，通过这种设计，该算法能够实现较好的性能。然而，该方案只考虑了单天线用户的方案，并且由于没有考虑对混合预编码中模拟部分和数字部分的优化，该算法的系统性能还有待提高。

针对上述问题，本文提出了一种在基站端采用模拟和数字相结合的混合预编码器以及在用户端采用模拟合并器接收的方案，其中模拟预编码器和模拟合并器都是通过移相器实现的。对于模拟部分和数字部分的设计，首先根据收发两端的天线阵列响应矢量分别设计基站端的模拟预编码矩阵和用户端的模拟合并矩阵，然后根据信道特性与模拟预编码矩阵和模拟合并矩阵生成的有效信道矩阵，同时考虑到系统中存在噪声和用户之间的干扰，采用正则化迫零（regularized zero-forcing，RZF）准则设计数字预编码矩阵。通过这种设计，能够大幅度减少系统所需 RF链路的数量，并且降低了数字基带处理部分的维度，从而有效地降低了系统的实现成本和能量消耗。仿真结果表明，本文所提的基于毫米波大规模MIMO的混合RZF预编码算法的性能要优于现有的混合预编码算法，并且非常接近全数字预编码算法的性能。

2 系统模型

2.1 系统传输模型

在毫米波大规模MIMO系统中，K个数据流通过基站发射到K个用户，每个用户终端配置了Nr根天线，基站端配置了Nr根天线和NRF个RF链路，且满足 K=NRF≤Nt，其系统传输模型如图1所示。为了减小用户终端的处理复杂度，考虑在用户终端只采用模拟合并接收的方式，从而能够充分利用大型天线阵列所带来的阵列增益优势，同时也可以降低用户终端的接收处理复杂度。

图1 毫米波大规模MIMO系统传输模型

在毫米波大规模MIMO系统传输过程中，发射到K个用户的数据流经过混合预编码器处理后，基站端的发射信号x可以表示为：

其中，‖·‖F表示Frobeinus范数。

因此，第k个用户终端的接收信号yk可以表示为：

其中，Hk∈CNr×Nt表示基站与第 k个用户终端之间的信道矩阵，nk～N（0，σ2）表示均值为 0、方差为 σ2的信道噪声。

第k个用户终端的接收信号yk经过模拟合并器处理后，接收端最终恢复的信号可以表示为：

其中，fRF,k表示第k个用户终端的模拟合并矢量。

于是，第k个用户的信干噪比 （signal to interference plus noise ratio，SINR）可以表示为：

进一步，系统的和速率可以表示为：

2.2 信道模型

与具有丰富散射体环境的低频段信道不同，毫米波信道的有效散射体数量有限且散射环境较差[15]。为了体现毫米波信道稀疏散射体的特性，本文采用几何的Saleh-Valenzuela模型[16,17]，其信道模型如图 2所示。

图2 毫米波信道模型

假设第k个用户的散射体数为L，且每个散射体只有一条有效的传输路径，则基站与第k个用户之间的信道矩阵Hk可以表示为：

式（7）中，σi表示第i条路径的增益。θi∈[0，2π]、φi∈[0，2π]分别表示第i条路径的离开角和到达角。aBS（θi）和aMS（φi）分别表示基站和用户终端的天线阵列响应矢量，当天线阵列类型不同时，它们的表达式也不同，常见天线阵列类型有均匀线性阵列（uniform linear array，ULA）和均匀平面阵列 （uniform planar array，UPA）。本文采用ULA类型，aBS（θi）和 aMS（φi）可以分别表示为：

其中λ表示电磁波波长，d表示天线之间的距离。

3 基于毫米波大规模MIMO的混合RZF预编码算法

3.1问题描述

本文的目标是合理地设计基站端的混合模数预编码器以及用户终端的模拟合并器，使系统的和速率最大化，因此，问题可以描述为：

式（10）是关于WRF、WD和fRF的多元优化问题，并且矩阵WRF和fRF受到恒模特性的限制，因此该问题的解很难直接得到。

3.2 算法描述

考虑到式（10）的解很难直接得到，将该混合预编码的设计分为两级，第一级为设计模拟部分，第二级则根据模拟部分对数字部分进行设计。

第一级模拟部分设计的主要思想是首先忽略多用户之间的干扰，联合设计基站端的模拟预编码矩阵和用户终端的模拟合并矩阵，使每一个目标用户的功率最大化。对于第k个用户，首先忽略来自其他用户的干扰，设计第k个用户的模拟预编码矢量wRF,k和模拟合并矢量fRF,k，使它的接收功率最大化。考虑到毫米波信道的波束较窄，具有良好的方向性，并且收发两端的天线阵列响应矢量是一组只有相位不同的恒模矢量，因此可以考虑根据基站与第k个用户之间的基站天线阵列响应矢量，设计模拟预编码矢量wRF,k，而模拟合并矢量fRF,k则根据用户终端的天线阵列响应矢量来设计。对于用户k，首先估计出它所有信道的路径增益，并找出最大的路径增益所对应的离开角和到达角，然后设置模拟预编码矢量为，模拟合并矢量则设置为fRF,k=aMS（），通过这种设计，从而使第k个用户的接收功率最大化。

第二级数字部分设计的主要思想则是根据有效信道矩阵，采用合适的数字预编码方式消除系统中干扰的影响。对于第k个用户，当模拟预编码矢量和模拟合并矢量固定时，将它们与信道作用后生成的矩阵视为第k个用户的有效信道矢量 heq,k，即 heq,k=fRF,kHkWRF，因此，系统的有效信道矩阵Heq可以表示为：

其中，Heq∈CK×K，相对于原始信道 H∈CK×Nt，Heq具有较小的维度，因此，其数字部分的信号处理复杂度相对较低。

考虑到系统中存在着信道噪声和不同用户间的干扰，在数字部分采用RZF预编码来平衡两种干扰之间的影响，因此数字预编码矩阵WD可以表示为：

其中，ξ表示正则化系数，它的取值依赖于信道噪声方差σ2和基站的发射功率 P[18]。

综上所述，基于毫米波大规模MIMO的混合RZF预编码算法如下所示。

第一级：设计模拟预编码器和模拟合并器。

步骤1忽略用户之间的干扰，对每个用户终端k，k= 1,2,…，K，估计出信道所有的路径增益δi、离开角θi和到达角 φi。

步骤2 找出最大的路径增益所对应的离开角和到达角。

步骤3 基站端设置 WRF=[wRF，1，wRF，2，…，wRF，K]，其中wRF,k=aBS（），用户终端设置fRF,k=aMS（）。

第二级：设计数字预编码器。

步骤4 对每个用户终端 k，k=1,2,…，K，计算有效信道矢量heq,k=fRF,kHkWRF，并得到有效信道矩阵Heq。

步骤5基站根据Heq，采用RZF方式设计数字预编码矩阵，从而消除系统干扰的影响。

4 仿真分析

为了验证所提基于毫米波大规模MIMO的混合RZF预编码算法的有效性，分别在不同信噪比、不同天线数和不同用户数的条件下对所提算法的性能进行仿真分析，并与传统全数字BD预编码、参考文献[14]所提混合预编码算法和纯模拟预编码算法相比较。仿真毫米波频段为45 GHz，波长λ为6.7 mm，散射体数量L为12，天线之间距离d为0.5λ，所有仿真结果都是通过蒙特卡罗法对信道进行5 000次实验取平均得到的。

图3给出了在用户数为8个、基站天线数量为100根、用户终端天线数为4根的情况下，不同预编码算法在不同信噪比下所对应的系统和速率变化曲线。由图3可知，传统全数字预编码算法具有最优的系统和速率，但是它所需的RF链路数量与基站天线数量相同，会导致巨大的系统实现成本和能量消耗，这在毫米波大规模MIMO系统中是不可取的。纯模拟预编码算法通过低成本和低功耗的移相器来实现，虽然系统的实现成本和能量消耗较低，但是由于它受到恒模特性的限制，只能改变信号的相位，因此它的系统和速率最小。在整个信噪比范围内，所提基于毫米波大规模MIMO的混合RZF预编码算法的性能都要优于参考文献[14]所提的混合预编码算法，并且非常接近全数字预编码算法的性能，在相同信噪比下，所提混合预编码算法与全数字预编码算法相比，系统的和速率相差不到1 bit/(s·Hz)，这一性能损失主要是由基站端的模拟预编码矩阵和用户终端的模拟合并矩阵受恒模特性的限制所引起的。与全数字预编码算法相比，所提混合预编码算法的性能虽然有一定的降低，但是，与全数字预编码算法所需100个RF链路相比，它所需的RF链路数量仅为8个，因而大幅度降低了系统的实现成本，有利于毫米波大规模MIMO技术的应用。另一方面，在数字基带处理部分中，与全数字预编码算法需要处理维度为100×100的矩阵相比，所提算法只需要处理维度为 8×8的矩阵，因此，与全数字预编码算法相比，所提混合预编码算法的运算复杂度相对较低。

图3 不同预编码在不同信噪比下的和速率变化曲线

图4给出了用户数为8个、用户终端天线数量为4根、信噪比为 0 dB的情况下，不同预编码算法所对应的和速率随基站天线数量的变化曲线。由图 4可知，当用户数固定时，随着基站天线数量不断增大，系统的和速率显著提高，从而体现了增加系统天线数量给系统性能提升带来的好处。同时，仿真结果表明，所提混合预编码算法的性能要优于纯模拟预编码算法和参考文献[14]所提混合预编码算法，并且非常接近全数字预编码算法的性能。

图4 不同预编码在不同基站天线数量下的和速率变化曲线

图5给出了基站天线数量为256根、终端天线数量为4根、信噪比为0 dB的情况下，系统的和速率和每个用户的平均速率随用户数变化的仿真实验结果。由图5(a)可知，随着用户数的增加，所提混合预编码算法的系统和速率仍要优于参考文献[14]所提混合预编码算法，并且接近全数字预编码算法的系统和速率，但是当用户数增大到大于10后，所提算法与全数字预编码算法的性能差距逐渐增大，这是由于用户数增大时，用户间干扰增大造成的。从图5(b)中也可以看出，随着系统用户数的增加，每个用户的平均速率逐渐降低，这是因为用户数增加时，系统中用户之间的干扰逐渐增大，从而导致每个用户的平均速率降低。

图5 不同预编码在不同用户数下对应和速率与平均用户速率变化曲线

5 结束语

毫米波大规模MIMO系统采用传统的全数字预编码方案时需要使用大量的RF链路，导致系统的实现成本和能量消耗较高，不利于毫米波大规模MIMO技术的应用。针对这一问题，本文提出了一种基于毫米波大规模MIMO的混合 RZF预编码算法，该算法将基站端预编码器分为模拟和数字两部分，终端接收器则采用模拟合并器，在充分考虑信道特性的基础上，根据收发两端的天线阵列响应矢量设计模拟预编码矩阵和模拟合并矩阵，并根据生成的有效信道矩阵，在基带部分设计低维的RZF数字预编码，从而消除系统中噪声和用户间干扰的影响。与传统的全数字预编码方案相比，该方案只需使用少量的RF链路，并且能有效地降低数字基带处理部分的维度，从而大大降低了系统的实现成本和能量消耗。对所提算法与传统全数字预编码、纯模拟预编码和现有混合预编码算法在不同信噪比、不同天线数和不同用户数下的实验仿真比较结果表明，所提基于毫米波大规模MIMO的混合RZF预编码算法的性能要优于纯模拟预编码和现有混合预编码算法，并且非常接近全数字预编码算法的性能。

[1]阳析,金石.大规模MIMO系统传输关键技术研究进展[J].电信科学,2015,31(5):22-29. YANG X,JIN S.Overview of key technologies of transmission in massive MIMO system[J].Telecommunications Science,2015, 31(5):22-29.

[2]WANG T,LI G,DING J,et al.5G spectrum:is China ready[J]. IEEE Communications Magazine,2015,53(7):58-65.

[3]方箭,李景春,黄标,等.5G频谱研究现状及展望[J].电信科学,2015,31(12):103-110. FANG J,LI J C,HUANG B,et al.Review and prospect on the research of 5G spectrum[J].Telecommunications Science,2015, 31(12):103-110.

[4]LONG B L,LAU V,JORSWIECK E,et al.Enabling 5G mobile wireless technologies[J].EURASIP Journal on Wireless Communications and Networking,2015(1):1-14.

[5]LARSSON E G,EDFORS O,TUFVESSON F,et al.Massive MIMO for next generation wireless systems [J]. IEEE Communications Magazine,2014,52(2):186-195.

[6]CHEN L,YANG Y,CHEN X,et al.Multi-stage beamforming codebook for 60 GHz WPAN[C]//International ICST Conference on Communications&Networking,Aug 17-19,2011,Chengdu, China.New Jersey:IEEE Press,2011:361-365.

[7]HUR S,KIM T,LOVE D J,et al.Millimeter wave beamforming for wireless backhaul and access in small cell networks[J].IEEE Transactions on Communications,2013,61(10):4391-4403.

[8]SOHRABI F,YU W.Hybrid digital and analog beamforming design for large-scale antenna arrays[J].IEEE Journal of Selected Topics in Signal Processing,2016,10(3):1.

[9]AYACHOE,RAJAGOPAL S,ABU-SURRA S,etal.Spatially sparse precoding in millimeterwave MIMO systems[J].IEEE Transactions on Wireless Communications,2013,13(3):1499-1513.

[10]ALKHATEEB A,EL AYACH O,LEUS G,et al.Hybrid precoding for millimeter wave cellular systems with partial channel knowledge[C]//Information Theory and Applications Workshop,Feb 10-15,2013,San Diego,California,USA.New Jersey:IEEE Press,2013:1-5.

[11]RUSU C,MENDEZ-RIAL R,GONZALEZ-PRELCICY N,et al. Low complexity hybrid sparse precoding and combining in millimeter wave MIMO systems[C]//IEEE International Conference on Communications,June 8-12,2015,Hangzhou,China.New Jersey:IEEE Press,2015:1340-1345.

[12]ZHANG E,HUANG C.On achieving optimal rate of digital precoder by RF-baseband codesign for MIMO systems[C]// Vehicular Technology Conference,Sept 14-17,2014,Vancouver, BC,Canada.New Jersey:IEEE Press,2014:1-5.

[13]LI N,WEI Z,GENG J,et al.Multiuser hybrid beamforming for max-min SINR problem under 60 GHz wireless channel[C]// IEEE International Symposium on Personal,Indoor,and Mobile Radio Communication,Sept 2-5,2014,Washington,DC,USA. New Jersey:IEEE Press,2014:123-128.

[14]LIANG L,XU W,DONG X.Low-complexity hybrid precoding in massive multiuser MIMO systems[J].IEEE Wireless Communications Letters,2014,3(6):653-656.

[15]RAPPAPORT T S,SUN S,MAYZUS R,et al.Millimeter wave mobile communications for 5G cellular:it will work[J].Access IEEE,2013,1(1):335-349.

[16]RAGHAVAN V,SAYEED A M.Sublinear capacity scaling laws for sparse MIMO channels[J].IEEE Transactions on Information Theory,2011,57(1):345-364.

[17]ALKHATEEB A,AYACH O E,LEUS G,et al.Channel estimation and hybrid precoding for millimeter wave cellular systems[J].IEEE Journal of Selected Topics in Signal Processing, 2014,8(5):831-846.

[18]AXEL M,ABLA K,EMIL B,et al.Linear precoding based on polynomial expansion:reducing complexity in massive MIMO[J]. EURASIP Journal on Wireless Communications and Networking, 2016(1):1-22.

Hybrid RZF precoding algorithm for mmW ave massive M IMO system

XIE Bin,XIE Shumin,LIU Shurui
Jiangxi University of Science and Technology,Ganzhou 341000,China

The high cost of system and high power consumption of the traditional full digital precoding in mmWave massive MIMO systems was studied,which caused by a large number of radio frequency(RF)chain.A scheme with hybrid precoder at base station and analog combiner at user terminal was proposed.Based on the consideration of the channel characteristic,the analog precoding vectors and analog combining vectors were designed according to the antenna array response vectors of transmitting and receiving ends,respectively.Then a low dimension digital precoding was used to eliminate the influence of system noise and inter-user interference on the basis of the effective channel matrix.Simulation results show that,on the basis ofeffectively reducing the number of RF chain required by the system, the proposed hybrid precoding algorithm approach the performance of the fulldigitalprecoding.

mmWave,massive MIMO,hybrid precoding,analog combining,sum rate

TN928

：A

10.11959/j.issn.1000-0801.2017062

谢斌（1977-），男，江西理工大学副教授，主要研究方向为大规模MIMO系统关键技术、信号处理等。

谢舒闽（1988-），男，江西理工大学硕士生，主要研究方向为大规模MIMO技术。

刘述睿（1992-），男，江西理工大学硕士生，主要研究方向为大规模MIMO技术。

2017-01-10；

2017-03-02

国家自然科学基金资助项目（No.61363076）；江西省自然科学基金资助项目（No.20142BAB207020）

Foundation Item s:The National Natural Science Foundation of China(No.61363076),The Natural Science Foundation of Jiangxi Province of China(No.20142BAB207020)