李小文 范艺芳 侯宁宁

摘 要：大规模多输入多输出（MIMO）系统中，随着天线数目的增加，传统的信号检测算法的检测性能大幅度下降，复杂度呈指数增长，且不适用于高阶调制。针对大规模MIMO场景，基于阴影域思想提出一种结合二次规划（QP）与分支界限（BB）算法的搜索树检测算法。首先，构造QP模型，并针对一阶QP算法后的解向量，提取落入阴影域的不可靠符号; 然后，将落入阴影域的不可靠符号进行BB搜索树检测以求得最优解; 同时，为了降低复杂度，提出三种搜索树修剪策略，在性能和复杂度之间折中选择。仿真结果表明，在大规模MIMO场景下，在调制阶数为6的正交幅度调制（QAM）时，提出的基于阴影域搜索树检测算法比QP算法提升了约20dB的性能增益，在256QAM调制时，比QP算法提升了约21dB的性能增益，验证了算法对高阶调制的适应性，同时，与传统的搜索树算法相比，使用相同修剪策略，复杂度降低了50%左右。

关键词：多输入多输出;二次规划;阴影域;分支界限;高阶调制

中图分类号：TN929.5

文献标志码：A

Abstract： In massive MultipleInputMultipleOutput （MIMO） system， as the increse of antenna number， traditional detection algorithms have lower performance， higher complexity， and they are not suitable for high order modulation. To solve the problem， based on the idea of shadow domain， a search tree detection algorithm combining Quadratic Programming （QP） and Branch and Bound （BB） algorithm was proposed. Firstly， with QP model constructed， the unreliable symbols from solution vector of firstorder QP algorithm were extracted; then， BB search tree algorithm was applied to the unreliable symbols for the optimal solution; meanwhile three pruning strategies were proposed to reach a compromise between complexity and performance. The simulation results show that the proposed algorithm increases 20dB performance gain compared with the traditional QP algorithm in 64 Quadrature Amplitude Modulation （QAM） and increases 21dB performance gain compared with QP algorithm in 256 QAM. Meanwhile， applying the same pruning strategies， the complexity of the proposed algorithm is reduced by about 50 percentage points compared with the traditional search tree algorithm.

英文關键词Key words： MultipleInputMultipleOutput （MIMO）; Quadratic Programing （QP）; shadow domain; Branch and Bound （BB）; high order modulation

0 引言

大规模多输入多输出（MultipleInputMultipleOutput， MIMO）是5G的关键技术之一[1]，可实现更高的传输速率，提升系统容量。该系统在信道估计、天线相关性、硬件实现，以及低复杂度的信号检测方面是非常具有研究意义的[2-3]。人们在传统的MIMO系统中提出了许多线性检测和接近最大似然检测算法，例如，在文献[4]提出的多阶段球形译码检测算法与文献[5]提出的Kbest球形检测算法，能够达到近似最大似然（Maximum Likelihood， ML）检测算法的……