1.   引言

随着信息时代对通信系统性能的要求提高，大规模多输入多输出(Multiple Input Multiple Output, MIMO)因较高的频谱利用率和链路可靠性而成为第5代移动通信系统的关键技术之一。然而，为了追求更高的数据传输速率，多用户多输入多输出(MU-MIMO)技术已经发展并逐步演变为大规模MU-MIMO系统，其中基站端通常配置有数百根天线，同时服务多个单天线终端用户^[1]。

在大规模MIMO系统中，由于用户数和基站接收天数的增加，导致基站的信号检测复杂度高、效率低。因此，低复杂度信号检测算法成为研究的热点，经典的MMSE(Minimum Mean Square Error)检测算法由于其大量的矩阵求逆过程而使得计算复杂度很高，难以应用于实际的大规模MIMO系统中^[2,3]。近年来，研究者提出了一些低复杂度的信号检测算法，如基于因子图模型的消息传递类算法，因其良好的检测性能在大规模MIMO系统中被广泛研究^[4]。其中基于因子图的置信度传播(Belief Propagation, BP)算法，有较低的计算复杂度且随着大规模MIMO矩阵维度的增加检测性能趋于最优。但由于因子图为全连接结构，BP算法存在环路效应带来收敛慢或不收敛等问题，从而导致算法检测性能下降。针对BP算法的环路效应，文献[5]提出阻尼BP和混合阻尼BP算法。虽然解决了环路效应带来的收敛问题，但与原始BP算法相比，增加了计算复杂度，且存在最佳阻尼因子获取较难的问题^[6]。文献[7]提出了一种基于因子图的近似消息传递(Approximate Message Passing, AMP)检测算法，主要利用中心极限定理和泰勒级数对BP算法近似，在传递过程只需传递均值和方差，不再传递概率密度函数^[8]，从而减少了传递的消息量，显著降低了算法的计算复杂度。在近似消息传递算法的基础上，文献[9]利用大规模MIMO系统中的信道硬化理论，提出一种消息传递检测(Message Passing Detection, MPD)算法。文献[10]基于MPD算法，选择部分符号概率计算每次迭代过程中传递的消息，从而得到低复杂度的概率近似消息传递检测(Probability Approximation Message Passing Detection, PA-MPD)算法。其中采用信道硬化理论避免了复杂的矩阵运算，且等效噪声近似为高斯分布，因此在消息传递算法迭代过程中仅需传递均值和方差^[11,12]。MPD算法的计算复杂度与MMSE检测算法的复杂度相当，PA-MPD算法的计算复杂度低于MMSE检测算法，而MPD和PA-MPD算法的检测性能比MMSE的高，但是MPD和PA-MPD算法的计算复杂度也会随着用户数和调制阶数的增加而增加，应用于高阶调制系统中同样存在挑战^[13-15]。

本文在PA-MPD算法基础上，利用提前终止迭代的策略，提出了一种改进的概率近似消息传递检测(Improved Probability Approximation Message Passing Detection, IPA -MPD)算法，根据用户的符号概率收敛快慢来确定最佳的算法迭代次数，从而通过避免多余的算法迭代来降低PA-MPD算法的计算复杂度。仿真结果表明，与PA-MPD算法相比，IPA-MPD算法在保证检测性能的同时，能有效地降低计算复杂度。

2.   大规模MIMO系统模型

在多用户的大规模MIMO系统中，设有$K$个单天线用户，基站侧有$N(N > K)$根接收天线。在上行链路中，多个用户同时向基站发送信号，因此基站端的接收信号模型为

${\tilde{ y}} = {[{\tilde y_1},{\tilde y_2}, ··· ,{\tilde y_N}]^{\rm{T}}} \in {{\mathbb C}^{N \times K}}$为接收信号， ${\tilde{ H}} \in {{\mathbb C}^{{{N}} \times {{K}}}}$为信道增益矩阵，它是一个独立同分布的复高斯矩阵，${h_{ij}}$是第$j$个用户天线到第$i$个基站天线的信道增益，它是均值为0方差为$\sigma _j^2 = 1$的复高斯过程。${\tilde{ n}} \in {{\mathbb C}^{N \times 1}}$为$N \times 1$维加性高斯白噪声，且${\tilde n_i} \sim {\rm{CN}} (0,\sigma _{{{{\rm{n}}}}}^2)$。其中${\tilde{ x}} = {[{\tilde x_1},{\tilde x_2}, ··· ,{\tilde x_K}]^{\rm{T}}} \in {{\mathbb C}^{K \times 1}}$为$K$个单天线用户的发送信号，发送向量中的每个元素${\tilde x_i}$为QAM调制符号。式(1)的实数域模型可表示为

其中${{H}} \triangleq \left[ {\begin{array}{*{20}{c}} {{\rm{Re}} ({\tilde{ H}})}&{ - {\rm{Re}} ({\tilde{ H}})} \\ {{\rm{Im}} ({\tilde{ H}})}&{{\rm{Im}} ({\tilde{ H}})} \end{array}} \right]$, ${{y}} \triangleq \left[ {\begin{array}{*{20}{c}} {{\rm{Re}} ({\tilde{ y}})} \\ {{\rm{Im}}({\tilde{ y}})} \end{array}} \right]$, ${{x}} \triangleq \left[ {\begin{array}{*{20}{c}} {{\rm{Re}}({\tilde{ x}})} \\ {{\rm{Im}}({\tilde{ x}})} \end{array}} \right]$, ${{n}} \triangleq \left[ {\begin{array}{*{20}{c}} {{\rm{Re}} ({\tilde{ n}})} \\ {{\rm{Im}}({\tilde{ n}})} \end{array}} \right]$, ${\rm {Re}} ( \cdot )$和${\rm {Im}} ( \cdot )$分别表示实部和虚部。${{H}} \in {{\mathbb R}^{2N \times 2K}},{{y}} \in {{\mathbb R}^{2N}},{{n}} \in {{\mathbb R}^{2N}}$和${{x}} \in {{\mathbb R}^{2K}}$。因此，复数域星座点集合${\mathbb A}$对应的$N \times K$复数域MIMO系统，等效于实数域星座点集合${\mathbb B}$对应的$2N \times 2K$维实数域MIMO系统。这意味着发送符号的星座点集合从$M$减少到$\sqrt M$，可以得到${x_i} \in {\mathbb B}$

3.   消息传递检测算法

3.1   MPD算法和PA-MPD算法

MPD算法^[9]分为消息传递和${{{H}}^{\rm{T}}}{{H}}$估计。将式(2)两端同乘${{{H}}^{\rm{T}}}$后改写为

其中，${{z}} \triangleq \dfrac{{{{{H}}^{\rm{T}}}{{y}}}}{N},\,{\rm{ }}{{J}} \triangleq \dfrac{{{{{H}}^{\rm{T}}}{{H}}}}{N},\,{\rm{ }}{{v}} \triangleq \dfrac{{{{{H}}^{\rm{T}}}{{n}}}}{N}$。${{z}}$的第$i$个向量可以表示为

其中，${{J}}$和${{Z}}$可通过信道估计得到。令${g_i} \triangleq \displaystyle\sum\nolimits_{j = 1,j \ne i}^{2K} {{J_{ij}}{x_j} + {v_i}}$表示干扰和噪声，假设${g_i}$是均值为${\mu _i}$方差为$\sigma _i^2$的高斯分布，由中心极限定理可知，随着$N$和$K$的增加高斯近似将会更加准确^[16,17]。${\mu _i}$和$\sigma _i^2$可以通过式(6)和式(7)计算得到

其中$\sigma _v^2 = \sigma _{{\rm{n}}}^2/(2N)$。由于高斯近似，符号${x_i}$的后验概率可表示为

从式(8)中可以得到符号${x_i}$的对数似然比${L_i} = \{ ({L_i}({s_1}),{L_i}({s_2}), ··· ,{L_i}({s_k}))\}$为

其中，$k = 1,2, ··· ,\sqrt M$。符号概率为

MPD算法的消息传递过程可表示为图1所示的因子图模型，图中的节点代表数据符号${{X}}$, $2K$个节点对应于发送向量${{X}}$中的$2K$个元素。第$i$个节点利用信道估计得出的${{J}}$, ${{Z}}$信息和传入的后验符号概率$\{ {p_1},{p_2}, ···,{p_{i - 1}},{p_{i + 1}}, ··· ,{p_{2K}}\}$计算获得符号${x_i}$的后验概率。MPD算法的初始符号概率设为${p_i} = {1 / {\sqrt M }}$，消息传递过程达到预先设置的最大迭代次数后，终止算法迭代。

图 1  MPD算法的消息传递过程

下载: 全尺寸图片 幻灯片

在MPD算法的信道估计中，假设${{{X}}_p} = P{{{I}}_{2K}}$是幅度为$P$的导频矩阵，则接收端得到的导频信息为

其中$P{\rm{ = }}\sqrt {KE}$, $E$表示符号平均能量，${{{W}}_p}$表示噪声矩阵。噪声$J$的估计值为

向量${{Z}}$的估计值为

文献[10]提出的概率近似消息传递检测(PA-MPD)算法，在每次迭代过程中计算传递消息时根据符号概率值的大小选择部分符号概率，从而减少了计算消息传递的均值与方差所需的符号概率的数量，即利用$n$个最大的符号概率来计算$E({x_i})$和${\rm{Var}}({x_i})$的估计值。由于剩余$\sqrt M - n$符号概率的影响可以忽略不计，获得的均值和方差的估计非常接近实际值。当每次选取合适的更新点数时，PA-MPD算法损失的检测性能可以忽略不计，且显著降低了消息传递过程的计算复杂度。

3.2   改进的概率近似消息传递检测算法

PA-MPD提供了一种减少MPD算法计算复杂度的方法，但是该方法没有考虑不同用户符号概率收敛的差异性。在用户符号概率收敛快的情况下，为检测算法预设最大迭代次数${T_{\max }}$会使检测过程产生不必要的迭代计算。本文提出了一种改进的概率近似消息传递检测(Improved Probability Approximation Message Passing Detection, IPA-MPD)算法，基于符号概率的收敛率$R$来确定不同用户的最佳算法迭代次数$t$，从而节省${T_{\max }} - t$次迭代，降低算法的计算复杂度。

IPA-MPD需要计算得到不同用户的符号概率在迭代过程中的收敛率$R({x_j})$，当收敛率小于预设的阈值$T(0 \le T \le 1)$时，用户的符号概率趋于定值，算法检测性能不再随着迭代次数的增加而提升，表示当前用户的符号概率已经实现了最佳收敛。较低阈值的IPA-MPD方案能实现更好的符号概率收敛，并且能提供更高的误码率(Bit Error Ratio, BER)增益。符号概率的收敛率定义如式(14)所示

其中，$p_{{x_j}}^t$表示用户$j$在第$t$次迭代的符号概率值。

综合上述的分析，得到“改进的概率近似消息传递检测(IPA-MPD)算法”如表1所示。

表 1  IPA-MPD算法

输入：$J,Z,\sigma _v^2,\varDelta ,T$

输出：L

1: 初始化：${p_i}({s_k}) = \dfrac{1}{ {\sqrt M } },i = 1,2, ··· ,2K,k = 1,2, ··· ,\sqrt M ,$ 　　${R^1}({x_j}) = 1$

2: ${\rm{for} }\;t = 1\;{\rm{do}}$

3: 　　${\rm{for} }\;i = 1\;{\rm{to}}\;2K\;{\rm{do}}$ 　4: 　　　${{\mu }_{i}}\leftarrow \displaystyle\sum\limits_{j=1,j\ne i}^{2K}{{{J}_{ij}}\displaystyle\sum\limits_{\forall s\in \mathbb{B}}{sp_{j}^{t-1}(s)}}$

5: 　　　$\sigma _{i}^{2}\leftarrow \displaystyle\sum\limits_{j=1,j\ne i}^{2K}J_{ij}^{2}\left(\displaystyle\sum\limits_{\forall s\in \mathbb{B} }{ { {s}^{2} }p_{j}^{t-1}(s)}-E{ {({ {x}_{j} })}^{2} } \right)+\sigma _{v}^{2}$

6: 　　　${{L}_{i}}\leftarrow \dfrac{2{{J}_{ii}}}{\sigma _{i}^{2}}({{z}_{i}}-{{\mu }_{i}})$

7: 　　　${ { {\tilde{p} } }_{i} }\leftarrow \dfrac{ { {{\rm{e}}}^{ { {L}_{i} } } }}{1+{ {{\rm{e}}}^{ { {L}_{i} } } }}$

8: 　　　${p_i} \leftarrow (1 - \varDelta ){ {\tilde p}_i} + \Delta { {\tilde p}_i}$

9: 　　　${A_i} \leftarrow {\rm{sort}}({\rm{ }}{p_i})$

10: 　　end

11: end

12: ${\rm{for} }\;t = 2\;{\rm{to}}\;{T_{\max } }\;{\rm{do}}$

13: 　　${\rm{for} }\;i = 1\;{\rm{to}}\;2K\;{\rm{do}}$

14: 　　　${\rm{if}}\;{R^{t - 1}}({x_i}) < T$

15: 　　　　终止迭代

16: 　　　else 　17: 　　　　${\mu _i} \leftarrow \displaystyle\sum\limits_{j = 1,j \ne i}^{2K} { {J_{ij} }\displaystyle\sum\limits_{p_j^{t - 1}(s) \in {A_j}(1,2, ··· ,M)} {sp_j^{t - 1}(s)} }$

18: 　　　　$\sigma _i^2 \leftarrow \displaystyle\sum\limits_{j = 1,j \ne i}^{2K} {J_{ij}^2}\left (\displaystyle\sum\limits_{p_j^{t - 1}(s) \in {A_j}(1,2, ··· ,M)} {sp_j^{t - 1}(s)} - \right.$ 　　　　　　$\Biggl.{19} E{({x_j})^2} \Bigggr){19}+ \sigma _v^2$

19: 　　　　${L_i} \leftarrow \dfrac{{2{J_{ii}}}}{{\sigma _i^2}}({z_i} - {\mu _i})$

20: 　　　　${ {\tilde p}_i} \leftarrow \dfrac{ { {{\rm{e}}^{ {L_i} } } }}{ {1 + {{\rm{e}}^{ {L_i} } } }}$

21: 　　　　${p_i} \leftarrow (1 - \varDelta ){ {\tilde p}_i} + \Delta { {\tilde p}_i}$

22: 　　　　${A_i} \leftarrow {\rm{sort}}({\rm{ }}{p_i})$

23: 　　　　${R^t}({x_i}) \leftarrow \displaystyle\sum\limits_{k = 1}^{\sqrt M } {|p_{{x_i}}^t({s_k}) - p_{{x_i}}^{t - 1}({s_k})|}$

24: 　　　end

21: 　　end

22: end

下载: 导出CSV 

| 显示表格

与PA-MPD相比，IPA-MPD需要在每次迭代过程结束之前计算每个用户的符号概率收敛速率，并将其与预设的阈值进行比较。虽然在每次迭代时IPA-MPD比PA-MPD复杂，但是由于IPA-MPD避免了多余的算法迭代，可以减少整个检测过程的计算复杂度。

4.   性能与复杂度分析

为了比较分析IPA-MPD和PA-MPD算法的检测性能及计算复杂度，本节采用了文献[10]的仿真参数。其中，IPA-MPD和PA-MPD算法的最大迭代次数${T_{\max }}$相同，即16QAM, 64QAM和256QAM调制时${T_{\max }}$分别为7, 13和13。基站端接收天线数$N$为128，单天线用户数$K$分别为8, 16, 32。PA-MPD-a及IPA-MPD-a其中$a = n$，对应选择$n$个最大符号概率的方案。

4.1   误码率性能分析

图2对比了调制方式为16QAM、基站天线数$N = 128$、单天线用户数$K = 8$时，不同阈值T的IPA-MPD算法BER性能。从图2可以看出，PA-MPD-1和$T = 0.1$的IPA-MPD-1误码率曲线完全重合。此时，$T = 0.2$的IPA-MPD-1算法的误码率性能比上述两种差，但仍然在容许的误差范围内。当$T = 0.5$时，IPA-MPD-1方案与PA-MPD-1方案相比，检测性能存在很大的损失。不同阈值T对应的IPA-MPD方案计算复杂度将在4.2节分析。

图 2  不同阈值下IPA-MPD算法性能对比

下载: 全尺寸图片 幻灯片

图3仿真验证了多个用户采用多种调制方式时，IPA-MPD算法的误码率性能，其中N=128, K=16。16个单天线用户中8个单天线用户采用16QAM的调制方式，剩余8个单天线用户采用64QAM的调制方式，图例中的$T1$和$T2$分别表示用户采用16QAM和64QAM调制方式时算法IPA-MPD-2的收敛率阈值。IPA-MPD-2算法针对两种调制方式均设置为相同的阈值0.1时，IPA-MPD-2能实现与PA-MPD-2相同的检测性能。此时，IPA-MPD-2算法阈值设置与8单天线用户采用16QAM或64QAM调制方式的IPA-MPD-2算法阈值相同，IPA-MPD-2算法阈值设置小于16个单天线用户采用16QAM或64QAM调制方式的IPA-MPD-2算法阈值。

图 3  不同调制方式下IPA-MPD算法与PA-MPD算法性能对比

下载: 全尺寸图片 幻灯片

在图4中比较了3种调制方式和不同单天线用户配置下，IPA-MPD与PA-MPD的误码率曲线，其中N=128。从图4中可以看出，当在同一收敛率阈值下，随着发送天线数的增加，IPA-MPD算法的检测性能损失变大。这是由于单天线用户数增加引起的符号间干扰增大，IPA-MPD算法的检测性能降低。与此同时，随着调制阶数的增加，为了保证原有PA-MPD算法的误码率，需要降低IPA-MPD算法的收敛率阈值。

图 4  3种调制方式下两种算法的性能对比

下载: 全尺寸图片 幻灯片

4.2   计算复杂度分析

消息传递检测算法的计算复杂度由算法迭代过程中的乘法运算、加法运算以及迭代次数确定。本小节对比分析不同天线配置、调制方式和阈值下IPA-MPD与PA-MPD的计算复杂度。

表2列出了在3种调制方式下，IPA-MPD与PA-MPD算法的加法运算次数和乘法运算次数。假设所有用户发送信号的最佳检测迭代次数平均值为${t_{{\rm{ave}}}}$，其中n表示在所有$\sqrt M$个符号概率中选取$n$个最大的符号概率来更新均值和方差。

表 2  M-QAM调制下PA-MPD^[10]算法和IPA-MPD算法的实数域乘法和加法次数

算法名称	加法	乘法
PA-MPD-n	$\begin{array}{l}((2n + 1)(2K - 1) - 2)2K(t - 1)\\ + ((2\sqrt M {\rm{ + 1}})2K - 1 - {\rm{1}}){\rm{2}}K\end{array}$	$\begin{array}{l} (2n + 1)(2K - 1)2K(t - 1) \\ + (2\sqrt M + 1)(2K - 1)2K \\ \end{array}$
IPA-MPD-n	$\begin{array}{l}((2n + 1)(2K - 1) - 2)2K({t_{{\rm{ave}}}} - 1)\\ + ((2\sqrt M {\rm{ + 1}})2K - 1 - {\rm{1}}){\rm{2}}K\end{array}$	$\begin{array}{l}(2n + 1)(2K - 1)2K({t_{{\rm{ave}}}} - 1)\\ + ((2\sqrt M {\rm{ + 1}})2K - 1 - {\rm{1}}){\rm{2}}K\end{array}$

下载: 导出CSV 

| 显示表格

IPA-MPD的优点在于避免每个用户不必要的算法迭代。从表2可以得到，PA-MPD和IPA-MPD算法之间的差异主要反映在迭代次数上。为了进一步直观地得出两种算法的计算复杂度差异，这里用计算复杂度比值(Computational Complexity Ratio, CCR)来定义IPA-MPD与PA-MPD的复杂度之比。

图5为16QAM调制和单天线用户为8, N=128的配置下，IPA-MPD-1相对于PA-MPD-1的CCR曲线。图中表明，当$T$为0.1时，IPA-MPD-1具有最佳检测性能，此时IPA-MPD-1与PA-MPD的CCR值为77%。随着$T$值的增加，CCR变小，这表明通过减少不必要的算法迭代能有效降低计算复杂度。

图 5  不同阈值下IPA-MPD算法计算复杂度对比

下载: 全尺寸图片 幻灯片

图6为多单天线用户分别采用16QAM和64QAM调制方式下，N=128, K=16时，IPA-MPD-2与PA-MPD-2的CCR曲线。由图可知，IPA-MPD算法可针对不同的调制方式设置不同的算法收敛率阈值，准确地得到每个用户符号概率实现最佳收敛时的算法迭代次数，来降低算法的计算复杂度。

图 6  不同调制方式下IPA-MPD算法与PA-MPD算法计算复杂度对比

下载: 全尺寸图片 幻灯片

在图7中比较了3种调制方式和不同单天线用户配置下，N=128, IPA-MPD与PA-MPD的计算复杂度比值。由图可知，采用高阶调制时改进算法的计算复杂度降低趋势更为明显，且IPA-MPD算法的复杂度最大限度能降低为PA-MPD计算复杂度的52%。

图 7  3种调制方式下IPA-MPD与PA-MPD计算复杂度比值曲线

下载: 全尺寸图片 幻灯片

通过上述算法复杂度分析可知，在保证信号检测性能的前提下，与PA-MPD算法相比，IPA-MPD算法可以显著地降低计算复杂度，更能适用于大规模MIMO高阶调制系统。

5.   结束语

本文主要研究大规模MIMO系统的低复杂度检测算法，由于概率近似消息传递检测算法会产生不必要的算法迭代，增加了计算复杂度。本文提出了一种基于提前终止迭代策略的概率近似消息传递算法，该算法通过避免大规模MIMO系统中多余的算法迭代来降低检测算法的复杂度。仿真结果表明，在IPA-MPD算法中预设恰当的收敛率阈值，可以在保证检测性能的同时降低计算复杂度，更适用于大规模MIMO系统。