1.   引言

基于频谱效率和链路可靠性等方面的优越性能，大规模MIMO成为5G和未来移动无线通信系统的关键技术之一^{[1, 2]}。大规模MIMO系统配备的发射和接收天线都非常多，随着天线数量的增加，信号检测算法的复杂度急剧增加，用户间的干扰也会影响检测性能。对于MIMO信号检测，最优的检测器是最大似然^[3] (Maximum Likelihood, ML)检测，但是其复杂度随着信号调制阶数和天线数量的增加呈指数级增长。为了降低复杂度，比如匹配滤波(Matched Filtering, MF)、迫零(Zero Forcing, ZF)和最小均方误差(Minimum Mean Square Error, MMSE)检测器等线性检测器得以提出，但是其性能有待提高。传统常规MIMO系统中有球面检测^[4] (Sphere Decoding, SD)和干扰消除^[5,6] (Interference Cancellation, IC)等非线性检测算法。SD是次优检测器，它是尝试搜索以接收向量为中心规定半径的球内格点来减小搜索空间，从而减少计算复杂度。IC算法又可以分为串行干扰消除^[6]( Successive Interference Cancellation, SIC)算法和并行干扰消除(Parallel Interference Cancellation, PIC)^[5]算法。PIC算法可以提高接收端信号检测的差错恢复能力和误码率性能，但它也是以付出更大复杂度为代价的，且硬件设备也较为昂贵，所以在实际应用中并不一定适用。因此，在实际MIMO系统中通常选用SIC算法。为此，Wang及Liu等人^[7,8]分别提出ZF-SIC, MMSE-SIC检测算法，在ZF和MMSE的基础上分别引入SIC，相比于传统的ZF和MMSE，在性能方面得到了很大的提升。

近年来，深度学习(Deep Learning, DL)已经在图像识别^[9]、自然语言处理^[10]和语音识别^[11]等领域取得了巨大成功，在无线通信系统中的应用也受到了业界广泛关注，特别是针对MIMO系统信号检测。深度学习的模型有很多，目前最常用的深度学习模型与架构包括卷积神经网络(Convolutional Neural Network, CNN)、递归神经网络(Recurrent Neural Network, RNN)和深度神经网络(DNN)等。在常规MIMO信号检测方面，Xia等人^[12]提出使用CNN来消除MIMO检测时的相关干扰，有效利用CNN迅速提取特征和去噪的能力，从而提升检测性能。Sun等人^[13]提出一种学习搜索MIMO检测算法，其思想是通过训练长短期记忆(Long Short Term Memory, LSTM)模型来学习最优决策策略，使其在固定信道模型和变化信道模型下均获得接近最大似然检测的性能，并且对于不完全信道状态信息的MIMO检测问题具有鲁棒性。He等人^[14]提出了基于深度学习模型驱动的正交近似消息传递网络(OAMPNet)，只需要优化很少的可调参数，即可使得网络快速收敛，并且具有良好的性能。另一方面，针对大规模MIMO系统，研究者相继提出了基于深度学习模型驱动的干扰消除算法^[15]、基于深度学习的消息传递检测(DNN-MPD)^[16]以及检测网络(DetNet)^[17]等检测算法。然而目前的这些检测算法主要聚焦于设计适合深度学习的迭代信号处理结构，均未特别地考虑用户间的干扰且各自存在不足：DNN-MPD 中包含循环因子图^[18]，并且需要选择恰当的补偿因子和修正因子，涉及的可调参数较多，不仅复杂度高，而且具有很大的延迟性，这不适用于延迟性敏感的系统；DetNet是采用全连接的方式，需要训练的参数很多，复杂度会随着训练层数和神经元个数的增加而增加。因此，对DetNet进行了改进优化，Gao等人^[19]提出了稀疏连接网络ScNet (Sparsely connected neural Network)，在复杂度和误码率性能方面均得到了提升。文献中现有的典型MIMO信号检测算法对比如表1所示。

表 1  MIMO信号检测算法对比

算法分类		算法名称	对比总结
传统检测算法	线性检测算法	MF[20], ZF[7], MMSE[8]	(1) ML性能最优，但复杂度呈指数级上升；(2) SD性能次优，是以牺牲复杂度为代价；(3) 其他算法复杂度较低，但性能有待提高
	非线性检测算法	ML[3]，干扰消除算法[5, 6]，SD[4]
基于深度学习 检测算法	学习类算法	DetNet[17], ScNet[19], LISA[13]	(1) DetNet对天线数量有严格要求，复杂度偏高；(2) ScNet受网络稀疏性影响，仅在大规模才表现出较好的性能；(3) LISA仅适用于常规的MIMO信号检测
	消息传递类算法	OAMPNet[14], DNN-dBP[16], DNN-MS[16]	(1) OAMPNet可调参数少，容易训练，但需假设信道矩阵是酉不变矩阵；(2) DNN-dBP和DNN-MS涉及可调参数较多，复杂度偏高
	可训练类算法	TPG[21], TAMP[22]	(1) TPG主要针对下行链路过载信道；(2) TAMP采用全连接作预处理，可调参数多，复杂度偏高

下载: 导出CSV 

| 显示表格

由上述问题启发，本文考虑将用户间干扰消除SIC与改进的基于深度学习检测算法ImpScNet (Improved Sparsely connected neural Network)相结合，提出一种新的检测算法ImpScNet-SIC。该算法的设计思想与具体步骤在第5节进行详细阐述，并且与现有的典型检测算法进行性能对比验证和复杂度评估分析。理论分析与实验结果表明，本文所提出的ImpScNet-SIC算法不仅收敛速度快，收敛稳定，而且误码率也得到了较大提升。

2.   系统模型

本文考虑大规模MIMO系统上行链路，该系统由$M$个单天线用户和具备$N$个接收天线的基站组成，接收信号矢量$\bar{\boldsymbol{y}}$由式(1)给出

其中，$\bar{\boldsymbol{ x}} = {[{ \bar x_{\text{1}}},{ \bar x_{\text{2}}}, \cdots ,{ \bar x_M}]^{\text{T}}}$表示传输符号向量，为所有用户同时发送的$M \times 1$维符号向量，${\bar x_m} \in { \bar{\mathcal{A}}^M} =$ $\{ {s_1},{s_2}, \cdots ,{s_{{2^K}}}\}$是来自第$m$个调制阶数的信号，${s_i}$表示星座图上包含$M$个比特的第$i$个星座点；$\bar{\boldsymbol{H}} \in {\mathcal{C}^{N \times M}}$表示信道矩阵，$\bar{\boldsymbol{H}}$中的元素${h_{ij}}$表示第$j$根发射天线和第$i$根接收天线之间的复信道增益，且各个元素的统计特性服从均值为0，方差为1的复高斯分布；$\bar{\boldsymbol{ w}}$表示$N \times 1$的均值为0、协方差矩阵为${\sigma ^2}{{\boldsymbol{I}}_N}$的加性高斯白噪声向量。

在深度学习框架中，对复数域的信号很难处理。为了避免问题的复杂化，将复数模型式(1)转化为等价的实数模型

其中，${\boldsymbol{x}} \in {\mathbb{R}^{{\text{2}}M}}$，${\boldsymbol{H}} \in {\mathbb{R}^{2N \times 2M}}$，${\boldsymbol{y}} \in {\mathbb{R}^{2N}}$，${\boldsymbol{w}} \in {\mathbb{R}^{2N}}$以及$\mathcal{A} = \bar\Re ( \bar{\mathcal{A}})$，$\mathcal{A}$是$\bar{\mathcal{A}}$的实部，其大小取决于调制星座模型。

其中，$\Re ( \cdot )$和$\Im ( \cdot )$分别表示复向量的实部和虚部。

3.   干扰消除

在传统的MIMO检测系统中，最优检测方案是ML检测。但随着天线数量和信号调制阶数的增加，ML检测的复杂度呈指数级增加。因此ML检测很少用于实际的MIMO检测，而是作为MIMO检测性能的基准方案，其基本模型可以表示为

在传统的MIMO系统中，除了线性检测算法以外，也经常使用非线性检测算法及其改进和优化之后的算法，且检测性能较好。线性信号的检测算法的主要思想是干扰置零，对接收到的信号进行线性加权，以满足某种准则，分离出不同的发送信号，然后对每个信号进行检测。然而在大规模MIMO系统中，需要充分考虑干扰的影响，部分非线性检测算法可以有效解决这个问题，其中，干扰消除算法应用很普遍。干扰消除(Interference Cancellation, IC)算法的主要思想是多用户检测，需要消除其他用户对当前检测用户的干扰。具体公式为

其中，$i = 1,2, \cdots ,2M$，${{\boldsymbol{h}}_m}$表示信道矩阵${\boldsymbol{H}}$的第$m$列， ${{\boldsymbol{\hat x}}_{l + 1}}(i)$表示在第$l + 1$层第$i$个用户消除来自其他用户干扰得到的估计值，$l + 1$为迭代索引。在第$l + 1$次迭代后，信号检测结果为

SIC算法通过逐个消除当前检测信号对未检测信号的干扰，按照顺序进行信号判决。可以将式(2)的实数模型等价于

于是消除第i个用户对下一个用户的干扰，并更新接收向量可以得到

4.   基于深度学习的大规模MIMO检测

深度神经网络(DNN)一般由输入层、隐藏层和输出层组成，是一种典型的深度学习(DL)模型，其本质是输入${{\boldsymbol{x}}_{\text{0}}} \in {\mathbb{R}^{{\text{2M}}}}$到输出${\boldsymbol{y}} \in {\mathbb{R}^{{\text{2N}}}}$的一种映射函数${\boldsymbol{y}} = f\left( {{x_0};{\boldsymbol{\theta }}} \right)$，${\boldsymbol{\theta }}$表示训练神经网络的参数集，可通过损失函数来优化参数集，将输入映射到期望的输出。DNN具有多层结构，由许多功能单元组成，在输入层和输出层之间有多个隐藏层。对于具有$L$层的DNN，从$l - 1$层传递到$l$层的输出可以表示为

其中，${{\boldsymbol{\theta }}_l}\:$表示第$l$层的训练参数，${f^{(l)}}\left( {{{\boldsymbol{x}}_{l - 1}};{{\boldsymbol{\theta }}_l}} \right)$表示第$l$层的映射函数。

4.1   检测网络DetNet

早期基于DL的MIMO信号检测方法是一个专门用于MIMO检测的深度学习架构，称作DetNet^{[17, 23]}(检测网络)，利用投影梯度下降算法(Projected Gradient Descent algorithm, PGD)实现。基于深度学习的MIMO检测器不适于直接使用式(2)的实数模型，而应该使其具有足够的统计量，如式(10)所示

利用PGD来解决ML的最优解问题，可表示为

其中，$\Pi [ \cdot ]$表示非线性投影算子，${{\boldsymbol{\hat x}}_l}$表示第$l$次迭代得到的发送向量估计值，${\delta _l}$表示步长。式(12)迭代的本质就是对${{\boldsymbol{\hat x}}_l}$, ${{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{y}}$, ${{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}}{{\boldsymbol{\hat x}}_l}$三者线性组合的非线性映射迭代。通过在每次迭代中将输入提升到更高的维度并应用于深度神经网络(DNN)来丰富这些迭代。DetNet第$l$层的操作和网络结构如图1 所示，产生了以下体系结构

图 1  DetNet第$l$层网络结构

下载: 全尺寸图片 幻灯片

其中，$l = 1,2, \cdots ,L$，为迭代索引，${\boldsymbol{w}}$和${\boldsymbol{b}}$分别表示DNN的权重矩阵和偏移矩阵，$\delta _l^1$和$\delta _l^2$分别表示第l层两个不同的可调步长，${{\boldsymbol{s}}_l}$中添加${{\boldsymbol{v}}_l}$是为了增加维度，使其能够在深层网络中保持计算复杂特征的能力，$\rho ( \cdot )$是激活函数ReLU(Rectified Linear Units)，${\psi _t}( \cdot )$是分段线性软符号算子函数。

其中，$0 < t < 1$，用来表示${\psi _t}(x)$的倾斜程度。

在利用DNN进行训练时，通过神经网络的后向传播来优化以下参数来逼近最优解

为了应对梯度消失、激活函数饱和以及初始化敏感等挑战，考虑所有层的损失函数进行归一化误差，故定义如式(17)的损失函数

其中，${\boldsymbol{\tilde x}} = {\left( {{{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}}} \right)^{ - 1}}{{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{y}}$是初始解。

4.2   稀疏连接网络ScNet

从式(12)、式(13)可以看出，DetNet在每一层中都额外加入了没有实际物理意义的向量${\boldsymbol{v}}$作为输入向量，并且每一层的输入向量和输出向量之间的完全连接使DetNet的网络架构变得复杂，不仅导致计算复杂度较高，而且在一定程度上给训练优化造成困难，也使得硬件要求变高。与此同时，DetNet在调制方式上只能适用于QPSK和4QAM的调制，并且在此调制方式下，对于大规模MIMO也不能表现出很好的性能。为此，Gao等人^[19]提出了ScNet，在DetNet的基础上做了3点改变：一是简化输入，去掉原本扩展维度的向量${\boldsymbol{v}}$；二是简化了网络连接结构，将完全连接改为稀疏连接；三是优化了损失函数，避免矩阵不可逆的情况出现。其具体结构如图2所示，其中，第$l$层的输入表达式为

图 2  ScNet的第$l$层网络结构

下载: 全尺寸图片 幻灯片

ScNet检测时，需要优化的参数包括

ScNet的损失函数定义如式(21)，此损失函数是在DetNet损失函数的基础上去除了分母部分，即$\Vert {\boldsymbol{x}}-{\left({{\boldsymbol{H}}}^{\text{T}}{\boldsymbol{H}}\right)}^{{-1}}{{\boldsymbol{H}}}^{\text{T}}{\boldsymbol{y}}{\Vert }^{2}$。使用损失函数的目标是使输出与发送信号的欧几里德距离尽可能接近，而与$\Vert {\boldsymbol{x}}-{\left({{\boldsymbol{H}}}^{\text{T}}{\boldsymbol{H}}\right)}^{{-1}}{{\boldsymbol{H}}}^{\text{T}}{\boldsymbol{y}}{\Vert }^{2}$不具有相关性，因此可以删除。另一个重要的原因是这个公式包含矩阵求逆运算，在很多情况下，方阵是不可逆的，并且矩阵求逆是一个计算复杂过程。经过测试，去除这部分之后，性能略有提升。

5.   基于DL的SIC算法

5.1   改进的稀疏连接网络ImpScNet

受前述已有算法的启发，本文在ScNet网络模型上进一步改进得到ImpScNet，不但能够提升检测性能而且可以加快网络的收敛速度，同时复杂度需求亦有较大程度的减轻。对于大规模MIMO系统，随着天线数量的增加且天线数比例保持一个比值时，即$M,N \to \infty$且$M/N = \eta$时，利用信道硬化现象，即在信道满足独立同分布时，${{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}}$特征值经验分布能确定收敛。确切地说，随着天线数目增多，在${{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}}$中，相比于对角元素的值，非对角上面的值将会变得越来越小。如64×64，128×128 MIMO天线配置下的${{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}}$的矩阵幅度图，随着天线数目增多，信道硬化现象越来越明显，即$M,N \to \infty$时，${{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}}/M \to {{\boldsymbol{I}}_N}$。因此，ImpScNet可以利用信道硬化现象，将式(18)改写为

为了能够在最终实现中进一步增强ImpScNet的性能，需要考虑前一层的输出作为下一层的输入会有所关联，因此添加了一个残差ResNet^[24]特征，每一层的输出都是前一层输出的加权平均值。

其中，$0 < \alpha < 1$。

除此之外，对于损失函数还考虑了${{\boldsymbol{\hat x}}_l}$与${\boldsymbol{x}}$之间的相关性，使得${{\boldsymbol{\hat x}}_l}$能够快速并且有效向${\boldsymbol{x}}$靠拢，以便更好地训练神经网络。具体而言，ImpScNet的损失函数可以被重新定义为

其中，${\boldsymbol{r}}({\hat{{\boldsymbol{x}}}}_{l},{\boldsymbol{x}})=1-\dfrac{\text{|}{{\boldsymbol{x}}}^{\text{T}}{\hat{{\boldsymbol{x}}}}_{l}\text{|}}{\Vert {\boldsymbol{x}}\Vert \cdot \Vert {\hat{{\boldsymbol{x}}}}_{l}\Vert }$，$\beta$用于调整$r({\hat { {\boldsymbol{x}}} _l},{\boldsymbol{x}} )$对损失函数的贡献，其作用是提升收敛速度。$\beta$的取值范围为$0 < \beta < 1$，然而一个不合适的$\beta$不能够保证良好的收敛性能，因此，$\beta$取值尤为关键。

5.2   基于ImpScNet的SIC算法

首先使用ImpScNet检测算法对接收到的信号进行检测，然后对检测过的信号进行干扰消除，消除已检测信号对未检测信号的干扰，再重复完成前两个步骤，直至检测完所有接收到的信号，这个检测算法称为ImpScNet-SIC。具体的算法架构和流程分别如图3及算法1所示。

图 3  ImpScNet-SIC算法处理框架

下载: 全尺寸图片 幻灯片

算法1　ImpScNet-SIC检测算法训练流程
输入：${\boldsymbol{x}}$, ${\boldsymbol{y}}$, ${\boldsymbol{H}}$, $L$, $\alpha$, $\beta$, $t$
输出：${{\stackrel\smile{x} } }_l$
(1) 初始化：${ { {\hat {\boldsymbol x} } }_0}{\text{ = } }{{ {\textit{0}}} }$，$L = 15$，$\alpha = 0.2$，$\beta = 0.5$，$t = 0.1$
(2) 输入各项参数，训练：${\boldsymbol{\theta }} = \left\{ {{{\boldsymbol{w}}_l},{{\boldsymbol{b}}_l}} \right\}_{l = 1}^L$ ，使得损失函数最 　　 小，得到初步估计值
${ {\boldsymbol{c} }_l} = {\left[ { { {\boldsymbol{H} }^{\text{T} } }{\boldsymbol{Hy} },{\text{diag} }({ {\boldsymbol{H} }^{\text{T} } }{\boldsymbol{H} }){ {\hat {\boldsymbol{x} } }_{l - 1} },{ {\hat {\boldsymbol{x} } }_{l - 1} } } \right]^{\text{T} } }$
${\psi _t}(x) = - 1 + \dfrac{ {\rho (x + t)} }{ {|t|} } - \dfrac{ {\rho (x - t)} }{ {|t|} }$
${ { {{\hat {\boldsymbol x}} } }_l} = {\psi _t}\left( { { {\boldsymbol{w} }_l}{ {\boldsymbol{c} }_l} + { {\boldsymbol{b} }_l} } \right)$
${\hat {\boldsymbol{x} } _l} = \alpha {\hat {\boldsymbol{x} } _{l - 1} } + (1 - \alpha ){\hat {\boldsymbol{x} } _l}$ 　　　　$\mathcal{L}({\boldsymbol{x} },\hat {\boldsymbol{x} } ) = \displaystyle\sum\limits_{l = 1}^L {\ln } (l)\left[ { { {\left\| { {\boldsymbol{x} } - { { {\boldsymbol{\hat x} } }_l} } \right\|}^2} + \beta r({ {\hat {\boldsymbol{x} } }_l},{\boldsymbol{x} })} \right]$
(3) 将得到的初步估计值解调到相应的星座点上 　　　　${\tilde x_j} = \mathop {\arg \min }\limits_{i \in \{ 1,2, \cdots ,{2^K}\} } |{\hat x_l}(j) - {s_i}|,j = 1,2, \cdots ,2M$
(4) 再引入SIC，根据信道矩阵${\boldsymbol{H}}$列范数的大小来进行降序排序 　　　　$\mathcal{C} = \arg {{\rm{sort}}} \left( { {\gamma _1},{\gamma _2}, \cdots ,{\gamma _M} } \right)$
${\gamma _m} = \left\| {{{\boldsymbol{h}}_m}} \right\|_2^2,\forall \:m = 1,2, \cdots ,M$
(5) 消除第$i (i = 1,2, \cdots ,2M)$个用户对下一个接收信号的影响， 　　 并更新接收信号 　　　　${ { { {\tilde {\boldsymbol y} } } }_i} = \displaystyle\sum\limits_{k = 1}^i { { {\boldsymbol{h} }_k} } ({x_k} - { {\tilde x}_k}) + \displaystyle\sum\limits_{j = i + 1}^{2M} { { {\boldsymbol{h} }_j} } {x_j}$
${{{{\tilde {\boldsymbol y}}}}_{i + 1}} = {{{\boldsymbol{\tilde y}}}_i} - {{\boldsymbol{h}}_{i + 1}}{{\tilde x}_{i + 1}}\left( {i = 1,2, \cdots ,2M} \right)$
(6) 得到更新的接收向量${{\tilde {\boldsymbol y}}}$、传输向量${{\tilde {\boldsymbol x}}}$和信道矩阵${\boldsymbol{H}}$再执行步 　　 骤(2)
(7) 重复步骤(3)—步骤(6)，直到所有有用信号均被检测出来， 　　 得到最终的检测信号向量${ { {\stackrel\smile{\boldsymbol{x} } } }_l}$

下载: 导出CSV 

| 显示表格

本文提出的ImpScNet-SIC检测算法在每一个检测层上可分为2级。在第1级需要获得传输符号初步估计值。对于初步估计值的获取，可考虑两种方案：第1种是使用迫零(ZF)检测算法，即${{\boldsymbol{\hat x}}_{{\text{ZF}}}} =$${{\boldsymbol{G}}_{{\text{ZF}}}}{\boldsymbol{y}} = {({{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}})^{ - 1}}{{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{y}}$。第2种就是使用ImpScNet检测算法。由于ZF算法中存在矩阵求逆，对于大规模MIMO系统而言，将致使其复杂度偏高。经过综合考虑，第1级选择由ImpScNet检测算法得到传输符号的初步估计值，其中，训练深度神经网络(DNN)的第$l$层的输出传输符号的估计值${{\boldsymbol{\hat x}}_l}$可以表示为

其中，$l = 1,2, \cdots ,L$。

该算法的第2级是引入SIC。在经过第1级之后得到的传输符号初步估计值需要先解调到相应的星座点上，再作为SIC的输入。具体公式为

其中，$j = 1,2, \cdots ,2M$。

借助SIC，在每一阶段，进行检测、估计、解调一个符号，然后从接收信号矢量中${\boldsymbol{y}}$中消除来自该符号的干扰。通过SIC可将第1个发送符号恢复出来，再将检测到的传输符号从接收信号中消除，从而得到下一个检测信号，其一般表达式为

其中，${{\boldsymbol{h}}_1}$为信号矩阵${\boldsymbol{H}}$中第1列元素，${{\boldsymbol{\tilde y}}_1}$是消除信号${\tilde x_1}$后得到的接收信号。将干扰消除得到的${\boldsymbol{\tilde y}}$，${\boldsymbol{H}}$和${\boldsymbol{\tilde x}}$作为SIC中检测的输入，再次经过ImpScNet，训练得到最终的估计值。通过将以上两个步骤经过多次循环迭代后，整个MIMO系统所有发送符号就可以全部检测并恢复出来。

在SIC算法中，需要考虑差错传播的影响，因为最先检测出的信号精度将会影响下一层，致使符号的检测顺序影响SIC的检测性能。在忽略噪声的情况下，接收端接收到的信号强度只与信道矩阵${\boldsymbol{H}}$和传输符号向量${\boldsymbol{x}}$有关，且与信道矩阵${\boldsymbol{H}}$的列范数成正比。所以可以根据信道矩阵${\boldsymbol{H}}$的列范数的大小排序来进行串行干扰消除算法，对矩阵${\boldsymbol{H}}$的列范数进行降序排序可以得到对应的列下标集合，即

5.3   复杂度分析

以实乘次数作为评估量，本文针对传统的检测算法ZF-SIC和MMSE-SIC以及基于深度学习的检测算法DetNet, ImpScNet和ImpScNet-SIC分别进行复杂度分析。由于ZF-SIC和MMSE-SIC检测算法涉及传输符号向量排序及滤波矩阵计算等相关问题，导致其复杂度高达$M$的4次方的数量级$O({M^4})$。DetNet, ImpScNet和ImpScNet-SIC的复杂度分别是根据式(12)、式(13)、式(22)—式(24)和算法1进行计算的。由于DetNet是全连接网络需要训练的参数较多，而且分别考虑了向量${\boldsymbol{v}}$和输入符号的相邻层的关系，致使其复杂度达到了数量级$O({N^3})$，即训练网络的实乘运算为$\left( {3L + 2{M^2} - 1} \right){N^3} + (4L + 2M - 1)N$。考虑使用稀疏连接和简化输入之后，ImpScNet的复杂度相比于DetNet下降了一个数量级。在引入SIC后需要考虑星座点判决和SIC实乘运算为$M(M{{ - }}1)/2$，此过程的复杂度为$O({M^2})$。SIC辅助ImpScNet训练网络的实乘运算为$(2L + 2{M^2} - 1){N^2}{\text{ + }}(3L + 2M - 1)N$。图4分别给出了基站天线数分别为64根和128根的大规模MIMO上行链路信号检测复杂度评估结果。从图4可以看出，虽然接入SIC之后的ImpScNet-SIC检测算法相比于ImpScNet复杂度有所增加，但是始终低于DetNet的复杂度，并且本文提出的ImpScNet-SIC检测算法在用户量较多的情况下，相对于传统算法具有明显的低复杂度优势。

图 4  算法复杂度对比

下载: 全尺寸图片 幻灯片

6.   实验仿真及分析

在仿真实验中，训练数据由调制信号QPSK通过瑞利衰落信道随机产生的，信噪比均匀分布在4～14 dB。发射端信噪比可以定义为

其中，${E_{\text{s}}}$是平均符号能量，${\sigma ^2}$是加性高斯白噪声的方差。每一组${\boldsymbol{y}}$，${\boldsymbol{H}}$和${\boldsymbol{x}}$被视为一个训练样本，每个信噪比下对应50000个样本。对于测试数据，创建与训练数据具有相同信噪比的样本。

本文在仿真过程采用随机梯度下降方法的变体Adam Optimizer来训练神经网络。所有网络的训练均使用基于Python的TensorFlow库实现。在DetNet与ScNet架构情况下，在所有星座和所有信道大小中分别使用30层与15层网络。在训练时，使用学习衰减率$\beta$，起始速率为${\beta _0} = 0.001$，每1000次迭代的衰减速率为0.97，因此每迭代1000次学习率的更新表达式为：${\beta _t} = {\beta _0} \times {0.97^t}(t = 1,2, \cdots ,10)$。具体的参数设置如表2所示。

表 2  训练ImpScNet-SIC时参数设置

参数名称	具体设置
发射天线数$M$	4, 32, 64, 100, 128
接收天线数$N$	4, 32, 64, 128
层数$L$	15,15
起始学习率${\beta _0}$	0.001
学习衰减率${\beta _t}$	0.97
SNR(dB)范围	(4,14)
批量大小	500
训练网络迭代次数	10000
迭代周期	5

下载: 导出CSV 

| 显示表格

图5是调制方式为QPSK的信号在瑞利衰落信道上的误码率性能图，天线配置为32×32，即M=32和N=32。从图5可以看出，DetNet与同样是基于深度学习训练的算法OAMPNet^[14]和OAMPNet2^[25]相比性能更好。ImpScNet相较于DetNet的性能明显更优，并且ImpScNet的训练层数只有DetNet训练层数的1/2，其复杂度远远低于DetNet。考虑了用户间干扰的ImpScNet-SIC算法的性能又明显优于DetNet和ScNet，当误码率约为3×10^–3时，ImpScNet-SIC相比于DetNet和ImpScNet分别达到了近1 dB和0.5 dB的性能增益。

图 5  32×32($\eta = 1$)天线配置的链路误码率

下载: 全尺寸图片 幻灯片

图6和图7分别显示QPSK调制方式下天线配置为32×64和64×64系统的误码率性能。从图中可以看出无论$\eta = 0.5$还是$\eta = 1$，ImpScNet-SIC的性能均是最优的。从图6可以看出，DetNet的性能优于ImpScNet，但是随着$\eta$的变大，图7中ImpScNet的性能会明显优于DetNet的性能。在信噪比较低的时候，MMSE的检测性能甚至超过了OAMPNet和OAMPNet2，但是OAMPNet2与OAMPNet也和ImpScNet呈现了一致的性能改善趋势。随着SNR值逐渐增大，可以表明基于深度学习的检测算法的性能改善远远优于传统检测算法MMSE。

图 6  64×32($\eta = 0.5$)天线配置的链路误码率

下载: 全尺寸图片 幻灯片

图 7  64×64($\eta = 1$)天线配置的链路误码率

下载: 全尺寸图片 幻灯片

图8—图10给出了接收天线数为128保持不变，发射天线分别为64($\eta = 0.5$)，100($\eta = 0.78$)，128($\eta = 1$)的大规模MIMO系统在QPSK调制方式下的误码率性能。从3幅图中均可以看出，基于深度学习的检测算法均优于传统的检测算法，并且本文提出的ImpScNet-SIC检测算法一直呈现相对最优的误码率性能。随着$\eta$值的变大，相比于DetDet检测算法，ImpScNet的误码率改善表现出很大的优势，即使$\eta = 0.5$，SNR > 11 dB时，其性能呈现一定的劣势，但是，当$\eta = 0.78$和1时，ImpScNet检测算法表现出的误码率性能更为突出，这是因为随着$\eta$值的变大，信道硬化现象使得${{\boldsymbol{H}}^{\text{T}}}{\boldsymbol{H}}$对角元素的值会远大于非对角元素的值。进一步考虑干扰消除思想的ImpScNet-SIC在误码率为5×10^–4时，相比于DetDet和ImpScNet至少有0.5 dB以上的性能增益。

图 8  128×64($\eta = 0.5$)天线配置的链路误码率

下载: 全尺寸图片 幻灯片

图 9  128×100($\eta = 0.78$)天线配置链路误码率

下载: 全尺寸图片 幻灯片

图 10  128×128($\eta = 1$)天线配置的链路误码率

下载: 全尺寸图片 幻灯片

从图8可以看出，当SNR值较小时，DetNet, ImpScNet及ImpScNet-SIC三者的误码率性能改善速率几乎一致，但是随着SNR值逐渐增加，ImpScNet-SIC凸显的性能增益更加明显，当误码率为10^–3时，DetNet与ImpScNet的性能增益几乎一致，而ImpScNet-SIC相比于二者达到了近5 dB的性能增益。从图9可以看出，ImpScNet及ImpScNet-SIC的误码率性能是远远优于DetNet，而且随着SNR值递增，ImpScNet-SIC呈现的误码率优势相比于ImpScNet也越来越明显，当误码率为3×10^–5时，ImpScNet-SIC相比于ImpScNet实现了约2 dB的性能增益。从图10可以看出，当误码率为1.5×10^–2时，与DetNet, ImpScNet相比，ImpScNet-SIC分别实现了近1 dB, 4 dB的性能增益，并且ImpScNet相比于DetNet，有接近3 dB的性能增益。由此说明，本文提出的方案更适合于大规模MIMO系统信号检测，并产生了较大的性能增益。

图11分别给出了3种检测算法在8 dB信噪比条件下训练网络时的收敛速度和性能。从图中可以看出，在简化DetNet网络结构和改进损失函数之后得到的ImpScNet，不仅提升了网络的收敛速度，使得训练时所需的迭代次数减少，节省了训练时间和硬件成本，而且其性能也有明显的提高。经过一定的迭代次数之后，3种算法均达到了不同程度的收敛，但是与DetNet相比，ImpScNet和ImpScNet-SIC的表现更加稳定且误码率更优。因此本文提出的ImpScNet-SIC检测算法不仅在网络收敛速度上与ImpScNet检测算法几乎保持一致，而且其性能远远优于DetNet和ImpScNet。这也证明了本文所提方案具有更优的性能、稳定性及复杂度等综合表现。

图 11  SNR = 8 dB时，网络的收敛速度

下载: 全尺寸图片 幻灯片

7.   结束语

根据投影梯度下降算法(PGD)近似求解MIMO检测，本文改进了适用于大规模MIMO信号检测的稀疏连接网络，提出了ImpScNet算法。在此基础上，进一步考虑大规模MIMO系统的信道硬化现象，简化输入的维度并且有效简化训练的参数数量和复杂度。在损失函数中还考虑了传输符号与估计值之间的相关性，不仅加快了网络的收敛速度，而且使得收敛更加稳定。通过SIC辅助ImpScNet，提出了一种新的大规模MIMO信号检测算法ImpScNet-SIC。仿真实验结果表明，与已有的相关检测算法相比，本文提出的ImpScNet-SIC检测算法具有更好的误码率性能、更快的收敛速度和收敛稳定度。本文提出的检测算法更加有利于大规模MIMO系统信号检测的高效实现。