高级搜索

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

基于知识蒸馏与注意力图的雷达信号识别方法

曲志昱 李根 邓志安

曲志昱, 李根, 邓志安. 基于知识蒸馏与注意力图的雷达信号识别方法[J]. 电子与信息学报, 2022, 44(9): 3170-3177. doi: 10.11999/JEIT210695
引用本文: 曲志昱, 李根, 邓志安. 基于知识蒸馏与注意力图的雷达信号识别方法[J]. 电子与信息学报, 2022, 44(9): 3170-3177. doi: 10.11999/JEIT210695
Wei Wei, Li Li. A NEW METHOD FOR CALCULATING THYRISTOR REVERSE RECOVERY CURRENT PARAMETERS[J]. Journal of Electronics & Information Technology, 1993, 15(5): 532-535.
Citation: QU Zhiyu, LI Gen, DENG Zhian. Radar Signal Recognition Method Based on Knowledge Distillation and Attention Map[J]. Journal of Electronics & Information Technology, 2022, 44(9): 3170-3177. doi: 10.11999/JEIT210695

基于知识蒸馏与注意力图的雷达信号识别方法

doi: 10.11999/JEIT210695
基金项目: 国家自然科学基金(61801143, 61971155)
详细信息
    作者简介:

    曲志昱:女,副教授,研究方向为电子侦察与对抗、阵列信号测向

    李根:男,硕士生,研究方向为雷达信号识别

    邓志安:男,副教授,研究方向为人工智能与宽带信号处理

    通讯作者:

    邓志安 dengzhian@hrbeu.edu.cn

  • 中图分类号: TN957.51

Radar Signal Recognition Method Based on Knowledge Distillation and Attention Map

Funds: The National Natural Science Foundation of China (61801143, 61971155)
  • 摘要: 针对传统雷达信号识别方法无法有效进行识别类型扩展问题,该文提出一种基于知识蒸馏与注意力图的雷达信号识别方法。首先将雷达信号的平滑伪Wigner-Ville分布(SPWVD)作为输入;然后设计了基于残差网络的增量学习网络结构,利用基于知识蒸馏与注意力图的损失函数,缓解类别增量过程中的灾难性遗忘;最后采用基于样本特征均值距离的方法对数据集进行管理,有效降低存储资源占用空间。实验表明,该方法能在存储资源有限的情况下,对扩展分类的信号快速完成训练,且对原有分类和扩展分类信号均有良好的识别准确率。
  • 在阵列信号处理中,互质阵列[1]的研究是近年来备受关注的课题。利用互素数的性质和互素数组的互质阵,可以得到一个更大的虚拟阵列。众所周知,更大的阵列意味着更大的阵列孔径,这将有助于提高分辨率和干扰抑制能力。互质采样的优点是有助于提高DOA估计的自由度。此外,一些研究将互质采样用于自适应波束形成研究。在文献[2]中,基于压缩感知理论[3],提出了一种适用于互质阵列的自适应波束形成算法,该算法充分利用了压缩感知和互质阵列的优点,结果表明该方法比其他方法具有更好的性能。文献[4-6]提出了几种稳健自适应波束形成算法,但这些算法均是在理想条件下,未考虑幅相误差的影响。

    然而,在实际阵列中,从阵列接收的信号包含幅相误差。如果幅相误差存在但被忽视,则自适应波束形成的性能会受到影响。因此,如何校准幅相误差是一个非常重要的问题。为了解决该问题。许多算法被提出。大多数提出的算法,例如基于特征结构的自校准方法[7,8],可以精确校准幅相误差。然而,在低信噪比和快照数较少的情况下,这些算法的性能会急剧下降。文献[9,10]提出了一种基于压缩感知的幅相误差校准算法,但该算法主要用于直线阵列。文献[11]提出了一种幅相误差条件下的稳健自适应波束形成算法,该算法主要用于均匀直线阵。文献[12]提出了一种扰动情况下的阵列信号处理模型,该方法针对均匀直线阵,将阵列扰动视为一个与信号相关的误差,建立了一个扰动存在条件下的信号接收模型,将扰动的校准问题转化为了对误差参数的估计问题,并利用文献[13,14]中的最小二乘算法实现参数的有效估计。

    为了在低信噪比和少量快照的情况下准确地校准幅相误差并重构信号的协方差矩阵,本文提出了一种基于最小二乘(TLS)的方法。首先,建立了具有幅相误差的协方差矩阵重构的基本模型。然后将问题转化为变量误差(EIV)模型,此时问题就转化为估计与幅相误差相关的误差矩阵,而不是直接校准幅相误差,并提出一种交替下降算法来估计误差矩阵和重构协方差矩阵。该方法有望消除幅相误差的影响,并优于部分其他算法。最后利用重构的信号协方差矩阵进行自适应波束形成,从而降低幅相误差的影响。

    考虑两个均匀直线阵列,第1个阵列包含2M个阵元,阵元之间的间距为Nd,第2个阵列包含N个阵元,阵元之间的间距为Md。其中,d=λ/2λ表示波长,MN满足M<N。根据质数的性质,这两个均匀直线阵列可以等效为一个包含2M+N1个阵元的互质阵列。此时,该互质阵的信号接收模型可表示为

    x(t)=xs(t)+xi(t)+n(t)
    (1)

    其中,t表示第t次快拍。xs(t)=a(θs)s(t)表示阵列输出的目标信号,a(θs)表示导向矢量,θs表示信号的实际方位信息,xi(t)表示干扰信号,n(t)表示均值为0方差为1的高斯白噪声。

    为了自适应地抑制干扰,实现对实际目标的有效探测,常常会选择合适的自适应波束形成算法对干扰进行抑制。其中,最常用的一种自适应波束形成算法就是线性约束最小方差(Linearly Constrained Minimum Variance, LCMV)算法。LCMV算法中最重要的步骤是获得优化的权值向量。该权值向量可以表示为

    w=R1a(θs)aH(θs)R1a(θs)
    (2)

    其中,R表示信号的协方差矩阵,其表达式为

    R=E[xxH]=Ki=1E[|si|2]a(θi)aH(θi)+σ2I
    (3)

    其中,K表示信号的个数,si表示信号的幅度。I表示单位阵。

    由压缩感知理论可知,压缩感知重构算法能够精确重构信号的一个前提是信号在空域上满足稀疏性,为了满足信号的稀疏性,将整个信号空间[90,90]划分成Q等份,同时将信号的协方差矩阵向量化,此时可得

    r=vec(R)=Bp+σ2nvec(I)
    (4)

    其中,B=[a(θ1)a(θ1),a(θ2)a(θ2),,a(θQ)a(θQ)], p=[0,,s2s,,s22,,s2K,,0]CQ×1, 表示Kronecker积,s2s表示目标信号的功率,s22,,s2K表示K–1个干扰信号的功率,σ2n表示噪声信号的功率。

    以上模型建立在阵列精确已知的理想情况下,但在实际系统中,由于雷达系统器件本身的非理想性,比如滤波器特性不一致、放大器的幅相特性不一致等因素,会导致阵列幅相误差的出现,且这些误差在实际系统中无法避免,幅相误差的存在,会导致雷达参数估计性能的下降。考虑幅相误差,令

    Γ=diag[1,Γ2,,Γ2M+N1]T=diag[1,ρ2ejϕ2,,ρ2M+N1ejϕ2M+N1]T
    (5)

    表示幅相误差矩阵。其中,Γi表示第i个阵元的幅相误差,ρiϕi分别表示第i个阵元的幅度误差和相位误差。此时,向量化的信号协方差矩阵可表示为

    r=vec(R)=Bp+σ2nvec(I)
    (6)

    其中,B=[Γa(θ1)Γa(θ1),,Γa(θQ)Γa(θQ)], “”表示共轭。

    根据Kronecker积的运算性质,

    Γa(θi)Γa(θi)=(ΓΓ)[a(θi)a(θi)]
    (7)

    因此有

    B=(ΓΓ)B=ΓB
    (8)

    其中,Γ=ΓΓ

    此时,信号的协方差矩阵的向量化形式可表示为

    r=ΓBp+n
    (9)

    其中,n=σ2nvec(I)

    从上述模型中可以看出,由于B跟阵列相关,因此可认为是已知的,如果能够准确估计出Γp,则可以在存在幅相误差的情况下准确构建信号协方差矩阵。

    为了得到该问题的求解,我们首先将式(9)中的模型转换为一个EIV模型

    r=ΓBp+n=[B+(ΓI)B]p+n=[B+E]p+n
    (10)

    其中,E=(ΓI)B表示和幅相误差矩阵相关的误差矩阵。此时,对幅相误差的估计问题就转化为了对误差矩阵E的求解问题。通过文献[12-14],式(10)中的问题可转换为对以下问题的求解

    argminp,E,n[En]2F+λp1s.t.r=[B+E]p+n}
    (11)

    其中F表示F范数,1表示1范数。

    式(11)的问题中,主要目标是利用有效的参数估计算法,实现对未知参数的有效估计。但是由于和误差矩阵相关的Ep的存在,式(11)中的求解问题是一个非凸优化的问题,难以直接通过凸优化算法进行参数的求解。为了解决该问题,将式(11)中的优化问题转换为一个无约束的优化问题,可转化为

    minp,EE2F+r[B+E]S22+λp1,2
    (12)

    通过式(12)可以得到Ep的求解,但该问题仍然是一个非凸优化问题,仍然无法直接求解,为了得到问题的求解,本文中采用梯度下降算法,通过迭代的方式进行求解。该算法主要通过迭代对多个未知参数进行求解,首先假设其中一个待求解的参数是已知的,然后利用该参数求解另一个未知参数,再利用求解的参数估计另外的未知参数,直到迭代收敛,从而得到多个未知参数的求解。

    首先,假设误差矩阵E是已知的,在第i次迭代过程中,稀疏目标信号和干扰信号向量p可通过式(13)进行求解:

    minpipi1,2s.t.r[B+Ei1]piFε
    (13)

    其中,ε为常数。

    式(13)中的问题可通过压缩感知信号重构方法进行求解,例如l1/l2混合范数优化方法、贪婪算法等,本文选择贪婪算法进行问题的求解,主要选择OMP(Orthogonal Matching Pursuit)算法,OMP算法的最大特点就是操作简单、计算复杂度较低。得到了稀疏目标信号和干扰信号向量p的估计,将估计得到的稀疏信号向量p代入式(12),可以得到误差矩阵Ei的估计如式(14)所示

    Ei=minEE22+r[B+E]pi2F
    (14)

    对式(14)关于E求偏导数并等于0,可得到误差矩阵E的求解

    Ei=[rBpi](pi)T[I+pi(pi)T]1
    (15)

    本文提出的算法主要是将贪婪算法和最小二乘算法相结合,进行参数的估计。其中误差矩阵E的初始化为E0=0。该算法主要包括两个关键步骤:式(13)中对稀疏目标信号和干扰信号向量p的估计以及式(14)中对和幅相误差相关的误差矩阵E的估计。当满足迭代终止条件时,迭代终止。通过估计的稀疏目标信号和干扰信号向量p,以及已知的B,可以通过式(4)得到信号的协方差矩阵向量化的有效估计:

    r=Bp
    (16)

    从而得到重构的信号协方差矩阵,并将其代入式(2)中,得到自适应波束形成的加权向量的有效估计,从而得到互质阵列的自适应波束形成结果

    y(t)=wHx(t)
    (17)

    建立了信号模型,并提出了估计幅相误差和重建信号协方差矩阵的方法。第4节将进行仿真分析,以验证所提方法的有效性。

    对于所有的仿真试验,假设两个均匀直线阵的阵元数目分别为2M=10以及N=11,假设1个目标信号和1个干扰信号,信号角度分别为θs=15, θ1=45。对于幅相误差,假设幅度误差和相位误差均满足均匀分布,其中,幅度误差为U=[0.2,0.2],相位误差为U=[20,20]

    首先利用重构得到的信号协方差矩阵,得到自适应波束形成的最优权系数,得到自适应波束形成之后的方向图,并和含有幅相误差情况下直接进行自适应波束形成以及理想情况下的自适应波束形成结果比较。

    图1可以看出,在含有幅相误差的高信噪比条件下,利用本文提出的算法对信号的协方差矩阵进行重构之后再做自适应波束形成,得到的波束方向图基本和理想的均匀直线阵的结果相近。和含有幅相误差的结果相比,提出的算法在很大程度上降低了幅相误差的影响,得到的方向图旁瓣更低,干扰方向的零陷更深。

    图 1  自适应波束形成方向图

    为了进一步验证提出的方法的有效性,进行蒙多卡罗仿真试验,分别仿真了相干信号和非相干信号的蒙多卡罗仿真试验,通过输出信干噪比进行不同方法的衡量比较

    OutputSINR=σ2s|wHa(θs)|2wHRw
    (18)

    其中,σ2s是目标信号的功率,a(θs)是目标信号的导向矢量。蒙特卡罗分析次数为500次。我们将本文方法与文献[15]中基于稀疏表示技术(SR technique)的鲁棒自适应波束形成方法和文献[2]中的互质阵列自适应波束形成方法(CA-ABF)进行比较。

    首先仿真分析不同信噪比条件下,不同方法的输出信干噪比,信噪比从–20 dB到20 dB间变化,结果如图2所示。

    图 2  不同信噪比下输出信干噪比

    图2可以看出,当SNR较低时,输出SINR将显著降低。由于信噪比较低,信号协方差矩阵的估计偏差较大。当信噪比较高时,信号协方差矩阵被准确估计,输出信噪比显著提高。与其他方法相比,本文提出的方法的输出信噪比更高。当考虑到信号相干问题时,基于压缩感知的方法基本不受信号相干性的影响。

    接着仿真分析不同快拍数条件下,不同方法的输出信干噪比,快拍数的变化范围为10~100,结果如图3所示。

    图 3  不同快拍数下输出信干噪比

    图3中,当快拍数量较少时,信号的协方差矩阵估计有一定的偏差,导致输出SINR低于快照较多的情况。当快拍数量增加时,输出SINR增加并趋于稳定。与其他方法相比,本文方法的输出信噪比也更高。

    在本文中,针对存在幅相误差的互质阵列,提出了一种基于协方差矩阵重构的鲁棒自适应波束形成方法。首先,建立了协方差矩阵重构的基本模型。然后我们要解决的问题变成了EIV问题。然后,将幅相误差校准问题转换为与幅相误差相关的误差矩阵的估计。为了解决这一问题,提出了一种基于TLS的交替下降算法。从仿真结果可以看出,相对于不同的信噪比和快照,该方法可以获得比其他方法更好的性能。但目前我们的研究还存在一些局限性,仍然面临着失配问题。这影响了它在实际系统中的应用。

  • 图  1  雷达脉内调制信号时频图像Grad-Cam可视化效果

    图  2  基于知识蒸馏与注意力图的雷达信号识别方法流程

    图  3  增量识别卷积神经网络参数示意图

    图  4  网络结构

    图  5  基于知识蒸馏与注意力图的增量训练过程

    图  6  模型关注区域差异示意图

    图  7  准确率对比

    图  8  不同模型损失

    图  9  信噪比–5 dB识别效果对比

    图  10  联合训练与本文方法存储数量对比

    图  11  识别正确率与信噪比关系曲线

    图  12  类别扩展数量与识别正确率关系曲线

    表  1  已识别信号参数设置

    信号类型参数变化范围
    LFM初始频率fc
    带宽Δf
    0.01~0.45
    0.02~0.40
    Frank载频f0
    相位数
    0.10~0.45
    [4, 5, 6, 7, 8]
    BPSKBarker码
    载频f0
    码长Tb
    [5, 7, 11, 13]
    0.10~0.45
    (1/32~1/16)N
    DLFM初始频率fc
    带宽Δf
    0.01~0.41
    0.05~0.45
    EQFM最小频率fmin
    最大频率fmax
    带宽Δf
    0.01~0.45
    0.01~0.45
    0.05~0.40
    SFM最小频率fmin
    最大频率fmax
    带宽Δf
    0.01~0.18
    0.20~0.45
    0.02~0.44
    下载: 导出CSV

    表  2  扩展类型信号参数设置

    信号类型参数变化范围
    2FSK载频f1,f2
    码宽Tb
    0.10~0.45
    (1/32~1/8)N
    4FSK载频f1f4
    码宽Tb
    0.10~0.45
    (1/32~1/8)N
    LFM-SFM初始频率fc
    最小频率fmin
    最大频率fmax
    0.01~0.45
    0.08~0.18
    0.20~0.30
    MLFM载频f0
    带宽Δf
    0.01~0.25
    0.10~0.45
    P1, P2载频f0
    步进频率M
    0.10~0.45
    [4,5,6,7,8], P2取偶数
    P3, P4载频f0
    压缩比
    0.10~0.45
    16~64
    下载: 导出CSV
  • [1] 王星, 周一鹏, 周东青, 等. 基于深度置信网络和双谱对角切片的低截获概率雷达信号识别[J]. 电子与信息学报, 2016, 38(11): 2972–2976. doi: 10.11999/JEIT160031

    WANG Xing, ZHOU Yipeng, ZHOU Dongqing, et al. Research on low probability of intercept radar signal recognition using deep belief network and bispectra diagonal slice[J]. Journal of Electronics &Information Technology, 2016, 38(11): 2972–2976. doi: 10.11999/JEIT160031
    [2] ZHANG Chunhong, HAN Yuetao, ZHANG Ping, et al. Research on modern radar emitter modelling technique under complex electromagnetic environment[J]. The Journal of Engineering, 2019(20): 7134–7138. doi: 10.1049/joe.2019.0579
    [3] 徐玉芬. 现代雷达信号处理的数字脉冲压缩方法[J]. 现代雷达, 2007, 29(7): 61–64. doi: 10.3969/j.issn.1004-7859.2007.07.018

    XU Yufen. Methods of digital pulse compression in modern radar signal processing[J]. Modern Radar, 2007, 29(7): 61–64. doi: 10.3969/j.issn.1004-7859.2007.07.018
    [4] 曲志昱, 毛校洁, 侯长波. 基于奇异值熵和分形维数的雷达信号识别[J]. 系统工程与电子技术, 2018, 40(2): 303–307. doi: 10.3969/j.issn.1001-506X.2018.02.10

    QU Zhiyu, MAO Xiaojie, and HOU Changbo. Radar signal recognition based on singular value entropy and fractal dimension[J]. Systems Engineering and Electronics, 2018, 40(2): 303–307. doi: 10.3969/j.issn.1001-506X.2018.02.10
    [5] 肖易寒, 王亮, 郭玉霞. 基于去噪卷积神经网络的雷达信号调制类型识别[J]. 电子与信息学报, 2021, 43(8): 2300–2307. doi: 10.11999/JEIT200506

    XIAO Yihan, WANG Liang, and GUO Yuxia. Radar signal modulation type recognition based on denoising convolutional neural network[J]. Journal of Electronics &Information Technology, 2021, 43(8): 2300–2307. doi: 10.11999/JEIT200506
    [6] QU Zhiyu, WANG Wenyang, HOU Changbo, et al. Radar signal intra-pulse modulation recognition based on convolutional denoising autoencoder and deep convolutional neural network[J]. IEEE Access, 2019, 7: 112339–112347. doi: 10.1109/ACCESS.2019.2935247
    [7] 郭立民, 寇韵涵, 陈涛, 等. 基于栈式稀疏自编码器的低信噪比下低截获概率雷达信号调制类型识别[J]. 电子与信息学报, 2018, 40(4): 875–881. doi: 10.11999/JEIT170588

    GUO Limin, KOU Yunhan, CHEN Tao, et al. Low probability of intercept radar signal recognition based on stacked sparse auto-encoder[J]. Journal of Electronics &Information Technology, 2018, 40(4): 875–881. doi: 10.11999/JEIT170588
    [8] 石礼盟, 杨承志, 吴宏超. 基于深层残差网络和三元组损失的雷达信号识别方法[J]. 系统工程与电子技术, 2020, 42(11): 2506–2512. doi: 10.3969/j.issn.1001-506X.2020.11.12

    SHI Limeng, YANG Chengzhi, and WU Hongchao. Radar signal recognition method based on deep residual network and triplet loss[J]. Systems Engineering and Electronics, 2020, 42(11): 2506–2512. doi: 10.3969/j.issn.1001-506X.2020.11.12
    [9] PARISI G I, KEMKER R, PART J L, et al. Continual lifelong learning with neural networks: A review[J]. Neural Networks, 2019, 113: 54–71. doi: 10.1016/j.neunet.2019.01.012
    [10] DHAR P, SINGH R V, PENG K C, et al. Learning without memorizing[C]. 2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), Long Beach, USA, 2019: 5133–5141.
    [11] HINTON G, VINYALS O, and DEAN J. Distilling the knowledge in a neural network[J]. Computer Science, 2015, 14(7): 38–39.
    [12] SELVARAJU R R, COGSWELL M, DAS A, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization[C]. 2017 IEEE International Conference on Computer Vision (ICCV), Venice, Italy, 2017: 618–626.
    [13] ZHOU Bolei, KHOSLA A, LAPEDRIZA A, et al. Learning deep features for discriminative localization[C]. 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Las Vegas, USA, 2016: 2921–2929.
    [14] LI Zhizhong and HOIEM D. Learning without forgetting[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2018, 40(12): 2935–2947. doi: 10.1109/TPAMI.2017.2773081
    [15] HE Kaiming, ZHANG Xiangyu, REN Shaoqing, et al. Deep residual learning for image recognition[C]. 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Las Vegas, USA, 2016: 770–778.
    [16] CASTRO F M, MARÍN-JIMÉNEZ M J, GUIL N, et al. End-to-end incremental learning[C]. The 15th European Conference on Computer Vision, Munich, Germany, 2018: 241–257.
    [17] REBUFFI S A, KOLESNIKOV A, SPERL G, et al. iCaRL: Incremental classifier and representation learning[C]. 2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Honolulu, USA, 2017: 5533–5542.
    [18] 郭立民, 陈鑫, 陈涛. 基于AlexNet模型的雷达信号调制类型识别[J]. 吉林大学学报:工学版, 2019, 49(3): 1000–1008. doi: 10.13229/j.cnki.jdxbgxb20171056

    GUO Limin, CHEN Xin, and CHEN Tao. Radar signal modulation type recognition based on AlexNet model[J]. Journal of Jilin University:Engineering and Technology Edition, 2019, 49(3): 1000–1008. doi: 10.13229/j.cnki.jdxbgxb20171056
    [19] 秦鑫, 黄洁, 查雄, 等. 基于扩张残差网络的雷达辐射源信号识别[J]. 电子学报, 2020, 48(3): 456–462. doi: 10.3969/j.issn.0372-2112.2020.03.006

    QIN Xin, HUANG Jie, ZHA Xiong, et al. Radar emitter signal recognition based on dilated residual network[J]. Acta Electronica Sinica, 2020, 48(3): 456–462. doi: 10.3969/j.issn.0372-2112.2020.03.006
    [20] KÄDING C, RODNER E, FREYTAG A, et al. Fine-tuning deep neural networks in continuous learning scenarios[C]. The 13th Asian Conference on Computer Vision, Taipei, China, 2016: 588–605.
  • 期刊类型引用(2)

    1. 张文青,李胤辰,陈胜垚,何成,田巳睿. 基于深度展开ADMM网络的稳健自适应波束形成. 现代雷达. 2024(06): 43-49 . 百度学术
    2. 佟昊阳,刘玉财,易文胜,李水. 基于波束形成的水下声源精确测量. 计量科学与技术. 2023(12): 27-33+66 . 百度学术

    其他类型引用(4)

  • 加载中
图(12) / 表(2)
计量
  • 文章访问数:  866
  • HTML全文浏览量:  574
  • PDF下载量:  186
  • 被引次数: 6
出版历程
  • 收稿日期:  2021-07-12
  • 修回日期:  2022-01-18
  • 录用日期:  2022-01-25
  • 网络出版日期:  2022-02-19
  • 刊出日期:  2022-09-19

目录

/

返回文章
返回