
Citation: | YAN Li, FANG Xuming, LI Yi, XUE Qing. Overview on Intelligent Wireless Resource Management of Millimeter Wave Communications under High-speed Railway[J]. Journal of Electronics & Information Technology, 2023, 45(8): 2806-2817. doi: 10.11999/JEIT220923 |
脉冲神经网络(Spiking Neural Networks, SNN)是在结构形态和时间动态方面更加接近生物神经网络特性的新一代神经网络模型[1],被称为第3代人工神经网络,具有时间稀疏、计算异步、事件驱动的特点,可在神经形态芯片上[2–4]实现低功耗运行,能够执行复杂时间序列的智能计算与控制,在类脑智能领域受到广泛关注[5]。但是,与传统的神经网络—模拟神经网络(Analogic Neural Networks, ANN)不同,由非线性微方程或方程组描述[6]的SNN的输出是不连续的脉冲信号,具有不可微和时空动态的复杂性,给SNN的训练带来了极大的困难。
SNN监督学习算法主要有两类:第1类是ANN到SNN的训练迁移法,第2类是标识数据集的直接训练法。训练迁移法是利用成熟的经典误差反向传播(Back Propagation, BP)算法训练ANN,再将训练所得的归一化权重迁移到具有相同网络结构的SNN,以避免SNN的脉冲不可微问题带来的训练困难,且提高了训练效率[7–11]。此类方法只适用于放电速率标识的训练集,且仅当ANN神经元的激活函数与SNN神经元的激励-放电速率归一化一致的情况下,同时训练窗口足够大时才能有较好的转换性能。
直接训练法是将BP算法直接推广到SNN的训练,根据标识码类型的不同,可分为两类:基于尖峰放电速率标识监督学习算法[12,13]和基于脉冲时间序列标识监督学习算法。放电速率标识的损失函数是SNN输出的放电速率与放电速率标识值之间的误差的均方值,这类算法多数采用时间反向传播(Backpropagation Through Time, BPTT)的方法实现网络输出误差在隐含层之间的时间递归传播。由Wu 等人[12]率先提出的时空反向传播算法(Spatio-Temporal Back Propagation, STBP)就是一个基于尖峰放电速率的高效高性能监督学习算法。STBP反向传播的迭代形式简单,使用替代梯度解决脉冲发放函数带来的不可微分问题,考虑了时间边界条件的复杂性,同时需要将SNN输出的时间脉冲序列(Temporal Spiking Sequence, TSS)转换为放电速率,从而使得SNN失去了时间结构信息的学习能力。脉冲序列标识的损失函数是SNN输出的时间脉冲序列与时间脉冲序列标识值之间的Hamming距离或van Rossum[14]距离的均方值,这类方法使得SNN获得了学习时间结构信息的能力,受到业内的普遍重视。但是,这种计算时间序列误差的方式使算法变得更加复杂,阻碍了脉冲时序标识指导的学习算法的发展。
受BP算法的启发,Bohte等人[15]提出了首个基于单个脉冲放电时间的SNN监督学习的BP算法—SpikeProp,由于该算法及其变体要求每个神经元只能发放一个脉冲,其他脉冲固定不变,也就限制了该算法在实际任务中的应用[12, 15–17]。目前,研究时间脉冲序列标识的SNN学习算法相对较少,Zenke等人[18]提出的SuperSpike是较早采用脉冲时间序列描述损失函数的算法,但该算法对神经元模型进行了简化,从而忽略了膜电位时间的依赖关系,没有考虑反向传播的时间迭代,难以应用于深度SNN的训练。Zhang等人[19]提出了一种针对脉冲时间序列标识样本的监督学习算法—脉冲时间序列反向传播(Temporal Spike Sequence Learning via Back Propagation, TSSL-BP)算法。TSSL-BP使用van Rossum距离评价输出时间脉冲序列和标识时间脉冲序列之间的误差作为网络损失,通过分析神经元间和神经元内的依赖性来分解误差进行反向传播,该算法充分考虑了误差在时间和空间结构上的传播,并在通用数据集上取得了较好的学习效果。但其梯度的计算依赖于神经元放电时间,该算法由于它的分段枚举性,当实际输出中第一个脉冲产生时间晚于目标序列的首个脉冲放电时间时,将导致此部分误差无法进行计算回传,使得在长时程脉冲时间序列标识样本的情况下训练变得困难。
受尖峰放电速率标识的时空反向传播算法的启发,本文将时空反向传播算法推广到脉冲序列标识的深度SNN的训练中,既保持了时空反向传播算法具有的简单高效时间递归的空间反向传播形式,又保留了SNN具备的学习时间动态变化能力。该算法还适用于深度SNN训练,如多层感知器和卷积神经网络等。在CIFAR10[20]等通用静态图像数据集以及神经形态数据集NMNIST[21]上进行了该算法的测试,均取得较好的学习效果,验证了本文提出的SNN学习算法的有效性和良好性能。
本文选择漏电积分放电(Leaky Integrate-and-Fire, LIF)脉冲神经元模型作为基本模型,其膜电位u(t)满足下列方程
τm∂u∂t=−u+RmI0(t), t∈[0,T] | (1) |
其中,τm为膜时间常量,Rm为膜电阻,I0(t)为刺激电流。将微分方程(1)的解离散化,得到时间序列u(tn), tn=nΔt, n∈[0,NT−1],其中Δt=TNT−1为采样周期,NT为膜电位样本数量。根据欧拉迭代法,u(tn)近似满足
u(tn)=τu(tn−1)+v(tn) | (2) |
其中,τ=(1−Δtτm), v(tn)=ΔtτRmI0(nΔt)。
考虑到神经元尖峰放电、不应期和复位过程,根据差分方程(2),离散化形式的脉冲神经元模型可以写成下式,见图1。式中*代表卷积操作,式(3a)中的求和对时间进行,求和范围是整个时间窗口[0,T]。
v(tn)=∑wk(ε(tn)∗ok(tn)) | (3a) |
u(tn)=(τu(tn−1)+v(tn))(1−o(tn−1))+Vresto(tn−1) | (3b) |
o(tn)=g(u(tn)−Vth) | (3c) |
其中,ok(tn)和wk分别是其他神经元输入的零幺脉冲序列和其他神经元与该神经元的连接权重,Vrest是神经元静息电位,Vth是神经元阈值电位,此处th代表threshold,与时间无关,g(∗)是阶跃函数。突触后电位v(tn)(PostSynaptic Potential, PSP)在模型中起到了关键作用,其中卷积核定义为
ε(tn)={tnτse1−tnτs , tn>00 , 其他 |
ε′(tn)是ε(tn)的微分,
ε′(tn)={(1τs−tnτ2s)e1−tnτs , tn>00 , 其他 |
其中,τs是PSP响应时间常量。
考虑多层SNN结构,如图1所示。记该网络中第l层中第i个神经元在tn时刻的输出为oli(tn),wl+1ij表示第l层中第i个神经元与第l+1层中第j个神经元之间的连接权重,第l层神经元个数为Nl。则第l层第i个神经元uli(tn)可以表示为
uli(tn)=(τuli(tn−1)+Nl−1∑h=1wlhiε(tn)∗ol−1h(tn))⋅(1−oli(tn−1))+Vrestoli(tn−1) | (4) |
其中,ol−1h(tn)=g(ul−1h(tn)−Vth), oli(tn−1)=g(uli(tn−1)−Vth)。特别的,对于第1层输入神经元,它的脉冲序列是经过泊松编码产生的一串零幺脉冲序列,是一个有限维的向量,长度与时间窗口大小一致,为T。
不失一般性,设神经网络共有l+1层,第l+1层中第j个神经元在tn时刻的目标输出为dl+1j(tn)。采用监督学习策略,l+1层神经元输出ol+1j(tn)和目标输出dl+1j(tn)之间的van Rossum距离损失函数为
Lj(tn,s)=(ε(tn)∗dl+1j(tn)−ε(tn)∗ol+1j(tn))2s | (5) |
则l+1层所有神经元的损失函数之和L为
L=12NTNsNs∑s=1Nl+1∑j=1NT∑n=0−1Lj(tn,s) | (6) |
这里Ns为训练样本批处理数量,s表示批处理中的第s个样本。
为推导方便,记ali(tn)=ε(tn)∗oli(tn)=(ε∗oli)(tn), bli(tn)=ε′(tn)∗oli(tn)=(ε′∗oli)(tn), ˉoli(tn)=1−oli(tn)。
图2描述了使用2.1节基本神经元模型搭建的SNN,信息在各变量中的流动关系。从中看到,网络中各层级间的空间依赖关系主要发生在PSP,时间依赖关系主要来自膜电位。
反向传播的关键,是计算总损失L关于网络内连接权重wkij的梯度。由式(5)和式(6)得到
∂L∂wkij=12NTNs∂∂wkijNs∑s=1Nk∑j=1NT−1∑n=0(ε(tn)∗dkj(tn)−ε(tn)∗okj(tn))2s | (7) |
由式(4)得到
∂okj(tn)∂wkij=g′(ukj(tn)−Vth)∂ukj(tn)∂wkij |
由图2可知,非时空边界情形下,ukj(tn)和ukj(tn+1)都和wkij相关,因此分别定义PSP反传迭代因子和膜电位反传迭代因子来表示空间依赖性和时间依赖性。定义神经元膜电位的反向梯度为
˜δki(tn)≜∂L∂uki(tn) | (8) |
定义神经元PSP的反向梯度为
ˆδli(tn)≜∂L∂ali(tn)=∂L∂(ε∗oli)(tn) | (9) |
由此得到如下递推关系
˜δli(tn)=ˆδli(tn)(ε∗g′(uli−Vth))(tn)+˜δli(tn+1)τˉoli(tn) | (10) |
其中ˆδli(tn)计算为
ˆδki(tn)=Nl+1∑j=1ˆδk+1j(tn)wk+1ij(1−ok+1j(tn−1))⋅(ε(tn)∗∂g∂uk+1j(tn))+ˆδki(tn+1)⋅(ε(tn+1)∗∂g∂uki(tn+1))(ε(tn)∗∂g∂uki(tn))τˉoki(tn) | (11) |
其中,∂g∂x=f(x−Vth)。式(10)和式(11)给出了ˆδki(tn)和˜δki(tn)的时空反向传播关系。
下面处理边界情形,这里存在3种边界状态:处于输出层和时间终点,处于隐含层和时间终点以及处于输出层和非时间终点。
(1)输出层l+1和时间终点NT–1的膜电位的传播误差的边界值
˜δl+1j(tNT−1)=ˆδl+1j(tNT−1)(ε∗f(ul+1j−Vth))⋅(tNT−1) | (12) |
其中
ˆδl+1j(tNT−1)=−1NTNsNs∑s=1((ε(tNT−1)∗dl+1j(tNT−1))−al+1j(tNT−1)) | (13) |
(2)隐含层l的时间终点NT–1的PSP的传播误差的边界值
˜δki(tNT−1)=ˆδki(tNT−1)(ε∗f(uki−Vth))(tNT−1) | (14) |
其中
ˆδki(tNT−1)=Nl+1∑j=1ˆδk+1j(tNT−1)wk+1ij⋅(ε∗f(uk+1j−Vth))(tNT−1)ˉok+1j(tNT−2) | (15) |
(3)时间在tn时刻的输出层l+1的膜电位的传播误差的边界值
˜δl+1j(tn)=ˆδl+1j(tn)∂g∂ul+1j(tn)+˜δl+1j(tn+1)τˉol+1j(tn) | (16) |
其中
ˆδl+1j(tn)=ˆδlj(tn+1)τˉolj(tn+1)(ε(tn+1)∗∂g∂ul+1j(tn+1))(ε(tn)∗∂g∂ul+1j(tn)) | (17) |
最终,第l层中第i个神经元与第l+1层第j个神经元之间连接权wl+1ij的梯度为
∂L∂wl+1ij=NT−1∑n=0ali(tn)˜δl+1j(tn) | (18) |
最终权重的更新公式为wl+1ij|e=m+1=wl+1ij|e=m−η∂L∂wl+1ij|e=m,其中wl+1ij|e=m+1表示第m+1轮训练中第l层中第i个神经元与第l+1层中第j个神经元之间连接权,η为学习率。
至此,推导出了以van Rossum距离为损失函数的基于脉冲序列标识的深度SNN的时空递归反向传播算法。同样,可以把该算法推广到以Hamming距离和时间脉冲序列与其膜电位之间距离为损失函数的情况,这里仅仅是边界条件(1)发生改变,其他计算都不会发生改变。
令tn时刻的l+1输出层中的第j个神经元输出的时间脉冲序列的实际和期望的差值平方值为
Lj(tn,s)=(dl+1j(tn)−ol+1j(tn))2s | (19) |
input : Network inputs X, class label Y, initial weight vector{Wl}Ll=1, membrane decay factor τm, synaptic decay factor τs, threshold potential Vth,simulation windows T |
output : Output Spike Sequence OL |
1 Forward Pipeline : |
2 v10:T−1←repeatinputXthroughT |
3 target←encode_repeat(Y) |
4 for l←2 to L do |
5 for t←0 to T←1 do |
6 ult,olt←Update_neuron_state(wl,vl−1t,ult−1,τm,Vth) /Eq.(4)–(5) |
7 vlt←Compute_psp(olt) /Eq.(3a) |
8 end |
9 end |
10 Loss←loss_function(OL,target) |
11 Backward Pipeline : |
12 for l←L to 1 do |
13 for t←T−1 to 0 do |
14 if t=T and l=L then |
15 ˆδLT−1←Initial_psp_iteration_factor(∂L∂aLT−1) /Eq.(13) |
16 ˜δLT−1←Initial_mem_iteration_factor(ˆδLT−1,∂aLT−1∂uL T−1) /Eq.(12) |
17 end |
18 else if t=T−1 and l!=L then |
19 ˆδlT−1←Update_psp_iteration_factor(ˆδl+1T−1,wl+1,ul+1T−1,ol+1T−2) /Eq.(15) |
20 ˜δlT−1←Update_mem_iteration_factor(ˆδlT−1,ulT−1) /Eq.(14) |
21 end |
22 else if t!=T−1 and l=L then |
23 ˆδLt←Update_psp_iteration_factor(ˆδLT+1,oLT+1,uLT+1,uLt) /Eq.(17) |
24 ˜δLt←Update_mem_iteration_factor(ˆδLt,uLt,˜δLT+1,oLt) /Eq.(16) |
25 end |
26 else |
27 ˆδlt←Update_psp_iteration_factor(ˆδl+1t,ol+1T−1,ul+1t,ˆδlT+1,ult,ulT+1,olt) /Eq.(11) |
28 ˜δlt←Update_mem_iteration_factor(ˆδlt,ult,˜δlT+1,olt) /Eq.(10) |
29 end |
30 end |
31 end 32 Update w based on: ΔWl=∑T−1T=0al−1t˜δlt /Eq.(18) |
则与van Rossum距离不同,基于时间脉冲序列的Hamming距离的梯度下降学习算法中的输出层l+1和时间终点NT−1的膜电位的传播误差的边界值
˜δl+1j(tNT−1)=ˆδl+1j(tNT−1)f(ul+1j(tNT−1)−Vth) | (20) |
其中
ˆδl+1j(tNT−1)=−1NTNsNNs∑s=1(dl+1j(tn)−ol+1j(tn))s | (21) |
其他边界值的计算方程不发生改变。
依据上述推导两种不同损失函数的替代梯度下降的时空递归误差反向传播算法伪代码如算法1所示。现有研究表明替代函数的选择对结果并没有显著的影响[22,23],常用的替代函数有矩形窗函数、多项式函数、sigmoid函数和高斯函数等,在本文中使用的是分段分式函数
f(u)=(a|u−Vth|+1)−2 | (22) |
值得强调的是,尽管本文的所有推导都基于全连接网络进行,但本文提出算法同样可应用于卷积神经网络中,本文所做实验也都是基于卷积神经网络完成的。算法对CNN和全连接网络并无本质区别。这是因为在深度学习中,卷积操作是通过卷积核在原始数据(以图像为例)上遍历,对应元素相乘后再求和完成的。当图像的格式为一个3维张量:行(M)*列(N)*通道数(C)时,卷积核是一个4维张量:卷积核个数(T)*卷积核尺寸(K)*卷积核尺寸(K)*通道数(C)。每次卷积时,K * K * C大小的卷积核与图像上同样大小的空间做乘法并求和,得到一个输出结果,这就得到了一个通道上一个位置的输出结果,接着遍历整张图,得到一个通道的全部输出结果,T个卷积核进行这样的操作就会得到了T个通道的输出结果,由此完成1次卷积操作。通过上述过程的分析,可将卷积操作视为输出神经元为T,输入神经元数量为C之间的“全连接”,而这里的“全连接”其实就是K*K的卷积核在M*N的图像上进行的2维卷积,此时对应的权重w也都是2维的矩阵。因此下面分析一下2维卷积权重在反向传播中如何处理。
令wl+1(x,y)表示第l–1与l层连接权重矩阵中第(x,y)位置的值,o(x′,y′)(tn)表示输出矩阵中第(x′,y′)位置的像素点tn时刻的输出脉冲结果,d(x′,y′)(tn)表示输出矩阵中第(x′,y′)位置的像素点tn时刻的目标脉冲结果。此时梯度为
∂L∂wl+1(x,y)=12NT∂∂wl+1(x,y)NS∑s=1M∑x′=1N∑y′=1NT−1∑n=0(ε(tn)∗d(x′,y′)(tn)−ε(tn)∗o(x′,y′)(tn))2s | (23) |
可见只是与wl+1相关的神经元由∑NKj=1变成了∑NSs=1∑Mx′=1,仅发生求和范围的变化,而对于膜电位反传迭代因子和突触后电位反传迭代因子的计算,则同样只需将覆盖的神经元范围有∑NKj=1变成∑NSs=1∑Mx′=1即可,这里的(x′,y′)代表前一层与之相连的x′,y′位置处的神经元。由此可见算法对CNN和全连接网络并无本质区别,公式推导只需更改为标量形式即可,本文选择以全连接网络为例,通过标量方式推导,是为了更方便理解。
为验证文中所提出的算法性能,本文使用公开静态图像数据集CIFAR10和神经形态数据集NMNIST在NVIDIA RTX 3090 GPU上进行了新算法的有效性验证和性能评价。对于静态图像在处理时,直接将像素值作为网络输入而没有进行编码处理,对于神经形态数据集,使用时间驱动的脉冲串作为网络输入。本文所提出的新算法在多个数据集和不同网络结构下都取得了良好的性能,表明了算法的有效性和泛化能力。在以下的测试中,没有采用批归一化处理,初始学习率为0.0003,τm=5,τs=5,迭代步长采用AdamW优化器。
CIFAR10是一个彩色图像分类数据集,共有50000张训练图像和10000张测试图像,每幅图像大小为32×32。本文在AlexNet网络上对算法性能进行简单验证。在CIFAR10公开数据集上的基于van Rossum距离和Hamming距离算法的结果如表1和表2所示。使用Accuracy作为评价指标时,本文提出的两种算法在CIFAR10上分别取得了88.47%和89.10%的结果,这个结果超越STBP算法的同类研究,证明了本文算法具备处理较为复杂数据集的能力。此外,本文算法性能优于基于转换的方法和ANN,这意味着直接使用时间脉冲时序训练SNN的方式有着很好的发展前景。
NMINST是将静态图像数据集MNIST通过扫描得到的脉冲神经形态数据集,每个图像的空间大小为34×34×2,持续时间为300 ms,所以网络的输入不是模拟的像素值而是时间脉冲序列,富含更多的时间信息,也更适合检验SNN学习算法的性能。在NMNIST数据集上基于van Rossum距离和Hamming距离算法的测试结果如表3和表4所示。本文算法在NMNIST上超越了同类研究,大大减少了计算的时间复杂度,节省了计算资源,同时也证明本文算法在神经形态数据集上依然具备较好的性能。
方法 | 网络 | 时间步长 | 周期 | 准确率(%) |
STBP[12] | 12C5-P2-64C5-P2 | 50 | 150 | 98.19 |
本文算法 | 12C5-P2-64C5-P2 | 25 | 100 | 98.61 |
方法 | 网络 | 时间步长 | 周期 | 准确率(%) |
STBP[12] | 12C5-P2-64C5-P2 | 50 | 150 | 98.19 |
本文算法 | 12C5-P2-64C5-P2 | 25 | 100 | 98.67 |
本文算法使用van Rossum和Hamming距离作为损失函数,在静态和神经形态数据集上都获得了优于STBP的结果。值得一提的是本文算法在实验中使用更少的时间步长,减少了推理时间,节省了训练资源的同时,降低了对训练平台的要求。此外在CIFAR10数据集上,本文算法的结果也优于基于转换方法的SNN,这表明作为时间序列编码的学习算法相较基于脉冲频率编码的方法具有更好的潜力。
通过观察发现,对于CIFAR10和NMNIST数据集,基于Hamming距离的实验结果,在同样的网络结构和神经元参数设置的前提下,均优于基于van Rossum距离的实验结果。这可能是由于Hamming距离严格反映输出脉冲序列和目标脉冲序列的时间结构差异,而van Rossum距离中通过对脉冲串求卷积即计算两PSP的方式,虽然在脉冲少时保证了网络的训练,增加了容错性,但当放电比较充分时也带来了损失计算的误差,使得学习效果较基于Hamming距离的方法略有下降。
与基于尖峰放电速率标识的时空反向传播算法[12]不同,本文提出的时间脉冲序列标识的时空递归误差反向传播算法,能够充分发挥SNN的时间动态特点,保留时间结构信息,有利于SNN在控制领域的应用。同时,与时间脉冲序列学习的反向传播算法[19]相比,本文算法无需分析神经元内部时间依赖关系所使用的复杂分段枚举方法,表达形式更加简单直观、容易理解,也不存在长时程标识中分段枚举带来的复杂性,避免了求导依赖放电时间导致的当神经元本该发放脉冲却未发放时带来的该时刻误差无法回传的问题。
本文分别在公开数据集上进行了验证实验,在相同网络结构下,本文算法使用更短的时间步长取得了与同类研究[12]可比或超越的性能,在CIFAR-10和NMNIST上可达到89.10%、98.67%的准确率。值得指出的是,在CIFAR-10上的结果超越了基于ANN转换的结果,这表明使用脉冲时间序列标识的学习算法具有更好的学习潜力,这对加速脉冲序列指导SNN直接监督学习算法的应用和发展带来了信心和支持。同时本文也对比了提出算法基于Hamming距离和van Rossum距离的结果,发现基于Hamming距离的方法略优于van Rossum距离的结果,这可能是由于van Rossum距离在增强训练容错性的同时,也引入了部分误差,使得结果略低于精确衡量输出和目标差距的Hamming距离方法。但本文认为van Rossum会在放电较少的情况下,避免了损失的计算值很小从而导致梯度消失的问题,保证了网络的训练。因此,当在选择合适的卷积宽度时控制误差量,van Rossum距离会得到较好的学习效果。
SNN作为一种受生物启发的神经计算模型,具有更好的生物可解释性和时间动态特性,被认为是实现类脑计算的重要方式之一。但脉冲神经元脉冲放电的形式在带来网络稀疏、低功耗优势的同时,其脉冲生成函数不可微分的问题也给SNN的学习带来了巨大困难。现有SNN学习算法可大致分为基于ANN转换的间接学习方法和受BP启发的直接监督学习算法两大类。其中基于转换的方法,得益于ANN良好的性能,一般体现出较好的准确性,但这类方法存在的问题是需要较长的推理时间来保证转换精度不下降,直接增大了计算需求和能耗,使得与使用SNN的初衷背道而驰。受BP启发的SNN监督学习算法根据训练标识的不同,也可分为基于放电频率和基于脉冲时间序列两种。其中基于放电频率的方法与基于转换的间接学习存在同样的问题,很依赖于对长推理时间的需求,同时对时间维度的压缩也使得网络失去了学习时间动态变化的能力。而基于脉冲时间序列指导的学习算法,可以充分考虑脉冲神经元的时间动态特性,学习脉冲序列的时间结构,适合应用于行为控制等领域。但同时计算损失在时间和空间的传播,也大大增加了此类算法的推导和训练难度。
本文提出一种基于脉冲时间序列标识的新型时空递归误差反向传播算法,不同于现有的基于放电脉冲速率标识的时空反向传播算法,它通过计算两脉冲串之间的Hamming距离或van Rossum距离来评估学习损失,分析脉冲神经元的膜电位和PSP上的空间和时间依赖性,完成误差的反向传播,引入替代梯度在解决脉冲生成函数不可微分问题的同时,也避免了长时程脉冲序列标识计算复杂和当脉冲神经元不发放时误差无法反向传播的问题。
本文算法分别在静态和神经形态数据集上进行了验证,均表现出良好的性能,同时也缩短了对时间步长的需求,大大地降低了计算量和能耗。从应用角度出发,对于一些分类等基础的图像处理任务,使用脉冲频率标识的学习算法,同样可以获得不错的效果。这是由于此类任务往往只需给出一个像素强度或类别概率的模拟值就可以达到目的,需要脉冲表达的信息是简单的,处理成放电频率后就可以代表。但对于行为控制这类复杂问题来说,每个行为都需要唯一的编码,此时简单的放电频率就不足以表示多样的行为信息,而使用脉冲序列标识的方法,依赖少量的神经元就可以传递出多样复杂的指令,恰恰体现出SNN的优势。因此作为脉冲序列指导的学习算法在将来也会有更重要且广阔的应用前景,而本文算法也为此类算法的研究发展助力。
致谢 感谢科技创新2030—“新一代人工智能”重大项目(2020AAA0105800)对该研究工作的支持,感谢清华大学张颢老师对论文提出的宝贵意见。
[1] |
HE Ruisi, AI Bo, WANG Gongpu, et al. High-speed railway communications: From GSM-R to LTE-R[J]. IEEE Vehicular Technology Magazine, 2016, 11(3): 49–58. doi: 10.1109/MVT.2016.2564446
|
[2] |
RAPPAPORT T S, SUN Shu, MAYZUS R, et al. Millimeter wave mobile communications for 5G cellular: It will work![J]. IEEE Access, 2013, 1: 335–349. doi: 10.1109/ACCESS.2013.2260813
|
[3] |
AI Bo, MOLISCH A F, RUPP M, et al. 5G key technologies for smart railways[J]. Proceedings of the IEEE, 2020, 108(6): 856–893. doi: 10.1109/JPROC.2020.2988595
|
[4] |
卢永忠, 戚建淮, 胡福强, 等. 探索毫米波通信技术在高铁旅客服务中的应用[J]. 铁道通信信号, 2018, 54(5): 50–53. doi: 10.13879/j.issn1000-7458.2018-05.17567
LU Yongzhong, QI Jianhuai, HU Fuqiang, et al. Application of millimeter wave communication in high-speed railway passenger services[J]. Railway Signalling &Communication, 2018, 54(5): 50–53. doi: 10.13879/j.issn1000-7458.2018-05.17567
|
[5] |
3GPP TR 38. 913 (V17.0. 0), Technical specification group radio access network. Study on scenarios and requirements for next generation access technologies (Release 17), 2022.
|
[6] |
CHEN W E, FAN Xiangyuan, and CHEN Lixian. A CNN-based packet classification of eMBB, mMTC and URLLC applications for 5G[C]. 2019 International Conference on Intelligent Computing and its Emerging Applications, Tainan, China, 2019: 140–145.
|
[7] |
WANG Chengxiang, GHAZAL A, AI Bo, et al. Channel measurements and models for high-speed train communication systems: A survey[J]. IEEE Communications Surveys & Tutorials, 2016, 18(2): 974–987. doi: 10.1109/COMST.2015.2508442
|
[8] |
闫莉, 方旭明. 高铁基于毫米波的自适应波束分合传输方案[J]. 电子与信息学报, 2016, 38(1): 146–152. doi: 10.11999/JEIT150396
YAN Li and FANG Xuming. Adaptive beam splitting or integrating scheme for railway millimeter wave wireless communications[J]. Journal of Electronics &Information Technology, 2016, 38(1): 146–152. doi: 10.11999/JEIT150396
|
[9] |
SONG Hao, FANG Xuming, and FANG Yuguang. Millimeter-wave network architectures for future high-speed railway communications: Challenges and solutions[J]. IEEE Wireless Communications, 2016, 23(6): 114–122. doi: 10.1109/MWC.2016.1500255WC
|
[10] |
艾渤, 章嘉懿, 何睿斯, 等. 面向智能高铁业务和应用的5G基础理论与关键技术[J]. 中国科学基金, 2020, 34(2): 133–141. doi: 10.16262/j.cnki.1000-8217.2020.02.003
AI Bo, ZHANG Jiayi, HE Ruisi, et al. Fundamental theory and key technologies of 5G for service and application of intelligent high-speed railway[J]. Bulletin of National Natural Science Foundation of China, 2020, 34(2): 133–141. doi: 10.16262/j.cnki.1000-8217.2020.02.003
|
[11] |
GUAN Ke, AI Bo, PENG Bile, et al. Towards realistic high-speed train channels at 5G millimeter-wave band—Part II: Case study for paradigm implementation[J]. IEEE Transactions on Vehicular Technology, 2018, 67(10): 9129–9144. doi: 10.1109/TVT.2018.2865530
|
[12] |
VALASTRO G C, PANNO D, and RIOLO S. A SDN/NFV based C-RAN architecture for 5G Mobile networks[C]. 2018 International Conference on Selected Topics in Mobile and Wireless Networking, Tangier, Morocco, 2018: 1–8.
|
[13] |
WANG Kai, LIU Liu, HAN Botao, et al. High-speed railway communication based on dynamic mapping of BBU-RRH using cloud radio access network[C]. The 2019 IEEE 5th International Conference on Computer and Communications, Chengdu, China, 2019: 901–905.
|
[14] |
LAURIDSEN M, GIMENEZ L C, RODRIGUEZ I, et al. From LTE to 5G for connected mobility[J]. IEEE Communications Magazine, 2017, 55(3): 156–162. doi: 10.1109/MCOM.2017.1600778CM
|
[15] |
SONG Hao, FANG Xuming, and YAN Li. Handover scheme for 5G C/U plane split heterogeneous network in high-speed railway[J]. IEEE Transactions on Vehicular Technology, 2014, 63(9): 4633–4646. doi: 10.1109/TVT.2014.2315231
|
[16] |
YAN Li, FANG Xuming, and FANG Yuguang. Control and data signaling decoupled architecture for railway wireless networks[J]. IEEE Wireless Communications, 2015, 22(1): 103–111. doi: 10.1109/MWC.2015.7054725
|
[17] |
YAN Li, FANG Xuming, WANG Xianbin, et al. AI-enabled Sub-6-GHz and mm-Wave hybrid communications: Considerations for use with future HSR wireless systems[J]. IEEE Vehicular Technology Magazine, 2020, 15(3): 59–67. doi: 10.1109/MVT.2020.2969528
|
[18] |
ZHANG Jianping, SHEN Chunzi, WANG Shuo, et al. The design and performance test of train control data communication systems based on train-to-train communication[C]. 2020 Chinese Automation Congress, Shanghai, China, 2020: 588–592.
|
[19] |
WANG Xiaoxuan, LIU Lingjia, TANG Tao, et al. Enhancing communication-based train control systems through train-to-train communications[J]. IEEE Transactions on Intelligent Transportation Systems, 2019, 20(4): 1544–1561. doi: 10.1109/TITS.2018.2856635
|
[20] |
XU Chenren, WANG Jing, MA Zhiyao, et al. A first look at disconnection-centric TCP performance on high-speed railways[J]. IEEE Journal on Selected Areas in Communications, 2020, 38(12): 2723–2733. doi: 10.1109/JSAC.2020.3005486
|
[21] |
XU Junyi, WEI Zhenchun, LYU Z W, et al. Throughput maximization of offloading tasks in multi-access edge computing networks for high-speed railways[J]. IEEE Transactions on Vehicular Technology, 2021, 70(9): 9525–9539. doi: 10.1109/TVT.2021.3101571
|
[22] |
WANG Wei, ZHOU Conghao, HE Hongli, et al. Cellular traffic load prediction with LSTM and gaussian process regression[C]. 2020 IEEE International Conference on Communications, Dublin, Ireland, 2020: 1–6.
|
[23] |
ZHANG He and WONG V W S. A two-timescale approach for network slicing in C-RAN[J]. IEEE Transactions on Vehicular Technology, 2020, 69(6): 6656–6669. doi: 10.1109/TVT.2020.2985289
|
[24] |
黄阿琼, 关伟. 不同时间尺度下短期交通流的可预测性[J]. 系统工程, 2010, 28(5): 75–80.
HUANG Aqiong and GUAN Wei. The predictability of short-term traffic flow in different temporal scales[J]. Systems Engineering, 2010, 28(5): 75–80.
|
[25] |
BERLIN E and VAN LAERHOVEN K. Sensor networks for railway monitoring: Detecting trains from their distributed vibration footprints[C]. 2013 IEEE International Conference on Distributed Computing in Sensor Systems, Cambridge, USA, 2013: 80–87.
|
[26] |
ZHOU Tao, TAO Cheng, SALOUS S, et al. Implementation of an LTE-based channel measurement method for high-speed railway scenarios[J]. IEEE Transactions on Instrumentation and Measurement, 2016, 65(1): 25–36. doi: 10.1109/TIM.2015.2477166
|
[27] |
ZHOU Tao, ZHANG Haitong, AI Bo, et al. Deep-learning-based spatial-temporal channel prediction for smart high-speed railway communication networks[J]. IEEE Transactions on Wireless Communications, 2022, 21(7): 5333–5345. doi: 10.1109/TWC.2021.3139384
|
[28] |
XUE Chen, ZHOU Tao, ZHANG Haitong, et al. Deep learning based channel prediction for massive MIMO systems in high-speed railway scenarios[C]. The 2021 IEEE 93rd Vehicular Technology Conference, Helsinki, Finland, 2021: 1–5.
|
[29] |
MA Zheng, WU Yanliang, XIAO Ming, et al. Interference suppression for railway wireless communication systems: A reconfigurable intelligent surface approach[J]. IEEE Transactions on Vehicular Technology, 2021, 70(11): 11593–11603. doi: 10.1109/TVT.2021.3111646
|
[30] |
王丹, 梁家敏, 梅志强, 等. 基于矢量近似消息传递的智能反射面辅助毫米波信道估计[J]. 电子与信息学报, 2022, 44(7): 2400–2406. doi: 10.11999/JEIT211271
WANG Dan, LIANG Jiamin, MEI Zhiqiang, et al. Millimeter-wave channel estimation with intelligent reflecting surface assisted based on vector approximate message passing[J]. Journal of Electronics &Information Technology, 2022, 44(7): 2400–2406. doi: 10.11999/JEIT211271
|
[31] |
XU Jianpeng and AI Bo. When mmwave high-speed railway networks meet reconfigurable intelligent surface: A deep reinforcement learning method[J]. IEEE Wireless Communications Letters, 2022, 11(3): 533–537. doi: 10.1109/LWC.2021.3135602
|
[32] |
王靖瑜, 鞠宏浩, 方旭明. 智能反射面在高铁通信下的应用研究[J]. 中兴通讯技术, 2021, 27(4): 14–17,35. doi: 10.12142/ZTETJ.202104004
WANG Jingyu, JU Honghao, and FANG Xuming. Applications of intelligent reflecting surface in high-speed railway communications[J]. ZTE Technology Journal, 2021, 27(4): 14–17,35. doi: 10.12142/ZTETJ.202104004
|
[33] |
GUAN Ke, AI Bo, PENG Bile, et al. Towards realistic high-speed train channels at 5G millimeter-wave band—Part I: Paradigm, significance analysis, and scenario reconstruction[J]. IEEE Transactions on Vehicular Technology, 2018, 67(10): 9112–9128. doi: 10.1109/TVT.2018.2865498
|
[34] |
PARK J J, LEE J, KIM K W, et al. Large- and small-scale fading characteristics of mmwave HST propagation channel based on 28-GHz measurements[C]. The 2021 15th European Conference on Antennas and Propagation, Dusseldorf, Germany, 2021: 1–5.
|
[35] |
HE Danping, AI Bo, GUAN Ke, et al. Channel measurement, simulation, and analysis for high-speed railway communications in 5G millimeter-wave band[J]. IEEE Transactions on Intelligent Transportation Systems, 2018, 19(10): 3144–3158. doi: 10.1109/TITS.2017.2771559
|
[36] |
ALI A, GONZÁLEZ-PRELCIC N, and HEATH R W. Millimeter wave beam-selection using out-of-band spatial information[J]. IEEE Transactions on Wireless Communications, 2018, 17(2): 1038–1052. doi: 10.1109/TWC.2017.2773532
|
[37] |
MASCHIETTI F, GESBERT D, and DE KERRET P. Coordinated beam selection in millimeter wave multi-user MIMO using out-of-band information[C]. 2019 IEEE International Conference on Communications, Shanghai, China, 2019: 1–6.
|
[38] |
LI Tianyou, XU Youyun, TONG Huawei, et al. Low-band information and historical data aided non-uniform millimeter wave beam selection algorithm in 5G-R high-speed railway communication scene[J]. IEEE Transactions on Vehicular Technology, 2022, 71(3): 2809–2823. doi: 10.1109/TVT.2021.3138152
|
[39] |
LIU Ziyue and FAN Pingzhi. An effective handover scheme based on antenna selection in ground–train distributed antenna systems[J]. IEEE Transactions on Vehicular Technology, 2014, 63(7): 3342–3350. doi: 10.1109/TVT.2014.2300154
|
[40] |
WANG Ke, LI Suoping, LIN Ying, et al. Performance analysis of high-speed railway handover scheme with different network architecture[C]. The 2019 IEEE 8th Joint International Information Technology and Artificial Intelligence Conference, Chongqing, China, 2019: 1894–1898.
|
[41] |
张睿, 马钰昕, 黄辉, 等. LTE-M系统的通信时延分析[J]. 工业控制计算机, 2018, 31(5): 20–22,24. doi: 10.3969/j.issn.1001-182X.2018.05.008
ZHANG Rui, MA Yuxin, HUANG Hui, et al. Communication delay analysis of LTE-M system[J]. Industrial Control Computer, 2018, 31(5): 20–22,24. doi: 10.3969/j.issn.1001-182X.2018.05.008
|
[42] |
李莎莎, 方旭明, 罗万团. 一种提升高速铁路无线通信网络HARQ性能的方法[J]. 铁道学报, 2014, 36(10): 53–58. doi: 10.3969/j.issn.1001-8360.2014.10.009
LI Shasha, FANG Xuming, and LUO Wantuan. Method for improving HARQ performance of mobile communication system of high-speed railway[J]. Journal of the China Railway Society, 2014, 36(10): 53–58. doi: 10.3969/j.issn.1001-8360.2014.10.009
|
[43] |
GARCIA M H C, MOLINA-GALAN A, BOBAN M, et al. A tutorial on 5G NR V2X communications[J]. IEEE Communications Surveys & Tutorials, 2021, 23(3): 1972–2026. doi: 10.1109/COMST.2021.3057017
|
[44] |
FENG Mingjie and MAO Shiwen. Dealing with limited backhaul capacity in millimeter-wave systems: A deep reinforcement learning approach[J]. IEEE Communications Magazine, 2019, 57(3): 50–55. doi: 10.1109/MCOM.2019.1800565
|
[45] |
XU Jianpeng and AI Bo. Artificial intelligence empowered power allocation for smart railway[J]. IEEE Communications Magazine, 2021, 59(2): 28–33. doi: 10.1109/MCOM.001.2000634
|
[46] |
HAN Shuangfeng, I C L, XIE Tian, et al. Achieving high spectrum efficiency on high speed train for 5G new radio and beyond[J]. IEEE Wireless Communications, 2019, 26(5): 62–69. doi: 10.1109/MWC.001.1800260
|
[47] |
SONG Haifeng and SCHNIEDER E. Availability and performance analysis of train-to-train data communication system[J]. IEEE Transactions on Intelligent Transportation Systems, 2019, 20(7): 2786–2795. doi: 10.1109/TITS.2019.2914701
|
[48] |
WANG Xiaoxuan, LIU Lingjia, ZHU Li, et al. Train-centric CBTC meets age of information in train-to-train communications[J]. IEEE Transactions on Intelligent Transportation Systems, 2020, 21(10): 4072–4085. doi: 10.1109/TITS.2019.2936219
|
[49] |
ZHAO Junhui, ZHANG Yang, NIE Yiwen, et al. Intelligent resource allocation for train-to-train communication: A multi-agent deep reinforcement learning approach[J]. IEEE Access, 2020, 8: 8032–8040. doi: 10.1109/ACCESS.2019.2963751
|
[50] |
OH S, YOON B, KIM D, et al. Handover impact on E2E delay of multimedia service in high-speed railway system[C]. 2020 International Conference on Information and Communication Technology Convergence, Jeju, Korea (South), 2020: 1709–1713.
|
[51] |
陈永, 陈耀, 张薇. 基于SPN的LTE-R无线通信可靠性建模与分析[J]. 铁道学报, 2020, 42(9): 111–119. doi: 10.3969/j.issn.1001-8360.2020.09.014
CHEN Yong, CHEN Yao, and ZHANG Wei. Modeling and analysis of LTE-R wireless communication reliability based on SPN[J]. Journal of the China Railway Society, 2020, 42(9): 111–119. doi: 10.3969/j.issn.1001-8360.2020.09.014
|
[52] |
ABDELMOHSEN A, ABDELWAHAB M, ADEL M, et al. LTE handover parameters optimization using q-learning technique[C]. The 2018 IEEE 61st International Midwest Symposium on Circuits and Systems, Windsor, Canada, 2018: 194–197.
|
[53] |
WU Cheng, CAI Xingqiang, SHENG Jie, et al. Parameter adaptation and situation awareness of LTE-R handover for high-speed railway communication[J]. IEEE Transactions on Intelligent Transportation Systems, 2022, 23(3): 1767–1781. doi: 10.1109/TITS.2020.3026195
|
[54] |
3GPP TR 38.804 V14.0. 0. Technical specification group radio access network; study on new radio access technology[S]. Radio Interface Protocol Aspects (Release 14), 2017.
|
[55] |
YAN Li, FANG Xuming, HAO Li, et al. A fast beam alignment scheme for dual-band HSR wireless networks[J]. IEEE Transactions on Vehicular Technology, 2020, 69(4): 3968–3979. doi: 10.1109/TVT.2020.2971856
|
1. | 施一飞. 分布式多维数据流频繁模式挖掘算法设计. 吉林大学学报(信息科学版). 2023(01): 174-179 . ![]() | |
2. | 郝云权,赵大志,李伟斌,孔满昭,刘森云. POD-BPNN预测模型及结冰条件不确定性量化. 南京航空航天大学学报. 2023(02): 302-310 . ![]() | |
3. | 杨静,吉晓阳,李少波,胡建军,王阳,刘庭卿. 具有正则化约束的脉冲神经网络机器人触觉物体识别方法. 电子与信息学报. 2023(07): 2595-2604 . ![]() | |
4. | 姜岚,李远,智李,周蠡,赵阳. 基于POD-RBF代理模型和特征点KNN校正的电力舱温度反演方法. 电子测量技术. 2023(24): 68-76 . ![]() |
input : Network inputs X, class label Y, initial weight vector{Wl}Ll=1, membrane decay factor τm, synaptic decay factor τs, threshold potential Vth,simulation windows T |
output : Output Spike Sequence OL |
1 Forward Pipeline : |
2 v10:T−1←repeatinputXthroughT |
3 target←encode_repeat(Y) |
4 for l←2 to L do |
5 for t←0 to T←1 do |
6 ult,olt←Update_neuron_state(wl,vl−1t,ult−1,τm,Vth) /Eq.(4)–(5) |
7 vlt←Compute_psp(olt) /Eq.(3a) |
8 end |
9 end |
10 Loss←loss_function(OL,target) |
11 Backward Pipeline : |
12 for l←L to 1 do |
13 for t←T−1 to 0 do |
14 if t=T and l=L then |
15 ˆδLT−1←Initial_psp_iteration_factor(∂L∂aLT−1) /Eq.(13) |
16 ˜δLT−1←Initial_mem_iteration_factor(ˆδLT−1,∂aLT−1∂uL T−1) /Eq.(12) |
17 end |
18 else if t=T−1 and l!=L then |
19 ˆδlT−1←Update_psp_iteration_factor(ˆδl+1T−1,wl+1,ul+1T−1,ol+1T−2) /Eq.(15) |
20 ˜δlT−1←Update_mem_iteration_factor(ˆδlT−1,ulT−1) /Eq.(14) |
21 end |
22 else if t!=T−1 and l=L then |
23 ˆδLt←Update_psp_iteration_factor(ˆδLT+1,oLT+1,uLT+1,uLt) /Eq.(17) |
24 ˜δLt←Update_mem_iteration_factor(ˆδLt,uLt,˜δLT+1,oLt) /Eq.(16) |
25 end |
26 else |
27 ˆδlt←Update_psp_iteration_factor(ˆδl+1t,ol+1T−1,ul+1t,ˆδlT+1,ult,ulT+1,olt) /Eq.(11) |
28 ˜δlt←Update_mem_iteration_factor(ˆδlt,ult,˜δlT+1,olt) /Eq.(10) |
29 end |
30 end |
31 end 32 Update w based on: ΔWl=∑T−1T=0al−1t˜δlt /Eq.(18) |
方法 | 网络 | 时间步长 | 周期 | 准确率(%) |
STBP[12] | 12C5-P2-64C5-P2 | 50 | 150 | 98.19 |
本文算法 | 12C5-P2-64C5-P2 | 25 | 100 | 98.61 |
方法 | 网络 | 时间步长 | 周期 | 准确率(%) |
STBP[12] | 12C5-P2-64C5-P2 | 50 | 150 | 98.19 |
本文算法 | 12C5-P2-64C5-P2 | 25 | 100 | 98.67 |
input : Network inputs X, class label Y, initial weight vector{Wl}Ll=1, membrane decay factor τm, synaptic decay factor τs, threshold potential Vth,simulation windows T |
output : Output Spike Sequence OL |
1 Forward Pipeline : |
2 v10:T−1←repeatinputXthroughT |
3 target←encode_repeat(Y) |
4 for l←2 to L do |
5 for t←0 to T←1 do |
6 ult,olt←Update_neuron_state(wl,vl−1t,ult−1,τm,Vth) /Eq.(4)–(5) |
7 vlt←Compute_psp(olt) /Eq.(3a) |
8 end |
9 end |
10 Loss←loss_function(OL,target) |
11 Backward Pipeline : |
12 for l←L to 1 do |
13 for t←T−1 to 0 do |
14 if t=T and l=L then |
15 ˆδLT−1←Initial_psp_iteration_factor(∂L∂aLT−1) /Eq.(13) |
16 ˜δLT−1←Initial_mem_iteration_factor(ˆδLT−1,∂aLT−1∂uL T−1) /Eq.(12) |
17 end |
18 else if t=T−1 and l!=L then |
19 ˆδlT−1←Update_psp_iteration_factor(ˆδl+1T−1,wl+1,ul+1T−1,ol+1T−2) /Eq.(15) |
20 ˜δlT−1←Update_mem_iteration_factor(ˆδlT−1,ulT−1) /Eq.(14) |
21 end |
22 else if t!=T−1 and l=L then |
23 ˆδLt←Update_psp_iteration_factor(ˆδLT+1,oLT+1,uLT+1,uLt) /Eq.(17) |
24 ˜δLt←Update_mem_iteration_factor(ˆδLt,uLt,˜δLT+1,oLt) /Eq.(16) |
25 end |
26 else |
27 ˆδlt←Update_psp_iteration_factor(ˆδl+1t,ol+1T−1,ul+1t,ˆδlT+1,ult,ulT+1,olt) /Eq.(11) |
28 ˜δlt←Update_mem_iteration_factor(ˆδlt,ult,˜δlT+1,olt) /Eq.(10) |
29 end |
30 end |
31 end 32 Update w based on: ΔWl=∑T−1T=0al−1t˜δlt /Eq.(18) |
方法 | 网络 | 时间步长 | 周期 | 准确率(%) |
STBP[12] | 12C5-P2-64C5-P2 | 50 | 150 | 98.19 |
本文算法 | 12C5-P2-64C5-P2 | 25 | 100 | 98.61 |
方法 | 网络 | 时间步长 | 周期 | 准确率(%) |
STBP[12] | 12C5-P2-64C5-P2 | 50 | 150 | 98.19 |
本文算法 | 12C5-P2-64C5-P2 | 25 | 100 | 98.67 |