Loading [MathJax]/jax/element/mml/optable/GeneralPunctuation.js
高级搜索

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

粒子群优化的门控循环单元网络漂流浮标轨迹预测

刘凇佐 王虔 李磊 李慧 余赟

刘凇佐, 王虔, 李磊, 李慧, 余赟. 粒子群优化的门控循环单元网络漂流浮标轨迹预测[J]. 电子与信息学报, 2024, 46(8): 3295-3304. doi: 10.11999/JEIT230945
引用本文: 刘凇佐, 王虔, 李磊, 李慧, 余赟. 粒子群优化的门控循环单元网络漂流浮标轨迹预测[J]. 电子与信息学报, 2024, 46(8): 3295-3304. doi: 10.11999/JEIT230945
LIU SongZuo, WANG Qian, LI Lei, LI Hui, YU Yun. Gated Recurrent Unit Network of Particle Swarm Optimization for Drifting Buoy Trajectory Prediction[J]. Journal of Electronics & Information Technology, 2024, 46(8): 3295-3304. doi: 10.11999/JEIT230945
Citation: LIU SongZuo, WANG Qian, LI Lei, LI Hui, YU Yun. Gated Recurrent Unit Network of Particle Swarm Optimization for Drifting Buoy Trajectory Prediction[J]. Journal of Electronics & Information Technology, 2024, 46(8): 3295-3304. doi: 10.11999/JEIT230945

粒子群优化的门控循环单元网络漂流浮标轨迹预测

doi: 10.11999/JEIT230945 cstr: 32379.14.JEIT230945
基金项目: 国家自然科学基金(61803115)
详细信息
    作者简介:

    刘凇佐:男,教授,研究方向为水下信息融合,漂流浮标轨迹预测技术,仿生通信与侦测技术

    王虔:女,硕士生,研究方向为漂流浮标轨迹预测技术

    李磊:男,讲师,研究方向为水下多源信息融合技术,水下被动声学监测关键技术

    李慧:女,副教授,研究方向为高精度导航定位技术及应用、卫星精密轨道及钟差预测技术及应用、智能导航技术及应用

    余赟:女,高工,研究方向为声纳信号处理,水下信息融合技术

    通讯作者:

    李慧 lihuiheu@hrbeu.edu.cn

  • 中图分类号: TN96

Gated Recurrent Unit Network of Particle Swarm Optimization for Drifting Buoy Trajectory Prediction

Funds: The National Natural Science Foundation of China (61803115)
  • 摘要: 该文针对漂流浮标的轨迹预测问题,提出一种基于深度学习框架的端对端预测模型。由于不同海域的水动力模型存在较大差异,针对海面漂流浮标的流体载荷计算也较为复杂。因此,该文根据漂流浮标历史轨迹形成的多维时间序列,提出更具有普适性的基于数据驱动的轨迹预测模型。该模型将粒子群优化算法(PSO)与门控循环单元(GRU)结合,使用PSO算法对GRU神经网络的超参数进行初始化,经过多次迁移迭代训练后获得最优漂流浮标轨迹预测模型。最后使用多个北大西洋真实漂流浮标轨迹数据进行验证,结果表明PSOGRU算法能够实现准确的漂流浮标轨迹预测。
  • 海上漂流浮标的轨迹预测问题是目前海上目标预测技术中一个重要的研究课题。随着我国海洋强国的飞速建设以及一带一路战略的快速实施,文献[1]提出我国的海上活动越来越频繁,随之增加的海上工作人员安全隐患问题、运输货品的漂流遗失问题以及海上溢油的问题受到了研究人员的广泛关注。研究人员通常使用漂流浮标来模拟海上落水人员、捕捞目标和漂浮油滴来研究这一问题。因此,文献[2]提出研究海上漂流浮标的轨迹预测问题,对于大尺度海洋环境监测,保障海上人员、货品的安全以及海上溢油的围挡回收均具有重要意义。

    海上漂流浮标的运动轨迹会受到风、浪、流等多种因素的影响[3],研究人员通常会首先对海洋大气环境力进行建模,研究漂流浮标的响应规律,这无疑增加了轨迹预测的难度和复杂度[46]。为了排除海洋因素的影响,研究人员经常使用基于统计学以及机器学习的方法将轨迹预测问题转换为有序时间序列的预测问题[7]。文献[8]采用的自回归积分移动平均在非线性时序预测中的表现并不理想。文献[9]提出了使用卡尔曼滤波以及无迹卡尔曼滤波都需要观测数据作为目标轨迹跟踪的支持,但此方法的效果依赖于实时获得观测数据。因此,近年来研究人员经常使用深度学习方法进行基于数据驱动的时间序列预测,文献[10]采用经典的循环神经网络(Recurrent Neural Network, RNN)进行预测效果良好,文献[11]提出用Transformer模型实现对序列特征的捕捉,实现对轨迹的预测,但在时间效率上有待提升。为了减少模型所需参数来降低模型的计算复杂度并且能更好的探索长序列数据之间的关联性[12],文献[13,14]中利用门控循环单元(Gated Recurrent Unit, GRU)网络和长短期记忆网络(Long Short-Term Memory, LSTM)网络进行飞行轨迹预测,相比于LSTM网络预测,GRU网络的预测准确度更高。因此,本文提出使用GRU神经网络作为漂流浮标轨迹预测的网络模型,能够实现低复杂度的准确轨迹预测。

    为了提高神经网络模型的预测性能,选择最优的超参数是至关重要的。研究人员通常使用粒子群优化算法(Particle Swarm Optimization, PSO)解决手动寻优神经网络中的超参数操作繁琐,耗费人力的问题[15]。PSO能够保持良好的记忆性来更新粒子且对权值初始化的敏感性较低,其寻优的过程中不容易陷入局部最优情况,且不依赖于激活函数梯度,同时PSO可以利用并行计算资源有效提升优化速度[16]

    本文针对漂流浮标的轨迹预测问题,提出一种基于PSO算法与GRU神经网络结合的端对端深度学习框架对漂流浮标轨迹进行预测。通过将历史轨迹构建的移位差分序列输入GRU网络进行训练,再用实时更新的移位观测序列对网络模型进行更新,进行多次迁移迭代学习后完成预测。针对GRU神经网络中的超参数的选择问题,本文使用PSO算法自适应的寻优初始化网络超参数。最后,输入优化后的超参数训练GRU神经网络,经过迭代迁移预测漂流浮标轨迹序列,即经纬度组成的2维时间序列。最终,本文将所提PSOGRU方法与传统的卡尔曼滤波算法和深度学习方法预测轨迹的效果通过两种预测精度指标进行了对比,同时分析了基于移位序列迭代迁移训练的PSOGRU网络模型的预测精度与移位时间的关系。

    GRU能够使用单个门控单元控制遗忘和更新两个决定。其表达式如式(1)所示,其中R为复位门,Z为更新门,表达式如式(2)和式(3)所示

    H(t)i=Z(t1)iH(t1)i+(1Z(t1)i)sigmoid(bi+jUi,jx(t)i+jWi,jR(t1)jH(t1)i) (1)
    R(t)j=sigmoid(bRi+jURi,jx(t)j+jWRi,jH(t1)i) (2)
    Z(t)j=sigmoid(bZi+jUZi,jx(t)j+jWZi,jH(t1)i) (3)

    PSO优化算法是Eberhart和Jamne[17]提出的一种模仿自然环境中的鸟群觅食的全局寻优算法,PSO算法主要是通过寻找每个粒子的最优速度和位置来进行更新,每个粒子在搜索范围内找到需要的最优解称为个体极值pbest之后在所有粒子的pbest中找到最优解,称为全局最优解gbest。最后,所有粒子会根据自己的pbest和gbest来更新自己的速度以及位置。

    本文基于PSOGRU模型进行漂流轨迹预测的流程如图1所示。首先,将漂流浮标轨迹序列的位置信息构建为2维数据集(两个维度分别为经度和纬度)。之后进行标准化处理,标准化处理如式(7)所示。X表示原始2维数据集,Xs为标准化之后的数据集,μ, δ分别为X每个维度的均值和标准差,μ=E[X], δ=sd[X]

    图 1  PSO寻优GRU网络超参数流程
    Xs=(Xμ)δ (4)

    将轨迹数据标准化处理之后,本文使用PSO粒子群寻找GRU神经网络的初始化中间层神经元个数λ和初始学习率α两个超参数的最优解,因此PSO粒子群的搜索空间为2维空间。粒子的速度ϖti,j决定了其运动的方向和速度大小,而位置ξt+1i,j则体现了粒子所代表的解在解空间中的位置。粒子在每一次的迭代中,计算其适应度与过去的最优值进行比较,若适应度更好,历史最优值就会被当前粒子所在位置所取代。具体过程如式(5)所示。式(5)表示在第t次迭代中,粒子i在第j维度的ξti,j的位置上以ϖti,j的速度运动到ξt+1i,j位置,pbestti,j, gbestti,j分别为粒子i在第j维度寻找到的个体极值、全局最优解

    ϖt+1i,j=ω×ϖti,j+c1×rand(pbestti,jξti,j)+c2×rand×(gbestti,jξti,j)ξt+1i,j=ξti,j+ϖti,j} (5)

    寻找超参数λα最优解的过程如图1所示,本文取前M个时刻的标准化数据集作为输入Xs=(X(d)s,1,X(d)s,2,,X(d)s,M),由于数据集是2维的,因此d=2,移位预测时间为k。本文取Xs 90%作为训练集,预测后10%的序列。其中,Q1个时刻的位置信息经过移位差分,训练序列为(X(d)s,1,.X(d)s,2,,X(d)s,Q1k),标签序列为(X(d)s,k+1,X(d)s,k+2,,X(d)s,Q1),其中Q1=M×90%。用标签序列作为训练序列的标签。GRU网络由输入层、GRU隐藏层(其神经元个数为λ)、全连接层以及输出层组成,基于学习率α进行训练得到网络模型Net 1,之后输入漂流浮标在(k+1:Q1)时刻的轨迹序列(X(d)s,k+1,X(d)s,k+2,,X(d)s,Q1),用Net 1网络模型进行轨迹预测,得到预测的漂流浮标(2k+1:Q1+k)时刻的轨迹序列为(ˆX(d)s,2k+1,,ˆX(d)s,Q1+k)。之后用Xs中的(Q1+1:Q1+k)时刻的轨迹数据(X(d)s,Q1+1,,X(d)s,Q1+k)(ˆX(d)s,2k+1,,ˆX(d)s,Q1+k)进行更新,再次将更新后的序列进行移位差分,对Net 1进行迁移训练得到Net 2。重复此步骤,直至n个Net预测出后10%的漂流浮标轨迹,因此,M=Q1+n×k。再根据如式(7)所示的标准化公式,将其通过式(9)去标准化并选择所需的漂流浮标轨迹预测值ˆXs=(ˆX(d)s,Q1+1,,ˆX(d)s,M)与验证集Xs,v=(X(d)s,Q1+1,,X(d)s,M)计算均方误差。最后,文使用均方误差函数(Mean Square Error, MSE)计算预测值与验证集的误差如式(10)所示,以此作为目标函数计算PSO粒子群中每个粒子每一次迭代的适应度值。粒子通过对比当前迭代计算得到的均方误差和历史最优均方误差,来迭代更新超参数λα的最优解

    Ypred=Ys,pred×δ+μ (6)
    MSE=MQ1+1q=1 (7)

    本文利用PSO寻优后的\lambda \alpha 最优解,作为GRU网络的初始超参数进行漂流浮标轨迹的预测如图2所示。同样地,取前{M}个时刻的漂流浮标轨迹标准化数据集 {\boldsymbol X}_{{\mathrm{s}}}=({\boldsymbol X}_{\text{s,1}}^{\text{(}{d}\text{)}},\cdots ,{\boldsymbol X}_{\text{s,}M}^{\text{(}{d}\text{)}}) ,将 {{\boldsymbol{X}}_{\mathrm{s}}} 按照移位差分的原则拆分成训练序列 {\boldsymbol X}_{{\mathrm{s,xtrain}}}=({\boldsymbol X}_{\text{s,1}}^{\text{(}{d}\text{)}},\cdots,{\boldsymbol X}_{\text{s,}M-k}^{\text{(}{d}\text{)}}) 和标签序列 {\boldsymbol X}_{{\mathrm{s,ytrain}}}=({\boldsymbol X}_{\text{s,}{k+}\text{1}}^{\text{(}{d}\text{)}},\cdots ,{\boldsymbol X}_{\text{s,}M}^{\text{(}{d}\text{)}}) ,本文使用 {{\boldsymbol{X}}_{{\mathrm{s,ytrain}}}} 作为 {{\boldsymbol{X}}_{{\mathrm{s,xtrain}}}} 的标签,进行第1次网络训练。GRU网络由输入层、GRU隐藏层(其神经元个数为PSO寻优得到的\lambda )、全连接层以及输出层组成,基于PSO寻优得到的学习率\alpha 进行训练得到网络模型Net 1,如图2中的离线训练部分所示。

    图 2  PSOGRU算法预测模型

    在得到训练好的Net 1网络模型后,如图2中的在线更新迭代部分所示。输入漂流浮标在 ({k+}1{:M}) 时刻的轨迹序列 ({\boldsymbol X}_{\text{s,}{k+}\text{1}}^{\text{(}{d}\text{)}},\cdots,{\boldsymbol X}_{\text{s,}M}^{\text{(}{d}\text{)}}) , 用Net 1网络模型进行轨迹预测,得到预测出的 {M - k} 个时刻的轨迹位置,即标准化的漂流浮标 ({2k+}\text{1}{:M+k}) 时刻的轨迹序列为( {\boldsymbol{Y}}_{{{\mathrm{s}},2}{k + }{1}}^{{(}{d}{)}},\cdots,{\boldsymbol{Y}}_{{{\mathrm{s}},}M + k}^{{(}{d}{)}} )。将其去标准化并选择所需的漂流浮标轨迹预测值 {{\boldsymbol{Y}}}_{{\mathrm{pred}}}^{}=({{\boldsymbol{Y}}}_{{M+}\text{1}}^{\text{(}{d}\text{)}},\cdots, {{\boldsymbol{Y}}}_{M+k}^{\text{(}{d}\text{)}}) 。对Net 1进行更新时,模型需要输入新的观测值,即漂流浮标实时回传的,在 ({M+}\text{1}{:M+k}) 时刻真实的轨迹序列 {{\boldsymbol{Y}}}_{\text{observe}}^{}=({{\boldsymbol{Y}}}_{\text{observe},{M+}\text{1}}^{\text{(}{d}\text{)}},\cdots, {{\boldsymbol{Y}}}_{\text{observe},M+k}^{\text{(}{d}\text{)}}) 。与上文中的构建移位差分序列作法相同,将 {\boldsymbol{Y}}_{{{\mathrm{observe}}}}^{} 拆分为训练序列 ({{\boldsymbol{Y}}}_{\text{observe},{k+}\text{1}}^{\text{(}{d}\text{)}},\cdots, {{\boldsymbol{Y}}}_{\text{observe},M}^{\text{(}{d}\text{)}}) 与标签序列 ({{\boldsymbol{Y}}}_{\text{observe},\text{2}{k+}\text{1}}^{\text{(}{d}\text{)}},\cdots,{Y}_{\text{observe},M+k}^{\text{(}{d}\text{)}}) 。同理, ({2k+}\text{1}{:M+k}) 时刻的轨迹序列为 ({k+}1{:M}) 时刻轨迹序列的标签。该文将拆分后的序列输入到Net 1中进行迁移训练,得到更新训练好的Net 2网络模型,之后再次输入 ({2k+}\text{1}{:M+k}) 时刻的轨迹序列。重复上述更新迭代步骤,得到最后一个训练网络Net n。Net n预测后,本文得到{n}个网络输出的结果,即漂流浮标在 {((}{n}{ + 1)}{k}{ + 1:}{M + nk}{)} 时刻的轨迹序列 {\boldsymbol{Y}}_{{\mathrm{s}},({n} + {1}){k + }{1}}^{{(}{d}{)}},\cdots,{\boldsymbol{Y}}_{{{\mathrm{s}}},M{ + nk}}^{{(}{d}{)}} ,根据式(9)逆处理轨迹序列 ({{\boldsymbol{Y}}}_{{\mathrm{s}},({n}+\text{1}){k+}\text{1}}^{\text{(}{d}\text{)}},\cdots,{{\boldsymbol{Y}}}_{\text{s},M{+nk}}^{\text{(}{d}\text{)}}) 得到去标准化后的预测的轨迹序列 {{\boldsymbol{Y}}}_{{\mathrm{pred}}} =({{\boldsymbol{Y}}}_{({n}+\text{1}){k+}\text{1}}^{\text{(}{d}\text{)}},\cdots,{{\boldsymbol{Y}}}_{M{+nk}}^{\text{(}{d}\text{)}}) ,最后选择其中 {nk} 个轨迹结果,即 ({M+}\text{1}{:M+nk}) 时刻的轨迹序列 {{\boldsymbol{Y}}}_{{\mathrm{pred}}}^{}=({{\boldsymbol{Y}}}_{M\text{+}\text{1}}^{\text{(}{d}\text{)}},\cdots,{Y}_{M{+nk}}^{\text{(}{d}\text{)}}) 与漂流浮标真实轨迹进行对比评价模型的预测性能。

    本仿真的实验环境为Windows 10系统,使用NVIDIA RTX3060 GPU,在主频为2.90 GHz的英特尔i7-10700F处理器中,用Matlab2022b实现运算。

    本文所采用的公开数据集来自于美国国防高级研究计划局(Defense Advanced Research Projects Agency, DARPA)主持的一项称为“湍流浮标预测”(Forecasting Floats in Turbulence, FFT)的挑战赛中的4只浮标23天的轨迹数据,4只浮标漂流轨迹图3所示。

    图 3  4只浮标552 h漂流轨迹

    本文采用移动目标轨迹预测中最常使用的两个指标来评估所提出模型的性能,平均位移误差(Average Displacement Error, ADE)[18]和最终位移误差(Final Displacement Error, FDE)[18]。平均位移误差用于评估轨迹预测的平均性能[19],而最终位移误差则用于评估终点的预测精度[19]

    {\mathrm{ADE}} = \frac{{\displaystyle\sum\limits_{{i = M + }{1}}^{{M + nk}} {{{\left\| {{\boldsymbol{Y}}_{{{\mathrm{observe}}}}^{} - {{\boldsymbol{Y}}_{\rm{pred}}}} \right\|}_2}} }}{{{nk}}} (8)
    {\mathrm{FDE}} = {\left\| {{\boldsymbol{Y}}_{{{\mathrm{observe}}}}^{i} - {\boldsymbol{Y}}_{{{\mathrm{pred}}}}^{i}} \right\|_2},{i} = {M + nk} (9)

    本文采用4只漂流浮标23天的轨迹进行训练和预测,漂流浮标回传数据的时间间隔为1 h,即4只浮标分别有552 h的经纬度位置信息。仿真时间的单位为小时,移位预测时间{k}=1,基于2.3节的PSOGRU网络预测模型,取 {M = }{480} ,即前480 h的数据 {\boldsymbol{X}} = ({\boldsymbol{X}}_{1}^{{(}{d}{)}},\cdots,{\boldsymbol{X}}_{{480}}^{{(}{d}{)}}) ,经过预处理得到 {\boldsymbol{X}}_{{{\mathrm{s}},1}}^{{(}{d}{)}} = ({\boldsymbol{X}}_{{{\mathrm{s}},1}}^{{(}{d}{)}},\cdots,{\boldsymbol{X}}_{{{\mathrm{s}},480}}^{{(}{d}{)}}) ,移位差分构建训练序列 {\boldsymbol X}_{{\mathrm{s,xtrain}}}=({\boldsymbol X}_{\text{s,1}}^{\text{(}{d}\text{)}},\cdots,{\boldsymbol X}_{\text{s,479}}^{\text{(}{d}\text{)}}) 和标签序列 {\boldsymbol X}_{{\mathrm{s,ytrain}}}= ({\boldsymbol X}_{\text{s,2}}^{\text{(}{d}\text{)}},\cdots,{\boldsymbol X}_{\text{s,480}}^{\text{(}{d}\text{)}}) 。之后输入基于PSO寻优得到的\lambda \alpha 最优解训练GRU网络,更新迭代{n}次,迁移训练出Net 1−Net n,(当{k = }{1}时,{n = }{72}),得到72 h的预测结果,经过逆处理后,模型输出最终预测结果 {{\boldsymbol{Y}}}_{{\mathrm{s,pred}}}^{}=({{\boldsymbol{Y}}}_{\text{s,481}}^{\text{(}{d}\text{)}},{{\boldsymbol{Y}}}_{\text{s,482}}^{\text{(}{d}\text{)}},\cdots,{Y}_{\text{s,552}}^{\text{(}{d}\text{)}})

    同时,本文为验证所提出的模型预测性能具有一定的优越性和可靠性,将PSOGRU网络模型与其余7个模型进行对比,包括卡尔曼滤波模型、无迹卡尔曼滤波模型、LSTM网络模型、GRU网络模型、Transformer模型以及PSOLSTM网络模型,7种模型的输入均为漂流浮标的2维轨迹位置信息。LSTM,GRU神经网络模型中初始学习率设置为0.03,中间层神经元个数为60。本文所提PSOGRU模型中,初始化群体最大迭代次数为10,惯性权重范围为[0.8,1.2][20],学习因子c1=c2取1.495。中间层神经元个数边界设置为[10,100],初始学习率边界设置为[0.01,0.1][21],网络模型中的初始学习率和初始化中间层神经元个数由PSO寻优得到,其中用于4只漂流浮标轨迹预测的网络模型超参数最优解如表1所示。

    表 1  4只漂流浮标轨迹预测的网络模型超参数最优解
    神经网络超参数 1号浮标 2号浮标 3号浮标 4号浮标
    初始化中间层神经元个数\lambda 50 35 32 13
    初始学习率\alpha 0.05 0.05 0.04 0.03
    下载: 导出CSV 
    | 显示表格

    本文对比了7种模型预测的漂流浮标72 h的轨迹如图4所示,同时图4中也使用六角星标明了每个模型预测的最终位置,预测后的平均位移偏差以及最终位移偏差如表2表3所示。根据表中的数据可以看出使用卡尔曼滤波预测后的平均位移误差在180.93~506.72 m,最终位移偏差均在2 000 m以上。无迹卡尔曼滤波预测的平均位移偏差提升到了99.51~198.73 m。这是由于无迹卡尔曼滤波是对非线性函数的概率密度分布进行近似,用一系列确定样本来逼近状态的后验概率密度,因此对于漂流轨迹这种具有非线性特征的时间序列[22],预测效果更好。其次,基于深度学习的LSTM, GRU和Transformer网络模型的时间序列预测手段进行预测后,预测偏差分别在140.63~495.79 m, 95.51~434.04 m和83.22~418.28 m,相较于卡尔曼滤波提升了预测精度。最后,本文所提PSOGRU模型相较于手动设置超参数的GRU网络预测又提高了预测准确度。表2表3的数据表明,PSOGRU算法预测后的平均位移误差在50.79~152.21 m。最终误差也降低到了774.96~980.05 m。相对于GRU神经网络预测算法最大提升了281.83 m(2号浮标)以及1 453.19 m(1号浮标)。

    图 4  7种模型下4只浮标72 h漂移轨迹预测对比
    表 2  7种模型对4只漂流浮标72 h漂流轨迹预测的ADE结果(m)
    模型1号浮标2号浮标3号浮标4号浮标平均值
    卡尔曼滤波180.93506.72472.33332.75373.18
    无迹卡尔曼滤波99.51198.73169.62106.99143.71
    LSTM神经网络141.43495.79191.99140.63242.46
    GRU神经网络95.51434.04107.20135.18192.98
    Transformer网络100.24418.2883.22223.17185.42
    PSOLSTM网络模型136.95369.3588.98155.42187.68
    PSOGRU网络模型50.79152.2179.72101.8796.15
    下载: 导出CSV 
    | 显示表格
    表 3  7种模型对4只漂流浮标72小时漂流轨迹预测的FDE结果(m)
    模型1号浮标2号浮标3号浮标4号浮标平均值
    卡尔曼滤波2 604.102 919.937 157.773 850.374 133.04
    无迹卡尔曼滤波723.831 456.092 844.72683.771 427.10
    LSTM神经网络2 844.001 659.311 280.712 409.212 048.31
    GRU神经网络2 433.241 283.961 443.722 045.371 801.58
    Transformer网络2 064.303 776.45929.653 594.532 591.23
    PSOLSTM网络模型2 122.791 477.551 124.071 269.571 498.50
    PSOGRU网络模型980.05791.39774.96807.41838.45
    下载: 导出CSV 
    | 显示表格

    结合表2表3中的平均值数据以及图4中的轨迹可以看出,本文所提PSOGRU算法精度更高,且在最终位置误差上的表现更好,本文所提PSOGRU深度模型框架的预测精度在ADE以及FDE指标的平均值中,相对于GRU神经网络预测算法提升了96.83 m以及963.13 m。结果表明,本文所提PSOGRU模型可以实现对漂流浮标轨迹的准确预测。

    同时,轨迹预测模型中的预测时间效率对于评价模型性能十分关键,因此本文分析了4只浮标的轨迹预测时间以及其平均预测时间如表4所示。结合PSO算法寻优后的PSOLSTM和PSOGRU相比于单独使用神经网络LSTM或者GRU,预测时间缩短了34%。这是由于PSO算法找到了超参数的最优解,如表1中的超参数所示,相比与手动设置超参数,PSO算法得到的最优初始神经元个数降低以及学习率增大,这使得GRU网络预测时的收敛复杂度降低,从而优化了GRU网络模型的预测时间。

    表 4  7种模型下的预测时间对比(s)
    模型1号浮标2号浮标3号浮标4号浮标平均预测时间
    卡尔曼滤波0.0170.0170.0160.0150.016
    无迹卡尔曼滤波0.0170.0170.0160.0150.016
    LSTM神经网络1 425.011 425.731 425.721 425.031 425.37
    GRU神经网络972.74969.91969.90974.18971.68
    Transformer网络834.44836.43846.26836.25838.35
    PSOLSTM网络模型929.43927.31927.30928.03928.02
    PSOGRU网络模型641.88636.21636.91641.19639.05
    下载: 导出CSV 
    | 显示表格

    最后,在实际的海上试验中,漂流浮标回传信息的速度和质量会出现不稳定的情况。为了保证轨迹预测网络模型迭代更新的时效性,若漂流浮标出现漏传错传的情况,应将移位预测时间 {k} 增大,若漂流浮标的回传速度加快,应将移位预测时间 {k} 减小。因此,本文设置 {k} 从1遍历到72 h,步长为1,对漂流浮标轨迹进行预测。平均位移偏差ADE和最终位移偏差FDE随移位预测时间 {k} 的变化如图5图6所示,从中能够看出,随着预测时间 {k} 的增加,72 h整体的轨迹预测精度降低。这是由于 {k} 增大就意味着对网络更新的次数变少,没有足够的观测值来更新网络,预测精度降低。

    图 5  4只浮标72 h平均位移误差与 {k} 的关系
    图 6  4只浮标72 h最终位移误差与 {k} 的关系

    表5表6总结了ADE和FDE最值分别对应的移位预测时间,表中数据表明针对不同的漂流浮标运动轨迹,基于不同的 {k} 值更新网络,本文所提PSOGRU模型预测表现良好。ADE的最小值在 {k = }2 时,仅有83.15 m(4号浮标),FDE的最小值在 {k = }25 时,为257.29 m(3号浮标)。ADE的最大值在 {k = }53 时,仅有1 772.63 m(1号浮标),而FDE的最大值在 {k = }69 时,为18 316.02 m(2号浮标)。当出现海上漂流浮标轨迹回传不及时的情况,预测时就需要把 {k} 值调高,而本文所提PSOGRU网络模型,在数据量不足的情况下仍能保持较高的预测精度。结果表明,PSOGRU模型适用性强,可行性高,针对不同的移位预测时间,PSOGRU模型对漂流浮标轨迹都能保证较为精准的预测。

    表 5  ADE(m)最值对应的预测时间k (h)
    1号浮标 2号浮标 3号浮标 4号浮标
    最大值 593.18 k = 71 1772.63 k = 53 1340.71 k =60 715.01 k =53
    最小值 88.17 k = 2 149.66 k = 1 90.23 k =1 83.15 k =2
    下载: 导出CSV 
    | 显示表格
    表 6  FDE (m)最值对应的预测时间k (h)
    1号浮标 2号浮标 3号浮标 4号浮标
    最大值 9 074.36 k =57 18 316.02 k =69 16 694.51 k =70 10 343.81 k =52
    最小值 399.34 k =2 174.82 k =27 257.29 k =25 807.41 k =1
    下载: 导出CSV 
    | 显示表格

    本文针对受到不同海域的水动力模型存在较大差异,海面漂流浮标的流体载荷计算复杂的影响,难以预测海上漂流浮标的轨迹问题,将漂流浮标历史轨迹形成的多维时间序列作为研究对象,提出了一种基于深度学习框架的端对端预测模型。本文将粒子群优化算法(PSO)与门控循环单元(GRU)神经网络相结合,其中PSO算法用于寻找初始化GRU神经网络的超参数的最优解,而GRU网络通过对构造的移位差分序列进行多次迁移迭代训练后从而获得最优漂流浮标轨迹预测模型。本文对4只不同区域漂流的浮标回传的漂流轨迹进行实验验证,在平均位移误差ADE、最终位移误差FDE以及时间效率的评价指标下,所提PSOGRU网络模型框架均表现出了普适性和可靠性。同时本文也给出了所提PSOGRU网络预测精度与移位时间关系对比,针对不同的移位预测时间,PSOGRU模型对漂流浮标轨迹都能保证较为精准的预测。最终充分证明了本文所提PSOGRU网络模型对于海洋漂流浮标轨迹预测的有效性以及可行性。

  • 图  1  PSO寻优GRU网络超参数流程

    图  2  PSOGRU算法预测模型

    图  3  4只浮标552 h漂流轨迹

    图  4  7种模型下4只浮标72 h漂移轨迹预测对比

    图  5  4只浮标72 h平均位移误差与 {k} 的关系

    图  6  4只浮标72 h最终位移误差与 {k} 的关系

    表  1  4只漂流浮标轨迹预测的网络模型超参数最优解

    神经网络超参数 1号浮标 2号浮标 3号浮标 4号浮标
    初始化中间层神经元个数\lambda 50 35 32 13
    初始学习率\alpha 0.05 0.05 0.04 0.03
    下载: 导出CSV

    表  2  7种模型对4只漂流浮标72 h漂流轨迹预测的ADE结果(m)

    模型1号浮标2号浮标3号浮标4号浮标平均值
    卡尔曼滤波180.93506.72472.33332.75373.18
    无迹卡尔曼滤波99.51198.73169.62106.99143.71
    LSTM神经网络141.43495.79191.99140.63242.46
    GRU神经网络95.51434.04107.20135.18192.98
    Transformer网络100.24418.2883.22223.17185.42
    PSOLSTM网络模型136.95369.3588.98155.42187.68
    PSOGRU网络模型50.79152.2179.72101.8796.15
    下载: 导出CSV

    表  3  7种模型对4只漂流浮标72小时漂流轨迹预测的FDE结果(m)

    模型1号浮标2号浮标3号浮标4号浮标平均值
    卡尔曼滤波2 604.102 919.937 157.773 850.374 133.04
    无迹卡尔曼滤波723.831 456.092 844.72683.771 427.10
    LSTM神经网络2 844.001 659.311 280.712 409.212 048.31
    GRU神经网络2 433.241 283.961 443.722 045.371 801.58
    Transformer网络2 064.303 776.45929.653 594.532 591.23
    PSOLSTM网络模型2 122.791 477.551 124.071 269.571 498.50
    PSOGRU网络模型980.05791.39774.96807.41838.45
    下载: 导出CSV

    表  4  7种模型下的预测时间对比(s)

    模型1号浮标2号浮标3号浮标4号浮标平均预测时间
    卡尔曼滤波0.0170.0170.0160.0150.016
    无迹卡尔曼滤波0.0170.0170.0160.0150.016
    LSTM神经网络1 425.011 425.731 425.721 425.031 425.37
    GRU神经网络972.74969.91969.90974.18971.68
    Transformer网络834.44836.43846.26836.25838.35
    PSOLSTM网络模型929.43927.31927.30928.03928.02
    PSOGRU网络模型641.88636.21636.91641.19639.05
    下载: 导出CSV

    表  5  ADE(m)最值对应的预测时间k (h)

    1号浮标 2号浮标 3号浮标 4号浮标
    最大值 593.18 k = 71 1772.63 k = 53 1340.71 k =60 715.01 k =53
    最小值 88.17 k = 2 149.66 k = 1 90.23 k =1 83.15 k =2
    下载: 导出CSV

    表  6  FDE (m)最值对应的预测时间k (h)

    1号浮标 2号浮标 3号浮标 4号浮标
    最大值 9 074.36 k =57 18 316.02 k =69 16 694.51 k =70 10 343.81 k =52
    最小值 399.34 k =2 174.82 k =27 257.29 k =25 807.41 k =1
    下载: 导出CSV
  • [1] 蔡树群, 张文静, 王盛安. 海洋环境观测技术研究进展[J]. 热带海洋学报, 2007, 26(3): 76–81. doi: 10.3969/j.issn.1009-5470.2007.03.014.

    CAI Shuqun, ZHANG Wenjing, and WANG Sheng’an. An advance in marine environment observation technology[J]. Journal of Tropical Oceanography, 2007, 26(3): 76–81. doi: 10.3969/j.issn.1009-5470.2007.03.014.
    [2] ZHAO Zhiqiang. Research on monitoring technology of marine oil spill environment based on LoT+GIS[C]. 2022 International Conference on Educational Informatization, E-commerce and Information System, Macao, China, 2022: 134–138. doi: 10.25236/iceieis.2022.031.
    [3] WANG Wei, SU Jintao, YU Xiaohong, et al. Research on attitude stability of AUV towed communication buoy[C]. 2022 IEEE 6th Advanced Information Technology, Electronic and Automation Control Conference (IAEAC), Beijing, China, 2022: 1450–1455. doi: 10.1109/IAEAC54830.2022.9929985.
    [4] ROH H, JOE H, and YU S C. Modeling trajectory characteristic of moor-less buoy system under ocean current[C]. 2016 IEEE/OES Autonomous Underwater Vehicles (AUV), Tokyo, Japan, 2016: 307–310. doi: 10.1109/AUV.2016.7778688.
    [5] ZHU Kui, MU Lin, and XIA Xiaoyu. An ensemble trajectory prediction model for maritime search and rescue and oil spill based on sub-grid velocity model[J]. Ocean Engineering, 2021, 236: 109513. doi: 10.1016/j.oceaneng.2021.109513.
    [6] 龙绍桥, 娄安刚, 谭海涛, 等. 海上溢油粒子追踪预测模型中的两种数值方法比较[J]. 中国海洋大学学报, 2006, 36(S): 157–162. doi: 10.3969/j.issn.1672-5174.2006.z1.031.

    LONG Shaoqiao, LOU Angang, TAN Haitao, et al. Comparison of two numerical methods for solving the model for oil spill particle trajectory on the sea[J]. Periodical of Ocean University of China, 2006, 36(S): 157–162. doi: 10.3969/j.issn.1672-5174.2006.z1.031.
    [7] TENG Fei, DING Zhaohao, HU Zechun, et al. Technical review on advanced approaches for electric vehicle charging demand management, part I: Applications in electric power market and renewable energy integration[J]. IEEE Transactions on Industry Applications, 2020, 56(5): 5684–5694. doi: 10.1109/TIA.2020.2993991.
    [8] CHEN Shuo, LIN Rongheng, and ZENG Wei. Short-term load forecasting method based on ARIMA and LSTM[C]. 2022 IEEE 22nd International Conference on Communication Technology (ICCT), Nanjing, China, 2022: 1913–1917. doi: 10.1109/ICCT56141.2022.10073051.
    [9] ZHANG Jing, WU Yingnian, and JIAO Shuai. Research on trajectory tracking algorithm based on LSTM-UKF[C]. 2021 7th IEEE International Conference on Network Intelligence and Digital Content (IC-NIDC), Beijing, China, 2021: 61–65. doi: 10.1109/IC-NIDC54101.2021.9660592.
    [10] XING Yang, LV Chen, and CAO Dongpu. Personalized vehicle trajectory prediction based on joint time-series modeling for connected vehicles[J]. IEEE Transactions on Vehicular Technology, 2020, 69(2): 1341–1352. doi: 10.1109/TVT.2019.2960110.
    [11] WU Yuankang, ZHONG Youjing, and PHAN Q T. Overview of day-ahead solar power forecasts based on weather classifications[C]. 2023 IEEE/IAS 59th Industrial and Commercial Power Systems Technical Conference (I&CPS), Las Vegas, USA, 2023: 1–8. doi: 10.1109/ICPS57144.2023.10142132.
    [12] HELMY I, TARAFDER P, and CHOI W. LSTM-GRU model-based channel prediction for one-bit massive MIMO system[J]. IEEE Transactions on Vehicular Technology, 2023, 72(8): 11053–11057. doi: 10.1109/TVT.2023.3262951.
    [13] HAN Ping, WANG Wenqing, SHI Qingyan, et al. Real-time short- term trajectory prediction based on GRU neural network[C]. IEEE/AIAA 38th Digital Avionics Systems Conference (DASC), San Diego, USA, 2019: 1–8. doi: 10.1109/DASC43569.2019.9081618.
    [14] CHEN Zexuan and WANG Lan. Aircraft trajectory prediction model based on improved GRU structure[C]. 2023 3rd International Conference on Consumer Electronics and Computer Engineering (ICCECE), Guangzhou, China, 2023: 225–228. doi: 10.1109/ICCECE58074.2023.10135263.
    [15] AÇIKKAR M and ALTUNKOL Y. A novel hybrid PSO- and GS-based hyperparameter optimization algorithm for support vector regression[J]. Neural Computing and Applications, 2023, 35(27): 19961–19977. doi: 10.1007/s00521-023-08805-5.
    [16] KALITA D J, SINGH V P, and KUMAR V. A lightweight knowledge-based PSO for SVM hyper-parameters tuning in a dynamic environment[J]. The Journal of Supercomputing, 2023, 79(16): 18777–18799. doi: 10.1007/s11227-023-05385-y.
    [17] KENNEDY J and EBERHART R. Particle swarm optimization[C]. ICNN’95 - International Conference on Neural Networks, Perth, Australia, 1995: 1942–1948. doi: 10.1109/ICNN.1995.488968.
    [18] GUPTA A, JOHNSON J, FEI-FEI L, et al. Social GAN: Socially acceptable trajectories with generative adversarial networks[C]. IEEE/CVF Conference on Computer Vision and Pattern Recognition, Salt Lake City, USA, 2018: 2255–2264. doi: 10.1109/CVPR.2018.00240.
    [19] ALAHI A, GOEL K, RAMANATHAN V, et al. Social LSTM: Human trajectory prediction in crowded spaces[C]. 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Las Vegas, USA, 2016: 961–971. doi: 10.1109/CVPR.2016.110.
    [20] SHI Yuhui and EBERHART R. A modified particle swarm optimizer[C]. 1998 IEEE International Conference on Evolutionary Computation Proceedings. IEEE World Congress on Computational Intelligence (Cat No98TH8360), Anchorage, USA, 1998: 69–73. doi: 10.1109/ICEC.1998.699146.
    [21] CLERC M. The swarm and the queen: Towards a deterministic and adaptive particle swarm optimization[C]. The 1999 Congress on Evolutionary Computation-CEC99 (Cat No 99TH8406), Washington, USA, 1999: 1951–1957. doi: 10.1109/CEC.1999.785513.
    [22] YE Zehao, SONG Yawei, HUA Liangfa, et al. Radar target tracking based on some multi-dimensional adaptive UKF[C]. 2022 2nd International Conference on Frontiers of Electronics, Information and Computation Technologies (ICFEICT), Wuhan, China, 2022: 28–33. doi: 10.1109/ICFEICT57213.2022.00013.
  • 加载中
图(6) / 表(6)
计量
  • 文章访问数:  337
  • HTML全文浏览量:  225
  • PDF下载量:  50
  • 被引次数: 0
出版历程
  • 收稿日期:  2023-08-31
  • 修回日期:  2024-05-13
  • 网络出版日期:  2024-05-22
  • 刊出日期:  2024-08-30

目录

/

返回文章
返回