基于卡尔曼滤波算法展开的飞行目标轨迹预测
Flight target track prediction based on Kalman filter algorithm unfolding
通讯作者: 戴礼灿
收稿日期: 2022-02-7
Received: 2022-02-7
作者简介 About authors
戴礼灿(1985—),男,高级工程师,博士,主要研究方向为智能信息处理 。
刘欣(1982—),男,博士研究生,主要研究方向为信息处理、大数据与人工智能 。
张海瀛(1990—),男,工程师,博士,主要研究方向为多源信息融合、时空数据分析 。
代翔(1983—),男,高级工程师,博士,主要研究方向为自然语言处理、数据挖掘 。
王成刚(1979—),男,研究员,博士,主要研究方向为信息融合、大数据与人工智能 。
目标轨迹预测是保证目标航行安全、规划飞行航迹和搜寻空中目标等任务的关键技术,在军事和交通管制等方面具有重要意义。针对传统飞行目标轨迹预测方法模型较为简化且预测精度较低的问题,提出了基于卡尔曼滤波算法展开的深度神经网络模型, 用于飞行目标的轨迹预测任务。该模型通过长短时记忆(long short-term memory, LSTM)网络从目标的航迹数据中学习目标的运动状态,再利用卡尔曼滤波算法对LSTM预测的目标状态估计值进行动态修正,其有效结合了卡尔曼滤波算法和深度神经网络各自的优势。在仿真数据和真实数据上的实验验证了所提模型较其他网络模型对飞行目标轨迹预测的准确性和有效性优势。
关键词:
Target track prediction is a key technology to ensure the navigation safety of the target, to plan the flight path and to search the air target. It is of great significance in military and traffic control. Aiming at the problem that the traditional air target track prediction method model is relatively simplified and the prediction accuracy is low, a deep neural network based on the Kalman filter algorithm for the air target track prediction task is proposed. The model uses long short-term memory (LSTM) network to learn the target motion model from the track data of air targets, and then uses the Kalman filter algorithm to dynamically modify the estimated target state generated by LSTM, which effectively combines the advantages of the Kalman filter algorithm and deep neural network. Experiments on simulation data and real data verify the accuracy and effectiveness of the proposed model compared with other networks models for air target track prediction.
Keywords:
本文引用格式
戴礼灿, 刘欣, 张海瀛, 代翔, 王成刚.
DAI Lican.
0 引言
KF算法模型是一种应用非常广泛且有效的目标轨迹预测方法。Julier等[11]在1997年提出了扩展KF(extend KF, EKF)算法,该算法不仅继承了KF算法的优势,而且能够处理非线性系统模型。吕波等[19]利用EKF嵌入非线性控制系统,针对航空器的航迹预测任务建立了多信息EKF预测模型。陈明强等[20]提出了基于无迹KF的航迹预测模型, 并完成了对飞行目标的航迹预测。然而,在现实的许多目标轨迹预测任务中,一般不能预先指定运动模型,在这种情况下,卡尔曼滤波器的应用受到了严重的限制[21-22]。此外,KF算法通常是在恒定加速度的假设下应用的,这也是对现实目标运动情况的粗略逼近,这样建立的算法模型对目标轨迹预测的精度有限。为了克服传统KF算法的局限性,许多学者尝试直接从训练数据中学习运动模型。利用可学习模型来学习目标运动方程, 可以避免手工设计KF转移矩阵和测量矩阵,从而提高目标轨迹预测精度。
本文提出了基于KF算法展开的LSTM神经网络(KF unfolding LSTM network, KFU-LSTM-Net),该模型将目标状态转移函数建模为可学习的网络,再利用KF对目标状态向量进行修正, 更新得出目标状态预测值。本文所建模型从目标轨迹数据中学习目标运动轨迹和KF算法中的超参数,让模型能够更好地利用深度学习的强大表征能力,在仿真和真实目标轨迹数据实验上验证了本文所提模型对于飞行目标轨迹预测的有效性和准确性。
1 相关理论
1.1 KF算法
KF算法是一种基于时域离散的自回归优化算法,其被广泛应用于动态目标的位置、速度等状态信息的预测任务中。设目标状态向量为yt,观测变量为zt。根据KF算法,有如下关系式:
式中:A是目标状态转移矩阵,代表该系统从t-1时刻到t时刻状态之间的转移关系;H是目标观测矩阵; wt和vt是过程噪声和观测噪声,其分别满足正态分布wt~N(0, Qt),vt~N(0, Rt)。
KF算法通过反馈环路迭代更新求解目标状态向量,该反馈环路包含两个更新步骤:预测步骤和更新步骤。在预测步骤中,KF算法用上一时刻目标的状态向量来预测目标下一时刻的状态:
在更新步骤中,需要首先计算卡尔曼增益Kt,然后通过观测变量zt来修正目标在t时刻的状态估计值
1.2 LSTM神经网络
图1
式中: σ(·)表示sigmoid激活函数; ⊙代表相同位置元素对应相乘。
(1) 遗忘门:将xt和ht-1作为输入,经过sigmoid激活函数σ, 将信息输入到细胞c中,由此来控制细胞对短期记忆的遗忘程度,遗忘门的计算如式(8)所示。
(2) 输入门:输入门包含两个部分,第一部分负责产生新记忆信息
(3) 输出门:输出门通过将细胞状态ct以及输出比例ot相乘,输出得到该LSTM神经元最终的输出值ht,如式(10)和式(13)所示。
2 基于KF算法展开的LSTM网络
2.1 算法模型
在本节中,本文将KF算法和LSTM神经网络模型相结合,并由此提出了KFU-LSTM-Net,对目标轨迹进行预测。
根据KF算法,本文建立的目标轨迹预测模型为如下形式:
模型根据目标前一时刻的状态估计值
式中: 映射函数f(·)通过LSTM网络学习拟合,利用LSTM强大的非线性拟合能力,使得模型可以学习到目标复杂的运动轨迹;F是f关于
模型的更新步骤公式为
式中:
本文所建网络模型的整体架构如图 2所示,模型中的KFU-LSTM模块的内部结构如图 3所示。在KFU-LSTM模块中,本文设计了LSTM网络来学习状态转移函数f(·),即将上一时刻目标的状态向量
图2
图3
从算法展开的角度来看,在每一个时间步长t,LSTM将上一时刻(即t-1时刻)的目标状态估计值
图4
2.2 网络模型结构及训练参数设定
图5
(2) 网络的损失函数:不同于标准的均方误差损失函数,本文在均方误差函数的基础上增加了目标状态估计的惩罚项,以此来加强网络对于目标状态的估计能力。本文所提出的损失函数定义如下:
式中: θ代表网络中的所有参数,本文实验中超参数λ的设定值为0.5。
(3) 训练策略:本文网络中,所有的权重矩阵用Xavier进行随机初始化[31],偏差均初始化为0,目标初始状态估计值为目标起始点y0,初始状态协方差矩阵
表1 网络训练策略及参数设定
Table 1
网络模型 | RNN | LSTM | KFU-LSTM |
优化器 | Adam | Adam | Adam |
训练批尺寸 | 16 | 16 | 16 |
学习率 | 1×10-3 | 1×10-3 | 1×10-3 |
训练轮数 | 40 | 40 | 20 |
迭代次数 | 6.4×104 | 6.4×104 | 3.2×104 |
表2 实验环境列表
Table 2
硬件环境 | 处理器 | Intel(R) Core(TM) i7-9750H CPU @ 2.60GHz |
显卡 | NVIDIA GTX 1660Ti, 6 GB | |
内存 | 16 GB | |
软件环境 | 操作系统 | Windows 10(64bit) |
编程语言 | Python 3.6 | |
编程框架 | Pytorch 1.1 | |
集成开发环境 | PyCharm 2020.2.1 (Community Edition) |
本文所提KFU-LSTM-Net模型针对目标轨迹预测整体流程如图 6所示。
图6
3 实验及结果分析
为了验证本文所提出的基于KF算法展开的深度LSTM网络模型对于目标轨迹预测的准确性和有效性,本文模型对目标轨迹仿真数据进行了预测,根据目标轨迹预测结果图和预测误差进行了详细的分析,并在多个数据集上通过数值实验分析对比了基于RNN和LSTM网络的飞行目标轨迹预测方法。
3.1 数据描述
(1) 目标轨迹仿真数据为3种带有随机高斯噪声的三维曲线,其中80%的数据点作为网络模型的训练数据,剩下20%的数据点作为模型的测试数据。参数方程式及取值范围如表 3所示。
表3 仿真数据的参数方程及变量取值
Table 3
仿真数据 | 参数方程 | 参数描述 |
1 | 0≤t≤8π, 时间点数量为200 | |
2 | 0≤t≤6π, 时间点数量为300 | |
3 | 0≤t≤6π, 时间点数量为300 |
(2) 实验使用的真实数据是在FlightAware上的航线日志,即在FlightAware平台上导出csv格式的飞行数据,再利用Python的Pandas库加载实验数据。飞机航迹分为爬升、转弯和平飞3个阶段,数据包含200个采集点,每个采集点包含时间、纬度、经度、高度、航向、节、航速、爬升角共八维数据。本文从中选择经度、纬度和高度这3个航迹指标作为网络模型的输入,进行目标的航迹预测。取80%的数据点作为网络模型的训练数据,将剩下20%的数据点作为模型的测试数据。
3.2 数据预处理
为了消除输入数据量纲的影响和提高网络的收敛速率,本文对输入的样本数据进行标准化处理,以提高网络模型预测的准确性和鲁棒性:
式中: x为原样本向量;
在对目标轨迹的预测结束后,可根据式(23)将网络输出的预测结果
3.3 对比实验
图7
图8
表4 模型目标轨迹预测结果的RMSE
Table 4
模型 | RNN | LSTM | KFU-LSTM |
仿真数据1 | 0.078 16 | 0.047 24 | 0.011 06 |
仿真数据2 | 0.035 44 | 0.014 15 | 0.008 65 |
仿真数据3 | 0.040 10 | 0.011 42 | 0.008 34 |
真实数据 | 0.061 62 | 0.055 79 | 0.004 39 |
4 结论
本文提出并建立了由KF算法展开的LSTM神经网络模型,并将该模型应用到飞行目标轨迹预测的任务中。本文所建立的模型能够学习飞行目标复杂的运动模型。相较于传统的KF算法只能用于估计线性运动模型,本文所提模型将目标状态转移函数建模为可学习的网络,再利用KF算法对目标预测状态进行修正更新,因此能够对目标复杂的非线性运动轨迹进行良好的估计和预测。另一方面,通过KF算法更新的方式将LSTM预测和观测向量结合起来,即隐式学习了目标所有可能的运动路径,这种方式不仅避免了显式建模目标运动轨迹方程,还能利用深度神经网络强大的学习表征能力从数据中学习模型中的超参数。相较于以RNN、LSTM等为代表的深度学习方法,本文所建立的模型对目标轨迹预测的精度更高。
本文构建了传统KF算法和深度学习之间联系的桥梁,将KF算法和深度网络有机地结合起来,不仅克服了传统模型建模不准确和深度学习方法对数据的严重依赖性,而且提高了模型与算法的可解释性,加快了网络的收敛速度,在仿真数据和真实数据上的实验结果验证了本文所提的基于KF算法展开网络模型对飞行目标轨迹预测的有效性与优越性。
参考文献
Learning long-term dependencies with gradient descent is difficult
[J].
LSTM: a search space odyssey
[J].
Fundamentals of recurrent neural network (RNN) and long short-term memory (LSTM) network
[J].
Aircraft 4D trajectory prediction in civil aviation: a review
[J].DOI:10.3390/aerospace9020091 [本文引用: 1]
Deep learning-powered vessel trajectory prediction for improving smart traffic services in maritime Internet of Things
[J].
A review of tracking and trajectory prediction methods for autonomous driving
[J].DOI:10.3390/math9060660 [本文引用: 1]
Research on method of trajectory prediction in aircraft flight based on aircraft performance and historical track data
[J].
High-accuracy four-dimensional trajectory prediction for civil aircraft
[J].
Dynamic model informed human motion prediction based on unscented kalman filter
[J].DOI:10.1109/TMECH.2022.3173167 [本文引用: 1]
3D multi-object tracking with adaptive cubature Kalman filter for autonomous driving
[J].
A dynamic trajectory prediction algorithm based on Kalman filter
[J].
Hybrid machine learning and estimation-based flight trajectory prediction in terminal airspace
[J].DOI:10.1109/ACCESS.2021.3126117 [本文引用: 1]
New reliabi-lity studies of data-driven aircraft trajectory prediction
[J].
Comparison of various guidance strategies to achieve time constraints in optimal descents
[J].DOI:10.2514/1.G004019 [本文引用: 1]
改进的扩展卡尔曼滤波在航空器4D航迹预测算法中的应用
[J].
Application of improved extended Kalman filter in 4D flight path prediction algorithm of aircraft
[J].
基于无迹卡尔曼滤波的飞行航迹预测方法研究
[J].DOI:10.3969/j.issn.1006-9348.2021.06.006 [本文引用: 1]
Research on flight path prediction method based on untraced Kalman filter
[J].DOI:10.3969/j.issn.1006-9348.2021.06.006 [本文引用: 1]
基于BP神经网络的空中目标航迹预测模型
[J].
Air target track prediction model based on BP neural network
[J].
CNN神经网络在航迹预测中的应用
[J].DOI:10.3969/j.issn.1674-6236.2019.12.003 [本文引用: 1]
Application of CNN neural network in track prediction
[J].DOI:10.3969/j.issn.1674-6236.2019.12.003 [本文引用: 1]
Long short-term memory
[J].DOI:10.1162/neco.1997.9.8.1735 [本文引用: 1]
Recurrent neural net learning and vanishing gradient
[J].DOI:10.1142/S0218488598000094 [本文引用: 2]
/
〈 |
|
〉 |
