基于残差神经网络与集成学习的飞行时间预测方法及装置

1.本发明涉及一种飞行器飞行时间预测方法，属于飞行器控制技术领域。


背景技术：

2.制导律直接关系到飞行器的射程、射击精度、生存能力、毁伤效果等，是飞行器设计的重要内容之一。
3.而制导律大都依赖飞行时间预测，飞行时间预测越精准，制导精度越高。
4.传统的飞行时间预测，可以分为两种：解析法和数据法。解析法引入一些假设条件，使剩余飞行时间能够以解析式的形式求解，但是解析法对引入的假设条件敏感，预测精度普遍较低；数据法为采集大量的导弹飞行数据，通过插值、拟合等数值计算方法获得，但由于不同型号的飞行器数据存在差异，数据法需要对每种飞行器型号都采集大量数据，会带来较高的成本。
5.由于上述原因，有必要提出了一种能够解决上述问题之一的飞行器飞行时间的预测方法。


技术实现要素：

6.为了克服上述问题，本发明人进行了深入研究，设计出一种基于残差神经网络与集成学习的飞行时间预测方法通过理论模型获取飞行器理论飞行时间，通过集成单元将多个残差神经网络模型集成为总模型，通过总模型对新型飞行器的实际飞行时间与理论飞行时间误差进行预测，进而获得预测飞行时间，根据预测飞行时间获得制导律，该新型飞行器在制导律的控制下向目标飞行；
7.所述残差神经网络为能够对已知飞行器实际飞行时间与理论飞行时间误差进行预测的模型，不同的残差神经网络模型对应不同的已知飞行器，
8.所述集成单元用于不同的残差神经网络模型预测结果按一定权值进行整合，
9.所述已知飞行器是指已具有大量飞行轨迹数据的飞行器，所述新型飞行器是指未获得大量飞行轨迹数据的飞行器，所述大量飞行轨迹是指超过100条飞行轨迹。
10.在一个优选的实施方式中，所述理论模型以飞行器当前状态为自变量估计飞行器理论飞行时间，所述残差神经网络模型输入为飞行器当前状态的初始条件，输出为飞行器理论飞行时间相对真实值的误差。
11.在一个优选的实施方式中，所述理论模型表示为：
[0012][0013]
其中，表示飞行器理论飞行时间，θ表示速度方向角，λ表示视线角，r表示飞行器与目标的距离。
[0014]
所述残差神经网络模型的残差神经网络隐藏层cj表示为：
[0015][0016]
其中，r表示隐藏层的输入，c表示隐藏层的输出，w表示隐藏层的权值，b表示隐藏层的偏移量，下标j表示隐藏层的编号，下标i表示隐藏层j中的第i个神经元。4.根据权利要求1所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，
[0017]
所述集成单元表示为：
[0018][0019]
其中，ye为集成后的输出值，为不同残差神经网络预测模型的输出值，为不同残差神经网络模型的集成权重。
[0020]
在一个优选的实施方式中，保持残差神经网络模型中输入层和隐藏层的参数不变，以新型飞行器的至少一条飞行轨迹数据为训练样本对总模型进行训练，确定集成单元中集成权重的取值，以训练后的总模型对新型飞行器的实际飞行时间与理论飞行时间误差预测。
[0021]
在一个优选的实施方式中，对总模型进行训练时，损失函数je设置为：
[0022][0023]
其中，ne表示残差神经网络模型的数量，ie表示不同的残差神经网络模型，ye表示不同残差神经网络模型的输出值，表示与残差神经网络输出对应的样本的真实输出值。
[0024]
在一个优选的实施方式中，对总模型进行训练时，集成单元的梯度设置为：
[0025][0026]
其中，α为所需训练的参数，包括不同残差神经网络模型的集成权重和不同残差神经网络模型的偏移量
[0027]
在一个优选的实施方式中，对总模型进行训练时，通过下式进行参数更新：
[0028]
α
k+1
＝α
k-γege[0029]
其中，αk表示更新前参数，α
k+1
表示更新后参数，γe表示总模型学习率,ge表示集成单元梯度。
[0030]
在一个优选的实施方式中，残差神经网络模型训练时的学习率为总模型训练时学习率的5～15倍。
[0031]
另一方面，本发明还提供了一种基于残差神经网络与集成学习的飞行时间预测装置，在飞行器的机载计算机中设置有如上述实施方式之一所述的理论模型和总模型。
[0032]
本发明所具有的有益效果包括：
[0033]
(1)融合了解析法与数据法的特点；
[0034]
(2)能够实现对新型飞行器的剩余飞行时间预测；
[0035]
(3)该预测方法降低了对新型号飞行器飞行数据量的要求，节约了数据采集的成本；
[0036]
(4)该方法预测结果准确，对飞行器机载计算机要求低。
附图说明
[0037]
图1示出根据本发明一种优选实施方式的基于残差神经网络与集成学习的飞行时间预测方法中总模型示意图；
[0038]
图2示出根据本发明一种优选实施方式的基于残差神经网络与集成学习的飞行时间预测方法中残差神经网络模型示意图；
[0039]
图3示出实施例1中总模型的预测值与真实值对比示意图；
[0040]
图4示出实施例1中总模型的预测误差示意图。
具体实施方式
[0041]
下面通过附图和实施例对本发明进一步详细说明。通过这些说明，本发明的特点和优点将变得更为清楚明确。
[0042]
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。
[0043]
飞行器的飞行时间由飞行路径与飞行速度决定，则飞行器飞行时间预测问题，可转化为在某一时刻预测未来的速度大小与速度方向的问题；而受飞行姿态、大气环境等多种因素影响，未来速度大小与方向的变化十分复杂，难以建模精确预测。
[0044]
发明人发现，以一定的初始条件和制导律从一定位置发射，不考虑扰动的情况下，飞行器的轨迹是唯一的，即飞行器终端状态与初始条件之间存在映射关系，这使得深度神经网络模型在学习了大量的飞行轨迹数据后，能够拟合映射这一关系，从而实现精确的预测。
[0045]
然而，上述预测是基于大量的已知飞行轨迹的情况下实现的，当出现新型飞行器时，由于飞行轨迹较小，要直接采用深度神经网络模型预测其飞行时间，则需要对新型飞行器进行大量的实验以及数据采集，成本高昂且效率低下，如何在缺乏新型飞行器飞行轨迹数据的情况下实现对新型飞行器剩余飞行时间的预测是本发明要解决的技术问题。
[0046]
根据本发明提供的基于残差神经网络与集成学习的飞行时间预测方法，通过对理论飞行时间进行误差校正实现已知飞行器飞行时间的预测。
[0047]
具体地，通过理论模型获取飞行器理论飞行时间，通过集成单元将多个残差神经网络模型集成为总误差模型，通过总误差模型对新型飞行器的理论飞行时间进行误差校正获得预测飞行时间，根据预测的飞行时间获得制导律，该新型飞行器在制导律的控制下向目标飞行。在本发明中，对根据预测的飞行时间获得制导律的具体方法不做特别限定，本领域技术人员可根据实际需要采用任意一种已知的方法，例如采用比例导引法获得该新型飞行器的制导律。
[0048]
进一步地，所述理论模型用于获取飞行器理论飞行时间，以飞行器当前状态为自变量估计飞行器飞行时间，
[0049]
所述理论飞行时间通过解析公式获得，可以表示为：
[0050][0051]
其中，表示飞行器理论飞行时间，θ表示速度方向角，λ表示视线角，r表示飞行器与目标的距离；
[0052]
所述残差神经网络模型为能够对已知飞行器实际飞行时间与理论飞行时间误差进行预测的模型，不同的残差神经网络模型对应不同的已知飞行器，
[0053]
所述集成单元用于不同的残差神经网络模型预测结果按一定权值进行整合。在本发明中，通过解析公式估计新型飞行器的飞行时间，通过残差神经网络模型预测估计误差，再通过集成单元将残差神经网络模型预测结果整合在一起，充分利用已知飞行器已采集的历史飞行轨迹数据，以及飞行器飞行原理的相似性，实现对新型号飞行器的飞行时间预测，提高了估计精度，降低了数据法对新型号飞行器数据量的需求，节约了采集数据的成本。
[0054]
具体地，在本发明中，所述已知飞行器是指已具有大量飞行轨迹数据的飞行器，所述新型飞行器是指未获得大量飞行轨迹数据的飞行器，所述大量飞行轨迹是指超过100条飞行轨迹。
[0055]
优选地，所述已知飞行器为与新型飞行器类型相同的飞行器，所述飞行器的类型包括四种，分别为：地面发射、目标空中，空中发射、目标地面，空中发射、目标空中，地面发射、目标地面。
[0056]
优选地，所述残差神经网络模型的数量为3～10个，虽然残差神经网络模型的数量越多预测精度越高，但是预测速度越慢，经过大量实验，3～10个残差神经网络模型即可获得较为准确的预测结果。
[0057]
所述残差神经网络模型如图2所示，其输入为飞行器的当前时刻条件，输出为飞行器飞行时间。
[0058]
所述当前时刻条件包括飞行器速度v、飞行器速度在惯性空间中的倾角θ、飞行器和目标之间的相对水平位置x、飞行器和目标之间的相对高度y。
[0059]
残差神经网络包括一个输入层、多个隐含层和一个输出层，输入层为初始条件，输出层用于输出实际飞行时间与理论飞行时间误差，如图2所示。
[0060]
在一个优选的实施方式中，所述残差神经网络预测模型隐藏层为3层，每个隐藏层中设置有100个神经元，发明人经过大量的实验，确定上述参数，使得残差神经网络模型的预测精度以及预测速度均能够为后续最终误差预测提供良好的残差神经网络数据，保证了最终的预测精度。
[0061]
在一个优选的实施方式中，所述残差神经网络模型的隐藏层cj表示为：
[0062][0063]
其中，r表示隐藏层的输入，c表示隐藏层的输出，w表示隐藏层的权值，b表示隐藏层的偏移量，下标j表示隐藏层的编号，下标i表示隐藏层j中的第i个神经元。
[0064]
在一个优选的实施方式中，每个神经元都具有非线性激活函数f，所述非线性激活
函数优选为：
[0065]
f(z)＝max(0，z)
[0066]
根据本发明，采用已知飞行器的飞行轨迹中实际飞行时间与理论飞行时间误差对对应的残差神经网络模型进行训练，使得该残差神经网络模型能够预测对应飞行器的实际飞行时间与理论飞行时间误差。
[0067]
具体地，针对一条飞行轨迹，记录其初始速度、初始速度方向、初始位置及高度；在飞行轨迹中任取一个时刻点，记录该时刻点飞行器的速度、速度方向、位置、高度和实际飞行时间与理论飞行时间误差，将上述数据作为一个条训练数据；
[0068]
重复上述过程，针对不同的飞行轨迹，获得多条训练数据，多条训练数据组合成训练样本，对残差神经网络模型进行训练。
[0069]
更优选地，训练样本中每条训练数据对应的飞行轨迹的初始值不同。
[0070]
在一个更优选的实施方式中，当已知飞行器具有飞行仿真程序时，采用飞行仿真程序获得所述飞行轨迹。
[0071]
在本发明中，对残差神经网络模型的训练过程与传统的深度神经网络的训练过程相同，本领域技术人员可根据经验进行。
[0072]
根据本发明一个优选的实施方式中，在训练残差神经网络模型过程中，模型的损失函数l设置为：
[0073][0074]
其中，n为样本数量，n为训练数据的编号。
[0075]
进一步地，训练残差神经网络模型中，将模型的梯度g
t
设置为：
[0076][0077]
其中，β为所需训练的参数，包括隐藏层的权值w和偏移量b。
[0078]
进一步优选地，在训练残差神经网络模型中，参数按照下式进行更新：
[0079]
β
i+1
＝β
i-rg
t
[0080]
其中，βi表示更新前参数，β
i+1
表示更新后参数，r表示初始的学习率。
[0081]
在一个优选的实施方式中，在训练残差神经网络模型中，每个训练周期从训练样本中随机选取一定数量的样本来训练残差神经网络模型，更优选地，在每个训练周期选取50个样本，训练周期设定为10万次。
[0082]
根据本发明，在训练好残差神经网络模型后，可以通过集成单元将多个残差神经网络模型集成在一起，形成总模型。
[0083]
所述集成单元表示为：
[0084][0085]
其中，ye为集成后的输出值，为不同残差神经网络模型的输出值，为不同残差神经网络预测模型的集成权重。
[0086]
进一步地，集成权重初始值设置为
[0087]
根据本发明，需要对集成后的总模型进行再次训练，具体地，保持残差神经网络预测模型中输入层和隐藏层的参数不变，根据新型飞行器的至少一条飞行轨迹数据生成总模型训练样本，通过总模型训练样本对总模型进行训练，确定集成单元中集成权重的取值，以训练后的总模型对新型飞行器的飞行时间进行预测。
[0088]
总模型训练样本的生成方式为：记录新型飞行器飞行轨迹数据初始速度、初始速度方向、初始位置及高度；在飞行轨迹中任取一个时刻点，记录该时刻点飞行器的速度、速度方向、位置、高度和实际飞行时间与理论飞行时间误差，将上述数据作为一个条训练数据；
[0089]
重复上述过程，在飞行轨迹上不同位置取多个时刻点，形成多条训练数据，多条训练数据组合形成总模型训练样本。
[0090]
在一个优选的实施方式中，对总模型进行训练时，损失函数je设置为：
[0091][0092]
其中，ne表示残差神经网络模型的数量，ie表示不同的残差神经网络模型，ye表示不同残差神经网络模型的输出值，表示与残差神经网络输出对应的样本的真实输出值。
[0093]
在一个优选的实施方式中，对总模型进行训练时，集成单元的梯度设置为：
[0094][0095]
其中，α为所需训练的参数，包括不同残差神经网络模型的集成权重和不同残差神经网络模型的偏移量
[0096]
进一步优选地，对总模型进行训练时，通过下式进行参数更新：
[0097]
α
k+1
＝α
k-γege[0098]
其中，αk表示更新前参数，α
k+1
表示更新后参数，γe表示总模型学习率,ge表示集成单元梯度。
[0099]
根据本发明一个优选的实施方式，残差神经网络模型训练时的学习率为总模型训练时学习率的5～15倍，更优选为10倍，。
[0100]
由于训练总模型时的样本量小，容易引起较大的预测误差，训练总模型使用较小的学习率降低了模型参数的更新幅度，能够改善预测误差增大的问题。
[0101]
在一个优选的实施方式中，总模型的训练周期设置为50-200次，例如100次。
[0102]
本发明还提供了一种基于残差神经网络与集成学习的飞行时间预测装置，在飞行器的机载计算机中设置有上述实施方式之一所述的总模型。
[0103]
飞行器飞行时，飞行器的导航模块实时输出飞行器当前速度、当前速度方向、当前位置及高度至总模型，由总模型输出飞行时间的误差值，由理论模型输出飞行器飞行时间，二者相加获得最终的预测飞行时间。
[0104]
实施例
[0105]
实施例1
[0106]
预测某新型飞行器的飞行时间，通过理论模型获取飞行器理论飞行时间，通过集成单元将多个残差神经网络模型集成为总模型，通过总模型对新型飞行器的理论飞行时间的误差进行预测，将理论飞行时间与预测的误差相加，得到最终的预测结果。
[0107]
共设置12个残差神经网络模型，每个残差神经网络模型的气动参数均不同，采用仿真程序获得12个不同气动参数下对应飞行器的飞行轨迹，制作形成12个训练样本，每个训练样本训练一个对应的残差神经网络模型。
[0108]
其中，理论模型为：
[0109][0110]
残差神经网络模型隐藏层为3层，每个隐藏层中设置有100个神经元，隐藏层表示为：
[0111][0112]
神经元激活函数为：
[0113]
f(z)＝max(0，z)
[0114]
损失函数l设置为：
[0115][0116]
将模型的梯度g
t
设置为：
[0117][0118]
按照下式进行更新：
[0119]
β
i+1
＝β
i-rg
t
[0120]
在训练好残差神经网络模型后，通过集成单元将多个残差神经网络模型集成在一起，形成总模型，集成单元表示为：
[0121][0122]
集成权重初始值设置为
[0123]
使用新型飞行器进行一次试飞，采集新型飞行器飞行过程产生的飞行轨迹生成总模型训练样本，使用总模型训练样本对总模型进行训练。
[0124]
对总模型进行训练时，损失函数je设置为：
[0125][0126]
集成单元的梯度设置为：
[0127][0128]
参数更新表示为：
[0129]ak+1
＝α
k-γege[0130]
总模型训练时学习率为残差神经网络训练时学习率的1/10，训练周期设置为100次。
[0131]
获得总模型后，将理论模型与总模型加载至飞行器机载计算机中，再次进行飞行试验，记录预测的飞行时间与实际飞行时间比较。
[0132]
结果如图3、4所示，其中横坐标为飞行试验测试样本数据个数，共20000组数据；图3中纵坐标为剩余飞行时间，图4中纵坐标为飞行时间预测误差，从图中可以看出，预测的飞行时间与实际的飞行时间高度近似，误差不超过1秒。
[0133]
在本发明的描述中，需要说明的是，术语“上”、“下”、“内”、“外”、“前”、“后”等指示的方位或位置关系为基于本发明工作状态下的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”、“第四”仅用于描述目的，而不能理解为指示或暗示相对重要性。
[0134]
在本发明的描述中，需要说明的是，除非另有明确的规定和限定，术语“安装”“相连”“连接”应作广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体的连接普通；可以是机械连接，也可以是电连接；可以是直接连接，也可以通过中间媒介间接连接，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。
[0135]
以上结合了优选的实施方式对本发明进行了说明，不过这些实施方式仅是范例性的，仅起到说明性的作用。在此基础上，可以对本发明进行多种替换和改进，这些均落入本发明的保护范围内。

技术特征：
1.一种基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，通过理论模型获取飞行器理论飞行时间，通过集成单元将多个残差神经网络模型集成为总模型，通过总模型对新型飞行器的实际飞行时间与理论飞行时间误差进行预测，进而获得预测飞行时间，根据预测飞行时间获得制导律，该新型飞行器在制导律的控制下向目标飞行；所述残差神经网络为能够对已知飞行器实际飞行时间与理论飞行时间误差进行预测的模型，不同的残差神经网络模型对应不同的已知飞行器，所述集成单元用于不同的残差神经网络模型预测结果按一定权值进行整合，所述已知飞行器是指已具有大量飞行轨迹数据的飞行器，所述新型飞行器是指未获得大量飞行轨迹数据的飞行器，所述大量飞行轨迹是指超过100条飞行轨迹。2.根据权利要求1所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，所述理论模型以飞行器当前状态为自变量估计飞行器理论飞行时间，所述残差神经网络模型输入为飞行器当前状态的初始条件，输出为飞行器理论飞行时间相对真实值的误差。3.根据权利要求2所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，所述理论模型表示为：其中，表示飞行器理论飞行时间，θ表示速度方向角，λ表示视线角，r表示飞行器与目标的距离；所述残差神经网络模型的残差神经网络隐藏层c
j
表示为：其中，r表示隐藏层的输入，c表示隐藏层的输出，w表示隐藏层的权值，b表示隐藏层的偏移量，下标j表示隐藏层的编号，下标i表示隐藏层j中的第i个神经元。4.根据权利要求1所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，所述集成单元表示为：其中，y
e
为集成后的输出值，为不同残差神经网络模型的输出值，为不同残差神经网络模型的集成权重。5.根据权利要求4所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，保持残差神经网络模型中输入层和隐藏层的参数不变，以新型飞行器的至少一条飞行
轨迹数据为训练样本对总模型进行训练，确定集成单元中集成权重的取值，以训练后的总模型对新型飞行器的实际飞行时间与理论飞行时间误差预测。6.根据权利要求4所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，对总模型进行训练时，损失函数j
e
设置为：其中，n
e
表示残差神经网络模型的数量，i
e
表示不同的残差神经网络模型，y
e
表示不同残差神经网络模型的输出值，表示与残差神经网络输出对应的样本的真实输出值。7.根据权利要求4所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，对总模型进行训练时，集成单元的梯度设置为：其中，α为所需训练的参数，包括不同残差神经网络模型的集成权重和不同残差神经网络模型的偏移量8.根据权利要求4所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，对总模型进行训练时，通过下式进行参数更新：α
k+1
＝α
k-γ
e
g
e
其中，α
k
表示更新前参数，α
k+1
表示更新后参数，γ
e
表示总模型学习率,g
e
表示集成单元梯度。9.根据权利要求4所述的基于残差神经网络与集成学习的飞行时间预测方法，其特征在于，残差神经网络模型训练时的学习率为总模型训练时学习率的5～15倍。10.一种基于残差神经网络与集成学习的飞行时间预测装置，其特征在于，在飞行器的机载计算机中设置有如权利要求1～9之一所述的理论模型和总模型。

技术总结
本发明公开了一种基于残差神经网络与集成学习的飞行时间预测方法，通过集成单元将多个残差神经网络模型集成为总模型，通过总模型对新型飞行器的实际飞行时间与理论飞行时间误差进行预测；其中，所述残差神经网络为能够对已知飞行器实际飞行时间与理论飞行时间误差进行预测的模型，集成单元用于不同的残差神经网络模型预测结果按一定权值进行整合，已知飞行器是指已具有大量飞行轨迹数据的飞行器，新型飞行器是指未获得大量飞行轨迹数据的飞行器。该发明公开的基于残差神经网络与集成学习的飞行时间预测方法，降低了对新型号飞行器飞行数据量的要求，节约了数据采集的成本，预测结果准确率高。测结果准确率高。测结果准确率高。


技术研发人员：王江 刘子超 何绍溟 侯淼 王鹏 范世鹏 李晨迪
受保护的技术使用者：北京理工大学
技术研发日：2022.03.10
技术公布日：2023/9/23