一种基于残差网络模型的射频指纹识别方法

1.本发明属于物联网安全技术领域，具体来说是涉及一种基于残差网络模型的射频指纹识别方法。


背景技术：

2.2020年发布了5g的第一个演进标准，在原有的基础上增加了高速率低延迟通信和大规模设备连接两大应用场景，进一步推动了物联网的快速发展。gsm协会预计到2025年将会有超过17亿人使用5g网络，这也就意味着在未来将会有大规模的无线设备连接起来，为各种全新的物联网应用提供服务。随着物联网应用变得更加普遍，设备通信中隐含的安全漏洞问题也随之而来。如何提供可靠的识别验证机制确保无线设备之间的通信是值得信赖的，是物联网技术发展不得不面对的挑战之一。
3.无线网络中的设备大多都在开放的环境中进行通信，空中传输的信息可以被网络中的所有用户接收获取到，因此如何有效保护无线网络的通信安全一直是专家学者们讨论研究的课题。传统保护无线网络高级别安全的实现方法大多是复杂和资源密集型的，这种方法并不适合所有物联网中的设备，特别是那些体积较小、资源和功率都受限制的设备。于是，基于物理层的射频指纹识别技术自提出以来就受到了广泛的研究和关注。通过提取发射器发射的电磁波中所包含的射频指纹，能够实现无线设备的身份认证，射频指纹是每个设备独有的特征，这些独特的特征产生于电子元件在制造和使用过程中固有的随机性，特别是无线电传输链中模拟元件存在的误差，这些误差就是产生射频指纹的基础。通过对这些误差的计算和分析，能够提取到无线通信设备在物理层独有的特征作为各自的身份凭证，进而确保通信的安全可靠。
4.如今，随着人工智能技术与射频指纹技术的融合，可以利用深度学习算法，对无线电波进行模式特征的自动提取，避免基于经验的人工特征提取环节。目前基于深度学习的射频指纹技术多采用时域信号样本序列作为模型输入，但该技术存在两个问题，一是有些射频指纹特征在时域中并不明显。二是当以信号样本序列作为输入进行模型训练时，需要大量的存储空间资源进行数据的存储，在训练时也会因为庞大的输入而造成训练的困难和费时。


技术实现要素：

5.针对上述问题，本发明提供了一种基于残差网络模型的射频指纹识别方法，将固定大小的无线设备的信号图像作为深度学习模型的输入，解决了信号时域射频指纹特征单一和模型复杂度会随着信号样本序列增加而增加的问题。
6.本发明的技术方案为：
7.一种基于残差网络模型的射频指纹识别方法，包括以下步骤：
8.s1、将获取到的原始信号样本转化为时频图，具体为：将长度为n的原始信号样本划分成长度为l的n/l个子序列，并将每个子序列都进行choi-williams变换，得到时频图；
9.s2、构建残差网络模型，具体为，在残差网络模型resnet18的基础上，将原始残差块中的第一个标准卷积层替换成一个扩张率为2的空洞卷积层，构建空洞残差块，并在每个空洞残差块后插入混合注意力模块；所述混合注意力模块包括通道注意力模块和空间注意力模块，其中通道注意力模块首先对输入的特征图进行平均池化和最大池化，得到两个关于通道的特征描述，然后进行相加融合得到融合特征描述，将融合特征描述输入到多层感知器中进行训练学习，经过多层感知器运算以后得到一维的通道注意力矩阵，将通道注意力矩阵与输入的特征图对应位置元素相乘得到通道注意力特征图；所述空间注意力模块用于弥补通道注意力忽略的信息，首先对输入的特征图通过卷积层进行压缩，然后在水平和垂直方向上分别使用一个通道维度的全局平均池化分出两条支路对应时间和频率的特征向量，然后再将两个维度的特征图分别通过卷积层处理得到水平和垂直方向上的注意向量，并使用sigmoid函数进行归一化得到空间权重系数，最近将输入特征图与两个注意力向量进行逐元素点乘运算，得到加权后的空间注意力特征图；
10.s3、利用s1获得的时频图对s2构建的残差网络模型进行训练，得到训练好的残差网络模型；
11.s4、将采集的射频指纹信号转化为时频图输入到训练好的残差网络模型进行识别。
12.进一步的，时频图的大小为64
×
64。
13.进一步的，空洞残差块中空洞卷积层的卷积核尺寸为3
×
3，扩张率为2，感受野大小为7，标准卷积层的卷积核尺寸为3
×
3，填充为1，步长为1；每一次卷积操作后都会进行一次归一化和非线性激活操作；空洞卷积模型为：
[0014][0015]
其中，gi表示第i层的特征图，fi表示第i层卷积层，p表示卷积后生成的特征图内的点，a表示原始特征图gi内的点，b表示卷积层fi内的点，m表示扩张率。
[0016]
进一步的，通道注意力矩阵为：
[0017]
m(x)＝sigmoid(mlp(avgpool(x))+mlp(maxpool(x)))
[0018]
其中，x表示输入的特征图，mlp表示多层感知器。
[0019]
进一步的，所述空间注意力模块得到的水平方向上的一维注意力向量为：
[0020][0021]
垂直方向上的一维注意力向量为：
[0022]
mh(x)＝sigmoid(gavgpool(w
θ
x)w
α
)
[0023]
其中，w
θ
，w
α
分别表示3
×
3，1
×
7和7
×
1的卷积核权重参数；
[0024]
加权后的空间注意力特征图x”为：
[0025]
x”＝xmw(x)mh(x)。
[0026]
本发明的有益效果为，本发明首先将无线设备信号转换成固定大小的时频图，提取区分度更高的射频指纹特征，解决以信号样本序列作为射频指纹提取对象时，样本长度会影响后续算法结构和处理复杂度的问题。然后，针对无线设备信号时频图设计实现了深度学习模型csam-resnet，实现射频指纹的自动提取，充分挖掘时频图中的细节信息和关键
特征信息，进一步提高复杂电磁环境下无线设备的识别能力。
附图说明
[0027]
图1为本发明的残差网络主体框架。
[0028]
图2为本实施例中空洞残差块ⅰ结构图。
[0029]
图3为本实施例中空洞残差块ⅱ结构图。
[0030]
图4为本实施例中通道注意力模块结构图。
[0031]
图5为本实施例中空间注意力模块结构图。
[0032]
图6为本实施例中混合注意力模块结构图。
具体实施方式
[0033]
以下结合附图和实施例对本发明进行详细描述。
[0034]
实施例
[0035]
本例包括以下步骤：
[0036]
首先，在生成信号图像之前需要将长度为n的原始信号样本划分成长度为l的n/l个子序列。然后对每个样本子序列(s1,s2…sl
)都进行choi-williams变换，并绘制成时频图，进而得到子序列样本的彩色图像，在图像转换时将每个时频图的大小都固定为64
×
64。
[0037]
深度学习中的卷积神经网络通过多层卷积结构能够提取到图像充足的高级语义特征，在模式识别和特征拟合方面都有优秀的表现。无线设备识别，本质上也是一种模式识别，通过将信号序列转换成时频图的形式，可以提取到区分度更高的射频指纹特征。
[0038]
本实施例中，设计了一个适用于无线设备信号时频图分类识别的网络模型csam-resnet，模型结构如图1所示。具体网络结构参数见下表1。
[0039]
表1 csam-resnet网络结构参数
[0040][0041]
该网络模型将残差模块中的普通卷积替换成空洞卷积，实现感受野的扩大，让网
络模型能提取更有效的射频指纹特征。另外，还添加了混合注意力机制，让网络模型能关注到无线设备信号时频图中更多有用的特征信息。具体结构为：conv+maxpool+dblock1+dblock1+csam+dblock2+dblock1+csam+dblock2+dblock1+csam+dblock1+dblock1+csam+avgpool+fc；其中，dblock是空洞卷积残差块，空洞卷积残差块的输入数据依次经过空洞卷积层、批归一化层、relu层、卷积层、批归一化层后再与输入数据融合后经过relu层后输出；csam是通道注意力机制模块。
[0042]
本发明的空洞卷积残差块结构如图2和图3所示。空洞残差块中包含两个卷积层，第一个卷积层是卷积核尺寸为3
×
3，扩张率为2的空洞卷积层；第二个卷积层是卷积核尺寸为3
×
3的标准卷积层。空洞残差块ⅱ和空洞残差块ⅰ不同的地方在于空洞残差块ⅱ的输入还通过1
×
1的卷积和bn层后再与3
×
3标准卷积层的输出融合。
[0043]
在神经网络中，每个神经元的感受野是指其对输入数据局部区域的响应范围。在卷积神经网络中，每个卷积层中的神经元通常会应用一个固定大小的卷积核，从而仅对输入图像中特定区域的信息进行处理。空洞卷积通过添加空洞来使感受野可调，既不需要引入额外的参数增加计算量，又保留了图像的细节信息，能够方便地提取特征图中不同尺寸的特征。每个空洞残差模块的第一层空洞卷积的卷积核尺寸为3
×
3，扩张率为2时，等效为5
×
5的卷积核，感受野大小为7。第二层标准卷积的卷积核尺寸为3
×
3，填充为1，步长为1。每一次卷积操作后都会进行一次归一化和非线性激活操作，空洞卷积模型如下所示：
[0044][0045]
式中gi表示第i层的特征图，fi表示第i层卷积层，p表示卷积后生成的特征图内的点，a表示原始特征图gi内的点，b表示卷积层fi内的点，m表示扩张率。由空洞卷积的计算公式可知，通过增加卷积核中的间隔，空洞卷积可以使卷积核在输入特征图上跳过一些像素点进行卷积操作，当扩张率越大时，空洞卷积的采样范围越大，单位范围内的采样点数就越少。
[0046]
空洞卷积实现了用较小的参数量和运算量实现较大的感受野，在图像识别任务中感受野扮演着关键的角色。通过在残差模块中添加空洞卷积，能够实现在保留图像细节信息的前提下，提取信号时频图中关键的射频指纹特征。
[0047]
本实施例中，使用通道注意力机制作用于特征图之间，对各个特征之间的重要性进行建模，进一步避免时频图背景噪声对特征提取的影响。
[0048]
如图4所示，为通道注意力模块的结构图。通道注意力矩阵表达式如下所示：
[0049]
m(x)＝sigmoid(mlp(avgpool(x))+mlp(maxpool(x)))
[0050]
首先对输入的特征图进行平均池化和最大池化，得到两个关于通道的尺寸3
×
3的特征描述。平均池化时将输入特征图划分为若干个子区域，然后对每个子区域求平均值，其表达式如下所示：
[0051][0052]
平均池化能够提取图像的有用信息，实现特征信息的聚合。
[0053]
最大池化也是将输入划分为若干个子区域，不过它取的是每个子区域的最大值，其定义如下所示：
[0054][0055]
最大池化将每个子区域中最大值提取出来输入到下一层，突出了特征图中重要的信息，去除了大量冗余的信息，实现了空间的压缩。
[0056]
然后将最大池化和平均池化得到的特征描述符进行相加融合，能够得到一个尺寸为c
×1×
1的特征描述，该特征描述融合了输入图像的重要特征和有用的背景信息。随后将该特征描述输入到多层感知器中进行训练学习，经过多层感知器运算以后能够得到一维的通道注意力矩阵：
[0057]
m(x)＝sigmoid(mlp(avgpool(x))+mlp(maxpool(x)))
[0058]
式中x表示特征图。当经过特征通道得到特征注意力矩阵后，使用sigmoid函数对其进行归一化，能够得到关于通道的权重系数。最后将输入进通道注意力模块的特征图与这个通道权重系数逐元素相乘，就可以得到细化过的通道注意力特征图。
[0059]
通道注意力机制作用于特征图之间，能够对各个特征之间的重要性进行建模，能够进一步避免时频图背景噪声对特征提取的影响，让模型更多地关注时频图中的有效信息。
[0060]
在本实施例中，使用空间注意力机制对神经网络中不同位置的特征进行加权，从而使网络能够更加关注那些与任务相关的区域，提高网络的表现能力。空间注意力可以弥补通道注意力忽略的信息，其主要原理是利用图像中不同位置像素之间的相关性，从而提取空间维度上的关键信息。
[0061]
时频图在水平方向上表示时间的变化，垂直方向上是信号频率的变化，在空间注意力模块的设计上，为了兼顾时间和频率两个维度的特征信息，使用两条支路来分别进行处理，进而让网络模型更多地关注时频图的关键特征。
[0062]
如图5所示，为空间注意力模块的结构图。首先，对于输入的特征图x先使用3
×
3的卷积层进行压缩，然后在水平和垂直方向上分别使用一个通道维度的全局平均池化分出两条支路对应时间和频率的特征向量，全局平均池化的计算式如下所示：
[0063][0064]
式中yk表示输出的特征向量，|r|表示特征图上全部元素个数。
[0065]
然后再将两个维度的特征图分别输入进1
×
7和7
×
1的卷积层得到水平和垂直方向上的注意向量，并使用sigmoid函数进行归一化得到空间权重系数。
[0066]
水平方向上的一维注意力向量的表达式为：
[0067][0068]
垂直方向上的一维注意力向量的表达式为：
[0069]
mh(x)＝sigmoid(gavgpool(w
θ
x)w
α
)
[0070]
式中w
θ
，w
α
分别表示3
×
3，1
×
7和7
×
1的卷积核权重参数。
[0071]
通过上述计算操作获得两个方向上的空间注意力向量后，将输入特征图x与两个注意力向量进行逐元素点乘运算，就可以得到加权后的空间注意力特征图x”，其表达式为：
[0072]
x”＝xmw(x)mh(x)
[0073]
空间注意力机制通过对神经网络中不同位置的特征进行加权，从而使网络能够更
加关注那些与任务相关的区域，提高网络的表现能力，提取区分度更高的射频指纹特征。
[0074]
本发明通过以上设计，提出了适用于无线设备信号时频图分类识别的网络模型。为提取更有效的射频指纹特征，本发明修改了残差模块的结构，使用空洞卷积替换原残差模块的第一层标准卷积，实现感受野的扩大，提取区分度更高的射频指纹特征。并添加了通道注意力机制和空间注意力机制，让网络模型能关注到更多有用的特征信息，提高网络模型的识别精度。与传统的射频指纹识别算法相比，本发明改进后的csam-resnet网络模型具有更好的泛化能力和识别效果。

技术特征：
1.一种基于残差网络模型的射频指纹识别方法，其特征在于，包括以下步骤：s1、将获取到的原始信号样本转化为时频图，具体为：将长度为n的原始信号样本划分成长度为l的nl个子序列，并将每个子序列都进行choi-williams变换，得到时频图；s2、构建残差网络模型，具体为，在残差网络模型resnet18的基础上，将原始残差块中的第一个标准卷积层替换成一个扩张率为2的空洞卷积层，构建空洞残差块，并在每个空洞残差块后插入混合注意力模块；所述混合注意力模块包括通道注意力模块和空间注意力模块，其中通道注意力模块首先对输入的特征图进行平均池化和最大池化，得到两个关于通道的特征描述，然后进行相加融合得到融合特征描述，将融合特征描述输入到多层感知器中进行训练学习，经过多层感知器运算以后得到一维的通道注意力矩阵，将通道注意力矩阵与输入的特征图对应位置元素相乘得到通道注意力特征图；所述空间注意力模块用于弥补通道注意力忽略的信息，首先对输入的特征图通过卷积层进行压缩，然后在水平和垂直方向上分别使用一个通道维度的全局平均池化分出两条支路对应时间和频率的特征向量，然后再将两个维度的特征图分别通过卷积层处理得到水平和垂直方向上的注意向量，并使用sigmoid函数进行归一化得到空间权重系数，最近将输入特征图与两个注意力向量进行逐元素点乘运算，得到加权后的空间注意力特征图；s3、利用s1获得的时频图对s2构建的残差网络模型进行训练，得到训练好的残差网络模型；s4、将采集的射频指纹信号转化为时频图输入到训练好的残差网络模型进行识别。2.根据权利要求1所述的一种基于残差网络模型的射频指纹识别方法，其特征在于，时频图的大小为64
×
64。3.根据权利要求2所述的一种基于残差网络模型的射频指纹识别方法，其特征在于，空洞残差块中空洞卷积层的卷积核尺寸为3
×
3，扩张率为2，感受野大小为7，标准卷积层的卷积核尺寸为3
×
3，填充为1，步长为1；每一次卷积操作后都会进行一次归一化和非线性激活操作；空洞卷积模型为：其中，g
i
表示第i层的特征图，f
i
表示第i层卷积层，p表示卷积后生成的特征图内的点，a表示原始特征图g
i
内的点，b表示卷积层f
i
内的点，m表示扩张率。4.根据权利要求3所述的一种基于残差网络模型的射频指纹识别方法，其特征在于，通道注意力矩阵为：m(x)＝sigmoid(mlp(avgpool(x))+mlp(maxpool(x)))其中，x表示输入的特征图，mlp表示多层感知器。5.根据权利要求4所述的一种基于残差网络模型的射频指纹识别方法，其特征在于，所述空间注意力模块得到的水平方向上的一维注意力向量为：垂直方向上的一维注意力向量为：m
h
(x)＝sigmoid(gavgpool(w
θ
x)w
α
)其中，w
θ
，w
α
分别表示3
×
3，1
×
7和7
×
1的卷积核权重参数；
加权后的空间注意力特征图x”为：x”＝xm
w
(x)m
h
(x)。

技术总结
本发明属于物联网安全技术领域，具体来说是涉及一种基于残差网络模型的射频指纹识别方法。本发明首先将无线设备信号转换成固定大小的时频图，提取区分度更高的射频指纹特征，解决以信号样本序列作为射频指纹提取对象时，样本长度会影响后续算法结构和处理复杂度的问题。然后，针对无线设备信号时频图设计实现了深度学习模型CSAM-ResNet，实现射频指纹的自动提取，充分挖掘时频图中的细节信息和关键特征信息，进一步提高复杂电磁环境下无线设备的识别能力。的识别能力。的识别能力。


技术研发人员：林迪 王梦娟 胡苏 吴薇薇 杨刚 马上 靳传学 杨钿
受保护的技术使用者：电子科技大学
技术研发日：2023.04.27
技术公布日：2023/8/1