一种预测用卷积神经网络的去噪方法

1.本发明涉及一种卷积神经网络的处理方法，具体地说是一种预测用卷积神经网络的去噪方法。


背景技术：

2.目前，卷积神经网络(cnns)已被广泛应用于医学图像处理，许多深度学习系统在一系列医学图像诊断任务中表现出了人类专家级或以上的性能。结合pet/ct图像的卷积神经网络医学诊断模型，可以实现更为准确和高效的医学辅助诊断。在使用pet/ct图像进行医学辅助诊断的过程中，卷积神经网络模型可以从原始的pet/ct图像数据中学习到更高级别的特征，并进行疾病分类、异常检测、定量分析等任务。
3.然而，这种预测用卷积神经网络很容易受到对抗攻击，即通过向原始图像添加小的对抗扰动来攻击图像，而这种扰动是人类无法察觉的，但会误导标准的卷积神经网络模型产生不正确的输出，从而导致其预测性能大幅下降。
4.受到对抗攻击的卷积神经网络将无法为人类提供帮助，也有可能会误导临床医生。更为重要的一点是，这样的漏洞还会带来比较严重的安全风险，并阻碍在现实世界中部署基于卷积神经网络的自动化系统。


技术实现要素：

5.本发明的目的就是提供一种预测用卷积神经网络的去噪方法，以解决现有卷积神经网络因容易受到对抗攻击所带来的使用风险的问题。
6.本发明的目的是这样实现的：
7.一种预测用卷积神经网络的去噪方法，包括以下步骤：
8.s1、构建去噪算子层：所述去噪算子层包括样本间去噪层和样本内去噪层；所述样本间去噪层是利用整批数据来减少在特征表示中所包含的噪声；所述样本内去噪层是用以减少图像本身中的噪声；
9.s2、将去噪算子层加入到resnet网络的每一层中，利用带有去噪算子层的resnet网络训练图像处理模型；
10.s3、使用pgd-20获取所训练的图像处理模型的梯度，产生成对抗样本；
11.s4、在图像处理模型中加入带有去噪部分的resnet网络，输入对抗样本，再次训练图像处理模型；
12.s5、利用黑盒攻击和白盒攻击，分别测试训练好的图像处理模型的对抗攻击防御能力和鲁棒性。
13.优选的，所述去噪算子包括以下子步骤：
14.s1-1通过公式(1)消除样本间噪声以获得输出
15.16.其中，m为层数，j为通道数，n为样本数，γ为正实数，1n表示所有元素为1的列向量，表示外积，为消除了样本间噪声的输出矩阵，zm为输入x第m层经过卷积、批量归一化和relu之后的输出，为zm的第j个通道(1j≤cm)，c表示x的通道。
17.s1-2通过公式(2)消除样本内噪声以获得输出
[0018][0019]
其中，m为层数，j为通道数，γ为正实数，h、w为x的高度和宽度，hm和wm分别表示第m层输出的高度和宽度，是干净的没有样本间和样本内噪声的输出矩阵，为消除了样本间噪声的输出矩阵，和表示所有元素为1的列向量，表示外积。
[0020]
优选的，所述pgd-20的基本参数设置为：最大扰动ε＝0.5，步长α＝0.05，迭代次数s＝20。
[0021]
优选的，步骤s4中，将所有生成的对抗样本作为训练数据集，对图像处理模型进行训练，训练好的模型为最终模型。
[0022]
优选的，在白盒攻击下设置的扰动阈值为：∈∈[0，1，在黑盒攻击下设置的扰动阈值为：∈∈[0，2。
[0023]
本发明通过在resnet网络的每一层都加入去噪算子层，并且对加入了去噪算子层的训练好的图像处理模型进行对抗训练。去噪部分的加入，使得图像处理模型减少了在训练过程中学习到的噪声特征的影响；对抗训练的加入，又进一步减少了对抗性扰动所操纵的噪声，由此使得图像处理模型的鲁棒性和对抗防御能力进一步提升。在此期间，图像处理模型的准确度也得到了一定的提升，有助于提高医学人工智能模型的安全性。本发明去噪方法可使检测pet/ct肾癌的卷积神经网络具有防御对抗攻击的能力，且具有良好的鲁棒性。
[0024]
本发明具备以下有益效果：
[0025]
(1)本发明提出了一个鲁棒cnn框架，该框架将稀疏性去噪算子嵌入到网络的每一层，以减少在训练过程中学习的噪声特征的影响，专门针对医学图像中的pet/ct肾癌图像进行样本间和样本内的噪声去除，从而防御对抗性扰动的影响。
[0026]
(2)本发明中去噪算子由样本间去噪层和样本内去噪层组成，其中，样本间去噪是采用整批数据来减少每一层输出中的噪声；而样本内去噪，则减少了每个数据中的噪声。
[0027]
(3)本发明中的对抗训练通过进一步减少对抗性扰动所操纵的噪声来补充去噪层，由此提高了模型的鲁棒性和防御的对抗攻击能力，相应提高了模型的安全性。
附图说明
[0028]
图1是本发明流程框图。
[0029]
图2是卷积神经网络模型的结构示意图。
具体实施方式
[0030]
下面结合附图对本发明做进一步详述。
[0031]
如图1、图2所示，本发明预测用卷积神经网络的去噪方法包括以下步骤：
[0032]
s1、构建去噪算子层：所述去噪算子层包括样本间去噪层和样本内去噪层；所述样本间去噪层是利用整批数据来减少在特征表示中所包含的噪声；所述样本内去噪层是用以减少图像本身中的噪声。
[0033]
s1-1通过公式(1)消除样本间噪声以获得输出
[0034][0035]
其中，m为层数，j为通道数，n为样本数，γ为正实数，1n表示所有元素为1的列向量，表示外积，为消除了样本间噪声的输出矩阵，zm为输入x第m层经过卷积、批量归一化和relu之后的输出，为zm的第j个通道(1j≤cm)，c表示x的通道。
[0036]
s1-2通过公式(2)消除样本内噪声以获得输出
[0037][0038]
其中，m为层数，j为通道数，γ为正实数，h、w为x的高度和宽度，hm和wm分别表示第m层输出的高度和宽度，是干净的没有样本间和样本内噪声的输出矩阵，为消除了样本间噪声的输出矩阵，和表示所有元素为1的列向量，表示外积。
[0039]
s2、将去噪算子层加入到resnet网络的每一层中，利用带有去噪算子层的resnet网络训练图像处理模型。所述resnet网络选用resnet50。
[0040]
s3、使用pgd-20获取所训练的图像处理模型的梯度，产生成对抗样本。
[0041]
所述pgd-20的基本参数设置为：最大扰动ε＝0.5，步长α＝0.05，迭代次数s＝20。
[0042]
s4、在图像处理模型中加入带有去噪部分的resnet网络，输入对抗样本，再次训练图像处理模型。
[0043]
将所有生成的对抗样本作为训练数据集，对图像处理模型进行训练，训练好的模型为最终模型。
[0044]
s5、利用黑盒攻击和白盒攻击，分别测试训练好的图像处理模型的对抗攻击防御能力和鲁棒性。在白盒攻击下设置的扰动阈值为：∈∈[0，1]，在黑盒攻击下设置的扰动阈值为：∈∈[0，2]。
[0045]
为了评估本发明去噪方法在白盒攻击和黑盒攻击下的性能，采用了两个指标：准确性(acc)和f1分数(f
1-score)：
[0046][0047][0048]
其中，tn为实际是负样本预测成负样本的样本数；fp为实际是负样本预测成正样本的样本数；fn为实际是正样本预测成负样本的样本数；tp为实际是正样本预测成正样本的样本数。

技术特征：
1.一种预测用卷积神经网络的去噪方法，其特征在于，包括以下步骤：s1、构建去噪算子层：所述去噪算子层包括样本间去噪层和样本内去噪层；所述样本间去噪层是利用整批数据来减少在特征表示中所包含的噪声；所述样本内去噪层是用以减少图像本身中的噪声；s2、将去噪算子层加入到resnet网络的每一层中，利用带有去噪算子层的resnet网络训练图像处理模型；s3、使用pgd-20获取所训练的图像处理模型的梯度，产生成对抗样本；s4、在图像处理模型中加入带有去噪部分的resnet网络，输入对抗样本，再次训练图像处理模型；s5、利用黑盒攻击和白盒攻击，分别测试训练好的图像处理模型的对抗攻击防御能力和鲁棒性。2.根据权利要求1所述的预测用卷积神经网络的去噪方法，其特征在于，所述去噪算子包括以下子步骤：s1-1通过公式(1)消除样本间噪声以获得输出以获得输出其中，m为层数，j为通道数，n为样本数，γ为正实数，1
n
表示所有元素为1的列向量，表示外积，为消除了样本间噪声的输出矩阵，z
m
为输入x第m层经过卷积、批量归一化和relu之后的输出，为z
m
的第j个通道(1j≤c
m
)，c表示x的通道；s1-2通过公式(2)消除样本内噪声以获得输出以获得输出其中，m为层数，j为通道数，γ为正实数，h、w为x的高度和宽度，h
m
和w
m
分别表示第m层输出的高度和宽度，是干净的没有样本间和样本内噪声的输出矩阵，为消除了样本间噪声的输出矩阵，和表示所有元素为1的列向量，表示外积。3.根据权利要求1所述的预测用卷积神经网络的去噪方法，其特征在于，所述pgd-20的基本参数设置为：最大扰动ε＝0.5，步长α＝0.05，迭代次数s＝20。4.根据权利要求1所述的预测用卷积神经网络的去噪方法，其特征在于，步骤s4中，将所有生成的对抗样本作为训练数据集，对图像处理模型进行训练，训练好的模型为最终模型。5.根据权利要求1所述的预测用卷积神经网络的去噪方法，其特征在于，在白盒攻击下设置的扰动阈值为：∈∈[0，1，在黑盒攻击下设置的扰动阈值为：∈∈[0，2。

技术总结
本发明公开了一种预测用卷积神经网络的去噪方法，包括以下步骤：S1：对肾癌患者的PET/CT图像进行预处理；S2、输入处理后的图像，利用去噪算子的ResNet网络训练PET/CT肾癌图像处理模型；S3：使用PGD-20获取步骤S2中训练的模型的梯度，产生成对抗样本；S4：将对抗样本作为输入，再次训练加入了去噪部分的ResNet网络模型；S5：使用黑盒攻击和白盒攻击测试步骤S4中训练好的模型的对抗攻击防御能力和鲁棒性。本发明采用上述的一种基于对抗训练和鲁棒卷积神经网络的预测用卷积神经网络的去噪方法，使PET/CT肾癌检测的卷积神经网络具有防御对抗攻击的能力，且具有良好的鲁棒性。且具有良好的鲁棒性。且具有良好的鲁棒性。


技术研发人员：杨昆 李民 刘琨 刘爽 薛林雁 张轩旗 许天笑
受保护的技术使用者：河北大学
技术研发日：2023.07.04
技术公布日：2023/9/25