一种基于差分特征的数据聚类方法与流程

未命名 09-23 阅读:74 评论:0


1.本技术涉及数据挖掘技术领域,特别地涉及一种基于差分特征的数据聚类方法。


背景技术:

2.随着大数据技术和计算机技术的发展,大量的数据被计算机处理,在数据处理过程中通过聚类分析从大量的数据中发现潜在的内容,目前聚类分析已被广泛应用于图像处理、机器学习等领域。
3.k均值聚类算法是常用的聚类算法之一,有着简单、快速的优点,在具体的聚类过程中,需要预先设定k个聚类中心,基于各个样本点与k个聚类中心之间的距离对样本数据进行迭代聚类,得到聚类结果。其中,k个聚类中心的设置会对最终的聚类结果产生影响,导致聚类效果不影响。


技术实现要素:

4.针对上述问题,本技术提供一种基于差分特征的数据聚类方法,在聚类的初期基于差分分析方法对聚类得到的部分信息进行分析处理,基于得到的分析结果对聚类过程进行调整,以增强聚类效果。
5.本技术的技术方案为:一种基于差分特征的数据聚类方法,包括:获取待处理数据,对所述待处理数据进行归一化处理,得到样本数据;预设k个第一聚类中心点,遍历所述样本数据中的所有样本点,基于k个第一聚类中心点将所述样本数据中的所有样本点进行聚类得到k个第一类簇,分别对k个第一类簇进行重新选取聚类中心,得到k个第二聚类中心点,基于k个第二聚类中心点对k个第一聚类中心点进行差分处理,得到一阶差分特征;遍历k个第一类簇中的所有样本点,基于k个第二聚类中心点将k个第一类簇中的所有样本点进行聚类得到k个第二类簇,分别对k个第二类簇进行重新选取聚类中心,得到k个第三聚类中心点,基于k个第三聚类中心点对k个第二聚类中心点进行差分处理,得到二阶差分特征;基于所述一阶差分特征和所述二阶差分特征分别分析k个第一聚类中心点的参考值,根据k个第一聚类中心点对应的k个参考值和第一预设参考值对k个第一聚类中心点进行筛选,得到m个第一目标聚类中心点;对于m个第一目标聚类中心点对应的m个第三聚类中心点,分别获取m个第三聚类中心点中每个第三聚类中心点的样本点分析图,分别对m个样本点分析图进行差分分析,得到m个目标差分特征,基于m个目标差分特征从m个第一目标聚类中心点筛选得到第二目标聚类中心点,基于第二目标聚类中心点对样本数据进行聚类分析,得到聚类结果。
6.进一步地,所述基于k个第二聚类中心点对k个第一聚类中心点进行差分处理,得到一阶差分特征,包括:分别计算k个第二聚类中心点中每个第二聚类中心点与对应的第一聚类中心点的
欧氏距离,得到所述一阶差分特征;所述基于k个第三聚类中心点对k个第二聚类中心点进行差分处理,得到二阶差分特征,包括:分别计算k个第三聚类中心点中每个第三聚类中心点与对应的第二聚类中心点的欧氏距离,得到所述二阶差分特征。
7.进一步地,所述基于所述一阶差分特征和所述二阶差分特征分别分析k个第一聚类中心点的参考值,包括:基于所述一阶差分特征和所述二阶差分特征得到k个参考集合,每个参考集合包括分别来源于所述一阶差分特征和所述二阶差分特征的两个欧氏距离值,两个欧氏距离值关联同一个第二聚类中心点;分别计算k个参考集合中,来源于所述二阶差分特征的欧氏距离值与来源于所述一阶差分特征的欧氏距离值的比值,得到分别与k个第一聚类中心点中每个第一聚类中心点对应的参考值。
8.进一步地,所述根据k个第一聚类中心点对应的k个参考值和第一预设参考值对k个第一聚类中心点进行筛选,得到m个第一目标聚类中心点包括:筛除k个第一聚类中心点中,对应参考值小于所述第一预设参考值的第一聚类中心点,对于k个第一聚类中心点中剩余的第一聚类中心点,按照对应参考值从大到小的顺序选取m个第一目标聚类中心点。
9.进一步地,所述获取m个第三聚类中心点中每个第三聚类中心点的样本点分析图,分别对m个样本点分析图进行差分分析,得到m个目标差分特征,包括:遍历k个第二类簇中的所有样本点,基于m个第三聚类中心点将k个第二类簇中的所有样本点进行聚类得到m个第三类簇;基于m个第三聚类中心点和m个第三类簇分析得到m个第三聚类中心点中每个第三聚类中心点对应的样本点总量随距离变化的样本点分析图,以预设差分步长分别对m个样本点分析图进行差分分析,得到m个目标差分特征。
10.进一步地,所述以预设差分步长分别对m个样本点分析图进行差分分析,得到m个目标差分特征,包括:对于m个样本点分析图中的任一样本点分析图,基于所述预设差分步长确定多个距离参考点,每两个相邻距离参考点之间的间距等于所述预设差分步长,对每相邻的两个距离参考点进行差分分析,用后一个距离参考点对应的样本点总量值减去前一个距离参考点对应的样本点总量值,得到样本点分析图对应的差分值集合,基于预设临界值对差分值集合进行偏离分析,d=(q﹒p
min
)/p

,其中,d为偏离值,q为差分值集合中小于所述预设临界值的差分值的总数,p
min
为差分值集合中的差分值最小值,p

为差分值集合中的差分值的总数,将偏离值作为任一样本点分析图对应的所述目标差分特征,计算得到m个所述目标差分特征。
11.进一步地,所述基于m个目标差分特征从m个第一目标聚类中心点筛选得到第二目标聚类中心点包括:筛选出m个第一目标聚类中心点中所述目标差分特征大于第二预设参考值的第一目标聚类中心点作为第二目标聚类中心点。
12.进一步地,所述基于第二目标聚类中心点对样本数据进行聚类分析包括:基于k均值聚类算法和第二目标聚类中心点对样本数据进行聚类分析。
13.本技术具有以下优点:本技术通过对k均值聚类算法初期聚类过程得到的聚类结果进行差分分析得到差分特征,根据差分特征对初始设定的聚类中心进行初次筛选,获取初次筛选得到的聚类中心对应的样本点分析图,对样本点分析图再进行差分分析,根据分析结果对初次筛选得到的聚类中心进行再次筛选,作为最终的聚类中心进行数据聚类,增强聚类效果,减少时间和计算资源的浪费。
附图说明
14.为了更清楚地说明本技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。
15.图1为本技术实施例中提供的一种基于差分特征的数据聚类方法的流程示意图。
具体实施方式
16.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术部分实施例进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本技术,并不用于限定本技术。然而,本领域的普通技术人员可以理解,在本技术的各实施例中,为了使读者更好地理解本技术而提出了许多技术细节。但是,即使没有这些技术细节和基于以下各实施例的种种变化和修改,也可以实现本技术所要求保护的技术方案。
17.图1为本技术实施例中提供的一种基于差分特征的数据聚类方法,请参见图1,本方法可具体应用于相关的聚类装置或设备,聚类装置或设备上存储有对应的执行程序,可以想到的是,执行主体也可以有其它的选择,此处不以此为限。
18.请参见图1,一种基于差分特征的数据聚类方法,包括:s1、获取待处理数据,对待处理数据进行归一化处理,得到样本数据;值得说明的是,待处理数据具体可以是需要进行聚类的数据,例如基于大数据技术获取到的与用户相关的文本数据,基于摄像设备拍摄得到的图像数据或视频数据等,通过对待处理数据进行归一化处理得到样本数据,便于后续对数据的使用。
19.s2、预设k个第一聚类中心点,基于k个第一聚类中心点将样本数据进行聚类得到k个第一类簇,对k个第一类簇重新选取聚类中心得到k个第二聚类中心点;值得说明的是,在得到样本数据后,基于k均值聚类算法设定k个第一聚类中心点,其中,第一聚类中心点可以根据经验知识和精度需要而进行设定,为了提升精度,可在实际需要达到的精度上适当提升数量,具体作用在下文中进行陈述,在设定k个第一聚类中心点后,分别用k个第一聚类中心点遍历样本数据中的所有样本点,对样本数据进行第一次聚类得到k个第一类簇,对k个第一类簇重新选取得到k个第二聚类中心点。
20.s3、基于k个第二聚类中心点对k个第一聚类中心点进行差分处理,得到一阶差分特征;
值得说明的是,对k个第一聚类中心点进行差分处理具体为,根据每个第一聚类中心点和对应第二聚类中心点的位置信息,分别计算k个第二聚类中心点中每个第二聚类中心点与对应的第一聚类中心点的欧氏距离,从而得到一阶差分特征。
21.s4、基于k个第二聚类中心点将k个第一类簇中的所有样本点进行聚类得到k个第二类簇,对k个第二类簇重新选取聚类中心得到k个第三聚类中心点;值得说明的是,采用前述的方法基于k个第二聚类中心点对k个第一类簇对应的数据进行聚类处理,对k个第一类簇中的所有样本点,即样本数据进行第二次聚类,得到k个第二类簇,对k个第二类簇重新聚类中心,得到k个第二聚类中心点。
22.s5、基于k个第三聚类中心点对k个第二聚类中心点进行差分处理,得到二阶差分特征;值得说明的是,分别计算k个第三聚类中心点中每个第三聚类中心点与对应的第二聚类中心点的欧氏距离,从而得到二阶差分特征。
23.s6、基于一阶差分特征和二阶差分特征分别分析k个第一聚类中心点的参考值,对k个第一聚类中心点进行筛选,得到m个第一目标聚类中心点;值得说明的是,在该步骤中,参考值的计算过程包括:根据一阶差分特征和二阶差分特征之间的关联关系建立得到k个参考集合,每个参考集合包括两个欧式距离值,分别来源于一阶差分特征和二阶差分特征的两个欧氏距离值,两个欧氏距离值之间以同一个第二聚类中心点作为关联;通过下述方式计算得到k个第一聚类中心点的参考值,以任意一个参考集合为例,计算该参考集合中,来源于二阶差分特征的欧氏距离值与来源于一阶差分特征的欧氏距离值的比值,将计算得到的比值作为该参考集合对应的第一聚类中心点对应的参考值,计算得到k个第一聚类中心点的参考值。
24.根据第一预设参考值和第一聚类中心点对应的参考值从k个第一聚类中心点中筛选得到m个第一目标聚类中心点,对于步骤s2中第一聚类中心点的设定过程,为了提高聚类效果和精度,适当提升设定的第一聚类中心点的数量,在该步骤中对第一聚类中心点进行第一次筛选,提升用于聚类的中心点的价值。
25.在一种可选的实施方案中,从k个第一聚类中心点中选取得到m个第一目标聚类中心点具体包括:通过第一预设参考值对k个第一聚类中心点进行初筛,舍去对应参考值小于第一预设参考值的第一聚类中心点,根据参考值从大到小的方式对初筛得到的第一聚类中心点进行排序,对排序好的第一聚类中心点按照对应参考值从大到小的顺序选取得到m个第一目标聚类中心点。
26.s7、获取m个第三聚类中心点中每个第三聚类中心点的样本点分析图,对m个样本点分析图进行差分分析,得到m个目标差分特征;具体地,遍历k个第二类簇中的所有样本点,基于m个第三聚类中心点将k个第二类簇中的所有样本点进行聚类得到m个第三类簇;值得说明的是,以任意一个第三聚类中心点为例,样本点分析图具体为,以该第三聚类中心点为中心,对于该第三聚类中心点内的所有样本点,随着距离的增大,满足与该第三聚类中心点的距离不大于当前距离的样本点的总量变化关系图。
27.s8、基于m个目标差分特征从m个第一目标聚类中心点筛选得到第二目标聚类中心点,基于第二目标聚类中心点对样本数据进行聚类分析,得到聚类结果;值得说明的是,对m个第一目标聚类中心点进行筛选的方式为,从m个第一目标聚类中心点中筛选出目标差分特征大于第二预设参考值的第一目标聚类中心点作为第二目标聚类中心点,得到多个第二目标聚类中心点。
28.在筛选得到多个第二目标聚类中心点后,以多个第二目标聚类中心点作为初始设定的聚类中心点,以k均值聚类算法对样本数据进行聚类分析,得到聚类结果。
29.在一种可选的实施方案中,对于步骤s7,分别对m个样本点分析图进行差分分析,得到m个目标差分特征,包括:以m个样本点分析图中的任一样本点分析图为例,基于预设差分步长和样本点分析图中的距离范围确定多个距离参考点,具体地,多个距离参考点中每两个相邻的距离参考点之间的间距等于预设差分步长,对于每相邻的两个距离参考点进行差分分析,具体为用后一个距离参考点对应的样本点总量值减去前一个距离参考点对应的样本点总量值,得到每相邻的两个距离参考点对应的差分值;建立差分值集合,每个样本点分析图对应一个样本点分析图,基于预设临界值对样本点分析图对应的差分值集合进行偏离分析,在本实施例中,以0作为预设临界值,通过如下公式对差分值集合进行偏离分析,得到偏离值:d=(q﹒p
min
)/p

;式中,d为偏离值,q为差分值集合中小于预设临界值的差分值的总数,p
min
为差分值集合中的差分值最小值,p

为差分值集合中的差分值的总数;通过上述方式计算出每个样本点分析图对应的目标差分特征,得到m个目标差分特征。
30.值得说明的是,k均值聚类算法对一些非凸状类簇的聚类效果较差,聚类中心选取不合适的情况下容易导致剧烈效果不理想,通过获取样本点分析图并分析出目标差分特征,可以对初期的聚类中心选取效果就行衡量,从而获得更优质的聚类中心。
31.在一种更优的实施方案中,在具体使用本技术的过程中,若筛选得到的第二目标聚类中心点的数量不满足预期,即筛选得到的第二目标聚类中心点的数量较少,表示初始设定的第一聚类中心的位置不合适,在这种情况下为了提升聚类效果,可基于经验知识重新选取聚类中心,以免继续使用筛选得到的第二目标聚类中心点进行聚类导致最终的聚类效果不理想,造成时间和计算资源的浪费。
32.在使用k均值聚类算法进行数据聚类的过程中,初始聚类中心的设定对后续的聚类结果有着较大的影响,可能导致聚类结果为局部最优而不是全局最优,在这种情况下,本技术实施例提供的一种基于差分特征的数据聚类方法,通过对前几次聚类过程得到的聚类结果进行差分分析,根据分析得到的结果对初始设定的聚类中心进行初次筛选,获取初次筛选得到的聚类中心对应的样本点分析图,对样本点分析图进行差分分析,根据分析结果对初次筛选得到的聚类中心进行再次筛选,作为最终的聚类中心进行数据聚类,增强聚类效果。
33.应当理解的是,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,而所有这些改进和变换都应属于本技术所附权利要求的保护范围。本说明书中未作详细描
述的部分属于本领域专业技术人员公知的现有技术。

技术特征:
1.一种基于差分特征的数据聚类方法,其特征在于,包括:获取待处理数据,对所述待处理数据进行归一化处理,得到样本数据;预设k个第一聚类中心点,遍历所述样本数据中的所有样本点,基于k个第一聚类中心点将所述样本数据中的所有样本点进行聚类得到k个第一类簇,分别对k个第一类簇进行重新选取聚类中心,得到k个第二聚类中心点,基于k个第二聚类中心点对k个第一聚类中心点进行差分处理,得到一阶差分特征;遍历k个第一类簇中的所有样本点,基于k个第二聚类中心点将k个第一类簇中的所有样本点进行聚类得到k个第二类簇,分别对k个第二类簇进行重新选取聚类中心,得到k个第三聚类中心点,基于k个第三聚类中心点对k个第二聚类中心点进行差分处理,得到二阶差分特征;基于所述一阶差分特征和所述二阶差分特征分别分析k个第一聚类中心点的参考值,根据k个第一聚类中心点对应的k个参考值和第一预设参考值对k个第一聚类中心点进行筛选,得到m个第一目标聚类中心点;对于m个第一目标聚类中心点对应的m个第三聚类中心点,分别获取m个第三聚类中心点中每个第三聚类中心点的样本点分析图,分别对m个样本点分析图进行差分分析,得到m个目标差分特征,基于m个目标差分特征从m个第一目标聚类中心点筛选得到第二目标聚类中心点,基于第二目标聚类中心点对样本数据进行聚类分析,得到聚类结果。2.如权利要求1所述的一种基于差分特征的数据聚类方法,其特征在于,所述基于k个第二聚类中心点对k个第一聚类中心点进行差分处理,得到一阶差分特征,包括:分别计算k个第二聚类中心点中每个第二聚类中心点与对应的第一聚类中心点的欧氏距离,得到所述一阶差分特征;所述基于k个第三聚类中心点对k个第二聚类中心点进行差分处理,得到二阶差分特征,包括:分别计算k个第三聚类中心点中每个第三聚类中心点与对应的第二聚类中心点的欧氏距离,得到所述二阶差分特征。3.如权利要求1所述的一种基于差分特征的数据聚类方法,其特征在于,所述基于所述一阶差分特征和所述二阶差分特征分别分析k个第一聚类中心点的参考值,包括:基于所述一阶差分特征和所述二阶差分特征得到k个参考集合,每个参考集合包括分别来源于所述一阶差分特征和所述二阶差分特征的两个欧氏距离值,两个欧氏距离值关联同一个第二聚类中心点;分别计算k个参考集合中,来源于所述二阶差分特征的欧氏距离值与来源于所述一阶差分特征的欧氏距离值的比值,得到分别与k个第一聚类中心点中每个第一聚类中心点对应的参考值。4.如权利要求3所述的一种基于差分特征的数据聚类方法,其特征在于,所述根据k个第一聚类中心点对应的k个参考值和第一预设参考值对k个第一聚类中心点进行筛选,得到m个第一目标聚类中心点包括:筛除k个第一聚类中心点中,对应参考值小于所述第一预设参考值的第一聚类中心点,对于k个第一聚类中心点中剩余的第一聚类中心点,按照对应参考值从大到小的顺序选取m个第一目标聚类中心点。
5.如权利要求1所述的一种基于差分特征的数据聚类方法,其特征在于,所述获取m个第三聚类中心点中每个第三聚类中心点的样本点分析图,分别对m个样本点分析图进行差分分析,得到m个目标差分特征,包括:遍历k个第二类簇中的所有样本点,基于m个第三聚类中心点将k个第二类簇中的所有样本点进行聚类得到m个第三类簇;基于m个第三聚类中心点和m个第三类簇分析得到m个第三聚类中心点中每个第三聚类中心点对应的样本点总量随距离变化的样本点分析图,以预设差分步长分别对m个样本点分析图进行差分分析,得到m个目标差分特征。6.如权利要求5所述的一种基于差分特征的数据聚类方法,其特征在于,所述以预设差分步长分别对m个样本点分析图进行差分分析,得到m个目标差分特征,包括:对于m个样本点分析图中的任一样本点分析图,基于所述预设差分步长确定多个距离参考点,每两个相邻的距离参考点之间的间距等于所述预设差分步长,对每相邻的两个距离参考点进行差分分析,用后一个距离参考点对应的样本点总量值减去前一个距离参考点对应的样本点总量值,得到样本点分析图对应的差分值集合,基于预设临界值对差分值集合进行偏离分析,d=(q﹒p
min
)/p

,其中,d为偏离值,q为差分值集合中小于所述预设临界值的差分值的总数,p
min
为差分值集合中的差分值最小值,p
总为
差分值集合中的差分值的总数,将偏离值作为任一样本点分析图对应的所述目标差分特征,计算得到m个所述目标差分特征。7.如权利要求6所述的一种基于差分特征的数据聚类方法,其特征在于,所述基于m个目标差分特征从m个第一目标聚类中心点筛选得到第二目标聚类中心点包括:筛选出m个第一目标聚类中心点中所述目标差分特征大于第二预设参考值的第一目标聚类中心点作为第二目标聚类中心点。8.如权利要求1所述的一种基于差分特征的数据聚类方法,其特征在于,所述基于第二目标聚类中心点对样本数据进行聚类分析包括:基于k均值聚类算法和第二目标聚类中心点对样本数据进行聚类分析。

技术总结
本申请提供一种基于差分特征的数据聚类方法。一种基于差分特征的数据聚类方法,包括:对样本数据进行聚类得到K个第一类簇和K个第二类簇,确定K个第三聚类中心点,得到一阶差分特征和二阶差分特征,筛选得到M个第一目标聚类中心点;获取第三聚类中心点的样本点分析图,筛选得到第二目标聚类中心点,对样本数据进行聚类分析,得到聚类结果。本申请通过对初期聚类过程得到的聚类结果进行差分分析得到差分特征,对初始设定的聚类中心进行初次筛选,获取初次筛选得到的聚类中心对应的样本点分析图,对样本点分析图进行差分分析,对初次筛选得到的聚类中心进行再次筛选,作为最终的聚类中心对样本数据进行数据聚类,增强聚类效果。果。果。


技术研发人员:陈丽 刘玉华 李荣 曹晓东
受保护的技术使用者:南京北极光生物科技有限公司
技术研发日:2023.06.07
技术公布日:2023/9/22
版权声明

本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

航空之家 https://www.aerohome.com.cn/

航空商城 https://mall.aerohome.com.cn/

航空资讯 https://news.aerohome.com.cn/

分享:

扫一扫在手机阅读、分享本文

评论

相关推荐