多源数据融合方法、装置及电子设备与流程
未命名
09-22
阅读:71
评论:0
1.本公开涉及数据融合技术领域,具体涉及一种多源数据融合方法、装置及电子设备。
背景技术:
2.随着大数据技术的不断发展以及各类数据采集方式的普及和更新换代,数据形式呈现多源化和多模态,越来越多的异构数据需要为同一个任务或事件服务。在分析和处理多源异构数据的过程中,由于多源异构数据的格式不同,造成不同源数据之间难以相互匹配关联,进而难以有效融合利用,导致不同源数据之间关联融合难度较大。
3.针对相关技术中不同源数据之间关联融合难度较大的问题,目前尚未提出有效的技术解决方案。
技术实现要素:
4.本公开的主要目的在于提供一种多源数据融合方法、装置及电子设备,以解决相关技术中不同源数据之间关联融合难度较大的问题。
5.为了实现上述目的,本公开的第一方面提供了一种多源数据融合方法,包括:提取多源异构数据中的目标字段,其中,多源异构数据包含一个或多个字段;基于目标字段,对多源异构数据进行预处理;将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据;以及采用基于自适应约束放松的多源数据关联算法关联多源数据,实现多源数据的融合,从而实现轨迹关联。
6.可选地,提取多源异构数据中的目标字段包括:判断多源异构数据中是否显式地包含目标字段;如果显式地包含目标字段,则直接读取目标字段;如果非显式地包含目标字段,则采用数据抽取算法抽取多源异构数据中包含的目标字段。
7.可选地,在提取多源异构数据中的目标字段之后,该方法还包括:对多源异构数据进行筛选,将多源异构数据中不包括目标字段的数据剔除;对于多源异构数据中包括目标字段的数据,在数据库中建立相应数据表,将数据整理为以目标字段为索引的数据结构,并将整理后的数据批量存储至数据表中。
8.进一步地,在将整理后的数据批量存储至数据表中之后,该方法还包括:确定数据库的地址和用户的登录口令,给予用户读取数据权限,使用数据库图数据结构进行数据库连接,以获取数据访问权限和数据访问方式,其中,登录口令包括登录账户和访问密码;连接数据库后,对数据库中整理后的数据进行读取并保存至本地内存或硬盘。
9.可选地,基于目标字段,对多源异构数据进行预处理,包括:根据预先设定的目标字段正常值范围依次对数据进行匹配,如果匹配出数据中存在非法值、异常值或占位符,则将数据删除;将数据中除目标字段外的数据信息设为数据属性字段,对多源异构数据中目标字段和数据属性字段均重复的数据进行删除,并对目标字段重复、数据属性字段存在差异的数据予以保留。
10.可选地,将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据,包括:按照下述公式将预处理后的多源异构数据转换为描述数据及数据间关联关系的图模型g:
11.其中,,v表示数据集合,表示第i条数据,n表示数据的数量,e表示数据之间的关联关系。
12.可选地,采用基于自适应约束放松的多源数据关联算法关联多源数据,实现多源数据的融合,从而实现轨迹关联,包括:在时间域内,设置以帧为基本单位,对于第k帧数据集合和第k-1帧数据集合的关联关系,根据任务需求确定关联关系中考量的关键属性,并定义相应的量化形式,得到每条数据的数学模型;多条数据的数学模型构成数据集合,根据数据集合构建关联矩阵,其中,关联矩阵的行对应第k帧数据集合,关联矩阵的列对应第k-1帧数据集合,关联矩阵中的元素表示对应数据对的相关性;描述关联矩阵的优化目标和约束条件,并将约束条件放松,得到放松后的约束条件;基于所述放松后的约束条件,采用基于经典图匹配算法改进的数据关联算法,求解第k帧数据集合和第k-1帧数据集合的关联关系;根据多源数据的关联关系,将数据归类及合并,实现多源数据融合,从而实现轨迹关联。
13.本公开的第二方面提供了一种多源数据融合装置,包括:提取单元,用于提取多源异构数据中的目标字段,其中,多源异构数据包含一个或多个字段;预处理单元,用于基于目标字段,对多源异构数据进行预处理;转换单元,用于将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据;以及关联单元,用于采用基于自适应约束放松的多源数据关联算法关联多源数据,实现多源数据的融合,从而实现轨迹关联。
14.本公开的第三方面提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使计算机执行第一方面任意一项提供的多源数据融合方法。
15.本公开的第四方面提供了一种电子设备,电子设备包括:至少一个处理器;以及与
至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器执行第一方面任意一项提供的多源数据融合方法。
16.在本公开实施例提供的多源数据融合方法中,通过使用图数据结构表示多源异构数据,转换数据格式,形成统一形式的数据格式,降低了不同源数据之间关联融合难度,解决了相关技术中不同源数据之间关联融合难度较大的问题;并且,通过自适应约束放松的多源数据关联算法对多源数据进行关联匹配,可以实现多源数据的融合。
附图说明
17.为了更清楚地说明本公开具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
18.图1为本公开实施例提供的多源数据融合方法流程示意图;图2为本公开实施例提供的多源数据融合装置框图;图3为本公开实施例提供的电子设备框图。
具体实施方式
19.为了使本技术领域的人员更好地理解本公开方案,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,所描述的实施例仅仅是本公开一部分的实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本公开保护的范围。
20.需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
21.需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
22.随着大数据技术的不断发展以及各类数据采集方式的普及和更新换代,数据形式呈现多源化和多模态,越来越多的异构数据需要为同一个任务或事件服务。在分析和处理多源异构数据的过程中,单一数据源所记录的数据往往存在局限性,很难与他源数据形成有效互补。以收集海上船舶数据为例,采集方式不同的多源数据(例如船舶自动识别系统数据、国际海事组织数据、劳式档案数据等)对船舶的记录字段不同,对船舶唯一标识号设置不同,使得不同类型的数据难以有效利用。由于数据的格式、数据字段的命名方式、数据的管理方式等不同,造成不同源数据之间难以相互匹配关联,进而难以有效融合利用,导致不同源数据之间关联融合难度较大。因此,现有的多源数据管理分析上存在着严重的信息孤岛问题,如何能借助不同源数据中数据字段间的关联性合理融合多源数据,实现不同源数据之间的关联和补充,是多源数据研究中的一个重要问题。
23.在处理同源非结构化数据时,将其以图的形式进行表达,再基于图论方法对数据
进行分析和调用是一种有效的思路。例如,在描述社交关系数据时,将社交主体描述为节点(node),将社交主体之间的关系描述为节点之间的边(edge),再以节点和边的属性(property)分别描述主体和主体间的关系,即可实现对社交关系的图形数据库建立。图形数据库最大的特性,就是采用无索引的邻接操作代替低效率的连接操作,故而在大量数据之间查找关联关系时,可以获得较高的效率。目前常见图形数据库有neo4j、titan、orientdb和infinitegraph等,虽然取得了一定成果,但是目前还没有非常成熟的应对大规模多源异构数据的处理技术。
24.现有的数据关联算法包括最邻近数据关联、概率数据关联、联合概率数据关联等方法。然而,大部分多源数据的结构不同、存储方式不同,导致不同源数据之间关联融合难度大,并且融合关联中难免存在重复与冲突,从而给多源数据融合带来了新的挑战。
25.为了解决上述问题,本公开实施例提供了一种多源数据融合方法,该方法基于目标字段匹配,如图1所示,该方法包括如下的步骤s101至步骤s104:步骤s101:提取多源异构数据中的目标字段,其中,多源异构数据包含一个或多个字段;针对多源异构数据,本公开首先逐条提取每条数据中的目标字段,目的是通过目标字段在不同源数据间建立明确的有指向性的联系,在后续步骤中以目标字段为索引进行数据关联;在实际应用场景中,字段可以为各种参数,包括类型、位置、速度、标识号等,目标字段为字段中的关键字段,可以为目标名称、机构名称、人名、地名等。
26.在本公开一种可选的实施方式中,步骤s101中的提取多源异构数据中的目标字段包括:判断多源异构数据中是否显式地包含目标字段;如果显式地包含目标字段,则直接读取目标字段;对于任意一条数据,如果该数据明确显式地包含目标字段,则直接读取其目标字段;如果非显式地包含目标字段,则采用数据抽取算法抽取多源异构数据中包含的目标字段。如果数据中非显式地包含目标字段,则根据数据的具体呈现形式,采用相应的数据抽取算法抽取其中所含的目标字段。
27.其中,数据抽取算法的设计逻辑包括有监督学习、无监督学习和深度学习等,数据抽取算法可以为基于正则匹配的数据抽取算法、基于词频分析的tf-idf类算法、基于行块分布的文本抽取算法或基于注意力机制的文本提取算法;本公开以基于正则匹配的数据抽取算法为例,对目标字段的抽取过程进行描述,其是一种基于规则的、执行速度较快的自动化关键字段提取算法,该算法包括:根据所需要融合的数据源类型,设置关键的目标字段,将设置完成的目标字段建立为目标字段库;目标字段可以包括人名、地名、目标名称、机构名称等,将设置好的目标字段建立成目标字段库,并进行存储和管理,以便后续方法调用;为了使得后续步骤能够高效查询检索目标字段库,一般将目标字段库建立为字典形式,字典中包含多对键值对,即《key, value》,目标字段以键值对形式存储于相应内存中,其中,key为所建立的目标字段库中的具体字段,value可以为相应的权重,也可以为0等占位符;依次读取多源数据中的每条数据至内存,并采取正则匹配方式将数据的所有字段与目标字段库进行匹配;采用python regex包进行正则匹配,并将建立的目标字段库设置为所需要匹配的关键字段库,将每一条数据所匹配到的目标字段予以保留;
对于匹配查询出的目标字段,为该目标字段重新建立新的属性字段并添加到原有数据中,重新保存并覆盖原有数据;对于没有检索到目标字段的数据,建立相应的存放数据的目录予以存储。
28.本公开通过提取多源异构数据中的目标字段,解决了多源数据中目标字段不统一的问题,为后续数据关联提供支持。
29.本公开一种可选的实施方式中,在步骤s101中的提取多源异构数据中的目标字段之后,该方法还包括:对多源异构数据进行筛选,将多源异构数据中不包括目标字段的数据剔除;为了能够高效进行多源异构数据的融合,在对多源异构数据目标字段识别的基础上,对多源异构数据进行筛选;对于多源异构数据中包括目标字段的数据,在数据库中建立相应数据表,将数据整理为以目标字段为索引的数据结构,并将整理后的数据批量存储至数据表中。
30.为了方便理解本公开的技术方案,本公开以目标名称为例,对目标字段进行解释说明;采用下述表1所示的数据结构,在数据库(例如mysql)中建立相应数据表,将目标名称的字段类型设置为字符串型,并将目标名称建立为索引,将数据中除目标名称字段(name)之外的其他数据信息设置为数据属性字段(attribute),并将按照相应数据格式整理的数据批量存储于建立好的表格中。
31.表1
[0032][0033]
本公开一种优选的实施方式中,在将整理后的数据批量存储至数据表中之后,该方法还包括:确定数据库的地址和用户的登录口令,给予用户读取数据权限,使用数据库图数据结构进行数据库连接,以获取数据访问权限和数据访问方式,其中,登录口令包括登录账户和访问密码;将多源数据融合执行程序与数据库进行连接,以保证多源数据融合执行程序可以正常访问数据库,数据库图数据结构可以为java语言中的jdbc,即java数据库连接;连接数据库后,对数据库中整理后的数据进行读取并保存至本地内存或硬盘。
[0034]
步骤s102:基于目标字段,对多源异构数据进行预处理;在本公开一种可选的实施方式中,步骤s102包括:根据预先设定的目标字段正常值范围依次对数据进行匹配,如果匹配出数据中存在非法值、异常值或占位符,则将数据删除;预先设定正常值的范围、非法值所包含的敏感字段、占位符等,根据所设定的正常值范围依次对数据进行匹配,将现有数据中字段与目标名称库中目标字段比对,如果现有数据中存在非法值、异常值、占位符等字段,不在正常值的范围,则对该数据进行删除,即对整理出的数据格式中的目标字段进行异常值删除;将数据中除目标字段外的数据信息设为数据属性字段,对多源异构数据中目标字
段和数据属性字段均重复的数据进行删除,并对目标字段重复、数据属性字段存在差异的数据予以保留。
[0035]
通过对多源数据进行预处理,最大程度上删除原始多源数据中的错误数据和重复数据,同时保留原始多源数据中的信息,并降低计算消耗。
[0036]
步骤s103:将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据;预处理后的多源异构数据作为待关联数据转换为图数据形式的数据格式,用于后续的匹配操作。
[0037]
在本公开一种可选的实施方式中,步骤s103包括:按照下述公式将预处理后的多源异构数据转换为描述数据及数据间关联关系的图模型g:
[0038]
其中,,v表示数据集合,表示第i条数据,n表示数据的数量,e表示数据之间的关联关系。数据的记录内容如上述表1所示,需要说明的是,在当前阶段,数据之间的关联关系是未知的,后续将通过步骤s104确定数据之间的关联关系。
[0039]
本公开通过使用图数据结构表示多源异构数据,转换数据格式,形成统一形式的数据格式,降低了不同源数据之间关联融合难度,解决了相关技术中不同源数据之间关联融合难度较大的问题。
[0040]
步骤s104:采用基于自适应约束放松的多源数据关联算法关联多源数据,实现多源数据的融合,从而实现轨迹关联。基于自适应约束放松的多源数据关联,实现数据匹配,基于多源数据之间关联关系,实现多源数据的有效融合,由于多源数据包括目标的同一轨迹数据和不同轨迹数据,因此实现多源数据融合时,即可得到多条轨迹的关联关系,从而实现轨迹关联。
[0041]
在本公开一种可选的实施方式中,步骤s104包括:在时间域内,设置以帧为基本单位,对于第k帧数据集合和第k-1帧数据集合的关联关系,根据任务需求确定关联关系中考量的关键属性,并定义相应的量化形式,得到每条数据的数学模型;多条数据的数学模型构成数据集合,根据数据集合构建关联矩阵,其中,关联矩阵的行对应第k帧数据集合,关联矩阵的列对应第k-1帧数据集合,关联矩阵中的元素表示对应数据对的相关性;描述关联矩阵的优化目标和约束条件,并将约束条件放松,得到放松后的约束条件;基于放松后的约束条件,采用基于经典图匹配算法改进的数据关联算法,求解第k帧数据集合和第k-1帧数据集合的关联关系;即,确定出数据之间的关联关系;根据多源数据的关联关系,将数据归类及合并,实现多源数据融合,从而实现轨迹关联。
[0042]
对于不同应用场景的多源数据,可以通过具体数据关联关系中需要考量的关键属性,达到数据关联和融合的目的;本公开以海上目标的轨迹关联为例,说明多源数据的关联和融合过程,在海上目标的轨迹关联这一场景下,多源数据包括目标的同一轨迹数据和不
同轨迹数据,数据关联即轨迹关联。
[0043]
在复杂的海上航行场景下,船舶间的航迹具有较强的自身关联性和相互关联性;其中,自身关联性是指目标自身轨迹在时间域内的前后关联关系,相互关联性是指一定时间范围内多个目标之间在空间域内的相互关联关系;本公开可以实现对多源数据形式记录的海上目标轨迹间的关联关系进行描述,包括跟踪过程中跨时间域的轨迹关联、轨迹中断时的轨迹恢复和多目标轨迹间相互关系的描述。
[0044]
具体来说,在时间域内,假设以帧为基本单位,则第k帧的轨迹集合为,n表示第k帧轨迹集合中轨迹的数量,第k-1帧的轨迹集合为,m表示第k-1帧轨迹集合中轨迹的数量,下面以描述第k帧数据集合和第k-1帧数据集合这两组轨迹集合的关联关系为例,说明自适应约束放松的多源数据关联过程。
[0045]
首先,根据不同任务需求确定轨迹关联关系中考量的关键属性,并定义相应的量化形式,进而得到每条轨迹的数学模型;关键属性集合可以为:{目标位置,目标速度},也可以为:{目标位置,目标速度,目标类型};其中,目标位置用于描述目标在某时刻的空间位置信息,这里的空间可以是三维的世界坐标系,也可以是视角转换的二维平面坐标系,时间单位可以用秒或帧来区分;目标速度用于描述目标在时间域上位置变化的趋势和大小,一般用矢量表示,涵盖速度的绝对值和方向;目标类型描述目标实物的种类,如舢板、渔船等。
[0046]
多条轨迹的数学模型构成轨迹集合,根据轨迹集合构建关联矩阵或相似度矩阵,其中,关联矩阵的行对应第k帧的轨迹集合,关联矩阵的列对应第k-1帧的轨迹集合,关联矩阵中的元素表示对应轨迹对的相关性,即,关联矩阵中第i行第j列的元素表示和的相关程度;如果轨迹关联关系中考量的关键属性只包括目标位置和目标速度,则可以按照下述公式确定第k帧的轨迹i与第k-1帧的轨迹j之间的相似度:
[0047]
其中,表示计算目标位置相关性的函数,表示第k帧的轨迹i对应目标的位置,表示第k-1帧的轨迹j对应目标的位置,表示计算目标速度相关性的函数,表示第k帧的轨迹i对应目标的速度矢量,表示第k-1帧的轨迹j对应目标的速度矢量;当目标的位置信息用二维坐标系表示时,可以按照下述公式确定位置相似性:
[0048]
其中,表示第k帧的轨迹i对应目标在二维坐标系下的横坐标,表示第k-1
帧的轨迹j对应目标在二维坐标系下的横坐标,表示第k帧的轨迹i对应目标在二维坐标系下的纵坐标,表示第k-1帧的轨迹j对应目标在二维坐标系下的纵坐标,表示第k帧的轨迹i对应目标的宽,表示第k-1帧的轨迹j对应目标的宽,表示第k帧的轨迹i对应目标的高,表示第k-1帧的轨迹j对应目标的高,用于数值归一化。则可以简单地采用余弦相似度计算。
[0049]
描述关联矩阵的优化目标和约束条件,并将约束条件放松,得到放松后的约束条件;理论上而言,基于上述相似度矩阵,可以直接根据经典的图匹配算法对各个轨迹之间的关联关系进行求解,然而,在实际航迹关联任务中,由于实际问题的约束条件和算法假设往往不同,无法直接使用经典图匹配算法;因此,需要先对求解目标和约束条件进行描述;按照下述公式确定求解关联矩阵关联结果的优化目标和约束条件为:
[0050][0051]
其中,为关联矩阵中的元素,如上述公式所示,经典的二部图匹配算法都是针对二部图的一对一匹配,多部图可推广为多个二部图匹配的链式关联问题;在上述优化目标和约束条件下,第k帧的轨迹集合中的一条轨迹最多与第k-1帧的轨迹集合中的一条轨迹存在关联关系,这并不符合多条轨迹间关联关系的实际情况;因此,本公开将上述约束条件放松,放松后的约束条件为:
[0052]
其中,p和q分别表示以行为索引和以列为索引判断对应关联关系存在的阈值,即对于某一轨迹对来说,如果其相关性大于p,则表明二者存在关联关系,相关性大小表征关联程度。需要说明的是,上述过程针对以行为索引计算相似度的情况,由于矩阵非对称,和不一定相等,因此设置以列为索引的阈值q,如果矩阵对应元素大于q,则表明二者存在关联关系,对应元素大小表示关联程度的强弱。
[0053]
基于上述放松后的约束条件,采用基于经典图匹配算法改进的数据关联算法,求解第k帧轨迹集合和第k-1帧轨迹集合的关联关系,即海上航行中的航迹关联关系;其中,改进是指基于非对称矩阵描述形式和约束条件描述形式的算法求解,改进形式包括分步、多阶段的数据关联算法组合;本公开实施例提供的一种可选的改进方式为:根据矩阵元素的相似性分布,自适应地确定阈值,基于阈值和多阶段数据关联算法,求解得到所需关联矩阵,再根据关联矩阵中的对称和非对称关系,基于规则或其他智能算法进一步判断关联关系,最终输出两个轨迹集合的关联关系矩阵,该关联关系矩阵为对称矩阵,该关联关系矩阵中的元素对应每对轨迹的关联关系;其中,关联关系可以是以逻辑值表示的关联关系是否存在,也可以是以概率值表示的关联关系强弱,还可以是包含轨迹关键属性相关性的向量或高阶矩阵等,此时,本质上而言,关联矩阵上升为相应阶数的张量。
[0054]
根据轨迹数据的关联关系,将数据归类及合并,实现多源数据融合,从而实现轨迹关联。轨迹数据融合时,可以得到多条轨迹的关联关系,根据关联关系将轨迹数据归类,将不属于同一轨迹的数据归为不同类别,并将属于同一轨迹的数据合并;同时在相应轨迹数据中,增加记录该轨迹数据与其他轨迹数据的相关关系,从而达到对于轨迹数据自身相关性和相互相关性的描述,从而实现轨迹关联。
[0055]
本公开一种可选的实施方式中,在实现多源数据的融合之后,该方法还包括:连接数据库;连接数据库包括:确定数据库的地址和用户的登录口令,给予用户读取数据权限,使用数据库图数据结构进行数据库连接,以获取数据访问权限和数据访问方式,其中,登录口令包括登录账户和访问密码,数据库图数据结构可以为java语言中的jdbc,即java数据库连接;对融合后的数据进行存储,利用数据连接工具将融合后的数据按照指定要求存储至数据库,实现对融合后数据的管理。
[0056]
从以上的描述中,可以看出,本公开实现了如下技术效果:本公开通过提取多源异构数据中的目标字段,解决了多源数据中目标字段不统一的问题,为后续数据关联提供支持;通过对多源数据进行预处理,最大程度上删除原始多源数据中的错误数据和重复数据,同时保留原始多源数据中的信息,并降低计算消耗;通过使用图数据结构表示多源异构数据,转换数据格式,形成统一形式的数据格式,降低了不同源数据之间关联融合难度,解决了相关技术中不同源数据之间关联融合难度较大的问题;基于自适应约束放松的多源数据关联实现数据匹配,进而实现多源数据的有效融合,由于多源数据包括目标的同一轨迹数据和不同轨迹数据,因此实现多源数据融合时,即可得到多条轨迹的关联关系,从而实现轨迹关联。
[0057]
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
[0058]
本公开实施例还提供了一种用于实施上述多源数据融合方法的多源数据融合装置,如图2所示,多源数据融合装置20包括:
memory,简称为ram)、快闪存储器(flash memory,简称为fm)、硬盘(harddisk drive,简称为hdd)或固态硬盘(solid-state drive,简称为ssd)等;存储介质还可以包括上述种类的存储器的组合。
[0069]
虽然结合附图描述了本公开的实施方式,但是本领域技术人员可以在不脱离本公开的精神和范围的情况下作出各种修改和变型,这样的修改和变型均落入由所附权利要求所限定的范围之内。
技术特征:
1.一种多源数据融合方法,其特征在于,包括:提取多源异构数据中的目标字段,其中,所述多源异构数据包含一个或多个字段;基于所述目标字段,对所述多源异构数据进行预处理;将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据;以及采用基于自适应约束放松的多源数据关联算法关联所述多源数据,实现多源数据的融合,从而实现轨迹关联。2.根据权利要求1所述的方法,其特征在于,所述提取多源异构数据中的目标字段包括:判断所述多源异构数据中是否显式地包含所述目标字段;如果显式地包含所述目标字段,则直接读取所述目标字段;如果非显式地包含所述目标字段,则采用数据抽取算法抽取所述多源异构数据中包含的目标字段。3.根据权利要求1所述的方法,其特征在于,在提取多源异构数据中的目标字段之后,所述方法还包括:对所述多源异构数据进行筛选,将所述多源异构数据中不包括目标字段的数据剔除;对于所述多源异构数据中包括目标字段的数据,在数据库中建立相应数据表,将数据整理为以所述目标字段为索引的数据结构,并将整理后的数据批量存储至所述数据表中。4.根据权利要求3所述的方法,其特征在于,在将整理后的数据批量存储至所述数据表中之后,所述方法还包括:确定所述数据库的地址和用户的登录口令,给予用户读取数据权限,使用数据库图数据结构进行数据库连接,以获取数据访问权限和数据访问方式,其中,所述登录口令包括登录账户和访问密码;连接所述数据库后,对所述数据库中整理后的数据进行读取并保存至本地内存或硬盘。5.根据权利要求1所述的方法,其特征在于,所述基于所述目标字段,对所述多源异构数据进行预处理,包括:根据预先设定的目标字段正常值范围依次对数据进行匹配,如果匹配出数据中存在非法值、异常值或占位符,则将所述数据删除;将数据中除所述目标字段外的数据信息设为数据属性字段,对所述多源异构数据中目标字段和数据属性字段均重复的数据进行删除,并对目标字段重复、数据属性字段存在差异的数据予以保留。6.根据权利要求1所述的方法,其特征在于,所述将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据,包括:按照下述公式将预处理后的多源异构数据转换为描述数据及数据间关联关系的图模型g:其中,,v表示数据集合,表示第i条数据,n表示数据的数量,e表示数据之间的关联关系。7.根据权利要求1所述的方法,其特征在于,所述采用基于自适应约束放松的多源数据
关联算法关联所述多源数据,实现多源数据的融合,从而实现轨迹关联,包括:在时间域内,设置以帧为基本单位,对于第k帧数据集合和第k-1帧数据集合的关联关系,根据任务需求确定所述关联关系中考量的关键属性,并定义相应的量化形式,得到每条数据的数学模型;多条数据的数学模型构成数据集合,根据所述数据集合构建关联矩阵,其中,所述关联矩阵的行对应第k帧数据集合,所述关联矩阵的列对应第k-1帧数据集合,所述关联矩阵中的元素表示对应数据对的相关性;描述所述关联矩阵的优化目标和约束条件,并将所述约束条件放松,得到放松后的约束条件;基于所述放松后的约束条件,采用基于经典图匹配算法改进的数据关联算法,求解第k帧数据集合和第k-1帧数据集合的关联关系;根据多源数据的关联关系,将数据归类及合并,实现多源数据融合,从而实现轨迹关联。8.一种多源数据融合装置,其特征在于,包括:提取单元,用于提取多源异构数据中的目标字段,其中,所述多源异构数据包含一个或多个字段;预处理单元,用于基于所述目标字段,对所述多源异构数据进行预处理;转换单元,用于将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据;以及关联单元,用于采用基于自适应约束放松的多源数据关联算法关联所述多源数据,实现多源数据的融合,从而实现轨迹关联。9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使计算机执行权利要求1-7任意一项所述的多源数据融合方法。10.一种电子设备,其特征在于,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器执行权利要求1-7任意一项所述的多源数据融合方法。
技术总结
本公开提供了一种多源数据融合方法、装置及电子设备,其中方法包括:提取多源异构数据中的目标字段,多源异构数据包含一个或多个字段;基于目标字段,对多源异构数据进行预处理;将预处理后的多源异构数据转换为图数据结构的数据格式,得到格式统一的多源数据;采用基于自适应约束放松的多源数据关联算法关联多源数据,实现多源数据的融合,从而实现轨迹关联。本公开通过使用图数据结构表示多源异构数据,形成统一形式的数据格式,降低了不同源数据之间关联融合难度,解决了不同源数据之间关联融合难度较大的问题;并且,通过自适应约束放松的多源数据关联算法对多源数据进行关联匹配,实现了多源数据的融合,从而实现轨迹关联。联。联。
技术研发人员:臧义华 王楠 李小娟 马兴民 郭阳 张明美
受保护的技术使用者:中国电子科技集团公司第十五研究所
技术研发日:2023.08.17
技术公布日:2023/9/20
版权声明
本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
航空之家 https://www.aerohome.com.cn/
航空商城 https://mall.aerohome.com.cn/
航空资讯 https://news.aerohome.com.cn/