数据接收处理方法、装置和计算机设备与流程
未命名
09-03
阅读:99
评论:0

1.本技术涉及大数据技术领域,特别是涉及一种数据接收处理方法、装置和计算机设备。
背景技术:
2.目前,资产托管系统通过数据接收的形式每日接入从上交所,深交所及其他各类交易所传来的交易内容。随着托管业务规模的逐步扩大,通过数据接收进入系统的数据量和指令类型都在不断扩张。
3.然而,一旦出现极端情况,如业务集中在某一时段提交了大量的指令,往往会造成数据接收的序列堆积,处理速度变慢,需要优先处理的指令也堆积其中,无法进行及时处理。
技术实现要素:
4.基于此,有必要针对上述技术问题,提供一种能够高效进行数据处理的数据接收处理方法、装置和计算机设备。
5.第一方面,本技术提供了一种数据接收处理方法。所述方法包括:
6.接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
7.在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
8.通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
9.在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
10.对所述待处理数据文件信息进行解压处理,获得解压数据信息;
11.根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
12.当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
13.在其中一个实施例中,所述数据接收处理方法还包括:
14.在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
15.在其中一个实施例中,所述数据接收处理方法还包括:
16.在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
17.通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;
18.根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
19.在其中一个实施例中,所述数据接收处理方法还包括:
20.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
21.在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
22.在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
23.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
24.将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
25.在其中一个实施例中,所述数据接收处理方法还包括:
26.按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
27.在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
28.第二方面,本技术还提供了一种数据接收处理装置。所述装置包括:
29.接收模块,用于接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
30.匹配模块,用于在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
31.处理模块,用于通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
32.在其中一个实施例中,所述处理模块,具体用于:
33.对所述待处理数据文件信息进行解压处理,获得解压数据信息;
34.根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
35.当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
36.在其中一个实施例中,所述数据接收处理装置还包括:
37.识别模块,用于在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
38.在其中一个实施例中,所述数据接收处理装置还包括验证模块,所述验证模块具体用于:
39.在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
40.通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;
41.根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
42.在其中一个实施例中,所述数据接收处理装置还包括待处理数据文件信息确定模块,所述待处理数据文件信息确定模块具体用于:
43.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
44.在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
45.在其中一个实施例中,所述待处理数据文件信息确定模块,具体用于:
46.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
47.将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
48.在其中一个实施例中,所述数据接收处理装置还包括目标数据处理链路确定模块,所述目标数据处理链路确定模块具体用于:
49.按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
50.在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
51.第三方面,本技术还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
52.接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
53.在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
54.通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
55.在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
56.对所述待处理数据文件信息进行解压处理,获得解压数据信息;
57.根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
58.当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
59.在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
60.在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
61.在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
62.在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
63.通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处
理链路对应的数据处理结果信息;
64.根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
65.在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
66.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
67.在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
68.在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
69.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
70.将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
71.在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
72.按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
73.在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
74.第四方面,本技术还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
75.接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
76.在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
77.通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
78.在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
79.对所述待处理数据文件信息进行解压处理,获得解压数据信息;
80.根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
81.当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
82.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
83.在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
84.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
85.在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
86.通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处
理链路对应的数据处理结果信息;
87.根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
88.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
89.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
90.在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
91.在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
92.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
93.将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
94.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
95.按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
96.在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
97.第五方面,本技术还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现以下步骤:
98.接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
99.在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
100.通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
101.在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
102.对所述待处理数据文件信息进行解压处理,获得解压数据信息;
103.根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
104.当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
105.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
106.在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
107.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
108.在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
109.通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处
理链路对应的数据处理结果信息;
110.根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
111.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
112.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
113.在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
114.在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
115.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
116.将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
117.在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
118.按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
119.在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
120.上述数据接收处理方法、装置和计算机设备,通过将待处理数据文件信息的数据文件标识信息和各预设类型的数据处理链路进行匹配,确定与数据文件标识信息匹配的目标数据处理链路,并根据目标数据处理链路及其对应的数据处理策略对待处理数据文件信息进行处理。上述方法可有效的确定待处理文件数据信息对应的目标数据处理链路,进而利用目标数据处理链路对应的处理策略,对上述待处理数据文件信息进行高效准确的处理,提高数据接收处理效率。
附图说明
121.为了更清楚地说明本技术实施例或传统技术中的技术方案,下面将对实施例或传统技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
122.图1为一个实施例中数据接收处理方法的流程示意图;
123.图2为另一个实施例中数据接收处理方法的流程示意图;
124.图3为另一个实施例中数据接收处理方法的流程示意图;
125.图4为一个实施例中数据接收处理系统的结构框图
126.图5为一个实施例中数据接收处理装置的结构框图;
127.图6为一个实施例中计算机设备的内部结构图。
具体实施方式
128.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对
本技术进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。
129.在本技术的一个实施例中,如图1所示,提供了一种数据接收处理方法,本实施例以该方法应用于终端(可称为管理终端)进行举例说明,可以理解的是,该方法也可以应用于服务器,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。其中,终端可以但不限于是各种个人计算机及笔记本电脑。服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。本实施例中,该方法包括以下步骤:
130.步骤101,接收待处理数据文件信息;待处理数据文件信息包括数据文件标识信息。
131.其中,终端可以接收中转机传输的待处理数据文件信息,数据文件标识信息可以标识待处理数据文件信息的类别。
132.步骤102,在各预设类型的数据处理链路中,确定与数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路。
133.其中,终端存储有各个预设类型的数据处理链路信息,每个数据处理链路信息均包含数据处理链路标识信息,终端将待处理数据文件信息中的数据文件标识信息和各预设类型数据处理链路对应的数据处理链路标识信息进行匹配,将与数据文件标识信息匹配成功的数据处理链路标识信息对应的数据处理链路,作为待处理数据文件信息对应的目标数据处理链路。
134.步骤103,通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理。
135.其中,终端存储有各个数据处理链路对应的数据处理策略,进而终端可以根据目标数据处理链路及其对应的数据处理策略对待处理数据文件信息进行处理。
136.上述数据接收处理方法中,通过将待处理数据文件信息的数据文件标识信息和各预设类型的数据处理链路进行匹配,确定与数据文件标识信息匹配的目标数据处理链路,并根据目标数据处理链路及其对应的数据处理策略对待处理数据文件信息进行处理。通过该数据接收处理方法可以确定与待处理数据文件信息相匹配的数据处理链路,进而可以根据相匹配的数据处理链路的数据处理策略对待处理数据文件信息进行准确处理,在提高数据接收处理效率的同时,也提高数据接收处理的准确性。
137.在本技术的一个实施例中,上述步骤103,通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理,包括:
138.对待处理数据文件信息进行解压处理,获得解压数据信息;
139.根据数据库处理工具对解压数据信息处理,生成数据结果信息;
140.当数据文件标识信息是目标标识信息时,在数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
141.具体的,终端通过在共享存储中获取待处理数据文件信息,需要注意的是,待处理数据文件信息以压缩包的形式存储与共享存储中。基于此,终端需先将获取到的待处理数据文件信息进行解压,解压的方式可以根据实际需求进行选择,包括但不限于基于java程序解压,本技术对此不作任何限定。其次,终端需利用数据库处理工具对解压得到的待处理数据文件信息进行数据处理,生成数据结果信息并将该数据结果信息存储于数据库中,该
数据结果信息包括对解压数据信息进行处理对应的各个环节的数据信息。例如,终端可以通过利用sqlldr(一种数据库处理工具)对解压数据信息进行处理,生成对应的ctl文件,并将对应数据落到oracle数据库中。
142.需要注意的是,当数据文件标识信息是目标标识信息时,在获得待处理数据信息对应的数据结果信息后,还需在数据结果信息中筛选出目标数据结果信息,将目标数据结果信息存储于数据库中。在本技术的一个实施例中,数据筛选条件可以为将数据处理环节中最后一个处理环节对应的数据结果信息作为目标数据结果信息,存储于数据库中。
143.综上,当数据文件标识信息是目标标识信息时,在数据结果信息中筛选出目标数据结果信息,并将目标数据结果信息存储于数据库中,当数据文件标识信息不是目标标识信息时,将数据结果信息作为目标数据结果信息,直接将得到的数据结果信息存储于数据库中。在本技术的一个实施例中,目标标识信息对应的待处理数据文件信息可以为高敏指令数据文件信息。当数据接收高峰期出现时,高敏指令数据文件信息进入高敏链路处理,大大加快了高敏指令的流转速度,保障了处理时效。
144.上述数据接收处理方法中,根据待处理数据文件信息的数据文件标识信息是否目标标识信息,对待处理数据文件信息作不同的数据处理,确定其对应的目标数据结果信息,可以有利于提高对各类型待处理数据文件信息处理的高效想,也可以提高其对应的目标数据结果信息的准确性。
145.在本技术的一个实施例中,数据接收处理方法还包括:
146.在数据文件标识信息不满足预设标识识别条件时,将所有预设类型的数据处理链路均作为目标数据处理链路。
147.具体的,终端存储有预设数据处理类型,将待处理数据文件信息的数据文件标识信息与预设数据处理类型进行匹配,将匹配失败的待处理数据文件信息作为验证数据文件信息,将所有预设类型的数据处理链路均作为其目标数据处理链路,对各预设类型的数据处理链路进行处理。
148.在本技术的一个实施例中,如图2所示,数据接收处理方法还包括:
149.步骤201,在数据文件标识信息不满足预设标识识别条件时,将待处理数据文件信息作为验证数据文件信息。
150.其中,终端存储有预设数据处理类型,将待处理数据文件信息的数据文件标识信息与预设数据处理类型进行匹配,将匹配失败的待处理数据文件信息作为验证数据文件信息,将所有预设类型的数据处理链路均作为其目标数据处理链路,对各预设类型的数据处理链路进行处理。
151.步骤202,通过所有预设类型的数据处理链路、以及所有预设类型的数据处理链路对应的数据处理策略,对验证数据文件信息进行处理,获得各预设类型的数据处理链路对应的数据处理结果信息。
152.其中,终端将所有预设类型的数据处理链路均为验证数据文件信息的目标目标数据处理链路,因此,针对每个预设类型的数据处理链路,根据该数据处理链路及其对应的数据处理策略,对验证数据文件信息进行处理,得到各个预设类型数据处理链路对应的数据处理结果信息。
153.步骤203,根据验证数据文件信息的目标数据结果信息,对各预设类型的数据处理
链路对应的数据处理结果信息进行验证,生成验证信息。
154.具体的,终端存储有验证数据文件信息对应的目标数据结果信息,因而可以根据目标数据结果信息对各个预设类型的数据处理链路进行验证。在目标数据结果信息和数据处理链路的数据处理结果信息一致时,验证该数据处理链路正确,若该目标数据结果信息和数据处理链路的数据处理结果信息不一致时,终端可以根据不一致的信息生成风险信息,以提示相关人员对该数据处理链路进行检测。
155.上述数据接收处理方法中,基于各个类型的数据处理链路及其策略对验证数据文件信息进行处理,根据验证数据文件信息的目标数据处理结果和各个预设类型的数据处理链路的数据处理结果信息,对各个预设类型的数据处理链路进行验证,可有效对各个预设类型的数据处理链路的正确性进行检测,提高数据接收处理方法的准确性。
156.在本技术的一个实施例中,如图3所示,数据接收处理方法还包括:
157.步骤301,通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配。
158.其中,如图4所示,前置机可接收通过各个业务发送的初始数据文件信息并将该初始数据文件信息发送至中转机。接收机存储有目标数据文件目录信息,接收机可通过将接收到初始数据文件信息和目标数据文件目录信息进行匹配,判断是否接收到目标数据文件目录信息中的目标文件信息。中转机还可以通过定时作业的方式,根据目标数据文件目录信息和接收到的初始数据文件信息,判断目标文件是否被接收。
159.步骤302,在匹配成功的情况下,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息。
160.其中,在匹配成功的情况下,接收机确定接收到初始数据文件信息为目标文件信息。接收机需在确定接收到目标文件信息时,将初始数据文件信息下载至本地,并对根据预处理策略对初始数据文件信息进行处理,得到待处理数据文件信息。
161.在本技术的一个实施例中,上述步骤302,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息,包括:
162.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
163.将目标文件格式的初始数据文件信息进行压缩,作为待处理数据文件信息。
164.具体的,中转机在确定接收到初始数据文件信息为目标文件信息后,将初始数据文件信息进行解压备份处理。由于各个初始数据文件信息的文件格式各不相同,因此需将初始数据文件信息的初始格式均转换为目标文件格式,并对转换为目标文件格式的初始数据文件信息进行压缩得到带处理数据文件信息,并将待处理数据文件信息传输至共享存储,以便终端后续工作。
165.如图4所示,该数据接收处理系统的结构框图中包括普通链路和高敏链路,分别对应普通数据文件信息和高敏数据文件信息。需要说明的是,数据接收处理系统包括的链路数目不限于两条,可根据需求进行设定,本技术仅以普通链路和高敏链路为例进行说明。当终端从共享存储中接收待处理数据文件信息并识别到待处理数据文件信息的数据文件标识信息为普通数据标识信息时,终端将基于普通链路对待处理数据文件信息进行处理,分别进行解压,并利用sqlldr(一种数据库处理工具)对解压数据信息进行处理,生成对应的ctl文件,并将对应数据落到oracle数据库(图4中的老数据库)中。当终端识别到待处理数
据文件信息的数据文件标识信息为高敏数据标识信息(即目标数据标识信息)时,终端将基于普通链路对待处理数据文件信息进行处理,分别进行解压,并利用sqlldr(一种数据库处理工具)对解压数据信息进行处理,再利用指令流转服务,仅将最终的数据处理结果信息存储至新数据库中。在高敏链路投入使用前,每日收到5000笔指令对应的数据文件,在每日9点30-10点30,15点-17点的高峰期,队列峰值能达到1000,平均处理速度超过10分钟。投入使用高敏链路后,每日的5000笔文件被分流为3500普通和1500笔高敏,且由于高敏指令多在高峰期出现,普通指令相对分散,高峰期队列峰值不超过400,平均处理速度达到3分半,其中高敏指令速度在2分钟左右,极大缓解了原先的系统处理压力。
166.在本技术的一个实施例中,数据接收处理方法还包括:
167.按照各预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
168.在目标数据处理链路出错的情况下,在处理方式序列中剔除目标数据处理链路,并将剔除目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
169.其中,终端存储有各个数据处理链路应的优先数值,该有优先数值的设定可以根据实际需求进行设定,本技术对此不作任何限定。终端可以根据各数据处理链路的优先级数值按照优先级数值由大到小的顺序进行排序,得到处理方式序列。
170.其中,终端在确定目标数据处理链路时,可以对该目标数据处理链路进行状态检测,在检测目标数据处理链路正确的情况下,可进行通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理的步骤;在检测目标数据处理链路出错的情况下,将剔除目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路,并对该目标数据处理链路进行状态检测,重复上述步骤,直至检测到目标数据处理链路状态正确,对待处理数据文件信息进行处理。
171.上述数据接收处理方法中,针对目标数据处理链路出错的情况,可以进行目标数据处理链路的切换,提高数据接收处理方法的稳定性,也提高数据处理方法的准确度。
172.应该理解的是,虽然如上的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
173.基于同样的发明构思,本技术实施例还提供了一种用于实现上述所涉及的数据接收处理方法的数据接收处理装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个数据接收处理装置实施例中的具体限定可以参见上文中对于数据接收处理方法的限定,在此不再赘述。
174.如图5所示,本技术还提供了一种数据接收处理装置500,该装置包括:
175.接收模块510,用于接收待处理数据文件信息;待处理数据文件信息包括数据文件标识信息;
176.匹配模块520,用于在各预设类型的数据处理链路中,确定与数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
177.处理模块530,用于通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理。
178.在本技术的一个实施例中,处理模块530,具体用于:
179.对待处理数据文件信息进行解压处理,获得解压数据信息;
180.根据数据库处理工具对解压数据信息处理,生成数据结果信息;
181.当数据文件标识信息是目标标识信息时,在数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
182.在本技术的一个实施例中,数据接收处理装置还包括:
183.识别模块,用于在数据文件标识信息不满足预设标识识别条件时,将所有预设类型的数据处理链路均作为目标数据处理链路。
184.在本技术的一个实施例中,数据接收处理装置还包括验证模块,验证模块具体用于:
185.在数据文件标识信息不满足预设标识识别条件时,将待处理数据文件信息作为验证数据文件信息;
186.通过所有预设类型的数据处理链路、以及所有预设类型的数据处理链路对应的数据处理策略,对验证数据文件信息进行处理,获得各预设类型的数据处理链路对应的数据处理结果信息;
187.根据验证数据文件信息的目标数据结果信息,对各预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
188.在本技术的一个实施例中,数据接收处理装置还包括待处理数据文件信息确定模块,待处理数据文件信息确定模块具体用于:
189.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
190.在匹配成功的情况下,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息。
191.在本技术的一个实施例中,待处理数据文件信息确定模块,具体用于:
192.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
193.将目标文件格式的初始数据文件信息进行压缩,作为待处理数据文件信息。
194.在本技术的一个实施例中,数据接收处理装置还包括目标数据处理链路确定模块,目标数据处理链路确定模块具体用于:
195.按照各预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
196.在目标数据处理链路出错的情况下,在处理方式序列中剔除目标数据处理链路,并将剔除目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
197.在本技术的一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图6所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算
机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过wifi、移动蜂窝网络、nfc(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种数据接收处理方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
198.本领域技术人员可以理解,图6中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
199.本技术还提供了一种计算机设备。计算机设备包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现以下步骤:
200.接收待处理数据文件信息;待处理数据文件信息包括数据文件标识信息;
201.在各预设类型的数据处理链路中,确定与数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
202.通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理。
203.在本技术的一个实施例中,通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理,包括:
204.对待处理数据文件信息进行解压处理,获得解压数据信息;
205.根据数据库处理工具对解压数据信息处理,生成数据结果信息;
206.当数据文件标识信息是目标标识信息时,在数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
207.在本技术的一个实施例中,处理器执行计算机程序时还实现以下步骤:
208.在数据文件标识信息不满足预设标识识别条件时,将所有预设类型的数据处理链路均作为目标数据处理链路。
209.在本技术的一个实施例中,处理器执行计算机程序时还实现以下步骤:
210.在数据文件标识信息不满足预设标识识别条件时,将待处理数据文件信息作为验证数据文件信息;
211.通过所有预设类型的数据处理链路、以及所有预设类型的数据处理链路对应的数据处理策略,对验证数据文件信息进行处理,获得各预设类型的数据处理链路对应的数据处理结果信息;
212.根据验证数据文件信息的目标数据结果信息,对各预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
213.在本技术的一个实施例中,处理器执行计算机程序时还实现以下步骤:
214.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
215.在匹配成功的情况下,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息。
216.在本技术的一个实施例中,根据数据预处理策略,对初始数据文件信息进行处理,
得到待处理数据文件信息,包括:
217.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
218.将目标文件格式的初始数据文件信息进行压缩,作为待处理数据文件信息。
219.在本技术的一个实施例中,处理器执行计算机程序时还实现以下步骤:
220.按照各预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
221.在目标数据处理链路出错的情况下,在处理方式序列中剔除目标数据处理链路,并将剔除目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
222.本技术还提供了一种计算机可读存储介质。计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
223.接收待处理数据文件信息;待处理数据文件信息包括数据文件标识信息;
224.在各预设类型的数据处理链路中,确定与数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
225.通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理。
226.在本技术的一个实施例中,通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理,包括:
227.对待处理数据文件信息进行解压处理,获得解压数据信息;
228.根据数据库处理工具对解压数据信息处理,生成数据结果信息;
229.当数据文件标识信息是目标标识信息时,在数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
230.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
231.在数据文件标识信息不满足预设标识识别条件时,将所有预设类型的数据处理链路均作为目标数据处理链路。
232.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
233.在数据文件标识信息不满足预设标识识别条件时,将待处理数据文件信息作为验证数据文件信息;
234.通过所有预设类型的数据处理链路、以及所有预设类型的数据处理链路对应的数据处理策略,对验证数据文件信息进行处理,获得各预设类型的数据处理链路对应的数据处理结果信息;
235.根据验证数据文件信息的目标数据结果信息,对各预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
236.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
237.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
238.在匹配成功的情况下,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息。
239.在本技术的一个实施例中,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息,包括:
240.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
241.将目标文件格式的初始数据文件信息进行压缩,作为待处理数据文件信息。
242.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
243.按照各预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
244.在目标数据处理链路出错的情况下,在处理方式序列中剔除目标数据处理链路,并将剔除目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
245.本技术还提供了一种计算机程序产品。计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现以下步骤:
246.接收待处理数据文件信息;待处理数据文件信息包括数据文件标识信息;
247.在各预设类型的数据处理链路中,确定与数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
248.通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理。
249.在本技术的一个实施例中,通过目标数据处理链路、以及目标数据处理链路对应的数据处理策略,对待处理数据文件信息进行处理,包括:
250.对待处理数据文件信息进行解压处理,获得解压数据信息;
251.根据数据库处理工具对解压数据信息处理,生成数据结果信息;
252.当数据文件标识信息是目标标识信息时,在数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
253.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
254.在数据文件标识信息不满足预设标识识别条件时,将所有预设类型的数据处理链路均作为目标数据处理链路。
255.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
256.在数据文件标识信息不满足预设标识识别条件时,将待处理数据文件信息作为验证数据文件信息;
257.通过所有预设类型的数据处理链路、以及所有预设类型的数据处理链路对应的数据处理策略,对验证数据文件信息进行处理,获得各预设类型的数据处理链路对应的数据处理结果信息;
258.根据验证数据文件信息的目标数据结果信息,对各预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
259.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
260.通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
261.在匹配成功的情况下,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息。
262.在本技术的一个实施例中,根据数据预处理策略,对初始数据文件信息进行处理,得到待处理数据文件信息,包括:
263.将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
264.将目标文件格式的初始数据文件信息进行压缩,作为待处理数据文件信息。
265.在本技术的一个实施例中,计算机程序被处理器执行时还实现以下步骤:
266.按照各预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
267.在目标数据处理链路出错的情况下,在处理方式序列中剔除目标数据处理链路,并将剔除目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
268.需要说明的是,本技术所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
269.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,上述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本技术所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(read-only memory,rom)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(reram)、磁变存储器(magnetoresistive random access memory,mram)、铁电存储器(ferroelectric random access memory,fram)、相变存储器(phase change memory,pcm)、石墨烯存储器等。易失性存储器可包括随机存取存储器(random access memory,ram)或外部高速缓冲存储器等。作为说明而非局限,ram可以是多种形式,比如静态随机存取存储器(static random access memory,sram)或动态随机存取存储器(dynamic random access memory,dram)等。本技术所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本技术所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
270.以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
271.以上实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本技术专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术的保护范围应以所附权利要求为准。
技术特征:
1.一种数据接收处理方法,其特征在于,所述方法包括:接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。2.根据权利要求1所述的数据接收处理方法,其特征在于,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:对所述待处理数据文件信息进行解压处理,获得解压数据信息;根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。3.根据权利要求1所述的数据接收处理方法,其特征在于,所述方法还包括:在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。4.根据权利要求3所述的数据接收处理方法,其特征在于,所述方法还包括:在所述数据文件标识信息不满足所述预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。5.根据权利要求1所述的数据接收处理方法,其特征在于,所述方法还包括:通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。6.根据权利要求5所述的数据接收处理方法,其特征在于,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。7.根据权利要求1所述的数据接收处理方法,其特征在于,所述方法还包括:按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。8.一种数据接收处理装置,其特征在于,所述装置包括:
接收模块,用于接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;匹配模块,用于在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;处理模块,用于通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法的步骤。10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。11.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
技术总结
本申请涉及涉及一种数据接收处理方法、装置和计算机设备,大数据技术领域。所述方法包括:接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。上述方法可有效的确定待处理文件数据信息对应的目标数据处理链路,进而利用目标数据处理链路对应的处理策略,对上述待处理数据文件信息进行高效准确的处理,提高数据接收处理效率。提高数据接收处理效率。提高数据接收处理效率。
技术研发人员:李泽云 张大梅 杨采 徐雷
受保护的技术使用者:中国工商银行股份有限公司
技术研发日:2023.05.31
技术公布日:2023/8/31
版权声明
本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
航空之家 https://www.aerohome.com.cn/
飞机超市 https://mall.aerohome.com.cn/
航空资讯 https://news.aerohome.com.cn/