一种数据处理效率测试方法、装置、服务器、介质及产品与流程

1.本技术涉及大数据领域，尤其涉及一种数据传输测试方法、装置、服务器、计算机可读存储介质以及计算机程序产品。


背景技术：

2.随着计算机技术，特别是大数据技术的快速发展，针对大数据进行数据处理的技术日益成熟。目前，数据处理主要分为离线处理和实时处理两种方式。其中，在数据的实时处理中，对数据处理效率要求较高。
3.为了对数据处理效率进行测试，业界通常会抽取部分数据，查询部分数据在各个数据层的落表时间差，从而获得数据处理效率测试结果。然而，数据的不连续性可能导致上述方法获得的测试结果不稳定。


技术实现要素：

4.本技术提供了一种数据处理效率测试方法，该方法能够对数据处理的效率进行测试，提升了测试结果的稳定性和准确性。本技术还提供了上述方法对应的装置、服务器、计算机可读存储介质以及计算机程序产品。
5.第一方面，本技术提供了一种数据处理效率测试方法。所述方法包括：
6.获取源数据以及所述源数据对应的多个中间层的采集对象，所述多个中间层用于处理所述源数据；
7.以设定的采集频率，采集所述多个中间层的采集对象，获得多个偏移量；
8.根据所述多个偏移量，确定所述源数据的效率测试结果。
9.在一些可能的实现方式中，所述根据所述多个偏移量，确定所述源数据的效率测试结果，包括：
10.根据所述多个偏移量，确定至少一个偏移量差值，所述至少一个偏移量差值为所述多个中间层中相邻的中间层的偏移量的差值；
11.根据所述至少一个偏移量差值，确定所述源数据的效率测试结果。
12.在一些可能的实现方式中，所述根据所述至少一个偏移量差值，确定所述源数据的效率测试结果，包括：
13.根据目标时间段内多个所述至少一个偏移量差值，生成所述目标时间段内的偏移量差值曲线；
14.根据所述偏移量差值曲线，确定所述源数据的效率测试结果。
15.在一些可能的实现方式中，所述获取源数据，包括：
16.获取配置信息，所述配置信息包括测试环境信息、源数据信息、测试时间信息中的一种或多种；
17.根据所述配置信息，获取源数据。
18.在一些可能的实现方式中，所述获取所述源数据对应的多个中间层的采集对象，
包括：
19.根据所述源数据以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的采集对象。
20.在一些可能的实现方式中，所述根据所述源数据以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的采集对象，包括：
21.根据源数据的主题以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的主题；
22.根据所述多个中间层的主题，确定所述源数据对应的多个中间层的采集对象。
23.第二方面，本技术提供了一种数据处理效率测试装置。所述装置包括：
24.获取模块，用于获取源数据以及所述源数据对应的多个中间层的采集对象，所述多个中间层用于处理所述源数据；
25.采集模块，用于以设定的采集频率，采集所述多个中间层的采集对象，获得多个偏移量；
26.确定模块，用于根据所述多个偏移量，确定所述源数据的效率测试结果。
27.在一些可能的实现方式中，所述确定模块具体用于：
28.根据所述多个偏移量，确定至少一个偏移量差值，所述至少一个偏移量差值为所述多个中间层中相邻的中间层的偏移量的差值；
29.根据所述至少一个偏移量差值，确定所述源数据的效率测试结果。
30.在一些可能的实现方式中，所述确定模块具体用于：
31.根据目标时间段内多个所述至少一个偏移量差值，生成所述目标时间段内的偏移量差值曲线；
32.根据所述偏移量差值曲线，确定所述源数据的效率测试结果。
33.在一些可能的实现方式中，所述获取模块具体用于：
34.获取配置信息，所述配置信息包括测试环境信息、源数据信息、测试时间信息中的一种或多种；
35.根据所述配置信息，获取源数据。
36.在一些可能的实现方式中，所述获取模块具体用于：
37.根据所述源数据以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的采集对象。
38.在一些可能的实现方式中，所述获取模块具体用于：
39.根据源数据的主题以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的主题；
40.根据所述多个中间层的主题，确定所述源数据对应的多个中间层的采集对象。
41.第三方面，本技术提供了一种服务器。所述服务器包括处理器和存储器，所述存储器中存储有指令，所述处理器执行所述指令，以使所述服务器执行如本技术第一方面或第一方面的任一种实现方式所述的方法。
42.第四方面，本技术提供了一种计算机可读存储介质。所述计算机可读存储介质中存储有指令，当其在服务器上运行时，使得服务器执行上述第一方面或第一方面的任一种实现方式所述的方法。
43.第五方面，本技术提供了一种计算机程序产品。所述计算机程序产品包括计算机可读指令，当其在服务器上运行时，使得所述服务器执行上述第一方面或第一方面的任一种实现方式所述的方法。
44.本技术在上述各方面提供的实现方式的基础上，还可以进行进一步组合以提供更多实现方式。
45.基于上述内容描述，可知本技术的技术方案具有如下有益效果：
46.具体地，该方法首先获取源数据以及源数据对应的多个中间层的采集对象，其中，多个中间层用于处理所述源数据，接着以设定的采集频率，采集多个中间层的采集对象，获得多个偏移量，根据多个偏移量，确定源数据的效率测试结果。
47.该方法通过采集数据处理过程中多个中间件的偏移量的方式进行数据处理的时效性测试，无需对数据进行抽取，即可获得数据处理效率测试结果，如此，不受数据不连续性的影响，测试结果具有稳定性和准确性。
附图说明
48.结合附图并参考以下具体实施方式，本技术各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
49.图1为本技术实施例提供的一种数据处理效率测试方法的流程示意图；
50.图2为本技术实施例提供的一种数据处理效率测试装置的结构示意图；
51.图3为本技术实施例提供的一种实现数据处理效率测试的服务器的结构示意图。
具体实施方式
52.下面将参照附图更详细地描述本技术的实施例。虽然附图中显示了本技术的某些实施例，然而应当理解的是，本技术可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本技术。应当理解的是，本技术的附图及实施例仅用于示例性作用，并非用于限制本技术的保护范围。
53.本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
54.需要注意，本技术中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
55.需要注意，本技术中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
56.为了便于理解本技术的技术方案，下面对本技术中具体的应用场景进行说明。
57.随着计算机技术，特别是大数据技术的快速发展，针对大数据进行数据处理的技术日益成熟。目前，数据处理主要分为离线处理和实时处理两种方式。
58.其中，当数据产生后，采用实时处理方式对数据进行处理能够迅速得到处理结果，从而能够分析并挖掘出数据的实时价值。因此，数据的实时处理方式对数据处理效率要求
较高。
59.为了对数据处理效率进行测试，业界通常会抽取部分数据，查询部分数据在各个数据层的落表时间差，从而获得数据处理效率测试结果，例如可以是判断各个数据层的落表时间差是否在预设范围内。然而，数据的不连续性可能导致上述方法获得的测试结果不稳定。
60.基于此，本技术实施例提供了一种数据处理效率测试方法。具体地，该方法首先获取源数据以及源数据对应的多个中间层的采集对象，其中，多个中间层用于处理所述源数据，接着以设定的采集频率，采集多个中间层的采集对象，获得多个偏移量，根据多个偏移量，确定源数据的效率测试结果。
61.该方法通过采集数据处理过程中多个中间件的偏移量的方式进行数据处理的时效性测试，无需对数据进行抽取，即可获得数据处理效率测试结果，如此，不受数据不连续性的影响，测试结果具有稳定性和准确性。
62.接下来，结合附图对本技术实施例提供的数据处理效率测试方法进行详细说明。
63.参见图1所示的一种数据处理效率测试方法的流程示意图，该方法可以由服务器执行，具体包括如下步骤：
64.s101：服务器获取源数据以及源数据对应的多个中间层的采集对象。
65.其中，源数据是指待处理的数据。在进行数据处理的过程中，源数据会经过多个中间层进行处理，从而完成数据处理。
66.具体地，服务器可以获取配置信息，根据配置信息，获取源数据。其中，配置信息可以包括测试环境信息、源数据信息、测试时间信息中的一种或多种。如此，通过针对数据处理效率测试进行配置，可以获得与测试相关的配置信息，从而根据配置信息获取源数据，以实现数据处理效率测试。
67.以分布式消息系统kafka为例。kafka是一个分布式、支持分区的、多副本的分布式消息系统，可以实时的处理大量数据以满足各种需求场景。在kafka中，配置信息可以包括测试环境、源数据的topic、源数据的topic对应的数据格式以及数据写入topic的写入时间(即开始测试时间)。
68.进一步地，服务器可以根据源数据以及多个中间层对应的数据处理规则，确定源数据对应的多个中间层的采集对象。如此，可以基于多个中间层对于数据处理的逻辑，确定多个中间层的采集对象，便于后续对采集对象进行采集。
69.具体地，服务器可以根据源数据的topic以及多个中间层对应的数据处理规则，确定源数据对应的多个中间层的topic，接着根据多个中间层的topic，确定源数据对应的多个中间层的采集对象。例如，采集对象可以为消息消费者consumer。
70.在kafka中，多个中间层可以包括贴源层、明细层和汇总层。其中，贴源层用于源数据加载至其他中间层中，支持追加算法、增转全等功能。明细层用于实时处理贴源层的消息队列，通过数据清洗的步骤，完成数据关联加工，得到明细数据，并将明细数据与批量离线数据融合。明细层中的数据有两个流向，一部分直接落地到分析型数据库ads中，供实时明细查询使用，另一部分发送到消息队列中，供下一层计算使用。汇总层可以分为轻度汇总层和高度汇总层。轻度汇总层的数据写入分析型数据库ads，用于复杂的olap指标查询场景，满足自助分析和产出报表的需求；高度汇总层的数据写入hbase，用于简单的kv查询场景，
提升查询性能。
71.服务器根据贴源层、明细层和汇总层的数据处理规则，可以确定出贴源层、明细层和汇总层的topic，从而可以根据topic中的订阅关系，确定贴源层、明细层和汇总层的采集对象consumer。如此，在kafka中可以获得采集对象，从而对于数据处理效率进行测试。
72.s102：服务器以设定的采集频率，采集多个中间层的采集对象，获得多个偏移量。
73.在kafka中，服务器可以以设定的采集频率，采集贴源层、明细层和汇总层的consumer，从而获得贴源层、明细层和汇总层的偏移量offset。
74.s103：服务器根据多个偏移量，确定源数据的效率测试结果。
75.具体地，服务器可以根据多个偏移量，确定至少一个偏移量差值，其中，至少一个偏移量差值为多个中间层中相邻的中间层的偏移量的差值，接着根据至少一个偏移量差值，确定源数据的效率测试结果。
76.在kafka中，贴源层、明细层和汇总层的offset可以分别为offset1、offset2和offset3，服务器可以计算offset1与offset2的差值以及offset2与offset3的差值，确定偏移量差值，该偏移量差值也可以用于表征延迟率。
77.在本技术实施例中，通过多个中间件的偏移量差值，可以描述不同中间件的延迟率，从而获得不同中间件的延迟情况，以便对不同中间件的性能进行测试。
78.进一步地，服务器可以根据目标时间段内多个所述至少一个偏差量差值，生成目标时间段的偏移量差值曲线，根据该偏移量差值曲线，确定源数据的效率测试结果。
79.也就是说，服务器可以根据至少一个偏差量差值，获得偏差量差值曲线，再根据偏差量差值曲线的变化趋势(例如可以是斜率的变化趋势)，确定效率测试结果。如此，利用不同中间件的偏差量进行数据处理效率测试，测试结果准确率高，且稳定程度好。
80.该方法首先获取源数据以及源数据对应的多个中间层的采集对象，其中，多个中间层用于处理所述源数据，接着以设定的采集频率，采集多个中间层的采集对象，获得多个偏移量，根据多个偏移量，确定源数据的效率测试结果。
81.该方法通过采集数据处理过程中多个中间件的偏移量的方式进行数据处理的时效性测试，无需对数据进行抽取，即可获得数据处理效率测试结果，如此，不受数据不连续性的影响，测试结果具有稳定性和准确性。
82.基于本技术实施例提供的上述方法，本技术实施例还提供了与上述方法对应的数据处理效率测试装置。描述于本技术实施例中所涉及到的单元/模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元/模块的名称在某种情况下并不构成对该单元/模块本身的限定。
83.参见图2所示的数据处理效率测试装置的结构示意图，该装置200包括：
84.获取模块201，用于获取源数据以及所述源数据对应的多个中间层的采集对象，所述多个中间层用于处理所述源数据；
85.采集模块202，用于以设定的采集频率，采集所述多个中间层的采集对象，获得多个偏移量；
86.确定模块203，用于根据所述多个偏移量，确定所述源数据的效率测试结果。
87.在一些可能的实现方式中，所述确定模块203具体用于：
88.根据所述多个偏移量，确定至少一个偏移量差值，所述至少一个偏移量差值为所
述多个中间层中相邻的中间层的偏移量的差值；
89.根据所述至少一个偏移量差值，确定所述源数据的效率测试结果。
90.在一些可能的实现方式中，所述确定模块203具体用于：
91.根据目标时间段内多个所述至少一个偏移量差值，生成所述目标时间段内的偏移量差值曲线；
92.根据所述偏移量差值曲线，确定所述源数据的效率测试结果。
93.在一些可能的实现方式中，所述获取模块201具体用于：
94.获取配置信息，所述配置信息包括测试环境信息、源数据信息、测试时间信息中的一种或多种；
95.根据所述配置信息，获取源数据。
96.在一些可能的实现方式中，所述获取模块201具体用于：
97.根据所述源数据以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的采集对象。
98.在一些可能的实现方式中，所述获取模块201具体用于：
99.根据源数据的主题以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的主题；
100.根据所述多个中间层的主题，确定所述源数据对应的多个中间层的采集对象。
101.根据本技术实施例的数据处理效率测试装置200可对应于执行本技术实施例中描述的方法，并且数据处理效率测试装置200的各个模块/单元的上述和其它操作和/或功能分别为了实现图1所示实施例中的各个方法的相应流程，为了简洁，在此不再赘述。
102.本发明提供的数据处理效率测试方法可用于大数据领域或金融领域，上述领域仅为示例，并不对本发明提供的数据处理效率测试方法的应用领域进行限定。
103.本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。参见图3所示的实现数据处理效率测试的服务器300的结构示意图，需要说明的是，图3所示的服务器仅仅是一个示例，不应对本技术实施例的功能和使用范围带来任何限制。
104.如图3所示，服务器300可以包括处理装置(例如中央处理器、图形处理器等)301，其可以根据存储在只读存储器(rom)302中的程序或者从存储装置308加载到随机访问存储器(ram)303中的程序而执行各种适当的动作和处理。在ram303中，还存储有服务器300操作所需的各种程序和数据。处理装置301、rom 302以及ram 303通过总线304彼此相连。输入/输出(i/o)接口305也连接至总线304。
105.通常，以下装置可以连接至i/o接口305：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306；包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许服务器300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的服务器300，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
106.本技术还提供一种计算机可读存储介质，也称作机器可读介质。在本技术的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信
号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
107.需要说明的是，本技术上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本技术中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本技术中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、rf(射频)等等，或者上述的任意合适的组合。
108.上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该服务器执行时，使得服务器：获取源数据以及所述源数据对应的多个中间层的采集对象；以设定的采集频率，采集所述多个中间层的采集对象，获得多个偏移量；根据所述多个偏移量，确定所述源数据的效率测试结果。
109.特别地，根据本技术的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本技术的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置从网络上被下载和安装，或者从存储装置被安装。在该计算机程序被处理装置执行时，执行本技术实施例的方法中限定的上述功能。
110.尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
111.虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本技术的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
112.以上描述仅为本技术的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本技术中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行
任意组合而形成的其它技术方案。例如上述特征与本技术中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

技术特征：
1.一种数据处理效率测试方法，其特征在于，所述方法包括：获取源数据以及所述源数据对应的多个中间层的采集对象，所述多个中间层用于处理所述源数据；以设定的采集频率，采集所述多个中间层的采集对象，获得多个偏移量；根据所述多个偏移量，确定所述源数据的效率测试结果。2.根据权利要求1所述的方法，其特征在于，所述根据所述多个偏移量，确定所述源数据的效率测试结果，包括：根据所述多个偏移量，确定至少一个偏移量差值，所述至少一个偏移量差值为所述多个中间层中相邻的中间层的偏移量的差值；根据所述至少一个偏移量差值，确定所述源数据的效率测试结果。3.根据权利要求2所述的方法，其特征在于，所述根据所述至少一个偏移量差值，确定所述源数据的效率测试结果，包括：根据目标时间段内多个所述至少一个偏移量差值，生成所述目标时间段内的偏移量差值曲线；根据所述偏移量差值曲线，确定所述源数据的效率测试结果。4.根据权利要求1所述的方法，其特征在于，所述获取源数据，包括：获取配置信息，所述配置信息包括测试环境信息、源数据信息、测试时间信息中的一种或多种；根据所述配置信息，获取源数据。5.根据权利要求1所述的方法，其特征在于，所述获取所述源数据对应的多个中间层的采集对象，包括：根据所述源数据以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的采集对象。6.根据权利要求5所述的方法，其特征在于，所述根据所述源数据以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的采集对象，包括：根据源数据的主题以及多个中间层对应的数据处理规则，确定所述源数据对应的多个中间层的主题；根据所述多个中间层的主题，确定所述源数据对应的多个中间层的采集对象。7.一种数据处理效率测试装置，其特征在于，所述装置包括：获取模块，用于获取源数据以及所述源数据对应的多个中间层的采集对象，所述多个中间层用于处理所述源数据；采集模块，用于以设定的采集频率，采集所述多个中间层的采集对象，获得多个偏移量；确定模块，用于根据所述多个偏移量，确定所述源数据的效率测试结果。8.一种服务器，其特征在于，所述服务器包括处理器和存储器，所述存储器中存储有指令，所述处理器执行所述指令，以使所述服务器执行如权利要求1至6任一项所述的方法。9.一种计算机可读存储介质，其特征在于，包括计算机可读指令，当所述计算机可读指令在服务器上运行时，使得所述服务器执行如权利要求1至6中任一项所述的方法。10.一种计算机程序产品，其特征在于，包括计算机可读指令，当所述计算机程序产品
在服务器上运行时，使得所述服务器执行如权利要求1至6中任一项所述的方法。

技术总结
本申请提供了一种数据处理效率测试方法、装置、服务器、介质及产品，可应用于大数据领域或金融领域，该方法包括：获取源数据以及源数据对应的多个中间层的采集对象，其中，多个中间层用于处理所述源数据；以设定的采集频率，采集多个中间层的采集对象，获得多个偏移量；根据所述多个偏移量，确定源数据的效率测试结果。该方法通过采集数据处理过程中多个中间件的偏移量的方式进行数据处理的时效性测试，无需对数据进行抽取，即可获得数据处理效率测试结果，如此，不受数据不连续性的影响，测试结果具有稳定性和准确性。具有稳定性和准确性。具有稳定性和准确性。


技术研发人员：王世玲
受保护的技术使用者：中国银行股份有限公司
技术研发日：2023.07.13
技术公布日：2023/10/8