能源设备量测项数据流式计算方法、装置、设备及介质与流程

1.本发明涉及量测项数据流式计算技术领域,具体涉及一种能源设备量测项数据流式计算方法、装置、设备及介质。
背景技术:
2.能源设备量测项数据经物联前置服务采集,然后进行数据格式化,通过消息中间件发送时间项数据,经过流式计算可获取指标和告警信息,从而用于能源监控、能源分析和运营管理。面向场景为大批量设备量测数据周期性产生,量测数据需根据设备的关系进行多次计算和在数据采集过程中同步完成计算。
3.相关进行流式计算的步骤包括步骤一: 缓存固定时间窗口内的量测数据;步骤二: 在下一个窗口来临时对缓存的数据进行处理,对同一量测项的多次数据保留时间戳最新的,然后把形成的数据集进行后续处理;步骤三: 将步骤二形成的数据集合并到全量数据池中,合并规则是如果池中没有该数据项就添加,如果存在就用步骤三中数据集合中数据覆盖数据池中对应数据项;步骤四: 根据步骤三形成的数据集合筛选计算公式,如果公式引用的数据在该数据集合中则选择该公式,最终形成待计算的公式列表;步骤五: 对形成的待计算的公式列表集中进行计算,为提升形成采用线程池进行并行计算;步骤六: 计算出的结果输出到时序数据库记录。
4.这种计算方式如果数据指标数及时间窗口比较长时导致内存消耗比较高,在时间窗口结束计算时同一指标数据仅需要在这段时间里时间戳最新的那项数据;数据按照树形结构,在内存中存储,在更新和获取时都需要对整棵树的遍历,效率低而且容易存在并发访问的数据同步问题;单项数据更新导致所有的公式就要被遍历,为提升效率,采用了集中的多线程的模式,这导致并发机制,存在数据处理量的上限;计算出的指标被用于有更大集合关系的数据项的计算,因而既是数据的消费者,也是数据的生产者,这容易出现触发不必要的计算和数据的无限值的生成和消费。
技术实现要素:
5.现有的计算方式如果数据指标数及时间窗口比较长时导致内存消耗比较高,在时间窗口结束计算时同一指标数据仅需要在这段时间里时间戳最新的那项数据;数据按照树形结构,在内存中存储,在更新和获取时都需要对整棵树的遍历,效率低而且容易存在并发访问的数据同步问题,本发明提供一种能源设备量测项数据流式计算方法、装置、设备及介质。
6.第一方面,本发明技术方案提供一种能源设备量测项数据流式计算方法,包括如下步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据
处理并更新公式id对应的公式数据池;在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算;将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性,继续处理。
7.作为本发明技术方案的进一步限定,对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性的步骤包括:对接收到的时间项数据根据设备编码进行分拣;获取并遍历公式列表,判断分拣后的数据是否被计算公式引用;若是,获取引用该数据的所有计算公式的公式id并记录获取的公式id的数量n;将该数据复制n-1次生成n个相同的数据并将这n个相同的数据与n个公式id一一对应,每个数据增加对应的公式id作为属性;若否,将数据存入时序数据库。
8.作为本发明技术方案的进一步限定,逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池的步骤包括:逐个按照公式id将被计算公式引用的数据进行汇聚;将汇聚后的数据根据流式计算规则进行数据处理;将处理后的数据更新到公式id对应的公式数据池中。
9.作为本发明技术方案的进一步限定,在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算的步骤包括:在限定的时间窗口中判断公式数据池是否有更新;若是,将该公式数据池对应的公式增加待计算标识;时间窗口结束时,根据待计算标识触发对应公式的计算;若否,进行下一个时间窗口的处理。
10.作为本发明技术方案的进一步限定,时间窗口结束时,根据待计算标识触发对应公式的计算的步骤包括:时间窗口结束时,判断待计算标识是否存在;若是,触发待计算标识对应的公式进行计算;若否,进行下一个时间窗口的处理。
11.作为本发明技术方案的进一步限定,将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性,继续处理的步骤包括:将计算结果保存在时序数据库;判断计算结果中的数据是否被计算公式引用;若是,返回步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性,继续处理;若否,结束。
12.第二方面,本发明技术方案提供一种能源设备量测项数据流式计算装置,包括分
拣处理模块、公式数据封装模块、执行计算模块和结果处理模块;分拣处理模块,用于对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;公式数据封装模块,用于逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池;执行计算模块,用于在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算;结果处理模块,用于将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回分拣处理模块中继续处理。
13.作为本发明技术方案的进一步限定,分拣处理模块包括分拣单元、引用判断单元和处理单元;分拣单元,用于对接收到的时间项数据根据设备编码进行分拣;引用判断单元,用于获取并遍历公式列表,判断分拣后的数据是否被计算公式引用;若是触发处理单元,若否,将数据存入时序数据库;处理单元,用于获取引用该数据的所有计算公式的公式id并记录获取的公式id的数量n;将该数据复制n-1次生成n个相同的数据并将这n个相同的数据与n个公式id一一对应,每个数据增加对应的公式id作为属性。
14.作为本发明技术方案的进一步限定,公式数据封装模块包括数据汇聚单元、流式处理单元和更新单元;数据汇聚单元,用于逐个按照公式id将被计算公式引用的数据进行汇聚;流式处理单元,用于将汇聚后的数据根据流式计算规则进行数据处理;更新单元,用于将处理后的数据更新到公式id对应的公式数据池中。
15.作为本发明技术方案的进一步限定,执行计算模块包括更新判断单元、标识设置单元和计算触发单元;更新判断单元,用于在限定的时间窗口中判断公式数据池是否有更新;标识设置单元,用于将该公式数据池对应的公式增加待计算标识;计算触发单元,用于时间窗口结束时,根据待计算标识触发对应公式的计算。
16.作为本发明技术方案的进一步限定,计算触发单元,用于时间窗口结束时,判断待计算标识是否存在;若是,触发待计算标识对应的公式进行计算。
17.第三方面,本发明技术方案还提供一种电子设备,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;存储器存储有可被至少一个处理器执行的计算机程序指令,所述计算机程序指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如第一方面所述的能源设备量测项数据流式计算方法。
18.第四方面,本发明技术方案还提供一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行如第一方面所述的能源设备量测项数据流式计算方法。
19.从以上技术方案可以看出,本发明具有以下优点:本发明通过数据按照计算引用关系进行分拣和存储,避免了对大量数据的集中存储,减少了对数据的并发访问;通过对数据的分流,对分支流中的数据处理简化;逐个按照公式id将被计算公式引用的数据进行汇
聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池,时间窗口结束时,对有数据更新的公式数据池进行计算,实现了计算在分布式计算节点上的自由分布,实现了横向扩展。
20.此外,本发明设计原理可靠,结构简单,具有非常广泛的应用前景。
21.由此可见,本发明与现有技术相比,具有突出的实质性特点和显著地进步,其实施的有益效果也是显而易见的。
附图说明
22.为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
23.图1是本发明一个实施例的方法的示意性流程图。
24.图2是本发明一个实施例的装置的示意性框图。
具体实施方式
25.为了使本技术领域的人员更好地理解本发明中的技术方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
26.流式计算是大数据的一种重要计算模式,与传统的基于确定数据规模的批量计算不同,流计算具有数据规模无限,数据到达连续、快速、无序,数据不稳定,数据处理多样化等特点。本发明实施例中提到的流式计算特指flink。
27.如图1所示,本发明实施例提供一种能源设备量测项数据流式计算方法,包括如下步骤:步骤1:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;步骤2:逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池;步骤3:在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算;步骤4:将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回步骤1,继续处理。
28.能源设备量测项数据经物联前置服务采集,然后进行数据格式化(设备编码、量测项数据和时间戳),通过消息中间件发送时间项数据,接收到时间项数据后,根据设备编码进行分拣。设备编码和量测项数据可以确定数据标识;设备间逻辑关系可通过公式描述,公式和数据标识具有映射关系,从而可以使用流式计算根据公式进行数据处理,如计算设备电压或功率总和,通过与阈值比较来判断是否发出告警信息。
29.在本发明实施例中,对接收到的时间项数据根据设备编码进行分拣,并将分拣后
的被计算公式引用的数据增加公式id作为属性的步骤包括:步骤11:对接收到的时间项数据根据设备编码进行分拣;步骤12:获取并遍历公式列表,判断分拣后的数据是否被计算公式引用;若是,执行步骤13;若否,执行步骤15;步骤13:获取引用该数据的所有计算公式的公式id并记录获取的公式id的数量n;步骤14:将该数据复制n-1次生成n个相同的数据并将这n个相同的数据与n个公式id一一对应,每个数据增加对应的公式id作为属性;步骤15:将数据存入时序数据库。
30.根据设备编码进行数据分拣;设备编码、量测项数据确定数据标识,公式与数据标识具有映射关系;map《formulaid,list《data》》,相应的数据标识写入公式id对应的集合中;不被公式引用的数据不做处理。通过可视化界面可配置公式,通过缓存获取到公式列表;时间项数据首先根据设备编码进行分拣(keybymachineid),设备编码和量测项数据确定数据标识,公式id和数据标识具有用映射关系,可以填充到公式id对应的集合(也就是公式数据池)中;可以一个数据写入多个公式id对应的集合中。
31.在本发明实施例中,逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池的步骤包括:步骤21:逐个按照公式id将被计算公式引用的数据进行汇聚;步骤22:将汇聚后的数据根据流式计算规则进行数据处理;步骤23:将处理后的数据更新到公式id对应的公式数据池中。
32.按照公式id进行汇聚(keybyformulaid),定义流式计算规则,对时间项数据如何进行处理,比如保留最后数据、取平均值、方差、最大值或者最小等;一个计算公式对应一个算子,根据流式计算规则进行数据处理,例如,逐个按照公式id进行汇聚,对设备编码对应的量测数据保留最后时间戳的数据,并更新到该公式数据池中。
33.在本发明实施例中,在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算的步骤包括:步骤31:在限定的时间窗口中判断公式数据池是否有更新;若是,执行步骤32;若否,执行步骤1进行下一个时间窗口的处理;步骤32:将该公式数据池对应的公式增加待计算标识;步骤33:时间窗口结束时,根据待计算标识触发对应公式的计算;在这里需要说明的是,时间窗口结束时,根据待计算标识触发对应公式的计算的步骤包括:时间窗口结束时,判断待计算标识是否存在;若是,触发待计算标识对应的公式进行计算;若否,进行下一个时间窗口的处理。
34.进一步需要说明的是,公式数据池是否有数据更新的判断如下:只要时间项数据对应数据表示发生变化(量测项数据发生变化,在这里,可以是数据本身没有变但是时间戳发生变化这个也属于数据发生了变化),即公式id对应的集合有更新,则对该公式增加待计算标识。时间窗口结束,根据待计算标识来触发是否进行计算。
35.进一步需要说明的是,将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回步骤1中继续处理的步骤包括:将计算结果保存在时序数据库;判断计算结果中的数据是否被计算公式引用;若
是,返回步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性,继续处理;若否,结束。
36.被计算出的结果被保存入时序数据库和主题为snake_formula_result 的消息队列中,并执行步骤1中数据分拣时的判定,对有公式引用的数据才回送到步骤1继续处理。比如,对于某些公式,此时计算结果属于中间过程,作为输入值进行再次计算(如,照明系统采集的值是单个设备的能耗,公式一计算单层楼的照明能耗(单个设备能耗值和),公式二计算一栋楼的照明能耗(所有层照明能耗值之和),公式二的输入项是公式一的计算结果,此时需要回送到步骤1进行计算)。计算最终结果保存到时序数据库用于可视化界面显示,以及通过消息中间件发出些告警信息。
37.本发明按照公式对时间项量测数据的引用关系对量测数据进行分解和存储,实现数据项的聚合,避免无关数据混杂和干扰,可以提升处理效率;数据分拣环节是按照量测数据的设备编码做流量切分,每个分拣处理分拣操作简单高效,且是并行的,后续的计算环节按照公式做数据流量的切分,每个数据流分支都可以并行方式执行处理;只有在时间窗口内接收到的数据和计算公式相关,被分拣到计算环节对应的流中才会触发对应公式的计算,这可以保证避免重复计算及数据的无限循环;公式及所需要的数据被封装为一个单元,单元中所有数据是可序列化的,可以在多个计算节点间部署和移动,这支持增加计算节点计算能力伸缩的实现,从而数据处理上限是和最大可投入节点数关联,不被限制在单一节点上。
38.如图2所示,本发明实施例提供一种能源设备量测项数据流式计算装置,包括分拣处理模块、公式数据封装模块、执行计算模块和结果处理模块;分拣处理模块,用于对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;公式数据封装模块,用于逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池;执行计算模块,用于在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算;结果处理模块,用于将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回分拣处理模块中继续处理。
39.在本发明实施例中,分拣处理模块包括分拣单元、引用判断单元和处理单元;分拣单元,用于对接收到的时间项数据根据设备编码进行分拣;引用判断单元,用于获取并遍历公式列表,判断分拣后的数据是否被计算公式引用;若是触发处理单元,若否,将数据存入时序数据库;处理单元,用于获取引用该数据的所有计算公式的公式id并记录获取的公式id的数量n;将该数据复制n-1次生成n个相同的数据并将这n个相同的数据与n个公式id一一对应,每个数据增加对应的公式id作为属性。
40.在本发明实施例中,公式数据封装模块包括数据汇聚单元、流式处理单元和更新单元;数据汇聚单元,用于逐个按照公式id将被计算公式引用的数据进行汇聚;流式处理单元,用于将汇聚后的数据根据流式计算规则进行数据处理;
更新单元,用于将处理后的数据更新到公式id对应的公式数据池中。
41.在本发明实施例中,执行计算模块包括更新判断单元、标识设置单元和计算触发单元;更新判断单元,用于在限定的时间窗口中判断公式数据池是否有更新;标识设置单元,用于将该公式数据池对应的公式增加待计算标识;计算触发单元,用于时间窗口结束时,根据待计算标识触发对应公式的计算;具体用于时间窗口结束时,判断待计算标识是否存在;若是,触发待计算标识对应的公式进行计算。
42.本发明实施例还提供一种电子设备,所述电子设备包括:处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信。通信总线可以用于电子设备与传感器之间的信息传输。处理器可以调用存储器中的逻辑指令,以执行如下方法:步骤1:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;步骤2:逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池;步骤3:在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算;步骤4:将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回步骤1,继续处理。
43.此外,上述的存储器中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-only memory)、随机存取存储器(ram,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
44.本发明实施例提供一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令使计算机执行上述方法实施例所提供的方法,例如包括:步骤1:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;步骤2:逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池;步骤3:在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算;步骤4:将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回步骤1,继续处理。
45.尽管通过参考附图并结合优选实施例的方式对本发明进行了详细描述,但本发明并不限于此。在不脱离本发明的精神和实质的前提下,本领域普通技术人员可以对本发明的实施例进行各种等效的修改或替换,而这些修改或替换都应在本发明的涵盖范围内/任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
技术特征:
1.一种能源设备量测项数据流式计算方法,其特征在于,包括如下步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池;在限定的时间窗口中公式数据池有数据更新,时间窗口结束时将有更新的公式数据池进行公式计算;将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性,继续处理。2.根据权利要求1所述的能源设备量测项数据流式计算方法,其特征在于,对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性的步骤包括:对接收到的时间项数据根据设备编码进行分拣;获取并遍历公式列表,判断分拣后的数据是否被计算公式引用;若是,获取引用该数据的所有计算公式的公式id并记录获取的公式id的数量n;将该数据复制n-1次生成n个相同的数据并将这n个相同的数据与n个公式id一一对应,每个数据增加对应的公式id作为属性;若否,将数据存入时序数据库。3.根据权利要求2所述的能源设备量测项数据流式计算方法,其特征在于,逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池的步骤包括:逐个按照公式id将被计算公式引用的数据进行汇聚;将汇聚后的数据根据流式计算规则进行数据处理;将处理后的数据更新到公式id对应的公式数据池中。4.根据权利要求3所述的能源设备量测项数据流式计算方法,其特征在于,在限定的时间窗口中公式数据池有数据更新,时间窗口结束时将有更新的公式数据池进行公式计算的步骤包括:在限定的时间窗口中判断公式数据池是否有更新;若是,将该公式数据池对应的公式增加待计算标识;时间窗口结束时,根据待计算标识触发对应公式的计算;若否,进行下一个时间窗口的处理。5.根据权利要求4所述的能源设备量测项数据流式计算方法,其特征在于,时间窗口结束时,根据待计算标识触发对应公式的计算的步骤包括:时间窗口结束时,判断待计算标识是否存在;若是,触发待计算标识对应的公式进行计算;若否,进行下一个时间窗口的处理。6.一种能源设备量测项数据流式计算装置,其特征在于,包括分拣处理模块、公式数据封装模块、执行计算模块和结果处理模块;
分拣处理模块,用于对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式id作为属性;公式数据封装模块,用于逐个按照公式id将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式id对应的公式数据池;执行计算模块,用于在限定的时间窗口中公式数据池有更新,时间窗口结束时将有更新的公式数据池进行公式计算;结果处理模块,用于将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回分拣处理模块中继续处理。7.根据权利要求6所述的能源设备量测项数据流式计算装置,其特征在于,公式数据封装模块包括数据汇聚单元、流式处理单元和更新单元;数据汇聚单元,用于逐个按照公式id将被计算公式引用的数据进行汇聚;流式处理单元,用于将汇聚后的数据根据流式计算规则进行数据处理;更新单元,用于将处理后的数据更新到公式id对应的公式数据池中。8.根据权利要求7所述的能源设备量测项数据流式计算装置,其特征在于,执行计算模块包括更新判断单元、标识设置单元和计算触发单元;更新判断单元,用于在限定的时间窗口中判断公式数据池是否有更新;标识设置单元,用于将该公式数据池对应的公式增加待计算标识;计算触发单元,用于时间窗口结束时,根据待计算标识触发对应公式的计算。9.一种电子设备,其特征在于,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;存储器存储有可被至少一个处理器执行的计算机程序指令,所述计算机程序指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至5中任一项所述的能源设备量测项数据流式计算方法。10.一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行如权利要求1至5任一项所述的能源设备量测项数据流式计算方法。
技术总结
本发明属于数据流式计算技术领域,具体提供一种能源设备量测项数据流式计算方法、装置、设备及介质,所述方法包括如下步骤:对接收到的时间项数据根据设备编码进行分拣,并将分拣后的被计算公式引用的数据增加公式ID作为属性;逐个按照公式ID将被计算公式引用的数据进行汇聚,根据流式计算规则进行数据处理并更新公式ID对应的公式数据池;在限定的时间窗口中公式数据池有数据更新,时间窗口结束时将有更新的公式数据池进行公式计算;将计算结果保存在时序数据库,并将计算结果中被计算公式引用的数据返回第一步,继续分拣处理。按照公式引用关系进行分拣和存储,避免了对大量数据的集中存储,减少了对数据的并发访问。减少了对数据的并发访问。减少了对数据的并发访问。
技术研发人员:焦心愿 王孟强 张治志 利润霖 蔡振聪 冯德超 吕瑞光 王颖 邢晓林 徐哲男
受保护的技术使用者:国网信息通信产业集团有限公司
技术研发日:2023.09.08
技术公布日:2023/10/15
版权声明
本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
航空之家 https://www.aerohome.com.cn/
飞机超市 https://mall.aerohome.com.cn/
航空资讯 https://news.aerohome.com.cn/