提供AI服务的方法、装置及系统与流程

提供ai服务的方法、装置及系统
技术领域
1.本公开涉及通信技术领域，特别涉及提供ai服务的方法、装置及系统、计算机可存储介质。


背景技术：

2.在移动通信网络为移动终端提供相关的ai(artificial intelligence，人工智能)服务的过程中，当移动终端在不同区域之间移动时，其相关的ai服务的服务者也可能需要变更。然而，由于ai服务的特点，不同场景或需求对模型和算法的要求差异大。有些ai模型对训练的时延、训练的带宽和训练资源等要求高或者对推理分析的时效性要求高。
3.相关的3gpp(3rd generation partnership project，第三代合作伙伴计划)规范中，仅在移动终端已经从第一ai服务网元切换到第二ai服务网元时，考虑了如何支持ai服务连续性。


技术实现要素：

4.相关技术中，没有考虑如何在为移动终端提供ai服务的ai服务网元发生变更的情况下，如何保障ai服务的时效性。
5.针对上述技术问题，本公开提出了一种解决方案，可以保障ai服务的时效性，提高ai服务的效率。
6.根据本公开的第一方面，提供了一种提供人工智能ai服务的方法，由第一ai服务网元执行，包括：在为移动终端提供ai服务的过程中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息；在所预测的情况信息指示在未来时间发生ai服务网元变成的情况下，获取所述ai服务对应的ai模型的模型信息和所述ai模型在所述未来时间的预期上下文信息，其中，所述未来时间的预期上下文信息包括所述未来时间；发送所述ai模型的模型信息和所述未来时间的预期上下文信息到所述移动终端在所述未来时间切换到的第二ai服务网元，其中，所述ai模型的模型信息和所述未来时间的预期上下文信息用于指导所述第二ai服务网元提前为所述移动终端在所述未来时间的ai服务进行服务准备。
7.在一些实施例中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息包括：预测所述移动终端的未来移动轨迹，以预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息，其中，在所述未来移动轨迹指示所述移动终端在未来时间即将从当前区域移动到其他区域的情况下，所预测的情况信息指示所述移动终端在未来时间发生区域切换而触发ai服务网元变更。
8.在一些实施例中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息包括：确定参与所述第一ai服务网元为所述移动终端提供的ai服务的设备，作为参与设备；预测所述移动终端到所述第一ai服务网元之间所处网络的未来拥塞情况和参与设备的未来资源消耗情况中的至少一种，以预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息，其中，在所述未来拥塞情况和未来资源消耗情况中的至少
一种在所述未来时间满足切换条件的情况下，所预测的情况信息指示在未来时间发生ai服务网元变更。
9.在一些实施例中，所述未来拥塞情况包括一个或多个衡量网络拥塞的指标值，所述资源消耗情况包括一个或多个衡量资源消耗的指标值，所述切换条件包括以下中的至少一种：所述一个或多个衡量网络拥塞的指标值中的至少一个落入第一预设指标值范围内；所述一个或多个衡量资源消耗的指标值中的至少一个落入第二预设指标范围内。
10.在一些实施例中，提供ai服务的方法，还包括：在发送所述ai模型的模型信息和所述未来时间的预期上下文信息到所述第二ai服务网元之后且所述移动终端没有切换到所述第二ai服务网元之前，继续预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息；在所预测的情况信息发生变化的情况下，根据变化后的情况信息，更新并发送所述ai模型的模型信息和所述未来时间的预期上下文信息中的至少一种到所述移动终端在所述未来时间切换到的第二ai服务网元。
11.在一些实施例中，提供ai服务的方法，还包括：在所述移动终端没有切换到所述第二ai服务网元之前，监测所述ai模型在所述未来时间的预期上下文信息；在所述ai模型在所述未来时间的预期上下文信息发生变化的情况下，更新并发送所述未来时间的预期上下文信息到所述第二ai服务网元。
12.在一些实施例中，提供ai服务的方法，还包括：在所述移动终端在所述未来时间切换到所述第二ai服务网元的情况下，发送所述ai模型在所述未来时间的实际上下文信息到所述第二ai服务网元，其中，所述实际上下文信息用于指导所述第二ai服务网元更新所述服务准备。
13.在一些实施例中，提供ai服务的方法，还包括：在所述移动终端在所述未来时间切换到所述第二ai服务网元的情况下，发送所述移动终端的签约信息到所述第二ai服务网元。
14.在一些实施例中，提供ai服务的方法，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息包括：请求除所述第一ai服务网元以外的其他ai服务网元来预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息。
15.在一些实施例中，所述模型信息包括模型结构信息和模型参数信息，所述预期上下文信息还包括所述ai模型的资源算力需求信息。
16.在一些实施例中，在所述ai服务为与学习任务相关的服务的情况下，所述预期上下文信息还包括学习任务的预期进展情况；在所述ai服务为与分析任务相关的服务的情况下，所述预期上下文信息还包括分析任务的模型拆分点。
17.在一些实施例中，提供ai服务的方法，还包括：对于所述ai服务为与分析任务相关的服务的情况：在所述移动终端在所述未来时间切换到所述第二ai服务网元且所述第一ai服务网元仍未完成所述分析任务的情况下，基于所述第二ai服务网元的订阅操作，发送完成所述分析任务后得到的分析结果到所述第二ai服务网元，以便所述第二ai服务网元发送所述分析结果到所述移动终端。
18.在一些实施例中，提供ai服务的方法，还包括：接收来自消费者针对所述移动终端的ai服务请求，其中，所述ai服务请求包括服务类型；向所述移动终端提供与所述服务类型对应的ai服务。
19.根据本公开第二方面，提供了一种提供人工智能ai服务的装置，部署于与第一区域对应的第一ai服务网元，包括：预测模块，被配置为在为移动终端提供ai服务的过程中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息；获取模块，被配置为在所预测的情况信息指示在未来时间发生ai服务网元变更的情况下，获取所述ai服务对应的ai模型的模型信息和所述ai模型在所述未来时间的预期上下文信息，其中，所述未来时间的预期上下文信息包括所述未来时间；发送模块，被配置为发送所述ai模型的模型信息和所述未来时间的预期上下文信息到所述移动终端在所述未来时间切换到的第二ai服务网元，其中，所述ai模型的模型信息和所述未来时间的预期上下文信息用于指导所述第二ai服务网元提前为所述移动终端在所述未来时间的ai服务进行服务准备。
20.根据本公开第三方面，提供了一种提供人工智能ai服务的装置，包括：存储器；以及耦接至所述存储器的处理器，所述处理器被配置为基于存储在所述存储器的指令，执行上述任一实施例所述的提供人工智能ai服务的方法。
21.根据本公开的第四方面，提供了一种提供人工智能ai服务的系统，包括：上述任一实施例所述的提供ai服务的装置。
22.在一些实施例中，提供ai服务的系统，还包括：第二ai服务网元，被配置为根据ai模型的模型信息和未来时间的预期上下文信息，提前为移动终端在所述未来时间的ai服务进行服务准备。
23.在一些实施例中，提供ai服务的系统，还包括：除所述第一ai服务网元以外的其他ai服务网元，被配置为响应于来自所述提供ai服务的装置的请求，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息，并发送预测的情况信息到所述提供ai服务的装置。
24.在一些实施例中，提供ai服务的系统，还包括：消费者，被配置为发送针对移动终端的ai服务请求到所述提供ai服务的装置，其中，所述ai服务请求包括服务类型；其中，所述提供ai服务的装置还被配置为向移动终端提供与所述服务类型对应的ai服务。
25.根据本公开的第五方面，提供了一种计算机可存储介质，其上存储有计算机程序指令，该指令被处理器执行时实现上述任一实施例所述的提供ai服务的方法。
26.在上述实施例中，可以保障ai服务的时效性，提高ai服务的效率。
附图说明
27.构成说明书的一部分的附图描述了本公开的实施例，并且连同说明书一起用于解释本公开的原理。
28.参照附图，根据下面的详细描述，可以更加清楚地理解本公开，其中：
29.图1是示出根据本公开一些实施例的提供ai服务的方法的流程图；
30.图2是示出根据本公开一些实施例的提供ai服务的装置的框图；
31.图3是示出根据本公开另一些实施例的提供ai服务的装置的框图；
32.图4是示出根据本公开一些实施例的提供ai服务的系统的框图；
33.图5是示出根据本公开一些实施例的提供ai服务的方法的信令图；
34.图6是示出用于实现本公开一些实施例的计算机系统的框图。
具体实施方式
35.现在将参照附图来详细描述本公开的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
36.同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
37.以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。
38.对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。
39.在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。
40.应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
41.图1是示出根据本公开一些实施例的提供ai服务的方法的流程图。
42.如图1所示，提供ai服务的方法包括步骤s110-步骤s130。提供ai服务的方法由第一ai服务网元执行。本公开提及的ai服务网元是为移动终端提供ai服务的网元。例如，ai服务网元包括nwdaf(network data analytics function,网络数据分析功能)网元。移动终端也称为ue(user equipment，用户设备)。
43.在步骤s110中，在为移动终端提供ai服务的过程中，预测为移动终端提供ai服务的ai服务网元在未来发生变更的情况信息。
44.在一些实施例中，预测移动终端的未来移动轨迹，以预测为移动终端提供ai服务的ai服务网元在未来发生变更的情况信息。在未来移动轨迹指示移动终端在未来时间即将由当前区域移动到其他区域的情况下，所预测的情况信息指示移动终端在未来时间发生区域切换而出发ai服务网元变更。在一些实施例中，根据移动终端的历史移动轨迹，预测移动终端的未来移动轨迹。例如，可以利用机器学习模型，根据移动终端的历史移动轨迹，预测移动终端的未来移动轨迹。
45.在另一些实施例中，确定参与第一ai服务网元为移动终端提供的ai服务的设备，作为参与设备。预测移动终端到第一ai服务网元之间所处网络的未来拥塞情况和参与设备的未来资源消耗情况中的至少一种，以预测为移动终端提供ai服务的ai服务网元在未来发生变更的情况信息。在未来拥塞情况和未来资源消耗情况中的至少一种在未来时间满足切换条件的情况下，所预测的情况信息指示在未来时间发生ai服务网元变更。这种情况下，移动终端预计会在未来时间从第一ai服务网元切换到其他ai服务网元。在一些实施例中，参与设备可以包括第一ai服务网元本身，也可以包括除第一ai服务网元以外的其他网元或设备。
46.在上述实施例中，通过未来移动轨迹的预测和/或网络拥塞或资源消耗中的至少一种的预测，以触发移动终端即将切换到的ai服务网元提前进行服务准备。通过这种方式，可以进一步保证ai服务的时效性，进一步提高ai服务的效率，进一步减少模型训练和推理分析等ai服务中断或失败的发生。
47.上述实施例只是发生ai服务网元变更的一些具体实施例，不代表全部实施方式。
48.在一些实施例中，未来拥塞情况包括一个或多个衡量网络拥塞的指标值。资源消耗情况包括一个或多个衡量资源消耗的指标值。切换条件包括以下中的至少一种：一个或多个衡量网络拥塞的指标值中的至少一个落入第一预设指标值范围内；和一个或多个衡量资源消耗的指标值中的至少一个落入第二预设指标范围内。例如，衡量网络拥塞的指标值包括网络时延、网络丢包率和网络吞吐量中的至少一种。例如，衡量资源消耗的指标值包括剩余可用资源量。
49.在一些实施例中，可以请求除所述第一ai服务网元以外的其他ai服务网元来预测为移动终端提供ai服务的ai服务网元在未来发生变更的情况信息。例如，其他ai服务网元可以是比第一ai服务网元的服务覆盖范围更广的ai服务网元。又例如，其他ai服务网元具备预测移动终端的设备切换或区域切换的情况信息的能力。
50.在一些实施例中，可以请求聚合ai服务网元预测上述情况信息。聚合ai服务网元作为全局ai服务网元，其服务区域大于第一ai服务网元的服务区域，用于协同各个区域的ai服务网元。聚合ai服务网元可以分析移动终端的全局切换情况，从而可以进一步提高未来切换情况信息预测的准确性，进而进一步保证ai服务的时效性，进一步提高ai服务的效率，进一步减少模型训练和推理分析等ai服务中断或失败的发生。
51.在步骤s120中，在所预测的情况信息指示在未来时间发生ai服务网元变更的情况下，获取ai服务对应的ai模型的模型信息和ai模型在未来时间的预期上下文信息。未来时间的预期上下文信息包括未来时间。
52.在一些实施例中，模型信息包括模型结构信息和模型参数信息。例如，模型参数信息包括模型本身的固有参数。在一些实施例中，模型参数信息还包括模型聚合相关信息等。模型聚合相关信息包括联邦学习中的聚合权重等。
53.在一些实施例中，预期上下文信息还包括ai模型的资源算力需求信息。例如，资源算力需求信息包括ai模型对cpu等资源的资源需求量。
54.在一些实施例中，在ai服务为与学习任务相关的服务的情况下，预期上下文信息还包括学习任务的预期进展情况。在ai服务为与分析任务相关的服务的情况下，预期上下文信息还包括分析任务的模型拆分点。例如，预期上下文信息还包括用户面信息等。
55.在一些实施例中，学习任务的预期进展情况称为学习任务的预期分割点。例如，对于未来时间，学习任务的预期分割点表示ai模型在未来时间的预期训练程度(例如，训练轮数等)。在一些实施例中，分析任务的模型拆分点表征ai模型的分析任务的功能拆分。例如，ai模型的一部分分析任务在网元中完成，一部分分析任务在移动终端侧完成。
56.在步骤s130中，发送ai模型的模型信息和ai模型在未来时间的预期上下文信息到移动终端在未来时间切换到的第二ai服务网元。ai模型的模型信息和ai模型在未来时间的预期上下文信息用于指导第二ai服务网元提前为移动终端在未来时间的ai服务进行服务准备。也就是说，ai模型的模型信息和未来时间的预期上下文信息被发送到第二ai服务网元后，触发第二ai服务网元根据ai模型的模型信息和未来时间的预期上下文信息，提前为移动终端在未来时间的ai服务进行服务准备。本公开的服务准备包括但不限于模型、资源部署等。在一些实施例中，第一ai服务网元还发送ai模型的数据源到第二ai服务网元。
57.在上述实施例中，通过预测移动终端在未来发生的ai服务网元变更的情况信息，
并在移动终端在未来发生ai服务网元变更的情况下，提前发送ai服务相对应的ai模型的模型信息和ai模型在未来时间的预期上下文信息到移动终端在未来时间切换到的第二ai服务网元，从而触发第二ai服务网元提前进行服务准备。通过这种方式，第二ai服务网元在未来时间时可以尽快为移动终端提供ai服务，从而保证ai服务的时效性，提高ai服务的效率，减少模型训练和推理分析等ai服务中断或失败的发生。
58.在一些实施例中，在发送ai模型的模型信息和未来时间的预期上下文信息到第二ai服务网元之后且移动终端没有切换到第二ai服务网元之前，继续预测为移动终端提供ai服务的ai服务网元在未来发生变更的情况信息。在所预测的情况信息发生变化的情况下，根据变化后的情况信息，更新并发送ai模型的模型信息和未来时间的预期上下文信息中的至少一种到移动终端在未来时间切换到的第二ai服务网元。
59.在一些实施例中，情况信息发生变化可以是未来时间发生变化，也可以是第二ai服务网元发生变化，还可能是两者都发生变化。在第二ai服务网元发生变化的情况下，第一ai服务网元还可通知更新前的第二ai服务网元删除服务更新的信息。
60.在上述实施例中，通过继续预测未来变更情况信息的方式，监测移动终端的未来变更情况信息是否发生变化，并在未来变更情况信息发生变化时及时更新发送给第二ai服务网元的模型信息和预期上下文信息，从而触发第二ai服务网元及时更新服务准备。通过这种方式，可以进一步保证ai服务的时效性，进一步提高ai服务的效率，进一步减少模型训练和推理分析等ai服务中断或失败的发生。
61.在一些实施例中，在所预测的情况信息没有发生变化、但是移动终端在未来时间切换到第二ai服务网元时与所预测的情况信息不符的情况下，还可以通知所预测的情况信息中指示的第二ai服务网元取消已经提前进行的服务准备并删除服务准备的相关信息。通知移动终端在未来时间实际切换到的第二ai服务网元进行服务准备。
62.在一些实施例中，在移动终端没有切换到第二ai服务网元之前，监测ai模型在未来时间的预期上下文信息。在ai模型在未来时间的预期上下文信息发生变化的情况下，更新并发送未来时间的预期上下文信息到第二ai服务网元。例如，这种情况下，移动终端的未来移动轨迹可能发生变化，也可能不会发生变化。例如，在移动终端的未来移动轨迹没有发生变化的情况下，未来时间的预期上下文信息可以是由于第一ai服务网元的服务进度提前或推迟而发生变化。
63.在上述实施例中，对预期上下文信息单独进行监测，可以兼顾由于区域切换以外的其他情况导致的信息更新，从而可以进一步保证ai服务的时效性，进一步提高ai服务的效率，进一步减少模型训练和推理分析等ai服务中断或失败的发生。
64.在一些实施例中，在移动终端在未来时间切换到第二ai服务网元的情况下，发送ai模型在未来时间的实际上下文信息到第二ai服务网元。实际上下文信息用于指导第二ai服务网元更新服务准备。
65.在上述实施例中，在利用预估上下文信息指导第二ai服务网元提前进行服务准备的前提下，在未来时间，第一ai服务网元还将实际上下文信息发送到第二ai服务网元，以触发目标关联设备或第二ai服务网元更新服务准备。通过这种方式，可以减少由于实际上下文信息于预估上下文信息存在偏差，导致ai服务失败的情况，从而可以进一步保证ai服务的时效性，进一步提高ai服务的效率，进一步减少模型训练和推理分析等ai服务中断或失
败的发生。
66.在一些实施例中，在移动终端在未来时间切换到第二ai服务网元的情况下，发送移动终端的签约信息到第二ai服务网元。例如，签约信息包括消费者的回调uri(uniform resource identifier，统一资源标志符)、收集数据的数据源id。在一些实施例中，移动终端的签约信息用于指导第二ai服务网元对移动终端进行签约鉴权。
67.在一些实施例中，对于ai服务为与分析任务相关的服务的情况，在移动终端在未来时间切换到第二ai服务网元且第一ai服务网元仍未完成分析任务的情况下，基于第二ai服务网元的订阅操作，发送完成分析任务后得到的分析结果到第二ai服务网元，以便第二ai服务网元发送分析结果到移动终端。
68.在一些实施例中，接收来自消费者针对移动终端的包括服务类型的ai服务请求。向移动终端提供与服务类型对应的ai服务。例如，消费者可以是核心网网元、应用方、其他域ai网元等。
69.图2是示出根据本公开一些实施例的提供ai服务的装置的框图。提供ai服务的装置部署于第一ai服务网元中。
70.如图2所示，提供ai服务的装置21包括预测模块211、获取模块212和发送模块213。
71.预测模块211被配置为在为移动终端提供ai服务的过程中，预测为移动终端提供ai服务的ai服务网元在未来发生变更的情况信息，例如执行如图1所示步骤s110。预测模块也可以称为ai分析及预测模块。
72.获取模块212被配置为在所预测的情况信息指示在未来时间发生ai服务网元变更的情况下，获取ai服务对应的ai模型的模型信息和ai模型在所述未来时间的预期上下文信息，其中，未来时间的预期上下文信息包括未来时间，例如执行如图1所示的步骤s120。
73.发送模块213被配置为发送ai模型的模型信息和未来时间的预期上下文信息到移动终端在未来时间切换到的第二ai服务网元，其中，ai模型的模型信息和未来时间的预期上下文信息用于指导第二ai服务网元提前为移动终端在未来时间的ai服务进行服务准备，例如执行如图1所示的步骤s130。
74.图3是示出根据本公开另一些实施例的提供ai服务的装置的框图。
75.如图3所示，提供ai服务的装置31包括存储器311；以及耦接至该存储器311的处理器312。存储器311用于存储执行提供ai服务的方法对应实施例的指令。处理器312被配置为基于存储在存储器311中的指令，执行本公开中任意一些实施例中的提供ai服务的方法。提供ai服务的装置31部署于第一ai服务网元中。
76.图4是示出根据本公开一些实施例的提供ai服务的系统的框图。
77.如图4所示，提供ai服务的系统4包括提供ai服务的装置41。提供ai服务的装置41部署在第一ai服务网元，执行本公开任意一些实施例中的提供ai服务的方法。
78.在一些实施例中，提供ai服务的系统4还包括第二ai服务网元42。第二ai服务网元42都被配置为根据ai模型的模型信息和未来时间的预期上下文信息，提前为移动终端在所述未来时间的ai服务进行服务准备。
79.在一些实施例中，提供ai服务的系统4还包括除第一ai服务网元以外的其他ai服务网元43。其他ai服务网元43被配置为响应于来自提供ai服务的装置的请求，预测移动终端的未来移动轨迹，并发送预测的未来移动轨迹到提供ai服务的装置41。例如，其他ai服务
网元43可以包括第二ai服务网元42。
80.在一些实施例中，提供ai服务的系统4还包括消费者44。消费者44被配置为发送针对移动终端的ai服务请求到提供ai服务的装置，其中，ai服务请求包括服务类型。提供ai服务的装置41还被配置为向移动终端提供与服务类型对应的ai服务。
81.下面将结合图5描述由于移动轨迹变化导致的区域切换情况下的提供ai服务的方法。其他情况下的方法类似，本公开不再赘述。
82.图5是示出根据本公开一些实施例的提供ai服务的方法的信令图。
83.如图5所示，提供ai服务的方法包括步骤s500-步骤s505。
84.在步骤s500中，消费者发送ai服务请求到区域1的ai服务网元。在一些实施例中，消费者根据需要分析的移动终端ue所处位置，向区域1的ai服务网元发起模型训练或分析请求等ai服务请求。
85.在步骤s501中，区域1的ai服务网元响应于消费者发送的ai服务请求为ue提供ai服务。例如，为ue提供模型训练或分析等ai服务。
86.在一些实施例中，在步骤s502a中，区域1的ai服务网元自主启动ue移动轨迹分析服务，以预测ue的未来移动轨迹。这种情况下，步骤s503a被执行。在步骤s503a中，区域1的ai服务网元在预测到ue即将离开区域1进入区域2的情况下，通知区域2的ai服务网元为ue进行服务准备。例如，通知消息中携带数据源、模型信息等。
87.在另一些实施例中，在步骤s502b中，区域1的ai服务网元自动触发请求聚合ai服务网元启动ue移动轨迹分析服务。这种情况下，步骤s503b和步骤s504被执行。在步骤s503b中，聚合ai服务网元在预测到ue即将离开区域1进入区域2的情况下，通知区域1的ai服务网元。在步骤s504中，区域1的ai服务网元通知区域2为ue进行服务准备。
88.步骤s501可以在步骤s502a或步骤s502b之前执行，也可以在其之后执行。
89.在区域1的ai服务网元通知区域2的ai服务网元进行服务准备后，步骤s505被执行。在步骤s505中，区域1的ai服务网元通知区域2的ai服务网元进行交互，以便区域2的ai服务网元获取到相关的上下文信息。这里的相关上下文信息即为前述实施例中的预期上下文信息。
90.在一些实施例中，提供ai服务的方法还包括步骤s506-步骤s507。
91.在ue尚未进入区域2的情况下，继续预测ue的未来移动轨迹，在未来移动轨迹发生变化的情况下，步骤s506被执行。在步骤s506中，区域1的ai服务网元通知区域2的ai服务网元更新服务准备。继续预测ue的未来移动轨迹可以参考步骤s502a、步骤s502b、步骤s503a、步骤s503b、步骤s504的实现过程。
92.在步骤s507中，区域1的ai服务网元通知区域2的ai服务网元进行交互，以便区域2的ai服务网元获取到相关的上下文信息。这里的相关上下文信息即为前述实施例中的预期上下文信息。
93.在一些实施例中，提供ai服务的方法还包括步骤s508-步骤s509。
94.在ue进入区域2时，步骤s508被执行。在步骤s508中，区域1的ai服务网元传递签约信息给区域2的ai服务网元。在步骤s509中，区域1的ai服务网元通知区域2的ai服务网元进行交互，以便区域2的ai服务网元获取到相关的上下文信息。这里的相关上下文信息即为前述实施例中的实际上下文信息。例如，在ai服务为分析服务的情况下，实际上下文信息还包
括表示分析(也称为推理)是否完成的信息。
95.在一些实施例中，提供ai服务的方法还包括步骤s510。在步骤s510中，在ue进入区域2之后，区域2的ai服务网元基于提前进行的服务准备继续为ue提供ai服务。
96.在一些实施例中，提供ai服务的方法还包括步骤s511-步骤s512。在步骤s511中，在区域1的ai服务网元为ue提供分析服务且在ue进入区域2时区域1的ai服务网元还未完成分析服务的情况下，区域2的ai服务网元与区域1的ai服务网元交互，完成区域2的ai服务网元订阅区域1的ai服务网元的分析结果的过程。
97.在步骤s512中，在区域1的ai服务网元完成分析服务后，发送分析结果到区域2的ai服务网元，以便区域2的ai服务网元发送分析结果到ue。
98.对于网络拥塞、资源消耗监测的实施例与上述图5的实施例类似，此处不再赘述。
99.图6是示出用于实现本公开一些实施例的计算机系统的框图。
100.如图6所示，计算机系统60可以通用计算设备的形式表现。计算机系统60包括存储器610、处理器620和连接不同系统组件的总线600。
101.存储器610例如可以包括系统存储器、非易失性存储介质等。系统存储器例如存储有操作系统、应用程序、引导装载程序(boot loader)以及其他程序等。系统存储器可以包括易失性存储介质，例如随机存取存储器(ram)和/或高速缓存存储器。非易失性存储介质例如存储有执行提供ai服务的方法的对应实施例的指令。非易失性存储介质包括但不限于磁盘存储器、光学存储器、闪存等。
102.处理器620可以用通用处理器、数字信号处理器(dsp)、应用专用集成电路(asic)、现场可编程门阵列(fpga)或其它可编程逻辑设备、分立门或晶体管等分立硬件组件方式来实现。相应地，诸如判断模块和确定模块的每个模块，可以通过中央处理器(cpu)运行存储器中执行相应步骤的指令来实现，也可以通过执行相应步骤的专用电路来实现。
103.总线600可以使用多种总线结构中的任意总线结构。例如，总线结构包括但不限于工业标准体系结构(isa)总线、微通道体系结构(mca)总线、外围组件互连(pci)总线。
104.计算机系统60还可以包括输入输出接口630、网络接口640、存储接口650等。这些接口630、640、650以及存储器610和处理器620之间可以通过总线600连接。输入输出接口630可以为显示器、鼠标、键盘等输入输出设备提供连接接口。网络接口640为各种联网设备提供连接接口。存储接口650为软盘、u盘、sd卡等外部存储设备提供连接接口。
105.这里，参照根据本公开实施例的方法、装置和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个框以及各框的组合，都可以由计算机可读程序指令实现。
106.这些计算机可读程序指令可提供到通用计算机、专用计算机或其他可编程装置的处理器，以产生一个机器，使得通过处理器执行指令产生实现在流程图和/或框图中一个或多个框中指定的功能的装置。
107.这些计算机可读程序指令也可存储在计算机可读存储器中，这些指令使得计算机以特定方式工作，从而产生一个制造品，包括实现在流程图和/或框图中一个或多个框中指定的功能的指令。
108.本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。
109.通过上述实施例中的提供ai服务的方法、装置及系统、计算机可存储介质，可以保障ai服务的时效性，提高ai服务的效率。
110.至此，已经详细描述了根据本公开的提供ai服务的方法、装置及系统、计算机可存储介质。为了避免遮蔽本公开的构思，没有描述本领域所公知的一些细节。本领域技术人员根据上面的描述，完全可以明白如何实施这里公开的技术方案。

技术特征：
1.一种提供人工智能ai服务的方法，由第一ai服务网元执行，包括：在为移动终端提供ai服务的过程中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息；在所预测的情况信息指示在未来时间发生ai服务网元变更的情况下，获取所述ai服务对应的ai模型的模型信息和所述ai模型在所述未来时间的预期上下文信息，其中，所述未来时间的预期上下文信息包括所述未来时间；发送所述ai模型的模型信息和所述未来时间的预期上下文信息到所述移动终端在所述未来时间切换到的第二ai服务网元，其中，所述ai模型的模型信息和所述未来时间的预期上下文信息用于指导所述第二ai服务网元提前为所述移动终端在所述未来时间的ai服务进行服务准备。2.根据权利要求1所述的提供ai服务的方法，其中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息包括：预测所述移动终端的未来移动轨迹，以预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息，其中，在所述未来移动轨迹指示所述移动终端在未来时间即将从当前区域移动到其他区域的情况下，所预测的情况信息指示所述移动终端在未来时间发生区域切换而触发ai服务网元变更。3.根据权利要求1所述的提供ai服务的方法，其中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息包括：确定参与所述第一ai服务网元为所述移动终端提供的ai服务的设备，作为参与设备；预测所述移动终端到所述第一ai服务网元之间所处网络的未来拥塞情况和参与设备的未来资源消耗情况中的至少一种，以预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息，其中，在所述未来拥塞情况和未来资源消耗情况中的至少一种在所述未来时间满足切换条件的情况下，所预测的情况信息指示在未来时间发生ai服务网元变更。4.根据权利要求3所述的提供ai服务的方法，其中，所述未来拥塞情况包括一个或多个衡量网络拥塞的指标值，所述资源消耗情况包括一个或多个衡量资源消耗的指标值，所述切换条件包括以下中的至少一种：所述一个或多个衡量网络拥塞的指标值中的至少一个落入第一预设指标值范围内；所述一个或多个衡量资源消耗的指标值中的至少一个落入第二预设指标范围内。5.根据权利要求1所述的提供ai服务的方法，还包括：在发送所述ai模型的模型信息和所述未来时间的预期上下文信息到所述第二ai服务网元之后且所述移动终端没有切换到所述第二ai服务网元之前，继续预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息；在所预测的情况信息发生变化的情况下，根据变化后的情况信息，更新并发送所述ai模型的模型信息和所述未来时间的预期上下文信息中的至少一种到所述移动终端在所述未来时间切换到的第二ai服务网元。6.根据权利要求1所述的提供ai服务的方法，还包括：在所述移动终端没有切换到所述第二ai服务网元之前，监测所述ai模型在所述未来时间的预期上下文信息；
在所述ai模型在所述未来时间的预期上下文信息发生变化的情况下，更新并发送所述未来时间的预期上下文信息到所述第二ai服务网元。7.根据权利要求1所述的提供ai服务的方法，还包括：在所述移动终端在所述未来时间切换到所述第二ai服务网元的情况下，发送所述ai模型在所述未来时间的实际上下文信息到所述第二ai服务网元，其中，所述实际上下文信息用于指导所述第二ai服务网元更新所述服务准备。8.根据权利要求1所述的提供ai服务的方法，还包括：在所述移动终端在所述未来时间切换到所述第二ai服务网元的情况下，发送所述移动终端的签约信息到所述第二ai服务网元。9.根据权利要求1所述的提供ai服务的方法，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息包括：请求除所述第一ai服务网元以外的其他ai服务网元来预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息。10.根据权利要求1所述的提供ai服务的方法，其中，所述模型信息包括模型结构信息和模型参数信息，所述预期上下文信息还包括所述ai模型的资源算力需求信息。11.根据权利要求11所述的提供ai服务的方法，其中，在所述ai服务为与学习任务相关的服务的情况下，所述预期上下文信息还包括学习任务的预期进展情况；在所述ai服务为与分析任务相关的服务的情况下，所述预期上下文信息还包括分析任务的模型拆分点。12.根据权利要求1所述的提供ai服务的方法，还包括：对于所述ai服务为与分析任务相关的服务的情况：在所述移动终端在所述未来时间切换到所述第二ai服务网元且所述第一ai服务网元仍未完成所述分析任务的情况下，基于所述第二ai服务网元的订阅操作，发送完成所述分析任务后得到的分析结果到所述第二ai服务网元，以便所述第二ai服务网元发送所述分析结果到所述移动终端。13.根据权利要求1所述的提供ai服务的方法，还包括：接收来自消费者针对所述移动终端的ai服务请求，其中，所述ai服务请求包括服务类型；向所述移动终端提供与所述服务类型对应的ai服务。14.一种提供人工智能ai服务的装置，部署于第一ai服务网元，包括：预测模块，被配置为在为移动终端提供ai服务的过程中，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息；获取模块，被配置为在所预测的情况信息指示在未来时间发生ai服务网元变更的情况下，获取所述ai服务对应的ai模型的模型信息和所述ai模型在所述未来时间的预期上下文信息，其中，所述未来时间的预期上下文信息包括所述未来时间；发送模块，被配置为发送所述ai模型的模型信息和所述未来时间的预期上下文信息到所述移动终端在所述未来时间切换到的第二ai服务网元，其中，所述ai模型的模型信息和所述未来时间的预期上下文信息用于指导所述第二ai服务网元提前为所述移动终端在所
述未来时间的ai服务进行服务准备。15.一种提供人工智能ai服务的装置，部署于第一ai服务网元，包括：存储器；以及耦接至所述存储器的处理器，所述处理器被配置为基于存储在所述存储器的指令，执行如权利要求1至13任一项所述的提供人工智能ai服务的方法。16.一种提供人工智能ai服务的系统，包括：如权利要求14或15所述的提供ai服务的装置。17.根据权利要求16所述的提供ai服务的系统，还包括：第二ai服务网元，被配置为根据ai模型的模型信息和未来时间的预期上下文信息，提前为移动终端在所述未来时间的ai服务进行服务准备。18.根据权利要求16或17所述的提供ai服务的系统，还包括：除所述第一ai服务网元以外的其他ai服务网元，被配置为响应于来自所述提供ai服务的装置的请求，预测为所述移动终端提供ai服务的ai服务网元在未来发生变更的情况信息，并发送预测的情况信息到所述提供ai服务的装置。19.根据权利要求16所述的提供ai服务的系统，还包括：消费者，被配置为发送针对移动终端的ai服务请求到所述提供ai服务的装置，其中，所述ai服务请求包括服务类型；其中，所述提供ai服务的装置还被配置为向移动终端提供与所述服务类型对应的ai服务。20.一种计算机可存储介质，其上存储有计算机程序指令，该指令被处理器执行时实现如权利要求1至13任一项所述的提供ai服务的方法。

技术总结
本公开涉及提供AI服务的方法、装置及系统、计算机可存储介质。由第一AI服务网元执行的提供人工智能AI服务的方法包括：在为移动终端提供AI服务的过程中，预测为所述移动终端提供AI服务的AI服务网元在未来发生变更的情况信息；在所预测的情况信息指示在未来时间发生AI服务网元变更的情况下，获取AI服务对应的AI模型的模型信息和AI模型在未来时间的预期上下文信息，预期上下文信息包括未来时间；发送AI模型的模型信息和未来时间的预期上下文信息到所述移动终端在所述未来时间切换到的第二AI服务网元，AI模型的模型信息和未来时间的预期上下文信息用于指导第二AI服务网元提前为移动终端在未来时间的AI服务进行服务准备。为移动终端在未来时间的AI服务进行服务准备。为移动终端在未来时间的AI服务进行服务准备。


技术研发人员：李鹏宇 于梦晗 邢燕霞 夏旭
受保护的技术使用者：中国电信股份有限公司
技术研发日：2022.03.17
技术公布日：2023/9/22