基于微服务架构的服务器管理系统、方法、设备及介质与流程

1.本发明涉及微服务架构技术领域，具体涉及一种基于微服务架构的服务器管理系统、方法、设备及介质。


背景技术：

2.微服务是一种用于开发软件系统的架构风格，与传统的单体架构(将所有组件组合到一起)完全相反，单体架构只专注于单个应用程序，微服务小而独立，微服务架构看似条理分明，但实际还是比较复杂的。对于微服务架构来说，分布式几乎是必会用的技术(例如分布式服务器)，由于分布式本身的复杂性，导致微服务架构也变得比较复杂。
3.微服务架构风格是使用一套小服务来开发单个应用的方式，每个服务运行在自己的进程中，并使用轻量级机制通信，这些服务基于业务能力构建，并能够通过自动化部署机制来独立部署，这些服务使用不同的编程语言实现，以及不同数据存储技术，并保持最低限度的集中式管理。
4.目前关于微服务架构的部署，由于微服务之间存在错综复杂的依赖关系，一次请求可能会依赖多个后端的服务，在实际生产使用中这些服务可能会产生故障或者延迟，在一个高流量高数据传输的系统中，某个服务一旦产生延迟，可能会在短时间内耗尽系统资源，将整个系统都拖垮，进而造成系统瘫痪、宕机。


技术实现要素：

5.针对某个服务一旦产生延迟，可能会在短时间内耗尽系统资源，将整个系统都拖垮，进而造成系统瘫痪、宕机的问题，本发明提供一种基于微服务架构的服务器管理系统、方法、设备及介质。
6.第一方面，本发明技术方案提供一种基于微服务架构的服务器管理系统，包括微服务模块，微服务模块的输入端连接有服务网关集群模块，服务网关集群模块的输入端连接有负载均衡模块，负载均衡模块的输入端连接有外部请求模块；
7.服务网关集群模块输出端和微服务模块的输入端均连接有服务器注册模块，微服务器的输出端连接有服务器容错模块；
8.外部请求模块，用于接收客户端的高并发、高通量的访问请求；
9.负载均衡模块，用于根据客户端的访问请求自动分配应用的传入流量；
10.服务网关集群模块，用于对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；
11.当微服务模块所提供的目标服务产生故障或者延迟时，通过服务器容错模块对故障进行隔离和容错。
12.作为本发明技术方案的进一步限定，服务网关集群模块包括多组网关，客户端均通过请求网关访问微服务模块；网关，用于收集数据以及访问日志信息。
13.作为本发明技术方案的进一步限定，服务网关集群模块还包括动态路由模块、限
流容错模块和身份认证及安全控制模块；
14.动态路由模块，用于动态的将访问请求路由到所需要的服务集群；
15.限流容错模块，用于为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求来限制流量；
16.身份认证及安全控制模块，用于对每个外部请求进行用户认证，拒绝没有通过认证的请求。
17.作为本发明技术方案的进一步限定，负载均衡模块包括负载均衡控制模块和安全加密模块；
18.负载均衡控制模块，用于在多网关中自动分配应用的传入流量；
19.安全加密模块，用于保证客户端请求的安全性。
20.作为本发明技术方案的进一步限定，该系统还包括集群服务器，所有的微服务在集群服务器中进行注册，并定时发送健康检查到集群服务器；
21.集群服务器在接收到微服务的最后一次健康检查后，等待第一时间阈值未接收到微服务的健康检查，在集群服务器自我保护模式关闭的情况下清除该微服务的注册信息。
22.集群服务器在设定时间内丢失超多设定阈值数量的服务时，会进入自我保护模式，在自我保护模式下集群服务器等待第一时间阈值未接收到微服务的健康检查时，集群服务器也不会将其删除。
23.作为本发明技术方案的进一步限定，服务器容错模块，用于当服务异常或者第二设定阈值数量的服务延时时，主动启动熔断，或自动启动熔断模式，且服务隔离设定时间段以后，设置进入半熔断状态，若仍然调用失败，则回到熔断状态，若调用成功，则关闭熔断模式。
24.作为本发明技术方案的进一步限定，服务器容错模块，用于设置不同的服务使用不同的线程池；当服务调用出现异常时，直接抛弃异常；当程序运行超时、熔断启动或线程池已满时启用回退；还用于对服务的并发访问量进行限制，设置单位时间内的并发数，超出限制的请求拒绝并回退。
25.第二方面，本发明技术方案提供一种基于微服务架构的服务器管理方法，应用于第一方面所述的系统，所述方法包括如下步骤：
26.接收客户端的高并发、高通量的访问请求；
27.根据客户端的访问请求自动分配应用的传入流量；
28.对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；
29.当目标服务产生故障或延迟时，对故障的服务进行隔离和容错。
30.作为本发明技术方案的进一步限定，该方法还包括：
31.将所有的微服务注册到集群服务器中并生成服务注册表；
32.通过设置微服务定时发送健康检查来进行微服务的管理。
33.作为本发明技术方案的进一步限定，通过设置微服务定时发送健康检查来进行微服务的管理的步骤包括：
34.微服务定时发送健康检查到集群服务器；
35.集群服务器在接收到微服务的最后一次健康检查后，等待第一时间阈值未接收到微服务的健康检查；
36.判断集群服务器在设定时间内是否丢失超多设定阈值数量的服务；
37.若是，集群服务器自我保护模式开启；
38.清除该微服务的注册信息；
39.若否，集群服务器自我保护模式关闭；
40.不清除该微服务的注册信息。
41.作为本发明技术方案的进一步限定，对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用的步骤包括：
42.对每个外部请求进行用户认证；
43.判断是否认证通过；
44.若是，动态的将访问请求路由到所需要的服务集群；
45.为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求来限制流量；
46.查询服务注册表发现目标服务进行调用；
47.若否，拒绝没有通过认证的请求。
48.作为本发明技术方案的进一步限定，当目标服务产生故障或延迟时，对故障的服务进行隔离和容错的步骤包括：
49.当目标服务异常或者超过第一阈值的目标服务延时，设置主动启动熔断执行直接返回；
50.或自动启动熔断模式，且服务隔离设定时间段以后，设置进入半熔断状态，若仍然调用失败，则回到熔断状态，若调用成功，则关闭熔断模式；
51.作为本发明技术方案的进一步限定，当目标服务产生故障或延迟时，对故障的服务进行隔离和容错的步骤包括：
52.当目标服务调用出现异常时，判断是否存在程序运行超异常、熔断启动和线程池已满的情况；
53.若是，启用回退；
54.若否，直接抛弃异常，或返回上一步。
55.作为本发明技术方案的进一步限定，该方法还包括：收集访问日志信息。
56.第三方面，本发明技术方案还提供一种电子设备，所述电子设备包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；存储器存储有可被至少一个处理器执行的计算机程序指令，所述计算机程序指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如第一方面所述的基于微服务架构的服务器管理方法。
57.第四方面，本发明技术方案还提供一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行如第一方面所述的基于微服务架构的服务器管理方法。
58.从以上技术方案可以看出，本发明具有以下优点：本发明基于微服务架构，在高负载高并发的场景，从数据输入到输出，进行自动分配应用的传入流量，提高访问流畅性，而且降低延迟；当目标服务产生故障或者延迟时，可对其故障进行隔离和容错，降低服务器在使用过程中由于某个服务产生延迟，导致整个系统耗尽资源，进而出现拖垮整个系统，提高系统运行时稳定性、可靠性。
59.此外，本发明设计原理可靠，结构简单，具有非常广泛的应用前景。
60.由此可见，本发明与现有技术相比，具有突出的实质性特点和显著地进步，其实施的有益效果也是显而易见的。
附图说明
61.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
62.图1是本发明实施例提供的系统的示意性连接框图。
63.图2是本发明实施例中服务网关集群模块连接示意图。
64.图3是本发明实施例中服务器容错模块模式示意图。
65.图4是本发明一个实施例的方法的示意性流程图。
66.图5是本发明实施例中电子设备连接框图。
具体实施方式
67.本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
68.附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
69.在本技术所提供的实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。
70.此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。为了使本技术领域的人员更好地理解本发明中的技术方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
71.由于微服务之间存在复杂的依赖关系，一次请求可能会依赖多个后端服务，在实
际生产中这些服务又可能会产生故障或者延迟，一旦某个服务产生延迟，可能会在短时间内耗尽系统资源，拖垮整个系统，降低系统可靠性、稳定性，给服务器业务处理能力带来隐患，给客户造成损失。鉴于此，如图1所示，本发明实施例提供一种基于微服务架构的服务器管理系统，包括微服务模块，微服务模块的输入端连接有服务网关集群模块，服务网关集群模块的输入端连接有负载均衡模块，负载均衡模块的输入端连接有外部请求模块；
72.服务网关集群模块输出端和微服务模块的输入端均连接有服务器注册模块，微服务器的输出端连接有服务器容错模块；
73.外部请求模块，用于接收客户端的高并发、高通量的访问请求；
74.负载均衡模块，用于根据客户端的访问请求自动分配应用的传入流量；
75.服务网关集群模块，用于对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；
76.当微服务模块所提供的目标服务产生故障或者延迟时，通过服务器容错模块对故障进行隔离和容错。
77.外部请求模块接收客户端的高并发、高通量的访问，负载均衡模块自动分配应用的传入流量，即可以起到一个分流的作用，同时对服务进行加密，保证客户端请求的安全性；服务网关集群模块则通过查询服务注册表就可以发现目标服务进行调用；其中服务网关集群模块和微服务模块的服务访问由集群服务器来实现注册与发现；在微服务模块的输出端连接有服务器容错模块，在高负载高并发的场景，当微服务模块所提供的目标服务产生故障或者延迟时，可通过服务器容错模块对其故障进行隔离和容错。这样，整个设计就是从输入到输出，对流量和服务疏通导流，解决了目前由于微服务之间存在错综复杂的依赖关系，降低服务器在使用过程中，由于某个服务产生延迟，导致整个系统耗尽资源，进而出现拖垮整个系统的现象，提高系统运行时稳定性的优点。
78.在有些实施例中，服务网关集群模块包括多组网关，客户端均通过请求网关访问微服务模块；网关，用于收集数据以及访问日志信息。
79.使用的时候，当网关服务转发外部请求调用前端服务时，通过查询服务注册表就可以发现目标服务进行调用，一次请求可能涉及到多个服务之间的相互调用。
80.如图2所示，服务网关集群模块由多组gateway模块(本技术中的网关)构成，其中gateway模块就可以理解是外界系统和企业内部系统之间的一道门，所有的客户端均通过请求gateway模块访问微服务模块。
81.需要说明的是，服务网关集群模块还包括动态路由模块、限流容错模块和身份认证及安全控制模块；
82.动态路由模块，用于动态的将访问请求路由到所需要的服务集群；
83.限流容错模块，用于为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求来限制流量；
84.身份认证及安全控制模块，用于对每个外部请求进行用户认证，拒绝没有通过认证的请求。
85.动态路由：动态的将请求路由到所需要的后端服务集群。限流和容错：就是为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求，限制流量，就可以保护后台服务不被大流量冲垮；身份认证和安全性控制：可以对每个外部请求进行用户认证，拒绝没有
通过认证的请求；监控：即网关可以收集有意义的数据和统计，为后台服务优化提供数据支持；访问日志：网关可以收集访问日志信息，通过分析日志内容，对后台系统做进一步优化。
86.在有些实施例中，负载均衡模块包括负载均衡控制模块和安全加密模块；
87.负载均衡控制模块，用于在多网关中自动分配应用的传入流量；
88.安全加密模块，用于保证客户端请求的安全性。
89.负载均衡模块顾名思义是为了应对高并发的访问场景，由于gateway(网关)模块是以集群形式部署的，所以需要做到gateway模块访问时的负载均衡。其中负载均衡模块由负载均衡控制模块和安全加密模块两个所构成，负载均衡控制模块，在多个gateway模块中自动分配应用的传入流量，而安全加密模块则用于保证客户端请求的安全性。负载均衡使用elb模块，安全加密可以采用比较稳妥的ssl加密。
90.使用时，为了应对高并发的访问，服务网关以集群形式部署，这个意思就是需要做负载均衡，可采用虚拟云服务器，做负载均衡，由于虚拟云服务器具有自动配置容量功能，当用户流量达到尖峰，虚拟云服务器可以自动增加更多的容量以维持虚拟主机的性能，而由于负载均衡，可在多个服务网关间自动分配应用的传入流量。
91.在有些实施例中，该系统还包括集群服务器，所有的微服务在集群服务器中进行注册，并定时发送健康检查到集群服务器；
92.集群服务器在接收到微服务的最后一次健康检查后，等待第一时间阈值未接收到微服务的健康检查，在集群服务器自我保护模式关闭的情况下清除该微服务的注册信息。
93.集群服务器在设定时间内丢失超多设定阈值数量的服务时，会进入自我保护模式，在自我保护模式下集群服务器等待第一时间阈值未接收到微服务的健康检查时，集群服务器也不会将其删除。
94.最前端的外部请求模块就是客户端，如pc或者手机等客户终端。
95.上面说的服务器注册模块具体由集群服务器模块所构成，由于微服务架构是由一系列职责单一的服务构成的网状结构，服务之间通过轻量机制进行通信，这就引入了服务注册和发现的问题，服务的提供方要注册报告服务地址，服务调用方要能发现目标服务，因此服务网关集群模块和微服务模块的服务访问由集群服务器来实现注册与发现。
96.具体来说就是：所有的微服务到集群服务器中进行注册，并定时发送健康检查，集群服务器默认配置是20秒发送一次健康检查(此处设置20秒考虑提高检查频率)，表明服务仍然处于存活状态，发送健康检查的时间间隔可以通过集群服务器配置参数自行配置，集群服务器在接收到服务实例的最后一次健康检查后，需要等待60秒(默认配置60秒，也可以通过配置参数进行修改)后，才认定服务已经死亡(即连续3次(20x3)没有接收到心跳)，在集群服务器自我保护模式关闭的情况下会清除该服务的注册信息。
97.这里说的自我保护模式是指：出现网络分区、集群服务器在短时间内丢失过多的服务时，会进入自我保护模式，即一个服务长时间没有发送心跳，集群服务器也不会将其删除。
98.在有些实施例中，服务器容错模块，用于当服务异常或者第二设定阈值数量的服务延时时，主动启动熔断，或自动启动熔断模式，且服务隔离设定时间段以后，设置进入半熔断状态，若仍然调用失败，则回到熔断状态，若调用成功，则关闭熔断模式。
99.服务器容错模块，用于设置不同的服务使用不同的线程池；当服务调用出现异常
时，直接抛弃异常；当程序运行超时、熔断启动或线程池已满时启用回退；还用于对服务的并发访问量进行限制，设置单位时间内的并发数，超出限制的请求拒绝并回退。
100.如图3所示，服务器容错模块包括熔断模式、隔离模式、回退模式和限流模式。
101.再说下各个模式：熔断模式：当服务异常或者大量延时，满足熔断条件时，服务调用方会主动启动熔断，执行直接返回，不会继续调用服务进一步拖垮系统，或采用自动熔断模式，当超过阀值将自动启动熔断模式，且服务隔离一段时间以后，熔断器会进入半熔断状态，即允许少量请求进行尝试，如果仍然调用失败，则回到熔断状态，如果调用成功，则关闭熔断模式。
102.隔离模式：不同的服务使用不同的线程池，彼此之间不受影响，当一个服务出现故障耗尽它的线程池资源，其他的服务正常运行不受影响，达到隔离的效果；
103.回退：当服务调用出现异常时，可直接抛弃异常，或返回上一步，当出现以下异常情况时，可启用回退情况：程序运行超时、熔断启动和线程池已满；
104.限流：限流可对服务的并发访问量进行限制，设置单位时间内的并发数，超出限制的请求拒绝并回退，防止后台服务被冲垮。这里说的容错模块可以由hystrix组件处理，比较方便。
105.微服务架构增加负载均衡，由负载均衡控制模块和安全加密模块所构成，自动分配应用的传入流量，可以起到一个分流的作用，降低高并发访问流量集中于一组会多组服务网关的情况，同时对服务进行加密，保证客户端请求的安全性。服务网关集群模块和微服务模块的服务访问由集群服务器来实现注册与发现，这样通过查询服务注册表就可以发现目标服务进行调用。
106.服务器容错模块包括熔断、隔离、回退和限流模式，使用时，当微服务模块所提供的目标服务产生故障或者延迟时，可通过容错模块对其故障进行隔离和容错，降低服务器由于某个服务产生延迟，导致耗尽系统资源的情况。
107.外部请求模块接收客户端发送的访问请求，负载均衡模块接入客户端的访问请求，并将访问请求按照预定策略发送给一个或多个网关对访问请求中携带的用户登录账号进行身份认证，判断所述登录账号是否有访问权限；在有访问权限时，根据访问请求中携带的请求内容，从服务注册表确定出请求内容对应的目标微服务；从服务器注册模块确定出所述目标微服务的地址，并根据所述访问请求调用所述访问请求对应的所述微服务的服务接口，访问所述目标微服务，调用所述目标微服务响应所述访问请求，具体的，访问请求为获取数据的请求时，目标微服务访问缓存，判断缓存中是否缓存有所述访问请求对应的数据；当缓存有对应的数据时，目标微服务从缓存中获取数据；当缓存中未有对应的数据时，目标微服务从数据库查找并获取对应的数据并将获取数据进行缓存同时将请求对应的数据发送至所述客户端。访问日志记录接收到的各个访问请求，以及对各个请求用户的身份认证的相关信息以及访问请求对应的请求结果。
108.如图4所示，本发明实施例提供一种基于微服务架构的服务器管理方法，应用于上述实施例所述的系统，所述方法包括如下步骤：
109.步骤1：接收客户端的高并发、高通量的访问请求；
110.步骤2：根据客户端的访问请求自动分配应用的传入流量；
111.步骤3：对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调
用；
112.步骤4：当目标服务产生故障或延迟时，对故障的服务进行隔离和容错。
113.需要说明的是，该方法还包括：将所有的微服务注册到集群服务器中并生成服务注册表；通过设置微服务定时发送健康检查来进行微服务的管理。
114.进一步需要说明的是，通过设置微服务定时发送健康检查来进行微服务的管理的步骤包括：微服务定时发送健康检查到集群服务器；集群服务器在接收到微服务的最后一次健康检查后，等待第一时间阈值未接收到微服务的健康检查；判断集群服务器在设定时间内是否丢失超多设定阈值数量的服务；若是，集群服务器自我保护模式开启；清除该微服务的注册信息；若否，集群服务器自我保护模式关闭；不清除该微服务的注册信息。
115.也就是说，所有的微服务到集群服务器中进行注册，并定时发送健康检查，集群服务器默认配置是20秒发送一次健康检查(此处设置20秒考虑提高检查频率)，表明服务仍然处于存活状态，发送健康检查的时间间隔可以通过集群服务器配置参数自行配置，集群服务器在接收到服务实例的最后一次健康检查后，需要等待60秒(默认配置60秒，也可以通过配置参数进行修改)后，才认定服务已经死亡(即连续3次(20x3)没有接收到心跳)，在集群服务器自我保护模式关闭的情况下会清除该服务的注册信息。这里说的自我保护模式是指：出现网络分区、集群服务器在短时间内丢失过多的服务时，会进入自我保护模式，即一个服务长时间没有发送心跳，集群服务器也不会将其删除。
116.在有些实施例中，对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用的步骤包括：
117.步骤31：对每个外部请求进行用户认证；
118.步骤32：判断是否认证通过；
119.若是，执行步骤33；若否，执行步骤36；
120.步骤33：动态的将访问请求路由到所需要的服务集群；
121.步骤34：为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求来限制流量；
122.步骤35：查询服务注册表发现目标服务进行调用；
123.步骤36：拒绝没有通过认证的请求。
124.在有些实施例中，当目标服务产生故障或延迟时，对故障的服务进行隔离和容错的步骤包括：
125.当目标服务异常或者超过第一阈值的目标服务延时，设置主动启动熔断执行直接返回；
126.或自动启动熔断模式，且服务隔离设定时间段以后，设置进入半熔断状态，若仍然调用失败，则回到熔断状态，若调用成功，则关闭熔断模式；
127.当目标服务调用出现异常时，判断是否存在程序运行超异常、熔断启动和线程池已满的情况；
128.若是，启用回退；
129.若否，直接抛弃异常，或返回上一步。
130.也就是说，熔断模式：当服务异常或者大量延时，满足熔断条件时，服务调用方会主动启动熔断，执行直接返回，不会继续调用服务进一步拖垮系统，或采用自动熔断模式，
当超过阀值将自动启动熔断模式，且服务隔离一段时间以后，熔断器会进入半熔断状态，即允许少量请求进行尝试，如果仍然调用失败，则回到熔断状态，如果调用成功，则关闭熔断模式。
131.隔离模式：不同的服务使用不同的线程池，彼此之间不受影响，当一个服务出现故障耗尽它的线程池资源，其他的服务正常运行不受影响，达到隔离的效果；
132.回退：当服务调用出现异常时，可直接抛弃异常，或返回上一步，当出现以下异常情况时，可启用回退情况：程序运行超时、熔断启动和线程池已满；
133.限流：限流可对服务的并发访问量进行限制，设置单位时间内的并发数，超出限制的请求拒绝并回退，防止后台服务被冲垮。
134.如图5所示，本发明实施例还提供一种电子设备，所述电子设备包括：处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信。通信总线可以用于电子设备与传感器之间的信息传输。处理器可以调用存储器中的逻辑指令，以执行如下方法：步骤1：接收客户端的高并发、高通量的访问请求；步骤2：根据客户端的访问请求自动分配应用的传入流量；步骤3：对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；步骤4：当目标服务产生故障或延迟时，对故障的服务进行隔离和容错。
135.此外，上述的存储器中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read-only memory)、随机存取存储器(ram，random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
136.本发明实施例提供一种非暂态计算机可读存储介质，该非暂态计算机可读存储介质存储计算机指令，该计算机指令使计算机执行上述方法实施例所提供的方法，例如包括：步骤1：接收客户端的高并发、高通量的访问请求；步骤2：根据客户端的访问请求自动分配应用的传入流量；步骤3：对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；步骤4：当目标服务产生故障或延迟时，对故障的服务进行隔离和容错。
137.作为本发明的基于微服务架构的服务器管理系统、方法、设备及介质是结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
138.尽管通过参考附图并结合优选实施例的方式对本发明进行了详细描述，但本发明并不限于此。在不脱离本发明的精神和实质的前提下，本领域普通技术人员可以对本发明的实施例进行各种等效的修改或替换，而这些修改或替换都应在本发明的涵盖范围内/任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应
涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。

技术特征：
1.一种基于微服务架构的服务器管理系统，其特征在于，包括微服务模块，微服务模块的输入端连接有服务网关集群模块，服务网关集群模块的输入端连接有负载均衡模块，负载均衡模块的输入端连接有外部请求模块；服务网关集群模块输出端和微服务模块的输入端均连接有服务器注册模块，微服务器的输出端连接有服务器容错模块；外部请求模块，用于接收客户端的高并发、高通量的访问请求；负载均衡模块，用于根据客户端的访问请求自动分配应用的传入流量；服务网关集群模块，用于对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；当微服务模块所提供的目标服务产生故障或者延迟时，通过服务器容错模块对故障进行隔离和容错。2.根据权利要求1所述的基于微服务架构的服务器管理系统，其特征在于，服务网关集群模块包括多组网关，客户端均通过请求网关访问微服务模块；网关，还用于收集数据以及访问日志信息。3.根据权利要求2所述的基于微服务架构的服务器管理系统，其特征在于，服务网关集群模块还包括动态路由模块、限流容错模块和身份认证及安全控制模块；动态路由模块，用于动态的将访问请求路由到所需要的服务集群；限流容错模块，用于为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求来限制流量；身份认证及安全控制模块，用于对每个外部请求进行用户认证，拒绝没有通过认证的请求。4.根据权利要求3所述的基于微服务架构的服务器管理系统，其特征在于，负载均衡模块包括负载均衡控制模块和安全加密模块；负载均衡控制模块，用于在多网关中自动分配应用的传入流量；安全加密模块，用于保证客户端请求的安全性。5.根据权利要求4所述的基于微服务架构的服务器管理系统，其特征在于，该系统还包括集群服务器，所有的微服务在集群服务器中进行注册，并定时发送健康检查到集群服务器；集群服务器在接收到微服务的最后一次健康检查后，等待第一时间阈值未接收到微服务的健康检查，在集群服务器自我保护模式关闭的情况下清除该微服务的注册信息。6.根据权利要求5所述的基于微服务架构的服务器管理系统，其特征在于，服务器容错模块，用于当服务异常或者第二设定阈值数量的服务延时时，主动启动熔断，或自动启动熔断模式，且服务隔离设定时间段以后，设置进入半熔断状态，若仍然调用失败，则回到熔断状态，若调用成功，则关闭熔断模式。7.根据权利要求6所述的基于微服务架构的服务器管理系统，其特征在于，服务器容错模块，用于设置不同的服务使用不同的线程池；当服务调用出现异常时，直接抛弃异常；当程序运行超时、熔断启动或线程池已满时启用回退；还用于对服务的并发访问量进行限制，设置单位时间内的并发数，超出限制的请求拒绝并回退。8.一种基于微服务架构的服务器管理方法，其特征在于，应用于权利要求1-7任一项所
述的系统，所述方法包括如下步骤：接收客户端的高并发、高通量的访问请求；根据客户端的访问请求自动分配应用的传入流量；对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；当目标服务产生故障或延迟时，对故障的服务进行隔离和容错。9.一种电子设备，其特征在于，所述电子设备包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；存储器存储有可被至少一个处理器执行的计算机程序指令，所述计算机程序指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至7中任一项所述的基于微服务架构的服务器管理方法。10.一种非暂态计算机可读存储介质，其特征在于，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行如权利要求1至7任一项所述的基于微服务架构的服务器管理方法。

技术总结
本发明属于微服务架构技术领域，具体提供基于微服务架构的服务器管理系统、方法、设备及介质，所述系统包括微服务模块，微服务模块连接有服务网关集群模块，服务网关集群模块连接有负载均衡模块，负载均衡模块连接有外部请求模块；服务网关集群模块和微服务模块均连接有服务器注册模块，微服务器连接有服务器容错模块；外部请求模块接收客户端的高并发、高通量的访问请求；负载均衡模块根据客户端的访问请求自动分配应用的传入流量；服务网关集群模块对访问请求进行解析，根据解析结果查询服务注册表发现目标服务进行调用；服务产生故障或者延迟时，通过服务器容错模块对故障进行隔离和容错。提高访问流畅性，而且降低延迟。而且降低延迟。而且降低延迟。


技术研发人员：徐铭
受保护的技术使用者：苏州浪潮智能科技有限公司
技术研发日：2023.07.28
技术公布日：2023/10/15