【SpringCloud-Alibaba系列教程】7.容错

White

一丶背景

在微服务架构中,我们将业务拆分成一个个的服务,服务与服务之间可以相互调用,但是由于网络原因或者自身的原因,服务并不能保证服务的100%可用,如果单个服务出现问题,调用这个服务就会出现网络延迟,此时若有大量的网络涌入,会形成任务堆积。最终导致服务瘫痪。

二丶为什么会有容错?

服务容错是高并发所带来的问题,在微服务架构中,服务于服务之间可以互相调用,但是由于网络原因或者自身的原因,我们并不能保证服务一直可以使用。所以当一个服务出现了问题,我们在调用这个服务的时候就会出现线程阻塞的情况,此时如果有大量的请求涌入,就会出现多线程阻塞等待,从而导致服务器瘫痪,由于服务之间的依赖性,故障就会传播上去,最终导致服务器整个崩溃。这就是“雪崩效应”。

三丶常见的容错方案

QQ截图20220207150126.png

1.超时

设置请求超时时间,让请求线程在等待超过一定的时间后就判定为请求失败从而释放请求线程,在某些场景下线程释放得够快的话,就不会因为不断创建线程而导致资源耗尽引起的服务崩溃。

2.限流

我们经过测试,发现某个请求能够承受的最大QPS(每秒查询率)是1000,那我们就把这个请求的QPS阈值设置成800,超过了这个阈值,请求直接返回被限流的错误。

3.仓壁模式(设置独立线程池,空间相对隔离)

舱壁模式实际上就是借鉴于现实生活中的船舱结构而设计,一艘船想要不那么容易沉也需要具备有一定的”容错“能力,而早期的船由于设计上的欠缺,只要一个地方进水了,那么水就会逐渐漫进整个船舱,这种结构的船几乎没有“容错”能力,所以就比较容易沉。于是此时就有人想到将原本一体的船舱分隔成一个个独立的船舱,船舱之间都使用钢板焊死隔开,这些钢板就是所谓的舱壁了。采用这种设计后,就算当其中一个两个船舱进水了,也不会影响到其他船舱,这艘船依旧能够正常行驶。
在软件层面上借鉴这种思想,我们可以让每个服务都运行在自己独立的线程池中,线程池之间是互不干扰的,服务A的线程池资源耗尽也不会影响到服务B。此时线程池就像船舱的舱壁一样将不同的服务资源隔离开来,这样某个服务挂掉也不会影响其他服务的运行。
41e9aa2cbd791ebde62adb6d8243070f.png

4.断路器模式

检测一定时间内的错误率,错误数,比如5秒之内错误率,错误次数,达到某个阈值,就认为B服务所调用的A服务挂了,就跳闸(打开断路器),就不会堆积那么多线程等待了,然后在10秒之后(称作断路器时间窗口),断路器就变成半开状态,此状态向A再次发送仅一次请求,如果这次请求又失败了,就再跳闸(断路器打开状态),默认等待10秒(断路器时间窗口,不是非得10秒,这个值可以自定义),断路器又变成半开状态,再次向A发送一次请求,如果这次请求成功了,断路器就彻底恢复,闸彻底闭合。

四丶Sentinel是什么

Sentinel的官方标题是:分布式系统的流量卫兵。从名字上看,很容易猜到它是用来做服务稳定性保障的。对于服务稳定性保障组件,如果熟悉Spring Cloud的用户,第一反应肯定是Hystrix。但是比较可惜的是 Netflex 已经宣布对 Hystrix 停止更新。那么,在未来我们还要什么更好的选择呢?除了Spring Cloud 官方推荐的 resilience4j之外,目前Spring Cloud Alibaba下整合的 Sentinel也是用户重点考察和选型的目标。

Sentinel的功能和细节比较多,一篇内容很难介绍完整。这篇文章只是让我们对Sentinel有一个整体的认识,后面我们会对如何把 Sentinel 整合到Spring Cloud 应用中做详细的介绍。

随着微服务的流行,服务和服务之间的稳定性变得越来越重要。Sentinel 以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度保护服务的稳定性。

Sentinel 具有以下特征
丰富的应用场景: Sentinel 承接了阿里巴巴近10年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰天谷、集群流量控制、实时熔断下游不可用应用等。
完备的实时监控:Sentinel 同时提供实时的监控功能。你可以在控制台中看到接入应用的单台机器秒级数据,甚至500台以下规模的集群汇总运行情况。
广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与Spring Cloud 、Dubbo、 gRPC的整合。只需要引入相应的依赖并进行简单的配置即可快速的接入Sentinel。
完整的 SPI 扩展点: Sentinel 提供简单易用、完善的 SPI 扩展接口。你可以通过实现扩展接口来快速的定制逻辑。例如定制规则管理、适配动态数据源等。

Sentinel的主要特征:

e981c90534cbd0a9d4facf45c8403463.png

Sentinel 的开源生态:

ae302907397d399dd5a13dcfd24fce64.png

五丶我们开始吧

首先引入pom文件

<!--容错sentinel-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

然后下载控制台:https://github.com/alibaba/Se...
在下载目录执行

java -Dserver.port=8080 -Dcsp.sentinel.dashboard.serve=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.8.3.jar

在浏览器输入:http://localhost:8080
账号密码输入Sentinel就可以进入查看了

image.png

下面我们在代码中实现打开application.yml进行如下配置
image.png
image.png
这样我们就完成了相关配置。
到此,我们这一章的容错,以及sentinel的配置就完成了,下期我们详细讲解sentinel的具体使用。
后期会在这个项目上不断添加,喜欢的请点个start~
项目源码参考一下分支220131_xgc_highConcurrency
Gitee:https://gitee.com/coderxgc/sp...
GitHub:https://github.com/coderxgc/s...

阅读 399

(横向跨端 & 纵向全栈)致力于成为Java、Android、前端的全栈开发者

1 声望
0 粉丝
0 条评论

(横向跨端 & 纵向全栈)致力于成为Java、Android、前端的全栈开发者

1 声望
0 粉丝
文章目录
宣传栏