Hystrix 断路器
系统容错工具
降级
- 调用远程服务失败(宕机、500错、超时),可以降级执行当前服务中的一段代码,向客户端返回结果
- 快速失败
熔断
- 当访问量过大,出现大量失败,可以做过热保护,断开远程服务不再调用
- 限流
- 防止故障传播、雪崩效应
- https://github.com/Netflix/Hystrix/wiki
Hystrix降级
- hystrix依赖
- 启动类添加注解 @EnableCircuitBreaker
- 添加降级代码
// 当调用远程服务失败,跳转到指定的方法,执行降级代码
@HystrixCommand(fallbackMethod="方法名")
远程调用方法() {
restTemplate.getForObject(url,......);
}
微服务宕机时,ribbon 无法转发请求
- 关闭 user-service 和 order-service
说明:这是没有hystrix的情况,下来测试hystrix提供的降级处理方式
复制 sp06-ribbon 项目,命名为sp07-hystrix
- 选择 sp06-ribbon 项目,ctrl-c,ctrl-v,复制为sp07-hystrix
- 关闭 sp06-ribbon 项目,后续测试使用 sp07-hystrix 项目
修改 pom.xml
添加 hystrix 起步依赖
`<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>`
修改 application.yml
spring:
application:
name: hystrix
server:
port: 3001
eureka:
client:
service-url:
defaultZone: http://eureka1:2001/eureka, http://eureka2:2002/eureka
ribbon:
MaxAutoRetries: 1
MaxAutoRetriesNextServer: 2
OkToRetryOnAllOperations: true
主程序添加 @EnableCircuitBreaker
启用 hystrix 断路器
启动断路器,断路器提供两个核心功能:
- 降级,超时、出错、不可到达时,对服务降级,返回错误信息或者是缓存数据
- 熔断,当服务压力过大,错误比例过多时,熔断所有请求,所有请求直接降级
- 可以使用
@SpringCloudApplication
注解代替三个注解
package cn.tedu.sp06;
import org.springframework.boot.SpringApplication;
import org.springframework.cloud.client.SpringCloudApplication;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.http.client.SimpleClientHttpRequestFactory;
import org.springframework.web.client.RestTemplate;
//@EnableCircuitBreaker
//@EnableDiscoveryClient
//@SpringBootApplication
@SpringCloudApplication
public class Sp06RibbonApplication {
@LoadBalanced
@Bean
public RestTemplate getRestTemplate() {
SimpleClientHttpRequestFactory f = new SimpleClientHttpRequestFactory();
f.setConnectTimeout(1000);
f.setReadTimeout(1000);
return new RestTemplate(f);
//RestTemplate 中默认的 Factory 实例中,两个超时属性默认是 -1,
//未启用超时,也不会触发重试
//return new RestTemplate();
}
public static void main(String[] args) {
SpringApplication.run(Sp06RibbonApplication.class, args);
}
}
RibbonController 中添加降级方法
- 为每个方法添加降级方法,例如
getItems()
添加降级方法getItemsFB()
- 添加
@HystrixCommand
注解,指定降级方法名
package cn.tedu.sp06.controller;
import cn.tedu.sp01.pojo.Item;
import cn.tedu.sp01.pojo.Order;
import cn.tedu.sp01.pojo.User;
import cn.tedu.web.util.JsonResult;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;
import org.springframework.web.client.RestTemplate;
import java.util.List;
@RestController
@Slf4j
public class RibbonController {
@Autowired
private RestTemplate restTemplate;
@HystrixCommand(fallbackMethod = "getItemsFB") //指定降级方法的方法名
@GetMapping("/item-service/{orderId}")
public JsonResult<List<Item>> getItems(@PathVariable String orderId){
//远程调用商品服务
//http://localhost:8001/{orderId}
//{1} -- RestTemplate 定义的一种占位符格式,传递参数orderId
//return restTemplate.getForObject("http://localhost:8001/{1}",JsonResult.class,orderId);
return restTemplate.getForObject("http://item-service/{1}",JsonResult.class,orderId);//Ribbon的方式,将ip:port改为服务名称
}
@HystrixCommand(fallbackMethod = "decreaseNumberFB") //指定降级方法的方法名
@PostMapping("/item-service/decreaseNumber")
public JsonResult<?> decreaseNumber(@RequestBody List<Item> items){
return restTemplate.postForObject("http://item-service/decreaseNumber", items, JsonResult.class);
}
// -----------------------
@HystrixCommand(fallbackMethod = "getUserFB") //指定降级方法的方法名
@GetMapping("/user-service/{userId}")
public JsonResult<User> getUser(@PathVariable Integer userId){
return restTemplate.getForObject("http://user-service/{1}", JsonResult.class,userId);
}
@HystrixCommand(fallbackMethod = "addScoreFB") //指定降级方法的方法名
@GetMapping("/user-service/{userId}/score")
public JsonResult<?> addScore(@PathVariable Integer userId,Integer score){
return restTemplate.getForObject("http://user-service/{1}/score?score={2}", JsonResult.class,userId,score);
}
@HystrixCommand(fallbackMethod = "getOrderFB") //指定降级方法的方法名
@GetMapping("/order-service/{orderId}")
public JsonResult<Order> getOrder(@PathVariable String orderId){
return restTemplate.getForObject("http://order-service/{1}", JsonResult.class,orderId);
}
@HystrixCommand(fallbackMethod = "addOrderFB") //指定降级方法的方法名
@GetMapping("/order-service/")
public JsonResult<?> addOrder(){
return restTemplate.getForObject("http://order-service/", JsonResult.class);
}
// -----------------------
//降级方法的参数和返回值,需要和原始方法一致,方法名任意
public JsonResult<List<Item>> getItemsFB(String orderId){
return JsonResult.err("获取订单商品列表失败");
}
public JsonResult<?> decreaseNumberFB(List<Item> items){
return JsonResult.err("更新商品库存失败");
}
public JsonResult<User> getUserFB(Integer userId){
return JsonResult.err("获取用户信息失败");
}
public JsonResult<?> addScoreFB(Integer userId,Integer score){
return JsonResult.err("增加用户积分失败");
}
public JsonResult<Order> getOrderFB(String orderId){
return JsonResult.err("获取订单失败");
}
public JsonResult<?> addOrderFB(){
return JsonResult.err("添加订单失败");
}
}
hystrix 超时设置
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds
hystrix等待超时后, 会执行降级代码, 快速向客户端返回降级结果, 默认超时时间是1000毫秒
为了测试 hystrix 降级,我们把 hystrix 等待超时设置得非常小(1000毫秒)
此设置一般应大于 ribbon 的重试超时时长,例如 10 秒
spring:
application:
name: hystrix
server:
port: 3001
eureka:
client:
service-url:
defaultZone: http://eureka1:2001/eureka,http://eureka2:2002/eureka
# 配置 Ribbon 重试次数
ribbon:
# 次数参数没有提示,并且会有黄色警告
# 重试次数越少越好,一般建议用0 ,1
MaxAutoRetries: 1
MaxAutoRetriesNextServer: 2
#配置hystrix超时设置 快速向客户端返回降级结果, 默认超时时间是1000毫秒
hystrix:
command:
default:
execution:
isolation:
thread:
timeoutInMilliseconds: 1000
启动项目进行测试
- 通过 hystrix 服务,访问可能超时失败的 item-service
http://localhost:3001/item-service/35 - 通过 hystrix 服务,访问未启动的 user-service
http://localhost:3001/user-service/7 - 可以看到,如果 item-service 请求超时,hystrix 会立即执行降级方法
- 访问 user-service,由于该服务未启动,hystrix也会立即执行降级方法
hystrix dashboard 断路器仪表盘
hystrix 对请求的降级和熔断,可以产生监控信息,hystrix dashboard可以实时的进行监控
Actuator
springboot 提供的日志监控工具,可以暴露项目中多种监控信息
- 健康状态
- 系统环境变量
- spring容器中所有的对象
- spring mvc映射的所有路径
- ......
添加 actuator
- 添加 actuator 依赖
yml 配置暴露监控数据
- m.e.w.e.i="*" 暴露所有的监控
- m.e.w.e.i=health 只暴露健康状态
- m.e.w.e.i=["health", "beans", "mappings"] 暴露指定的多个监控
sp07-hystrix 项目添加 actuator,并暴露 hystrix 监控端点
actuator 是 spring boot 提供的服务监控工具,提供了各种监控信息的监控端点management.endpoints.web.exposure.include
配置选项,
可以指定端点名,来暴露监控端点
如果要暴露所有端点,可以用 “*”
pom.xml 添加 actuator 依赖
右键点击项目或pom.xml, 编辑起步依赖, 添加 actuator 依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
调整 application.yml 配置,并暴露 hystrix.stream
监控端点
spring:
application:
name: hystrix
server:
port: 3001
eureka:
client:
service-url:
defaultZone: http://eureka1:2001/eureka,http://eureka2:2002/eureka
# 配置 Ribbon 重试次数
ribbon:
# 次数参数没有提示,并且会有黄色警告
# 重试次数越少越好,一般建议用0 ,1
MaxAutoRetries: 1
MaxAutoRetriesNextServer: 2
#配置hystrix超时设置 快速向客户端返回降级结果, 默认超时时间是1000毫秒
hystrix:
command:
default:
execution:
isolation:
thread:
timeoutInMilliseconds: 1000
#配置actuator,暴露hystrix.stream监控端点
management:
endpoints:
web:
exposure:
include: "*"
访问 actuator 路径,查看监控端点
Hystrix dashboard 仪表盘
搭建 Hystrix Dashboard
仪表盘项目可以是一个完全独立的项目,与其他项目都无关,也不用向注册表注册
- hystrix dashboard 依赖
- @EnableHystrixDashboard
- yml - 允许对哪台服务器开启监控
hystrix:
dashboard:
proxy-stream-allow-list: localhost
新建 sp08-hystrix-dashboard 项目
pom.xml
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.2.1.RELEASE</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<groupId>cn.tedu</groupId>
<artifactId>sp08-hystrix-dashboard</artifactId>
<version>0.0.1-SNAPSHOT</version>
<name>sp08-hystrix-dashboard</name>
<description>Demo project for Spring Boot</description>
<properties>
<java.version>1.8</java.version>
<spring-cloud.version>Hoxton.RELEASE</spring-cloud.version>
</properties>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
<exclusions>
<exclusion>
<groupId>org.junit.vintage</groupId>
<artifactId>junit-vintage-engine</artifactId>
</exclusion>
</exclusions>
</dependency>
</dependencies>
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>${spring-cloud.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
</plugin>
</plugins>
</build>
</project>
application.yml
spring:
application:
name: hystrix-dashboard
server:
port: 4001
eureka:
client:
service-url:
defaultZone: http://eureka1:2001/eureka, http://eureka2:2002/eureka
hystrix:
dashboard:
proxy-stream-allow-list: localhost
主程序添加 @EnableHystrixDashboard
和 @EnableDiscoveryClient
package cn.tedu.sp08;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;
import org.springframework.cloud.netflix.hystrix.dashboard.EnableHystrixDashboard;
@EnableDiscoveryClient
@EnableHystrixDashboard
@SpringBootApplication
public class Sp08HystrixDashboardApplication {
public static void main(String[] args) {
SpringApplication.run(Sp08HystrixDashboardApplication.class, args);
}
}
启动,并访问测试
访问 hystrix dashboard
填入 hystrix 的监控端点,开启监控
- 通过 hystrix 访问服务多次,观察监控信息
http://localhost:3001/item-service/35
http://localhost:3001/user-service/7
http://localhost:3001/user-service/7/score?score=100
http://localhost:3001/order-service/123abc
http://localhost:3001/order-service/
Hystrix 熔断
短路器打开的条件:
- 10秒内20次请求(必须首先满足)
- 50%失败,执行了降级代码
短路器打开后,所有请求直接执行降级代码
断路器打开几秒后,会进入**半开状态**,客户端调用会尝试向后台服务发送一次调用,
如果调用成功,断路器可以自动关闭,恢复正常
如果调用仍然失败,继续保持打开状态几秒钟
整个链路达到一定的阈值,默认情况下,10秒内产生超过20次请求,则符合第一个条件。
满足第一个条件的情况下,如果请求的错误百分比大于阈值,则会打开断路器,默认为50%。
Hystrix的逻辑,先判断是否满足第一个条件,再判断第二个条件,如果两个条件都满足,则会开启断路器
断路器打开 5 秒后,会处于半开状态,会尝试转发请求,如果仍然失败,保持打开状态,如果成功,则关闭断路器
使用 apache 的并发访问测试工具 ab
http://httpd.apache.org/docs/current/platform/windows.html#down
- 用 ab 工具,以并发50次,来发送20000个请求
ab -n 20000 -c 50 http://localhost:3001/item-service/35
- 断路器状态为 Open,所有请求会被短路,直接降级执行 fallback 方法
Hystrix 配置
https://github.com/Netflix/Hystrix/wiki/Configuration
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds
请求超时时间,超时后触发失败降级hystrix.command.default.circuitBreaker.requestVolumeThreshold
10秒内请求数量,默认20,如果没有达到该数量,即使请求全部失败,也不会触发断路器打开hystrix.command.default.circuitBreaker.errorThresholdPercentage
失败请求百分比,达到该比例则触发断路器打开hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds
断路器打开多长时间后,再次允许尝试访问(半开),仍失败则继续保持打开状态,如成功访问则关闭断路器,默认 5000
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。