主要讲解的是概念,部分测试无法用博客写明,自己测试体会一下会更好!
文章目录
hystrix断路器:
一、hystrix是什么?
Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方无法处理的异常,这样就保证了服务调用方的线程不会被长时间、不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
二、大型项目中会出现的一些问题:
典型的一个案例就是服务血崩效应 我们来看一张图:
上图是一条微服务调用链, 正常的情况我们就不必在讨论了, 我们来说一下非正常情况, 假设现在 微服务H 响应时间过长,或者微服务H直接down机了如图:
来看下上图, 我们联想一下上图, 如果发生这种情况, 也就是说所有发给微服务D的请求 都会被卡在微服务H那, 就会导致线程一直累计在这里, 那么其他的微服务(比如A,B,C…) 就没有可用线程了, 导致整个服务器崩溃,这就是服务血崩。
导致服务雪崩的情况我们来总结一下,再看看怎么解决:
程序BUG,数据不匹配,响应时间过长,服务不可用等等…
针对上面的问题,我们来看看有哪些解决方案 :
1、服务降级
2、超时监控
3、服务熔断
4、服务限流
三、降级,超时 :
我们先来解释一下降级,降级是当我们的某个微服务响应时间过长,或者不可用了,讲白了也就是那个微服务调用不了了,我们不能吧错误信息返回出来,或者让他一直卡在那里,所以要在准备一个对应的策略(一个方法)当发生这种问题的时候我们直接调用这个方法来快速返回这个请求,不让他一直卡在那 。讲了这么多,我们来看看具体怎么操作:
我们刚刚说了某个微服务调用不了要做降级,也就是说,要在调用方做降级(不然那个微服务都down掉了再做降级也没什么意义了) 比如说我们 user 调用power 那么就在user 做降级
先把hystrix的依赖加入:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
启动类加入注解@EnableHystrix 或者@EnableCircuitBreaker(他们之间是一个继承关系,2个注解所描述的内容是完全一样的,可能看大家之前都是EnableXXX(比如eureka)这里专门再写一个EnableHystrix方便大家记吧)
然后在我们的controller上面加入注@HystrixCommand(fallbackMethod就是我们刚刚说的方法的名字)
@RequestMapping("/getFeignPower.do")
@HystrixCommand(fallbackMethod = "getFeignPowerFullBack")
public R getFeignPower(String name){
return R.success("操作成功",powerFeignClient.getPower());
}
fallbackMethod:
这个R不重要,你看做一个Map就好了, 是我封装的一个返回值的类。
public R getFeignPowerFullBack(String name){
System.out.println(name);
return R.error("降级信息");
}
这里的这个降级信息具体内容得根据业务需求来, 比如说返回一个默认的查询信息,亦或是系统维护(因为有可能要暂时关闭某个微服务而吧资源让给其他服务)等等…
案例 我们在power代码里面模拟一个异常:
结合前面的微服务结构专题,我们分布启动eureka,user,power1,power2的服务,将power1中的方法模拟抛出异常;
power1:
@RestController
public class PowerController {
@RequestMapping("/getPower.do")
public Object getPoser(String name) throws Exception{
Map<String,Object> map = new HashMap<>();
map.put("key","power1");
if (name==null)
throw new Exception();
return map;
}
}
power2:
@RequestMapping("/getPower.do")
public Object getPoser(String name) throws Exception{
Map<String,Object> map = new HashMap<>();
map.put("key","power2");
return map;
}
user:这里请求使用的是feign
AppUserClient:
@SpringBootApplication
@EnableEurekaClient
@RibbonClients({
@RibbonClient(name = "SERVER-ORDER",configuration = OrderRuleConfig.class),
@RibbonClient(name = "SERVER-POWER",configuration = PowerRuleConfig.class)
})
@EnableFeignClients
@EnableHystrix
public class AppUserClient {
public static void main(String[] args) {
SpringApplication.run(AppUserClient.class);
}
}
R封装类:
public class R extends HashMap{
public static String SUCCESS_CODE="200";
public static String ERROR_CODE="500";
public static String DATA_KEY = "data";
public static String MSG_KEY = "msg";
private R(){
}
public R set(String key, Object object){
super.put(key,object);
return this;
}
private static R ok(){
return new R();
}
public static R success(){
return R.ok().set("code", R.SUCCESS_CODE).set(R.MSG_KEY,"操作成功");
}
public static R success(String msg){
return R.ok().set("code", R.SUCCESS_CODE).set(R.MSG_KEY,msg);
}
public static R success(String msg, Object object){
return R.ok().set("code", R.SUCCESS_CODE).set(R.MSG_KEY,msg).set(R.DATA_KEY,object);
}
public R data(Object obj){
return this.set("data",obj);
}
public static R error(){
return R.ok().set(R.MSG_KEY,"操作失败").set("code", R.ERROR_CODE);
}
public static R error(String msg){
return R.ok().set(R.MSG_KEY,msg).set("code", R.ERROR_CODE);
}
public static R error(String msg, Object object){
return R.ok().set(R.MSG_KEY,msg).set(R.DATA_KEY,object).set("code", R.ERROR_CODE);
}
}
PowerFeignClient:
@FeignClient(name = "SERVER-POWER")
public interface PowerFeignClient {
@RequestMapping("/getPower.do")
Object getPower();
}
UserFeignController:
@RestController
public class UserFeignController {
@Autowired
private PowerFeignClient powerFeignClient;
@Autowired
private OrderFeignClient orderFeignClient;
@RequestMapping("/getFeignPower.do")
@HystrixCommand(fallbackMethod = "getFeignPowerFullBack")
public R getFeignPower(String name){
return R.success("操作成功",powerFeignClient.getPower());
}
@RequestMapping("/getFeignPowerError.do")
public R getFeignPowerError(String name){
return R.success("操作成功",powerFeignClient.getPower());
}
public R getFeignPowerFullBack(String name){
System.out.println(name);
return R.error("降级信息");
}
}
然后启动服务调用一下看看结果:
getFeignPower.do和getFeignPowerError.do其实背后为同一逻辑请求,
1、getFeignPowerError.do我们没有添加任何处理,当我们请求getFeignPowerError.do,当服务请求到异常power1时,得到结果如下:
2、getFeignPowe.do我们添加服务降级处理,当我们请求getFeignPower.do,当服务请求到异常power1时,得到结果如下:
案例 我们在power代码里面模拟一个超时:
将power1的代码修改为:
@RestController
public class PowerController {
@RequestMapping("/getPower.do")
public Object getPoser(String name) throws Exception{
Map<String,Object> map = new HashMap<>();
map.put("key","power1");
Thread.sleep(2000);
return map;
}
}
重新启动再请求,当请求到异常服务器power1时,结果也是如下:
可能有些同学有疑问, 我这里什么都没干, 就让他休眠了一下 , 怎么就知道我这里超时了呢?
因为hystrix他有默认的超时监听,当你这个请求默认超过了1秒钟就会超时 当然,这个可以配置的,至于怎么配置
讲了这么多, 这个降级到底有什么用呢?
第一, 他可以监听你的请求有没有超时,第二,报错了他这里直接截断了没有让请求一直卡在这里其实降级还有一个好处, 就是当你的系统马上迎来大量的并发(双十一秒杀这种 或者促销活动) 这时候如果发现系统马上承载不了这么大的并发时, 可以考虑先关闭一些不重要的微服务(在降级方法里面返回一个比较友好的信息),吧资源让给主微服务,总结一下就是:
整体资源快不够了,忍痛将某些服务先关掉,待渡过难关,再开启回来。
四、熔断:
讲完降级,我们来讲讲熔断,其实熔断,就好像我们生活中的跳闸一样, 比如说你的电路出故障了,为了防止出现大型事故 这里直接切断了你的电源以免意外继续发生, 把这个概念放在我们程序上也是如此, 当一个微服务调用多次出现问题时(默认是10秒内20次当然 这个也能配置),hystrix就会采取熔断机制,不再继续调用你的方法(会在默认5秒钟内和电器短路一样,5秒钟后会试探性的先关闭熔断机制,但是如果这时候再失败一次{之前是20次}那么又会重新进行熔断) 而是直接调用降级方法,这样就一定程度上避免了服务雪崩的问题
这个东西光笔记不太好测试,只能你们自己去测试了
配置:
配置信息参考下面的解释
注意:
1、断路器打开的时候,所有经过该断路器的请求全部被断路,不调用后端服务,直接走fallback降级
3、时间是片段的,就是10秒走完一个单位,哪怕这个10秒后2秒错误18次,下一个10面前2秒错误6次,断路器也是不打开的是吧
还有中设置百分比;
Circuit Breaker相关的属性:
hystrix.command.default.circuitBreaker.enabled
用来跟踪circuit的健康性,如果未达标则让request短路。默认true
hystrix.command.default.circuitBreaker.requestVolumeThreshold
一个rolling window内最小的请 求数。如果设为20,那么当一个rolling window的时间内(比如说1个rolling window是10秒)收到19个请求, 即使19个请求都失败,也不会触发circuit break。默认20
hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds
触发短路的时间值,当该值设为5000时,则当触发circuit break后的5000毫秒内都会拒绝request,也就是5000毫秒后才会关闭circuit。默认5000
半开状态时也会每隔5秒尝试请求一次
hystrix.command.default.circuitBreaker.errorThresholdPercentage
错误比率阀值,如果错误率>=该值,circuit会被打开,并短路所有请求触发fallback。默认50
hystrix.command.default.circuitBreaker.forceOpen
强制打开熔断器,如果打开这个开关,那么拒绝所有request,默认false
hystrix.command.default.circuitBreaker.forceClosed
强制关闭熔断器 如果这个开关打开,circuit将一直关闭且忽略circuitBreaker.errorThresholdPercentage
五、限流
限流, 顾名思义, 就是限制你某个微服务的使用量(可用线程)
hystrix通过线程池的方式来管理你的微服务调用,他默认是一个线程池(10大小) 管理你的所有微服务,你可以给某个微服务开辟新的线程池:
@RequestMapping("/getFeignOrder.do")
@HystrixCommand(fallbackMethod = "getFeignOrderFullBack",
threadPoolKey = "order",
threadPoolProperties ={@HystrixProperty(name = "coreSize",value = "2")
,@HystrixProperty(name = "maxQueueSize",value = "1")})
public R getFeignOrder(){
System.out.println("调用一次");
return R.success("操作成功",orderFeignClient.getOrder());
}
threadPoolKey 就是在线程池唯一标识, hystrix 会拿你这个标识去计数,看线程占用是否超过了, 超过了就会直接降级该次调用
比如, 这里coreSize给他值为2 那么假设你这个方法调用时间是3s执行完, 那么在3s内如果有超过2个请求进来的话, 剩下的请求则全部降级;
maxQueueSize是排队队列,比如5个请求在设置的超时时间内来请求服务,那么coreSize为2,2个请求进入处理,maxQueueSize为1,1个请求进行排队,剩下的2个请求则全部降级
测试的话都自己写代码测试一下,案例不太容易说明;
六、feign整合hystrix:
feign 默认是支持hystrix的, 但是在Spring - cloud Dalston 版本之后就默认关闭了, 因为不一定业务需求要用的到,所以现在要使用首先得打开他,在yml文件加上如下配置:
feign:
hystrix:
enabled: true
加上配置之后降级方法怎么写呢?
PowerfeignFallBack:
@Component //一定要加!!!!!!!!!!!
public class PowerfeignFallBack implements PowerFeignClient {
@Override
public Object getPower() {
return R.error("power服务暂时不可用");
}
@Override
public Object getPowerList() {
return R.error("getPowerList暂时不可用");
}
}
PowerFeignClient:
@FeignClient(name = "SERVER-POWER",fallback =PowerfeignFallBack.class )
public interface PowerFeignClient {
@RequestMapping("/getPower.do")
Object getPower();
@RequestMapping("/getPowerLists.do")
Object getPowerList();
}
这样子,方法降级就写好了
当然 可能你有这种需求, 需要拿到具体的错误信息, 那么可以这样写:
@Component
public class PowerServiceClientFallBackFactory implements FallbackFactory<PowerFeignClient> {
@Override
public PowerFeignClient create(Throwable throwable) {
return new PowerFeignClient() {
@Override
public Object getPower() {
String message = throwable.getMessage();
return R.error("feign降级");
}
@Override
public Object getPowerList()ss {
String message = throwable.getMessage();
return R.error("feign降级");
}
};
}
}
客户端指定一个fallbackFactory就好了
@FeignClient(value = "SERVER-POWER",fallbackFactory = PowerServiceClientFallBackFactory.class)
public interface PowerFeignClient {
@RequestMapping("/getPower.do")
Object getPower();
@RequestMapping("/getPowerLists.do")
Object getPowerList();
}
这个message 就是拿到的错误信息;
至此, 就完成了feign与hystrix的整合
以上均为鲁班学院学习资料,欢迎大家报班学习,真心推荐!