三.Hystrix资源隔离

1.Hystrix资源隔离的策略

  线程池隔离

  线程隔离技术不是去控制类似tomcat这种web容器的请求线程,它是控制的是tomcat内部的执行线程,线程池满后,可以保证的是,tomcat的执行线程不会因为依赖服务的延迟或故障被卡死,使tomcat的执行线程最多损失这个线程池的线程数量,tomcat的其他线程不会卡死,会立即返回做其他的事情。

  整个流程就是:

  tomcat接收请求,tomcat线程将对依赖服务的调用路由到Hystrix的线程池,Histrix开启线程执行依赖服务的调用,tomcat线程立即返回,去做处理其他的请求。

 信号量隔离技术

  信号量是直接用tomcat线程调用依赖服务。

2.如何在线程池和信号量之间做选择

  线程池,针对涉及网络请求的操作

  信号量,针对纯内存操作,比如比较复杂的耗时的逻辑,还有就是你当前的服务已经支撑不了某个业务的流量洪峰,想进行流量削峰,这时候可以用信号量,限制tomcat本身的线程开销,因为你的目的是限制tomcat自身的线程。

  说白了,信号量限制的是tomcat自身的线程,线程池是利用hystrix的线程替代tomcat的线程去做tomcat线程该做的事(自己总结,不保证正确性)。

3.配置 

// to use thread isolation
HystrixCommandProperties.Setter()
   .withExecutionIsolationStrategy(ExecutionIsolationStrategy.THREAD)
// to use semaphore isolation
HystrixCommandProperties.Setter()
   .withExecutionIsolationStrategy(ExecutionIsolationStrategy.SEMAPHORE)

1.command group:command group用来定义一个线程池的,而且还会通过command group来聚合一些监控和报警信息,同一个command group中的请求,都会进入同一个线程池中。

2.threadpool key:代表了一个HystrixThreadPool,用来进行统一监控,统计,缓存。默认的threadpool key就是command group名称,每个command都会跟它的threadpool key对应的thread pool绑定在一起。如果不想直接用command group,也可以手动设置thread pool name。

public CommandHelloWorld(String name) {
    super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("ExampleGroup"))
            .andCommandKey(HystrixCommandKey.Factory.asKey("HelloWorld"))
            .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("HelloWorldPool")));
    this.name = name;
}

3.command key:代表了一类command,一般来说,代表了底层的依赖服务的一个接口

command group:代表了某一个底层的依赖服务,一个依赖服务可能会暴露出来多个接口,每个接口就是一个command key,command group是用来在逻辑上组合一堆command的,在逻辑上去组织起来一堆command key的调用,统计信息,成功次数,timeout超时次数,失败次数,可以看到某一个服务整体的一些访问情况;一般来说,推荐是根据一个服务去划分出一个线程池,command key默认都是属于同一个线程池的。

举个例子,对于一个服务中的某个功能模块来说,希望将这个功能模块内的所有command放在一个group中,那么在监控和报警的时候可以放一起看。

command group对应了一个服务,但是这个服务暴露出来的几个接口,访问量很不一样,差异非常之大,你可能就希望在这个服务command group内部,包含的对应多个接口的command key,做一些细粒度的资源隔离,那么可以对同一个服务的不同接口,都使用不同的线程池。

4 .coreSize

设置线程池的大小,默认是10

HystrixThreadPoolProperties.Setter()
   .withCoreSize(int value)

5.queueSizeRejectionThreshold

控制queue满后执行reject,因为maxQueueSize不允许热修改,因此提供这个参数可以热修改,控制队列的最大大小,默认值是5.

6.ExecutionIsolationSemaphoreMaxConcurrentRequests

设置使用SEMAPHORE隔离策略的时候,允许访问的最大并发量,超过这个最大并发量,请求直接被reject

这个并发量的设置,跟线程池大小的设置,是类似的,但是基于信号量的话,性能会好很多,而且hystrix框架本身的开销会小很多

默认值是10,设置的小一些,否则因为信号量是基于调用tomcat线程去执行command的(线程池技术是基于hystrix自己的线程去执行command),而且也不能从timeout中抽离,因此一旦设置的太大,而且有延时发生,可能瞬间导致tomcat本身的线程资源本占满。

HystrixCommandProperties.Setter()
   .withExecutionIsolationSemaphoreMaxConcurrentRequests(int value)

4.代码

(1). 设置信号量隔离

public class SemaphoreCommand extends HystrixCommand<String> {public SemaphoreCommand() {
        super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("SemaphoreGroup"))
                .andCommandKey(HystrixCommandKey.Factory.asKey("SemaphoreCommand"))
                .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("SemaphorePool"))
                .andCommandPropertiesDefaults(HystrixCommandProperties.Setter()
                        .withExecutionIsolationStrategy(ExecutionIsolationStrategy.SEMAPHORE)
                        .withExecutionIsolationSemaphoreMaxConcurrentRequests(15)));
    }
    
    @Override
    protected String run() throws Exception {
        return "数据";
    }
    
}

(2).设置线程池的队列大小

public class GetProductInfoCommand extends HystrixCommand<ProductInfo> {

    private Long productId;
    
    public GetProductInfoCommand(Long productId) {
        super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("ProductInfoService"))
                .andCommandKey(HystrixCommandKey.Factory.asKey("GetProductInfoCommand"))
                .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("GetProductInfoPool"))
                .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter()
                        .withCoreSize(15)
                        .withQueueSizeRejectionThreshold(10))
                );  
        this.productId = productId;
    }
    
    @Override
    protected ProductInfo run() throws Exception {return JSONObject.parseObject("数据", ProductInfo.class);  
    }

}

猜你喜欢

转载自www.cnblogs.com/z-3FENG/p/9695825.html
今日推荐