Spring Cloud Alibaba Sentinel实现熔断与限流 | 流年，谁给过的倾城

Spring Cloud Alibaba Sentinel实现熔断与限流， Sentinel 是面向微服务的轻量级流量控制框架，从流量控制、熔断降级、系统负载保护等多个维度保护服务的稳定性。下面是我个人学习Sentinel基础使用的学习笔记。

1. Sentinel控制台下载使用

sentinel分为两个部分：

核心库（Java客户端）不依赖任何框架/库，能够运行与所有Java运行时环境，对Dubbo /Spring Cloud也能够很好的支持。
控制台（Dashboard）基于Spring Boot开发，打包后可以直接运行，不需要Tomcat的支持.

1.1 下载jar包

去GitHub地址： https://github.com/alibaba/Sentinel/releases 下载控制台对应的jar包

1.2 运行jar包

java -jar sentinel-dashboard-1.7.2.jar

1.3 Web界面测试

测试访问Web界面：localhost:8080

默认用户名和密码都是sentinel，登录之后：

补充一下，也可以使用docker来安装

docker pull bladex/sentinel-dashboard

运行

docker run --name sentinel -d -p 8858:8858 -d bladex/sentinel-dashboard

访问

2. 初始化演示工程

2.1 pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>live.yremp.springcloud</artifactId>
        <groupId>live.yremp</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>cloud-alibaba-sentinel-service8401</artifactId>

    <dependencies>
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
        </dependency>
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
    </dependencies>
</project>

2.2 配置文件

server:
  port: 8401

spring:
  application:
    name: cloud-alibaba-sentinel-service
  cloud:
    nacos:
      discovery:
        server-addr: 39.105.173.178:8848 #配置Nacos地址
    sentinel:
      transport:
        dashboard: localhost:8080
        port: 8719

management:
  endpoints:
    web:
      exposure:
        include: '*'

2.3 主启动类

package live.yremp.springcloud.alibaba;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;

@SpringBootApplication
@EnableDiscoveryClient
public class SentinelMain8401 {
    public static void main(String[] args) {
        SpringApplication.run(SentinelMain8401.class,args);
    }
}

2.4 业务代码

业务代码里面主要就是

package live.yremp.springcloud.alibaba.controller;

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class TestSentinelController {
    @GetMapping("/testA")
    public String testA(){
        return "------------------Test-A";
    }
    @GetMapping("/testB")
    public String testB(){
        return "------------------Test-B";
    }
}

2.5 启动测试监控

启动项目，先去Nacos查看服务注册情况

然后去Sentinel Dashboard查看监控情况

发现并没有任何服务，需要我们手动请求一下 cloud-alibaba-sentinel-service8401 的两个测试接口

再去Sentinel Dashboard查看

此时可以看到我们测试监控的服务了

3.流控规则

3.1 流控模式

直接：API达到限流条件时直接限流
关联：当关联的资源达到阈值时，就限流自己
链路：只记录指定链路上的流量

4 QPS直接快速失败

对TestA接口进行限流，QPS（每秒请求数）设置为1，超过这个阈值就会快速失败

快速刷新浏览器，就会触发这个流控规则

3.1.2线程数直接快速失败

修改Controller，使请求先睡眠1S然后再继续执行，这样主要是容易观察到

package live.yremp.springcloud.alibaba.controller;

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class TestSentinelController {
    @GetMapping("/testA")
    public String testA() throws InterruptedException {
        Thread.sleep(1000);
        return "------------------Test-A";
    }
    @GetMapping("/testB")
    public String testB(){
        return "------------------Test-B";
    }
}

重新启动项目，开两个窗口进行测试

后面的请求就会被限流，直接返回失败信息

3.1.2 关联模式

关联模式，当关联的资源的达到阈值就限流自己,下面设置A的限流规则，关联/testB ，当 testB服务请求过多，/testA就会被限流。

使用Postman对testB进行模拟并发访问

此时testB会被并发请求，并且超过了它的阈值1，访问testA就会触发限流规则

3.2 流控效果

3.2.1 快速失败

这个就是触发对应规则直接返回异常，例如：

3.2.2 预热

Warm Up:根据codeFactor (冷加载因子，默认3)的值,从阈值/codeFactor, 经过预热时长,才达到设置的QPS阈值。

对testB增加一个预热流控效果，如下图

10s内阈值会从默认的3慢慢增加到10，我们进行测试：

刚开始刷新会出现限流的信息，但是随着预热阈值不断增加，后面几乎不会再出现这种限流信息了。

3.2.3 排队

排队就是指定阈值，如果有超出阈值的请求可以进行排队等待处理，如果超出超时时间请求就会自动放弃。

每秒只处理一个请求，其他的请求经行排队，超时快速失败。

3.3 服务降级

3.3.1 服务降级RT

修改Controller，增加一个testC方法

@GetMapping("/testC")
    public String testC() throws InterruptedException {
        TimeUnit.SECONDS.sleep(1);
        System.out.println("testC is done！");
        return "------------------Test-C";
    }

RT是指平均响应时间（秒级），如下图，200ms内处理完请求，如果不能处理完成且QPS大于5 ，在接下来的1s内进行服务降级快速失败

使用jmeter进行测压，10个线程无限循环

请求 http://localhost:8401/testC

然后浏览器正常请求 testC，发现服务被降级了

关闭Jmeter再次测试，发现又可以正常访问

Sentinel熔断降级会在调用链路中某个资源出现不稳定状态时(例如调用超时或异常比例升高) ,对这个资源的调用进行限制，让请求快速失败，避免影响到其它的资源而导致级联错误。

当资源被降级后，在接下来的降级时间窗口之内，对该资源的调用都自动熔断(默认行为是抛出DegradeException)。

3.3.2 服务降级之异常比例

异常比例( DEGRADE_ GRADE_ EXCEPTION RATIO ):当资源的每秒请求量>= 5,并且每秒异常总数占通过量的比值超过阈值( DegradeRule中的count )之后，资源进入降级状态，即在接下的时间窗口( DegradeRule 中的timeWindow, 以s为单位)之内,对这个方法的调用都会自动地返回。异常比率的阈值范围是[0.0, 1.0]，代表0% - 100%。

Controller新增一个请求接口，如下：

@GetMapping("/testD")
    public String testD() throws InterruptedException {
        System.out.println("testD 异常比例测试！");
        int x =10/0; //故意写一个异常
        return "------------------Test-D";
    }

添加上面的异常比例降级规则，然后使用Jmeter进行压测模拟并发请求

此时浏览器访问testD

此时由于我们故意设置的异常(100%异常）,会导致服务降级。如果我们停掉Jmeter，然后去浏览器访问就会直接显示异常信息（因为QPS没有5）

3.3.2 服务降级之异常数

异常数( DEGRADE GRADE EXCEPTION_ COUNT ):当资源近1分钟的异常数目超过阈值之后会进行熔断。注意由于统计时间窗口是分钟级别的，若timeWindow 小于60s,则结束熔断状态后仍可能再进入熔断状态。

4. 热点Key限流

4.1 基础使用

Controller里面添加下面的内容

@GetMapping("/testHotKey")
    @SentinelResource(value = "testHotKey",blockHandler = "del_HotKey")
    public String testHotkey(@RequestParam(value = "p1",required = false) String p1,
                             @RequestParam(value = "p2",required = false) String p2){
        return "test HotKey";

    }

    public String del_HotKey(String p1,String p2, BlockException e){
        return "deal_testHotKey";
    }

添加下面的热点规则，testHotKey是对应@SenntinelResource注解里面的value

测试一下，刚开始按照1s一次的频率请求：

快速请求

如果修改Controller里面的代码，去掉blockHandler = "del_HotKey"

@GetMapping("/testHotKey")
    @SentinelResource(value = "testHotKey")
    public String testHotkey(@RequestParam(value = "p1",required = false) String p1,
                             @RequestParam(value = "p2",required = false) String p2){
        return "test HotKey";

    }

    public String del_HotKey(String p1,String p2, BlockException e){
        return "deal_testHotKey";
    }

我们去触发一下热点Key

4.2 参数额外项

我对testhotKey 的第一个参数p1 进行了额外的项配置，当p1的值为1时阈值就可以额外设置为200

即使以很快的速度刷新请求（实际上肯定到不了200QPS）也是正常访问，而我将p1的值设置为2，再次测试则会被Sentinel限流拦截。

5. 系统规则

我新建一个系统规则设置入口QPS为1，即所有接口的访问都会限制1QPS

6. SentinelResource

下面是对@SentinelResource注解的一些使用详解，还是先在Controller里面添加下面的方法 blockHandler 相当于异常之后的兜底方法

6.1 按资源名称限流

@GetMapping("/byResource")
    @SentinelResource(value = "byResource",blockHandler = "handleException")
    public CommonResult byResource(){
        return new CommonResult(200,"按资源名称测试OK",new Payment(2000L,"serial007"));
    }

    public CommonResult handleException(BlockException exception){
        return new CommonResult(444,exception.getClass().getCanonicalName()+",服务不可用！");
    }

测试服务可用

新增1QPS的流控规则

快速刷新，测试流控规则是否生效

为什么说是按资源名称？因为实际上在sentinel后台会有两个链路，如下：

其中有一个/byResource 这个是按URL的，byResource 是按资源名称

6.2 按URL限流

在Controller里面再添加一个请求接口，没有设置兜底方法：

@GetMapping("/byUrl")
    @SentinelResource(value = "byUrl")
    public CommonResult byUrl(){
        return new CommonResult(200,"按资URL测试OK",new Payment(2000L,"serial007"));
    }

重启测试

按URL新增流控规则

快速刷新，测试流控规则

因为没有设置兜底方法，所以提示信息是Sentinel默认的提示

6.3 自定义限流处理类

上面每个方法都对应一个 blockHandler 即一个兜底方法，把异常处理的代码和业务代码耦合在一起，这明显不合适，我们可以自定义 blockHandler 来解耦。

先新建一个自定义的限流处理类

package live.yremp.springcloud.alibaba.handler;

import com.alibaba.csp.sentinel.slots.block.BlockException;
import live.yremp.springcloud.entries.CommonResult;

public class CustomerBlockHandler {
    public static CommonResult handleException1(BlockException exception){
        return new CommonResult(444,",自定义 Global blockHandler --->1");
    }

    public static CommonResult handleException2(BlockException exception){
        return new CommonResult(444,",自定义 Global blockHandler --->2");
    }
}

在Controller里面新建下面的方法并配置我们自定义的限流处理类和方法

@GetMapping("/customerBlockHanlder")
    @SentinelResource(value = "customerBlockHanlder",
                      blockHandlerClass = CustomerBlockHandler.class,
                      blockHandler = "handleException2")
    public CommonResult customerBlockHanlder() {
        return new CommonResult(200, "customerBlockHanlder测试OK", new Payment(2000L, "serial007"));
    }

测试正常访问情况

添加限流规则测试我们自定义的限流处理类里面的方法

添加之后快速刷新浏览器触发限流规则

标签云

查看评论 - 3 条评论

Comments | 3 条评论

博客作者灵异探索网

登录以回复

发布于 2020-09-30 07:01 ( Firefox 79 Windows 10/11 )( )

谢谢分享,每日打卡,学生卡~
博客作者 gdjq

登录以回复

发布于 2020-09-26 05:54 ( Chrome 78 Windows 7 )( )

京东专用快递网站快递单号空包代发www.5adanhao.cn
博客作者柒月

登录以回复

发布于 2020-09-15 14:21 ( Edge 85 macOS Catalina or Higher 10.15.6 )( )

写的很好，我也打算试试这个~