Sentinel限流降级如何优雅的返回?SentinelResource注解之blockHander和fallback

1,987 阅读11分钟

携手创作,共同成长!这是我参与「掘金日新计划 · 8 月更文挑战」的第20天,点击查看活动详情


本次旅程您将获得如下知识:

  • Sentinel 的热点参数限流
  • 将 Sentinel 热点参数限流规则持久化到 Nacos
  • Spring Boot 项目接口统一返回与统一异常处理
  • 使用 SentinelResource 注解的 blockHandler 和 fallback 进行优雅返回与解耦

本系列文章代码仓库:github.com/ChenDapengJ…

前言

本篇文章填上次 将 Sentinel 熔断限流规则持久化到 Nacos 配置中心 提到的一个问题:之前我们访问接口进行限流或者降级后,直接返回500错误,或者提示 flow limit 之类的东西:

image-20220815215455839.png

这样显得很不优雅,透漏着不专业,那么进行限流或者降级后该如何进行优雅的返回呢?

本章从 Sentinel 的 热点参数限流 着手,使用注解 @SentinelResourceblockHandlerfallback 来实现限流后优雅的返回。

Sentinel的热点参数限流

看到限流名字 热点参数 ,顾名思义,就能想到是针对请求资源的参数进行限流的。如果参数是 热点参数 ,并且符合设置的热点参数限流规则,那么 Sentinel 也对其进行限流。

何为 热点参数 呢?联想一下娱乐圈的那些明星,粉丝越多的明星,他的热度就越高。同理,一个系统,访问的数据越频繁,这个数据的热度就越高。这种经常访问的数据就是 热点

有些时候,需要采取一些措施对 热点数据 进行限制,比如:

  • 统计一段时间内最常访问的某个商品 ID (参数为商品 ID ),那么对该商品 ID 进行限制;
  • 请求资源参数用户 ID ,针对一段时间内频繁访问的用户 ID 进行限制;
  • 等等

热点参数限流 会统计传入参数中的热点参数,并根据配置的限流阈值与模式,对包含热点参数的资源调用进行限流。

热点参数限流可以看做是一种特殊的流量控制,仅对包含热点参数的资源调用生效。

image-20220816154242027.png

下面我们就开始创建包含热点参数的接口资源,并配置热点参数限流规则进行验证 Sentinel 的热点参数限流功能。

还是用之前的微服务项目 sentinel-service ,新增一个接口资源如下:

@RestController
@Slf4j
public class UserController {

    @GetMapping("/getProduct")
    @SentinelResource("getProduct")
    public String getProduct(@RequestParam(value = "userId", required = false) Long userId,
                             @RequestParam(value = "productId", required = false) Long productId,
                             @RequestParam(value = "categoryId", required = false) Integer categoryId) {
        log.info("getProduct param userId={},productId={},categoryId={}", userId, productId, categoryId);
        return "getProduct success";
    }
}

下面开始通过 Sentinel 控制台和 Nacos 配置中心两种方式进行规则配置。

通过 Sentinel 控制台进行热点参数限流规则配置

在控制台,在簇点链路上找到对应的资源,进行 热点 规则配置:

image-20220816155230749.png

打开 热点 操作:

image-20220816155739862.png

如图所示的就是对资源 getProduct 的第一个参数 userId 进行限流,如果配置单机阈值为1,窗口统计时长1秒,那么其含义就是: 在1秒内访问 getProduct 资源超过1次,如果传入了热点参数 userId,那么将对该资源进行限流,如果没有传入 userId,那么该资源不被限流。

现在我们来访问接口验证一下,先传入不是热点的参数 categoryId

image-20220816160347042.png

可以看到,无论QPS是多少,接口都正常返回,没有进行限流,现在我们加上热点参数 userId 试一下:

image-20220816160655094.png

1秒内快速刷新几下,QPS只要大于1了,接口访问就芭比Q了,说明 Sentinel 的热点参数限流生效了。

Sentinel 热点参数限流规则持久化到 Nacos

在 Nacos 设置 Data ID 及规则内容

在 Sentinel 控制台配置的规则,当服务重启后,规则将消失,这并不是我们想要的结果,上一篇文章中,我们已经完成了 Sentinel 的规则持久化到 Nacos 中,本小节我们配置一下热点参数的限流规则。

热点参数的限流规则主要有以下几个字段:

  • resource :资源名,必填项;
  • count :限流阈值,必填项;
  • grade :限流模式,只能是 QPS
  • paramIdx :热点参数的索引,必填项,索引从 0 开始;
  • durationInSec :统计窗口时间长度(单位为秒),默认为 1 s;
  • controlBehavior :流控效果(支持快速失败和匀速排队模式),默认为快速失败;
  • maxQueueingTimeMs :最大排队等待时长(仅在匀速排队模式生效),默认 0 ms;
  • paramFlowItemList :参数例外项,可以针对指定的参数值单独设置限流阈值,不受前面 count 阈值的限制。 仅支持基本类型和字符串类型
  • clusterMode :是否是集群参数流控规则,默认为 false
  • clusterConfig :集群流控相关配置。

下面我们在 Nacos 控制台中对资源 getProduct 添加 热点参数限流规则

image-20220816162029889.png

这里的设置和前文在 Sentinel 控制台设置的含义一致。

配置 application.yml

Nacos 中持久化了限流规则,那么在微服务项目中,可以在 application.yml 配置文件中这样配置:

spring:
  application:
    name: sentinel-service

  cloud:
    nacos:
      discovery:
        # Nacos 集群
        server-addr: 192.168.242.112:81
    sentinel:
      transport:
        dashboard: localhost:8080
        port: 8719
      # https://github.com/alibaba/Sentinel/issues/1213
      web-context-unify: false
      # Sentinel 规则持久化到 Nacos
      datasource:
        rule1:
          nacos:
            serverAddr: 192.168.242.112:81
            groupId: DEFAULT_GROUP
            dataId: sentinelFlowRule.json
            ruleType: flow
        rule2:
          nacos:
            serverAddr: 192.168.242.112:81
            groupId: DEFAULT_GROUP
            dataId: hotKeyRule.json
            ruleType: param-flow

其中 ruleTypeparam-flow 的就是热点参数限流的规则,一定要把 dataId 配置正确。

然后启动服务,重新验证限流规则,依然生效:

image-20220816160236294.png

接口统一返回和统一异常处理

前面接口 getProduct 调用成功返回字符串 getProduct success ,调用失败返回了一个 500 Internal Server Error ,这种返回格式没有一个统一的格式,这在前后端分离项目中并不是很好的实践。前后端应该约定好每个接口的统一返回格式。

本文在 SpringCloudAlibabaDemo 父工程模块下增加一个子模块 internal-common 作为公共模块,其他子模块可以引入该模块使用。

internal-common 子模块中定义了接口返回格式,在包 cn.chendapeng.springcloud.common.response 下定义两个类:

枚举 ResponseCode:

public enum ResponseCode {

    /**
     * 操作成功
     */
    SUCCESS("00000", "操作成功"),

    /**
     * 系统内部异常
     */
    INTERNAL_ERROR("B0001", "系统执行出错");

    /**
     * 状态码
     */
    private final String code;

    /**
     * 提示信息
     */
    private final String message;

    ResponseCode(String code, String message) {
        this.code = code;
        this.message = message;
    }

    public String getCode() {
        return code;
    }

    public String getMessage() {
        return message;
    }
}

该枚举类可以定义很多其他业务上的异常代码和异常信息。

统一返回类 ResponseResult:

package cn.chendapeng.springcloud.common.response;

import lombok.Data;

/**
 * 统一返回结果
 *
 * 博客:https://chendapeng.cn - 行百里者半九十,做事要善始善终!
 * 公众号:行百里er
 *
 * @author 行百里者
 * @date 2022-08-16 16:49
 */
@Data
public class ResponseResult<T> {
    /**
     * 状态码
     */
    private String code;

    /**
     * 提示信息
     */
    private String message;

    /**
     * 返回数据
     */
    private T data;

    public ResponseResult() {
    }

    public ResponseResult(String code, String message) {
        this.code = code;
        this.message = message;
    }

    /**
     * 操作成功的返回
     * @param data 返回结果数据
     * @param <T> 数据类型泛型
     * @return 相应结果
     */
    public static <T> ResponseResult<T> success(T data) {
        ResponseResult<T> result = new ResponseResult<>();
        result.setCode(ResponseCode.SUCCESS.getCode());
        result.setMessage(ResponseCode.SUCCESS.getMessage());
        result.setData(data);
        return result;
    }

    /**
     * 操作失败的返回
     * @param code 状态码
     * @param message 提示信息
     * @param <T> 数据类型泛型
     * @return 失败操作的返回结果
     */
    public static <T> ResponseResult<T> fail(String code, String message) {
        return new ResponseResult<>(code, message);
    }
}

父工程定义子模块:

<modules>
    <module>internal-common</module>
    <module>nacos-provider</module>
    <module>nacos-consumer</module>
    <module>nacos-config</module>
    <module>sentinel-service</module>
</modules>

在本篇文章demo的子工程 sentinel-service 中引入 internal-common

<!-- 引入二方库 -->
<dependency>
    <groupId>cn.chendapeng.springcloud</groupId>
    <artifactId>internal-common</artifactId>
    <version>0.0.1-SNAPSHOT</version>
</dependency>

OK,至此基础信息准备完毕,下面开始设置统一返回结果。

使用 Spring 的 ResponseBodyAdvice 类以及 @RestControllerAdvice 注解来完成接口的统一返回,在 sentinel-service 中新建一个全局返回的配置类:

package cn.chendapeng.springcloud.sentinelservice.response;

import cn.chendapeng.springcloud.common.response.ResponseResult;
import com.fasterxml.jackson.core.JsonProcessingException;
import com.fasterxml.jackson.databind.ObjectMapper;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.core.MethodParameter;
import org.springframework.http.MediaType;
import org.springframework.http.converter.HttpMessageConverter;
import org.springframework.http.server.ServerHttpRequest;
import org.springframework.http.server.ServerHttpResponse;
import org.springframework.web.bind.annotation.RestControllerAdvice;
import org.springframework.web.servlet.mvc.method.annotation.ResponseBodyAdvice;

/**
 * 博客:https://chendapeng.cn - 行百里者半九十,做事要善始善终!
 * 公众号:行百里er
 *
 * @author 行百里者
 * @since 2020-01-16 16:55
 */
@RestControllerAdvice
public class ResponseAdvice implements ResponseBodyAdvice<Object> {

    private ObjectMapper objectMapper;

    /**
     * 是否开启功能
     * @param methodParameter 方法的参数
     * @param aClass 类
     * @return true:开启,false:不开启
     */
    @Override
    public boolean supports(MethodParameter methodParameter, Class<? extends HttpMessageConverter<?>> aClass) {
        return true;
    }

    /**
     * 处理返回结果
     * @param o 实例对象
     * @param methodParameter 方法参数
     * @param mediaType 媒体类别
     * @param aClass 类对象
     * @param request 请求
     * @param response 相应
     * @return 处理结果json
     */
    @Override
    public Object beforeBodyWrite(Object o, MethodParameter methodParameter, MediaType mediaType, Class<? extends HttpMessageConverter<?>> aClass, ServerHttpRequest request, ServerHttpResponse response) {
        //处理字符串类型数据
        if (o instanceof String) {
            try {
                return objectMapper.writeValueAsString(ResponseResult.success(o));
            } catch (JsonProcessingException e) {
                e.printStackTrace();
            }
        }
        //如果返回类型o已经封装成ResponseResult了,直接返回
        if (o instanceof ResponseResult) {
            return o;
        }
        return ResponseResult.success(o);
    }

    @Autowired
    public void setObjectMapper(ObjectMapper objectMapper) {
        this.objectMapper = objectMapper;
    }
}

统一异常返回处理类 GlobalExceptionHandler

@RestControllerAdvice
public class GlobalExceptionHandler {

    private static final Logger LOGGER = LoggerFactory.getLogger(GlobalExceptionHandler.class);

    /**
     * 未知的异常,统一处理
     * @param e 异常对象
     * @return ResponseResult全局异常响应
     */
    @ExceptionHandler(Exception.class)
    public ResponseResult<String> exception(Exception e) {
        LOGGER.error("未知异常", e);
        return ResponseResult.fail(ResponseCode.INTERNAL_ERROR.getCode(), ResponseCode.INTERNAL_ERROR.getMessage());
    }
}

这个类里还可以增加其他自定义的业务异常处理。

此时,我们重启 sentinel-service 服务,调用 getProduct 测试:

image-20220816232523946.png

这样接口就有了统一返回的格式了。

另外,我们可以注意到,资源被限流后返回的信息也被如下方法截获:

@ExceptionHandler(Exception.class)
public ResponseResult<String> exception(Exception e) {
    LOGGER.error("未知异常", e);
    return ResponseResult.fail(ResponseCode.INTERNAL_ERROR.getCode(), ResponseCode.INTERNAL_ERROR.getMessage());
}

这里定义的是所有的异常都返回:

{
    "code": "B0001",
    "message": "系统执行出错",
    "data": null
}

而资源被 Sentinel 限流就是返回一个 BlockException 异常,所以也就被我们定义的通用异常方法统一处理了。

@SentinelResource 注解之 blockHandler 和 fallback

blockHandler 和 blockHandlerClass

使用 blockHandler 处理限流逻辑

前面的返回:

{
    "code": "B0001",
    "message": "系统执行出错",
    "data": null
}

虽然格式上没有问题,但是返回的结果语义太过笼统,这里我们可以使用注解 @SentinelResourceblockHandler 属性来自定义限流后的处理逻辑。

请求资源被 Sentinel 限流后,将会出现BlockException 异常, blockHandler 对应处理 BlockException 的函数名称。

blockHandler 函数访问范围需要是 public,返回类型需要与原方法相匹配,参数类型需要和原方法相匹配并且最后加一个额外的参数,类型为 BlockException。blockHandler 函数默认需要和原方法在同一个类中。

下面我们来增加一个 blockHandler 对应的处理方法:

@GetMapping("/getProduct")
@SentinelResource(value = "getProduct", blockHandler = "getProductBlockHandler")
public String getProduct(@RequestParam(value = "userId", required = false) Long userId,
                         @RequestParam(value = "productId", required = false) Long productId,
                         @RequestParam(value = "categoryId", required = false) Integer categoryId) {
    log.info("getProduct param userId={},productId={},categoryId={}", userId, productId, categoryId);
    return "getProduct success";
}

public String getProductBlockHandler(Long userId,
                                     Long productId,
                                     Integer categoryId,
                                     BlockException blockException) {
    return "热点参数 userId=" + userId + " 限流!";
}

然后在测试调用资源,结果如下:

image-20220817114752951.png

可以看到,将 getProductBlockHandler 处理结果返回了。

这样看还是感觉怪怪的,因为资源被限流了其实返回的是异常结果,这里希望最好给我返回个指定的 code 以及 message

再升级一下处理逻辑,首先定义限流返回码,在 internal-common 模块的 ResponseCode 枚举类增加:

/**
  * 热点参数限流
  */
HOT_KEY_BLOCKED("B0002", "热点参数限流");

然后,自定义一个异常 HotKeyBlockedException

public class HotKeyBlockedException extends RuntimeException {

    private Object hotKey;

    public HotKeyBlockedException(Object hotKey) {
        super("热点参数 [" + hotKey + "]限流!");
        this.hotKey = hotKey;
    }

    public Object getHotKey() {
        return hotKey;
    }
}

在全局异常处理类 GlobalExceptionHandler 中增加:

/**
  * 热点参数限流异常
  * @param e 异常对象
  * @return ResponseResult 全局异常响应
  */
@ExceptionHandler(HotKeyBlockedException.class)
public ResponseResult<String> hotKeyBlockedException(Exception e) {
    LOGGER.error("热点参数限流", e);
    return ResponseResult.fail(ResponseCode.HOT_KEY_BLOCKED.getCode(), ResponseCode.HOT_KEY_BLOCKED.getMessage());
}

最后,修改一下 getProductBlockHandler 方法:

public String getProductBlockHandler(Long userId,
                                     Long productId,
                                     Integer categoryId,
                                     BlockException blockException) {
    throw new HotKeyBlockedException(userId);
}

这样就可以返回想要的结果:

image-20220817115754301.png

使用 blockHandlerClass 将业务和限流处理方法解耦

通过前面的处理,其实我们可以发现,限流处理的方法和业务逻辑耦合在一起了,即处理方法就在业务逻辑本类中。

如果每个业务都增加一个自己的限流处理逻辑,那么类将会膨胀的难以维护,因此 @SentinelResource 除了 blockHandler 可以设置自定义限流处理逻辑方法以外,还提供另外一个属性来设置限流处理逻辑类型 blockHandlerClass 属性。

也就是说,如果我们希望使用其他类的函数来自定义限流处理,则可以指定 blockHandlerClass 为对应的类的 Class 对象。 Sentinel 规定对应的函数必需为 static 函数,否则无法解析。

继续上代码,只需将 getProductBlockHandler 移动到 HotKeyBlockedException 类中,并将其设为 static 的即可:

public class HotKeyBlockedException extends RuntimeException {

    private Object hotKey;

    public HotKeyBlockedException(Object hotKey) {
        super("热点参数 [" + hotKey + "]限流!");
        this.hotKey = hotKey;
    }

    public static String getProductBlockHandler(Long userId,
                                                Long productId,
                                                Integer categoryId,
                                                BlockException blockException) {
        throw new HotKeyBlockedException(userId);
    }

    public Object getHotKey() {
        return hotKey;
    }
}

然后在资源上这样定义:

@SentinelResource(value = "getProduct",
            blockHandlerClass = HotKeyBlockedException.class,
            blockHandler = "getProductBlockHandler")

这样就完成了限流处理逻辑与业务逻辑的解耦。

fallback

fallbackblockHandler 的使用方法及其相似,只是他们的本质不同:

  • blockHandler:针对 Sentinel 配置的规则生效而产生 BlockException 异常时的对应处理;
  • fallback:可以针对所有类型的异常(除了 exceptionsToIgnore 里面排除掉的异常类型)进行处理。

blockHandlerfallback 都进行了配置,则被限流降级而抛出 BlockException 时只会进入 blockHandler 处理逻辑。若未配置 blockHandlerfallback ,则被限流降级时会将 BlockException 直接抛出

由于 fallbackblockHandler 的用法是在太像了,这里就不列出代码了。完整代码见:github.com/ChenDapengJ…

小结

  • 可以通过 @SentinelResource 注解来定义资源,并使用其属性 blockHandlerfallback 自定义异常处理逻辑。

  • 其中 blockHandler 是针对限流熔断异常而设置的属性,fallback 是针对所有异常的。

  • 如果同时配置了 blockHandlerfallback 属性,则被限流降级而抛出 BlockException 时只会进入 blockHandler 处理逻辑。

  • 本文还提供了 Spring Boot 统一返回结果和全局异常处理的一种方法。

以上,本次导航结束。

image.png

点个赞再走吧~