阅读 1051

Java高并发实战 - 使用Semaphore对单接口进行限流(单接口版)

一、实战说明

1.1 效果说明

  1. 本篇主要讲如何使用Semaphore对单接口进行限流,例如有如下场景
    • A系统的有a接口主要给B系统调用,现在希望对B系统进行限流,例如处理峰值在100,超过100的请求快速失败
    • 接口作为总闸入口,希望限制所有外来访问,例如某个房间只能同时100个玩家在线,只有前面的处理完后面的才能继续请求
    • 其他类型场景,也就是资源固定的情况下需要轮流使用资源的可以采用Semaphore
  2. 不适用场景
    • 由于是针对总入口进行限流,所以不能根据IP或者token等进行限流,适用场景比较固定
    • 后续的博客中会介绍如何使用其他的针对IP/Token级别的限流,例如AOP+Redis+Lua进行限流
  3. 优点主要有
    • 相比针对IP级别的限流,Semaphore实现相对简单,对上述场景能快速实现限流效果
  4. 实现和原理难度:☆☆

1.2 核心知识点

  1. 主要使用以下技术点
    • springboot
    • juc包中的Semaphore(tryAcquire、release方法)
  2. Semaphore主要说明
    • Semaphore中可以通过tryAcquireacquire获取到一个许可证(默认),通过release释放许可证
    • 两个获取许可证的主要区别就是前者是非阻塞而后者阻塞,如果我们要实现快速失败的效果,就必须使用非阻塞获取许可证方法
  3. 注意点
    • 一定要确保release方法被调用,例如放到finally中,否则许可证得不到释放,将会导致接口被全部占用,无法接收请求

二、环境搭建

  1. 环境使用idea+spring initializr创建
  2. 新建springboot web项目

在这里插入图片描述 在这里插入图片描述 在这里插入图片描述

  1. 包目录说明

在这里插入图片描述

  1. 新建SemaphoreController,请求路径为limit
    • 注意点已经代码注释说明
package com.codecoord.semaphore.controller;

import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

import java.util.concurrent.Semaphore;

/**
 * 限流侧测试
 *
 * @author tianxincode@163.com
 * @since 2020-08-06
 */
@RestController
public class SemaphoreController {
    /**
     * 最大信号量,例如此处3,生成环境可以做成可配置项,通过注入方式进行注入
     */
    private static final int MAX_SEMAPHORE = 3;
    /**
     * Semaphore主限流,全局就行
     */
    private static final Semaphore SEMAPHORE = new Semaphore(MAX_SEMAPHORE);

    @RequestMapping("/limit")
    public String limit() {
        // 01.使用非阻塞tryAcquire,如果获取不到就快速返回失败
        if (!SEMAPHORE.tryAcquire()) {
            return "请求频率超过限制:" + MAX_SEMAPHORE;
        }

        // 02. 如果能进入到这里,说明一定获取到了许可证
        /// todo 可能的参数校验,注意如果参数校验不通过,一定要调用release方法
        /*if (valid(xxx)) {
            SEMAPHORE.release();
        }*/

        try {
            // 03. 模拟业务处理,假如需要1s
            Thread.sleep(1000);
            return "业务处理成功";
        } catch (InterruptedException e) {
            // 错误处理
            return "业务处理失败";
        } finally {
            // 04. 一定要释放,否则导致接口假死无法处理请求
            SEMAPHORE.release();
        }
    }
}
复制代码

三、限流演示

3.1 并发请求工具

  1. 并发请求将基于apache-jmeter-5.2.1进行测试,jmeter的使用相对简单,请读者自行百度
  2. 此处线程组的线程数量为10个,真实环境中根据需要调整配置大小

在这里插入图片描述 在这里插入图片描述

3.2 效果示例图

  1. 启动测试,可以看到处理成功的只有三个,剩下7个全部失败

请求成功

在这里插入图片描述

请求失败

在这里插入图片描述

文章分类
后端
文章标签