限流方案介绍
限流一般都是多层次的。 接入层->网关层->服务层->基础设施的限流
限流措施距离请求入口越近效果越好
限流算法:令牌桶+漏铜 + 滑动窗口 + 固定窗口
区别:瞬时大流量,令牌桶可处理,漏桶不可处理。
令牌桶流出量可以接受一定的峰值,漏桶流出速率恒定。
具体措施:
nginx 限流
hystrix 限流
sentinel限流
gateway 限流: 配置限流过滤器
中间件中涉及的限流:
mq限流 、 eureka client 定时同步(默认30s)client信息时存在 令牌桶限流
**四大算法 **
固定窗口
滑动窗口
漏桶
令牌桶
限流指标: TPS ,HPS,QPS
超额流量处理策略: 否决式限流 , 阻塞式限流
单机限流: Guava RateLimit
分布式限流: hystrix sentinel gateway ,redis
限流话术:
分层 -> 落地 -> 算法(指标) - > 限流拒绝策略
限流分层 从入口到实例服务进程内
可以实施的位置 nginx gateway sentinel 等
涉及的算法 : 固定 滑动 桶
涉及指标: TPS ,QPS HPS
限流后的策略: 否决 、阻塞等待方
限流后的策略 类似 线程池拒绝策略