这是我参与「第五届青训营 」伴学笔记创作活动的第 17 天
本文为青训营课程笔记,配合原课程食用效果更佳哦~
微服务架构原理与治理实践课程笔记
核心服务治理功能
服务发布
灰度发布(金丝雀发布)
金丝雀(canary)对瓦斯及其敏感,17世纪时,英国旷工在下井前会先放入一只金丝雀,以确保矿井中没有瓦斯。
流量治理
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。
负载均衡
负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。
- Round Robin
- Random
- Ring Hash
- Least Request
稳定性治理
线上服务总是会出问题的,这与程序的正确性无关。
- 网络攻击
- 流量突增
- 机房断电
- 光纤被挖
- 机器故障
- 网络故障
- 机房空调故障
微服务架构中典型的稳定性治理功能
- 限流
- 熔断
- 过载保护
- 降级
字节跳动服务治理实践
重试的意义
本地函数调用可能有哪些异常?
- 参数非法
- OOM (Out Of Memory)
- NPE (Null Pointer Exception)
- 边界 case
- 系统崩溃
- 死循环
- 程序异常退出
远程函数调用可能有哪些异常?
- 网络抖动
- 下游负载高导致超时
- 下游机器宕机
- 本地机器负载高,调度超时
- 下游熔断、限流
重试可以避免掉偶发的错误,提高 SLA(Service-Level Agreement)
降低错误率
假设单次请求的错误概率为 0.01,那么连续两次错误概率则为 0.0001。
降低长尾延时
对于偶尔耗时较长的请求,重试请求有机会提前返回。
容忍暂时性错误
某些时候系统会有暂时性异常(例如网络抖动),重试可以尽量规避。
避开下游故障实例
一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功。
重试的难点
幂等性
重试风暴
超时设置
重试策略
限制重试比例
设定一个重试比例阈值(例如 1%),重试次数占所有请求比例不超过该阈值。
防止链路重试
链路层面的防重试风暴的核心是限制每层都发生重试,理想情况下只有最下一层发生重试。 可以返回特殊的 status 表明“请求失败,但别重试”。
Hedged requests
对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应。
重试效果验证
实际验证经过上述重试策略后,在链路上发生的重试放大效应
总结收获
通过样例与知识点结合的方式,学到了一些微服务相关知识;
通过样例的讲解,更了解了具体的微服务方法;
又是收获满满的一天
引用参考
青训营官方课程视频
青训营官方课程文档
青训营官方课程笔记