Go 语言微服务实践 | 青训营笔记

102 阅读3分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 17 天

本文为青训营课程笔记,配合原课程食用效果更佳哦~

微服务架构原理与治理实践课程笔记

核心服务治理功能

服务发布

灰度发布(金丝雀发布)

金丝雀(canary)对瓦斯及其敏感,17世纪时,英国旷工在下井前会先放入一只金丝雀,以确保矿井中没有瓦斯。

流量治理

在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。

负载均衡

负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。

  • Round Robin
  • Random
  • Ring Hash
  • Least Request
稳定性治理

线上服务总是会出问题的,这与程序的正确性无关。

  • 网络攻击
  • 流量突增
  • 机房断电
  • 光纤被挖
  • 机器故障
  • 网络故障
  • 机房空调故障

微服务架构中典型的稳定性治理功能

  • 限流
  • 熔断
  • 过载保护
  • 降级

字节跳动服务治理实践

重试的意义

本地函数调用可能有哪些异常?

  • 参数非法
  • OOM (Out Of Memory)
  • NPE (Null Pointer Exception)
  • 边界 case
  • 系统崩溃
  • 死循环
  • 程序异常退出

远程函数调用可能有哪些异常?

  • 网络抖动
  • 下游负载高导致超时
  • 下游机器宕机
  • 本地机器负载高,调度超时
  • 下游熔断、限流

重试可以避免掉偶发的错误,提高 SLA(Service-Level Agreement)

降低错误率

假设单次请求的错误概率为 0.01,那么连续两次错误概率则为 0.0001。

降低长尾延时

对于偶尔耗时较长的请求,重试请求有机会提前返回。

容忍暂时性错误

某些时候系统会有暂时性异常(例如网络抖动),重试可以尽量规避。

避开下游故障实例

一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功。

重试的难点

幂等性

重试风暴

超时设置

重试策略
限制重试比例

设定一个重试比例阈值(例如 1%),重试次数占所有请求比例不超过该阈值。

防止链路重试

链路层面的防重试风暴的核心是限制每层都发生重试,理想情况下只有最下一层发生重试。 可以返回特殊的 status 表明“请求失败,但别重试”。

Hedged requests

对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应。

重试效果验证

实际验证经过上述重试策略后,在链路上发生的重试放大效应

总结收获

通过样例与知识点结合的方式,学到了一些微服务相关知识;

通过样例的讲解,更了解了具体的微服务方法;

又是收获满满的一天

引用参考

青训营官方课程视频

青训营官方课程文档

青训营官方课程笔记