微服务架构原理与治理实践|青训营笔记

这是我参与「第三届青训营 -后端场」笔记创作活动的第4篇笔记

微服务架构

微服务架构介绍

1. 系统架构的演进历史
   1. 单体架构
   2. 垂直应用架构
   3. 分布式架构
   4. SOA架构
   5. 微服务架构
2. 微服务架构核心要素
   1. 服务治理
   2. 可观测性
   3. 安全

微服务架构原理及特征

1. 基本概念
   1. 服务：一组具有相同逻辑的运行实体
   2. 实例：一个服务中、每个运行实体为一个实例
   3. 实例与进程的关系：实例与进程之间没有必然对应关系
   4. 集群：通常指服务内部的逻辑划分，包含多个实例
   5. 有状态/无状态服务：进程的实例是否存储了可持久化的数据
2. 服务注册及发现
3. 流量特征
   1. 统一网关入口
   2. 内网通信多数采用RPC
   3. 网状调用链路

核心服务治理功能

1. 服务发布

   即指让一个服务升级运行新的代码的过程

   服务发布的难点：服务不可用、服务抖动、服务回滚

2. 流量治理

   在微服务机构下，可以基于地区、集群、实例、请求等维度，对端到端流量的路由路径进行精确控制。

3. 负载均衡

   负载均衡负责分配请求在每个下游实例上的分布。

4. 稳定性治理

   1. 限流
   2. 熔断
   3. 过载保护
   4. 降级

字节跳动服务治理实践

1. 重试的意义

   重试可以避免掉偶发的错误，提高SLA（Service-Level Agreement）

   1. 降低错误率
   2. 降低长尾延时
   3. 容忍暂时性错误
   4. 避开下游故障实例

2. 重试的难点

   1. 幂等性：多次请求可能会造成数据不一致
   2. 重试风暴：随着调用深度的增加，重试次数会指数级上涨
   3. 超时设置

3. 重试策略

   1. 限制重试比例：设定一个重试比例阈值，重试次数占所有请求比列不超过该阈值
   2. 防止链路重试：链路层面的防重试风暴的核心是限制每层都发生重试、理想情况下只有最下一层发生重试。
   3. Hedged requests：对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应。

4. 重试效果验证