这是我参与「第五届青训营 」伴学笔记创作活动的第 2 天
微服务架构介绍
1.1 系统架构演变历史
1.1.1 单体架构
1.1.2 垂直应用架构
1.1.3 分布式架构
1.1.4 SOA架构
1.1.5 微服务架构
1.2 微服务架构概括
1.3 微服务架构核心要素
微服务架构原理及特征
2.1 基本概念
-
服务（service）： 一组具有相同逻辑的运行实体（即一组运行同一份代码的运行实例）
-
集群（cluster）服务内部的逻辑划分，包含多个实例。
-
实例（instance）： 一个服务中，每个运行实体即为一个实例
-
实例与进程的关系：实例与进程之间没有必然对应关系，可以一个实例对应一个或多个进程。（反之不常见）
-
常见的实例承载形式：进程、VM、k8s pod ……
-
有状态/无状态服务：服务的实例是否存储了可持久化的数据。
-
服务间通信
- 对于单体服务，不同模块通信只是简单的函数调用。
- 对于微服务，服务间通信意味着网络传输。
2.2 服务注册及发现
如何在代码层面，指定调用一个目标服务的地址（ip:port）？
-
简单方案
-
直接指定 ip:port？
- 没有任何动态能力
- 有多个实例下游实例无法处理
-
使用 DNS？
- 本地 DNS 存在缓存，导致延迟
- DNS 没有负载均衡
- 不支持服务实例的探活检查
- DNS 不能指定端口
-
-
解决思路
- 新增一个统一的服务注册中心，用于存储服务名到服务实例的映射。
服务实例上线及下线过程
上线： 先增加实例，然后进行健康检查（一直运行中），然后在服务注册中心添加映射
下线：不能直接下线，还有流量。 首先在服务注册中心，删去映射，然后等到没有流量使用实例时，下线实例。
2.3 流量特征
-
弱化连接概念，强调请求。
-
统一网关入口API gateway可以用作身份认证，进而将token附在请求上。
-
外网通信多数采用 HTTP，内网通信多数采用RPC（Thrift, gRPC）
-
网状调用链路
核心服务治理功能
3.1 服务发布
服务发布（deployment）：让一个服务升级运行新的代码的过程。
3.1.1 难点
3.1.2 蓝绿部署
- 将服务分成两个部分，分别先后发布
- 简单、稳定
- 但需要两倍资源
3.1.3 灰度发布（金丝雀发布）
金丝雀对瓦斯极其敏感，17世纪时，英国矿工在下井前会先放入一只金丝雀，以确保矿井中没有瓦斯。
- 将服务分成两个部分，分别先后发布
- 简单、稳定
- 但需要两倍资源
3.2 流量治理
在微服务架构下，可以基于地区、集群、实例、请求等维度，对端到端流的路由路径进行精确控制。
3.3 负载均衡
负载均衡（Load Balance）负责分配请求在每个下游实例上的分布。
3.4 稳定性治理
线上服务总是会出问题的，这与程序的正确性无关。
- 微服务架构中典型的稳定性治理功能
-
限流 ： 限制服务处理的最大 QPS，拒绝过多请求
-
熔断：中断请求路径，增加冷却时间从而让故障实例尝试恢复
-
过载保护：在负载高的实例中，主动拒绝一部分请求，防止实例被打挂
-
降级：服务处理能力不足时，拒绝低级别的请求，只响应线上高优请求
-
字节跳动服务治理实践
以重试功能为例
重试的意义
-
请求重试的意义
-
本地函数调用
- 通常没有重试意义
-
远程函数调用
- 网络抖动、下游负载高、下游机器宕机......
- 重试是有意义的，可以避免偶发性的错误，提高 SLA
-
重试的意义
- 降低错误率
- 降低长尾延时
- 容忍暂时性错误(如网络抖动)
- 避开下游故障实例（如机器故障）
-
重试的难点
-
幂等性
- 多次请求可能导致数据不一致
-
重试风暴
- 随着调用深度的增加，重试次数会指数级上涨
- 超时设置
- 假设调用时间一共1s，经过多少时间开始重试？
重试策略
-
限制重试比例
- 设定一个重试比例阈值（例如 1%），重试次数占所有请求比例不超过该阈值
- 重试只有在大部分请求都成功时，只有少量请求失败时，才有必要。
-
防止链路重试
- 返回特殊的 status code，表示“请求失败，但别重试”
- 缺点：对业务代码有侵入性
-
Hedged Requests（对冲请求）
- 对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应
重试效果验证
- 字节跳动重试组件能够极大限制重试发生的链路放大效应
