这是我参与「第五届青训营 」伴学笔记创作活动的第3天

1. 微服务架构介绍

1.1 系统架构的演变历史

单体架构 -> 垂直应用架构 -> 分布式架构 -> SOA架构 -> 微服务架构

1.2 微服务架构概览

微服务架构是目前互联网公司中广泛采用的一种软件架构形式

优点：

1. 开发效率高
2. 业务独立设计
3. 自下而上
4. 故障隔离

缺点：

1. 治理、运维难度大
2. 观测挑战
3. 安全性
4. 分布式系统

1.3 微服务架构的核心要素

核心要素包括服务治理、可观测性、安全

服务治理 ：服务注册、服务发现、负载均衡、扩缩容、流量治理、稳定性治理 可观测性：日志采集、日志分析、监控打点、监控大盘、异常报警、链路追踪 安全：身份验证、认证授权、访问令牌、审计、传输加密、黑产攻击

2. 微服务架构原理及特征

2.1 微服务架构的基本概念

服务：一组具有相同逻辑的运行实体

实例：一个服务中，每个运行实体即为一个实例

实例与进程的关系：实例与进程之间没有必然对应关系，一个实例可以对应一个或多个进程（反之不常见）

集群：通常指服务内部的逻辑划分，包含多个实例

常见的实例承载形式：进程、VM、k8s pod

有状态/无状态服务：服务的实例是否存储了可持久化的数据

服务间通信：对于单体服务，不同模块通信只是简单的函数调用；对于微服务，服务间通信意味着网络传输

2.2 服务注册及发现

• 新增一个统一的服务注册中心，用于存储服务名到服务实例的映射
• 服务实例上线及下线过程
  • 下线过程：在服务注册中心中删除一条实例的记录，过一段时间后下线该服务实例
  • 上线过程：先上线该服务实例，进行健康检查，在服务注册中心中添加该实例的地址

2.3 流量特征

• 统一网关入口
• 内网通信多数采用RPC
• 网状调用链路

3 核心服务治理功能

3.1 服务发布

服务发布，即指让一个服务升级运行新的代码的过程

难点：服务不可用、服务抖动、服务回滚

解决方法：

1. 蓝绿部署: 不同集群分别升级
2. 灰度发布：新服务实例逐步取代旧服务示例，确保新服务实例没有问题，但需要精细的流量控制，而且不易服务回滚

3.2 流量治理

在微服务架构下，可以基于地区、集群、实例、请求等维度，对端到端流量的路由路径进行控制

3.3 负载均衡

负责分配请求在每个下游实例上的分布

3.4 稳定性治理

微服务架构中典型的稳定性治理：限流、熔断、过载保护、降级

4. 字节跳动服务治理实践

4.1 重试的意义

重试可以避免偶发的错误，提高SLA

1. 降低错误率
2. 降低长尾延时
3. 容忍暂时性错误
4. 避开下游故障实例

本地函数没有充实的必要 远程过程调用可以进行重试

4.2 重试的难点

幂等性、重试风暴、超时设置

重试风暴：

4.3 重试策略

限制重试比例：设定一个重试比例阈值，重试次数不超过该阈值

防止链路重试：限制每层都发生重试，理想情况下只有最下一层发生重试，可以返回特殊的status告知上层服务请勿重试

Hedged request

4.4 重试效果验证