这是我参与【第五届青训营】伴学笔记创作活动的第13天
🍕一、微服务架构介绍
1、单体架构
优势：性能最高，冗余小
劣势：debug困难，模块相互影响，模块分工，开发流程
2、垂直应用架构
优势：业务独立开发维护
劣势：不同业务存在冗余，每个业务还是单体
3、分布式架构
优势：业务无关的独立服务
劣势：服务模块bug可导致全站瘫痪，调用关系复杂，不同服务冗余
4、SOA架构
面向服务
优势：服务注册
劣势：整个系统设计是中心化的，需要从上至下设计，重构困难
5、微服务架构
优势：开发效率，业务独立设计，自下而上，故障隔离
劣势：治理、运维难度，观测挑战，安全性，分布式系统
6、微服务架构核心要素
🍔二、微服务架构原理及特征
1、概念
服务 (service)：一组具有相同逻辑的运行实体
实例 (instance)：一个服务中，每个运行实体即为一个实例
实例与进程的关系：实例与进程之间没有必然对应关系，可以一个实例可以对应一个或多个进程 (反之不常见)
集群 (cluster)：通常指服务内部的逻辑划分，包含多个实例
常见的实例承载形式：进程、VM、k8s pod
有状态 / 无状态服务：服务的实例是否存储了可持久化的数据(例如磁盘文件)
服务间通信：对于单体服务，不同模块通信只是简单的函数调用，对于微服务，服务间通信意味着网络传输
2、服务注册及发现
问题：本地DNS存在缓存，导致延时；负载均衡问题，不支持服务实例的探活检查，域名无法配置端口。
解决：新增一个统一的服务注册中心，用于存储服务名到服务实例的映射。
3、微服务架构中的基本流量特征
统一网关入口、内网通信多数采用RPC、网状调用链路
🍟三、核心服务治理功能
1、服务发布
指让一个服务升级运行新的代码的过程
服务发布难点：服务不可用、服务抖动、服务回滚
2、流量治理
在微服务架构下，我们可以基于地区、集群、实例、请求等维度，对端到端流量的路由路径进行精确控制。
3、负载均衡
负载均衡负载分配请求在每个下游实例上的分布
- 常见的LB策略：
- Round Robin
- Random
- Ring Hash
- Least Request
- ……
4、稳定性治理
线上服务总是会出问题的，这与程序的正确性无关
常见的问题：网络攻击、流量突增、机房断电、光纤被挖、机器故障、网络故障、机房空调故障……
微服务架构中典型的稳定性治理功能：
- 限流
- 熔断
- 过载保护
- 降级
🌭四、字节跳动服务治理实践
1、重试的意义
重试可以避免掉偶发的错误，提高SLA（Service-Level Agreement）
-
降低错误率：假设单次请求的错误概率为 0.01，那么连续两次错误概率则为 0.0001
-
降低长尾延时：对于偶尔耗时较长的请求，重试请求有机会提前返回
-
容忍暂时性错误：某些时候系统会有暂时性异常 (例如网络抖动)，重试可以尽量规避
-
避开下游故障实例：一个服务中可能会有少量实例故障 (例如机器故障)，重试其他实例可以成功
2、重试的难点
- 幂等性
- 重试风暴
- 超时设置
3、重试策略
-
限制重试比例：设定一个重试比例阈值（例如1%），重试次数占所有请求比例不超过该阈值。
-
防止链路重试：链路层面的防重试风暴的核心是限制每层都发生重试，理想情况下只有最下一层发生重试。
-
Hedged requests：对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应。
