这是我参与「第五届青训营 」伴学笔记创作活动的第 10 天
微服务架构介绍
单体架构
all in one process
垂直应用架构
按照业务线垂直划分
分布式架构
抽出业务无关的公共模块
SOA架构
面向服务
微服务架构
彻底的服务化
- 服务治理
- 可观测性
- 安全
微服务架构原理及特征
基本概念
- 服务 (service)
一组具有相同逻辑的运行实体。 - 实例 (instance)
一个服务中，每个运行实体即为一个实例。 - 实例与进程的关系
实例与进程之间没有必然对应关系，可以一个实例可以对应一个或多个进程(反之不常见)。 - 集群 (cluster)
通常指服务内部的逻辑划分，包含多个实例。 - 常见的实例承载形式
进程、VM、k8s pod - 有状态/无状态服务
服务的实例是否储存了可持久化的数据(例如磁盘文件) - 服务间通信
对于单体服务，不同模块通信只是简单的函数调用。对于微服务，服务间通信意味着网络传输。
服务注册及发现
演变：单机 -> DNS -> 服务注册与发现中心
- 服务下线过程：先注销，再关闭
- 服务上线过程：先开启，再注册
流量特征
- 统一网关入口
- 内网通信多数采用RPC
- 网状调用链路
核心服务治理功能
服务发布
定义：指让一个服务升级运行新的代码的过程
难点
- 服务不可用
- 服务抖动
- 服务回滚
方案
- 蓝绿部署：一次升级一半服务，要求一半服务足以支撑全部请求（可在流量低峰时进行）
- 灰度发布（金丝雀发布）：将实例看作金丝雀，以实例为维度不断尝试更新实例，直到服务全部更新完毕。
流量治理
在微服务架构下，基于地区、集群、实例、请求等维度，对端到端的路由路径进行分流
负载均衡
负载均衡负责分配请求在每个下游实例上的分布
- Round Robin
- Random
- Ring Hash
- Least Request
稳定性治理
线上服务总是会出问题的，这与程序的正确性无关
- 网络攻击
- 流量突增
- 机房断电
- 光纤被挖
- 机器故障
- 网络故障
- 机房空调故障
稳定性治理功能
- 限流：仅接收阈值数量内的请求
- 熔断：下游服务不可用时直接拒绝请求，并定期重试（冷却）
- 过载保护：以cpu占用等参数为依据，适当拒绝部分请求维持自身可用
- 降级：保证核心请求的正常使用，拒绝普通请求
字节跳动服务治理实践 - 重试
重试的意义
重试可用避免偶发的错误，提高SLA(Service-Level Agreement)
- 本地函数调用：没有重试的必要
- 远程函数调用：有重试的必要
作用
- 降低错误率
- 降低长尾延时
- 容忍暂时性错误
- 避开下游故障实例
重试的难点
- 幂等性
- 重试风暴
- 超时设置
解决方案
- 限制重试比例
设定一个重试比例阈值(例如1%)，重试次数占所有请求比例不超过该阈值。（succeed 1000，retries 10） - 防止链路重试
链路层面的防重试风暴的核心是限制每层都发生重试，理想情况下只有最下一层发生重试。可以返回特殊的status表明“请求失败，但别重试”
重试策略
- Hedged requests
对于可能超时(或延时高)的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应
