这是我参与「第五届青训营」伴学笔记创作活动的第 10 天,本文主要介绍了微服务架构原理及特征。
为什么需要微服务架构
- 互联网的爆炸性发展
- 硬件设施的快速发展
- 需求复杂性的多样化
- 开发人员的急剧增加
- 计算机理论及技术的发展
基本概念
- 服务:一组具有相同逻辑的运行实体
- 实例:一个服务中,每个运行实体即为一个实例
- 实例与进程的关系:实例与进程的之间没有必然对应关系,一个实例可以对应一个或多个进程
- 集群:通常指服务内部的逻辑划分,包含多个实例
- 常见实例承载形式:进程、VM、k8s pod
- 有状态/无状态服务:服务的实例是否存储了可持久化的数据(例如磁盘文件)
- 服务间通信:对于单体服务,不同模块通信只是简单的函数调用;对于微服务,服务间通信意味着网络传输
服务注册及发现
- 本地DNS存在缓存,导致延时
- 负载均衡问题
- 不支持服务实例的探活检查
- 域名无法配置端口
解决思路:新增一个统一的服务注册中心,用于存储服务名到服务实例的映射
流量特征
- 统一网关入口
- 内网通信多数采用RPC
- 网状调用链路
服务发布
- 蓝绿部署
- 灰度发布(金丝雀发布)
流量治理
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制
负载均衡
负责分配请求在每个下游实例上的分布
稳定性治理
- 网络攻击
- 流量突增
- 机房断电
- 光纤被挖
- 机器故障
- 网络故障
- 机房空调故障
重试的意义
- 降低错误率
- 降低长尾延时
- 容忍暂时性错误
- 避开下游故障实例
重试的难点
- 幂等性:多次请求可能会造成数据不一致
- 重试风暴:随着调用深度的增加,重试次数会指数级上涨
- 超时设置:假设一个调用正常是1s的超时时间,如果允许一次重试,那么第一次请求经过多少时间时,才开始重试呢?
重试策略
- 限制重试比例
- 防止链路重试
- Hedged requests:对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应