这是我参与「第五届青训营」伴学笔记创作活动的第 10 天
微服务架构
微服务架构是当前大多数互联网公司的标准架构,应用广泛。
系统架构演变史
从 单体架构 -> 垂直应用架构 -> 分布式架构 -> SOA架构 -> 微服务架构
微服务架构的核心要素
服务治理(服务注册发现、负载均衡、流量治理等)可观测性(日志采集分析、监控打点、链路追踪、异常报警等)安全(身份认证、审计、传输加密、黑产攻击等)
微服务架构原理及特征
基本概念
服务(service): 一组具有相同逻辑的运行实体
实例(instance): 一个服务中,每个运行实体即为一个实例
集群(cluster): 通常指服务内部的逻辑划分,包含多个实例
有状态 & 无状态服务:服务的实例是否存储可持久化数据
服务间通信
我们需要定义服务间的通讯方式, 常见的如 RPC 或 RestfulAPI
服务注册
需要一个统一的服务注册中心,用于存储服务名到服务实例的映射。简称“服务发现”, 常见的如 ETCD
核心服务治理功能
服务发布
-
定义:指一个服务升级运行新的代码的过程
-
难点:
- 服务不可用
- 服务抖动
- 服务回滚
-
解决方案:
- 蓝绿部署(分蓝区和绿区,升级的时候切换为另一区。主要缺陷为两倍资源)
- 灰度发布(一个个发布并测试,试探性。主要缺点为错误回滚)
流量治理
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端对端的路由路径进行精确控制。
负载均衡 (BLS)
- 定义:负责分配请求在每个下游实例上的分布。
- 常见策略:Round Robin、Random、Ring Hash 等
稳定性治理
- 问题:线上服务总是会出问题,这与程序正确性无关。(网络攻击,流量突增,端点,机器故障等)
- 措施:限流、熔断、过载保护、降级(优先级等)。
服务治理实践—重试
意义
-
本地函数调用常见异常
- 参数非法
- 空指针异常
- 内存超限
-
远程函数调用常见异常
- 网络抖动
- 下游机器宕机
- 本地机器负载高、调度超时
-
重试的意义:
-
可以避免掉偶发的错误来降低错误率
-
降低长尾延时(对于偶尔耗时长的请求,重试有机会提前返回)
-
容忍暂时性错误
-
避开下游故障实例(重试其他实例)
-
策略
-
限定重试比例阈值
-
防止链路重试
-
Hedged requests (对于可能超时的请求,重新发一个,等先返回的请求)