这是我参与「第五届青训营 」伴学笔记创作活动的第 11 天
一、本堂课重点内容:
- 微服务的三大要素
- 微服务架构中基本概念及组件
- 服务注册及服务发现
- 服务发布
- 负载均衡
二、详细知识点介绍:
微服务架构介绍
系统架构演变历史
微服务架构概览
从组建的维度去看微服务架构的整体视角
微服务架构核心要素
- 服务治理
- 服务注册
- 服务发现
- 负载均衡
- 扩缩容
- 流量治理
- 稳定性治理
- ......
- 可观测性
- 日志采集
- 日志分析
- 监控打点
- 监控大盘
- 异常报警
- 链路追踪
- ......
- 安全
- 身份验证
- 认证授权
- 访问令牌
- 审计
- 传输加密
- 黑产攻击
微服务架构原理及特征
基本概念
- 服务(service)
- 一组具有相同逻辑的运行实体
- 实例(instance)
- 一个服务中,每个运行实体即为一个实例。
- 实例与进程关系
- 实例与进程之间没有必然对应关系,可以一个实例对应一个或多个进程(反之不常见)
- 集群(cluster)
- 通常指服务内部的逻辑划分,包含**多个实例 **
- 常见的实例承载形式
- 进程、VM、k8s pod ......
- 有状态/无状态服务
- 服务的实例是否存储了可持久化的数据(例如磁盘文件)
服务间通信
对于单体服务,不同模块通信只是简单的函数调用
对于微服务,服务间通信意味着网络传输
服务注册及发现
-
简单方案
-
直接指定 ip:port?
- 没有任何动态能力
- 有多个实例下游实例怎么办?
-
使用 DNS?
- 本地 DNS 存在缓存,导致延迟
- DNS 没有负载均衡
- 不支持服务探活检查
- DNS 不能指定端口
-
-
服务注册发现
- 新增一个统一的服务注册中心,用于存储服务名到服务实例之间的映射关系
- 旧服务实例下线前,从服务注册中心删除该实例,下线流量
- 新服务实例上线后,在服务注册中心注册该实例,上线流量
-
微服务流量特征
- 统一网关入口
- 外网通信多数采用 HTTP,内网通信多数采用 RPC(Thrift, gRPC)
核心服务治理功能
服务发布
服务发布(deployment),即指让一个服务升级运行新的代码的过程
服务发布难点
- 服务不可用
- 服务抖动
- 服务回滚
发布方式
- 蓝绿部署
将服务分成两个部分,分别先后发布 简单、稳定 但需要两倍资源
- 灰度发布(金丝雀发布)
先发布少部分实例,接着逐步增加发布比例 不需要增加资源 回滚难度大,基础设施要求高
流量治理
流量控制
- 在微服务架构中,可以从各个维度对端到端的流量在链路上进行精确控制
-
控制维度
- 地区维度
- 集群维度
- 实例维度
- 请求维度
负载均衡
常见的策略
- Round Robin
- Random
- Ring Hash
- Least Request
稳定性治理
微服务架构中典型的稳定性治理功能
- 限流
- 熔断
- 过载保护
- 降级
三、实践练习例子:
通过一个服务治理实践,去了解重试的意义,重试的难点,重试策略。
重试的意义
可以避免掉偶发的错误,提供 SLA(Service-Level Agreement)
- 降低错误率 -假设单次请求的错误概率为 0.01.那么连续两次错误概率为0.0001
- 降低长尾延时
- 对于偶尔耗时较长的请求,重试请求有机会提前返回
- 容忍暂时性错误
- 某些时候系统会有暂时性异常(例如网络抖动),重试可以尽量规避。
- 避开下游故障实例
- 一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功
重试的难点
- 幂等性
- 多次请求可能会造成数据不一致
- 重试风暴
- 随着调用深度的增加,重试次数会指数级上涨
- 超时设置
- 假设一个第哦啊用正常是 1s 的超时时间,如果允许一次重试,那么第一次请求经过多少时间时,才开始重试?
重试策略
- 限制重试比例
- 设定一个重试比例阈值(例如1%),重试次数占所有请求比例不超过该阈值
- 防止链路重试
- Hedged requests
- 对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应。
四、课后个人总结:
不容易掌握的知识点:服务注册及发现,流量控制,负载均衡,稳定性治理 容易混淆的知识点:服务发布难点