这是我参与「第五届青训营」笔记创作活动的第9天。
一、本堂课重点知识
今天主要的学习内容是微服务框架相关知识。
二、详细知识点介绍
1. 微服务架构介绍
1.1 系统架构演变历史
为什么系统架构需要演进?
- 互联网的爆炸性发展
- 硬件设施的快速发展
- 需求复杂性的多样化
- 开发人员的急剧增加
- 计算机理论及技术的发展
演进:
- 单体架构
- 垂直应用架构
- 分布式架构
- SOA架构(Service Oriented Architecture)
- 微服务架构
1.2 微服务架构概览
1.3 微服务架构核心要点
- 服务治理
- 可观测性
- 安全
2. 微服务架构原理及特征
2.1 基本概念
- 服务(service)
- 一组具有相同逻辑的运行实体
- 实例(instance)
- 一个服务中,每个运行实体即为一个实例
- 实例与进程的关系
- 实力与进程之间没有必然对应关系,可以一个实例对应一个或多个进程(反之则不常见)
- 集群(cluster)
- 通常指服务内部的逻辑划分,包含多个实例
- 常见实例承载形式
- 进程、VM、k8s pod
- 有状态/无状态服务
- 服务的实例是否存储了可持续化的数据
- 服务间通信
- 对于单体服务,不同模块通信只是简单的函数调用
- 对于微服务,服务间通信意味着网络传输
2.2 服务注册及发现
在代码层面,如何指定调用一个目标服务的地址(ip:port)?
解决思路:新增一个统一的服务注册中心,用于存储服务名到服务实例的映射。
2.3 流量特征
- 统一网关入口
- 内网通信多数采用RPC
- 网状调用链路
3. 核心服务治理功能
3.1 服务发布
服务发布(deployment),即指让一个服务升级运行新的代码的过程。
难点:
- 服务不可用
- 服务抖动
- 服务回滚
- 蓝绿发布
- 灰度发布
3.2 流量治理
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端的路由路径进行控制。
3.3 负载均衡
负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。
3.4 稳定性治理
线上服务总是会出问题的,这与程序的正确性无关。
- 网络攻击
- 流量突增
- 机房断电
- 光纤被挖
- 机器故障
- 网络故障
稳定性治理功能
- 限流
- 熔断
- 过载保护
- 降级
4. 字节跳动服务治理实践
4.1 重试的意义
重试可以避免掉偶发的错误,提高SLA(Service-Level Agreement)
- 降低错误率
- 假设单次请求的错误概率为0.01,那么连续两次错误概率则为0.0001.
- 降低长尾延时
- 对于调尔耗时较长的请求,重试请求有机会提前返回。
- 容忍暂时性错误
- 某些时候系统会有暂时性异常(例如网络抖动),重试可以尽量规避
- 避开下游故障实例
- 一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功。
4.2 重试的难点
- 幂等性
- 重试风暴
- 超时设置
4.3 重试策略
- 限制重试比例
- 防止链路重试
- Hedged requests
三、实践练习例子
- 结合 CAP 等原理,思考微服务架构有哪些缺陷?
- 微服务是否拆分得越“微”越好?为什么?
- Service Mesh 这一架构是为了解决微服务架构的什么问题?
- 有没有可能有这样一种架构,从开发上线运维体验上是微服务,但实际运行又类似单体服务?
四、课后个人总结
本节课对微服务框架相关知识有了更深理解。