这是我参与「第五届青训营」笔记创作活动的第15天!
微服务架构介绍
架构演变历史
- 互联网的爆炸性发展
- 硬件设施的快速发展
- 需求复杂性的多样化
- 开发人员的急剧增加
- 计算机理论及技术的发展
单体架构
优势:
- 性能最高
- 冗余小
劣势:
- debug困难
- 模块互相影响
- 模块分工、开发流程
垂直应用架构
按照业务线垂直划分
优势:
- 业务独立维护开发
劣势:
- 不同业务存在冗余
- 每个业务还是单体
分布式架构
抽出业务无关的公共模块
优势:
- 业务无关的独立服务
劣势:
- 服务模块bug可导致全站瘫痪
- 调用关系复杂
- 不同服务冗余
SOA架构
面向服务
优势:
- 服务注册
劣势:
- 整个系统设计是中心化的
- 需要从上至下设计
- 重构困难
微服务架构
彻底的服务化
优势:
- 开发效率
- 业务独立设计
- 自上而下
- 故障隔离
劣势:
- 治理、运维难度
- 观测挑战
- 安全性
- 分布式系统
核心要素
- 服务治理
- 可观测性
- 安全
微服务架构原理及特征
基本概念
- 服务:一组具有相同逻辑的运行实体。
- 实例:一个服务中,每个运行实体即为一个实例。
- 实例与进程的关系:实例与进程之间没有必然对应关系,可以一个实例可以对应一个或多个进程(反之不常见)。
- 集群:通常指服务内部的逻辑划分,包含多个实例。
- 常见的实例承载形式:进程、VM、k8s pod ..
- 有状态/无状态服务:服务的实例是否存储了可持久化的数据(例如磁盘文件)。
- 服务间通信:对于单体服务,不同模块通信只是简单的函数调用。对于微服务,服务间通信意味着网络传输。
服务注册及发现
问题:在代码层面,如何制定调用一个目标服务的地址?
解决思路:新增一个统一的服务注册中心,用于存储服务名到服务实例的映射
服务实例上线及下线的例子——见PPT微服务架构原理与治理实践 .pptx - 飞书云文档 (feishu.cn)
流量特征
- 统一网关入口
- 内网通信多数采用PRC
- 网络调用链路
核心服务治理功能
服务发布
服务发布:指让一个服务升级运行新的代码的过程
难点:
- 服务不可用
- 服务抖动
- 服务回滚
解决方案:
- 蓝绿部署(简单,稳定。但需要两倍资源)
- 灰度发布(金丝雀发布)
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制
负载均衡
负载均衡负责分配请求在每个下游实例上的分布
常见的LB策略:
- Round
- RobinRandom
- Hash
- Least Request
稳定性治理
指线上服务有时会出现一些问题,与程序的正确性无关(比如网络攻击、机房断电等)
典型功能:
- 限流
- 熔断
- 过载保护
- 降级
字节服务治理实践
重试的意义和难点
意义:
- 可以避免掉偶发的错误,提高SLA (Service-Level Agreement)
- 降低错误率
- 降低长尾延时
- 容忍暂时性错误
- 避开下游故障实例
难点:
- 幂等性
- 重试风暴
- 超时设置
重试策略:
- 限制重试比例:设定一个重试比例阈值(例如1%),重试次数占所有请求比例不超过该阈值。
- 防止链路重试:链路层面的防重试风暴的核心是限制每层都发生重试,理想情况下只有最下一层发生重试。可以返回特殊的status表明“请求失败,但别重试"。
- Hedged requests:对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应。
总结
这节课学习了微服务的架构,对微服务有了更深入的了解,同时对其原理和特征也进行了学习。在了解微服务原理的基础上,又学习了核心服务的治理,最后通过对字节的服务治理实践进行了系统的总结。