这是我参与「第五届青训营 」伴学笔记创作活动的第9天
前言
由于现在大型互联网公司基本都采用微服务架构,为与时俱进,本文主要讲解微服务架构的由来、原理和服务治理功能,希望能通过讲解对微服务有初步认识。
1.微服务架构介绍
1.原因
- 互联网的爆炸性发展
- 硬件设施的快速发展
- 需求复杂性的多样化
- 开发人员的急剧增加
- 计算机理论及技术的发展
2.演变历史
单体架构->垂直应用架构->分布式架构->SOA架构->微服务架构
具体各个架构在前文架构初探有提及,这里只是简单介绍各个架构的优缺点
- 单体架构
- 优势:性能最高;冗余小
- 劣势:调试困难;模块相互影响
- 垂直应用架构
- 优势:业务独立开发维护
- 劣势:不同业务还存在冗余;每个业务还是单体
- 分布式架构
- 优势:业务无关的独立服务
- 劣势:服务模块bug影响整个系统;调用关系复杂;不同服务冗余
- SOA架构(面向服务)
- 优势:服务注册
- 劣势:中心化;需要从上到下设计;重构困难
- 微服务架构
- 优势:开发效率高;业务独立;自下而上设计;故障隔离
- 劣势:治理运维有难度;观测挑战;有安全风险
- 挑战:日志收集、监控打点、链路追踪等
3.架构
核心要素
- 服务治理:服务注册、服务发现、负载均衡、扩缩容、流量治理、稳定性治理
- 可观测性:日志采集、日志分析、监控打点、监控大盘、异常报警、链路追踪
- 安全:身份验证、认证授权、访问令牌、审计、传输加密、黑产攻击
4.基本概念
- 服务(service)一组具有相同逻辑的运行实体。
- 实例(instance)一个服务中,每个运行实休即为一个实例。
- 集群(cluster)通常指服务内部的逻辑划分,包含多个实例。
实例与进程的关系:实例与进程之间没有必然对应关系,可以一个实例可以对应一个或多个进程
- 常见的实例承载形式:进程、VM、k8s pod等
- 有状态/无状态服务:服务的实例是否存储了可持久化的数据(例如磁盘文件)。
服务间通信
- 单体:简单的函数调用
- 微服务:网络传输
5.服务注册
不能直接代码写死,若使用DNS则有以下问题:
- 本地DNS存在缓存,会有延时
- 负载均衡问题
- 不支持服务实例的探活检查
- 域名无法配置端口
因此,新增一个统一的服务注册中心,用于存储服务名到服务实例的映射,如下:
服务实例上线和下线
- 上线:先在注册表中删除实例,再停止实例,把流量引给别的实例,再删除实例
- 下线:先添加实例进行自我检查,再在注册表中加入实例,再引流量来
6.流量特征
特点:
- 统一网关入口
- 内网通信多采用RPC
- 网状调用链路
2.核心服务治理
1.服务发布
- 指让一个服务升级运行新代码的过程
- 难点:服务不可用、服务抖动、服务回滚
- 办法:蓝绿部署和灰度发布(金丝雀发布)
蓝绿部署:部署两次服务,简单稳定,但需要两倍资源
灰度发布:先部署实例通过后逐个替换
2.流量治理
在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。
3.负载均衡
- 负责分配请求在每个下游实例上的分布。
- 常见策略:轮询、随机、ring哈希、最小请求等
4.稳定性治理
- 限流
- 熔断
- 过载保护
- 降级
3.服务治理实践
1.重试
- 本地函数调用异常:参数非法、OOM、NPE、边界case、系统崩溃、死循环、程序异常退出
- 本地函数调用异常:网络抖动、下游负载导致超时、下游机器宕机、本地机器负载高、下游熔断、限流
- 可以避免偶发错误,提高SLA
意义
- 降低错误率
- 降低长尾延时
- 容忍暂时性错误
- 避开下游故障实例
难点
- 幂等性
- 重试风暴
- 超时设置
策略
- 限制重试比例(设定重试比例阈值)
- 防止链路重试(限制每层都发生重试)
- Hedged requests(对于可能超时的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应)
与for循环重试相比,上述策略降低了重试次数,有效提高了效率
小结
本文主要介绍了一些微服务原理,作者后续还会继续学习,持续更新
参考
- 字节跳动微服务框架原理与治理实践教程