微服务框架 | 青训营笔记

103 阅读4分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第9天

前言

由于现在大型互联网公司基本都采用微服务架构,为与时俱进,本文主要讲解微服务架构的由来、原理和服务治理功能,希望能通过讲解对微服务有初步认识。

1.微服务架构介绍

1.原因

  • 互联网的爆炸性发展
  • 硬件设施的快速发展
  • 需求复杂性的多样化
  • 开发人员的急剧增加
  • 计算机理论及技术的发展

2.演变历史

单体架构->垂直应用架构->分布式架构->SOA架构->微服务架构

具体各个架构在前文架构初探有提及,这里只是简单介绍各个架构的优缺点

  • 单体架构
    • 优势:性能最高;冗余小
    • 劣势:调试困难;模块相互影响
  • 垂直应用架构
    • 优势:业务独立开发维护
    • 劣势:不同业务还存在冗余;每个业务还是单体
  • 分布式架构
    • 优势:业务无关的独立服务
    • 劣势:服务模块bug影响整个系统;调用关系复杂;不同服务冗余
  • SOA架构(面向服务)
    • 优势:服务注册
    • 劣势:中心化;需要从上到下设计;重构困难
  • 微服务架构
    • 优势:开发效率高;业务独立;自下而上设计;故障隔离
    • 劣势:治理运维有难度;观测挑战;有安全风险
    • 挑战:日志收集、监控打点、链路追踪等

3.架构

image.png

核心要素

  • 服务治理:服务注册、服务发现、负载均衡、扩缩容、流量治理、稳定性治理
  • 可观测性:日志采集、日志分析、监控打点、监控大盘、异常报警、链路追踪
  • 安全:身份验证、认证授权、访问令牌、审计、传输加密、黑产攻击

4.基本概念

  • 服务(service)一组具有相同逻辑的运行实体。
  • 实例(instance)一个服务中,每个运行实休即为一个实例。
  • 集群(cluster)通常指服务内部的逻辑划分,包含多个实例。 image.png 实例与进程的关系:实例与进程之间没有必然对应关系,可以一个实例可以对应一个或多个进程
  • 常见的实例承载形式:进程、VM、k8s pod等
  • 有状态/无状态服务:服务的实例是否存储了可持久化的数据(例如磁盘文件)。

服务间通信

  • 单体:简单的函数调用
  • 微服务:网络传输 image.png

5.服务注册

不能直接代码写死,若使用DNS则有以下问题:

  • 本地DNS存在缓存,会有延时
  • 负载均衡问题
  • 不支持服务实例的探活检查
  • 域名无法配置端口 image.png 因此,新增一个统一的服务注册中心,用于存储服务名到服务实例的映射,如下: image.png 服务实例上线和下线
  • 上线:先在注册表中删除实例,再停止实例,把流量引给别的实例,再删除实例
  • 下线:先添加实例进行自我检查,再在注册表中加入实例,再引流量来 image.png

6.流量特征

特点:

  • 统一网关入口
  • 内网通信多采用RPC
  • 网状调用链路 image.png

2.核心服务治理

1.服务发布

  • 指让一个服务升级运行新代码的过程
  • 难点:服务不可用、服务抖动、服务回滚
  • 办法:蓝绿部署和灰度发布(金丝雀发布)

蓝绿部署:部署两次服务,简单稳定,但需要两倍资源

灰度发布:先部署实例通过后逐个替换 image.png

2.流量治理

在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制。 image.png

3.负载均衡

  • 负责分配请求在每个下游实例上的分布。
  • 常见策略:轮询、随机、ring哈希、最小请求等 image.png

4.稳定性治理

  • 限流
  • 熔断
  • 过载保护
  • 降级 image.png

3.服务治理实践

1.重试

  • 本地函数调用异常:参数非法、OOM、NPE、边界case、系统崩溃、死循环、程序异常退出
  • 本地函数调用异常:网络抖动、下游负载导致超时、下游机器宕机、本地机器负载高、下游熔断、限流
  • 可以避免偶发错误,提高SLA

意义

  • 降低错误率
  • 降低长尾延时
  • 容忍暂时性错误
  • 避开下游故障实例

难点

  • 幂等性
  • 重试风暴
  • 超时设置

策略

  • 限制重试比例(设定重试比例阈值)
  • 防止链路重试(限制每层都发生重试) image.png
  • Hedged requests(对于可能超时的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应) image.png 与for循环重试相比,上述策略降低了重试次数,有效提高了效率

小结

本文主要介绍了一些微服务原理,作者后续还会继续学习,持续更新

参考

  • 字节跳动微服务框架原理与治理实践教程