微服务框架 | 青训营笔记

52 阅读2分钟

这是我参与「第五届青训营」伴学笔记创作活动的第 10 天,本文主要介绍了微服务架构原理及特征。

为什么需要微服务架构

  • 互联网的爆炸性发展
  • 硬件设施的快速发展
  • 需求复杂性的多样化
  • 开发人员的急剧增加
  • 计算机理论及技术的发展

基本概念

  • 服务:一组具有相同逻辑的运行实体
  • 实例:一个服务中,每个运行实体即为一个实例
  • 实例与进程的关系:实例与进程的之间没有必然对应关系,一个实例可以对应一个或多个进程
  • 集群:通常指服务内部的逻辑划分,包含多个实例
  • 常见实例承载形式:进程、VM、k8s pod
  • 有状态/无状态服务:服务的实例是否存储了可持久化的数据(例如磁盘文件)
  • 服务间通信:对于单体服务,不同模块通信只是简单的函数调用;对于微服务,服务间通信意味着网络传输

服务注册及发现

  • 本地DNS存在缓存,导致延时
  • 负载均衡问题
  • 不支持服务实例的探活检查
  • 域名无法配置端口

解决思路:新增一个统一的服务注册中心,用于存储服务名到服务实例的映射

流量特征

  • 统一网关入口
  • 内网通信多数采用RPC
  • 网状调用链路

服务发布

  • 蓝绿部署
  • 灰度发布(金丝雀发布)

流量治理

在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由路径进行精确控制

负载均衡

负责分配请求在每个下游实例上的分布

稳定性治理

  • 网络攻击
  • 流量突增
  • 机房断电
  • 光纤被挖
  • 机器故障
  • 网络故障
  • 机房空调故障

重试的意义

  • 降低错误率
  • 降低长尾延时
  • 容忍暂时性错误
  • 避开下游故障实例

重试的难点

  • 幂等性:多次请求可能会造成数据不一致
  • 重试风暴:随着调用深度的增加,重试次数会指数级上涨
  • 超时设置:假设一个调用正常是1s的超时时间,如果允许一次重试,那么第一次请求经过多少时间时,才开始重试呢?

重试策略

  • 限制重试比例
  • 防止链路重试
  • Hedged requests:对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应