微服务架构|青训营笔记

65 阅读5分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 9 天

微服务架构介绍

  • 系统架构的演进历史

系统架构的演进历史

架构类型原理优势劣势
单体架构all in one process性能最高;冗余小debug困难;模块相互影响;模块分工、开发流程
垂直应用架构按照业务线垂直划分业务独立开发维护不同业务存在冗余;每个业务还是单体服务架构
分布式架构抽出业务无关的公共模块业务无关的独立服务服务模块bug可导致全站瘫痪;调用关系复杂;不同服务冗余
SOA架构面向服务服务注册中心化;从上至下设计;重构困难
微服务架构彻底的服务化开发效率;业务独立设计;自下而上;故障隔离治理、运维难度;观测挑战;安全性;分布式系统
  • 微服务架构的三大要素

    • 服务治理
    • 可观测性
    • 安全

微服务架构原理及特征

基本概念

  • 服务

    • 一组具有相同逻辑(同一份代码)的运行实体
  • 实例

    • 一个服务中的每个运行实体
  • 实例与进程的关系

    • 没有必然对应关系,一般一对一或者一对多
  • 常见的实例承载形式

    • 进程、VM、k8s pod......

微服务架构介绍

系统架构的演进历史

  • 单体架构

    • All in one process
  • 垂直应用架构

    • 按照业务线垂直划分
  • 分布式架构

    • 抽出与业务无关的公共模块
  • SOA架构

    • 面向服务
  • 微服务架构

    • 彻底的服务化

微服务架构概览

  • 网关
  • 服务配置和治理
  • 链路追踪和监控

配置注入

微服务实例在运行时,可能会根据负载进行弹性伸缩,所以,依赖必须在运行时注入,而不能在编译打包时固定,更加不能依赖基础设施信息,比如IP地址等。

微服务架构的三大要素

  • 服务治理(本课程内容)

    • 服务注册
    • 服务发现
    • 负载均衡
    • 扩缩容
    • 流量治理
    • 稳定性治理
  • 可观测性

    • 日志采集
    • 日志分析
    • 监控打点
    • 监控大盘
    • 异常报警
    • 链路追踪
  • 安全

    • 身份验证
    • 认证授权
    • 访问令牌
    • 审计
    • 传输加密
    • 黑产攻击

微服务架构原理及特征

微服务架构中的基本概念及组件

  • 服务

    • 一组具有相同逻辑的运行实体
  • 实例

    • 一个服务中的每个运行实体
  • 实例与进程的关系

    • 没有必然对应关系,一般一对一或者一对多
  • 常见的实例承载形式

    • 进程、VM、k8s pod......

服务间通信

  • 微服务之间通过网络进行通信
  • 常见的通信协议包括 HTTP、RPC

服务注册及服务发现

  • 基本问题

    • 服务间调用中,如何指定下游服务实例的地址?
  • 简单方案

    • 直接指定 ip:port?

      • 没有任何动态能力
      • 有多个实例下游实例怎么办?
    • 使用 DNS?

      • 本地 DNS 存在缓存,导致延迟
      • DNS 没有负载均衡
      • 不支持服务探活检查
      • DNS 不能指定端口
  • 服务注册发现

    • 新增一个统一的服务注册中心,用于存储服务名到服务实例之间的映射关系
    • 旧服务实例下线前,从服务注册中心删除该实例,下线流量
    • 新服务实例上线后,在服务注册中心注册该实例,上线流量
  • 微服务流量特征

    • 统一网关入口
    • 外网通信多数采用 HTTP,内网通信多数采用 RPC(Thrift, gRPC)

核心服务治理功能

服务发布

  • 何为服务发布

    • 让一个服务升级运行新的代码的过程
  • 服务发布难点

    • 服务不可用
    • 服务抖动
    • 服务回滚
  • 蓝绿部署

    • 将服务分成两个部分,分别先后发布
    • 简单、稳定
    • 但需要两倍资源
  • 灰度发布(金丝雀发布)

    • 先发布少部分实例,接着逐步增加发布比例
    • 不需要增加资源
    • 回滚难度大,基础设施要求高

流量治理

  • 流量控制

    • 在微服务架构中,可以从各个维度对端到端的流量在链路上进行精确控制
  • 控制维度

    • 地区维度
    • 集群维度
    • 实例维度
    • 请求维度

负载均衡

  • Round Robin
  • Random
  • Ring Hash
  • Least Request

稳定性治理

  • 限流

    • 限制服务处理的最大 QPS,拒绝过多请求
  • 熔断

    • 中断请求路径,增加冷却时间从而让故障实例尝试恢复
  • 过载保护

    • 在负载高的实例中,主动拒绝一部分请求,防止实例被打挂
  • 降级

    • 服务处理能力不足时,拒绝低级别的请求,只响应线上高优请求

重试策略

  • 限制重试比例

    • 设定一个重试比例阈值(例如 1%),重试次数占所有请求比例不超过该阈值
  • 防止链路重试

    • 限制每层都重试,可以返回特殊的 status code,表示“请求失败,但别重试”
  • Hedged Requests

    • 对于可能超时(或延时高)的请求,重新向另一个下游实例发送一个相同的请求,并等待先到达的响应

微服务架构核心要素

服务治理:服务注册,发现、负载均衡、扩缩容、流量治理、稳定性治理

可观测性:日志采集、日志分析、监控打点、监控大盘、异常报警、链路追踪

安全:身份验证、认证授权、访问令牌、审计、传输加密、黑客攻击