微服务框架 | 青训营笔记

这是我参与「第五届青训营」伴学笔记创作活动的第 14 天。

一、本堂课重点内容：

• • 微服务架构介绍
  • 微服务架构的背景由来、架构概览、基本要素

• 微服务架构原理及特征
  • 微服务架构的基本组件、工作原理、流量特征

• 核心服务治理功能
  • 核心的服务治理功能，包括流量治理、服务均衡、稳定性治理

• 字节跳动服务治理实践
  • 字节跳动在微服务架构稳定性治理中，对请求重试策略的探索及实践

二、详细知识点介绍：

• 微服务架构描述

  • 系统架构描述历史
    • 单体架构
      • All in one process
    • 垂直应用架构
      • 按照业务线垂直划分
    • 分布式架构
      • 抽出与业务无关的公共模块
    • SOA架构
      • 面向服务
    • 微服务架构
      • 彻底的服务化

• 微服务架构概览

  • 网关
  • 服务配置和治理
  • 链路追踪和监控

• 微服务架构的三大要素

  • 服务治理
    • 服务注册
    • 服务发现
    • 负载均衡
    • 扩缩容
    • 流量治理
    • 稳定性治理
  • 可观测性
    • 日志采集
    • 日志分析
    • 监控打点
    • 监控大盘
    • 异常报警
    • 链路追踪
  • 安全
    • 身份验证
    • 认证授权
    • 访问令牌
    • 审计
    • 传输加密
    • 黑产攻击

• 微服务架构原理及特征

  • 微服务架构中的基本概念及组件
    • 服务
      • 一组具有相同逻辑的运行实体
    • 实例
      • 一个服务中的每个运行实体
    • 实例与进程的关系
      • 没有必然对应关系，一般一对一或者一对多
    • 常见的实例承载形式
      • 进程、VM、k8s pod......
  • 服务间通信
    • 微服务之间通过网络进行通信
    • 常见的通信协议包括 HTTP、RPC
  • 服务注册及服务发现
    • 基本问题
      • 服务间调用中，如何指定下游服务实例的地址？
    • 简单方案
      • 直接指定 ip:port？
        • 没有任何动态能力
        • 有多个实例下游实例怎么办？
      • 使用 DNS？
        • 本地 DNS 存在缓存，导致延迟
        • DNS 没有负载均衡
        • 不支持服务探活检查
        • DNS 不能指定端口
    • 服务注册发现
      • 新增一个统一的服务注册中心，用于存储服务名到服务实例之间的映射关系
      • 旧服务实例下线前，从服务注册中心删除该实例，下线流量
      • 新服务实例上线后，在服务注册中心注册该实例，上线流量
    • 微服务流量特征
      • 统一网关入口
      • 外网通信多数采用 HTTP，内网通信多数采用 RPC（Thrift, gRPC）

• 核心服务治理功能

  • 服务发布
    • 何为服务发布
      • 让一个服务升级运行新的代码的过程
    • 服务发布难点
      • 服务不可用
      • 服务抖动
      • 服务回滚
    • 蓝绿部署
      • 将服务分成两个部分，分别先后发布
      • 简单、稳定
      • 但需要两倍资源
    • 灰度发布（金丝雀发布）
      • 先发布少部分实例，接着逐步增加发布比例
      • 不需要增加资源
      • 回滚难度大，基础设施要求高
  • 流量治理
    • 流量控制
      • 在微服务架构中，可以从各个维度对端到端的流量在链路上进行精确控制
    • 控制维度
      • 地区维度
      • 集群维度
      • 实例维度
      • 请求维度
  • 负载均衡
    • Round Robin
    • Random
    • Ring Hash
    • Least Request
  • 稳定性治理
    • 限流
      • 限制服务处理的最大 QPS，拒绝过多请求
    • 熔断
      • 中断请求路径，增加冷却时间从而让故障实例尝试恢复
    • 过载保护
      • 在负载高的实例中，主动拒绝一部分请求，防止实例被打挂
    • 降级
      • 服务处理能力不足时，拒绝低级别的请求，只响应线上高优请求

• 字节跳动服务治理实践

  • 请求重试的意义
    • 本地函数调用
      • 通常没有重试意义
    • 远程函数调用
      • 网络抖动、下游负载高、下游机器宕机......
      • 重试是有意义的，可以避免偶发性的错误，提高 SLA
    • 重试的意义
      • 降低错误率
      • 降低长尾延时
      • 容忍暂时性错误
      • 避开下游故障实例
  • 请求重试的难点
    • 幂等性
      • POST 请求可以重试吗？
    • 重试风暴
      • 随着调用链路的增加，重试次数呈指数级上升
    • 超时设置
      • 假设调用时间一共1s，经过多少时间开始重试？
  • 重试策略
    • 限制重试比例
      • 设定一个重试比例阈值（例如 1%），重试次数占所有请求比例不超过该阈值
    • 防止链路重试
      • 返回特殊的 status code，表示“请求失败，但别重试”
    • Hedged Requests
      • 对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应
  • 重试效果验证

    • 字节跳动重试组件能够极大限制重试发生的链路放大效应

三、课后个人总结：

• 好好学习 天天向上

参考资源：juejin.cn/post/719438…