这是我参与「第五届青训营 」笔记创作活动的第9天

微服务框架 - 不变的基建

一、本堂课重点内容：**

本堂课的知识要点有哪些？

• 微服务架构介绍
• 微服务架构原理及特征
• 核心服务治理功能
• 字节跳动服务治理实践

二、详细知识点介绍：**

本堂课介绍了哪些知识点？

• 微服务架构介绍

  • 系统架构的演进历史
  • 单体架构
  • 垂直应用架构
  • 分布式架构
  • SOA架构
  • 微服务架构

• 微服务架构的三大要素

  • 服务治理
    • 服务注册
    • 服务发现
    • 负载均衡
    • 扩缩容
    • 流量治理
    • 稳定性治理
  • 可观测性
    • 日志采集
    • 日志分析
    • 监控打点
    • 监控大盘
    • 异常报警
    • 链路追踪
  • 安全
    • 身份验证
    • 认证授权
    • 访问令牌
    • 审计
    • 传输加密
    • 黑产攻击
    • 微服务架构原理及特征
  • 微服务架构中的基本概念及组件
  • 服务
    • 一组具有相同逻辑的运行实体
  • 实例
    • 一个服务中的每个运行实体
  • 实例与进程的关系
    • 没有必然对应关系，一般一对一或者一对多
  • 常见的实例承载形式
    • 进程、VM、k8s pod......

• 服务间通信

  • RPC、HTTP

• 服务注册及服务发现

  • • 基本问题

  • 服务间调用中，如何指定下游服务实例的地址

• 简单方案

  • 直接指定 ip:port？
    • 没有任何动态能力
    • 有多个实例下游实例怎么办？
  • 使用 DNS？
    • 本地 DNS 存在缓存，导致延迟
    • DNS 没有负载均衡
    • 不支持服务探活检查
    • DNS 不能指定端口

• 服务注册发现

  • 新增一个统一的服务注册中心，用于存储服务名到服务实例之间的映射关系
  • 旧服务实例下线前，从服务注册中心删除该实例，下线流量
  • 新服务实例上线后，在服务注册中心注册该实例，上线流量

• 微服务流量特征

  • 统一网关入口
  • 外网通信多数采用 HTTP，内网通信多数采用 RPC（Thrift, gRPC）

• 流量治理

• 负载均衡

  • Round Robin
  • Ring Hash
  • Random

• 稳定性治理

  • 限流
  • 熔断
  • 过载保护
  • 降级

• 核心服务治理功能

  • 请求重试的意义
  • 请求重试的难点

三、实践练习例子：

• 请求重试的意义

  • 本地函数调用
    • 通常没有重试意义
  • 远程函数调用
    • 网络抖动、下游负载高、下游机器宕机......
    • 重试是有意义的，可以避免偶发性的错误，提高 SLA
  • 重试的意义
    • 降低错误率
    • 降低长尾延时
    • 容忍暂时性错误
    • 避开下游故障实例

• 请求重试的难点

  • 幂等性
    • POST 请求可以重试吗？
  • 重试风暴
    • 随着调用链路的增加，重试次数呈指数级上升
  • 超时设置
    • 假设调用时间一共1s，经过多少时间开始重试？

• 重试策略

  • 限制重试比例
    • 设定一个重试比例阈值（例如 1%），重试次数占所有请求比例不超过该阈值
  • 防止链路重试
    • 返回特殊的 status code，表示“请求失败，但别重试”
  • Hedged Requests
    • 对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应

• 重试效果验证

  • 字节跳动重试组件能够极大限制重试发生的链路放大效应

四、课后个人总结：

• 本章有什么知识点不容易掌握？
• 什么地方容易与其他内容混淆？

五、引用参考：

• 我参考了哪些外部博客/笔记/文章？
• 文章中有什么地方是我参考引用了外部博客/笔记/文章的？