微服务框架 - 不变的基建｜青训营笔记「第五届青训营」伴学笔记创作活动的第 9 天青训营第九天课程 `后端入门 -

这是我参与「第五届青训营」伴学笔记创作活动的第 9 天

今日内容

学习完了青训营课程 后端入门 - Go 框架设计与实现 中的 微服务架构原理及特征 、 核心服务治理功能 和 字节跳动服务治理实践 之后的一些总结。

课程内容

微服务架构介绍

微服务架构原理及特征

核心服务治理功能

字节跳动服务治理实践

1. 微服务架构介绍

系统架构演变历史

单体架构
垂直应用架构
分布式架构：抽出业务无关的公共模块
- 优势：业务无关的服务独立
- 劣势：
  - 服务模块 bug 可导致全站瘫痪；
  - 调用关系复杂；
  - 不同服务冗余
SOA 架构：面向服务
- 优势：服务注册
- 劣势：
  - 整个系统设计是中心化的
  - 需要从上至下设计
  - 重构困难
微服务架构：彻底的服务化
- 优势：
  - 开发效率
  - 业务独立设计
  - 自下而上
  - 故障隔离
- 劣势：
  - 治理、运维难度
  - 观测挑战
  - 安全性
  - 分布式系统

微服务架构概览

微服务架构核心要素

服务治理
- 服务注册
- 服务发现
- 负载均衡
- 扩缩容
- 流量治理
- 稳定性治理
可观测性
- 日志采集
- 日志分析
- 监控大点
- 监控大盘
- 异常报警
- 链路追踪
安全
- 身份验证
- 认证授权
- 访问令牌
- 审计
- 传输加密
- 黑产攻击

2. 微服务架构原理及特征

基本概念

服务（service）：一组具有相同逻辑的运行实体
实例（instance）：一个服务中，每个运行实体即为一个实例
实例与进程的关系：实例与进程之间没有必然对应关系，可以一个实例对应一个或多个进程
集群（cluster）：通常指服务内部的逻辑划分，包含多个实例
常见的实例继承形式：进程、VM、k8s pod
有状态/无状态服务：服务的实例是否存储了可持久化的数据

服务间通信：对于单体服务，不同模块通信只是简单的函数调用；对于微服务，服务间通信意味着网络传输。

服务注册及发现

问题：在代码层面，如何指定调用一个目标服务的地址（ip:port）

硬编码
```
client := grpc.NewClient("10.23.45.67:8080")
```
- 问题：实例的 ip 地址是动态变化的；多个实例的 ip 地址也是不相同的
使用 DNS 存在的问题
- 本地 DNS 存在缓存，导致延时
- 负载均衡问题
- 不支持服务实例的探活检查
- 域名无法配置端口
新增一个统一的服务注册中心，用于存储服务名到服务实例的映射。

流量特征

统一网关入口
内网通信多数采用 RPC
网络调用链路

3. 核心服务治理功能

服务发布

服务发布是让一个服务升级运行新的代码的过程

难点：
- 服务不可用
- 服务抖动
- 服务回滚
蓝绿部署：简单稳定但需要两倍的资源
灰度发布（金丝雀发布）

流量治理

负载均衡

稳定性治理

限流
熔断
过载保护
降级

4. 字节跳动服务治理实践

重试的意义

可以避免掉偶发的错误，提高 SLA（service-level agreement）
降低错误率
降低长尾延时
容忍暂时性错误
避开下游故障实例

重试的难点

幂等性
重试风暴
超时设置

重试策略

限制重试比例：设定一个重试比例阈值，重试次数占所有请求比例不超过该阈值
防止链路重试
Hedged requests：对于可能超时（或延时高）的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应。

微服务框架 - 不变的基建｜ 青训营笔记