这是我参与「第五届青训营 」伴学笔记活动十一天。
向前：微服务框架
微服务架构介绍
演进历史：
- 单体架构 ALL IN ONE PROCESS（少了个单机架构（ALL IN ONE MACHINE））
- 垂直应用架构 按照业务线垂直划分
- 分布式架构 抽出与业务无关的公共模块
- SOA架构 面向服务
- 微服务架构 彻底的服务化
背景
架构概览
- 网关
- 服务配置和治理
- 链路追踪和监控
基本要素
三大要素：
- 服务治理
- 服务注册
- 服务发现
- 负载均衡
- 扩缩容
- 流量治理
- 稳定性治理
- 可观测性
- 日志采集
- 日志分析
- 监控打点
- 监控大盘
- 异常警报
- 链路追踪
- 安全
- 身份验证
- 认证授权
- 访问令牌
- 审计
- 传输加密
- 黑产攻击
微服务架构原理及特征
基本组件
- 服务：一组具有相同逻辑的运行实体
- 实例：一个服务中的每个运行实体
- 常见实例承载形式
- 进程
- VM
- K8S
- pod
工作原理
- 服务间通信
- 微服务之间通过网络进行通信
- RPC
- HTTP
- 服务注册及服务发现
- 基本问题 服务间调用中，如何指定下游服务实例的地址
- 简单方案
- 直接指定socket ip：port
- 没有任何动态能力
- 多个下游实例怎么办
- 使用DNS
- 本地DNS存在缓存，导致延迟
- DNS没有负载均衡
- 不支持服务探活检查
- DNS不能指定端口
- 直接指定socket ip：port
- 服务注册发现
- 新增一个统一的服务注册中心，存储服务名到实例之间的映射关系
- 旧服务实例下线前，从服务中心删除该实例，下线流量
- 新服务实力上线后，在服务注册中心注册该实例，上线流量
流量特征
- 统一网关入口
- 外网通信多采用HTTP，内网通信多采用RPC（thrift，gRPC）
核心服务治理能力
核心服务治理功能
- 服务发布 让一个服务升级运行新的代码的过程
- 难点：
- 服务不可用
- 服务抖动
- 服务回滚
- 蓝绿发布
- 将服务分成两个部分，分别先后发布
- 简单稳定
- 两倍资源
- 灰度发布（金丝雀发布）
- 先发布少部分实力，逐步增加比例
- 不需要增加资源
- 回滚难度大，基础设置要求高
- 难点：
- 流量治理
- 流量控制 在微服务中可从各个维度对端到端的流量在链路上进行精确控制
- 维度控制
- 地区、集群、实例、请求
- 服务均衡
- Round robin
- ring hash
- random
- 稳定性治理
- 限流 限制服务处理的最大qps，拒绝过多请求
- 熔断 中断请求路径，增加冷却时间让故障尝试恢复
- 过载保护 在负载高的实例中，主动拒绝一部分请求，防止实力被打挂
- 降级 服务治理能力不足时，拒绝低级别的请求，只相应线上高优请求
字节跳动服务治理实践
- 请求重试的意义
- 本地函数调用
- 没有重试的意义
- RPC
- 网络抖动、下游负载高、下游机器宕机...
- 重试可以避免偶发性错误，提高SLA（serviceLevelAgreement）
- 重试的意义
- 降低错误率
- 降低长尾延迟（1％的超过平均响应的请求产生的延迟）
- 容忍暂时性错误
- 避开下游故障实例
- 本地函数调用
- 请求重试的难点
- 幂等性（执行任意次操作产生的结果与执行一次一样） POST请求可以重试吗
- 重试风暴 随着调用链路的增加，重试次数呈指数级上升
- 超时设置 重试的开始时间
- 重试策略
- 限制重试的比例 重试次数占所有请求的一定比例之下
- 防止链路重试 返回特殊的状态码，阻止重试
- Hedged requests 对于可能超时的请求，重新向另一个下游实例发送一个相同的请求，并等到先到达的响应（这样来代替重试）
- 重试效果验证
- 重试组件
