微服务框架 | 青训营笔记

103 阅读3分钟

这是我参与「第五届青训营」笔记创作活动的第9天。

一、本堂课重点知识

今天主要的学习内容是微服务框架相关知识。

二、详细知识点介绍

1. 微服务架构介绍

1.1 系统架构演变历史

为什么系统架构需要演进?

  • 互联网的爆炸性发展
  • 硬件设施的快速发展
  • 需求复杂性的多样化
  • 开发人员的急剧增加
  • 计算机理论及技术的发展

演进:

  • 单体架构
  • 垂直应用架构
  • 分布式架构
  • SOA架构(Service Oriented Architecture)
  • 微服务架构

1.2 微服务架构概览

image.png

1.3 微服务架构核心要点

  • 服务治理
  • 可观测性
  • 安全

2. 微服务架构原理及特征

2.1 基本概念

  • 服务(service)
    • 一组具有相同逻辑的运行实体
  • 实例(instance)
    • 一个服务中,每个运行实体即为一个实例
  • 实例与进程的关系
    • 实力与进程之间没有必然对应关系,可以一个实例对应一个或多个进程(反之则不常见)
  • 集群(cluster)
    • 通常指服务内部的逻辑划分,包含多个实例
  • 常见实例承载形式
    • 进程、VM、k8s pod
  • 有状态/无状态服务
    • 服务的实例是否存储了可持续化的数据
  • 服务间通信
    • 对于单体服务,不同模块通信只是简单的函数调用
    • 对于微服务,服务间通信意味着网络传输

2.2 服务注册及发现

在代码层面,如何指定调用一个目标服务的地址(ip:port)?

解决思路:新增一个统一的服务注册中心,用于存储服务名到服务实例的映射。

2.3 流量特征

  • 统一网关入口
  • 内网通信多数采用RPC
  • 网状调用链路

3. 核心服务治理功能

3.1 服务发布

服务发布(deployment),即指让一个服务升级运行新的代码的过程。

难点:

  • 服务不可用
  • 服务抖动
  • 服务回滚

  • 蓝绿发布
  • 灰度发布

3.2 流量治理

在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端的路由路径进行控制。

3.3 负载均衡

负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。

3.4 稳定性治理

线上服务总是会出问题的,这与程序的正确性无关。

  • 网络攻击
  • 流量突增
  • 机房断电
  • 光纤被挖
  • 机器故障
  • 网络故障

稳定性治理功能

  • 限流
  • 熔断
  • 过载保护
  • 降级

4. 字节跳动服务治理实践

4.1 重试的意义

重试可以避免掉偶发的错误,提高SLA(Service-Level Agreement)

  • 降低错误率
    • 假设单次请求的错误概率为0.01,那么连续两次错误概率则为0.0001.
  • 降低长尾延时
    • 对于调尔耗时较长的请求,重试请求有机会提前返回。
  • 容忍暂时性错误
    • 某些时候系统会有暂时性异常(例如网络抖动),重试可以尽量规避
  • 避开下游故障实例
    • 一个服务中可能会有少量实例故障(例如机器故障),重试其他实例可以成功。

4.2 重试的难点

  • 幂等性
  • 重试风暴
  • 超时设置

4.3 重试策略

  • 限制重试比例
  • 防止链路重试
  • Hedged requests

三、实践练习例子

  1. 结合 CAP 等原理,思考微服务架构有哪些缺陷?
  2. 微服务是否拆分得越“微”越好?为什么?
  3. Service Mesh 这一架构是为了解决微服务架构的什么问题?
  4. 有没有可能有这样一种架构,从开发上线运维体验上是微服务,但实际运行又类似单体服务?

四、课后个人总结

本节课对微服务框架相关知识有了更深理解。

五、引用参考

A Design Analysis of Cloud-based Microservices Architecture at Netflix | by Cao Duc Nguyen | The Startup | Medium

字节跳动微服务架构体系演进

微服务架构的一知半解 - 掘金 (juejin.cn)