这是我参与「第五届青训营」伴学笔记创作活动的第 9 天

微服务架构介绍

演变历史

单体架构

垂直应用架构

分布式架构

SOA架构

• 开始引入 服务 服务注册 的概念

微服务架构

• 具体

微服务核心要素

微服务架构原理及特征

基本概念

• 服务(service)：一组具有相同逻辑的运行实体。
• 实例( instance)：一个服务中，每个运行实体即为一个实例。
• 实例与进程的关系
  • 实例与进程之间没有必然对应关系，可以一个
  • 实例可以对应一个或多个进程（(反之不常见)。
• 集群(cluster)：通常指服务内部的逻辑划分，包含多个实例。
• 常见的实例承载形式：进程、VM、k8s pod ….…
• 有状态/无状态服务
  • 服务的实例是否存储了可持久化的数据(例如磁盘文件)。

服务间通信

• 对于单体服务，不同模块通信只是简单的函数调用。
• 对于微服务，服务间通信意味网络传输。

服务注册及发现

• 在代码层面，如何指定调用一个目标服务的地址(ip:port)?
  • 解决思路:新增一个统一的服务注册中心，用于存储服务名到服务实例的映射。

服务实例下线

• 首先需要在服务注册中心删去该实例的addr，直到该实例的流量清空时才删除

服务实例上线

• 实例挂载到服务时先进行health check，再注册到服务注册中心

流量特征

• API gateway 可以用作身份认证，进而将 token 附在请求上

核心服务治理功能

服务发布

• 服务发布(deployment)，即指让一个服务升级运行新的代码的过程。

解决方法

蓝绿部署

• 先暂停一个集群的运行，并将其部署，然后运行其，再同样处理另一集群
• 简单，稳定，但需要两倍资源

灰度发布（金丝雀发布）

• 逐渐替换

流量治理

在微服务架构下，我们可以基于地区、集群、实例、请求等维度，对端到端流量的路由路径进行精确控制。

负载均衡

负载均衡(Load Balance)负责分配请求在每个下游实例上的分布。

稳定性治理

线上服务总是会出问题的，这与程序的正确性无关。

字节跳动服务治理实践

重试的意义

• 重试可以避免掉偶发的错误，提高SLA (Service-Level Agreement)

重试的难点

• 幂等性：多次请求可能会造成数据不一致

• 重试风暴：随着调用深度的增加，重试次数会指数级上涨（稍后分析）

• 超时设置：假设一个调用正常是 1s 的超时时间，如果允许一次重试，那么第一次请求经过多少时间时，才开始重试呢？

重试策略

• 设定一个重试比例阈值（例如1%)，重试次数占所有请求比例不超过该阈值。
• 防止链路重试：链路层面的防重试风暴的核心是限制每层都发生重试，理想情况下只有最下一层发生重试。可以返回特殊的status表明“请求失败,但别重试”。

• Hedged requests：对于可能超时（或延时高)的请求，重新向另一个下游实例发送一个相同的请求，并等待先到达的响应。