这是我参与「第五届青训营」伴学笔记创作活动的第8天。

一、什么是架构

架构又称软件架构，

• 是有关软件整体结构与组件的抽象描述
• 用于指导软件系统各个方面的设计

1、问题

兰师傅蛋糕坊要开张了，亟须解决如下问题：

• 如何做蛋糕：亲自做
• 如何卖蛋糕：边做边卖
  看来问题都解决了，开张！

2、单机

软件系统需要具备对外提供服务，单击，就是把所有功能都实现在一个进程里，并部署在一台机器上。
优点：简单
问题：C10K problem；运维需要停服。

问题：如何卖更多的蛋糕？
多雇几个蛋糕师傅。

3、单体、垂直应用|垂直切分

单体架构：分布式部署
垂直应用架构：按应用垂直切分的单体
优点：水平扩容；运维不需要停服
问题：职责太多，开发效率不高；爆炸半径大。

演讲：如何提高做蛋糕效率？
分工协作

4、SOA、微服务|水平切分

SOA
将应用的不同功能单元抽象为服务
定义服务之间的通信标准
微服务架构：SOA的去中心化演进方向
问题：

• 数据一致性
  装货台共交付了多少蛋糕？
• 高可用性
  这么多师傅，如何合作？
• 治理
  烤箱坏了，怎么办？
• 解耦 vs 过微
  运维成本高了，值当吗？

5、小结

架构的演进初衷：好比做蛋糕。

• 需求量越来越大，终归要增加人手。
• 越做越复杂，终归要分工合作。

架构的演进思路：就像切蛋糕。蛋糕越来越大，终归要切分。

• 竖着切（垂直切分）
• 横着切（水平切分）

二、企业级后端架构剖析

1、背景

兰师傅蛋糕店经过3年的蓬勃发展，积累了良好的口碑和用户基础，接下来，需要扩大规模：

• 店面怎么盘：
  · 买
  · 租
• 师傅怎么招：
  · 兰师傅全家出马
  · 招培训班出身的
• 是否继续坚持纯手工制作？
• 规模大了之后，工作重心应该是？
  · 精进蛋糕制作收益
  · 蛋糕店重点方向梳理＆未来规划

2、云计算

云计算：是指通过软件自动化管理，提供计算资源的服务网络，是现代互联网大规模熟悉分析和存储的基石。

基础：

• 虚拟化技术 - 整租 vs 合租
• 编排方案 - 业主 vs 租赁平台

架构：

• IaaS
  · 买房子 vs 房屋租赁平台
• PaaS
  · 清包 vs 全包
• SaaS
  · 从零培训 vs 雇佣培训过的师傅
• FaaS
  · 纯手工制作 vs 蛋糕机批量生产

3、云原生

云原生技术为组织（公司）在公有云、自由云、混合云等新型的动态环境中，构建和运行可弹性拓展的应用提供了可能。

弹性资源：

• 虚拟化容器
• 快速扩缩容

微服务架构：

• 业务功能单元解精
• 统一的通信标准

DevOps :

• 敏捷开发
• CI/CD

服务网格：

• 业务与治理结构
• 异构系统的治理统一化
• 复杂治理能力

弹性计算资源

弹性计算资源类型：

• 服务资源调度
  · 微服务：和面、雕花
  · 大服务：烤箱
• 计算资源调度
  · 在线：热销榜单
  · 离线：热销榜单更新
• 消息队列
  · 在线：削峰、解藕
  · 离线：大数据分析

弹性存储资源

弹性存储资源类型：

• 经典
  · 对象：宣传视频
  · 大数据：用户消费记录
• 关系型数据库
  · 收银记录
• 元数据
  · 服务发现：蛋糕店通讯录
• NoSQL
  · KV ：来个 xx 蛋糕

总结：将存储资源当成服务一样

DevOps

DevOps是云原生时代软件交付的利器，贯穿整个软件开发周期。
结合自动化流程，提高软件开发、交付效率。

微服务架构

通信标准：

• HTTP ( RESTful API )
• RPC ( Thrift , gRPC )

微服务中间件 RPC vs HTTP：

• 性能
• 服务治理
• 协议可解释性

云原生场景下，微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑，而是交给框架来做。

服务网格

服务网格（ Service Mesh ):

• 微服务之间通讯的中间层
• 高性能网络代理
• 业务代码与治理解耦

相比较于 RPC / HTTP 框架：

• 异构系统治理统一化
• 与业务进程解耦，生命周期易管理

4、云原生蛋糕店

企业级蛋糕店架构：

• 售卖
• 蛋糕制作
• 会员激励
• 满意度分析
• 研发新品

三、企业级后端架构的挑战

1、问题

挑战：

• 基础设施层面
  · 物理资源是有限的：机器、带宽
  · 资源利用率受制于部署服务
• 用户层面
  · 网络通信开销较大
  · 网络抖动导致运维成本提高
  · 异构环境下，不同实例资源水位不均

2、离在线资源并池

核心收益：

• 降低物理资源成本
• 提供更多的弹性资源，增加收入

解决思路：离在线资源并池

• 在线业务的特点
  · 10密集型为主
  · 潮汐性、实时性
• 离线业务的特点
  · 计算密集型占多数
  · 非实时性

3、自动扩缩容

核心收益：

• 降低业务成本

解决思路：自动扩缩容

• 利用在线业务潮汐性自动扩缩容

4、微服务亲合性部署

核心收益：

• 降低业务成本
• 提高服务可用性

解决思路：微服务亲合性部署

• 将满足亲合性条件的容器调度到一台宿主机
• 微服务中间件与服务网格通过共享内存通信
• 服务网格控制面实施灵活、动态的流量调度

5、流量治理

核心收益：

• 提高微服务调用容错性
• 容灾
• 进一步提高开发效率，DevOps 发挥到极致

解决思路：基于微服务中间件＆服务网格的流量治理

• 熔断、重试
• 单元化
• 复杂环境（功能、预览）的流量调度

6、CPU 水位负载均衡

核心收益：

• 打平异构环境算力差异
• 为自动扩缩容提供正向输入

解决思路： CPU 水位负载均衡

• laaS
  提供资源探针
• 服务网格
  动态负载均衡

四、后端架构实战

1、问题

背景：
兰师傅蛋糕店也碰到了类似的问题：

• 不同师傅干活的效率差距较大
• 有些师傅希望「能者多劳多挣」

在这个背景下，继续像之前一样为每个师傅分配完全相同的工作，会引起他们的不满..
CPU 水位负载均衡，应该如何设计？
1.需要哪些输入？
2.设计时需要考虑哪些关键点？

问题提炼：
输入：

• 服务网格数据面
  支持带权重的负载均衡策略
• 注册中心存储了所有容器的权重信息
• 宿主机能提供
  容器的资源使用情况
  物理资源信息（如 CPU 型号）

关键点：

• 紧急回滚能力
• 大规模
• 极端场景

2、自适应静态权重

方案：

• 采集宿主机物理资源信息
• 调整容器注册的权重

优势：

• 复杂度低
• 完全分布式，可用性高
• 微服务中间件无适配成本

缺点：

• 无紧急回滚能力
• 缺乏运行时自适应能力

3、自适应动态权重 Alpha

方案：

• 容器动态权重的自适应调整
• 服务网格的服务发现＆流量调度能力

演进方向：

• 解决无法紧急回滚的问题
• 运行时权重自适应

缺点：

• 过度流量倾斜可能会有异常情况

4、自适应动态权重 Beta

方案：

• 服务网格上报 RPC 指标

演进方向：

• 极端场景的处理成为可能

缺点：

• 时序数据库压力较大
• 动态权重决策中心职责越来越多，迭代 -> 变更 -> 风险

5、自适应动态权重 Release

演进方向：

• 微服务化
• 引入消息队列削峰、解耦
• 离在线链路切分
• 梳理强弱依赖