lesson9 架构初探

这是我参与「第三届青训营 -后端场」笔记创作活动的第3篇笔记

课程目录

• 什么是架构
• 企业级后端架构剖析
• 企业级后端架构的挑战
• 后端架构实战

01 什么是架构

• 架构，即软件架构
  • 是有关软件整体结构与组件的抽象描述
  • 用于指导软件系统各个方面的设计

1.1 什么是架构-问题

蓝师傅蛋糕坊开张了，需要解决下面问题：

• 如何做蛋糕
• 如何卖蛋糕

1.2 什么是架构-单机

单机：把所有功能都实现在一个进程里，并部署在一台机器上

• 优点

  • 简单

• 问题

  • C10K problem：服务器如何支持10k个并发连接

  • 运维需要停服

1.3 什么是架构-单体、垂直应用|垂直切分

单体架构：分布式部署

垂直应用架构：按应用垂直切分的单体

• 优点
  • 水平扩容
  • 运维不需要停服
• 问题
  • 职责太多，开发效率不高
  • 爆炸半径大

改进：分工协作

1.4 什么是架构-SOA、微服务|水平切分

SOA： service-oriented architecture

• 将应用的不同功能单元抽象为服务
• 定义服务之间的通信标准

微服务架构：SOA的去中心化演进方向

问题

• 数据一致性
  • 装货台供交付了多少蛋糕
• 高可用
  • 这么多师傅，如何合作
• 治理
  • 烤箱坏了，怎么容灾
• 解耦 vs 过微
  • 运维成本高了，值得吗

小结

架构演进的初衷

• 需求量越来越大，需要增加人手
• 越做越复杂，需要分工合作

架构演进的思路

• 垂直切分
• 水平切分

02 企业级后端架构剖析

背景

蛋糕经过三年的发展，接下来需要扩大规模：

• 店面怎么盘
  • 买
  • 租
• 师傅怎么招
  • 家庭模式
  • 培训班找人
• 是否坚持手工制作
• 规模变大了后，工作重心应该是
  • 精进蛋糕制作收益
  • 蛋糕店重点方向梳理
  • 未来规划

2.1 云计算

云计算：是指通过软件自动化管理，提供计算资源的服务网络，是现代互联网大规模熟悉分析和存储的基石。

基础：

• 虚拟化技术-整租Vs合租
• 编排方案一业主Vs租赁平台

架构：

• laaS (Infrastructure as a Service)
  • 买房子vs房屋租赁平台
• PaaS (Platform as a Service)
  • 清包vs全包
• SaaS (Software as a Service)
  • 从零培训 vs 雇佣培训过的师傅
• FaaS (Function as a Service)
  • 纯手工制作Vs蛋糕机批量生产

2.2 云原生

​ 云原生技术为组织(公司)在公有云、自由云、混合云等新型的动态环境中，构建和运行可弹性拓展的应用 提供了可能。

• 弹性资源
  • “弹性”即意味着具有回弹的能力，也就是当设备出现故障，可以快速恢复并继续运行。当一个存储系统的设计是为了保护和纠正常规工作流程中发生的异常情况时——就被称为"弹性"。
  • 虚拟化容器
  • 快速扩缩容
• 微服务架构
  • 业务功能单元解耦
  • 统一的通信标准
• DevOps
  • 敏捷开发
  • CI、CD
• 服务网格
  • 业务与治理解构
  • 异构系统的治理统一化 （如不同语言）
  • 复杂治理能力

云原生之弹性计算资源

弹性计算资源类型：

• 服务资源调度
  • 微服务：和面、雕花
  • 大服务：烤箱
• 计算资源调度
  • 在线：热销榜单
  • 离线：热销榜单更新
• 消息队列
  • 在线：削峰、解耦
  • 离线：大数据分析

云原生之弹性存储资源

弹性存储资源类型：

总结：将存储资源当服务一样

• 经典
  • 对象：宣传视频
  • 大数据：用户消费记录
• 关系型数据库
  • 收银记录
• 元数据
  • 服务发现：蛋糕店通讯录
• NoSQL
  • KV: 来个xx蛋糕

云原生之DevOps

DevOps 是云原生时代软件交付的利器，贯穿整个软件开发周期。

结合自动化流程，提高软件开发、交付效率

云原生之微服务架构

通信标准：

• HTTP
  • RESTful API
• RPC
  • Thrift
  • gRPC

微服务中间件 RPC vs HTTP

• 性能
• 服务治理
• 协议可解释性

云原生场景下，微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑，而是交给框架来做。

云原生之服务网格

服务网格(Service Mesh):

• 微服务之间通讯的中间层
• 高性能网络代理
• 业务代码与治理解耦

相比较于RPC/HTTP框架：

• 异构系统治理统一化
• 与业务进程解耦，生命周期易管理

企业级后端架构剖析

• 售卖
• 蛋糕制作
  • 进入缓存货架
  • 直接售卖
• 会员激励
• 满意度分析
  • 离线消息队列
  • 在线消息队列
• 研发新品

03 企业级后端架构的挑战-问题

挑战：

• 基础设施层面
  • 物理资源是有限的
    • 机器
    • 带宽
  • 资源利用率受制于部署服务
• 用户层面
  • 网络通信开销较大
  • 网络抖动导致运维成本提高
  • 异构环境下，不同实例资源水位不均

3.1 离在线资源并池

核心收益：

• 降低物理资源成本
• 提供更多的弹性资源，增加收入

解决思路：离在线资源并池

• 在线业务的特点
  • IO密集型为主
  • 潮汐性、实时性
• 离线业务的特点
  • 计算密集型占多数
  • 非实时性

3.2 自动扩缩容

核心收益：

• 降低业务成本

解决思路：

• 自动扩缩容
  • 利用在线业务潮汐性自动扩缩容

问题：扩缩容依据什么指标？

3.3 微服务亲和性部署

核心收益：

• 降低业务成本
• 提高服务可用性

解决思路：微服务亲合性部署

• 将满足亲合性条件的容器调度到一台宿主机
• 微服务中间件与服务网格通过共享内存通信
• 服务网格控制面实施灵活、动态的流量调度

3.4 流量治理

核心收益：

• 提高微服务调用容错性
• 容灾
• 进一步提高开发效率，DevOps发挥到极致

解决思路：基于微服务中间件&服务网格的流量治理

• 熔断、重试
• 单元化
• 复杂环境（功能、预览）的流量调度

3.5 CPU水位负载均衡

核心收益：

• 打平异构环境算力差异
• 为自动扩缩容提供正向输入

解决思路：CPU水位负载均衡

• laaS
  • 提供资源探针
• 服务网格
  • 动态负载均衡

04 后端架构实战-问题背景

兰师傅蛋糕店也碰到了类似的问题：

• 不同师傅干活的效率差距较大
• 有些师傅希望「能者多劳多挣」

在这个背景下，继续像之前一样为每个师傅分配完全相同的工作，会引起他们的不满。。。

问题提炼

输入：

• 服务 网格数据面
  • 支持带权重的负载均衡策略
• 注册中心存储了所有容器的权重信息
• 宿主机能提供
  • 容器的资源使用情况
  • 物理资源信息（如CPU型号）

关键点：

• 紧急回滚能力
• 大规模
• 极端场景

4.1 自适应静态权值

方案：

• 采集宿主机物理资源信息

• 调整容器注册的权重

优势：

• 复杂度低

• 完全分布式，可用性高

• 微服务中间件无适配成本

缺点：

• 无紧急回滚能力
• 缺乏运行时自适应能力

4.2 自适应动态权值 Alpha

方案：

• 容器动态权重的自适应调整
• 服务网格的服务发现&流量调度能力

演进方向：

• 解决无法紧急回滚的问题
• 运行时权重自适应

缺点：

• 过度流量倾斜可能会有异常情况

4.3 自适应动态权值 Beta

方案：

• 服务网格上报RPC指标 演进方向：

• 极端场景的处理成为可能

缺点：

• 时序数据库压力较大
• 动态权重决策中心职责越来越多
• 迭代->变更->风险

4.4 自适应动态权重 Release

演进方向：

• 微服务化
• 引入消息队列削峰、解耦
• 离在线链路切分
• 梳理强弱依赖

总结

1.没有最好的架构，只有最合适的架构

2.如何做架构设计

• 需求先行。弄清楚要解决什么问题
• 业界调研。业界都有哪些解决方案可供参考
• 技术选型。内部/社区都有哪些基础组件
• 异常情况。考虑清楚xxx不行了怎么办

3.架构与工程师成长

• 技术经理
• 架构师