这是我参与「第五营」笔记创作活动的的第9天。
架构初探-谁动了我的蛋糕
一、什么是架构
⭐ 架构,又称软件架构
- 是有关软件整体结构与组件的抽象描述
- 用于指导软件系统各个方面的设计
- 实现一个软件有很多种方法,架构在方法选择上起着至关重要的指导作用
⭐ 重要性
- 架构没设计好,软件容易崩,用户体验上不去。最终要么重构,要么放弃
- 架构设计好了,软件的稳定性上去了,用户体验高了,口碑一点点就打造出来了
- 良好的架构基础,也为软件的未来发展提供了更多的可能。为用户赋能,实现自身价值
问题
兰师傅蛋糕坊要开张了,亟须解决如下问题:
- 如何做蛋糕:独家秘方,还是亲自做比较好
- 如何卖蛋糕:刚开始客流量应该不大,边做边卖
看起来问题都解决了,开张!
单机架构
All in one,所有的东西都在一个进程里,部署在一个机器上。
优点:简单
缺点:
- 运维需要停服,用户体验较差
- 承载能力有限。The C10K problem
单体架构
在单机架构的基础上,将进程部署到多个机器上。
优点:
- 具备水平扩容能力
- 运维不需要停服
缺点:
- 后端进程职责太多,越来越臃肿
- 爆炸半径较大,进程中一个很小的模块出现问题,都可能导致整个进程崩溃
垂直应用架构
在单机架构基础上,将进程按照某种依据切分开。
优点:
- 一定程度上减少了后端进程职责
- 一定程度上缩小爆炸半径
缺点:没有根本解决单体架构的问题
SOA (面向服务架构)
SOA 架构中,服务为一等公民,将进程按照不同的功能单元进行抽象,拆分为服务。有了服务之后,SOA 还定义了服务之间的通信标准,保证各个服务之间通讯体验的一致性。
优点:
- 各服务的职责更清晰
- 运维粒度减小到服务,爆炸半径可控
缺点:ESB (企业服务总线) 往往需要一整套解决方案
微服务
在 SOA 架构中,ESB 起到了至关重要的作用。但从架构拓扑来看,它更像是一个集中式的模块。有一个 SOA 分布式演进的分支,最终的形态便是微服务。
优点:
- 兼具 SOA 解决的问题
- 服务间的通信更敏捷、灵活
缺点:运维成本
小结
⭐ 架构演进的初衷:好比做蛋糕
- 需求量越来越大,终归要增加人手
- 越做越复杂,终归要分工合作
⭐ 架构演进思路:就像切蛋糕。蛋糕越来越大,一口吃不下终归要切分
- 竖着切(垂直切分)
- 横着切(水平切分)
二、企业级后端架构剖析
背景
兰师傅蛋糕店经过 3 年蓬勃发展,积累了良好的口碑和用户基础,接下来,就需要扩大规模:
- 店面怎么盘:买 vs 租
- 师傅怎么招:兰师傅全家出马 vs 招培训班出身的
- 是否继续坚持纯手工制作?
- 规模扩大了之后,工作重心应该是:增进蛋糕制作收益 vs 蛋糕店重点方向梳理&未来规划
云计算
指通过软件自动化管理,提供计算资源的服务网络,是现代互联网大规模熟悉分析和存储的基石。
⭐ 基础
- 虚拟化技术 —— 整租 vs 合租
- 编排方案 —— 业主 vs 租赁平台
架构
- IaaS (Infrastructure as a Service):买房子 vs 房屋租赁平台
- PaaS(Platform as a Service):清包 vs 全包
- SaaS(Software as a Service):从零培训 vs 雇佣培训过的师傅
- FaaS(Function as a Service):纯手工制作 vs 蛋糕机批量生产
云原生
云原生技术为组织(公司)在公有云、自由云、混合云等新型的动态环境中,构建和运行可碳性拓展的应用提供了可能。
弹性计算资源
类型:
- 服务资源调度
- 微服务:和面、雕花
- 大服务:烤箱
- 计算资源调度
- 在线:热销榜单
- 离线:热销榜单更新
- 消息队列
- 在线:削峰、解耦
- 离线:大数据分析
弹性存储资源
类型:
- 经典
- 对象:宣传视频
- 大数据:用户消费记录
- 关系型数据库
- 收银记录
- 元数据
- 服务发现:蛋糕店通讯录
- NoSQL
- KV:来个 xx 蛋糕
DevOps
DevOps是云原生时代软件交付的利器,贯穿整个软件开发周期。结合自动化流程,提高软件开发、交付效率。
微服务架构
通信标准:
- HTTP (RESTful API)
- RPC (Thrift,gRPC)
微服务中间件 RPC vs HTTP:
- 性能
- 服务治理
- 协议可解释性
云原生场景下,微服务大可不必在业务逻辑中实现符合通信标准的交互逻辑,而是交给框架来做。
服务网格
服务网格(Service Mesh):微服务之间通讯的中间层;高性能网络代理;业务代码与治理解耦。
相较于 RPC/HTTP 框架:
- 异构系统治理统一化
- 与业务进程解耦,生命周期易管理
云原生蛋糕店
企业级蛋糕店架构:
- 售卖
- 蛋糕制作(肉松、慕斯)
- 会员激励
- 满意度分析
- 研发新品
三、企业级后端框架的挑战
问题
基础设施层面
- 物理资源有限
- 机器
- 带宽
- 资源利用率受制于部署服务
用户层面
- 网络通信开销较大
- 网络抖动导致运维成本提高
- 异构环境下,不同实例资源水位不均
离在线资源并池
核心收益:
- 降低物理资源成本
- 提供更多的弹性资源,增加收入
解决思路:离在线资源并池
在线业务的特点
- IO密集型为主
- 潮汐性、实时性
离线业务的特点
- 计算密集型占多数
- 非实时性
自动扩缩容
核心收益: 降低业务成本
解决思路:利用在线业务潮汐性自动扩缩容
微服务亲合性部署
核心收益:
- 降低业务成本
- 提高服务可用性
解决思路:微服务亲合性部署
- 将满足亲合性条件的容器调度到一台宿主机
- 微服务中间件与服务网格通过共享内存通信
- 服务网格控制面实施灵活、动态的流量调度
流量治理
核心收益:
- 提高微服务调用容错性
- 容灾
- 进一步提高开发效率,DevOps 发挥到极致
解决思路:基于微服务中间件 & 服务网格的流量治理
- 熔断、重试
- 单元化
- 复杂环境(功能、预览)的流量调度
CPU水位负载均衡
核心收益:
- 打平异构环境算力差异
- 为自动扩缩容提供正向输入
解决思路:CPU水位负载均衡
- IaaS:提供资源探针
- 服务网格:动态负载均衡
四、后端框架实战
背景
兰师傅蛋糕店也碰到了类似的问题!
- 不同师傅干活的效率差距较大
- 有些师傅希望能者多劳多挣
继续像之前一样为每个师傅分配完全相同的工作,会引起他们的不满。。。
问题提炼
输入:
⭐ 服务网格数据面
- 支持带权重的负载均衡策略
⭐ 注册中心存储了所有容器的权重信息
⭐ 宿主机能提供
- 容器的资源使用情况
- 物理资源信息 (如 CPU 型号)
关键点:
⭐ 紧急回滚能力
⭐ 大规模
⭐ 极端场号
自适应静态权重
方案:采集宿主机物理资源信息,调整容器注册的权重。
优势:复杂度低;完全分布式,可用性高;微服务中间件无适配成本、
缺点:无紧急回滚能力;缺乏运行时自适应能力。
自适应静态权重 —— Alpha
方案:容器动态权重的自适应调整,服务网格的服务发现 & 流量调度能力。
演进方向:解决无法紧急回滚的问题;运行时权重自适应。
缺点:过度流量倾斜可能会有异常情况。
自适应静态权重 —— Beta
方案:服务网格上报 RPC 指标。
演进方向:极端场景的处理成为可能。
缺点:时序数据库压力较大;动态权重决策中心职责越来越多,迭代 -> 变更 -> 风险。
自适应静态权重 —— Release
演进方向:
⭐ 微服务化
⭐ 引入消息队列削峰、解耦
⭐ 离在线链路切分
⭐ 梳理强弱依赖