这是我参与「第三届青训营 -后端场」笔记创作活动的的第4篇笔记
01 什么是架构
定义
架构,又称软件架构
- 是有关软件整体结构与组件的整体描述
- 用于指导软件系统各个方面的设计
通俗点来讲,实现一个软件有很多种方式,架构在方法选择上起着至关重要的指导作用
架构的重要性?
- 地基没打好,大厦容易倒
- 地基坚实了,大厦才能盖的高
- 站在巨人的肩膀上,才能看的远
问题
王师傅蛋糕店开张了,亟需解决如下问题
-
如何做蛋糕
独家秘方,还是亲自做比较好
-
如何卖蛋糕
刚开始客流量应该不大,边做边卖
问题都解决了 开张!
单机
软件系统需要具备对外提供服务,单机,就是把所有功能都实现在一个进程里,并部署在一台机器上。
优点:简单 问题:运维需要停服,C10k问题
演进:如何卖更多的蛋糕? 多雇几个师傅
单体、垂直应用|垂直切分
单体架构:分布式部署 垂直应用架构:按应用垂直切分的单体
优点 水平扩容 运维不需要停服 问题 职责太多,开发效率不高 爆炸半径大
演进:如何提高做蛋糕的效率? 分工协助
我们把进程部署在多个机器上,并引入负载均衡层,经过这样的垂直切分,就来到了单体架构。多个机器就好比把蛋糕切成多个大块,负载均衡负载把用户引导到事先切好的蛋糕处。
在单体架构上再进一步,把不同的应用的代码从之前的一个大的进程中拆分出来,就来到了垂直架构。按应用拆分进程,就好比肉松和慕斯在不用的分发点。
依旧存在的问题:随着业务场景越来越复杂,服务的职责越来越多。开发者不仅要关心web后端业务逻辑,还要关心缓存,持久化存储,甚至和机器打交道,长此以往,RD很难分出精力专注于业务能力的开发,业务发展需求上线,变更,将会影响其他不涉及的场景。一旦出问题,影响不可估量。
SOA.微服务|水平切分
SOA(Serbice-Oriented Architecture)
- 将应用的不用功能单元抽象为服务
- 定义服务之间的通信标准 微服务架构:SOA的去中心化演进方向 问题
- 数据一致性:装货台共交付了多少蛋糕?
- 高可用:这么多师傅,如何合作?
- 治理:烤箱坏了,如何容灾?
- 解耦vs过微:运维成本高了,值得吗?
我们把原本包含了众多复杂逻辑的进程按照功能单元抽象出多个服务,以服务为一等公民,并为它们之间的通信定义标准,便得到了SOA架构。
服务:服务是根据功能抽象出来的概念。例如,负责用户登录的服务,负责持久化存储数据库的服务,负责加快查询速度的缓存服务。 通信标准:是服务之间通信的基石。没有一个好的标准就比如语言不同的蛋糕师傅,他们之间难以合作。
好处:
- 不同模块的RD可以专注于自己的开发逻辑,加快了迭代的效率
- 各个服务单独运维,服务的影响面可控,软件的整体的问题行更好了
02 企业级后端架构刨析
背景
王师傅蛋糕店经过3年的蓬勃发展,需要扩大规模:
- 店面怎么盘:买还是租?
- 师傅怎么招:自己家的人还是招培训班出身的?
- 是否坚持纯手工制作?
- 扩大规模后工作重心应该是?精进蛋糕制作收益?未来的规划
云计算
云计算:是指通过软件自动化管理,提供计算资源的服务网格,是现代互联网大规模熟悉分析和存储的基石。
基础: 虚拟化技术:整租vs合租 编排方案:业主vs租赁平台
架构:
- IaaS(Infrastructure as s Service) 买房子vs房屋租赁平台
- PaaS(Platform as s Service) 清包vs全包
- SaaS(Software as s Service) 从零培训vs培训过的师傅
- FaaS(Funcion as s Service) 纯手工制作vs蛋糕机批量生产
云原生
云原生技术为公司在共有云、自由云、混合云等新型的动态环境中,构建和运行可弹性扩展的应用提供了可能。
云原生主要涉及四大方面:
- 弹性资源:基于虚拟化容器和以及灵活的编排调度机制,可以为云服务提供快速的扩缩容能力,而且极大程度的提高了物理资源的利用率。
- 微服务架构:云原生的重要基石之一,依托于功能单元解耦,使得云服务具备了快速迭代的可能,业务得以迅速的发展,统一的通信标准也使得越来越多的组件加入到云原生大家庭,使得各个组件之间的交互变得更加容易。
- DevOps:自动化的流程使得软件的工作流程更高效,将微服务架构的优势发挥的淋漓尽致
- 服务网格:服务网格的进步是将业务逻辑和网络通信和治理解耦开来,业务不在担心异构系统中RPC中间件治理能力的不统一,也使得复杂的治理能力的落地成为可能。
云原生之弹性计算资源
弹性资源的类型:
- 服务资源调度:微服务(和面,雕花)大服务(烤箱)
- 计算资源调度:在线(热销榜单),离线(热销榜单的更新)
- 消息队列:在线(削峰、解耦)离线(大数据分析)
云原生之弹性存储资源
弹性存储资源的类型:
- 经典:对象:宣传视频、大数据:用户的消费记录
- 关系型数据库:收银记录
- 元数据:服务发现:蛋糕店的通讯录
- NoSQL:KV:来个XX蛋糕
云原生之DevOps
DevOps是云原生时代软件交付的利器,贯穿整个软件开发的周期 结合自动化流程,提高软件的开发、交付效率
元原生之微服务架构
通信标准: HTTP,RPC
云原生的场景下,微服务不用再业务逻辑中实现符合通信标准的交互逻辑,而是交给框架来做。
云原生之服务网格
服务网格(service Mesh)
- 微服务之间通信的中间层
- 高性能的网络代理
- 业务代码与治理解耦
相比较于RPC/HTTP架构:
- 异构系统治理统一化
- 与业务进程解耦,生命周期易管理
云原生蛋糕店
- 企业级蛋糕店架构
- 售卖
- 蛋糕制作
- 会员激励
- 满意度分析
- 研发新品
03 企业级后端架构的挑战
问题
挑战:
- 基础设施层面:物理资源有限,资源利用率受限于部署服务
- 用户层面:网络通信开销大、网络抖动导致运维成本提高、异构环境下,不同示例资源水位不均
离在线资源并池
核心收益:
-
降低物理资源成本
-
提高更多的弹性资源增加成本
-
在线业务的特点:IO密集型、潮汐性、实时性
-
离线业务的特点:cpu密集型、非实时性
同一个机器怎么做离在线隔离?
对cpu进行虚拟化,并且进行隔离
自动扩缩容
核心收益:降低业务成本
利用在线业务的潮汐性自动扩缩容
扩缩容依据什么指标? 根据不同的场景,cpu是一个关键的指标,用50的一个分位数,或者 看内存的利用率。IO是比较困难的,IO隔离比较困难。QPS不容易量化,也比较困难
微服务亲和性部署
核心收益:
- 降低业务成本
- 提供服务的可用性
解决思路:
- 将满足亲和性的容器调度到一台宿主机
- 微服务中间件与服务网格通过共享内存通信
- 服务网格控制面实施灵活、动态的流量调度
流量治理
核心收益
- 提高微服务调用容错性
- 容灾
- 进一步提高开发效率
cpu水位负载均衡
核心收益:
- 打平异构环境算力差异
- 为自动扩缩容提供正向输入
解决思路:
- IaaS 提供资源探针
- 服务网格:动态负载均衡
04 后端架构实战
问题背景
有的师傅想多挣钱干活多,有的师傅比较佛系,注重身体,不能一视同仁
问题提炼
输入:
- 服务网格数据面:支持带权重的负载均衡策略
- 注册中心存储了所有容器的权重信息
- 宿主机能提供:容器的资源使用情况、物理资源信息(cpu型号)
自适应静态权重
方案:
- 采集宿主主机物理资源信息
- 调整容器注册的权重
优势
- 复杂度低
- 完全分布式,可用性高
- 微服务中间件无适配成本
缺点 无紧急回滚能力 缺乏运行时自适应能力
自适应动态权重 Alpa
方案:
- 容器动态权重的自适应调整
- 服务网格的服务发现&流量的调度能力
演进方向:
- 解决无法紧急回滚的问题
- 运行时权重自适应
缺点:
- 过度流量倾斜可能会有异常情况
自适应动态权重Beta
方案:服务网格上报RPC指标
演进方向:极端场景成为可能
缺点: 时序数据库压力较大 动态权重决策中心职责越来越多,迭代-> 变更->风险
自适应动态权重 Release
演进方向:
- 微服务化
- 引入消息队列削峰、解耦
- 离在线链路切分
- 梳理强弱依赖