字节跳动青训营:架构初探
这是我参与「第三届青训营 -后端场」笔记创作活动的第4篇笔记
[TOC]
什么是架构
架构(软件架构),是有关软件整体结构与组件的抽象描述,用于指导软件系统各个方面的涉及
架构的重要性
- 地基没打好,大厦容易倒
- 地基坚实了,大厦才能盖的高
- 站在巨人肩膀上才能看的更远
单机
把所有功能都实现在一个进程里,并只部署到一台机器上
优点:简单 缺点:运维需要停服,C10K Problem(服务瓶颈)
单体、垂直应用|垂直切分
单体架构:分布式部署的单机架构
垂直应用架构:按应用垂直切分的单体
优点:水平扩容,运维不需要停服 缺点:职责太多,开发效率低,爆炸半径大
SOA、微服务|水平切分
SOA:Service-Oriented Architecture
- 将应用的不同功能单元抽象为服务
- 定义服务之间的通信标准
微服务:SOA的去中心化演进方向
问题:
- 数据一致性
- 高可用
- 治理
- 解耦 VS 过微
企业级架构剖析
云计算
云计算:通过软件自动化管理,提供计算资源的网络服务,现代互联网大规模实现分析和存储的平台
基础:
- 虚拟化技术
- 编排方案
架构:
- IaaS:Infrastructure as a Service(不需要过度关注物理资源)
- PaaS:Platform as a Service(平台服务)
- SaaS:Software as a Service
- FaaS:Function as a Service
云原生
云原生技术为组织(公司)在公有云、自有云、混合云等新型动态环境中,构建和运行可弹性拓展的应用提供了可能
- 弹性资源:虚拟化容器、快速扩容
- 微服务架构:业务功能单元解耦、统一的通信标准
- DevOps:敏捷开发、CI/CD
- 服务网络:业务与治理解构,异构系统的治理统一化,复杂治理能力
企业级后端架构的挑战
挑战
基础设施层面:
- 物理资源是有限的(机器、带宽)
- 资源利用率受制于部署服务
用户层面:
- 网络通信开销较大
- 网络抖动导致运维成本升高
- 异构环境下,不同实例资源水位不均
离在线资源并池
根据在线和离线业务的不同特点进行资源分配
核心收益:
- 降低物理资源成本
- 提供更多的弹性资源,增加收入
解决思路:离在线资源并池
在线业务的特点:
- IO密集型
- 潮汐性、实时性
离线业务的特点:
- 计算密集型
- 非实时性
自动扩容缩容
核心收益:降低业务成本
解决思路:自动扩容缩容
利用在线业务的潮汐性进行缩容和扩容
问题:用什么指标来判断该缩容还是扩容?
CPU使用率(物理资源使用率)
微服务亲和性部署
核心收益:
- 降低业务成本
- 提高服务可用性
解决思路:微服务亲和性部署
- 将满足亲和性条件的容器调度到一台宿主机
- 微服务中间件与服务网格通过共享内存通信
- 服务网格控制面实施灵活、动态的流量调度
流量治理
核心收益:
- 提高微服务调用容错性
- 容灾
- 进一步提高开发效率,DevOps发挥到极限
解决思路:基于微服务中间件&服务网格的流量治理
- 熔断、重试
- 单元化
- 复杂环境(功能、预览)的流量调度
CPU水位负载均衡
核心收益:
- 打平异构环境算力差异
- 为自动扩缩提供正向输入
解决思路:CPU水位负载均衡
- IaaS:提供资源探针
- 服务网格:动态负载均衡
后端架构实战
问题提炼
输入:
- 服务网格数据面:支持带权重的负载均衡策略
- 注册中心存储了所有容器的权重信息
- 宿主机能提供:容器的资源使用情况、物理资源信息
关键点:
- 紧急回滚能力
- 大规模
- 极端场景
方案
自适应静态权重
方案:
- 采集宿主机物理资源信息
- 调整容器注册的权重
优点:
- 复杂度低
- 完全分布式,可用性高
- 微服务中间件无适配成本
缺点:
- 无紧急回滚能力
- 缺乏运行时自适应能力
自适应动态权重 Alpha
方案:
- 容器动态权重的自适应调整
- 服务网格的服务发现&流量调度能力
演进方向:
- 解决无法紧急回滚的能力
- 运行时权重自适应
缺点:
- 过度流量倾斜可能会有异常情况
自适应动态权重 Beta
方案:
- 服务网格上报RPC指标
演进方向:
- 极端场景的处理成为可能
缺点:
- 时序数据库压力比较大
- 动态权重决策中心职责越来越多,迭代、变更、风险
自适应动态权重 Release
演进方向:
- 微服务化
- 引入消息队列削峰、解耦
- 离在线链路切分
- 梳理强弱依赖
总结
-
没有最好的架构,只有最合适的架构
-
如何做架构设计
- 需求线性,弄清楚要解决什么问题
- 业界调研,业界都有哪些解决方案可供参考
- 技术选型,内部/社区都有哪些基础组件
- 异常情况,考虑清楚xxx不行了怎么办