字节跳动青训营:架构初探|青训营笔记

232 阅读5分钟

字节跳动青训营:架构初探

这是我参与「第三届青训营 -后端场」笔记创作活动的第4篇笔记

[TOC]

什么是架构

架构(软件架构),是有关软件整体结构与组件的抽象描述,用于指导软件系统各个方面的涉及

架构的重要性

  • 地基没打好,大厦容易倒
  • 地基坚实了,大厦才能盖的高
  • 站在巨人肩膀上才能看的更远

单机

把所有功能都实现在一个进程里,并只部署到一台机器上

优点:简单 缺点:运维需要停服,C10K Problem(服务瓶颈)

单体、垂直应用|垂直切分

单体架构:分布式部署的单机架构
垂直应用架构:按应用垂直切分的单体

优点:水平扩容,运维不需要停服 缺点:职责太多,开发效率低,爆炸半径大

SOA、微服务|水平切分

SOA:Service-Oriented Architecture

  • 将应用的不同功能单元抽象为服务
  • 定义服务之间的通信标准

微服务:SOA的去中心化演进方向

问题:

  • 数据一致性
  • 高可用
  • 治理
  • 解耦 VS 过微

企业级架构剖析

云计算

云计算:通过软件自动化管理,提供计算资源的网络服务,现代互联网大规模实现分析和存储的平台

基础:

  • 虚拟化技术
  • 编排方案

架构:

  • IaaS:Infrastructure as a Service(不需要过度关注物理资源)
  • PaaS:Platform as a Service(平台服务)
  • SaaS:Software as a Service
  • FaaS:Function as a Service

云原生

云原生技术为组织(公司)在公有云、自有云、混合云等新型动态环境中,构建和运行可弹性拓展的应用提供了可能

  • 弹性资源:虚拟化容器、快速扩容
  • 微服务架构:业务功能单元解耦、统一的通信标准
  • DevOps:敏捷开发、CI/CD
  • 服务网络:业务与治理解构,异构系统的治理统一化,复杂治理能力

企业级后端架构的挑战

挑战

基础设施层面:

  • 物理资源是有限的(机器、带宽)
  • 资源利用率受制于部署服务

用户层面:

  • 网络通信开销较大
  • 网络抖动导致运维成本升高
  • 异构环境下,不同实例资源水位不均

离在线资源并池

根据在线和离线业务的不同特点进行资源分配

核心收益:

  • 降低物理资源成本
  • 提供更多的弹性资源,增加收入

解决思路:离在线资源并池

在线业务的特点:

  • IO密集型
  • 潮汐性、实时性

离线业务的特点:

  • 计算密集型
  • 非实时性

自动扩容缩容

核心收益:降低业务成本

解决思路:自动扩容缩容

利用在线业务的潮汐性进行缩容和扩容

问题:用什么指标来判断该缩容还是扩容?

CPU使用率(物理资源使用率)

微服务亲和性部署

核心收益:

  • 降低业务成本
  • 提高服务可用性

解决思路:微服务亲和性部署

  • 将满足亲和性条件的容器调度到一台宿主机
  • 微服务中间件与服务网格通过共享内存通信
  • 服务网格控制面实施灵活、动态的流量调度

流量治理

核心收益:

  • 提高微服务调用容错性
  • 容灾
  • 进一步提高开发效率,DevOps发挥到极限

解决思路:基于微服务中间件&服务网格的流量治理

  • 熔断、重试
  • 单元化
  • 复杂环境(功能、预览)的流量调度

CPU水位负载均衡

核心收益:

  • 打平异构环境算力差异
  • 为自动扩缩提供正向输入

解决思路:CPU水位负载均衡

  • IaaS:提供资源探针
  • 服务网格:动态负载均衡

后端架构实战

问题提炼

输入:

  • 服务网格数据面:支持带权重的负载均衡策略
  • 注册中心存储了所有容器的权重信息
  • 宿主机能提供:容器的资源使用情况、物理资源信息

关键点:

  • 紧急回滚能力
  • 大规模
  • 极端场景

方案

自适应静态权重

方案:

  • 采集宿主机物理资源信息
  • 调整容器注册的权重

优点:

  • 复杂度低
  • 完全分布式,可用性高
  • 微服务中间件无适配成本

缺点:

  • 无紧急回滚能力
  • 缺乏运行时自适应能力

自适应动态权重 Alpha

方案:

  • 容器动态权重的自适应调整
  • 服务网格的服务发现&流量调度能力

演进方向:

  • 解决无法紧急回滚的能力
  • 运行时权重自适应

缺点:

  • 过度流量倾斜可能会有异常情况

自适应动态权重 Beta

方案:

  • 服务网格上报RPC指标

演进方向:

  • 极端场景的处理成为可能

缺点:

  • 时序数据库压力比较大
  • 动态权重决策中心职责越来越多,迭代、变更、风险

自适应动态权重 Release

演进方向:

  • 微服务化
  • 引入消息队列削峰、解耦
  • 离在线链路切分
  • 梳理强弱依赖

总结

  • 没有最好的架构,只有最合适的架构

  • 如何做架构设计

    • 需求线性,弄清楚要解决什么问题
    • 业界调研,业界都有哪些解决方案可供参考
    • 技术选型,内部/社区都有哪些基础组件
    • 异常情况,考虑清楚xxx不行了怎么办