企业级后端架构的挑战|青训营笔记

65 阅读2分钟

这是我参与「第五届青训营」伴学笔记创作活动的的第10天

本节课内容如下

企业级后端架构的挑战

目录

0 问题

1 离在线资源并池

2 自动扩缩容

3 微服务亲合性部署

4 流量治理

5 CPU水位负载均衡

1-0 问题

挑战:

  • 基础设施层面

    • 物理资源是有限的

      • 带宽
      • 机器
    • 资源利用率受制于部署服务

  • 用户层面

    • 网络通信开销较大
    • 网络抖动导致运维成本提高
    • 异构环境下,不同实例资源水位不均
1-1 离在线资源并池

核心收益:

  • 降低物理资源成本
  • 提供更多的弹性资源,增加收入

解决思路:离在线资源并池

  • 在线业务的特点

    • IO密集型为主
    • 潮汐性、实时性
  • 离线业务的特点

    • 计算密集型占多数
    • 非实时性

问题:同一个机器怎么分离离在线资源?

思路:离在线资源使用不同的CPU

1-2 自动扩缩容

核心收益:

  • 降低业务成本

解决思路:

自动扩缩容

  • 利用在线业务潮汐性自动扩缩容

问题:扩缩容依据什么指标

根据不同的场景具体设计,其中CPU使用量是一个黄金指标

1-3 微服务亲合性部署

核心收益:

  • 降低业务成本
  • 提高服务可用性

解决思路:

  • 将满足亲合性条件的容器调度到一台宿主机
  • 微服务中间件与服务网格通过共享内存通信
  • 服务网格控制面实施灵活、动态的流量调度
1-4 流量治理

核心收益:

  • 提高微服务调用容错性
  • 容灾
  • 进一步提高开发效率,DevOps发挥到极致

解决思路:基于微服务中间件&服务网格的流量治理

  • 熔断、重试
  • 单元化
  • 复杂环境(功能、预览)的流量调度
1-5 CPU水位负载均衡

核心收益:

  • 打平异构环境算力差异
  • 为自动扩缩容提供正向收入

解决思路:CPU水位负载均衡

  • IaaS

    • 提供资源探针
  • 服务网格

    • 动态负载均衡