企业级后端架构剖析及挑战 | 青训营笔记

企业级后端架构剖析

云计算

云计算：是指通过软件自动化管理，提供计算资源的服务网络，是现代互联网大规模熟悉分析和存储的基石
基础：

• 虚拟化技术
• 编排方案 架构：
• 基础设施即服务(Infrastructure as a Service, IaaS)
  • 利用基础设施即服务 (IaaS)，云服务提供商可以拥有并管理那些运行您的软件堆栈的硬件。它包括服务器、网络和存储。如果您不想购买和维护基础设施，这便是一个可以大大降低成本的战略。但是您的 IT 团队仍有大量工作要做。在 IaaS 模型下，您的 IT 团队需要管理操作系统 、数据库、应用程序、功能和您的组织的所有数据。因此，与其它服务模型相比，您的 IT 团队将具有更大的控制力和灵活性。IaaS 是自助服务，您的 IT 团队可以通过 API 或仪表板获取所需资源。它的常见示例包括亚马逊 AWS、谷歌计算引擎和微软 Azure，您可以通过它们购买自己所需的容量。也就是说，它几乎不涉及约定，如果您认为自己的需求在不久以后会有变化，它就会体现出优势。如果您属于一个大型组织，您也可以通过您的企业的另一个部分访问 IaaS。
• 平台即服务(Platform as a Service, PaaS)
  • 下一级服务是平台即服务 (PaaS)。PaaS 与 IaaS 相似，区别在于您的云服务提供商还提供了操作系统和数据库。这意味着您的 IT 团队的工作量较少， 但您的组织仍然要负责应用程序、功能和数据。PaaS 为您的开发者提供了一个简单、可扩展的应用程序构建平台。它与 IaaS 非常相似，您可以根据需要购买更多资源。由于多个用户可以访问开发应用程序，因此 PaaS 可以简化工作流程并加强协调。PaaS 的示例包括 AWS Elastic Beanstalk 和谷歌应用程序引擎。
• 软件即服务(SaaS, Software as a Service)
  • 软件即服务 (SaaS) 为最终用户提供了最多的支持，是所有交付模型中最简单的一种。您可能已经在您的组织中使用过它。SaaS 可以在多租户架构中运行，软件的一个实例可以为多个用户提供服务。一般来说，SaaS 产品不需要下载或安装，您的最终用户不需要管理软件更新。他们只需要负责自己的数据。SaaS 的常见示例包括 CRM 软件、基于云的文件存储和电子邮件。
• 功能即服务(FaaS, Function as a Service)
  • 提供更深层次的服务。使用 FaaS，您的用户只需管理功能和数据。云服务提供商则管理您使用的应用程序。这种选项在开发者中特别常见，因为您无需在代码未运行时为服务付费。常见功能包括数据处理、数据验证或分类，以及移动和物联网应用程序的后端。FaaS 供应商包括 AWS* Lambda、Azure Functions 和谷歌云 Functions。
• 裸机即服务 (BMaaS)
  • 一些企业不喜欢将工作负载迁移到与其他客户共享的虚拟化云环境中， 便用裸机即服务 (BMaaS) 方案来替代 IaaS 和 PaaS。它为企业提供了专用服务器环境来补充虚拟化云服务，且该专用服务器环境与云具有相同的敏捷性、可扩展性和效率。特别是，对于需要在没有延迟或延时开销的情况下执行短期数据密集型处理（例如媒体编码或渲染农场）的企业来说，BMaaS 是一个不错的选择。
• 数据库即服务 (DBaaS)
  • 这是一种提供数据库访问权限的 PaaS。DBaaS 是一种很好的启用混合云的方法，因为应用程序可以在本地和云基础设施之间移动，但对最终用户没有任何影响。通过 DBaaS 集成新技术也简单得多，因为应用程序开发者不需要任何额外资源即可使用新技术。DBaaS 的一个示例是微软* Azure SQL 数据库。

云原生

云原生技术为组织（公司）在公有云、自由云、混合云等新型的动态环境中，构建和运行可弹性拓展的应用提供了可能。

云原生

• 弹性资源
  • 虚拟化容器
  • 快速扩缩容
• 微服务架构
  • 业务功能单元解耦
  • 统一的通信标准
• DevOps
  • 敏捷的开发模式
  • CI/CD
• 服务网格
  • 业务与治理结构
  • 异构系统的治理统一化
  • 复杂治理能力

企业级后端架构的挑战

挑战

• 基础设施层面
  • 物理资源是有限的
    • 机器
    • 带宽
  • 资源利用率受限于部署服务
• 用户层面
  • 网络通信开销较大
  • 网络抖动导致运维成本提高
  • 异构环境下，不同实例资源水位不均

离在线资源并池

核心收益

• 降低物理资源成本
• 提供更多的弹性资源，增加收入

解决思路：离在线资源池

• 在线业务的特点
  • IO密集型为主
  • 潮汐性，实时性
• 离线业务的特点
  • 计算密集型占多数
  • 非实时性

自动扩缩容

核心利益

• 降低业务成本

解决思路： 自动扩缩容

• 利用在线业务潮汐性自动扩缩容（利用CPU的P50作为指标）

微服务亲和性部署

核心利益

• 降低业务成本
• 提高服务可用性

解决方案：微服务亲和性部署

• 将满足亲和性条件的容器调度到一个宿主机
• 微服务中间件与服务网格通过共享内存通信
• 服务网格控制面板实施灵活，动态的流量调度

流量治理

核心收益

• 提高微服务的调用容错性
• 容灾
• 进一步提高开发效率，DevOps发挥到极致

解决方案：基于微服务中间件& 服务网格的流量治理

• 熔断、重试
• 单元化
• 复杂环境（功能，预览）流量调度

CPU水位负载均衡

核心利益

• 打平异构环境算力差异
• 为自动扩缩容提供正向输入

解决思路：CPU水位负载均衡

• IaaS
  • 提供资源探针
• 服务网格
  • 动态复杂均衡