阅读 190

微服务环境下的高可用隔离方案

一般而言,企业研发的流程一般是这样的:先在测试环境开发和测试功能,然后再灰度,最后发布到生产环境。并且,为了生产环境的稳定,测试环境需要跟生产环境隔离;必然要遇到一个问题:多环境问题,即多个环境的数据(如测试环境和生产环境)如何隔离?如何优雅的隔离(不需要用户做任何改动)。

Nacos环境隔离实践经验

什么是环境

说到环境隔离,首先应该搞清楚什么环境。 环境这个词目前还没有一个比较统一的定义,有些公司叫环境,在阿里云上叫region,在kubernetes架构中叫namespace等等。本文认为,环境是逻辑上或物理上独立的一整套系统,这套系统中包含了处理用户请求的全部组件(网关、服务框架、微服务注册中心、配置中心、消息系统、缓存、数据库等),可以处理指定类别的请求。举个栗子,很多网站都会有用户id的概念,可以按照用户id划分,用户id以偶数结尾的请求全部由一套系统处理,而奇数结尾的请求由另一套系统处理。如下图所示。 我们这里说的环境隔离是指物理隔离,即不同环境是指不同的机器集群。

![](https://imgkr2.cn-bj.ufileos.com/66cdc4cb-d3a7-4a96-bd92-d16920bdffde.png?UCloudPublicKey=TOKEN_8d8b72be-579a-4e83-bfd0-5f6ce1546f13&Signature=8x2LWA0DDC%252F3OSuJMs4INId0ANU%253D&Expires=1604657208)

环境隔离有什么用

环境概念:包含处理用户请求全部必要组件的系统,用来处理指定类别的请求。 环境隔离有哪些好处?从概念的定义可以看出,环境隔离至少有三个方面的好处:

  • 故障隔离
  • 故障恢复
  • 灰度测试

故障隔离

首先,因为环境是能够处理用户请求的独立组件单元,也就是说用户请求的处理链路有多长,都不会跳出指定的机器集群。即使这部分机器故障了,也只是会影响部分用户,从而把故障隔离在指定的范围内。如果我们按照用户id把全部机器分为十个环境,那么一个环境出问题,对用户的影响会降低为十分之一,大大提高系统可用性。

故障恢复

环境隔离的另一个重要优势是可以快速恢复故障。当某个环境的服务出现问题之后,可以快速通过下发配置,改变用户请求的路由方向,把请求路由到另一套环境,实现秒级故障恢复。当然,这需要一个强大的分布式系统支持,尤其是一个强大的配置中心(如Nacos),需要快速把路由规则配置数据推送到全网的应用进程。

灰度测试

灰度测试是研发流程中不可或缺的一个环节。传统的研发流程中,测试和灰度环节,需要测试同学做各种各样的配置,如绑定host、配置jvm参数、环境变量等等,比较麻烦。经过多年的实践,阿里巴巴内部的测试和灰度对开发和测试非常友好,通过环境隔离功能来保证请求在指定的机器集群处理,开发和测试不需要做任何做任何配置,大大提高了研发效率。

Nacos如何做环境隔离

Nacos隔离为多个物理集群环境,nacos客户端不需要做任何代码改动即可实现环境自动路由

原理

在开始前,我们先做一些约束:

一台机器上部署的应用都在一个环境内; 一个应用进程内默认情况下只连一个环境的Nacos; 通过某种手段可以拿到客户端所在机器ip; 用户对机器的网段有规划; 下面简单介绍一下基本原理:

我们知道网络中32位的ipv4可以划分为很多网段,如192.168.1.0/24这种,并且一般稍大型的公司都会有网段规划,按照一定的用途划分网段。我们可以利用这个原理做环境隔离,即不同网段的IP属于不同的环境,如192.168.1.0/24属于环境A, 192.168.2.0/24属于环境B等。 使用过Nacos的应该知道,有两种方式初始化Nacos客户端实例,一种是直接告诉客户端nacos服务端的IP;另一种是告诉客户端一个endpoint,客户端通过HTTP请求到endpoint查询nacos服务端IP列表。我们利用Nacos第二种初始化方式。 增强endpoint的功能。在endpoint端配置网段和环境的映射关系,endpoint在接收到客户端的请求之后,根据客户端的来源IP所属网段,计算出该客户端所属环境,然后找到对应环境的IP列表返回给客户端。如下图

![](https://imgkr2.cn-bj.ufileos.com/510f8340-4d4f-46f6-bbad-781172810b02.png?UCloudPublicKey=TOKEN_8d8b72be-579a-4e83-bfd0-5f6ce1546f13&Signature=UbW%252Bt4VNH6UYekCB0Wjs6WVrfxI%253D&Expires=1604657422)

一个环境隔离server的示例

上面讲了基于IP段做环境隔离的约束和基本原理,那么如何实现一个地址服务器呢。最简单的方法是基于nginx实现,利用nginx的geo模块,做IP端和环境的映射,然后利用nginx返回静态文件内容。

  • 安装nginx
  • 在nginx-proxy.conf中配置geo映射

    geo $env { default ""; 192.168.1.0/24 -env-a; 192.168.2.0/24 -env-b; }

  • 配置nginx根路径及转发规则,这里只需要简单的返回静态文件的内容;

    在http模块中配置根路径

    root /tmp/htdocs;

    在server模块中配置

    location / { rewrite ^(.*)/ /1$env break; }

  • 配置Nacos服务端IP列表配置文件,在/tmp/hotdocs/nacos目录下配置以环境名结尾的文件,文件内容为IP,一行一个

    $ll /tmp/hotdocs/nacos/ total 0 -rw-r--r-- 1 user1 users 0 Mar 5 08:53 serverlist -rw-r--r-- 1 user1 users 0 Mar 5 08:53 serverlist-env-a -rw-r--r-- 1 user1 users 0 Mar 5 08:53 serverlist-env-b

    $cat /tmp/hotdocs/nacos/serverlist 192.168.1.2 192.168.1.3

  • 验证

    curl 'localhost:8080/nacos/serverlist' 192.168.1.2 192.168.1.3

至此, 一个简单的根据IP网段做环境隔离的示例已经可以工作了,不同网段的nacos客户端会自动获取到不同的Nacos服务端IP列表,实现环境隔离。这种方法的好处是用户不需要配置任何参数,各个环境的代码和配置是一样的,但需要提供底层服务的同学做好网络规划和相关配置。

文章分类
后端
文章标签