图解Nginx,系统架构演变 + Nginx反向代理与负载均衡

3,466 阅读6分钟

大家好,我是哪吒。

本系列为SpringCloud微服务系列,先从微服务的入口Nginx开始学习,读哪吒编程,品技术人生。

一、系统架构演变

最开始接触Java语言的时候,我写的第一个项目是图书管理系统,当时是用JSP+servlet写的,感觉很吊的样子,全班领先水平。


慢慢的变成了JSP+SSM架构。


到现在单体架构最流行的SpringBoot+Vue


但是,随着业务量的不断增大,你会发现,这些单体架构,已经无法满足数据日益膨胀的今天,动不动就几万、几十万的QPS,我记得当初200QPS,我就觉得挺吓人了。

为了解决性能问题,慢慢的微服务SpringCloud架构浮出水面,微服务的核心理念是将应用细粒化,将单一应用拆分成若干个小应用,每个小应用提供单一的业务功能,独立部署,服务之间相互调用,降低程序耦合度,解决单台服务器宕机的问题。

微服务提供了:

  1. 高可用:当某个节点服务器宕机后,可以迅速将流量转移到其它节点;
  2. 高性能:多台服务器对外提供相同的服务,提升程序的吞吐量;
  3. 高扩展:当业务发生激增时,可以通过增加节点的方式,解决性能问题;

微服务

注:本章的重点是Nginx,微服务其它组件就不画了。

二、什么是Nginx?

Nginx是俄罗斯人Igor Sysoev编写的一款高性能 HTTP 和反向代理服务器。Nginx选择了epoll和kqueue作为网络I/O 模型,在高连接并发的情况下,Nginx是Apache服务器不错的替代品,它能够支持高达50000个并发连接数的响应,运行稳定,且内存、CPU等系统资源消耗非常低。

三、servername匹配规则

  1. 完整匹配
  2. 通配符匹配
  3. 正则匹配

正则匹配格式,必须以开头,比如server_name ~^www\d+\.nzbc\.com$;。如果没有开头,则Nginx会判定为完整匹配,在逻辑上,需要添加^和$锚定符号。正则匹配格式中.为正则元字符,需要通过反斜线进行转义,如果正在表达式中包含{},需要用双引号引用起来,避免报错。

四、正向代理与反向代理

1、正向代理

正向代理服务器一般位于用户和服务器之间,用户通过正向代理服务器访问应用服务器获取资源。

最常见的例子就是,我们访问一个外国网站,该网站无法在国内直接访问,但是可以通过代理服务器访问,也就是说,用户向正向代理服务器发送一个请求并指定目标,然后正向代理服务器向目标服务器(外国网站)转交请求并将获得的内容返回给用户。

正向代理服务器,代理的是客户端,去和服务端交互。

2、反向代理

反向代理服务器一般位于用户和服务器之间,用户访问反向代理服务器获取应用服务器资源,用户不知道应用服务器的地址,是由代理服务器转发的,有降低网络和服务器的负载,提高访问效率的作用。

反向代理服务器,代理的是服务端,去和客户端交互。

Nginx就是一款高性能的反向代理服务器。

3、LVS

先说结论,LVS解决了Nginx单机性能瓶颈的问题。

LVS主要用于多服务器负载均衡,工作在网络的第四层,可以实现高性能、高可用的服务器集群技术,采用同步请求转发的策略。

LVS支持的并发量要比Nginx高,可以配合keepalived使用,将Nginx作为LVS的节点机器,因为Nginx在网络的第七层,功能上肯定强于LVS。

用户通过Nginx访问应用服务器,应用服务器直接将数据返回给机房路由,返回时不走Nginx了,降低了Nginx的性能消耗。

Nginx+LVS

五、负载均衡策略

1、轮询

默认使用轮询方式,逐一转发访问,这种情况适合无状态请求,会话无法保持,可以通过基于客户端实现会话保持。

会话保持方式:

(1)基于session实现:

session用于存储客户端用户信息,一般不在服务器存储session,可以通过SpringSession将session存储到一个Redis服务器中,再次访问时,可以到Redis服务器中获取session,实现session共享。

(2)基于cookie实现,无状态的会话保持方式

客户端访问时,先到权限校验服务器校验权限,生成一个cookie,并进行加密,只有服务器能解密,客户端没密码无法解密,客户端携带此cookie再次访问应用服务器,应用服务器进行解密校验,完成无状态的会话保持。

2、权重

通过upstream进行权重的定义。

  1. weight:权重
  2. down:下线不用了
  3. backup:备用服务器

修改配置文件后,需要通过systemctl reload nginx命令重启Nginx。

nginx.conf配置如下

http{
	upstream httpnz {
		server 192.168.66.1 weight=1 down;
		server 192.168.66.2 weight=5 backup;
		server 192.168.66.3 weight=10;
	}
	server{
		listen 80;
		server_name nzbc;
		
		location / {
			proxy_pass http://httpnz;
		}
	
		error_page 500.html;
		location = /500.html{
			root html;
		}
	}
}

3、ip_hash

每个请求按访问ip的hash结果分配,映射到固定某一台的服务器,会导致负载均衡不平衡。

当此应用服务器宕机后,session会丢失,再次发起请求时,会重新固定访问另一台正常的应用服务器,并实现会话保持。

4、least_conn

最少连接访问。

5、url_hash

根据访问的url转发请求,定向流量转发。

每个请求按访问url的hash结果分配,映射到固定的某一台服务器,会话无法保持。

一般在获取本地资源时使用(且本地资源不在同一台服务器上),比如通过地址1获取图片资源、通过地址2获取pdf协议资源。

6、fair

根据服务器响应时间转发请求。

7、小结

最常用的负载均衡策略是配置权重,其它的形式,不是很常用。

ip_hash、least_conn、url_hash、fair,这几种形式无法实现动态Nginx上下线(新增或减少Nginx服务器),而且还会造成流量倾斜的问题,如果瞬时流量比较爆炸的时候,会将某个服务器直接干蹦

六、动静分离

动静分离的最终目的是将获取静态资源和动态资源分离开,提升服务器性能和高可用性。

配置静态资源,nginx.conf配置如下

http{
	upstream httpnz {
		server 192.168.66.1 weight=1 down;
		server 192.168.66.2 weight=5 backup;
		server 192.168.66.3 weight=10;
	}
	server{
		listen 80;
		server_name nzbc;
		
		location / {
			proxy_pass http://httpnz;
		}
		
		location ~*/(js/img/css) {
			root html;
			index index.html index.htm;
		}
		
		error_page 500 502 503 504 /50x.html;
		location = /50x.html{
			root html;
		}
	}
}

七、URLRewrite

URLRewrite是实现URL重写的关键指令,根据regex (正则表达式)部分内容,进行重定向。

flag标记说明:

  1. break,本条匹配完成后即终止;
  2. last,本条匹配完成后,继续向下匹配;
  3. redirect,返回302临时重定向;
  4. permanent,返回301永久重定向;

配置URLRewrite,nginx.conf配置如下

http{
	upstream httpnz {
		server 192.168.66.1 weight=1 down;
		server 192.168.66.2 weight=5 backup;
		server 192.168.66.3 weight=10;
	}
	server{
		listen 80;
		server_name nzbc;
		
		location / {
			rewrite ^/([0-9]+).html$ /index.jsp?pageNum=$1 break;
			proxy_pass http://httpnz;
		}
		
		location ~*/(js/img/css) {
			root html;
			index index.html index.htm;
		}
		
		error_page 500 502 503 504 /50x.html;
		location = /50x.html{
			root html;
		}
	}
}