Nginx+Tomcat的负载均衡与动静分离集群

150 阅读7分钟

Nginx负载均衡实现原理

Nginx实现负载均衡是通过反向代理实现的

反向代理

反向代理(Reverse Proxy)方式是指以代理服务器来接受 Internet 上的连接请求,然后将请求转发给内部网络上的服务器,并将从服务器上得到的结果返回给 Internet 上请求连接的客户端,此时代理服务器对外就表现为一个反向代理服务器。

反向代理是为服务端服务的,反向代理可以帮助服务器接收来自客户端的请求,帮助服务器做请求转发,负载均衡等。

反向代理对服务端是透明的,对我们是非透明的,即我们并不知道自己访问的是代理服务器,而服务器知道反向代理在为他服务。

Snipaste_2022-10-10_15-17-05.png

反向代理的优势:

  • 隐藏真实服务器;
  • 负载均衡便于横向扩充后端动态服务;
  • 动静分离,提升系统健壮性。

Nginx配置反向代理的主要参数

upstream 服务器池名称 {}

配置后端服务器池,以提供响应数据

proxy_pass http://服务池名

配置将访问请求转发给后端服务器池的服务器处理

Nginx动静分离实验原理

动静分离原理

动态分离是指web服务器架构中,将静态页面与动态页面或者静态内容接口和动态内容接口分

开不同系统访问的架构设计方法,进而提示整个服务的访问性和可维护性

Snipaste_2022-10-10_16-12-15.png

一般来说,都需要将动态资源和静态资源分开,由于 Nginx 的高并发和静态资源缓存等特性,经常将静态资源部署在 Nginx 上。如果请求的是静态资源,直接到静态资源目录获取资源,如果是动态资源的请求,则利用反向代理的原理,把请求转发给对应后台应用去处理,从而实现动静分离。

使用前后端分离后,可以很大程度提升静态资源的访问速度,即使动态服务不可用,静态资源的访问也不会受到影响

Nginx静态处理优势

Nginx处理静态页面的效率远高于Tomcat的处理能力

若Tomact的请求量为1000次,则Nginx的请求量为6000次

Tomcat每秒的吞吐量为0.6M,Nginx的每秒吞吐量为3.6M

nginx处理静态资源 的能力是Tomcat处理的6倍

什么是吞吐量

吞吐量是指系统处理客户请求数量的总和,可以指网络上数据包的总和,也可以指业务中客户端与服务器交互数据量的总和

吞吐率是指单位时间内系统处理客户请求的数量,也就是单位时间内的吞吐量。可以从多个维度衡量吞吐率:1.业务胶墩:单位时间(每秒)的请求数或页面数,即请求数/秒或页面数/秒;2.网络角度:单位时间(每秒)网络中传输的数据包大小,即字节数/数等;3、系统角度,单位时间内服务器所承受的压力,即系统的负载能力

吞吐率(或吞吐量)是一种多维度量的性能指标,它与请求处理所消耗的 CPU、内存、IO 和网络带宽都强相关

Nginx+Tomcat负载均衡、动静分离的操作步骤

1、准备三台服务器

nginx作为负载均衡器,Tomcat作为应用服务器

Nginx服务器:192.168.46.40
Tomcat服务器1:192.168.46.60:8080
Tomcat2服务器2:192.168.46.50:8080 192.168.46.50:8081

2.部署Nginx负载均衡器

systemctl stop firewalld
setenforce 0
​
yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make
​
useradd -M -s /sbin/nologin nginx

Snipaste_2022-10-10_16-50-30.png

Snipaste_2022-10-10_16-51-22.png

cd /opt
tar zxvf nginx-1.12.0.tar.gz -C /opt/
​
cd nginx-1.12.0/
./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx \
--with-file-aio \                                   #启用文件修改支持
--with-http_stub_status_module \                    #启用状态统计
--with-http_gzip_static_module \                    #启用 gzip静态压缩
--with-http_flv_module \                            #启用 flv模块,提供对 flv 视频的伪流支持
--with-http_ssl_module                              #启用 SSL模块,提供SSL加密功能
----------------------------------------------------------------------------------------------------------
./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-file-aio --with-http_stub_status_module --with-http_gzip_static_module --with-http_flv_module

Snipaste_2022-10-10_16-57-29.png

make -j2 && make install
​
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
​
vim /lib/systemd/system/nginx.service
[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecrReload=/bin/kill -s HUP $MAINPID
ExecrStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target
​
chmod 754 /lib/systemd/system/nginx.service
systemctl start nginx.service
systemctl enable nginx.service
netstat -natp | grep nginx 

Snipaste_2022-10-10_16-58-02.png

Snipaste_2022-10-10_17-00-51.png

Snipaste_2022-10-10_17-04-09.png

Snipaste_2022-10-10_17-12-15.png

3.部署Tomcat服务器1:192.168.46.60:8080

#关闭防火墙
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
​
#安装JDK
cd /opt
rpm -qpl jdk-8u201-linux-x64.rpm 
rpm -ivh jdk-8u201-linux-x64.rpm  ##安装JDK
java -version
​
#设置JDK环境变量
vim /etc/profile.d/java.sh
export JAVA_HOME=/usr/java/jdk1.8.0_201-amd64
export JRE_HOME=$JAVA_HOME/jre  
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATHsource /etc/profile.d/java.sh
​
#安装启动Tomcat
cd /opt
tar zxvf apache-tomcat-9.0.16.tar.gz
mv apache-tomcat-9.0.16 /usr/local/tomcat
​
/usr/local/tomcat/bin/shutdown.sh
/usr/local/tomcat/bin/startup.sh
​
netstat -natp | grep 8080  

Snipaste_2022-10-10_17-16-27.png

Snipaste_2022-10-10_17-26-14.png

Snipaste_2022-10-10_17-29-57.png

Snipaste_2022-10-10_17-31-18.png Snipaste_2022-10-10_17-32-16.png

Tomcat2服务器2:192.168.46.50:8080 192.168.46.50:8081

1.安装好 jdk
cd /opt
rpm -qpl jdk-8u201-linux-x64.rpm 
rpm -ivh jdk-8u201-linux-x64.rpm 
java -version
​
#设置JDK环境变量
vim /etc/profile.d/java.sh
export JAVA_HOME=/usr/java/jdk1.8.0_201-amd64
export JRE_HOME=$JAVA_HOME/jre  
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATHsource /etc/profile.d/java.sh
​
2.安装 tomcat
cd /opt
tar zxvf apache-tomcat-9.0.16.tar.gz
mkdir /usr/local/tomcat
mv apache-tomcat-9.0.16 /usr/local/tomcat/tomcat1
cp -a /usr/local/tomcat/tomcat1 /usr/local/tomcat/tomcat2
​
3.配置 tomcat 环境变量
vim /etc/profile.d/tomcat.sh
#tomcat1
export CATALINA_HOME1=/usr/local/tomcat/tomcat1
export CATALINA_BASE1=/usr/local/tomcat/tomcat1
export TOMCAT_HOME1=/usr/local/tomcat/tomcat1
​
#tomcat2
export CATALINA_HOME2=/usr/local/tomcat/tomcat2
export CATALINA_BASE2=/usr/local/tomcat/tomcat2
export TOMCAT_HOME2=/usr/local/tomcat/tomcat2
​
​
source /etc/profile.d/tomcat.sh
​
4.修改 tomcat2 中的 server.xml 文件,要求各 tomcat 实例配置不能有重复的端口号
vim /usr/local/tomcat/tomcat2/conf/server.xml
<Server port="8006" shutdown="SHUTDOWN">        #22行,修改Server prot,默认为8005 -> 修改为8006
<Connector port="8081" protocol="HTTP/1.1"      #69行,修改Connector port,HTTP/1.1  默认为8080 -> 修改为8081
<Connector port="8010" protocol="AJP/1.3" redirectPort="8443" />    #116行,修改Connector port AJP/1.3,默认为8009 -> 修改为8010
​
----------------------------------------------------------------------------------------------------------
第一个连接器默认监听8080端口,负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时,使用的就是这个连接器。
第二个连接器默认监听8009端口,AJP端口,即容器使用,如Apache能通过AJP协议访问Tomcat的8009端口。
----------------------------------------------------------------------------------------------------------
​
5.修改各 tomcat 实例中的 startup.sh 和 shutdown.sh 文件,添加 tomcat 环境变量
vim /usr/local/tomcat/tomcat1/bin/startup.sh 
# -----------------------------------------------------------------------------
# Start Script for the CATALINA Server
# -----------------------------------------------------------------------------
##添加以下内容
export CATALINA_BASE=$CATALINA_BASE1
export CATALINA_HOME=$CATALINA_HOME1
export TOMCAT_HOME=$TOMCAT_HOME1
​
​
vim /usr/local/tomcat/tomcat1/bin/shutdown.sh
# -----------------------------------------------------------------------------
# Stop script for the CATALINA Server
# -----------------------------------------------------------------------------
export CATALINA_BASE=$CATALINA_BASE1
export CATALINA_HOME=$CATALINA_HOME1
export TOMCAT_HOME=$TOMCAT_HOME1
​
​
vim /usr/local/tomcat/tomcat2/bin/startup.sh 
# -----------------------------------------------------------------------------
# Start Script for the CATALINA Server
# -----------------------------------------------------------------------------
export CATALINA_BASE=$CATALINA_BASE2
export CATALINA_HOME=$CATALINA_HOME2
export TOMCAT_HOME=$TOMCAT_HOME2
​
​
vim /usr/local/tomcat/tomcat2/bin/shutdown.sh
# -----------------------------------------------------------------------------
# Stop script for the CATALINA Server
# -----------------------------------------------------------------------------
export CATALINA_BASE=$CATALINA_BASE2
export CATALINA_HOME=$CATALINA_HOME2
export TOMCAT_HOME=$TOMCAT_HOME2
​
6.启动各 tomcat 中的 /bin/startup.sh 
/usr/local/tomcat/tomcat1/bin/startup.sh 
/usr/local/tomcat/tomcat2/bin/startup.sh 
​
netstat -natp | grep java

4、动静分离配置

Tomcat Server1 配置

mkdir /usr/local/tomcat/webapps/test
vim /usr/local/tomcat/webapps/test/index.jsp
<%@page language="java"import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test1 page</title>   #指定为 test1 页面
</head>
<body>
<% out.println("动态页面 1,http://www.test1.com");%>
</body>
</html>

Snipaste_2022-10-10_18-18-56.png

vim /usr/local/tomcat/conf/server.xml
#由于主机名 name 配置都为 localhost,需要删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    <Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true">
    </Context>
</Host>
##主机名:localhost 工作目录webapps 开启解压包 运行是有web应用自动部署
##首页文件在/usr/local/tomcat/webapps/test目录中
​
/usr/local/tomcat/bin/shutdown.sh 
/usr/local/tomcat/bin/startup.sh 

Snipaste_2022-10-10_18-35-11.png

Snipaste_2022-10-10_18-28-43.png

Snipaste_2022-10-10_18-37-14.png

Tomcat Server2 配置

mkdir /usr/local/tomcat/tomcat1/webapps/test /usr/local/tomcat/tomcat1/webapps/test
​
vim /usr/local/tomcat/tomcat1/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test2 page</title>   #指定为 test2 页面
</head>
<body>
<% out.println("动态页面 2,http://www.test2.com");%>
</body>
</html>
​
​
vim /usr/local/tomcat/tomcat1/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    <Context docBase="/usr/local/tomcat/tomcat1/webapps/test" path="" reloadable="true" />
</Host>
​
/usr/local/tomcat/tomcat1/bin/shutdown.sh 
/usr/local/tomcat/tomcat1/bin/startup.sh 

Snipaste_2022-10-10_18-44-35.png

Snipaste_2022-10-10_18-46-41.png

Snipaste_2022-10-10_18-47-38.png

mkdir /usr/local/tomcat/tomcat2/webapps/test
vim /usr/local/tomcat/tomcat2/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test3 page</title>   #指定为 test3 页面
</head>
<body>
<% out.println("动态页面 3,http://www.test3.com");%>
</body>
</html>
​
​
vim /usr/local/tomcat/tomcat2/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    <Context docBase="/usr/local/tomcat/tomcat2/webapps/test" path="" reloadable="true" />
</Host>
​
/usr/local/tomcat/tomcat2/bin/shutdown.sh 
/usr/local/tomcat/tomcat2/bin/startup.sh 

Snipaste_2022-10-10_18-52-00.png

Snipaste_2022-10-10_18-53-31.png

Snipaste_2022-10-10_18-54-09.png

Nginx server配置

#准备静态页面和静态图片
echo '<html><body><h1>这是静态页面</h1></body></html>' > /usr/local/nginx/html/index.html
mkdir /usr/local/nginx/html/img
cp /root/meme.jpg /usr/local/nginx/html/img
​
vim /usr/local/nginx/conf/nginx.conf
......
http {
......
    #gzip on;
    
    #配置负载均衡的服务器列表,weight参数表示权重,权重越高,被分配到的概率越大
    upstream tomcat_server {
        server 192.168.46.60:8080 weight=1;
        server 192.168.46.60:8081 weight=1;
        server 192.168.46.50:8080 weight=1;
    }
    
server {
    listen 80;
    server_name www.benet.com;
    
    charset utf-8;
    
    #access_log logs/host.access.log main;
        
    #配置Nginx处理动态页面请求,将 .jsp文件请求转发到Tomcat 服务器处理
location ~ .*.jsp$ {
        proxy_pass http://tomcat_server;
#设置后端的Web服务器可以获取远程客户端的真实IP
##设定后端的Web服务器接收到的请求访问的主机名(域名或IP、端口),默认HOST的值为proxy_pass指令设置的主机名。如果反向代理服务器不重写该请求头的话,那么后端真实服务器在处理时会认为所有的请求都来自反向代理服务器,如果后端有防攻击策略的话,那么机器就被封掉了。
    proxy_set_header HOST $host;
    ##把$remote_addr赋值给X-Real-IP,来获取源IP
    proxy_set_header X-Real-IP $remote_addr;
    ##在nginx 作为代理服务器时,设置的IP列表,会把经过的机器ip,代理机器ip都记录下来
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        }
        
    #配置Nginx处理静态图片请求
    ##匹配到以gif|jpg|jpeg|png|bmp|swf|css格式结尾的文件指定首页目录为/usr/local/nginx/html/img
    location ~ .*.(gif|jpg|jpeg|png|bmp|swf|css)$ {
        root /usr/local/nginx/html/img;
        expires 1d;
    }
        
    location / {
        root html;
        index index.html index.htm;
    }
......
    }
......
}
systemctl restart nginx

Snipaste_2022-10-10_19-09-06.png

Snipaste_2022-10-10_19-21-43.png

Snipaste_2022-10-10_19-24-32.png

测试效果

测试静态页面效果

浏览器访问 http://192.168.46.40 http://192.168.46.40/meme.jpg

Snipaste_2022-10-10_19-29-48.png

Snipaste_2022-10-14_19-45-16.png

测试负载均衡效果,不断刷新浏览器测试 浏览器访问 http://192.168.46.40/test/index.jsp

Snipaste_2022-10-14_19-47-25.png Snipaste_2022-10-14_19-49-29.png Snipaste_2022-10-14_19-55-48.png