Nginx负载均衡策略

负载均衡用于从“upstream”模块定义的后端服务器列表中选取一台服务器接受用户的请求。一个最基本的upstream模块是这样的，模块内的server是服务器列表：

    #动态服务器组
    upstream dynamic_server {
        server localhost:8080; #tomcat 7.0
        server localhost:8081; #tomcat 8.0
        server localhost:8082; #tomcat 8.5
        server localhost:8083; #tomcat 9.0
    }

在upstream模块配置完成后，要让指定的访问反向代理到服务器列表：

    #其他页面反向代理到tomcat容器
    location ~ .*$ {
        index index.jsp index.html;
        proxy_pass http://dynamic_server;
    }

轮询

最基本的配置方法，它是upstream模块默认的负载均衡默认策略。每个请求会按时间顺序逐一分配到不同的后端服务器。

upstream模块配置参数如下：

参数	解释
fail_timeout	与max_fails结合使用
max_fails	设置在fail_timeout参数设置的时间内最大失败次数，如果在这个时间内，所有针对该服务器的请求都失败了，那么认为该服务器会被认为是停机了
fail_time	服务器会被认为停机的时间长度,默认为10s
backup	标记该服务器为备用服务器。当主服务器停止时，请求会被发送到它这里
down	标记服务器永久停机了

在轮询中，如果服务器down掉了，会自动剔除该服务器。
缺省配置就是轮询策略。
此策略适合服务器配置相当，无状态且短平快的服务使用。

weight

权重方式，在轮询策略的基础上指定轮询的几率。例子如下：

    #动态服务器组
    upstream dynamic_server {
        server localhost:8080 weight=2; #tomcat 7.0
        server localhost:8081; #tomcat 8.0
        server localhost:8082 backup; #tomcat 8.5
        server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
    }

在该例子中，weight参数用于指定轮询几率，weight的默认值为1,；weight的数值与访问比率成正比，比如Tomcat 7.0被访问的几率为其他服务器的两倍。

权重越高分配到需要处理的请求越多。
此策略可以与least_conn和ip_hash结合使用。
此策略比较适合服务器的硬件配置差别比较大的情况。

ip_hash

指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端的请求一直发送到相同的服务器，以保证session会话。这样每个访客都固定访问一个后端服务器，可以解决session不能跨服务器的问题。

配置示例如下：

    #动态服务器组
    upstream dynamic_server {
        ip_hash; #保证每个访客固定访问一个后端服务器
        server localhost:8080 weight=2; #tomcat 7.0
        server localhost:8081; #tomcat 8.0
        server localhost:8082; #tomcat 8.5
        server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
    }

在nginx版本1.3.1之前，不能在ip_hash中使用权重（weight）。
ip_hash不能与backup同时使用。
此策略适合有状态服务，比如session。
当有服务器需要剔除，必须手动down掉。一旦使用了ip_hash，当我们需要移除一台服务器的时候，不能直接删除这个配置项，而是需要在这台服务器配置后面加上关键字down，表示不可用。因为如果直接移除配置项，会导致hash算法发生更改，后续所有的请求都会发生混乱。

least_conn

把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端，使它们的负载大致相同；但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果。

配置示例如下：

    #动态服务器组
    upstream dynamic_server {
        least_conn; #把请求转发给连接数较少的后端服务器
        server localhost:8080 weight=2; #tomcat 7.0
        server localhost:8081; #tomcat 8.0
        server localhost:8082 backup; #tomcat 8.5
        server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
    }

此负载均衡策略适合请求处理时间长短不一造成服务器过载的情况。

url_hash

url_hash 和 ip_hash 类似，不同的是，客户端ip可能变，但客户端发送的请求URL不同功能模块虽说不同，但同一个功能点的URL是固定不变的。

配置示例如下：

    #动态服务器组
    upstream dynamic_server {
        hash $request_uri; #实现每个url定向到同一个后端服务器
        server localhost:8080 weight=2; #tomcat 7.0
        server localhost:8081; #tomcat 8.0
        server localhost:8082 backup; #tomcat 8.5
        server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
    }

该算法主要是解决缓存命中率的问题。比如，下载文件，文件从文件系统下载到服务器缓存，下次可以直接从缓存中获取。

fair

按照服务器端的响应时间来分配请求，响应时间短的优先分配。

    #动态服务器组
    upstream dynamic_server {
        server localhost:8080; #tomcat 7.0
        server localhost:8081; #tomcat 8.0
        server localhost:8082; #tomcat 8.5
        server localhost:8083; #tomcat 9.0
        fair; #实现响应时间短的优先分配
    }

该策略，在nginx的默认模块中是不支持的，需要下载 nginx-upstream-fair 模块。