部署LVS-DR群集

落宿
127 阅读4分钟

image.png

LVS-DR工作原理

LVS-DR数据包流向分析

image.png

  1. 客户端发送请求到 Director Server(负载均衡器)，请求的数据报文（源IP 是 CIP,目标 IP是VIP)到达内核空间。
  2. Director Server和 Real Server 在同一个网络中，数据通过二层数据链路层来传输。
  3. 内核空间判断数据包的目标IP是本机VIP，此时IPVS（IP虚拟服务器）比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。修改源MAC地址为Director Server的MAC地址，修改目标MAC地址为 Real Server 的MAC地址，源IP地址与目标IP地址没有改变，然后将数据包发送给Real Server。
  4. 到达Real Server的请求报文的MAC地址是自身的MAC地址，就接收此报文。数据包重新封装报文（源IP地址为VIP，目标IP为CIP)，将响应报文通过 lo接口传送给物理网卡然后向外发出。
  5. Real server直接将响应报文传送到客户端。

注意：如果跨网段，则报文通过路由器经由Internet返回给用户

DR模式的特点

  1. Director Server 和 Real Server必须在同一个物理网络中
  2. Real Server可以使用私有地址，也可以使用公网地址。如果使用公网地址，可以通过互联网对RIP进行直接访问
  3. Director Server作为群集的访问入口，但不作为网关使用
  4. 所有的请求报文经由 Director Server，但回复响应报文不能经过 Director Server
  5. Real Server 的网关不允许指向Director Server IP，即Real Server发送的数据包不允许经过 Director Server
  6. Real server 上的lo接口配置VIP的IP地址

LVS-DR中的ARP问题

VIP地址相同导致响应冲突

在LVS-DR负载均衡集群中，负载均衡器与节点服务器都要配置相同的VIP地址。

在局域网中具有相同的IP地址，势必会造成各服务器ARP通信的紊乱。

  • 当ARP广播发送到LVS-DR集群时，因为负载均衡器和节点服务器都是连接到相同的网络上，它们都会接收到ARP广播
  • 只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播

处理方式

对节点服务器进行处理，使其不响应针对VIP的ARP请求。

  • 使用虚接口lo:0承载VIP地址
  • 设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求

返回报文时源地址使用VIP，导致网关设备的ARP缓存表紊乱

RealServer返回报文（源IP是VIP）经路由器转发，重新封装报文时，需要先获取路由器的MAC地址。

发送ARP请求时，Linux默认使用IP包的源P地址（即VIP）作为ARP请求包中的源IP地址，而不使用发送接口的IP地址。

路由器收到ARP请求后，将更新ARP表项。原有的VIP对应Director的MAC地址，会被更新为VIP对应的Real Server的MAC地址，因此会导致网关设备的ARP缓存表紊乱。

路由器根据ARP表项，会将新来的请求报文转发给Real Server，导致Director的VIP失效。

处理方式

对节点服务器进行处理，设置内核参数arp_announce=2:系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址。

解决问题的配置方式

修改内核文件/etc/sysctl.conf，修改相应ARP参数。

#使linux系统只响应目的地址为本地物理网卡IP的ARP请求
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.all.arp_ignore = 1

#使linux系统不使用数据包的源IP来作为ARP请求报文的源IP，而使用发送接口的IP地址作为ARP请求报文的源IP
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_announce = 2

LVS-DR部署过程

准备工作

为了实验方便，简化实验，就没有做NFS服务器。如果需要，就和LVS-NAT中NFS服务器部署方式相同。

  • DR 服务器：192.168.44.30
  • Web 服务器1：192.168.44.40
  • Web 服务器2：192.168.44.50
  • vip：192.168.44.100
  • 客户端：192.168.44.20

步骤

  1. 配置负载调度器（192.168.44.30）

    • 关闭防火墙和selinux image.png

    • 加载LVS内核模块，安装ipvsadm image.png image.png

    • 配置虚拟 IP 地址（VIP：192.168.44.100） image.png image.png

    • 调整 proc 响应参数 image.png image.png

    • 配置负载分配策略 image.png

  2. 配置节点服务器（192.168.44.40、192.168.44.50）

    • 关闭防火墙和selinux image.png

    • 配置虚拟 IP 地址（VIP：192.168.44.100）
      此地址仅用作发送 Web响应数据包的源地址，并不需要监听客户机的访问请求（改由调度器监听并分发）。因此使用虚拟接口 lo∶0 来承载 VIP 地址，并为本机添加一条路由记录，将访问 VIP 的数据限制在本地，以避免通信紊乱。 image.png image.png image.png

      • 如果需要开机自启，在/etc/rc.local加入执行命令，并赋予文件权限，就能开机自动执行。 image.png image.png

    • 调整内核的 ARP 响应参数以阻止更新 VIP 的 MAC 地址，避免发生冲突 image.png image.png

    • 安装httpd，准备好页面并开启服务 image.png image.png image.png image.png

    • 如果做了nfs，还需安装nfs-utils和 rpcbind，并挂载

  3. 客户机访问VIP（192.168.44.100）测试效果，刷新后能访问到另一节点服务器 image.png image.png

avatar
文章
阅读
粉丝