搭建Storm高可用集群

357 阅读3分钟

本文已参与「新人创作礼」活动,一起开启掘金创作之路。

此文以Storm 2.2.0版本为例!

如未指定,下述命令在所有节点执行!

一、 系统资源及组件规划

节点名称系统名称CPU/ 内存网卡磁盘IP 地址OS节点角色
Nimbus1nimbus12C/4Gens33128G192.168.0.11CentOS7Nimbus
Nimbus2nimbus22C/4Gens33128G192.168.0.12CentOS7Nimbus
Supervisor1supervisor12C/4Gens33128G192.168.0.21CentOS7Supervisor、LogViewer、ZooKeeper
Supervisor2supervisor22C/4Gens33128G192.168.0.22CentOS7Supervisor、LogViewer、ZooKeeper
Supervisor3supervisor32C/4Gens33128G192.168.0.23CentOS7Supervisor、LogViewer、ZooKeeper

二、系统软件安装与设置

1、安装基本软件

yum -y install vim lrzsz bash-completion

image.png

2、设置名称解析

echo 192.168.0.11 nimbus1 >> /etc/hosts
echo 192.168.0.12 nimbus2 >> /etc/hosts
echo 192.168.0.21 supervisor1 >> /etc/hosts
echo 192.168.0.22 supervisor2 >> /etc/hosts
echo 192.168.0.23 supervisor3 >> /etc/hosts

image.png

3、设置NTP

yum -y install chrony

image.png

systemctl start chronyd
systemctl enable chronyd
systemctl status chronyd

image.png

chronyc sources

image.png

4、设置SELinux、防火墙

systemctl stop firewalld
systemctl disable firewalld
setenforce 0
sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config

image.png

三、搭建Storm高可用集群

1、安装JDK

下载JDK文件:

参考地址:www.oracle.com/java/techno…

 

解压JDK安装文件:

tar -xf /root/jdk-8u291-linux-x64.tar.gz -C /usr/local/

image.png

设置环境变量:

export JAVA_HOME=/usr/local/jdk1.8.0_291/
export PATH=$PATH:/usr/local/jdk1.8.0_291/bin/

image.png

添加环境变量至/etc/profile文件:

export JAVA_HOME=/usr/local/jdk1.8.0_291/
PATH=$PATH:/usr/local/jdk1.8.0_291/bin/

image.png

查看Java版本:

java -version

image.png

2、安装ZooKeeper

下载ZooKeeper文件:

参考地址:downloads.apache.org/zookeeper/s…

 

在Supervisor节点上(ZooKeeper节点)解压ZooKeeper安装文件:

tar -xf /root/apache-zookeeper-3.6.3-bin.tar.gz -C /usr/local/

image.png

在Supervisor节点上(ZooKeeper节点)设置环境变量:

export PATH=$PATH:/usr/local/apache-zookeeper-3.6.3-bin/bin/

image.png

在Supervisor节点上(ZooKeeper节点)添加环境变量至/etc/profile文件:

PATH=$PATH:/usr/local/apache-zookeeper-3.6.3-bin/bin/

image.png

在Supervisor节点上(ZooKeeper节点)创建ZooKeeper数据目录:

mkdir /usr/local/apache-zookeeper-3.6.3-bin/data/

image.png

在Supervisor节点上(ZooKeeper节点)创建ZooKeeper配置文件:

mv /usr/local/apache-zookeeper-3.6.3-bin/conf/zoo_sample.cfg /usr/local/apache-zookeeper-3.6.3-bin/conf/zoo.cfg

image.png

在Supervisor节点上(ZooKeeper节点)修改ZooKeeper配置文件:

vim /usr/local/apache-zookeeper-3.6.3-bin/conf/zoo.cfg

添加数据目录:

dataDir=/usr/local/apache-zookeeper-3.6.3-bin/data/

image.png

添加ZooKeeper节点:

server.1=supervisor1:2888:3888
server.2=supervisor2:2888:3888
server.3=supervisor3:2888:3888

image.png

ZooKeeper配置参数解读

Server.A=B:C:D。

A是一个数字,表示这个是第几号服务器;

B是这个服务器的IP地址;

C是这个服务器与集群中的Leader服务器交换信息的端口;

D是当集群中的Leader服务器故障,需要一个端口来重新进行选举,选出一个新的Leader,而端口D就是用来执行选举时服务器相互通信的端口。

集群模式下配置一个文件myid,这个文件在dataDir目录下,这个文件里面有一个数据就是A的值,Zookeeper启动时读取此文件,拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。

 

在Supervisor1节点上(ZooKeeper节点)创建myid文件,并添加A值:

touch /usr/local/apache-zookeeper-3.6.3-bin/data/myid
echo 1 > /usr/local/apache-zookeeper-3.6.3-bin/data/myid

image.png

在Supervisor2节点上(ZooKeeper节点)创建myid文件,并添加A值:

touch /usr/local/apache-zookeeper-3.6.3-bin/data/myid
echo 2 > /usr/local/apache-zookeeper-3.6.3-bin/data/myid

image.png

在Supervisor3节点上(ZooKeeper节点)创建myid文件,并添加A值:

touch /usr/local/apache-zookeeper-3.6.3-bin/data/myid
echo 3 > /usr/local/apache-zookeeper-3.6.3-bin/data/myid

image.png

在Supervisor节点上(ZooKeeper节点)启动ZooKeeper:

zkServer.sh start

image.png

image.png

image.png 在Supervisor节点上(ZooKeeper节点)查看ZooKeeper状态:

zkServer.sh status

image.png

image.png

image.png

3、安装Storm集群

下载Storm文件:

参考地址:storm.apache.org/downloads.h…

 

解压Storm安装文件:

tar -xf /root/apache-storm-2.2.0.tar.gz -C /usr/local/

image.png

设置环境变量:

export PATH=$PATH:/usr/local/apache-storm-2.2.0/bin/

image.png

添加环境变量至/etc/profile文件:

PATH=$PATH:/usr/local/apache-storm-2.2.0/bin/

Nimbus节点/etc/profile文件:

image.png

Supervisor节点/etc/profile文件:

image.png

查看Storm版本:

storm version

image.png

4、配置Storm集群

修改/usr/local/apache-storm-2.2.0/conf/storm.yaml文件:

storm.zookeeper.servers:
    - "supervisor1"
    - "supervisor2"
    - "supervisor3"

nimbus.seeds: ["nimbus1", "nimbus2"]

storm.local.dir: "/usr/local/apache-storm-2.2.0/workdir"

supervisor.slots.ports:
     - 6700
     - 6701
     - 6702

image.png

5、启动Storm集群

在Nimbus节点上启动Nimbus:

nohup storm nimbus &

image.png

在Nimbus节点上启动UI:

nohup storm ui &

image.png

在Supervisor节点上启动Supervisor:

nohup storm supervisor &

image.png

在Supervisor节点上启动LogViewer:

nohup storm logviewer &

image.png

在各类节点上查看Storm进程:

jps

image.png

image.png

image.png

image.png

image.png

登录Nimbus:

http://192.168.0.11:8080

image.png

http://192.168.0.12:8080

image.png

6、Storm集群故障演示

在任意Nimbus节点上查看Nimbus状态:

image.png

Nimbus1节点故障,主从节点已切换

关闭Nimbus1节点

在Nimbus2节点上查看Nimbus状态:

image.png

恢复Nimbus1节点,启动Nimbus与UI

在任意Nimbus节点上查看Nimbus状态:

image.png

Nimbus1节点恢复,主从节点未切换