本文已参与「新人创作礼」活动,一起开启掘金创作之路。
分发配置文件到各个节点
关闭 NodeManager 、ResourceManager 和 HistoryServer bash sbin/mr-jobhistory-daemon.sh stop historyserver启动 NodeManager 、ResourceManager 和 HistoryServer bash sbin/mr-jobhistory-daemon.sh start historyserver
1.5.4 配置时间同步
如果服务器在公网环境(能连接外网),可以不采用集群时间同步,因为服务器会定期和公网时间进行校准;如果服务器在内网环境,必须要配置集群时间同步,否则时间久了,会产生时间偏差,导致集群执行任务时间不同步。
- 时间服务器配置(必须root用户)
查看所有节点ntpd服务状态和开机自启动状态 systemctl start ntpd systemctl enable ntpd //开机启动
- 修改ntp.conf配置文件
$ vim /etc/ntp.conf 授权192.168.10.0-192.168.10.255网段上的所有机器可以从这台机器上查询和同步时间 #restrict 192.168.10.0 mask 255.255.255.0 nomodify notrap //将注释去掉,并改为虚拟机同网段 修改2(集群在局域网中,不使用其他互联网上的时间) //将以下注释掉 server 0.centos.pool.ntp.org iburst server 1.centos.pool.ntp.org iburst server 2.centos.pool.ntp.org iburst server 3.centos.pool.ntp.org iburst 添加3(当该节点丢失网络连接,依然可以采用本地时间作为时间服务器为集群中的其他节点提供时间同步) server 127.127.1.0 fudge 127.127.1.0 stratum 10
- 修改配置文件,让硬件时间与系统时间一起同步
增加内容如下(让硬件时间与系统时间一起同步) SYNC_HWCLOCK=yes
- 启动ntpd服务
- 其他机器配置(必须root用户)
关闭所有节点上ntp服务和自启动 sudo systemctl disable ntpd
- 在其他机器配置1分钟与时间服务器同步一次
$ sudo crontab -e */1 * * * * /usr/sbin/ntpdate hadoop101 //编辑定时任务