一、环境搭建、配置
①配置网关、DNS服务器
- 网关:192.168.10.2
- DNS:192.168.10.2
- IP:192.168.10.100
分别在Windows和Vmware中进行配置
②在Linux中搭建前期环境
- 1.配置网络环境 su root进去Linux的root角色,使用 vim /etc/sysconfig/network-scripts/ifcfg-ens33命令修改 IP地址网关以及域名解析器
- 2.查看本机名以及配置另外八台服务器 vim /etc/hostname --查看本机名 vim /etc/hosts --修改hosts文件,新增八台服务器
重启虚拟机
- 3.重启 以root角色登录进Linux,检查ifconfig、hostname无误即可
二、XShell远程访问工具
略
三、模板虚拟机准备
- 第一步:克隆hadoop100虚拟机,分别命名为:hadoop102、103、104;
- 第二步:打开102、103、104,使用: vim /etc/hostname 修改主机名为102、103、104 vim /etc/sysconfig/network-scripts/ifcfg-ens33 修改IP地址为192.168.10.102\103\104
- 第三步:使用XShell连接102、103、104
四、Hadoop、JDK安装
①JDK安装至hadoop102,之后Copy至另外两台主机
JDK安装
- 1.将hadoop、jdk文件使用xtpf转移到opt/software目录下
- 2.解压jdk文件:tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/software
- 3.进入解压完成之后的jdk文件内,配置环境变量:
- 进入profile.d文件:cd /etc/profile.d/
- 新建sh文件:sudo vim my_env.sh
- 配置环境变量: export JAVA_HOME=/opt/module/jdk1.8.0_212 source一下:source /etc/profile 完成
Hadoop安装
解压缩hadoop文件同jdk 略
五、Hadoop目录解析
后期多用到bin目录下的hdfs、mapred、yarn这三个命令
而在etc目录下,需要配置hdfs-site.xml、mapred-site.xml\yarn-site.xml\core-site.xml\wokers
native目录下,是本地动态目录库,在压缩编译时需要用到。
sbin目录下,start-dfs.sh、start-yarn.sh。
share目录下是hadoop的各种文档。
hadoop目录下,mapreduce中存在官方测试案例。