Hadoop入门--前期环境搭建、Xshell的安装、JDK、Hadoop安装

249 阅读2分钟

一、环境搭建、配置

①配置网关、DNS服务器

  • 网关:192.168.10.2
  • DNS:192.168.10.2
  • IP:192.168.10.100

分别在Windows和Vmware中进行配置

②在Linux中搭建前期环境

  • 1.配置网络环境 su root进去Linux的root角色,使用 vim /etc/sysconfig/network-scripts/ifcfg-ens33命令修改 IP地址网关以及域名解析器

image.png

  • 2.查看本机名以及配置另外八台服务器 vim /etc/hostname --查看本机名 vim /etc/hosts --修改hosts文件,新增八台服务器

image.png

重启虚拟机

  • 3.重启 以root角色登录进Linux,检查ifconfig、hostname无误即可

image.png

二、XShell远程访问工具

三、模板虚拟机准备

  • 第一步:克隆hadoop100虚拟机,分别命名为:hadoop102、103、104;
  • 第二步:打开102、103、104,使用: vim /etc/hostname 修改主机名为102、103、104 vim /etc/sysconfig/network-scripts/ifcfg-ens33 修改IP地址为192.168.10.102\103\104
  • 第三步:使用XShell连接102、103、104

image.png

image.png

四、Hadoop、JDK安装

①JDK安装至hadoop102,之后Copy至另外两台主机

JDK安装

  1. 1.将hadoop、jdk文件使用xtpf转移到opt/software目录下
  2. 2.解压jdk文件:tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/software
  3. 3.进入解压完成之后的jdk文件内,配置环境变量:
  • 进入profile.d文件:cd /etc/profile.d/
  • 新建sh文件:sudo vim my_env.sh
  • 配置环境变量: export JAVA_HOME=/opt/module/jdk1.8.0_212 source一下:source /etc/profile 完成

Hadoop安装

解压缩hadoop文件同jdk 略

五、Hadoop目录解析

image.png

image.png

后期多用到bin目录下的hdfs、mapred、yarn这三个命令

而在etc目录下,需要配置hdfs-site.xml、mapred-site.xml\yarn-site.xml\core-site.xml\wokers

native目录下,是本地动态目录库,在压缩编译时需要用到。

sbin目录下,start-dfs.sh、start-yarn.sh。

share目录下是hadoop的各种文档。

hadoop目录下,mapreduce中存在官方测试案例。