Hadoop官方网站：hadoop.apache.org/
Hadoop运行模式包括：本地模式、伪分布式模式以及完全分布式模式

本地模式：单机运行，本地测试，只是用来演示一下官方案例，生产环境不用。
伪分布式模式：也是单机运行，但是具备Hadoop集群的所有功能，一台服务器模拟一个分布式的环境，个别公司用来测试，生产环境下也基本不用。
完全分布式模式：多台服务器组成分布式环境，生产环境使用。

1. 本地运行模式（官方WordCount）

在hadoop-3.1.3文件下面创建一个wcinput文件夹

[panda@Hadoop102 hadoop-3.1.3]$ mkdir wcinput

在wcinput文件下创建一个word.txt文件

[panda@Hadoop102 hadoop-3.1.3]$ cd wcinput

编辑word.txt文件

[panda@Hadoop102 wcinput]$ vim word.txt

添加如下内容

hadoop yarn
hadoop mapreduce
panda
panda

回到Hadoop目录/opt/module/hadoop-3.1.3
执行程序

[panda@Hadoop102 hadoop-3.1.3]$ hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount wcinput/ wcoutput

查看结果

[panda@Hadoop102 hadoop-3.1.3]$ cat wcoutput/part-r-00000

看到如下结果：

hadoop  2
mapreduce  1
panda  2
yarn    1

2. 完全分布式运行模式（开发重点）

分析：

准备3台客户机（关闭防火墙、静态IP、主机名称）
安装JDK
配置环境变量
安装Hadoop
配置环境变量
配置集群
单点启动
配置ssh
群起并测试集群

2.1 虚拟机准备

已经准备好了三台虚拟机，Hadoop102、Hadoop103、Hadoop104，并在Hadoop102上已经安装了JDK和Hadoop，并设置了环境变量

2.2 编写集群分发脚本xsync

2.2.1. scp（secure copy）安全拷贝

概念

scp可以实现服务器与服务器之间的数据拷贝。（from server1 to server2）

基本语法

scp -r $pdir/$fname $user@$host:$pdir/$fname

命令递归要拷贝的文件路径/名称目的地用户@主机:目的地路径/名称

实操

在hadoop102上，将hadoop102中/opt/module/jdk1.8.0_212目录拷贝到hadoop103上。

[panda@Hadoop102 ~]$ scp -r /opt/module/jdk1.8.0_212  atguigu@Hadoop103:/opt/module

在hadoop103上，将hadoop102中/opt/module/hadoop-3.1.3目录拷贝到hadoop103上。

[panda@Hadoop103 ~]$ scp -r panda@Hadoop102:/opt/module/hadoop-3.1.3 /opt/module/

在hadoop103上操作，将hadoop102中/opt/module目录下所有目录拷贝到hadoop104上。

[panda@Hadoop103 opt]$ scp -r panda@Hadoop102:/opt/module/* panda@Hadoop104:/opt/module

2.2. rsync 远程同步工具

rsync主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。

rsync和scp区别：用rsync做文件的复制要比scp的速度快，rsync只对差异文件做更新。scp是把所有文件都复制过去。

基本语法

rsync -av $pdir/$fname $user@$host:$pdir/$fname

2.3. xsync 集群分发脚本

需求：循环复制文件到所有节点的相同目录下
需求分析：

rsync命令原始拷贝：

rsync -av /opt/module panda@Hadoop103:/opt/

期望脚本：

xsync要同步的文件名称

期望脚本在任何路径都能使用（脚本放在声明了全局环境变量的路径）

[panda@Hadoop102 ~]$ echo $PATH
/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/home/panda/.local/bin:/home/panda/bin:/opt/module/jdk1.8.0_212/bin

通过查看环境变量发现，/home/panda/bin路径下的脚本可以直接使用，所以在家目录下创建bin目录，将xsync脚本放入其中

脚本实现

在/home/atguigu/bin目录下创建xsync文件

[panda@Hadoop102 ~]$ mkdir bin
[panda@Hadoop102 ~]$ cd bin
[panda@Hadoop102 bin]$ vim xsync

添加如下内容：

#!/bin/bash

#1. 判断参数个数
if [ $# -lt 1 ]
then
    echo Not Enough Arguement!
    exit;
fi
#2. 遍历集群所有机器
for host in hadoop102 hadoop103 hadoop104
do
    echo ====================  $host  ====================
    #3. 遍历所有目录，挨个发送
    for file in $@
    do
        #4. 判断文件是否存在
        if [ -e $file ]
            then
                #5. 获取父目录
                pdir=$(cd -P $(dirname $file); pwd)
                #6. 获取当前文件的名称
                fname=$(basename $file)
                ssh $host "mkdir -p $pdir"
                rsync -av $pdir/$fname $host:$pdir
            else
                echo $file does not exists!
        fi
    done
done

修改脚本 xsync 具有执行权限

[panda@Hadoop102 bin]$ chmod 777 xsync

测试脚本

[panda@Hadoop102 ~]$ xsync /home/panda/bin //测试顺便将xsync发给其他两台虚拟机

同步环境变量配置（需要root权限）

[panda@Hadoop102 ~]$ sudo ./bin/xsync /etc/profile.d/my_env.sh

注意：如果用了sudo，那么xsync一定要给它的路径补全。
因为此时root用户并没有xsync这个脚本，无法找到，使用绝对路径让其能够使用

Hadoop运行模式(一) - 本地运行模式以及完全分布模式一部分配置