Window安装Spark环境

140 阅读1分钟

我报名参加金石计划1期挑战——瓜分10万奖池,这是我的第7篇文章,点击查看活动详情

spark版本:spark-3.0.0-bin-hadoop2.7

一、安装JDK

二、安装Hadoop

  1. 下载hadoop2.7.3安装包

archive.apache.org/dist/hadoop…

  1. 解压到任意位置,自己记得就行
  2. 下载Hadoop对应版本的winutils.exe、winutils.pdb放到hadoop/bin目录下

下载地址:github.com/cdarlint/wi…

  1. 配置环境变量
D:\02-devTool\Bigdata\hadoop-2.7.3\bin
D:\02-devTool\Bigdata\hadoop-2.7.3\sbin
  1. 测试
hadoop version

三、安装Spark

  1. 下载安装包

spark.apache.org/

  1. 解压到任意位置
  2. 配置环境变量
D:\02-devTool\Bigdata\spark-3.0.0-bin-hadoop2.7/bin
  1. 测试
spark-shell --version