spark安裝配置

發布時間：2020-06-21 11:03:09 來源：網絡閱讀：387 作者：sherry20150511 欄目：大數據

在裝spark之前先裝Scala Scala 的安裝在hadoop安裝配置中已經介紹了

1、下載spark安裝包下載地址如下

http://spark.apache.org/downloads.html

我選擇的是

spark-1.4.1-bin-hadoop2.6.tgz 放在/root/software

解壓

tar zxvf spark-1.4.1-bin-hadoop2.6.tgz

2、配置系統環境變量

vim /etc/profile

export SPARK_HOME=/root/sherry/spark-1.4.1

export PATH=$SPARK_HOME/bin:$PATH

source /etc/profile

3、配置spark文件

1）[root@HBMS-DKXD-DEV sherry]# cd spark-1.4.1-bin-hadoop2.6/

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# cd conf

[root@HBMS-DKXD-DEV conf]# vim spark-env.sh

添加如下內容

export SCALA_HOME=/root/sherry/scala-2.10.4

export JAVA_HOME=/usr/java/jdk1.7.0_45

export SPARK_WORKER_MEMORY=1g

export SPARK_MASTER_IP=10.118.46.22

2）配置slave

我自己沒有配置

4、啟動集群

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/start-all.sh

關閉

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/stop-all.sh

檢查是否安裝成功

jps

向AI問一下細節

91超碰碰碰碰久久久久久综合_超碰av人澡人澡人澡人澡人掠_国产黄大片在线观看画质优化_txt小说免费全本