spark安装配置

发布时间：2020-06-21 11:03:09 来源：网络阅读：377 作者：sherry20150511 栏目：大数据

在装spark之前先装Scala Scala 的安装在hadoop安装配置中已经介绍了

1、下载spark安装包下载地址如下

http://spark.apache.org/downloads.html

我选择的是

spark-1.4.1-bin-hadoop2.6.tgz 放在/root/software

解压

tar zxvf spark-1.4.1-bin-hadoop2.6.tgz

2、配置系统环境变量

vim /etc/profile

export SPARK_HOME=/root/sherry/spark-1.4.1

export PATH=$SPARK_HOME/bin:$PATH

source /etc/profile

3、配置spark文件

1）[root@HBMS-DKXD-DEV sherry]# cd spark-1.4.1-bin-hadoop2.6/

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# cd conf

[root@HBMS-DKXD-DEV conf]# vim spark-env.sh

添加如下内容

export SCALA_HOME=/root/sherry/scala-2.10.4

export JAVA_HOME=/usr/java/jdk1.7.0_45

export SPARK_WORKER_MEMORY=1g

export SPARK_MASTER_IP=10.118.46.22

2）配置slave

我自己没有配置

4、启动集群

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/start-all.sh

关闭

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/stop-all.sh

检查是否安装成功

jps

向AI问一下细节

猜你喜欢