温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Linux Spark如何轻松安装

发布时间:2025-03-12 14:09:10 来源:亿速云 阅读:146 作者:小樊 栏目:系统运维

在Linux系统上安装Apache Spark可以按以下步骤进行:

1. 环境准备

确保你的Linux系统已经安装了以下软件:

  • Java Development Kit (JDK): 推荐使用JDK 8或JDK 11。
  • Apache Hadoop: 如果打算使用HDFS或其他Hadoop组件,需要安装Hadoop。如果只是本地测试,可以不安装。
  • Python (可选): 如果打算使用PySpark (Spark的Python API),需要安装Python。

2. 下载Spark

访问Apache Spark的官方网站下载最新版本的Spark。例如,下载Spark 3.3.2版本:

wget https://downloads.apache.org/spark/spark-3.3.2/spark-3.3.2-bin-hadoop3.tgz

3. 解压文件

下载完成后,解压文件到指定目录,例如 /opt

sudo tar -xzf spark-3.3.2-bin-hadoop3.tgz -C /opt

4. 配置环境变量

编辑 /.bashrc/.zshrc 文件,添加以下内容:

export SPARK_HOME=/opt/spark-3.3.2-bin-hadoop3
export PATH=$SPARK_HOME/bin:$PATH

然后使配置生效:

source ~/.bashrc

5. 验证安装

运行以下命令来验证Spark是否安装成功:

spark-shell

如果一切正常,你应该会看到Spark的REPL (Read-Eval-Print Loop)界面。

6. 启动Spark集群

进入Spark的 sbin 目录并启动集群:

cd /opt/spark-3.3.2-bin-hadoop3/sbin
./start-all.sh

7. 提交应用

可以使用以下命令提交一个示例应用来测试安装:

./bin/spark-submit \
  --class org.apache.spark.examples.SparkPi \
  --master yarn \
  --deploy-mode cluster \
  ./examples/jars/spark-examples_2.12-3.3.2.jar

通过以上步骤,你应该能够在Linux系统上成功安装和运行Apache Spark。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI