以下是在Linux上安装Spark的步骤:
安装Java:Spark依赖Java,需先安装JDK 8/11,推荐使用OpenJDK。
sudo apt update
sudo apt install openjdk-8-jdk # 或 openjdk-11-jdk
java -version # 验证安装
下载Spark:从官网获取最新版本压缩包(如Spark 3.3.1)。
wget https://archive.apache.org/dist/spark/spark-3.3.1/spark-3.3.1-bin-hadoop3.tgz
解压并配置环境变量:
/opt):sudo tar -xzf spark-3.3.1-bin-hadoop3.tgz -C /opt
sudo mv spark-3.3.1-bin-hadoop3 /opt/spark
~/.bashrc或~/.zshrc,添加:export SPARK_HOME=/opt/spark
export PATH=$SPARK_HOME/bin:$PATH
export PYTHONPATH=$SPARK_HOME/python:$PYTHONPATH # 若需PySpark
然后执行:source ~/.bashrc
验证安装:运行Spark Shell测试。
spark-shell # Scala Shell
pyspark # Python Shell(需安装Python 3.6+)
若出现版本信息,则安装成功。
可选步骤:
spark-env.sh和slaves文件,并分发到各节点。参考来源:
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。