可以的,Linux 下安装 Spark 是完全支持离线安装的。Spark 本身不依赖在线仓库(不像某些发行版软件包),只要你能把安装包传到机器上就行。
下面给你说清楚 离线怎么装、需要注意什么。
Spark 是 二进制压缩包,不需要 yum/apt 在线安装,步骤就是:
去官网或镜像站下载:
# 示例:Spark 3.5.1 + Hadoop 3
wget https://archive.apache.org/dist/spark/spspark-3.5.1/spark-3.5.1-bin-hadoop3.tgz
⚠️ 注意选
bin-hadoop*版本,自带依赖
scp spark-3.5.1-bin-hadoop3.tgz user@离线服务器:/opt/
tar -zxvf spark-3.5.1-bin-hadoop3.tgz
mv spark-3.5.1-bin-hadoop3 spark
vi ~/.bashrc
添加:
export SPARK_HOME=/opt/spark
export PATH=$SPARK_HOME/bin:$PATH
生效:
source ~/.bashrc
spark-submit --version
✅ 能输出版本号,说明离线安装成功
local)Spark 依赖 JVM:
java -version
没有就离线装 JDK(也是 tar 包)
需要离线准备:
pyspark)mvn 构建需要:
.m2)| 场景 | 是否可离线 |
|---|---|
| 单机 Spark | ✅ 完全可以 |
| Standalone 集群 | ✅ |
| YARN 集群 | ✅(Hadoop 已装) |
| Kubernetes | ✅(镜像提前导入) |
| pip install pyspark | ❌(需离线包) |
Spark 在 Linux 上天然支持离线安装,只要 Java + 安装包到位,全程不需要网络。
如果你愿意,可以告诉我:
我可以给你一份 完全离线 checklist。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。