在 Linux 上安装 Spark,版本选择主要取决于你已有的 Hadoop / Scala / Java 环境,以及使用场景。下面给你一个清晰的选择建议。
Spark 有两个常见发行包:
| 类型 | 说明 | 适用场景 |
|---|---|---|
| 带 Hadoop 依赖 | 如 spark-3.x.x-bin-hadoop3 |
连接 HDFS / YARN |
| 不带 Hadoop | 如 spark-3.x.x-bin-without-hadoop |
仅本地 / Standalone |
✅ 一般情况选带 Hadoop 的版本
| Hadoop 版本 | 推荐 Spark |
|---|---|
| Hadoop 3.x | Spark 3.3+ |
| Hadoop 2.7 / 2.8 | Spark 3.0–3.2 |
| 无 Hadoop | 任意(without-hadoop) |
| Spark 版本 | Java |
|---|---|
| Spark 3.0+ | Java 8 / 11 |
| Spark 3.4+ | 推荐 Java 11 |
| Spark 2.x | Java 8 |
⚠️ Spark 3.5 已 不支持 Java 8
| Spark | Scala |
|---|---|
| Spark 3.0–3.2 | 2.12 |
| Spark 3.3+ | 2.12 / 2.13 |
Spark 3.4.x 或 3.5.x
预编译包:spark-3.5.1-bin-hadoop3.tgz
理由:
spark-3.5.1-bin-hadoop3.tgz
只要 Linux 有 Java 8/11 即可
匹配你的 Hadoop 版本
Hadoop 3.x → spark-3.5.x-bin-hadoop3
Spark 3.5.x + Python 3.8–3.11
wget https://archive.apache.org/dist/spark/spark-3.5.1/spark-3.5.1-bin-hadoop3.tgz
tar -xzf spark-3.5.1-bin-hadoop3.tgz
cd spark-3.5.1-bin-hadoop3
./bin/spark-shell
你可以告诉我:
我可以直接给你 最合适的具体版本和命令 ✅
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。