在 Linux 上验证 Spark 是否安装成功,通常可以按下面几个步骤来检查。
如果你是通过 SPARK_HOME 方式安装的,先确认环境变量是否配置:
echo $SPARK_HOME
正常应看到类似:
/opt/spark
或
/usr/local/spark
再检查 PATH:
echo $PATH | grep spark
在终端直接运行:
spark-submit --version
或
spark-shell --version
✅ 成功示例输出(版本号可能不同):
Welcome to
____ __
/ __/__ ___ _____/ /__
_\ \/ _ \/ _ `/ __/ '_/
/___/ .__/\_,_/_/ /_/\_\ version 3.4.1
/_/
❌ 如果提示 command not found,说明:
PATHspark-shell
进入 Scala 交互界面后,执行:
val data = Seq(1, 2, 3, 4, 5)
val rdd = sc.parallelize(data)
rdd.sum()
✅ 能看到计算结果说明 Spark 正常工作。
退出:
:quit
$SPARK_HOME/bin/run-example SparkPi 10
或(已配置 PATH):
run-example SparkPi 10
✅ 输出中应包含:
Pi is roughly 3.14xxxx
spark-submit --master local[2] $SPARK_HOME/examples/jars/spark-examples_2.12-3.4.1.jar SparkPi
启动 Spark 应用后访问:
http://localhost:4040
| 问题 | 原因 |
|---|---|
command not found |
PATH 未配置 |
JAVA_HOME not set |
没装 JDK 或没配置 |
| 启动慢 | 默认使用集群模式 |
| 无法访问 UI | 端口被占用 |
只要满足以下任意一条,就说明 Spark 安装成功:
spark-shell 能进入spark-submit --version 有版本信息SparkPi 示例能跑出结果如果你愿意,可以告诉我:
我可以给你更针对性的验证方法。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。