在 Linux 上安装 / 启动 Spark 报错很常见,但不同报错原因差别很大。你可以先按下面思路自查,也可以把具体报错信息贴出来,我帮你精准定位。
Spark 必须依赖 JDK,且版本有要求:
检查:
java -version
如果没有:
# CentOS
yum install -y java-1.8.0-openjdk
# Ubuntu
apt install -y openjdk-8-jdk
并配置:
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
报错类似:
JAVA_HOME is not set
解决:
vim ~/.bashrc
export JAVA_HOME=/your/java/path
export PATH=$JAVA_HOME/bin:$PATH
source ~/.bashrc
./spark-shell 启动失败常见原因:
解决:
chmod -R 755 spark-3.x.x-bin-hadoop3.tgz
如:
Failed to locate the winutils binary
Unable to load native-hadoop library
Linux 一般不是 winutils 问题,而是:
如果只是单机测试 Spark,可以忽略 Hadoop。
start-master.sh
报错:
检查:
netstat -tunlp | grep 7077
关闭防火墙(测试环境):
systemctl stop firewalld
报错:
Failed to connect to master
检查:
vim /etc/hosts
192.168.1.10 master
192.168.1.11 worker1
报错别只看控制台,看日志:
cd spark/logs
tail -100 spark-*.log
请把以下信息贴出来:
我可以直接告诉你是哪一步、怎么改 ✅
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。