温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Linux Spark 安装包在哪下载

发布时间:2025-06-02 23:32:37 来源:亿速云 阅读:118 作者:小樊 栏目:系统运维

Apache Spark的安装包可以在Apache Spark的官方网站下载。以下是下载链接和安装步骤:

下载链接

安装步骤

  1. 安装Java环境

    确保你的系统上已经安装了Java运行时环境(JRE)。你可以通过以下命令检查Java是否已安装:

    java -version
    

    如果没有安装Java,可以使用以下命令进行安装:

    sudo apt update
    sudo apt install openjdk-11-jre
    
  2. 下载Spark

    访问Apache Spark官网,选择适合你Hadoop版本的Spark安装包进行下载。例如,如果你使用的是Hadoop 2.6.x,可以下载 spark-2.2.0-bin-hadoop2.6.tgz

    wget https://archive.apache.org/dist/spark/spark-2.4.4/spark-2.4.4-bin-hadoop2.7.tgz
    
  3. 解压Spark

    使用以下命令解压下载的Spark安装包:

    tar -xvf spark-version-bin-hadoopversion.tgz
    

    例如:

    tar -xvf spark-2.4.0-bin-hadoop2.6.tgz -C /usr/local
    
  4. 配置环境变量

    为了让系统识别Spark,你需要将其添加到系统的环境变量中。编辑 /.bashrc 文件,添加以下内容:

    export SPARK_HOME=/path/to/your/spark
    export PATH=$SPARK_HOME/bin:$PATH
    

    然后,使环境变量生效:

    source ~/.bashrc
    
  5. 配置Spark

    进入Spark的 conf 目录,复制 spark-env.sh.template 文件并重命名为 spark-env.sh,然后编辑该文件,添加以下内容:

    export JAVA_HOME=/usr/local/java/jdk1.8.0_161
    export SCALA_HOME=/usr/local/scala
    export HADOOP_HOME=/usr/local/hadoop
    export HADOOP_CONF_DIR=/usr/local/hadoop/etc/hadoop
    export SPARK_MASTER_IP=127.0.0.1
    export SPARK_MASTER_PORT=7077
    export SPARK_WORKER_CORES=3
    export SPARK_WORKER_INSTANCES=1
    export SPARK_WORKER_MEMORY=5G
    export SPARK_WORKER_WEBUI_PORT=8081
    export SPARK_EXECUTOR_CORES=1
    export SPARK_EXECUTOR_MEMORY=1G
    export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$HADOOP_HOME/lib/native
    
  6. 配置Slaves

    复制 slaves.template 文件并重命名为 slaves,删除其中的 localhost,并添加集群中其他服务器的IP地址或主机名,每行一个。

  7. 启动Spark集群

    进入Spark的 sbin 目录,执行以下命令启动Spark集群:

    ./start-all.sh
    
  8. 验证安装

    在主节点上使用以下命令查看启动情况:

    jps
    

    你应该能看到 MasterWorker 进程。

  9. 运行示例程序

    进入Spark的 bin 目录,执行以下命令启动 spark-shell

    ./spark-shell
    

    spark-shell 中,你可以运行一些示例程序来验证安装是否成功。例如,运行 spark-submit 提交一个示例程序:

    ./spark-submit --class org.apache.spark.examples.SparkPi --master spark://127.0.0.1:7077 /path/to/spark/examples/jars/spark-examples_2.11-2.2.0.jar
    

    如果一切正常,你应该会看到类似以下的输出:

    Pi is roughly 3.14716
    

希望这些信息能帮助你成功下载并安装Apache Spark。如果在安装过程中遇到任何问题,建议查阅Spark的官方文档或社区论坛获取帮助。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI