温馨提示×

如何安装linux hadoop

小樊
49
2026-08-13 12:31:00
栏目: 智能运维

下面给你一份在 Linux 上安装 Hadoop(单机/伪分布式)的完整入门教程,适合学习和开发使用。如果你需要完全分布式集群,我也可以再补充。


一、环境准备

1. 操作系统

  • Ubuntu / CentOS / Debian 等常见 Linux 发行版
  • 建议:Ubuntu 20.04 / 22.04

2. 安装 JDK(必须)

Hadoop 依赖 Java。

Ubuntu

sudo apt update
sudo apt install openjdk-8-jdk -y

CentOS

sudo yum install java-1.8.0-openjdk-devel -y

验证:

java -version

二、创建 Hadoop 用户(可选但推荐)

sudo adduser hadoop
sudo usermod -aG sudo hadoop
su - hadoop

三、下载并安装 Hadoop

1. 下载 Hadoop

官网:https://hadoop.apache.org/releases.html

示例(以 3.3.6 为例):

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz

2. 解压并移动

tar -zxvf hadoop-3.3.6.tar.gz
sudo mv hadoop-3.3.6 /usr/local/hadoop

四、配置环境变量

编辑 ~/.bashrc

nano ~/.bashrc

添加:

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

生效:

source ~/.bashrc

验证:

hadoop version

五、配置 Hadoop(伪分布式模式)

1. 配置 hadoop-env.sh

nano $HADOOP_HOME/etc/hadoop/hadoop-env.sh

设置:

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

2. 配置 core-site.xml

nano $HADOOP_HOME/etc/hadoop/core-site.xml

内容:

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

3. 配置 hdfs-site.xml

nano $HADOOP_HOME/etc/hadoop/hdfs-site.xml

内容:

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>

4. 配置 mapred-site.xml

nano $HADOOP_HOME/etc/hadoop/mapred-site.xml
<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>

5. 配置 yarn-site.xml

nano $HADOOP_HOME/etc/hadoop/yarn-site.xml
<configuration>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
</configuration>

六、配置 SSH 免密登录

sudo apt install ssh -y
ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys

测试:

ssh localhost

七、格式化 HDFS(仅第一次)

hdfs namenode -format

⚠️ 只能执行一次,否则数据会丢失


八、启动 Hadoop

start-dfs.sh
start-yarn.sh

查看进程:

jps

应看到:

  • NameNode
  • DataNode
  • SecondaryNameNode
  • ResourceManager
  • NodeManager

九、访问 Web 界面

  • HDFS:http://localhost:9870
  • YARN:http://localhost:8088

十、测试 Hadoop

hdfs dfs -mkdir /input
hdfs dfs -put README.txt /input
hdfs dfs -ls /input

常见问题

1. JAVA_HOME 报错

确认 hadoop-env.sh 中 JAVA_HOME 设置正确。

2. 端口被占用

检查 9000 / 9870 / 8088 是否被占用。

3. 权限问题

使用 hadoop 用户,不要全程用 root。


下一步你可以做什么?

  • 运行 WordCount 示例
  • 搭建 完全分布式集群
  • 学习 HDFS / YARN / MapReduce

如果你愿意,可以告诉我: ✅ 你的 Linux 版本
✅ 是否用于学习 / 生产
✅ 单机还是多台服务器

我可以给你定制版安装方案

0