温馨提示×

CentOS怎么安装HDFS

小樊
50
2026-07-09 17:46:48
栏目: 智能运维

CentOS 上安装 HDFS(Hadoop 分布式文件系统),通常有两种常见方式:

  1. 单机伪分布式(学习/测试)
  2. 完全分布式(生产环境)

下面我先给你一个 最常用、最实用的“伪分布式”安装步骤,适合初学者和开发环境。如果你需要 完全分布式集群部署,我也可以再给你详细方案。


一、环境准备(CentOS)

1. 系统要求

  • CentOS 7 / 8(推荐 7)
  • 内存 ≥ 4GB(伪分布式)
  • 已配置 静态 IP / 主机名
  • 关闭防火墙(或放行端口)
# 关闭防火墙
systemctl stop firewalld
systemctl disable firewalld

2. 安装 JDK(必须)

Hadoop 依赖 Java。

yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel

验证:

java -version

3. 创建 Hadoop 用户(推荐)

useradd hadoop
passwd hadoop
su - hadoop

二、下载并安装 Hadoop

1. 下载 Hadoop

cd ~
wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz

(版本可自行选择)

2. 解压

tar -zxvf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 hadoop

三、配置环境变量

编辑 ~/.bashrc

export HADOOP_HOME=/home/hadoop/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

生效:

source ~/.bashrc

验证:

hadoop version

四、配置 HDFS(伪分布式)

1. 配置 core-site.xml

vi $HADOOP_HOME/etc/hadoop/core-site.xml
<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

2. 配置 hdfs-site.xml

vi $HADOOP_HOME/etc/hadoop/hdfs-site.xml
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>

  <property>
    <name>dfs.namenode.name.dir</name>
    <value>/home/hadoop/hadoop/dfs/name</value>
  </property>

  <property>
    <name>dfs.datanode.data.dir</name>
    <value>/home/hadoop/hadoop/dfs/data</value>
  </property>
</configuration>

3. 配置 hadoop-env.sh

vi $HADOOP_HOME/etc/hadoop/hadoop-env.sh

确认或添加:

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

五、配置 SSH 免密登录(必须)

ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys

测试:

ssh localhost

六、格式化 HDFS(仅一次)

hdfs namenode -format

⚠️ 不要重复执行


七、启动 HDFS

start-dfs.sh

查看进程:

jps

应看到:

NameNode
DataNode
SecondaryNameNode

八、访问 HDFS Web UI

浏览器访问:

http://<你的IP>:9870

(Hadoop 3.x 默认端口)


九、测试 HDFS

hdfs dfs -mkdir /test
hdfs dfs -put /etc/hosts /test
hdfs dfs -ls /test

十、关闭 HDFS

stop-dfs.sh

常见问题

1. 端口无法访问

firewall-cmd --add-port=9870/tcp --permanent
firewall-cmd --reload

2. 权限问题

chown -R hadoop:hadoop /home/hadoop

下一步你可以做什么?

  • 安装 YARN
  • 搭建 完全分布式集群
  • 安装 Hive / HBase / Spark

如果你愿意,可以告诉我: ✅ 是 学习 还是 生产环境
✅ 计划 几台机器
✅ 是否使用 CDH / HDP / Apache Hadoop

我可以按你的实际场景给你定制方案。

0