温馨提示×

centos怎么搭hdfs环境

小樊
47
2026-10-03 11:20:44
栏目: 智能运维

下面给你一个在 CentOS 上搭建 HDFS(单机 / 伪分布式)环境的简明教程,适合学习和测试。如果你要的是完全分布式集群,我也可以再补一份。


一、环境准备

1. 系统要求

  • CentOS 7 / 8(推荐 7)
  • Java 8(Hadoop 3.x 支持 Java 8)
  • 一台机器(伪分布式)

2. 关闭防火墙(测试环境)

systemctl stop firewalld
systemctl disable firewalld

3. 配置主机名和 hosts

hostnamectl set-hostname hadoop01
vi /etc/hosts

添加:

127.0.0.1   hadoop01

二、安装 Java

yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel

验证:

java -version

配置环境变量:

vi /etc/profile

添加:

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
export PATH=$PATH:$JAVA_HOME/bin
source /etc/profile

三、安装 Hadoop

1. 下载 Hadoop

cd /opt
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -zxvf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 hadoop

2. 配置环境变量

vi /etc/profile
export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
source /etc/profile

四、配置 HDFS(伪分布式)

1. 配置 hadoop-env.sh

vi $HADOOP_HOME/etc/hadoop/hadoop-env.sh

添加:

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

2. 配置 core-site.xml

vi $HADOOP_HOME/etc/hadoop/core-site.xml
<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://hadoop01:9000</value>
  </property>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/opt/hadoop/tmp</value>
  </property>
</configuration>

3. 配置 hdfs-site.xml

vi $HADOOP_HOME/etc/hadoop/hdfs-site.xml
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>/opt/hadoop/dfs/name</value>
  </property>
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>/opt/hadoop/dfs/data</value>
  </property>
</configuration>

五、配置 SSH 免密登录

ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys

测试:

ssh hadoop01

六、格式化并启动 HDFS

1. 格式化 NameNode

hdfs namenode -format

2. 启动 HDFS

start-dfs.sh

3. 查看进程

jps

应看到:

  • NameNode
  • DataNode
  • SecondaryNameNode

七、访问 HDFS Web 页面

浏览器访问:

http://<服务器IP>:9870

八、基本 HDFS 命令测试

hdfs dfs -mkdir /test
hdfs dfs -put /etc/hosts /test
hdfs dfs -ls /test

九、关闭 HDFS

stop-dfs.sh

如果你需要:

  • ✅ 完全分布式(多台 CentOS)
  • ✅ Hadoop + YARN
  • ✅ CentOS 8 / Rocky / Alma
  • ✅ 生产环境优化

告诉我你的使用场景,我可以直接给你对应方案。

0 踩