温馨提示×

centos hdfs怎么配置

小樊
47
2026-08-20 05:18:31
栏目: 智能运维

下面给你一个在 CentOS 上配置 HDFS(Hadoop 分布式文件系统)完整、实战型步骤说明,适合单机伪分布式完全分布式两种常见场景。


一、环境准备(CentOS)

1. 系统要求

  • CentOS 7 / 8(推荐 7)
  • Java 8(Hadoop 3.x 推荐)
  • 已配置 主机名 + hosts
  • 已配置 SSH 免密登录

2. 安装 Java

yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
java -version

二、创建 Hadoop 用户(推荐)

useradd hadoop
passwd hadoop
su - hadoop

三、下载并安装 Hadoop

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -zxvf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 /usr/local/hadoop

四、配置环境变量

1. 编辑 .bashrc

vi ~/.bashrc
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
source ~/.bashrc

五、HDFS 核心配置文件(重点)

目录:

cd $HADOOP_HOME/etc/hadoop

1. hadoop-env.sh

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

2. core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

完全分布式时改为:

<value>hdfs://namenode:9000</value>

3. hdfs-site.xml

伪分布式(常用)

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>/data/hadoop/namenode</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>/data/hadoop/datanode</value>
    </property>
</configuration>

4. workers(Hadoop 3.x)

vi workers
localhost

完全分布式示例:

datanode1
datanode2

六、SSH 免密登录(必须)

ssh-keygen -t rsa
ssh-copy-id localhost
ssh localhost

七、格式化 HDFS(只做一次)

hdfs namenode -format

✅ 成功标志:

Storage directory /data/hadoop/namenode has been successfully formatted

八、启动 HDFS

start-dfs.sh

查看进程:

jps

应看到:

  • NameNode
  • DataNode
  • SecondaryNameNode

九、验证 HDFS

hdfs dfs -ls /
hdfs dfs -mkdir /test
hdfs dfs -put file.txt /test
hdfs dfs -cat /test/file.txt

Web UI:

http://IP:9870

十、常见问题(CentOS)

1. 端口被防火墙拦截

systemctl stop firewalld
systemctl disable firewalld

2. 权限错误

chown -R hadoop:hadoop /data/hadoop

3. 主机名解析问题

vi /etc/hosts
192.168.1.10 namenode
192.168.1.11 datanode1

十一、完全分布式 vs 伪分布式

项目 伪分布式 完全分布式
节点数 1 ≥2
副本数 1 ≥2
workers localhost 多台
用途 学习 生产

十二、我可以继续帮你

你可以直接告诉我:

  1. CentOS 版本
  2. Hadoop 版本
  3. ✅ 单机 / 多机
  4. ✅ 是否用于生产

我可以给你 完全贴合你环境的配置文件模板

0