温馨提示×

linux hdfs怎样进行基础配置

小樊
47
2026-09-07 14:17:49
栏目: 智能运维

下面以 Linux 环境下搭建 HDFS(Hadoop 分布式文件系统)基础配置 为例,说明从安装到最小可用配置的步骤。假设你使用的是 Hadoop 3.x


一、准备工作

1. 环境要求

  • Linux(CentOS / Ubuntu 均可)
  • Java 8 或以上(推荐 JDK 8)
  • 一台或多台机器(单机也可做伪分布式)

2. 安装 JDK

java -version

若未安装:

# CentOS
yum install java-1.8.0-openjdk-devel -y

# Ubuntu
apt install openjdk-8-jdk -y

配置 JAVA_HOME

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

二、下载并安装 Hadoop

wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -zxvf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 /opt/hadoop

配置环境变量:

vi ~/.bashrc

添加:

export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

生效:

source ~/.bashrc

三、HDFS 基础配置(伪分布式)

1. 配置 hadoop-env.sh

vi $HADOOP_HOME/etc/hadoop/hadoop-env.sh

添加:

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

2. 配置 core-site.xml

vi $HADOOP_HOME/etc/hadoop/core-site.xml
<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

3. 配置 hdfs-site.xml

vi $HADOOP_HOME/etc/hadoop/hdfs-site.xml
<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>/opt/hadoop/data/namenode</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>/opt/hadoop/data/datanode</value>
    </property>
</configuration>

创建目录:

mkdir -p /opt/hadoop/data/namenode
mkdir -p /opt/hadoop/data/datanode

四、配置 SSH(必须)

HDFS 需要通过 SSH 启动进程:

ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys

测试:

ssh localhost

五、格式化并启动 HDFS

1. 格式化 NameNode

hdfs namenode -format

2. 启动 HDFS

start-dfs.sh

3. 查看进程

jps

应看到:

  • NameNode
  • DataNode
  • SecondaryNameNode

六、验证 HDFS

hdfs dfs -mkdir /test
hdfs dfs -put /etc/hosts /test
hdfs dfs -ls /test

Web 界面:

http://localhost:9870

七、关闭 HDFS

stop-dfs.sh

八、常见注意点

  • 防火墙要放行 9000、9870 端口
  • 单机用 localhost,集群要配置 workers 文件
  • 配置文件路径:$HADOOP_HOME/etc/hadoop/

如果你需要:

  • 完全分布式集群配置
  • 多节点 SSH 免密
  • HDFS + YARN 一起配置

可以继续告诉我你的使用场景。

0