温馨提示×

linux hadoop怎配置

小樊
39
2026-10-19 03:53:28
栏目: 智能运维

下面按**“Linux 下 Hadoop 基础配置(单机 / 伪分布式)”给你一个清晰、可直接照做的流程。如果你是要集群(多台机器)**,我也可以单独再讲。


一、环境准备(必做)

1. 安装 JDK

Hadoop 依赖 Java。

java -version

如果没有:

sudo apt install openjdk-8-jdk   # Ubuntu
# 或
sudo yum install java-1.8.0-openjdk-devel

配置 JAVA_HOME:

echo 'export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64' >> ~/.bashrc
source ~/.bashrc

2. 创建专用用户(推荐)

sudo useradd -m hadoop
sudo passwd hadoop
su - hadoop

3. 配置 SSH 免密登录

Hadoop 需要 SSH。

ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys

ssh localhost   # 测试

二、下载并安装 Hadoop

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -xzf hadoop-3.3.6.tar.gz
mv hadoop-3.3.6 ~/hadoop

配置环境变量:

echo 'export HADOOP_HOME=~/hadoop' >> ~/.bashrc
echo 'export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin' >> ~/.bashrc
source ~/.bashrc

三、Hadoop 核心配置文件(伪分布式)

编辑以下文件(都在 $HADOOP_HOME/etc/hadoop/)


1. hadoop-env.sh

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

2. core-site.xml

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

3. hdfs-site.xml

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>

4. mapred-site.xml

<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>

5. yarn-site.xml

<configuration>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
</configuration>

四、格式化并启动 Hadoop

hdfs namenode -format
start-dfs.sh
start-yarn.sh

检查:

jps

应看到:

  • NameNode
  • DataNode
  • ResourceManager
  • NodeManager

五、测试 Hadoop

hdfs dfs -mkdir /input
hdfs dfs -put ~/hadoop/etc/hadoop/*.xml /input
hdfs dfs -ls /input

六、Web 界面

  • HDFS: http://localhost:9870
  • YARN: http://localhost:8088

七、常见坑

⚠️ 权限问题 → 用 hadoop 用户
⚠️ Java 版本不对 → 必须是 Java 8
⚠️ SSH 没配 → 启动会卡住


如果你告诉我:

  • ✅ Ubuntu / CentOS?
  • ✅ Hadoop 版本?
  • ✅ 单机 / 伪分布式 / 集群?

我可以给你完全匹配你环境的配置。

0 踩