debian怎么集群hadoop

在 Debian 上搭建 Hadoop 集群，一般步骤包括：系统准备 → 安装 JDK → 配置 SSH 免密 → 安装 Hadoop → 配置集群 → 启动与验证。下面给你一个实用版的 Debian Hadoop 集群搭建指南（以 Hadoop 3.x 为例，1 个 NameNode + 2 个 DataNode）。

一、环境准备

1. 节点规划（示例）

所有节点都使用 Debian 11/12

2. 修改主机名与 hosts

每个节点执行：

sudo hostnamectl set-hostname master   # slave1 / slave2 同理

编辑 /etc/hosts：

192.168.1.10 master
192.168.1.11 slave1
192.168.1.12 slave2

3. 安装 JDK

sudo apt update
sudo apt install -y openjdk-11-jdk

验证：

java -version

二、创建 Hadoop 用户（推荐）

sudo adduser hadoop
sudo usermod -aG sudo hadoop
su - hadoop

三、配置 SSH 免密登录（重要）

在 master 上：

ssh-keygen -t rsa
ssh-copy-id hadoop@slave1
ssh-copy-id hadoop@slave2

测试：

ssh slave1
ssh slave2

四、安装 Hadoop

在 所有节点 执行：

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -xzf hadoop-3.3.6.tar.gz
sudo mv hadoop-3.3.6 /opt/hadoop

配置环境变量（~/.bashrc）：

export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64

source ~/.bashrc

五、Hadoop 集群配置（master 上改，再分发）

1. core-site.xml

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://master:9000</value>
  </property>
</configuration>

2. hdfs-site.xml

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>2</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>file:/opt/hadoop/data/namenode</value>
  </property>
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>file:/opt/hadoop/data/datanode</value>
  </property>
</configuration>

3. mapred-site.xml

<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>

4. yarn-site.xml

<configuration>
  <property>
    <name>yarn.resourcemanager.hostname</name>
    <value>master</value>
  </property>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
</configuration>

5. workers

slave1
slave2

6. 分发配置

scp -r /opt/hadoop/etc/hadoop slave1:/opt/hadoop/etc/
scp -r /opt/hadoop/etc/hadoop slave2:/opt/hadoop/etc/

六、启动 Hadoop 集群

1. 格式化 NameNode（仅第一次）

hdfs namenode -format

2. 启动 HDFS

start-dfs.sh

3. 启动 YARN

start-yarn.sh

七、验证集群

查看进程

jps

• master：NameNode, ResourceManager
• slave：DataNode, NodeManager

Web 页面

• HDFS: http://master:9870
• YARN: http://master:8088

测试 HDFS

hdfs dfs -mkdir /test
hdfs dfs -put ~/.bashrc /test
hdfs dfs -ls /test

八、常见问题

1. Debian 上 Permission denied

sudo chown -R hadoop:hadoop /opt/hadoop

2. SSH 不通

• 确认 PasswordAuthentication yes
• 检查防火墙：

sudo ufw disable

3. Java 路径错误

确保：

echo $JAVA_HOME

如果你愿意，我可以：

• 给你 一键部署脚本
• 帮你配 HA（高可用）
• 或用 Docker / Kubernetes 跑 Hadoop

你现在是学习用还是生产环境？